Примечательно, что искусственный интеллект начинает подтачивать уже сформировавшиеся виртуальные форматы взаимодействия, так что если вы все еще твердо стоите на позиции «человеку нужна физическая коммуникация с другим человеком», то вы вот-вот устареете во второй раз. Поясню на примере. Я буду подробен, но при этом сдержан, потому что этот чат читает моя мама. Мамочка, я тебе рад, но не заставляю 🥴

Итак. OnlyFans — сервис, позволяющий создателям контента зарабатывать на пользователях, которые подписываются на их контент. Несмотря на то, что среди создателей контента есть и психологи, и фитнес-тренеры, и музыканты, в первую очередь, эта платформа ассоциируется, конечно же, с индустрией развлечений для взрослых. К маю 2023 года в OnlyFans было зарегистрировано 3 млн создателей контента и более 220 млн пользователей.

Для многих создателей контента создание постоянной виртуальной связи с пользователями позволяет продавать «эксклюзивный» контент, составляющий до 50% их выручки. Такая работа зачастую аутсорсится «чаттерам» — низкооплачиваемым сотрудникам из развивающихся стран, например, из Филиппин, Нигерии, Индии и Пакистана, работающим по 12 часов в течение шестидневной смены за $3 в час. И нет, я не буду сейчас петь песню про неоколониализм.

А спою я про то, что теперь в чат буквально заходят ИИ-разработчики: «Мы увидели возможность: что, если бы у нас была организация, которая точно знала бы, как продавать, как именно общаться с кем-то, и могла бы идеально имитировать создателя контента», — делится своими блестящими бизнес-идеями основатель ChatPersona, чат-бота для OnlyFans с искусственным интеллектом. ChatPersona и другой аналогичный продукт — FlirtFlow — испытывают огромный спрос, а некоторые агентства покупают «вип-тариф», позволяющий вести 10 тыс чатов одновременно. 🙈

Что мы имеем в сухом остатке? Пользователь, желающий за деньги виртуально общаться через экран c вебкам-моделью, вместо общения с анонимным «чаттером» из Нигерии теперь получит ИИ-агента, способного мимикрировать под стиль создателя контента.

🤯

@yusufovruslan

Сегодня на Банковском форуме РБК обсуждали будущее банков и финтеха, и мне очень понравился вопрос, по одной ли дорожке банки идут. Вот я очень надеюсь, что нет, и дорожки разные.

В конце одной дорожки человек превращается в шахту по добыче данных. Но некоторые выбирают другой путь (а он более сложный и менее понятный), и это отрадно.

Один банк даже напрягся и подумал, что я говорю про него. А я ведь никого не называл. Может про него, а может не про него, но если шапка горит, то нет дыма без огня, и сколько волка ни корми, кобыле может и легче, но кому-то неизбежно достанутся не вершки, а корешки.

Вся панель тут: https://vk.com/video-25232578_456319896

Спасибо принявшим участие экспертам за просто огненную дискуссию, а РБК и прекраснейшей Элине Тихоновой в роли модератора — за приглашение и возможность говорить прямо.

@yusufovruslan

Завтра на ВДНХ в павильоне №19 «Атом» с 11:30 до 16:30 состоится тематический образовательный день «Захват будущего: сила научной фантастики».

Регистрация тут: https://russia.znanierussia.ru/slot/zahvat-budushego-sila-nauchnoj-fantastiki-79986/

Ваш покорный слуга будет спикером в секции «Будущее глазами фантастов» где-то в промежутке с 13:15 по 14:30.

В качестве примеров я приведу 5 (из 420+ находящихся у нас в работе) сценариев будущего и познакомлю с нашей рамкой сценарного планирования. Краткое содержание моего краткого выступления:
— Машина из человечества
— Массовая технофобия
— Техношаманизм
— Смысловая раздробленность
— Новый мировой порядок

До скорой встречи!

@yusufovruslan

Уважаемые Яндекс.Такси и Федеральная антимонопольная служба, вопрос от Руслана из Москвы: могу ли я использовать другие способы определения стоимости вызова такси, кроме генератора псевдослучайных чисел?

@yusufovruslan

После продолжительных выходных предлагаю зарядку для мозга: на примере расскажу, как прогнозы про деньги прогнозировать.

С марта по май 2024 года произошли кибератаки на крупнейшие в США медицинские фирмы: Change Healthcare (ключевой игрок, без которого платежи по страховке не получить) и Ascension (140 больниц). Атаки привели к серьезным проблемам с доставкой лекарств и оплатой услуг. Change Healthcare — так вообще заплатила выкуп в $22 млн, но ее потом снова взломали уже другие хакеры.

Сейчас приведу пример, как доставать интересные выводы из открытых данных. Такое надо регулярно делать 1) крупным компаниям про индустрию 2) инвесторам и инноваторам 3) политикам. Полный отчет не влезет в пост, так что по верхам.

Анализ 180 комментариев, касающихся атаки на Ascension в газете Washington Post, позволяет сделать выводы об отсутствии доверия к отрасли здравоохранения, критике приоритетов отрасли и отдельных корпораций, разочаровании переходом на цифровые записи, отсутствии ответственности для организаций, а также о призыве к усилению мер кибербезопасности.

Ярко выделяются 5 тем:

1. Отсутствие прозрачности и коммуникации. Из корпоративного офиса Ascension поступает примерно ноль информации относительно кибератаки и ее влияния на уход за пациентами.

2. Критика менеджмента и приоритетов. Неоднократно выражалось мнение, что прибыль ценится выше ухода за пациентами. В качестве примеров приводились увлечение инвестициями (в 2021 году эта КАТОЛИЧЕСКАЯ сеть больниц инвестировала больше $1 млрд в ценные бумаги), высокие зарплаты руководителей и недостаточное инвестирование в ИТ (сокращение бюджетов на безопасность на 20-30%, массовые увольнения, аутсорсинг поддержки в Индию).

3. Обеспокоенность по поводу ухода за пациентами и их безопасности. Приводились примеры задержки оказания медицинской помощи, включая экстренные ситуации, описывался личный опыт невозможности доступа к данным пациентов, задвоения записей.

4. Инсайдеры утверждают, что ИТ-инфраструктура неадекватна и уязвима для атак. Обсуждалась необходимость внедрения резервного копирования, многофакторной аутентификации, и даже zero-trust подходов.

5. Вопросы отрасли и политики здравоохранения, включая роль прямых инвестиций в здравоохранении, необходимость более строгого регулирования и надзора, а также важность приоритета ухода за пациентами над прибылью. Яркий пример: флоридская клиника Advent Health требует от пациента доступа ко всем имеющимся медицинским записям в качестве условия лечения.

А теперь предлагаю подумать над ВОЗМОЖНЫМИ ПОСЛЕДСТВИЯМИ:

1. Политики в США будут поднимать на флаг тему кибербезопасности и реформы системы здравоохранения. Самый очевидный вектор: более строгие законы и правила для защиты данных пациентов. Популизм будет поддерживаться крупными конкурентами через лоббистов.

2. Это действительно может привести к ужесточению регуляторики, а на фоне торговых войн с Китаем первыми пострадают организации с иностранных участием. В худшем случае может начаться передел отрасли под прикрытием охоты на ведьм.

3. Дискуссия о роли электронных записей (необходимое зло или корень всего зла) может привести к новому витку технофобии. Возможно появление «нецифровых» клиник, а стоимость продвижения ИИ в здравоохранении может вырасти.

4. Открывается давно назревающий рынок для пиарщиков, которые умеют делать коммуникацию для непрофильных организаций на темы ИТ- и кибербезопасности (через год-два — и в России).

5. Отдельный крайне интересный сюжет: аутсорсинг «плохим» иностранным компаниям вместо «хороших» американских. При должном раскачивании эта тема залетает всей республиканской братии и позволяет закручивать гайки, продвигать протекционизм и т.д.

Напоминаю, мы рассмотрели всего 2 события, касающихся хотя и крупных организаций, но в то же время 1) не российских, а американских 2) не из вашей индустрии 3) не по вашему профилю.

Мне недавно одна студентка MBA задала вопрос, мол, зачем вы нам иностранные примеры приводите, хочется прям вот с полки взять и применять. Ну так вот зачем.

@yusufovruslan

Тут «Известия» сообщают, что компания Microsoft открыла доступ к обновлениям Windows и Office без использования VPN, а также не заблокировала доступ к облачным продуктам для России, хотя в марте обещала. По мнению экспертов, Microsoft не хочет терять рынок, который активно импортозамещается.

Ваш любимый футуролог вот что думает: громко хлопнув дверью, некоторые западные компании выстрелили в ногу не только себе, но еще и нескольким соседям.

1. Про свою ногу. По историческим меркам у нас тут 90-е, знаете ли, были относительно недавно, и темы «справедливости» и даже «понятий» накрепко вписаны в обычаи делового оборота. Если ведешь себя «не по-пацански», руки потом не подадут, у нас даже каждое десятилетие на эту тему выходит специальный обучающий сериал: тогда — «Бригада», сейчас — «Слово пацана».

Ну вот не могу я представить себе безопасника, который бы без физического принуждения поставил себе в компанию железки Cisco, потому что Cisco кинула лично каждого безопасника в России. Легенда о кидке Cisco будет передаваться из поколения в поколение, и седовласый безопасник будет рассказывать внукам, как он из мха и веток обеспечивал безопасность предприятия в начале 20-х, когда отечественных решений еще не было, а Cisco — уже не было.

2. Про ногу соседа. Отсутствие продуктов в России означает меньше информации о России, а компания внезапно вспомнила, что у нее есть, скажем так, особые заказчики. Особые заказчики в лице одного ведомства запрещают работать с Россией, а в лице другого — требуют заниматься разведкой на благо демократии.

Ну вот BBC, например, закрывает доступ для россиян по IP-адресу. Зачем? Для медиа-корпорации это логично: зачем тратить ценные ресурсы на аудиторию, которую нельзя монетизировать? Для инструмента пропаганды это контрпродуктивно: BBC могла бы качать на российскую аудиторию специальные нарративы. Но ума не хватает, а может просто деятельность непрофильная. А потом через пару лет приходит джентльмен в погонах и говорит: You bloody bastards, we need more data!

@yusufovruslan

2️⃣ Часть 2/2.

РИСКИ ДЛЯ БИЗНЕСА

— Отсутствие четкой правовой и этической основы может привести к проблемам с регулированием и потенциальным юридическим проблемам в будущем (сегодня развиваемся, а завтра наш алгоритм запрещается законом).

— Угроза традиционным бизнес-моделям и устоявшимся игрокам со стороны маленьких, но бодрых стартапов, которые умеют писать промпты.

РИСКИ ДЛЯ ПОЛЬЗОВАТЕЛЕЙ И ОБЩЕСТВА

— Эмоциональное манипулирование. Кастомизированный коучинг может привести к манипулированию людьми, особенно уязвимыми или эмоционально нестабильными. В случае с внедрением совсем оторванных от реальности псевдонаук — снижение уровня критического мышления общества.

— Нездоровые отношения и социальная изоляция. Чрезмерная зависимость от ИИ-консьержей вместо личного общения может усугубить социальную изоляцию, что потенциально может привести к снижению социальных навыков и увеличению проблем с психическим здоровьем. Мы окончательно разучимся знакомиться на улице и приглашать на свидания.

— Нереалистичные ожидания. Поиск партнеров с помощью ИИ может создать нереалистичные ожидания от отношений, что приведет к разочарованиям, если взаимодействие в реальной жизни не соответствует идеализированным стандартам, установленным ИИ-консьержами. Потому что за меня отвечает идеальный чат-бот, а в жизни я —— все тот же неидеальный человек.

— Эксплуатация данных платформами. Сбор и анализ пользовательских данных с помощью ИИ-консьержей может использоваться для продажи пользовательских данных сторонним рекламодателям. Может и будет.

— Коммодитизация отношений. Вариантов будет миллион, но все — стандартизированное. В перспективе это может повлиять на социальные практики, включая управление сообществами и субкультурами, корректировку норм поведения, управление ожиданиями. Похожие процессы мы сегодня наблюдаем с «ИИ-искусством»: новых стилей нет, есть только подражание существующим. Мария в комментариях совершенно справедливо поднимала вопрос про «усредненный» юмор — усредненным будет все, мы попадем в петлю обратной связи и общечеловеческую эхо-камеру, в которой нестандартное будет вымываться из социальных практик, но это гораздо более широкая тема AI alignment..

ВОЗМОЖНОСТИ ДЛЯ КИБЕРПРЕСТУПНИКОВ

— Преступники могут использовать ИИ-консьержей для получения доступа к конфиденциальной информации о пользователях (местоположение, интересы, ожидания, социальные связи и пр.). Кража пользовательских данных может использоваться для выявления уязвимых лиц. Преступники могут использовать ИИ-консьержей для сбора информации о потенциальных жертвах, создавая целенаправленные и убедительные атаки социальной инженерии, включая шантаж и вымогательство.

— Кража личности и кэтфишинг. ИИ-консьержи могут использоваться для создания убедительных фальшивых профилей, что облегчит преступникам кражу личных данных и манипулирование жертвами.

Есть такой особый жанр социальных атак как «romance scam» — когда «девочка» знакомиться с мальчиком, но для встречи надо оплатить билеты в кино по поддельной ссылке; или когда известный человек знакомится с романтически настроенной дамой, но его преследуют враги, и нужно до вечера перевести $50 тысяч, иначе... Вот это все будет происходить автоматизировано, с использованием дипфейков, атаками на ИИ-модели и пр. В некоторых случаях человек вообще не узнает, что стал жертвой: он будет знакомиться, общаться, встречаться и расставаться с виртуальным другом/подругой, с которыми познакомился благодаря ИИ-консьержу — весь цикл отношений сместится в сторону виртуализации, а за аватаром может вообще и не быть человека.

@yusufovruslan

Ну вот и прошла презентация OpenAI, и во всех профильных чатах пошла жара на тему новой модели GPT-4o, ее невероятных возможностей, мгновенной смерти всех стартапов и появления миллионов новых бизнес-моделей, прихода киберпанка в нашу жизнь, и….

ВНЕЗАПНО 😳 исследователи впервые в мире выявили десятки случаев заражения людей КРЫСИНЫМ ГЕПАТИТОМ, передает El Pais 🫣

ВОЗ еще пытается хайповать за внимание, но проигрывает горячей теме искусственного интеллекта, потому что даже с КРЫСИНЫМ ГЕПАТИТОМ новая модель побеждает по всех бенчмарках, особенно в части способности к сложным рассуждениям, и у нее контекстное окно в 128К… 😂

@yusufovruslan

В то время как американские компании шокируют мир своими вау-моделями искусственного интеллекта, крупнейший российский телеком-оператор (у которого «ИИ» тоже торчит из каждой коммуникации) предложил мне следующие опции защиты от спам-смс:

1. Отключить смс вообще.

— Доктор, у меня болит рука.
— Предлагаю вам ее отключить, это бесплатно!

2. Включить «черный список» за 1,5 руб/день, куда мне предлагается самостоятельно заносить номера для блокировки.

— Доктор, у меня болит рука.
— Предлагаю вам ее полечить самому, проходите в кассу.

Все, опций больше нет!

Это не запуск космического корабля на Марс. Не сообщения в мессенджерах. Не голосовые сообщения или звонки. Не анализ дипфейк-видео. Не поведенческий анализ продвинутых атак социальной инженерии. Не защита моего нейроимпланта от внедрения спамеров в мои сны! Это СМС!

Если операторы не могут решить проблему, которая существует последние 20 лет в периметре своего же сотового трафика, о каких инновациях и технологическом лидерстве мы можем говорить? Филькина срамота грамота!

@yusufovruslan

Мне тут основательница стартапа сказала, что увидела в своем продукте, как сильно человек подсаживается на искусственный интеллект, когда сама пошла решать свои личные вопросы через этот самый продукт. И добавила: «все, как ты пророчишь».

Ну лестно, конечно, но вот хочется верить, что у человека и человечества (пока еще) есть свобода воли, и я ничего не пророчу. Во всех своих активностях — от корпоративных мероприятий до коротких публикаций (и особенно концентрированно в моей многострадальной неизданной книге 😉 передаю традиционный привет дражайшему издателю) я описываю лишь вероятности.

А цель моя — исключительно в развитии критического мышления, навыка задавания вопросов и взрослении — каждого из моих собеседников, читателей, слушателей, критиков, да и меня самого. И каждый мой прогноз или сценарий — это всего лишь инструментарий для мыслительных упражнений.

Каждый из нас — не просто кузнец своего счастья, мы все — одна большая кузница. Вы же помните, что сталкер сказал про счастье в конце «Пикника на обочине»?

Кстати, в названии нашей компании (MINDSMITH) вторая часть — как раз про эту самую кузницу. Что именно сбудется — сбудется не через через пророчество, а через наши с вами ежедневные решения. И если у меня получается провоцировать вас на 5 минут размышлений — это делает меня счастливее, а нам всем — дает больше желанных вероятностей.

@yusufovruslan

Есть у меня одно наблюдение, но вот систематизировать не получается, поясните, если вдруг знаете суть феномена. Известных людей (кумиров, злодеев, ролевые модели) называют по-разному в публичном пространстве (от СМИ до блогов и чатов): кого по имени, кого по имени и фамилии, кого только по фамилии, а у кого-то даже есть клички.

Певцов, актеров, спортсменов часто называют полным именем: Джастин Бибер, Бритни Спирс, Иван Ургант. В светской тусовке могут сказать «Ваня Ургант», чтобы остальным присутствующим плебеям сразу было понятно, что вот у человека явно есть личный контакт. Очень редко могут сказать просто «Ваня», но это только если богема узким кругом собралась, где все в состоянии с первого тычка понять, что это The Ваня, тот самый. Исключения — творческий псевдоним или кличка (Мадонна, Оззи, Железный Арни).

Пример: «Я раньше много слушал Бритни Спирс, а потом мне стал больше нравиться Нил Янг». Вот никто же не скажет «я слушал Спирс, но потом стал Янга», как и «я слушал Бритни, а потом стал Нила».

Политиков же наоборот обычно называют по фамилиям: Путин, Байден, Трамп, Макрон. За исключением азиатских — тех полным именем, чтобы всем точно было понятно, ну и Джастина Трюдо с Урсулой фон дер Ляйен еще часто полностью.

Ну и политики тоже друг к другу иногда отсылают по имени, когда в третьем лице. Трамп может где-то с трибуны выдать, мол, я позвонил по телефону и сказал: «Влад, ты — tremendous, очень мощный, но let’s do this and that to make America great again». Но это тоже такая хитрость, чтобы избиратели понимали, что они там с Vlad прям вот буквально на «ты».

Пример: «Байден подписал указ об очередном повышении тарифов на импорт из Китая, а потом упал с лестницы».

А вот с технопредпринимателями особенно интересно.

«Хороших» и «пока еще не плохих» поголовно называют только по имени. Виталик. Ну всем же понятно, что это Бутерин. Допустим, это похоже на псевдоним, в мире один Виталик, а остальные обычно Виталии. Но и Суцкевера постоянно называют просто «Илья», а Альтмана — просто «Сэм» (см. приложенную картинку). Возняка (это такой кумир прошлого века) часто называли «Стив» или даже кличкой — «Воз».

Как ни почитаешь чатик криптанов или специалистов по ИИ, такое ощущение, что почти все с Сэмом если ну прям не каждый день ходят обедать, то учились точно вместе, или может просто иногда созваниваются поболтать. И очень сопереживают тому, что сегодня Сэм или Илон с утра затвитили. Парасоциальные отношения?

Пример: «Илья решил покинуть OpenAI, и Сэм сказал, что ему очень жалко». Или еще: «Видели новую статью Виталика по теме децентрализации?».

«Плохих» — обязательно по фамилии или полным именем. Марк Цукерберг (или кличкой типа «цукер» или что похуже), Безос, да даже Билл Гейтс. Сюда же всякие Рокфеллеры, Ротшильды, Сорос, Уоррен Баффет и прочие оторванные от жизни простого люда в интернетах капиталисты.

Пример: «Цукерберг опять клялся, что не будет использовать данные пользователей, но в этот раз ему никто не поверил».

Товарищи социологи-антропологи и поведенческие аналитики, что думаете? Если вдруг знаете исследования на эту тему, порекомендуйте почитать.

@yusufovruslan

Вот пример: Илья покидает OpenAI. И черно-белая фотография Ильи Сэма в свитере.

Все верно, смотрите, пожалуйста, «Правила жизни» на канале Культура сегодня в 20:05!

Вновь вернемся к теме карго-культов. Мы с недоумением и порой с умилением смотрим на туземцев-самолетопоклонников, а вдруг мы и сами уже живем в карго-культе, просто изнутри не понимаем этого?

@yusufovruslan