Предлагаю вам вот такое интеллектуальное упражнение на выходные.

Сегодняшние технологические визионеры говорят нам, что с приходом искусственного интеллекта все будет «намного лучше» — но тоже самое говорили визионеры, стоящие у истоков социальных сетей. Вот только объединили ли нас социальные сети, или разъединили и фрагментировали?

Процитирую высказывания нескольких лидеров:

— «У ИИ есть потенциал сделать жизнь намного-намного лучше», — сооснователь фонда Andreessen Horowitz.

— «Не хочу звучать как утопический технарь, но увеличение уровня жизни, которое может привнести ИИ — экстраординарно», — Сэм Альтман, CEO OpenAI.

— «ИИ — самая всеобъемлющая технология, над которой работает человечество, более всеобъемлющая, чем огонь или электричество», — Сундар Пичаи, CEO Google.

— «У ИИ есть потенциал в помощи ученым в лечении и предотвращении всех болезней уже в этом веке», — Марк Цукерберг, CEO Meta (запрещена в России).

Даже если поверить на слово людям, у которых есть явный коммерческий интерес в продвижении технологий, а также людям, которые уже злоупотребляли нашим доверием, продавая данные пользователей для политических кампаний (да, Марк Цукерберг?), или обманом собирающих данные пользователей в режиме «инкогнито», хотя обещали никаких данных не собирать (да, Сундар Пичаи?), и не сомневаться в потенциале искусственного интеллекта в решении глобальных проблем человечества, почему предлагаемые решения не решают эти проблемы, а порождают новые?

— «Произойдет повсеместное замещение на рынке труда», — Сатья Наделла, CEO Microsoft.

— «Вы можете сделать ту же самую работу силами меньшего количества людей, это просто природа продуктивности», — Арвинд Кришна, CEO IBM.

— «Это по сути — инструменты, замещающие человека», — Мустафа Сулейман, CEO Microsoft AI.

Почему разработки техногигантов направлены на замену человека (порождая новые социальные кризисы), если можно выбрать своим фокусом что-то уже явно насущное — например, образование, бедность или климат?

Почему происходит разработка, скажем, «систем синтеза речи», о которых никто не просил, но подрывной потенциал которых настолько огромен, что всем придется приспосабливаться?

А что, если замена человека — это и есть цель внедрения ИИ, а вовсе не косвенный ущерб?

Действительно, а почему бы не претендовать на самый большой глобальный рынок — рынок заработных плат всех людей?

@yusufovruslan

Примечательно, что искусственный интеллект начинает подтачивать уже сформировавшиеся виртуальные форматы взаимодействия, так что если вы все еще твердо стоите на позиции «человеку нужна физическая коммуникация с другим человеком», то вы вот-вот устареете во второй раз. Поясню на примере. Я буду подробен, но при этом сдержан, потому что этот чат читает моя мама. Мамочка, я тебе рад, но не заставляю 🥴

Итак. OnlyFans — сервис, позволяющий создателям контента зарабатывать на пользователях, которые подписываются на их контент. Несмотря на то, что среди создателей контента есть и психологи, и фитнес-тренеры, и музыканты, в первую очередь, эта платформа ассоциируется, конечно же, с индустрией развлечений для взрослых. К маю 2023 года в OnlyFans было зарегистрировано 3 млн создателей контента и более 220 млн пользователей.

Для многих создателей контента создание постоянной виртуальной связи с пользователями позволяет продавать «эксклюзивный» контент, составляющий до 50% их выручки. Такая работа зачастую аутсорсится «чаттерам» — низкооплачиваемым сотрудникам из развивающихся стран, например, из Филиппин, Нигерии, Индии и Пакистана, работающим по 12 часов в течение шестидневной смены за $3 в час. И нет, я не буду сейчас петь песню про неоколониализм.

А спою я про то, что теперь в чат буквально заходят ИИ-разработчики: «Мы увидели возможность: что, если бы у нас была организация, которая точно знала бы, как продавать, как именно общаться с кем-то, и могла бы идеально имитировать создателя контента», — делится своими блестящими бизнес-идеями основатель ChatPersona, чат-бота для OnlyFans с искусственным интеллектом. ChatPersona и другой аналогичный продукт — FlirtFlow — испытывают огромный спрос, а некоторые агентства покупают «вип-тариф», позволяющий вести 10 тыс чатов одновременно. 🙈

Что мы имеем в сухом остатке? Пользователь, желающий за деньги виртуально общаться через экран c вебкам-моделью, вместо общения с анонимным «чаттером» из Нигерии теперь получит ИИ-агента, способного мимикрировать под стиль создателя контента.

🤯

@yusufovruslan

Сегодня на Банковском форуме РБК обсуждали будущее банков и финтеха, и мне очень понравился вопрос, по одной ли дорожке банки идут. Вот я очень надеюсь, что нет, и дорожки разные.

В конце одной дорожки человек превращается в шахту по добыче данных. Но некоторые выбирают другой путь (а он более сложный и менее понятный), и это отрадно.

Один банк даже напрягся и подумал, что я говорю про него. А я ведь никого не называл. Может про него, а может не про него, но если шапка горит, то нет дыма без огня, и сколько волка ни корми, кобыле может и легче, но кому-то неизбежно достанутся не вершки, а корешки.

Вся панель тут: https://vk.com/video-25232578_456319896

Спасибо принявшим участие экспертам за просто огненную дискуссию, а РБК и прекраснейшей Элине Тихоновой в роли модератора — за приглашение и возможность говорить прямо.

@yusufovruslan

Завтра на ВДНХ в павильоне №19 «Атом» с 11:30 до 16:30 состоится тематический образовательный день «Захват будущего: сила научной фантастики».

Регистрация тут: https://russia.znanierussia.ru/slot/zahvat-budushego-sila-nauchnoj-fantastiki-79986/

Ваш покорный слуга будет спикером в секции «Будущее глазами фантастов» где-то в промежутке с 13:15 по 14:30.

В качестве примеров я приведу 5 (из 420+ находящихся у нас в работе) сценариев будущего и познакомлю с нашей рамкой сценарного планирования. Краткое содержание моего краткого выступления:
— Машина из человечества
— Массовая технофобия
— Техношаманизм
— Смысловая раздробленность
— Новый мировой порядок

До скорой встречи!

@yusufovruslan

Уважаемые Яндекс.Такси и Федеральная антимонопольная служба, вопрос от Руслана из Москвы: могу ли я использовать другие способы определения стоимости вызова такси, кроме генератора псевдослучайных чисел?

@yusufovruslan

После продолжительных выходных предлагаю зарядку для мозга: на примере расскажу, как прогнозы про деньги прогнозировать.

С марта по май 2024 года произошли кибератаки на крупнейшие в США медицинские фирмы: Change Healthcare (ключевой игрок, без которого платежи по страховке не получить) и Ascension (140 больниц). Атаки привели к серьезным проблемам с доставкой лекарств и оплатой услуг. Change Healthcare — так вообще заплатила выкуп в $22 млн, но ее потом снова взломали уже другие хакеры.

Сейчас приведу пример, как доставать интересные выводы из открытых данных. Такое надо регулярно делать 1) крупным компаниям про индустрию 2) инвесторам и инноваторам 3) политикам. Полный отчет не влезет в пост, так что по верхам.

Анализ 180 комментариев, касающихся атаки на Ascension в газете Washington Post, позволяет сделать выводы об отсутствии доверия к отрасли здравоохранения, критике приоритетов отрасли и отдельных корпораций, разочаровании переходом на цифровые записи, отсутствии ответственности для организаций, а также о призыве к усилению мер кибербезопасности.

Ярко выделяются 5 тем:

1. Отсутствие прозрачности и коммуникации. Из корпоративного офиса Ascension поступает примерно ноль информации относительно кибератаки и ее влияния на уход за пациентами.

2. Критика менеджмента и приоритетов. Неоднократно выражалось мнение, что прибыль ценится выше ухода за пациентами. В качестве примеров приводились увлечение инвестициями (в 2021 году эта КАТОЛИЧЕСКАЯ сеть больниц инвестировала больше $1 млрд в ценные бумаги), высокие зарплаты руководителей и недостаточное инвестирование в ИТ (сокращение бюджетов на безопасность на 20-30%, массовые увольнения, аутсорсинг поддержки в Индию).

3. Обеспокоенность по поводу ухода за пациентами и их безопасности. Приводились примеры задержки оказания медицинской помощи, включая экстренные ситуации, описывался личный опыт невозможности доступа к данным пациентов, задвоения записей.

4. Инсайдеры утверждают, что ИТ-инфраструктура неадекватна и уязвима для атак. Обсуждалась необходимость внедрения резервного копирования, многофакторной аутентификации, и даже zero-trust подходов.

5. Вопросы отрасли и политики здравоохранения, включая роль прямых инвестиций в здравоохранении, необходимость более строгого регулирования и надзора, а также важность приоритета ухода за пациентами над прибылью. Яркий пример: флоридская клиника Advent Health требует от пациента доступа ко всем имеющимся медицинским записям в качестве условия лечения.

А теперь предлагаю подумать над ВОЗМОЖНЫМИ ПОСЛЕДСТВИЯМИ:

1. Политики в США будут поднимать на флаг тему кибербезопасности и реформы системы здравоохранения. Самый очевидный вектор: более строгие законы и правила для защиты данных пациентов. Популизм будет поддерживаться крупными конкурентами через лоббистов.

2. Это действительно может привести к ужесточению регуляторики, а на фоне торговых войн с Китаем первыми пострадают организации с иностранных участием. В худшем случае может начаться передел отрасли под прикрытием охоты на ведьм.

3. Дискуссия о роли электронных записей (необходимое зло или корень всего зла) может привести к новому витку технофобии. Возможно появление «нецифровых» клиник, а стоимость продвижения ИИ в здравоохранении может вырасти.

4. Открывается давно назревающий рынок для пиарщиков, которые умеют делать коммуникацию для непрофильных организаций на темы ИТ- и кибербезопасности (через год-два — и в России).

5. Отдельный крайне интересный сюжет: аутсорсинг «плохим» иностранным компаниям вместо «хороших» американских. При должном раскачивании эта тема залетает всей республиканской братии и позволяет закручивать гайки, продвигать протекционизм и т.д.

Напоминаю, мы рассмотрели всего 2 события, касающихся хотя и крупных организаций, но в то же время 1) не российских, а американских 2) не из вашей индустрии 3) не по вашему профилю.

Мне недавно одна студентка MBA задала вопрос, мол, зачем вы нам иностранные примеры приводите, хочется прям вот с полки взять и применять. Ну так вот зачем.

@yusufovruslan

Тут «Известия» сообщают, что компания Microsoft открыла доступ к обновлениям Windows и Office без использования VPN, а также не заблокировала доступ к облачным продуктам для России, хотя в марте обещала. По мнению экспертов, Microsoft не хочет терять рынок, который активно импортозамещается.

Ваш любимый футуролог вот что думает: громко хлопнув дверью, некоторые западные компании выстрелили в ногу не только себе, но еще и нескольким соседям.

1. Про свою ногу. По историческим меркам у нас тут 90-е, знаете ли, были относительно недавно, и темы «справедливости» и даже «понятий» накрепко вписаны в обычаи делового оборота. Если ведешь себя «не по-пацански», руки потом не подадут, у нас даже каждое десятилетие на эту тему выходит специальный обучающий сериал: тогда — «Бригада», сейчас — «Слово пацана».

Ну вот не могу я представить себе безопасника, который бы без физического принуждения поставил себе в компанию железки Cisco, потому что Cisco кинула лично каждого безопасника в России. Легенда о кидке Cisco будет передаваться из поколения в поколение, и седовласый безопасник будет рассказывать внукам, как он из мха и веток обеспечивал безопасность предприятия в начале 20-х, когда отечественных решений еще не было, а Cisco — уже не было.

2. Про ногу соседа. Отсутствие продуктов в России означает меньше информации о России, а компания внезапно вспомнила, что у нее есть, скажем так, особые заказчики. Особые заказчики в лице одного ведомства запрещают работать с Россией, а в лице другого — требуют заниматься разведкой на благо демократии.

Ну вот BBC, например, закрывает доступ для россиян по IP-адресу. Зачем? Для медиа-корпорации это логично: зачем тратить ценные ресурсы на аудиторию, которую нельзя монетизировать? Для инструмента пропаганды это контрпродуктивно: BBC могла бы качать на российскую аудиторию специальные нарративы. Но ума не хватает, а может просто деятельность непрофильная. А потом через пару лет приходит джентльмен в погонах и говорит: You bloody bastards, we need more data!

@yusufovruslan

2️⃣ Часть 2/2.

РИСКИ ДЛЯ БИЗНЕСА

— Отсутствие четкой правовой и этической основы может привести к проблемам с регулированием и потенциальным юридическим проблемам в будущем (сегодня развиваемся, а завтра наш алгоритм запрещается законом).

— Угроза традиционным бизнес-моделям и устоявшимся игрокам со стороны маленьких, но бодрых стартапов, которые умеют писать промпты.

РИСКИ ДЛЯ ПОЛЬЗОВАТЕЛЕЙ И ОБЩЕСТВА

— Эмоциональное манипулирование. Кастомизированный коучинг может привести к манипулированию людьми, особенно уязвимыми или эмоционально нестабильными. В случае с внедрением совсем оторванных от реальности псевдонаук — снижение уровня критического мышления общества.

— Нездоровые отношения и социальная изоляция. Чрезмерная зависимость от ИИ-консьержей вместо личного общения может усугубить социальную изоляцию, что потенциально может привести к снижению социальных навыков и увеличению проблем с психическим здоровьем. Мы окончательно разучимся знакомиться на улице и приглашать на свидания.

— Нереалистичные ожидания. Поиск партнеров с помощью ИИ может создать нереалистичные ожидания от отношений, что приведет к разочарованиям, если взаимодействие в реальной жизни не соответствует идеализированным стандартам, установленным ИИ-консьержами. Потому что за меня отвечает идеальный чат-бот, а в жизни я —— все тот же неидеальный человек.

— Эксплуатация данных платформами. Сбор и анализ пользовательских данных с помощью ИИ-консьержей может использоваться для продажи пользовательских данных сторонним рекламодателям. Может и будет.

— Коммодитизация отношений. Вариантов будет миллион, но все — стандартизированное. В перспективе это может повлиять на социальные практики, включая управление сообществами и субкультурами, корректировку норм поведения, управление ожиданиями. Похожие процессы мы сегодня наблюдаем с «ИИ-искусством»: новых стилей нет, есть только подражание существующим. Мария в комментариях совершенно справедливо поднимала вопрос про «усредненный» юмор — усредненным будет все, мы попадем в петлю обратной связи и общечеловеческую эхо-камеру, в которой нестандартное будет вымываться из социальных практик, но это гораздо более широкая тема AI alignment..

ВОЗМОЖНОСТИ ДЛЯ КИБЕРПРЕСТУПНИКОВ

— Преступники могут использовать ИИ-консьержей для получения доступа к конфиденциальной информации о пользователях (местоположение, интересы, ожидания, социальные связи и пр.). Кража пользовательских данных может использоваться для выявления уязвимых лиц. Преступники могут использовать ИИ-консьержей для сбора информации о потенциальных жертвах, создавая целенаправленные и убедительные атаки социальной инженерии, включая шантаж и вымогательство.

— Кража личности и кэтфишинг. ИИ-консьержи могут использоваться для создания убедительных фальшивых профилей, что облегчит преступникам кражу личных данных и манипулирование жертвами.

Есть такой особый жанр социальных атак как «romance scam» — когда «девочка» знакомиться с мальчиком, но для встречи надо оплатить билеты в кино по поддельной ссылке; или когда известный человек знакомится с романтически настроенной дамой, но его преследуют враги, и нужно до вечера перевести $50 тысяч, иначе... Вот это все будет происходить автоматизировано, с использованием дипфейков, атаками на ИИ-модели и пр. В некоторых случаях человек вообще не узнает, что стал жертвой: он будет знакомиться, общаться, встречаться и расставаться с виртуальным другом/подругой, с которыми познакомился благодаря ИИ-консьержу — весь цикл отношений сместится в сторону виртуализации, а за аватаром может вообще и не быть человека.

@yusufovruslan

Ну вот и прошла презентация OpenAI, и во всех профильных чатах пошла жара на тему новой модели GPT-4o, ее невероятных возможностей, мгновенной смерти всех стартапов и появления миллионов новых бизнес-моделей, прихода киберпанка в нашу жизнь, и….

ВНЕЗАПНО 😳 исследователи впервые в мире выявили десятки случаев заражения людей КРЫСИНЫМ ГЕПАТИТОМ, передает El Pais 🫣

ВОЗ еще пытается хайповать за внимание, но проигрывает горячей теме искусственного интеллекта, потому что даже с КРЫСИНЫМ ГЕПАТИТОМ новая модель побеждает по всех бенчмарках, особенно в части способности к сложным рассуждениям, и у нее контекстное окно в 128К… 😂

@yusufovruslan

В то время как американские компании шокируют мир своими вау-моделями искусственного интеллекта, крупнейший российский телеком-оператор (у которого «ИИ» тоже торчит из каждой коммуникации) предложил мне следующие опции защиты от спам-смс:

1. Отключить смс вообще.

— Доктор, у меня болит рука.
— Предлагаю вам ее отключить, это бесплатно!

2. Включить «черный список» за 1,5 руб/день, куда мне предлагается самостоятельно заносить номера для блокировки.

— Доктор, у меня болит рука.
— Предлагаю вам ее полечить самому, проходите в кассу.

Все, опций больше нет!

Это не запуск космического корабля на Марс. Не сообщения в мессенджерах. Не голосовые сообщения или звонки. Не анализ дипфейк-видео. Не поведенческий анализ продвинутых атак социальной инженерии. Не защита моего нейроимпланта от внедрения спамеров в мои сны! Это СМС!

Если операторы не могут решить проблему, которая существует последние 20 лет в периметре своего же сотового трафика, о каких инновациях и технологическом лидерстве мы можем говорить? Филькина срамота грамота!

@yusufovruslan

Мне тут основательница стартапа сказала, что увидела в своем продукте, как сильно человек подсаживается на искусственный интеллект, когда сама пошла решать свои личные вопросы через этот самый продукт. И добавила: «все, как ты пророчишь».

Ну лестно, конечно, но вот хочется верить, что у человека и человечества (пока еще) есть свобода воли, и я ничего не пророчу. Во всех своих активностях — от корпоративных мероприятий до коротких публикаций (и особенно концентрированно в моей многострадальной неизданной книге 😉 передаю традиционный привет дражайшему издателю) я описываю лишь вероятности.

А цель моя — исключительно в развитии критического мышления, навыка задавания вопросов и взрослении — каждого из моих собеседников, читателей, слушателей, критиков, да и меня самого. И каждый мой прогноз или сценарий — это всего лишь инструментарий для мыслительных упражнений.

Каждый из нас — не просто кузнец своего счастья, мы все — одна большая кузница. Вы же помните, что сталкер сказал про счастье в конце «Пикника на обочине»?

Кстати, в названии нашей компании (MINDSMITH) вторая часть — как раз про эту самую кузницу. Что именно сбудется — сбудется не через через пророчество, а через наши с вами ежедневные решения. И если у меня получается провоцировать вас на 5 минут размышлений — это делает меня счастливее, а нам всем — дает больше желанных вероятностей.

@yusufovruslan