Сегодня на Банковском форуме РБК обсуждали будущее банков и финтеха, и мне очень понравился вопрос, по одной ли дорожке банки идут. Вот я очень надеюсь, что нет, и дорожки разные.

В конце одной дорожки человек превращается в шахту по добыче данных. Но некоторые выбирают другой путь (а он более сложный и менее понятный), и это отрадно.

Один банк даже напрягся и подумал, что я говорю про него. А я ведь никого не называл. Может про него, а может не про него, но если шапка горит, то нет дыма без огня, и сколько волка ни корми, кобыле может и легче, но кому-то неизбежно достанутся не вершки, а корешки.

Вся панель тут: https://vk.com/video-25232578_456319896

Спасибо принявшим участие экспертам за просто огненную дискуссию, а РБК и прекраснейшей Элине Тихоновой в роли модератора — за приглашение и возможность говорить прямо.

@yusufovruslan

Завтра на ВДНХ в павильоне №19 «Атом» с 11:30 до 16:30 состоится тематический образовательный день «Захват будущего: сила научной фантастики».

Регистрация тут: https://russia.znanierussia.ru/slot/zahvat-budushego-sila-nauchnoj-fantastiki-79986/

Ваш покорный слуга будет спикером в секции «Будущее глазами фантастов» где-то в промежутке с 13:15 по 14:30.

В качестве примеров я приведу 5 (из 420+ находящихся у нас в работе) сценариев будущего и познакомлю с нашей рамкой сценарного планирования. Краткое содержание моего краткого выступления:
— Машина из человечества
— Массовая технофобия
— Техношаманизм
— Смысловая раздробленность
— Новый мировой порядок

До скорой встречи!

@yusufovruslan

Уважаемые Яндекс.Такси и Федеральная антимонопольная служба, вопрос от Руслана из Москвы: могу ли я использовать другие способы определения стоимости вызова такси, кроме генератора псевдослучайных чисел?

@yusufovruslan

После продолжительных выходных предлагаю зарядку для мозга: на примере расскажу, как прогнозы про деньги прогнозировать.

С марта по май 2024 года произошли кибератаки на крупнейшие в США медицинские фирмы: Change Healthcare (ключевой игрок, без которого платежи по страховке не получить) и Ascension (140 больниц). Атаки привели к серьезным проблемам с доставкой лекарств и оплатой услуг. Change Healthcare — так вообще заплатила выкуп в $22 млн, но ее потом снова взломали уже другие хакеры.

Сейчас приведу пример, как доставать интересные выводы из открытых данных. Такое надо регулярно делать 1) крупным компаниям про индустрию 2) инвесторам и инноваторам 3) политикам. Полный отчет не влезет в пост, так что по верхам.

Анализ 180 комментариев, касающихся атаки на Ascension в газете Washington Post, позволяет сделать выводы об отсутствии доверия к отрасли здравоохранения, критике приоритетов отрасли и отдельных корпораций, разочаровании переходом на цифровые записи, отсутствии ответственности для организаций, а также о призыве к усилению мер кибербезопасности.

Ярко выделяются 5 тем:

1. Отсутствие прозрачности и коммуникации. Из корпоративного офиса Ascension поступает примерно ноль информации относительно кибератаки и ее влияния на уход за пациентами.

2. Критика менеджмента и приоритетов. Неоднократно выражалось мнение, что прибыль ценится выше ухода за пациентами. В качестве примеров приводились увлечение инвестициями (в 2021 году эта КАТОЛИЧЕСКАЯ сеть больниц инвестировала больше $1 млрд в ценные бумаги), высокие зарплаты руководителей и недостаточное инвестирование в ИТ (сокращение бюджетов на безопасность на 20-30%, массовые увольнения, аутсорсинг поддержки в Индию).

3. Обеспокоенность по поводу ухода за пациентами и их безопасности. Приводились примеры задержки оказания медицинской помощи, включая экстренные ситуации, описывался личный опыт невозможности доступа к данным пациентов, задвоения записей.

4. Инсайдеры утверждают, что ИТ-инфраструктура неадекватна и уязвима для атак. Обсуждалась необходимость внедрения резервного копирования, многофакторной аутентификации, и даже zero-trust подходов.

5. Вопросы отрасли и политики здравоохранения, включая роль прямых инвестиций в здравоохранении, необходимость более строгого регулирования и надзора, а также важность приоритета ухода за пациентами над прибылью. Яркий пример: флоридская клиника Advent Health требует от пациента доступа ко всем имеющимся медицинским записям в качестве условия лечения.

А теперь предлагаю подумать над ВОЗМОЖНЫМИ ПОСЛЕДСТВИЯМИ:

1. Политики в США будут поднимать на флаг тему кибербезопасности и реформы системы здравоохранения. Самый очевидный вектор: более строгие законы и правила для защиты данных пациентов. Популизм будет поддерживаться крупными конкурентами через лоббистов.

2. Это действительно может привести к ужесточению регуляторики, а на фоне торговых войн с Китаем первыми пострадают организации с иностранных участием. В худшем случае может начаться передел отрасли под прикрытием охоты на ведьм.

3. Дискуссия о роли электронных записей (необходимое зло или корень всего зла) может привести к новому витку технофобии. Возможно появление «нецифровых» клиник, а стоимость продвижения ИИ в здравоохранении может вырасти.

4. Открывается давно назревающий рынок для пиарщиков, которые умеют делать коммуникацию для непрофильных организаций на темы ИТ- и кибербезопасности (через год-два — и в России).

5. Отдельный крайне интересный сюжет: аутсорсинг «плохим» иностранным компаниям вместо «хороших» американских. При должном раскачивании эта тема залетает всей республиканской братии и позволяет закручивать гайки, продвигать протекционизм и т.д.

Напоминаю, мы рассмотрели всего 2 события, касающихся хотя и крупных организаций, но в то же время 1) не российских, а американских 2) не из вашей индустрии 3) не по вашему профилю.

Мне недавно одна студентка MBA задала вопрос, мол, зачем вы нам иностранные примеры приводите, хочется прям вот с полки взять и применять. Ну так вот зачем.

@yusufovruslan

Тут «Известия» сообщают, что компания Microsoft открыла доступ к обновлениям Windows и Office без использования VPN, а также не заблокировала доступ к облачным продуктам для России, хотя в марте обещала. По мнению экспертов, Microsoft не хочет терять рынок, который активно импортозамещается.

Ваш любимый футуролог вот что думает: громко хлопнув дверью, некоторые западные компании выстрелили в ногу не только себе, но еще и нескольким соседям.

1. Про свою ногу. По историческим меркам у нас тут 90-е, знаете ли, были относительно недавно, и темы «справедливости» и даже «понятий» накрепко вписаны в обычаи делового оборота. Если ведешь себя «не по-пацански», руки потом не подадут, у нас даже каждое десятилетие на эту тему выходит специальный обучающий сериал: тогда — «Бригада», сейчас — «Слово пацана».

Ну вот не могу я представить себе безопасника, который бы без физического принуждения поставил себе в компанию железки Cisco, потому что Cisco кинула лично каждого безопасника в России. Легенда о кидке Cisco будет передаваться из поколения в поколение, и седовласый безопасник будет рассказывать внукам, как он из мха и веток обеспечивал безопасность предприятия в начале 20-х, когда отечественных решений еще не было, а Cisco — уже не было.

2. Про ногу соседа. Отсутствие продуктов в России означает меньше информации о России, а компания внезапно вспомнила, что у нее есть, скажем так, особые заказчики. Особые заказчики в лице одного ведомства запрещают работать с Россией, а в лице другого — требуют заниматься разведкой на благо демократии.

Ну вот BBC, например, закрывает доступ для россиян по IP-адресу. Зачем? Для медиа-корпорации это логично: зачем тратить ценные ресурсы на аудиторию, которую нельзя монетизировать? Для инструмента пропаганды это контрпродуктивно: BBC могла бы качать на российскую аудиторию специальные нарративы. Но ума не хватает, а может просто деятельность непрофильная. А потом через пару лет приходит джентльмен в погонах и говорит: You bloody bastards, we need more data!

@yusufovruslan

2️⃣ Часть 2/2.

РИСКИ ДЛЯ БИЗНЕСА

— Отсутствие четкой правовой и этической основы может привести к проблемам с регулированием и потенциальным юридическим проблемам в будущем (сегодня развиваемся, а завтра наш алгоритм запрещается законом).

— Угроза традиционным бизнес-моделям и устоявшимся игрокам со стороны маленьких, но бодрых стартапов, которые умеют писать промпты.

РИСКИ ДЛЯ ПОЛЬЗОВАТЕЛЕЙ И ОБЩЕСТВА

— Эмоциональное манипулирование. Кастомизированный коучинг может привести к манипулированию людьми, особенно уязвимыми или эмоционально нестабильными. В случае с внедрением совсем оторванных от реальности псевдонаук — снижение уровня критического мышления общества.

— Нездоровые отношения и социальная изоляция. Чрезмерная зависимость от ИИ-консьержей вместо личного общения может усугубить социальную изоляцию, что потенциально может привести к снижению социальных навыков и увеличению проблем с психическим здоровьем. Мы окончательно разучимся знакомиться на улице и приглашать на свидания.

— Нереалистичные ожидания. Поиск партнеров с помощью ИИ может создать нереалистичные ожидания от отношений, что приведет к разочарованиям, если взаимодействие в реальной жизни не соответствует идеализированным стандартам, установленным ИИ-консьержами. Потому что за меня отвечает идеальный чат-бот, а в жизни я —— все тот же неидеальный человек.

— Эксплуатация данных платформами. Сбор и анализ пользовательских данных с помощью ИИ-консьержей может использоваться для продажи пользовательских данных сторонним рекламодателям. Может и будет.

— Коммодитизация отношений. Вариантов будет миллион, но все — стандартизированное. В перспективе это может повлиять на социальные практики, включая управление сообществами и субкультурами, корректировку норм поведения, управление ожиданиями. Похожие процессы мы сегодня наблюдаем с «ИИ-искусством»: новых стилей нет, есть только подражание существующим. Мария в комментариях совершенно справедливо поднимала вопрос про «усредненный» юмор — усредненным будет все, мы попадем в петлю обратной связи и общечеловеческую эхо-камеру, в которой нестандартное будет вымываться из социальных практик, но это гораздо более широкая тема AI alignment..

ВОЗМОЖНОСТИ ДЛЯ КИБЕРПРЕСТУПНИКОВ

— Преступники могут использовать ИИ-консьержей для получения доступа к конфиденциальной информации о пользователях (местоположение, интересы, ожидания, социальные связи и пр.). Кража пользовательских данных может использоваться для выявления уязвимых лиц. Преступники могут использовать ИИ-консьержей для сбора информации о потенциальных жертвах, создавая целенаправленные и убедительные атаки социальной инженерии, включая шантаж и вымогательство.

— Кража личности и кэтфишинг. ИИ-консьержи могут использоваться для создания убедительных фальшивых профилей, что облегчит преступникам кражу личных данных и манипулирование жертвами.

Есть такой особый жанр социальных атак как «romance scam» — когда «девочка» знакомиться с мальчиком, но для встречи надо оплатить билеты в кино по поддельной ссылке; или когда известный человек знакомится с романтически настроенной дамой, но его преследуют враги, и нужно до вечера перевести $50 тысяч, иначе... Вот это все будет происходить автоматизировано, с использованием дипфейков, атаками на ИИ-модели и пр. В некоторых случаях человек вообще не узнает, что стал жертвой: он будет знакомиться, общаться, встречаться и расставаться с виртуальным другом/подругой, с которыми познакомился благодаря ИИ-консьержу — весь цикл отношений сместится в сторону виртуализации, а за аватаром может вообще и не быть человека.

@yusufovruslan

Ну вот и прошла презентация OpenAI, и во всех профильных чатах пошла жара на тему новой модели GPT-4o, ее невероятных возможностей, мгновенной смерти всех стартапов и появления миллионов новых бизнес-моделей, прихода киберпанка в нашу жизнь, и….

ВНЕЗАПНО 😳 исследователи впервые в мире выявили десятки случаев заражения людей КРЫСИНЫМ ГЕПАТИТОМ, передает El Pais 🫣

ВОЗ еще пытается хайповать за внимание, но проигрывает горячей теме искусственного интеллекта, потому что даже с КРЫСИНЫМ ГЕПАТИТОМ новая модель побеждает по всех бенчмарках, особенно в части способности к сложным рассуждениям, и у нее контекстное окно в 128К… 😂

@yusufovruslan

В то время как американские компании шокируют мир своими вау-моделями искусственного интеллекта, крупнейший российский телеком-оператор (у которого «ИИ» тоже торчит из каждой коммуникации) предложил мне следующие опции защиты от спам-смс:

1. Отключить смс вообще.

— Доктор, у меня болит рука.
— Предлагаю вам ее отключить, это бесплатно!

2. Включить «черный список» за 1,5 руб/день, куда мне предлагается самостоятельно заносить номера для блокировки.

— Доктор, у меня болит рука.
— Предлагаю вам ее полечить самому, проходите в кассу.

Все, опций больше нет!

Это не запуск космического корабля на Марс. Не сообщения в мессенджерах. Не голосовые сообщения или звонки. Не анализ дипфейк-видео. Не поведенческий анализ продвинутых атак социальной инженерии. Не защита моего нейроимпланта от внедрения спамеров в мои сны! Это СМС!

Если операторы не могут решить проблему, которая существует последние 20 лет в периметре своего же сотового трафика, о каких инновациях и технологическом лидерстве мы можем говорить? Филькина срамота грамота!

@yusufovruslan

Мне тут основательница стартапа сказала, что увидела в своем продукте, как сильно человек подсаживается на искусственный интеллект, когда сама пошла решать свои личные вопросы через этот самый продукт. И добавила: «все, как ты пророчишь».

Ну лестно, конечно, но вот хочется верить, что у человека и человечества (пока еще) есть свобода воли, и я ничего не пророчу. Во всех своих активностях — от корпоративных мероприятий до коротких публикаций (и особенно концентрированно в моей многострадальной неизданной книге 😉 передаю традиционный привет дражайшему издателю) я описываю лишь вероятности.

А цель моя — исключительно в развитии критического мышления, навыка задавания вопросов и взрослении — каждого из моих собеседников, читателей, слушателей, критиков, да и меня самого. И каждый мой прогноз или сценарий — это всего лишь инструментарий для мыслительных упражнений.

Каждый из нас — не просто кузнец своего счастья, мы все — одна большая кузница. Вы же помните, что сталкер сказал про счастье в конце «Пикника на обочине»?

Кстати, в названии нашей компании (MINDSMITH) вторая часть — как раз про эту самую кузницу. Что именно сбудется — сбудется не через через пророчество, а через наши с вами ежедневные решения. И если у меня получается провоцировать вас на 5 минут размышлений — это делает меня счастливее, а нам всем — дает больше желанных вероятностей.

@yusufovruslan

Есть у меня одно наблюдение, но вот систематизировать не получается, поясните, если вдруг знаете суть феномена. Известных людей (кумиров, злодеев, ролевые модели) называют по-разному в публичном пространстве (от СМИ до блогов и чатов): кого по имени, кого по имени и фамилии, кого только по фамилии, а у кого-то даже есть клички.

Певцов, актеров, спортсменов часто называют полным именем: Джастин Бибер, Бритни Спирс, Иван Ургант. В светской тусовке могут сказать «Ваня Ургант», чтобы остальным присутствующим плебеям сразу было понятно, что вот у человека явно есть личный контакт. Очень редко могут сказать просто «Ваня», но это только если богема узким кругом собралась, где все в состоянии с первого тычка понять, что это The Ваня, тот самый. Исключения — творческий псевдоним или кличка (Мадонна, Оззи, Железный Арни).

Пример: «Я раньше много слушал Бритни Спирс, а потом мне стал больше нравиться Нил Янг». Вот никто же не скажет «я слушал Спирс, но потом стал Янга», как и «я слушал Бритни, а потом стал Нила».

Политиков же наоборот обычно называют по фамилиям: Путин, Байден, Трамп, Макрон. За исключением азиатских — тех полным именем, чтобы всем точно было понятно, ну и Джастина Трюдо с Урсулой фон дер Ляйен еще часто полностью.

Ну и политики тоже друг к другу иногда отсылают по имени, когда в третьем лице. Трамп может где-то с трибуны выдать, мол, я позвонил по телефону и сказал: «Влад, ты — tremendous, очень мощный, но let’s do this and that to make America great again». Но это тоже такая хитрость, чтобы избиратели понимали, что они там с Vlad прям вот буквально на «ты».

Пример: «Байден подписал указ об очередном повышении тарифов на импорт из Китая, а потом упал с лестницы».

А вот с технопредпринимателями особенно интересно.

«Хороших» и «пока еще не плохих» поголовно называют только по имени. Виталик. Ну всем же понятно, что это Бутерин. Допустим, это похоже на псевдоним, в мире один Виталик, а остальные обычно Виталии. Но и Суцкевера постоянно называют просто «Илья», а Альтмана — просто «Сэм» (см. приложенную картинку). Возняка (это такой кумир прошлого века) часто называли «Стив» или даже кличкой — «Воз».

Как ни почитаешь чатик криптанов или специалистов по ИИ, такое ощущение, что почти все с Сэмом если ну прям не каждый день ходят обедать, то учились точно вместе, или может просто иногда созваниваются поболтать. И очень сопереживают тому, что сегодня Сэм или Илон с утра затвитили. Парасоциальные отношения?

Пример: «Илья решил покинуть OpenAI, и Сэм сказал, что ему очень жалко». Или еще: «Видели новую статью Виталика по теме децентрализации?».

«Плохих» — обязательно по фамилии или полным именем. Марк Цукерберг (или кличкой типа «цукер» или что похуже), Безос, да даже Билл Гейтс. Сюда же всякие Рокфеллеры, Ротшильды, Сорос, Уоррен Баффет и прочие оторванные от жизни простого люда в интернетах капиталисты.

Пример: «Цукерберг опять клялся, что не будет использовать данные пользователей, но в этот раз ему никто не поверил».

Товарищи социологи-антропологи и поведенческие аналитики, что думаете? Если вдруг знаете исследования на эту тему, порекомендуйте почитать.

@yusufovruslan

Вот пример: Илья покидает OpenAI. И черно-белая фотография Ильи Сэма в свитере.

Все верно, смотрите, пожалуйста, «Правила жизни» на канале Культура сегодня в 20:05!

Вновь вернемся к теме карго-культов. Мы с недоумением и порой с умилением смотрим на туземцев-самолетопоклонников, а вдруг мы и сами уже живем в карго-культе, просто изнутри не понимаем этого?

@yusufovruslan

Я уже писал о том, что законы в других странах будут писать американцы через своих чат-ботов, которые обучались на «правильной» выборке данных. А теперь предлагаю копнуть в тему экспорта свободы слова.

В апреле 2024 года Агентство США по международному развитию (USAID) при помощи Internews и FHI 360 выпустило результаты исследования «Использование искусственного интеллекта журналистами в Замбии».

Для начала давайте разберемся с терминами:

1. Журналисты — это такие люди, которые занимаются сбором, созданием, редактированием, подготовкой и оформлением информации для редакции СМИ. Другими словами, эти люди информацию анализируют, а потом выпускают материал, предназначенный для интеллектуального потребления широкой общественностью.

2. Люди — существа, у которых орган мозг потребляет больше всего калорий в организме. Если есть возможность что-то не делать, но при этом получать зарплату, они склонны поступать именно так. Например, если бы появились какие-то волшебные системы, которые позволяют заниматься сбором, созданием, редактированием, подготовкой и оформлением информации для СМИ вместо людей-журналистов, они бы ими пользовались.

3. Искусственный интеллект (в текущем контексте) — системы для сбора, создания, редактирования, подготовки и оформления информации… И по данным исследования USAID уже 60% журналистов в Замбии пользуются искусственным интеллектом именно для таких целей. Причем 18% используют ЧАТБОТОВ ТИПА CHATGPT ДЛЯ СОЗДАНИЯ СВОИХ МАТЕРИАЛОВ.

4. ChatGPT — разработка американской компании OpenAI, обученная на текстах (преимущественно) американских газет, но точно не замбийских газет (в прикрепленном к сообщению посте я писал о выборке, на которых обучалась GPT-3, там The New York Times, Los Angeles Times, The Guardian, Forbes, HuffPost, The Washington Post, The Motley Fool, Business Insider, Chicago Tribune и т.п.)

5. USAID — федеральный орган США в области оказания помощи за рубежом, на свою деятельность получает около 1% бюджета, неоднократно замечен в подрывных секретных операциях (например, против правительства Кубы).

6. Internews — американская НКО, поддерживающая свободные медиа по всему миру. Сьюзан Райс, бывший Советник президента США по вопросам национальной безопасности (у Обамы) до этого назначения была членом совета директоров Internews.

7. FHI 360 — американская НКО (с выручкой $790+ млн), действующая в 70+ странах и занимающаяся вопросами планирования семьи и репродуктивным здоровьем. Среди ключевых доноров — Фонд Билла и Мелинды Гейтс.

8. Замбия — суверенное государство в Южной Африке. По данным американского НКО Freedom House (с ежегодной выручкой в $90+ млн, 20 лет назад ее возглавлял бывший директор ЦРУ Джеймсом Вулси), которое измеряет степень свободы в мире, в Замбии свобода есть, но ее мало. Например, по вопросу «Есть ли свободная и независимая пресса?» рейтинг 1/4 — самый низкий. Свободной и независимой прессы в Замбии нет. А еще в Замбии серьезно ограничены ЛГБТ*-права, и только 2% замбийцев считают гомосексуализм морально приемлемым. Короче, там совсем все не так, и местные газеты пишут совсем не то.

Резюме: по заказу федерального органа США (получающего 1% бюджета США и замеченного в подрывных секретных операциях) американская НКО (бывший член совета директоров которой стал советником президента США по вопросам национальной безопасности) в сотрудничестве с другой американской НКО (с основным фокусом на планирование семьи) изучает вопросы применения журналистами искусственного интеллекта (который может писать материалы вместо людей-журналистов с учетом западных ценностей) в суверенной африканской стране, в которой по версии американского НКО (которое когда-то возглавлялось бывшим директором ЦРУ) крайне низкий уровень независимости прессы, а также наблюдается явное несоответствие западным ценностям в отношении других свобод.

Вывод: искусственный интеллект стал геополитическим инструментом «мягкой силы».

@yusufovruslan

* запрещена в РФ

Тут разговор про искусственный интеллект, техношаманов, кастовый раскол на техноэлиту и плебеев-операторов коробки желаний, а также волшебную серую жижу.

@yusufovruslan