Вчера впервые выступил в Госдуме с короткой речью, но по важной теме: про детей и киберриски в контексте подростковой преступности.

https://fedpress.ru/news/77/society/3307951

На мой взгляд, нужны совместные усилия в следующих направлениях:

1. Исследований по теме взаимодействия детей с киберпространством недостаточно.

Да что там, некоторые феномены в русском языке не имеют соответствующих названий. Необходимо поддерживать и фундаментальные исследования, и мониторинг.

2. У детей, родителей и государства может значительно различаться понимание специфики рисков. Необходимо повышать эффективность коммуникаций.

Ну правда, мы часто живем в разных мирах, говорим на разных языках, и усилия другой стороны воспринимаются как инопланетные.

3. Необходимы практики, позволяющие родителям быстро узнавать о киберинцидентах. Такие практики есть в семье и школе, но не в киберпространстве.

Если в классе подростки подрались, классный руководитель напишет в чатик или вызовет родителей в школу. А что происходит в онлайне — родители и не знают.

4. Необходимо сокращать задержку между появлением технологии, связанных с ней рисков и адаптацией к ней общества.

Чем меньше такая задержка, тем меньше возможностей злоупотребить незнанием и непониманием.

5. Необходимо появление института омбудсмена в корпорациях, разрабатывающих ИТ- продукты для детей.

Это кто-то, кто ходит по офису и бьет программистов линейкой по рукам, когда они пишут неэтичный код.

@yusufovruslan

По данным на 2022 год, собственный профиль в социальных сетях имеет 62% детей и подростков в возрасте от 3 до 17 лет, из них 33% — в возрасте 5-7 лет. Цифровые аборигены гораздо более активны в использовании гаджетов, чем их родители, и глубина их цифрового взаимодействия выше.

Цифровой след современных детей формируется с рождения, а иногда даже до момента рождения — это относится, например, к фотографиям УЗИ при беременности и особенностям развития эмбриона. Покупка датасетов, легальная или на черном рынке, и дальнейшее их сопоставление позволит компаниям (и не только) отслеживать и анализировать весь жизненный путь потенциального «клиента».

Работодатели начнут покупать все более расширенные досье на кандидатов, которые будут анализироваться в автоматическом режиме. Проступки и неудачи фиксируются с раннего детства, видео-шалости, попавшие в социальные сети, резкие высказывания юности — все это становится основанием для принятия решений, а зачастую и препятствием для трудоустройства или получения образования. Страховые компании начнут использовать данные из детства для оценки рисков и установления «персональных» тарифов, а социальный скоринг с учетом детских данных будет использоваться при определении ставки на ипотеку, доступ к жилью или даже услугам.

Людям из неблагополучных семей будет еще сложнее получить доступ и к финансам, и к социальным лифтам — потому что они с детства связаны с «дурной компанией». Данные о развитии в раннем возрасте будут применяться повсеместно для установления социальных связей — в алгоритмах социальных сетей и знакомств, в предложении бизнес-возможностей, усугубляя сегрегацию и социальное расслоение. Неблагоприятное прошлое уже не стереть, не забыть, любой проступок оставит след на всю оставшуюся жизнь, определяя жизненные возможности и траектории и навсегда закрывая некоторые двери.

Продвинутые модели искусственного интеллекта научатся надежно предсказывать вероятность преступности и антиобщественного поведения на основе данных детского развития, а это грозит особо пристальным профилированием для людей «в зоне риска» и даже открывает возможности для превентивного наказания. Взрослые, чья жизнь записывалась с самого рождения, будут более уязвимы к атакам мошенников и социальной инженерии, а также к идеологическому воздействию. Детские травмы и уязвимости будут использоваться политическими кампаниями и рекламодателями, негативная реклама не только гиперкастомизируется, но и станет очень личной и будет бить в самое больное место. Видел смерть любимого щенка под колесами автомобиля в пятилетнем возрасте? Эта травма будет использоваться всеми, кто об этом узнает.

@yusufovruslan

Между тем в Шотландии вступил в силу закон о криминализации «разжигания ненависти» в отношении возраста, инвалидности, религии, сексуальной ориентации, трансгендерной идентичности и интерсексуальности. Преступление предусматривает максимальное наказание в виде тюремного заключение сроком до семи лет. По мнению шотландского правительства этот закон обеспечивает защиту от ненависти и предрассудков, не подавляя при этом индивидуальное самовыражение.

У вашего любимого футуролога и на этот счет есть отдельный сценарий развития ситуации на стыке индивидуализма и техноцентризма. Присаживайтесь поудобнее и читайте очередную сказку для взрослых, которая называется «Элитаризм меньшинств».

— 2026 год: Количество официально признанных гендеров в некоторых странах перевалило за первую сотню.

После обучения алгоритмов политкорректности случился качественный прорыв в соблюдении прав «меньшинств». Подбор персонала в компаниях происходил с учетом строгих квот разнообразия, а социальные сети отдавали предпочтение воук-нарративам. Когда онлайн-платформы уличались в теневой блокировке постов и аккаунтов, выражающих традиционалистские взгляды, такие эпизоды заметались под ковер как проявления теорий заговора.

Для учета перечня меньшинств, их требований, особенностей и запретных тем, в компаниях приходилось создавать специальные отделы толерантности. Работа таких отделов заключалась в изучении культур меньшинств, формировании корпоративных словарей, организации встреч взаимной интеграции, регулярной адаптации образовательных программ продвижения взаимного принятия.

— 2027 год: Массовое внедрение ИИ в управлении контентом социальных сетей приводит к непропорциональной цензуре.

Тем не менее, соискатели все чаще ощущали на себе проявление «обратной дискриминации»: работодатели регулярно отдавали предпочтение кандидатам из числа меньшинств перед более квалифицированными кандидатами большинства.

После принятия прогрессивными государствами «законов на почве ненависти» критика новых идентичностей была криминализирована — несогласие с любой самоидентификацией грозило штрафом и даже тюремным заключением, а нарушитель получал черную метку «нарушителя толерантности» и оказывался в исправительной системе, которая по сути занималась индоктринацией.

— 2030 год: Политическая система оказалась парализована бесконечными спорами об идентичности.

Технологии распознавания лиц и большие данные начали использоваться для для выявления и публичного осуждения людей за «проступки», связанные с идентичностью, совершенные ими в далеком прошлом. Культура отмены теперь полностью автоматизирована, уничтожая репутацию и карьеру миллионов людей. Люди склонны к максимальной самоцензуре из страха наказания, не осталось ни малейшей возможности высказываться в контексте «меньшинств» в публичном пространстве без риска быть «отмененным».

Насущные проблемы игнорируются, политики опираются на поддержку меньшинств с правом голоса, а не большинства с ограниченной свободой слова. Расширенная реальность позволила продвигать невообразимые ранее нарративы идентичности, маргинализируя традиционные взгляды. Искусственный интеллект стал неотъемлемой частью основных государственных и общественных институтов, и с подачи алгоритмов нормы «позитивной дискриминации» стали необратимой частью социальной инфраструктуры, только усиливая предвзятость и разобщение.

Из-за усугубляющихся с каждым годом разногласий вокруг идентичности, конструктивный диалог между людьми становится все менее возможным, а универсальные ценности уступили ценностям отдельных групп, живущих в своих идеологических пузырях. Все это привело к росту популярности реакционных движений, а общество оказалось глубоко разделено на трайбы множеством взаимно антагонистических фракций идентичности.

Оказалось, что без открытого обсуждения и уважения индивидуальных свобод увлечение политикой идентичности только усугубляет социальные разногласия и нетерпимость.

@yusufovruslan

Предлагаю вам вот такое интеллектуальное упражнение на выходные.

Сегодняшние технологические визионеры говорят нам, что с приходом искусственного интеллекта все будет «намного лучше» — но тоже самое говорили визионеры, стоящие у истоков социальных сетей. Вот только объединили ли нас социальные сети, или разъединили и фрагментировали?

Процитирую высказывания нескольких лидеров:

— «У ИИ есть потенциал сделать жизнь намного-намного лучше», — сооснователь фонда Andreessen Horowitz.

— «Не хочу звучать как утопический технарь, но увеличение уровня жизни, которое может привнести ИИ — экстраординарно», — Сэм Альтман, CEO OpenAI.

— «ИИ — самая всеобъемлющая технология, над которой работает человечество, более всеобъемлющая, чем огонь или электричество», — Сундар Пичаи, CEO Google.

— «У ИИ есть потенциал в помощи ученым в лечении и предотвращении всех болезней уже в этом веке», — Марк Цукерберг, CEO Meta (запрещена в России).

Даже если поверить на слово людям, у которых есть явный коммерческий интерес в продвижении технологий, а также людям, которые уже злоупотребляли нашим доверием, продавая данные пользователей для политических кампаний (да, Марк Цукерберг?), или обманом собирающих данные пользователей в режиме «инкогнито», хотя обещали никаких данных не собирать (да, Сундар Пичаи?), и не сомневаться в потенциале искусственного интеллекта в решении глобальных проблем человечества, почему предлагаемые решения не решают эти проблемы, а порождают новые?

— «Произойдет повсеместное замещение на рынке труда», — Сатья Наделла, CEO Microsoft.

— «Вы можете сделать ту же самую работу силами меньшего количества людей, это просто природа продуктивности», — Арвинд Кришна, CEO IBM.

— «Это по сути — инструменты, замещающие человека», — Мустафа Сулейман, CEO Microsoft AI.

Почему разработки техногигантов направлены на замену человека (порождая новые социальные кризисы), если можно выбрать своим фокусом что-то уже явно насущное — например, образование, бедность или климат?

Почему происходит разработка, скажем, «систем синтеза речи», о которых никто не просил, но подрывной потенциал которых настолько огромен, что всем придется приспосабливаться?

А что, если замена человека — это и есть цель внедрения ИИ, а вовсе не косвенный ущерб?

Действительно, а почему бы не претендовать на самый большой глобальный рынок — рынок заработных плат всех людей?

@yusufovruslan

Примечательно, что искусственный интеллект начинает подтачивать уже сформировавшиеся виртуальные форматы взаимодействия, так что если вы все еще твердо стоите на позиции «человеку нужна физическая коммуникация с другим человеком», то вы вот-вот устареете во второй раз. Поясню на примере. Я буду подробен, но при этом сдержан, потому что этот чат читает моя мама. Мамочка, я тебе рад, но не заставляю 🥴

Итак. OnlyFans — сервис, позволяющий создателям контента зарабатывать на пользователях, которые подписываются на их контент. Несмотря на то, что среди создателей контента есть и психологи, и фитнес-тренеры, и музыканты, в первую очередь, эта платформа ассоциируется, конечно же, с индустрией развлечений для взрослых. К маю 2023 года в OnlyFans было зарегистрировано 3 млн создателей контента и более 220 млн пользователей.

Для многих создателей контента создание постоянной виртуальной связи с пользователями позволяет продавать «эксклюзивный» контент, составляющий до 50% их выручки. Такая работа зачастую аутсорсится «чаттерам» — низкооплачиваемым сотрудникам из развивающихся стран, например, из Филиппин, Нигерии, Индии и Пакистана, работающим по 12 часов в течение шестидневной смены за $3 в час. И нет, я не буду сейчас петь песню про неоколониализм.

А спою я про то, что теперь в чат буквально заходят ИИ-разработчики: «Мы увидели возможность: что, если бы у нас была организация, которая точно знала бы, как продавать, как именно общаться с кем-то, и могла бы идеально имитировать создателя контента», — делится своими блестящими бизнес-идеями основатель ChatPersona, чат-бота для OnlyFans с искусственным интеллектом. ChatPersona и другой аналогичный продукт — FlirtFlow — испытывают огромный спрос, а некоторые агентства покупают «вип-тариф», позволяющий вести 10 тыс чатов одновременно. 🙈

Что мы имеем в сухом остатке? Пользователь, желающий за деньги виртуально общаться через экран c вебкам-моделью, вместо общения с анонимным «чаттером» из Нигерии теперь получит ИИ-агента, способного мимикрировать под стиль создателя контента.

🤯

@yusufovruslan

Сегодня на Банковском форуме РБК обсуждали будущее банков и финтеха, и мне очень понравился вопрос, по одной ли дорожке банки идут. Вот я очень надеюсь, что нет, и дорожки разные.

В конце одной дорожки человек превращается в шахту по добыче данных. Но некоторые выбирают другой путь (а он более сложный и менее понятный), и это отрадно.

Один банк даже напрягся и подумал, что я говорю про него. А я ведь никого не называл. Может про него, а может не про него, но если шапка горит, то нет дыма без огня, и сколько волка ни корми, кобыле может и легче, но кому-то неизбежно достанутся не вершки, а корешки.

Вся панель тут: https://vk.com/video-25232578_456319896

Спасибо принявшим участие экспертам за просто огненную дискуссию, а РБК и прекраснейшей Элине Тихоновой в роли модератора — за приглашение и возможность говорить прямо.

@yusufovruslan

Завтра на ВДНХ в павильоне №19 «Атом» с 11:30 до 16:30 состоится тематический образовательный день «Захват будущего: сила научной фантастики».

Регистрация тут: https://russia.znanierussia.ru/slot/zahvat-budushego-sila-nauchnoj-fantastiki-79986/

Ваш покорный слуга будет спикером в секции «Будущее глазами фантастов» где-то в промежутке с 13:15 по 14:30.

В качестве примеров я приведу 5 (из 420+ находящихся у нас в работе) сценариев будущего и познакомлю с нашей рамкой сценарного планирования. Краткое содержание моего краткого выступления:
— Машина из человечества
— Массовая технофобия
— Техношаманизм
— Смысловая раздробленность
— Новый мировой порядок

До скорой встречи!

@yusufovruslan

Уважаемые Яндекс.Такси и Федеральная антимонопольная служба, вопрос от Руслана из Москвы: могу ли я использовать другие способы определения стоимости вызова такси, кроме генератора псевдослучайных чисел?

@yusufovruslan

После продолжительных выходных предлагаю зарядку для мозга: на примере расскажу, как прогнозы про деньги прогнозировать.

С марта по май 2024 года произошли кибератаки на крупнейшие в США медицинские фирмы: Change Healthcare (ключевой игрок, без которого платежи по страховке не получить) и Ascension (140 больниц). Атаки привели к серьезным проблемам с доставкой лекарств и оплатой услуг. Change Healthcare — так вообще заплатила выкуп в $22 млн, но ее потом снова взломали уже другие хакеры.

Сейчас приведу пример, как доставать интересные выводы из открытых данных. Такое надо регулярно делать 1) крупным компаниям про индустрию 2) инвесторам и инноваторам 3) политикам. Полный отчет не влезет в пост, так что по верхам.

Анализ 180 комментариев, касающихся атаки на Ascension в газете Washington Post, позволяет сделать выводы об отсутствии доверия к отрасли здравоохранения, критике приоритетов отрасли и отдельных корпораций, разочаровании переходом на цифровые записи, отсутствии ответственности для организаций, а также о призыве к усилению мер кибербезопасности.

Ярко выделяются 5 тем:

1. Отсутствие прозрачности и коммуникации. Из корпоративного офиса Ascension поступает примерно ноль информации относительно кибератаки и ее влияния на уход за пациентами.

2. Критика менеджмента и приоритетов. Неоднократно выражалось мнение, что прибыль ценится выше ухода за пациентами. В качестве примеров приводились увлечение инвестициями (в 2021 году эта КАТОЛИЧЕСКАЯ сеть больниц инвестировала больше $1 млрд в ценные бумаги), высокие зарплаты руководителей и недостаточное инвестирование в ИТ (сокращение бюджетов на безопасность на 20-30%, массовые увольнения, аутсорсинг поддержки в Индию).

3. Обеспокоенность по поводу ухода за пациентами и их безопасности. Приводились примеры задержки оказания медицинской помощи, включая экстренные ситуации, описывался личный опыт невозможности доступа к данным пациентов, задвоения записей.

4. Инсайдеры утверждают, что ИТ-инфраструктура неадекватна и уязвима для атак. Обсуждалась необходимость внедрения резервного копирования, многофакторной аутентификации, и даже zero-trust подходов.

5. Вопросы отрасли и политики здравоохранения, включая роль прямых инвестиций в здравоохранении, необходимость более строгого регулирования и надзора, а также важность приоритета ухода за пациентами над прибылью. Яркий пример: флоридская клиника Advent Health требует от пациента доступа ко всем имеющимся медицинским записям в качестве условия лечения.

А теперь предлагаю подумать над ВОЗМОЖНЫМИ ПОСЛЕДСТВИЯМИ:

1. Политики в США будут поднимать на флаг тему кибербезопасности и реформы системы здравоохранения. Самый очевидный вектор: более строгие законы и правила для защиты данных пациентов. Популизм будет поддерживаться крупными конкурентами через лоббистов.

2. Это действительно может привести к ужесточению регуляторики, а на фоне торговых войн с Китаем первыми пострадают организации с иностранных участием. В худшем случае может начаться передел отрасли под прикрытием охоты на ведьм.

3. Дискуссия о роли электронных записей (необходимое зло или корень всего зла) может привести к новому витку технофобии. Возможно появление «нецифровых» клиник, а стоимость продвижения ИИ в здравоохранении может вырасти.

4. Открывается давно назревающий рынок для пиарщиков, которые умеют делать коммуникацию для непрофильных организаций на темы ИТ- и кибербезопасности (через год-два — и в России).

5. Отдельный крайне интересный сюжет: аутсорсинг «плохим» иностранным компаниям вместо «хороших» американских. При должном раскачивании эта тема залетает всей республиканской братии и позволяет закручивать гайки, продвигать протекционизм и т.д.

Напоминаю, мы рассмотрели всего 2 события, касающихся хотя и крупных организаций, но в то же время 1) не российских, а американских 2) не из вашей индустрии 3) не по вашему профилю.

Мне недавно одна студентка MBA задала вопрос, мол, зачем вы нам иностранные примеры приводите, хочется прям вот с полки взять и применять. Ну так вот зачем.

@yusufovruslan

Тут «Известия» сообщают, что компания Microsoft открыла доступ к обновлениям Windows и Office без использования VPN, а также не заблокировала доступ к облачным продуктам для России, хотя в марте обещала. По мнению экспертов, Microsoft не хочет терять рынок, который активно импортозамещается.

Ваш любимый футуролог вот что думает: громко хлопнув дверью, некоторые западные компании выстрелили в ногу не только себе, но еще и нескольким соседям.

1. Про свою ногу. По историческим меркам у нас тут 90-е, знаете ли, были относительно недавно, и темы «справедливости» и даже «понятий» накрепко вписаны в обычаи делового оборота. Если ведешь себя «не по-пацански», руки потом не подадут, у нас даже каждое десятилетие на эту тему выходит специальный обучающий сериал: тогда — «Бригада», сейчас — «Слово пацана».

Ну вот не могу я представить себе безопасника, который бы без физического принуждения поставил себе в компанию железки Cisco, потому что Cisco кинула лично каждого безопасника в России. Легенда о кидке Cisco будет передаваться из поколения в поколение, и седовласый безопасник будет рассказывать внукам, как он из мха и веток обеспечивал безопасность предприятия в начале 20-х, когда отечественных решений еще не было, а Cisco — уже не было.

2. Про ногу соседа. Отсутствие продуктов в России означает меньше информации о России, а компания внезапно вспомнила, что у нее есть, скажем так, особые заказчики. Особые заказчики в лице одного ведомства запрещают работать с Россией, а в лице другого — требуют заниматься разведкой на благо демократии.

Ну вот BBC, например, закрывает доступ для россиян по IP-адресу. Зачем? Для медиа-корпорации это логично: зачем тратить ценные ресурсы на аудиторию, которую нельзя монетизировать? Для инструмента пропаганды это контрпродуктивно: BBC могла бы качать на российскую аудиторию специальные нарративы. Но ума не хватает, а может просто деятельность непрофильная. А потом через пару лет приходит джентльмен в погонах и говорит: You bloody bastards, we need more data!

@yusufovruslan