Т-банк выложил большую языковую модель на 32 млрд параметров в открытый доступ, пишут сегодня «Ведомости». А в пресс-релизе от самого Т-Банка так вообще: «…лучшие в мире открытые большие языковые модели на русском языке». Если прочитать дальше заголовка, то видно, что модель основана на Qwen 2.5 от Alibaba Group.

Это что значит? Это плохо или хорошо? Сразу оговорюсь: Т-Банку спасибо — это полезная инициатива, таких надо больше. Но я бы хотел обсудить более широкую картину.

Решение файнтюнить Qwen (или аналог), на первый взгляд, кажется прагматичным: экономия ресурсов, ускорение разработки, возможность адаптации к локальным потребностям. Но хочу обратить внимание на то, что за этим выбором стоят гораздо более глубокие вопросы: вопросы национальной безопасности, культурной идентичности и технологической независимости.

1. Зависимость от чужих технологий

Что такое файнтюнинг? Берешь опенсорсную модель, кладешь ее в свой дорогой датацентр с дорогими видеокартами, вуаля! Теперь она говорит по-русски (или пишет код, решает математику, или отыгрывает ролевую модель аниме-девочки) лучше, чем раньше. Но из какого теста испекли этот пирожок?

Выбор базовой модели неизбежно падет либо на американские (от Meta, запрещена в России, может еще Nvidia), либо на китайские (Alibaba), либо на французские (Mistral), либо на канадские (Cohere). Для России выбор очевиден и однозначен: НЕ от недружественных стран.

Когда мы берем готовые решения, мы не просто используем инструмент — мы принимаем чужие правила игры. Модели, созданные в Китае, США или Франции, несут в себе культурные, политические и технологические предвзятости (или даже специально спроектированные «закладки»). Сложность современных моделей такова, что даже доступ к исходному коду не гарантирует понимания всех процессов. Аудит возможен, но требует колоссальных ресурсов, которых у большинства компаний просто нет.

2. Культурный код: чей голос звучит в моделях?

Модели могут фильтровать информацию, избегать обсуждения определенных тем или интерпретировать их в угоду исходным культурным установкам. Вы скажете: «Но ведь мы дообучаем эти модели на произведениях Пушкина, на наших данных». Да, это так, но основа остается чужой — как мост, построенный на чужом фундаменте. Мост может и русский, импортозамещенный, но его устойчивость зависит от того, кто заложил основу.

Например, китайские модели никогда не обсуждают события на площади Тяньаньмэнь — это заложено на этапе проектирования. Даже если мы дообучим такую модель на русских данных, некоторые факты будут оставаться «невидимы» для модели.

С чем еще сравнить? Ну вот в некоторых местах предпочитают пшеницу, а в других — кукурузу. Так вот теперь вся каша — кукурузная, а из пшеницы каши больше нет и не будет. И следующее поколение уже искренне любит кукурузу и считает ее своим национальным блюдом.

Социальные последствия? Они огромны. Если модель начинает усиливать предвзятости, уже заложенные в обществе, или формирует новые, это влияет на общественное мнение, на восприятие истории, на идентичность. И самое опасное — пользователи могут даже не осознавать, что информация, которую они получают, уже отфильтрована.

Так что это не просто технический нюанс — это вопрос формирования коллективного сознания.

3. Иллюзия независимости: «российское» или «собранное в России»?

С пресс-релизами про «лучшие российские модели» нужно быть осторожнее, чтобы не подорвать доверие к отечественным технологиям. У нас уже все было — планшеты от Роснано были, смартфоны «российские» тоже были, потому что собраны здесь, хотя все ключевые компоненты произведены за рубежом.

А теперь внимание: на HuggingFace сегодня есть 10,297 моделей, производных от китайской Qwen. Вот это и есть настоящее лидерство в ИИ — когда весь мир форкает, файнтюнит или квантизирует твои модели, в которые ты по-умолчанию зашиваешь свои интересы. Вот у маленькой африканской страны нет ресурсов и компетенций на собственные разработки, и плата за использование искусственного интеллекта — размывание собственной культурной идентичности.

А у России?

@yusufovruslan

Хмм, что-то там Минобороны США тестирует новое и прогрессивное 🤔

https://www.defense.gov/News/News-Stories/Article/Article/4000004/test/

Это явно будет самая читаемая новость у них на сайте за год

@yusufovruslan

В этом ролике я размышляю, не означает ли рекламная кампания американской компании Artisan «Перестаньте нанимать людей» нечто большее, чем просто попытка очередного стартапа хайпануть — вдруг это манифест новой реальности, в которой мы уже начинаем жить?

Так уж сложилось, что большинство читателей этого канала знают меня лично. Поэтому лично к каждому и обращаюсь: пожалуйста, уделите 10 минут и посмотрите первую серию.

Если понравится — ставьте огоньки, вместе будем заводить рутюб, вк, онлифанс, организуем стримы и регулярные встречи в онлайн-клубе футурологов, ну вот это все.

@yusufovruslan

Заехал давеча в Сбер, что на Кутузовском. Там — вязаные (!) елки, топ-менеджеры ходят в майках и олимпийках, максимальная дисциплина в воздухе, но настроение предновогоднее чувствуется!

https://news.1rj.ru/str/MaxMelnichuk/6670

Так, первые книги находят своих адресатов, а адресаты — и сами уже практически авторы книг! Вот такой замечательный круговорот!

@yusufovruslan

Ну все получилось именно так, как я и предсказал, даже страшно, как под копирку. И дикие коллеги, которые вместо работы занялись гуглением коллеги, и корпоративные преследования, и необходимость вмешательства со стороны топ-менеджмента, и разлет этого кейса по всем каналам в телеграме.

Кейс Ламода показывает так много о нас, людях, со своими страстями и тараканами, готовыми троллить и преследовать кого-то непохожего на нас, каждым новым сообщением разгоняя инфоповод, за которым стоит вполне себе живой человек. И здесь показательно абсолютно все: и реакция руководства, и попытки СМИ хайпануть на теме с публикацией скриншотов с порносайтов, и даже наше с вами желание переслать такой пост другу с припиской: «ты прикинь че творится».

А теперь представьте, что таких кейсов не один, а миллион. И что фигурант одного из них — лично вы. И даже неважно, был ли у вас аккаунт на онлифанс на самом деле.

@yusufovruslan

Котаны, а давайте подумаем, что будет, когда дети вырастут. Нет, не про их образование и самостоятельность, а про реальные или мнимые психологические травмы, в которых и так обычно виноваты родители.

Детство целого поколения уже задокументировано в мельчайших подробностях и монетизировано до последнего чиха. И когда эти дети вырастут, они могут начать задавать вопросы.

Вот представьте, 2035 год, вы — седовласый блогер со стажем. Уже взрослая дочь, чьи первые шаги собрали миллионы просмотров, а истерика в магазине игрушек стала мемом, приходит к вам с адвокатом и экспертным заключением:

«Видеоролик, на котором наш клиент описался на утреннике, имеет следующие метрики: просмотры, лайки, рекламные интеграции, узнаваемость личного бренда, капитализация аккаунта…»

Ну или без адвоката, но с поводом для серьезного семейного конфликта:

«Мама, ты показала миллионам людей, как я впервые пошел на горшок. Где моя доля от монетизации моего унижения?».

Ну или взять вот эти постановочные видео с разыгранными семейными драмами типа «папа любит старшего брата больше». Это же не только сюжеты для контента, но и материал для иска о нанесении психологической травмы.

Сколько там видео пилит средний семейный блогер — ролика 3-4 в неделю? Это больше 1500 видео за 10 лет. 🤔 Думаю, одна из профессий будущего — адвокат по правам детей-блогеров. Мы можем стать свидетелями появления нового вида компенсаций — за цифровое детское рабство.

Так что если вы — рабовладелец ведете семейный блог, может стоит начать откладывать на адвоката? Ну или хотя бы завести специальный счет для детей с процентом от дохода. Так будет и правильно, и безопасно. Все равно же иначе на токены с трампом спустите 😉

@yusufovruslan

Десять лет работы, 600 фотографий телескопа Хаббл — и готова гигантская (417 мегапикселей, 203 Мб) фотография галактики Андромеда на 200 млн звезд.

Меня всегда завораживали фотографии космоса, правда в детстве у меня был только один источник — советская «Детская энциклопедия», и том про астрономию я зачитал до дыр.

А что если где-то там (например, на вероятной экзопланете в системе PA-99-N2) тоже кто-то смотрит на карту Млечного пути и думает: а есть ли жизнь за пределами Андромеды?

В общем, рассматривайте и наслаждайтесь! Мечты о космосе — это очень полезно для организма!

@yusufovruslan

Всего пара дней президентства Трампа, а у нас уже есть один помилованный Росс Ульбрихт (отбывавший пожизненное глава маркетплейса по продаже наркотиков Silk Road), война против картелей, переименование географических объектов, план по захвату Панамского канала, Илон Маск, вскидывающий руку в нацистском римском приветствии, заглядывающий в декольте избраннице Джеффа Безоса Марк Цукерберг, а также анонсированный проект по развитию ИИ на полтриллиона (!) долларов с участием, мягко говоря, не самых этичных людей в индустрии.

На чем фокусироваться? Что из этого — важная тема, а что — отвлечение внимания для плебеев? А что если все это — многоуровневый вовлекающий развлекательный контент?

Уровень 1: видимый хаос — для массового потребителя
— Нацистские жесты
— Секс-скандалы
— Криминальные помилования

Уровень 2: кажущаяся суть — для продвинутых
— Концентрация власти
— Технологическое доминирование
— Социальный контроль и финансовые схемы

Уровень 3: реальное отвлечение — для элиты
— Метаигра власти
— Политическая конспирология
— Исчерпание ресурсов и коллапс финансовой системы

При этом самое гениальное, что каждый уровень считает, что именно он видит реальную картину, while others are distracted!

Но что если это и есть настоящая цель? Создать контент, который каждый потребляет на своем уровне понимания, считая остальных отвлеченными, в то время как... все одинаково отвлечены, находятся в своих песочницах и не поднимают головы, чтобы узнать истинную причину?

Уровень 4: истинная причина
[ЧТОБЫ УЗНАТЬ ПРАВДУ, ПОДПИСЫВАЙТЕСЬ НА МОЙ… ДАННЫЕ УДАЛЕНЫ]

@yusufovruslan

Как бы я ни настраивал ленту, как бы ни отписывался, как бы ни нажимал кнопку «не показывать», инстаграм (принадлежит экстремистской Meta) продолжает мне подсовывать аккаунты онлифанщиц.

Механика монетизации этих аккаунтов проста: половозрелый самец, измученный непосильной тяжестью бытия, с нарушенными офисной работой и ночным думскроллингом дофаминовыми механизмами, заходит смотреть материалы задорной самки и затем, в предвкушении положительного опыта, подписывается на платный аккаунт при помощи своей пластиковой карты (генерируя OF $1,3 млрд выручки за 2023 год).

Почему мне это показывают, несмотря на мои явные отказы? Так как алгоритмы социальных сетей оптимизированы не на полезность контента, а на вовлеченность пользователей (такой контент досматривают до конца), это создает порочный круг:

контент с высокой вовлеченностью получает больше показов → самая высокая вовлеченность у триггерного контента → алгоритм усиливает показы успешного контента → создается положительная обратная связь → контент с высокой вовлеченностью получает больше показов…

Максимальная вовлеченность у сексуального контента, конфликтов и драм, шокирующих материалов, моральных провокаций, контента на тему социальной тревожности и пр.

Это вытесняет образовательный и развивающий контент, снижает качество дискуссий, повышает социальную поляризацию и усиливает тревожность, и самое главное — формирует искаженную картину мира.

Порочный круг замкнулся, причем с каждым новым витком — все порочнее!

Как ваш футуролог, осмелюсь спрогнозировать дальнейшую примитивизацию контента, усиление эффекта эхо-камер, рост социальной разобщенности, еще более эффективную монетизацию базовых инстинктов, глобальный кризис внимания (в подключенных сообществах) — потому что сигналы об обратном движении крайне слабы.

Как обычно и бывает с технологиями, мы могли вылечить болезни, побороть бедность или улететь в космос и начинать проектировать сферу Дайсона (нет, я не про дорогой фен), а создали феномен самоусиливающейся деградации: система находит самые примитивные триггеры и масштабирует их.

Самое удивительное, мы осознаем это, но продолжаем в этом участвовать, и даже попытки сопротивляться (как этот пост) сами становятся частью контента и увеличивают вовлеченость.

Возможно, это уже и есть та самая технологическая сингулярность, которую мы так боялись? Когда пагубная механика понятна, но от этого понимания не становится менее эффективной.

Или это просто очередной способ отвлечь внимание от [ДАННЫЕ УДАЛЕНЫ ПО ЗАПРОСУ ████████]?"

Идея для рекурсивного стартапа: создать курс по избавлению зависимости от алгоритмов и использовать алгоритмы для его агрессивной продажи 😂

@yusufovruslan

Котаны, вот вы черепах же видели? Представьте, вы идете по пустыне и видите одну из них. Черепаха лежит на спине, ее живот обжигает солнцем, она дергает лапами, пытаясь перевернуться, но без вашей помощи не может. А вы ей не помогаете. Вопрос — почему?

Я в шутку спросил двоих коллег, но их ответы заставили меня задуматься не только о мертвом интернете, населенном ботами.

Две реакции, холодные и невозмутимые: «это не моя черепаха» и «естественный отбор еще никто не отменял». И знаете, что самое странное? Они оба не выразили ни капли эмпатии. Ни намека на сочувствие. Просто сухие, рациональные ответы.

Если подумать хорошенько, тревожные звоночки были. Например, они никогда не промахиваются мимо мусорной корзины. Всегда идеально ровно паркуются. Никогда не опаздывают. Дальше — больше! Ни разу не видел, чтобы кто-то из них чихнул или зевнул, они никогда не моргают одновременно с собеседником, не потеют даже в жару, безошибочно помнят мельчайшие детали любого разговора месячной давности.

P.S.: Только что оба разом повернулись в мою сторону. И улыбаются. Одинаково.

P.P.S.: Забавно, что этот пост я печатаю уже 3 минуты 47 секунд. Я точно знаю, хотя на часы не смотрел.

@yusufovruslan

Воскресенье — отличный день, чтобы анализировать прошедшую неделю и планировать следующую!

📌 Текущие события

За последние недели произошла серия примечательных событий:

• Публичные выступления Илона Маска с неоднозначной символикой
• Речь Маска на съезде правой партии в Германии о национальной идентичности
• Заявления Трампа о территориальных претензиях (Панамский канал, Гренландия)
• Анонс проекта Stargate с бюджетом $500 млрд в сфере ИИ
• Обсуждение конституционных изменений (третий срок Трампа)
• Масштабные миграционные инициативы

📖 Исторический контекст

Тут не надо быть большим знатоком истории, чтобы увидеть параллели — подобная риторика и символика наблюдалась в Германии начала 1930-х годов, когда политические деятели также активно продвигали идеи национальной исключительности и критики культурного разнообразия.

📊 Мониторинг тенденций

[✓] Усиление контроля над медиапространством (покупка Twitter)
[✓] Появление «карманных» СМИ (X/Twitter как личная платформа)
[✓] Дискредитация независимых журналистов
[✓] Поляризация общества на «своих» и «чужих» через соцсети
[✓] Поиск внутренних «врагов»
[✓] Создание образа внешней угрозы
[⚠️] Экономический популизм и поиск «виновных» (начальная стадия, зато сразу на инаугурации)
[⚠️] Обещания быстрого экономического роста (в процессе, фактически политическая платформа)
[⚠️] Протекционистская политика (заявления о намерениях)
[⚠️] Ослабление демократических институтов (попытки)
[✓] Критика судебной системы («коррумпированные судьи», «политически мотивированное преследование»)
[⚠️] Попытки изменения избирательного законодательства (обсуждения)
[✓] Давление на оппозицию
[⚠️] Милитаризация публичного дискурса (нарастает)
[⚠️] Героизация силового решения конфликтов (риторика)
[⚠️] Культ «сильной руки» (формируется)
[⚠️] Милитаризация технологий (проект Stargate)

⚠️ Критические сигналы (пока не наступили)

• Попытки отмены/переноса выборов
• Физическое устранение политических оппонентов
• Введение чрезвычайного положения
• Полное подчинение судебной системы
• Создание частных военизированных формирований

🔬 Проект Stargate в особом фокусе

• Беспрецедентный бюджет в $500 млрд
• Концентрация лучших специалистов
• Потенциально прорывная технология (AGI)
• Гонка за превосходством
• Возможное военное применение
• Слияние государства и корпораций

💭 Вопросы для размышления

Важно формировать собственное мнение, опираясь на факты и исторический опыт.
• Какие тенденции кажутся вам наиболее тревожными?
• Замечаете ли вы ускорение этих процессов?
• Какие противовесы существуют в современном обществе?

Делитесь своими наблюдениями в комментариях. Или не делитесь, а молча наблюдайте, главное — делайте собственные выводы!

P.S.: Не принимайте этот пост как готовый вывод — это приглашение к размышлению и диалогу.

P.P.S.: Единственная настоятельная рекомендация — сходите сегодня на массаж 💆

@yusufovruslan

Свежее исследование: чем ниже уровень понимания ИИ, тем больше люди склонны применять ИИ.

People with lower AI literacy are more likely to perceive AI as magical and experience feelings of awe in the face of AI’s execution of tasks that seem to require uniquely human attributes.

Можно снова вспомнить высказывание Артура Кларка про технологии и магию, помножить это на уровень магического мышления в сегодняшнем обществе и сделать определенные выводы — и про социальные риски, и про техношаманизм в ближайшее десятилетие.

Про техношаманизм и преподобного Маска-Цукерберга у меня в книге целая глава, и я сожалею, что нахожу научные подтверждения этому сценарию. Но что уж тут, раз предсказал, значит предсказал! 😂

@yusufovruslan