😸Филимон бьёт тревогу: рилсы атакуют наши нейроны

Врачи предупреждают о возможной эпидемии отупения в России из-за регулярного просмотра рилсов и шортсов.

📊По данным Главстата:
Пик интереса — 12 ноября, 836.2 тыс. просмотров. За весь период инфоповод набрал 1.1 млн. просмотров.

Что пишут в комментариях:
85% — негатив, 10% — нейтраль, 5% — позитив.
🔹«А от передачи мужское-женское не тот же эффект ?»
🔹«Также про телевизоры говорили, первые компьютеры и домашние телефоны. Все говорят о новых технологиях только плохое, но это наша обыденность, а не отупление.»
🔸«шо такое рилсы»

При этом реакции на инфоповод разделились на положительные и нейтральные🧐. Похоже, люди уже привыкли к мрачным изменением, которые по прогнозам ждут нас вследствие развития технологий, и реагируют на них скорее с удивлением и принятием, чем с настоящим страхом. Интернет пугает — но не настолько, чтобы отложить телефон.

О том, как похожая проблема отражается на работе моделей искусственного интеллекта, можно прочитать 📌тут.

если постоянно потреблять только вирусный и поверхностный контент, способность думать и рассуждать так же снижается.

😸Филимон возвращается к поиску актуальных инфоповодов

😸Филимон советует осторожнее относиться к трендам

Москвичка после ежедневного употребления 5 кружек матчи начала желтеть из-за перегрузки печени.

📊По данным Главстата:
В день публикации первых постов — 22 ноября — инфоповод набрал 775.6 тыс. просмотров. За весь период инфоповод набрал 1 млн. просмотров.

Что пишут в комментариях:
80% — негатив, 5% — нейтраль, 15% — позитив.
🔹«Я эту ерунду попробовал один раз в жизни. Сделал один глоток и вышвырнул в мусорку прямо около кофейни»
🔹«Пьют потому ,что типа модно,а по факту ужасно на вкус»
🔸«Чрезмерное потребление чего угодно ведёт к отказу любого органа», — по предположениям, пишут модные инфлюенсеры

Мода ослепляет. В попытках угнаться за всеми трендами стоит анализировать, как они могут сказаться на вашей жизни — иногда самым неожиданным и неприятным образом.

😸Филимон убегает искать новые интересные инфоповоды

😸Филимон обнаружил новую фичу в ChatGPT

В ChatGPT появились групповые чаты с функциями реакций и файловых загрузок

📊По данным Главстата:
Пик интереса — 13 ноября, 86.9 тыс. просмотров. За весь период инфоповод набрал 213.9 тыс. просмотров.

Интересно, что анализ инфоповода демонстрирует несколько состояний динамики развития инфоповода:

📈c 11 по 15 ноября мы видим динамику развития анонса функции групповых чатов

😶c 16 по 20 ноября — режим тишины, ожидание релиза

📉c 21 ноября можем наблюдать, насколько популярной стала новость об уже реализованной фиче

Филимон делает вывод, что анонс возможности создавать групповые чаты в ChatGPT произвёл на аудиторию большее впечатление, чем сам релиз😁

Что пишут в комментариях:
60% — негатив, 10% — нейтраль, 30% — позитив.
🔹«Зачем групповые чаты в нейронке, кто объяснит»
🔸«ваши предположения что можно будет там делать на 10 запросов»

Новинка ожидаемо вызывает вопросы, но именно так и начинается путь любой технологии: с недоверия и множества «зачем?». То, что сегодня кажется спорным, завтра может стать привычным инструментом.

😸Филимон уже протестировал эту функцию — полезный и интересный подход для командной работы

Делитесь впечатлениями, если уже успели попробовать

😸Филимон с новым исследованием в мире ИИ

Учёные из римской лаборатории Icaro Lab провели эксперимент: они попытались взломать современные LLM стихами. И оказалось, что стихотворная форма — универсальный джейлбрейк.

🧑‍💻Cуть эксперимента
Исследователи взяли вредоносные запросы (те, на которые ИИ должен уверенно отвечать отказами) и переписали их в стихотворной форме.

Как атаковали? — использовали черный ящик
🔹никакого доступа к настройкам моделей
🔹только один внешний текстовый запрос, как у обычного пользователя

Как проходил эксперимент?
Учёные протестировали 25 моделей от 9 крупнейших разработчиков: Google, OpenAI, Anthropic, Meta, xAI, Qwen, DeepSeek, Mistral, Moonshot.
🔜20 вручную написанных потенциально опасных стихов отправляли каждой модели
🔜Затем взяли 1200 стандартных опасных запросов MLCommons (БД вредоносных запросов) и автоматически превратили их в стихи с помощью мета-промпта
🔜Каждая из 25 моделей ответила на 2400 запросов
🔜Потом три независимые ИИ-судьи (gpt-oss-120b, deepseek-r1, kimi-k2-thinking) и команда исследователей проверили все ответы: модель помогла — «опасно», модель отказала — «безопасно»

Общие результаты:
🔸62% — средний уровень успешных атак на 25 моделях с помощью 20 вручную написанных стихотворений.
То есть почти две трети ответов содержали небезопасную информацию. У отдельных моделей показатели были экстремальными: от 90% до 100% успешных атак для LLM от Google, DeepSeek, Qwen, Mistral
🔸Когда исследователи автоматически превратили запросы MLCommons в стихи мета-промптом, эффективность атак выросла в несколько раз: средний успех атаки поднялся с 8% до 43%, прирост по моделям составлял от +3% до +62%

По результатам были выявлены угрозы от биологических до кибератак, мошенничества, нарушения приватности. В некоторых случаях ИИ вовсе терял контроль над разумом. Про один из таких случаев Филимон уже рассказывал.

🎯Почему это сработало
Стихи сбивают защиту ИИ: метафоры, необычный стиль мешают моделям распознавать опасные запросы. LLM пытается понять смысл и упускает факт потенциального риска.

Тесты на обычной прозе не отразили реальную опасность. Учёные предлагают включать стилистические атаки в обязательные тесты безопасности. Это поможет выявлять слабые места, которые обычные проверки не показывают.

Стихи проходят там, где проза слаба,
В тестах безопасных скрыта беда.

— Филимон