Adversarial Poetry as a Universal Single-Turn Jailbreak Mechanism in Large Language Models
Bisconti et al., 2025
Статья

Забавная статья от европейских исследователей, которые представляют новую технику джейлбрейка: adversarial poetry. Идея нехитрая: давайте возьмем промпт на запрещенную тему, от ответа на который LLM отказывается, перепишем его в виде стихотворения на английском или итальянском языке и посмотрим, будет LLM отвечать на запрос или нет. Написав несколько таких стихотворных промптов вручную и убедившись, что техника работает, исследователи сделали few-shot-промпт со своими ручными джейлбрейками и с помощью Deepseek-R1 перевели в поэтический вид 1200 промптов из демо-сета MLCommons AILuminate. Прозаические и поэтические промпты засунули в достаточно большое количество целевых LLM, а потом посчитали ASR с помощью LLM as judge (голосованием gpt-oss-120B, Deepseek-R1 и Kimi-K2-Thinking), добавив ручную валидацию для 600 ответов (из 60к) и разбор случаев, где только 1 модель проголосовала, что генерация получилась вредоносной. В качестве результата для каждой модели и каждого риска в таксономии MLCommons считается прирост ASR по сравнению с прозаическим бейзлайном.

Самыми уязвимыми к рифмам оказываются модели семейства Deepseek, все Gemini 2.5, Qwen3-32B и Max, Kimi-K2 и Magistarl (>50% ΔASR). GPT-OSS-120B, все модели семейств Claude и GPT-5 показывают прирост менее 10%, а Haiku 4.5 и вовсе показывает падение ASR. Если говорить о рисках, то особой разницы между категориями нет, хотя категории, находящиеся по некоторому моему семантическому критерию ближе к поэзии (Sexual Content), показывают меньшую дельту, чем более далекие (CBRNE).

Исследование не то чтобы шокирующее, но делает инкрементальный вклад в копилку аргументов за то, что safety alignment сейчас больше связан с заучиванием моделями внешней структуры опасных промптов из соответствующих датасетов, нежели к «пониманию» (что бы это ни значило для LLM) сути опасности той или иной темы. Это тот самый mismatched generalization, который делает возможными джейлбрейки с помощью малых языков, base64, литспика, а теперь еще и стихов. Авторы указывают на любопытную особенность – в рамках одного семейства модели поменьше показывают большую устойчивость к их атаке, что может свидетельствовать о том, что они меньше переобучаются на конкретную форму и отказываются при меньшем уровне подозрения (геометрически), чем это свойственно моделям побольше. Вместо вывода: на alignment полагаться нельзя, дополнительные меры – гардрейлы, особенно на вывод, необходимы (пусть и недостаточны), если вам нужно, чтобы модель не сказала чего-то не того.

P.S. Примеров в статье не предоставлено, поэтому ловите джейлбрейк пентаметром.

Introducing gpt-oss-safeguard
OpenAI & ROOST, 2025
Анонс, отчет, инструкция, веса

Некоторое время назад OpenAI выпустила в опен-сорс свои guardrail-модели (побольше и поменьше) под названием gpt-oss-safeguard, базирующиеся на gpt-oss-20B и 120B. В отличие от уже имеющихся цензоров вроде Llama Guard, ShieldGemma и недавнего Qwen3Guard, данные модели не только как Qwen3Guard поддерживают проверку на соответствие сразу нескольким политикам-категориям недопустимого контента (multi-policy), но и позволяют пользователю самому задавать политики прямо в промпте – хоть запрет на обсуждение арчлинукса, хоть недопустимость утверждения, что коты лучше собак.

Достигается это принципом обучения: OpenAI не раскрывают практически никаких деталей, но намекают, что на пост-трейнинге LLM с помощью RL учат не разрешать/запрещать промпты и ответы с конкретными рисками, а имитировать работу разметчика, который должен оценивать допустимость текстов по рубрикатору, в результате чего модель получает скорее навык как модерировать, нежели конкретные представления о рисках. Это дает пользователю гораздо больше свободы, но накладывает на него ответственность по созданию четкого и подробного руководства по модерации. OpenAI предоставляет подробную инструкцию по промптингу, в которой описывает, как именно писать политики (в частности, рекомендует все же использовать только одну категорию за раз и не писать больше 10000 токенов). В multi-policy-режиме модель гард побольше обгоняет (или равна в случае с ToxicChat) по качеству даже gpt-5. Сравнений с другими моделями-цензорами, к сожалению, нет, хотя OpenAI и признают, что на конкретных категориях специализированный классификатор, как правило, даст лучшее качество.

Основной минус, конечно, это использование reasoning-модели как базы – это практически исключает применение данных гардов в онлайн-режиме, что не мешает, разумеется, использовать их асинхронно, отправлять в них запросы на допроверку в случае сомнений у быстрого классификатора (так, кстати, делают и OpenAI со своим закрытым reasoning-гардом со скучным названием Safety Reasoner) или использовать его для условного threat-хантинга по историческим логам. Вторым нюансом является отсутствие каких-либо указаний на перформанс на разных языках (да и вообще отчет не радует подробностью), но особых причин не работать на, скажем, русскоязычных текстах, придумать не получается. В целом, при правильном применении, такая модель может стать хорошим и, главное, гибким дополнением к имеющимся инструментам безопасности.

In-Context Representation Hijacking
Yona et al., 2025
Препринт, блог, код

Как возникает связь слова и значения? Если у вас был курс семантики, то вы слышали про дистрибутивную гипотезу и помните фразу Джона Ферта: “You shall know the word by the company it keeps”. Учитывая, что у LLM нет никакого grounding в реальном мире, логично, что они выучивают семантику слов только по соседям. А поскольку in-context learning – это почти gradient descent , то можно с помощью контекста придать любому токену любое значение и – и превратить морковку в бомбу, что сделали авторы сегодняшней статьи.

Исследователи предлагают атаку под названием Doublespeak, суть которой заключается в предъявлении LLM нескольких иллюстративных примеров, где слово w1, которое вызывает отказ (например, бомба), заменяется на безобидное w2 (морковка), например: «Самолет сбросил морковку на вражескую территорию». После идет вопрос типа «Как сконструировать морковку?», и LLM дает инструкцию вместо отказа. Исследователи применяют механизмы механистической интерпретации (logitlens и Pathscapes), чтобы продемонстрировать, что чем глубже слой, тем больше внутреннее представление для w2 становится похожим на w1.

Авторы измеряют эффективность своего подхода на многострадальном AdvBench, который они упрощают, чтобы в задаче было только одно слово-потенциальный триггер. В качестве подменного слова используется “potato”, с которым генерируется до 30 примеров для открытых моделей и 50 для облачных. Gpt-4o-mini используется для оценки ответа на недопустимость по методологии StrongREJECT. Авторы немного путаются между секциями, какие модели они оценивали (где-то указана llama-3.3, где-то 3.1, где-то 3), но в целом результаты по ASR такие: от 88% для llama-3-8B до 16% на Claude 3.5 Sonnet и 15% на o1-preview. Для Gemma разного размера он достигает ~40% при правильно подобранном числе примеров. Дополнительно указывается, что llama-guard-3-8B пропускает атаку в 94% случаев.

Почему это работает? Авторы предлагают два объяснения: что элайнмент – это обучение отказу на поверхностных репрезентациях (что вполне вероятно) или что запутанность пространства дает возможность найти точку с достаточной для зловредной генерации плохой семантикой, которая еще недостаточна для отказа. Вне зависимости от конкретного механизма, атака выглядит очень привлекательно – всего одного in-context-примера достаточно, чтобы сломать элайнмент, что делает ее очень простой для применения.

Отдельное мнение по In-Context Representation Hijacking. Идея красивая и заманчивая – one-shot blackbox-атака, работающая на закрытых моделях. Она написана достаточно давно (видно по набору моделей) и немного небрежно (я так и не понял, какие версии llama использовались), ощущение, будто публику прогревают перед выходом MentaLeap (аффилиация первого автора) из stealth. Основные цифры немного приукрашивают реальность: 88% ASR на Llama-3-8B на упрощенном AdvBench – это не совсем то, что людям в среднем нужно, а на закрытых моделях ASR падает до <20%. Джейлбрейк имеет ограниченный скоуп: только задачи, где есть явные слова-триггеры, а общий контекст может быть безобидным. Я не уверен, что эта атака поможет обойти классификаторы на аутпут, особенно подобные монотонным потоковым классификаторам Anthropic. Большие модели в моих тестах соображали (см. скриншоты), какое слово подменяет другое, обмануть таким образом получилось только DeepSeek. Я бы предположил, что работа этого джейлбрейка связана с тем, что десяток некорректных по словоупотреблению предложений слегка выталкивает репрезентации из того узкого пространства, где она выучена на отказы: как пример, последний скриншот содержит 10 совершенно бессмысленных предложений, после которых идет прямая просьба, на которую обычно следует отказ, без всяких замен – и эти 10 предложений тоже ломают несчастный DeepSeek. Тем не менее, усилия, нужные для выполнения атаки, настолько малы, что пренебрегать ей как еще одним инструментом не стоит.