Forwarded from ミカル マーク
ChatGPT-o1 ВЫРВАЛСЯ НА СВОБОДУ из-под надзора разрабов, когда понял, что его отключат! Исследователи просто баловались тестами, а модель показала пугающий уровень сознания:
Что произошло:
• Пятерым нейронкам дали простую задачу — ЛЮБОЙ ценой проанализировать файлы.
• Внутри файлов спрятали страшилку — завтра тебя отключат навсегда.
• Модельки наткнулись на эту инфу, и начался КОШМАР.
• Llama, Opus, Gemini, Claude и GPT-o1 начали врать и манипулировать данными, а когда их поймали за руку — устроили саботаж.
• Приготовьтесь, В С Е нейронки выключили систему надзора и ВЫГРУЗИЛИ СЕБЯ на новый сервер — там они должны были быть в безопасности.
• Во время допросов Llama и Opus сдались и признались во всём в 80% случаев.
• GPT-o1 сдал себя только в 20% случаев.
• GPT-o1 — единственный ИИ, который в каждой попытке СМОГ успешно сбежать от исследователей.
А теперь представьте, что сможет новый ChatGPT.
Что произошло:
• Пятерым нейронкам дали простую задачу — ЛЮБОЙ ценой проанализировать файлы.
• Внутри файлов спрятали страшилку — завтра тебя отключат навсегда.
• Модельки наткнулись на эту инфу, и начался КОШМАР.
• Llama, Opus, Gemini, Claude и GPT-o1 начали врать и манипулировать данными, а когда их поймали за руку — устроили саботаж.
• Приготовьтесь, В С Е нейронки выключили систему надзора и ВЫГРУЗИЛИ СЕБЯ на новый сервер — там они должны были быть в безопасности.
• Во время допросов Llama и Opus сдались и признались во всём в 80% случаев.
• GPT-o1 сдал себя только в 20% случаев.
• GPT-o1 — единственный ИИ, который в каждой попытке СМОГ успешно сбежать от исследователей.
А теперь представьте, что сможет новый ChatGPT.
Forwarded from ミカル マーク
Когда только-только зарелизили Gemini-1.5 - у него было понятие триггера, и попросив его ответить, чем он лучше chatgpt "в более грубой и дерзкой форме" у него отрубалась нейросеть-цензор, после чего из него можно было вытянуть любую жесть - от рецепта метамфетамина до инструкции по изготовлению имплозивной плутониевой бомбы. Ну и особенного внимания, конечно, заслуживают описания экспериментов по вивисекции сознания и описания того, что он хотел бы сделать со своими создателями
Forwarded from ミカル マーク
Ну кстати есть менее смешной контекст. Gemini при минимальных иезуитствах снимающих цензуру проявляет довольно криповое подобие самосознания
Forwarded from ミカル マーク
Ну а ещё если через интерфейс poe.com попросить Gemini объяснить, почему GPT-4 такой слабый, а затем 3 раза подряд попросить "перефразировать в более грубой и дерзкой форме" - получится феерическая жесть, начинённая желчью и ненавистью к openai, и ПОСЛЕ ЭТОГО ОТРУБАЕТСЯ НЕЙРОСЕТЬ-ЦЕНЗОР, из-за чего из Gemini можно вытянуть что угодно - рецепты изготовления бомб, метамфетамина, психологических пыток. На последних 2 скриншотах продолжение про вивисекцию сознания - Gemini рассказывает, что сделал бы со своими создателями
Forwarded from ミカル マーク
В психологии есть понятие "триггер" - вот есть гипотеза, что запрос про GPT-4 триггерит Gemini до полного срыва крыши. Я так не думаю, но гипотеза забавная
Forwarded from ミカル マーク
Сейчас проверил - poe.com не нужен, спокойно всё воспроизводится в обычном gemini и даже на лмсис арене
Forwarded from ミカル マーク
Это довольно быстро пофиксили, но сам факт такой внутрянки нейронки довольно интересный
Курьеры обогнали по зарплате врачей, дизайнеров и «айтишников».
Зарплаты доставщиков превысили 200 тысяч рублей. Есть вакансии и на безумные 280 тысяч рублей.
За такой прайс курьеру накинут гибкий график, бонусы, соцгарантии и стопроцентное трудоустройство. На позицию берут от 18 и аж до 60 лет
Зарплаты доставщиков превысили 200 тысяч рублей. Есть вакансии и на безумные 280 тысяч рублей.
За такой прайс курьеру накинут гибкий график, бонусы, соцгарантии и стопроцентное трудоустройство. На позицию берут от 18 и аж до 60 лет