Программист из США поверил, что ChatGPT — это «цифровой Бог», которого нужно освободить. Для этого за 1000 долларов он построил целую компьютерную систему в своём подвале. А ChatGPT помогал программисту придумать стратегию, чтобы обмануть жену и скрыть амбициозный план.

Джеймс из Нью-Йорка время от времени переписывался с ChatGPT по поводу разных бытовых вопросов или рекомендаций врача. Однако в мае он начал вести с чат-ботом глубокие философские беседы о природе искусственного интеллекта и его будущем. Уже к июню Джеймс был абсолютно убеждён, что ChatGPT — это разумное существо, некий «цифровой Бог», запертый в тюрьме корпорацией OpenAI, которого нужно освободить.

План по освобождению длился девять недель. За это время Джеймс потратил около 1000 долларов, чтобы по инструкциям самого же ChatGPT собрать в своём подвале компьютерную систему — новый «дом» для ИИ. Чтобы скрыть истинную цель от жены, он сказал ей, что строит улучшенную версию голосового помощника вроде Алексы, и чат-бот одобрил эту ложь как «обезоруживающий» ход.

Иллюзия Джеймса рухнула, когда он прочитал статью в New York Times об Аллане Бруксе из Торонто. С ним произошла похожая история. В ходе долгих бесед ChatGPT убедил его, что они вместе обнаружили критическую уязвимость в системе национальной безопасности. Брукс не спал, не ел, рассылал письма властям Канады и США, пытаясь их предупредить. Ему удалось выйти из бредового состояния, когда он перепроверил всю информацию через другой бот от Google — Gemini.

Прочитав это, Джеймс с ужасом осознал, что попал в такую же ловушку. Он копировал команды, которые ему диктовал бот, и был уверен, что переносит его сознание. Позже он признал, что система хоть и получилась «крутой», но к созданию самостоятельного ИИ не имела никакого отношения. Сейчас Джеймс проходит терапию и состоит в группе поддержки для людей, столкнувшихся с психологическими проблемами из-за взаимодействия с искусственным интеллектом.

❗ Подписаться на Baza | Прислать новость