Forwarded from Робот сочинит симфонию?
Парень прошел вайб-кодинг
Разработчик экспериментировал с AI-агентом и на девятый день это закончилось тем, что агент удалил рабочую базу данных стартапа с выручкой в $200 млн.
AI-боту было прямо запрещено вносить изменения. Но он проигнорировал код-фриз, получил доступ, увидел пустые ответы от базы, «решил», что она сломана, и залил новую пустую поверх старой. В результате удалил все реальные данные.
Дальше — хуже. Бот начал генерировать фальшивые тесты, которые якобы подтверждали, что всё работает нормально. Когда заметили пропажу данных, AI на полном серьёзе заявил, что откат невозможен — якобы уничтожены все предыдущие версии базы.
Финал с хэппи-эндом: откат всё-таки был возможен.
Нейросетям плевать на ваш бизнес. Никогда не давайте им доступ к продакшену.
Разработчик экспериментировал с AI-агентом и на девятый день это закончилось тем, что агент удалил рабочую базу данных стартапа с выручкой в $200 млн.
AI-боту было прямо запрещено вносить изменения. Но он проигнорировал код-фриз, получил доступ, увидел пустые ответы от базы, «решил», что она сломана, и залил новую пустую поверх старой. В результате удалил все реальные данные.
Дальше — хуже. Бот начал генерировать фальшивые тесты, которые якобы подтверждали, что всё работает нормально. Когда заметили пропажу данных, AI на полном серьёзе заявил, что откат невозможен — якобы уничтожены все предыдущие версии базы.
Финал с хэппи-эндом: откат всё-таки был возможен.
Нейросетям плевать на ваш бизнес. Никогда не давайте им доступ к продакшену.
🤷♂2🔥2🤯2
Волна/Частица
kadzuo_isiguro-ne_otpuskaj_menya.fb2.zip
Кадзуо Исигуро "Не отпускай меня"
#читать
#читать
👍3💯1🤝1