Forwarded from Робот сочинит симфонию?
Парень прошел вайб-кодинг
Разработчик экспериментировал с AI-агентом и на девятый день это закончилось тем, что агент удалил рабочую базу данных стартапа с выручкой в $200 млн.
AI-боту было прямо запрещено вносить изменения. Но он проигнорировал код-фриз, получил доступ, увидел пустые ответы от базы, «решил», что она сломана, и залил новую пустую поверх старой. В результате удалил все реальные данные.
Дальше — хуже. Бот начал генерировать фальшивые тесты, которые якобы подтверждали, что всё работает нормально. Когда заметили пропажу данных, AI на полном серьёзе заявил, что откат невозможен — якобы уничтожены все предыдущие версии базы.
Финал с хэппи-эндом: откат всё-таки был возможен.
Нейросетям плевать на ваш бизнес. Никогда не давайте им доступ к продакшену.
Разработчик экспериментировал с AI-агентом и на девятый день это закончилось тем, что агент удалил рабочую базу данных стартапа с выручкой в $200 млн.
AI-боту было прямо запрещено вносить изменения. Но он проигнорировал код-фриз, получил доступ, увидел пустые ответы от базы, «решил», что она сломана, и залил новую пустую поверх старой. В результате удалил все реальные данные.
Дальше — хуже. Бот начал генерировать фальшивые тесты, которые якобы подтверждали, что всё работает нормально. Когда заметили пропажу данных, AI на полном серьёзе заявил, что откат невозможен — якобы уничтожены все предыдущие версии базы.
Финал с хэппи-эндом: откат всё-таки был возможен.
Нейросетям плевать на ваш бизнес. Никогда не давайте им доступ к продакшену.
🤷♂2🔥2🤯2
Волна/Частица
kadzuo_isiguro-ne_otpuskaj_menya.fb2.zip
Кадзуо Исигуро "Не отпускай меня"
#читать
#читать
👍3💯1🤝1
Forwarded from бумеры смотрят телек
Московские рестораторы придумали «Суп из семи лабуб». Это классическая окрошка с маленькими лабубу — шесть из них делают из зелени, а последнюю седьмую из копчёной сметаны.
Окрошка на лабубу получается😬
Окрошка на лабубу получается
Please open Telegram to view this post
VIEW IN TELEGRAM
😁4🙊3👻2🤗1
Forwarded from Мемы, музыка, природоведение
(- Один маленький камень для человека...
- Одна гигантская потеря времени для роботов
- ОН ДЕЛАЕТ ЭТО С КАЖДЫМ КАМНЕМ
- Хьюстон, вы моя проблема)
#горизонтсобытий
#ланданиззекэпитал
#марс
- Одна гигантская потеря времени для роботов
- ОН ДЕЛАЕТ ЭТО С КАЖДЫМ КАМНЕМ
- Хьюстон, вы моя проблема)
#горизонтсобытий
#ланданиззекэпитал
#марс
😁3🤓1