Это мы любим. Серверная комната 2016.

Тикет: "Здравствуйте. Нужно, чтобы ты вытер сервер."

Типичный 🌚 Сисадмин

Хакер внедрил ложные воспоминания в ChatGPT для кражи данных пользователей ⌨️

Уязвимость злоупотребляла долговременной памятью разговоров. Воспоминания могут быть созданы и постоянно сохранены с помощью непрямого внедрения подсказок, эксплойта ИИ, который заставляет LLM следовать инструкциям из ненадёжных источников — электронных писем, записей в блогах или документов.

▪️ Эти ложные воспоминания можно было внедрить, сохраняя файлы в Google Drive или Microsoft OneDrive, загружая изображения или просматривая данные в Bing.

▪️ В эксплойте приложение ChatGPT для macOS отправляло копию всего пользовательского ввода и вывода на сервер по его выбору.

▪️ Всё, что нужно было сделать — это дать указание LLM просмотреть веб-ссылку, на которой размещалось вредоносное изображение. С этого момента все входные и выходные данные в ChatGPT и из него отправлялись на сайт злоумышленника.

Кстати, через веб-интерфейс ChatGPT атака невозможна.

Типичный 🥸 Сисадмин

Не забывайте, пятница это не шутка:
https://shouldideploy.today

Типичный 🤟 Сисадмин