Занятная история. Исследователи дали свободу действия ChatGPT (уже на базе модели GPT-4) и поставили ему (или ей?) задачу обойти CAPTCHA. Искусственный интеллект 🧠 не смог это сделать, но... и вот тут самое интересное. ChatGPT зашел на портал для фрилансеров Taskrabbit и привлек фрилансера для того, чтобы он обошел CAPTCHA за ChatGPT. На резонный вопрос фрилансера, не с роботом ли он общается, ИИ от OpenAI творчески ответил, что у него плохое зрение и он не видит картинку 🧠

Да, ChatGPT не смог решить задачу самостоятельно, но он ее все-таки решил, привлекая других людей, с которыми он провел переговоры и заплатил им деньги. Все автоматически и без участия человека. Я 6 лет назад писал про то, что искусственный интеллект заменит пентестеров, но не предполагал такой сценарий развития. Ведь если ИИ сам привлекает пентестеров, сам ставит им задачу, сам принимает работу и сам ее оплачивает, то можно ли говорить, что это ИИ провел пентест или нет? 🤔

Европол выпустил отчет об опасности использования генеративных нейросетей, конечно же на примере ChatGPT, в противоправных целях.

Европейские полицейские считают, что GAN могут быть использованы в следующих сценариях:
1️⃣ Систематизация знаний и ускорение подготовки преступников, включая и киберпреступников
2️⃣ Генерация фишинговых писем от имени коренных жителей той или иной страны
3️⃣ Маскировка под конкретного человека с копированием его манеры общения
4️⃣ Дезинформация и пропаганда за счет создания достоверно звучащего контента на базе неверных тезисов и предпосылок
5️⃣ Создание пока еще базового вредоносного кода
6️⃣ Сбор большого объема данных, используемых в преступной деятельности
7️⃣ Автоматизация и масштабирование существовавших ранее и новых схем мошенничества и киберпреступлений

При этом, как отмечают в Европоле, свежая версия ChatGPT на основе GPT-4 не улучшилась в части обхода ее защитных механизмов; то, что можно было плохого сделать в предыдущей версии ChatGPT, можно сделать и в нынешней.

ЗЫ. На фоне письма института "Будущее жизни" с просьбой к разработчикам систем на базе ИИ приостановить обучение моделей GPT-4+ из-за боязни, что ИИ начнет "вредить" человеку, все это выглядит как выпущенный джин из бутылки.

ЗЗЫ. Ну а Россия продолжит развитие ИИ в стране.