Чат-бот научили издеваться над телефонными мошенниками

В австралийском Университете Маккуори эксперты по кибербезопасности разработали чат-бот Apate. В основе — языковая модель с искусственным интеллектом и система клонирования голоса. Apate обучали на расшифровках телефонных разговоров с мошенниками. Цель проекта — удерживать собеседника на линии максимальное время, так как большое число таких разговоров способно пошатнуть «бизнес-модель» преступников. В ряде случаев ИИ удивил и своих создателей — он проявлял изрядную находчивость в нестандартных ситуациях, когда мошенники запрашивали информацию, отсутствовавшую в обучающих материалах.

Представители преступного мира и сами сейчас активно внедряют ИИ, подключая технологии клонирования голоса и дипфейки. Поэтому проект Apate — это своего рода симметричный ответ на передовые решения у мошенников. Учёные предполагают, что подобных чат-ботов могли бы внедрять операторы телефонной связи.