В Австралии чат-бота обучили издеваться над телефонными мошенниками

28 Июня 2023, 19:55
АВТОР
Подпишитесь на наш
Telegram-канал
и узнавайте новости первыми!
bssmadeit/pixabay.com 28 Июня 2023, 19:55
28 Июня 2023, 19:55
1909
Фото: bssmadeit/pixabay.com

Эксперты по кибербезопасности из Университета Маккуори в Австралии разработали основанный на алгоритмах искусственного интеллекта чат-бот Apate — он обучен выдавать себя за человека в разговоре с телефонными мошенниками, а его цель состоит в том, чтобы удерживать собеседника на линии максимально продолжительное время, передаёт BaigeNews.kz со ссылкой на 3dnews.ru.

Идея запустить проект возникла, когда его руководителю профессору Дали Каафару (Dali Kaafar) позвонили телефонные мошенники, и учёный удерживал их на линии 40 минут, развлекая детей за обедом. Профессор решил, что этот процесс можно автоматизировать при помощи ИИ, подключив модели обработки естественного языка и создав чат-бот, способный выдавать себя за человека и вести телефонный разговор с мошенником. Проекту присвоили название Apate в честь Апаты — древнегреческой богини лжи и обмана.

В основе проекта лежит языковая модель, схожая с ChatGPT, к которой подключена система клонирования голоса. Apate обучали на текстах реальных взаимодействий с мошенниками: на расшифровках телефонных разговоров, а также на переписках по электронной почте и в соцсетях. Тестирование чат-бота проводилось на настоящих звонках мошенников. Для этого учёные решили их спровоцировать, выкупив несколько телефонных номеров, которые начали преднамеренно размещать на сомнительных интернет-площадках.

Цель проекта в том, чтобы удерживать собеседника на линии в течение 40 минут без конкретного результата — это достаточно продолжительное время, и большое число таких разговоров способно пошатнуть "бизнес-модель" преступников. Правда, пока среднее время диалога с Apate составляет всего 5 минут. В ряде случаев ИИ удивил и своих создателей — он проявлял изрядную находчивость в нестандартных ситуациях, когда мошенники запрашивали информацию, отсутствовавшую в обучающих материалах.

Представители преступного мира и сами сейчас активно внедряют ИИ, подключая технологии клонирования голоса и дипфейки. Поэтому проект Apate — это своего рода симметричный ответ на передовые решения у мошенников. Учёные предполагают, что подобных чат-ботов могли бы внедрять операторы телефонной связи.

 

Наверх