Для борьбы с кибермошенниками начали использовать разговоры с ИИ-ботами

Австралийский разработчик систем противодействия мошенничеству Apate использует ИИ-ботов против телефонных и онлайн-мошенников. Боты выдают себя за потенциальных жертв, поддерживают разговор и собирают сведения о преступных схемах. Систему для перенаправления мошеннических звонков на ботов разрабатывают уже два года. Боты должны как можно дольше удерживать собеседника на линии, но не поддаваться на обман. Они сохраняют у мошенника надежду на успех и одновременно собирают данные.

Сейчас в системе 350 тысяч ботов. Платформу используют банки, проект поддерживают операторы связи. Боты принимают звонки, проникают в мошеннические чаты и отвечают на сообщения. Компания собирает сведения в реальном времени и уже получила более 250 тысяч записей. Среди них — ссылки на мошеннические сайты, счета дропперов и банковские реквизиты.

По оценке экспертов, минута разговора с ботом может помешать мошеннику связаться с сотнями или тысячами других людей через автоматический обзвон. Беседы нередко длятся более двух часов. Для ботов придуманы разные характеры, языковые навыки и биографии. Одни пользуются WhatsApp (Мессенджер принадлежит корпорации Meta, чья деятельность признан экстремистской и запрещена в РФ), другие — нет. Иногда они отвечают на звонок, а иногда завершают разговор и обещают связаться позже. Такое поведение должно мешать распознаванию ИИ.

Для ботов придуманы разные характеры, языковые навыки и биографии. Одни пользуются WhatsApp (Мессенджер принадлежит корпорации Meta, чья деятельность признан экстремистской и запрещена в РФ), другие — нет. Иногда они отвечают на звонок, а иногда завершают разговор и обещают связаться позже. Такое поведение должно мешать распознаванию ИИ.

Специалисты проверили демоверсию бота от лица мошенников. Бот проявлял недоверие, но давал повод продолжать уговоры. Его ответы, паузы и темп разговора казались естественными даже при беседе с двумя людьми. В рамках проверки собеседники представлялись знакомой Люси и её финансовым консультантом Микки. За шесть минут они не убедили бота вложиться в криптовалютную схему и отметили раздражение от разговора.

Авторы платформы отмечают, что правоохранительным органам, разработчикам соцсетей и банкам нужно лучше обмениваться сведениями. ИИ может помочь с мониторингом и анализом данных. Некоторые проекты используют психологические слабости преступников, включая троллинг участников атак с программами-вымогателями. Генеративный ИИ позволяет отвлекать злоумышленников и заставлять их тратить ресурсы вместо новых атак.

Схожую задачу решают ханипоты — системы-ловушки. Они привлекают атакующих и позволяют изучать способы взлома. Однако эксперты выяснили, что ловушка, имитирующая жертву вишинга, удерживает атакующих ИИ-агентов значительно дольше ханипота с предсказуемым поведением. Агенты чаще принимают её за настоящую систему и реже распознают ловушку.