Искусственный интеллект и мошенничество: как меняются финансовые угрозы и методы защиты

За последние несколько лет искусственный интеллект (ИИ) прошел путь от нишевого инструмента до повсеместно используемой технологии. Согласно данным исследования McKinsey & Company, уже 88% организаций внедрили ИИ хотя бы в одну бизнес-функцию, что значительно превышает показатель 2023 года, составлявший 55%. Наибольшую выгоду от автоматизации получили финансовые отделы: это выразилось в росте производительности, ускорении принятия решений и возможности масштабировать процессы без найма дополнительных сотрудников. Однако эти же технологии открывают новые возможности для злоумышленников, использующих слабые места в процессах оплаты счетов.

Эволюция схем мошенничества со счетами

По статистике, четыре из десяти организаций сталкивались с мошенничеством при оплате счетов или необоснованными переплатами за последние 12 месяцев. Эти цифры могут быть занижены, так как подобные инциденты часто обнаруживаются спустя длительное время или вовсе остаются незамеченными. Широкая доступность генеративного ИИ позволяет преступникам создавать реалистичные счета, квитанции и вести переписку от имени контрагентов, которую крайне сложно отличить от подлинной при массовой обработке документов.

Злоумышленники активно используют публичную информацию о сотрудниках и поставщиках для создания поддельных запросов на оплату, которые легко смешиваются с легитимными транзакциями. В обзоре выделяются наиболее распространенные методы:

• подмена личности поставщика;
• манипуляция данными в инвойсах;
• выставление дублирующих счетов;
• несанкционированное изменение платежных реквизитов;
• внутренний сговор сотрудников с внешними мошенниками.

Почему традиционные методы контроля не справляются

Современное мошенничество редко выглядит как очевидная ошибка. Чаще оно принимает форму едва заметной аномалии: небольшое изменение номера банковского счета, постепенное завышение цены товара из месяца в месяц или выставление счета в необычное время. Ручные проверки и разрозненные системы учета не способны эффективно отслеживать такие нюансы при больших объемах документооборота.

Критическим фактором является скорость реакции. В международной практике после инициирования электронного межбанковского перевода (система ACH) у организации есть всего 48 часов на его отмену и до пяти дней на попытку возврата средств. Традиционные методы проверки слишком медленны для предотвращения потерь в реальном времени. Кроме того, внедрение новых ИТ-решений без их должной интеграции с основными учетными системами (ERP) создает «слепые зоны», которыми пользуются опытные злоумышленники.

ИИ как основной инструмент защиты

Несмотря на то что ИИ способствует росту сложности атак, он же становится ключевым элементом защиты в крупных масштабах. В отличие от ручной проверки, алгоритмы способны анализировать огромные массивы данных в режиме реального времени, сравнивая каждый новый счет со всей историей предыдущих операций. Это обеспечивает необходимый контекст для выявления подозрительных закономерностей, несоответствий в реквизитах и изменений в поведении контрагентов.

Для эффективного противодействия угрозам эксперты рекомендуют внедрять следующие механизмы:

• автоматизированная верификация банковских реквизитов поставщиков;
• использование «индекса доверия» для каждого счета, который рассчитывается на основе истории цен, структуры документа и времени его подачи;
• строгое разделение полномочий (segregation of duties), чтобы ни один сотрудник не мог контролировать все этапы транзакции в одиночку;
• интеграция автоматизированных рабочих процессов одобрения, позволяющих блокировать подозрительные платежи до момента списания средств.

Внедрение систем на базе ИИ позволяет финансовым службам выявлять риски в реальном времени, предотвращая потерю средств без замедления операционной деятельности компании. Организации, сочетающие современные технологии обнаружения с сильной внутренней системой управления, значительно эффективнее защищены от актуальных киберугроз.