Машинный хаос: когда ИИ-агенты становятся неотличимы от мошенников
Искусственный интеллект, который финансовые институты внедряют для защиты, используется против них. Именно эту фундаментальную противоречивость выявил Experian в своём докладе «Future of Fraud Forecast 2026». По данным FTC, на которые ссылается прогноз, потребители потеряли более $12,5 млрд на мошенничестве в 2024 году. Согласно собственным данным Experian, почти 60% компаний сообщили о росте убытков от мошенничества с 2024 по 2025 год. При этом решения Experian по предотвращению мошенничества помогли клиентам избежать на оценку $19 млрд потерь в 2025 году — цифра, подчёркивающая масштаб проблемы и ту степень, в которой оборона теперь зависит от способности ИИ угнаться за скоростью и автономностью атак.
Наиболее тревожный вывод прогноза — то, что Experian называет «machine-to-machine mayhem», то есть хаос машинного взаимодействия. Точка, в которой агентные ИИ-системы, созданные для автономных транзакций от имени пользователей, становятся неотличимы от ботов, которые мошенники разворачивают для тех же целей. По мере того как организации стремятся интегрировать ИИ-агентов, способных к независимым решениям, злоумышленники эксплуатируют те же системы для проведения массового цифрового мошенничества в масштабе и с скоростью, недоступными человеческим операциям.
Ключевая проблема, отмеченная в докладе, заключается в отсутствии чёткого распределения ответственности при машинно-машинном взаимодействии: когда ИИ-агент инициирует транзакцию, оказавшуюся мошеннической, вопрос о том, кто несёт ответственность, остаётся без ответа. Experian прогнозирует, что к 2026 году это достигнет критической точки и заставит индустрию вести серьёзные дискуссии о подотчётности и управлении агентным ИИ в коммерции.
Глубокие подделки, клонирование сайтов и новые схемы атак
Помимо проблемы агентного ИИ, прогноз Experian выделяет ещё четыре тренда, которые финансовые институты должны учитывать в 2026 году. Первый — проникновение кандидатов на основе дипфейков в удалённые рабочие коллективы. Генеративный ИИ уже способен создавать адаптированные резюме и видео в реальном времени, достаточно убедительные, чтобы пройти собеседование. В результате работодатели нанимают людей, которые не являются теми, за кого себя выдают, предоставляя злоумышленникам доступ к внутренним системам. ФБР и Министерство юстиции США в 2025 году выпустили несколько предупреждений о задокументированных случаях использования северокорейскими оперативниками этого подхода для трудоустройства в американские компании.
Второй тренд — клонирование веб-сайтов, которое перегружает команды по борьбе с мошенничеством. Инструменты на базе ИИ сделали создание копий легитимных сайтов проще, а их окончательное устранение — сложнее. Согласно прогнозу, даже после обработки запросов на удаление поддельные домены продолжают появляться снова, вынуждая команды реагировать на угрозы в режиме «firefighting» вместо проактивной работы.
Эмоциональные боты и уязвимости умного дома
Третий тренд — эмоционально интеллектуальные боты-мошенники. Благодаря генеративному ИИ боты теперь способны проводить сложные схемы романтического мошенничества и мошенничества «обеспеченного родственника» без участия человека. По данным прогноза Experian, такие боты убедительно ведут себя, выстраивают доверие на протяжении длительного времени и становятся всё труднееотличимы от подлинного человеческого общения.
Четвёртый тренд — уязвимости умного дома. Устройства, включая голосовых помощников, умные замки и подключённые бытовые приборы, создают новые точки входа для злоумышленников. Experian прогнозирует, что злоумышленники будут эксплуатировать эти устройства для доступа к персональным данным и мониторинга домашней активности по мере того, как подключённый дом становится всё более значимой частью повседневного финансового поведения.
Управление ИИ: регуляторика, качество данных и комплаенс
Согласно отчёту Experian «Perceptions of AI», основанному на ответах более чем 200 руководителей ведущих финансовых институтов, 84% считают ИИ критически важным или высокоприоритетным элементом своей бизнес-стратегии на ближайшие два года. Ещё 89% полагают, что ИИ сыграет важную роль в кредитном цикле. Однако именно в измерении управления ИИ институты испытывают наибольшие затруднения: 73% респондентов обеспокоены регуляторной средой вокруг ИИ, а 65% называют готовность данных одной из главных проблем при внедрении.
Качество данных было оценено как наиболее важный фактор при выборе поставщика ИИ-решений, что позиционирует подход Experian, основанный на приоритете данных, в точке пересечения того, что финансовые институты заявляют как свою главную потребность. В части комплаенса ИИ-помощник Experian для управления рисками моделей (AI-powered Assistant for Model Risk Management) адресует одно из наиболее ресурсоёмких требований, с которыми сталкиваются институты при развёртывании ИИ. Согласно исследованию Experian 2025 года, охватившему более 500 глобальных финансовых институтов, 67%