Новые возможности и вызовы агентного ИИ

Банк Англии приступил к анализу того, достаточно ли текущих правил для регулирования агентного ИИ в финансовом секторе. Речь идет о системах, которые способны принимать решения и выполнять задачи самостоятельно, без прямого участия человека.

Заместитель управляющего Банка Англии Сара Бриден отметила, что существующие механизмы контроля не были рассчитаны на автономных агентов. В таких сферах, как платежи, трейдинг и операционная деятельность, полагаться на надзор человека за каждым действием системы будет практически невозможно.

Масштабы внедрения технологий

Согласно отчету Кембриджского центра альтернативных финансов за 2026 год, 81% финансовых компаний уже используют ИИ на том или ином уровне. При этом 52% респондентов уже активно внедряют именно агентные системы.

На данный момент большинство внедрений сосредоточено на внутренних процессах: автоматизации задач, визуализации данных, разработке ПО и управлении знаниями. В торговых операциях использование ИИ пока в основном ограничено низкорисковыми операционными задачами.

Кибербезопасность и системные риски

Одной из главных угроз регулятор считает риски для киберустойчивости. Технологии совершили качественный скачок: ИИ-агенты способны быстро и в огромных масштабах выстраивать цепочки действий. Это может усилить возможности как защитных систем, так и злоумышленников.

МВФ также предупреждает, что кибератаки с помощью ИИ могут быстро распространяться через общую цифровую инфраструктуру (облачные сервисы, платежные сети), создавая масштабные сбои во всем секторе сразу.

Механизмы защиты и стабильность рынка

Регуляторы рассматривают внедрение специальных защитных инструментов, таких как «предохранители» или «выключатели». Они должны позволять мгновенно останавливать торги на рынках, если ошибки в моделях ИИ начнут вызывать серьезные потрясения.

Существует риск, что автономные системы могут усилить волатильность, если они начнут одинаково реагировать на одни и те же рыночные сигналы или если их цели начнут отклоняться от заданных задач или государственных целей.

Что это значит

Банк Англии планирует усилить требования к устойчивости ключевых систем. Это может включать создание резервных мощностей для быстрого восстановления или механизмы, позволяющие одной организации временно брать на себя функции другой в случае сбоя.