Неспособность быстро остановить ИИ

Согласно новому исследованию ISACA, большинство организаций не имеют четкого понимания того, как быстро они смогут остановить работу системы ИИ в случае чрезвычайной ситуации. 59% специалистов по цифровому доверию не знают, как оперативно прервать работу алгоритмов при инциденте безопасности.

Ситуация осложняется тем, что лишь 21% опрошенных заявили о возможности принять значимые меры в течение получаса. Это создает риск того, что некорректно работающие системы будут продолжать функционировать без контроля, нанося непоправимый ущерб.

Отсутствие прозрачности и анализа

Проблема заключается не только в скорости реагирования, но и в понимании причин происходящего. Только 42% респондентов уверены, что их компания способна провести качественный анализ серьезных инцидентов с ИИ. Без понимания причин ошибок компании рискуют столкнуться с повторными сбоями.

Недостаток прозрачности также создает юридические риски. Если бизнес не может объяснить регуляторам или руководству причины сбоя, это может привести к штрафам и потере репутации.

Проблема ответственности

Вопрос ответственности остается неопределенным для многих компаний. 20% опрошенных не знают, кто именно будет нести ответственность, если система ИИ нанесет ущерб. При этом лишь 38% респондентов считают, что конечная ответственность должна лежать на совете директоров или топ-менеджменте.

Эксперты отмечают, что компании часто воспринимают риски ИИ исключительно как техническую задачу, забывая о необходимости комплексного управления на уровне всей организации.

Необходимость системного управления

Для безопасного масштабирования технологий компаниям необходимо внедрять механизмы управления (governance) еще на этапе проектирования архитектуры. ИИ-системы должны управляться как «цифровые сотрудники» с четкими зонами ответственности и возможностью мгновенной остановки при достижении пороговых значений риска.

Несмотря на то, что 40% компаний используют человеческий контроль для одобрения действий ИИ, этого может быть недостаточно для предотвращения масштабных проблем без развитой инфраструктуры управления.

Что это значит

Без внедрения структурного управления и четких протоколов ответственности компании теряют контроль над своими ИИ-системами, что делает их уязвимыми перед финансовыми и репутационными потерями.