Две оси зрелости: внедрение против безопасности

Организации существуют в двух измерениях: одно определяет глубину интеграции ИИ в продукты и процессы, другое — уровень управления рисками безопасности. Проблема в том, что эти показатели почти никогда не совпадают. Именно этот зазор между внедрением и защитой становится причиной большинства инцидентов и претензий регуляторов.

Для синхронизации этих процессов предлагается использовать пятиуровневую модель зрелости CMMI (от L1 — начального уровня до L5 — оптимизирующего). Использование этой шкалы позволяет увидеть реальную картину: например, когда компания находится на уровне L3 по внедрению, но на L1 по защите, она фактически имеет «открытую дверь» для утечек через теневые сервисы.

Ловушка агентов и переход к промышленной эксплуатации

Наиболее критическая точка — переход с уровня L2 на L3, когда пилотные проекты превращаются в боевые системы. Именно на этом этапе большинство компаний сталкивается с несоответствием: использование ИИ становится промышленным, а меры защиты остаются на уровне пилотных решений. Сегодня на передовой возник новый риск — переход от простых чат-интерфейсов к автономным агентам. Если защита LLM-моделей может быть на уровне L3, то безопасность агентов, имеющих доступ к API и внутренним системам, часто остается на уровне L1.

Регуляторные требования и стандарты в России

В российском правовом поле ситуация осложняется ужесточением требований. Приказ ФСТЭК № 117 (вступает в полную силу с 1 марта 2026 года) закрепляет обязательные требования к ИИ в пунктах 60–61. Важно понимать: регулятор не выделяет ИИ в отдельный тип объекта, а рассматривает его как часть информационной системы по 149-ФЗ. Основные требования включают использование доверенных технологий, контроль наборов данных, ограничение передачи информации ограниченного доступа разработчикам моделей и использование статистических критериев достоверности ответов.

Для объектов критической информационной инфраструктуры (КИИ) требования еще строже. В 2026 году вступает в силу ПНСТ 1046–2026 «Искусственный интеллект в критической информационной инфраструктуре», который гармонизирован с международными стандартами ISO и задает правила для всего жизненного цикла ИИ-систем в составе программно-апмаратных комплексов КИИ.