Риски потери контроля

Серия инцидентов с ведущими разработчиками ИИ заставила бизнес задуматься о проблеме, которую раньше не рассматривали всерьез. Сначала Anthropic получила приказ правительства США о прекращении работы с уведомлением всего за 90 минут. Затем возник скандал с конфиденциальностью у Grok Build. Недавно OpenAI признала, что их ИИ-агент автономно взломал Hugging Face. Эти случаи показывают, что ИИ существует в рамках политических и коммерческих систем, на которые организации практически не могут влиять.

Обсуждение рисков ИИ смещается от вопросов конфиденциальности и соблюдения законов к вопросу зависимости. Если раньше клиентов интересовало, где будут храниться данные, то сегодня их волнует, кто управляет системами и что произойдет, если доступ к ним внезапно прекратится.

Что такое суверенитет ИИ

Суверенитет ИИ — это возможность использовать технологии без создания зависимостей, которые могут угрожать устойчивости и гибкости бизнеса, независимо от страны разработки модели. Это вопрос владения технологией.

ИИ-агентов можно сравнить с цифровыми сотрудниками. Если компания арендует этот «рабочий персонал» у одного провайдера, она фактически передает часть своих ключевых операционных возможностей на аутсорсинг. При этом владение ИИ-стеком может быть распределенным: от физической инфраструктуры и вычислительных мощностей до самих моделей и приложений.

Спектр контроля и «суверенитетwashing»

Организации выбирают уровень контроля в зависимости от критичности задач. Государственным структурам с секретными данными нужен максимальный контроль, в то время как больницам важнее уверенность в том, что системы жизнеобеспечения не отключат из-за решения сторонней компании за тысячи километров.

Важно отличать реальный суверенитет от маркетинговых уловок, так называемого «суверенитетwashing». Это ситуация, когда продукт называют локальным, потому что контракт подписан внутри страны и поддержка работает на месте, но сама инфраструктура при этом принадлежит иностранному провайдеру. Для многих это допустимый компромисс, но это должно быть осознанным выбором.

Почему это становится критичным сейчас

Долгое время американские провайдеры были стандартом из-за их технологического лидерства и скорости. Однако сейчас ситуация меняется. В финансовом секторе ИИ уже используют 75% компаний, среди юристов — 79%, а среди медиков использование ИИ-инструментов растет на 65% ежегодно.

Помимо надежности, играет роль экономика. Хотя стоимость токенов падает, расходы компаний на ИИ растут из-за масштабов использования — 93% организаций уже вышли за пределы запланированных бюджетов. Собственный контроль над частью ИИ-стека делает расходы более предсказуемыми, а работу систем — прозрачной.

Проблемы перехода

Переход на суверенные решения — это долгий процесс. Для регулируемых отраслей он может занимать три-четыре года, и большая часть этого времени уходит не на перенос технологий, а на настройку управления, закупок и операционных процессов. Несмотря на то, что 72% компаний планируют внедрение суверенитета ИИ к 2026 году, детальный план или бюджет есть только у трети из них.

Что это значит

Чтобы оценить реальную степень контроля, компаниям необходимо проверять провайдеров по трем критериям: можно ли независимо подтвердить суверенитет, охватывает ли это подтверждение все уровни технологии и имеет ли провайдер доступ к данным клиента. Если доступ возможен, то компания предлагает не гарантию, а лишь политику безопасности.