Проблема «кладбища ИИ»
На конференции обсудили феномен «кладбища ИИ» — это проекты, которые показывают отличные результаты на этапе тестирования, но не приносят реальной пользы в реальных рабочих условиях. Многие компании сталкиваются с тем, что ИИ-решения застревают на стадии пилотных запусков.
Одной из причин такой сложности является проблема масштабирования. Инструменты вроде «персонального помощника» отлично работают для одного сотрудника, но их трудно внедрить на уровне всего отдела или всей компании. Когда ИИ помогает отдельному руководителю, это вызывает энтузиазм, но переход к системным изменениям во всей организации остается сложной задачей.
Разрыв в скорости внедрения и безопасности
Стремительное внедрение агентного ИИ создает так называемый «разрыв скорости». Бизнес-подразделения внедряют генеративный ИИ быстрее, чем отделы кибербезопасности успевают разработать правила контроля и защиты данных.
Это создает новые риски, такие как «теневой ИИ» (shadow AI). Сотрудники могут использовать несанкционированные инструменты для работы с конфиденциальной информацией, что расширяет поверхность атаки. Кроме того, ИИ становится инструментом в руках злоумышленников, которые используют его для поиска уязвимостей.
Подход Zero Trust для ИИ-агентов
Для борьбы с бесконтрольным использованием ИИ эксперты предлагают применять концепцию Zero Trust («нулевое доверие»). Этот подход подразумевает принцип «отказ по умолчанию» как для людей, так и для машин.
Важно, чтобы проверка личности и уровней доступа распространялась и на автоматизированные сервисы и ИИ-агентов. Это позволит интегрировать автоматизированные рабочие процессы в общую систему безопасности IT-инфраструктуры на равных условиях с другими элементами.
Будущее физического ИИ
Помимо программного обеспечения, на конференции был выделен трек «Физический ИИ». Если в сфере написания кода использование больших языковых моделей уже дает заметные результаты, то следующей важной вехой станет автоматизация физических систем.
Для управления роботами и физическими устройствами нового поколения, скорее всего, потребуются не стандартные языковые модели, а специализированные архитектуры. Развитие таких моделей станет следующим важным этапом для индустрии после успеха программного обеспечения.
Что это значит
Успешное внедрение ИИ в бизнесе требует перехода от индивидуальных инструментов к масштабируемым системам с четким контролем безопасности и подготовки надежной инфраструктуры данных.