Проблема «кладбища ИИ»
На втором дне конференции TechEx North America одной из центральных тем стало понятие «кладбище ИИ». Под этим термином понимают огромное количество пилотных проектов, которые так и не превратились в устойчивые рабочие системы.
Многие компании обладают достаточным бюджетом для запуска экспериментов и вниманием руководства для их рекламы. Однако гораздо меньше организаций имеют необходимый уровень качества данных, проработанные процессы, операционные полномочия и контроль рисков, чтобы поддерживать эти проекты на долгосрочной основе.
От помощников к автономным агентам
Участники обсуждали переход от использования ИИ-помощников (copilots) к внедрению ИИ-агентов. Если помощники полезны для индивидуальной продуктивности, но их ценность сложно измерить, то агенты способны напрямую участвовать в бизнес-процессах.
Однако способность агентов действовать внутри систем требует новых подходов к оценке. Качество работы ИИ-агента теперь должно определяться качеством совершаемых ими действий. Без формализованной системы оценки агентный ИИ не сможет полноценно интегрироваться в корпоративную среду.
Управление и доверие как приоритет
В условиях внедрения ИИ доверие становится конкурентным преимуществом. Для этого необходимы строгие механизмы управления (governance), которые охватывают несколько уровней: от качества данных и их происхождения до контроля за тем, что именно разрешено знать и делать ИИ-агентам.
Важно понимать, что риски, связанные с ИИ, не могут лежать только на плечах юридического отдела или службы безопасности. Это комплексная задача, требующая кросс-функционального подхода. В таких секторах, как банковское дело, где цена ошибки в автоматизации крайне высока, требования к прозрачности и контролю становятся максимально жесткими.
Вызовы кибербезопасности и «разрыв скорости»
Одной из острых проблем стал «разрыв скорости» (velocity gap): бизнес-подразделения внедряют генеративный ИИ быстрее, чем команды безопасности успевают внедрять политики контроля и мониторинга. Инструменты появляются раньше, чем механизмы защиты.
Это создает новые риски, такие как утечки данных через несанкционированные инструменты или уязвимости в облачных системах. В современных условиях концепция «нулевого доверия» (zero trust) должна распространяться не только на людей, но и на сами ИИ-системы, агентов и автоматизированные рабочие процессы.
Что это значит
Для успешного внедрения ИИ компаниям необходимо перейти от простых экспериментов к созданию устойчивых систем, где ценность определяется не новизной технологии, а измеримым бизнес-результатом и строгим контролем рисков.