По прогнозам Deloitte, к 2027 году 74% компаний будут использовать ИИ-агентов в той или иной форме. Это меняет саму парадигму разработки ПО: если раньше интерфейсы создавались для удобства человека, то теперь пользователем становится алгоритм. Это требует перехода от проектирования дашбордов к созданию управляемых операционных сред для агентов.

Проблема неявного знания

Главный барьер на пути к эффективной работе агентов — дефицит контекста. Даже в программировании, где задокументировано больше всего данных (репозитории, API, код-ревью), существует огромный пласт «неписаных правил». 43% разработчиков обеспокоены тем, что ИИ-инструментам не хватает специфического контекста конкретных проектов.

Такие вещи, как предпочтительные библиотеки, особенности старых исправлений (hotfixes) или скрытые зависимости в базах данных, обычно хранятся в головах опытных инженеров или в переписках в Slack. В медицине и юриспруденции эта проблема стоит еще острее: институциональная память там часто опирается на личный опыт и локальные протоколы, которые редко попадают в официальную документацию.

Агент как сотрудник, который всегда новичок

В отличие от человека, который со временем усваивает корпоративную культуру через общение и опыт, ИИ-агент остается «новичком» навсегда. Он не может накопить институциональную память естественным путем. Чтобы агент работал надежно, его нужно «онбордить» через архитектуру системы, а не через простое предоставление доступа к данным.

Для успешной работы агенту необходимы три составляющие: четкий контекст, однозначные инструкции и явное понимание намерения (intent). Без понимания того, что именно считается «хорошим результатом», агент будет выдавать статистически усредненный ответ. Например, на запрос создать эндпоинт аутентификации он может выдать стандартный рабочий код, который полностью проигнорирует кастомные сервисы и стандарты логирования вашей команды.

Проектирование ответственности

Поскольку агент не может самостоятельно развивать суждение, ответственность за его работу должна лежать на «лесах» — программной среде, которая его окружает. Это включает в себя:

  • Верификацию намерений: использование guardrails, которые проверяют не только работоспособность кода, но и его соответствие специфическим стандартам компании.
  • Прозрачное логирование: возможность для человека отслеживать логику действий агента для формирования доверия.
  • Механизмы обратной связи: проектирование систем, где агент может сигнализировать о низкой уверенности в действии, вместо того чтобы совершать ошибку на основе догадки.

В конечном итоге, доверие к агенту не растет с его «стажем», как у человека. Оно должно обеспечиваться качеством системы, которую вы построили вокруг него с первого дня.