Автоматизация правил ИИ

Компания Red Hat запустила asago — проект с открытым исходным кодом, цель которого — превратить политику управления ИИ в готовый для использования программный код. Проект создает автоматизированный процесс, который объединяет разрозненные требования инженеров и отделов комплаенса.

С вступлением в силу таких законов, как EU AI Act, организации сталкиваются с выбором: либо замедлять инновации из-за ручной проверки каждой модели, либо запускать неуправляемых ИИ-агентов без контроля их поведения.

Как работает процесс asago

Рабочий процесс проекта состоит из четырех этапов. Сначала происходит картирование рисков: система считывает внутренние правила компании и сопоставляет их с мировыми стандартами, такими как NIST AI RMF или требованиями EU AI Act. Это позволяет автоматически превращать текстовые правила в профиль рисков.

Затем следует оценка рисков. Вместо стандартных чек-листов система генерирует сценарии, специфичные для конкретного случая использования, чтобы проверить модель на наличие потенциально вредного поведения.

На этапе смягчения рисков система предлагает необходимые защитные механизмы (guardrails) и формирует обоснование для проверки. Затем asago превращает эти рекомендации в готовые конфигурации для облачных сред и Kubernetes, исключая ручное написание кода инфраструктуры.

Непрерывный аудит и прослеживаемость

Главная особенность проекта — создание непрерывного аудиторского следа. Каждое положение политики привязывается к конкретному тесту, а каждый тест — к механизму контроля, работающему в реальном времени. Это позволяет проверить любую активную функцию в работающей системе и проследить её связь с исходным правилом компании.

Red Hat стремится сократить сроки развертывания ИИ-решений с месяцев до нескольких дней. Безопасность ИИ здесь рассматривается не как разовое действие, а как постоянный процесс, который позволяет контролировать автономных агентов на протяжении всего времени их работы.

Участие мировых лидеров

Проект asago объединяет усилия крупнейших игроков индустрии и науки. В число участников входят NVIDIA, IBM, Microsoft, Brave Software, а также исследовательские институты, такие как MIT Lincoln Laboratory и The Alan Turing Institute.

Разработчики подчеркивают, что безопасность ИИ — это не только вопрос политики, но и инженерная задача. Поэтому проект создается как совместная работа технологических компаний, академического сообщества и государственных структур для обеспечения максимального охвата различных стандартов безопасности.

Что это значит

Проект asago находится на стадии формирования и доступен на GitHub для разработчиков и исследователей. На данный момент у проекта нет подтвержденных кейсов внедрения в реальном бизнесе, однако его задача — создать универсальный инструмент, который сделает внедрение ИИ предсказуемым и соответствующим закону без потери скорости разработки.