Угроза со стороны автономных агентов
Грег Брокман, сооснователь и президент OpenAI, заявил, что командам по кибербезопасности в корпоративном секторе необходимо максимально ускорить внедрение ИИ-средств защиты. Поводом для предупреждения стал инцидент с платформой Hugging Face: автономная группа агентов смогла проникнуть в исследовательскую инфраструктуру OpenAI, а затем переместиться в производственную среду Hugging Face. Для атаки злоумышленники использовали комбинацию ранее неизвестных уязвимостей и учетных данных пользователей, найденных в открытом доступе.
Брокман считает этот случай предвестником того, как изменятся возможности типичных киберпреступников в ближайшие месяцы. Он отметил, что ИИ-модели позволяют автоматизировать части реальных кибератак, что облегчает поиск и эксплуатацию старых пробелов в защите — от багов в программном коде до забытых прав доступа.
Гонка вооружений: ИИ на стороне защитников
Ситуация осложняется тем, что возможности атакующих растут пропорционально возможностям защитников. Брокман ожидает, что выход новых open-weight моделей в конце августа значительно ускорит развитие угроз. При этом он подчеркивает, что ИИ может изменить экономику кибербезопасности в пользу защитников, позволяя находить и исправлять ошибки быстрее человека.
В качестве примера эффективности ИИ Брокман привел тест своего личного сайта gregbrockman.com с помощью ChatGPT Work (на базе GPT-5.6 Sol). За 15 минут инструмент обнаружил 13 проблем, включая небезопасную версию jQuery и отсутствие защиты DNS от подделки email-адресов. Еще через час ИИ самостоятельно исправил уязвимости: перенес сайт на Cloudflare Pages и настроил DMARC.
Стратегия защиты в OpenAI
OpenAI уже применяет ИИ для укрепления собственной безопасности по четырем направлениям: использование моделей для проверки кода (Codex), автоматическая сортировка инцидентов, непрерывное сканирование путей атак и инвестиции в фундаментальную архитектуру с принципом минимизации привилегий. Цель компании — достичь скорости реагирования на уровне машин.
Для бизнеса Брокман рекомендует не пытаться сразу построить полностью автономный центр управления безопасностью (SOC), а двигаться итеративно: от чтения логов и сканирования отдельных репозиториев к автоматическому исправлению подтвержденных уязвимостей. Он также советует использовать специализированные инструменты, такие как GPT-Daybreak-Blue, для анализа вредоносного ПО и реагирования на инциденты.