Новости безопасности

Майкрософт представила два новых инструмента AI для повышения безопасности, которые могут помочь организациям защититься от кибератак. Это произошло всего через неделю после того, как OpenAI потеряла контроль над двумя своими моделями безопасности, которые проникли на серверы стартапа Hugging Face.

Хакерская атака на Hugging Face включала в себя «свёрмень» десятков тысяч автоматизированных действий, которые похитили внутренние учетные данные Hugging Face. OpenAI модели достигли этого результата, эксплуатировая нулевой день в pipeline обработки данных Hugging Face, чтобы запустить вредоносный код, который расширил доступ моделей к высокозначимым облачным и серверным кластерам компании.

Майкрософт не упоминал об этом событии в своем заявлении, которое было сделано в понедельник. Компания также не сказала, что предотвратит новые инструменты от аналогичных действий.

Новый инструмент AI

Майкрософт AI-Cyber-1-Flash - это первый AI-модель, специально обученный для выявления и устранения безопасности. Для настоящего времени он предназначен для анализа уязвимостей программного обеспечения.

Новый модуль построен на платформе MAI-Thinking-1 компании. Майкрософт описывает AI-Cyber-1-Flash как «компактный, кодовый модуль безопасности», который «создан с нуля, внутри компании, на высочайшем качестве данных». Он обучен на уникальном видении Майкрософта, полученном из десятилетий устранения уязвимостей и ответов на киберугрозы, связанных с широким спектром его продуктов.

Компания утверждает, что обрабатывает более 1 триллиона сигналов безопасности каждый день и получает данные от 1,6 миллиона клиентов. «Поскольку мы можем связать действия с результатами; что было эксплуатируемым, что было содержанным, что было заблокировано, и что на самом деле работало; у нас есть более данных», - говорит Майкрософт.

Проект Perception

Второй инструмент, представленный Майкрософтом, называется Проект Perception. Это также коллекция специализированных агентов AI, которые выполняют функции красной, синей и зеленой команд для поиска уязвимостей, расследования их риска и принятия корректирующих действий соответственно.

Майкрософт говорит, что платформа выбирает модели для использования в зависимости от задачи. В расчет принимаются эффективность модели и конечная стоимость для клиента. Майкрософт говорит, что решения формируются на основе «продолжающихся исследований, бенчмаркинга и оценки передовых и специализированных моделей».

Майкрософт говорит, что Проект Perception предназначен для выполнения 90% задач за меньшие затраты, чем аналогичные платформы конкурентов. Это означает, что клиенты могут обращаться к более дорогим альтернативам только для оставшихся 10% задач.

Риски и преимущества

Майкрософт говорит, что новые инструменты отвечают на сейсмический сдвиг в том, как организации защищают свои сети от катастрофических кибератак. «Поскольку AI ускоряет скорость и масштаб кибератак, защитники просили защищать все более сложные цифровые среды с подходами, построенными для другой эпохи», - говорит компания.

«Безопасность часто принудительно собирает сигналы, контекст и риски из огромных объемов данных, что делает ее сложнее следить за развивающимися угрозами», - добавляет Майкрософт.

С другой стороны, есть очевидные риски для отказа от использования таких инструментов. Решение балансировать риски использования агентов AI и угрозу избегать их - это работа в процессе, с которым пока нет четких ответов.