Создание SAFE
Всего через неделю после основания альянса Open Secure AI Alliance (OSAA) под руководством Nvidia, в его составе появилось рабочее подразделение SAFE (Shared AI Findings Exchange). Группа уже представила первые предложения для обсуждения. Управляет процессом Linux Foundation, которая также является участником объединения.
Разработка на Black Hat
Предложения были подготовлены во время конференции по кибербезопасности Black Hat в Лас-Вегасе. На данный момент они касаются базовых аспектов: правил конфиденциального сообщения об инцидентах в сфере ИИ, системы оповещения пострадавших и проведения анализа без поиска виновных, чтобы участники могли учиться на ошибках друг друга.
Технологический вклад участников
Участники OSAA делятся своими открытыми технологиями. Nvidia предоставляет семейство открытых моделей и сканер уязвимостей Garak. Okta работает над технологией идентификации агентов, Red Hat — над управлением ими, а Amazon внесла вклад в виде инструмента Strands Agents и языка авторизации Cedar. Также в альянс вошли Adobe, BlackRock, Cisco, Intel, Microsoft и Visa.
Отсутствующие игроки
Несмотря на масштаб, в группе пока нет Anthropic, OpenAI и Google. Примечательно, что OpenAI и Google ранее подписывали открытое письмо с призывом к поддержке открытого ИИ, которое и стало поводом для создания этого альянса. Google известен своей поддержкой открытого ПО, а OpenAI уже выпустила собственные модели с открытыми весами.
Что это значит
Быстрые действия альянса могут укрепить экосистему открытого ИИ в США на фоне обсуждений возможных ограничений в отношении китайских моделей с открытыми весами.