Компании призывают к защите открытых весов ИИ
Более двух десятков компаний и организаций подписали открытое письмо, в котором призывают американских политиков защитить открытые веса ИИ. Подписанты включают в себя прямых коммерческих конкурентов и организации с малым очевидным перекрытием в бизнес-модели. Среди подписантов Meta, Microsoft, Nvidia, IBM, Dell Technologies, CrowdStrike, Palantir, ServiceNow, Hugging Face, Perplexity, Mistral, Andreessen Horowitz, Y Combinator, Linux Foundation, Mozilla и другие.
Открытые веса ИИ
Открытые веса ИИ — это системы, в которых обученные параметры публикуются для того, чтобы anyone мог скачать, осмотреть, модифицировать и запустить на собственной аппаратной платформе. Это отличается от закрытых моделей, таких как продукты на переднем крае, предлагаемые OpenAI или Anthropic через API-доступ только, где подлежащие веса никогда не покидают инфраструктуру поставщика.
Риск и безопасность
Подписанты фреймуют открытые веса как механизм, посредством которого способность ИИ распространяется за пределы нескольких хорошо капитализированных лабораторий в то, что письмо называет потоками «фабрик, больниц, ферм, классов и магазинов на главной улице». Письмо наиболее точный раздел напрямую адресует риск, и это стоит прочитать внимательно, потому что оно инвертирует обычное фреймирование вокруг открытых моделей и безопасности.
Когда веса выпускаются, письмо признает, что они выходят за пределы первоначального разработчика. Измененные версии становятся трудными для отслеживания или обратного отслеживания. Измельченная или тонированная версия открытого модуля может распространяться с удаленными защитными барьерами, и нет механизма отзыва. Подписанты утверждают, что ответом не является запрет. Их аргумент основан на сравнении с кибербезопасностью: защитники, сталкивающиеся с ИИ-оборудованными атакующими, нуждаются в доступе к моделям с сопоставимой способностью обнаруживать и имитировать угрозы, что закрытые, разрешенные системы не легко предоставляют. Они расширяют это в более широкую безопасность, утверждая, что закрытые модели не являются врожденно безопасными, потому что они могут быть взломаны, неправильно использованы или провалиться в том, что внешние исследователи не могут наблюдать или подтверждать. Концентрируя продвинутую способность за небольшим количеством закрытых поставщиков, в этом прочтении создается единичные точки отказа, а не их удаление. Открытые модели, с другой стороны, позволяют внешним исследователям изучать поведение, запускать красные команды и обнаруживать уязвимости, которые могут быть пропущены или не обнаружены в закрытых системах.