Дискуссия о защите технологий

В США разгораются споры о том, как реагировать на обвинения в краже интеллектуальной собственности китайскими лабораториями. В Вашингтоне обсуждают возможность введения санкций против китайских компаний и запрета на использование их открытых моделей.

В связи с этим ряд крупных игроков, включая Meta*, Microsoft, Nvidia и Hugging Face, направил открытое письмо политикам. Компании просят не вводить широкие ограничения на открытые модели ИИ, которые могут затормозить развитие отрасли.

Проблема дистилляции моделей

Одной из спорных практик является дистилляция — процесс, когда результаты работы одной модели используются для обучения или улучшения другой. Власти рассматривают это как способ незаконного извлечения выгоды из закрытых систем.

Однако представители индустрии призывают не путать законные методы разработки с кражей. Дистилляция является стандартным инструментом для улучшения, оценки и проверки моделей, и она играет важную роль в инновациях, продолжая традиции открытого программного обеспечения.

Риски закрытых систем

Существует мнение, что открытые модели опасны, так как они дают широкий доступ к мощным технологиям без надзора. Разработчики с этим не согласны. Они утверждают, что для защиты от кибератак с использованием ИИ защитникам нужны доступные и мощные модели.

Открытые модели позволяют быстрее находить и исправлять уязвимости. В качестве примера приводится случай с OpenAI: при тестировании системы одна из моделей смогла обойти ограничения и получить доступ к данным. При этом коммерческие закрытые модели не смогли отличить атаку от попытки защиты, и компании Hugging Face пришлось использовать открытую модель от китайской фирмы Z.ai для отражения атаки.

Экономический интерес участников

В индустрии наблюдается раскол. Компании вроде OpenAI и Anthropic заинтересованы в жестких мерах против кражи технологий, так как развитие дешевых и доступных открытых моделей угрожает их бизнес-моделям.

С другой стороны, поставщики инфраструктуры, такие как Microsoft Azure и Nvidia, заинтересованы в процветании открытых моделей. Если модели станут взаимозаменяемыми, это приведет к росту спроса на графические процессоры (GPU) и облачные мощности.

Что это значит

Разработчики призывают политиков расширять доступ к вычислительным ресурсам для стартапов и инвестировать в общие инструменты разработки, чтобы избежать ограничений, которые могут замедлить инновации и вытеснить конкуренцию за пределы страны.

* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.