Позиция Anthropic по открытым моделям
Глава Anthropic Дарио Амодеи прокомментировал слухи о том, что его компания поддерживает инициативы правительства США по запрету открытых ИИ-моделей (open-weight models). Он заявил, что Anthropic никогда не выступала за подобные ограничения.
Амодеи считает, что безопасные открытые модели являются общественным благом. Они не требуют больших затрат, помимо вычислительных мощностей для запуска, и приносят реальную пользу разработчикам, исследователям и бизнесу.
Угроза со стороны Китая
Несмотря на поддержку открытых технологий, Амодеи выразил опасения по поводу развития ИИ в авторитарных государствах. Он назвал Китай наиболее способным из таких режимов. По его мнению, такие страны могут использовать ИИ для достижения военного превосходства или для подавления собственного населения.
Одной из проблем является использование метода дистилляции. Этот процесс позволяет одной нейросети обучаться на ответах другой, фактически копируя её логику работы. Это вызывает опасения в связи с возможной кражей интеллектуальной собственности американских компаний.
Риски биологического оружия
Амодеи отметил, что опасения связаны не только с кибербезопасностью. Он выразил тревогу по поводу возможности использования ИИ для создания биологического оружия. В таких сценариях открытые модели представляют повышенную опасность, так как их сложно контролировать или ограничивать их использование.
Важной особенностью открытых моделей является то, что после их выпуска их невозможно отозвать из публичного доступа. Это отличает их от закрытых систем, которые можно ограничить в любой момент.
Пути решения и международное сотрудничество
Для сдерживания потенциальных угроз Амодеи предложил несколько мер. К ним относятся ограничение доступа Китая к мощным чипам и введение строгих мер против дистилляции моделей.
Также он поддержал идею создания организации по тестированию безопасности ИИ. По его мнению, такая проверка должна быть глобальной и охватывать самые мощные модели, независимо от страны их происхождения. Амодеи полагает, что даже с Китаем возможно достичь ограниченного сотрудничества, например, в вопросах предотвращения создания биологического оружия.
Что это значит
Дарио Амодеи разделяет открытые ИИ-модели и угрозу со стороны Китая: первые он считает полезным инструментом для индустрии, а вторые — источником рисков из-за возможности использования ИИ для военных и репрессивных целей.