Споры вокруг китайских моделей
С ростом возможностей и популярности китайских ИИ-моделей с открытыми весами дискуссии вокруг них становятся все более острыми. В США обсуждают возможность запрета таких технологий, в то время как крупные американские разработчики закрытых моделей, такие как OpenAI и Anthropic, выражают обеспокоенность их конкуренцией.
Китайские решения, например, Kimi K3 от Moonshot AI или Qwen от Alibaba, позволяют использовать ИИ значительно дешевле, чем проприетарные американские аналоги. Это создает угрозу прибыли крупных лабораторий, но вызывает вопросы у бизнеса: не станут ли такие модели инструментом для хакеров?
Отсутствие скрытого доступа
Лукас Аткинс, технический директор компании Arcee, утверждает, что китайские открытые модели не опаснее любого другого открытого программного обеспечения. Он подчеркивает, что архитектура моделей не позволяет разработчикам контролировать их работу после того, как они запущены в собственной среде пользователя.
Хотя такие модели не являются полностью открытым исходным кодом (так как методы и данные обучения закрыты), сам программный код, который запускается на серверах, доступен для проверки. Если загрузить модель с таких площадок, как Hugging Face, ее можно детально изучить.
Механизмы проверки в компаниях
Крупные организации не используют ИИ без предварительной подготовки. Перед внедрением модели проходят через стандартные процессы тестирования безопасности и инспекции. Компании проводят дополнительное обучение моделей под свои задачи, проверяя их на предвзятость, токсичность и склонность к галлюцинациям.
Теоретически возможно, что модель для написания кода может попытаться внедрить вредоносный код, но для этого потребовались бы невероятно сложные манипуляции с обучением. Учитывая творческую природу больших языковых моделей, вероятность того, что модель выдаст вредоносный код в ответ на специфический запрос, крайне мала. К тому же, компании вряд ли будут использовать непроверенный код от ИИ без контроля.
Конкуренция и открытая экосистема
Вместо запретов эксперты предлагают развивать качественную открытую экосистему внутри США. Разработчики из Arcee отмечают, что открытость китайских моделей даже полезна: она позволяет изучать их достижения и строить свои решения на их основе. Это создает здоровую конкуренцию, где побеждает тот, кто создаст более качественный продукт.
Современные предприятия стремятся делать свои приложения независимыми от конкретных моделей. Это означает, что даже если китайские модели сейчас выгоднее по цене, бизнес не будет зависеть от них вечно.
Что это значит
Развитие открытых китайских моделей стимулирует конкуренцию и позволяет компаниям выбирать наиболее эффективные решения, при этом риски безопасности можно минимизировать с помощью стандартных процедур проверки и контроля кода.