Непрозрачный процесс проверки
OpenAI представила свою новейшую продвинутую языковую модель Sol для широкого доступа. Она сопоставима по возможностям с моделью Fable от компании Anthropic, которая ранее вызвала серьезные опасения у Белого дома и была временно ограничена в использовании.
Несмотря на масштабность технологий, механизмы, с помощью которых правительство одобряет выпуск таких моделей, остаются неясными. Эксперты отмечают, что даже сотрудники ведущих лабораторий не всегда понимают, как именно происходит этот процесс. Возникает вопрос: кто именно обладает полномочиями принимать решения о безопасности и допускать технологии к пользователям?
Отсутствие четких правил
На текущий момент в США нет единого понимания, какие именно модели требуют государственного контроля и какое ведомство должно этим заниматься. Хотя Министерство торговли США через свой Центр стандартов и инноваций в области ИИ берет на себя ведущую роль, окончательный процесс оценки должен быть определен только к августу.
Несмотря на недавний указ президента, устанавливающий дорожную карту для оценки передовых моделей, конкретные детали процесса до сих пор не прописаны. Как отметил бывший советник Белогого дома по вопросам ИИ Срирам Кришнан, полноценного аналога «Управления по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA)» для сферы ИИ не будет.
Специфика взаимодействия с властью
OpenAI подтвердила, что перед широким релизом Sol компания проводила предварительные тесты с участием государственных чиновников, включая министров торговли и финансов. При этом остается неясным, кто именно из экспертов проводил эти испытания и каким образом.
В OpenAI подчеркивают, что не считают формат предварительного доступа для правительства долгосрочным стандартом, но готовы сотрудничать с властями. При этом на фоне таких переговоров обсуждаются и другие аспекты: например, возможность участия руководства компании в политических инициативах администрации, что затрудняет сторонним наблюдателям оценку беспристрастности регулятора.
Риски закрытого подхода
Специалисты выражают обеспокоенность тем, что в процессе принятия решений не хватает участия профильных ученых — исследователей безопасности, специалистов по данным и экспертов по интерпретируемости моделей. Вместо этого процесс часто выглядит как набор случайных действий.
Существует мнение, что для баланса между безопасностью и инновациями необходим формат «открытого сообщества», подобный национальным лабораториям, где ученые, государство и частные компании приходят к консенсусу. В противном случае индустрия рискует столкнуться с политическими вызовами из-за растущего скептицизма общества.
Что это значит
На данный момент процесс выпуска передовых моделей ИИ в США остается непрозрачным и во многом зависит от личных контактов компаний с представителями власти, а не от четко установленных стандартов и участия независимых экспертов.