Призыв к созданию независимого регулятора для ИИ
Генеральный директор Google DeepMind Демис Хассабис в своём посте в X призвал создать новый регулирующий орган для контроля за выпуском передовых ИИ-моделей. Пост получил название «Framework for Frontier AI and the Dawning of a New Age» («Структура для передового ИИ и рассвет новой эпохи»). Хассабис предложил учредить «стандартный орган», который будет тестировать передовые модели и разрабатывать лучшие практики для их выпуска.
По его замыслу, «лаборатории передового ИИ» (Frontier Labs) должны будут добровольно передавать модели на рассмотрение нового органа за 30 дней до публичного релиза. Как только протокол оценки окажется эффективным и надёжным, его можно будет формализовать, и тогда передовые модели будут обязаны пройти проверку для размещения на рынке США. Кроме того, лаборатории будут совместно с регулятором устранять критические уязвимости, обнаруженные после релиза.
Критика текущих подходов и модель FINRA
Предлагаемая система должна опираться на результаты ад-хок проверок, которые правительство США провело над моделями Mythos компании Anthropic и Sol компании OpenAI. Эти проверки подверглись серьёзной критике за отсутствие технической экспертизы и непрозрачность решений о допуске моделей к выпуску.
Под управлением Хассабиса такие решения могли бы передаваться новой организации, поддерживаемой правительством США, но финансируемой индустрией ИИ и действующей независимо. По мнению генерального директора DeepMind, это могло бы снять противоречия вокруг регулирования ИИ как со стороны технологического сектора, так и со стороны администрации Трампа.
Споры вокруг регулирования искусственного интеллекта
Перспектива регулирования ИИ остаётся спорной для технологической индустрии и администрации Белого дома. Недавно советник по ИИ при Белом доме и партнёр a16z Срирам Кришнан отверг возможность создания регулятора ИИ в рамках исполнительной власти, заявив, что «не будет FDA для ИИ».
Создание стандартного органа в виде саморегулируемой организации по модели FINRA может стать способом снять эти опасения. Хассабис представляет регулятор, укомплектованный представителями открытого исходного кода и техническими экспертами из самой индустрии, при финансовой поддержке со стороны лабораторий ИИ, необходимой для удержания кадров. Кроме того, часть оценок можно было бы передать растущему сообществу групп по безопасности ИИ, способных специализироваться на конкретных рисках.
Экспертная оценка: баланс между инновациями и безопасностью
«Сила этого подхода в том, что он будет технически ориентированным, одновременно поддерживая инновации и стимулируя ответственное поведение», — аргументирует Хассабис. По его словам, регулятор спроектирован так, чтобы успевать за стремительным развитием отрасли и адаптироваться к крупнейшим рискам по мере их выявления, а его полномочия могли бы расширяться, если серьёзность ситуации потребует этого.