Проблема контроля и монополии

На конференции Ai4 в Лас-Вегасе три ведущих исследователя ИИ — Джеффри Хинтон, Фей-Фей Ли и Эндрю Нг — обсудили будущее отрасли. Основной предмет спора — открытость моделей ИИ и риски, связанные с их закрытостью.

Эндрю Нг выразил опасение, что индустрия может прийти к модели контроля, напоминающей рынок мобильных операционных систем. Если доступ к технологиям будет сосредоточен в руках нескольких гигантов, это замедлит инновации и позволит корпорациям диктовать свои правила игры.

По мнению Нга, важно поддерживать конкуренцию между множеством поставщиков. Это позволит избежать появления «привратников», которые ограничивают доступ к технологиям, и обеспечит использование ИИ как можно большим количеством людей.

Риски открытых весов

Однако открытость несет в себе и определенные угрозы. Джеффри Хинтон провел различие между открытым программным обеспечением, где код можно проверить на ошибки, и моделями с открытыми весами. Под «весами» понимаются параметры уже обученной модели.

Хинтон отметил, что выпуск весов в открытый доступ позволяет злоумышленникам использовать дорогие в обучении модели для создания кибератак, тратя на это гораздо меньше ресурсов. Тем не менее, он признал, что этот процесс уже стал необратимым: барьер в виде высокой стоимости обучения фундаментальных моделей исчез, так как открытые модели уже стали частью рынка.

Несмотря на опасения, Хинтон считает развитие ИИ позитивным процессом, который повысит продуктивность и улучшит сферы образования и здравоохранения. Он также подчеркнул, что опасения по поводу возможного превосходства ИИ над человеком не являются необоснованными.

Геополитика и конкуренция

Эндрю Нг указал на то, что ИИ становится инструментом «мягкой силы». Он предупредил: если открытые модели из Китая станут доминирующими в развивающихся регионах, это может повлиять на восприятие таких понятий, как демократия и права человека.

Нг выразил обеспокоенность тем, что из-за лоббирования и страхов перед ИИ в США развитие открытых технологий может замедлиться. Это создает риск того, что более эффективные и дешевые модели из других стран захватят рынок за счет своей доступности.

Поиск золотой середины

Фей-Фей Ли призвала отказаться от жесткого выбора между полной открытостью и полной закрытостью. Она сравнила ситуацию с ядерной физикой: научные статьи открыты для всех, но само уран строго регулируется.

По мнению Ли, экосистема ИИ должна быть многоуровневой. Это позволит сочетать открытые научные открытия и глобальное партнерство с прибыльными бизнес-моделями для предпринимателей. Она привела в пример проект «Геном человека», который стал платформой для развития фармацевтики и медицины.

Что это значит

Все эксперты сошлись на том, что регулирование необходимо для направления развития ИИ в полезное для людей русло. При этом они подчеркнули, что оставлять вопросы контроля и этики на усмотрение отдельных крупных игроков, таких как Илон Маск или Марк Цукерберг, нельзя.