Распределение власти против централизации
Марк Цукерберг представил статью, в которой изложил философию Meta* в области искусственного интеллекта. Его позиция заключается в том, что развитие технологий должно идти по пути распределения инструментов между людьми, а не их концентрации в руках нескольких крупных организаций.
Цукерберг называет этот подход созданием «персонального сверхинтеллекта». По его мнению, перед индустрией стоит бинарный выбор: либо системы ИИ будут сосредоточены внутри ограниченного числа институтов, либо они станут инструментами, которыми люди смогут управлять напрямую.
Риски чрезмерной концентрации технологий
Глава Meta* критикует современный дискурс в индустрии ИИ, который часто наполнен пессимизмом. Он ставит под сомнение логику тех, кто считает, что ИИ лишит человечество значимости, и при этом стремится ограничить доступ к технологиям ради безопасности.
По мнению Цукерберга, идея о том, что опасность ИИ оправдывает концентрацию власти в одних руках, сама по себе опасна. Он утверждает, что надежда на то, что обладание абсолютной властью сделает систему благосклонной к человечеству, исторически не приводила к безопасным или позитивным результатам.
ИИ как инструмент расширения возможностей
Для иллюстрации своей позиции Цукерберг использует пример с юристами. Если доступ к сверхинтеллекту будет только у одного человека, это создаст несправедливое преимущество в суде. Однако если такой инструмент будет у каждого, правосудие станет более справедливым и эффективным.
В экономическом плане Цукерберг видит разницу между ИИ как инструментом автоматизации и ИИ как инструментом расширения возможностей. Если фокус сместится на автоматизацию, это может негативно сказаться на рынке труда. Если же ИИ станет инструментом расширения возможностей, это создаст больше рабочих мест, так как запуск бизнеса станет доступен без огромного стартового капитала.
Разные подходы к безопасности
Meta* предлагает различать типы рисков при внедрении ИИ. В вопросах кибербезопасности Цукерберг опирается на опыт open-source программного обеспечения: он считает, что полный доступ к мощным системам для всех — это лучший способ обеспечить безопасность в долгосрочной перспективе.
Однако в вопросах биологических рисков позиция иная. Здесь Цукерберг призывает к более тесной координации между правительствами и другими институтами для ответственного развертывания мощных моделей.
Что это значит
Meta* ставит перед собой цель развивать ИИ на принципах расширения возможностей человека, изобретательства и баланса сил. Это заявление о намерениях и философии компании, а не конкретный план выпуска продуктов или техническая дорожная карта.
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.