Видение персонального супер-интеллекта

Марк Цукерберг опубликовал масштабный манифест объемом 6500 слов, посвященный развитию персонального ИИ. Основная идея заключается в создании систем «персонального супер-интеллекта», которые станут доступными каждому пользователю Meta*.

В тексте Цукерберг описывает ИИ как инструмент, который изменит общество к лучшему. Он утверждает, что предоставление супер-интеллекта каждому человеку — это самый реалистичный путь к позитивному будущему. При этом он не отрицает риски, но преподносит их скорее как философские размышления, а не как конкретные проблемы, требующие решения.

Проблема доверия к техгигантам

Главная сложность манифеста заключается в том, что уровень доверия к Meta* и лично Цукербергу крайне низок. Опросы показывают, что значительная часть населения США считает социальные сети вредными для демократии и требует их жесткого регулирования.

Недавние судебные штрафы и негативный опыт использования соцсетей создают у людей ощущение, что технологические компании не могут гарантировать безопасность новых продуктов. Вместо того чтобы работать над восстановлением этого доверия, Цукерберг использует абстрактные рассуждения, которые могут восприниматься как попытка убедить самих себя в безопасности грядущих перемен.

ИИ в образовании и праве

Цукерберг рисует оптимистичные сценарии для разных сфер. Например, в образовании каждый получит персонального репетитора с уровнем PhD, который поможет освоить любые навыки. Однако на практике использование чат-ботов часто приводит к тому, что студенты используют их для выполнения домашних заданий, а не для обучения, что создает проблемы для преподавателей.

В юридической сфере Цукерберг предполагает, что доступ к супер-интеллекту для каждого уравняет возможности участников судебных процессов. Но эксперты указывают на другие риски: это может перегрузить бюрократическую систему огромным количеством исков, созданных с помощью ИИ.

Экономика доступа к технологиям

Meta* планирует использовать модель freemium: бесплатные версии для миллиардов людей и платные опции для тех, кому нужны большие вычислительные мощности. Цукерберг предлагает использовать механизм динамических аукционов для определения цены на вычислительные ресурсы.

Такой подход может привести к нестабильности цен. В потребительских сервисах обычно избегают динамического ценообразования, так как резкие скачки стоимости использования инструмента, от которого зависит работа, создают крайне неудобный пользовательский опыт.

Что это значит

Оптимизм Цукерберга в отношении ИИ не учитывает реальные побочные эффекты, которые уже проявляются в текущих технологиях. Без прямого признания опасностей и демонстрации конкретных мер безопасности индустрия может столкнуться с кризисом доверия, который помешает развитию технологий.

* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.