Спор о контроле над развитием ИИ
В сообществе обсуждаются планы по замедлению развития искусственного интеллекта. В частности, проект AI Futures Project предлагает на 14 лет ограничить прогресс технологий ради общего блага человечества. Однако не все согласны с тем, что развитие ИИ должно регулироваться коллективно.
Локальный ИИ против централизованного
Основатель Comma AI Джордж Хотц выступает против управления прогрессом ИИ ради «общего блага». Он считает, что лучший способ обеспечить безопасность — это создание локальных моделей. Такие модели должны быть максимально приближены к интересам конкретного пользователя, в отличие от нынешних централизованных сервисов вроде ChatGPT.
Сравнение технологий с оружием
Хотц проводит аналогию между ИИ, ориентированным на пользователя, и оружием. По его мнению, инструмент не должен «жаловаться», если его используют для совершения преступления. Он утверждает, что полностью подконтрольный ИИ должен выполнять любые запросы пользователя, даже если они связаны с незаконной деятельностью.
Проблема баланса интересов
Создание массовых технологий требует баланса между потребностями отдельных людей и безопасностью общества. Если ИИ будет полностью подчинен интересам одного человека, это может создать угрозу для окружающих. Любая социальная система требует учета интересов всех участников, а не только тех, кто управляет технологией.
Что это значит
Развитие локальных моделей ИИ может привести к конфликту между личной свободой пользователя и коллективной безопасностью общества.