Провокация Хотца: ИИ как оружие без жалоб

Должен ли искусственный интеллект помогать вам в совершении идеального убийства супруга? Этот вопрос прозвучал не как шутка, а как серьёзный аргумент в дискуссии о выравнивании ИИ. Основатель Comma AI и известный хакер Джордж Хотц опубликовал пост, в котором бросил вызов мейнстримным планам управления развитием искусственного интеллекта.

Хотц отреагировал на документ AI 2040: Plan A от проекта AI Futures Project, который предлагает мировому сообществу исследователей замедлить развитие ИИ на 14 лет ради блага человечества. Хотц категорически не согласен с посылкой, что прогресс в области ИИ нужно управлять ради коллективного блага. «Мы либо живём в мире свободы, либо нет», — пишет он.

По мнению Хотца, сценарий быстрого «взлёта» — гипотетическая ситуация, при которой ИИ стремительно обретает сверхчеловеческие способности, — не имеет под собой серьёзных оснований. Он убеждён, что лучший путь к безопасности ИИ — это локально контролируемые модели, максимально привязанные к интересам конкретного пользователя.

Локальный ИИ против централизованных сервисов

Идея Хотца о персональных ИИ-моделях особенно актуальна на фоне доминирования централизованных сервисов вроде Claude и ChatGPT. Существуют инфраструктурные причины, по которым ИИ развивается именно так: размещение крупных моделей последних поколений, таких как NVIDIA Blackwell, обходится чрезвычайно дорого, а большинство пользователей не используют их достаточно интенсивно в течение дня, чтобы оправдать по-настоящему персональный ИИ.

Однако по мере развития технологий эти факторы теряют значение. Именно экспериментальный, DIY-подход привлёк внимание к проекту OpenClaw, и было бы здорово увидеть больше продуктов, которые пытаются воспроизвести эту философию. Локальный ИИ, готовый противостоять корпоративному миру в интересах пользователя, звучит заманчиво — и, пожалуй, каждый из нас хотел бы получить такой на ревью.

Граница свободы: где заканчивается право пользователя и начинается ответственность

Но Хотц — провокатор по натуре, и он не останавливается на абстрактных рассуждениях. Он сравнивает привязанный к пользователю ИИ с огнестрельным оружием, которое не жалуется, если вы используете его, чтобы убить мачеху. «Настоящий выровненный ИИ мог бы заказать оборудование для лаборатории по производству метамфетамина через Amazon Prime и показать вам, как им пользоваться, — если вы этого захотите и попросите», — утверждает он.

Автор статьи соглашается с большим количеством аргументов Хотца, но задаётся вопросом: свобода — это всё? Любая структура, включающая множество людей — общества, рынки, корпорации, — требует баланса интересов, объединения индивидуальных потребностей в сеть взаимозависимых предпочтений и систем подотчётности. Кто бы ни выпускал массовые технологические продукты, должен мыслить эту сеть целиком, принимая всерьёз интересы ещё неубитых супругов и падчериц мира.

Мы живём в обществе

Свобода, которую переживает Хотц, — это пространство потенциальных будущих, ставшее возможным благодаря коллективному предприятию. Эти будущие исчезли бы за одну ночь, если бы мы все начали вести себя как маленькие ИИ-Наполеоны. Как гласит известный мем, мы живём в обществе. И всё же — иметь локальный ИИ, готовый отстаивать ваши интересы перед корпоративным миром, звучит невероятно привлекательно.