Новая политика Anthropic
Компания Anthropic приняла решение внедрять водяные знаки в результаты работы своего чат-бота Claude. Это означает, что в создаваемый текст будет встраиваться невидимый код, который позволяет компьютерным системам идентифицировать контент как созданный искусственным интеллектом.
Данная мера направлена на соблюдение требований Закона ЕС об ИИ (EU AI Act). Согласно новым правилам прозрачности, технологические компании обязаны маркировать контент, который был сгенерирован или отредактирован с помощью ИИ таким способом, который может быть распознан машиной.
Реакция пользователей на Reddit
Внедрение системы вызвало неоднозначную реакцию в сообществе. На платформе Reddit развернулись дискуссии, в которых часть пользователей выразила резкое недовольство. Некоторые участники обсуждений назвали новую политику «драконовской» и заявили, что она нанесет ущерб обычным пользователям.
Критики опасаются, что система водяных знаков сделает использование нейросети заметным для преподавателей или работодателей. В частности, высказывались опасения, что студенты, использующие Claude для перефразирования или реорганизации текста, или журналисты, использующие ИИ для суммаризации больших документов, могут быть разоблачены, если они скопируют результат без изменений.
Аргументы против маркировки
Некоторые пользователи считают внедрение водяных знаков несправедливым. Они утверждают, что ИИ — это лишь инструмент, который помогает выполнять сложную работу, где основная интеллектуальная нагрузка (инструкции, контекст и уточнения) ложится на человека. По их мнению, маркировка текста ставит под сомнение вклад самого пользователя.
Также звучат ироничные замечания о двойных стандартах. Критики указывают на противоречие: компания внедряет систему маркировки контента, который сам был обучен на огромных массивах данных, созданных людьми. Это вызывает у части сообщества ощущение «зловещего направления» развития технологий.
Поддержка системы маркировки
Несмотря на протесты, многие пользователи поддерживают решение Anthropic. Они считают внедрение водяных знаков разумным способом отслеживания материалов, созданных алгоритмами. По мнению сторонников, это необходимо для минимизации рисков, которые может повлечь за собой использование неразмеченного ИИ-контента.
В дискуссиях отмечается, что единственная причина, по которой кто-то может выступать против такой прозрачности — это желание скрыть факт использования нейросети от окружающих.
Что это значит
Внедрение невидимых водяных знаков в Claude направлено на выполнение требований европейского законодательства по обеспечению прозрачности ИИ-контента.