Новые обязанности для компаний
Вступила в силу Статья 50 Акта об ИИ (EU AI Act), которая устанавливает требования к прозрачности для поставщиков и пользователей систем искусственного интеллекта в Евросоюзе. Теперь компании, использующие генеративный ИИ, обязаны уведомлять людей о том, что они взаимодействуют с машиной, а также помечать контент, созданный искусственным интеллектом.
Эти меры направлены на борьбу с манипуляциями, мошенничеством, использованием дипфейков и обманом потребителей. С развитием технологий отличить общение с человеком от диалога с ИИ или отличить сгенерированное изображение от реального становится всё сложнее.
Маркировка контента и исключения
Для систем, создающих аудио, изображения, видео или текст, вводится обязанность по маркировке. Результаты работы ИИ должны содержать машиночитаемую метку, которая указывает на искусственное происхождение или манипуляцию контентом. При этом требования к маркировке должны быть технически выполнимыми, учитывая стоимость внедрения и современные технологии.
Существуют исключения: правила не распространяются на инструменты для вспомогательного редактирования, которые не меняют суть исходного материала (например, обычная ретушь фото). Также правила не касаются правоохранительных органов, использующих ИИ для расследования преступлений, если это не касается публичного использования системы для сообщения о правонарушениях.
Особые правила для дипфейков и новостей
Дипфейки — контент, созданный или измененный искусственно, — требуют обязательного раскрытия информации. Однако для художественных, сатирических или вымышленных произведений действуют более мягкие правила: уведомление должно лишь указывать на наличие ИИ, не мешая при этом восприятию произведения.
Для текстов, публикуемых в общественных интересах, действуют свои правила. Пользователи должны знать, что текст создан ИИ, если только он не прошел проверку человеком, который несет редакционную ответственность за публикацию. Обычная редакционная проверка в новостных отделах снимает это требование.
Контроль и надзор
Все уведомления должны предоставляться в момент первого взаимодействия с системой или контентом. Информация должна быть четкой, доступной и легко отличимой от других данных. Никаких переходных периодов для уведомления «по факту» не предусмотрено.
За соблюдением правил будут следить три структуры: национальные органы по надзору за рынком, Офис по ИИ (AI Office) и Европейский надзорный орган по защите данных (EDPS). Компании могут использовать Кодекс практики по прозрачности контента, созданный ИИ, чтобы подтвердить соответствие правилам, либо использовать другие методы, которые признают контролирующие органы.
Что это значит
Введение Статьи 50 обязывает разработчиков и пользователей ИИ в ЕС внедрять механизмы идентификации машинного контента и уведомлять пользователей о взаимодействии с ИИ, чтобы предотвратить мошенничество и манипуляции.