Новые правила для эмоциональных ИИ
В Китае вступили в силу «Временные меры по управлению интерактивными услугами с антропоморфным ИИ». Этот документ регулирует работу сервисов, которые имитируют человеческие черты характера, модели мышления и стили общения для поддержания длительного эмоционального взаимодействия с пользователем.
Важно понимать, что правила не касаются обычных рабочих инструментов. ИИ-помощники для бизнеса, образовательные сервисы, инструменты для исследований и чат-боты службы поддержки не подпадают под ограничения, если они не стремятся к созданию глубокой эмоциональной связи с человеком.
Реакция технологических гигантов
В преддверии вступления правил в силу крупнейшие китайские ИИ-сервисы начали отключать функции, которые могут быть классифицированы как «эмоциональное сопровождение». Например, сервис Doubao от ByteDance сообщил об отключении функций агентов из-за «корректировки функций продукта». Alibaba также приостановил работу своих человекоподобных агентов.
Причиной стала техническая сложность соблюдения новых норм. Регуляторы требуют внедрения систем защиты от зависимости, обязательных уведомлений об использовании и механизмов мгновенного выхода из диалога. Поскольку архитектура современных ИИ-компаньонов строится на постоянной памяти и стабильной личности, внедрить такие ограничения без изменения самой сути технологии оказалось крайне сложно. В итоге компании предпочли временно отключить функции, чтобы избежать нарушений.
Защита несовершеннолетних и безопасность
Новые меры устанавливают строгие ограничения для работы с детьми. Запрещено предлагать услуги виртуальных компаньонов или виртуальных членов семьи несовершеннолетним. Для пользователей младше 14 лет требуется обязательное согласие опекунов. Для этой категории пользователей должны быть созданы специальные режимы с ограничением времени использования и функциями родительского контроля.
Также разработчики обязаны внедрять системы обнаружения критических состояний. Если ИИ заметит признаки самоповреждения, суицидального поведения или серьезных финансовых потерь, система должна вмешаться и уведомить опекунов или экстренные службы.
Жесткий контроль и проверки
Регулирование накладывает серьезные обязательства на крупные платформы. Сервисы, имеющие более миллиона зарегистрированных пользователей или 100 тысяч активных пользователей в месяц, обязаны проходить проверки безопасности по восьми направлениям, включая обработку данных и защиту детей. Отчеты должны подаваться региональным регуляторам.
В Китае уже началась активная фаза контроля: в Шанхае регуляторы удалили более 14 тысяч не соответствующих правилам ИИ-агентов. Основными причинами стали имитация официальных лиц, непристойный ролевой контент и несанкционированный сбор персональных данных.
Что это значит
Китай внедряет комплексный подход, который объединяет защиту пользователей от психологической зависимости и механизмы государственного контроля над содержанием диалогов. Для разработчиков это означает необходимость пересмотра архитектуры ИИ-агентов, чтобы обеспечить баланс между «человечностью» общения и строгими требованиями безопасности.