Новая функция Muse Image
Meta* запустила инструмент Muse Image, который позволяет пользователям создавать оригинальные изображения, редактировать готовые фотографии и генерировать рекламные объявления прямо в приложениях компании. Одной из ключевых возможностей стала возможность создавать ИИ-изображения, используя фотографии из публичных аккаунтов Instagram*.
Проблема согласия и приватности
Если ваш профиль открыт, любой другой пользователь может отметить ваш аккаунт и использовать ваши снимки для создания ИИ-контента. При этом пользователи не получают уведомлений о том, что их публикации используются в подобных целях. Это вызывает опасения из-за возможности манипуляций с изображениями, включая преследования и создание фейковых материалов.
Кто защищен автоматически
Система настроена так, что из функции Muse Image автоматически исключены только приватные аккаунты и профили пользователей младше 18 лет. Все остальные публичные аккаунты могут быть использованы для генерации ИИ-изображений другими людьми.
Контекст и недоверие к технологиям
Запуск функции происходит на фоне высокого уровня скептицизма. Согласно опросу Pew Research Center, 35% респондентов скорее обеспокоены развитием ИИ, чем воодушевлены им. Дополнительным фактором является прошлый опыт Meta*: в 2019 году Федеральная торговая комиссия США оштрафовала Facebook* на 5 миллиардов долларов за введение пользователей в заблуждение относительно контроля над их персональными данными.
Что это значит
Пользователям с открытыми профилями необходимо самостоятельно ограничивать доступ к своим фото, если они не хотят, чтобы их контент использовался для генерации ИИ-изображений посторонними людьми.
* Деятельность Meta (соцсети Facebook и Instagram) запрещена в России как экстремистская.