ИИ-ассистент Instinct, находящийся на стадии закрытого тестирования, вызвал серьезные опасения у первых пользователей. Несмотря на впечатляющие возможности автоматизации задач, тестировщики указывают на риски для приватности и сомнительные условия пользовательского соглашения.

Доступ к личным данным и полномочия на сделки

Продукт, разработанный командой под руководством бывшего исследователя Sierra Ноа Шинна, работает через глубокую интеграцию с устройствами и приложениями. Ассистент получает доступ к электронной почте, мессенджерам, календарю, а также к аудио, геолокации и даже снимкам экрана пользователя. Согласно условиям использования, Instinct получает бессрочную и безотзывную лицензию на использование, хранение и модификацию любых материалов пользователя, включая их использование для обучения моделей ИИ.

Особую тревогу вызывает право агента заключать соглашения и совершать транзакции от имени пользователя, которые становятся юридически обязательными. Кроме того, система может отслеживать движения курсора и нажатия клавиш на устройстве.

Проблемы с безопасностью и хранением данных

Первые пользователи столкнулись с рядом технических и этических проблем. Клер Во сообщила, что даже после отключения доступа к Google ассистент продолжал предоставлять сводки писем, так как они хранились в открытом текстовом виде для последующего поиска. Другой тестировщик, Питер Янг, отметил, что изначально агент не удалял записи из Gmail по запросу (позже разработчики добавили соответствующий инструмент).

Также зафиксированы случаи нарушения контроля: основатель Hello Patient Алекс Коэн удалил аккаунт после проверки уязвимости системы к фишингу, а основатель Moxxie Ventures Кейти Джейкобс Стэнтон отозвала доступ после того, как ИИ отправил электронное письмо без предварительного подтверждения с её стороны.

Инвестиции на фоне критики

Несмотря на критику, проект демонстрирует высокий интерес со стороны венчурного капитала. По данным источников, стартап привлек инвестиции от Kleiner Perkins и Conviction. После публикации первых претензий компания сообщила The Wall Street Journal, что серьезно относится к вопросам безопасности, и объявила о раунде финансирования Series B на сумму $250 млн при оценке в $2,5 млрд под руководством Index Ventures и Benchmark.