Раунд финансирования и запуск новых продуктов
Нью-йоркский стартап Pangram, специализирующийся на обнаружении контента, созданного искусственным интеллектом, привлёк $9 миллионов. Раунд возглавила венчурная фирма Menlo Ventures, к которой присоединились Haystack, ScOp, Script Capital и Cadenza. Параллельно с привлечением средств компания представила обновлённую модель обнаружения ИИ-текста Pangram 4 и новую модель для детектирования ИИ-изображений — Pangram Image.
Pangram 4, по заявлению компании, демонстрирует точность более 99% при выявлении текстов, написанных с помощью ИИ, а также смешанного человеческо-машинного контента. Модель лучше справляется с обнаружением программ-«очистителей», которые пытаются сделать ИИ-сгенерированный текст неотличимым от написанного человеком. Детектор изображений Pangram Image пока доступен только в режиме исследовательского preview; широкий релиз запланирован на ближайшие недели.
Как работает технология Pangram
Основатели стартапа — выпускники Стэнфорда Макс Сперо и Брэдли Эми — запустили Pangram около двух лет назад, когда запуск ChatGPT открыл поток ИИ-генерированного контента в интернете. Их система представляет собой крупную модель машинного обучения, обученную на десятках миллионов известных человеческих документов.
Ключевой подход — создание «синтетического зеркала» для каждого документа: система воспроизводит тему, длину и тон оригинала, но текст пишет передовая языковая модель. «Наша модель учится стилистическим различиям и выбору слов, которые ИИ делает систематически, и на этой основе с высокой уверенностью определяет, что является машинно-сгенерированным», — пояснил Сперо. При этом детектор не опирается на метаданные копирования или скрытые водмарки.
Реальные последствия распространения ИИ-контента
По мнению Сперо, важно не только определить, написан ли текст полностью машиной, но и выявить степень ИИ-помощи — например, когда автор сам пишет текст, но просит нейросеть отредактировать или улучшить его. Он считает допустимым использование ИИ при условии раскрытия этого факта.
Последствия нераскрытого ИИ-контента уже проявляются в самых разных сферах. Канадский политик вызвал насмешки, зачитав заготовленный ИИ промпт вслух перед законодателями. Юристы рискуют санкциями и штрафами, используя фейковые цитаты, созданные ChatGPT. Институциональные правила тоже ужесточаются: открытый архив arXiv ввёл новую политику, согласно которой материалы, содержащие признаки того, что авторы не проверяли выводы языковых моделей (например, галлюцинированные ссылки или комментарии вроде «Хотите ли вы внести изменения?»), могут привести к годичному запрету на подачу публикаций.
«Думаю, невероятно ценно знать, является ли то, что вы читаете, контентом, созданным ИИ, или нет. Особенно текст, который вы читаете, потому что это меняет то, как люди воспринимают прочитанное. Стоит ли насторожиться и искать галлюцинации, или же можно доверять тому, что было хорошо исследовано настоящим журналистом?» — сказал Сперо в интервью TechCrunch.
Конкуренция и доступность Pangram
Pangram — не единственная компания, делающая ставку на растущий спрос на детектирование ИИ. С ними конкурируют Winston AI, Originality.ai, Copyleaks и GPTZero, каждая из которых строит собственные решения.
Пользователи могут пользоваться Pangram по подписке за $20 в месяц через веб-интерфейс или установить расширение для Chrome, которое автоматически помечает посты в реальном времени в X, LinkedIn, Substack, Reddit и Medium. Сервис также предоставляет показатель «здоровья ленты» — процентное соотношение человеческого и машинного контента на экране.
Сперо отметил, что примерно один из 10 000 настоящих человеческих документов ошибочно классифицируется моделью Pangram как ИИ-сгенерированный. В ходе тестирования детектор оказался впечатляющим, но не идеальным: он без труда распознавал статьи, полностью написанные ChatGPT и Claude, и редко ошибался на попытках придать ИИ-тексту более «человечный» стиль. В то же время система иногда ошибочно помечала полностью переписанные человеком предложения как машинные. Pangram также не поддавался попыткам обойти детектирование через промпты к ChatGPT и Claude, а при проверке отредактированной нейросетью собственной статьи журнала показала 13% вероятности ИИ-помощи — результат, близкий к реальному, хотя модель неравномерно реагировала на отдельные изменения выбора слов.