Inkling: что это и почему это важно

Thinking Machines Lab, стартап в сфере искусственного интеллекта, основанный бывшим техническим директором OpenAI Мирой Мурати, представил свою первую внутреннюю модель — Inkling. Релиз состоялся в среду, и главное отличие от флагманских решений OpenAI, Anthropic и Google заключается в открытом лицензировании: внешние разработчики и компании могут загрузить модель и модифицировать её напрямую.

Inkling построена на архитектуре mixture-of-experts с общим числом параметров в 975 миллиардов, однако для каждой конкретной задачи задействуется лишь около 41 миллиарда — типичный подход, позволяющий поддерживать высокую скорость работы и снижать затраты. Модель обучена на 45 триллионов токенов текстовых, изображений, аудио- и видеоданных и способна рассуждать сразу по всем четырём модальностям. На данный момент результаты ограничены текстовым выводом, включая код, стилизованные артефакты и структурированные данные.

Стратегия кастомизации вместо универсальности

Inkling — это первый публичный продукт Thinking Machines Lab после полутора лет работы над инфраструктурой ИИ преимущественно за закрытыми дверями. Часть этой работы уже была представлена в мае в виде превью «моделей взаимодействия» — систем, способных слушать, говорить и даже перебивать собеседника, в отличие от стандартных чат-ботов, работающих по принципу «стоп и жди».

Модель спроектирована так, чтобы давать калиброванные ответы с явным указанием на степень неопределённости вместо того, чтобы угадывать. Пользователи могут регулировать уровень «мыслительных усилий» модели, обменивая точность на скорость. По заявлению компании, на одном из бенчмарков Inkling достигает того же качества кода, что и Nemotron 3 Ultra от NVIDIA — последняя открытая модель компании, — используя при этом в три раза меньше токенов.

Thinking Machines не претендует на звание лучшей модели в мире. В своём блоге компания прямо указывает, что Inkling «не является сильнейшей моделью на сегодняшний день — ни открытой, ни закрытой». Цель иная — обеспечить сбалансированную производительность, которая станет отправной точкой для организаций, адаптирующих ИИ под себя через платформу Tinker, инструмент кастомизации моделей от Thinking Machines.

Открытые модели против закрытых: тренд, который набирает обороты

OpenAI, Anthropic и Google пошли по пути создания универсальных чат-ботов — ChatGPT, Claude и Gemini, — к которым поверх добавляются агентные, автономные функции. Thinking Machines выбрала принципиально иную стратегию: ИИ, обученный централизованно одной компанией и зафиксированный в неизменном виде, уступает по эффективности системам, которые организации формируют самостоятельно, поскольку экспертиза зачастую принадлежит конкретным людям и не может быть воспроизведена в общем решении.

Аргументы в пользу открытых моделей набирают силу. В воскресном посте генеральный директор Microsoft Сатья Наделла, чья компания инвестировала миллиарды долларов как в OpenAI, так и в Anthropic, предупредил, что предприятия, использующие проприетарные модели ИИ, фактически платят дважды: один раз — за подписку, и второй — за передачу бизнес-знаний, встроенных в их промпты и корректировки, которые могут быть усвоены в будущих версиях моделей. Генеральный директор Hugging Face Клем Деланж высказал аналогичное предсказание в разговоре с TechCrunch: модели передового уровня, по его мнению, всё чаще будут оставаться инструментом для экспериментов и высокоценных задач, тогда как основная производственная работа сместится к частным или открытым альтернативам — именно на этом раскладе строится стратегия Thinking Machines.

Реальные кейсы и скорость выхода на рынок

Наиболее убедительный аргумент в пользу подхода Thinking Machines пришёл из сотрудничества с Bridgewater Associates — крупнейшим хедж-фондом в мире, который, стоит отметить, не является инвестором компании. Исследователи обеих организаций взяли существующую открытую модель и дообучили её на финансовой экспертизе Bridgewater. Результат, по заявлению сторон, продемонстрировал 84,7% на тестах финансового рассуждения, обойдя ведущие проприетарные модели ИИ, при этом стоимость запуска составила примерно четырнадцатую от прежней. Стоит отметить, что результаты получены в рамках собственной оценки компаний, а не независимого исследования.

Thinking Machines подчёркивает впечатляющую скорость достижения результата: OpenAI потратила около пяти лет, чтобы вывести технологию на рынок и начать генерировать выручку, а Anthropic — около трёх. По утверждению стартапа, он прошёл тот же путь примерно за девять месяцев.

Вопрос о том, не была ли Inkling обучена на выходных моделей конкурентов — практике, известной как дистилляция и вызывающей пристальное внимание отрасли, — остаётся открытым. Краткий ответ от самой компании: частично. Thinking Machines предобучила Inkling на...