Новый подход к архитектуре ИИ
Стартап Thinking Machines Lab, основанный бывшим техническим директором OpenAI Мирой Муратой, представил свою первую собственную модель под названием Inkling. В отличие от флагманских решений от OpenAI, Anthropic или Google, Inkling является моделью с открытыми весами. Это означает, что сторонние разработчики и компании могут скачивать её и напрямую изменять под свои нужды.
В основе Inkling лежит архитектура mixture-of-experts (смесь экспертов) с общим количеством параметров в 975 миллиардов. Однако для решения любой конкретной задачи модель задействует лишь малую часть — около 41 миллиарда параметров. Такой подход позволяет делать работу с очень большими моделями более быстрой и дешевой.
Мультимодальность и возможности
Модель обучалась на 45 триллионах токенов, включающих текст, изображения, аудио и видео. Согласно заявлениям компании, Inkling способна нативно рассуждать во всех четырех форматах. На данный момент выходные данные ограничены текстом, включая программный код, структурированные данные и стилизованные артефакты.
Inkling спроектирована так, чтобы давать выверенные ответы: модель способна указывать на свою неуверенность вместо того, чтобы просто гадать. Кроме того, пользователи могут регулировать уровень «усилия для размышления», выбирая между скоростью работы и глубиной проработки задачи.
Ставка на кастомизацию вместо универсальности
Thinking Machines делает ставку на то, что ИИ, который организации могут адаптировать под себя, будет эффективнее универсальных моделей, которые продают крупнейшие лаборатории. Компания не претендует на звание самой мощной модели в мире, позиционируя Inkling как гибкую основу для дальнейшей настройки.
Для этого существует платформа Tinker — инструмент для кастомизации моделей. Это накладывает на клиентов дополнительную ответственность: именно они должны обеспечивать безопасность после того, как внесут свои изменения в модель. В этом заключается ключевое отличие от подхода OpenAI, Anthropic и Google, чьи продукты изначально создавались как универсальные чат-боты.
Экономика и конкуренция
В индустрии растет число аргументов против закрытых моделей. Например, глава Microsoft Сатья Наделла отмечал, что компании, использующие проприетарный ИИ, фактически платят дважды: за подписку и за передачу своих уникальных знаний модели через промпты. В Thinking Machines полагают, что специализированный ИИ, настроенный под конкретную экспертизу компании, работает лучше.
Примером эффективности такого подхода может служить проект с хедж-фондом Bridgewater Associates. Использование открытой модели, дообученной на финансовых данных фонда, позволило достичь высокой точности в финансовых рассуждениях при стоимости запуска в 14 раз ниже, чем у топовых проприетарных моделей.
Что это значит
Thinking Machines предлагает рынку модель, которая служит не готовым продуктом, а фундаментом для создания специализированных инструментов. Основной доход компания планирует получать не от продажи доступа к модели, а через платформу Tinker, обеспечивающую обучение, тонкую настройку и экосистему хостинга.