Новый режим для мощной модели
OpenAI представила режим Ultrafast, разработанный для значительного ускорения работы своей последней и самой мощной модели GPT-5.6 Sol. Этот режим позволяет модели выполнять задачи гораздо быстрее, чем при стандартной обработке данных.
В 14 раз быстрее обычного
Согласно заявлению компании, режим Ultrafast работает в 14 раз быстрее стандартного режима. Скорость генерации достигает 750 токенов в секунду. Токены — это отдельные фрагменты текста, из которых состоит ответ нейросети.
Новый подход к производительности
Раньше для получения высокой скорости пользователям приходилось переключаться на более простые или специализированные модели. OpenAI заявляет, что Ultrafast открывает новое направление: возможность выполнять больше полезной работы за одну секунду.
Сферы применения
Высокая скорость работы GPT-5.6 Sol в режиме Ultrafast может быть полезна в различных бизнес-процессах. В частности, компания выделяет реагирование на инциденты, клиентскую поддержку, анализ финансовых рынков и электронную коммерцию.
Технологическая база и доступ
Работа режима Ultrafast стала возможной благодаря партнерству OpenAI с производителем чипов Cerebras. Сейчас функция доступна в режиме предварительного просмотра лишь ограниченной группе клиентов. OpenAI планирует расширить доступ по мере роста мощностей.
Что это значит
OpenAI стремится обеспечить высокую скорость работы даже для своих самых мощных моделей, предлагая альтернативу более простым решениям.