Прорыв в математике и науке

Долгое время большие языковые модели (БЯМ) сталкивались с трудностями при решении сложных логических задач. Например, флагманская модель GPT-4o показала лишь 12% успеха на престижном математическом экзамене AIME. Однако новая модель o1 от OpenAI продемонстрировала совершенно иной уровень: она набрала 74% при попытке решить задачу в один проход, а с использованием методов выбора лучшего ответа результат вырос до 93%.

Этот успех затронул и научную сферу. В тесте GPQA Diamond, который проверяет способность ИИ к научному мышлению на уровне кандидата наук (биология, физика, химия), модель o1 показала результат 78%. Это выше, чем средний показатель экспертов-людей, которые в этом тесте набирают чуть менее 70%.

Две системы человеческого мышления

Современные рассуждающие модели (Large Reasoning Models или LRM) имитируют то, что психолог Даниэль Канеман называл «системой 2». В человеческом мозге это медленное, осознанное мышление, требующее концентрации и глубокого анализа для решения нетривиальных задач.

Традиционные модели работают по принципу «системы 1» — они выдают быстрые, автоматические реакции на основе накопленных данных. Это делает их отличными собеседниками, но мешает в точных науках: если в базе данных нет готового ответа на уникальную задачу, модель может начать «галлюцинировать», выдавая случайные, но правдоподобные варианты.

Как работают рассуждающие модели

Вместо того чтобы мгновенно выдавать наиболее вероятное следующее слово, рассуждающая модель замедляет процесс. Она тратит больше вычислительных ресурсов (токенов), чтобы составить план действий, проверить гипотезы и исправить собственные ошибки в процессе решения.

В основе этого метода лежат три технологии: цепочка рассуждений (chain of thoughts), дополнительные вычисления непосредственно во время обработки запроса и обучение с подкреплением. Благодаря обучению с подкреплением модель не просто запоминает факты, а осваивает навыки: умение сомневаться, перепроверять себя и выстраивать логические связи.

Новый подход к развитию ИИ

Раньше развитие ИИ шло по пути увеличения количества параметров — чем больше данных и весов, тем умнее модель. Однако успех рассуждающих моделей доказал: качество ответа можно улучшить за счет времени. Если дать модели возможность «подумать» дольше, она выдаст гораздо более точный результат без необходимости бесконечно раздувать её архитектуру.

Этот подход позволяет решать сложнейшие задачи, не дожидаясь появления новых сверхмощных процессоров или колоссальных объемов оперативной памяти. Однако за это приходится платить: время ожидания ответа увеличивается с долей секунды до минуты и более, а затраты вычислительной энергии растут пропорционально сложности задачи.

Что это значит

Переход к рассуждающим моделям означает, что ИИ перестает быть просто продвинутым поисковиком по базе данных и начинает имитировать процесс глубокого человеческого анализа, что открывает путь к созданию более совершенного общего искусственного интеллекта (AGI).