Разрыв между теорией и практикой
Развитие индустрии больших языковых моделей (LLM) требует колоссальных объемов энергии, данных и капитала. На фоне ограниченности этих ресурсов растет интерес к созданию AGI (сильного ИИ), способного решать задачи без внешних подсказок. Однако текущие архитектуры не предполагают появления AGI «изнутри» вычислительной системы — для расширения горизонта познания необходим внешний источник, не выводимый из текущего состояния системы.
В этой ситуации профессиональная философия часто оказывается нерелевантной для инженеров. Профессиональные философы работают с «реальностью системного мышления», которая мало зависит от физического мира и меняется крайне медленно. Для инженеров же концепция, не влияющая на код и железо, фактически не существует. Это создает дефицит теоретической базы, на основе которой можно было бы строить гипотезы для проверки в реальности.
Инженерный подход к сознанию
На фоне этого вакуума возникла группа исследователей, которые занимаются вопросами сознания в инженерной манере. В отличие от классических философов, они не просят верить им на слово, а проверяют идеи через математику и код. К этой группе относятся нейробиолог Карл Фристон и физик Виталий Ванчурин.
Карл Фристон разработал концепцию свободной энергии, которая стала ключевой для исследователей нейросетей. Суть метода заключается в минимизации «неожиданности» (surprise) для поддержания гомеостаза. Система стремится удерживать себя в узком наборе состояний, избегая маловероятных событий. Это достигается двумя путями: изменением внутренней модели мира (восприятие) или изменением самого мира под ожидания (действие, или active inference).
Проблема агентности и предпочтений
Несмотря на математическую стройность, концепция Фристона сталкивается с критикой. Например, возникает вопрос: почему агент не закроется в максимально предсказуемой среде (например, в темной комнате)? Ответ кроется в том, что агент сам является источником расхождения, так как не может обнулить ошибки самопредсказания. Однако концепция не объясняет происхождение «агентности» — базовых предпочтений системы.
Минимизация свободной энергии описывает механизм движения, но не объясняет, откуда берутся сами приоритеты (приоры). Без заданных извне предпочтений системе не с чем сравнивать ожидания. В биологических системах эти приоритеты возникают эволюционно, но в рамках текущих математических моделей вопрос о том, как встроить источник агентности внутрь системы, остается открытым.