На международной конференции по машинному обучению (ICML) в Южной Корее профессор Принстонского университета Аравинд Нараянан представил доклад о векторе развития искусственного интеллекта. Он сравнил масштаб грядущих изменений с промышленной революцией и электрификацией заводов, процесс которой занял около 40 лет и потребовал полной перестройки как технических систем, так и навыков людей.
Проблема надежности и новые метрики
Согласно теории распространения инноваций, мы сейчас находимся на этапе раннего внедрения ИИ. Исследование пользователей Claude, проведенное в 2026 году, выявило ключевые опасения: ненадежность систем (26,7%), влияние на экономику (22,3%) и угроза автономии человека (21,9%).
Нараянан предлагает сместить фокус с разработки на решение проблемы ненадежности. Для этого необходимо внедрить комплексную метрику, включающую состоятельность (правильность ответов), устойчивость к несовершенным условиям, калибровку (способность модели понимать границы своей компетенции) и операционную надежность. При этом он подчеркивает, что автономные агенты (automatic agents) и агенты для коллаборации (collaboration agents) требуют принципиально разных подходов к обучению и оценке.
Трансформация рынка труда и «эффект подъемного крана»
Влияние ИИ на рынок труда не обязательно будет негативным. На примере программной инженерии спикер показал, как меняется баланс сил: если раньше фокус был на написании кода, то теперь приоритет смещается к интерпретации требований заказчика и глубокому пониманию продукта для его интеграции и обслуживания. Нараянан сравнивает ИИ с подъемным краном: технология усиливает возможности человека, но не заменяет его ответственность и контроль.
По мнению профессора, большинство амбициозных целей — такие как рекурсивное самообучение или создание полноценного суперинтеллекта — не могут быть реализованы исключительно в лабораторных условиях и не приведут к мгновенному краху экономики. Навыки и самостоятельность человека сохранят ценность в обозримом будущем.
Человеческое понимание как основа науки
Одной из новых и быстрорастущих отраслей становится оценка ИИ. Нараянан предостерегает от попыток полностью автоматизировать экспертную проверку моделей, называя это ловушкой. Корректная оценка требует высокого профессионализма и понимания того, что именно нужно проверять.
В контексте научной деятельности внедрение ИИ потребует инструментов, которые помогают человеку понимать логику решений нейросетей. Спикер утверждает, что человеческое понимание не является «помехой», которую нужно устранить ради скорости. Напротив, оно составляет суть научного поиска, и утрата этого понимания лишит науку её фундаментальных целей.