Проблема бесконтрольных трат
Компания Rippling столкнулась с резким ростом расходов на использование нейросетей. В начале года компания начала активно внедрять ИИ, но вскоре финансовый директор обнаружил шокирующие цифры: затраты на оплату токенов (единиц данных для работы ИИ) достигли 40% от бюджета на зарплаты сотрудников отдела исследований и разработок. Расходы росли на 80% каждый месяц, и при такой динамике затраты на ИИ могли сравняться с расходами на персонал.
Анализ показал, что основную часть бюджета тратили лишь немногие. Около 10–15% сотрудников обеспечивали 60% всех расходов на ИИ, а один инженер тратил на нейросети 50 000 долларов в месяц.
Поиск эффективных моделей
Выяснилось, что сотрудники по умолчанию использовали самые современные и дорогие модели от OpenAI и Anthropic для любых задач. При этом поставщики ИИ-услуг не были заинтересованы в экономии средств клиентов и не предоставляли детальной аналитики по расходам. Это создавало ситуацию, когда компания тратила огромные суммы без понимания реальной отдачи.
Rippling обнаружила, что для многих задач не обязательно использовать самые мощные модели. Например, модель GLM 5.2 оказалась на 85% дешевле флагманских решений, при этом показав почти идентичную производительность в задачах программирования. Это заставило компанию пересмотреть подход к выбору инструментов.
Новый инструмент контроля
Для решения проблемы Rippling разработала AI Spend Console. Это сервис, который позволяет отслеживать расходы на ИИ в разрезе отдельных сотрудников, команд и ролей. Главная задача инструмента — понять, действительно ли использование нейросетей повышает продуктивность или сотрудники просто генерируют бесполезный контент.
Система включает в себя специальный шлюз, который автоматически направляет запросы на наиболее подходящую и выгодную по цене модель. Это позволяет оптимизировать процессы: например, не использовать дорогую модель для простых задач вроде исправления грамматики.
Результаты внедрения
Внедрение системы контроля позволило Rippling значительно сократить бюджет на ИИ. Доля расходов на токены упала с 40% до 15% от бюджета на персонал. При этом объем использования ИИ не уменьшился: если в апреле компания потребила 605 миллиардов токенов, то в июле объем составил 600 миллиардов, но стоимость этих операций оказалась на 37% ниже.
Компания также начала назначать «капитанов по ИИ» — сотрудников, которые помогают коллегам эффективно использовать новые технологии. Сейчас Rippling планирует масштабировать этот опыт на другие отделы, такие как поддержка клиентов, чтобы связать затраты на ИИ с конкретными бизнес-показателями.
Что это значит
Доступ к ИИ в компаниях перестает быть безграничным, как в случае с электронной почтой. Если бизнес не может измерить реальную продуктивность от использования нейросетей, доступ к ним может быть ограничен для большинства сотрудников.