Компании потеряли контроль над ИИ‑агентами

Крупные компании массово внедрили ИИ‑агентов и при этом не подготовили инфраструктуру для контроля их работы и расходов. В результате в начале 2026 года организации столкнулись с резким увеличением затрат на токены и сбоем в управлении процессами.

Основатель стартапа Hebbia Джордж Сивулка в эссе описал практику tokenmaxxing — поощрение роста потребления токенов — как неверную метрику активности. Он привёл пример: некоторые команды принимали увеличение расхода токенов за признак внедрения ИИ и роста продуктивности. «Вы только что наняли миллион плохих сотрудников», — написал Сивулка, комментируя некачественную работу агентов при высоких затратах.

По его оценке, проблема чаще связана не с моделями, а с инструкциями и управленческими процессами внутри компаний. Сивулка указывает, что лишь небольшая доля сотрудников умеет формулировать задачи так, чтобы агент выполнил их с минимальным числом обращений к модели. Неполные или неясные инструкции приводят к повторным запросам к модели и созданию «петель» — когда расход токенов растёт без пропорционального результата.

Экономические последствия стали заметны уже в начале 2026 года. По данным UBS Global Research, одна компания сообщила о росте расходов на Anthropic с $20 000 в декабре до почти $1 млн в июле. Ещё одна фирма получила счёт примерно на $500 млн после запуска ИИ‑инструментов без лимитов. В ответ руководства вводят внутренние лимиты, оповещения о превышениях и контрольные пороги.

В эссе предлагается построить управленческую инфраструктуру для агентных систем: чёткие описания процессов, критерии оценки качества результата, контроль расходов и распределение задач между моделями разного уровня. Одна из практик — model routing: простые операции направлять более дешёвым моделям, а сложные и дорогие оставлять для продвинутых систем.

Некоторые компании отказались от мотивации сотрудников через объёмы потребления токенов и пересматривают внутренние метрики эффективности. Hebbia называет управление контекстом и инструкциями ключевыми элементами при внедрении агентов. В тексте также отмечается риск нежелания сотрудников передавать важный рабочий контекст ИИ‑системам, чтобы сохранить конкурентные преимущества внутри компании.

Эксперты, занимающиеся внедрением корпоративных ИИ‑решений, фиксируют переход от свободного использования моделей к более строгому менеджменту и маршрутизации запросов. Компании продолжают вводить технические и организационные меры для снижения расходов и контроля качества результатов.