Индустрия перешла с оплаты за место на оплату за потребление, и счета поплыли. Gartner отдельно отмечает, что поставщики недостаточно прозрачны в этом вопросе, а команды сообщают о скачках с двадцати или ста долларов до тысяч в месяц на разработчика.
Разберём, откуда берётся такой расход и что реально помогает.
Почему счёт растёт незаметно
Дело в том, как работают агенты. Обычный запрос в чат это один вызов. Агент на задаче делает десятки вызовов, и каждый следующий тащит в контекст всё, что было раньше.
Отсюда три источника незаметного расхода:
- Контекст накапливается. Двадцатый шаг агента стоит дороже первого, потому что несёт историю всех предыдущих.
- Повторные попытки. Агент ошибся, прочитал ошибку, переделал. Каждая итерация оплачена.
- Фоновые запуски. Агент в CI дёргается на каждый коммит, и расход растёт вместе с активностью команды, а не с вашими решениями.
Самая обидная статья расхода
По оценке, которая разошлась по индустрии, значительная доля токенов уходит на починку багов, которые сгенерировала сама модель.
Это стоит осознать: вы платите дважды, сначала за генерацию проблемы, потом за её поиск и устранение. Отсюда практический вывод, который экономит больше любых микрооптимизаций: чем точнее поставлена задача на входе, тем меньше вы заплатите на выходе.
Что реально снижает счёт
Разделите модели по задачам. Флагман нужен там, где надо связать много контекста. Разбор логов, переписывание текста и генерация однотипного кода прекрасно делаются младшей моделью.
Ограничьте длину ответа. Выход дороже входа в разы. Просьба «ответь кодом без пояснений» режет счёт заметно и ничего не ломает.
Не кладите в контекст весь файл, если нужен один метод. Вход дешевле выхода, но не бесплатный, а на агентных сценариях он накапливается.
Поставьте потолок заранее. Месячный лимит с уведомлением на семидесяти процентах решает проблему до того, как она станет неприятной. В кабинете Claudexia лимит и пороги настраиваются на пользователя и на каждую команду отдельно.
Как понять, куда уходят деньги
Общий счёт бесполезен, пока вы не видите разбивку. Нужно знать, какой ключ, какой проект и какая модель дали расход.
У нас статистика идёт по каждому ключу отдельно, а суб-организации позволяют развести команды и проекты по своим бюджетам. В конце месяца не приходится сводить руками.
Коротко
Расход на агентов это не фиксированная статья, а функция от того, как вы ставите задачи и какие модели выбираете. Потолок, разбивка по ключам и разумный выбор модели снимают большую часть проблемы.