Как уменьшить расход токенов хорошей постановкой задачи

Сначала измерьте, где тратится контекст

Разделите системные инструкции, историю, вложения, результаты инструментов и ответ. Без этого оптимизация превращается в сокращение самого заметного абзаца.

Сравнивайте одинаковую задачу и модель. Цена и учёт токенов зависят от провайдера и могут меняться.

1. Храните факт один раз

Не копируйте полный план в каждое сообщение, если агент может прочитать файл. Обновляйте каноническую карточку и давайте путь.

Удалите устаревшие версии, иначе модель тратит контекст ещё и на разрешение конфликта.

2. Ограничьте поиск и вывод

Назовите рабочую папку, тип файлов и конкретный пользовательский путь. Попросите выводить только решение, проверки и blockers, если полный лог не нужен.

Ограничение не должно запрещать агенту прочитать критический контракт. Сначала точность, затем экономия.

3. Разделите исследование и реализацию

В сложной задаче сначала получите короткий read-only вывод и утвердите решение. Затем новый проход использует этот вывод как контекст реализации.

Не просите одновременно исследовать десять вариантов, реализовать лучший и развернуть production без точки выбора.

4. Ограничивайте результаты инструментов

Используйте rg по точному шаблону, выборочные строки и разумный max output. Большой бинарный diff или журнал на десять тысяч строк редко нужен целиком.

Сохраняйте полный отчёт в файл, а в контекст возвращайте структурированное резюме и важные строки.

• искать по имени и символу;
• читать нужный диапазон;
• не повторять неизменный вывод;
• не вставлять секреты ради контекста.

5. Задайте размер полезного ответа

Попросите компактный план, exact paths и evidence вместо пересказа каждого шага. Для текста, наоборот, укажите требуемую глубину, чтобы экономия не создала тонкую страницу.

Ограничение «не больше 300 слов» уместно для резюме, но не для задачи, где нужно доказать архитектурное решение.

Когда экономить токены нельзя

Не удаляйте правила безопасности, авторитетные состояния, миграционные границы и критерии приёмки. Цена пропущенного ограничения выше стоимости контекста.

Effort помогает убрать повторения и структурировать вход. Он не считает фактическую стоимость API и не гарантирует меньше токенов для каждой модели.