Куда делись мои токены?

07.07.2026 13:53:53 | Хабр

Хабы: Искусственный интеллект, Серверная оптимизация

Когда начинаешь плотно работать с AI-агентом, кажется, что бОльшая часть токенов улетает на сложные процессы - код написать, сайт разобрать, статью подготовить, браузером поуправлять, в логах покопаться. Вроде логично, задача сложная, модель думает, инструменты дергает, контекст растет.

А потом смотришь внимательнее и понимаешь, что основная дыра вообще не там. Токены уходят не на полезную работу, а на служебную движуху вокруг нее. Cron-задачи, проверки, диагностика, статусные запросы, огромные списки инструментов “на всякий случай” - все это тихо ест бюджет каждый день. Агент еще ничего толком не сделал, а счетчик уже крутится. Примерно как если бы мастер пришел поменять розетку, но сначала выгрузил из газели весь строительный рынок, два перфоратора и почему-то бетономешалку.

Так что в статье решил поделится где именно была утечка, что я подкрутил и как получилось срезать примерно 4,6 млн токенов в день только на фоновых задачах.

Подробнее

Читайте также

Геймификация в IT: как сделать так, чтобы она не бесила команду
07.07.2026 13:51:13 | Хабр

Технический долг — это не только legacy: как мы уменьшаем разброс решений между Go-сервисами
07.07.2026 13:32:53 | Хабр

Ни ИСУП, ни регламенты. Единственное, что делает проекты управляемыми
07.07.2026 13:31:56 | Хабр

Внедрение цифрового рубля: что протестировать уже сейчас, чтобы избежать сбоев и не напороться на штрафы
07.07.2026 13:21:51 | Хабр

Идеальный рецепт СУП для холдинга: опыт «Кузбассразрезугля»
07.07.2026 13:21:26 | Хабр

Две недели я делал народную карту заправок. Написать код оказалось самой скучной частью работы
07.07.2026 13:18:14 | Хабр

Мой бот назвали «очередным поделием с ИИ». Комментатор прав
07.07.2026 13:10:54 | Хабр

Как заставить ИИ соблюдать закон, не трогая веса. Выкладываем в открытый доступ внешний фильтр для LLM
07.07.2026 13:10:22 | Хабр

[Перевод] Когда ИИ-агент ошибается молча: 6 отказов, которые не видно по ответу
07.07.2026 13:10:22 | Хабр

Plumix: как я переписываю Flutter на C# — вместе с ИИ
07.07.2026 12:58:08 | Хабр

«Чёрный ящик» техподдержки: как мы делаем сервис прозрачным для клиентов
07.07.2026 12:48:27 | Хабр

Подводные камни Learned Motion Matching: опыт реализации
07.07.2026 12:43:50 | Хабр

Тренажер Юмора — приложения для обучения шуткам
07.07.2026 12:32:27 | Хабр

Я ускорял исследования с помощью ИИ — а оказалось, дело вообще не в скорости
07.07.2026 12:22:10 | Хабр

Angular против React: зарплаты, кризис в IT и почему корпорации остаются на Angular
07.07.2026 12:14:16 | Хабр

Власти Австралии предупредили врачей об опасности работы с ИИ-агентами
07.07.2026 12:05:47 | ferra.ru

Как развернуть ТГ-бота на хостинге не выходя из чата с нейронкой
07.07.2026 12:05:32 | Хабр

Эмулятор CD-ROM из Raspberry Pi Pico W, использующий образы из сети
07.07.2026 12:01:41 | Хабр

Параметризованные отчёты в CSV без таймаута
07.07.2026 11:58:26 | Хабр

Swift 6.2 против вашего оптимизатора: разбираемся с InlineArray, Span и strict memory safety на замерах
07.07.2026 11:53:08 | Хабр

Июль 2026: Минцифры, закон о БФМ и эстонские ID для агентов. Что происходит с регулированием ИИ?
07.07.2026 11:46:22 | Хабр

[Перевод] Аутентификация в MCP в 2026: как было, как есть и как будет
07.07.2026 11:41:02 | Хабр

Гибкая система авторизации на основе политик в php
07.07.2026 11:40:45 | Хабр

Великий китайский ИИ файрвол и защита Лобстеров
07.07.2026 11:38:09 | Хабр

Лучшие нейросети чтобы создать песню — выбрали ТОП-7 ИИ для генерации треков в 2026
07.07.2026 11:26:24 | Хабр

В ожидании новой Divinity. Новости об игре и краткое погружение в лор
07.07.2026 11:13:20 | Хабр

Может ли LLM создать заготовку Django-проекта?
07.07.2026 11:12:43 | Хабр

Как мы научили AI разбирать упавшие автотесты и заводить баги в Трекере
07.07.2026 10:43:27 | Хабр

Когда финансовый результат ушел в минус, мы пошли не за отчетами, а за BI: как данные помогли найти издержки
07.07.2026 10:43:22 | Хабр

Дайджест ИБ-регулирования. Апрель-июнь 2026
07.07.2026 10:37:45 | Хабр

Модель электропривода с питанием от инвертора
07.07.2026 10:35:01 | Хабр

Микроэлектромеханические системы: патенты в мире и в России
07.07.2026 10:33:35 | Хабр

[Перевод] Проектирование POSTGRES: как задумывалась популярная СУБД
07.07.2026 10:30:10 | Хабр

Bloomberg: стратегический крипторезерв Дональда Трампа столкнулся со сложностями — ведомства не могут решить, кто должен им управлять
07.07.2026 10:18:33 | vc.ru

Security Week 2628: опасные уязвимости в библиотеке FatFs
07.07.2026 10:10:31 | Хабр

Смотреть все

НОВОСТИ

Трамп заявил об отмене мощного удара по Ирану из-за готовящейся сделки
02.08.2026 05:52:47 | Lenta.ru

Израильские антифашисты требуют запретить в их стране флаг ОУН-УПА
02.08.2026 05:51:53 | ТАСС

Путин оценил ход строительства первой высокоскоростной магистрали России
02.08.2026 05:47:07 | Life.ru

Названа причина лжи Зеленского о потерях ВСУ
02.08.2026 05:41:27 | Lenta.ru

Трамп заявил об отмене атаки на Иран в свете намечающейся сделки
02.08.2026 05:39:08 | Life.ru

В Новороссийске отменили угрозу атаки беспилотников
02.08.2026 05:38:45 | ТАСС

В Подмосковье ожидается туман
02.08.2026 05:36:35 | ТАСС

Рубио назвал отношения Трампа и Си Цзиньпина основанными на взаимоуважении
02.08.2026 05:34:53 | ТАСС

ВС РФ уничтожили пехоту и несколько наземных роботов ВСУ
02.08.2026 05:33:12 | ТАСС

Онищенко заявил, что рекреационный потенциал РФ используется не в полной мере
02.08.2026 05:31:46 | ТАСС

Вода за 700 рублей и стейк-«якорь»: Главные уловки ресторанов, на которые мы ведёмся
02.08.2026 05:30:00 | Life.ru

В Китае эвакуировали около 65 тыс. человек из-за ливней
02.08.2026 05:29:54 | ТАСС

Число жертв землетрясения в Японии достигло 38
02.08.2026 05:28:17 | ТАСС

20 бойцов элитного подразделения ВСУ уничтожены при взрыве на складах боеприпасов. За поставками следили несколько дней
02.08.2026 05:27:12 | Lenta.ru

В США выступают против принудительного изменения статуса-кво по Тайваню
02.08.2026 05:23:18 | ТАСС

В муниципалитетах Воронежской области отменили непосредственную опасность атаки БПЛА
02.08.2026 05:21:26 | ТАСС

В США уничтожают урожай салата-латук после вспышки «взрывной» диареи
02.08.2026 05:21:04 | Life.ru

Мощный удар отменяется: Трамп заявил о решении по Ирану и сделке
02.08.2026 05:17:00 | Российская Газета

Аэропорт Домодедово временно перешёл на работу по согласованию
02.08.2026 05:16:53 | Life.ru

ВС РФ уничтожили 15 наземных робототехнических комплексов ВСУ
02.08.2026 05:15:55 | ТАСС

Командующий ВДВ вручил награды десантникам за бои в Запорожской области
02.08.2026 05:13:56 | ТАСС

Рубио анонсировал попытку возобновить переговоры по Украине
02.08.2026 05:13:00 | Life.ru

Трамп согласился отменить запланированный мощный удар по Ирану
02.08.2026 05:11:12 | ТАСС

Минздрав изменил стандарт лечения туберкулеза у детей
02.08.2026 05:10:55 | ТАСС

Боец Утка рассказал о дроне "Гортензия-10" с нижними винтами
02.08.2026 05:10:42 | ТАСС

МВД предупредило об обмане под предлогом страховки за поиск спутниц на вечер
02.08.2026 05:10:03 | ТАСС

Рубио заявил о планах Ирана пойти на сделку по денуклеаризации и Ормузу
02.08.2026 05:10:02 | ТАСС

Рубио заявил о планах Ирана пойти на сделку по денуклеаризации и проливу
02.08.2026 05:10:02 | ТАСС

Минпросвещения предложило школьникам до девяти внеурочных курсов
02.08.2026 05:10:00 | Life.ru

Бойцы "Севера" за сутки уничтожили 128 дронов самолетного типа ВСУ
02.08.2026 05:06:49 | ТАСС

Ансамбль "Новороссия" выступил с концертом для бойцов "Запада"
02.08.2026 05:02:46 | ТАСС

Артисты ансамбля "Новороссия" выступили с концертом для бойцов "Запада"
02.08.2026 05:02:46 | ТАСС

Группировка "Юг" за сутки уничтожила 103 тяжелых дрона коптерного типа ВСУ
02.08.2026 05:01:33 | ТАСС

Бойцы Южной группировки за сутки уничтожили 103 тяжелых дрона коптерного типа
02.08.2026 05:01:33 | ТАСС

Псковские десантники группировки "Центр" встретили День ВДВ на передовой
02.08.2026 05:01:27 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro