Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Один timestamp, один round-robin, один плавающий список tools: 7 анти-паттернов, которые убивают префикс кэша LLM

30.03.2026 08:00:11 | Хабр

Хабы: Блог компании Битрикс24, Искусственный интеллект

Кэширование включено, а cached_tokens всё равно не растут? Часто проблема не в модели и не в провайдере. Hit rate обычно режут совсем другие вещи: timestamp в начале запроса, плавающий порядок tools, разные реплики, RAG с нестабильным порядком чанков и слишком короткая жизнь KV-кэша. В статье разбираю 7 типовых анти-паттернов, которые убивают prefix_cache_hit в проде.

Читать далее

Подробнее

Читайте также

Парализованный мужчина управляет World of Warcraft мыслью: сто дней с нейроинтерфейсом Neuralink
30.03.2026 08:00:09 | Хабр

День 1496: число магазинов «в целом по стране» начало сокращаться впервые за 25 лет
30.03.2026 07:55:53 | vc.ru

Да-машина: почему ваш AI никогда не скажет что код — отстой
30.03.2026 07:51:09 | Хабр

Руководство по использованию функции ограничения скорости обработки входящих запросов в ASP.NET Core
30.03.2026 07:47:28 | Хабр

Команда — самолет и это не просто метафора
30.03.2026 07:46:01 | Хабр

[Перевод] Как ИИ попал в нашу питьевую воду. И почему никто не знает, что с этим делать
30.03.2026 07:42:26 | Хабр

[Перевод] Структуры данных на практике. Глава 11: Префиксные деревья и базисные деревья
30.03.2026 07:33:49 | Хабр

11 ошибок предпроектного обследования 1С, которые превращают внедрение в арбитраж
30.03.2026 07:30:39 | Хабр

Где была Алиса Селезнева. Искал ее адреса с помощью Python
30.03.2026 07:17:05 | Хабр

Как получить реальные данные с прода для тестирования, не сесть в тюрьму и не получить по шапке от службы безопасности
30.03.2026 07:00:55 | Хабр

Kimi K2.5 наступает на пятки GPT-5.4. И работает из России без VPN
30.03.2026 06:55:51 | Хабр

Как агенты видят веб-страницы
30.03.2026 06:45:24 | Хабр

Apache Superset — боремся с фильтрами по дате. Часть 2
30.03.2026 06:44:45 | Хабр

Неделя 3: 216 пользователей, UX-чистка и первый фидбек с Запада
30.03.2026 06:30:38 | Хабр

Нам нужен сотрудник с горящими глазами
30.03.2026 06:18:33 | Хабр

Сжатый свет: обманываем Гейзенберга и наблюдаем черные дыры
30.03.2026 06:06:44 | Хабр

О развитии и воспитании детей в цифровую эпоху: про разговоры, контакт, доверие и детские шутки
30.03.2026 05:57:31 | Хабр

Как я воспитываю и развиваю детей: про разговоры, контакт, доверие и детские шутки
30.03.2026 05:57:31 | Хабр

Делегаты и Лямбды: От тайного знания к повседневному инструменту
30.03.2026 05:36:28 | Хабр

Если ваш админ — самурай или «обнять и плакать»
30.03.2026 05:18:15 | Хабр

ИИстерия — а есть ли она?
30.03.2026 04:56:52 | Хабр

[Перевод] Долг понимания — скрытая цена кода, сгенерированного искусственным интеллектом
30.03.2026 04:55:36 | Хабр

Кибероттепель в Москве, а также слухи о грядущих AGI-моделях от OpenAI & Anthropic
30.03.2026 04:52:16 | Хабр

Российская ракета «Старт-1М» выведет на орбиту до 500 кг полезной нагрузки
29.03.2026 23:59:07 | ferra.ru

«Не может быть платежным средством»: почему цифровой рубль лучше криптовалюты
29.03.2026 23:55:56 | ferra.ru

DIY: создание новых компнентов в LibrePCB
29.03.2026 23:20:11 | Хабр

Россияне смогут обращаться в УК через чат-бот в мессенджере MAX
29.03.2026 22:58:29 | ferra.ru

Пермские ученые повысили КПД оптоволоконной передачи энергии
29.03.2026 22:10:45 | ferra.ru

ByteDance усилила защиту видеомодели Seedance 2.0 перед глобальным запуском
29.03.2026 21:26:43 | ferra.ru

Тест-систему для раннего выявления рака эндометрия создали в России
29.03.2026 21:17:12 | ferra.ru

Как мы сломали индекс обитаемости экзопланет: Парадокс ESI, Physics-Informed ML и 9600 фейковых «Земель»
29.03.2026 20:56:52 | Хабр

В Мурманске создадут центр по изучению и сохранению морских млекопитающих
29.03.2026 20:36:03 | ferra.ru

Роспотребнадзор не выявил новый вариант коронавируса «Цикада» в России
29.03.2026 20:28:49 | ferra.ru

IT-Weekly: новое поколение ИИ-помощника ГигаЧат, «Базис» представил Basis Dynamix Enterprise
29.03.2026 20:25:09 | it-world

Наконец-то нашел Android Service своей мечты после того, как потерял его 13 лет назад
29.03.2026 20:18:44 | Хабр

Смотреть все

НОВОСТИ

Россияне бросились скупать новые машины: рынок неожиданно пошёл вверх
01.06.2026 14:25:42 | За рулем

Эти автобренды в мае пересмотрели цены на новые машины
01.06.2026 13:25:02 | За рулем

Под Сумами власти обналичивают миллиарды через услуги в освобождённых сёлах
01.06.2026 12:15:08 | Life.ru

Минобороны сообщило об освобождении Тихоновки в ДНР
01.06.2026 12:12:23 | Life.ru

Любовь и голуби постарше: Сябитову возмутил роман дочери Михайлова с возрастным коллегой
01.06.2026 12:12:21 | Life.ru

Юрзинов: Барков на ЧМ как капитан был похож на Михайлова из сборной СССР
01.06.2026 12:11:59 | ТАСС

Экс-президент Армении Кочарян назвал последствия разрыва отношений страны с РФ
01.06.2026 12:11:53 | ТАСС

В Минводах бездомные собаки покусали двух детей восьми и девяти лет
01.06.2026 12:11:22 | Life.ru

ВС РФ освободили Тихоновку в ДНР
01.06.2026 12:11:10 | ТАСС

Управделами главы КБР избрали исполняющим обязанности мэра Нальчика
01.06.2026 12:11:06 | ТАСС

В Москве пешеход поджег обливший его из лужи Lexus
01.06.2026 12:10:06 | Коммерсантъ

МИД Ирана уличил Евросоюз в лицемерии и двойных стандартах
01.06.2026 12:10:00 | Российская Газета

ТАСС: Фидан обсудит в Сингапуре энергобезопасность, Иран, Украину
01.06.2026 12:09:46 | ТАСС

Директор ЗАЭС: удар ВСУ по машинному залу мог привести к потере энергоблока
01.06.2026 12:08:35 | ТАСС

На фестивале Движения первых дали старт летней оздоровительной кампании
01.06.2026 12:07:35 | ТАСС

ВСУ ударили по школе в Запорожской области в День защиты детей
01.06.2026 12:06:24 | Life.ru

Обвиняемый в убийстве Исаева показал, как стрелял в спортсмена
01.06.2026 12:06:07 | ТАСС

Карданахишвили считает, что у Голдина есть огромный потенциал для роста в НБА
01.06.2026 12:05:56 | ТАСС

Подачу заявок на повторные торги по продаже Рижского вокзала завершили
01.06.2026 12:04:36 | ТАСС

В нацпарке под Красноярском пропали двое детей
01.06.2026 12:04:34 | ТАСС

МИД Ирана: проект соглашения с США предусматривает оформление сделки через СБ ООН
01.06.2026 12:04:26 | ТАСС

Капитаном захваченного Францией танкера "Тагор" может быть россиянин
01.06.2026 12:04:00 | Российская Газета

На севере Москвы начали модернизацию крупного газорегуляторного пункта
01.06.2026 12:03:04 | ТАСС

Капитаном задержанного Францией танкера Tagor может быть россиянин
01.06.2026 12:03:02 | Life.ru

Депутат Ивлев: ЕС "сам себя высек" санкциями против российской нефти
01.06.2026 12:02:48 | ТАСС

В России начался прием заявок на летний сезон фестиваля "МультФилин"
01.06.2026 12:01:16 | ТАСС

Создана электросхема зарядки аккумуляторов для продления срока их службы
01.06.2026 12:01:11 | ТАСС

Сафонов должен войти в число номинантов на приз Льва Яшина, и вот почему
01.06.2026 12:01:00 | ТАСС

МВД лишило гражданства восемь выходцев из Центральной Азии
01.06.2026 12:00:51 | Коммерсантъ

Эксперт Подар заявил, что БРИКС не стоит оценивать как антизападное объединение
01.06.2026 12:00:49 | ТАСС

МИД РФ: не секрет, что украинские боевики орудуют в Ливии и атакуют суда России
01.06.2026 12:00:38 | ТАСС

Галибаф: война в Ливане говорит о том, что США не соблюдают перемирие
01.06.2026 12:00:22 | ТАСС

Путин поручил расширить соцподдержку бойцов СВО и их семей
01.06.2026 11:59:50 | Life.ru

EMG: в Мьянме число жертв взрыва на складе взрывчатых веществ возросло до 38
01.06.2026 11:59:36 | ТАСС

"По улыбке". Главное о старте эксперимента с посадкой в самолет по биометрии
01.06.2026 11:59:32 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro