Почему дорогая LLM дороже: экономика инференса, которую видно в твоём 5-часовом лимите

02.07.2026 22:37:33 | Хабр

Хабы: Искусственный интеллект, Natural Language Processing, Машинное обучение, Программирование, Исследования и прогнозы в IT

Каждый из вас, кто работал с Claude или с ChatGPT, смотрел на свои лимиты
Или задавался вопросом «Да как один запрос съел 10% от лимита»

Я потратил неделю на то, чтобы разобраться в том, а что вообще отображают эти лимиты

И на свет появилась третья статья из моей серии «А как вообще работают современные LLM»

После этой статьи ты разберёшься, что скрыто за 5-часовым лимитом Claude и других LLM и как на этом можно экономить. А еще — из каких примитивов состоят лимиты и какая физика вычислений за этим стоит

Ну а если работаешь с моделями по API, то вообще пушка бомба

Осторожно: после прочтения вы не сможете смотреть на полоску лимитов как прежде

Подробнее

Читайте также

Греф оценил рост производительности компаний от ИИ
02.07.2026 22:37:14 | ferra.ru

Google закрыла API Tenor, который Telegram использовал для отправки GIF-файлов
02.07.2026 22:30:02 | ferra.ru

В России расширят статус новых технологичных видов спорта
02.07.2026 22:14:19 | ferra.ru

redb.Route: два маршрута за вечер — от отладочного воркера до энтерпрайза на Tsak
02.07.2026 22:04:45 | Хабр

Асинхронность в WebAssembly (WASM)
02.07.2026 22:02:02 | Хабр

Вселенная как срез многомерного объекта: гипотеза о гравитации-инерции и «исчезающих» частицах
02.07.2026 21:58:41 | Хабр

Как я перестал бояться ESP-Claw и полюбил его
02.07.2026 21:31:59 | Хабр

Почему следущее поколение не будет уметь писать руками?
02.07.2026 21:22:26 | Хабр

Почему сейчас писать руками это тупо?
02.07.2026 21:22:26 | Хабр

В Калининграде создали прибор для оценки кровотока мозга
02.07.2026 21:15:57 | ferra.ru

В МАИ разработали беспилотную платформу для перевозки грузов
02.07.2026 20:54:41 | ferra.ru

В России начали внедрять биометрию по радужке глаза в аэропортах
02.07.2026 20:53:04 | ferra.ru

Функция Apple для скрытия почты начала… раскрывать настоящий адрес
02.07.2026 20:52:22 | ferra.ru

Samsung официально подтвердила разработку умного кольца Galaxy Ring 2
02.07.2026 20:30:05 | ferra.ru

MySQL под Хабраэффектом: кастомный асинхронный Connection Pool на Py, который экономит 80% RAM сервера
02.07.2026 20:11:55 | Хабр

Окупаемость ИИ: сколько малый бизнес теряет на рутине
02.07.2026 19:55:17 | Хабр

Microsoft разрешит превращать диски с играми для Xbox в цифровые копии
02.07.2026 19:52:19 | ferra.ru

Создаем собственные окружения в Reinforcement Learning
02.07.2026 19:40:03 | Хабр

В России ускорили моделирование дорожного трафика в десятки раз
02.07.2026 19:22:19 | ferra.ru

Китайская UBTech выпустила «ультрабионических» роботов с «кожей» и мимикой — они реагируют на прикосновения, сами начинают диалог и стоят от 1,3 млн рублей
02.07.2026 19:15:33 | vc.ru

Почему российский бизнес проигрывает битву за информацию и как это исправить. Часть 3
02.07.2026 19:08:59 | Хабр

Росатом разработал плазменную технологию переработки ядерных отходов
02.07.2026 19:05:00 | ferra.ru

Часть II. Начала дискретной математики. SQL, Комбинаторика, Тервер за 15 минут. SQL, EBNF, XPATH в 480 LOC
02.07.2026 19:02:30 | Хабр

iPhone 18 Pro выйдет в трёх цветах. И чёрного не будет
02.07.2026 18:52:15 | ferra.ru

Samsung намекнула на дату презентации Galaxy Z Fold8, Z Fold8 Ultra и Z Flip8
02.07.2026 18:30:06 | ferra.ru

Росатом создал первый в России чип для квантового сжатого света
02.07.2026 18:20:00 | ferra.ru

Microsoft уволит почти 6000 человек
02.07.2026 18:13:08 | ferra.ru

Кто кого заборет: тонкий смартфон на 8000 мАч против архаичного «броневика» на 10600
02.07.2026 18:05:20 | ferra.ru

Российскую систему мониторинга глюкозы включили в реестр промышленной продукции
02.07.2026 17:52:17 | ferra.ru

Код я написал за две недели. Продавать его боюсь до сих пор
02.07.2026 17:49:31 | Хабр

Учёные УрФУ: малые дозы рентгена ускоряют созревание йогурта на час
02.07.2026 17:35:00 | ferra.ru

Я адаптировал geo файлы v2ray для OpenWrt: теперь работают все сайты, а размер файлов уменьшен в 1000 раз
02.07.2026 17:34:00 | Хабр

Как растить мышцы одной тренировкой в неделю? Подход для ну очень занятых людей
02.07.2026 17:21:41 | Хабр

Мой первый вайб-кодинг
02.07.2026 17:16:51 | Хабр

10 небанальных признаков, что запускать рекламу на текущий сайт рано
02.07.2026 17:03:59 | Хабр

Смотреть все

НОВОСТИ

Шансы Мбаппе забить в матче 1/8 финала ЧМ-2026 с Парагваем оценили
03.07.2026 14:53:53 | Lenta.ru

По Санду велению, по Запада хотению: Почему молдавская элита ведёт страну по украинскому пути
03.07.2026 14:53:32 | Life.ru

В Белгородской области при детонации БПЛА на предприятии пострадали два человека
03.07.2026 14:53:23 | ТАСС

Живёшь за границей — не голосуешь: В Армении меняют правила выборов
03.07.2026 14:52:41 | Life.ru

Интенсивные дожди прольются в Москве
03.07.2026 14:52:35 | Lenta.ru

Семья назвала новорожденную дочь Россией
03.07.2026 14:52:22 | Lenta.ru

СК опубликовал видео с места обнаружения тела убитой девочки в Ленобласти
03.07.2026 14:52:15 | Life.ru

Лантратова выразила поддержку Минску после атаки ВСУ на автобус в Брянской области
03.07.2026 14:52:15 | ТАСС

"Яндекс" тестирует карту наличия топлива на АЗС для таксистов
03.07.2026 14:52:11 | ТАСС

Роспотребнадзор предупредил, что денге на Бали может маскироваться под грипп
03.07.2026 14:52:10 | ТАСС

Владелец крупной российской сети АЗС допустил дефолт
03.07.2026 14:52:00 | Lenta.ru

Друг пилота пропавшего в Приморье вертолета заявил, что он не мог упасть в море
03.07.2026 14:51:17 | ТАСС

Выскочил прямо перед составом: Поезд на полной скорости сбил медведя
03.07.2026 14:51:06 | Life.ru

В двух районах Марий Эл появятся новые молодежные пространства
03.07.2026 14:50:45 | ТАСС

Раскрыта сумма на счетах уехавшей из России Пугачевой
03.07.2026 14:50:33 | Lenta.ru

Названы места Подмосковья с самыми подешевевшими дачами
03.07.2026 14:48:43 | Lenta.ru

Россиян предостерегли от попыток пошутить над мошенниками
03.07.2026 14:48:23 | Lenta.ru

Территория музея "Самбекские высоты" возобновила работу после атаки ВСУ
03.07.2026 14:47:20 | ТАСС

Число случаев эвтаназии в Нидерландах за 25 лет выросло более чем в 4 раза
03.07.2026 14:47:10 | ТАСС

Врач назвал самую большую опасность детокс-капельницы
03.07.2026 14:46:40 | Lenta.ru

В Иране предупредили о военном ответе в случае нарушения США обязательств
03.07.2026 14:46:31 | ТАСС

Юные российские синхронисты выиграли два золота чемпионата Европы
03.07.2026 14:46:27 | ТАСС

Разработан метод, позволяющий роботам быстрее обрабатывать сложные детали
03.07.2026 14:46:17 | ТАСС

Цифровые решения Подмосковья помогут развивать сервисы для жителей ЛНР
03.07.2026 14:46:02 | ТАСС

Решать будут радикальнее: Как переименование запада Украины в «Малопольшу» запустит раздел территорий
03.07.2026 14:45:52 | Life.ru

Поиск лишившего жизни 12-летнюю девочку начали в российском регионе
03.07.2026 14:44:49 | Lenta.ru

В Мурманске арестовали женщин, похитивших ребенка ради выкупа
03.07.2026 14:43:52 | ТАСС

В Тюмени коммунальные чиновники пересели на велосипеды
03.07.2026 14:43:07 | Life.ru

Елена Ваенга показала внешность мужа и сына на фото
03.07.2026 14:43:03 | Lenta.ru

Одессу затянуло смогом
03.07.2026 14:42:56 | ТАСС

В Армении ужесточили наказание за подкуп избирателей
03.07.2026 14:42:35 | ТАСС

Еще одна страна Европы увеличила сроки оформления шенгена для россиян
03.07.2026 14:42:11 | Lenta.ru

В Сухуме после реконструкции открыли набережную Диоскуров
03.07.2026 14:42:00 | Российская Газета

Предсказана погода в выходные в Москве
03.07.2026 14:40:43 | Lenta.ru

Фильм "Шепот сердца" студии Ghibli выйдет в российский прокат 6 августа
03.07.2026 14:40:27 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro