Как мы выбирали планировщик GPU-задач для Nova AI: Volcano, Kueue и KAI Scheduler. Часть 1

15.07.2026 10:33:59 | Хабр

Хабы: Блог компании Orion soft, Программирование, Искусственный интеллект

Всем привет! Меня зовут Дима Матушкин, я инженер в команде Nova и занимаюсь развитием Nova AI.

В этой статье разберем одну из задач, с которой сталкивается почти любая команда, запускающая AI/ML-нагрузки в Kubernetes: как эффективно использовать GPU в кластере, где одновременно живут инференс, обучение, эксперименты, ноутбуки дата-сайентистов и batch-задачи.

На старте кажется, что достаточно установить NVIDIA GPU Operator, прокинуть видеокарты в Kubernetes и начать указывать nvidia.com/gpu в манифестах. Для простых сценариев этого действительно хватает. Но как только нагрузок становится больше, а GPU начинают конкурировать между собой, выясняется, что проблема не только в том, чтобы "выдать видеокарту" конкретному поду.

Нужно уметь запускать связанные поды как единое целое, управлять очередями, учитывать приоритеты, не ломать распределенные задачи из-за сетевой топологии и делить GPU так, чтобы дорогие ресурсы не простаивали. Обычный планировщик Kubernetes не закрывает эти сценарии комплексно, поэтому для Nova AI мы начали смотреть в сторону специализированных планировщиков для AI/ML нагрузок.

Подробнее

Читайте также

Как связать symfony 8 и Angular 22?
15.07.2026 10:31:29 | Хабр

Развертывание системы Колибри-АРМ в российском облаке
15.07.2026 10:30:27 | Хабр

Первым устройством OpenAI будет переносная колонка-компаньон с камерой. Звучит как троянский конь
15.07.2026 10:00:01 | Хабр

OSINT для ленивых. Часть 10: Когда OSINT не работает
15.07.2026 09:56:46 | Хабр

Минэкономразвития предложило разрешить продавцам переносить карточки товаров между маркетплейсами
15.07.2026 09:54:40 | vc.ru

К криптовалютам спасательный круг не прилагается
15.07.2026 09:49:26 | it-world

Агрегатор новостей заработал, когда я перестал доверять ИИ
15.07.2026 09:44:26 | Хабр

Думаете, что знаете все про LLM? Тогда мы идем к вам
15.07.2026 09:39:25 | Хабр

LLM против APK: сколько стоит автономно перепаковать Android-приложение
15.07.2026 09:36:24 | Хабр

OpenAI разрабатывает портативную «умную» колонку на базе ChatGPT — Bloomberg
15.07.2026 09:32:15 | vc.ru

Попробовали подключить ИИ-агента к бизнесу и посмотреть на процесс через призму UX
15.07.2026 09:27:57 | Хабр

Как интент-платформы помогают находить пользователей в момент принятия решения
15.07.2026 09:10:00 | Хабр

Сервис деск в строительстве: зачем тратить деньги на еще одну систему, если есть BIM, ERP и 1С?
15.07.2026 09:04:40 | Хабр

Обучаем ИИ видеть то, чего он никогда не видел
15.07.2026 09:01:22 | Хабр

Meta* отключила ИИ-функцию, что копировала лица с чужих аккаунтов Instagram*
15.07.2026 09:01:02 | ferra.ru

Почему фронтенд съедает больше времени, чем бэкенд
15.07.2026 09:00:21 | Хабр

Вторая попытка. Подключаем SDRAM к ПЛИС
15.07.2026 08:58:12 | Хабр

Предзаказ на книгу: «Высоконагруженные приложения. Программирование, масштабирование, поддержка. 2-е изд.»
15.07.2026 08:51:29 | Хабр

Говорят, спортивное программирование портит код. Почему я с этим не согласен
15.07.2026 08:47:08 | Хабр

Как развернуть модель для генерации видео LTX-2 на сервере
15.07.2026 08:44:00 | Хабр

Как я год строила SaaS и только потом поняла, что разработка — не самая сложная часть
15.07.2026 08:43:10 | Хабр

Почему хорошие идеи умирают на совещаниях
15.07.2026 08:41:47 | Хабр

Перенос VBA-макросов в Р7-Офис: почему простой замены кода недостаточно
15.07.2026 08:38:04 | Хабр

Что на самом деле означает медиана зарплат Senior PM: разбор на цифрах PropTech и FoodTech
15.07.2026 08:35:06 | Хабр

День 1603: автоперевозки из Китая в Россию за месяц подорожали на 15-25%
15.07.2026 08:32:28 | vc.ru

Архитектура RAG с виртуальной файловой системой и LLM-роутером
15.07.2026 08:31:53 | Хабр

От расшифровки звонков до собственных приложений: как ИИ взрослеет внутри CRM
15.07.2026 08:00:15 | Хабр

Что внутри ноутбука Maibenben M17A? Разборка офисной модели на базе AMD Ryzen-5 7430U и с большим 17.3" экраном
15.07.2026 07:57:30 | Хабр

Знакомство с командой Android
15.07.2026 07:56:31 | Хабр

Моды, которые превращают ванильный Fallout 4 в современную игру. Часть 1
15.07.2026 07:51:14 | Хабр

Point0 — простой, как tRPC, полноценный фулстек-фреймворк
15.07.2026 07:50:07 | Хабр

Как я собрал OmniBot: Discord Activity, локальный ruBERT и модерация без чёрного ящика
15.07.2026 07:46:14 | Хабр

Экспорт в формат IFC с учетом требований ТИМ-стандарта из ПО Revit
15.07.2026 07:23:10 | Хабр

База знаний для операторов поддержки банка: создаём основу для скриптов
15.07.2026 07:10:11 | Хабр

Zynq 7000. HDMI для платы Zynq Mini и Linux
15.07.2026 07:03:10 | Хабр

Смотреть все

НОВОСТИ

«Как пушечное мясо»: Прибалтике пригрозили исчезновением из-за русофобской политики
15.07.2026 17:18:49 | Life.ru

Стало известно о смертельном ударе ВСУ по административному зданию в российском регионе
15.07.2026 17:18:33 | Lenta.ru

Худеть планируете? Дизайнеры свадебных платьев бьют тревогу из-за «Оземпика»
15.07.2026 17:17:57 | Life.ru

Киевский судья пойдёт под суд из-за любви к русским песням
15.07.2026 17:17:46 | Life.ru

Эксперт спрогнозировал последствия разбирательства ФАС с Apple для россиян
15.07.2026 17:16:47 | Lenta.ru

Россиян предупредили о комарах-переносчиках инфекций
15.07.2026 17:16:22 | Lenta.ru

«Грош цена»: Олимпийская чемпионка ответила сербской прыгунье, жалующейся на сексизм в трансляциях
15.07.2026 17:15:10 | Life.ru

МиГ-29 ВСУ, сбитый украинской С-300, использовался в Германии и Польше
15.07.2026 17:12:23 | Life.ru

Захарова прокомментировала выбор Дома инвалидов для саммита "коалиции желающих"
15.07.2026 17:12:00 | Российская Газета

Захарова: слова Моравецкого о крови украинцев за технику надо транслировать по Украине
15.07.2026 17:11:24 | ТАСС

Дрон ударил по зданию в курском приграничье: погибла 36-летняя женщина
15.07.2026 17:11:00 | Life.ru

Россияне стали чаще летать за границу
15.07.2026 17:10:00 | Lenta.ru

Захарова: шаги НАТО в Арктике повышают риск инцидентов с негативными последствиями
15.07.2026 17:09:37 | ТАСС

Экс-глава МИД Венгрии Сийярто ушёл из парламента ради поста в автогиганте из КНР
15.07.2026 17:09:17 | Life.ru

Пьяный мужчина «домахался» розочкой в аэропорту Красноярска и ранил себя
15.07.2026 17:08:37 | Life.ru

В Нижнем Новгороде мужчина застрял в мусоропроводе
15.07.2026 17:08:30 | ТАСС

Российские туристы застряли на опасном аттракционе в Азии
15.07.2026 17:07:58 | Lenta.ru

В Сочи устранили последствия схода селя на федеральную трассу
15.07.2026 17:07:37 | ТАСС

В Совфеде призвали не гадать о визите Вучича в Киев и дождаться итогов
15.07.2026 17:07:19 | Life.ru

Прокуратура Парижа отказалась оспаривать недавний вердикт суда по Марин Ле Пен
15.07.2026 17:07:00 | Российская Газета

Российские чиновники отказали бойцу СВО в выплате по ранению
15.07.2026 17:05:38 | Lenta.ru

Вскрыта информация о тайном центре британской разведки в Киеве, где испытывают ИИ-оружие
15.07.2026 17:05:29 | Life.ru

В курском приграничье из-за атаки дрона ВСУ на административное здание погибла женщина
15.07.2026 17:05:05 | ТАСС

Заявивший о поддержке территориальных уступок чиновник может стать министром на Украине
15.07.2026 17:04:32 | Lenta.ru

ЕК выделила еще €1 млрд на дроны для Киева
15.07.2026 17:04:16 | ТАСС

Rafale против Су-57: в США указали на слабые места французских истребителей
15.07.2026 17:03:59 | Life.ru

За звание культурной столицы РФ в 2028 году проголосовали более 1 млн россиян
15.07.2026 17:03:57 | ТАСС

Захарова: РФ обеспокоена возобновлением военных действий в зоне Персидского залива
15.07.2026 17:03:34 | ТАСС

Кандидат в главы Нацразведки США выразил готовность снабжать Украину разведданными
15.07.2026 17:03:31 | ТАСС

Иран планирует запустить спутниковую группировку "Шахид Сулеймани"
15.07.2026 17:03:00 | Российская Газета

KI: Выдача лицензии Украине на выпуск ракет для Patriot растянется на месяцы
15.07.2026 17:02:00 | Российская Газета

Поенный боец ВСУ пообещал ликвидировать командование в случае обмена на Украину
15.07.2026 17:01:49 | Life.ru

Захарова назвала одно препятствие для окончания конфликта на Украине
15.07.2026 17:01:45 | Lenta.ru

В Саратове из загоревшегося дома эвакуировали 11 человек
15.07.2026 17:00:45 | ТАСС

Захарова: Зеленский обязался нарастить мобилизацию за кредит ЕС
15.07.2026 17:00:09 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro