Как мы выбирали планировщик GPU-задач для Nova AI: Volcano, Kueue и KAI Scheduler. Часть 1

15.07.2026 10:33:59 | Хабр

Хабы: Блог компании Orion soft, Программирование, Искусственный интеллект

Всем привет! Меня зовут Дима Матушкин, я инженер в команде Nova и занимаюсь развитием Nova AI.

В этой статье разберем одну из задач, с которой сталкивается почти любая команда, запускающая AI/ML-нагрузки в Kubernetes: как эффективно использовать GPU в кластере, где одновременно живут инференс, обучение, эксперименты, ноутбуки дата-сайентистов и batch-задачи.

На старте кажется, что достаточно установить NVIDIA GPU Operator, прокинуть видеокарты в Kubernetes и начать указывать nvidia.com/gpu в манифестах. Для простых сценариев этого действительно хватает. Но как только нагрузок становится больше, а GPU начинают конкурировать между собой, выясняется, что проблема не только в том, чтобы "выдать видеокарту" конкретному поду.

Нужно уметь запускать связанные поды как единое целое, управлять очередями, учитывать приоритеты, не ломать распределенные задачи из-за сетевой топологии и делить GPU так, чтобы дорогие ресурсы не простаивали. Обычный планировщик Kubernetes не закрывает эти сценарии комплексно, поэтому для Nova AI мы начали смотреть в сторону специализированных планировщиков для AI/ML нагрузок.

Подробнее

Читайте также

Как связать symfony 8 и Angular 22?
15.07.2026 10:31:29 | Хабр

Развертывание системы Колибри-АРМ в российском облаке
15.07.2026 10:30:27 | Хабр

Первым устройством OpenAI будет переносная колонка-компаньон с камерой. Звучит как троянский конь
15.07.2026 10:00:01 | Хабр

OSINT для ленивых. Часть 10: Когда OSINT не работает
15.07.2026 09:56:46 | Хабр

Минэкономразвития предложило разрешить продавцам переносить карточки товаров между маркетплейсами
15.07.2026 09:54:40 | vc.ru

К криптовалютам спасательный круг не прилагается
15.07.2026 09:49:26 | it-world

Агрегатор новостей заработал, когда я перестал доверять ИИ
15.07.2026 09:44:26 | Хабр

Думаете, что знаете все про LLM? Тогда мы идем к вам
15.07.2026 09:39:25 | Хабр

LLM против APK: сколько стоит автономно перепаковать Android-приложение
15.07.2026 09:36:24 | Хабр

OpenAI разрабатывает портативную «умную» колонку на базе ChatGPT — Bloomberg
15.07.2026 09:32:15 | vc.ru

Попробовали подключить ИИ-агента к бизнесу и посмотреть на процесс через призму UX
15.07.2026 09:27:57 | Хабр

Как интент-платформы помогают находить пользователей в момент принятия решения
15.07.2026 09:10:00 | Хабр

Сервис деск в строительстве: зачем тратить деньги на еще одну систему, если есть BIM, ERP и 1С?
15.07.2026 09:04:40 | Хабр

Обучаем ИИ видеть то, чего он никогда не видел
15.07.2026 09:01:22 | Хабр

Meta* отключила ИИ-функцию, что копировала лица с чужих аккаунтов Instagram*
15.07.2026 09:01:02 | ferra.ru

Почему фронтенд съедает больше времени, чем бэкенд
15.07.2026 09:00:21 | Хабр

Вторая попытка. Подключаем SDRAM к ПЛИС
15.07.2026 08:58:12 | Хабр

Предзаказ на книгу: «Высоконагруженные приложения. Программирование, масштабирование, поддержка. 2-е изд.»
15.07.2026 08:51:29 | Хабр

Говорят, спортивное программирование портит код. Почему я с этим не согласен
15.07.2026 08:47:08 | Хабр

Как развернуть модель для генерации видео LTX-2 на сервере
15.07.2026 08:44:00 | Хабр

Как я год строила SaaS и только потом поняла, что разработка — не самая сложная часть
15.07.2026 08:43:10 | Хабр

Почему хорошие идеи умирают на совещаниях
15.07.2026 08:41:47 | Хабр

Перенос VBA-макросов в Р7-Офис: почему простой замены кода недостаточно
15.07.2026 08:38:04 | Хабр

Что на самом деле означает медиана зарплат Senior PM: разбор на цифрах PropTech и FoodTech
15.07.2026 08:35:06 | Хабр

День 1603: автоперевозки из Китая в Россию за месяц подорожали на 15-25%
15.07.2026 08:32:28 | vc.ru

Архитектура RAG с виртуальной файловой системой и LLM-роутером
15.07.2026 08:31:53 | Хабр

От расшифровки звонков до собственных приложений: как ИИ взрослеет внутри CRM
15.07.2026 08:00:15 | Хабр

Что внутри ноутбука Maibenben M17A? Разборка офисной модели на базе AMD Ryzen-5 7430U и с большим 17.3" экраном
15.07.2026 07:57:30 | Хабр

Знакомство с командой Android
15.07.2026 07:56:31 | Хабр

Моды, которые превращают ванильный Fallout 4 в современную игру. Часть 1
15.07.2026 07:51:14 | Хабр

Point0 — простой, как tRPC, полноценный фулстек-фреймворк
15.07.2026 07:50:07 | Хабр

Как я собрал OmniBot: Discord Activity, локальный ruBERT и модерация без чёрного ящика
15.07.2026 07:46:14 | Хабр

Экспорт в формат IFC с учетом требований ТИМ-стандарта из ПО Revit
15.07.2026 07:23:10 | Хабр

База знаний для операторов поддержки банка: создаём основу для скриптов
15.07.2026 07:10:11 | Хабр

Zynq 7000. HDMI для платы Zynq Mini и Linux
15.07.2026 07:03:10 | Хабр

Смотреть все

НОВОСТИ

Раскрыты подробности о вечеринке рэпера Айсгергерта по случаю дня рождения
30.08.2026 12:59:29 | Lenta.ru

Россиянам назвали способ продлить заряд смартфона
30.08.2026 12:57:56 | Lenta.ru

Швейцария 27 сентября проведет референдум по инициативе о нейтралитете
30.08.2026 12:56:00 | Российская Газета

Дефицит продуктов начался во Львове вслед за Киевом
30.08.2026 12:55:02 | Life.ru

Фонарик телефона спас в темноте: Четверых сапбордистов унесло в море у мыса Айя
30.08.2026 12:54:05 | Life.ru

До 600 км/ч: Дроны-перехватчики ВСУ оказались бессильны перед реактивными дронами ВС РФ
30.08.2026 12:51:35 | Life.ru

Под Белгородом погиб африканский футболист Думбия
30.08.2026 12:51:18 | Life.ru

Россиян научили есть сгущенку
30.08.2026 12:50:59 | Lenta.ru

Путин ещё раз поздравил Лукашенко, но уже по телефону
30.08.2026 12:48:13 | Life.ru

Путин позвонил Лукашенко с поздравлениями
30.08.2026 12:48:00 | Российская Газета

В Непале спасли пролежавшего три дня под завалами ребенка
30.08.2026 12:46:00 | Lenta.ru

В Непале спали пролежавшего три дня под завалами ребенка
30.08.2026 12:46:00 | Lenta.ru

Пьяный мужчина угнал самолёт Cessna и залетел в зону АЭС «Пакш» в Венгрии
30.08.2026 12:43:49 | Life.ru

Пьяный мужчина угнал самолёт Cessna и посадил его у АЭС «Пакш» в Венгрии
30.08.2026 12:43:49 | Life.ru

Резервы ВСУ провалили «решающее» наступление в Днепропетровской области
30.08.2026 12:41:43 | Life.ru

Россияне Петров и Штыль взяли золото на ЧМ по гребле на байдарках
30.08.2026 12:37:16 | Life.ru

Посол рассказал об итогах мятежа в союзной России стране
30.08.2026 12:35:39 | Lenta.ru

Вместо курицы — резина: Москвич едва не отравился чебупиццей
30.08.2026 12:35:05 | Life.ru

Ирландец описал селедку под шубой фразой «западные диетологи сошли бы с ума»
30.08.2026 12:34:11 | Lenta.ru

Окно в Азию: Путин назвал ВЭФ уникальной площадкой для развития Дальнего Востока
30.08.2026 12:31:36 | Life.ru

Медведев сохранил восьмое место в рейтинге ATP
30.08.2026 12:30:18 | Lenta.ru

Ушёл и не вернулся: В Подмосковье разыскивают 16-летнего подростка
30.08.2026 12:30:04 | Life.ru

Два человека погибли от отравления палёным алкоголем в Тыве, двое в больнице
30.08.2026 12:29:18 | Life.ru

На случай войны или санкций: Китай нашёл в Оби защищённый от глаз США маршрут в Арктику
30.08.2026 12:26:25 | Life.ru

Три дня под землёй: В Непале спасатели услышали плач шестилетней девочки
30.08.2026 12:24:04 | Life.ru

Российские военные рассказали о ситуации в перешедших под их контроль населенных пунктах
30.08.2026 12:22:07 | Lenta.ru

Певца Потапа хотят лишить звания заслуженного артиста Украины за русский язык
30.08.2026 12:22:00 | Российская Газета

Верховный лидер Ирана призвал мусульманских лидеров противостоять "настоящему врагу"
30.08.2026 12:21:00 | Российская Газета

«Запад будет полыхать»: Европе предрекли череду гражданских войн
30.08.2026 12:17:50 | Life.ru

«На 2027 год никто не надеется»: Экс-посол Украины призвал готовиться к долгому конфликту
30.08.2026 12:16:01 | Life.ru

Не завтракать и искупаться в море: Губернатор Приморья рассказал, как победить джетлаг
30.08.2026 12:14:00 | Life.ru

«Курьер» научился плавать: На передовой испытали российского робота-амфибию
30.08.2026 12:13:03 | Life.ru

Попытка мятежа полностью подавлена. Что известно о ситуации в столице Нигера
30.08.2026 12:10:00 | Российская Газета

Gray Zone Warfare готовится к переходу в альфу: обновление 0.5 принесёт убежище, контрабанду и новые локации
30.08.2026 12:08:14 | PlayGround.ru

Россияне бросились скупать дофаминовые букеты
30.08.2026 12:07:03 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro