Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Зачем Авито нужна своя Inference-платформа для ML/LLM-сервисов: PaaS vs отдельное решение

02.10.2026 10:13:09 | Хабр

Хабы: Блог компании AvitoTech, Машинное обучение, Kubernetes, DevOps, Искусственный интеллект

Привет, Хабр! Меня зовут Антон Алексеев, я ML Ops-инженер в Авито.

В этой статье я разберу, почему существующий PaaS — отличный инструмент для веб-сервисов, но плохо подходит для ML/LLM-Inference, и с какими похожими проблемами сталкиваются крупные компании, у которых те же задачи.

Также расскажу, почему было принято решение не дорабатывать PaaS под Inference, а строить отдельную Inference-платформу на базе готового open-source ядра, и почему этот путь оказался предпочтительнее.

Читать далее

Подробнее

Читайте также

ИИ-ревью, или как я себя чуть не уволил
02.10.2026 10:01:59 | Хабр

Я хотел одного гуля, а ИИ‑агенты собрали конвейер 3D‑персонажей для Unreal Engine 5
02.10.2026 09:49:48 | Хабр

Как мы сделали мультиплатформенный механизм для сброса пароля в IDM
02.10.2026 09:41:12 | Хабр

Моя история с Elementor: 9 вещей, которые я понял после одного сломанного сайта
02.10.2026 09:41:08 | Хабр

США ввели санкции против российской платёжной системы А7 — предлогом для этого стали обвинения в обходе санкций против Ирана
02.10.2026 09:36:46 | vc.ru

DBML Diagram для IntelliJ IDEA с офлайн превью и открытым исходным кодом
02.10.2026 09:36:21 | Хабр

Каков предел у оптоволокна? Эпизод I: Скрытая математика
02.10.2026 09:35:56 | Хабр

[Перевод] ИИ-агенты становятся коллегами: как это меняет работу команды
02.10.2026 09:32:52 | Хабр

ИИ-конструктор для создания ботов
02.10.2026 09:28:09 | Хабр

Первый иск за «сбежавших» ИИ-агентов: кто отвечает, если агент сам взломал чужую систему
02.10.2026 09:24:41 | Хабр

Пишем свой аналог Substance Painter внутри Godot 4: процедурные шейдеры, кисти Фотошоп и BVH‑рейкастинг на лету
02.10.2026 09:21:50 | Хабр

[Перевод] Бабушки были правы: ковыряние в земле полезно для здоровья
02.10.2026 09:13:15 | Хабр

Внешний Fuzzy-поиск для 1С: транслит, синонимы и любые реквизиты
02.10.2026 09:00:13 | Хабр

Как мультимодальные модели научились понимать товар, а не картинку
02.10.2026 09:00:13 | Хабр

Cоздаю игру на Unity
02.10.2026 08:56:24 | Хабр

От шести деплоев к одному: общий сайдбар на Module Federation
02.10.2026 08:55:06 | Хабр

Как я перешла из QA в тимлиды разработки
02.10.2026 08:54:40 | Хабр

Я устал от приложений для английского и сделал свою таблицу. Или как учить английский в Telegram, если нет времени
02.10.2026 08:51:44 | Хабр

Пинпад с нейронкой на борту: как мы научили платёжный терминал распознавать заказы и подчиняться голосу
02.10.2026 08:51:43 | Хабр

История одного пулреквеста в DKMS: когда сообщение об ошибке — это баг
02.10.2026 08:49:50 | Хабр

[Перевод] Как работает поиск в SaaS Kiva, где у каждого клиента своя база данных
02.10.2026 08:45:34 | Хабр

SimpleRPC (libsrpc): Простой RPC на Си для Linux-приложений
02.10.2026 08:44:54 | Хабр

День 1681: Владимир Путин оценил ущерб от ударов по российским НПЗ в 1% ВВП
02.10.2026 08:40:45 | vc.ru

Несмотря на постоянные анонсы, ИИ-сервисы покупаются плохо
02.10.2026 08:30:11 | ferra.ru

Разбор Jev — модели, которая не умеет писать
02.10.2026 08:00:06 | Хабр

50 лет эволюции поиска по коду: что под капотом кодинговых агентов
02.10.2026 07:52:15 | Хабр

Запустили полнотекстовый и гибридный поиск в YDB: рассказываем, что под капотом
02.10.2026 07:30:44 | Хабр

Как нейросети выбирают источники для ответов и почему половину ссылок получают два ресурса в нише
02.10.2026 07:26:26 | Хабр

Почему превращать всё корпоративное знание в курсы — плохая идея
02.10.2026 07:22:03 | Хабр

429 — это не про скорость. Это про бюджет, которого ты не видишь
02.10.2026 07:18:42 | Хабр

Технология будущего в 2003 году. Взлёт и падение IrDA
02.10.2026 07:05:01 | Хабр

Книга для разработчиков, контент-дизайнеров, продакт-менеджеров
02.10.2026 07:03:27 | Хабр

Как я в гейм‑дев «заходил»…
02.10.2026 07:00:01 | Хабр

ФНС заблокировала счет. Что спишут раньше — зарплату или налоги
02.10.2026 07:00:01 | Хабр

[Перевод] Шон Кэролл: существует ли время?
02.10.2026 06:46:38 | Хабр

Смотреть все

НОВОСТИ

Набирающий популярность в РФ кроссовер получит полный привод: новая модификация
20.12.2026 06:40:00 | За рулем

Живодёр, державший кошку в заложниках в Подмосковье, выбросил её на улицу
03.10.2026 19:08:38 | Life.ru

На Гавайях обрушилась известная достопримечательность
03.10.2026 19:06:34 | Lenta.ru

Чехия призвала Европу направлять деньги на восстановление Украины
03.10.2026 19:04:41 | Lenta.ru

Аделия Петросян завоевала серебро на первом международном турнире после Олимпиады
03.10.2026 19:03:52 | Life.ru

Петросян завоевала серебро на «Челленджере» в Батуми
03.10.2026 19:03:52 | Life.ru

Во Флориде зафиксирована самая крупная вспышка лихорадки денге за десятилетия
03.10.2026 19:03:00 | Российская Газета

Войска Эфиопии отбили главный аэропорт столицы Тыграя
03.10.2026 19:02:00 | Российская Газета

В Словакии открыли памятник маршалу Коневу
03.10.2026 19:01:01 | Life.ru

В КНДР после учений назвали «неизбежным» удар ракет с технологиями ИИ
03.10.2026 19:00:34 | РБК

Сборная Бразилии с капитаном «Зенита» в составе разгромила Индию
03.10.2026 18:59:54 | РБК

Штайнмайер заявил о разочаровании немцев спустя 36 лет после объединения Германии
03.10.2026 18:58:06 | ТАСС

Никитина освободили от должности статс-секретаря - заместителя министра спорта
03.10.2026 18:57:47 | ТАСС

Бойцы двух украинских бригад открыли огонь друг по другу в центре Харькова
03.10.2026 18:56:12 | Life.ru

Бойцы двух украинских бригад открыли огонь друг по другу в Харькове
03.10.2026 18:56:12 | Life.ru

ТАСС: прощание с Кашпировским состоится 8 октября
03.10.2026 18:55:48 | ТАСС

Глава Egosoft признался в бутафорской экономике культовой X: Beyond the Frontier
03.10.2026 18:55:05 | PlayGround.ru

Politico сообщило о новой напряженности в ЕС из-за спора о бюджете
03.10.2026 18:53:29 | РБК

Петросян завоевала серебро на первом турнире после ухода от Тутберидзе
03.10.2026 18:53:25 | РБК

На серой линии московского метро восстановили движение
03.10.2026 18:51:49 | ТАСС

Российская фигуристка Петросян завоевала серебро на турнире в Грузии
03.10.2026 18:51:20 | ТАСС

На ЗАЭС сообщили о повреждении Запорожской ТЭС после обстрелов
03.10.2026 18:50:32 | РБК

Макрон, мы не хотим войны! В Париже прошёл митинг против помощи Киеву и «за Фрексит!»
03.10.2026 18:49:11 | Life.ru

Создатели Stars Reach сосредоточились на продаже мерча на фоне проблем с серверами в раннем доступе
03.10.2026 18:46:33 | PlayGround.ru

Возможно, процессор для Steam Deck 2 уже существует. В драйвере AMD засветился чип, который может им быть
03.10.2026 18:46:04 | iXBT.com

На ЗАЭС сообщили о повреждении оборудования близ станции из-за обстрелов ВСУ
03.10.2026 18:45:00 | Lenta.ru

Наследный принц Дубая навестил в больнице пилота Flydubai, спасшего пассажиров
03.10.2026 18:44:48 | Life.ru

Посол Намибии в РФ хотела бы ответного матча футбольных сборных в Африке
03.10.2026 18:44:03 | ТАСС

В МИД Египта отвергли причастность к событиям в Эфиопии
03.10.2026 18:43:57 | ТАСС

МИД Египта: Каир не причастен к происходящему в Эфиопии
03.10.2026 18:43:57 | ТАСС

Парижане вышли на демонстрацию против помощи Украине
03.10.2026 18:41:46 | Lenta.ru

Посол Намибии отметила важность участия страны в саммите Россия - Африка
03.10.2026 18:37:38 | ТАСС

NYT допустила «логистический кошмар» для Киева из-за ударов по мостам
03.10.2026 18:37:28 | РБК

Чехия призвала Европу направлять деньги на восстановление Украины, а не на войну
03.10.2026 18:37:19 | ТАСС

Пожарные вновь приехали к особняку Миллера спустя сутки после тушения
03.10.2026 18:36:31 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro