YAKE! вместо нейросети: как мы заменили 600 МБ ONNX-реранкера на 400 строк статистики

24.04.2026 20:44:52 | Хабр

Хабы: Искусственный интеллект, Программирование, Управление проектами, Rust

В Yttri мы изначально использовали ONNX-реранкер bge-reranker-v2-m3 для RAG-поиска. Качество было хорошим, но цена для local-first desktop-приложения оказалась слишком высокой: около 600 МБ модели, до 1.8 ГБ RAM в пике и ощутимая нагрузка на CPU.

В статье разбираю, как мы заменили тяжёлый нейросетевой реранкер на собственную реализацию YAKE! на Rust: без модели, без прогрева, без внешних сервисов и с латентностью порядка микросекунд.

Показываю механику алгоритма, интеграцию в RAG, автотегирование, ограничения подхода и главный архитектурный вывод: не каждая AI-задача требует ещё одной нейросети. Иногда лучший AI-компонент - это тот, который удалось удалить.

Подробнее

Читайте также

На заводе ОСК в Санкт-Петербурге заложили морской тральщик «Дмитрий Глухов»
24.04.2026 20:35:00 | ferra.ru

Компания «Геоскан» запустит шесть спутников с мультиспектральными камерами
24.04.2026 20:31:44 | ferra.ru

Все об устройстве WSPR с примерами на Python (часть 2)
24.04.2026 20:05:28 | Хабр

Воскрешение NumLockCalc после 17 лет забвения
24.04.2026 19:56:09 | Хабр

В России создают солнечную обсерваторию на кубсатах
24.04.2026 19:54:47 | ferra.ru

Что, если человеческая глупость — это не ошибка, а замысел
24.04.2026 19:54:33 | Хабр

Двигатель ПД-8 для SJ-100 получит сертификат типа в течение месяца
24.04.2026 19:50:00 | ferra.ru

Топовый ноутбук Asus ROG Zephyrus Duo оценили в кусачие 8570 долларов
24.04.2026 19:23:06 | ferra.ru

«Геоскан» представил концепцию «Пионер икс» для наземных и подводных дронов
24.04.2026 19:17:38 | ferra.ru

[Перевод] 14 уроков за 14 лет опыта работы в Google
24.04.2026 19:08:18 | Хабр

«ЛизаАлерт», клиники и каршеринг вошли в обновлённый «белый список» Минцифры
24.04.2026 19:05:00 | ferra.ru

Microsoft предложит почти 9 тысячам сотрудникам уволиться добровольно
24.04.2026 19:01:13 | ferra.ru

ИИ спроектировал работающий процессор RISC-V с нуля за 12 часов
24.04.2026 18:49:04 | ferra.ru

[Перевод] Конфликты потоковой репликации в PostgreSQL
24.04.2026 18:20:31 | Хабр

Путин: Госуслуги и платежи должны оставаться доступными даже без интернета
24.04.2026 18:20:00 | ferra.ru

Как мы за 3 месяца обучили 15 человек поддержке и сэкономили бизнесу десятки миллионов рублей
24.04.2026 18:04:35 | Хабр

«Ъ» сообщил о сокращении выплат владельцам ПВЗ Wildberries в 2025 году — маркетплейс заявил, что информация не соответствует действительности
24.04.2026 17:57:58 | vc.ru

Ограничение VPN убьет маркетплейсы?
24.04.2026 17:57:00 | it-world

В России создали экспресс-тест на инфаркт
24.04.2026 17:54:43 | ferra.ru

Как работать с DDR4
24.04.2026 17:52:30 | Хабр

[Перевод] OpenAI представила ChatGPT Image 2.0: как пользоваться, получить доступ и насколько она лучше конкурентов
24.04.2026 17:41:03 | Хабр

Минцифры выдвигает новые требования к провайдерам
24.04.2026 17:34:52 | it-world

Мессенджер на Paginator. Боевые задачи
24.04.2026 17:27:28 | Хабр

Google Cloud выпустила два собственных ИИ-процессора
24.04.2026 17:23:08 | ferra.ru

ChatGPT 5.5: Полный обзор и тесты. Как использовать новую нейросеть в России
24.04.2026 17:13:08 | Хабр

«Сделай красиво» — это не промт: бренд-платформа за 8 часов без дизайнера
24.04.2026 17:03:54 | Хабр

OpenAI выпустила свою мощнейшую ИИ-модель GPT-5.5
24.04.2026 17:01:08 | ferra.ru

Open WebUI (с веб-поиском) + llama.cpp
24.04.2026 16:57:14 | Хабр

Права в Linux: chown/chmod, SELinux context, символьная/восьмеричная нотация, DAC/MAC/RBAC/ABAC
24.04.2026 16:46:42 | Хабр

JavaScript. Работа с большими файлами в браузере. Часть 1/2: Чтение файлов
24.04.2026 16:41:13 | Хабр

Эволюция людей как вида идёт всё время
24.04.2026 16:34:36 | Хабр

Документа ещё нет, а рынок уже всё понял: малые операторы ждут зачистки
24.04.2026 16:30:56 | Хабр

«Дзен» запустит ИИ-студию для СМИ
24.04.2026 16:14:51 | ferra.ru

Model Context Protocol (MCP): как ИИ-агенты «разговаривают» с внешним миром
24.04.2026 15:55:06 | Хабр

Никакой магии: только лексер, парсер и интерпретатор на чистом PHP
24.04.2026 15:50:24 | Хабр

Смотреть все

НОВОСТИ

«Анахайм» дал российскому защитнику Минтюкову пятилетний контракт на $36 млн
06.07.2026 01:53:29 | Life.ru

Севастополь остался без электроснабжения из-за атаки на инфраструктуру
06.07.2026 01:49:27 | ТАСС

В ОП предложили провести Год гастрономического туризма
06.07.2026 01:46:29 | ТАСС

МАГАТЭ пообещало проконтролировать использование Украиной британского урана
06.07.2026 01:43:26 | Lenta.ru

В Германии назвали нормальными рекордные займы для вооружения ФРГ
06.07.2026 01:42:13 | Lenta.ru

The Spectator назвал ксенофобией попытки запретить в Британии "Машу и Медведя"
06.07.2026 01:40:28 | ТАСС

Впервые на чемпионате мира трое футболистов забили минимум семь голов
06.07.2026 01:37:13 | ТАСС

В Венесуэле число жертв землетрясения превысило 3 тысячи человек
06.07.2026 01:35:46 | Life.ru

Командир Агалу: ВСУ бегут от Константиновки на северо-запад
06.07.2026 01:35:39 | ТАСС

Командир батальона: разрозненные группы ВСУ бегут от Константиновки ДНР на северо-запад
06.07.2026 01:35:39 | ТАСС

В подполье сообщили, что наводили ВС РФ на штаб ВСУ в Краматорске
06.07.2026 01:35:38 | ТАСС

Администрация Трампа позвонила в ФИФА из-за дисквалификации футболиста сборной США
06.07.2026 01:35:00 | Lenta.ru

Онищенко: вирус Эболы может выявляться у переболевшего в течение полугода
06.07.2026 01:30:48 | ТАСС

Неймар стал вторым бразильцем после Пеле, забившим на четырех ЧМ
06.07.2026 01:30:02 | ТАСС

Неймар стал вторым бразильцем после Пеле, забившим на четырех чемпионатах мира
06.07.2026 01:30:02 | ТАСС

В ГД предложили обязать направлять потерпевшим решения по административным делам
06.07.2026 01:29:18 | ТАСС

Холанд стал первым дебютантом ЧМ за 52 года, забившим семь голов
06.07.2026 01:28:26 | ТАСС

На территории Мордовии объявлена беспилотная опасность
06.07.2026 01:26:46 | ТАСС

Сборная Норвегии благодаря дублю Холанда обыграла Бразилию и вышла в 1/4 ЧМ-2026
06.07.2026 01:22:52 | Life.ru

"Питтсбург" подписал трехлетний контракт с хоккеистом Чинаховым
06.07.2026 01:21:09 | ТАСС

"Питтсбург" подписал трехлетний контракт с российским хоккеистом Чинаховым
06.07.2026 01:21:09 | ТАСС

Аналитики выяснили, что треть работающих россиян год не уходили на больничный
06.07.2026 01:20:20 | ТАСС

В ГД назвали условия для безналоговой продажи собранных в лесу грибов и ягод
06.07.2026 01:18:18 | ТАСС

Временные ограничения введены в аэропортах Иванова и Ярославля
06.07.2026 01:17:21 | ТАСС

В Германии оценили предложение Путина о переговорщике от ЕС
06.07.2026 01:16:23 | Lenta.ru

ЦРУ вербовало шпионов «Виагрой», холодильниками и рыболовными снастями
06.07.2026 01:16:00 | Life.ru

Неймар забил гол за сборную Бразилии впервые с 2023 года
06.07.2026 01:08:59 | ТАСС

Во Франции из музея украли драгоценности на миллионы евро
06.07.2026 01:08:36 | Lenta.ru

В России нашли способ эффективнее выращивать природный "антибиотик"
06.07.2026 01:08:23 | ТАСС

Неймар превзошёл Пеле по числу матчей на чемпионатах мира по футболу
06.07.2026 01:08:04 | Life.ru

Холанд сравнялся с Месси и Мбаппе в списке лучших бомбардиров ЧМ-2026
06.07.2026 01:05:43 | ТАСС

Норвегия благодаря дублю Холанда обыграла Бразилию и вышла в 1/4 финала чемпионата мира
06.07.2026 01:05:35 | Lenta.ru

Сборная Бразилии впервые за 36 лет не вышла в четвертьфинал ЧМ
06.07.2026 01:05:33 | ТАСС

Сборная Бразилии впервые за 36 лет не вышла в четвертьфинал чемпионата мира
06.07.2026 01:05:33 | ТАСС

В МИД России отреагировали на отказ Киева забирать тела солдат из Константиновки
06.07.2026 01:05:31 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro