Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Маленькая модель на 0.6B держит квантование лучше, чем «крупная» на 1B: измерил деградацию function-calling на 4 ГБ VRAM

07.07.2026 14:38:15 | Хабр

Хабы: Машинное обучение, Python, Open source, Высоконагруженные системы, DevOps

Как квантование ломает function-calling у LLM? Собрал бенчмарк QuantCall, протестировав модели на 4 ГБ VRAM. Главный инсайт: устойчивость к квантам зависит не от размера, а от семейства. Меньшая Qwen3-0.6B стабильно генерирует валидный JSON даже на Q4, а более крупная Llama-3.2-1B деградирует уже на Q8, путая типы данных. Также GBNF-грамматики не спасают от ошибок, но заметно замедляют инференс.

Читать далее

Подробнее

Читайте также

«Роскосмос» ввёл правила заказа и продажи спутниковых снимков Земли госорганам — раньше они получали их бесплатно
07.07.2026 14:36:28 | vc.ru

Лучшие нейросети для создания презентаций по тексту, выбираем ТОП-5 ИИ для создания и улучшение слайдов
07.07.2026 14:34:41 | Хабр

Гибридные команды и агентская память: как мы учимся усиливать людей, а не заменять их
07.07.2026 14:25:34 | Хабр

Samsung пожертвовала удобством ради плоского экрана в складном Galaxy Z Fold8
07.07.2026 14:17:08 | ferra.ru

Amazon закроет доступ новым клиентам к 20-летнему сервису MTurk
07.07.2026 14:05:46 | ferra.ru

GitFlic CI/CD: первый конвейер с нуля — от коммита до деплоя
07.07.2026 14:01:34 | Хабр

Куда делись мои токены?
07.07.2026 13:53:53 | Хабр

Геймификация в IT: как сделать так, чтобы она не бесила команду
07.07.2026 13:51:13 | Хабр

Технический долг — это не только legacy: как мы уменьшаем разброс решений между Go-сервисами
07.07.2026 13:32:53 | Хабр

Ни ИСУП, ни регламенты. Единственное, что делает проекты управляемыми
07.07.2026 13:31:56 | Хабр

Внедрение цифрового рубля: что протестировать уже сейчас, чтобы избежать сбоев и не напороться на штрафы
07.07.2026 13:21:51 | Хабр

Идеальный рецепт СУП для холдинга: опыт «Кузбассразрезугля»
07.07.2026 13:21:26 | Хабр

Две недели я делал народную карту заправок. Написать код оказалось самой скучной частью работы
07.07.2026 13:18:14 | Хабр

Мой бот назвали «очередным поделием с ИИ». Комментатор прав
07.07.2026 13:10:54 | Хабр

Как заставить ИИ соблюдать закон, не трогая веса. Выкладываем в открытый доступ внешний фильтр для LLM
07.07.2026 13:10:22 | Хабр

[Перевод] Когда ИИ-агент ошибается молча: 6 отказов, которые не видно по ответу
07.07.2026 13:10:22 | Хабр

Plumix: как я переписываю Flutter на C# — вместе с ИИ
07.07.2026 12:58:08 | Хабр

«Чёрный ящик» техподдержки: как мы делаем сервис прозрачным для клиентов
07.07.2026 12:48:27 | Хабр

Подводные камни Learned Motion Matching: опыт реализации
07.07.2026 12:43:50 | Хабр

Тренажер Юмора — приложения для обучения шуткам
07.07.2026 12:32:27 | Хабр

Я ускорял исследования с помощью ИИ — а оказалось, дело вообще не в скорости
07.07.2026 12:22:10 | Хабр

Angular против React: зарплаты, кризис в IT и почему корпорации остаются на Angular
07.07.2026 12:14:16 | Хабр

Власти Австралии предупредили врачей об опасности работы с ИИ-агентами
07.07.2026 12:05:47 | ferra.ru

Как развернуть ТГ-бота на хостинге не выходя из чата с нейронкой
07.07.2026 12:05:32 | Хабр

Эмулятор CD-ROM из Raspberry Pi Pico W, использующий образы из сети
07.07.2026 12:01:41 | Хабр

Параметризованные отчёты в CSV без таймаута
07.07.2026 11:58:26 | Хабр

Swift 6.2 против вашего оптимизатора: разбираемся с InlineArray, Span и strict memory safety на замерах
07.07.2026 11:53:08 | Хабр

Июль 2026: Минцифры, закон о БФМ и эстонские ID для агентов. Что происходит с регулированием ИИ?
07.07.2026 11:46:22 | Хабр

[Перевод] Аутентификация в MCP в 2026: как было, как есть и как будет
07.07.2026 11:41:02 | Хабр

Гибкая система авторизации на основе политик в php
07.07.2026 11:40:45 | Хабр

Великий китайский ИИ файрвол и защита Лобстеров
07.07.2026 11:38:09 | Хабр

Лучшие нейросети чтобы создать песню — выбрали ТОП-7 ИИ для генерации треков в 2026
07.07.2026 11:26:24 | Хабр

В ожидании новой Divinity. Новости об игре и краткое погружение в лор
07.07.2026 11:13:20 | Хабр

Может ли LLM создать заготовку Django-проекта?
07.07.2026 11:12:43 | Хабр

Как мы научили AI разбирать упавшие автотесты и заводить баги в Трекере
07.07.2026 10:43:27 | Хабр

Смотреть все

НОВОСТИ

Сигал назвал Путина величайшим лидером в мире
11.07.2026 09:17:27 | ТАСС

Роспотребнадзор начал расследование после отравления 19 человек в Зарайске
11.07.2026 09:16:25 | Life.ru

Сестра Гуцул заявила, что в Гагаузии остались патриоты, которые отстоят автономию
11.07.2026 09:15:53 | ТАСС

В Татарстане назвали возможную причину съезда автобуса в кювет
11.07.2026 09:14:01 | ТАСС

Кенийский бегун побил державшийся 27 лет мировой рекорд
11.07.2026 09:10:36 | Lenta.ru

После ДТП с автобусом в Татарстане возбуждено уголовное дело
11.07.2026 09:10:17 | Коммерсантъ

Прятали в дорожной сумке: Беженка рассказала, как в Константиновке скрывали детей от ВСУ
11.07.2026 09:09:00 | Life.ru

Через пункт пропуска Кани-Курган въехал первый иностранец по электронной визе
11.07.2026 09:06:00 | Российская Газета

Пушилин заявил, что ВСУ долгие годы создавали в Константиновке укрепрайон
11.07.2026 09:02:04 | ТАСС

В Москве при взрыве пиротехники в жилом доме погиб человек
11.07.2026 09:01:33 | Life.ru

В МВД России назвали признаки "опасного" банкомата
11.07.2026 09:01:04 | ТАСС

Доходность 60% на падающем рынке: 10 лучших акций с начала 2026 года
11.07.2026 09:00:21 | РБК

У Венеры туберкулёз, у Давида — грыжа: Какие болезни мы не замечали в шедеврах мирового искусства
11.07.2026 09:00:00 | Life.ru

Кристофер Нолан посвятил "Одиссею" Дэвиду Кили - специалисту по IMAX, с которым он проработал более 20 лет
11.07.2026 08:58:09 | PlayGround.ru

В Белгородской области при атаке БПЛА пострадали два человека
11.07.2026 08:57:40 | Коммерсантъ

Под Белгородом при атаке дрона ВСУ на автомобиль пострадали два человека
11.07.2026 08:56:30 | ТАСС

Косачев заявил, что конфликт на Украине закончится переговорами
11.07.2026 08:55:41 | ТАСС

В Сочи спрос на квартиры снизился почти на 80% за семь лет
11.07.2026 08:53:09 | ТАСС

Военкор Стешин заявил об угрозе автономных дронов с искусственным интеллектом
11.07.2026 08:51:31 | Life.ru

Финляндия захотела продлить закон о выдворении беженцев до конца 2028 года
11.07.2026 08:48:52 | Life.ru

Над Россией сбили 178 беспилотников за ночь
11.07.2026 08:47:41 | РБК

На Багамах при крушении легкомоторного самолета погибли 10 человек
11.07.2026 08:45:57 | ТАСС

"Купол Донбасса" за сутки сбил 31 беспилотник над ДНР
11.07.2026 08:45:29 | ТАСС

Названо число сбитых за ночь над территорией России беспилотников
11.07.2026 08:45:07 | Lenta.ru

Пол Фиг признался, что спустя 10 лет его продолжают травить из-за "Охотников за привидениями"
11.07.2026 08:44:48 | PlayGround.ru

ВТБ: покупатели вернулись на рынок акций РФ к пятнице
11.07.2026 08:43:09 | ТАСС

В Кызыле началось прощание с утонувшими в Енисее девочками
11.07.2026 08:42:14 | Life.ru

CNN назвал условие США для окончательной сделки с Ираном
11.07.2026 08:41:32 | РБК

В Ассоциации автомотуризма назвали стоимость покупки автодома в 2026 году
11.07.2026 08:41:10 | ТАСС

Маркетплейсы обяжут проверять продавцов и владельцев ПВЗ с 1 октября
11.07.2026 08:38:27 | Ведомости

Эвакуированным при атаке БПЛА жителям Таганрога разрешили вернуться домой
11.07.2026 08:36:56 | РБК

В Пермском крае женщина пропала в потоках воды из-за дождевого паводка
11.07.2026 08:35:48 | ТАСС

Силы ПВО за ночь сбили над Россией 178 БПЛА
11.07.2026 08:35:20 | Коммерсантъ

ТАСС: ВСУ укрывают под Черниговом офицеров, причастных к убийствам подчиненных
11.07.2026 08:34:00 | Российская Газета

Гендиректор "Вкусно - и точка" считает маловероятным возвращение McDonald"s в РФ
11.07.2026 08:33:54 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro