Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Выжать больше из локальных LLM. Ollama медленнее llama.cpp в 3 раза. UD_Q4_K_XL лучше чем Q4_K_M, а вес тот же и т.д

23.04.2026 22:13:46 | Хабр

Хабы: Искусственный интеллект

Самый просто способ запустить локальную LLM - это установить ollama или LM Studio. Это быстро и просто, но вы теряете и в скорости, и в качестве. Почему UD_Q4_K_XL лучше при том же размере, почему квант Q3 может быть медленнее чем Q4. Хорошая ли идея взять REAP для вырезания ненужных экспертов из MoE. Кто быстрее, Linux или Windows. В общем как выжать больше из локальных LLM на домашнем железе.

Читать далее

Подробнее

Читайте также

Meta* сократит примерно 8000 человек и не будет нанимать специалистов на 6000 открытых позиций
23.04.2026 22:00:41 | vc.ru

В России научились печатать железнодорожные колёса на 3D-принтере
23.04.2026 21:46:00 | ferra.ru

В Новосибирске изучили древние черепа с помощью КТ
23.04.2026 21:38:28 | ferra.ru

Google подтвердила проблему с Bluetooth на Pixel, но исправления пока не будет
23.04.2026 21:23:12 | ferra.ru

Корабль «Прогресс МС-34» доставит на МКС новый скафандр и VR-очки
23.04.2026 21:20:26 | ferra.ru

Модель транспортного полета пчелы
23.04.2026 21:08:15 | Хабр

Telegram-бот за вечер через Spec Kit: что AI-ассистированная разработка сделала с моим инженерным процессом
23.04.2026 20:31:08 | Хабр

В Екатеринбурге начали тестировать новые светофоры от «Швабе»
23.04.2026 20:26:35 | ferra.ru

Волшебный Koog. Пишем Kotlin-агент широкого профиля KMP
23.04.2026 20:21:55 | Хабр

«Атом» открыл предпродажи своих электромобилей — забронировать машину можно за 150 тысяч рублей
23.04.2026 20:07:54 | vc.ru

Российские ученые создадут систему «умного» света для растений
23.04.2026 19:54:44 | ferra.ru

СМИ: iPhone с камерой на 200 Мп выйдет не раньше 2028 года
23.04.2026 19:49:21 | ferra.ru

Восстановленные складные смартфоны Samsung оказались дороже новых
23.04.2026 19:23:11 | ferra.ru

Эволюция данных: генетический алгоритм в задаче классификации текстов
23.04.2026 19:05:42 | Хабр

ЕС введут санкции против «WB Банка», банка «Русский стандарт» и «Почта Банка»
23.04.2026 19:03:07 | vc.ru

[Перевод] Gemma 4: что это такое и какую модель выбрать?
23.04.2026 18:52:50 | Хабр

Kotlin vs Java: что выбрать для бэкенда?
23.04.2026 18:51:18 | Хабр

Когда внутренние ИТ-решения становятся драйвером роста корпорации
23.04.2026 18:00:00 | it-world

Как внутренние ИТ-решения становятся драйвером роста корпорации
23.04.2026 18:00:00 | it-world

Оформление сборок в Revit. Вращение видов, начало сборки
23.04.2026 17:53:01 | Хабр

Как оплатить Сlaude pro из России: рабочие способы в 2026 году
23.04.2026 17:51:53 | Хабр

Google научила умный дом поддерживать естественный диалог
23.04.2026 17:49:24 | ferra.ru

VR-тренировки улучшили физическое состояние российских студентов
23.04.2026 17:39:55 | ferra.ru

Я строю AI-бот для самопознания. Вот спек, архитектура и почему LLM — это периферия, а не ядро
23.04.2026 17:37:29 | Хабр

GIGABYTE считает 18’’ экрана новым стандартом
23.04.2026 17:35:29 | it-world

GIGABYTE считает 18’’ экрана, новым тонким и мобильным стандартом
23.04.2026 17:35:29 | it-world

[Перевод] Как OpenAI убила DALL-E?
23.04.2026 17:29:23 | Хабр

В США предупредили о риске финансового кризиса из-за ИИ
23.04.2026 17:23:08 | ferra.ru

Логика как основа Мироздания
23.04.2026 17:22:52 | Хабр

Nintendo судится с США, а геймеры — с самой Nintendo. И всё из-за налогов
23.04.2026 17:14:52 | ferra.ru

[Перевод] Астрономы измерили характеристики «танцующих джетов» у первой из обнаруженных чёрных дыр
23.04.2026 17:01:53 | Хабр

Шаблоны документов из Интернета: добьют бизнес окончательно или реально помогут сэкономить на штрафах
23.04.2026 17:00:06 | Хабр

Иркутские ученые нашли редкий апатит для калибровки геологических приборов
23.04.2026 16:59:40 | ferra.ru

Kling AI нейросеть на русском: обзор функций c примерами и креативные способы применения
23.04.2026 16:52:36 | Хабр

Runway нейросеть на русском: как оживить фото и монтировать видео с помощью Ранвей ИИ
23.04.2026 16:48:11 | Хабр

Смотреть все

НОВОСТИ

МО показало кадры установления контроля над Запсельем и Рясным Сумской области
26.05.2026 13:32:28 | ТАСС

Россия и Белоруссия согласовали новый план по информационной безопасности
26.05.2026 13:32:14 | ТАСС

Новый заместитель министра внутренних дел. Что известно об Алексее Макарове
26.05.2026 13:32:01 | ТАСС

Захарова: США агрессивно навязывают свои IТ-продукты
26.05.2026 13:30:15 | ТАСС

Песков: Шохин станет бизнес-омбудсменом с сохранением поста главы РСПП
26.05.2026 13:27:58 | Life.ru

В Кремле анонсировали госвизит Путина в соседнее государство
26.05.2026 13:27:00 | Lenta.ru

Иран предупредил США об ответе на новые атаки
26.05.2026 13:26:00 | Российская Газета

Банда совершала налёты на российские храмы и украла 13 икон на 500 тысяч рублей
26.05.2026 13:25:44 | Life.ru

Пострадавших в ДТП с автобусом в Хабаровском крае госпитализировали
26.05.2026 13:25:29 | ТАСС

Захарова: АТР рассматривается НАТО как регион, входящий в сферу их интересов
26.05.2026 13:25:12 | ТАСС

«Прославление на госуровне»: Кремль осудил создание пантеона нацистов на Украине
26.05.2026 13:24:28 | Life.ru

Совбез Белоруссии: учения с Россией показали способность применения ЯО
26.05.2026 13:23:21 | ТАСС

Бивол оценил вероятность боя против Махачева
26.05.2026 13:22:24 | ТАСС

Комитет ГД подготовит обращение к парламентам других стран из-за теракта в ЛНР
26.05.2026 13:21:39 | ТАСС

Пирло рассказал о знакомстве с Овечкиным
26.05.2026 13:21:01 | ТАСС

Володин: удары по мирному населению могут спровоцировать использование Россией оружия
26.05.2026 13:21:00 | ТАСС

Жителя Челябинской области арестовали за ДТП, в котором погиб ребенок
26.05.2026 13:20:59 | ТАСС

Россиянам назвали провоцирующие запор неочевидные привычки
26.05.2026 13:20:46 | Lenta.ru

Реформа института бизнес-омбудсмена и защита промобъектов. Встреча Путина и главы РСПП
26.05.2026 13:20:12 | ТАСС

Иран захотел разморозки миллиардов долларов в рамках сделки с США
26.05.2026 13:20:04 | Lenta.ru

Володин назвал удар по Старобельску преступлением против человечности
26.05.2026 13:20:00 | ТАСС

Песков: в центре Европы происходит официальное прославление нацистских приспешников
26.05.2026 13:19:45 | ТАСС

Кремль не располагает данными о реакции США на заявление об ударах по объектам ВПК в Киеве
26.05.2026 13:19:32 | ТАСС

У Кремля нет информации о реакции США на предупреждение РФ об ударах по ВПК в Киеве
26.05.2026 13:19:31 | ТАСС

Гуцул в своей книге назвала встречу с Путиным одним из главных событий в жизни
26.05.2026 13:19:18 | ТАСС

ВКС России получили партию самых результативных истребителей
26.05.2026 13:19:04 | Lenta.ru

Шаляпин оценил свой стиль фразой «что ни надень — я прекрасен»
26.05.2026 13:18:43 | Lenta.ru

Месси выбыл? Легендарный капитан Аргентины может не сыграть на ЧМ из-за травмы
26.05.2026 13:18:38 | Life.ru

Топ-менеджер ВТБ назвал способ спасти экономику России от «эффекта гистерезиса»
26.05.2026 13:18:32 | Life.ru

ОДКБ нацелена на взаимоотношения с ОБСЕ
26.05.2026 13:18:30 | ТАСС

В Совбезе Белоруссии заявили о нарастающей опасности на рубежах ОДКБ
26.05.2026 13:18:21 | ТАСС

В Подмосковье прозвенел последний звонок для 142 тыс. школьников
26.05.2026 13:18:09 | ТАСС

Подозреваемый в убийстве отца в Липецкой области признал вину
26.05.2026 13:18:08 | Коммерсантъ

Володин: Илон Маск должен понимать, что его спутники используются для убийства детей
26.05.2026 13:17:57 | ТАСС

Казахстан, Белоруссия и Узбекистан стали крупнейшими импортёрами растворимого кофе из РФ
26.05.2026 13:16:54 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro