Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Выжать больше из локальных LLM. Ollama медленнее llama.cpp в 3 раза. UD_Q4_K_XL лучше чем Q4_K_M, а вес тот же и т.д

23.04.2026 22:13:46 | Хабр

Хабы: Искусственный интеллект

Самый просто способ запустить локальную LLM - это установить ollama или LM Studio. Это быстро и просто, но вы теряете и в скорости, и в качестве. Почему UD_Q4_K_XL лучше при том же размере, почему квант Q3 может быть медленнее чем Q4. Хорошая ли идея взять REAP для вырезания ненужных экспертов из MoE. Кто быстрее, Linux или Windows. В общем как выжать больше из локальных LLM на домашнем железе.

Читать далее

Подробнее

Читайте также

Meta* сократит примерно 8000 человек и не будет нанимать специалистов на 6000 открытых позиций
23.04.2026 22:00:41 | vc.ru

В России научились печатать железнодорожные колёса на 3D-принтере
23.04.2026 21:46:00 | ferra.ru

В Новосибирске изучили древние черепа с помощью КТ
23.04.2026 21:38:28 | ferra.ru

Google подтвердила проблему с Bluetooth на Pixel, но исправления пока не будет
23.04.2026 21:23:12 | ferra.ru

Корабль «Прогресс МС-34» доставит на МКС новый скафандр и VR-очки
23.04.2026 21:20:26 | ferra.ru

Модель транспортного полета пчелы
23.04.2026 21:08:15 | Хабр

Telegram-бот за вечер через Spec Kit: что AI-ассистированная разработка сделала с моим инженерным процессом
23.04.2026 20:31:08 | Хабр

В Екатеринбурге начали тестировать новые светофоры от «Швабе»
23.04.2026 20:26:35 | ferra.ru

Волшебный Koog. Пишем Kotlin-агент широкого профиля KMP
23.04.2026 20:21:55 | Хабр

«Атом» открыл предпродажи своих электромобилей — забронировать машину можно за 150 тысяч рублей
23.04.2026 20:07:54 | vc.ru

Российские ученые создадут систему «умного» света для растений
23.04.2026 19:54:44 | ferra.ru

СМИ: iPhone с камерой на 200 Мп выйдет не раньше 2028 года
23.04.2026 19:49:21 | ferra.ru

Восстановленные складные смартфоны Samsung оказались дороже новых
23.04.2026 19:23:11 | ferra.ru

Эволюция данных: генетический алгоритм в задаче классификации текстов
23.04.2026 19:05:42 | Хабр

ЕС введут санкции против «WB Банка», банка «Русский стандарт» и «Почта Банка»
23.04.2026 19:03:07 | vc.ru

[Перевод] Gemma 4: что это такое и какую модель выбрать?
23.04.2026 18:52:50 | Хабр

Kotlin vs Java: что выбрать для бэкенда?
23.04.2026 18:51:18 | Хабр

Когда внутренние ИТ-решения становятся драйвером роста корпорации
23.04.2026 18:00:00 | it-world

Как внутренние ИТ-решения становятся драйвером роста корпорации
23.04.2026 18:00:00 | it-world

Оформление сборок в Revit. Вращение видов, начало сборки
23.04.2026 17:53:01 | Хабр

Как оплатить Сlaude pro из России: рабочие способы в 2026 году
23.04.2026 17:51:53 | Хабр

Google научила умный дом поддерживать естественный диалог
23.04.2026 17:49:24 | ferra.ru

VR-тренировки улучшили физическое состояние российских студентов
23.04.2026 17:39:55 | ferra.ru

Я строю AI-бот для самопознания. Вот спек, архитектура и почему LLM — это периферия, а не ядро
23.04.2026 17:37:29 | Хабр

GIGABYTE считает 18’’ экрана новым стандартом
23.04.2026 17:35:29 | it-world

GIGABYTE считает 18’’ экрана, новым тонким и мобильным стандартом
23.04.2026 17:35:29 | it-world

[Перевод] Как OpenAI убила DALL-E?
23.04.2026 17:29:23 | Хабр

В США предупредили о риске финансового кризиса из-за ИИ
23.04.2026 17:23:08 | ferra.ru

Логика как основа Мироздания
23.04.2026 17:22:52 | Хабр

Nintendo судится с США, а геймеры — с самой Nintendo. И всё из-за налогов
23.04.2026 17:14:52 | ferra.ru

[Перевод] Астрономы измерили характеристики «танцующих джетов» у первой из обнаруженных чёрных дыр
23.04.2026 17:01:53 | Хабр

Шаблоны документов из Интернета: добьют бизнес окончательно или реально помогут сэкономить на штрафах
23.04.2026 17:00:06 | Хабр

Иркутские ученые нашли редкий апатит для калибровки геологических приборов
23.04.2026 16:59:40 | ferra.ru

Kling AI нейросеть на русском: обзор функций c примерами и креативные способы применения
23.04.2026 16:52:36 | Хабр

Runway нейросеть на русском: как оживить фото и монтировать видео с помощью Ранвей ИИ
23.04.2026 16:48:11 | Хабр

Смотреть все

НОВОСТИ

Стало известно, на каких машинах сконцентрируется марка Volga
24.06.2026 17:40:00 | За рулем

В Минфине сообщили об обсуждении с маркетплейсами токенизации товаров на складах
23.06.2026 14:14:43 | ТАСС

Реваншизм в Европе и ответ на угрозы в адрес Минска. Заявления Лаврова
23.06.2026 14:14:25 | ТАСС

«Не волноваться и не беспокоиться»: Лукашенко успокоил жителей Гомельщины на фоне угроз Зеленского
23.06.2026 14:14:24 | Life.ru

Оман и Иран создадут группу для обсуждения управления судоходством в Ормузском проливе
23.06.2026 14:13:10 | ТАСС

Россиянам раскрыли эффективность присадок для топлива в таблетках и баллонах
23.06.2026 14:13:09 | Lenta.ru

Россиянин хотел вывезти из страны стратегически важные товары
23.06.2026 14:12:24 | Lenta.ru

«Решительно бороться»: Путин выступил перед выпускниками силовых вузов с важным наказом
23.06.2026 14:11:24 | Life.ru

Подполковник заявил о вогнанной в паралич Украине из-за нефтебазы в Запорожье
23.06.2026 14:10:56 | Lenta.ru

Лавров заявил о готовности возобновить переговоры по Украине в любой момент
23.06.2026 14:09:22 | Life.ru

Число раненных при ударе ВСУ по автобусу в Горловке 22 июня увеличилось до 18
23.06.2026 14:08:25 | ТАСС

На Украине высказались о возможности угрозы со стороны Белоруссии
23.06.2026 14:08:10 | Lenta.ru

Внешность Вали Карнавал на новом видео описали фразой «от оригинала ничего не осталось»
23.06.2026 14:08:08 | Lenta.ru

Генсек СНГ оценил угрозы Зеленского в адрес Белоруссии
23.06.2026 14:08:05 | Lenta.ru

Названо преимущество новой СВЧ
23.06.2026 14:07:46 | Lenta.ru

Вместо Зеленского в Гданьск приедет Свириденко на фоне конфликта Польши и Украины
23.06.2026 14:07:30 | ТАСС

Бык сбежал от мясника и покалечил трех человек
23.06.2026 14:07:16 | Lenta.ru

В Чехии водителю грозит три года тюрьмы за символику Z
23.06.2026 14:07:00 | Российская Газета

Только место занимают: «Роскачество» назвало продукты, которые нельзя держать в холодильнике
23.06.2026 14:06:45 | Life.ru

Только место занимают: Роскачество назвало продукты, которые нельзя держать в холодильнике
23.06.2026 14:06:45 | Life.ru

Еврокомиссар Кубилюс: ЕС истратит €7 трлн на оружие, чтобы обогнать Россию
23.06.2026 14:06:34 | ТАСС

Ослабление рубля к доллару объяснили
23.06.2026 14:06:30 | Lenta.ru

В Чечне стартовали кампании по выборам главы и парламента региона
23.06.2026 14:05:52 | ТАСС

Путин дал совет выпускникам военных вузов
23.06.2026 14:05:40 | ТАСС

Стало известно о планах народного артиста Ножкина посетить Курск незадолго до смерти
23.06.2026 14:05:38 | Lenta.ru

Путин поздравил выпускников военных вузов
23.06.2026 14:05:38 | ТАСС

Армия Израиля заявила, что ударила по югу Ливана "для устранения угрозы"
23.06.2026 14:05:25 | ТАСС

Белоусов: Армия России внедряет ИИ и робототехнические комплексы
23.06.2026 14:05:21 | Life.ru

Крупко назвал угрозы Зеленского попыткой "сбить волну" после атаки на автобус
23.06.2026 14:05:00 | Российская Газета

ВЦИОМ: половина россиян считает, что песни должны отвечать общественным нормам
23.06.2026 14:04:19 | ТАСС

Минпросвещения: количество детских лагерей в РФ выросло на 2 тыс. за пять лет
23.06.2026 14:04:02 | ТАСС

В МИД России сделали заявление о переговорах с ЕС
23.06.2026 14:03:49 | Lenta.ru

Бывший волейболист сборной России пригрозил жене расправой
23.06.2026 14:03:37 | Lenta.ru

На Урале похищавшим деньги пенсионеров курьерам смягчили приговор
23.06.2026 14:02:48 | ТАСС

Путин объяснил, как фронт помогает быстро дорабатывать российское оружие
23.06.2026 14:02:45 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro