Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Выжать больше из локальных LLM. Ollama медленнее llama.cpp в 3 раза. UD_Q4_K_XL лучше чем Q4_K_M, а вес тот же и т.д

23.04.2026 22:13:46 | Хабр

Хабы: Искусственный интеллект

Самый просто способ запустить локальную LLM - это установить ollama или LM Studio. Это быстро и просто, но вы теряете и в скорости, и в качестве. Почему UD_Q4_K_XL лучше при том же размере, почему квант Q3 может быть медленнее чем Q4. Хорошая ли идея взять REAP для вырезания ненужных экспертов из MoE. Кто быстрее, Linux или Windows. В общем как выжать больше из локальных LLM на домашнем железе.

Читать далее

Подробнее

Читайте также

Meta* сократит примерно 8000 человек и не будет нанимать специалистов на 6000 открытых позиций
23.04.2026 22:00:41 | vc.ru

В России научились печатать железнодорожные колёса на 3D-принтере
23.04.2026 21:46:00 | ferra.ru

В Новосибирске изучили древние черепа с помощью КТ
23.04.2026 21:38:28 | ferra.ru

Google подтвердила проблему с Bluetooth на Pixel, но исправления пока не будет
23.04.2026 21:23:12 | ferra.ru

Корабль «Прогресс МС-34» доставит на МКС новый скафандр и VR-очки
23.04.2026 21:20:26 | ferra.ru

Модель транспортного полета пчелы
23.04.2026 21:08:15 | Хабр

Telegram-бот за вечер через Spec Kit: что AI-ассистированная разработка сделала с моим инженерным процессом
23.04.2026 20:31:08 | Хабр

В Екатеринбурге начали тестировать новые светофоры от «Швабе»
23.04.2026 20:26:35 | ferra.ru

Волшебный Koog. Пишем Kotlin-агент широкого профиля KMP
23.04.2026 20:21:55 | Хабр

«Атом» открыл предпродажи своих электромобилей — забронировать машину можно за 150 тысяч рублей
23.04.2026 20:07:54 | vc.ru

Российские ученые создадут систему «умного» света для растений
23.04.2026 19:54:44 | ferra.ru

СМИ: iPhone с камерой на 200 Мп выйдет не раньше 2028 года
23.04.2026 19:49:21 | ferra.ru

Восстановленные складные смартфоны Samsung оказались дороже новых
23.04.2026 19:23:11 | ferra.ru

Эволюция данных: генетический алгоритм в задаче классификации текстов
23.04.2026 19:05:42 | Хабр

ЕС введут санкции против «WB Банка», банка «Русский стандарт» и «Почта Банка»
23.04.2026 19:03:07 | vc.ru

[Перевод] Gemma 4: что это такое и какую модель выбрать?
23.04.2026 18:52:50 | Хабр

Kotlin vs Java: что выбрать для бэкенда?
23.04.2026 18:51:18 | Хабр

Когда внутренние ИТ-решения становятся драйвером роста корпорации
23.04.2026 18:00:00 | it-world

Как внутренние ИТ-решения становятся драйвером роста корпорации
23.04.2026 18:00:00 | it-world

Оформление сборок в Revit. Вращение видов, начало сборки
23.04.2026 17:53:01 | Хабр

Как оплатить Сlaude pro из России: рабочие способы в 2026 году
23.04.2026 17:51:53 | Хабр

Google научила умный дом поддерживать естественный диалог
23.04.2026 17:49:24 | ferra.ru

VR-тренировки улучшили физическое состояние российских студентов
23.04.2026 17:39:55 | ferra.ru

Я строю AI-бот для самопознания. Вот спек, архитектура и почему LLM — это периферия, а не ядро
23.04.2026 17:37:29 | Хабр

GIGABYTE считает 18’’ экрана новым стандартом
23.04.2026 17:35:29 | it-world

GIGABYTE считает 18’’ экрана, новым тонким и мобильным стандартом
23.04.2026 17:35:29 | it-world

[Перевод] Как OpenAI убила DALL-E?
23.04.2026 17:29:23 | Хабр

В США предупредили о риске финансового кризиса из-за ИИ
23.04.2026 17:23:08 | ferra.ru

Логика как основа Мироздания
23.04.2026 17:22:52 | Хабр

Nintendo судится с США, а геймеры — с самой Nintendo. И всё из-за налогов
23.04.2026 17:14:52 | ferra.ru

[Перевод] Астрономы измерили характеристики «танцующих джетов» у первой из обнаруженных чёрных дыр
23.04.2026 17:01:53 | Хабр

Шаблоны документов из Интернета: добьют бизнес окончательно или реально помогут сэкономить на штрафах
23.04.2026 17:00:06 | Хабр

Иркутские ученые нашли редкий апатит для калибровки геологических приборов
23.04.2026 16:59:40 | ferra.ru

Kling AI нейросеть на русском: обзор функций c примерами и креативные способы применения
23.04.2026 16:52:36 | Хабр

Runway нейросеть на русском: как оживить фото и монтировать видео с помощью Ранвей ИИ
23.04.2026 16:48:11 | Хабр

Смотреть все

НОВОСТИ

Скрытая камера, Украина и деньги США: чиновника Пентагона отстранили после громких слов
27.04.2026 11:13:10 | Life.ru

Fox News: В администрации Трампа размышляют, нужно ли ему носить бронежилет
27.04.2026 11:13:00 | Российская Газета

«Голова живёт отдельно»: Стилист раскрыла, почему резкая смена имиджа не пошла Бероеву на пользу
27.04.2026 11:11:36 | Life.ru

В Риме откроется дом-музей актера Альберто Сорди
27.04.2026 11:09:00 | Российская Газета

Операторов дронов защитят от переводов: что изменится для войск БПС
27.04.2026 11:07:33 | Life.ru

Преступницу нашли в вентиляционном отверстии после двух лет в бегах
27.04.2026 11:07:17 | Lenta.ru

«Понимал, что живёт один»: Голос «Радионяни» Шимелов заранее подготовился к своему уходу
27.04.2026 11:05:29 | Life.ru

Продажи важнейшего сегмента российского авторынка продолжили падать
27.04.2026 11:04:17 | Lenta.ru

В Минобороны обсудили сообщения о принуждении российских студентов к заключению контрактов
27.04.2026 11:04:09 | Lenta.ru

Сокращение ударов БПЛА по России объяснили
27.04.2026 11:03:15 | Lenta.ru

Сотрудник Запорожской АЭС погиб при ударе беспилотника
27.04.2026 11:02:58 | Коммерсантъ

В Ростове-на-Дону женщина оставила коляску с ребенком на остановке
27.04.2026 11:02:57 | ТАСС

На Солнце произошли две вспышки
27.04.2026 11:02:51 | ТАСС

Французский военкор насчитал в ВСУ 20-25 тысяч иностранных наёмников
27.04.2026 11:02:12 | Life.ru

"Мосэнерго" в I квартале увеличило выработку электроэнергии на 0,8%
27.04.2026 11:02:04 | ТАСС

Папайя за недорого. Сколько стоят овощи в фрукты в Индии?
27.04.2026 11:02:00 | Российская Газета

На Савеловском и Казанском направлениях МЖД произошел сбой из-за обрыва провода
27.04.2026 11:01:52 | ТАСС

Жесткое регулирование в сфере ИИ объяснили
27.04.2026 11:01:40 | Lenta.ru

Путин поручил снизить бумажную нагрузку на медиков и учителей
27.04.2026 11:01:04 | ТАСС

Получившего тяжелую травму гимнаста Карцева прооперировали в Москве
27.04.2026 11:01:02 | ТАСС

Кабмин распределил на проект "Новый ритм строительства" свыше 700 млн рублей
27.04.2026 11:00:57 | ТАСС

Путин поручил представить предложения по защите прав миноритарных акционеров
27.04.2026 11:00:52 | ТАСС

Чемпионка мира по плаванию Клепикова чувствует себя увереннее в эстафетах
27.04.2026 11:00:25 | ТАСС

Norland стала заметно умнее: масштабный патч меняет экономику, симуляцию и выживание
27.04.2026 11:00:02 | PlayGround.ru

В ТАСС расскажут о программе празднования Дня Победы в Новосибирской области
27.04.2026 11:00:00 | ТАСС

«Кто не за столом — тот на тарелке»: В Германии требуют диалога с Путиным
27.04.2026 10:59:49 | Life.ru

В Якутске на собрании общественности почтили память Героя РФ Петрова
27.04.2026 10:59:10 | ТАСС

В России отреагировали на попытку ВСУ атаковать город с атомной электростанцией
27.04.2026 10:59:00 | Lenta.ru

В аэропорту Внуково возобновили вылеты задержанных из-за снегопада рейсов
27.04.2026 10:58:39 | Life.ru

МИД вызвал посла Германии
27.04.2026 10:58:30 | РБК

ЕЭК утвердила единые правила маркировки товаров для стран ЕАЭС
27.04.2026 10:58:24 | ТАСС

Яцкин: СФ держит на контроле списание долгов регионов по бюджетным кредитам
27.04.2026 10:58:16 | ТАСС

Александр Лукашенко совершает рабочую поездку в Наровлянский район
27.04.2026 10:58:00 | Российская Газета

В Минобороны раскрыли подробности о сроках заключения контракта на службу в один род войск
27.04.2026 10:57:20 | Lenta.ru

Ekonomim рассказала об угрозе массового закрытия турецких отелей
27.04.2026 10:56:43 | РБК

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro