Свой ИИ без облаков: практический гайд по llama.cpp + Qwen

03.04.2026 09:30:52 | Хабр

Хабы: Блог компании FirstVDS, Искусственный интеллект, Машинное обучение, Серверное администрирование

В этой статье я расскажу, как установить нейросеть на своё оборудование. Так вы сможете изучить LLM и применить их на практике. При этом ваши данные не будут передаваться в чужие облака, что критично при работе с конфиденциальными данными. И вам не придётся платить за использование какого-либо внешнего сервиса или решать вопросы с заблокированным доступом.

Вы установите инструмент для запуска больших языковых моделей llama.cpp и модель нейросети Qwen на компьютер или сервер. Я расскажу об установке в тех случаях, когда в составе оборудования есть Nvidia GPU или интегрированная графика Intel Iris Xe Graphics (актуально для ноутбуков).

Подробнее

Читайте также

Квантовые компьютеры взломают блокчейн и обнулят ваши кошельки pt.2
03.04.2026 09:27:14 | Хабр

Создал с нуля библиотеку для JasperReports, которая делает работу с ним легкой
03.04.2026 09:25:49 | Хабр

Игры вылетают, вентиляторы не крутятся. Стоит ли обновлять драйвер NVIDIA GeForce 595.97
03.04.2026 09:21:22 | Хабр

Импорт промежуточных (intraday) выписок через FEB_FILE_HANDLING по классической схеме
03.04.2026 09:17:43 | Хабр

Как я перестал вайбкодить и собрал работающий SDLC из пяти промптов
03.04.2026 09:02:05 | Хабр

Китайские аккумуляторы Camel и российские АКОМ. Часть 2: заряд по ГОСТу
03.04.2026 09:01:39 | Хабр

Отряд «ЛизаАлерт» оснащает штабы выносливой техникой перед пиком поисков
03.04.2026 09:00:30 | ferra.ru

Программируемые калькуляторы. Часть третья «Первый второй»
03.04.2026 08:59:36 | Хабр

Генерация музыки: обзор нейросетей для создания музыки на русском языке
03.04.2026 08:59:24 | Хабр

День 1500: продажи новых легковых машин в марте 2026 года выросли на 30,6%
03.04.2026 08:47:29 | vc.ru

[Перевод] Неприметный стартап предлагает выращивать безмозглые клоны людей на запасные органы
03.04.2026 08:46:29 | Хабр

LLM — поиск товаров
03.04.2026 08:44:13 | Хабр

Режим сна и продуктивность: как не работать по ночам и всё успевать
03.04.2026 08:38:22 | Хабр

Эксперимент: улучшаем реальную статью с Obsidian Copilot
03.04.2026 08:32:27 | Хабр

Проверяем веб-расчёт потерь в шинах на соответствие стандартам
03.04.2026 08:29:24 | Хабр

[Перевод] SIMD-парсер CSV
03.04.2026 08:28:38 | Хабр

Почему AI-generated UI стоит изучать как источник визуальных мутаций
03.04.2026 08:27:45 | Хабр

GEO/AEO для B2B: почему AI почти не рекомендует ваш SaaS, даже если сайт сделан нормально
03.04.2026 08:05:24 | Хабр

Россияне потратили почти 50 млрд рублей на умные колонки в 2025 году
03.04.2026 08:00:22 | ferra.ru

Крекс-пекс-фекс, вжух и ты бедняк: исследуем под «микроскопом» потрошителя банковских счетов CrахsRAT
03.04.2026 08:00:06 | Хабр

ClearWater — обзор нового шифровальщика
03.04.2026 08:00:04 | Хабр

Frontend Status: свежий дайджест фронтенда и AI — 03.04.2026
03.04.2026 07:57:43 | Хабр

Как добавить свое расширение в DevTools и взаимодействовать с кодом приложения
03.04.2026 07:34:08 | Хабр

С++26 — готов! Итоги встречи ISO C++ в Кройдоне
03.04.2026 07:30:55 | Хабр

Дофамин отозвал кредит: почему product manager перестаёт хотеть работать (и как это исправить)
03.04.2026 07:26:43 | Хабр

Обновляем токен авторизации при помощи Dio
03.04.2026 07:20:51 | Хабр

Не соглашаясь с Большим Братом. Telegram и MTProxy
03.04.2026 07:20:40 | Хабр

Тайный ход в череп. В чем фишка импланта Stentrode и чем он лучше Neuralink
03.04.2026 07:16:37 | Хабр

Рожденные двигаться: как модульные роботы эволюционировали, обучились бегу с препятствиями и перестали сбоить
03.04.2026 07:10:34 | Хабр

Чтение на выходные: «Вселенная инди-игр: от идеи до шедевра» Бунтхави Сувилай
03.04.2026 06:50:05 | Хабр

Функциональный Rust. Глава 0: Зачем нужно ФП?
03.04.2026 06:26:17 | Хабр

Ты ответил правильно, но тебя не поняли
03.04.2026 06:18:14 | Хабр

История о том, как я поверил «Социальному фонду России», а оказалось, что это мошенники
03.04.2026 06:15:10 | Хабр

[Перевод] Agentis Memory — Redis-совместимое хранилище со встроенным векторным поиском и локальными эмбеддингами
03.04.2026 06:14:29 | Хабр

Интерактивные визуализаторы: внутри программных механизмов
03.04.2026 06:13:06 | Хабр

Смотреть все

НОВОСТИ

Пассажиров атакованного ВСУ автобуса Минск — Анапа вернут в Белоруссию
02.07.2026 15:36:02 | Life.ru

Дипломатический кризис: Сотни сотрудников ведомства Каллас уходят на больничный от стресса
02.07.2026 15:35:18 | Life.ru

Суд заочно дал 15 лет колонии экс-главе швейцарской «дочки» «Роснано» Рапопорт
02.07.2026 15:35:08 | Life.ru

«Фронт ожил»: В РФ заявили о серьёзных подвижках по всей линии боевого соприкосновения
02.07.2026 15:34:28 | Life.ru

Раскрыта сумма гонорара грузинского наемника ВСУ
02.07.2026 15:34:09 | Lenta.ru

Новосибирский суд смягчил приговор бывшему следователю за убийство школьницы
02.07.2026 15:32:29 | Life.ru

В Томске в рамках нацпроекта отремонтировали два общественных пространства
02.07.2026 15:32:05 | ТАСС

В атакованном ВСУ автобусе Минск — Анапа было 19 человек, ранены 2 водителя
02.07.2026 15:31:44 | Life.ru

Врач опроверг популярный миф о цельном молоке
02.07.2026 15:31:43 | Lenta.ru

Подозреваемого в убийстве экс-советника Януковича экстрадировали в Испанию
02.07.2026 15:30:59 | Life.ru

Трамп заявил, что расходы на НАТО не приносят США выгоды
02.07.2026 15:30:45 | ТАСС

Стармер извинился за изъятие детей у матерей-одиночек
02.07.2026 15:30:38 | Lenta.ru

В акватории Владивостока сгорел катер
02.07.2026 15:30:05 | ТАСС

Популярный блогер упрекнул изнасилованных и избитых женщин в желании получить этот опыт
02.07.2026 15:29:23 | Lenta.ru

Устроивший поджог трансформаторной подстанции на МЖД подросток признал вину
02.07.2026 15:29:22 | ТАСС

ЦБ обсуждает приватизацию НСПК, но с сохранением контроля
02.07.2026 15:28:23 | Life.ru

Глава РФС оценил шансы сборной России сыграть в квалификации к ЧМ-2030
02.07.2026 15:28:06 | Lenta.ru

Макрон сглазил фирму, чьи солнцезащитные очки носит: она обанкротилась
02.07.2026 15:28:00 | Российская Газета

Удастся ни Макрону, уходя, остаться при власти?
02.07.2026 15:28:00 | Российская Газета

Российские перекупщики нашли уловку для повышения цен на машины с пробегом
02.07.2026 15:27:17 | Lenta.ru

Что известно о предстоящих похоронах Али Хаменеи
02.07.2026 15:27:00 | Российская Газета

Стамбульская полиция задержала популярного комика за шутки о Коране
02.07.2026 15:27:00 | Российская Газета

Опубликованы первые кадры с места гибели Макса из «Бригады»
02.07.2026 15:26:58 | Life.ru

ТВ: атакованный дроном автобус в Брянской области выполнял регулярный рейс
02.07.2026 15:26:13 | ТАСС

Трамп возмутился тратами США на НАТО
02.07.2026 15:26:00 | Lenta.ru

Сальдо: Зеленский превращается в "хромую утку" даже для радикальных сторонников Киева
02.07.2026 15:25:56 | ТАСС

Генерал ответил на заявления Украины об «окне возможностей» на фронте
02.07.2026 15:25:47 | Lenta.ru

"Первый информационный": пассажиры атакованного в Брянской области автобуса не пострадали
02.07.2026 15:25:44 | ТАСС

В Хабаровском крае в ДТП погиб человек
02.07.2026 15:25:30 | ТАСС

Стало известно о смерти дочери российского бизнесмена спустя девять дней после родов
02.07.2026 15:25:29 | Lenta.ru

Самсонова обыграла Шнайдер во втором круге Уимблдона
02.07.2026 15:25:04 | ТАСС

В Гомельском облисполкоме подтвердили атаку БПЛА на автобус в Брянской области
02.07.2026 15:24:59 | ТАСС

Роскомнадзор в июне заблокировал более 2,6 тыс. фишинговых ресурсов
02.07.2026 15:24:11 | ТАСС

ВСУ признали критическую нехватку Patriot после провала защиты от баллистики
02.07.2026 15:22:39 | Life.ru

Курьеров арестовали по делу о хищении 12 млн рублей у пенсионера из Кургана
02.07.2026 15:22:18 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro