Свой ИИ без облаков: практический гайд по llama.cpp + Qwen

03.04.2026 09:30:52 | Хабр

Хабы: Блог компании FirstVDS, Искусственный интеллект, Машинное обучение, Серверное администрирование

В этой статье я расскажу, как установить нейросеть на своё оборудование. Так вы сможете изучить LLM и применить их на практике. При этом ваши данные не будут передаваться в чужие облака, что критично при работе с конфиденциальными данными. И вам не придётся платить за использование какого-либо внешнего сервиса или решать вопросы с заблокированным доступом.

Вы установите инструмент для запуска больших языковых моделей llama.cpp и модель нейросети Qwen на компьютер или сервер. Я расскажу об установке в тех случаях, когда в составе оборудования есть Nvidia GPU или интегрированная графика Intel Iris Xe Graphics (актуально для ноутбуков).

Подробнее

Читайте также

Квантовые компьютеры взломают блокчейн и обнулят ваши кошельки pt.2
03.04.2026 09:27:14 | Хабр

Создал с нуля библиотеку для JasperReports, которая делает работу с ним легкой
03.04.2026 09:25:49 | Хабр

Игры вылетают, вентиляторы не крутятся. Стоит ли обновлять драйвер NVIDIA GeForce 595.97
03.04.2026 09:21:22 | Хабр

Импорт промежуточных (intraday) выписок через FEB_FILE_HANDLING по классической схеме
03.04.2026 09:17:43 | Хабр

Как я перестал вайбкодить и собрал работающий SDLC из пяти промптов
03.04.2026 09:02:05 | Хабр

Китайские аккумуляторы Camel и российские АКОМ. Часть 2: заряд по ГОСТу
03.04.2026 09:01:39 | Хабр

Отряд «ЛизаАлерт» оснащает штабы выносливой техникой перед пиком поисков
03.04.2026 09:00:30 | ferra.ru

Программируемые калькуляторы. Часть третья «Первый второй»
03.04.2026 08:59:36 | Хабр

Генерация музыки: обзор нейросетей для создания музыки на русском языке
03.04.2026 08:59:24 | Хабр

День 1500: продажи новых легковых машин в марте 2026 года выросли на 30,6%
03.04.2026 08:47:29 | vc.ru

[Перевод] Неприметный стартап предлагает выращивать безмозглые клоны людей на запасные органы
03.04.2026 08:46:29 | Хабр

LLM — поиск товаров
03.04.2026 08:44:13 | Хабр

Режим сна и продуктивность: как не работать по ночам и всё успевать
03.04.2026 08:38:22 | Хабр

Эксперимент: улучшаем реальную статью с Obsidian Copilot
03.04.2026 08:32:27 | Хабр

Проверяем веб-расчёт потерь в шинах на соответствие стандартам
03.04.2026 08:29:24 | Хабр

[Перевод] SIMD-парсер CSV
03.04.2026 08:28:38 | Хабр

Почему AI-generated UI стоит изучать как источник визуальных мутаций
03.04.2026 08:27:45 | Хабр

GEO/AEO для B2B: почему AI почти не рекомендует ваш SaaS, даже если сайт сделан нормально
03.04.2026 08:05:24 | Хабр

Россияне потратили почти 50 млрд рублей на умные колонки в 2025 году
03.04.2026 08:00:22 | ferra.ru

Крекс-пекс-фекс, вжух и ты бедняк: исследуем под «микроскопом» потрошителя банковских счетов CrахsRAT
03.04.2026 08:00:06 | Хабр

ClearWater — обзор нового шифровальщика
03.04.2026 08:00:04 | Хабр

Frontend Status: свежий дайджест фронтенда и AI — 03.04.2026
03.04.2026 07:57:43 | Хабр

Как добавить свое расширение в DevTools и взаимодействовать с кодом приложения
03.04.2026 07:34:08 | Хабр

С++26 — готов! Итоги встречи ISO C++ в Кройдоне
03.04.2026 07:30:55 | Хабр

Дофамин отозвал кредит: почему product manager перестаёт хотеть работать (и как это исправить)
03.04.2026 07:26:43 | Хабр

Обновляем токен авторизации при помощи Dio
03.04.2026 07:20:51 | Хабр

Не соглашаясь с Большим Братом. Telegram и MTProxy
03.04.2026 07:20:40 | Хабр

Тайный ход в череп. В чем фишка импланта Stentrode и чем он лучше Neuralink
03.04.2026 07:16:37 | Хабр

Рожденные двигаться: как модульные роботы эволюционировали, обучились бегу с препятствиями и перестали сбоить
03.04.2026 07:10:34 | Хабр

Чтение на выходные: «Вселенная инди-игр: от идеи до шедевра» Бунтхави Сувилай
03.04.2026 06:50:05 | Хабр

Функциональный Rust. Глава 0: Зачем нужно ФП?
03.04.2026 06:26:17 | Хабр

Ты ответил правильно, но тебя не поняли
03.04.2026 06:18:14 | Хабр

История о том, как я поверил «Социальному фонду России», а оказалось, что это мошенники
03.04.2026 06:15:10 | Хабр

[Перевод] Agentis Memory — Redis-совместимое хранилище со встроенным векторным поиском и локальными эмбеддингами
03.04.2026 06:14:29 | Хабр

Интерактивные визуализаторы: внутри программных механизмов
03.04.2026 06:13:06 | Хабр

Смотреть все

НОВОСТИ

Состав сборной России по фехтованию на ЧЕ утвердят к концу мая
05.05.2026 12:55:28 | ТАСС

На подлете к Москве сбиты еще четыре БПЛА
05.05.2026 12:54:49 | Коммерсантъ

Сафонов вошел в заявку ПСЖ на ответный матч с "Баварией" в ЛЧ
05.05.2026 12:54:38 | ТАСС

Посол РФ Корчунов: Шаги НАТО по Кольскому полуострову грозят военным конфликтом
05.05.2026 12:54:00 | Российская Газета

NBC: обвиняемый в поджоге мог устроить пожар в США в 2025 году из-за злобы на мир
05.05.2026 12:53:12 | ТАСС

В аэропорту Чебоксар сняли временные ограничения на приём и выпуск самолётов
05.05.2026 12:52:33 | Life.ru

Собянин: Силы ПВО сбили четыре БПЛА, летевших на Москву
05.05.2026 12:52:12 | Life.ru

СКР заявил о погибших при ударе по Чебоксарам
05.05.2026 12:52:00 | Коммерсантъ

Популярный бренд выпустил спонжи для макияжа в виде сосков
05.05.2026 12:51:44 | Lenta.ru

«А как иначе?»: Надежда Бабкина объяснила, почему артисту нужна гражданская позиция
05.05.2026 12:51:29 | Life.ru

В Чебоксарах после атаки БПЛА в ПВР находятся около 700 человек
05.05.2026 12:51:28 | ТАСС

Городская пыль в Москве бывает наиболее вредна летом
05.05.2026 12:51:11 | ТАСС

Власти назвали число обратившихся в ПВР россиян после массированной атаки ВСУ
05.05.2026 12:51:08 | Lenta.ru

Ранее неизвестный вид бабочек назвали в честь Льва XIV
05.05.2026 12:50:53 | ТАСС

В аэропорту Ярославля сняли временные ограничения
05.05.2026 12:50:40 | ТАСС

Силы ПВО Минобороны сбили четыре беспилотника, летевших на Москву
05.05.2026 12:50:36 | ТАСС

При атаке на Чебоксарский округ есть погибшие и пострадавшие
05.05.2026 12:50:12 | ТАСС

Российский рынок акций вернулся к росту после снижения до полугодового минимума
05.05.2026 12:49:52 | ТАСС

ТАСС: ВС РФ подошли вплотную к пригородам Дружковки
05.05.2026 12:49:19 | ТАСС

Китай выступает против усиления санкционного давления США на Кубу
05.05.2026 12:49:09 | ТАСС

Банк России через суд потребовал ликвидировать один из банков
05.05.2026 12:48:52 | Lenta.ru

Эксперт Пермяков напомнил о сервисах телефона, работающих без интернета
05.05.2026 12:48:36 | ТАСС

В деле экс-вице-губернатора Кубани появился эпизод закупки для нужд СВО
05.05.2026 12:48:31 | ТАСС

Пик звездопада Майские Аквариды ожидается в ночь на 6 мая
05.05.2026 12:47:34 | Life.ru

Силы ПВО за сутки сбили шесть крылатых ракет «Фламинго» и более 600 дронов ВСУ
05.05.2026 12:47:13 | Коммерсантъ

Число жертв и пострадавших в результате атаки ВСУ на Чебоксары выросло в два раза
05.05.2026 12:47:00 | Lenta.ru

В Малоярославце из поврежденного взрывом газа общежития эвакуировали 40 человек
05.05.2026 12:46:50 | ТАСС

В Испании допустили рост цен на энергоносители из-за ситуации в Ормузском проливе
05.05.2026 12:46:46 | ТАСС

Росздравнадзор назвал стабильным выпуск онкопрепаратов
05.05.2026 12:46:15 | ТАСС

Иркутская таможня задержала пассажирку с алмазами на 6,3 млн рублей из Пекина
05.05.2026 12:46:08 | Life.ru

Мостовой заявил о готовности стать тренером ЦСКА
05.05.2026 12:45:23 | Lenta.ru

Россиянам предложили поучаствовать в праздновании 9 Мая онлайн
05.05.2026 12:44:47 | Lenta.ru

Лидера страны СНГ обвинили в попытке перейти на антироссийский путь
05.05.2026 12:44:39 | Lenta.ru

В Москве открылся прием заявок на летнюю школу Ильдара Абдразакова
05.05.2026 12:44:35 | ТАСС

Минск планирует использовать МТК "Север - Юг" после стабилизации обстановки в регионе
05.05.2026 12:44:19 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro