Как мы провели лоботомию 744-миллиардной нейросети GLM-5.1, чтобы запустить её на 16 ГБ VRAM

13.04.2026 07:34:16 | Хабр

Хабы: Машинное обучение, Искусственный интеллект, Python, Open source, IT-инфраструктура

У нас не было фермы. У нас была бесплатная виртуальная машина на Kaggle с одной старушкой NVIDIA T4 на 16 ГБ VRAM. И у нас была концепция экстремального MLOps под кодовым названием «Russian Winter 26».

В этой статье я расскажу, как мы вскрыли архитектуру самого тяжелого китайского гиганта, переписали математику матриц внимания, обошли хардкодные ограничения GQA и заставили ядро модели сделать первый вдох на бесплатном железе.

Подробнее

Читайте также

SEO & GEO: Чеклисты оптимизации сайта
13.04.2026 07:33:21 | Хабр

Что писала Цветаева о любви. Исследование лирики на Python
13.04.2026 07:25:21 | Хабр

Жучки — это не миф? Как прослушивают офисы и почему это сложно обнаружить
13.04.2026 07:17:02 | Хабр

Мотивация, оптимизация, коробочка, жабочка и «налог на усталость»
13.04.2026 07:16:12 | Хабр

У меня нет звука, но я должен слышать: история одной регрессии ядра
13.04.2026 07:00:06 | Хабр

ИИ в ITSM: уже не эксперимент, а корпоративный стандарт
13.04.2026 07:00:05 | Хабр

Как создать ИИ песни и заработать, часть 2
13.04.2026 06:48:03 | Хабр

Big Data больше не для гигантов: связка Airflow + ClickHouse вытеснила Airflow + PostgreSQL
13.04.2026 06:44:01 | Хабр

Как граф транзакций помогает банку лучше узнать своего клиента
13.04.2026 06:31:20 | Хабр

Telegram умер. Мы нашли, чем его заменить
13.04.2026 06:27:56 | Хабр

Экономическое прогнозирование в ЕАЭС
13.04.2026 06:15:52 | Хабр

Вас вычислили: как простая утилита на Go находит пользователей «Telega» в ваших чатах за считанные минуты
13.04.2026 06:12:25 | Хабр

Пилот WAF: как подготовиться, чтобы не упасть в прод и не затянуть сроки
13.04.2026 06:10:49 | Хабр

dc.send(file) не существует: что на самом деле нужно для передачи файла в браузере
13.04.2026 05:57:44 | Хабр

Пишу бота для директора: расширение 1С + шифрование + VPS
13.04.2026 05:45:41 | Хабр

Как строить ИБ, когда у атакующего может быть AI уровня Mythos
13.04.2026 05:45:10 | Хабр

Приземление нутелловых космонавтов, а также деанон Сатоши Накамото
13.04.2026 05:05:02 | Хабр

5 мифов о клинической психологии
13.04.2026 04:08:32 | Хабр

AI-субтитры и обработка видео в реальном времени на .NET MAUI
13.04.2026 04:00:29 | Хабр

Найм в IT, 2026: 2 вакансии, 1 000 откликов в сутки
13.04.2026 02:51:11 | Хабр

llama.cpp теперь умеет работать с речью
13.04.2026 02:06:38 | Хабр

IT-Weekly: О’КЕЙ» запустила продажи на Wildberries; Ростелеком запускает проект ЦОДа на 100 МВт
13.04.2026 00:04:36 | it-world

IT-Weekly: О’КЕЙ запустил продажи на Wildberries; Ростелеком построит ЦОД на 100 МВт
13.04.2026 00:04:36 | it-world

Как я получаю бесплатный трафик в Telegram (и почему это не так просто)
12.04.2026 23:59:04 | Хабр

Skaro 2.0: не ещё один AI-инструмент для кода, а среда совместной работы над проектом
12.04.2026 23:55:29 | Хабр

Правительство России выделило регионам 10 млрд рублей на цифровизацию медицины
12.04.2026 23:13:40 | ferra.ru

В Роскосмосе рассказали о готовности ракеты «Союз-5»
12.04.2026 22:54:50 | ferra.ru

NAS, который стал сервером: почему я отказался от DIY и купил Minisforum
12.04.2026 22:03:35 | Хабр

Бизнес-визуализации, или графики, которые недооценивают
12.04.2026 21:49:25 | Хабр

В МГТУ поддержали идею ввести специальность «космонавт-ученый»
12.04.2026 21:34:34 | ferra.ru

[Перевод] Межпланетная обитаемая зона
12.04.2026 21:17:16 | Хабр

Россия создаст лунную научную станцию совместно с Китаем
12.04.2026 20:56:02 | ferra.ru

Моё путешествие в трёхмерное пространство: история о «программном» Франкенштейне и множестве открытий
12.04.2026 20:46:46 | Хабр

Performance review без идеальной схемы: цели, лимиты, калибровки и почему все равно будет не идеально
12.04.2026 20:10:11 | Хабр

В России научили нейросеть определять тип и тяжесть респираторных болезней
12.04.2026 19:59:52 | ferra.ru

Смотреть все

НОВОСТИ

«Искандеры», «Цирконы», «Кинжалы», «Калибры», и это не всё: Куда и чем били по Украине этой ночью ВС РФ
15.06.2026 13:37:28 | Life.ru

Проводить онлайн-голосование на выборах в сентябре будут не более 33 регионов
15.06.2026 13:37:10 | Life.ru

Уехавший из России комик опроверг главный стереотип об эмиграции
15.06.2026 13:33:44 | Lenta.ru

«Трамп может проучить Нетаньяху»: Как США и Европа расшатают коалицию премьера Израиля
15.06.2026 13:33:19 | Life.ru

Названы ключевые проблемы мирной сделки США и Ирана
15.06.2026 13:32:55 | Lenta.ru

Медики рассказали о состоянии пострадавших при пожаре в Самаре
15.06.2026 13:32:20 | ТАСС

В столичном бассейне пара россиян занималась интимными действиями
15.06.2026 13:32:13 | Lenta.ru

Внебрачная дочь Глызина подала на певца в суд из-за операции и наследства
15.06.2026 13:32:09 | Life.ru

Российский город проведет собственную Неделю моды
15.06.2026 13:31:00 | Lenta.ru

«Многие надеются, что их не поймают»: Водители в России стали чаще скрываться с места ДТП
15.06.2026 13:30:54 | Life.ru

ЦБ и «Одноклассники» запускают марафон по борьбе с мошенниками
15.06.2026 13:30:52 | Life.ru

ЕК утвердила присоединение Украины к механизму кибербезопасности ЕС
15.06.2026 13:30:43 | ТАСС

Нарышкин: Ереван совершит ошибку, если будет ориентироваться на "помощь Запада"
15.06.2026 13:30:40 | ТАСС

Глава СВР оценил первые совместные маневры Сербии и НАТО
15.06.2026 13:30:29 | Lenta.ru

ЛДПР предложила учредить в РФ День памяти жертв религиозных репрессий
15.06.2026 13:29:30 | ТАСС

«Мне не нравится Израиль»: сбежавший блогер-иноагент Аксёнов мечтает вернуться в Россию
15.06.2026 13:28:44 | Life.ru

Ставленник вора в законе Пичуги признан «смотрящим»
15.06.2026 13:28:24 | Lenta.ru

Влияние соглашения США и Ирана на стоимость нефти оценили
15.06.2026 13:28:14 | Lenta.ru

Венгрия не намерена выполнять пакт ЕС по миграции в его нынешнем виде
15.06.2026 13:28:13 | ТАСС

Правительство подготовило отчет об исполнении бюджета России
15.06.2026 13:28:08 | Lenta.ru

Врач предупредил о скрытой проблеме со здоровьем у миллионов людей
15.06.2026 13:28:00 | Lenta.ru

В парках Подмосковья в выходные свыше 270 человек проверили здоровье
15.06.2026 13:27:00 | ТАСС

Экс-мэр Петропавловска-Камчатского, осужденный за взятки, вышел на свободу
15.06.2026 13:26:41 | ТАСС

Над Орловской областью сбили украинскую ракету «Фламинго»
15.06.2026 13:26:15 | Life.ru

Мошенники начали охотиться на уставших после перелёта российских туристов
15.06.2026 13:25:49 | Life.ru

Визит Уиткоффа и Кушнера в Россию состоится в обозримом будущем, заявил Лавров
15.06.2026 13:25:46 | Life.ru

Памфилова: более 100 представителей избирательной системы погибли в зоне СВО
15.06.2026 13:25:06 | ТАСС

ТАСС: Фидан выразил надежду на успех переговоров США и Ирана
15.06.2026 13:25:02 | ТАСС

Вьетнам выступает за расширение сотрудничества между АСЕАН и Россией
15.06.2026 13:24:50 | ТАСС

Жители поврежденного при ударе ВСУ по Краснодару дома покинули ПВР
15.06.2026 13:24:32 | ТАСС

ТАСС: Фидан обсудит в РФ Иран, Сирию и Ближний Восток
15.06.2026 13:24:03 | ТАСС

ЛДПР запустила проект "Трагедия по соседству" о жертвах религиозных репрессий
15.06.2026 13:22:37 | ТАСС

"Известия": в России доля наличных платежей весной превысила 30%
15.06.2026 13:22:16 | ТАСС

Слёзы и цветы: Наталья Фриске почтила память сестры в 11-ю годовщину её смерти
15.06.2026 13:22:03 | Life.ru

Лавров призвал сделать всё для торжества справедливости на Украине
15.06.2026 13:21:56 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro