Как мы провели лоботомию 744-миллиардной нейросети GLM-5.1, чтобы запустить её на 16 ГБ VRAM

13.04.2026 07:34:16 | Хабр

Хабы: Машинное обучение, Искусственный интеллект, Python, Open source, IT-инфраструктура

У нас не было фермы. У нас была бесплатная виртуальная машина на Kaggle с одной старушкой NVIDIA T4 на 16 ГБ VRAM. И у нас была концепция экстремального MLOps под кодовым названием «Russian Winter 26».

В этой статье я расскажу, как мы вскрыли архитектуру самого тяжелого китайского гиганта, переписали математику матриц внимания, обошли хардкодные ограничения GQA и заставили ядро модели сделать первый вдох на бесплатном железе.

Подробнее

Читайте также

SEO & GEO: Чеклисты оптимизации сайта
13.04.2026 07:33:21 | Хабр

Что писала Цветаева о любви. Исследование лирики на Python
13.04.2026 07:25:21 | Хабр

Жучки — это не миф? Как прослушивают офисы и почему это сложно обнаружить
13.04.2026 07:17:02 | Хабр

Мотивация, оптимизация, коробочка, жабочка и «налог на усталость»
13.04.2026 07:16:12 | Хабр

У меня нет звука, но я должен слышать: история одной регрессии ядра
13.04.2026 07:00:06 | Хабр

ИИ в ITSM: уже не эксперимент, а корпоративный стандарт
13.04.2026 07:00:05 | Хабр

Как создать ИИ песни и заработать, часть 2
13.04.2026 06:48:03 | Хабр

Big Data больше не для гигантов: связка Airflow + ClickHouse вытеснила Airflow + PostgreSQL
13.04.2026 06:44:01 | Хабр

Как граф транзакций помогает банку лучше узнать своего клиента
13.04.2026 06:31:20 | Хабр

Telegram умер. Мы нашли, чем его заменить
13.04.2026 06:27:56 | Хабр

Экономическое прогнозирование в ЕАЭС
13.04.2026 06:15:52 | Хабр

Вас вычислили: как простая утилита на Go находит пользователей «Telega» в ваших чатах за считанные минуты
13.04.2026 06:12:25 | Хабр

Пилот WAF: как подготовиться, чтобы не упасть в прод и не затянуть сроки
13.04.2026 06:10:49 | Хабр

dc.send(file) не существует: что на самом деле нужно для передачи файла в браузере
13.04.2026 05:57:44 | Хабр

Пишу бота для директора: расширение 1С + шифрование + VPS
13.04.2026 05:45:41 | Хабр

Как строить ИБ, когда у атакующего может быть AI уровня Mythos
13.04.2026 05:45:10 | Хабр

Приземление нутелловых космонавтов, а также деанон Сатоши Накамото
13.04.2026 05:05:02 | Хабр

5 мифов о клинической психологии
13.04.2026 04:08:32 | Хабр

AI-субтитры и обработка видео в реальном времени на .NET MAUI
13.04.2026 04:00:29 | Хабр

Найм в IT, 2026: 2 вакансии, 1 000 откликов в сутки
13.04.2026 02:51:11 | Хабр

llama.cpp теперь умеет работать с речью
13.04.2026 02:06:38 | Хабр

IT-Weekly: О’КЕЙ» запустила продажи на Wildberries; Ростелеком запускает проект ЦОДа на 100 МВт
13.04.2026 00:04:36 | it-world

IT-Weekly: О’КЕЙ запустил продажи на Wildberries; Ростелеком построит ЦОД на 100 МВт
13.04.2026 00:04:36 | it-world

Как я получаю бесплатный трафик в Telegram (и почему это не так просто)
12.04.2026 23:59:04 | Хабр

Skaro 2.0: не ещё один AI-инструмент для кода, а среда совместной работы над проектом
12.04.2026 23:55:29 | Хабр

Правительство России выделило регионам 10 млрд рублей на цифровизацию медицины
12.04.2026 23:13:40 | ferra.ru

В Роскосмосе рассказали о готовности ракеты «Союз-5»
12.04.2026 22:54:50 | ferra.ru

NAS, который стал сервером: почему я отказался от DIY и купил Minisforum
12.04.2026 22:03:35 | Хабр

Бизнес-визуализации, или графики, которые недооценивают
12.04.2026 21:49:25 | Хабр

В МГТУ поддержали идею ввести специальность «космонавт-ученый»
12.04.2026 21:34:34 | ferra.ru

[Перевод] Межпланетная обитаемая зона
12.04.2026 21:17:16 | Хабр

Россия создаст лунную научную станцию совместно с Китаем
12.04.2026 20:56:02 | ferra.ru

Моё путешествие в трёхмерное пространство: история о «программном» Франкенштейне и множестве открытий
12.04.2026 20:46:46 | Хабр

Performance review без идеальной схемы: цели, лимиты, калибровки и почему все равно будет не идеально
12.04.2026 20:10:11 | Хабр

В России научили нейросеть определять тип и тяжесть респираторных болезней
12.04.2026 19:59:52 | ferra.ru

Смотреть все

НОВОСТИ

Жена Ивана Янковского разместила редкое интимное фото с ним
25.05.2026 20:42:12 | Lenta.ru

МИД Белоруссии: накачка Украины оружием не ведет к мирному урегулированию
25.05.2026 20:41:11 | ТАСС

Политик Мема: финским СМИ нужно прекратить разжигать антироссийскую риторику
25.05.2026 20:40:28 | ТАСС

Национальная авиакомпания Марокко приостановила рейсы из-за роста цен на топливо
25.05.2026 20:39:00 | Российская Газета

Полиция выстрелами разогнала толпу у центра по лечению Эболы в ДР Конго
25.05.2026 20:38:00 | Российская Газета

«Сэкономили 200 миллионов»: СМИ назвали причину сбоя GPS у самолёта министра обороны Британии Хили
25.05.2026 20:36:00 | Life.ru

Петербург подготовил к подписанию на ПМЭФ несколько десятков соглашений
25.05.2026 20:35:21 | ТАСС

Врач предупредила о выгибающей тело дугой болезни
25.05.2026 20:34:00 | Lenta.ru

Вооруженные бандиты похитили 25 человек во время атак в Нигерии
25.05.2026 20:34:00 | Российская Газета

Туристка стала жертвой обратного течения на курорте в Европе
25.05.2026 20:32:41 | Lenta.ru

В Нижнем Новгороде прошла вечеринка PEOPLETALK x ЦИПР с Османн, Пивень и Ибадовой
25.05.2026 20:32:20 | Life.ru

Глава МИД Кубы обвинил Каллас в двойных стандартах
25.05.2026 20:32:15 | ТАСС

Беглов: инфраструктура Петербурга подготовлена к приему участников ПМЭФ
25.05.2026 20:30:43 | ТАСС

Путин поприветствовал участников форума тружеников села
25.05.2026 20:30:07 | ТАСС

Президент Бразилии Лула начал курс лучевой терапии от рака
25.05.2026 20:30:00 | Российская Газета

Площадь «Зенита» открыли на Крестовском острове в Петербурге
25.05.2026 20:29:20 | Life.ru

В ГД призвали предусмотреть льготы на аренду городских площадок под выпускные
25.05.2026 20:28:14 | ТАСС

Болгерл стало плохо во время матча с участием Рублева на Roland Garros
25.05.2026 20:26:43 | ТАСС

В астраханском монастыре семь человек заразились бруцеллезом
25.05.2026 20:25:57 | ТАСС

В монастыре Астраханской области зафиксировали семь случаев бруцеллеза
25.05.2026 20:25:57 | ТАСС

Вспышку сальмонеллёза зафиксировали в детском центре в Калининграде
25.05.2026 20:25:56 | Life.ru

Иностранцы массово устремились в Россию ради одной цели
25.05.2026 20:25:24 | Lenta.ru

Раскрыты подробности о боестолкновениях над российским приграничьем
25.05.2026 20:25:00 | Lenta.ru

Россиян предупредили о влиянии сильной жары на автомобильные шины
25.05.2026 20:24:37 | Lenta.ru

Гоблин раскрыл отношение к Жириновскому
25.05.2026 20:23:47 | Lenta.ru

Лавров: Теракт в Старобельске не станет просто эпизодом, на который ответили
25.05.2026 20:23:00 | Российская Газета

Аэропорт Калининграда приостановил работу из соображений безопасности
25.05.2026 20:22:33 | Life.ru

В сети обсудили внешность 48-летней певицы Жасмин в мини-шортах
25.05.2026 20:21:43 | Lenta.ru

В порту Одессы подорвали единственный парусник Украины
25.05.2026 20:20:54 | Lenta.ru

В российском городе при сносе здания кусок стены упал на прохожую
25.05.2026 20:20:35 | Lenta.ru

Над тремя регионами РФ за день сбили 14 БПЛА
25.05.2026 20:19:45 | ТАСС

Средства ПВО за день сбили 14 БПЛА над Белгородской, Брянской и Курской областями
25.05.2026 20:19:45 | ТАСС

Лула да Силва начал курс лучевой терапии после удаления образования на голове
25.05.2026 20:18:09 | Life.ru

Москва и Пекин вместе продвигают высококачественное развитие китайско-российских отношений
25.05.2026 20:18:00 | Российская Газета

Учения НАТО пройдут в Болгарии с 26 мая по 13 июня
25.05.2026 20:16:32 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro