Запуск Open-Sora на 15 ГБ VRAM: Реверс-инжиниринг, monkey-patching и борьба с NaN-ами

20.03.2026 21:40:45 | Хабр

Хабы: Ненормальное программирование

Запуск современных Text-to-Video моделей локально — задача не для слабонервных. Когда китайские исследователи из PKU-YuanGroup выложили в open-source свою модель Open-Sora-Plan, энтузиасты бросились её тестировать. Но есть нюанс: оригинальный пайплайн рассчитан на кластеры уровня H100/A100. Веса модели в полном разрешении занимают десятки гигабайт.

Моя цель заключалась в том, чтобы запустить инференс Open-Sora-Plan (v1.3.0) в спартанских условиях — на абсолютно бесплатном инстансе Google Colab с видеокартой NVIDIA T4 (15 ГБ VRAM, архитектура Turing 2018 года) и 12.7 ГБ системной ОЗУ.

Спойлер: скрипт отработал от начала и до конца без OOM (Out of Memory). Но для этого нам пришлось вскрывать исходники, бороться с аппаратными лимитами GPU и в прямом смысле делать нейросети математическую «лоботомию».

Подробнее

Читайте также

Росавиация: сертификацию МС-21 планируют завершить к концу 2026 года
20.03.2026 21:35:00 | ferra.ru

Конкурсные списки: как публичные СНИЛС и приказы о зачислениях создают риск для персональных данных
20.03.2026 21:30:33 | Хабр

В Башкирии разработали тест-систему для определения «бактерии стройности»
20.03.2026 21:15:32 | ferra.ru

Глава Nothing предрёк скорую смерть приложений в смартфонах
20.03.2026 21:09:47 | ferra.ru

Новый запрет на продажи Apple Watch в США вводить не будут
20.03.2026 21:04:05 | ferra.ru

Может ли парусная яхта идти быстрее ветра?
20.03.2026 20:59:04 | Хабр

Белок тихоокеанских мидий усилил действие антибиотика против бактерий
20.03.2026 20:50:00 | ferra.ru

В России изучат перепрограммирование клеток против старения
20.03.2026 20:25:42 | ferra.ru

В Тюменской области создали ИИ-консультанта для помощи жителям при паводках
20.03.2026 20:05:00 | ferra.ru

Светящуюся керамику с бактерицидным эффектом создали в России
20.03.2026 19:39:56 | ferra.ru

Создание USB контроллера на FPGA чипе и подключение клавиатуры
20.03.2026 19:18:55 | Хабр

Весенняя распродажа Steam 2026: топ-50 игр по скидкам
20.03.2026 19:17:45 | Хабр

Как я устал от того, что локальные ИИ-агенты ломают мои планы, и написал CLI-инструмент для защиты структуры задач
20.03.2026 19:13:56 | Хабр

ФАС потребовала от Ozon и Wildberries «скорректировать» работу с продавцами до 3 апреля 2026 года
20.03.2026 19:08:31 | vc.ru

В сеть утекли новые рендеры доступных смартфонов Samsung Galaxy A57 и A37
20.03.2026 19:04:04 | ferra.ru

Внедрение SEO в цикл разработки SDLC
20.03.2026 18:49:53 | Хабр

«Высокоточные комплексы» передали Минобороны партию ЗРПК «Панцирь-С»
20.03.2026 18:35:00 | ferra.ru

Ремонт механизма офисного кресла Top Gun. Как починить его, и сделать надежным (почти неубиваемым)
20.03.2026 18:34:19 | Хабр

В России запатентовали легкий и жаропрочный алюминиевый композит
20.03.2026 18:14:08 | ferra.ru

Рубрикатор клинических рекомендаций Минздрава РФ: почему врачу неудобно работать с PDF
20.03.2026 18:12:09 | Хабр

ИИ-браузер Perplexity Comet добрался до iPhone
20.03.2026 18:09:51 | ferra.ru

Задача о шаре, падающем на клин
20.03.2026 17:50:31 | Хабр

Минцифры утвердило «белый список» из более чем 120 сервисов
20.03.2026 17:50:00 | ferra.ru

Спустя сутки Meta* передумала отключать доступ к метавселенной Horizon Worlds через VR-гарнитуру Quest
20.03.2026 17:48:26 | vc.ru

[Перевод] Учёные представили новое понятие: «межпланетная зона обитаемости»
20.03.2026 17:46:05 | Хабр

Я написал кэш для API на Go за 120 строк кода — и PostgreSQL перестал быть узким местом (ускорение в 7 раз)
20.03.2026 17:31:02 | Хабр

Адаптивная мимикрия: как обмануть DPI, имитируя цифровой след пользователя
20.03.2026 17:30:32 | Хабр

Как мы ускорили SQL-запросы: реальные кейсы оптимизации PostgreSQL
20.03.2026 17:06:58 | Хабр

Байонетта, драконы и 17 тысяч блокировок: история Хидеки Камии. Часть 2
20.03.2026 17:05:55 | Хабр

Юрист: в России одни ИИ запретят, а другие разрешат развернуть локально
20.03.2026 17:05:00 | ferra.ru

Минэкономразвития разработало проект о критериях блокировки работы самозанятых с заказчиками на цифровых платформах
20.03.2026 17:04:51 | vc.ru

Началось тестирование отдельного приложения ИИ Google для Mac
20.03.2026 17:04:02 | ferra.ru

Финтех 2026: ландшафт, анализ, стратегии для карьеры и понимания отрасли
20.03.2026 16:59:07 | Хабр

Полноценный сайт за 30 секунд в нейросети: я попробовала — и вебмастер с 10-летним стажем не нашёл что возразить
20.03.2026 16:53:10 | Хабр

Китайский обогнал немецкий, став вторым по популярности языком в Яндекс Переводчике
20.03.2026 16:46:34 | ferra.ru

Смотреть все

НОВОСТИ

«В лёгких стекловата»: Сотрудница завода в Искитиме отсудила миллион за работу с ядами
13.06.2026 11:26:51 | Life.ru

Кошатникам назвали три ошибки, которые провоцируют хронические болезни печени
13.06.2026 11:25:40 | Life.ru

Врачи по ошибке нашли у мужчины рак крови и мучили химиотерапией 7 лет
13.06.2026 11:24:48 | Life.ru

Проезд из Херсонской области в Крым осуществляют по маршруту через АПП "Армянск"
13.06.2026 11:21:41 | ТАСС

Десятки людей пришли к Кеннеди-центру посмотреть на удаление имени Трампа
13.06.2026 11:20:00 | Российская Газета

В Литве около получаса действовал режим воздушной тревоги
13.06.2026 11:19:56 | ТАСС

Во Франции похитителей книг русских классиков приговорили к тюремным срокам
13.06.2026 11:19:33 | ТАСС

Неуловимую «убийцу у кинотеатра» нашли в Ленобласти спустя 16 лет
13.06.2026 11:17:57 | Life.ru

Беглов: общепит Петербурга будет адаптировать меню под интересы иностранцев
13.06.2026 11:13:40 | ТАСС

Не стрижёт ногти, экономит на еде: Как живёт гений-затворник Перельман после отказа от $1 млн
13.06.2026 11:13:20 | Life.ru

В «Лужниках» спели песню на стихи Марии Захаровой
13.06.2026 11:13:00 | Lenta.ru

Под Волгоградом из-за жесткой посадки легкомоторного самолета пострадал человек
13.06.2026 11:12:06 | ТАСС

"Ак Барс": в России нужна госпрограмма "водного беспилотья"
13.06.2026 11:08:41 | ТАСС

Сын расстрелянной в Турции русской модели Двизовой живёт дома у убийцы — в Литве
13.06.2026 11:08:08 | Life.ru

В России произошла серия пожаров из-за молний
13.06.2026 11:07:36 | Lenta.ru

Anthropic по требованию властей США отключила клиентов от мощных ИИ
13.06.2026 11:05:50 | Lenta.ru

В МВД заявили, что проведение видеообыска по мобильной связи не предусмотрено
13.06.2026 11:05:50 | ТАСС

Все 83 паса в точку: Защитник сборной США установил рекорд на ЧМ-2026
13.06.2026 11:02:45 | Life.ru

В Москве начнут воссоздание нижнего иконостаса храма Петра и Павла
13.06.2026 11:02:32 | ТАСС

В Татарстане мужчина и ребенок утонули, упав в Волгу с сапборда
13.06.2026 11:02:27 | ТАСС

Кабмин выделил 5 млрд рублей на медприборы для детей и беременных с диабетом
13.06.2026 11:02:07 | ТАСС

Квартальнов отметил настрой Радулова перед новым сезоном КХЛ
13.06.2026 11:01:47 | ТАСС

В ВСУ произошла вспышка ВИЧ
13.06.2026 11:01:18 | Lenta.ru

Тарделли назвал неуважением слова Инфантино о сборной Италии
13.06.2026 11:00:36 | ТАСС

Тест: Только сам профессор ответит на 6 вопросов по цитатам из фильма «Собачье сердце»!
13.06.2026 11:00:00 | Life.ru

Военно-транспортный самолёт Ан-32 потерпел крушение над авиабазой в Индии
13.06.2026 10:59:14 | Life.ru

Топливо в свободной продаже появилось в Севастополе на семи заправках
13.06.2026 10:58:19 | РБК

Израиль пытается сорвать сделку между США и Ираном
13.06.2026 10:58:00 | Российская Газета

SABC: страны Африки существенно увеличили закупки бензина и дизеля у США
13.06.2026 10:57:36 | ТАСС

Задержаны подозреваемые в краже экипировки сборной Англии на ЧМ-2026
13.06.2026 10:57:25 | Lenta.ru

Гроза в Москве может начаться после полудня
13.06.2026 10:54:50 | ТАСС

Апексимова поддержала инициативу ставить спектакли без разрешения наследников
13.06.2026 10:54:44 | ТАСС

Американская мечта. Как хорват, немец и нигериец принесли победу сборной США
13.06.2026 10:54:07 | ТАСС

Пожар в промзоне произошел в Волгоградской области после атаки БПЛА
13.06.2026 10:53:48 | РБК

В честь актрисы Людмилы Чурсиной назовут сквер в Сестрорецке
13.06.2026 10:53:16 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro