Откуда в обучении берётся nan: численная нестабильность в ML и почему всё считают в логарифмах

09.06.2026 17:50:28 | Хабр

Хабы: Блог компании OTUS, Машинное обучение, Python, Программирование, Искусственный интеллект

Многие ML‑инженеры знают, что нужно использовать CrossEntropyLoss, log_softmax и logsumexp. Гораздо меньше людей могут объяснить, что именно они спасают и почему без них обучение модели периодически превращается в генератор nan. Именно об этом и поговорим.

Подробнее

Читайте также

TypeScript vs JavaScript в 2026: почему TS обогнал JS и что это значит для разработчиков
09.06.2026 17:40:25 | Хабр

На черепе древнего жителя Пензенской области нашли следы удаления зуба мудрости
09.06.2026 17:35:00 | ferra.ru

Nvidia заключила серию сделок с южнокорейскими производителями ИИ-чипов
09.06.2026 17:28:41 | ferra.ru

Когда AI ошибается уверенно
09.06.2026 17:09:34 | Хабр

Roblox пообещал Минцифры усилить защиту детей на платформе
09.06.2026 17:07:24 | it-world

Минцифры и Роскомнадзор попросили правоохранительные органы поддержать разблокировку Roblox в России
09.06.2026 17:00:19 | vc.ru

Роснедра: Россия превосходит США по запасам сланцевой нефти
09.06.2026 16:50:00 | ferra.ru

Kandinsky научили собирать картинку из нескольких фото
09.06.2026 16:48:27 | it-world

Госдума приняла законопроект о штрафах для владельцев сайтов за отсутствие отечественных способов авторизации для российских пользователей
09.06.2026 16:47:15 | vc.ru

Доверенная загрузка без доверия: уязвимость в SoC Ky X1
09.06.2026 16:30:44 | Хабр

Как я написал портативный файлообменник
09.06.2026 16:27:09 | Хабр

Китай вложит до $295 млрд в инфраструктуру для ИИ
09.06.2026 16:25:26 | it-world

Samsung начала поставки памяти HBM4 для Nvidia. На очереди HBM5
09.06.2026 16:23:09 | ferra.ru

Как я осваивал LLM: взгляд старого зануды со своего чердака
09.06.2026 16:19:46 | Хабр

Как попасть во фронтенд и дойти до senior в ВК — интервью с Александром Ламковым
09.06.2026 16:16:13 | Хабр

Маркировка международных звонков, база IMEI устройств и «красная кнопка» на Госуслугах: Госдума приняла второй пакет мер по защите от мошенников
09.06.2026 16:15:37 | vc.ru

Вице-премьер Григоренко: запрещать иностранные нейросети в России не планируется
09.06.2026 16:05:00 | ferra.ru

Конечный автомат (FSM) – инструмент программиста
09.06.2026 15:58:07 | Хабр

ROSA и ОСь репозитории CentOS 7
09.06.2026 15:55:06 | Хабр

Деплой LLM on-prem: Это наша корова и мы ее доим
09.06.2026 15:49:15 | Хабр

Так выглядит складной iPhone Fold
09.06.2026 15:28:39 | ferra.ru

Рабочий стол в LXC-контейнере: детективная история о протоколах, тупиках и самописном Wayland-композиторе
09.06.2026 15:28:21 | Хабр

Смартфоны, особенно iPhone, «обвинили»… в снижении рождаемости
09.06.2026 15:23:07 | ferra.ru

В России ИИ будет штрафовать за мусор по камерам в городах
09.06.2026 15:20:00 | ferra.ru

Топ самых интересных CVE за май 2026 года
09.06.2026 15:16:15 | Хабр

Защита от фишинга: Passkey, WebAuthn/FIDO2 и беспарольный вход в компании
09.06.2026 15:11:08 | Хабр

Правительство предложило изменить параметры технологического сбора для производителей и импортёров электроники — он будет зависеть от бренда, модели и характеристик устройства
09.06.2026 15:01:44 | vc.ru

Преодолеть 4 шага от “красного” до “голубого” океана
09.06.2026 14:55:14 | Хабр

Как мы перевезли свой интернет-магазин с InSales на собственный движок на Next.js
09.06.2026 14:44:06 | Хабр

Когда мониторинг молчит: поиск скрытых деградаций сети с помощью ClickHouse
09.06.2026 14:42:20 | Хабр

Быстрый маркетинговый анализ: как за полчаса найти зоны роста в проекте
09.06.2026 14:34:36 | Хабр

[Перевод] Опровергнут один из основополагающих принципов авиационной инженерии
09.06.2026 14:26:05 | Хабр

Майский дайджест — CDN, Нью-Йорк и городские сети
09.06.2026 14:10:31 | Хабр

[Перевод] Месть дата-сайентиста: почему LLM не отменили нашу профессию
09.06.2026 14:05:20 | Хабр

Переезд ЦОДа: план был хорош. Реальность оказалась интереснее
09.06.2026 13:57:21 | Хабр

Смотреть все

НОВОСТИ

Забыла, кого представляет: Каллас продолжает терять опору в Евросоюзе
13.06.2026 14:55:52 | Life.ru

Гуцул призвала жителей Гагаузии отстоять право выбирать свое руководство
13.06.2026 14:53:36 | ТАСС

Россиянка Миронова стала чемпионкой мира по бильярду в 16-й раз
13.06.2026 14:53:34 | Life.ru

Для Донбасса и Новороссии к 2030 году разработают 75 мастер-планов
13.06.2026 14:53:18 | ТАСС

Швеция поднимала истребители на перехват Су-24 и Су-34 РФ над Балтикой
13.06.2026 14:52:58 | ТАСС

Орбан: партия ФИДЕС вновь будет бороться за власть
13.06.2026 14:52:08 | ТАСС

Lebanon 24: авиация Израиля атаковала оплоты "Хезболлах" в трех регионах Ливана
13.06.2026 14:52:04 | ТАСС

Россиянам рассказали, как обычный бесплатный Wi-Fi может слить преступникам абсолютно всё
13.06.2026 14:51:28 | Life.ru

Российский каноист стал чемпионом Европы
13.06.2026 14:51:08 | Lenta.ru

Детская прическа стала трендом у женщин летом
13.06.2026 14:47:00 | Lenta.ru

«Сердце кровью обливается»: Иосиф Пригожин рассказал о зяте, погибшем на СВО
13.06.2026 14:46:31 | Life.ru

С АЭС "Фукусима-1" вновь остановили сброс воды
13.06.2026 14:45:41 | ТАСС

Муж Блиновской запустил 3D-производство дронов прямо на СВО
13.06.2026 14:45:28 | Life.ru

В МИД заявили о пытающихся настроить АТЭС против России странах Запада
13.06.2026 14:44:19 | Lenta.ru

В Башкирии задержали подозреваемого в убийстве подростка из-за пакета продуктов
13.06.2026 14:42:40 | ТАСС

Отказалась сотрудничать: Ведущую больше года преследует экс-коллега, чтобы довести до самоубийства
13.06.2026 14:42:27 | Life.ru

На Кипре обвиняемого в терроризме освободили под залог в €1 млн
13.06.2026 14:42:20 | ТАСС

Верховного лидера Ирана похоронят спустя четыре месяца после гибели
13.06.2026 14:40:12 | Lenta.ru

ВГА: жители Купянска сообщили о целенаправленном разрушении города ВСУ
13.06.2026 14:39:10 | ТАСС

Хуснуллин: в Мариуполе перешли на ежедневную подачу воды
13.06.2026 14:38:45 | ТАСС

Ганчев: ВС РФ эвакуировали из Купянска четырех мирных жителей
13.06.2026 14:37:25 | ТАСС

Мальчик из Петербурга пропал на отдыхе с семьёй в Карелии, следы ведут к скале
13.06.2026 14:37:04 | Life.ru

В башкирском Салавате простились с погибшим хоккеистом Егором Ядыкиным
13.06.2026 14:35:38 | Life.ru

Обналичить нельзя! Россиянкам напомнили об условиях родового сертификата
13.06.2026 14:35:27 | Life.ru

Врач предупредил россиян о четырех тревожных сигналах проблем с сердцем
13.06.2026 14:35:10 | Lenta.ru

В Орехово-Зуеве неизвестные осквернили памятник участникам СВО
13.06.2026 14:34:29 | ТАСС

Украинские военные столкнулись с нехваткой ракет для Patriot
13.06.2026 14:31:00 | Lenta.ru

В Москве построят три здания пожарных отрядов площадью 7,3 тыс. кв. м
13.06.2026 14:30:27 | ТАСС

Путин поручил сосредоточить усилия на реализации стратегии развития Приазовья
13.06.2026 14:29:17 | ТАСС

«Влетает и крутится»: Как защитить дом от шаровой молнии и что делать при её появлении
13.06.2026 14:28:23 | Life.ru

Тайный лагерь и 5 млрд форинтов: Мадьяр назвал «самую большую ложь» Орбана
13.06.2026 14:27:48 | Life.ru

Путин высказался о ходе СВО
13.06.2026 14:27:00 | Lenta.ru

Путин: Для развития Донбасса сделано многое, но осталось немало вопросов
13.06.2026 14:25:32 | Life.ru

Манипуляция вскрыта: Во Франции обвинили руководство ЕС во лжи о «российской угрозе»
13.06.2026 14:25:28 | Life.ru

Россиянам рекомендовали скрыть геометки и закрыть профили в соцсетях
13.06.2026 14:21:42 | Lenta.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro