[Перевод] Языковая Модель без магии: Крошечная Language Model на чистом Node.js

27.07.2026 09:36:34 | Хабр

Хабы: Машинное обучение, Искусственный интеллект, JavaScript, Node.JS, Алгоритмы

Мы создаем крошечную языковую модель с нуля на чистом Node.js без использования TensorFlow или PyTorch, реализуя нейроны, автоград, эмбеддинги, механизм самовнимания (self-attention), полносвязную сеть (FFN), обратное распространение ошибки и SFT, одновременно наблюдая за тем, как отдельные веса и целые матрицы изменяются в процессе обучения

Это не новая GPT и не прод ML...

Подробнее

Читайте также

502 на ingress, 302 в приложении: как я учил инфраструктурного LLM-агента не врать
27.07.2026 09:35:03 | Хабр

OSINT для ленивых. Часть 14: Argus
27.07.2026 09:32:53 | Хабр

Из каких деталей собран скам на Avito
27.07.2026 09:18:58 | Хабр

Как Хопфилд начал оттепель в зиме ИИ
27.07.2026 09:01:00 | Хабр

[Перевод] Как я добавлял gapless playback
27.07.2026 09:00:59 | Хабр

От хаоса к порядку: как управлять техдолгом
27.07.2026 08:52:53 | Хабр

Как ЦФА на практике влияют на экологию
27.07.2026 08:48:29 | it-world

Недельный геймдев: #288 — 26 июля, 2026
27.07.2026 08:45:22 | Хабр

Кейс: как программатик‑реклама помогла повысить эффективность продвижения юбилейного тура группы «Ария»
27.07.2026 08:43:26 | Хабр

Я поставил сайт-визитку и посчитал посетителей. Живых оказалось 8 %
27.07.2026 08:40:58 | Хабр

Когда 200 OK опаснее ошибки
27.07.2026 08:37:36 | Хабр

Разбор утечки памяти в StackExchange.Utils: как 4 КБ конфигурации съели 2 ГБ RAM
27.07.2026 08:30:54 | Хабр

Ешь, молись, люби своё облако: как Dogfooding помогает развивать продукт
27.07.2026 08:30:54 | Хабр

День 1615: число заказов иностранной электроники в первой половине 2026-го выросло на 28%
27.07.2026 08:20:47 | vc.ru

Раунд в $105 млн. Инженерный взгляд на гуманоидного робота для производства FRIDAY от Holiday Robotics
27.07.2026 08:20:32 | Хабр

По обе стороны антибота: как я имитирую Chrome при скрейпинге и ловлю ботов по тем же сигналам
27.07.2026 08:00:51 | Хабр

Как IBM изобрела половину современного IT, но почти каждый раз на этом зарабатывал кто-то другой
27.07.2026 08:00:51 | Хабр

Python: как создавался язык и какие патенты связаны с ним сейчас?
27.07.2026 07:59:31 | Хабр

От «грязных» справочников к золотым записям: как AI/ML спасает НСИ от хаоса
27.07.2026 07:57:37 | Хабр

О нейросетях, детекторах генерации и правовых аспектах использования ИИ
27.07.2026 07:57:12 | Хабр

CraftHub: вложенный JSON больше не расплющивается в колонки, плюс подсветка синтаксиса и ещё по мелочи
27.07.2026 07:54:50 | Хабр

Глубокие агенты (Deep Agents) — всё собрал? Но какой ценой?
27.07.2026 07:45:55 | Хабр

Оценка скорости реакции RTOS на события
27.07.2026 07:38:05 | Хабр

Запуск сайта в 2026 году: 10 шагов от идеи до продвижения в нейроответах
27.07.2026 07:32:19 | Хабр

Нужно ли разработчикам знакомиться с MODX в 2026 году — исследование востребованности CMS на рынке
27.07.2026 07:32:04 | Хабр

Opsgenie ушёл, JSM не пришёл: как я собрал собственный incident management с AI
27.07.2026 07:00:56 | Хабр

Новая охота на ведьм: как погоня за ярлыком AI-Free мешает адекватному применению ИИ
27.07.2026 07:00:55 | Хабр

Искусственный интеллект внутри 1С: что уже можно внедрять
27.07.2026 07:00:55 | Хабр

Логгер в топе VTune: как найти строки, создающие нагрузку
27.07.2026 06:30:53 | Хабр

Почему при rolling update летят 502, хотя readiness-проба на месте
27.07.2026 06:23:52 | Хабр

Как мы детектили фрод, а получили Джонни и Джулию: история одной браузерной разминки
27.07.2026 06:16:46 | Хабр

Изучаем LangChain
27.07.2026 06:15:25 | Хабр

В один эмбеддинг можно впихнуть больше тысячи токенов, но что с этим не так?
27.07.2026 06:12:20 | Хабр

Своя GPT-like LLM по WH40K с нуля. Часть 5: Интеграция с Hugging Face
27.07.2026 06:11:51 | Хабр

Рейтинг лучших тепловизоров — неожиданное мини-исследование
27.07.2026 06:10:50 | Хабр

Смотреть все

НОВОСТИ

В Калининградской области после ДТП, в котором погибла женщина, завели дело
27.07.2026 13:32:49 | ТАСС

ВКС России уничтожили автомобильный мост через Локню в Сумской области
27.07.2026 13:32:23 | ТАСС

«Ничтожная значимость»: Милонов оценил требования Литвы осуждать СВО при въезде в страну
27.07.2026 13:32:00 | Life.ru

В "Максе" добавили функцию публикации историй
27.07.2026 13:31:54 | ТАСС

Прохожие успели растянуть одеяло и поймали падающего ребёнка в Кирове
27.07.2026 13:31:52 | Life.ru

До 35 тысяч: Самозанятым начнут оплачивать больничные уже в августе
27.07.2026 13:31:31 | Life.ru

Заявления Трампа о новом президентском сроке назвали троллингом
27.07.2026 13:31:25 | Lenta.ru

В Москве реконструировали крупные очистные сооружения
27.07.2026 13:31:07 | ТАСС

Главреда RusNews оштрафовали за распространение ложной информации
27.07.2026 13:30:10 | ТАСС

Судный день для суда: кто и что парализует МУС
27.07.2026 13:30:00 | ТАСС

Миллионы обращений и сотни законов: Васильев, Миронов, Слуцкий и Зюганов подвели итоги работы Госдумы VIII созыва
27.07.2026 13:29:55 | Life.ru

РКН выразил соболезнования после гибели своего сотрудника и его детей при атаке БПЛА
27.07.2026 13:29:20 | ТАСС

Число погибших при атаке БПЛА на Ростов выросло до пяти
27.07.2026 13:29:16 | Коммерсантъ

В Пермском крае отменили режим "Ковер"
27.07.2026 13:28:05 | ТАСС

Засиживающаяся в офисе девушка нашла оригинальный способ двигаться больше
27.07.2026 13:27:57 | Lenta.ru

В польском магазине на чеках обнаружили бандеровский лозунг
27.07.2026 13:27:00 | Российская Газета

Скандальное видео блогера с деньгами в фонтане на Мамаевом кургане заинтересовало полицию
27.07.2026 13:27:00 | Lenta.ru

Заряжавшего смартфон российского подростка нашли с ожогом на груди
27.07.2026 13:26:24 | Lenta.ru

Российский подросток напал с ножом на ребенка ради кроссовок
27.07.2026 13:25:47 | Lenta.ru

Убийцы аниматоров на Кубани выступили с последним словом
27.07.2026 13:25:39 | Lenta.ru

ТАСС и "Звезда" запустили спецпроект про СВО и историю Великой Отечественной
27.07.2026 13:25:23 | ТАСС

В Брянске почтили память погибших детей Донбасса и других регионов РФ
27.07.2026 13:24:58 | ТАСС

WP: удары США по катерам наркоторговцев не снизили объемы ввоза кокаина в страну
27.07.2026 13:24:28 | ТАСС

Лукашенко предложил России совместно с Белоруссией развивать биотехнологии
27.07.2026 13:24:10 | ТАСС

Посла Украины вызвали в МИД Индии
27.07.2026 13:24:00 | Lenta.ru

В Белгородской области из-за атак дронов ВСУ пострадали еще два человека
27.07.2026 13:23:42 | ТАСС

На юго-востоке Москвы провели реабилитацию Шибаевского пруда
27.07.2026 13:23:36 | ТАСС

Прямое попадание: «Герани» сожгли логистический центр ВСУ в Кривом Роге
27.07.2026 13:22:48 | Life.ru

Индекс Мосбиржи превысил 2 200 пунктов впервые с 13 июля 2026 года
27.07.2026 13:22:26 | ТАСС

Рейс Красноярск — Казань перенаправили в Оренбург из-за угрозы БПЛА
27.07.2026 13:21:52 | Коммерсантъ

Партнера бывшего замминистра обороны Тимура Иванова приговорили к восьми годам
27.07.2026 13:21:42 | Коммерсантъ

Минэнерго Казахстана сообщило о возобновлении приема нефти КТК
27.07.2026 13:21:35 | ТАСС

В России нашли «резиновые» квартиры с десятками мигрантов
27.07.2026 13:20:37 | Lenta.ru

Илюмжинов заявил, что приостановил шахматную деятельность
27.07.2026 13:19:33 | ТАСС

В РФС объяснили назначение 24-летнего арбитра на матч "Динамо" - "Крылья Советов"
27.07.2026 13:19:17 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro