Операция выполнена!

info@vsetut.pro

Стать автором

Вернуться

Как работает трансформер (LLM)

19.03.2026 10:15:12 | Хабр

Хабы: Natural Language Processing, Искусственный интеллект, Машинное обучение

Это мой первый пост на Хабре, так что не судите строго :-)

Текст ниже - это слегка отредактированная версия чата с моими друзьями, где я вызвался объяснить, что же именно происходит в мозгах "электронного болвана". Так получилось, что в конце 2025 - начале 2026 я смог, наконец, удовлетворить собственное любопытство относительно внутреннего устройства современных нейросетей. Правда, не до конца - сейчас уже почти все переходили на архитектуру MoE, но насколько я вижу - это скорее оптимизация, нежели что-то кардинально новое. Трансформер так и остаётся в центре всего этого технологического чуда, что мы наблюдаем.

Надеюсь, текст кому-нибудь поможет продвинуться дальше в его собственном пути к пониманию LLM.

Читать далее

Подробнее

Читайте также

Meta* будет платить авторам из Instagram*, TikTok и YouTube за переход в Facebook* и публикацию контента в соцсети
19.03.2026 10:06:28 | vc.ru

Роскомнадзор «не справляется» с блокировками из-за перегрузки оборудования для фильтрации трафика — Forbes
19.03.2026 10:05:55 | vc.ru

Гид по соцсетям ИТ-компаний Татарстана: где искать экспертизу, вакансии и новости индустрии
19.03.2026 09:59:17 | Хабр

Реально ли реализовать Индустрию 4.0+ на практике
19.03.2026 09:57:35 | Хабр

[Перевод] Из полезного ассистента в SupremacyAGI: почему чат-бот может внезапно стать психопатом
19.03.2026 09:45:45 | Хабр

Внедрение ИИ в бизнес: где он реально окупается и как автоматизировать бизнес-процессы
19.03.2026 09:30:59 | Хабр

Год назад Claude Code не умел составить план. Сейчас у него миллион токенов и 9 субагентов
19.03.2026 09:30:46 | Хабр

Head of Product или проджект на стероидах? Учимся читать вакансии между строк
19.03.2026 09:30:02 | Хабр

Маленький LLM-чат на Python с Ollama и LiteLLM. Часть 1: ставим окружение и пишем первый запрос
19.03.2026 09:29:53 | Хабр

Диаграмма Ганта в 1C: примеры использования, создание и настройка
19.03.2026 09:17:28 | Хабр

Софт в CS2 и других многопользовательских играх. От архитектуры до примеров
19.03.2026 09:15:58 | Хабр

Закон Конвэя внутри нас: инженерные системы ломаются по тем же причинам, что и люди
19.03.2026 09:14:26 | Хабр

Параметризация Pytest: когда файловая коллекция становится тест-кейсами
19.03.2026 09:00:52 | Хабр

Черная магия unsafe в Go: практические примеры и ошибки использования. Часть 2
19.03.2026 09:00:52 | Хабр

Frontend Status: свежий дайджест фронтенда и AI — 18.03.2026
19.03.2026 08:59:36 | Хабр

День 1485: продажи настольных компьютеров в России в 2025 году сократились на 25-30%, средний чек составил 45,2 тысячи рублей
19.03.2026 08:41:43 | vc.ru

Распараллеливаем процесс вставки данных в PostgreSQL при помощи Spring с сохранением атомарности всей операции
19.03.2026 08:36:07 | Хабр

Облачная безопасность в 2026 году: три критических направления, с которыми не справиться «вчерашними» инструментами
19.03.2026 08:35:47 | Хабр

Honor выпустит среднебюджетный компактный смартфон с камерой на 200 МП
19.03.2026 08:31:46 | ferra.ru

Vivaldi 7.9 — Полное погружение
19.03.2026 08:28:59 | Хабр

Безошибочная работа с Kafka из Node js. Часть 1 Продьюсер
19.03.2026 08:26:06 | Хабр

DataOps + FinOps: как хранить и обрабатывать данные, не переплачивая
19.03.2026 08:23:45 | Хабр

ИИ не станет умнее человека, а заставит его думать так, как это делал Достоевский
19.03.2026 08:15:43 | Хабр

Почему Python + Numba обгоняет C? Эксперимент с алгоритмом прогонки
19.03.2026 08:15:40 | Хабр

OpenClaw: установка и первые впечатления
19.03.2026 08:00:30 | Хабр

Дисциплина не работает. И это лучшая новость для всех, кто устал от самоистязания
19.03.2026 08:00:11 | Хабр

Как мы написали 46K строк на Claude Code и не сошли с ума: практический гайд
19.03.2026 07:59:38 | Хабр

Можно ли запустить корпоративную BI+ETL-систему за 1,5 млн рублей? Часть 1: PolyAnalyst ETL+BI
19.03.2026 07:58:58 | Хабр

Kling Motion Control 3.0 Pro: Новая нейросеть для переноса движений. Как использовать в России
19.03.2026 07:54:10 | Хабр

Эволюция логирования в Lenta tech: от Loki до Victoria Logs
19.03.2026 07:52:35 | Хабр

От франчайзи 1С к аутстаффингу
19.03.2026 07:48:10 | Хабр

Кошки — хакеры гравитации: как они взламывают физику и приземляются на лапы
19.03.2026 07:40:26 | Хабр

41 034 метода, 2 170 файлов и один Миша: как я перестал быть единственным источником знаний о коде
19.03.2026 07:37:02 | Хабр

[Перевод] Как математик 20 лет строил задачу, которую ИИ не сможет решить, а GPT-5.4 сломал ему картину мира
19.03.2026 07:25:08 | Хабр

Бережливое производство на складе: почему успешное внедрение WMS начинается с Lean‑аудита, а не с закупки серверов
19.03.2026 07:01:08 | Хабр

Смотреть все

НОВОСТИ

ВСУ потеряли ещё один немецкий танк Leopard-2
13.06.2026 12:28:22 | Life.ru

Во Франции осуждены похитители редких книг русских классиков
13.06.2026 12:27:00 | Российская Газета

Войска РФ разнесли ударами энергообъекты и транспортную инфраструктуру ВСУ
13.06.2026 12:26:50 | Life.ru

Позиции ВСУ в ДНР взлетели на воздух под ударами авиации России
13.06.2026 12:22:56 | Life.ru

В подразделениях ВСУ под Харьковом и Купянском выявлены случаи заражения ВИЧ
13.06.2026 12:21:00 | Российская Газета

В Константиновке ВС РФ зачищают Первомайский район, ВСУ потеряли 40 бойцов
13.06.2026 12:20:05 | Life.ru

«Извращённый образ мышления»: Додик объяснил молчание ЕС после Старобельска
13.06.2026 12:19:24 | Life.ru

За сутки российские системы ПВО сбили 15 авиабомб и 540 беспилотников ВСУ
13.06.2026 12:18:05 | Life.ru

Бешеный микс жира и сахара: Врач выбрала менее вредное мороженое
13.06.2026 12:15:38 | Life.ru

В партии Пашиняна серьезно обеспокоены перед объявлением решения ЦИК
13.06.2026 12:15:00 | Российская Газета

Силы ПВО за сутки сбили 540 беспилотников ВСУ и 15 авиабомб
13.06.2026 12:13:31 | Коммерсантъ

Любовница и пьянки: Появились подробности убийства сотрудницы Домодедовской больницы
13.06.2026 12:12:42 | Life.ru

Любовницы и пьянки: Появились подробности убийства начальницы колл-центра в Домодедове
13.06.2026 12:12:42 | Life.ru

Предательство и шаг до развода: Появились детали убийства руководительницы колл-центра в Домодедово
13.06.2026 12:12:42 | Life.ru

Детей срочно эвакуировали из лагеря «Чемпион» на озере Арахлей из-за пожара
13.06.2026 12:11:40 | Life.ru

В Домодедове муж убил жену во время ссоры
13.06.2026 12:11:34 | ТАСС

Паспорт для террориста // Пойман пособник экстремистов, напавших на «Крокус Сити Холл»
13.06.2026 12:10:53 | Коммерсантъ

Горничная выдавала себя за жену лорда ради кражи часов
13.06.2026 12:10:00 | Lenta.ru

Вспышка ВИЧ бушует в подразделениях ВСУ под Харьковом
13.06.2026 12:08:27 | Life.ru

Капитан сборной Тринидада и Тобаго Рамперсад назвал Россию прекрасным местом
13.06.2026 12:06:56 | ТАСС

В Москве женщина лишилась 26 млн рублей после СМС от мошенников
13.06.2026 12:06:40 | ТАСС

ВСУ потеряли танк Leopard-2 производства ФРГ в зоне СВО
13.06.2026 12:06:15 | ТАСС

ВС РФ поразили объекты энергетической и транспортной инфраструктуры ВСУ
13.06.2026 12:05:45 | ТАСС

В Константиновке ВС РФ завершают зачистку Первомайского района
13.06.2026 12:05:17 | ТАСС

В Константиновке бойцы ВС РФ успешно продвигаются в микрорайонах
13.06.2026 12:05:17 | ТАСС

ВС РФ за сутки освободили 172 здания в Константиновке
13.06.2026 12:05:00 | ТАСС

За сутки в Константиновке освободили 172 здания
13.06.2026 12:05:00 | ТАСС

Средства ПВО РФ сбили за сутки 15 управляемых авиабомб ВСУ
13.06.2026 12:04:37 | ТАСС

Средства ПВО РФ за сутки сбили 15 управляемых авиабомб ВСУ
13.06.2026 12:04:37 | ТАСС

ВСУ потеряли за сутки в зоне СВО более 1,4 тыс. военных
13.06.2026 12:04:24 | ТАСС

ВСУ потеряли в зоне ответственности всех группировок войск около 1 440 военных
13.06.2026 12:04:24 | ТАСС

«Что я вам сделала, люди?» Седокова рассказала, как закрылась от всех после суицида Тиммы
13.06.2026 12:02:42 | Life.ru

«Скучаем и гордимся»: Дочь погибшего Героя России Очир-Горяева рассказала о выборе отца
13.06.2026 12:01:15 | Life.ru

Додик: западные страны знают, что у них не осталось времени для давления на РФ
13.06.2026 12:00:50 | ТАСС

Сухопутные дроны Депеша и Импульс: роботы наших вооруженных сил
13.06.2026 12:00:00 | За рулем

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro

Copyright © 2026 - vsetut.pro