В поисках эмбеддинга личности или Как зарождается личность LLM

15.03.2026 17:44:22 | Хабр

Хабы: Искусственный интеллект

Пару месяцев назад я публиковал отчет об эксперименте по созданию языковой модели на базе модульной архитектуры с ядром на латентных представлениях. Данная статья является отчетом о новых аспектах этого эксперимента. Поэтому для тех, кто не в теме, совсем коротко: классические авторегрессивные LLM оперируют токенами, условно говоря думают на токенном уровне. В модульной архитектуре отдельно выделяется языковой интерфейс в виде энкодера и декодера, а само «думающее» ядро работает уже не с токенами напрямую, а с их сжатыми латентными представлениями. Кому интересно, вот ссылка на статью с предыдущим экспериментом: https://habr.com/ru/articles/985496/

Но в ходе экспериментов быстро выяснилась одна важная деталь...

Подробнее

Читайте также

Что будет с Телеграмом и почему MAX сейчас — окно возможностей
15.03.2026 17:25:28 | Хабр

[Перевод] Завтра Дженсен Хуанг (Nvidia) представит новый чип, применяющий оптику. И это “потрясёт мир”, как в 2016-м
15.03.2026 17:21:55 | Хабр

Как я пришел от architecture as code к живой архитектурной модели
15.03.2026 17:15:34 | Хабр

Гармонический радар найдёт скрытую электронику
15.03.2026 17:02:12 | Хабр

Как я сделал новостной агрегатор с MCP‑сервером, AI‑чатом и Telegram‑ботом
15.03.2026 17:00:21 | Хабр

Эволюция Windows: от командной строки DOS до минимализма Windows 11
15.03.2026 16:51:34 | Хабр

Ваш GitHub — это прошлое: Оцениваем профессиональный капитал как IT-актив
15.03.2026 16:30:25 | Хабр

Квантовая Механика может описывать не реальность, а механизм её возникновения
15.03.2026 16:17:06 | Хабр

Docker как контейнер-песочница, v2
15.03.2026 15:58:20 | Хабр

re!think it: Как я уместил корпоративный бэкенд в один промпт (История сборки)
15.03.2026 15:57:45 | Хабр

В Госдуме предложили создать платформу VR-стажировок для студентов
15.03.2026 15:36:50 | ferra.ru

ByteDance приостановила мировой запуск ИИ-генератора видео
15.03.2026 15:18:33 | ferra.ru

Google убивает независимый Android. Обращение и 19 аргументов против насильной регистрации разработчиков
15.03.2026 14:51:20 | Хабр

COM Hijacking: персистимся, смотрим артефакты и детектим
15.03.2026 14:34:35 | Хабр

Интеграция без боли: как мы надстроили «зонтик» над 40 существующими источниками данных в энергетике
15.03.2026 14:27:00 | Хабр

Технический директор играет по-взрослому: JavaFX в хобби-проектах
15.03.2026 14:00:39 | Хабр

Халява уходит из разработки Агентов
15.03.2026 13:41:15 | Хабр

Как спасают бананы
15.03.2026 13:30:34 | Хабр

Слепое пятно LLM-разработки: контекст за пределами кода
15.03.2026 13:15:28 | Хабр

.NET под микроскопом | процессы, метаданные, AOT и GC
15.03.2026 13:09:15 | Хабр

Генерация изображений в Nano Banana: Промпты и гайд по использованию Gemini 3 Pro/Flash
15.03.2026 13:05:38 | Хабр

Изучаем 5GBE-сети
15.03.2026 13:01:26 | Хабр

Похмелье после электроэйфории: почему вокруг электромобилей столько разговоров о спаде и что происходит на самом деле
15.03.2026 13:00:24 | Хабр

97 часов на одной RTX 4090: MoE с подключаемыми экспертами, самодистилляция и почему перплексия — плохая метрика
15.03.2026 12:55:57 | Хабр

Как отменить или откатить коммит в Git командами reset, revert и restore
15.03.2026 12:36:34 | Хабр

Анатомия фишинг-кита: полиморфный CSS, гомоглифы и инфраструктура на 290+ доменов
15.03.2026 12:21:36 | Хабр

Хлеб на закваске как управляемый процесс
15.03.2026 12:19:11 | Хабр

Прямая трансляция во Flutter через WebCodecs: как пришлось написать свой декодер
15.03.2026 12:16:18 | Хабр

Головоломка «Создай головоломку» из университетского квеста
15.03.2026 12:13:30 | Хабр

День 1481: пользователи снова пожаловались на сбой в работе Telegram в России
15.03.2026 12:11:26 | vc.ru

Как создатель первой веб-камеры был вынужден продать все свои разработки: история Connectix
15.03.2026 12:06:05 | Хабр

Пейджеры мертвы, спутники не ловят: как оставаться на связи при отключении интернета
15.03.2026 12:01:02 | vc.ru

ИИ в образовании: заменят ли нейросети репетиторов и преподавателей
15.03.2026 11:44:10 | Хабр

Как из viewer для OpenClaw выросла мобильная консоль для сервера
15.03.2026 11:33:37 | Хабр

Эволюция Хаоса, приквел
15.03.2026 10:49:45 | Хабр

Смотреть все

НОВОСТИ

Стало известно, на каких машинах сконцентрируется марка Volga
24.06.2026 17:40:00 | За рулем

ВС РФ развернули триколор и Знамя Победы на освобождённой улице в Константиновке
22.06.2026 10:19:48 | Life.ru

В Киеве военкомы в ходе мобилизации задержали и душили мужчину
22.06.2026 10:17:49 | ТАСС

Задержанный за госизмену житель Воронежа признался в работе на Киев
22.06.2026 10:17:48 | ТАСС

Над Москвой за сутки сбили 80 беспилотников
22.06.2026 10:17:12 | Life.ru

В Горловке из-за атаки БПЛА пострадал житель Кузбасса
22.06.2026 10:16:53 | ТАСС

Российские гимнастки Борисова и Кононова заявлены на Кубок вызова в Румынии
22.06.2026 10:16:45 | ТАСС

"Известия": удешевление туров в КНР и ЮВА помогло замедлить инфляцию в РФ
22.06.2026 10:16:35 | ТАСС

Оценены шансы Австрии отобрать очки у Аргентины в матче ЧМ-2026
22.06.2026 10:15:16 | Lenta.ru

LSM: в Латвии не смогли убрать названия городов РФ с дорожных знаков
22.06.2026 10:14:16 | ТАСС

Ученые взяли пробы воды и грунта на месте затопления АПЛ К-159 в Баренцевом море
22.06.2026 10:13:48 | ТАСС

В Якутии пропавшие отец и сын вышли на связь
22.06.2026 10:13:40 | ТАСС

В Якутии обновили стратегию социально-экономического развития республики
22.06.2026 10:12:03 | ТАСС

Мурашко: Росздравнадзор выявил 1,9 млн некачественных медизделий в 2025 году
22.06.2026 10:11:57 | ТАСС

Военнослужащие Космических войск, ветераны СВО и юнармейцы провели памятную акцию
22.06.2026 10:11:40 | ТАСС

ТАСС: Европа уже закачала в хранилища 20 млрд куб. м газа к следующей зиме
22.06.2026 10:11:32 | ТАСС

В Константиновке идёт зачистка кварталов: Войска РФ уничтожили крупный склад ВСУ
22.06.2026 10:11:19 | Life.ru

Россияне стали чаще страдать из-за редкого заболевания в разгар рабочего дня
22.06.2026 10:10:09 | Lenta.ru

В Новосибирской области заявили, что проблем с отпуском бензина в регионе нет
22.06.2026 10:09:12 | ТАСС

«Закончится плохо»: Зеленский пригрозил президенту Польши Навроцкому
22.06.2026 10:08:45 | Life.ru

12-летняя девочка поймала крупную рыбу и побила установленный сестрой рекорд
22.06.2026 10:08:06 | Lenta.ru

Доктор Мясников предупредил о приводящем к смерти за секунды состоянии
22.06.2026 10:08:01 | Lenta.ru

В Геленджике объявляли опасность атаки БПЛА
22.06.2026 10:06:20 | ТАСС

Пушков: Запад переходит к новой фазе войны против России
22.06.2026 10:05:51 | ТАСС

В ДР Конго число заболевших Эболой превысило 1 тыс.
22.06.2026 10:05:43 | ТАСС

В России стандарты архитектуры цифровых платформ включат в стратегию развития
22.06.2026 10:05:18 | ТАСС

США поразили судно в Карибском море
22.06.2026 10:04:40 | Lenta.ru

Россияне признались в страхе длительных перелетов
22.06.2026 10:04:29 | Lenta.ru

В Белополье на севере Украины возникли перебои со светом
22.06.2026 10:04:07 | ТАСС

Пушков: Европа ведет себя так, словно хочет получить большую войну
22.06.2026 10:03:49 | ТАСС

В России провели сеанс межспутниковой связи на двух орбитах
22.06.2026 10:03:35 | ТАСС

Матвиенко: история не знала такой бесчеловечности, какой отмечен путь вермахта
22.06.2026 10:03:24 | ТАСС

Индексы Мосбиржи и РТС на открытии торгов снижаются на 0,65%
22.06.2026 10:02:54 | ТАСС

В России разработают стратегию развития сегмента цифровых платформ
22.06.2026 10:01:49 | ТАСС

В Горловке при повторном ударе БПЛА пострадал водитель пожарной автоцистерны МЧС
22.06.2026 10:00:58 | ТАСС

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro