Как мы научили большую языковую модель говорить на карачаево-балкарском

05.07.2026 17:59:24 | Хабр

Хабы: Natural Language Processing, Искусственный интеллект, Машинное обучение

Давно ничего не писал где-либо: разработка занимает много времени. Надеюсь, наш путь будет кому-либо полезен, особенно тем, кто обучает модельки на малоресурсных языках.

Большая в данном контексте - это условно. По сути, взяли Qwen3-4B-Instruct-2507 и обучили на карачаево-балкарском языке (тюркский, половецко-кыпчакская группа). По дороге пришлось написать собственный морфологический процессор для аугментации диалектов, обучить токенизатор с нуля, и найти баланс в обучении модели на сырых данных, чтобы она не забывала инструкций (а хотелось, чтобы могла отвечать).

Модель лежит на HuggingFace: TSjB/QM-4B. Работу представляли на конференции TurkLang 2026

Подробнее

Читайте также

В ГД предложили уведомлять через «Госуслуги» о плохих анализах
05.07.2026 17:54:46 | ferra.ru

Как сломать Swift Concurrency
05.07.2026 17:33:58 | Хабр

Ghidra — фреймворк АНБ для реверс-инжиниринга ПО
05.07.2026 17:03:20 | Хабр

Россиянам рассказали о пике метеорного потока Южные дельта-Аквариды
05.07.2026 16:28:16 | ferra.ru

Эволюция через тормоз: почему человеческий разум начался с невыполненного действия
05.07.2026 16:22:19 | Хабр

DSpark на двух DGX Spark: порт, баг на одну строку и бенчмарки, которые пришлось мерить заново
05.07.2026 16:22:00 | Хабр

Age of Mythology в 2026 году: от мифов Древней Греции до ацтеков — почему стратегия все еще жива
05.07.2026 16:07:56 | Хабр

В чем смысл жизни с точки зрения термодинамики?
05.07.2026 16:00:44 | Хабр

Анатомия парного доклада: как мы собирали «PROvoke» на Analyst Days. Часть 2 — выступление и фидбек
05.07.2026 15:51:54 | Хабр

«Мы сделали это»: Как мы готовили доклад в тандеме через пол-России и что поняли только после
05.07.2026 15:37:53 | Хабр

Московский школьник выиграл конкурс ИИ-агентов и получил стажировку в Сбер
05.07.2026 15:19:11 | ferra.ru

Fable 5 из подвала, Sonnet 5 в дефолт. Что Antropic сделал за 5 дней
05.07.2026 15:06:10 | Хабр

Где лучше создавать изображения по фото — выбираем из ТОП-6 ИИ с примерами и промптами
05.07.2026 15:01:38 | Хабр

День 1593: объём биржевых торгов юанем в июне 2026 года достиг рекордных 2,75 трлн рублей
05.07.2026 14:59:11 | vc.ru

Что такое бизнес-способности / business capabilities и зачем они нужны
05.07.2026 14:49:14 | Хабр

Мобильная разработка за неделю #637 (29 июня — 5 июля)
05.07.2026 14:49:06 | Хабр

В Индии запустили завод по упаковке и тестированию микросхем
05.07.2026 14:46:21 | ferra.ru

Российский интернет атакуют
05.07.2026 14:44:21 | Хабр

[Перевод] Со спутников видно, что Земля удивительно симметрично отражает свет — и это, возможно, связано с циклом Эль-Ниньо
05.07.2026 14:30:49 | Хабр

Беспилотная доставка на 300 км появится у российских маркетплейсов
05.07.2026 14:22:07 | ferra.ru

Модель почтовых адресов в реляционных БД
05.07.2026 13:43:06 | Хабр

Тегеран, 1978: Диско бессмертно
05.07.2026 13:30:45 | Хабр

В МФТИ нашли перспективный электролит для литиевых аккумуляторов
05.07.2026 13:18:10 | ferra.ru

Съездили к ByteDance и Z.ai: роботы по паспорту, серверные карты на рынке и восемь дней внутри китайского AI
05.07.2026 13:10:48 | Хабр

Контракт из кода, клиент из контракта: избавляемся от тройного дублирования в API
05.07.2026 13:10:32 | Хабр

ЭВМ в народном хозяйстве: лампы, кибернетика, «Урал-1»
05.07.2026 13:01:43 | Хабр

Популярные ИИ фото через нейросеть: трендовые изображения и ТОП-12 AI сервисов
05.07.2026 13:01:10 | Хабр

Unreal Engine 6 на Verse — это что-то крышесносное
05.07.2026 13:00:56 | Хабр

Как я написал сервис для анализа конкурсных списков вузов и моделирования зачисления по приоритетам
05.07.2026 12:55:01 | Хабр

«Норникель» внедрил защищенный ИИ совместно с Yandex Cloud
05.07.2026 12:50:43 | ferra.ru

350 тысяч за вакансию: сколько на самом деле стоит нанять человека в 2026 году
05.07.2026 12:38:04 | Хабр

ФМБА создаст технологии для дальних пилотируемых космических миссий
05.07.2026 12:28:25 | ferra.ru

ИИ из коробки: сервисы для расшифровки текста
05.07.2026 12:22:36 | it-world

Почему ChatGPT называет одни бренды и молчит про другие: как машина знает компании
05.07.2026 12:15:16 | Хабр

[Перевод] Что нового в Swift: Июнь 2026 года
05.07.2026 12:14:52 | Хабр

Смотреть все

НОВОСТИ

Назван срок прекращения дождей в Москве
24.08.2026 19:37:48 | Lenta.ru

Партнер России отказался от запрета на экспорт пшеницы
24.08.2026 19:37:17 | Lenta.ru

«Коалиция желающих» призывает Украину усилить борьбу с коррупцией
24.08.2026 19:36:15 | Life.ru

В Москве на голову пассажиру упала лепнина на станции «Комсомольская»
24.08.2026 19:35:38 | Коммерсантъ

Разин раскритиковал новое правило КХЛ о шайбе
24.08.2026 19:35:29 | Lenta.ru

Россия нанесла несколько ударов по Одессе
24.08.2026 19:34:00 | Lenta.ru

Названы способы сэкономить на оплате ЖКУ
24.08.2026 19:33:24 | Lenta.ru

На Украине заблокировали три канала «Маши и Медведя»
24.08.2026 19:32:08 | Lenta.ru

Медведь оторвал у женщины кусок ягодицы и съел его
24.08.2026 19:30:09 | Lenta.ru

Площадь пожара в ресторане в Уфе выросла до 600 квадратных метров
24.08.2026 19:29:06 | Life.ru

В Адыгее ликвидировали открытое горение на складе Ozon
24.08.2026 19:28:08 | Life.ru

Врач назвал «лютым бредом» чистку сосудов с помощью одного продукта
24.08.2026 19:26:52 | Lenta.ru

Объекты, которые не защитили от БПЛА, теперь могут передать властям. Что это означает и что может попасть под указ Путина
24.08.2026 19:25:43 | Lenta.ru

Объявлены сроки выхода «Ведьмака 4»
24.08.2026 19:24:36 | Lenta.ru

Глава РСМД Тимофеев: Визит Уиткоффа и Кушнера отложен из-за отсутствия повестки
24.08.2026 19:23:34 | Life.ru

«Лужники» готовы рассмотреть возможность проведения концерта Канье Уэста вместо «Газпром Арены»
24.08.2026 19:21:45 | Life.ru

Эксперт Бордачев объяснил, зачем Иран пригласили в Мекканское соглашение
24.08.2026 19:21:00 | Российская Газета

«Я им живая нужна»: Львова-Белова рассказала об охоте на себя после «ордера» МУС
24.08.2026 19:20:20 | Life.ru

Жителей Подмосковья предупредили о ядовитых грибах
24.08.2026 19:18:53 | Lenta.ru

Медведь решил поискать бруснику в лесу и встретил азартного россиянина
24.08.2026 19:18:37 | Lenta.ru

Археологи нашли первую в истории жертву нападения из требушета
24.08.2026 19:18:00 | Российская Газета

Одна из богатейших стран столкнулась с резким скачком инфляции
24.08.2026 19:17:17 | Lenta.ru

Не узнают ни биометрия, ни пограничники: Сделавшего четыре пластики Морозова призвали срочно менять документы
24.08.2026 19:16:29 | Life.ru

Российский тренер раскрыл поразившие его в США вещи
24.08.2026 19:16:22 | Lenta.ru

Кузьмина выиграла 42-километровый марафон в Новой Зеландии
24.08.2026 19:15:17 | Lenta.ru

Зеленский подписал закон о создании «национального пантеона Украины»
24.08.2026 19:14:33 | Life.ru

Мелони призвала возобновить переговоры по урегулированию конфликта на Украине
24.08.2026 19:14:01 | Life.ru

Никитин раскритиковал новое правило КХЛ
24.08.2026 19:13:27 | Lenta.ru

«Прямо ад»: Морозов раскрыл Life.ru неожиданное последствие пластических операций
24.08.2026 19:13:12 | Life.ru

Туристка спросила дорогу у незнакомца в США и получила удар ножом в шею
24.08.2026 19:12:37 | Lenta.ru

Житель российского села устроил охоту на соседа
24.08.2026 19:12:31 | Lenta.ru

Еще один постсоветский лидер поздравил Токаева с выборами
24.08.2026 19:10:45 | Lenta.ru

В Уфе загорелся принимавший Путина и членов БРИКС ресторан
24.08.2026 19:10:35 | Lenta.ru

Ваня Дмитриенко оценил новые фото Анны Пересильд в откровенном образе
24.08.2026 19:10:33 | Lenta.ru

7 предметов интерьера с душой из СССР, по которым мы скучаем в век минимализма
24.08.2026 19:10:00 | Life.ru

Все новости

ВСЕ НОВОСТИ

ПИШИТЕ

Техническая поддержка проекта ВсеТут

info@vsetut.pro