23.03.2026 14:55:00
| iXBT.com
На iPhone 17 Pro впервые запустили большую языковую модель с 400 млрд параметров. Для смартфона это выглядит почти невероятно: обычно даже сжатые версии таких моделей требуют как минимум 200 ГБ оперативной памяти, тогда как у iPhone 17 Pro — лишь 12 ГБ LPDDR5X.
Демонстрация стала возможной благодаря открытому проекту Flash-MoE. Запущенная на смартфоне модель работала медленно — со скоростью генерации всего 0,6 токена в секунду (примерно одно слово каждые полторы-две секунды), так что о полноценном практическом использовании пока говорить не приходится. Секрет запуска заключается в том, что модель не загружается целиком в оперативную память. Вместо этого Flash-MoE использует хранилище смартфона и потоково подаёт данные с флеш-памяти напрямую в GPU. Кроме того, сама архитектура MoE (Mixture of Experts) позволяет задействовать лишь часть всех параметров модели при генерации каждого отдельного слова, а не весь массив из 400 млрд параметров сразу.
Такой подход показывает, что даже чрезвычайно тяжёлые большие языковые модели в теории можно запускать локально на мобильных устройствах, если использовать нестандартные схемы работы с памятью и агрессивные оптимизации. У локального запуска есть очевидные преимущества: полная приватность, отсутствие необходимости в интернете и обработка запросов прямо на устройстве.
Однако текущий результат скорее демонстрационный, чем прикладной. Помимо очень низкой скорости, подобный режим создаёт серьёзную нагрузку на память, GPU и подсистему питания.
Читайте также
-
Греческая пуля для пращи возрастом 2100 лет принесла врагу издевательское послание
23.03.2026 14:15:56 | TechCult.ru
Samsung Galaxy A57 и Galaxy A37 показали в большом видеоролике за два дня до официальной премьеры, раскрыты цены
23.03.2026 14:12:00 | iXBT.com
«Яндекс» заявил об отсутствии случаев удаленного взлома умных колонок
23.03.2026 12:08:37 | Ведомости
Самая быстрая частная субмарина в мире отправлена первому заказчику
23.03.2026 11:52:03 | TechCult.ru
Одно из крупнейших отключений в истории: Иран почти полностью без интернета уже 24 дня
23.03.2026 11:43:00 | iXBT.com
Конкуренция iOS и Android стремительно растёт: у HarmonyOS 5 и 6 уже более 50 млн устройств, к концу года ожидается более 100 млн
23.03.2026 11:43:00 | iXBT.com
Россия производит материалы для печатных плат мирового уровня и покрывает спрос
23.03.2026 11:36:00 | iXBT.com
Цукерберг создает ИИ-агента, который поможет ему на посту гендиректора
23.03.2026 11:30:00 | Ведомости
Спрос на подключение к Интернету в Москве вырос втрое в первом квартале 2026 года
23.03.2026 11:29:00 | iXBT.com
Замена Telegram, которую никто не блокирует и не ограничивает: в России растет популярность корейского мессенджера KakaoTalk
23.03.2026 11:25:00 | iXBT.com
Глава Huawei заявил о полном триумфальном возвращении компании на рынок смартфонов
23.03.2026 11:16:00 | iXBT.com
60 часов прослушивания музыки, 30 часов видео, 34 часов непрерывных звонков в смартфоне чуть дороже $200. Представлен Huawei Enjoy 90 Plus с аккумулятором емкостью 6620 мАч
23.03.2026 11:13:00 | iXBT.com
Samsung Galaxy S26 оказался лучше многих конкурентов в том, что обычно волнует только после поломки: он получил 9 из 10 баллов за ремонтопригодность
23.03.2026 11:05:00 | iXBT.com
Маск, который пообещал, что Tesla AI5 превзойдет все ожидания, планирует выпустить вдвое более мощный AI6 уже в декабре 2026
23.03.2026 10:32:00 | iXBT.com
Самая большая батарея в истории смартфонов Huawei. Представлен Huawei Enjoy 90 Pro Max: 8500 мАч и Kirin 8000 за 245 долларов
23.03.2026 10:31:00 | iXBT.com
Tesla вот-вот выпустит для всех прорывной автопилот, на котором ездят роботакси
23.03.2026 10:22:00 | iXBT.com
200, 200, 50 и 50 Мп, 7050 мАч, 100 Вт и выступающий блок камер. Стартовал приём предзаказов на Oppo Find X9 Ultra
23.03.2026 10:12:00 | iXBT.com
Смартфоны серии Honor Magic 9 получит разные экраны, но они будут плоскими
23.03.2026 10:08:00 | iXBT.com
16 ГБ оперативной памяти, которые ощущаются как 20 ГБ, и первый в отрасли скрытый вентилятор. Представлен Huawei Mate 80 Pro Max Fengchi Edition за 1235 долларов
23.03.2026 10:04:00 | iXBT.com
Первый смартфон Huawei с активным вентилятором, который раскупили за секунды, задерживается более чем на месяц. Названы сроки доставки Mate 80 Pro Max Wind Edition
23.03.2026 09:52:00 | iXBT.com
Экран 165 Гц, аккумулятор емкостью 9000 мАч и водонепроницаемость IP68/69. Новый смартфон OnePlus Nord 6 получит специальную версию
23.03.2026 09:43:00 | iXBT.com
Плохие новости для США и Европы. Инсайдер заявил, что OnePlus уходит с мировых рынков и остаётся в Китае
23.03.2026 09:30:00 | iXBT.com
Китай усиливает навигацию: на орбиту выведены спутники CentiSpace-2 с морского космодрома
23.03.2026 09:10:00 | iXBT.com
«Отработали на "пятерку"», — глава Роскосмоса отметил быстрый ремонт стартового стола на Байконуре, который занял всего 2,5 месяца
23.03.2026 09:05:00 | iXBT.com
Плоский экран, аккумулятор 8000 мАч, Dimensity 9500s и камера 50 Мп. Инсайдер раскрыл характеристики Oppo K15 Pro
23.03.2026 08:48:00 | iXBT.com
Ученые вырастили съедобный урожай на удобрении из марсианской пыли
23.03.2026 08:46:56 | TechCult.ru
Складной iPhone всё ближе: Apple готовит экран без складки и «самовосстанавливающееся» стекло
23.03.2026 08:38:00 | iXBT.com
HarmonyOS готовит для устройств Huawei более продвинутые функции искусственного интеллекта Celia
23.03.2026 08:28:00 | iXBT.com
Huawei улучшает функцию Live View — это аналог Dynamic Island в iPhone
23.03.2026 08:21:00 | iXBT.com
Huawei рвёт рынок: серия Mate 80 приближается к отметке в 5 млн проданных смартфонов
23.03.2026 08:17:00 | iXBT.com
Единственный компактный флагман, экран которого может работать при яркости в 1 нит. Дисплей OnePlus 15T создан на уникальной производственной линии
23.03.2026 08:13:00 | iXBT.com
ЛЕНТА
-
Samsung добавила поддержку совместимой с AirDrop функции обмена файлами Quick Share в смартфоны серии Galaxy S26
23.03.2026 15:23:37 | vc.ru
Во втором пакете мер по защите от мошенников предложили запретить пожилым россиянам по умолчанию получать звонки из-за рубежа на стационарные телефоны — Forbes
23.03.2026 14:27:58 | vc.ru
Подразделение ЦБ рассказало о пилотном эксперименте с запуском «белых» банкоматов — у них не будет бренда, а с операций не возьмут комиссию
23.03.2026 13:44:18 | vc.ru
Как минимум 12 крупных автопроизводителей пересмотрели планы по переходу на электромобили, сократив инвестиции и отказавшись от выпуска новых моделей — FT
23.03.2026 13:05:26 | vc.ru
[Перевод] Ключ от всех дверей: как я взломал все электросамокаты одного производителя
23.03.2026 13:01:13 | Хабр
Как считать стоимость CPU, RAM и Storage во внутренней инфраструктуре (часть 2 из 5)
23.03.2026 12:25:01 | Хабр
Capacitor: от веба к мобильным приложениям. Часть 3. OTA обновления в обход сторов
23.03.2026 12:23:47 | Хабр
Работа в Золотом Яблоке: каково это — работать в ночном мониторинге крупнейшего бьюти-ритейла страны
23.03.2026 12:16:04 | Хабр
Не благие намерения: как власти планируют закрутить гайки на УСН, АУСН и патенте
23.03.2026 12:15:03 | Хабр
Как из-за 11-летней дочки Джуда Лоу целая страна отменила известную певицу
23.03.2026 12:15:00 | Woman.ru
Съели — и забыли: квест для маркетолога «Подари сыр подруге». Лишние эмоции в контенте
23.03.2026 12:14:45 | Хабр
Практика FinOps и ITFM: как считать, распределять и планировать ИТ-расходы (часть 1 из 5)
23.03.2026 12:14:39 | Хабр
Как мы пришили LLM «спинной мозг»: архитектура рефлексов для ИИ-агентов в 60 FPS
23.03.2026 12:00:16 | Хабр
Мультиагентность в OpenClaw: отдельные агенты, субагенты и ACP (вайбкодим через тг)
23.03.2026 12:00:01 | Хабр
Котлета с овощами в лаваше, пошаговый рецепт с фото от автора Наталья
23.03.2026 11:51:00 | ГАСТРОНОМЪ
«Опора России» попросила изменить законопроект о поддержке «Почты России» — он обяжет операторов доставки платить сборы в спецфонд
23.03.2026 11:49:08 | vc.ru
Звезда «Хирурга» три дня не выходит на связь — у Тихона Котрелева смертельное заболевание
23.03.2026 11:31:34 | Woman.ru
Золотая трость и шубка Prada: Алла Пугачева стала звездой светского вечера
23.03.2026 11:30:00 | Woman.ru
Экологический след ИИ: сколько энергии и воды потребляют крупные модели и как сделать их более устойчивыми
23.03.2026 11:13:24 | Хабр
Как я превратил Android-смартфоны в распределенную сеть мониторинга (и спас свои нервы)
23.03.2026 11:12:34 | Хабр
ПИШИТЕ
Техническая поддержка проекта ВсеТут