NVIDIA представила Project Digits: персональный суперкомпьютер для работы с искусственным интеллектом

07.01.2025 11:17:00 | iXBT.com

Компания NVIDIA анонсировала выпуск персонального суперкомпьютера Project Digits, предназначенного для работы с искусственным интеллектом. В основе устройства лежит новый чип GB10 Grace Blackwell Superchip, обладающий достаточной вычислительной мощностью для работы со сложными ИИ-моделями, при этом компактный настолько, что помещается на рабочем столе и работает от обычной электрической розетки.

Настольная система, внешне напоминающая Mac Mini, способна обрабатывать ИИ-модели с количеством параметров до 200 миллиардов. Стартовая цена устройства составляет $3000. Каждая система Project Digits оснащена 128 ГБ памяти и накопителем NVMe объёмом до 4 ТБ. Для более требовательных задач можно объединить две системы Project Digits, что позволит работать с моделями, содержащими до 405 миллиардов параметров (для сравнения, лучшая модель Meta* — Llama 3.1 имеет 405 миллиардов параметров).

Project Digits выглядит как мини-ПК. Источник: Nvidia

Чип GB10 обеспечивает производительность искусственного интеллекта до 1 петафлопс (квадриллион вычислений в секунду) с точностью FP4, что ускоряет вычисления за счёт аппроксимации. Система оснащена новейшими ядрами CUDA и тензорными ядрами пятого поколения от NVIDIA, соединёнными через NVLink-C2C с процессором Grace, содержащим 20 энергоэффективных ядер на базе архитектуры Arm. Компания MediaTek, известная своими чипами на базе Arm, участвовала в разработке GB10 для оптимизации энергоэффективности и производительности.

Характеристики суперкомпьютера Digits. Источник: Nvidia

Пользователи получат доступ к программной библиотеке NVIDIA, включающей инструменты разработки, средства оркестрации и предварительно обученные модели через каталог NVIDIA NGC. Система работает под управлением Linux-based NVIDIA DGX OS и поддерживает популярные фреймворки, такие как PyTorch, Python и Jupyter Notebook. Разработчики могут настраивать модели с помощью фреймворка NVIDIA NeMo и ускорять рабочие процессы обработки данных с помощью библиотек NVIDIA RAPIDS.

Модели ИИ, разработанные и протестированные локально на Project Digits, можно развёртывать в облачных сервисах или инфраструктуре центров обработки данных, используя ту же архитектуру Grace Blackwell и программную платформу NVIDIA AI Enterprise.

В декабре NVIDIA также представила более доступную версию компьютера для ИИ-приложений — Jetson Orin Nano Super стоимостью $249, способную работать с моделями до 8 миллиардов параметров.

*Meta признана экстремистской организацией и запрещена на территории РФ

Подробнее