С момента установки первой стойки крупнейшего в мире ИИ-суперкомпьютера Colossus до начала работ прошло всего 19 дней. Сетевое оборудование Nvidia Ethernet ускоряет работу

29.10.2024 06:40:00 | iXBT.com

Nvidia объявила о том, что суперкомпьютерный кластер Colossus компании xAI, состоящий из 100 000 графических процессоров Nvidia Hopper Tensor Core в Мемфисе, штат Теннесси, достиг такого огромного масштаба благодаря использованию сетевой платформы Nvidia Spectrum-X Ethernet, которая разработана для обеспечения высочайшей производительности для многопользовательских гипермасштабируемых фабрик ИИ с использованием стандартизированного Ethernet для сети удаленного прямого доступа к памяти (RDMA).

Colossus, крупнейший в мире суперкомпьютер с искусственным интеллектом, используется для обучения семейства крупных языковых моделей Grok компании xAI, а чат-боты предлагаются в качестве функции для подписчиков X Premium. xAI находится в процессе удвоения размера Colossus до общего числа 200 000 графических процессоров Nvidia Hopper.

Изображение Musk

xAI и Nvidia построили вспомогательное оборудование и современный суперкомпьютер всего за 122 дня, вместо типичного срока для систем такого размера, который может занять от нескольких месяцев до нескольких лет. С момента, когда была установлена первая стойка, до начала обучения прошло 19 дней.

При обучении чрезвычайно большой модели Grok суперкомпьютер Colossus достигает беспрецедентной производительности сети. На всех трех уровнях сетевой структуры система испытала нулевую задержку приложений или потерю пакетов из-за столкновений потоков. Она сохранила 95% пропускной способности данных, обеспечиваемой контролем перегрузки Spectrum-X. Такого уровня производительности невозможно достичь при масштабировании с помощью стандартного Ethernet, который создает тысячи коллизий потоков, обеспечивая при этом лишь 60% пропускной способности данных.

Изображение Musk

«xAI построила самый большой и мощный суперкомпьютер в мире, — заявил представитель xAI. — Графические процессоры Nvidia Hopper и Spectrum-X позволяют нам раздвинуть границы обучения моделей ИИ в огромных масштабах, создавая сверхбыструю и оптимизированную фабрику ИИ на основе стандарта Ethernet».

Ранее глава Nvidia назвал Илона Маска сверхчеловеком, комментируя скорость создания суперкомпьютера Colossus.

Подробнее