А ведь глава Nvidia заявлял, что даже бесплатно — это было бы дорого. Ускоритель Intel Gaudi 2 лучше Nvidia H100 в пересчёте производительности на доллар

29.03.2024 20:35:00 | iXBT.com

Компания Intel пытается закрепиться на рынке ускорителей для ИИ посредством своих адаптеров семейства Gaudi. И уже второе поколение вышло вполне удачным. В частности, по показателю производительности на доллар в новых тестах MLPerf v4.0, которые демонстрируют возможности GenAI в таких рабочих нагрузках, как Llama-70B и Stable Diffusion XL, модель Gaudi 2 конкурирует с лидером в виде Nvidia H100.

Правда, сравнивала сама Intel, но как минимум это не её собственные тесты. Сравнивались системы с восемью ускорителями Gaudi 2 и с восемью ускорителями H100. Чистая производительность ускорителя Nvidia, безусловно, выше. Причём выше в разы. Но продукт Intel намного дешевле. И в итоге по производительности на доллар Gaudi 2 порой даже обходит конкурента. Напомним, недавно глава Nvidia заявил, что, даже если конкуренты будут раздавать свои ускорители бесплатно, это будет слишком дорого.

Само собой, даже показатель производительности на доллар — это далеко не всё, что важно. Есть ещё стоимость обслуживания, энергопотребление, универсальность и оптимизация ПО и так далее. Но как минимум точно нельзя сказать, что у Nvidia вообще нет никаких конкурентов.

Подробнее