Производительность ускорителей Instinct: основные проблемы AMD связаны с программным обеспечением

Анализ производительности ускорителей NVIDIA Hopper с графическими процессорами H100 и H200 и AMD Instinct MI300X выявил главные слабости программной экосистемы AMD. Instinct MI300X на теоретическом уровне конкурирует с решениями NVIDIA, а в некоторых аспектах даже превосходит их. AMD планирует представить Instinct MI325X в ближайшие месяцы, увеличив объем памяти до 256 ГБ HBM3E вместо 192 ГБ. На презентации компания заявила, что Instinct MI300X опережает ускоритель NVIDIA H200 в ряде задач .

Однако тестирование, проведенное SemiAnalysis для задач обучения ИИ , показало другую картину. Результаты совпали с данными MLPerf, где ускорители NVIDIA H200 превзошли AMD Instinct MI300X на 50% . Еще хуже AMD показала себя в сравнении с NVIDIA B200, который продемонстрировал в три раза более высокую производительность.

Эксперты SemiAnalysis выделили несколько причин, почему ускорители Instinct показывают высокие результаты в теории, но уступают конкурентам в реальных задачах. Программное обеспечение играет ключевую роль. Система с ускорителями NVIDIA достигает заявленной производительности сразу после ...