AMD представила Instinct MI350P — передовой PCIe-ускоритель с производительностью до 4,6 PFLOPS

Введение

Компания AMD представила первый за 4 года (со времен MI210) PCIe-ускоритель Instinct MI350P, который базируется на флагманской архитектуре CDNA 4 с чиплетной компоновкой и поддерживает интеграцию в стандартные серверные системы вместо OAM и SXM решений. Выход этого GPU превозносит компанию AMD на позицию лидера в области ИИ-ускорителей с интерфейсом PCIe, поскольку главный конкурент в лице Nvidia так и не выпустил ни одного PCIe-решения, сконцентрировавшись на выпуске ускорителей для корпоративных стоечных систем.

Подробнее о AMD Instinct MI350P

Архитектурно Instinct MI350P полностью повторяет дизайн Instinct MI350X, однако во вдвое урезанной конфигурации. Сокращение числа IOD с двух до одного и XCD с восьми до четырех позволило уменьшить количество стеков памяти HBM3E с восьми до четырех, в результате чего карта получила 144 ГБ памяти с общей пропускной способностью 4 ТБ/с. В то же время, последний PCIe-ускоритель Nvidia H200 NVL для обучения имеет лишь 141 ГБ памяти HBM3, но пропускная способность достигает уже 4,8 ТБ/с, а видеокарта RTX PRO 6000 Blackwell Server Edition дает 96 ГБ памяти GDDR7 со скоростью всего лишь 1,8 ТБ/с — то есть, Instinct MI350X является самым емким по памяти PCIe-решением и практически самым быстрым по пропускной способности памяти.

ИИ-ускоритель Instinct MI350P обеспечивает ИИ-производительность до 1150 TFLOPS в режиме FP16, 2300 TFLOPS в режиме FP8 и 4600 TFLOPS в режиме FP4 без структурной разряженности — вдвое больше, чем у RTX PRO 6000 Blackwell Server Edition и почти в 1,5 раз больше, чем у H200 NVL. Кроме того, ускоритель Instinct MI350P также поддерживает режим вычислений FP6 с эффективностью 4600 TFLOPS. При этом, Instinct MI350P потребляет вдвое меньше энергии, чем старший Instinct MI350X — номинальный показатель составляет 600 Вт с возможностью снижения до 450 Вт. Физически MI350P представляет собой двухслотовую полноразмерную карту с интерфейсом PCIe Gen5 x16 с пассивной системой охлаждения, что позволяет устанавливать до восьми карт в один GPU-сервер, соединение карт через Infinity Fabric не поддерживается.

На самом деле, AMD четко рассчитала, когда нужно выпускать Instinct MI350P — серверы, выпущенные по стандарту Nvidia MGX для интеграции PCIe-ускорителей мощностью 600 Вт, пользуются огромной популярностью, но мощных актуальных решений для них не выпускалось со времен Nvidia H200 NVL (если не брать в расчет RTX PRO 6000 Blackwell Server Edition), так как достойного конкурента этому ИИ-ускорителю просто не было, и компания сосредоточилась на выпуске систем OAM и SXM. Теперь же пальма первенства в этой области уходит на сторону AMD, однако, вряд ли надолго — скорее всего Nvidia не допустит потери рынка PCIe, и с высокой долей вероятности уже в ближайшее время представит новые, мощные PCIe-ускорители на актуальных архитектурах Blackwell и Blackwell Ultra, после чего инициатива вновь уйдет обратно к Nvidia.

Выводы

Выпуск AMD Instinct MI350P закрывает важную нишу на рынке ИИ-ускорителей, возвращая высокопроизводительную серверную графику в доступный и хорошо знакомый формат карт расширения. Вместо уже устаревших Instinct MI210, которые были конкурентами Nvidia A100, клиенты и партнеры компании получат по-настоящему актуальные ускорители AMD Instinct MI350P, сохранившие все ключевые архитектурные преимущества CDNA 4, но в доступном форм-факторе. Для заказчиков, которым не нужны экстремальные решения стоечного уровня, MI350P становится наиболее мощным инструментом для развертывания ИИ-инференса и тренировки ИИ-моделей в стандартных серверных корпусах. Теперь остается наблюдать, как быстро Nvidia подготовит свой ответ на столь дерзкий перехват рынка, и гадать, насколько новейшие PCIe-решение зеленой компании будут мощнее своих старших собратьев B200 и B300.