ROCm 7.0 официально вышел

Введение

Компания AMD официально выпустила открытую программную платформу ROCm 7.0, которая предназначена для компиляции программного кода нейросетей, написанного для Nvidia CUDA, с последующим переносом ИИ-приложений на вычислительную инфраструктуру с оборудованием AMD.

Подробнее о ROCm 7.0

Новая версия ROCm 7.0 представляет собой значительный шаг в развитии открытой альтернативы для разработчиков искусственного интеллекта. Платформа с открытым исходным кодом уже доступна для скачивания в официальном репозитории AMD на GitHub и включает ряд существенных улучшений. В частности, в ROCm 7.0 добавлена поддержка новешийх графических ускорителей MI350X и MI355X, реализована возможность сквозной передачи параметров KVM для этих GPU, а также обеспечена совместимость с популярными фреймворками, включая PyTorch 2.7, TensorFlow 2.19.1, ONNX 1.22, Triton 3.3 и JAX 0.6.0.

В ходе летней презентации AMD Advanced AI продемонстрировала впечатляющие результаты тестирования программного стека ROCm 7.0: производительность модели Llama* 3.1 70B увеличилась в 3,2 раза, в Qwen2-72B — в 3,4 раза, а в DeepSeek R1 — в 3,8 раза. При обучении моделей средний прирост производительности для Llama* 2 70B, Llama* 3.1 8B и Qwen 1.5 7B составил трехкратное улучшение.

Выводы

В планах AMD — дальнейшее расширение поддержки экосистемы ROCm. Представители компании уже заявили, что течение года будет добавлена совместимость с ноутбуками и рабочими станциями на базе центральных процессоров Ryzen, полноценная поддержка различных дистрибутивов Linux и официальная поддержка пользовательской операционной системы Windows. Все перечисленные оптимизации и планы компании направлены на решение проблем, на которые ранее жаловались ИИ-разработчики, поскольку долгое время ROCm не мог составить достойной конкуренции CUDA из-за низкой производительности и ограниченной совместимости.

*LLAMA — проект Meta Platforms Inc.**, деятельность которой в России признана экстремистской и запрещена

**Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена