Radeon AI PRO R9700 AI TOP 32GB: обзор и тесты видеокарты для нейросетей от AMD в исполнении GIGABYTE

Введение: Дитя маркетолога

На рынке GPU произошло кое-что необычное. AMD выпустила карту, в названии которой чётко фигурирует приставка «AI». Адаптировавшись под новые веяния рынка, “красная компания” пошла на поводу у тренда и выпустила первый в своей истории ускоритель с прямым упоминанием AI в названии.

И действительно, новоиспеченная видеокарта взаправду заточена под работу с нейросетевыми моделями. По крайней мере на бумаге. А соответствует ли это действительности мы выясним в этой статье, на примере GIGABYTE AI TOP Radeon AI PRO R9700, в названии которой аж дважды фигурирует упоминание «AI», что пока является рекордом по количеству упоминаний маркетинговых приставок на квадратный сантиметр коробки.

Характеристики видеокарты AMD AI PRO R9700

В отличие от своих суперкомпьютерных собратьев, которые в первую очередь и предназначены для эксплуатации с нейросетевыми моделями, R9700 построена на микроархитектуре RDNA 4.0. Напомним, что с 2020 года AMD развивает две отдельные архитектурные линии. В первой: игровые и профессиональные GPU с микроархитектурой RDNA. А во второй на серверные и суперкомьпьютерные ускорители, базированные на микроархитектуре CDNA.

Для AI PRO R9700 это означает уступающую в развитии поддержку ROCm, весь стек которой изначально выстраивался под CDNA. Однако это нисколько не мешает занять её своё место в своей ценовой категории. Ведь окинув рынок потребительских видеокарт взглядом, можно приметить, что только RTX 5090 предлагает сопоставимый объём видеопамяти, стоимость которой на голову выше.

Тестирование LLM на AMD Radeon AI PRO R9700

Базовые популярные модели

Крупные языковые модели

Кодовые модели

Недавние релизы

Модель	Форматы квантизации	Скорость (т/сек)	До первого токена	Длина контекста	Примечания
Базовые популярные модели
Qwen 2.5 7B-Instruct	Q4_K_M	80.80 т/сек	0.07 сек.	4096	Разумная, провереная временем модель.
Llama 3.1 8B-Instruct*	Q4_K_M	67.05 т/сек	0.06 сек.	4096	Немногословна, но дает только верные ответы.
Mistral 7B v0.3	Q4_K_M	73.31 т/сек	0.05 сек.	4096	Самая среднестатистическая из представленных, ничем не выделяется.
gpt-oss-20b	MXFP4	109.68 т/сек Лучшая	0.13 сек.	4096	Одна из лучших нейросетевых моделей, выдаёт подробные и быстрые ответы.
Mistralai/Devstral-small-2-2512 24B	Q4_K_M	72.28 т/сек	0.05 сек.	4096	Типовая Dense модель, пришедшая на замену Mixtral 8x7B. Дает добротные ответы.
Крупные языковые модели
Qwen 2.5 14B-Instruct	Q4_K_M	41.57 т/сек	0.13 сек.	4096	Иногда спотыкается на сложных предложениях, задумываясь на доли секунды.
Qwen3 14B	Q4_K_M	38.19 т/сек	0.12 сек.	4096	Лишена изъянов версии 2.5
Gemma 3 27B-IT-QAT	Q4_O	30.81 т/сек	0.22 сек.	4096	Грамотно и логично строит ответы, никогда не плутает в словах и не допускает ошибок
Qwen3 32B	Q4_K_M	27.61 т/сек Медленно	0.26 сек.	4096	Чрезвычайно подробные ответы, ловко жонглирует грамотными словосочетаниями как на русском, так и на английском языке.
Kimi Linear 48B A3B Instruct	Q4_K_M	16.81 т/сек Медленно	1.40 сек.	4096	Грань возможностей PRO R9700. Модель с трудом помещается в память, но выдаёт приемлимые и развёрнутые ответы.
Кодовые модели
Deepseek Coder 7B	Q4_K_M	66.55 т/сек	0.05 сек.	4096	Легко пишет простенькие программы и скрипты
Code Llama 7B*	Q4_K_M	80.54 т/сек Быстро	0.04 сек.	4096	Самый шустрый из кодеров
Granite Code 8B	Q4_K_M	68.27 т/сек	0.07 сек.	4096	Добротный кодер, но плохо понимает запросы на русском.
Недавние релизы
DeepSeek-R1 Distilled 14B	Q4_K_M	56.37 т/сек	0.16 сек.	4096	Не очень хорошо дружит с русским языком.
DeepSeek-R1 Distilled 32B	Q4_K_M	27.63 т/сек Медленно	0.26 сек.	4096	Немногим лучше версии на 14млрд параметров
Ministral 3 14B-Instruct	Q4_K_M	57.10 т/сек	0.11 сек.	4096	Дает чрезвычайно развернутые и подробные ответы
Ministral 3 14B-Reasoning	Q4_K_M	55.20 т/сек	0.12 сек.	4096	Прекрасная модель, может тягаться с gpt-oss-20b
Qwen3.5 9B	Q4_K_M	51.57 т/сек	0.57 сек.	4096	Самая свежая модель Qwen, вышедшая 2 марта 2026 года. Очень масштабно и подробно мыслит для своих небольших «габаритов»
Qwen3.5 35B A3B	Q4_K_M	60.06 т/сек Быстро	0.32 сек.	4096	Ещё одна свежая модель Qwen, вышедшая 24.02.2026. Даёт лучшие и самые подробные ответы. Прекрасно развита логика и отлично строит причино-следственные связи

Все модели протестированы на AMD Radeon AI PRO R9700 с контекстом 4096 токенов. Скорость генерации измеряется в токенах в секунду (т/сек). «До первого токена» показывает время ответа системы с момента начала запроса.

По завершению тестирования можно приметить одну деталь: помимо значительно более долгой загрузки модели в память, на крупных моделях AI PRO R9700 сильно теряет в производительности – сказывается присутствие GDDR6 памяти а не многослойной HBM, как на многих серверных ускорителях.

Это рисует интересную картину: на некрупных моделях R9700 идёт вровень с той же AMD Instinct MI100, или вовсе опережает её. Но на моделях вес которых превышает отметку 8-10 гигабайт, “прошка” начинает существенно отставать, вплоть до 30% на некоторых моделях.

Но несмотря на это, есть аспект, в котором AI PRO R9700 AI TOP существенно превосходит своего серверного собрата.

Температуры видеокарты AMD AI PRO R9700

AI PRO R9700 получилась достаточно холодной видеокартой, особенно в сопоставлении с серверными чудовищами. Её средние температуры не переступают отметку 70 градусов по Цельсию. А хотспот лишь изредка превышает это значение. Нагрев памяти тоже останавливается вблизи 70 °C – на 71-73 градусах. По крайней мере в реальной нагрузке.

AMD AI PRO R9700 AI TOP – видеокарта, явно преуспевшая в своей нише. Если вам необходим “ИИ-ускоритель” за относительно некрупные деньги (по меркам конкурентов). И при этом вы не готовы мириться с ограниченностью линейки Instinct, желая сохранить весь функционал и поддержку Windows в одной видеокарте. Она – практически безальтернативный выбор в текущей конъюнктуре рынка.

*LLAMA — проект Meta Platforms Inc.**, деятельность которой в России признана экстремистской и запрещена

**Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена