Специально указала длинный текст баннера, чтобы посмотреть как он будет адаптировать на устройствах
Rebellions представила ИИ-ускоритель REBEL-Quad с емкостью 144 ГБ HBM3E

Rebellions представила ИИ-ускоритель REBEL-Quad с емкостью 144 ГБ HBM3E

Новости Простой
0
0

Введение

На конференции Hot Chips 2025 компания Rebellions анонсировала новый ИИ-ускоритель REBEL-Quad, базирующийся на четырех модулях HBM3E общей емкостью 144 ГБ и использующий межсоединение UCIe. Это один из первых практических примеров реализации стандарта UCIe в современном ИИ-ускорителе с высочайшей емкостью памяти HBM.

Подробнее о REBEL-Quad

Плата ускорителя создана на базе технологий Samsung SF4X и подложкой TSMC CoWoS-S. Конфигурация включает четыре вычислительных ASIC-чипа, четыре модуля HBM3E и четыре интегрированных кремниевых конденсатора (ISC). Особенностью решения является двухпортовая интерфейсная плата PCIe 5.0 x16. Учитывая, что NVIDIA GB300 будет поддерживать PCIe 6.-, возможно, данная разработка также использует этот стандарт для соответствия современным требованиям. Для обеспечения высокой пропускной способности до 4 ТБ/с применяется стандарт UCIe-A. Показатель TDP решения REBEL-Quad будет достигать 600 Вт, что сравнимо с TDP других флагманских ИИ-ускорителей от таких компаний, как Nvidia и AMD.

Характеристики REBEL-Quad
Характеристики ИИ-ускорителя REBEL-Quad. Источник: ServeTheHome.

В отличие от многих компаний, демонстрирующих на выставке Hot Chips 2025 лишь неработоспособные корпуса своих будущих решений, Rebellions представила полноценную работающую демонстрационную платформу.

ИИ-ускоритель REBEL-Quad
ИИ-ускоритель REBEL-Quad в форм-факторе карты расширения. Источник: ServeTheHome.

На выставке была показана работа ускорителя с моделью Llama 3.3 70B. Для демонстрации производительности замерялась скорость генерации ответов — в среднем 35,5 мс на токен. Следует отметить, что тестирование проводилось на инженерном образце, поэтому при релизе результаты инференса могут отличаться.

Инференс Llama 3.3 70B на REBEL-Quad
Инференс Llama 3.3 70B на ИИ-ускорителе REBEL-Quad. Источник: ServeTheHome.

Выводы

Однако, наиболее примечательна не эффективность инференса нейросети на ускорителе, а использование открытого стандарта UCIe. Rebellions не только реализовала UCIe в своем продукте, но и наглядно продемонстрировала его работу, объединив множество компонентов в едином корпусе. Это достижение выделяется на фоне многих других разработчиков ИИ-ускорителей, чьи проекты часто не доходят даже до стадии публичных демонстраций.

Оставь свой комментарий