HBM3 в прошлом — HBM4 бьет рекорды пропускной способности и энергоэффективности

Введение

JEDEC представила официальный стандарт высокоскоростной памяти HBM4 под обозначением JESD238. Новый тип памяти призван обеспечить растущие потребности сектора искусственного интеллекта и современных дата-центров, предоставив более производительное и энергоэффективное решение, чем форматы памяти HBM3. Спецификация предусматривает архитектурные изменения и модернизацию интерфейса, направленные на повышение пропускной способности, плотности данных и общей эффективности, что критически важно для приложений с высокой нагрузкой на память.

Подробнее о стандарте HBM4

При этом, HBM4 JESD238 сохраняет ключевую особенность памяти этого формата — вертикальную компоновку кристаллов DRAM, но предлагает множество усовершенствований по сравнению с HBM3, включая существенно возросшую пропускную способность, улучшенную эффективность и гибкость конструкции. Стандарт поддерживает скорость передачи данных до 8 Гбит/с на каждый из 2048 бит интерфейса, обеспечивая совокупную пропускную способность до 2 ТБ/с. Одним из основных нововведений стало увеличение числа независимых каналов в стеке вдвое — с 16 в HBM3 до 32 в HBM4. Каждый канал теперь разделен на два псевдоканала. Это улучшение повышает гибкость доступа к памяти и уровень параллелизма операций.

В контексте энергоэффективности особая спецификация HVM4 JESD270-4 включает поддержку нескольких уровней напряжения: VDDQ (0,7 В, 0,75 В, 0,8 В или 0,9 В) и VDDC (1,0 В или 1,05 В). Эти опции способствуют снижению энергопотребления и росту эффективности в различных системных конфигурациях. HBM4 также обеспечивает совместимость с существующими контроллерами HBM3, позволяя использовать один контроллер для обоих стандартов. Такая обратная совместимость упрощает интеграцию и предоставляет разработчикам вычислительных систем большую гибкость.

Дополнительно, HBM4 включает функцию Directed Refresh Management (DRFM), которая минимизирует нагрузку на строки памяти и поддерживает более надежные механизмы обеспечения доступности и обслуживания (RAS). В плане плотности, HBM4 допускает конфигурации стеков от 4 до 16 уровней с использованием кристаллов DRAM плотностью 24 ГБ или 32 ГБ. Это позволяет достигать емкости модуля до 64 ГБ при использовании 16-уровневых стеков на основе 32 Гбит кристаллов, что обеспечивает повышенную плотность памяти для ресурсоемких задач.

Одним из ключевых архитектурных изменений в HBM4 стало разделение шин команд и данных. Эта модификация повышает параллелизм операций и сокращает задержки, что крайне важно для оптимизации производительности при выполнении многопоточных задач, характерных для сектора ИИ и HPC. Кроме того, HBM4 оснащен обновленным физическим интерфейсом с улучшенной целостностью сигналов для поддержки повышенных скоростей передачи данных и увеличенной эффективности каналов связи. Ожидается, что в ближайшее время ключевые игроки ниши HBM, среди которых Samsung, Micron и SK hynix, представят продукты, соответствующие спецификации HBM4.

Выводы

HBM4 уже в ближайшее время станет основным стандартом высокоскоростной памяти для мощнейших вычислительных инфраструктур ИИ и HPC. Например, уже известно, что HBM4 будет применяться в ИИ-ускорителях Vera Rubin от Nvidia и Jaguar Shores от Intel. Это позволит значительно увеличить пропускную способность для обработки больших объемов памяти, сократив время на обучение и инференс новейших моделей искусственного интеллекта.