Google представила TPU Ironwood Superpod — 9216 чипов, 192 ГБ памяти HBM и 4614 TFLOPS на TPU

Введение

На конференции Hot Chips 2025 Google раскрыла детали о новом поколении тензорных процессоров Ironwood, продемонстрировав масштабируемость системы на уровне стоечной инфраструктуры. Платформа Ironwood представляет собой значительный шаг вперед по сравнению с предыдущими поколениями TPU Google.

Подробнее о супермодуле TPU Ironwood

Архитектура TPU седьмого поколения, известная под кодовым названием Ironwood, была анонсирована в апреле 2025 года и, по заявлениям компании, превосходит по производительности самые мощные современные суперкомпьютеры в 24 раза. На конференции Hot Chips 2025 Google начала с обзора эволюции своих систем TPU. В 2022 году TPU v4 мог вмещать до 4096 чипов на модуль с 32 ГБ памяти HBM и пропускной способностью 1,2 ТБ/с, обеспечивая 275 TFLOPS на чип. В 2023 году TPU v5p увеличил количество чипов до 8960 с 95 ГБ HBM и 2,8 ТБ/с пропускной способности, достигнув 459 TFLOPS. Теперь Ironwood TPU Superpod объединяет 9216 чипов с 192 ГБ HBM, пропускной способностью 7,4 ТБ/с и пиковой производительностью 4614 TFLOPS на чип — что более чем в 16 раз превышает показатели TPU v4. Основным строительным блоком системы является чип Ironwood SoC. Четыре таких чипа устанавливаются на материнскую плату Ironwood PCBA, а 16 таких плат образуют стоечное решение с 64 чипами.

Для обеспечения межсоединений Google использует собственную масштабируемую сеть InterChip Interconnect (ICI), позволяющую объединять до 43 блоков (каждый по 64 чипа) в Superpods с общим объемом памяти до 1,8 ПБ.

Инфраструктура супермодуля включает три ключевых компонента: 144 стойки Ironwood, шасси с оптическими коммутаторами для масштабирования ICI между блоками, и стойку CBU для распределения охлаждающей жидкости. Google применяет трехмерную тороидальную компоновку для своих тензорных процессоров на протяжении последних трех поколений, где каждый логический блок представляет собой 3D-сеть 4x4x4 из 64 чипов, размещаемую в одной стойке.

Межсоединение реализовано по гибридной схеме: печатные платы, медные пассивные соединения с кабелями и оптические линии, подключенные к OCS через коммутационные панели. Это обеспечивает системе высокую гибкость и масштабируемость.

Выводы

Компания Google активно продвигает совершенно иной подход к ИИ-вычислениям, масштабируя возможности своих TPU-ускорителей и создавая новые, передовые решения, вроде TPU Ironwood Superpod. Огромный широкие возможности масштабирования, огромный объем памяти и высочайшая вычислительная мощность делают новейшие супермодули крайне амбициозным решением, способным конкурировать даже с флагманскими решениями Nvidia и AMD.