Google готовит TPUv9 Triggerfish совместно с MediaTek для задач агентного ИИ

Введение

Компания Google расширяет сотрудничество с MediaTek для создания специализированного тензорного ускорителя следующего поколения в рамках линейки TPUv9. Новый ИИ-ускоритель, получивший кодовое название Triggerfish, позиционируется как решение для задач агентного ИИ, и в отличие от предыдущего поколения TPUv8, где функции обучения и логического вывода были разделены между чипами Zebrafish (MediaTek) и Sunfish (Broadcom), TPUv9 объединяет обе возможности на одном кристалле. Массовое производство серии TPUv9 начнется в третьем квартале 2027 года, причем Triggerfish станет вторым чипом в линейке после Humufish, а полноценный выход на рынок ожидается в начале 2028 года.

Подробнее о Google TPU v9 Triggerfish

Triggerfish является совершенно новым поколением ИИ-ускорителей Google, а специализированной модификацией базового TPUv9 Humufish, нацеленной на решение ограничений CPU и памяти — ключевых узких мест современных ИИ-систем. Основные технические отличия Triggerfish от базовой версии включают кардинальное увеличение встроенной статической памяти SRAM (в 2-3 раза по сравнению с Humufish), переход с памяти HBM4 на более высокоскоростную HBM4E, а также добавление нового, особого “симуляционного кристалла”,

Ключевым нововведением стала интеграция встроенного CPU-модуля в том же корпусе, что и основной вычислительный ASIC-кристалл. Этот CPU-тайл, разработанный MediaTek, отвечает за переключение между режимами обучения и логического вывода, обеспечивая гибкость в обслуживании разнородных ИИ-нагрузок. В совокупности эти интеграции могут значительно увеличить сценарии использования TPUv9 Triggerfish, увеличить объем данных, который может храниться локально прямо TPU, минимизировать затраты на перемещение данных и повысить эффективность в фазе декодирования.

Кроме того, в производственной цепочке Google TPUv9 Triggerfish тоже ожидаются значительные изменения. Хотя основной вычислительный ASIC-кристалл будет производиться на мощностях TSMC, для передовой упаковки рассматривается использование технологии Intel EMIB вместо традиционного, но дорогостоящего решения TSMC CoWoS. В рамках Humufish основной вычислительный кристалл будет производиться силами самой Google и ее ближайшими партнерами, а компоненты ввода-вывода и бэкенд-дизайн — компанией MediaTek. По оценкам аналитика Мин-Чи Куо, Google планирует выпустить от 100 до 200 тысяч экземпляров Triggerfish в дополнение к 400-500 тысячам базовых чипов Humufish. Стоимость одного чипа Triggerfish будет примерно на 30% выше, чем у Humufish. Также недавно инсайдеры откопали информацию о следующем поколении Google TPUv10 Icefish, но данных о нем крайне мало — известно, что производство могут перевести на мощности Samsung для выпуска чипов по нормам 2-нм. TPUv10 Icefish должны выйти в 2029-2030 годах.

Выводы

Google целенаправленно смещает фокус с пиковой производительности на эффективность агентных сценариев с множественными итеративными вызовами — именно там решающим фактором становятся задержки, объем сверхскоростной памяти SRAM и возможности CPU. Почему именно MediaTek займется разработкой, а Broadcom будет вытеснена из цепочки поставок Google, неизвестно, однако это не значит, что Broadcom прекращает сотрудничество с Google — скорее всего, Broadcom займется разработкой других продуктов компании, и может вернуться уже в следующем поколении ИИ-ускорителей TPU. В любом случае, стратегия компании понятна — отдельные специализированные ИИ-ускорители отходят на второй план, и индустрия переходит к использованию универсальных, высокопроизводительных чипов, которые эффективны в любых ИИ-сценариях: от обучения до инференса агентных нагрузок.