Google готовит TPUv8ax и TPUv8x: новые ускорители для обучения и инференеса

Введение

Google готовится к расширению своей линейки тензорных ускорителей восьмым поколением TPU — TPUv8ax для задач обучения искусственного интеллекта и TPUv8x для высокопроизводительного инференса LLM. Интерес к инфраструктуре Google со стороны внешних разработчиков растёт, и компания постепенно превращает свои TPU в продукт, востребованный за пределами внутренних проектов.

Подробнее о Google TPUv8ax и TPUv8x

TPUv8ax под кодовым названием Sunfish — это ИИ-ускоритель, ориентированный на обучение топовых проприетарных ИИ-моделей уровня Gemini с триллионами параметров. Разработка TPUv8ax Sunfish происходила в тесном сотрудничестве с Broadcom: инженеры компании обеспечивали комплексное проектирование, работу с памятью, упаковкой и интеграции вспомогательной логики. Фактически Broadcom поставляет Google законченный компонент, который затем интегрируется в масштабируемые кластеры и серверные стойки компании.

TPUv8x под кодовым названием Zebrafish — ИИ-ускоритель для задач логического вывода. К его разработке Google привлекла MediaTek, которая участвовала в разработке вспомогательной логики и ее упаковки, тогда как Google самостоятельно закупала кристаллы и HBM-память. Такой подход позволил уменьшить зависимость от подрядчика, что в долгосрочной перспективе позволит Google самостоятельно заняться проектированием своих ИИ-решений.

ИИ-производительность нового поколения TPUv8 пока не раскрыта, однако ожидается заметный рост по сравнению с TPUv7 Ironwood, который выдает 4614 TFLOPS в FP8 и имеет 192 ГБ памяти HBM3E.

Решение вывести на рынок TPUv8 связано с резким спросом на облачные вычислительные мощности Google — компании все чаще обращают свое внимание на высокопроизводительные инстансы Google с проприетарными ИИ-ускорителями и центральными процессорами, которые обеспечивают эффективность на уровне решений Nvidia, при этом отличаются значительно меньшей стоимостью использования. Топовые компании Anthropic, Safe Superintelligence Inc и Meta* уже начали переходить на мощности Google, что свидетельствует о том, что TPU уже стали зрелым и конкурентоспособным решением на рынке.

Выводы

TPUv8 станет ключевым шагом Google в направлении дальнейшей вертикальной интеграции ИИ-железа. Компания стремится снизить зависимость от сторонних решений и одновременно укрепить позиции TPU как альтернативы GPU-устройствам NVIDIA и AMD. Уже известно, что обучение и работа Gemini 3 полностью выполняются на TPU, что сигнализирует о зрелости платформы и готовности Google конкурировать в области специализированных вычислительных ускорителей нового поколения.

*Деятельность Meta Platforms Inc. в России признана экстремистской и запрещена