Qualcomm представила AI200 и AI250 — NPU-ускорители для ЦОД нового поколения

Введение

Компания Qualcomm анонсировала новые ИИ-ускорители для центров обработки данных — решения AI200 и AI250, созданные на базе передовых нейронных процессоров и ориентированные на сектор инференса. Новые продукты поставляются только в готовом стоечном формате и обеспечивают высочайшую производительность, рекордный объем памяти, энергоэффективность и передовой технологический стек.

Подробнее о Qualcomm AI200 и AI250

Qualcomm AI200 — специализированное решение для логического вывода ИИ на уровне стойки, ориентированное на снижение совокупной стоимости владения и повышение эффективности при работе с большими языковыми и мультимодальными моделями. Ускоритель поддерживает 768 ГБ LPDDR на одну карту, что обеспечивает огромный объем памяти и высокую масштабируемость при внедрении генеративного ИИ. Характеристики Qualcomm AI250 еще не разглашаются, но уже известно, что решение использует инновационную архитектуру Near-Memory Computing (NMC). Эта технология решение обеспечивает более чем десятикратное увеличение эффективной пропускной способности и значительное снижение энергопотребления за счет выполнения вычислений вблизи с памятью ускорителя. Такой подход позволяет дезагрегировать инференс ИИ, повысить эффективность использования аппаратных ресурсов и сохранить высокий уровень производительности. Оба решения оснащены системой прямого жидкостного охлаждения, интерфейсами PCIe и Ethernet для масштабирования, а также системой конфиденциальных вычислений для защиты данных. Потребление энергии на уровне стойки составляет 160 кВт.

Программный стек Qualcomm для гиперскейлеров охватывает все уровни — от прикладного до системного программного обеспечения и оптимизирован для ИИ-инференса. Он поддерживает популярные ML-платформы, а также различные методы оптимизации работы LLM. Разработчики могут развертывать модели, размещенные на Hugging Face, в один клик с помощью библиотеки Efficient Transformers и пакета Qualcomm AI Inference Suite. Стек также включает готовые ИИ-приложения, интеллектуальных агентов, а также полный набор инструментов, библиотек, API и сервисов для внедрения ИИ в корпоративную инфраструктуру.

Выводы

Процессоры Qualcomm AI200 и AI250 поступят в продажу в 2026 и 2027 годах соответственно. Компания планирует ежегодно выпускать новые поколения процессоров для ЦОД, уделяя особое внимание ИИ-производительности, энергоэффективности и снижению совокупной стоимости владения. Новые решения станут основой новой стратегии Qualcomm по масштабному выходу на рынок ИИ-ускорителей, начав конкуренцию с Nvidia, AMD и другими поставщиками оборудования для ИИ-ориентированных дата-центров.