SambaNova представила SN50: новейший ИИ-чип с 5-кратным приростом скорости

Введение

Компания SambaNova анонсировала свой новый чип для инференса ИИ SN50, максимальная скорость которого в пять раз выше, чем у ИИ-ускорителя SL40L предыдущего поколения — с 640 TFLOPS у SN40L до 3200 TFLOPS у SN50. Одновременно компания объявила о стратегическом партнерстве с Intel для создания высокопроизводительных и экономичных решений для логического вывода на основе ИИ, а также о привлечении более 350 миллионов долларов инвестиций от новых и существующих инвесторов.

Подробнее о SambaNova SN50

SN50 построен на фирменной архитектуре SambaNova RDU (Reconfigurable Data Unit), оптимизированной под логический вывод. Чип поддерживает масштабирование в системы до 256 ИИ-ускорителей через межсоединения с пропускной способностью в несколько ТБ/с. Такая конфигурация сокращает время до первого токена и позволяет эффективно обрабатывать крупные батчи запросов, что критично для агентных сценариев и мультимодальных приложений.

Трехуровневая архитектура памяти обеспечивает поддержку моделей объемом свыше 10 триллионов параметров и длиной контекста более 10 миллионов токенов. Встроенная многомодульная память и механизмы агентного кэширования повышают коэффициент использования оборудования и уменьшают инфраструктурные издержки. По оценке компании, совокупная стоимость владения при внедрении SN50 может быть снижена до трех раз по сравнению с традиционными решениями, ориентированными на графические процессоры.

Первым крупным заказчиком стала SoftBank Corp, которая внедрит SN50 в своих центрах обработки данных нового поколения в Японии. Инфраструктура будет обеспечивать низколатентный логический вывод для государственных и корпоративных клиентов Азиатско-Тихоокеанского региона. Развертывание укрепляет существующее партнерство сторон и делает SN50 базовой платформой для суверенных ИИ-инициатив SoftBank.

Соглашение SambaNova с Intel предполагает интеграцию систем на базе ИИ-ускорителей RDU с процессорами Intel Xeon, ускорителями и сетевыми технологиями Intel, а также совместное продвижение решений через глобальные корпоративные и облачные каналы. Компании намерены развивать гетерогенные ИИ-центры обработки данных как масштабируемую альтернативу GPU-инфраструктуре для рынка inference-нагрузок. Решение о сотрудничестве было принято после попытки Intel купить компанию SambaNova, которая ранее провалила несколько раундов финансирования и была под угрозой закрытия.

Выводы

Релиз новых ускорителей SN50 от SambaNova отражает смещение акцента ИИ-отрасли в сторону достижения низких задержек, предсказуемой пропускной способности и экономической эффективности, а также показывает, что альтернативные архитектуры ИИ-ускорителей продолжают привлекать внимание инвесторов. Пятикратный прирост производительности на ускоритель, поддержка моделей свыше 10 триллионов параметров и стратегическое партнерство с Intel формируют основу для выхода SambaNova на многомиллиардный рынок корпоративного логического вывода.