SambaRack — стоечное RDU-решение от стартапа SambaNova

Введение

Американский стартап SambaNova, известный своими уникальными RDU-ускорителями искусственного интеллекта, 8 июля 2025 года представил полноценные стоечные решения SambaRack на базе RDU SN40L. Как заявляет компания, SambaRack обеспечивает наибольшее количество токенов на ватт в сравнении с решениями конкурентов, причем, для любых ИИ-моделей.

Подробнее о SambaRack

Стойка SambaRack базируется на 16 RDU-чипах SN40L, использующие архитектуру DataFlow — особую компоновку чипов и микросхем памяти, которая обеспечивает максимальную производительность и эффективность при высокоскоростном инференсе данных LLM. Память решений имеет три уровня — DDR, HBM и SRAM.

Благодаря этому, SambaRack способна обеспечивать беспрецедентную скорость при выводе передовых моделей искусственного интеллекта, например, внутренние тесты компании показали, что SambaRack лидирует в задачах инференса размышляющего ИИ Qwen3 32b. При этом, все развертываемые на SambaRack ИИ-модели не теряют в точности, демонстрируя высочайшую производительность.

Компания SambaNova отмечает, что передовые решения SambaRack ориентированы на интеграцию в современные дата-центры, инфраструктуры разработчиков искусственного интеллекта, а также в системы, относящиеся к государственному сектору. SambaRack также поддерживают беспрецедентное масштабирование в рамках end-to-end решения SambaManaged. Как отмечает стартап, SambaManaged — первый в отрасли продукт для центров обработки данных, оптимизированный для логического вывода, который можно развернуть всего за 90 дней, вместо стандартных 18-24 месяцев. Причем, модульная система требует минимальных изменений текущей инфраструктуры, позволяя дата-центрам оперативно начать осуществлять инференс ИИ при минимальных накладных расходах и с высочайшей энергоэффективностью.

Выводы

По всей видимости, на рынке инференса искусственного интеллекта появился новый игрок в лице SambaNova. Компания меньше чем за год выпустила массу ИИ-ориентированных решений, включая облачный сервис SambaCloud, серверы на базе чипов RDU SN40L и, наконец, стойки SambaRack и решения SambaManaged, развертываемые “под ключ” всего за 90 дней. Однако SambaNova в данный момент не распространяется о точных характеристиках своего оборудования, поэтому реальная эффективность решений стартапа остается под вопросом.