QNAP представила QAI-M100 и QAI-U100 — ИИ-ускорители для сетевых хранилищ

Введение

Компания QNAP Systems анонсировала ИИ-ускорители QAI-M100 и QAI-U100, созданные для выполнения различных сетевых задач в области периферийных вычислений, например, распознавание лиц и объектов, анализ данных в реальном времени и так далее. Обе новинки совместимы с сетевыми хранилищами (NAS) производства компании QNAP.

Подробнее о QAI-M100

QAI-M100 выполнен в форм-факторе M.2 2280 (с ключом M+B) и использует интерфейс PCIe 2.0 x1. В основе устройства лежит процессор Rockchip RK1808, оснащенный двумя вычислительными ядрами Arm Cortex-A35 с тактовой частотой до 1,6 ГГц. Интегрированный блок NPU с поддержкой фреймворков TensorFlow, Caffe и ONNX обеспечивает ИИ-производительность до 3 TOPS в режиме INT8. Встроенный блок VPU способен декодировать видео H.264 в разрешении 1080p60 и кодировать в 1080p30. Также ускоритель поддерживает память типов LPDDR2/3 и DDR3-DDR4-800, а также оснащен 1 ГБ встроенной памяти. В комплекте поставляется низкопрофильный радиатор для охлаждения. Модель QAI-M100 может быть установлена в следующие NAS QNAP: TS-435XeU, TS-473A, TS-673A, TS-h765eU и TS-873A.

Подробнее о QAI-U100

QAI-U100, в свою очередь, представляет собой внешний ускоритель с интерфейсом USB 3.2 Gen1. QAI-U100 имеет габариты 92,5 × 29 × 11 мм, а остальные технические характеристики идентичны модели M.2 в формате. Для работы с ускорителями требуется сетевое хранилище под управлением ОС QTS версии 5.2.1.2930 (сборка от 20241025) или новее, либо QuTS hero версии h5.2.1.2929 (сборка от 20241025) или выше. Необходима совместимость с программным обеспечением QNAP AI Core v3.5.0+, Multimedia Console v2.7.0+ и QuMagie v1.5.1+. Модель QAI-U100 совместима с широким спектром сетевых хранилищ QNAP, имеющих от трех до 16 отсеков, включая ТС-332Х, TS-432PXU и другие модели.

Выводы

С учетом недавнего выхода компактных ИИ-ускорителей для периферии Hailo-10H, которые также доступны в формате M.2 дисков, становится очевидно, что в секторе компактных ИИ-систем появился новый тренд на создание ускорителей для интеграции в M.2 слоты, благодаря чему производительность системы можно эффективно масштабировать без перестройки вычислительной инфраструктуры. Примечательно, что QAI-U100 также доступны в формате USB, что расширяет спектр применения этих ИИ-ускорителей в десктопный сектор, позволяя создать даже из самых базовых пользовательских устройств полноценную ИИ-систему для развертывания небольших LLM.