SGLang vs vLLM: новый движок инференса LLM и почему он быстрее TensorRT-LLM
Обзор SGLang: открытый движок инференса, конкурирующий vLLM.
Блог
Telegram
llama.cpp webUI: графический интерфейс топового ИИ-движка
У движка инференса ИИ llama.cpp появился встроенный веб-интерфейс.
Diffusion LLM: новое поколение языковых моделей, пришедшее на смену трансформерам
Что такое диффузионные языковые модели и почему они лучше трансформеров.
State Space Models и Mamba: новое поколение архитектур после трансформеров
Как работает архитектура State Space Models и почему она лучше трансформеров.
Тестируем Tesla P40 в LM Studio: нейросети и LLM на Windows
Обзор возможностей NVIDIA Tesla P40 для запуска локальных языковых моделей в LM Studio.
Что такое GLM4.6 и почему она конкурирует с DeepSeek V3
GLM‑4.6 – 355 млрд параметров, 200 K контекста и агентные возможности.
NVIDIA Omniverse DSX Blueprint: эталонный проект ИИ-ЦОД нового поколения
Nvidia представила эталонный проект Omniverse DSX Blueprint для создания масштабных ИИ-фабрик.
NVIDIA IGX Thor Robotics: платформа для физических ИИ промышленного класса
Nvidia представила вычислительные системы IGX Thor для периферийных вычислений
NVIDIA NVQLink: интерконнект QPU + GPU для гибридных систем
Nvidia представила передовую систему NVQLink для объединения QPU и GPU в гибридных системах.
NVIDIA анонсировала DPU BlueField-4: основа сетевой инфраструктуры ИИ-фабрик будущего
Nvidia анонсировала выход передовых DPU BlueField-4.
Ничего не найдено. Попробуйте изменить фильтры.