LM Studio 0.3.32: стабильный релиз и запуск приватной беты 0.4.0

Введение

Команда LM Studio представила стабильную версию движка инференса LM Studio 0.3.32 в двух сборках, уже доступных для обновления или скачивания. Обновление приносит патчи для исправления ошибок, более плавное развертывание нескольких ИИ-моделей и другие полезные нововведения.

Подробнее о LM Studio 0.3.32

Первая сборка получила ряд важных улучшений. Появилась возможность передавать изображения в формате base64 в конечную точку /v1/responses, совместимую с OpenAI. Теперь по умолчанию активирована технология Flash Attention для движков Vulkan и Metal в llama.cpp. Также была исправлена ошибка, приводившая к появлению сообщения о предыдущем не найденном ответе на конечной точке /v1/responses, устранено повторное срабатывание всплывающего окна обновления, а еще решили проблему, возникавшей из-за отсутствия выбранной модели или сохраненного параметра lastUsedModel. Дополнительно сделали корректную работу вложенности при загрузке альтернативных вариантов одной и той же модели.

Вторая сборка релиза включает поддержку вызова инструментов GLM 4.5, исправление некорректной работы шаблона подсказок MLX, из-за которого модель GLM-4.1V не распознавала изображения, а также добавляет совместимость с olmOCR-2. Дополнительно устранена проблема, при которой кнопка “Загрузить” продолжала отображаться для моделей, которые уже были установлены. Параллельно разработчики объявили о старте закрытой беты новой версии LM Studio 0.4.0. Подать заявку на участие можно здесь.

Выводы

Релиз LM Studio 0.3.32 усиливает стабильность движка, улучшает поддержку моделей и устраняет ряд важных ошибок, поэтому обновление можно вполне назвать плановым. Одновременно с этим пользователям предоставлена возможность раннего доступа к LM Studio 0.4.0, в которой, скорее всего, появятся значительно более продвинутые возможности, но перед релизом разработчикам важно провести глубокое тестирование всех нововведений.