Специально указала длинный текст баннера, чтобы посмотреть как он будет адаптировать на устройствах
PaddlePaddle Framework 3.2 — Baidu представила обновленный фреймворк для создания передовых ИИ-моделей

PaddlePaddle Framework 3.2 — Baidu представила обновленный фреймворк для создания передовых ИИ-моделей

Новости Простой
0
0

Введение

На конференции разработчиков глубокого обучения WAVE SUMMIT 2025 китайская корпорация Baidu представила ряд ИИ-новинок. Помимо облачной модели ERNIE X 1.1 и локальной LLM ERNIE-4.5-21B-A3B-Thinking, IT-гигант из поднебесной также анонсировала обновление фреймворка для разработки и интеграции искусственного интеллекта — PaddlePaddle Framework 3.2.

Подробнее о PaddlePaddle Framework 3.2

Новая версия открытого фреймворка PaddlePaddle 3.2 получила пул новых, улучшенных функций, которые вошли в состав набор инструментов полного цикла ERNIEKit и призваны оптимизировать процесс разработки новых больших языковых моделей. В частности, были добавлены системы для эффективного, высокопроизводительного предобучения ИИ, Supervised Fine-Tuning (SFT) и его облегченная версия LoRA, механизм оптимизации Direct Preference Optimization (DPO), функции квантизации Quantization-Aware Training (QAT) и посттренинговой квантизации (PTQ). Помимо этого, PaddlePaddle 3.2 получил инструмент FastDeploy v2.2 для высокопроизводительного инференса и развертывания LLM- и VLM-моделей, работающий на множестве платформ. FastDeploy v2.2 поддерживает экосистемы Hugging Face, обеспечивает высокую производительность, поддерживает передовые ИИ-модели Baidu, а также предлагает умные стратегии кэширования и дисагрегации моделей, унифицированную передачу KV Cache с NVLink/RDMA, OpenAI API/vLLM-совместимость, различные форматы квантования (W8A16, W4A8, FP8), ускорение через спекулятивное декодирование. Помимо этого, PaddlePaddle 3.2 включает два научно-вычислительных набора PaddleCFD и PaddleMaterials, ориентированных на инженерные и материаловедческие задачи.

Выводы

PaddlePaddle 3.2 привнес внушительный набор новых функций и позволит значительно увеличить эффективность создания и инференса новых моделей искусственного интеллекта. С учетом того, что фреймворк PaddlePaddle 3.2 будет полностью открыт для open-source сообщества, это обеспечит решениям Baidu широкую распространенность, поскольку ИИ-энтузиасты по всему миру задействуют эту передовую платформу в своих перспективных проектах.

Оставь свой комментарий