Nvidia представила CUDA 13.1 с CUDA Tile — новая эра программирования GPU

Введение

Компания Nvidia выпустила крупнейшее обновление своей программной экосистемы CUDA за всю историю ее существования с 2006 года — версию CUDA 13.1. Главным нововведением стала интеграция технологии CUDA Tile, которая полностью меняет суть программирования ядер GPU Nvidia.

Подробнее о CUDA 13.1 и CUDA Tile

CUDA Tile — это виртуальный набор команд для параллельного программирования на основе тайлов. CUDA Tile позволяет разработчикам писать алгоритмы высокого уровня, абстрагируясь от деталей тензорных ядер и особенностей архитектур GPU. Традиционно разработка под GPU велась через модель SIMT (Single Instruction, Multiple Threads), требующую ручного распределения потоков и контроля за выполнением кода. С приходом CUDA Tile разработчик будет лишь описывать алгоритм и структуру данных, а компилятор и рантайм сами распределяют данные по потокам, аппаратным блокам и тензорным ядрам. Это обеспечивает легкую миграцию кода между поколениями GPU Nvidia и упрощает работу с тензорами, которые стали ключевым типом данных в современных ИИ-нагрузках.

Основой технологии является CUDA Tile IR — промежуточное представление для программирования тайлов. Оно позволяет писать переносимый код и создавать новые компиляторы, DSL и фреймворки для GPU. При этом SIMT и Tile не взаимоисключают друг друга, а будут сосуществовать в единой экосистеме, а разработчики смогут использовать привычные CUDA-ядра или тайловые ядра для ускорения тензорных вычислений. Для разработчиков уже доступен NVIDIA cuTile Python, высокоуровневая библиотека, использующая Tile IR. Продвинутые пользователи могут работать напрямую с Tile IR, чтобы создавать собственные компиляторы и библиотеки.

Выводы

Технология CUDA Tile поставляется вместе с CUDA 13.1, включая документацию, примеры кода и репозитории на GitHub. Благодаря CUDA Tile, программирование GPU Nvidia станет как никогда проще, обеспечивая максимальную нативность миграции кода, интуитивность использования и масштабируемость алгоритмов под необходимые рабочие процессы и будущие архитектуры GPU Nvidia.