HPVM 2.0, компилатор за CPU, GPU, FPGA и хардуерни ускорители

Проектът LLVM обяви пускането на HPVM 2.0 (Heterogeneous Parallel Virtual Machine), компилатор, насочен към опростяване на програмирането за хетерогенни системи и предоставяне на инструменти за генериране на код за CPU, GPU, FPGA и специфични за домейна хардуерни ускорители. Кодът на проекта се разпространява под лиценза Apache 2.0.

Програмирането за разнородни паралелни системи се усложнява от наличието в една и съща система на компоненти, които използват различни модели за постигане на паралелизъм (CPU ядра, векторни инструкции, GPU и т.н.), различни набори от инструкции и различни йерархии на паметта. Всяка система използва собствена комбинация от тези компоненти. Основната идея на проекта HPVM е да се използва унифицирано представяне на паралелно изпълнявани програми при компилиране, което може да се използва за различни видове хардуер, който поддържа паралелни изчисления, включително GPU, векторни инструкции, многоядрени процесори, FPGA и различни специализирани ускорителни чипове.

За разлика от други системи, HPVM се опита да комбинира три възможности за организиране на разнородни изчисления - език за програмиране и независимо от хардуера междинно представяне (IR), архитектура на набор от виртуални инструкции (V-ISA) и график за изпълнение:

• Междинното представяне на HPVM разширява междинното представяне на инструкциите на LLVM чрез използване на йерархична графика на потока от данни за улавяне на паралелизъм на нива на задача, данни и конвейер. Междинното представяне на HPVM включва също векторни инструкции и споделена памет. Основната цел на използването на междинно представяне е ефективно генериране на код и оптимизация за хетерогенни системи.
• Архитектурата на виртуалния набор от инструкции (V-ISA) абстрахира хардуерните характеристики на ниско ниво и обединява различни форми на паралелизъм и архитектури на паметта, като използва само основен модел на паралелизъм – графиката на потока от данни. V-ISA ви позволява да постигнете преносимост между различни видове оборудване за паралелни изчисления и ви позволява да не губите производителност при използване на различни елементи от хетерогенни системи. Virtual ISA може също да се използва за доставяне на универсален изпълним програмен код, който може да работи с помощта на CPU, GPU, FPGA и различни ускорители.
• Политиките за гъвкаво планиране за изчислителния процес се прилагат по време на изпълнение и се изпълняват както на базата на информация за програмата (структура на графика), така и чрез компилиране на отделни програмни възли за изпълнение на всяко от целевите изчислителни устройства, налични в системата.

Генераторите на код, разработени от проекта, са способни да превеждат приложни възли, дефинирани с помощта на виртуална ISA за изпълнение с помощта на NVIDIA GPU (cuDNN и OpenCL), векторни инструкции на Intel AVX, FPGA и многоядрени x86 процесори. Отбелязва се, че производителността на преводачите на HPVM е сравнима с ръчно написан OpenCL код за GPU и векторни изчислителни устройства.

Основни иновации на HPVM 2.0:

• Предложен е езиков фронтенд на Hetero-C++, който опростява успоредяването на кода на приложението в C/C++ за компилиране в HPVM. Hetero-C++ дефинира разширения за паралелизъм на ниво данни и йерархични задачи, които се преобразуват в HPVM графики на нишки.
• Добавен е FPGA бекенд, за да осигури поддръжка за изпълнение на код на Intel FPGA. За организиране на изпълнението се използва Intel FPGA SDK за OpenCL.
• Добавена е рамката DSE (Design Space Exploration), която включва оптимизации на компилатора и механизми за идентифициране на тесни места за автоматично настройване на приложения за дадена хардуерна платформа. Рамката съдържа готов модел на производителност за FPGA от Intel и прави възможно свързването на вашите собствени процесори за оптимизация за всякакви устройства, поддържани от HPVM. Оптимизациите могат да се прилагат както на HPVM, така и на LLVM нива на графика на потока от данни.
• Компонентите на LLVM са актуализирани до версия 13.0.
• Кодът е реорганизиран, за да улесни навигацията в кодовата база, библиотеките и помощните програми.
• Инфраструктурата за тестване е подобрена, добавени са нови тестове за различни HPVM компоненти.

Източник: opennet.ru