Проектът LLVM представи HPVM 1.0, компилатор за CPU, GPU, FPGA и ускорители

Разработчиците на проекта LLVM публикуваха изданието на компилатора HPVM 1.0 (Heterogeneous Parallel Virtual Machine), насочен към опростяване на програмирането за хетерогенни системи и предоставяне на инструменти за генериране на код за CPU, GPU, FPGA и специфични за домейна хардуерни ускорители (поддръжка за FGPA и ускорителите не бяха включени в версията 1.0). Кодът на проекта се разпространява под лиценза Apache 2.0.

Основната идея на HPVM е да осигури унифицирано представяне на паралелно изпълними програми при компилиране, които могат да се използват за изпълнение с помощта на различни видове хардуер, който поддържа паралелни изчисления, включително GPU, векторни инструкции, многоядрени процесори, FPGA и различни специализирани ускорителни чипове. За разлика от други системи, HPVM се опита да комбинира три възможности за организиране на хетерогенни изчисления: междинно представяне, независимо от езика и хардуера, архитектура на набор от виртуални инструкции (ISA) и планиране на времето за изпълнение.

Независимото от целта междинно представяне (IR) на HPVM се основава на представянето на междинни инструкции LLVM 9.0 и го разширява с йерархична графика на потока от данни, за да улови паралелизъм на ниво задача, данни и конвейер. Междинното представяне на HPVM включва също векторни инструкции и споделена памет. Основната цел на използването на междинно представяне е ефективно генериране на код и оптимизация за хетерогенни системи.

Архитектурата на набора от виртуални инструкции (ISA) позволява преносимост между различни типове паралелен изчислителен хардуер и прави възможно да не се губи производителност при използване на различни елементи от хетерогенни системи. Virtual ISA може също да се използва за доставяне на универсален изпълним програмен код, който може да работи с помощта на процесори, графични процесори, FPGA и различни ускорители.

На настоящия етап на разработка HPVM предлага генератори на код, способни да превеждат приложни възли, дефинирани с помощта на виртуална ISA, за изпълнение с помощта на NVIDIA GPU (cuDNN и OpenCL), векторни инструкции на Intel AVX и многоядрени x86 процесори. По време на изпълнение HPVM прилага гъвкави политики за планиране на изчислителни процеси, реализирани както на базата на програмна информация (графична структура), така и чрез компилиране на отделни програмни възли за изпълнение на всяко от целевите изчислителни устройства, налични в системата.

Отбелязва се, че използването на HPVM може да постигне значително увеличение на производителността. Производителността на HPVM транслаторите е сравнима с ръчно написан OpenCL код за GPU и векторни изчислителни устройства.

В сравнение с първото издание за предварителен преглед, HPVM 1.0 включва поддръжка за линейни алгебрични тензорни операции, интерфейси за Pytorch и Keras, приближения на конволюционни оператори и рамка за настройка на приближенията, която автоматично избира оптимални приближения за специфични тензорни операции и избира конфигурацията, която осигурява оптимална производителност.

Източник: opennet.ru