{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/ro\/blog\/news\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"A fost lansat OpenXLA, un instrument pentru optimizarea \u0219i compilarea modelor de \u00eenv\u0103\u021bare automat\u0103.","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Cele mai mari companii specializate \u00een dezvoltarea de solu\u021bii de machine learning au prezentat proiectul OpenXLA, destinat dezvolt\u0103rii colaborative a instrumentelor pentru compilarea \u0219i optimizarea modelelor pentru sistemele de machine learning. Proiectul a preluat dezvoltarea instrumentelor care permit unificarea compil\u0103rii modelului, preg\u0103tite \u00een cadrul framework-urilor TensorFlow, PyTorch \u0219i JAX, pentru un antrenament \u0219i o execu\u021bie eficient\u0103 pe diferite GPU-uri \u0219i acceleratoare specializate. La proiect au aderat astfel de companii precum Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba \u0219i Amazon. <\/p>\n
Se a\u0219teapt\u0103 ca, datorit\u0103 eforturilor unificate ale echipelor de cercetare de frunte \u0219i ale membrilor comunit\u0103\u021bii, s\u0103 se stimuleze dezvoltarea sistemelor de machine learning \u0219i s\u0103 se rezolve problema fragment\u0103rii infrastructurii pentru diverse framework-uri \u0219i echipamente. OpenXLA permite implementarea unei suporturi eficiente pentru diferite hardware, indiferent de framework-ul pe baza c\u0103ruia a fost creat modelul de machine learning. Se preconizeaz\u0103 c\u0103, datorit\u0103 OpenXLA, va fi posibil\u0103 reducerea timpului de antrenament al modelelor, cre\u0219terea capacit\u0103\u021bii de procesare, reducerea \u00eent\u00e2rzierilor, diminuarea costurilor pentru resursele de calcul \u0219i accelerarea timpului de lansare a produsului pe pia\u021b\u0103.
<\/center> <\/p>\n
OpenXLA este format din trei componente principale, a c\u0103ror cod este distribuit sub licen\u021ba Apache 2.0: <\/p>\n
\n
XLA (Algebr\u0103 Liniar\u0103 Accelerat\u0103) \u2014 un compilator care optimizeaz\u0103 modelele de \u00eenv\u0103\u021bare automat\u0103 pentru o execu\u021bie performant\u0103 pe diverse platforme hardware, inclusiv GPU, CPU \u0219i acceleratoare specializate de la diferi\u021bi produc\u0103tori.\n
StableHLO \u2014 specifica\u021bia \u0219i implementarea de baz\u0103 a unui set de opera\u021bii de \u00eenalt nivel (HLO, High-Level Operations) pentru utilizare \u00een modelele sistemelor de \u00eenv\u0103\u021bare automat\u0103. Ac\u021bioneaz\u0103 ca un strat intermediar \u00eentre cadrele de \u00eenv\u0103\u021bare automat\u0103 \u0219i compilatoarele care transform\u0103 modelul pentru a rula pe hardware specific. Straturile pentru generarea modelelor \u00een format StableHLO au fost preg\u0103tite pentru cadrele PyTorch, TensorFlow \u0219i JAX. Ca baz\u0103 pentru StableHLO, a fost utilizat setul MHLO, care a fost extins cu suport pentru serializare \u0219i versiune.\n
IREE (Mediul de Execu\u021bie pentru Reprezentarea Intermediar\u0103) \u2014 un compilator \u0219i runtime care transform\u0103 modelele de \u00eenv\u0103\u021bare automat\u0103 \u00eentr-o reprezentare intermediar\u0103 universal\u0103, bazat\u0103 pe formatul MLIR (Reprezentare Intermediar\u0103 pe Mai Multe Niveluri) al proiectului LLVM. Printre caracteristici se num\u0103r\u0103 capacitatea de compilare anticipat\u0103 (ahead-of-time), suport pentru controlul fluxului, posibilitatea utiliz\u0103rii elementelor dinamice \u00een modele \u0219i optimizarea pentru diferite CPU \u0219i GPU, cu cheltuieli reduse. <\/ul>\n
Principalele avantaje ale instrumentarului OpenXLA: <\/p>\n
\n
Ob\u021binerea unei performan\u021be optime f\u0103r\u0103 a necesita aprofundarea scrierii de cod specific pentru anumite dispozitive. Oferirea de optimiz\u0103ri gata f\u0103cute, inclusiv simplificarea expresiilor algebrice, plasarea eficient\u0103 \u00een memorie, \u0219i programarea execu\u021biei av\u00e2nd \u00een vedere reducerea consumului maxim de memorie \u0219i a suprasarcinilor.\n
Simplificarea scal\u0103rii \u0219i a paraleliz\u0103rii calculilor. Este suficient ca dezvoltatorul s\u0103 adauge anota\u021bii pentru un subset de tensori critici, pe baza c\u0103rora compilatorul poate genera automat cod pentru calcule paralele.\n
Asigurarea portabilit\u0103\u021bii prin suportul pentru diverse platforme de hardware, cum ar fi GPU-urile AMD \u0219i NVIDIA, CPU-uri bazate pe arhitectura x86 \u0219i ARM, acceleratoarele ML TPU Google, IPU AWS Trainium Inferentia, Graphcore \u0219i Cerebras Wafer-Scale Engine.\n
Suport pentru conectarea extensiilor care implementeaz\u0103 func\u021bionalit\u0103\u021bi suplimentare, cum ar fi suportul pentru scrierea primitivelor de \u00eenv\u0103\u021bare profund\u0103 folosind CUDA, HIP, SYCL, Triton \u0219i alte limbaje pentru calcul paralel. Posibilitatea de tunare manual\u0103 a colapsurilor \u00een modele. <\/ul>\n
![\"A](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n