{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/da\/blog\/news\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"OpenXLA er blevet pr\u00e6senteret, et v\u00e6rkt\u00f8j til optimering og kompilering af maskinl\u00e6ringsmodeller","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
De st\u00f8rste virksomheder inden for udvikling af maskinl\u00e6ring har pr\u00e6senteret projektet OpenXLA, der har til form\u00e5l at fremme udviklingen af v\u00e6rkt\u00f8jer til kompilering og optimering af modeller til maskinl\u00e6ringssystemer. Projektet inkluderer v\u00e6rkt\u00f8jer, der g\u00f8r det muligt at standardisere kompileringen af modeller, der er udviklet i rammerne TensorFlow, PyTorch og JAX, for effektiv tr\u00e6ning og udf\u00f8relse p\u00e5 forskellige GPU'er og specialiserede accelerators. Virksomheder som Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba og Amazon har tilsluttet sig projektet. <\/p>\n
Det forventes, at samarbejdet mellem f\u00f8rende forskerhold og medlemmer af samfundet vil stimulere udviklingen af maskinl\u00e6ringssystemer og l\u00f8se problemet med fragmentering af infrastrukturen for forskellige rammer og hardware. OpenXLA muligg\u00f8r effektiv support af forskelligt udstyr, uanset hvilken ramme maskinl\u00e6ringsmodellen er bygget p\u00e5. Det forventes, at OpenXLA vil reducere tr\u00e6ningstiden for modeller, forbedre b\u00e5ndbredde, reducere forsinkelser, s\u00e6nke omkostningerne til computerressourcer og forkorte tiden til markedet.
<\/center> <\/p>\n
OpenXLA best\u00e5r af tre hovedkomponenter, hvis kode distribueres under Apache 2.0-licensen: <\/p>\n
\n
XLA (Accelerated Linear Algebra) \u2014 en compiler, der g\u00f8r det muligt at optimere maskinl\u00e6ringsmodeller til h\u00f8jtydende udf\u00f8relse p\u00e5 forskellige hardwareplatforme, herunder GPU, CPU og specialiserede acceleratorer fra forskellige producenter.\n
StableHLO \u2014 en specifikation og grundl\u00e6ggende implementering af et s\u00e6t af h\u00f8j-niveau operationer (HLO, High-Level Operations) til brug i modeller for maskinl\u00e6ring. Det fungerer som et lag mellem maskinl\u00e6ringsrammer og compilere, som omdanner modeller til udf\u00f8relse p\u00e5 specifik hardware. Lag til generering af modeller i StableHLO-format er forberedt til rammerne PyTorch, TensorFlow og JAX. StableHLO er baseret p\u00e5 s\u00e6tningen MHLO, som er udvidet med underst\u00f8ttelse af serialisering og versionering.\n
IREE (Intermediate Representation Execution Environment) \u2014 en compiler og runtime, der konverterer maskinl\u00e6ringsmodeller til et universelt mellemrepr\u00e6sentation, baseret p\u00e5 MLIR-formatet (Multi-Level Intermediate Representation) fra LLVM-projektet. Blandt funktionerne bem\u00e6rkes muligheden for forh\u00e5ndscompilering (ahead-of-time), underst\u00f8ttelse af flowkontrol, mulighed for brug af dynamiske elementer i modeller, optimering til forskellige CPU- og GPU'enheder samt lave overheadomkostninger. <\/ul>\n
De vigtigste fordele ved OpenXLA-v\u00e6rkt\u00f8jet: <\/p>\n
\n
At opn\u00e5 optimal ydeevne uden at skulle dykke ned i at skrive kode, der er specifik for bestemte enheder. Levering af klar tekstoptimeringer, herunder forenkling af algebraiske udtryk, effektiv hukommelsesplacering, og planl\u00e6gning af udf\u00f8relsen med hensyntagen til reduktion af spidsbelastninger i hukommelsen og overbelastning.\n
Forenkling af skalerbarhed og parallelisering af beregninger. Udvikleren skal blot tilf\u00f8je annotationer til et subset af kritiske tensorer, hvormed compileren automatisk kan generere kode til parallelle beregninger.\n
Sikring af b\u00e6rbarhed ved at st\u00f8tte forskellige hardwareplatforme som AMD og NVIDIA GPU'er, CPU'er baseret p\u00e5 x86 og ARM-arkitekturer, Googles TPU ML-acceleratorer, AWS Trainium og Inferentia IPU'er, Graphcore og Cerebras Wafer-Scale Engine.\n
Support for tilslutning af udvidelser med implementering af yderligere funktionaliteter, s\u00e5som st\u00f8tte til udarbejdelse af primitive deep learning-koder ved hj\u00e6lp af CUDA, HIP, SYCL, Triton og andre sprog til parallelle beregninger. Mulighed for manuel tuning af flaskehalse i modeller. <\/ul>\n
![\"OpenXLA](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n