{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/nl\/blog\/news\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"OpenXLA gelanceerd, een toolkit voor optimalisatie en compilatie van machine learning-modellen","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
De grootste bedrijven die zich bezighouden met machine learning hebben het OpenXLA-project gepresenteerd, gericht op de gezamenlijke ontwikkeling van tools voor het compileren en optimaliseren van modellen voor machinesystemen. Onder het project valt de ontwikkeling van tools die de compilatie van modellen, gemaakt in de frameworks TensorFlow, PyTorch en JAX, kunnen uniformeren voor effici\u00ebnt leren en uitvoeren op verschillende GPU's en gespecialiseerde accelerators. Bedrijven zoals Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba en Amazon hebben zich aangesloten bij dit gezamenlijke project. <\/p>\n
Het wordt verwacht dat door de samenwerking van toonaangevende onderzoeksteams en vertegenwoordigers van de gemeenschap de ontwikkeling van machinesystemen wordt gestimuleerd en het probleem van de fragmentatie van infrastructuur voor verschillende frameworks en hardware wordt opgelost. OpenXLA maakt een effectieve ondersteuning van verschillende hardware mogelijk, ongeacht op welk framework het machine learning-model is gebaseerd. Het wordt verwacht dat OpenXLA zal helpen om de leertijd van modellen te verkorten, de verwerkingscapaciteit te verhogen, vertragingen te verminderen, de kosten van rekenbronnen te verlagen en de tijd om een product op de markt te brengen te verkorten.
<\/center> <\/p>\n
OpenXLA bestaat uit drie hoofdcomponenten, wiens code onder de Apache 2.0-licentie wordt verspreid: <\/p>\n
\n
XLA (Versnelde Lineaire Algebra) \u2014 een compiler die het mogelijk maakt om machine learning-modellen te optimaliseren voor een hoge prestaties op verschillende hardwareplatforms, inclusief GPU, CPU en gespecialiseerde versnellers van verschillende fabrikanten.\n
StableHLO \u2014 een specificatie en basisimplementatie van een set van hoge-niveau operaties (HLO, High-Level Operations) voor gebruik in modellen van machine learning-systemen. Het fungeert als een schil tussen machine learning-frameworks en compilers die het model transformeren voor uitvoering op specifieke hardware. Schillen voor het genereren van modellen in het StableHLO-formaat zijn voorbereid voor de frameworks PyTorch, TensorFlow en JAX. De basis voor StableHLO is een set MHLO, die is uitgebreid met ondersteuning voor serialisatie en versiebeheer.\n
IREE (Intermediate Representation Execution Environment) \u2014 een compiler en runtime die machine learning-modellen omzet in een universele tussenliggende representatie, gebaseerd op het MLIR-formaat (Multi-Level Intermediate Representation) van het LLVM-project. Kenmerken omvatten de mogelijkheid voor vooruit compilatie (ahead-of-time), ondersteuning voor stroombeheer, het gebruik van dynamische elementen in modellen, optimalisatie voor verschillende CPU's en GPU's, en lage overhead. <\/ul>\n
De belangrijkste voordelen van de OpenXLA-toolset: <\/p>\n
\n
Het bereiken van optimale prestaties zonder dat diepgaande kennis van apparaat-specifieke codering vereist is. Het bieden van kant-en-klare optimalisaties, waaronder vereenvoudiging van algebra\u00efsche uitdrukkingen, effici\u00ebnte geheugentoewijzing, en uitvoeringplanning gericht op het verminderen van piek-geheugengebruik en overbelasting.\n
Vereenvoudiging van schaling en parallelle berekeningen. De ontwikkelaar hoeft alleen annotaties toe te voegen voor een subset van kritische tensoren, waar de compiler automatisch code voor parallelle berekeningen kan genereren.\n
Zorg voor draagbaarheid door ondersteuning van verschillende hardwareplatforms, zoals AMD en NVIDIA GPU's, x86 en ARM gebaseerde CPU's, Google TPU ML-versnellers, AWS Trainium en Inferentia, en Graphcore en Cerebras Wafer-Scale Engine.\n
Ondersteuning voor het aansluiten van extensies met extra functionaliteiten, zoals de ondersteuning voor het schrijven van primitieve diepgaande machine learning met CUDA, HIP, SYCL, Triton en andere talen voor parallelle berekeningen. De mogelijkheid om handmatig bottlenecks in modellen te tunen. <\/ul>\n
![\"OpenXLA](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n