{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/et\/blog\/novosti-interneta\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"Esitatud on OpenXLA, t\u00f6\u00f6riistakomplekt masin\u00f5ppemudelite optimeerimiseks ja kompileerimiseks","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Suurimad masin\u00f5ppe arendamisega tegelevad ettev\u00f5tted esitasid projekti OpenXLA, mille eesm\u00e4rk on \u00fchise arendamise kaudu luua t\u00f6\u00f6riistakomplekt, mis v\u00f5imaldab kompileerida ja optimeerida mudeleid masin\u00f5ppes\u00fcsteemidele. Projekt h\u00f5lmab t\u00f6\u00f6riistade arendamist, mis v\u00f5imaldavad \u00fchtlustada mudelite kompileerimist, mis on loodud TensorFlow, PyTorch ja JAX raamistikus, et tagada efektiivne \u00f5ppimine ja teostamine erinevates GPU-des ja spetsialiseeritud kiirendites. Projekti on liitunud sellised ettev\u00f5tted nagu Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba ja Amazon. <\/p>\n
Oodatakse, et juhtivate teadusmeeskondade ja kogukonna esindajate koost\u00f6\u00f6 abil \u00f5nnestub edendada masin\u00f5ppetehnoloogiate arengut ning lahendada infrastruktuuri segmenteerimise probleem erinevate raamistikude ja seadmete jaoks. OpenXLA v\u00f5imaldab t\u00f5husat erinevate seadmete tuge, s\u00f5ltumata sellest, millise raamistikuga masin\u00f5ppemudel on loodud. Oodatakse, et OpenXLA aitab l\u00fchendada mudelite koolitusaega, suurendada l\u00e4bilaskev\u00f5imet, v\u00e4hendada viivitusi, alandada arvutusressursside kulusid ja v\u00e4hendada toodete turule toomise aega.
<\/center> <\/p>\n
OpenXLA koosnevad kolmest p\u00f5hikomponendist, mille kood on jagatud Apache 2.0 litsentsi alusel: <\/p>\n
\n
XLA (Accelerated Linear Algebra) \u2014 kompilaator, mis v\u00f5imaldab optimeerida masin\u00f5ppe mudeleid k\u00f5rge j\u00f5udlusega t\u00e4itmiseks erinevatel riistvaraplatvormidel, sealhulgas GPU, CPU ja spetsialiseeritud kiirendites erinevatelt tootjatelt.\n
StableHLO \u2014 spetsifikatsioon ja baasseade k\u00f5rgetasemeliste operatsioonide (HLO, High-Level Operations) kogumikuks, mida kasutatakse masin\u00f5ppes\u00fcsteemide mudelites. Tegutseb kihina masin\u00f5ppe raamistike ja konkreetsele riistvarale mudelit teisendavate kompilaatorite vahel. Kihid StableHLO formaadis mudelite genereerimiseks on ette valmistatud PyTorch, TensorFlow ja JAX raamistikele. StableHLO p\u00f5hineb MHLO kogumil, mis on laiendatud serialiseerimise ja versioonihalduse toega.\n
IREE (Intermediate Representation Execution Environment) \u2014 kompilaator ja t\u00f6\u00f6aeg, mis teisendab masin\u00f5ppe mudelid \u00fcldiseks vahepealseks esitamiseks, p\u00f5hinedes MLIR (Multi-Level Intermediate Representation) formaadil, mis kuulub LLVM projekti. Omadustest tasub m\u00e4rkida eelkompileerimise (ahead-of-time) v\u00f5imalust, voogude juhtimise toetamist, d\u00fcnaamiliste elementide kasutamise v\u00f5imalust mudelites ning optimeerimist erinevatele CPU ja GPU jaoks, madalad tegevuskulud. <\/ul>\n
OpenXLA t\u00f6\u00f6riista peamised eelised: <\/p>\n
\n
Parim j\u00f5udlus saavutatakse ilma vajaduseta s\u00fcveneda seadme spetsiifilise koodi kirjutamisse. Pakutakse valmis optimeerimisi, sealhulgas algebraliste v\u00e4ljendite lihtsustamine, m\u00e4luaadresside t\u00f5hus paigutamine, t\u00e4itmise ajakava kavandamine, et v\u00e4hendada m\u00e4lutippkoormusi ja \u00fclekoormusi.\n
Kaalumise ja arvutuste jagamise lihtsustamine. Arendajale piisab, kui lisada annotatsioonid kriitiliste tensorite alamhulgale, mille p\u00f5hjal kompilaator suudab automaatselt genereerida koodi paralleelseteks arvutusteks.\n
\u00dchilduvuse tagamine, toetades erinevaid riistvaraplatvorme, nagu AMD ja NVIDIA GPU-d, x86 ja ARM arhitektuuril p\u00f5hinevad CPU-d, Google'i TPU masin\u00f5ppe kiirendajad, AWS Trainium ja Inferentia, Graphcore ja Cerebras Wafer-Scale Engine.\n
T\u00e4ienduste toetamist laienduste kaudu, et rakendada t\u00e4iendavaid funktsioone, nagu s\u00fcvamasin\u00f5ppe primitiivide kirjutamise toimetamine CUDA, HIP, SYCL, Triton ja muude paralleelsete arvutuste keeltega. V\u00f5ime k\u00e4sitsi h\u00e4\u00e4lestada mudeleid kitsaskohti. <\/ul>\n
![\"Esitatud](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n