Kompani t\u00eb m\u00ebdha q\u00eb merren me zhvillimin n\u00eb fush\u00ebn e m\u00ebsimit t\u00eb makinerive kan\u00eb paraqitur projektin OpenXLA, i cili synon zhvillimin e p\u00ebrbashk\u00ebt t\u00eb mjeteve p\u00ebr kompilimin dhe optimizimin e modeleve p\u00ebr sistemet e m\u00ebsimit t\u00eb makinerive. N\u00ebn mbrojtjen e projektit, u transferua zhvillimi i mjeteve q\u00eb lejojn\u00eb unifikimin e kompilimit t\u00eb modeleve, t\u00eb p\u00ebrgatitura n\u00eb kornizat TensorFlow, PyTorch dhe JAX, p\u00ebr trajnim dhe ekzekutim efikas n\u00eb GPU t\u00eb ndrysh\u00ebm dhe p\u00ebrshpejtues t\u00eb specializuar. N\u00eb k\u00ebt\u00eb projekt jan\u00eb angazhuar kompani si Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba dhe Amazon. <\/p>\n
Pritet q\u00eb fal\u00eb bashkimit t\u00eb p\u00ebrpjekjeve t\u00eb ekipeve lider p\u00ebr hulumtim dhe p\u00ebrfaq\u00ebsuesve t\u00eb komunitetit t\u00eb arrihet t\u00eb stimulohet zhvillimi i sistemeve t\u00eb m\u00ebsimit t\u00eb makinerive dhe t\u00eb zgjidhet problemi i fragmentimit t\u00eb infrastruktur\u00ebs p\u00ebr kornizat dhe pajisjet e ndryshme. OpenXLA lejon realizimin e mb\u00ebshtetjes efektive p\u00ebr pajisje t\u00eb ndryshme, pa marr\u00eb parasysh se mbi cil\u00ebn korniz\u00eb \u00ebsht\u00eb nd\u00ebrtuar modeli i m\u00ebsimit t\u00eb makinerive. Pritet q\u00eb me OpenXLA t\u00eb arrihet t\u00eb reduktohet koha e trajnimit t\u00eb modeleve, t\u00eb rritet kapaciteti i kalimit, t\u00eb zvog\u00eblohen vonesat, t\u00eb ulen kostot p\u00ebr burimet kompjuterike dhe t\u00eb shkurtohet koha e nxjerrjes s\u00eb produktit n\u00eb treg.
<\/center> <\/p>\n
OpenXLA p\u00ebrb\u00ebhet nga tre komponent\u00eb kryesor\u00eb, kodi i t\u00eb cil\u00ebve shp\u00ebrndahet n\u00ebn licenc\u00ebn Apache 2.0: <\/p>\n
\n
XLA (Algebra i Linjave t\u00eb Acceleruar) \u2014 nj\u00eb kompilator q\u00eb lejon optimizimin e modeleve t\u00eb m\u00ebsimit t\u00eb makineris\u00eb p\u00ebr ekzekutimin me performanc\u00eb t\u00eb lart\u00eb n\u00eb platforma t\u00eb ndryshme harduerike, duke p\u00ebrfshir\u00eb GPU, CPU dhe akcelator\u00eb t\u00eb specializuar nga prodhues t\u00eb ndrysh\u00ebm.\n
StableHLO \u2014 nj\u00eb specifikim dhe implementim thelb\u00ebsor i nj\u00eb grupi operacionesh me nivel t\u00eb lart\u00eb (HLO, Operacione me Nivel t\u00eb Lart\u00eb) p\u00ebr p\u00ebrdorim n\u00eb modelet e sistemeve t\u00eb m\u00ebsimit t\u00eb makineris\u00eb. Sh\u00ebrben si nj\u00eb shtres\u00eb nd\u00ebrmjet framework-eve t\u00eb m\u00ebsimit t\u00eb makineris\u00eb dhe kompilator\u00ebve, q\u00eb transformojn\u00eb modelin p\u00ebr ekzekutim n\u00eb pajisje t\u00eb caktuara. Shtresat p\u00ebr gjenerimin e modeleve n\u00eb formatin StableHLO jan\u00eb p\u00ebrgatitur p\u00ebr framework-et PyTorch, TensorFlow dhe JAX. Si baz\u00eb p\u00ebr StableHLO \u00ebsht\u00eb p\u00ebrdorur grupi MHLO, i cili \u00ebsht\u00eb zgjeruar me mb\u00ebshtetje p\u00ebr serializimin dhe versionimin.\n
IREE (Ambienti i Ekzekutimit t\u00eb Representimit t\u00eb Nd\u00ebrmjet\u00ebm) \u2014 nj\u00eb kompilator dhe mjedis kohor ekzekutimi q\u00eb transformon modelet e m\u00ebsimit t\u00eb makineris\u00eb n\u00eb nj\u00eb p\u00ebrfaq\u00ebsim nd\u00ebrmjet\u00ebs universale, t\u00eb bazuar n\u00eb formatin MLIR (Multi-Level Intermediate Representation) nga projekti LLVM. Si karakteristika, vlen t\u00eb p\u00ebrmendet mund\u00ebsia e kompilimit paraprak (ahead-of-time), mb\u00ebshtetje p\u00ebr menaxhimin e rrjedh\u00ebs, mund\u00ebsia e p\u00ebrdorimit t\u00eb elementeve dinamike n\u00eb modele, optimizimi p\u00ebr CPU dhe GPU t\u00eb ndryshme, dhe kostot e ulta t\u00eb mbik\u00ebqyrjes. <\/ul>\n
P\u00ebrfitimet kryesore t\u00eb instrumentit OpenXLA: <\/p>\n
\n
Arrihni performanc\u00ebn optimale pa qen\u00eb e nevojshme t\u00eb thellohem n\u00eb shkrimin e kodit t\u00eb specializuar p\u00ebr pajisje t\u00eb caktuara. Ofrimi i optimizimeve t\u00eb gatshme, q\u00eb p\u00ebrfshijn\u00eb thjeshtimin e shprehjeve algebraike, vendosjen efikase n\u00eb memorie, planifikimin e ekzekutimit duke marr\u00eb parasysh reduktimin e pik\u00ebve maksimale t\u00eb konsumit t\u00eb memories dhe mbingarkesave.\n
Thjeshtimi i skalimit dhe paralelizimit t\u00eb llogaritjeve. Programuesi duhet vet\u00ebm t\u00eb shtoj\u00eb annotimet p\u00ebr nj\u00eb n\u00ebngrup kritik t\u00eb tensoreve, mbi t\u00eb cilat kompilatori mund t\u00eb gjeneroj\u00eb automatikisht kodin p\u00ebr llogaritje paralele.\n
Sigurimi i portabilitetit p\u00ebrmes mb\u00ebshtetjes s\u00eb platformave t\u00eb ndryshme harduerike, si GPU AMD dhe NVIDIA, CPU t\u00eb bazuara n\u00eb arkitektur\u00ebn x86 dhe ARM, p\u00ebrshpejtuesit ML TPU t\u00eb Google, IPU AWS Trainium Inferentia, Graphcore dhe Cerebras Wafer-Scale Engine.\n
Mb\u00ebshtetje p\u00ebr lidhjen e zgjerimeve me implementimin e mund\u00ebsive t\u00eb tjera, si mb\u00ebshtetje p\u00ebr shkrimin e primitiveve t\u00eb m\u00ebsimit t\u00eb thell\u00eb me p\u00ebrdorimin e CUDA, HIP, SYCL, Triton dhe gjuh\u00ebve t\u00eb tjera p\u00ebr llogaritjet paralele. Mund\u00ebsia e rregullimit manual t\u00eb ngushticave n\u00eb modele. <\/ul>\n
![\"Hapet](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n