E più grande cumpagnie implicate in u sviluppu in u campu di l'apprendimentu di macchina anu presentatu u prughjettu OpenXLA, destinatu à u sviluppu cumuni di arnesi per a compilazione è l'ottimisazione di mudelli per i sistemi di apprendimentu machine. U prugettu hà pigliatu u sviluppu di l'arnesi chì facenu pussibule unificà a compilazione di mudelli preparati in i framework TensorFlow, PyTorch è JAX per una furmazione efficace è l'esekzione in diverse GPU è acceleratori specializati. Cumpagnia cum'è Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba è Amazon anu unitu à u travagliu cumuni nantu à u prugettu.
Hè previstu chì cumminendu i sforzi di i squadre di ricerca di punta è di i rapprisentanti di a cumunità, serà pussibule stimulà u sviluppu di sistemi d'apprendimentu di macchina è risolve u prublema di frammentazione di l'infrastruttura per diversi quadri è equipaghji. OpenXLA permette di implementà un supportu efficace per vari hardware, indipendentemente da u quadru nantu à quale hè creatu u mudellu di apprendimentu machine. OpenXLA hè previstu di riduce u tempu di furmazione di mudelli, aumentà u throughput, riduce a latenza, riduce i costi di calculu è riduce u tempu di mercatu.
OpenXLA hè custituitu da trè cumpunenti principali, u codice di quale hè distribuitu sottu a licenza Apache 2.0:
- XLA (Accelerated Linear Algebra) hè un compilatore chì vi permette di ottimisà i mudelli di apprendimentu di macchina per l'esekzione d'altu rendimentu nantu à diverse piattaforme hardware, cumprese GPU, CPU è acceleratori specializati di diversi fabricatori.
- StableHLO hè una specificazione è l'implementazione di basa di un inseme di operazioni di altu livellu (HLO, Operazioni di altu livellu) per l'usu in mudelli di sistema di apprendimentu automaticu. Agisce cum'è una strata trà i frameworks d'apprendimentu di macchina è i compilatori chì trasformanu u mudellu per l'esekzione nantu à hardware specificu. I strati per a generazione di mudelli in u furmatu StableHLO sò preparati per i frameworks PyTorch, TensorFlow è JAX. U set MHLO hè utilizatu com'è a basa per StableHLO, chì hè allargatu per supportà a serializazione è a versione.
- IREE (Ambiente di Esecuzione di Rappresentazione Intermedia) hè un compilatore è runtime chì converte i mudelli di apprendimentu di macchina in una rappresentazione intermedia universale basata nantu à u furmatu MLIR (Multi-Level Intermediate Representation) da u prughjettu LLVM. E caratteristiche includenu a pussibilità di pre-compilation (prima di u tempu), supportu per u cuntrollu di u flussu, a capacità di utilizà elementi dinamichi in mudelli, ottimisazione per diverse CPU è GPU, è bassa sopra.
I vantaghji principali di u toolkit OpenXLA:
- Ottene prestazioni ottimali senza avè da preoccupassi di scrive codice specificu di u dispositivu. Furnisce ottimisazioni pronti, cumpresa a simplificazione di l'espressioni algebriche, u piazzamentu di memoria efficaci, a pianificazione di l'esekzione in cunsiderà a riduzione di u cunsumu di memoria di punta è i sovraccarichi.
- Simplificazione di scala è parallelizazione di calculi. U sviluppatore solu deve aghjunghje annotazioni per un subset di tensori critichi, basatu nantu à quale u compilatore pò generà automaticamente codice per l'informatica parallela.
- Assicurate a portabilità cù supportu per diverse piattaforme hardware, cum'è GPU AMD è NVIDIA, CPU x86 è ARM, acceleratori TPU Googl ML, IPU AWS Trainium Inferentia, Graphcore è Cerebras Wafer-Scale Engine.
- Supportu per l'estensioni di cunnessione cù l'implementazione di funzioni supplementari, cum'è u supportu per scrive primitivi di apprendimentu automaticu profondu utilizendu CUDA, HIP, SYCL, Triton è altre lingue per l'informatica parallela. Possibilità di tuning manuale di i colli di bottiglia in mudelli.
Source: opennet.ru
