{"id":107177,"date":"2023-03-10T12:48:22","date_gmt":"2023-03-10T10:48:23","guid":{"rendered":"https:\/\/prohoster.info\/?p=107177"},"modified":"2023-03-11T11:43:26","modified_gmt":"2023-03-11T09:43:26","slug":"predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/news\/predstavlen-openxla-instrumentarij-dlya-optimizaczii-i-kompilyaczii-modelej-mashinnogo-obucheniya","title":{"rendered":"Presentato OpenXLA, toolkit per l'ottimizzazione e la compilazione di modelli di machine learning","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Le pi\u00f9 grandi aziende impegnate nello sviluppo nel campo dell'apprendimento automatico hanno presentato il progetto OpenXLA, volto a promuovere lo sviluppo collaborativo di strumenti per la compilazione e l'ottimizzazione dei modelli per sistemi di apprendimento automatico. Sotto l'ombrello del progetto, \u00e8 passata la sviluppo di strumenti che consentono di unificare la compilazione dei modelli preparati nei framework TensorFlow, PyTorch e JAX, per un efficiente apprendimento e esecuzione su diverse GPU e acceleratori specializzati. Aziende come Google, NVIDIA, AMD, Intel, Meta, Apple, Arm, Alibaba e Amazon si sono unite al lavoro collaborativo sul progetto. <\/p>\n
Si prevede che, grazie alla fusione degli sforzi dei principali team di ricerca e dei rappresentanti della comunit\u00e0, sar\u00e0 possibile stimolare lo sviluppo dei sistemi di apprendimento automatico e risolvere il problema della frammentazione dell'infrastruttura per diversi framework e attrezzature. OpenXLA consente di realizzare un'efficace supporto per diverse attrezzature, indipendentemente dal framework su cui \u00e8 stato creato il modello di apprendimento automatico. Si prevede che grazie a OpenXLA sar\u00e0 possibile ridurre il tempo di addestramento dei modelli, aumentare la larghezza di banda, ridurre le latenze, abbattere i costi delle risorse computazionali e accelerare il time-to-market.
<\/center> <\/p>\n
OpenXLA \u00e8 composto da tre componenti principali, il cui codice \u00e8 distribuito sotto la licenza Apache 2.0: <\/p>\n
\n
XLA (Accelerated Linear Algebra) \u2014 un compilatore che ottimizza i modelli di machine learning per una esecuzione ad alte prestazioni su diverse piattaforme hardware, inclusi GPU, CPU e acceleratori specializzati di vari produttori.\n
StableHLO \u2014 specifica e implementazione di base di un insieme di operazioni ad alto livello (HLO, High-Level Operations) per l'uso nei modelli dei sistemi di machine learning. Funziona da interfaccia tra i framework di machine learning e i compilatori che trasformano il modello per l'esecuzione su hardware specifico. Le interfacce per la generazione di modelli nel formato StableHLO sono state preparate per i framework PyTorch, TensorFlow e JAX. StableHLO si basa sul set MHLO, ampliato con supporto alla serializzazione e al versioning.\n
IREE (Intermediate Representation Execution Environment) \u2014 un compilatore e runtime che trasforma i modelli di machine learning in una rappresentazione intermedia universale, basata sul formato MLIR (Multi-Level Intermediate Representation) del progetto LLVM. Tra le caratteristiche si segnala la possibilit\u00e0 di compilazione anticipata (ahead-of-time), supporto alla gestione del flusso, capacit\u00e0 di utilizzare elementi dinamici nei modelli e ottimizzazione per diverse CPU e GPU, con bassi sovraccarichi. <\/ul>\n
Principali vantaggi dello strumento OpenXLA: <\/p>\n
\n
Raggiungimento di prestazioni ottimali senza la necessit\u00e0 di addentrarsi nella scrittura di codice specifico per dispositivi particolari. Fornitura di ottimizzazioni pronte per l'uso, che includono la semplificazione di espressioni algebriche, un'efficace allocazione della memoria e la pianificazione dell'esecuzione tenendo conto della riduzione del picco di consumo di memoria e dei sovraccarichi.\n
Semplificazione della scalabilit\u00e0 e del parallelismo dei calcoli. \u00c8 sufficiente che il programmatore aggiunga annotazioni a un sottoinsieme di tensori critici, sulla base dei quali il compilatore pu\u00f2 generare automaticamente codice per calcoli paralleli.\n
Garanzia di portabilit\u00e0 grazie al supporto per diverse piattaforme hardware, come GPU AMD e NVIDIA, CPU basate su architettura x86 e ARM, accelerator ML TPU Google, IPU AWS Trainium Inferentia, Graphcore e Cerebras Wafer-Scale Engine.\n
Supporto per l'integrazione di estensioni con funzionalit\u00e0 aggiuntive, come la scrittura di primitivi di deep learning utilizzando CUDA, HIP, SYCL, Triton e altri linguaggi per calcoli paralleli. Possibilit\u00e0 di intervento manuale sui colli di bottiglia nei modelli. <\/ul>\n
![\"Presentato](\"\/wp-content\/uploads\/2023\/03\/b684d2f57def6348f6a0037c36baf717.jpg\")
<\/center> <\/p>\n