A febbraio si è tenuta una conferenza a Stanford dedicata al calcolo ad alte prestazioni (HPC). I rappresentanti di VMware hanno riferito che, lavorando con le GPU, il sistema basato su un hypervisor ESXi modificato non ha nulla da invidiare alle soluzioni bare metal.
Parliamo delle tecnologie che hanno reso possibile tutto ciò.
/ фото
Problema delle prestazioni
Secondo gli analisti, circa il 70% dei carichi di lavoro nei data center . Tuttavia, il restante 30% continua a funzionare su bare metal senza hypervisor. Questi 30% consistono per lo più in applicazioni ad alta intensità di carico, legate, ad esempio, all'addestramento di reti neurali e che utilizzano processori grafici.
Gli esperti spiegano questa tendenza con il fatto che l'hypervisor come strato intermedio di astrazione può influenzare le prestazioni dell'intero sistema. Negli studi di cinque anni fa su una riduzione della velocità operativa del 10%. Di conseguenza, le aziende e gli operatori di data center non si affrettano a trasferire i carichi di lavoro HPC in ambienti virtuali.
Tuttavia, le tecnologie di virtualizzazione stanno evolvendo e migliorando. Un mese fa, alla conferenza VMware hanno riportato che l'hypervisor ESXi non ha un impatto negativo sulle prestazioni delle GPU. La velocità di calcolo può diminuire del tre percento, il che è paragonabile alle prestazioni bare metal.
Come funziona
Per migliorare le prestazioni dei sistemi HPC con processori grafici, VMware ha apportato una serie di modifiche al funzionamento dell'hypervisor. In particolare, è stata rimossa la funzione vMotion. Questa è necessaria per bilanciare il carico e di solito sposta le macchine virtuali (VM) tra server o GPU. La disattivazione di vMotion ha portato al fatto che ogni VM è ora collegata a un processore grafico specifico. Ciò ha aiutato a ridurre i costi durante lo scambio di dati.
Un altro componente chiave del sistema DirectPath I/O. Questa consente al driver CUDA per il calcolo parallelo di interagire direttamente con le macchine virtuali, bypassando l'hypervisor. Quando su una GPU è necessario avviare contemporaneamente più VM, viene utilizzata la soluzione GRID vGPU. Essa suddivide la memoria della scheda in più segmenti (ma i cicli di calcolo non vengono suddivisi).
Lo schema di funzionamento di due macchine virtuali in questo caso apparirà come segue:
Risultati e previsioni
Azienda del hypervisor, addestrando il modello linguistico basato su . Il "danno" alle prestazioni è stato soltanto del 3-4% rispetto al bare metal. In cambio, il sistema ha ottenuto la possibilità di distribuire le risorse su richiesta in base ai carichi di lavoro attuali.
Il gigante IT ha anche con i container. Gli ingegneri dell'azienda hanno addestrato le reti neurali a riconoscere le immagini. In questo modo, le risorse di una scheda grafica sono state distribuite tra quattro VM containerizzate. Di conseguenza, le prestazioni delle singole macchine sono diminuite del 17% (rispetto a una VM con accesso completo alle risorse GPU). Tuttavia, il numero di immagini elaborate al secondo di tre volte. Si prevede che questi sistemi applicazione nell'analisi dei dati e nella modellazione computazionale.
Tra i potenziali problemi che VMware potrebbe affrontare, gli esperti un pubblico di destinazione piuttosto ristretto. Attualmente, solo un numero limitato di aziende utilizza sistemi ad alte prestazioni. Anche se in Statista , si prevede che entro il 2021 il 94% dei carichi di lavoro mondiali nei data center sarà già virtualizzato. Secondo degli analisti, il valore del mercato HPC crescerà da 32 a 45 miliardi di dollari nel periodo dal 2017 al 2022.
/ фото PD
Soluzioni simili
Nel mercato ci sono alcuni analoghi, sviluppati da grandi aziende IT: AMD e Intel.
La prima azienda per la virtualizzazione delle schede grafiche ha adottato un approccio basato su SR-IOV (single-root input/output virtualization). Questa tecnologia fornisce alle VM accesso a una parte delle capacità hardware del sistema. La soluzione consente di suddividere la scheda grafica tra 16 utenti con prestazioni equivalenti per i sistemi virtualizzati.
Per quanto riguarda il secondo gigante IT, la loro sull'hypervisor Citrix XenServer 7. Essa integra il funzionamento del driver GPU standard e della macchina virtuale, consentendo a quest'ultima di visualizzare applicazioni 3D e desktop su dispositivi di centinaia di utenti.
Il futuro della tecnologia
Gli sviluppatori di processori grafici virtuali per l'implementazione di sistemi di IA e la crescita della popolarità delle soluzioni ad alte prestazioni nel mercato delle tecnologie aziendali. Sperano che la necessità di elaborare grandi volumi di dati aumenti la domanda di vGPU.
Attualmente i produttori per combinare la funzionalità della CPU e della GPU in un unico core, al fine di accelerare la risoluzione di compiti legati alla grafica, all'esecuzione di calcoli matematici, operazioni logiche e all'elaborazione dei dati. L'emergere di tali core sul mercato in futuro cambierà l'approccio alla virtualizzazione delle risorse e alla loro distribuzione tra i carichi di lavoro in ambienti virtuali e cloud.
Cosa leggere sul tema nel nostro blog aziendale:
Un paio di post dal nostro canale Telegram:
Fonte: habr.com
