A febbraio si è tenuta una conferenza a Stanford dedicata al calcolo ad alte prestazioni (HPC). I rappresentanti di VMware hanno riferito che, utilizzando GPU, il sistema basato su un hypervisor ESXi modificato non ha nulla da invidiare alle soluzioni bare metal.
Parliamo delle tecnologie che hanno reso possibile tutto ciò.
/ фото
Problema delle prestazioni
Secondo le stime degli analisti, circa il 70% dei carichi di lavoro nei data center . Tuttavia, il restante 30% continua a operare su bare metal senza hypervisor. Questi 30% sono per lo più costituiti da applicazioni ad alta intensità di carico, legate ad esempio all'addestramento di reti neurali, che utilizzano processori grafici.
Questo trend è spiegato dagli esperti con il fatto che un hypervisor, come strato intermedio di astrazione, può influenzare le prestazioni dell'intero sistema. Negli studi risalenti a cinque anni fa che indicano una riduzione della velocità del 10%. Pertanto, le aziende e gli operatori di data center non si affrettano a trasferire i carichi di lavoro HPC in un ambiente virtuale.
Le tecnologie di virtualizzazione si stanno evolvendo e perfezionando. Alla conferenza tenutasi un mese fa, VMware ha affermato che l'hypervisor ESXi non influisce negativamente sulle prestazioni della GPU. La velocità di calcolo può diminuire del tre percento, valore comparabile a quello dei server bare metal.
Come funziona
Per migliorare le prestazioni dei sistemi HPC con processori grafici, VMware ha apportato una serie di modifiche all'hypervisor. In particolare, è stata rimossa la funzione vMotion, utile per il bilanciamento del carico e solitamente utilizzata per trasferire macchine virtuali (VM) tra server o GPU. La disattivazione di vMotion ha portato a una connessione specifica tra ogni VM e la GPU. Questo ha contribuito a ridurre i costi di scambio dati.
Un altro componente chiave del sistema DirectPath I/O. Questa tecnologia consente al driver CUDA per il calcolo parallelo di interagire direttamente con le macchine virtuali, bypassando l'hypervisor. Quando è necessario avviare più VM su una sola GPU, viene utilizzata la soluzione GRID vGPU, che suddivide la memoria della scheda in vari segmenti (senza dividere i cicli di calcolo).
Lo schema di funzionamento di due macchine virtuali in questo caso sarà il seguente:
Risultati e previsioni
Azienda del hypervisor, addestrando un modello linguistico basato su . Il 'danno' alle prestazioni è stato solo del 3-4% rispetto al bare metal. Tuttavia, in cambio, il sistema ha acquisito la possibilità di distribuire le risorse su richiesta in base ai carichi attuali.
Il gigante IT ha anche con i contenitori. Gli ingegneri dell'azienda hanno addestrato le reti neurali a riconoscere immagini. In questo caso, le risorse di una GPU sono state suddivise tra quattro VM containerizzate. Di conseguenza, le prestazioni delle singole macchine sono diminuite del 17% (rispetto a una VM con accesso completo alle risorse della GPU). Tuttavia, il numero di immagini elaborate al secondo di tre volte. Ci si aspetta che tali sistemi applicazione nel campo dell'analisi dei dati e della modellazione computerizzata.
Tra i potenziali problemi che VMware potrebbe affrontare, gli esperti un pubblico target piuttosto ristretto. Attualmente, poche aziende operano con sistemi ad alte prestazioni. Anche se in Statista , che entro il 2021 il 94% dei carichi di lavoro nei data center globali saranno già virtualizzati. Secondo degli analisti, il valore del mercato HPC salirà da 32 a 45 miliardi di dollari nel periodo dal 2017 al 2022.
/ фото PD
Soluzioni simili
Esistono sul mercato diversi analoghi sviluppati da grandi aziende IT: AMD e Intel.
La prima azienda per la virtualizzazione delle schede grafiche utilizza un approccio basato su SR-IOV (virtualizzazione input/output a singolo root). Questa tecnologia consente alle macchine virtuali di accedere a una parte delle capacità hardware del sistema. La soluzione permette di condividere la scheda grafica tra 16 utenti mantenendo la stessa performance dei sistemi virtualizzati.
Per quanto riguarda il secondo gigante IT, la loro sul hypervisor Citrix XenServer 7. Essa unisce il lavoro del driver GPU standard e della macchina virtuale, permettendo a quest'ultima di visualizzare applicazioni 3D e desktop su dispositivi di centinaia di utenti.
Il futuro della tecnologia
Gli sviluppatori di schede grafiche virtuali l'implementazione di sistemi AI e l'aumento della popolarità delle soluzioni ad alte prestazioni nel mercato delle tecnologie aziendali. Si prevede che la necessità di elaborare grandi volumi di dati aumenterà la domanda di vGPU.
Attualmente i produttori per unire la funzionalità di CPU e GPU in un unico core, per accelerare la risoluzione di problemi legati alla grafica, l'esecuzione di calcoli matematici, operazioni logiche e l'elaborazione dei dati. L'emergere di tali core sul mercato in futuro cambierà l'approccio alla virtualizzazione delle risorse e alla loro distribuzione tra i carichi di lavoro in ambienti virtuali e cloud.
Cosa leggere sul tema nel nostro blog aziendale:
Due post dal nostro canale Telegram:
Fonte: habr.com
