{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situazione: le GPU virtuali non hanno nulla da invidiare alle soluzioni hardware","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

A febbraio si \u00e8 tenuta una conferenza a Stanford dedicata al calcolo ad alte prestazioni (HPC). I rappresentanti di VMware hanno riferito che, lavorando con le GPU, il sistema basato su un hypervisor ESXi modificato non ha nulla da invidiare alle soluzioni bare metal.<\/p>\n

Parliamo delle tecnologie che hanno reso possibile tutto ci\u00f2.<\/p>\n

\"Situazione:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Problema delle prestazioni<\/h2>\n

\nSecondo gli analisti, circa il 70% dei carichi di lavoro nei data center \u00e8 virtualizzato<\/a><\/noindex>. Tuttavia, il restante 30% continua a funzionare su bare metal senza hypervisor. Questi 30% consistono per lo pi\u00f9 in applicazioni ad alta intensit\u00e0 di carico, legate, ad esempio, all'addestramento di reti neurali e che utilizzano processori grafici.<\/p>\n

Gli esperti spiegano questa tendenza con il fatto che l'hypervisor come strato intermedio di astrazione pu\u00f2 influenzare le prestazioni dell'intero sistema. Negli studi di cinque anni fa si possono trovare dati<\/a><\/noindex> su una riduzione della velocit\u00e0 operativa del 10%. Di conseguenza, le aziende e gli operatori di data center non si affrettano a trasferire i carichi di lavoro HPC in ambienti virtuali.<\/p>\n

Tuttavia, le tecnologie di virtualizzazione stanno evolvendo e migliorando. Un mese fa, alla conferenza VMware hanno riportato che l'hypervisor ESXi non ha un impatto negativo sulle prestazioni delle GPU. La velocit\u00e0 di calcolo pu\u00f2 diminuire del tre percento, il che \u00e8 paragonabile alle prestazioni bare metal.<\/p>\n

Come funziona<\/h2>\n

\nPer migliorare le prestazioni dei sistemi HPC con processori grafici, VMware ha apportato una serie di modifiche al funzionamento dell'hypervisor. In particolare, \u00e8 stata rimossa la funzione vMotion. Questa \u00e8 necessaria per bilanciare il carico e di solito sposta le macchine virtuali (VM) tra server o GPU. La disattivazione di vMotion ha portato al fatto che ogni VM \u00e8 ora collegata a un processore grafico specifico. Ci\u00f2 ha aiutato a ridurre i costi durante lo scambio di dati.<\/p>\n

Un altro componente chiave del sistema \u00e8 la tecnologia<\/a><\/noindex> DirectPath I\/O. Questa consente al driver CUDA per il calcolo parallelo di interagire direttamente con le macchine virtuali, bypassando l'hypervisor. Quando su una GPU \u00e8 necessario avviare contemporaneamente pi\u00f9 VM, viene utilizzata la soluzione GRID vGPU. Essa suddivide la memoria della scheda in pi\u00f9 segmenti (ma i cicli di calcolo non vengono suddivisi).<\/p>\n

Lo schema di funzionamento di due macchine virtuali in questo caso apparir\u00e0 come segue:<\/p>\n

\"Situazione:<\/p>\n

Risultati e previsioni<\/h2>\n

\nAzienda ha effettuato test<\/a><\/noindex> del hypervisor, addestrando il modello linguistico basato su TensorFlow<\/a><\/noindex>. Il \"danno\" alle prestazioni \u00e8 stato soltanto del 3-4% rispetto al bare metal. In cambio, il sistema ha ottenuto la possibilit\u00e0 di distribuire le risorse su richiesta in base ai carichi di lavoro attuali.<\/p>\n

Il gigante IT ha anche effettuato test<\/a><\/noindex> con i container. Gli ingegneri dell'azienda hanno addestrato le reti neurali a riconoscere le immagini. In questo modo, le risorse di una scheda grafica sono state distribuite tra quattro VM containerizzate. Di conseguenza, le prestazioni delle singole macchine sono diminuite del 17% (rispetto a una VM con accesso completo alle risorse GPU). Tuttavia, il numero di immagini elaborate al secondo \u00e8 aumentato<\/a><\/noindex> di tre volte. Si prevede che questi sistemi trovino<\/a><\/noindex> applicazione nell'analisi dei dati e nella modellazione computazionale.<\/p>\n

Tra i potenziali problemi che VMware potrebbe affrontare, gli esperti sottolineano<\/a><\/noindex> un pubblico di destinazione piuttosto ristretto. Attualmente, solo un numero limitato di aziende utilizza sistemi ad alte prestazioni. Anche se in Statista sottolineano<\/a><\/noindex>, si prevede che entro il 2021 il 94% dei carichi di lavoro mondiali nei data center sar\u00e0 gi\u00e0 virtualizzato. Secondo le previsioni<\/a><\/noindex> degli analisti, il valore del mercato HPC crescer\u00e0 da 32 a 45 miliardi di dollari nel periodo dal 2017 al 2022.<\/p>\n

\"Situazione:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Soluzioni simili<\/h2>\n

\nNel mercato ci sono alcuni analoghi, sviluppati da grandi aziende IT: AMD e Intel.<\/p>\n

La prima azienda per la virtualizzazione delle schede grafiche offre<\/noindex> ha adottato un approccio basato su SR-IOV (single-root input\/output virtualization). Questa tecnologia fornisce alle VM accesso a una parte delle capacit\u00e0 hardware del sistema. La soluzione consente di suddividere la scheda grafica tra 16 utenti con prestazioni equivalenti per i sistemi virtualizzati.<\/p>\n

Per quanto riguarda il secondo gigante IT, la loro tecnologia si basa<\/a><\/noindex> sull'hypervisor Citrix XenServer 7. Essa integra il funzionamento del driver GPU standard e della macchina virtuale, consentendo a quest'ultima di visualizzare applicazioni 3D e desktop su dispositivi di centinaia di utenti.<\/p>\n

Il futuro della tecnologia<\/h2>\n

\nGli sviluppatori di processori grafici virtuali puntano<\/a><\/noindex> per l'implementazione di sistemi di IA e la crescita della popolarit\u00e0 delle soluzioni ad alte prestazioni nel mercato delle tecnologie aziendali. Sperano che la necessit\u00e0 di elaborare grandi volumi di dati aumenti la domanda di vGPU.<\/p>\n

Attualmente i produttori cercano un modo<\/a><\/noindex> per combinare la funzionalit\u00e0 della CPU e della GPU in un unico core, al fine di accelerare la risoluzione di compiti legati alla grafica, all'esecuzione di calcoli matematici, operazioni logiche e all'elaborazione dei dati. L'emergere di tali core sul mercato in futuro cambier\u00e0 l'approccio alla virtualizzazione delle risorse e alla loro distribuzione tra i carichi di lavoro in ambienti virtuali e cloud.<\/p>\n

\nCosa leggere sul tema nel nostro blog aziendale:<\/p>\n