{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situazione: le GPU virtuali non sono inferiori in prestazioni rispetto alle soluzioni hardware","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

A febbraio si \u00e8 tenuta una conferenza a Stanford dedicata al calcolo ad alte prestazioni (HPC). I rappresentanti di VMware hanno riferito che, utilizzando GPU, il sistema basato su un hypervisor ESXi modificato non ha nulla da invidiare alle soluzioni bare metal.<\/p>\n

Parliamo delle tecnologie che hanno reso possibile tutto ci\u00f2.<\/p>\n

\"Situazione:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Problema delle prestazioni<\/h2>\n

\nSecondo le stime degli analisti, circa il 70% dei carichi di lavoro nei data center \u00e8 virtualizzato<\/a><\/noindex>. Tuttavia, il restante 30% continua a operare su bare metal senza hypervisor. Questi 30% sono per lo pi\u00f9 costituiti da applicazioni ad alta intensit\u00e0 di carico, legate ad esempio all'addestramento di reti neurali, che utilizzano processori grafici.<\/p>\n

Questo trend \u00e8 spiegato dagli esperti con il fatto che un hypervisor, come strato intermedio di astrazione, pu\u00f2 influenzare le prestazioni dell'intero sistema. Negli studi risalenti a cinque anni fa si trovano dati<\/a><\/noindex> che indicano una riduzione della velocit\u00e0 del 10%. Pertanto, le aziende e gli operatori di data center non si affrettano a trasferire i carichi di lavoro HPC in un ambiente virtuale.<\/p>\n

Le tecnologie di virtualizzazione si stanno evolvendo e perfezionando. Alla conferenza tenutasi un mese fa, VMware ha affermato che l'hypervisor ESXi non influisce negativamente sulle prestazioni della GPU. La velocit\u00e0 di calcolo pu\u00f2 diminuire del tre percento, valore comparabile a quello dei server bare metal.<\/p>\n

Come funziona<\/h2>\n

\nPer migliorare le prestazioni dei sistemi HPC con processori grafici, VMware ha apportato una serie di modifiche all'hypervisor. In particolare, \u00e8 stata rimossa la funzione vMotion, utile per il bilanciamento del carico e solitamente utilizzata per trasferire macchine virtuali (VM) tra server o GPU. La disattivazione di vMotion ha portato a una connessione specifica tra ogni VM e la GPU. Questo ha contribuito a ridurre i costi di scambio dati.<\/p>\n

Un altro componente chiave del sistema \u00e8 la tecnologia<\/a><\/noindex> DirectPath I\/O. Questa tecnologia consente al driver CUDA per il calcolo parallelo di interagire direttamente con le macchine virtuali, bypassando l'hypervisor. Quando \u00e8 necessario avviare pi\u00f9 VM su una sola GPU, viene utilizzata la soluzione GRID vGPU, che suddivide la memoria della scheda in vari segmenti (senza dividere i cicli di calcolo).<\/p>\n

Lo schema di funzionamento di due macchine virtuali in questo caso sar\u00e0 il seguente:<\/p>\n

\"Situazione:<\/p>\n

Risultati e previsioni<\/h2>\n

\nAzienda ha condotto test<\/a><\/noindex> del hypervisor, addestrando un modello linguistico basato su TensorFlow<\/a><\/noindex>. Il 'danno' alle prestazioni \u00e8 stato solo del 3-4% rispetto al bare metal. Tuttavia, in cambio, il sistema ha acquisito la possibilit\u00e0 di distribuire le risorse su richiesta in base ai carichi attuali.<\/p>\n

Il gigante IT ha anche svolto test<\/a><\/noindex> con i contenitori. Gli ingegneri dell'azienda hanno addestrato le reti neurali a riconoscere immagini. In questo caso, le risorse di una GPU sono state suddivise tra quattro VM containerizzate. Di conseguenza, le prestazioni delle singole macchine sono diminuite del 17% (rispetto a una VM con accesso completo alle risorse della GPU). Tuttavia, il numero di immagini elaborate al secondo \u00e8 aumentato<\/a><\/noindex> di tre volte. Ci si aspetta che tali sistemi trovino<\/a><\/noindex> applicazione nel campo dell'analisi dei dati e della modellazione computerizzata.<\/p>\n

Tra i potenziali problemi che VMware potrebbe affrontare, gli esperti evidenziano<\/a><\/noindex> un pubblico target piuttosto ristretto. Attualmente, poche aziende operano con sistemi ad alte prestazioni. Anche se in Statista sottolineano<\/a><\/noindex>, che entro il 2021 il 94% dei carichi di lavoro nei data center globali saranno gi\u00e0 virtualizzati. Secondo le previsioni<\/a><\/noindex> degli analisti, il valore del mercato HPC salir\u00e0 da 32 a 45 miliardi di dollari nel periodo dal 2017 al 2022.<\/p>\n

\"Situazione:
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Soluzioni simili<\/h2>\n

\nEsistono sul mercato diversi analoghi sviluppati da grandi aziende IT: AMD e Intel.<\/p>\n

La prima azienda per la virtualizzazione delle schede grafiche offre<\/noindex> utilizza un approccio basato su SR-IOV (virtualizzazione input\/output a singolo root). Questa tecnologia consente alle macchine virtuali di accedere a una parte delle capacit\u00e0 hardware del sistema. La soluzione permette di condividere la scheda grafica tra 16 utenti mantenendo la stessa performance dei sistemi virtualizzati.<\/p>\n

Per quanto riguarda il secondo gigante IT, la loro tecnologia si basa<\/a><\/noindex> sul hypervisor Citrix XenServer 7. Essa unisce il lavoro del driver GPU standard e della macchina virtuale, permettendo a quest'ultima di visualizzare applicazioni 3D e desktop su dispositivi di centinaia di utenti.<\/p>\n

Il futuro della tecnologia<\/h2>\n

\nGli sviluppatori di schede grafiche virtuali puntano<\/a><\/noindex> l'implementazione di sistemi AI e l'aumento della popolarit\u00e0 delle soluzioni ad alte prestazioni nel mercato delle tecnologie aziendali. Si prevede che la necessit\u00e0 di elaborare grandi volumi di dati aumenter\u00e0 la domanda di vGPU.<\/p>\n

Attualmente i produttori cercano un modo<\/a><\/noindex> per unire la funzionalit\u00e0 di CPU e GPU in un unico core, per accelerare la risoluzione di problemi legati alla grafica, l'esecuzione di calcoli matematici, operazioni logiche e l'elaborazione dei dati. L'emergere di tali core sul mercato in futuro cambier\u00e0 l'approccio alla virtualizzazione delle risorse e alla loro distribuzione tra i carichi di lavoro in ambienti virtuali e cloud.<\/p>\n

\nCosa leggere sul tema nel nostro blog aziendale:<\/p>\n