Nel mese di giugno e luglio, ci hanno contattato quasi due dozzine di aziende interessate alle possibilità delle GPU virtuali. Una delle grandi filiali di Sberbank sta già utilizzando il servizio "Grafica" di Cloud4Y, ma in generale il servizio non è molto popolare. Quindi, questa attività ci ha fatto molto piacere. Visti i crescenti interessi per la tecnologia, abbiamo deciso di raccontare più nel dettaglio riguardo le vGPU.
"Lago di dati", ottenuti a seguito di esperimenti scientifici e ricerche, Deep Learning e altre aree di lavoro con l'IA, modellazione di oggetti grandi e complessi - tutto ciò richiede hardware ad alte prestazioni. È un bene se esiste e consente di risolvere rapidamente le attività correnti. Tuttavia, a causa dell'aumento della complessità computazionale delle attività (che riguarda principalmente l'analisi aziendale, il rendering, gli algoritmi DL e i framework), la potenza hardware delle CPU desktop e persino delle server sta diventando sempre più inutile.
La soluzione è stata trovata nell'uso dei calcoli su GPU. Questa tecnologia di accelerazione grafica consente la condivisione delle risorse di un singolo processore grafico tra più computer virtuali. Le GPU sono state progettate originariamente per lavorare con la grafica, quindi sono costituite da migliaia di piccoli nuclei utilizzati per elaborare in modo efficace compiti paralleli. Parte dei calcoli maggiormente esigenti in termini di risorse vengono eseguiti sulla GPU, mentre il resto è gestito dalla CPU.
I calcoli tramite GPU sono stati ideati dall'azienda già nel 2007. Oggi questa tecnologia ha raggiunto un nuovo livello ed è applicata nei data center delle più grandi aziende e laboratori scientifici. Tuttavia, il metodo tradizionale ha un grande svantaggio: l'acquisto di hardware fisico può risultare molto costoso. E se consideriamo la rapidità con cui diventa obsoleto, tutto ciò è ancora più triste.
Il problema dovrebbe essere risolto dalla tecnologia dei processori grafici virtuali: vGPU. Grazie ad essa, gli utenti possono avviare applicazioni pesanti da remoto, come AutoCAD, 3DS Max, Maya, Sony Vegas Pro. La virtualizzazione ha rapidamente conquistato la sua fetta di mercato. Dopotutto, quale data scientist russo non ama i calcoli rapidi sulle schede grafiche NVidia Tesla?
È importante notare che prima dell'arrivo di vGPU venivano utilizzati altri metodi per accelerare l'elaborazione grafica: Virtual Shared Graphics Acceleration (vSGA) e Virtual Dedicated Graphics Acceleration (vDGA). La soluzione vGPU ha combinato il meglio di entrambe le tecnologie. Come nel caso di vSGA, in un ambiente vGPU si prevede che più desktop virtuali condividano la GPU e la RAM, ma ogni VM invia direttamente i comandi alla GPU, come nel caso di vDGA.
A cosa servono effettivamente i vGPU
L'uso di vGPU nel cloud computing consente alle aziende di affrontare compiti che prima erano impossibili da risolvere. O in passato, ma richiedevano risorse stratosferiche. Un server GPU moderno è in grado di sostituire fino a 100 normali CPU. Ci sono anche altri, . Non è uno scherzo: le soluzioni Nvidia elaborano petabyte di dati molte volte più velocemente dei server CPU tradizionali. E lo stesso Google Cloud offre macchine virtuali con GPU che possono generare fino a 960 teraflops.
Molti specialisti necessitano di dispositivi potenti capaci di eseguire calcoli paralleli. Architetti e ingegneri utilizzano la tecnologia vGPU nei sistemi di progettazione (ad esempio Autodesk). I designer lavorano con contenuti fotografici e video digitali (Photoshop, CorelDraw). con processori grafici sono richieste anche da istituzioni mediche che raccolgono e analizzano dati sui pazienti e sulle malattie. Utilizzano GPU anche i "».
Pensate che sia tutto? Tutt'altro. La tecnologia è utilizzata anche per la verifica automatica , e per , , la modellazione e . Inoltre, c'è un ottimo in ambiente Unity3D di .
Nonostante ciò, le soluzioni basate su vGPU non hanno ancora raggiunto una diffusione ampia nel mondo. Nel 2018, NetApp ha condotto un sondaggio tra le aziende che utilizzano GPU nel loro lavoro. I risultati hanno mostrato che il 60% delle organizzazioni opera ancora sulla propria infrastruttura IT. Solo il 23% utilizza il "cloud". In Russia, la penetrazione della tecnologia di cloud computing ha un'importanza minore. Tuttavia, grazie a nuove soluzioni hardware e software, il numero di aziende che utilizzano macchine virtuali con GPU è in costante aumento.
Soluzioni per vGPU
Molte aziende si occupano dello sviluppo di tecnologie di virtualizzazione per schede grafiche, ma tra di esse ci sono senza dubbio dei leader.
Una delle aziende più autorevoli nello sviluppo di soluzioni nel settore del cloud è VMware che offre alle aziende un hypervisor , sotto il quale la velocità di lavoro delle schede grafiche virtuali è paragonabile alle implementazioni su hardware nativo. In un recente aggiornamento, lo sviluppatore ha disattivato il bilanciatore di carico vMotion e ha aggiunto il supporto per la tecnologia DirectPath I/O, che collega il driver CUDA alla VM bypassando l'hypervisor e accelera il trasferimento dei dati.
Nvidia anche cerca di soddisfare le aspettative del mercato, e a questo scopo ha lanciato una piattaforma open-source . La soluzione combina diverse librerie per lavorare con l'architettura CUDA, semplificando l'elaborazione dei dati durante l'addestramento delle reti neurali e consentendo l'automazione del lavoro con il codice Python. L'uso di Rapids con l'algoritmo di machine learning XGBoost offre un incremento delle prestazioni di 50 volte rispetto ai sistemi basati su CPU.
Anche AMDha la sua tecnologia. La piattaforma si chiama . Utilizza la tecnologia SR-IOV, che condivide le capacità hardware del dispositivo fisico tra più macchine virtuali. Le risorse di un acceleratore possono essere suddivise tra sedici utenti, mantenendo prestazioni equivalenti per ciascuno di essi. In questo modo si accelera il trasferimento dei dati tra CPU e GPU cloud.
Intel costruisce la propria tecnologia sulla base dell'hypervisor cross-platform XenServer 7, che nel 2017 ha ricevuto il certificato di conformità FSTEK. La soluzione combina il lavoro del driver GPU standard e della macchina virtuale. Quindi, la 'virtual machine' può l'esecuzione di applicazioni pesanti su dispositivi con un gran numero (più di cento) di utenti.
Prospettive di mercato
Gli analisti indipendenti ritengono che il volume delle vendite di soluzioni per sistemi HPC raggiungerà 45 miliardi di dollari entro il 2022. Anche gli sviluppatori delle piattaforme si aspettano un aumento della domanda per sistemi ad alte prestazioni. Questa aspettativa è supportata dalla popolarità dei Big Data e dall'esigenza ricorrente di elaborare grandi volumi di dati.
La crescente domanda di vGPU potrebbe stimolare lo sviluppo di tecnologie ibride, che combinano GPU e CPU in un unico dispositivo. In queste soluzioni integrate, due tipi di core utilizzano una cache comune, accelerando il trasferimento dei dati tra processori grafici e tradizionali.
Gli ibridi cambieranno radicalmente l'approccio alla virtualizzazione e alla distribuzione delle risorse virtuali all'interno dei data center. Le soluzioni open source come ROCm e Rapids consentono agli operatori dei data center di utilizzare le risorse di calcolo in modo più efficace, aumentando le prestazioni dell'hardware.
Esiste un'altra opinione. Ad esempio, che le GPU virtuali saranno sostituite da chip ottici con codifica fotonica dei dati. Queste soluzioni esistono già e vengono utilizzate per l'apprendimento automatico. Inoltre, sembrano di una GPU normale. Ma la tecnologia è ancora immature.
Quale conclusione possiamo trarre? Nonostante la possibile apparizione di analoghi, vGPU è una direzione decisamente promettente, in grado di affrontare un gran numero di compiti. Tuttavia, non è adatta a tutti. Quindi, la virgola nel titolo potete metterla voi stessi.
P.S.
Iscriviti al nostro -canale, per non perdere il prossimo articolo! Scriviamo non più di due volte a settimana e solo su argomenti rilevanti.
Solo gli utenti registrati possono partecipare al sondaggio. , per favore.
Utilizzate vGPU?
Sì, è spesso necessaria potenza virtuale
No e probabilmente non lo pianifichiamo
Hanno votato 23 utenti. Si sono astenuti 11 utenti.
Fonte: habr.com
