In u frivaru, Stanford hà accoltu una cunferenza nantu à l'informatica d'alta prestazione (HPC). I rapprisentanti di VMware anu dettu chì quandu u travagliu cù una GPU, un sistema basatu annantu à un hypervisor ESXi mudificatu ùn hè micca inferjuri in velocità à solu solu solu.
Parlemu di e tecnulugia chì hà permessu di ottene questu.
/ foto
Problema di prestazione
Sicondu l'analista, circa 70% di i carichi di travagliu in i centri di dati . In ogni casu, u 30% restante funziona sempre in metallo nudu senza ipervisori. Stu 30% hè principalmente custituitu da applicazioni di alta carica, cum'è quelli chì sò ligati à a furmazione di e rete neurali, è l'usu di GPU.
I sperti spieganu sta tendenza da u fattu chì l'ipervisore, cum'è una capa di astrazione intermediata, pò influenzà u rendiment di u sistema sanu. In studii cinque anni fà circa riducendu a vitezza di u travagliu da 10%. Per quessa, l'imprese è l'operatori di u centru di dati ùn anu micca fretta di trasferisce carichi di travagliu HPC à un ambiente virtuale.
Ma i tecnulugii di virtualizazione sò sviluppati è migliurà. In una cunferenza un mese fà, VMware hà dettu chì l'hypervisor ESXi ùn hà micca un impattu negativu nantu à u rendiment GPU. A velocità di l'informatica pò esse ridutta di trè per centu, chì hè paragunabili à u metale nudu.
Cumu serà ch'ella ùn stu travagliu
Per migliurà u rendiment di i sistemi HPC cù GPU, VMware hà fattu una quantità di cambiamenti à l'ipervisore. In particulare, hè stata liberata da a funzione vMotion. Hè necessariu per l'equilibriu di carica è generalmente trasferisce macchine virtuali (VM) trà servitori o GPU. A disattivazione di vMotion hà risultatu in ogni VM avà esse assignatu una GPU specifica. Questu hà aiutatu à riduce i costi quandu u scambiu di dati.
Un altru cumpunente chjave di u sistema DirectPath I/O. Permette à u driver di l'informatica parallela CUDA per interagisce direttamente cù e macchine virtuali, sguassendu l'ipervisore. Quandu avete bisognu di eseguisce parechje VM in una GPU à una volta, a suluzione GRID vGPU hè aduprata. Divide a memoria di a carta in parechji segmenti (ma i ciculi di computazione ùn sò micca divisi).
U diagramma di u funziunamentu di duie macchine virtuali in questu casu sarà cusì:
Risultati è previsioni
A cumpagnia ipervisore da furmazione un mudellu di lingua basatu nantu . U "dannu" di rendiment era solu 3-4% cumparatu à u metale nudu. In ritornu, u sistema hà sappiutu distribuisce risorse nantu à a dumanda secondu a carica attuale.
U giant IT ancu cù cuntenituri. L'ingegneri di a cumpagnia anu furmatu e rete neurali per ricunnosce l'imaghjini. À u listessu tempu, e risorse di una GPU sò stati distribuiti trà quattru VM di cuntainer. In u risultatu, u rendiment di e macchine individuali diminuite da 17% (paragunatu à una sola VM cù accessu sanu à e risorse GPU). Tuttavia, u numeru di imagine trattatu per seconda trè volte. Hè aspettatu chì tali sistemi appiicazioni in analisi di dati è mudeli di computer.
Trà i prublemi potenziali chì VMware pò affruntà, esperti u publicu di destinazione piuttostu ristrettu. Un picculu numeru di cumpagnie sò sempre travagliendu cù sistemi d'altu rendiment. Ancu se in Statista chì da u 2021, u 94% di i carichi di travagliu di u centru di dati di u mondu seranu virtualizzati. By analisti, u valore di u mercatu HPC cresce da 32 à 45 miliardi di dollari in u periodu da 2017 à 2022.
/ foto PD
Soluzioni simili
Ci sò parechji analoghi nantu à u mercatu chì sò sviluppati da grandi cumpagnie IT: AMD è Intel.
A prima cumpagnia per a virtualizazione di GPU approcciu basatu annantu à SR-IOV (virtualizazione di input/output single-root). Sta tecnulugia dà l'accessu VM à parte di e capacità hardware di u sistema. A suluzione permette di sparte a GPU trà l'utilizatori 16 cù uguali prestazioni di sistemi virtualizzati.
In quantu à u sicondu giant IT, elli nantu à l'hypervisor Citrix XenServer 7. Unisce u travagliu di un driver GPU standard è una macchina virtuale, chì permette à l'ultime per vede l'applicazioni 3D è l'escriptori nantu à i dispositi di centinaie d'utilizatori.
U futuru di a tecnulugia
Sviluppatori di GPU virtuali nantu à l'implementazione di sistemi AI è a pupularità crescente di suluzioni d'alta prestazione in u mercatu di tecnulugia cummerciale. Speranu chì a necessità di processà grandi quantità di dati aumenterà a dumanda di vGPU.
Avà i pruduttori unisce a funziunalità di u CPU è a GPU in un core per accelerà a risolve i prublemi ligati à i gràfici, a realizazione di calculi matematichi, operazioni logiche è trasfurmazioni di dati. L'apparizione di tali nuclei in u mercatu in u futuru cambierà l'approcciu à a virtualizazione di risorse è a so distribuzione trà carichi di travagliu in ambienti virtuali è nuvola.
Cosa leghje nantu à u tema in u nostru blog corporativu:
Un paru di posti da u nostru canale Telegram:
Source: www.habr.com