U februaru je Stanford bio domaÄin konferencije o raÄunarstvu visokih performansi (HPC). Predstavnici VMware-a su rekli da kada se radi sa GPU-om, sistem baziran na modifikovanom ESXi hipervizoru nije inferioran u brzini od golih metalnih reÅ”enja.
Razgovaramo o tehnologijama koje su to omoguÄile.
/ photo
Problem sa performansama
Prema analitiÄarima, oko 70% posla u centrima podataka . MeÄutim, preostalih 30% i dalje radi na golom metalu bez hipervizora. Ovih 30% uglavnom se sastoji od aplikacija visokog optereÄenja, poput onih koje se odnose na obuku neuronskih mreža i koriÅ”tenje GPU-a.
StruÄnjaci ovaj trend objaÅ”njavaju Äinjenicom da hipervizor, kao srednji sloj apstrakcije, može uticati na performanse cijelog sistema. U studijama prije pet godina o smanjenju brzine rada za 10%. Stoga, kompanije i operateri centara podataka ne žure da prenose HPC radna optereÄenja u virtuelno okruženje.
Ali tehnologije virtuelizacije se razvijaju i poboljÅ”avaju. Na konferenciji prije mjesec dana, VMware je rekao da ESXi hipervizor nema negativan utjecaj na performanse GPU-a. Brzina raÄunara može se smanjiti za tri posto, Å”to je uporedivo sa golim metalom.
Kako ovo radi
Da bi poboljÅ”ao performanse HPC sistema sa GPU-ovima, VMware je napravio brojne promene na hipervizoru. Konkretno, uklonjena je funkcija vMotion. Potreban je za balansiranje optereÄenja i obiÄno prenosi virtuelne maÅ”ine (VM) izmeÄu servera ili GPU-a. OnemoguÄavanje vMotion-a rezultiralo je time da je svakom VM-u sada dodijeljen odreÄeni GPU. To je pomoglo u smanjenju troÅ”kova prilikom razmjene podataka.
JoÅ” jedna kljuÄna komponenta sistema DirectPath I/O. OmoguÄava CUDA drajveru paralelnog raÄunarstva da direktno komunicira sa virtuelnim maÅ”inama, zaobilazeÄi hipervizor. Kada trebate pokrenuti nekoliko VM-ova na jednom GPU-u odjednom, koristi se GRID vGPU rjeÅ”enje. On dijeli memoriju kartice na nekoliko segmenata (ali ciklusi raÄunanja nisu podijeljeni).
Dijagram rada dvije virtuelne maÅ”ine u ovom sluÄaju Äe izgledati ovako:
Rezultati i prognoze
Firma hipervizor obuÄavanjem jeziÄkog modela zasnovanog na . Performanse āoÅ”teÄenjaā bile su samo 3-4% u poreÄenju sa golim metalom. Zauzvrat, sistem je mogao distribuirati resurse na zahtjev u zavisnosti od trenutnog optereÄenja.
IT gigant takoÄe sa kontejnerima. Inženjeri kompanije obuÄili su neuronske mreže da prepoznaju slike. Istovremeno, resursi jednog GPU-a bili su rasporeÄeni na Äetiri kontejnerska VM-a. Kao rezultat toga, performanse pojedinaÄnih maÅ”ina su smanjene za 17% (u poreÄenju sa jednim VM-om sa punim pristupom GPU resursima). MeÄutim, broj obraÄenih slika u sekundi tri puta. OÄekuje se da ovakvi sistemi primjene u analizi podataka i kompjuterskom modeliranju.
MeÄu potencijalnim problemima s kojima se VMware može suoÄiti, struÄnjaci priliÄno uska ciljna publika. Mali broj kompanija joÅ” uvijek radi sa sistemima visokih performansi. Iako u Statisti da Äe do 2021. 94% posla u svjetskim podatkovnim centrima biti virtuelizirano. By analitiÄari, vrijednost HPC tržiÅ”ta Äe porasti sa 32 na 45 milijardi dolara u periodu od 2017. do 2022. godine.
/ photo PD
SliÄna rjeÅ”enja
Na tržiŔtu postoji nekoliko analoga koje su razvile velike IT kompanije: AMD i Intel.
Prva kompanija za GPU virtuelizaciju pristup baziran na SR-IOV (single-root input/output virtuelizacija). Ova tehnologija daje VM pristup dijelu hardverskih moguÄnosti sistema. ReÅ”enje vam omoguÄava da delite GPU izmeÄu 16 korisnika sa jednakim performansama virtuelizovanih sistema.
Å to se tiÄe drugog IT giganta, oni na hipervizoru Citrix XenServer 7. Kombinira rad standardnog GPU drajvera i virtuelne maÅ”ine, Å”to omoguÄava ovoj drugoj da prikazuje 3D aplikacije i desktope na ureÄajima stotina korisnika.
BuduÄnost tehnologije
Virtualni GPU programeri o implementaciji AI sistema i rastuÄoj popularnosti rjeÅ”enja visokih performansi na tržiÅ”tu poslovne tehnologije. Nadaju se da Äe potreba za obradom velikih koliÄina podataka poveÄati potražnju za vGPU-ovima.
Sada proizvoÄaÄi kombinuju funkcionalnost CPU-a i GPU-a u jednom jezgru kako bi ubrzali rjeÅ”avanje problema vezanih za grafiku, izvoÄenje matematiÄkih proraÄuna, logiÄkih operacija i obrade podataka. Pojava ovakvih jezgara na tržiÅ”tu u buduÄnosti Äe promijeniti pristup virtuelizaciji resursa i njihovu distribuciju izmeÄu radnih optereÄenja u virtuelnim i cloud okruženjima.
Å ta Äitati o ovoj temi na naÅ”em korporativnom blogu:
Par postova sa naŔeg Telegram kanala:
izvor: www.habr.com
