U veljači je na Stanfordu održana konferencija posvećena visoko performativnim računalnim sistemima (HPC). Predstavnici VMware-a su izjavili da u radu s GPU-ovima sustav temeljen na modificiranom hipervizoru ESXi po brzini ne zaostaje za bare metal rješenjima.
Govorit ćemo o tehnologijama koje su omogućile postizanje ovih rezultata.
/ фото
Problemi s performansama
Prema procjenama analitičara, oko 70% radnih opterećenja u podatkovnim centrima . Međutim, preostalih 30% još uvijek radi na bare metal bez hipervizora. Ovih 30% većinom se sastoji od visoko opterećenih aplikacija, povezanih, na primjer, sa obukom neuronskih mreža, i koriste grafičke procesore.
Ekspeti objašnjavaju ovakav trend time da hipervizor kao međusloj apstrakcije može utjecati na performanse cijelog sustava. U istraživanjima starim pet godina o smanjenju brzine rada za 10%. Stoga kompanije i operateri podatkovnih centara ne žure s prijelazom HPC opterećenja u virtualno okruženje.
No, tehnologije virtualizacije se razvijaju i usavršavaju. Na konferenciji prije mjesec dana, VMware je izvijestio da hipervizor ESXi ne utječe negativno na performanse GPU-a. Brzina izračuna može se smanjiti za tri posto, što je usporedivo s rezultatima bare metal.
Kako to funkcionira
Kako bi se poboljšale performanse HPC sustava s grafičkim procesorima, VMware je u rad hipervizora uveo niz promjena. Konkretno, oslobodili su ga od funkcije vMotion. Ova funkcija je potrebna za balansiranje opterećenja i obično premješta virtualne mašine (VM) između poslužitelja ili GPU-a. Isključivanje vMotion-a rezultiralo je time da je sada svaka VM povezana s određenim grafičkim procesorom. To je pomoglo u smanjenju troškova prilikom razmjene podataka.
Druga ključna komponenta sustava DirectPath I/O. Omogućuje CUDA drajveru za paralelne izračune izravnu interakciju s virtualnim mašinama, zaobilazeći hipervizor. Kada je potrebno pokrenuti nekoliko VM na jednom GPU-u, koristi se rješenje GRID vGPU. Ono dijeli memoriju kartice na nekoliko segmenata (ali se proračunski ciklusi pritom ne dijele).
Shema rada dviju virtualnih mašina u ovom slučaju izgledat će ovako:
Rezultati i prognoze
Tvrtka hipervizora, obučivši jezični model temeljen na . „Gubitak“ performansi iznosio je samo 3–4%, u usporedbi s bare metalom. U tom procesu sustav je osvojio mogućnost raspodjele resursa prema zahtjevu ovisno o trenutnim opterećenjima.
IT div također s kontejnerima. Inženjeri tvrtke obučavali su neuronske mreže prepoznavati slike. Pri tome su resurse jednog grafičkog procesora raspodijelili između četiri kontejnerske VM. Kao rezultat, performanse pojedinih mašina smanjene su za 17% (u usporedbi s jednom VM koja ima potpuni pristup resursima GPU-a). Međutim, broj obrađenih slika po sekundi povećao se tri puta. Očekuje se da će takvi sustavi primjenu u području analize podataka i računalnog modeliranja.
Među potencijalnim problemima s kojima se VMware može suočiti, stručnjaci imaju prilično usku ciljnu publiku. S visokoučinkovitim sustavima zasad radi mali broj tvrtki. Iako u Statista , do 2021. godine virtualizirano će biti već 94% radnih opterećenja na globalnim podatkovnim centrima. Prema analitičarima, vrijednost HPC tržišta porast će s 32 na 45 milijardi dolara u razdoblju od 2017. do 2022. godine.
/ фото PD
Slična rješenja
Na tržištu postoji nekoliko analoga koje razvijaju velike IT tvrtke: AMD i Intel.
Prva tvrtka za virtualizaciju grafičkih procesora pristup temeljen na SR-IOV (single-root input/output virtualization). Ova tehnologija omogućuje VM pristup dijelu hardverskih mogućnosti sustava. Rješenje omogućuje dijeljenje grafičkog procesora među 16 korisnika pri jednakim performansama virtualiziranih sustava.
Što se tiče drugog IT diva, njihova na hipervizoru Citrix XenServer 7. Ona objedinjuje rad standardnog GPU upravljačkog programa i virtualne mašine, što posljednjoj omogućuje prikazivanje 3D aplikacija i radnih površina na uređajima stotina korisnika.
Budućnost tehnologije
Razvijatelji virtualnih grafičkih procesora na implementaciju AI sustava i rast popularnosti visokoučinkovitih rješenja na tržištu poslovnih tehnologija. Nadaju se da će potreba za obradom velikih količina podataka povećati potražnju za vGPU.
Trenutno proizvođači kombinirati funkcionalnost CPU-a i GPU-a u jednoj jezgri kako bi se ubrzalo rješavanje zadataka povezanih s grafikom, izvršavanje matematičkih proračuna, logičkih operacija i obradom podataka. Pojava takvih jezgri na tržištu u budućnosti izmijenit će pristup virtualizaciji resursa i njihovoj distribuciji među radnim opterećenjima u virtualnom i oblačnom okruženju.
Što pročitati o temi u našem korporativnom blogu:
Par postova iz našeg Telegram kanala:
Izvor: habr.com
