Juuni-juuli jooksul pöördus meie poole peaaegu kaks tosinat ettevõtet, kes olid huvitatud virtuaalsete GPU võimalustest. Cloud4Y „Grafika” teenust kasutab juba üks suurem Sberbanki tütarettevõte, kuid üldiselt ei ole teenus väga populaarne. Seetõttu rõõmustas meid selline aktiviteet. Nähtes huvi tehnoloogia vastu, otsustasime rääkida vGPU-st pisut lähemalt.
Andmejärved, mis saadakse teaduslike katsete ja uuringute, süvaõppe ja teiste tehisintellekti tööde suunal, suurte ja keeruliste objektide modelleerimine — kõik see nõuab kõrgekvaliteetset „rauda”. Hea, kui see on olemas ja võimaldab kiiresti lahendada praeguseid ülesandeid. Kuid suurenemise tõttu arvutusliku keerukuse ülesannetes (see puudutab eriti äriline analüüs, renderdamine, DL-algoritmid ja raamistikud) lauaarvutite ja isegi serverite CPU riistvara muutub üha sagedamini kasutuks.
Lahendus peitus GPU-arvutustes. See graafikakiirusetehnoloogia tagab ühe graafikaprotsessori ressursside jagamise mitme virtuaalarvuti vahel. GPU on algselt projekteeritud graafika töötlemiseks, seega koosneb see tuhandetest väikestest südamikest, mis on mõeldud paralleelsete ülesannete tõhusaks töötlemiseks. GPU-l teostatakse osa kõige ressursimahukamatest arvutustest, ülejäänu haldab CPU.
GPU-arvutused leiutas ettevõte juba 2007. aastal. Tänaseks on see tehnoloogia jõudnud uuele tasemele ja seda kasutatakse suurte ettevõtete andmekeskustes ja teaduslaborites. Siiski on traditsioonilisel lähenemisel üks märkimisväärne puudus: füüsilise varustuse soetamine on üsna kulukas. Ja kui arvestada, kui kiiresti "rauda" vananeb, muutub see veelgi kurvemaks.
Probleem lahendamiseks on välja töötatud virtuaalsed graafikaprotsessorid: vGPU. Nende abil saavad kasutajad kaugtööl käivitada nõudlikke rakendusi nagu AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtuaalimine on kiiresti oma turuosa saavutanud. Sest mis vene andmeteadlane ei armasta kiireid arvutusi NVidia Tesla graafikaproessoritel?
Siinkohal tuleks märkida, et enne vGPU ilmumist kasutati muid graafika töötlemise kiirendamise meetodeid: Virtual Shared Graphics Acceleration (vSGA) ja Virtual Dedicated Graphics Acceleration (vDGA). Lahendus vGPU ühendas mõlema tehnoloogia parimad omadused. Nagu vSGA puhul, eeldatakse ka vGPU keskkonnas GPU ja RAM-i ühist kasutamist mitme virtuaalse töölaudade vahel, kuid seejuures edastab iga VM käsud otse GPU-le, nagu vDGA puhul.
Miks on vGPU üldse vajalik
Välguarvutamine vGPU abil võimaldab ettevõtetel lahendada ülesandeid, mida varem ei saanud lahendada. Või oli küll võimalik, kuid selleks oleks nõutud isegi liiga palju ressursse. 1 kaasaegne GPU-server suudab asendada kuni 100 tavalist CPU-d. On ka teisi, . See on tõsine asi: Nvidia lahendused töötlevad petabaitide andmeid kordades kiiremini kui tavalised CPU-serverid. Sama Google Cloud pakub GPU-dega virtuaalmasinaid, mis võivad saavutada kuni 960 teraflopsi.
Paljud spetsialistid vajavad võimsaid seadmeid, mis suudavad teostada paralleelseid arvutusi. Arhitektid ja insenerid kasutavad vGPU tehnoloogiat projekteerimissüsteemides (näiteks Autodesk). Disainerid töötavad digitaalsete foto- ja videokettadega (Photoshop, CorelDraw). Grafika protsessorid on vajalikud ka meditsiiniasutustes, mis koguvad ja analüüsivad andmeid patsientide ja haiguste kohta. Kasutatakse GPU-dega ka».
Te arvasite, et see on kõik? Ei ole nii. Tehnoloogiat kasutatakse ka automaatseks , ja , , modelleerimine ja . Ja on veel äge Unity3D keskkonnas autorilt .
Kuid vGPU lahendused ei ole seni maailmas laialdaselt levinud. 2018. aastal viis NetApp läbi graafikatöötlust kasutavate ettevõtete seas. Uuringud näitasid, et 60% organisatsioonidest töötab endiselt oma IT-infrastruktuuris. „Pilve“ kasutab vaid 23%. Venemaal on pilve arvutustehnika tehnoloogia levik madalam. Kuid tänu uutele riist- ja tarkvaralahendustele suureneb pidevalt virtuaalmasinate kasutajate arv, kes kasutavad GPU-sid.
vGPU lahendused
Palju ettevõtteid tegeleb graafiliste kiirendite virtualiseerimistehnoloogiate arendamisega, kuid nende seas on vaieldamatud liidrid.
Üks autoriteetsemaid pilveteenuste arendajaid, ettevõte VMware pakub ettevõtetele hüperviisor , mille all virtuaalsete graafiliste protsessorite töökiirus on võrreldav lähenemisega reaalsele riistvarale. Hiljutises uuenduses on arendaja keelanud laadimisbalansi vMotioni ja lisanud DirectPath I/O tehnoloogia toetuse, mis ühendab CUDA draiveri VM-iga hüperviisori vältimise kaudu ja kiirendab andmete edastamist.
Nvidia püüab samuti vastata turu ootustele ning selleks on välja andnud avatud lähtekoodiga platvormi . Lahendus ühendab mitu raamatukogu CUDA arhitektuuriga töötamiseks, lihtsustades andmete töötlemist närvivõrkude treenimise ajal ja võimaldades automatiseerida töö Python'i koodiga. Rapidsi kasutamine XGBoost masinõppe algoritmiga toob 50-kordse jõudluse kasvu võrreldes CPU-põhiste süsteemidega.
Oma tehnoloogia on ka AMD. Platvormi nimi on . See kasutab SR-IOV tehnoloogiat, mis jagab füüsilise seadme riistvaralisi võimalusi mitme virtuaalmasina vahel. Ühe kiirendaja ressursse saab jagada kuueteistkümne kasutaja vahel, säilitades igaühe jaoks võrdse jõudluse. Nii kiireneb andmete edastus pilve CPU ja GPU vahel. Kasutatakse ka spetsiaalset C++ dialekti nimega HIP, mis lihtsustab matemaatiliste operatsioonide täitmist GPU-l.
Intel ehitab oma tehnoloogia kross-platvormi hüperviisori alusel XenServer 7, mis sai 2017. aastal FSTEK-i vastavuse sertifikaadi. Lahendus ühendab tavapärase GPU draiveri ja virtuaalmasina töö. See tähendab, et „virtuaalmasin” võib raskendavate rakenduste tööd suurte (mitmesaja) kasutajate seadmetes.
Turuväljavaated
Iseseisvad analüütikud usuvad, et HPC-süsteemide lahenduste müügihulk jõuab 2022. aastaks 45 miljardit dollarit. Platvormide arendajad ootavad samuti kasvavat nõudlust kõrge jõudlusega süsteemide järele. Seda ootust toetab Big Data populaarsus ja tihti esinev vajadus töödelda suuri andmemahtusid.
Samuti võib vGPU nõudluse kasv edendada hübriidtehnoloogiate arengut, mis ühendavad GPU-d ja CPU-d ühes seadmes. Sellistes integreeritud lahendustes kasutavad kahe tüübi tuumad ühiskassat, mis kiirendab andmete edastamist graafika- ja traditsiooniliste protsessorite vahel.
Hübriidid muudavad radikaalselt lähenemist virtualiseerimisele ja virtuaalsete ressursside jaotusele andmekeskustes. Avatud lähtekoodiga lahendused nagu ROCm ja Rapids võimaldavad andmekeskuste operaatoritel tõhusamalt kasutada arvutusressursse, suurendades seadmete jõudlust.
On olemas ka teistsugune arvamus. Näiteks, et virtuaalsed GPU-d tõrjutakse välja optiliste kiipidega, mis kasutavad andmete fotonikodeerimist. Sellised lahendused on juba olemas ja neid kasutatakse masinõppes. Lisaks tunduvad nad tavalistest GPU-dest. Kuid tehnoloogia on veel toores.
Milline võiks olla järeldus? Olenemata võimalikest analoogidest, on vGPU - täiesti perspektiivne suund, mis suudab lahendada suurt hulka ülesandeid. Kuid see pole kõigile sobiv. Nii et koma pealkirjas võite ise panna.
P.S.
Liituge meiega -kanal, et mitte jääda ilma järgnevast artiklist! Kirjutame mitte tihedamini kui kaks korda nädalas ja ainult asjalikult.
Ainult registreeritud kasutajad saavad küsitluses osaleda. , palun.
Kas kasutate vGPU-d?
Jah, sageli on vaja virtuaalseid ressursse.
Ei, ja tõenäoliselt ei kavatse.
Hääletas 23 kasutajat. 11 kasutajat hoidusid.
Allikas: habr.com
