Juuni-juuli kuus pöördus meie poole peaaegu kaks tosinat ettevõtet, kes huvitusid virtuaalsete GPU-de võimalustest. Cloud4Y „Grafika“ teenust kasutab juba üks suuremaid Sberbanki tütarettevõtteid, kuid üldiselt ei ole see teenus eriti populaarne. Seetõttu rõõmustas meid selline aktiivsus. Näha huvi kasvu tehnoloogia vastu, otsustasime rääkida natuke lähemalt vGPU-st.
Andmejärved, mis saadakse teaduskatsetest ja uuringutest, süvaõppimine ja teised tehisintellekti töösuundadega seotud tegevused, keeruliste objektide modelleerimine - kõik need nõuavad высокопродуктивного 'železa'. Loodetavasti on see olemas ja võimaldab kiiresti lahendada käimasolevaid ülesandeid. Ainult et pidevalt kasvava arvutuskompleksuse tõttu (see puudutab eelkõige äranalüütikat, renderdamist, DL-algoritme ja raamistikke) lauaarvutite ning isegi serverite CPU riistvara muutub üha enam kasutuks.
Lahendusena leiti GPU arvestuslikud võimekused. See graafika kiirendustehnoloogia tagab ühe graafikaprotsessorite ressursside jagamise mitme virtuaalarvuti vahel. GPU on algselt projekteeritud graafika töötlemiseks, mistõttu koosneb see tuhandetest väikestest südamikest, mis on ette nähtud paralleelsete ülesannete tõhusaks töötlemiseks. Samal ajal teostatakse GPU-l osa kõige ressursinõudlikumatest arvutustest, ülejäänud töötleb CPU.
GPU arvutused leiutas ettevõte juba 2007. aastal. Tänasel päeval on see tehnoloogia jõudnud uuele tasemele ja seda rakendatakse suurte ettevõtete ja teaduslaborite andmekeskustes. Kuid traditsioonilisel lähenemisel on üks suur puudus: füüsilise seadme soetamine maksab üsna palju. Kui arvestada 'železa' vananemise kiirust, siis muutub olukord veelgi kurvemaks.
Probleemi peaks lahendama virtuaalsete graafikaprotsessorite tehnoloogia: vGPU. Selle abil saavad kasutajad eemalt käivitada raskeid rakendusi nagu AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtuaalsus on kiiresti oma turuosa tagasi saavutanud. Lõppude lõpuks, kes iganes Venemaa andmete teadlane ei armasta kiireid arvutusi NVidia Tesla graafikakaartidega?
Siin tasub märkida, et vGPU kasutuselevõtuni kasutati muid graafika töötlemise kiirusmeetodeid: Virtual Shared Graphics Acceleration (vSGA) ja Virtual Dedicated Graphics Acceleration (vDGA). vGPU lahendus ühendab mõlema tehnoloogia parimad küljed. Nagu vSGA puhul, eeldab vGPU keskkond GPU ja RAM-i jagamist mitme virtuaalse töölauaga, kuid iga virtuaalne masin edastab käsud otse GPU-le, nagu vDGA puhul.
Miks on vGPU-d üldse vajalikud
Pilvearvutamine vGPU abil võimaldab ettevõtetel lahendada ülesandeid, mida varem ei olnud võimalik lahendada. Või oli see võimalik, kuid nõudsid uskumatult palju ressursse. 1 kaasaegne GPU-server suudab asendada kuni 100 tavalist CPU-d. On ka teisi, . See ei ole nali: Nvidia lahendused töötlevad petabaite andmeid mitu korda kiiremini kui klassikalised CPU-serverid. Samuti pakub Google Cloud virtuaalmasinaid GPU-dega, mille jõudlus ulatub kuni 960 teraflopini.
Paljud spetsialistid vajavad võimsaid seadmeid, mis suudavad teostada paralleelseid arvutusi. Arhitektid ja insenerid kasutavad vGPU tehnoloogiat projekteerimissüsteemides (näiteks Autodesk). Kujundajad töötavad digitaalse foto- ja videomaterjaliga (Photoshop, CorelDraw). Graafikaprotsessorite järgi on nõudlus ka meditsiiniasutustes, mis koguvad ja analüüsivad patsientide ja haiguste andmeid. GPU-dega töötavad ka "».
Kas arvasite, et see on kõik? Oleks vale. Tehnoloogiat kasutatakse ka automaatseks , ning , , modelleerimiseks ja . Ja veel on olemas tore Unity3D keskkonnas, mille autoriks on .
Sellest hoolimata pole vGPU-l põhinevad lahendused maailmas veel laialdast levikut leidnud. Nii viis NetApp 2018. aastal läbi uuringu ettevõtete seas, kes kasutavad graafikaprotsessoreid. Tulemused näitasid, et 60% organisatsioonidest töötab endiselt oma IT-infrastruktuuril. 'Pilve' kasutab vaid 23%. Venemaal on pilvearvutuste tehnoloogia levimus väiksem. Kuid uute riistvara- ja tarkvaralahenduste tõttu kasvab pidevalt ettevõtete arv, kes kasutavad GPU-dega virtuaalmasinaid.
vGPU lahendused
Paljude ettevõtete seas, kes tegelevad graafika kiirendite virtualiseerimistöötluse arendamisega, on kahtlemata liidreid.
Üks autoriteetsemaid pilveteenuste lahenduste arendajaid, ettevõte VMware pakub ettevõtetele hüperviisor , mille all virtuaalsete grafi kadede töökiirus on võrreldav palja rauaga teostustest. Hiljutises uuenduses on arendaja välja lülitanud koormuse tasakaalustaja vMotion ja lisanud toetuse tehnoloogiale DirectPath I/O, mis seondab CUDA draiveri VM-iga, mööda hüperviisorist, ja kiirendab andmeedastust.
Nvidia püüab samuti vastata turu ootustele ning seetõttu on välja andnud avatud lähtekoodiga platvormi . Lahendus ühendab mitu teeki CUDA arhitektuuriga töötamiseks, mis lihtsustab andmete käsitlemist närvivõrkude treeningu ajal ning võimaldab automatiseerida töö Pythonikoodiga. Rapidsi kasutamine masinõppe algoritmiga XGBoost tagab 50-kordse jõudluse kasvu võrreldes CPU-põhiste süsteemidega.
Oma tehnoloogia on ka AMD. Platvormi nimi on . See kasutab tehnoloogiat SR-IOV, mis jagab füüsilise seadme riistvaralisi võimalusi mitme virtuaalmaquina vahel. Ühe kiirendi ressursse saab jagada kuni kuheteistkümne kasutaja vahel, säilitades igaühe jaoks võrdse jõudluse. Nii kiireneb andmeedastus pilve CPU ja GPU vahel. Samuti kasutatakse spetsiaalset C++ dialekti nimega HIP, mis lihtsustab matemaatiliste tehete täitmist GPU-l.
Intel ehitab oma tehnoloogiat ristplatvormi hüperviisori XenServer 7, mis sai 2017. aastal FSTEKi vastavuse sertifikaadi. Lahendus ühendab tavalise GPU draiveri ja virtuaalmaquina töö. See tähendab, et "virtuaal" võib töötada raskete rakendustega suure (saja kohta) kasutajate hulga seadmetes.
Turuväljavaated
Iseseisvad analüütikud usuvad, et HPC-süsteemide lahenduste müügimaht ulatub 2022. aastaks 45 miljardi dollarini. Platvormide arendajad ootavad samuti kõrget tootearenduse nõudlust. Seda ootust toetab Suure Andmete populaarsus ning sagedane vajadus töödelda suuri andmemahtusid.
Suurenev nõudlus vGPU järele võib ka edendada hübriidtehnoloogiate arengut, mis ühendavad GPU ja CPU ühes seadmes. Sellistes integreeritud lahendustes kasutavad kaks tüüpi tuumad ühiseid vahemälusid, mis kiirendab andmete liikumist graafikaprotsessorite ja traditsiooniliste protsessorite vahel.
Hübriidid muudavad radikaalselt lähenemist virtualiseerimisele ja virtuaalsete ressursside jaotamisele andmekeskustes. Avatud lähtekoodiga lahendused, nagu ROCm ja Rapids, võimaldavad andmekeskuse operaatoritel tõhusamalt kasutada arvutusressursse, parandades seadmete jõudlust.
On ka teine arvamus. Näiteks, et virtuaalsed GPU-d asendatakse optiliste kiipidega, mis kasutavad fotonilist andmekodeerimist. Sellised lahendused on juba olemas ja neid kasutatakse masinõppes. Veelgi enam, nad näivad olevat tavalisest GPU-st. Kuid tehnoloogia on veel toores.
Milliseid järeldusi saab teha? Hoolimata võimalikest analoogide ilmumisest, on vGPU tõotav suund, mis suudab lahendada mitmeid ülesandeid. Kuid see ei sobi kõigile. Seega võite komaga pealkirjas ise mängida.
P.S.
Telli meie -kanal, et mitte jääda ilma järgmise artikli lugemisest! Kirjutame mitte sagedamini kui kaks korda nädalas ja ainult olulistel teemadel.
Ainult registreeritud kasutajad saavad küsitluses osaleda. , palun.
Kasutate vGPU-d?
Jah, virtuaalsed ressursid on sageli vajalikud.
Ei ja tõenäoliselt ei plaani.
Hääletas 23 kasutajat. 11 kasutajat hoidusid.
Allikas: habr.com
