За июнь-июль к нам обратилось почти два десятка компаний, интересовавшихся возможностями виртуальных GPU. «Графикой» от Cloud4Y уже пользуется одна из крупных «дочек» Сбербанка, но в целом услуга не слишком популярная. Так что подобная активность нас весьма порадовала. Видя рост интереса к технологии, мы решили чуть подробнее рассказать про vGPU.
«Озёра данных», полученные в результате научных экспериментов и исследований, Deep Learning и другие направления работы с ИИ, моделирование крупных и сложных объектов — всё это требует высокопроизводительного «железа». Хорошо, если оно есть и позволяет быстро решать текущие задачи. Вот только из-за возрастающей вычислительной сложности задач (в первую очередь касается для бизнес-аналитики, рендеринга, DL-алгоритмов и фреймворков) аппаратные мощности настольных и даже серверных CPU всё чаще становятся бесполезны.
Lahendus peitus GPU-arvutustes. See graafikakiirusetehnoloogia tagab ühe graafikaprotsessori ressursside jagamise mitme virtuaalarvuti vahel. GPU on algselt projekteeritud graafika töötlemiseks, seega koosneb see tuhandetest väikestest südamikest, mis on mõeldud paralleelsete ülesannete tõhusaks töötlemiseks. GPU-l teostatakse osa kõige ressursimahukamatest arvutustest, ülejäänu haldab CPU.
GPU-arvutused leiutas ettevõte juba 2007. aastal. Tänaseks on see tehnoloogia jõudnud uuele tasemele ja seda kasutatakse suurte ettevõtete andmekeskustes ja teaduslaborites. Siiski on traditsioonilisel lähenemisel üks märkimisväärne puudus: füüsilise varustuse soetamine on üsna kulukas. Ja kui arvestada, kui kiiresti "rauda" vananeb, muutub see veelgi kurvemaks.
Probleem lahendamiseks on välja töötatud virtuaalsed graafikaprotsessorid: vGPU. Nende abil saavad kasutajad kaugtööl käivitada nõudlikke rakendusi nagu AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtuaalimine on kiiresti oma turuosa saavutanud. Sest mis vene andmeteadlane ei armasta kiireid arvutusi NVidia Tesla graafikaproessoritel?
Siinkohal tuleks märkida, et enne vGPU ilmumist kasutati muid graafika töötlemise kiirendamise meetodeid: Virtual Shared Graphics Acceleration (vSGA) ja Virtual Dedicated Graphics Acceleration (vDGA). Lahendus vGPU ühendas mõlema tehnoloogia parimad omadused. Nagu vSGA puhul, eeldatakse ka vGPU keskkonnas GPU ja RAM-i ühist kasutamist mitme virtuaalse töölaudade vahel, kuid seejuures edastab iga VM käsud otse GPU-le, nagu vDGA puhul.
Miks on vGPU üldse vajalik
Välguarvutamine vGPU abil võimaldab ettevõtetel lahendada ülesandeid, mida varem ei saanud lahendada. Või oli küll võimalik, kuid selleks oleks nõutud isegi liiga palju ressursse. 1 kaasaegne GPU-server suudab asendada kuni 100 tavalist CPU-d. On ka teisi, . See on tõsine asi: Nvidia lahendused töötlevad petabaitide andmeid kordades kiiremini kui tavalised CPU-serverid. Sama Google Cloud pakub GPU-dega virtuaalmasinaid, mis võivad saavutada kuni 960 teraflopsi.
Paljud spetsialistid vajavad võimsaid seadmeid, mis suudavad teostada paralleelseid arvutusi. Arhitektid ja insenerid kasutavad vGPU tehnoloogiat projekteerimissüsteemides (näiteks Autodesk). Disainerid töötavad digitaalsete foto- ja videokettadega (Photoshop, CorelDraw). Grafika protsessorid on vajalikud ka meditsiiniasutustes, mis koguvad ja analüüsivad andmeid patsientide ja haiguste kohta. Kasutatakse GPU-dega ka».
Te arvasite, et see on kõik? Ei ole nii. Tehnoloogiat kasutatakse ka automaatseks , ja , , modelleerimine ja . Ja on veel äge Unity3D keskkonnas autorilt .
Kuid vGPU lahendused ei ole seni maailmas laialdaselt levinud. 2018. aastal viis NetApp läbi graafikatöötlust kasutavate ettevõtete seas. Uuringud näitasid, et 60% organisatsioonidest töötab endiselt oma IT-infrastruktuuris. „Pilve“ kasutab vaid 23%. Venemaal on pilve arvutustehnika tehnoloogia levik madalam. Kuid tänu uutele riist- ja tarkvaralahendustele suureneb pidevalt virtuaalmasinate kasutajate arv, kes kasutavad GPU-sid.
vGPU lahendused
Palju ettevõtteid tegeleb graafiliste kiirendite virtualiseerimistehnoloogiate arendamisega, kuid nende seas on vaieldamatud liidrid.
Üks autoriteetsemaid pilveteenuste arendajaid, ettevõte VMware pakub ettevõtetele hüperviisor , mille all virtuaalsete graafiliste protsessorite töökiirus on võrreldav lähenemisega reaalsele riistvarale. Hiljutises uuenduses on arendaja keelanud laadimisbalansi vMotioni ja lisanud DirectPath I/O tehnoloogia toetuse, mis ühendab CUDA draiveri VM-iga hüperviisori vältimise kaudu ja kiirendab andmete edastamist.
Nvidia püüab samuti vastata turu ootustele ning selleks on välja andnud avatud lähtekoodiga platvormi . Lahendus ühendab mitu raamatukogu CUDA arhitektuuriga töötamiseks, lihtsustades andmete töötlemist närvivõrkude treenimise ajal ja võimaldades automatiseerida töö Python'i koodiga. Rapidsi kasutamine XGBoost masinõppe algoritmiga toob 50-kordse jõudluse kasvu võrreldes CPU-põhiste süsteemidega.
Oma tehnoloogia on ka AMD. Platvormi nimi on . See kasutab SR-IOV tehnoloogiat, mis jagab füüsilise seadme riistvaralisi võimalusi mitme virtuaalmasina vahel. Ühe kiirendaja ressursse saab jagada kuueteistkümne kasutaja vahel, säilitades igaühe jaoks võrdse jõudluse. Nii kiireneb andmete edastus pilve CPU ja GPU vahel. Kasutatakse ka spetsiaalset C++ dialekti nimega HIP, mis lihtsustab matemaatiliste operatsioonide täitmist GPU-l.
Intel ehitab oma tehnoloogia kross-platvormi hüperviisori alusel XenServer 7, mis sai 2017. aastal FSTEK-i vastavuse sertifikaadi. Lahendus ühendab tavapärase GPU draiveri ja virtuaalmasina töö. See tähendab, et „virtuaalmasin” võib raskendavate rakenduste tööd suurte (mitmesaja) kasutajate seadmetes.
Turuväljavaated
Iseseisvad analüütikud usuvad, et HPC-süsteemide lahenduste müügihulk jõuab 2022. aastaks 45 miljardit dollarit. Platvormide arendajad ootavad samuti kasvavat nõudlust kõrge jõudlusega süsteemide järele. Seda ootust toetab Big Data populaarsus ja tihti esinev vajadus töödelda suuri andmemahtusid.
Samuti võib vGPU nõudluse kasv edendada hübriidtehnoloogiate arengut, mis ühendavad GPU-d ja CPU-d ühes seadmes. Sellistes integreeritud lahendustes kasutavad kahe tüübi tuumad ühiskassat, mis kiirendab andmete edastamist graafika- ja traditsiooniliste protsessorite vahel.
Hübriidid muudavad radikaalselt lähenemist virtualiseerimisele ja virtuaalsete ressursside jaotusele andmekeskustes. Avatud lähtekoodiga lahendused nagu ROCm ja Rapids võimaldavad andmekeskuste operaatoritel tõhusamalt kasutada arvutusressursse, suurendades seadmete jõudlust.
On olemas ka teistsugune arvamus. Näiteks, et virtuaalsed GPU-d tõrjutakse välja optiliste kiipidega, mis kasutavad andmete fotonikodeerimist. Sellised lahendused on juba olemas ja neid kasutatakse masinõppes. Lisaks tunduvad nad tavalistest GPU-dest. Kuid tehnoloogia on veel toores.
Milline võiks olla järeldus? Olenemata võimalikest analoogidest, on vGPU - täiesti perspektiivne suund, mis suudab lahendada suurt hulka ülesandeid. Kuid see pole kõigile sobiv. Nii et koma pealkirjas võite ise panna.
P.S.
Liituge meiega -kanal, et mitte jääda ilma järgnevast artiklist! Kirjutame mitte tihedamini kui kaks korda nädalas ja ainult asjalikult.
Ainult registreeritud kasutajad saavad küsitluses osaleda. , palun.
Kas kasutate vGPU-d?
Jah, sageli on vaja virtuaalseid ressursse.
Ei, ja tõenäoliselt ei kavatse.
Hääletas 23 kasutajat. 11 kasutajat hoidusid.
Allikas: habr.com
