GjatĂ« qershorit-korrikut, na kontaktuan pothuajse dy dhjetĂ«ra kompani qĂ« interesoheshin pĂ«r mundĂ«sitĂ« e GPU-ve virtuale. âGrafikaâ nga Cloud4Y pĂ«rdoret tashmĂ« nga njĂ« prej filialeve tĂ« mĂ«dha tĂ« Sberbank, por nĂ« pĂ«rgjithĂ«si kjo shĂ«rbim nuk Ă«shtĂ« shumĂ« i pĂ«rhapur. Prandaj, njĂ« aktivitet i tillĂ« na gĂ«zoi shumĂ«. Duke parĂ« rritjen e interesit pĂ«r kĂ«tĂ« teknologji, vendosĂ«m tĂ« flasim pak mĂ« hollĂ«sisht pĂ«r vGPU.
âLiqenet e tĂ« dhĂ«naveâ tĂ« krijuara si rezultat i eksperimenteve dhe kĂ«rkimeve shkencore, Deep Learning dhe fusha tĂ« tjera tĂ« punĂ«s me AI, si edhe modelimi i objekteve tĂ« mĂ«dha dhe komplekse â tĂ« gjitha kĂ«to kĂ«rkojnĂ« hardware me performancĂ« tĂ« lartĂ«. ĂshtĂ« mirĂ« kur ai ekziston dhe ju lejon tĂ« zgjidhni shpejt detyrat aktuale. Por, pĂ«r shkak tĂ« rritjes sĂ« kompleksitetit llogaritĂ«s tĂ« detyrave (sidomos nĂ« analitikĂ«n e biznesit, rendering, algoritmet dhe framework-et DL), kapacitetet harduerike tĂ« CPU-ve desktop dhe madje edhe tĂ« atyre serverike po bĂ«hen gjithnjĂ« e mĂ« shpesh tĂ« pamjaftueshme.
Zgjidhja u gjet te përdorimi i llogaritjeve me GPU. Kjo teknologji e përshpejtimit grafik mundëson ndarjen e burimeve të një procesori grafik mes disa kompjuterëve virtualë. GPU fillimisht është projektuar për punë me grafikë, ndaj përbëhet nga mijëra bërthama të vogla që përdoren për përpunim efikas të detyrave paralele. Njëkohësisht, në GPU ekzekutohet një pjesë e llogaritjeve më intensive për burimet, ndërsa pjesën tjetër e merr përsipër CPU.
Llogaritjet me GPU u zhvilluan nga kompania që në vitin 2007. Sot kjo teknologji ka arritur një nivel të ri dhe përdoret në qendrat e të dhënave të ndërmarrjeve më të mëdha dhe laboratorëve shkencorë. Megjithatë, qasja tradicionale ka një mangësi të rëndësishme: blerja e pajisjeve fizike kushton mjaft shtrenjtë. E nëse kujtojmë sa shpejt vjetrohet hardware-i, panorama bëhet edhe më e zymtë.
Këtë problem synon ta zgjidhë teknologjia e procesorëve grafikë virtualë: vGPU. Me ndihmën e saj, përdoruesit mund të nisin nga distanca aplikacione të rënda si AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualizimi e fitoi shpejt pjesën e vet të tregut. Sepse cili data scientist nuk i pëlqen llogaritjet e shpejta në kartat grafike NVidia Tesla?
Këtu vlen të theksohet se para shfaqjes së vGPU përdoreshin metoda të tjera për përshpejtimin e përpunimit grafik: Virtual Shared Graphics Acceleration (vSGA) dhe Virtual Dedicated Graphics Acceleration (vDGA). Zgjidhja vGPU bashkoi më të mirën nga të dyja teknologjitë. Ashtu si te vSGA, në mjedisin vGPU GPU dhe RAM ndahen mes disa desktopëve virtualë, por çdo VM i dërgon komandat drejtpërdrejt te GPU, si te vDGA.
Pse nevojiten vGPU
Llogaritja cloud me përdorimin e vGPU u mundëson kompanive të përballojnë detyra që më parë ishin të pazgjidhshme. Ose të zgjidhshme, por me një kosto krejtësisht joreale burimesh. 1 server modern me GPU mund të zëvendësojë deri në 100 CPU të zakonshëm. Ka edhe . Dhe kjo nuk është shaka: zgjidhjet Nvidia përpunojnë petabajtë të dhënash disa herë më shpejt se serverët klasikë me CPU. Ndërsa Google Cloud ofron makina virtuale me GPU që arrijnë deri në 960 teraflops.
ShumĂ« specialistĂ« kanĂ« nevojĂ« pĂ«r pajisje tĂ« fuqishme qĂ« mund tĂ« kryejnĂ« llogaritje paralele. ArkitektĂ«t dhe inxhinierĂ«t pĂ«rdorin teknologjinĂ« vGPU nĂ« sistemet e projektimit (pĂ«r shembull Autodesk). DizajnerĂ«t punojnĂ« me pĂ«rmbajtje dixhitale foto dhe video (Photoshop, CorelDraw). me procesorĂ« grafikĂ« u nevojiten edhe institucioneve mjekĂ«sore, tĂ« cilat grumbullojnĂ« dhe analizojnĂ« tĂ« dhĂ«na pĂ«r pacientĂ«t dhe sĂ«mundjet. Me GPU punon edhe â».
Mendoni se kaq? Aspak. Teknologjia përdoret edhe për , si edhe për , , modelimin e dhe . Dhe ka edhe një në mjedisin Unity3D nga .
Pavarësisht kësaj, zgjidhjet e bazuara në vGPU ende nuk janë përhapur gjerësisht në botë. Kështu, në vitin 2018 NetApp zhvilloi një mes kompanive që përdorin procesorë grafikë në punën e tyre. Rezultatet treguan se 60% e organizatave vazhdojnë të punojnë në infrastrukturën e tyre IT. Ndërsa cloud përdoret vetëm nga 23%. Në Rusi, përhapja e teknologjisë së llogaritjes cloud është edhe më e ulët. Por falë zgjidhjeve të reja harduerike dhe softuerike, numri i kompanive që përdorin makina virtuale me GPU po rritet vazhdimisht.
Zgjidhje për vGPU
Shumë kompani merren me zhvillimin e teknologjive të virtualizimit të përshpejtuesve grafikë, por mes tyre ka liderë të padiskutueshëm.
Një nga zhvilluesit më autoritarë të zgjidhjeve në fushën e cloud, kompania VMware u ofron kompanive hipervizorin , me të cilin shpejtësia e funksionimit të procesorëve grafikë virtualë është e krahasueshme me implementimet në serverë fizikë. Në një përditësim të fundit, zhvilluesi çaktivizoi balancuesin e ngarkesës vMotion dhe shtoi mbështetjen për teknologjinë DirectPath I/O, e cila lidh drejtuesin CUDA me VM duke anashkaluar hipervizorin dhe përshpejton transferimin e të dhënave.
Nvidia gjithashtu pĂ«rpiqet tâu pĂ«rgjigjet pritshmĂ«rive tĂ« tregut dhe pĂ«r kĂ«tĂ« ka publikuar platformĂ«n opensource . Zgjidhja bashkon disa biblioteka pĂ«r punĂ« me arkitekturĂ«n CUDA, gjĂ« qĂ« thjeshton punĂ«n me tĂ« dhĂ«nat gjatĂ« trajnimit tĂ« rrjeteve neuronale dhe mundĂ«son automatizimin e punĂ«s me kodin Python. PĂ«rdorimi i Rapids me algoritmin e machine learning XGBoost sjell njĂ« rritje 50-herĂ«she tĂ« performancĂ«s krahasuar me sistemet e bazuara nĂ« CPU.
Teknologjinë e vet e ka edhe AMD. Platforma quhet . Ajo përdor teknologjinë SR-IOV, e cila ndan kapacitetet harduerike të pajisjes fizike midis disa makinave virtuale. Burimet e një përshpejtuesi mund të ndahen midis gjashtëmbëdhjetë përdoruesve, duke ruajtur performancë të barabartë për secilin prej tyre. Kjo përshpejton transferimin e të dhënave midis CPU dhe GPU në cloud. Përdoret gjithashtu një dialekt i veçantë i C++ me emrin HIP, i cili thjeshton ekzekutimin e operacioneve matematikore në GPU.
Intel e ndĂ«rton teknologjinĂ« e saj mbi bazĂ«n e hipervizorit ndĂ«rplatformor XenServer 7, i cili nĂ« vitin 2017 mori certifikatĂ«n e pĂ«rputhshmĂ«risĂ« nga FSTEC. Zgjidhja kombinon funksionimin e drejtuesit standard tĂ« GPU-sĂ« dhe tĂ« makinĂ«s virtuale. Pra, âvirtualjaâ mund tĂ« funksionimin e aplikacioneve tĂ« rĂ«nda nĂ« pajisjet e njĂ« numri tĂ« madh pĂ«rdoruesish (disa qindra).
Perspektivat e tregut
Analistët e pavarur vlerësojnë se vëllimi i shitjeve të zgjidhjeve për sistemet HPC do të arrijë në 45 miliardë dollarë deri në vitin 2022. Edhe zhvilluesit e platformave presin rritje të kërkesës për sisteme me performancë të lartë. Këto pritshmëri mbështeten nga popullariteti i Big Data dhe nevoja e shpeshtë për të përpunuar vëllime të mëdha të dhënash.
Gjithashtu, rritja e kërkesës për vGPU mund të nxisë zhvillimin e teknologjive hibride që bashkojnë GPU dhe CPU në një pajisje të vetme. Në zgjidhje të tilla të integruara, të dy llojet e bërthamave përdorin një cache të përbashkët, gjë që përshpejton transferimin e të dhënave midis procesorëve grafikë dhe atyre tradicionalë.
Hibridet mund ta ndryshojnë rrënjësisht qasjen ndaj virtualizimit dhe shpërndarjes së burimeve virtuale brenda qendrave të të dhënave. Ndërsa zgjidhjet me kod të hapur si ROCm dhe Rapids u mundësojnë operatorëve të qendrave të të dhënave të përdorin më me efikasitet burimet llogaritëse, duke rritur performancën e pajisjeve.
Ekziston edhe një mendim tjetër. Për shembull, se GPU-të virtuale do të zëvendësohen nga çipe optike me kodim fotonik të të dhënave. Zgjidhje të tilla tashmë ekzistojnë dhe përdoren për machine learning. Madje, ato duken se një GPU i zakonshëm. Por teknologjia është ende e papjekur.
ĂfarĂ« pĂ«rfundimi mund tĂ« nxirret? PavarĂ«sisht shfaqjes sĂ« mundshme tĂ« alternativave, vGPU Ă«shtĂ« njĂ« drejtim mjaft premtues, i aftĂ« tĂ« zgjidhĂ« njĂ« numĂ«r tĂ« madh detyrash. Por nuk i pĂ«rshtatet tĂ« gjithĂ«ve. Prandaj presjen nĂ« titull mund ta vendosni vetĂ«.
P.S.
Abonohuni në -kanali, për të mos humbur artikullin tjetër! Ne shkruajmë jo më shpesh se dy herë në javë dhe vetëm për çështje të rëndësishme.
Vetëm përdoruesit e regjistruar mund të marrin pjesë në anketë. , ju lutem.
A përdorni vGPU?
Po, shpesh na duhen burime virtuale
Jo, dhe nuk ka gjasa ta planifikojmë
Votuan 23 përdorues. Abstenuan 11 përdorues.
Burimi: habr.com
