{"id":36902,"date":"2019-10-31T22:14:38","date_gmt":"2019-10-31T19:14:38","guid":{"rendered":"https:\/\/prohoster.info\/blog\/vgpu-ispolzovat-nelzya-ignorirovat\/"},"modified":"2019-10-31T22:14:38","modified_gmt":"2019-10-31T19:14:38","slug":"vgpu-ispolzovat-nelzya-ignorirovat","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sq\/blog\/administrirovanie\/vgpu-ispolzovat-nelzya-ignorirovat","title":{"rendered":"vGPU \u2014 nuk mund t\u00eb injorohet","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"vGPU
\n
\nGjat\u00eb qershorit-korrikut, na kontaktuan pothuajse dy dhjet\u00ebra kompani q\u00eb interesoheshin p\u00ebr mund\u00ebsit\u00eb e GPU-ve virtuale. \u201cGrafika\u201d nga Cloud4Y p\u00ebrdoret tashm\u00eb nga nj\u00eb prej filialeve t\u00eb m\u00ebdha t\u00eb Sberbank, por n\u00eb p\u00ebrgjith\u00ebsi kjo sh\u00ebrbim nuk \u00ebsht\u00eb shum\u00eb i p\u00ebrhapur. Prandaj, nj\u00eb aktivitet i till\u00eb na g\u00ebzoi shum\u00eb. Duke par\u00eb rritjen e interesit p\u00ebr k\u00ebt\u00eb teknologji, vendos\u00ebm t\u00eb flasim pak m\u00eb holl\u00ebsisht p\u00ebr vGPU.<\/i> <\/a><\/noindex><\/p>\n

\u201cLiqenet e t\u00eb dh\u00ebnave\u201d t\u00eb krijuara si rezultat i eksperimenteve dhe k\u00ebrkimeve shkencore, Deep Learning dhe fusha t\u00eb tjera t\u00eb pun\u00ebs me AI, si edhe modelimi i objekteve t\u00eb m\u00ebdha dhe komplekse \u2014 t\u00eb gjitha k\u00ebto k\u00ebrkojn\u00eb hardware me performanc\u00eb t\u00eb lart\u00eb. \u00cbsht\u00eb mir\u00eb kur ai ekziston dhe ju lejon t\u00eb zgjidhni shpejt detyrat aktuale. Por, p\u00ebr shkak t\u00eb rritjes s\u00eb kompleksitetit llogarit\u00ebs t\u00eb detyrave (sidomos n\u00eb analitik\u00ebn e biznesit, rendering, algoritmet dhe framework-et DL), kapacitetet harduerike t\u00eb CPU-ve desktop dhe madje edhe t\u00eb atyre serverike po b\u00ebhen gjithnj\u00eb e m\u00eb shpesh t\u00eb pamjaftueshme.<\/p>\n

Zgjidhja u gjet te p\u00ebrdorimi i llogaritjeve me GPU. Kjo teknologji e p\u00ebrshpejtimit grafik mund\u00ebson ndarjen e burimeve t\u00eb nj\u00eb procesori grafik mes disa kompjuter\u00ebve virtual\u00eb. GPU fillimisht \u00ebsht\u00eb projektuar p\u00ebr pun\u00eb me grafik\u00eb, ndaj p\u00ebrb\u00ebhet nga mij\u00ebra b\u00ebrthama t\u00eb vogla q\u00eb p\u00ebrdoren p\u00ebr p\u00ebrpunim efikas t\u00eb detyrave paralele. Nj\u00ebkoh\u00ebsisht, n\u00eb GPU ekzekutohet nj\u00eb pjes\u00eb e llogaritjeve m\u00eb intensive p\u00ebr burimet, nd\u00ebrsa pjes\u00ebn tjet\u00ebr e merr p\u00ebrsip\u00ebr CPU.<\/p>\n

\"vGPU
\n
\nLlogaritjet me GPU u zhvilluan nga kompania Nvidia <\/a><\/noindex>q\u00eb n\u00eb vitin 2007. Sot kjo teknologji ka arritur nj\u00eb nivel t\u00eb ri dhe p\u00ebrdoret n\u00eb qendrat e t\u00eb dh\u00ebnave t\u00eb nd\u00ebrmarrjeve m\u00eb t\u00eb m\u00ebdha dhe laborator\u00ebve shkencor\u00eb. Megjithat\u00eb, qasja tradicionale ka nj\u00eb mang\u00ebsi t\u00eb r\u00ebnd\u00ebsishme: blerja e pajisjeve fizike kushton mjaft shtrenjt\u00eb. E n\u00ebse kujtojm\u00eb sa shpejt vjetrohet hardware-i, panorama b\u00ebhet edhe m\u00eb e zymt\u00eb.<\/p>\n

K\u00ebt\u00eb problem synon ta zgjidh\u00eb teknologjia e procesor\u00ebve grafik\u00eb virtual\u00eb: vGPU. Me ndihm\u00ebn e saj, p\u00ebrdoruesit mund t\u00eb nisin nga distanca aplikacione t\u00eb r\u00ebnda si AutoCAD, 3DS Max, Maya, Sony Vegas Pro. Virtualizimi e fitoi shpejt pjes\u00ebn e vet t\u00eb tregut. Sepse cili data scientist nuk i p\u00eblqen llogaritjet e shpejta n\u00eb kartat grafike NVidia Tesla? <\/p>\n

K\u00ebtu vlen t\u00eb theksohet se para shfaqjes s\u00eb vGPU p\u00ebrdoreshin metoda t\u00eb tjera p\u00ebr p\u00ebrshpejtimin e p\u00ebrpunimit grafik: Virtual Shared Graphics Acceleration (vSGA) dhe Virtual Dedicated Graphics Acceleration (vDGA). Zgjidhja vGPU bashkoi m\u00eb t\u00eb mir\u00ebn nga t\u00eb dyja teknologjit\u00eb. Ashtu si te vSGA, n\u00eb mjedisin vGPU GPU dhe RAM ndahen mes disa desktop\u00ebve virtual\u00eb, por \u00e7do VM i d\u00ebrgon komandat drejtp\u00ebrdrejt te GPU, si te vDGA.<\/p>\n

Pse nevojiten vGPU <\/h2>\n

\nLlogaritja cloud me p\u00ebrdorimin e vGPU u mund\u00ebson kompanive t\u00eb p\u00ebrballojn\u00eb detyra q\u00eb m\u00eb par\u00eb ishin t\u00eb pazgjidhshme. Ose t\u00eb zgjidhshme, por me nj\u00eb kosto krejt\u00ebsisht joreale burimesh. 1 server modern me GPU mund t\u00eb z\u00ebvend\u00ebsoj\u00eb deri n\u00eb 100 CPU t\u00eb zakonsh\u00ebm. Ka edhe shifra edhe m\u00eb mbres\u00ebl\u00ebn\u00ebse<\/a><\/noindex>. Dhe kjo nuk \u00ebsht\u00eb shaka: zgjidhjet Nvidia p\u00ebrpunojn\u00eb petabajt\u00eb t\u00eb dh\u00ebnash disa her\u00eb m\u00eb shpejt se server\u00ebt klasik\u00eb me CPU. Nd\u00ebrsa Google Cloud ofron makina virtuale me GPU q\u00eb arrijn\u00eb deri n\u00eb 960 teraflops.<\/p>\n

Shum\u00eb specialist\u00eb kan\u00eb nevoj\u00eb p\u00ebr pajisje t\u00eb fuqishme q\u00eb mund t\u00eb kryejn\u00eb llogaritje paralele. Arkitekt\u00ebt dhe inxhinier\u00ebt p\u00ebrdorin teknologjin\u00eb vGPU n\u00eb sistemet e projektimit (p\u00ebr shembull Autodesk). Dizajner\u00ebt punojn\u00eb me p\u00ebrmbajtje dixhitale foto dhe video (Photoshop, CorelDraw). Makinat virtuale<\/a><\/noindex> me procesor\u00eb grafik\u00eb u nevojiten edhe institucioneve mjek\u00ebsore, t\u00eb cilat grumbullojn\u00eb dhe analizojn\u00eb t\u00eb dh\u00ebna p\u00ebr pacient\u00ebt dhe s\u00ebmundjet. Me GPU punon edhe \u201cYandex<\/a><\/noindex>\u00bb.<\/p>\n

Mendoni se kaq? Aspak. Teknologjia p\u00ebrdoret edhe p\u00ebr verifikimin automatik t\u00eb sakt\u00ebsis\u00eb s\u00eb imazheve satelitore<\/a><\/noindex>, si edhe p\u00ebr parashikimin e epidemive<\/a><\/noindex>, k\u00ebrkime meteorologjike<\/a><\/noindex>, modelimin e cikleve diellore<\/a><\/noindex> dhe analitik\u00eb biznesi<\/a><\/noindex>. Dhe ka edhe nj\u00eb artikull interesant p\u00ebr modelimin<\/a><\/noindex> n\u00eb mjedisin Unity3D nga ThisIsZolden<\/a><\/noindex>.<\/p>\n

Pavar\u00ebsisht k\u00ebsaj, zgjidhjet e bazuara n\u00eb vGPU ende nuk jan\u00eb p\u00ebrhapur gjer\u00ebsisht n\u00eb bot\u00eb. K\u00ebshtu, n\u00eb vitin 2018 NetApp zhvilloi nj\u00eb anket\u00eb <\/a><\/noindex>mes kompanive q\u00eb p\u00ebrdorin procesor\u00eb grafik\u00eb n\u00eb pun\u00ebn e tyre. Rezultatet treguan se 60% e organizatave vazhdojn\u00eb t\u00eb punojn\u00eb n\u00eb infrastruktur\u00ebn e tyre IT. Nd\u00ebrsa cloud p\u00ebrdoret vet\u00ebm nga 23%. N\u00eb Rusi, p\u00ebrhapja e teknologjis\u00eb s\u00eb llogaritjes cloud \u00ebsht\u00eb edhe m\u00eb e ul\u00ebt. Por fal\u00eb zgjidhjeve t\u00eb reja harduerike dhe softuerike, numri i kompanive q\u00eb p\u00ebrdorin makina virtuale me GPU po rritet vazhdimisht.<\/p>\n

Zgjidhje p\u00ebr vGPU<\/h2>\n

\n\"vGPU
\n
\nShum\u00eb kompani merren me zhvillimin e teknologjive t\u00eb virtualizimit t\u00eb p\u00ebrshpejtuesve grafik\u00eb, por mes tyre ka lider\u00eb t\u00eb padiskutuesh\u00ebm.<\/p>\n

Nj\u00eb nga zhvilluesit m\u00eb autoritar\u00eb t\u00eb zgjidhjeve n\u00eb fush\u00ebn e cloud, kompania VMware <\/b>u ofron kompanive hipervizorin ESXi<\/a><\/noindex>, me t\u00eb cilin shpejt\u00ebsia e funksionimit t\u00eb procesor\u00ebve grafik\u00eb virtual\u00eb \u00ebsht\u00eb e krahasueshme me implementimet n\u00eb server\u00eb fizik\u00eb. N\u00eb nj\u00eb p\u00ebrdit\u00ebsim t\u00eb fundit, zhvilluesi \u00e7aktivizoi balancuesin e ngarkes\u00ebs vMotion dhe shtoi mb\u00ebshtetjen p\u00ebr teknologjin\u00eb DirectPath I\/O, e cila lidh drejtuesin CUDA me VM duke anashkaluar hipervizorin dhe p\u00ebrshpejton transferimin e t\u00eb dh\u00ebnave.<\/p>\n

Nvidia <\/b>gjithashtu p\u00ebrpiqet t\u2019u p\u00ebrgjigjet pritshm\u00ebrive t\u00eb tregut dhe p\u00ebr k\u00ebt\u00eb ka publikuar platform\u00ebn opensource Rapids<\/a><\/noindex>. Zgjidhja bashkon disa biblioteka p\u00ebr pun\u00eb me arkitektur\u00ebn CUDA, gj\u00eb q\u00eb thjeshton pun\u00ebn me t\u00eb dh\u00ebnat gjat\u00eb trajnimit t\u00eb rrjeteve neuronale dhe mund\u00ebson automatizimin e pun\u00ebs me kodin Python. P\u00ebrdorimi i Rapids me algoritmin e machine learning XGBoost sjell nj\u00eb rritje 50-her\u00ebshe t\u00eb performanc\u00ebs krahasuar me sistemet e bazuara n\u00eb CPU.<\/p>\n

Teknologjin\u00eb e vet e ka edhe AMD<\/b>. Platforma quhet ROCm<\/a><\/noindex>. Ajo p\u00ebrdor teknologjin\u00eb SR-IOV, e cila ndan kapacitetet harduerike t\u00eb pajisjes fizike midis disa makinave virtuale. Burimet e nj\u00eb p\u00ebrshpejtuesi mund t\u00eb ndahen midis gjasht\u00ebmb\u00ebdhjet\u00eb p\u00ebrdoruesve, duke ruajtur performanc\u00eb t\u00eb barabart\u00eb p\u00ebr secilin prej tyre. Kjo p\u00ebrshpejton transferimin e t\u00eb dh\u00ebnave midis CPU dhe GPU n\u00eb cloud. P\u00ebrdoret gjithashtu nj\u00eb dialekt i ve\u00e7ant\u00eb i C++ me emrin HIP, i cili thjeshton ekzekutimin e operacioneve matematikore n\u00eb GPU.<\/p>\n

Intel <\/b>e nd\u00ebrton teknologjin\u00eb e saj mbi baz\u00ebn e hipervizorit nd\u00ebrplatformor Citrix <\/a><\/noindex>XenServer 7, i cili n\u00eb vitin 2017 mori certifikat\u00ebn e p\u00ebrputhshm\u00ebris\u00eb nga FSTEC. Zgjidhja kombinon funksionimin e drejtuesit standard t\u00eb GPU-s\u00eb dhe t\u00eb makin\u00ebs virtuale. Pra, \u201cvirtualja\u201d mund t\u00eb Kjo nuk \u00ebsht\u00eb pjes\u00eb e ADN-s\u00eb s\u00eb Google. Po, inxhinier\u00ebt mb\u00ebshtesin nj\u00ebri-tjetrin, si\u00e7 tregon historia ime me Bigtable. Por n\u00eb produktet dhe sh\u00ebrbimet p\u00ebr njer\u00ebzit e zakonsh\u00ebm, ata <\/a><\/noindex>funksionimin e aplikacioneve t\u00eb r\u00ebnda n\u00eb pajisjet e nj\u00eb numri t\u00eb madh p\u00ebrdoruesish (disa qindra).<\/p>\n

Perspektivat e tregut<\/h2>\n

\n\"vGPU
\n
\nAnalist\u00ebt e pavarur vler\u00ebsojn\u00eb se v\u00ebllimi i shitjeve t\u00eb zgjidhjeve p\u00ebr sistemet HPC do t\u00eb arrij\u00eb n\u00eb 45 miliard\u00eb dollar\u00eb deri n\u00eb vitin 2022. Edhe zhvilluesit e platformave presin rritje t\u00eb k\u00ebrkes\u00ebs p\u00ebr sisteme me performanc\u00eb t\u00eb lart\u00eb. K\u00ebto pritshm\u00ebri mb\u00ebshteten nga popullariteti i Big Data dhe nevoja e shpesht\u00eb p\u00ebr t\u00eb p\u00ebrpunuar v\u00ebllime t\u00eb m\u00ebdha t\u00eb dh\u00ebnash.<\/p>\n

Gjithashtu, rritja e k\u00ebrkes\u00ebs p\u00ebr vGPU mund t\u00eb nxis\u00eb zhvillimin e teknologjive hibride q\u00eb bashkojn\u00eb GPU dhe CPU n\u00eb nj\u00eb pajisje t\u00eb vetme. N\u00eb zgjidhje t\u00eb tilla t\u00eb integruara, t\u00eb dy llojet e b\u00ebrthamave p\u00ebrdorin nj\u00eb cache t\u00eb p\u00ebrbashk\u00ebt, gj\u00eb q\u00eb p\u00ebrshpejton transferimin e t\u00eb dh\u00ebnave midis procesor\u00ebve grafik\u00eb dhe atyre tradicional\u00eb. <\/p>\n

Hibridet mund ta ndryshojn\u00eb rr\u00ebnj\u00ebsisht qasjen ndaj virtualizimit dhe shp\u00ebrndarjes s\u00eb burimeve virtuale brenda qendrave t\u00eb t\u00eb dh\u00ebnave. Nd\u00ebrsa zgjidhjet me kod t\u00eb hapur si ROCm dhe Rapids u mund\u00ebsojn\u00eb operator\u00ebve t\u00eb qendrave t\u00eb t\u00eb dh\u00ebnave t\u00eb p\u00ebrdorin m\u00eb me efikasitet burimet llogarit\u00ebse, duke rritur performanc\u00ebn e pajisjeve.<\/p>\n

Ekziston edhe nj\u00eb mendim tjet\u00ebr. P\u00ebr shembull, se GPU-t\u00eb virtuale do t\u00eb z\u00ebvend\u00ebsohen nga \u00e7ipe optike me kodim fotonik t\u00eb t\u00eb dh\u00ebnave. Zgjidhje t\u00eb tilla tashm\u00eb ekzistojn\u00eb dhe p\u00ebrdoren p\u00ebr machine learning. Madje, ato duken m\u00eb produktive <\/a><\/noindex>se nj\u00eb GPU i zakonsh\u00ebm. Por teknologjia \u00ebsht\u00eb ende e papjekur.<\/p>\n

\u00c7far\u00eb p\u00ebrfundimi mund t\u00eb nxirret? Pavar\u00ebsisht shfaqjes s\u00eb mundshme t\u00eb alternativave, vGPU \u00ebsht\u00eb nj\u00eb drejtim mjaft premtues, i aft\u00eb t\u00eb zgjidh\u00eb nj\u00eb num\u00ebr t\u00eb madh detyrash. Por nuk i p\u00ebrshtatet t\u00eb gjith\u00ebve. Prandaj presjen n\u00eb titull mund ta vendosni vet\u00eb.<\/p>\n

P.S.<\/b>
\nAbonohuni n\u00eb Telegram<\/a><\/noindex>-kanali, p\u00ebr t\u00eb mos humbur artikullin tjet\u00ebr! Ne shkruajm\u00eb jo m\u00eb shpesh se dy her\u00eb n\u00eb jav\u00eb dhe vet\u00ebm p\u00ebr \u00e7\u00ebshtje t\u00eb r\u00ebnd\u00ebsishme.<\/i><\/p>\n

Vet\u00ebm p\u00ebrdoruesit e regjistruar mund t\u00eb marrin pjes\u00eb n\u00eb anket\u00eb. Hyni<\/a><\/noindex>, ju lutem.<\/p>\n

A p\u00ebrdorni vGPU?<\/h2>\n