{"id":36902,"date":"2019-10-31T22:14:38","date_gmt":"2019-10-31T19:14:38","guid":{"rendered":"https:\/\/prohoster.info\/blog\/vgpu-ispolzovat-nelzya-ignorirovat\/"},"modified":"2019-10-31T22:14:38","modified_gmt":"2019-10-31T19:14:38","slug":"vgpu-ispolzovat-nelzya-ignorirovat","status":"publish","type":"post","link":"https:\/\/prohoster.info\/hu\/blog\/administrirovanie\/vgpu-ispolzovat-nelzya-ignorirovat","title":{"rendered":"A vGPU-t nem szabad figyelmen k\u00edv\u00fcl hagyni","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

\"A
\n
\nJ\u00fanius-j\u00falius folyam\u00e1n csaknem k\u00e9t tucat c\u00e9g keresett meg minket, \u00e9rdekl\u0151dve a virtu\u00e1lis GPU lehet\u0151s\u00e9gei ir\u00e1nt. A Cloud4Y \u201eGrafika\u201d szolg\u00e1ltat\u00e1s\u00e1t m\u00e1r egy jelent\u0151s Sberbank le\u00e1nyv\u00e1llalat haszn\u00e1lja, de \u00f6sszess\u00e9g\u00e9ben a szolg\u00e1ltat\u00e1s nem k\u00fcl\u00f6n\u00f6sk\u00e9ppen n\u00e9pszer\u0171. \u00cdgy teh\u00e1t ez a fajta aktivit\u00e1s nagyon \u00f6r\u00f6mteli sz\u00e1munkra. L\u00e1tva a technol\u00f3gia ir\u00e1nti \u00e9rdekl\u0151d\u00e9s n\u00f6veked\u00e9s\u00e9t, \u00fagy d\u00f6nt\u00f6tt\u00fcnk, hogy kicsit r\u00e9szletesebben besz\u00e9l\u00fcnk a vGPU-r\u00f3l.<\/i> <\/a><\/noindex><\/p>\n

A tudom\u00e1nyos k\u00eds\u00e9rletek \u00e9s kutat\u00e1sok, a Deep Learning \u00e9s m\u00e1s mesters\u00e9ges intelligenci\u00e1val kapcsolatos munk\u00e1k, valamint nagy \u00e9s bonyolult objektumok modellez\u00e9se sor\u00e1n l\u00e9trej\u00f6v\u0151 \u201eadat-tavak\u201d \u2013 mindezekhez nagy teljes\u00edtm\u00e9ny\u0171 \u201ehardware\u201d sz\u00fcks\u00e9ges. J\u00f3, ha van ilyen, \u00e9s gyorsan megoldhat\u00f3ak a jelenlegi feladatok. De a feladatok sz\u00e1m\u00edt\u00e1si bonyolults\u00e1g\u00e1nak n\u00f6veked\u00e9se miatt (els\u0151sorban az \u00fczleti elemz\u00e9s, renderel\u00e9s, DL-algoritmusok \u00e9s keretrendszerek ter\u00e9n) a desktop \u00e9s m\u00e9g a szerver CPU-k hardveres teljes\u00edtm\u00e9nye egyre ink\u00e1bb haszontalann\u00e1 v\u00e1lik.<\/p>\n

A megold\u00e1st a GPU-sz\u00e1m\u00edt\u00e1sok alkalmaz\u00e1sa jelentette. Ez a grafikai gyors\u00edt\u00f3 technol\u00f3gia lehet\u0151v\u00e9 teszi egy grafikus processzor er\u0151forr\u00e1sainak megoszt\u00e1s\u00e1t t\u00f6bb virtu\u00e1lis sz\u00e1m\u00edt\u00f3g\u00e9p k\u00f6z\u00f6tt. A GPU-t eredetileg grafikai feladatokhoz tervezt\u00e9k, ez\u00e9rt t\u00f6bb ezer apr\u00f3 magb\u00f3l \u00e1ll, amelyek hat\u00e9konyan kezelik a p\u00e1rhuzamos feladatokat. A GPU v\u00e9gzi a legnagyobb er\u0151forr\u00e1s-ig\u00e9ny\u0171 sz\u00e1m\u00edt\u00e1sok egy r\u00e9sz\u00e9t, m\u00edg a t\u00f6bbit a CPU v\u00e9gzi.<\/p>\n

\"A
\n
\nA GPU-sz\u00e1m\u00edt\u00e1sokat a Nvidia <\/a><\/noindex>fejlesztette ki 2007-ben. Ma ez a technol\u00f3gia \u00faj szintre l\u00e9pett, \u00e9s a legnagyobb v\u00e1llalatok \u00e9s tudom\u00e1nyos laborat\u00f3riumok adatk\u00f6zpontjaiban alkalmazz\u00e1k. Azonban a hagyom\u00e1nyos megk\u00f6zel\u00edt\u00e9snek van egy jelent\u0151s h\u00e1tr\u00e1nya: a fizikai berendez\u00e9sek beszerz\u00e9se nem t\u00fal olcs\u00f3. Ha figyelembe vessz\u00fck a \u201ehardver\u201d elavul\u00e1s\u00e1nak sebess\u00e9g\u00e9t, m\u00e9g szomor\u00fabb\u00e1 v\u00e1lik a helyzet.<\/p>\n

A virtu\u00e1lis grafikus processzorok technol\u00f3gi\u00e1ja, a vGPU hivatott megoldani a probl\u00e9m\u00e1t. Ennek seg\u00edts\u00e9g\u00e9vel a felhaszn\u00e1l\u00f3k t\u00e1volr\u00f3l futtathatj\u00e1k az olyan neh\u00e9z alkalmaz\u00e1sokat, mint az AutoCAD, 3DS Max, Maya, Sony Vegas Pro. A virtualiz\u00e1ci\u00f3 gyorsan megszerezte piaci r\u00e9szesed\u00e9s\u00e9t. Mert melyik orosz data scientist ne szeretn\u00e9 a gyors sz\u00e1m\u00edt\u00e1sokat az NVidia Tesla grafikus k\u00e1rty\u00e1kon? <\/p>\n

Fontos megjegyezni, hogy a vGPU megjelen\u00e9se el\u0151tt m\u00e1s grafikai feldolgoz\u00f3 gyors\u00edt\u00f3 m\u00f3dszereket haszn\u00e1ltak: Virtual Shared Graphics Acceleration (vSGA) \u00e9s Virtual Dedicated Graphics Acceleration (vDGA). A vGPU megold\u00e1s \u00f6tv\u00f6zte e k\u00e9t technol\u00f3gia legjav\u00e1t. A vSGA-hoz hasonl\u00f3an a vGPU k\u00f6rnyezetben a GPU-t \u00e9s a RAM-ot t\u00f6bb virtu\u00e1lis asztal osztja meg, de minden virtu\u00e1lis g\u00e9p k\u00f6zvetlen\u00fcl a GPU-hoz tov\u00e1bb\u00edtja a parancsokat, ahogyan azt a vDGA eset\u00e9ben is teszi.<\/p>\n

Mi\u00e9rt van sz\u00fcks\u00e9g a vGPU-ra? <\/h2>\n

\nA vGPU-t haszn\u00e1l\u00f3 felh\u0151alap\u00fa sz\u00e1m\u00edt\u00e1stechnika lehet\u0151v\u00e9 teszi a v\u00e1llalatok sz\u00e1m\u00e1ra, hogy olyan feladatokat v\u00e9gezzenek, amelyek kor\u00e1bban megoldhatatlanok voltak. Vagy esetleg lehets\u00e9gesek, de ehhez elk\u00e9pzelhetetlen mennyis\u00e9g\u0171 er\u0151forr\u00e1sra volt sz\u00fcks\u00e9g. 1 modern GPU-server ak\u00e1r 100 hagyom\u00e1nyos CPU-t is helyettes\u00edthet. Vannak m\u00e1s, m\u00e9g leny\u0171g\u00f6z\u0151bb sz\u00e1mok is.<\/a><\/noindex>Ez nem tr\u00e9fadolog: az Nvidia megold\u00e1sai petab\u00e1jtnyi adatot dolgoznak fel t\u00f6bb mint \u00f6tsz\u00f6r gyorsabban, mint a klasszikus CPU-s szerverek. Ugyanakkor a Google Cloud GPU-val rendelkez\u0151 virtu\u00e1lis g\u00e9peket k\u00edn\u00e1l, amelyek ak\u00e1r 960 teraflops sebess\u00e9gre is k\u00e9pesek.<\/p>\n

Sok szakembernek sz\u00fcks\u00e9ge van er\u0151teljes eszk\u00f6z\u00f6kre, amelyek p\u00e1rhuzamos sz\u00e1m\u00edt\u00e1sokat tudnak v\u00e9gezni. Az \u00e9p\u00edt\u00e9szek \u00e9s m\u00e9rn\u00f6k\u00f6k vGPU technol\u00f3gi\u00e1t haszn\u00e1lnak tervez\u00e9si rendszerekben (p\u00e9ld\u00e1ul Autodesk). A designerek digit\u00e1lis f\u00e9ny- \u00e9s vide\u00f3 tartalommal dolgoznak (Photoshop, CorelDraw). Virtu\u00e1lis g\u00e9pek<\/a><\/noindex> grafikus processzorokkal orvosi int\u00e9zm\u00e9nyeknek is sz\u00fcks\u00e9g\u00fck van, amelyek p\u00e1cienseikr\u0151l \u00e9s betegs\u00e9geikr\u0151l gy\u0171jtenek \u00e9s elemeznek adatokat. A GPU pedig a \"Yandex<\/a><\/noindex>\u00bb.<\/p>\n

Azt gondolod, hogy ennyi? Dehogyis. Ezt a technol\u00f3gi\u00e1t automatikus m\u0171holdas felv\u00e9telek pontoss\u00e1g\u00e1nak ellen\u0151rz\u00e9s\u00e9re<\/a><\/noindex>, \u00e9s j\u00e1rv\u00e1nyok el\u0151rejelz\u00e9s\u00e9re<\/a><\/noindex>, meterol\u00f3giai kutat\u00e1sokhoz<\/a><\/noindex>, modellez\u00e9sre naps cycle<\/a><\/noindex> \u00e9s \u00fczleti elemz\u00e9sre<\/a><\/noindex>. R\u00e1ad\u00e1sul l\u00e9tezik egy nagyszer\u0171 cikk a modellez\u00e9sr\u0151l<\/a><\/noindex> Unity3D k\u00f6rnyezet\u00e9ben a ThisIsZolden<\/a><\/noindex>.<\/p>\n

Mindezek ellen\u00e9re a vGPU alap\u00fa megold\u00e1sok jelenleg m\u00e9g nem terjedtek el sz\u00e9les k\u00f6rben a vil\u00e1gban. \u00cdgy 2018-ban a NetApp felm\u00e9r\u00e9st v\u00e9gzett felm\u00e9r\u00e9s <\/a><\/noindex>a grafikus processzorokat haszn\u00e1l\u00f3 c\u00e9gek k\u00f6r\u00e9ben. Az eredm\u00e9nyek azt mutatt\u00e1k, hogy a szervezetek 60%-a tov\u00e1bbra is saj\u00e1t IT-infrastrukt\u00far\u00e1j\u00e1n dolgozik. Az 'felh\u0151t' csak a c\u00e9gek 23%-a haszn\u00e1lja. Oroszorsz\u00e1gban a felh\u0151alap\u00fa sz\u00e1m\u00edt\u00e1stechnika elterjedts\u00e9ge m\u00e9g kevesebb kitetts\u00e9ggel b\u00edr. De az \u00faj hardver- \u00e9s szoftvermegold\u00e1soknak k\u00f6sz\u00f6nhet\u0151en a GPU-val rendelkez\u0151 virtu\u00e1lis g\u00e9peket haszn\u00e1l\u00f3 c\u00e9gek sz\u00e1ma folyamatosan n\u00f6vekszik.<\/p>\n

vGPU megold\u00e1sok<\/h2>\n

\n\"A
\n
\nA grafikus gyors\u00edt\u00f3k virtualiz\u00e1ci\u00f3s technol\u00f3gi\u00e1inak fejleszt\u00e9s\u00e9vel sz\u00e1mos v\u00e1llalat foglalkozik, de k\u00f6z\u00f6tt\u00fck vannak k\u00e9ts\u00e9gtelen vezet\u0151k.<\/p>\n

Az egyik legtekint\u00e9lyesebb felh\u0151megold\u00e1sok fejleszt\u0151je, a c\u00e9g VMware. <\/b>c\u00e9gek sz\u00e1m\u00e1ra hypervisor-t ESXi<\/a><\/noindex>, amely alatt a virtu\u00e1lis grafikus processzorok munk\u00e1j\u00e1nak sebess\u00e9ge \u00f6sszehasonl\u00edthat\u00f3 a k\u00f6zvetlen hardveres megold\u00e1sokkal. A k\u00f6zelm\u00faltban a fejleszt\u0151 kikapcsolta a vMotion terhel\u00e9seloszt\u00f3t, \u00e9s hozz\u00e1adta a DirectPath I\/O technol\u00f3gi\u00e1t, amely a CUDA illeszt\u0151programot k\u00f6zvetlen\u00fcl a VM-hez k\u00f6ti, elker\u00fclve a hypervisort, \u00e9s gyors\u00edtja az adat\u00e1tvitelt.<\/p>\n

Nvidia <\/b>szint\u00e9n igyekszik megfelelni a piaci elv\u00e1r\u00e1soknak, \u00e9s ennek \u00e9rdek\u00e9ben kiadta az opensource platformot Rapids<\/a><\/noindex>. A megold\u00e1s t\u00f6bb k\u00f6nyvt\u00e1rat egyes\u00edt a CUDA architekt\u00far\u00e1val val\u00f3 munk\u00e1hoz, megk\u00f6nny\u00edtve ezzel az adatok kezel\u00e9s\u00e9t a neur\u00e1lis h\u00e1l\u00f3zatok edz\u00e9sekor, \u00e9s lehet\u0151v\u00e9 t\u00e9ve a Python k\u00f3d automatiz\u00e1l\u00e1s\u00e1t. A Rapids haszn\u00e1lata az XGBoost g\u00e9pi tanul\u00e1si algoritmussal 50-szeres teljes\u00edtm\u00e9nyn\u00f6veked\u00e9st eredm\u00e9nyez a CPU alap\u00fa rendszerekhez k\u00e9pest.<\/p>\n

Saj\u00e1t technol\u00f3gi\u00e1val rendelkezik a AMD<\/b>. A platform neve ROCm<\/a><\/noindex>. Ez a SR-IOV technol\u00f3gi\u00e1t haszn\u00e1lja, amely felosztja a fizikai eszk\u00f6z hardveres lehet\u0151s\u00e9geit t\u00f6bb virtu\u00e1lis g\u00e9p k\u00f6z\u00f6tt. Egy gyors\u00edt\u00f3 er\u0151forr\u00e1sait tizenhat felhaszn\u00e1l\u00f3 k\u00f6z\u00f6tt lehet megosztani, fenntartva ezzel mindenki sz\u00e1m\u00e1ra az egyenl\u0151 teljes\u00edtm\u00e9nyt. \u00cdgy felgyorsul az adat\u00e1tvitel a felh\u0151ben tal\u00e1lhat\u00f3 CPU \u00e9s GPU k\u00f6z\u00f6tt. Ezenk\u00edv\u00fcl egy speci\u00e1lis C++ dialektust haszn\u00e1lnak, amely HIP n\u00e9ven ismert, \u00e9s megk\u00f6nny\u00edti a matematikai m\u0171veletek v\u00e9grehajt\u00e1s\u00e1t a GPU-n.<\/p>\n

Intel <\/b>a cross-platform hypervisor alap\u00fa technol\u00f3gi\u00e1j\u00e1t \u00e9p\u00edti Citrix <\/a><\/noindex>XenServer 7, amely 2017-ben megkapta a FSTEK megfelel\u0151s\u00e9gi tan\u00fas\u00edtv\u00e1nyt. A megold\u00e1s egyes\u00edti a standard GPU-illeszt\u0151program \u00e9s a virtu\u00e1lis g\u00e9p m\u0171k\u00f6d\u00e9s\u00e9t. Teh\u00e1t a \"virtu\u00e1lis g\u00e9p\" t\u00e1mogatni. <\/a><\/noindex>nagy teljes\u00edtm\u00e9ny\u0171 alkalmaz\u00e1sok futtat\u00e1s\u00e1t teszi lehet\u0151v\u00e9 nagy (t\u00f6bb sz\u00e1z) felhaszn\u00e1l\u00f3 sz\u00e1m\u00e1ra.<\/p>\n

Piaci kil\u00e1t\u00e1sok<\/h2>\n

\n\"A
\n
\nF\u00fcggetlen elemz\u0151k azt \u00e1ll\u00edtj\u00e1k, hogy a HPC rendszerek megold\u00e1sainak \u00e9rt\u00e9kes\u00edt\u00e9se 45 milli\u00e1rd doll\u00e1rra n\u0151 2022-re. A platformok fejleszt\u0151i is a nagy teljes\u00edtm\u00e9ny\u0171 rendszerek ir\u00e1nti kereslet n\u00f6veked\u00e9s\u00e9re sz\u00e1m\u00edtanak. Ez az elv\u00e1r\u00e1s a Big Data n\u00e9pszer\u0171s\u00e9g\u00e9vel \u00e9s a nagy mennyis\u00e9g\u0171 adat feldolgoz\u00e1s\u00e1nak gyakori sz\u00fcks\u00e9gess\u00e9g\u00e9vel van al\u00e1t\u00e1masztva.<\/p>\n

A kereslet n\u00f6veked\u00e9se a vGPU ir\u00e1nt a GPU \u00e9s CPU egyes\u00edt\u00e9s\u00e9re \u00e9p\u00fcl\u0151 hibrid technol\u00f3gi\u00e1k fejl\u0151d\u00e9s\u00e9t is el\u0151mozd\u00edthatja. Ezekben az integr\u00e1lt megold\u00e1sokban a k\u00e9tf\u00e9le mag k\u00f6z\u00f6s cache-t haszn\u00e1l, ami felgyors\u00edtja az adatok \u00e1tvitel\u00e9t a grafikus \u00e9s a hagyom\u00e1nyos processzorok k\u00f6z\u00f6tt. <\/p>\n

A hibrid megold\u00e1sok gy\u00f6keresen megv\u00e1ltoztatj\u00e1k a virtualiz\u00e1ci\u00f3hoz \u00e9s a virtu\u00e1lis er\u0151forr\u00e1sok eloszt\u00e1s\u00e1hoz val\u00f3 hozz\u00e1\u00e1ll\u00e1st az adatk\u00f6zpontokban. Az olyan ny\u00edlt forr\u00e1sk\u00f3d\u00fa megold\u00e1sok, mint a ROCm \u00e9s a Rapids, lehet\u0151v\u00e9 teszik az adatk\u00f6zpont \u00fczemeltet\u0151k sz\u00e1m\u00e1ra, hogy hat\u00e9konyabban haszn\u00e1lj\u00e1k ki a sz\u00e1m\u00edt\u00e1si er\u0151forr\u00e1sokat, ez\u00e1ltal n\u00f6velve a berendez\u00e9sek teljes\u00edtm\u00e9ny\u00e9t.<\/p>\n

Van egy m\u00e1sik n\u00e9zet is. P\u00e9ld\u00e1ul, hogy a virtu\u00e1lis GPU-kat optikai chipek v\u00e1ltj\u00e1k fel, amelyek fotonikus adatk\u00f3dol\u00e1st alkalmaznak. Ezek a megold\u00e1sok m\u00e1r l\u00e9teznek, \u00e9s g\u00e9pi tanul\u00e1sra haszn\u00e1lj\u00e1k \u0151ket. S\u0151t, \u00fagy t\u0171nik, hogy hat\u00e9konyabbak <\/a><\/noindex>mint egy hagyom\u00e1nyos GPU. De a technol\u00f3gia m\u00e9g gyerekcip\u0151ben j\u00e1r.<\/p>\n

Mire lehet k\u00f6vetkeztetni? A lehets\u00e9ges alternat\u00edv\u00e1k megjelen\u00e9se ellen\u00e9re a vGPU egy \u00edg\u00e9retes ter\u00fclet, amely sz\u00e1mos feladat megold\u00e1s\u00e1ra k\u00e9pes. De nem mindenkinek val\u00f3. \u00cdgy h\u00e1t a vessz\u0151t a c\u00edmben tegy\u00e9tek oda magatok.<\/p>\n

P.S.<\/b>
\nIratkozzon fel az Telegram<\/a><\/noindex>-csatorn\u00e1nkra, hogy ne maradjon le a leg\u00fajabb cikk\u00fcnkr\u0151l! Hetente legfeljebb k\u00e9tszer \u00edrunk \u00e9s csak hasznos tartalommal.<\/i><\/p>\n

Csak a regisztr\u00e1lt felhaszn\u00e1l\u00f3k vehetnek r\u00e9szt a szavaz\u00e1son. K\u00e9rem, jelentkezzen be.<\/a><\/noindex>, k\u00e9rem.<\/p>\n

Haszn\u00e1l vGPU-t?<\/h2>\n