{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/hu\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"A helyzet: a virtu\u00e1lis GPU-k teljes\u00edtm\u00e9nye nem marad el a hardveres megold\u00e1sokt\u00f3l","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Febru\u00e1rban Stanfordban egy konferenci\u00e1t tartottak a nagy teljes\u00edtm\u00e9ny\u0171 sz\u00e1m\u00edt\u00e1sok (HPC) t\u00e9m\u00e1j\u00e1ban. A VMware k\u00e9pvisel\u0151i elmondt\u00e1k, hogy GPU-val dolgozva a m\u00f3dos\u00edtott ESXi hipervizorral a teljes\u00edtm\u00e9ny nem marad el a bare metal megold\u00e1sokt\u00f3l.<\/p>\n

Azokr\u00f3l a technol\u00f3gi\u00e1kr\u00f3l besz\u00e9l\u00fcnk, amelyek lehet\u0151v\u00e9 tett\u00e9k ezt.<\/p>\n

\"A<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Teljes\u00edtm\u00e9nyprobl\u00e9ma<\/h2>\n

\nElemz\u0151k becsl\u00e9se szerint a k\u00f6rnyezet adatk\u00f6zpontjaiban a munkaterhel\u00e9sek k\u00f6r\u00fclbel\u00fcl 70%-a virtualiz\u00e1lva van.<\/a><\/noindex>. A fennmarad\u00f3 30% azonban tov\u00e1bbra is bare metal k\u00f6rnyezetben m\u0171k\u00f6dik hipervizorok n\u00e9lk\u00fcl. Ezek a magas terhel\u00e9s\u0171 alkalmaz\u00e1sok nagyr\u00e9szt p\u00e9ld\u00e1ul a neur\u00e1lis h\u00e1l\u00f3zatok tan\u00edt\u00e1s\u00e1hoz kapcsol\u00f3dnak, \u00e9s grafikus processzorokat haszn\u00e1lnak.<\/p>\n

Egy ilyen trendet a szak\u00e9rt\u0151k azzal magyar\u00e1zz\u00e1k, hogy a hipervizor mint k\u00f6zb\u00fcls\u0151 absztrakci\u00f3s r\u00e9teg hat\u00e1ssal lehet a rendszer teljes\u00edtm\u00e9ny\u00e9re. \u00d6t \u00e9vvel ezel\u0151tti kutat\u00e1sokban adatokat tal\u00e1lhatunk<\/a><\/noindex> a sebess\u00e9g cs\u00f6kken\u00e9s\u00e9r\u0151l 10%-kal. Ez\u00e9rt a c\u00e9gek \u00e9s az adatk\u00f6zpontok \u00fczemeltet\u0151i nem sietnek az HPC terhel\u00e9sek virtu\u00e1lis k\u00f6rnyezetbe t\u00f6rt\u00e9n\u0151 \u00e1thelyez\u00e9s\u00e9vel.<\/p>\n

De a virtualiz\u00e1ci\u00f3s technol\u00f3gi\u00e1k fejl\u0151dnek \u00e9s javulnak. Egy h\u00f3nappal ezel\u0151tt a VMware konferenci\u00e1j\u00e1n elmondt\u00e1k, hogy az ESXi hipervizor nem gyakorol negat\u00edv hat\u00e1st a GPU teljes\u00edtm\u00e9ny\u00e9re. A sz\u00e1m\u00edt\u00e1si sebess\u00e9g ak\u00e1r h\u00e1rom sz\u00e1zal\u00e9kkal is cs\u00f6kkenhet, ami \u00f6sszehasonl\u00edthat\u00f3 a bare metal teljes\u00edtm\u00e9ny\u00e9vel.<\/p>\n

Hogyan m\u0171k\u00f6dik ez<\/h2>\n

\nA HPC rendszerek grafikus processzorokkal val\u00f3 teljes\u00edtm\u00e9ny\u00e9nek fokoz\u00e1sa \u00e9rdek\u00e9ben a VMware v\u00e1ltoztat\u00e1sokat hajtott v\u00e9gre a hipervizor m\u0171k\u00f6d\u00e9s\u00e9ben. K\u00fcl\u00f6n\u00f6sen elt\u00e1vol\u00edtott\u00e1k bel\u0151le a vMotion funkci\u00f3t. Ez sz\u00fcks\u00e9ges a terhel\u00e9s kiegyens\u00falyoz\u00e1s\u00e1hoz, \u00e9s \u00e1ltal\u00e1ban virtu\u00e1lis g\u00e9pek (VM) \u00e1thelyez\u00e9s\u00e9re szolg\u00e1l serverrek vagy GPU-k k\u00f6z\u00f6tt. A vMotion kikapcsol\u00e1sa azt eredm\u00e9nyezte, hogy minden VM mostant\u00f3l egy adott grafikus processzorhoz van hozz\u00e1rendelve. Ez seg\u00edtett cs\u00f6kkenteni az adatcser\u00e9vel kapcsolatos k\u00f6lts\u00e9geket.<\/p>\n

A rendszer m\u00e1sik kulcsfontoss\u00e1g\u00fa komponense a<\/a><\/noindex> DirectPath I\/O technol\u00f3gia. Ez lehet\u0151v\u00e9 teszi, hogy a CUDA meghajt\u00f3 a p\u00e1rhuzamos sz\u00e1m\u00edt\u00e1sokhoz k\u00f6zvetlen\u00fcl l\u00e9pjen kapcsolatba a virtu\u00e1lis g\u00e9pekkel, megker\u00fclve a hipervizort. Amikor egy GPU-n t\u00f6bb VM-et kell futtatni, a GRID vGPU megold\u00e1s ker\u00fcl aktiv\u00e1l\u00e1sra. Ez a k\u00e1rtya mem\u00f3ri\u00e1j\u00e1t t\u00f6bb szegmensre osztja (de a sz\u00e1m\u00edt\u00e1si ciklusok nem oszlanak meg).<\/p>\n

A k\u00e9t virtu\u00e1lis g\u00e9p m\u0171k\u00f6d\u00e9si s\u00e9m\u00e1ja a k\u00f6vetkez\u0151k\u00e9ppen fog kin\u00e9zni:<\/p>\n

\"A<\/p>\n

Eredm\u00e9nyek \u00e9s el\u0151rejelz\u00e9sek<\/h2>\n

\nC\u00e9g teszteket v\u00e9gzett<\/a><\/noindex> hipervizort, a nyelvi modellt az alapon k\u00e9pzi TensorFlow<\/a><\/noindex>. A teljes\u00edtm\u00e9ny \"k\u00e1rosod\u00e1sa\" mind\u00f6ssze 3\u20134% volt a bare metalhoz k\u00e9pest. Cser\u00e9be a rendszer lehet\u0151s\u00e9get kapott az er\u0151forr\u00e1sok ig\u00e9ny szerinti eloszt\u00e1s\u00e1ra a pillanatnyi terhel\u00e9sek f\u00fcggv\u00e9ny\u00e9ben.<\/p>\n

Az IT \u00f3ri\u00e1s szint\u00e9n teszteket v\u00e9gzett<\/a><\/noindex> kont\u00e9nerekkel. A c\u00e9g m\u00e9rn\u00f6kei neur\u00e1lis h\u00e1l\u00f3zatokat tan\u00edtottak meg k\u00e9pek felismer\u00e9s\u00e9re. Ennek sor\u00e1n egy GPU er\u0151forr\u00e1sait n\u00e9gy kont\u00e9neres VM k\u00f6z\u00f6tt osztott\u00e1k el. Ennek eredm\u00e9nyek\u00e9nt az egyes g\u00e9pek teljes\u00edtm\u00e9nye 17%-kal cs\u00f6kkent (\u00f6sszehasonl\u00edtva egy VM-mel, amely teljes hozz\u00e1f\u00e9r\u00e9ssel rendelkezik a GPU er\u0151forr\u00e1saihoz). Azonban a feldolgozott k\u00e9pek sz\u00e1ma m\u00e1sodpercenk\u00e9nt megn\u00f6vekedett<\/a><\/noindex> h\u00e1romszoros\u00e1ra. Olyan rendszerek v\u00e1rhat\u00f3k, amelyek haszn\u00e1latban lesznek<\/a><\/noindex> az adatfeldolgoz\u00e1s \u00e9s a sz\u00e1m\u00edt\u00f3g\u00e9pes modellez\u00e9s ter\u00fclet\u00e9n.<\/p>\n

A VMware \u00e1ltal tal\u00e1lhat\u00f3 potenci\u00e1lis probl\u00e9m\u00e1k k\u00f6z\u00f6tt a szak\u00e9rt\u0151k kiemelik<\/a><\/noindex> a meglehet\u0151sen sz\u0171k c\u00e9lk\u00f6z\u00f6ns\u00e9get. A nagy teljes\u00edtm\u00e9ny\u0171 rendszerekkel m\u00e9g mindig csak n\u00e9h\u00e1ny c\u00e9g dolgozik. B\u00e1r a Statista megjegyzi<\/a><\/noindex>, hogy 2021-re m\u00e1r 94%-ra n\u0151tt a virtualiz\u00e1lt glob\u00e1lis adatk\u00f6zpontok munkaterhei. A el\u0151rejelz\u00e9sek szerint<\/a><\/noindex> az elemz\u0151k arra sz\u00e1m\u00edtanak, hogy a HPC-piac \u00e9rt\u00e9ke 32 milli\u00e1rd doll\u00e1rr\u00f3l 45 milli\u00e1rdra n\u0151 a 2017 \u00e9s 2022 k\u00f6z\u00f6tti id\u0151szakban.<\/p>\n

\"A
\n\/ \u0444\u043e\u0442\u043e Global Access Point<\/a><\/noindex> PD<\/i><\/p>\n

Hasonl\u00f3 megold\u00e1sok<\/h2>\n

\nt\u00f6bb hasonl\u00f3, nagy IT c\u00e9gek \u00e1ltal kifejlesztett alternat\u00edv megold\u00e1s tal\u00e1lhat\u00f3 a piacon: AMD \u00e9s Intel.<\/p>\n

Az els\u0151 c\u00e9g grafikus feldolgoz\u00f3k virtualiz\u00e1l\u00e1s\u00e1ra szolg\u00e1l\u00f3 megold\u00e1st k\u00edn\u00e1l aj\u00e1nlatot tesz<\/noindex> az SR-IOV (single-root input\/output virtualization) alap\u00fa megold\u00e1sra. Ez a technol\u00f3gia lehet\u0151v\u00e9 teszi a VM sz\u00e1m\u00e1ra, hogy a rendszer egyes hardveres lehet\u0151s\u00e9geihez hozz\u00e1f\u00e9rjen. A megold\u00e1s lehet\u0151v\u00e9 teszi, hogy egy GPU-t 16 felhaszn\u00e1l\u00f3 k\u00f6z\u00f6tt osszanak meg egyenletes teljes\u00edtm\u00e9nnyel a virtualiz\u00e1lt rendszerek k\u00f6z\u00f6tt.<\/p>\n

A m\u00e1sodik IT \u00f3ri\u00e1s eset\u00e9ben pedig a technol\u00f3gia alapja<\/a><\/noindex> a Citrix XenServer 7 hipervizor. Ez egyes\u00edti a standard GPU-illeszt\u0151program \u00e9s a virtu\u00e1lis g\u00e9p m\u0171k\u00f6d\u00e9s\u00e9t, lehet\u0151v\u00e9 t\u00e9ve, hogy a virtu\u00e1lis g\u00e9p 3D-alkalmaz\u00e1sokat \u00e9s asztalokat jelen\u00edtsen meg t\u00f6bb sz\u00e1z felhaszn\u00e1l\u00f3 eszk\u00f6zein.<\/p>\n

A technol\u00f3gia j\u00f6v\u0151je<\/h2>\n

\nA virtu\u00e1lis grafikus processzorok fejleszt\u0151i fogadnak<\/a><\/noindex> a mesters\u00e9ges intelligencia rendszerek bevezet\u00e9s\u00e9re \u00e9s a nagy teljes\u00edtm\u00e9ny\u0171 megold\u00e1sok ir\u00e1nti kereslet n\u00f6veked\u00e9s\u00e9re az \u00fczleti technol\u00f3gi\u00e1k piac\u00e1n. Rem\u00e9lik, hogy a nagy adatmennyis\u00e9gek feldolgoz\u00e1s\u00e1nak sz\u00fcks\u00e9gess\u00e9ge n\u00f6velni fogja a vGPU ir\u00e1nti keresletet.<\/p>\n

Jelenleg a gy\u00e1rt\u00f3k m\u00f3dot keresnek<\/a><\/noindex> a CPU \u00e9s GPU funkci\u00f3k egyes\u00edt\u00e9s\u00e9re egy magban, hogy felgyors\u00edts\u00e1k a grafikai feladatok, matematikai sz\u00e1m\u00edt\u00e1sok, logikai m\u0171veletek \u00e9s adatfeldolgoz\u00e1s v\u00e9grehajt\u00e1s\u00e1t. Az ilyen magok megjelen\u00e9se a piacon a j\u00f6v\u0151ben meg fogja v\u00e1ltoztatni a forr\u00e1svirtualiz\u00e1ci\u00f3 \u00e9s az er\u0151forr\u00e1sok munkaterhel\u00e9sek k\u00f6z\u00f6tti eloszt\u00e1s\u00e1nak megk\u00f6zel\u00edt\u00e9s\u00e9t virtu\u00e1lis \u00e9s felh\u0151 alap\u00fa k\u00f6rnyezetben.<\/p>\n

\nOlvasnival\u00f3 a t\u00e9m\u00e1ban a c\u00e9ges blogunkban:<\/p>\n