Hali: GPU pepe si duni katika utendakazi kwa suluhu za maunzi

Mnamo Februari, Stanford iliandaa mkutano juu ya utendakazi wa hali ya juu wa kompyuta (HPC). Wawakilishi wa VMware walisema kwamba wakati wa kufanya kazi na GPU, mfumo kulingana na hypervisor iliyobadilishwa ya ESXi sio duni kwa kasi ya ufumbuzi wa chuma.

Tunazungumza juu ya teknolojia ambazo zilifanya iwezekane kufikia hili.

Hali: GPU pepe si duni katika utendakazi kwa suluhu za maunzi
/ picha Victorgrigas CC BY-SA

Suala la utendaji

Kulingana na wachambuzi, karibu 70% ya mzigo wa kazi katika vituo vya data iliyoboreshwa. Walakini, 30% iliyobaki bado inaendesha kwenye chuma tupu bila hypervisors. Hii 30% mara nyingi hujumuisha programu za upakiaji wa juu, kama zile zinazohusiana na mafunzo ya mitandao ya neva, na kutumia GPU.

Wataalam wanaelezea hali hii kwa ukweli kwamba hypervisor, kama safu ya uondoaji wa kati, inaweza kuathiri utendaji wa mfumo mzima. Katika masomo ya miaka mitano iliyopita unaweza kupata data kuhusu kupunguza kasi ya kazi kwa 10%. Kwa hiyo, makampuni na waendeshaji wa kituo cha data hawana haraka ya kuhamisha mizigo ya kazi ya HPC kwenye mazingira ya mtandaoni.

Lakini teknolojia za virtualization zinaendelea na kuboresha. Katika mkutano mwezi mmoja uliopita, VMware ilisema kwamba hypervisor ya ESXi haina athari mbaya kwa utendaji wa GPU. Kasi ya kompyuta inaweza kupunguzwa kwa asilimia tatu, ambayo inalinganishwa na chuma tupu.

Jinsi gani kazi hii

Ili kuboresha utendaji wa mifumo ya HPC na GPUs, VMware imefanya mabadiliko kadhaa kwenye hypervisor. Hasa, iliondolewa kazi ya vMotion. Inahitajika kwa kusawazisha upakiaji na kwa kawaida huhamisha mashine pepe (VM) kati ya seva au GPU. Kuzima vMotion kulisababisha kila VM sasa kupewa GPU mahususi. Hii ilisaidia kupunguza gharama wakati wa kubadilishana data.

Sehemu nyingine muhimu ya mfumo ni teknolojia DirectPath I/O. Inaruhusu kiendeshi cha kompyuta sambamba cha CUDA kuingiliana na mashine pepe moja kwa moja, kupitisha hypervisor. Unapohitaji kuendesha VM kadhaa kwenye GPU moja mara moja, suluhisho la GRID vGPU linatumika. Inagawanya kumbukumbu ya kadi katika sehemu kadhaa (lakini mizunguko ya computational haijagawanywa).

Mchoro wa operesheni ya mashine mbili za kawaida katika kesi hii itaonekana kama hii:

Hali: GPU pepe si duni katika utendakazi kwa suluhu za maunzi

Matokeo na utabiri

kampuni ilifanya vipimo hypervisor kwa kufunza modeli ya lugha kulingana na TensorFlow. Utendaji "uharibifu" ulikuwa 3-4% tu ikilinganishwa na chuma tupu. Kwa kurudi, mfumo uliweza kusambaza rasilimali kwa mahitaji kulingana na mzigo wa sasa.

Mkubwa wa IT pia ilifanya vipimo na vyombo. Wahandisi wa kampuni walifundisha mitandao ya neva kutambua picha. Wakati huo huo, rasilimali za GPU moja zilisambazwa kati ya VM nne za kontena. Matokeo yake, utendaji wa mashine za kibinafsi ulipungua kwa 17% (ikilinganishwa na VM moja na upatikanaji kamili wa rasilimali za GPU). Walakini, idadi ya picha zinazochakatwa kwa sekunde iliongezeka mara tatu. Inatarajiwa kwamba mifumo kama hiyo Nitapata maombi katika uchambuzi wa data na modeli za kompyuta.

Miongoni mwa matatizo ambayo VMware inaweza kukabiliana nayo, wataalam kutenga badala finyu walengwa. Idadi ndogo ya makampuni bado wanafanya kazi na mifumo ya juu ya utendaji. Ingawa katika Statista kusherehekeakwamba kufikia mwaka wa 2021, 94% ya mzigo wa kazi wa kituo cha data duniani utakuwa umeboreshwa. Na utabiri wachambuzi, thamani ya soko la HPC itakua kutoka dola bilioni 32 hadi 45 katika kipindi cha 2017 hadi 2022.

Hali: GPU pepe si duni katika utendakazi kwa suluhu za maunzi
/ picha Global Access Point PD

Suluhisho Sawa

Kuna analogues kadhaa kwenye soko ambazo zinatengenezwa na makampuni makubwa ya IT: AMD na Intel.

Kampuni ya kwanza ya uboreshaji wa GPU inatoa mbinu kulingana na SR-IOV (uboreshaji wa pembejeo-mzizi mmoja/pato). Teknolojia hii inaipa VM ufikiaji wa sehemu ya uwezo wa maunzi ya mfumo. Suluhisho hukuruhusu kushiriki GPU kati ya watumiaji 16 na utendaji sawa wa mifumo iliyoboreshwa.

Kuhusu jitu la pili la IT, wao msingi wa teknolojia kwenye hypervisor ya Citrix XenServer 7. Inachanganya kazi ya kiendeshi cha kawaida cha GPU na mashine pepe, ambayo inaruhusu ya mwisho kuonyesha programu na kompyuta za mezani za 3D kwenye vifaa vya mamia ya watumiaji.

Mustakabali wa teknolojia

Watengenezaji wa Virtual GPU weka dau juu ya utekelezaji wa mifumo ya AI na umaarufu unaoongezeka wa ufumbuzi wa juu wa utendaji katika soko la teknolojia ya biashara. Wanatumai kuwa hitaji la kuchakata idadi kubwa ya data itaongeza mahitaji ya vGPU.

Sasa wazalishaji kutafuta njia kuchanganya utendakazi wa CPU na GPU katika msingi mmoja ili kuharakisha kutatua matatizo yanayohusiana na michoro, kufanya hesabu za hisabati, utendakazi wa kimantiki na uchakataji wa data. Kuonekana kwa cores vile kwenye soko katika siku zijazo kutabadilisha mbinu ya virtualization ya rasilimali na usambazaji wao kati ya mizigo ya kazi katika mazingira ya kawaida na ya wingu.

Nini cha kusoma kwenye mada katika blogi yetu ya ushirika:

Machapisho kadhaa kutoka kwa chaneli yetu ya Telegraph:

Chanzo: mapenzi.com

Kuongeza maoni