Te ahuatanga: ko nga GPU mariko kaore i te iti ake i te mahi ki nga otinga rino

I te marama o Hui-tanguru, i whakahaerehia e Stanford tetahi huihuinga mo te rorohiko mahi teitei (HPC). I kii nga rangatira o VMware i te wa e mahi tahi ana me te GPU, ko te punaha i runga i te ESXi hypervisor kua whakarerekehia kaore i te iti ake i te tere ki te whakaputa otinga whakarewa.

Ka korero matou mo nga hangarau i taea ai tenei.

Te ahuatanga: ko nga GPU mariko kaore i te iti ake i te mahi ki nga otinga rino
/ whakaahua Victorgrigas CC BY-SA

Take mahi

E ai ki nga kaitätari, mo te 70% o nga kawenga mahi i roto i nga pokapū raraunga mariko. Heoi, ko te toenga 30% kei te haere tonu i runga i nga konganuku karekau he hypervisors. Ko tenei 30% ko te nuinga o nga tono kawenga nui, penei i nga mea e pa ana ki te whakangungu i nga whatunga neural, me te whakamahi i nga GPU.

Ka whakamarama nga tohunga i tenei ahuatanga na te mea ko te hypervisor, hei paparanga tangohanga takawaenga, ka pa ki te mahi o te punaha katoa. I roto i nga akoranga e rima tau ki muri ka kitea e koe nga raraunga mo te whakaiti i te tere o te mahi ma te 10%. Na reira, kaore nga kamupene me nga kaiwhakahaere pokapū raraunga e tere ki te whakawhiti i nga mahi HPC ki te taiao mariko.

Engari kei te whanake me te pai ake nga hangarau mariko. I te huihuinga i te marama i mua, ka kii a VMware ko te ESXi hypervisor kaore he paanga kino ki te mahi GPU. Ka taea te whakaheke i te tere rorohiko ma te toru paiheneti, he rite ki te whakarewa kore.

Nahea teie ohipa

Hei whakapai ake i te mahinga o nga punaha HPC me nga GPU, he maha nga huringa a VMware ki te hypervisor. Ina koa, i whakakorehia te mahi vMotion. E hiahiatia ana mo te whakataurite kawenga me te whakawhiti i nga miihini mariko (VM) i waenga i nga kaitoro, i nga GPU ranei. Ko te whakakore i te vMotion i hua ai ka whakawhiwhia ki ia VM he GPU motuhake. I awhina tenei ki te whakaiti i nga utu ina whakawhiti raraunga.

Ko tetahi atu waahanga matua o te punaha he hangarau Ara Tika I/O. Ka taea e te taraiwa rorohiko whakarara CUDA te taunekeneke me nga miihini mariko tika, ma te maataki i te hypervisor. Ina hiahia koe ki te whakahaere i etahi VM i runga i te GPU kotahi, ka whakamahia te otinga GRID vGPU. Ka wehewehea te mahara o te kaari ki etahi waahanga (engari kaore i te wehewehea nga huringa rorohiko).

Ko te hoahoa mahi o nga miihini mariko e rua i tenei keehi ka penei te ahua:

Te ahuatanga: ko nga GPU mariko kaore i te iti ake i te mahi ki nga otinga rino

Nga hua me nga matapae

Firm i whakahaerehia nga whakamatautau hypervisor ma te whakangungu i te tauira reo i runga TensorFlow. Ko te mahi "kino" he 3-4% noa iho i whakaritea ki te whakarewa kore. Hei utu, ka taea e te punaha te tohatoha rauemi i runga i te tono i runga i te kawenga o naianei.

Ko te Rapa IT hoki i whakahaerehia nga whakamatautau me nga ipu. I whakangungua e nga miihini a te kamupene nga whatunga neural ki te mohio ki nga whakaahua. I te wa ano, i tohatohahia nga rauemi o te GPU kotahi ki roto i nga VM ipu e wha. Ko te mutunga, kua heke te mahi o nga miihini takitahi i te 17% (i whakaritea ki te VM kotahi me te uru katoa ki nga rauemi GPU). Heoi, ko te maha o nga whakaahua ka tukatukahia ia hekona nui haere e toru nga wa. Ko te tumanako ka penei nga punaha ka kitea tono i roto i te tātari raraunga me te whakatauira rorohiko.

I roto i nga raru pea ka pa ki a VMware, nga tohunga tohatoha he iti noa te hunga whakarongo. He iti noa nga kamupene kei te mahi tonu me nga punaha mahi teitei. Ahakoa kei Statista whakanuihei te tau 2021, 94% o nga kawenga mahi a te pokapu raraunga o te ao ka mariko. Na matapae kaitätari, ka piki te wariu o te maakete HPC mai i te 32 ki te 45 piriona taara i te waa mai i te 2017 ki te 2022.

Te ahuatanga: ko nga GPU mariko kaore i te iti ake i te mahi ki nga otinga rino
/ whakaahua Waahi Uru o te Ao PD

He rite nga otinga

He maha nga taatai ​​​​i runga i te maakete e whakawhanakehia ana e nga kamupene IT nui: AMD me Intel.

Ko te kamupene tuatahi mo te mariko GPU tuku te huarahi i runga i te SR-IOV (kotahi-pakiaka whakauru / putanga mariko). Ma tenei hangarau ka uru te VM ki tetahi waahanga o nga taputapu taputapu o te punaha. Ko te otinga ka taea e koe te tiri i te GPU i waenga i nga kaiwhakamahi 16 me te rite o nga mahi o nga punaha mariko.

Ko te tuarua o te Rapa IT, ko ratou hanga hangarau i runga i te hypervisor Citrix XenServer 7. Ka whakakotahihia e ia nga mahi a te taraiwa GPU paerewa me te miihini mariko, ka taea e te hunga whakamutunga te whakaatu i nga tono 3D me nga papamahi i runga i nga taputapu o nga rau o nga kaiwhakamahi.

Te heke mai o te hangarau

Kaiwhakawhanake GPU Mariko hanga peti i runga i te whakatinanatanga o nga punaha AI me te piki haere o te rongonui o nga otinga tino mahi i roto i te maakete hangarau pakihi. Kei te tumanako ratou ko te hiahia ki te tukatuka i te nui o nga raraunga ka piki ake te tono mo nga vGPU.

Inaianei nga kaihanga rapu huarahi whakakotahi i te mahi o te PTM me te GPU i roto i te kaupapa kotahi kia tere ake te whakaoti rapanga e pa ana ki nga whakairoiro, te mahi i nga tatauranga pangarau, nga mahi arorau, me te tukatuka raraunga. Ko te ahua o enei momo matua i runga i te maakete i nga wa kei te heke mai ka huri i te huarahi ki te mariko rauemi me o raatau tohatoha i waenga i nga mahi i roto i nga taiao mariko me te kapua.

He aha te panui mo te kaupapa i roto i ta maatau blog umanga:

E rua nga panui mai i ta maatau hongere Telegram:

Source: will.com

Tāpiri i te kōrero