Kūlana: ʻaʻole haʻahaʻa nā GPU virtual i ka hana i nā ʻōnaehana hāmeʻa

I Pepeluali, ua hoʻokipa ʻo Stanford i kahi ʻaha kūkā no ka hoʻopili helu kiʻekiʻe (HPC). Ua ʻōlelo nā ʻelele VMware i ka wā e hana pū ai me kahi GPU, kahi ʻōnaehana e pili ana i kahi hypervisor ESXi i hoʻololi ʻia ʻaʻole i haʻahaʻa i ka wikiwiki i ka hāʻawi ʻana i nā hopena metala.

Ke kamaʻilio nei mākou e pili ana i nā ʻenehana i hiki ai ke hoʻokō i kēia.

Kūlana: ʻaʻole haʻahaʻa nā GPU virtual i ka hana i nā ʻōnaehana hāmeʻa
/ kiʻi Victorgrigas CC BY-SA

Pilikia hana

Wahi a ka poʻe loiloi, ma kahi o 70% o nā hana hana ma nā kikowaena data virtualized. Eia nō naʻe, ke holo nei ke koena 30% ma ka metala ʻole me ka ʻole o nā hypervisors. ʻO kēia 30% ka hapa nui o nā noi haʻahaʻa kiʻekiʻe, e like me nā mea e pili ana i ke aʻo ʻana i nā pūnaewele neural, a me ka hoʻohana ʻana i nā GPU.

Hōʻike ka poʻe akamai i kēia ʻano ma o ka hypervisor, ma ke ʻano he papa abstraction waena, hiki ke hoʻopili i ka hana o ka ʻōnaehana holoʻokoʻa. I nā haʻawina ʻelima makahiki aku nei hiki iā ʻoe ke ʻike i ka ʻikepili e pili ana i ka ho'ēmiʻana i ka wikiwiki o ka hana ma 10%. No laila, ʻaʻole wikiwiki nā ʻoihana a me nā mea kikowaena data e hoʻololi i nā hana hana HPC i kahi kaiapuni virtual.

Akā ke ulu nei nā ʻenehana virtualization a hoʻomaikaʻi. Ma kahi hālāwai kūkā i hoʻokahi mahina i hala aku nei, ua ʻōlelo ʻo VMware ʻaʻole he hopena maikaʻi ʻole ka hypervisor ESXi i ka hana GPU. Hiki ke ho'emi 'ia ka wikiwiki o ka helu helu e ekolu pakeneka, he mea like ia me ka hao wale.

Pehea hana i keia hana

No ka hoʻomaikaʻi ʻana i ka hana o nā ʻōnaehana HPC me nā GPU, ua hana ʻo VMware i kekahi mau hoʻololi i ka hypervisor. ʻO ka mea kūikawā, ua hoʻopau ʻia ka hana vMotion. Pono ia no ka hoʻoili ʻana i ka ukana a hoʻololi pinepine i nā mīkini virtual (VM) ma waena o nā kikowaena a i ʻole GPU. ʻO ka hoʻopau ʻana i ka vMotion ka hopena i kēlā me kēia VM i hāʻawi ʻia i kahi GPU kikoʻī. Ua kōkua kēia i ka hōʻemi ʻana i nā kumukūʻai ke hoʻololi i ka ʻikepili.

ʻO kekahi mea nui o ka pūnaewele he ʻenehana DirectPath I/O. Hāʻawi ia i ka mea hoʻokele helu CUDA parallel e launa pū me nā mīkini virtual, e kāpae ana i ka hypervisor. Ke pono ʻoe e holo i kekahi mau VM ma hoʻokahi GPU i ka manawa hoʻokahi, hoʻohana ʻia ka hopena GRID vGPU. Hoʻokaʻawale ia i ka hoʻomanaʻo o ke kāleka i mau ʻāpana (akā ʻaʻole i māhele ʻia nā pōʻaiapili helu).

ʻO ke kiʻikuhi hana o nā mīkini virtual ʻelua i kēia hihia e like me kēia:

Kūlana: ʻaʻole haʻahaʻa nā GPU virtual i ka hana i nā ʻōnaehana hāmeʻa

Nā hualoaʻa a me nā wānana

ʻO ka hui hana ʻia nā hoʻokolohua hypervisor ma ke aʻo ʻana i ke kumu hoʻohālike ʻōlelo ma muli o Nānā. ʻO ka hana "pōʻino" he 3-4% wale nō ke hoʻohālikelike ʻia me ka metala ʻole. I ka hoʻihoʻi ʻana, ua hiki i ka ʻōnaehana ke hāʻawi i nā kumuwaiwai ma ke koi ma muli o ka ukana o kēia manawa.

ʻO ka pilikua IT pū kekahi hana ʻia nā hoʻokolohua me nā ipu. Ua hoʻomaʻamaʻa nā ʻenekinia o ka hui i nā neural network e ʻike i nā kiʻi. I ka manawa like, ua māhele ʻia nā kumuwaiwai o hoʻokahi GPU ma waena o ʻehā pahu VM. ʻO ka hopena, ua emi ka hana o nā mīkini pākahi e 17% (hoʻohālikelike ʻia me kahi VM hoʻokahi me ke komo piha i nā kumuwaiwai GPU). Eia naʻe, ʻo ka helu o nā kiʻi i hana ʻia i kēlā me kēia kekona mahuahua ekolu manawa. Ua manaʻo ʻia ʻo ia mau ʻōnaehana e loaa nā noi ma ka ʻikepili ʻikepili a me ka hoʻohālike kamepiula.

Ma waena o nā pilikia kūpono e kū ai ʻo VMware, nā loea hoʻokaʻawale ʻoi aku ka liʻiliʻi o ka lehulehu. Ke hana nei kekahi mau hui liʻiliʻi me nā ʻōnaehana hana kiʻekiʻe. ʻOiai ma Statista hoʻolauleʻai ka makahiki 2021, 94% o nā haʻawina hana kikowaena data o ka honua e hoʻolilo ʻia. Na wanana nā mea loiloi, e ulu ka waiwai o ka mākeke HPC mai 32 a 45 biliona kālā i ka manawa mai 2017 a 2022.

Kūlana: ʻaʻole haʻahaʻa nā GPU virtual i ka hana i nā ʻōnaehana hāmeʻa
/ kiʻi Lae Komo honua PD

Nā hāʻina like

Aia kekahi mau analogues ma ka mākeke i hoʻomohala ʻia e nā hui IT nui: AMD a me Intel.

ʻO ka hui mua no GPU virtualization hāʻawi e pili ana i ka SR-IOV (hoʻokomo hoʻokomo a hoʻopukapuka hoʻokahi). Hāʻawi kēia ʻenehana i ka VM e komo i kahi ʻāpana o ka mana lako o ka ʻōnaehana. Hāʻawi ka hopena iā ʻoe e kaʻana like i ka GPU ma waena o nā mea hoʻohana 16 me ka hana like o nā ʻōnaehana virtualized.

ʻO ka lua o ka pilikua IT, ʻo lākou ʻenehana hoʻokumu ma ka hypervisor Citrix XenServer 7. Hoʻohui ia i ka hana o kahi mea hoʻokele GPU maʻamau a me kahi mīkini uila, e hiki ai i ka mea hope ke hōʻike i nā noi 3D a me nā papapihi ma nā polokalamu o nā haneli o nā mea hoʻohana.

ʻO ka wā e hiki mai ana o ka ʻenehana

Nā Mea Hoʻomohala GPU Virtual e pili i ka hoʻokō ʻana i nā ʻōnaehana AI a me ka ulu ʻana o ka kaulana o nā hopena kiʻekiʻe i ka mākeke ʻenehana ʻoihana. Manaʻo lākou ʻo ka pono e hoʻoponopono i ka nui o ka ʻikepili e hoʻonui i ka noi no nā vGPU.

I kēia manawa nā mea hana e imi ana i ala hoʻohui i ka hana o ka CPU a me ka GPU i hoʻokahi kumu e wikiwiki i ka hoʻoponopono ʻana i nā pilikia e pili ana i nā kiʻi, hana i nā helu makemakika, nā hana loiloi, a me ka hoʻoili ʻikepili. ʻO ka hiʻohiʻona o ia mau cores ma ka mākeke i ka wā e hiki mai ana e hoʻololi i ke ʻano o ka virtualization waiwai a me kā lākou hoʻoili ʻana ma waena o nā hana hana ma nā ʻona a me ke ao.

He aha kāu e heluhelu ai ma ke kumuhana ma kā mākou blog hui:

ʻElua mau pou mai kā mākou kahawai Telegram:

Source: www.habr.com

Pākuʻi i ka manaʻo hoʻopuka