Tulaga: e le maualalo le faʻatinoga o GPU faʻapitoa i fofo uʻamea

Ia Fepuari, na talimalo ai Stanford i se konafesi i luga o le komipiuta maualuga (HPC). Fai mai sui o le VMware pe a galulue ma se GPU, o se faiga e faʻavae i luga o le ESXi hypervisor ua suia e le maualalo i le saoasaoa e faʻaalia ai fofo uʻamea.

Matou te talanoa e uiga i tekinolosi na mafai ai ona ausia lenei mea.

Tulaga: e le maualalo le faʻatinoga o GPU faʻapitoa i fofo uʻamea
/ ata Victorgrigas CC BY-SA

Fa'afitauli fa'atinoga

E tusa ai ma le au suʻesuʻe, e tusa ma le 70% o galuega mamafa i nofoaga autu o faʻamaumauga fa'amasani. Ae ui i lea, o le 30% o loʻo totoe o loʻo faʻaauau pea i luga o uʻamea e leai ni faʻamaʻi. O lenei 30% e tele lava e aofia ai talosaga maualuga, e pei o mea e fesoʻotaʻi ma aʻoaʻoga neural networks, ma le faʻaaogaina o GPU.

E faʻamatalaina e le au popoto lenei tulaga e ala i le mea moni e faapea o le hypervisor, e avea o se vaega vaʻavaʻa, e mafai ona aʻafia ai le faʻatinoga o le faiga atoa. I suʻesuʻega i le lima tausaga talu ai e mafai ona e mauaina faʻamatalaga e uiga i le faʻaitiitia o le saoasaoa o galuega i le 10%. O le mea lea, o kamupani ma fa'alapotopotoga o fa'amaumauga e le'o fa'anatinati e fa'afeiloa'i atu galuega a le HPC i se si'osi'omaga.

Ae o tekinolosi faʻatekonolosi o loʻo atinaʻe ma faʻaleleia. I se konafesi i le masina talu ai, na fai mai ai VMware o le ESXi hypervisor e leai se aʻafiaga leaga i le GPU. O le saoasaoa o komepiuta e mafai ona faʻaititia i le tolu pasene, lea e faʻatusatusa i le uamea.

E faapefea e lenei galuega

Ina ia faʻaleleia le faʻatinoga o faiga HPC ma GPU, ua faia e VMware le tele o suiga i le hypervisor. Aemaise lava, na faʻaumatia le galuega vMotion. E manaʻomia mo le paleni o uta ma masani ona faʻafeiloaʻi masini masini (VMs) i le va o sapalai poʻo GPU. O le fa'aletonu o le vMotion na mafua ai ona tu'uina atu i VM ta'itasi se GPU fa'apitoa. Na fesoasoani lea i le fa'aitiitia o tau pe a fesuia'i fa'amaumauga.

O le isi vaega autu o le faiga o tekinolosi DirectPath I/O. E fa'ataga ai le aveta'avale fa'akomepiuta fa'atusa a le CUDA e fegalegaleai sa'o ma masini fa'apitoa, fa'asaga i le hypervisor. A e manaʻomia le taʻavale tele o VM i le tasi GPU i le taimi e tasi, o le GRID vGPU solution e faʻaaogaina. E vaevae le mafaufau o le kata i ni vaega (ae le o vaevaeina le taamilosaga o faʻatusatusaga).

O le faʻataʻitaʻiga o masini masini e lua i lenei tulaga o le a pei o lenei:

Tulaga: e le maualalo le faʻatinoga o GPU faʻapitoa i fofo uʻamea

I'uga ma valo'aga

Igoa faia su'ega hypervisor e ala i le a'oa'oina o se fa'ata'ita'iga gagana e fa'atatau i TensorFlow. O le faʻatinoga o le "faʻaleagaina" na o le 3-4% pe a faʻatusatusa i le uamea. I le taui, na mafai e le faiga ona tufatufa atu punaoa i luga o le manaʻoga e faʻatatau i le uta o loʻo iai nei.

Le IT tele foi faia su'ega ma koneteina. Na a'oa'oina e inisinia a le kamupani ia neural network e iloa ai ata. I le taimi lava e tasi, o punaoa a le tasi GPU na tufatufa atu i totonu o pusa VM e fa. O se taunuuga, o le faʻatinoga o masini taʻitasi na faʻaitiitia i le 17% (faʻatusatusa i le VM e tasi ma le avanoa atoatoa i punaoa GPU). Ae ui i lea, o le numera o ata na faʻagasolo ile sekone faateleina faatolu. E iai le faamoemoe o ia faiga o le a maua fa'aoga i su'esu'ega fa'amaumauga ma fa'ata'ita'iga komepiuta.

Faatasi ai ma faʻafitauli faʻafitauli e ono feagai ma VMware, tagata atamamai fa'asoa e vaapiapi le au maimoa. O lo'o galulue pea se vaega to'aitiiti o kamupani ma faiga fa'atino maualuga. E ui lava i Statista faamanatue oʻo atu i le 2021, 94% o faʻamaumauga o faʻamaumauga a le lalolagi o le a faʻamaonia. E valo'aga tagata suʻesuʻe, o le tau o le maketi HPC o le a tupu mai le 32 i le 45 piliona tala i le vaitau mai le 2017 i le 2022.

Tulaga: e le maualalo le faʻatinoga o GPU faʻapitoa i fofo uʻamea
/ ata Global Avanoa Point PD

Fofo tutusa

E i ai le tele o analogues i luga o le maketi o loʻo atiaʻe e kamupani tele IT: AMD ma Intel.

Le kamupani muamua mo le GPU virtualization ofo auala e faʻavae i luga o le SR-IOV (le-root input/output virtualization). O lenei tekinolosi e maua ai e le VM le avanoa i se vaega o le faʻaogaina o meafaigaluega. O le fofo e mafai ai ona e faʻasoa le GPU i le va o le 16 tagata faʻaoga faʻatasi ma le faʻatinoga tutusa o faiga faʻapitoa.

Ae mo le lona lua IT tele, latou fa'avae tekonolosi i luga o le hypervisor Citrix XenServer 7. E tuʻufaʻatasia le galuega a se avetaʻavale GPU masani ma se masini masini, lea e mafai ai e le tagata mulimuli ona faʻaalia talosaga 3D ma komepiuta i luga o masini a le faitau selau o tagata faʻaoga.

Lumanai o tekinolosi

Virtual GPU Atina'e fai se peti i luga o le faʻatinoina o faiga faʻaoga AI ma le faʻatupulaia o le lauiloa o fofo maualuga i le maketi tekonolosi pisinisi. Latou te faʻamoemoe o le manaʻoga e faʻatautaia le tele o faʻamaumauga o le a faʻateleina ai le manaʻoga mo vGPUs.

Lenei tagata gaosi oloa saili mo se auala tu'ufa'atasia le fa'atinoga o le PPU ma le GPU i le tasi autu e fa'avave ai le fo'ia o fa'afitauli e feso'ota'i ma ata, fa'atino fa'atatau o le matematika, fa'agaioiga fa'atatau, ma fa'agaioiga fa'amaumauga. O le faʻaalia o ia mea i luga o le maketi i le lumanaʻi o le a suia ai le auala i le faʻaogaina o punaoa ma lo latou tufatufaina atu i le va o galuega i totonu o le siosiomaga ma le ao.

O le a le mea e faitau i luga o le autu i la matou blog pisinisi:

O nai pou mai la matou auala Telegram:

puna: www.habr.com

Faaopoopo i ai se faamatalaga