Suidheachadh: chan eil GPUs brìgheil nas ìsle ann an coileanadh ri fuasglaidhean bathar-cruaidh

Anns a’ Ghearran, chùm Stanford co-labhairt air coimpiutaireachd àrd-choileanadh (HPC). Thuirt riochdairean VMware, nuair a bhios iad ag obair le GPU, nach eil siostam stèidhichte air hypervisor ESXi atharraichte nas ìsle na luaths na fuasglaidhean meatailt lom.

Tha sinn a 'bruidhinn mu na teicneòlasan a rinn e comasach seo a choileanadh.

Suidheachadh: chan eil GPUs brìgheil nas ìsle ann an coileanadh ri fuasglaidhean bathar-cruaidh
/ dealbh Victorgrigas CC BY-SA

Cùis coileanaidh

A rèir sgrùdairean, mu 70% de eallach obrach ann an ionadan dàta mas-fhìor. Ach, tha an 30% a tha air fhàgail fhathast a’ ruith air meatailt lom gun hypervisors. Tha an 30% seo sa mhòr-chuid a’ toirt a-steach tagraidhean làn luchd, leithid an fheadhainn co-cheangailte ri trèanadh lìonraidhean neural, agus cleachdadh GPUs.

Bidh eòlaichean a 'mìneachadh a' ghluasaid seo leis an fhìrinn gum faod an hypervisor, mar ìre tarraing eadar-mheadhanach, buaidh a thoirt air coileanadh an t-siostaim gu lèir. Ann an sgrùdaidhean còig bliadhna air ais gheibh thu an dàta mu bhith a 'lùghdachadh astar na h-obrach le 10%. Mar sin, chan eil companaidhean agus luchd-obrachaidh ionadan dàta ann an cabhag sam bith gus eallach obrach HPC a ghluasad gu àrainneachd bhrìgheil.

Ach tha teicneòlasan virtualization a 'leasachadh agus a' leasachadh. Aig co-labhairt o chionn mìos, thuirt VMware nach eil an hypervisor ESXi a 'toirt droch bhuaidh air coileanadh GPU. Faodar astar coimpiutaireachd a lùghdachadh trì sa cheud, a tha an coimeas ri meatailt lom.

Ciamar a tha an obair seo

Gus coileanadh siostaman HPC le GPUs a leasachadh, tha VMware air grunn atharrachaidhean a dhèanamh air an hypervisor. Gu sònraichte, chaidh cur às don ghnìomh vMotion. Tha feum air airson cothromachadh luchdan agus mar as trice bidh e a’ gluasad innealan brìgheil (VMan) eadar frithealaichean no GPUs. Le bhith a’ comasachadh vMotion chaidh GPU sònraichte a thoirt do gach VM a-nis. Chuidich seo le bhith a’ lughdachadh chosgaisean nuair a thathar ag iomlaid dàta.

Prìomh phàirt eile den t-siostam tha teicneòlas DirectPath I/O. Leigidh e leis an draibhear coimpiutaireachd co-shìnte CUDA eadar-obrachadh le innealan brìgheil gu dìreach, a ’dol seachad air an hypervisor. Nuair a dh’ fheumas tu grunn VM a ruith air aon GPU aig an aon àm, thèid am fuasgladh GRID vGPU a chleachdadh. Bidh e a’ roinn cuimhne na cairt gu grunn earrannan (ach chan eil na cuairtean coimpiutaireachd air an roinn).

Bidh an diagram obrachaidh de dhà inneal brìgheil sa chùis seo a’ coimhead mar seo:

Suidheachadh: chan eil GPUs brìgheil nas ìsle ann an coileanadh ri fuasglaidhean bathar-cruaidh

Toraidhean agus ro-innsean

A 'chompanaidh deuchainnean air an dèanamh hypervisor le bhith a’ trèanadh modail cànain stèidhichte air TensorFlow. Cha robh an coileanadh “milleadh” ach 3-4% an taca ri meatailt lom. Mar dhuais, bha e comasach don t-siostam goireasan a sgaoileadh a rèir iarrtas a rèir an luchd gnàthach.

Am fuamhaire IT cuideachd deuchainnean air an dèanamh le soithichean. Rinn innleadairean na companaidh trèanadh do lìonraidhean neural gus ìomhaighean aithneachadh. Aig an aon àm, chaidh goireasan aon GPU a sgaoileadh am measg ceithir VMan container. Mar thoradh air an sin, chaidh coileanadh innealan fa leth sìos 17% (an taca ri aon VM le làn chothrom air goireasan GPU). Ach, tha an àireamh de dhealbhan air an giullachd gach diog àrdachadh trì tursan. Thathas an dùil gum bi leithid de shiostaman lorgaidh iarrtasan ann am mion-sgrùdadh dàta agus modaladh coimpiutair.

Am measg nan duilgheadasan a dh’ fhaodadh a bhith aig VMware, tha eòlaichean riarachadh luchd-amais cuimseach caran cumhang. Tha àireamh bheag de chompanaidhean fhathast ag obair le siostaman àrd-choileanaidh. Ged a tha e ann an Statista comharrachadhgum bi 2021% de eallach obrach ionad dàta an t-saoghail air a dhèanamh brìgheil ro 94. Le bhith ro-aithrisean sgrùdairean, fàsaidh luach margaidh HPC bho 32 gu 45 billean dolar anns an ùine bho 2017 gu 2022.

Suidheachadh: chan eil GPUs brìgheil nas ìsle ann an coileanadh ri fuasglaidhean bathar-cruaidh
/ dealbh Puing ruigsinneachd cruinne PD

Fuasglaidhean coltach ris

Tha grunn analogues air a 'mhargaid a tha air an leasachadh le companaidhean mòra IT: AMD agus Intel.

A 'chiad chompanaidh airson GPU virtualization tairgsean dòigh-obrach stèidhichte air SR-IOV (toirt a-steach / toradh aon-fhillte). Bheir an teicneòlas seo cothrom don VM pàirt de chomas bathar-cruaidh an t-siostaim. Leigidh am fuasgladh leat an GPU a cho-roinn eadar luchd-cleachdaidh 16 le coileanadh co-ionann de shiostaman brìgheil.

A thaobh an dàrna fuamhaire IT, tha iad stèidhichte air teicneòlas air hypervisor Citrix XenServer 7. Bidh e a’ cothlamadh obair draibhear GPU àbhaisteach agus inneal brìgheil, a leigeas leis an fhear mu dheireadh tagraidhean 3D agus deasg a thaisbeanadh air innealan ceudan de luchd-cleachdaidh.

Teicneòlas san àm ri teachd

Luchd-leasachaidh Virtual GPU cuir geall air buileachadh siostaman AI agus mar a tha fuasglaidhean àrd-choileanaidh a’ sìor fhàs ann am margaidh teicneòlas gnìomhachais. Tha iad an dòchas gun àrdaich an fheum air tomhas mòr de dhàta iarrtas airson vGPUn.

A-nis luchd-saothrachaidh a’ coimhead airson dòigh cothlamadh gnìomhachd an CPU agus GPU ann an aon chridhe gus fuasgladh fhaighinn air duilgheadasan co-cheangailte ri grafaigean, coileanadh àireamhachadh matamataigeach, obrachaidhean loidsigeach, agus giullachd dàta. Bidh coltas choraichean mar sin air a’ mhargaidh san àm ri teachd ag atharrachadh an dòigh-obrach a thaobh virtualization ghoireasan agus an cuairteachadh eadar eallach obrach ann an àrainneachdan brìgheil agus sgòthan.

Na tha ri leughadh air a’ chuspair anns a’ bhlog chorporra againn:

Post no dhà bhon t-sianal Telegram againn:

Source: www.habr.com

Cuir beachd ann