Staða: sýndar GPU eru ekki síðri í frammistöðu en vélbúnaðarlausnir

Í febrúar stóð Stanford fyrir ráðstefnu um afkastamikil tölvumál (HPC). Fulltrúar VMware sögðu að þegar unnið er með GPU er kerfi sem byggir á breyttum ESXi hypervisor ekki lakara í hraða en lausnir úr berum málmi.

Við tölum um tæknina sem gerði það mögulegt að ná þessu.

Staða: sýndar GPU eru ekki síðri í frammistöðu en vélbúnaðarlausnir
/ mynd Victorgrigas CC BY-SA

Frammistöðuvandamál

Samkvæmt sérfræðingum, um 70% af vinnuálagi í gagnaverum sýndargerð. Hins vegar keyra þau 30% sem eftir eru enn á berum málmi án hypervisors. Þessi 30% samanstanda að mestu af háhleðsluforritum, eins og þeim sem tengjast þjálfun taugakerfis og nota GPU.

Sérfræðingar útskýra þessa þróun með því að hypervisor, sem milliefnisútdráttarlag, getur haft áhrif á frammistöðu alls kerfisins. Í námi fyrir fimm árum þú getur fundið gögnin um að draga úr vinnuhraðanum um 10%. Þess vegna eru fyrirtæki og rekstraraðilar gagnavera ekkert að flýta sér að flytja HPC vinnuálag yfir í sýndarumhverfi.

En sýndarvæðingartækni er að þróast og batna. Á ráðstefnu fyrir mánuði síðan sagði VMware að ESXi hypervisor hefði ekki neikvæð áhrif á frammistöðu GPU. Hægt er að draga úr tölvuhraða um þrjú prósent, sem er sambærilegt við berum málmi.

Hvernig virkar þetta

Til að bæta frammistöðu HPC kerfa með GPU hefur VMware gert nokkrar breytingar á hypervisornum. Einkum var það losað við vMotion aðgerðina. Það er nauðsynlegt fyrir álagsjafnvægi og flytur venjulega sýndarvélar (VM) á milli netþjóna eða GPU. Slökkt var á vMotion leiddi til þess að hverjum VM var nú úthlutað ákveðinni GPU. Þetta hjálpaði til við að draga úr kostnaði við gagnaskipti.

Annar lykilþáttur kerfisins er tækni DirectPath I/O. Það gerir CUDA samhliða tölvustjóranum kleift að hafa samskipti við sýndarvélar beint og framhjá hypervisornum. Þegar þú þarft að keyra nokkrar VMs á einni GPU í einu er GRID vGPU lausnin notuð. Það skiptir minni kortsins í nokkra hluta (en reiknilotunum er ekki skipt).

Aðgerðarmynd tveggja sýndarvéla í þessu tilfelli mun líta svona út:

Staða: sýndar GPU eru ekki síðri í frammistöðu en vélbúnaðarlausnir

Niðurstöður og spár

Félagið framkvæmt próf hypervisor með því að þjálfa mállíkan byggt á TensorFlow. „Tjónið“ í frammistöðu var aðeins 3–4% miðað við berum málmi. Í staðinn gat kerfið dreift auðlindum eftir þörfum eftir núverandi álagi.

IT risinn líka framkvæmt próf með gámum. Verkfræðingar fyrirtækisins þjálfuðu taugakerfi til að þekkja myndir. Á sama tíma var auðlindum eins GPU dreift á fjögurra gáma VMs. Fyrir vikið minnkaði afköst einstakra véla um 17% (miðað við einn VM með fullan aðgang að GPU auðlindum). Hins vegar fjöldi mynda sem unnar eru á sekúndu aukist þrisvar sinnum. Gert er ráð fyrir að slík kerfi mun finna forrit í gagnagreiningu og tölvulíkönum.

Meðal hugsanlegra vandamála sem VMware gæti staðið frammi fyrir, sérfræðingar úthluta frekar þröngur markhópur. Nokkur fjöldi fyrirtækja er enn að vinna með afkastamikil kerfi. Þó í Statista fagnaað árið 2021 verði 94% af vinnuálagi gagnavera í heiminum sýndur. By spár Sérfræðingar munu verðmæti HPC markaðarins vaxa úr 32 í 45 milljarða dollara á tímabilinu 2017 til 2022.

Staða: sýndar GPU eru ekki síðri í frammistöðu en vélbúnaðarlausnir
/ mynd Alþjóðlegur aðgangsstaður PD

Svipaðar lausnir

Það eru nokkrar hliðstæður á markaðnum sem eru þróaðar af stórum upplýsingatæknifyrirtækjum: AMD og Intel.

Fyrsta fyrirtækið fyrir GPU sýndarvæðingu tilboð nálgun byggð á SR-IOV (einni rót inntak/úttak sýndarvæðing). Þessi tækni veitir VM aðgang að hluta af vélbúnaðargetu kerfisins. Lausnin gerir þér kleift að deila GPU á milli 16 notenda með jöfnum afköstum sýndarkerfa.

Hvað varðar annan upplýsingatæknirisann, þeir tækni byggð á Citrix XenServer 7 hypervisor. Hann sameinar vinnu venjulegs GPU bílstjóra og sýndarvél, sem gerir þeirri síðarnefndu kleift að sýna þrívíddarforrit og skjáborð á tækjum hundruða notenda.

Framtíð tækni

Sýndar GPU forritarar gera veðmál um innleiðingu gervigreindarkerfa og vaxandi vinsældum afkastamikilla lausna á viðskiptatæknimarkaði. Þeir vona að þörfin á að vinna mikið magn af gögnum muni auka eftirspurn eftir vGPU.

Nú framleiðendur leita leiða sameina virkni CPU og GPU í einum kjarna til að flýta fyrir lausn vandamála sem tengjast grafík, framkvæma stærðfræðilega útreikninga, rökréttar aðgerðir og gagnavinnslu. Útlit slíkra kjarna á markaðnum í framtíðinni mun breyta nálguninni á sýndarvæðingu auðlinda og dreifingu þeirra á milli vinnuálags í sýndar- og skýjaumhverfi.

Hvað á að lesa um efnið í fyrirtækjablogginu okkar:

Nokkrar færslur frá Telegram rásinni okkar:

Heimild: www.habr.com

Bæta við athugasemd