{"id":42117,"date":"2019-03-18T00:00:00","date_gmt":"2019-03-17T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam"},"modified":"2020-02-18T13:44:55","modified_gmt":"2020-02-18T10:44:55","slug":"situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/da\/blog\/administrirovanie\/situatsiya-virtualnye-gpu-ne-ustupayut-po-proizvoditelnosti-zheleznym-resheniyam","title":{"rendered":"Situation: virtuelle GPU er ikke mindre pr\u00e6cise end fysiske l\u00f8sninger","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

I februar blev der afholdt en konference i Stanford, der fokuserede p\u00e5 h\u00f8jtydende beregninger (HPC). Repr\u00e6sentanter fra VMware fortalte, at et system baseret p\u00e5 den modificerede hypervisor ESXi ikke er langsommere end bare metal-l\u00f8sninger, n\u00e5r det arbejder med GPU.<\/p>\n

Vi fort\u00e6ller om de teknologier, der har gjort dette muligt.<\/p>\n

\"Situation:<\/a><\/noindex><\/a><\/noindex>
\n\/ \u0444\u043e\u0442\u043e Victorgrigas<\/a><\/noindex> CC BY-SA<\/a><\/noindex><\/i><\/p>\n

Ydelsesproblem<\/h2>\n

\nIf\u00f8lge analytikere er omkring 70% af arbejdsbyrderne i datacentre virtualiseret<\/a><\/noindex>. De resterende 30% k\u00f8rer dog stadig p\u00e5 bare metal uden hypervisorer. Disse 30% best\u00e5r hovedsageligt af h\u00f8jtydende applikationer, som for eksempel relaterer til tr\u00e6ning af neurale netv\u00e6rk og bruger grafiske processorer.<\/p>\n

Eksperter forklarer denne tendens med, at hypervisoren som et mellemled kan influere p\u00e5 systemets samlede ydelse. I unders\u00f8gelser fra for fem \u00e5r siden kan man finde data<\/a><\/noindex> om et fald i hastigheden p\u00e5 10%. Derfor skynder virksomheder og datacenteroperat\u00f8rer sig ikke med at flytte HPC-arbejdsbyrder til et virtuelt milj\u00f8.<\/p>\n

Men virtualiseringsteknologierne udvikler sig og forbedres. P\u00e5 konferencen for en m\u00e5ned siden fortalte VMware, at hypervisoren ESXi ikke har negativ indflydelse p\u00e5 GPU-ydeevnen. Beregningshastigheden kan falde med tre procent, hvilket svarer til pr\u00e6stationer fra bare metal.<\/p>\n

Hvordan fungerer det<\/h2>\n

\nFor at forbedre HPC-systemers ydeevne med grafiske processorer har VMware foretaget en r\u00e6kke \u00e6ndringer i hypervisorens funktionalitet. Is\u00e6r har de fjernet funktionen vMotion. Den er n\u00f8dvendig for belastningsbalancering og flytter normalt virtuelle maskiner (VM) mellem servere eller GPU'er. En deaktivering af vMotion har resulteret i, at hver VM nu er knyttet til en bestemt grafisk processor. Dette har bidraget til at reducere omkostningerne ved dataudveksling.<\/p>\n

En anden vigtig komponent i systemet er teknologien<\/a><\/noindex> DirectPath I\/O. Den tillader CUDA-driveren til parallelle beregninger at interagere med virtuelle maskiner direkte, uden om hypervisoren. N\u00e5r flere VMer skal k\u00f8res p\u00e5 en GPU, benyttes l\u00f8sningen GRID vGPU. Den opdeler grafikkortets hukommelse i flere segmenter (men beregningscyklusserne deles ikke).<\/p>\n

Arbejdsdiagrammet for to virtuelle maskiner vil i dette tilf\u00e6lde se s\u00e5ledes ud:<\/p>\n

\"Situation:<\/p>\n

Resultater og prognoser<\/h2>\n

\nVirksomheden har udf\u00f8rt tests<\/a><\/noindex> hypervisoren ved at tr\u00e6ne en sprogmodel baseret p\u00e5 TensorFlow<\/a><\/noindex>. \"Skaden\" p\u00e5 ydeevnen udgjorde kun 3\u20134% sammenlignet med bare metal. Til geng\u00e6ld fik systemet mulighed for at fordele ressourcerne efter behov afh\u00e6ngigt af de aktuelle belastninger.<\/p>\n

IT-giganten har ogs\u00e5 udf\u00f8rt tests<\/a><\/noindex> med containere. Ingeni\u00f8rer i virksomheden tr\u00e6nede neurale netv\u00e6rk til at genkende billeder. Her blev ressourcerne fra \u00e9n GPU delt mellem fire container-baserede VM\u2019er. Som et resultat faldt ydeevnen for de enkelte maskiner med 17% (sammenlignet med \u00e9n VM, der havde fuld adgang til GPU-ressourcerne). Men antallet af behandlede billeder per sekund \u00f8gedes<\/a><\/noindex> med tre gange. Det forventes, at lignende systemer vil finde<\/a><\/noindex> anvendelse inden for dataanalyse og computerbaseret modellering.<\/p>\n

Blandt de potentielle problemer, som VMware kan st\u00f8de p\u00e5, fremh\u00e6ver eksperter en ret smal m\u00e5lgruppe. Der er stadig kun et lille antal virksomheder, der arbejder med h\u00f8jtydende systemer. Selvom Statista<\/a><\/noindex> bem\u00e6rker, at 94% af de globale datacentre vil v\u00e6re virtualiserede inden 2021. If\u00f8lge prognoserne<\/a><\/noindex>fra analytikere forventes v\u00e6rdien af HPC-markedet at stige fra 32 til 45 milliarder dollars i perioden fra 2017 til 2022. Global Access Point<\/a><\/noindex> PD<\/p>\n

\"Situation:
\n\/ \u0444\u043e\u0442\u043e Lignende l\u00f8sninger<\/a><\/noindex> Der findes flere alternativer p\u00e5 markedet, som store IT-virksomheder udvikler: AMD og Intel.<\/i><\/p>\n

Det f\u00f8rste selskab til virtualisering af grafiske processorer<\/h2>\n

\nbruger en tilgang baseret p\u00e5 SR-IOV (single-root input\/output virtualization). Denne teknologi giver VM adgang til dele af systemets hardwarekapacitet. L\u00f8sningen muligg\u00f8r deling af en GPU mellem 16 brugere med lig med ydeevne for de virtualiserede systemer.<\/p>\n

Hvad ang\u00e5r det andet IT-gigant, er deres tilbyder<\/noindex> teknologi baseret p\u00e5 hypervisoren Citrix XenServer 7. Det kombinerer arbejdet mellem standard GPU-driveren og den virtuelle maskine, hvilket g\u00f8r det muligt for den sidstn\u00e6vnte at vise 3D-applikationer og desktopper p\u00e5 enheder for hundredvis af brugere.<\/p>\n

Fremtiden for teknologien Udviklere af virtuelle grafiske processorer<\/a><\/noindex> satser p\u00e5<\/p>\n

Fremtiden for teknologi<\/h2>\n

\nUdviklere af virtuelle grafiske processorer satser<\/a><\/noindex> med implementeringen af AI-systemer og den stigende popularitet af h\u00f8jtydende l\u00f8sninger p\u00e5 markedet for virksomhedsteknologi. De h\u00e5ber, at behovet for behandling af store datam\u00e6ngder vil \u00f8ge eftersp\u00f8rgslen efter vGPU.<\/p>\n

Lige nu s\u00f8ger producenterne en m\u00e5de<\/a><\/noindex> at kombinere funktionaliteten af CPU og GPU i en enkelt kerne for at fremskynde l\u00f8sningen af opgaver relateret til grafik, udf\u00f8relse af matematiske beregninger, logiske operationer og datah\u00e5ndtering. Fremkomsten af s\u00e5danne kerner p\u00e5 markedet i fremtiden vil \u00e6ndre tilgangen til virtualisering af ressourcer og deres fordeling mellem arbejdsbyrder i virtuelle og cloud-milj\u00f8er.<\/p>\n

\nHvad du kan l\u00e6se om emnet i vores virksomhedsblog:<\/p>\n