En februaro, Stanfordo aranĝis konferencon pri alt-efikeca komputado (HPC). Reprezentantoj de VMware diris, ke kiam oni laboras kun GPU, sistemo bazita sur modifita ESXi-hiperviziero ne malsuperas rapidecon ol nudaj metalaj solvoj.
Ni parolas pri la teknologioj, kiuj ebligis tion atingi.
/ foto
Problemo de rendimento
Laŭ analizistoj, ĉirkaŭ 70% de laborŝarĝoj en datumcentroj . Tamen, la ceteraj 30% ankoraŭ funkcias sur nuda metalo sen hiperviziiloj. Ĉi tiu 30% plejparte konsistas el altŝarĝaj aplikoj, kiel tiuj rilataj al trejnado de neŭralaj retoj kaj uzado de GPUoj.
Fakuloj klarigas ĉi tiun tendencon per la fakto, ke la hiperviziero, kiel meza abstrakta tavolo, povas influi la agadon de la tuta sistemo. En studoj antaŭ kvin jaroj pri redukto de la rapideco de laboro je 10%. Sekve, kompanioj kaj datumcentraj funkciigistoj ne rapidas transdoni HPC-laborŝarĝojn al virtuala medio.
Sed virtualaj teknologioj disvolviĝas kaj pliboniĝas. En konferenco antaŭ monato, VMware diris, ke la hiperviziero ESXi ne havas negativan efikon al GPU-agado. Komputilrapideco povas esti reduktita je tri procentoj, kio estas komparebla al nuda metalo.
Kiel tio funkcias
Por plibonigi la agadon de HPC-sistemoj kun GPUoj, VMware faris kelkajn ŝanĝojn al la hiperviziero. Aparte, ĝi estis senigita de la vMotion-funkcio. Ĝi estas bezonata por ŝarĝoekvilibro kaj kutime transdonas virtualajn maŝinojn (VM) inter serviloj aŭ GPUoj. Malŝalti vMotion rezultigis, ke ĉiu VM nun estas asignita specifa GPU. Ĉi tio helpis redukti kostojn dum interŝanĝado de datumoj.
Alia ŝlosila komponanto de la sistemo DirectPath I/O. Ĝi permesas al la CUDA paralela komputikŝoforo interagi kun virtualaj maŝinoj rekte, preterirante la hipervizion. Kiam vi devas ruli plurajn VM-ojn sur unu GPU samtempe, la solvo GRID vGPU estas uzata. Ĝi dividas la memoron de la karto en plurajn segmentojn (sed la komputilaj cikloj ne estas dividitaj).
La funkcia diagramo de du virtualaj maŝinoj ĉi-kaze aspektos jene:
Rezultoj kaj prognozoj
Firmao hiperviziero per trejnado de lingvomodelo bazita sur . La agado "damaĝo" estis nur 3-4% kompare kun nuda metalo. Kontraŭe, la sistemo povis distribui rimedojn laŭ postulo depende de la nuna ŝarĝo.
La IT-giganto ankaŭ kun ujoj. La inĝenieroj de la firmao trejnis neŭralajn retojn por rekoni bildojn. En la sama tempo, la resursoj de unu GPU estis distribuitaj inter kvar konteneraj VM-oj. Kiel rezulto, la rendimento de individuaj maŝinoj malpliiĝis je 17% (kompare kun ununura VM kun plena aliro al GPU-resursoj). Tamen, la nombro da bildoj prilaboritaj sekundo trioble. Estas atendite ke tiaj sistemoj aplikoj en datuma analizo kaj komputila modeligado.
Inter la eblaj problemoj, kiujn VMware povas alfronti, spertuloj sufiĉe malvasta celgrupo. Malmulto da kompanioj ankoraŭ laboras kun alt-efikecaj sistemoj. Kvankam en Statista ke antaŭ 2021, 94% de la datumcentraj laborkvantoj de la mondo estos virtualigitaj. De analizistoj, la valoro de la HPC-merkato kreskos de 32 ĝis 45 miliardoj da dolaroj en la periodo de 2017 ĝis 2022.
/ foto PD
Similaj solvoj
Estas pluraj analogoj sur la merkato, kiuj estas evoluigitaj de grandaj IT-kompanioj: AMD kaj Intel.
La unua firmao por GPU-virtualigo aliro bazita sur SR-IOV (unu-radika enigo/eliga virtualigo). Ĉi tiu teknologio donas al la VM aliron al parto de la aparataj kapabloj de la sistemo. La solvo permesas dividi la GPU inter 16 uzantoj kun egala rendimento de virtualigitaj sistemoj.
Koncerne al la dua IT-giganto, ili sur la hiperviziero Citrix XenServer 7. Ĝi kombinas la laboron de norma GPU-ŝoforo kaj virtuala maŝino, kiu permesas al ĉi-lasta montri 3D-aplikaĵojn kaj labortablojn sur la aparatoj de centoj da uzantoj.
Estonteco de teknologio
Virtualaj GPU-Programistoj pri la efektivigo de AI-sistemoj kaj la kreskanta populareco de alt-efikecaj solvoj en la komerca teknologia merkato. Ili esperas, ke la bezono prilabori grandajn kvantojn da datumoj pliigos postulon je vGPUoj.
Nun fabrikantoj kombini la funkciojn de la CPU kaj GPU en unu kerno por akceli solvi problemojn rilatajn al grafiko, farante matematikajn kalkulojn, logikaj operacioj kaj datumtraktado. La apero de tiaj kernoj sur la merkato estonte ŝanĝos la aliron al rimedvirtualigo kaj ilian distribuon inter laborŝarĝoj en virtualaj kaj nubaj medioj.
Kion legi pri la temo en nia kompania blogo:
Kelkaj afiŝoj de nia Telegram-kanalo:
fonto: www.habr.com