Rewş: GPU-yên virtual di performansê de ji çareseriyên hardware ne kêmtir in

Di Sibatê de, Stanford konferansek li ser komputera performansa bilind (HPC) li dar xist. Nûnerên VMware gotin ku dema ku bi GPU re dixebitin, pergalek ku li ser hîpervisorek guherbar ESXi-yê hatî guheztin di lezê de ji çareseriyên metal ên tazî ne kêmtir e.

Em li ser teknolojiyên ku îmkana bidestxistina vê yekê diaxivin.

Rewş: GPU-yên virtual di performansê de ji çareseriyên hardware ne kêmtir in
/ wêne Victorgrigas CC BY-SA

Pirsgirêka performansê

Li gorî analîstan, li ser 70% ji bargiraniyên di navendên daneyê de virtual kirin. Lêbelê, 30% mayî hîn jî li ser metalê tazî bêyî hîpervisor dimeşe. Ev 30% bi piranî ji serîlêdanên bargiraniya bilind pêk tê, wekî yên ku bi perwerdekirina torên neuralî, û karanîna GPU-yê ve girêdayî ne.

Pispor vê meylê bi vê yekê rave dikin ku hîpervisor, wekî qatek abstraksiyonê ya navîn, dikare bandorê li performansa tevahiya pergalê bike. Di lêkolînên pênc sal berê de hûn dikarin daneyan bibînin derbarê kêmkirina leza kar bi %10. Ji ber vê yekê, pargîdan û operatorên navenda daneyê ji bo veguheztina barkêşên HPC-ê ji hawîrdorek virtual re lez nakin.

Lê teknolojiyên virtualîzasyonê pêşve diçin û pêşde diçin. Di konferansek mehek berê de, VMware got ku hîpervisorê ESXi bandorek neyînî li ser performansa GPU nake. Leza kompîturê dikare ji sedî sê kêm bibe, ku bi metala tazî re tê berhev kirin.

Çawa ev karê

Ji bo baştirkirina performansa pergalên HPC-ê bi GPU-yan, VMware di hypervisor de gelek guhertin çêkiriye. Bi taybetî, ew ji fonksiyona vMotion xilas bû. Ew ji bo hevsengkirina barkirinê hewce ye û bi gelemperî makîneyên virtual (VM) di navbera server an GPU de vediguhezîne. Neçalakkirina vMotion bû sedem ku her VM naha GPUyek taybetî were destnîşan kirin. Vê yekê di dema danûstandina daneyan de lêçûn kêm kir.

Parçeyek din a sereke ya pergalê teknolojî ye DirectPath I/O. Ew dihêle ku ajokera hesabkera paralel a CUDA rasterast bi makîneyên virtual re têkilî dayne, û hîpervisor derbas dike. Gava ku hûn hewce ne ku bi yekcarî çend VM-yan li ser yek GPU bimeşînin, çareseriya GRID vGPU tê bikar anîn. Ew bîranîna kartê li çend beşan dabeş dike (lê çerxên hesabkirinê nayên dabeş kirin).

Di vê rewşê de diyagrama xebitandinê ya du makîneyên virtual dê wiha xuya bike:

Rewş: GPU-yên virtual di performansê de ji çareseriyên hardware ne kêmtir in

Encam û pêşbîniyên

Şirket test kirin hypervisor bi perwerdekirina modelek zimanî li ser bingeha TensorFlow. Performansa "zerar" li gorî metalê tazî tenê %3-4 bû. Di vegerê de, pergalê karibû ku li gorî bargiraniya heyî çavkaniyan li gorî daxwazê ​​belav bike.

Gewrê IT jî test kirin bi konteynir. Endezyarên pargîdaniyê torên neuralî perwerde kirin da ku wêneyan nas bikin. Di heman demê de, çavkaniyên yek GPU di nav çar VM-yên konteynerê de hatin belav kirin. Wekî encamek, performansa makîneyên takekesî% 17 kêm bû (li gorî yek VM-ya ku bi tevahî gihîştina çavkaniyên GPU-yê re heye). Lêbelê, hejmara wêneyên ku di saniyeyê de têne hilberandin zêde bû sê caran. Tê payîn ku pergalên wiha dê bibînin sepanên di analîzkirina daneyan û modelkirina kompîturê de.

Di nav pirsgirêkên potansiyel ên ku VMware dikarin rû bi rû bimînin, pispor pardan temaşevanên hedefa berevajî teng. Hejmarek piçûk pargîdan hîn jî bi pergalên performansa bilind re dixebitin. Tevî ku li Statista pîroz kirinku heya sala 2021-an, 94% ji barkêşên navenda daneyê ya cîhanê dê virtualîze bibin. Ji pêşbîniyên analîstan, nirxê bazara HPC dê di navbera 32-45 de ji 2017-2022 milyar dolaran zêde bibe.

Rewş: GPU-yên virtual di performansê de ji çareseriyên hardware ne kêmtir in
/ wêne Point Access Global PD

Çareseriyên wekhev

Li ser sûkê gelek analog hene ku ji hêla pargîdaniyên mezin ên IT ve têne pêşve xistin: AMD û Intel.

Pargîdaniya yekem ji bo virtualîzasyona GPU pêşkêş dike nêzîkatiya li ser bingeha SR-IOV (virtuelîzasyona yek-root têketin / derketinê). Ev teknolojiyê dide VM-ê bigihîje beşek ji kapasîteyên hardware yên pergalê. Çareserî dihêle hûn GPU-yê di navbera 16 bikarhêneran de bi performansa wekhev a pergalên virtualîzekirî parve bikin.

Wekî ku ji bo duyemîn giant IT, ew teknolojiya bingehîn li ser hîpervisorê Citrix XenServer 7. Ew karê ajokerek GPU-ya standard û makîneyek virtual li hev dike, ku rê dide ya paşîn ku serîlêdanên 3D û sermaseyên li ser cîhazên bi sedan bikarhêneran nîşan bide.

Pêşeroja teknolojiyê

Pêşdebirên GPU Virtual bike behîs li ser pêkanîna pergalên AI-ê û mezinbûna populerbûna çareseriyên performansa bilind di bazara teknolojiya karsaziyê de. Ew hêvî dikin ku hewcedariya pêvajoyek mezin a daneyan dê daxwaziya vGPU zêde bike.

Niha hilberîner li rêyekê digere fonksiyonên CPU û GPU-yê di yek bingehê de berhev bikin da ku çareserkirina pirsgirêkên têkildarî grafîkê, pêkanîna hesabên matematîkî, operasyonên mentiqî, û pêvajoya daneyê bilezînin. Di pêşerojê de xuyangkirina kelûpelên weha li sûkê dê nêzîkatiya virtualkirina çavkaniyê û belavkirina wan di navbera barkêşên xebatê de li hawîrdorên virtual û ewr biguhezîne.

Di bloga meya pargîdanî de li ser mijarê çi bixwînin:

Ji kanala me ya Telegramê çend nivîs:

Source: www.habr.com

Add a comment