Փետրվարին Սթենֆորդում տեղի ունեցավ համաժողով՝ նվիրված բարձր արդյունավետության հաշվարկներին (HPC): VMware-ի ներկայացուցիչները նշել են, որ GPU-ի հետ աշխատելիս՝ փոփոխված ESXi հիպերվիզորի վրա հիմնված համակարգը արագությամբ չի զիջում մերկ մետաղական լուծումներին։
Մենք խոսում ենք այն տեխնոլոգիաների մասին, որոնք հնարավորություն են տվել հասնել դրան։
/ լուսանկար
Կատարման խնդիր
Ըստ վերլուծաբանների տվյալների կենտրոններում աշխատանքային ծանրաբեռնվածության մոտ 70%-ը . Այնուամենայնիվ, մնացած 30%-ը դեռ աշխատում է մերկ մետաղի վրա՝ առանց հիպերվիզորների: Այս 30%-ը հիմնականում բաղկացած է բարձր բեռնվածությամբ հավելվածներից, ինչպիսիք են՝ կապված նեյրոնային ցանցերի ուսուցման և GPU-ների օգտագործման հետ:
Փորձագետներն այս միտումը բացատրում են նրանով, որ հիպերվիզորը՝ որպես միջանկյալ աբստրակցիոն շերտ, կարող է ազդել ամբողջ համակարգի աշխատանքի վրա։ Հինգ տարի առաջ ուսումնասիրություններում աշխատանքի արագությունը 10%-ով նվազեցնելու մասին։ Ուստի ընկերությունները և տվյալների կենտրոնների օպերատորները չեն շտապում HPC-ի ծանրաբեռնվածությունը վիրտուալ միջավայր տեղափոխել:
Սակայն վիրտուալացման տեխնոլոգիաները զարգանում և բարելավվում են: Մեկ ամիս առաջ տեղի ունեցած կոնֆերանսի ժամանակ VMware-ն ասաց, որ ESXi հիպերվիզորը բացասաբար չի ազդում GPU-ի աշխատանքի վրա։ Հաշվողական արագությունը կարող է կրճատվել երեք տոկոսով, ինչը համեմատելի է մերկ մետաղի հետ:
Ինչպես է այն աշխատում
GPU-ներով HPC համակարգերի աշխատանքը բարելավելու համար VMware-ը մի շարք փոփոխություններ է կատարել հիպերվիզորում: Մասնավորապես, այն ազատվել է vMotion ֆունկցիայից։ Այն անհրաժեշտ է բեռի հավասարակշռման համար և սովորաբար փոխանցում է վիրտուալ մեքենաներ (VM) սերվերների կամ GPU-ների միջև: VMotion-ի անջատումը հանգեցրեց նրան, որ այժմ յուրաքանչյուր VM-ին հատկացվում է հատուկ GPU: Սա օգնեց նվազեցնել ծախսերը տվյալների փոխանակման ժամանակ:
Համակարգի ևս մեկ հիմնական բաղադրիչ DirectPath I/O. Այն թույլ է տալիս CUDA զուգահեռ հաշվողական վարորդին ուղղակիորեն փոխազդել վիրտուալ մեքենաների հետ՝ շրջանցելով հիպերվիզորը։ Երբ Ձեզ անհրաժեշտ է միանգամից մի քանի VM գործարկել մեկ GPU-ի վրա, օգտագործվում է GRID vGPU լուծումը: Այն բաժանում է քարտի հիշողությունը մի քանի հատվածների (սակայն հաշվողական ցիկլերը բաժանված չեն):
Երկու վիրտուալ մեքենաների շահագործման դիագրամն այս դեպքում կունենա հետևյալ տեսքը.
Արդյունքներ և կանխատեսումներ
ընկերություն հիպերվիզոր՝ սովորեցնելով լեզվական մոդել՝ հիմնված . Կատարման «վնասը» կազմել է ընդամենը 3–4%՝ համեմատած մերկ մետաղի հետ: Դրա դիմաց համակարգը կարողացավ բաշխել ռեսուրսները ըստ պահանջարկի՝ կախված ընթացիկ բեռից:
ՏՏ հսկան նույնպես տարաներով։ Ընկերության ինժեներները նեյրոնային ցանցեր են վարժեցրել՝ պատկերները ճանաչելու համար: Միևնույն ժամանակ, մեկ GPU-ի ռեսուրսները բաշխվել են չորս կոնտեյներային VM-ների միջև: Արդյունքում առանձին մեքենաների կատարողականը նվազել է 17%-ով (համեմատած մեկ VM-ի՝ GPU ռեսուրսների լիարժեք հասանելիությամբ): Այնուամենայնիվ, մեկ վայրկյանում մշակված պատկերների քանակը երեք անգամ. Ակնկալվում է, որ նման համակարգեր կիրառություններ տվյալների վերլուծության և համակարգչային մոդելավորման մեջ:
Հնարավոր խնդիրների շարքում, որոնց կարող է հանդիպել VMware-ը, փորձագետները բավականին նեղ թիրախային լսարան: Փոքր թվով ընկերություններ դեռ աշխատում են բարձր արդյունավետության համակարգերով: Չնայած Ստատիստայում որ մինչև 2021 թվականը տվյալների կենտրոնների աշխատանքի 94%-ը կվիրտուալացվի: Ըստ Ըստ վերլուծաբանների, HPC-ի շուկայի արժեքը 32-45 թվականներին կաճի 2017-ից մինչև 2022 միլիարդ դոլար:
/ լուսանկար PD
Նմանատիպ լուծումներ
Շուկայում կան մի քանի անալոգներ, որոնք մշակված են խոշոր ՏՏ ընկերությունների կողմից՝ AMD և Intel:
GPU վիրտուալիզացիայի առաջին ընկերությունը մոտեցում՝ հիմնված SR-IOV-ի վրա (մեկ արմատային մուտքային/ելքային վիրտուալացում): Այս տեխնոլոգիան VM-ին հնարավորություն է տալիս մուտք գործել համակարգի ապարատային հնարավորությունների մի մասը: Լուծումը թույլ է տալիս կիսել GPU-ն 16 օգտվողների միջև՝ վիրտուալացված համակարգերի հավասար կատարողականությամբ:
Ինչ վերաբերում է երկրորդ ՏՏ հսկային, ապա նրանք Citrix XenServer 7 հիպերվիզորի վրա: Այն համատեղում է ստանդարտ GPU վարորդի և վիրտուալ մեքենայի աշխատանքը, որը թույլ է տալիս վերջինիս ցուցադրել 3D հավելվածներ և աշխատասեղաններ հարյուրավոր օգտատերերի սարքերում:
Տեխնոլոգիաների ապագան
Վիրտուալ GPU ծրագրավորողներ AI համակարգերի ներդրման և բիզնես տեխնոլոգիաների շուկայում բարձր արդյունավետության լուծումների աճող ժողովրդականության մասին: Նրանք հույս ունեն, որ մեծ քանակությամբ տվյալների մշակման անհրաժեշտությունը կբարձրացնի vGPU-ների պահանջարկը:
Այժմ արտադրողները միավորել պրոցեսորի և պրոցեսորի ֆունկցիոնալությունը մեկ միջուկում՝ արագացնելու գրաֆիկայի հետ կապված խնդիրների լուծումը, մաթեմատիկական հաշվարկները, տրամաբանական գործողությունները և տվյալների մշակումը: Ապագայում նման միջուկների հայտնվելը շուկայում կփոխի մոտեցումը ռեսուրսների վիրտուալացման և դրանց բաշխման միջև աշխատանքային բեռների միջև վիրտուալ և ամպային միջավայրերում:
Ինչ կարդալ թեմայի վերաբերյալ մեր կորպորատիվ բլոգում.
Մի քանի գրառում մեր Telegram ալիքից.
Source: www.habr.com