🥇vGPU - օգտագործումը չի կարող անտեսել

Հունիս-հուլիս ամիսներին մեզ հետ կապվեցին գրեթե երկու տասնյակ ընկերություններ՝ հետաքրքրված վիրտուալ GPU-ների հնարավորություններով։ Cloud4Y-ի գրաֆիկան արդեն օգտագործվում է Սբերբանկի խոշոր դուստր ձեռնարկություններից մեկի կողմից, բայց ընդհանուր առմամբ ծառայությունն այնքան էլ տարածված չէ: Այսպիսով, մենք շատ գոհ էինք նման ակտիվությունից: Տեսնելով տեխնոլոգիայի նկատմամբ աճող հետաքրքրությունը՝ որոշեցինք մի փոքր ավելին խոսել vGPU-ի մասին:

Գիտական փորձերի և հետազոտությունների, Deep Learning-ի և AI-ի հետ աշխատանքի այլ ոլորտների, խոշոր և բարդ օբյեկտների մոդելավորման արդյունքում ստացված «Տվյալների լճեր» - այս ամենը պահանջում է բարձր արդյունավետության սարքավորում: Լավ է, եթե այն կա և թույլ է տալիս արագ լուծել ընթացիկ խնդիրները: Բայց առաջադրանքների հաշվողական բարդության աճի պատճառով (հիմնականում բիզնեսի վերլուծության, մատուցման, DL ալգորիթմների և շրջանակների համար), աշխատասեղանի և նույնիսկ սերվերի պրոցեսորների ապարատային հզորությունը գնալով դառնում է անօգուտ:

Գտնվել է լուծում՝ օգտագործելով GPU հաշվիչը: Գրաֆիկական արագացման այս տեխնոլոգիան թույլ է տալիս մեկ GPU-ի ռեսուրսները կիսել բազմաթիվ վիրտուալ մեքենաներով: GPU-ն ի սկզբանե նախատեսված էր գրաֆիկայի հետ աշխատելու համար, ուստի այն բաղկացած է հազարավոր փոքր միջուկներից, որոնք օգտագործվում են զուգահեռ առաջադրանքների արդյունավետ մշակման համար: Միևնույն ժամանակ, ամենաշատ ռեսուրսներ պահանջող հաշվարկները կատարվում են GPU-ի վրա, մնացածը ստանձնում է պրոցեսորը:

GPU հաշվիչը հորինել է ընկերությունը Nvidia դեռ 2007թ. Այսօր այս տեխնոլոգիան հասել է նոր մակարդակի և օգտագործվում է խոշորագույն ձեռնարկությունների տվյալների կենտրոններում և գիտական լաբորատորիաներում։ Այնուամենայնիվ, ավանդական մոտեցումն ունի մեկ էական թերություն. ֆիզիկական սարքավորումների ձեռքբերումը շատ թանկ է: Եվ եթե հիշում եք սարքավորումների հնացման արագությունը, այն ավելի տխուր է դառնում:

Վիրտուալ գրաֆիկական պրոցեսորների տեխնոլոգիա՝ vGPU նախատեսված է խնդիրը լուծելու համար: Նրա օգնությամբ օգտատերերը կարող են հեռակա կարգով գործարկել այնպիսի ծանր հավելվածներ, ինչպիսիք են AutoCAD, 3DS Max, Maya, Sony Vegas Pro: Վիրտուալիզացիան արագորեն ձեռք է բերել շուկայի մասնաբաժինը: Ի վերջո, ո՞ր ռուս տվյալների գիտնականին դուր չի գալիս արագ հաշվարկներ NVidia Tesla վիդեո քարտերի վրա:

Այստեղ հարկ է նշել, որ մինչ vGPU-ի հայտնվելը, օգտագործվում էին գրաֆիկական արագացման այլ մեթոդներ՝ Virtual Shared Graphics Acceleration (vSGA և Virtual Dedicated Graphics Acceleration (vDGA): vGPU լուծումը համատեղում է երկու տեխնոլոգիաներից լավագույնը: Ինչպես vSGA-ի դեպքում, vGPU միջավայրը նախատեսված է GPU-ի և RAM-ի մի քանի վիրտուալ աշխատասեղանների փոխանակման համար, սակայն յուրաքանչյուր VM հրամաններ է ուղարկում անմիջապես GPU-ին, ինչպես դա տեղի է ունենում vDGA-ի դեպքում:

Ինչու՞ են մեզ ընդհանրապես անհրաժեշտ vGPU-ները:

Cloud computing-ը, օգտագործելով vGPU-ները, թույլ է տալիս ընկերություններին լուծել խնդիրներ, որոնք նախկինում անհնար էր լուծել: Կամ գուցե, բայց դա պահանջում էր անիրատեսական մեծ քանակությամբ ռեսուրսներ: 1 ժամանակակից GPU սերվերը կարող է փոխարինել մինչև 100 սովորական պրոցեսոր: Կան ուրիշներ նույնիսկ ավելի տպավորիչ թվեր. Սա կատակ չէ. Nvidia լուծումները մի քանի անգամ ավելի արագ են մշակում petabytes տվյալներ, քան դասական պրոցեսորների սերվերները: Եվ նույն Google Cloud-ն առաջարկում է մինչև 960 տերաֆլոպ արագությամբ GPU-ներով վիրտուալ մեքենաներ:

Շատ մասնագետների կարիք ունեն հզոր սարքեր, որոնք կարող են զուգահեռ հաշվարկներ կատարել: Ճարտարապետներն ու ինժեներները օգտագործում են vGPU տեխնոլոգիան նախագծման համակարգերում (օրինակ, Autoodesk): Դիզայներներն աշխատում են թվային ֆոտո և վիդեո բովանդակությամբ (Photoshop, CorelDraw): Վիրտուալ մեքենաներ GPU-ներ պահանջվում են նաև բժշկական հաստատությունների կողմից, որոնք կուտակում և վերլուծում են տվյալներ հիվանդների և հիվանդությունների վերաբերյալ: Աշխատում է GPU-ով և «Yandex.

Կարծում եք՝ վե՞րջ: Անկախ նրանից, թե ինչպես է դա: Տեխնոլոգիան օգտագործվում է նաև ավտոմատի համար արբանյակային պատկերների ճշգրտության ստուգում, և համար համաճարակի կանխատեսում, օդերևութաբանական հետազոտություն, մոդելավորում արեգակնային ցիկլեր и բիզնես վերլուծաբաններ. Եվ կա նաև մի թույն հոդված մոդելավորման մասին Unity3D միջավայրում Սա Զոլդեն է.

Այս ամենի հետ մեկտեղ vGPU-ի վրա հիմնված լուծումները դեռ լայն տարածում չեն գտել աշխարհում։ Այսպիսով, NetApp-ը 2018թ հարցում գրաֆիկական պրոցեսորներ օգտագործող ընկերությունների շրջանում: Արդյունքները ցույց են տվել, որ կազմակերպությունների 60%-ը դեռ գործում է սեփական ՏՏ ենթակառուցվածքով: Միայն 23%-ն է օգտվում ամպից: Ռուսաստանում ամպային հաշվարկման տեխնոլոգիայի ներթափանցումը պակաս կարևոր է: Սակայն նոր ապարատային և ծրագրային լուծումների շնորհիվ GPU-ով աշխատող վիրտուալ մեքենաներ օգտագործող ընկերությունների թիվը անընդհատ աճում է:

vGPU լուծումներ

Շատ ընկերություններ մշակում են վիրտուալացման տեխնոլոգիաներ գրաֆիկական արագացուցիչների համար, սակայն նրանց թվում կան անվիճելի առաջատարներ։

Ամպային լուծումների ոլորտում ամենահեղինակավոր լուծումներ մշակողներից մեկը՝ ընկերությունը VMware ընկերություններին առաջարկում է հիպերվիզոր ESXi, որի դեպքում վիրտուալ GPU-ների արագությունը համեմատելի է մերկ մետաղի վրա իրականացվածների հետ: Վերջին թարմացման ժամանակ մշակողն անջատել է vMotion load balancer-ը և ավելացրել է DirectPath I/O տեխնոլոգիայի աջակցությունը, որը միացնում է CUDA դրայվերը VM-ին՝ շրջանցելով հիպերվիզորը և արագացնում տվյալների փոխանցումը։

Nvidia նաև փորձում է արդարացնել շուկայի սպասումները, և դրա համար թողարկել է բաց կոդով հարթակ Rapids. Լուծումը միավորում է մի քանի գրադարաններ՝ CUDA ճարտարապետության հետ աշխատելու համար, ինչը հեշտացնում է տվյալների հետ աշխատանքը նեյրոնային ցանցի ուսուցման ընթացքում և թույլ է տալիս ավտոմատացնել աշխատանքը Python կոդի հետ։ Rapids-ի օգտագործումը XGBoost մեքենայական ուսուցման ալգորիթմի հետ ապահովում է կատարողականի 50 անգամ բարձրացում՝ համեմատած պրոցեսորի վրա հիմնված համակարգերի հետ:

Նրանք նույնպես ունեն իրենց սեփական տեխնոլոգիան ֏. Պլատֆորմը կոչվում է ROCm. Այն օգտագործում է SR-IOV տեխնոլոգիա, որը կիսում է ֆիզիկական սարքի ապարատային հնարավորությունները մի քանի վիրտուալ մեքենաների միջև: Մեկ արագացուցիչի ռեսուրսները կարելի է բաժանել տասնվեց օգտագործողների միջև՝ պահպանելով նրանցից յուրաքանչյուրի համար հավասար արդյունավետություն: Սա արագացնում է տվյալների փոխանցումը ամպային պրոցեսորների և GPU-ների միջև: Այն նաև օգտագործում է հատուկ C++ բարբառ, որը կոչվում է HIP, ինչը հեշտացնում է մաթեմատիկայի կատարումը GPU-ում:

Intel կառուցում է իր տեխնոլոգիան միջպլատֆորմային հիպերվիզորի հիման վրա Citrix XenServer 7-ը, որը FSTEC-ից ստացել է համապատասխանության վկայական 2017թ. Լուծումը համատեղում է ստանդարտ GPU վարորդի և վիրտուալ մեքենայի աշխատանքը: Այսինքն՝ «վիրտուալը» կարող է աջակցություն ծանր հավելվածներ գործարկել մեծ (մի քանի հարյուր) թվով օգտատերերի սարքերի վրա:

Շուկայի հեռանկարները

Անկախ վերլուծաբանները կարծում են, որ HPC համակարգերի համար լուծումների վաճառքը մինչև 45 թվականը կհասնի 2022 միլիարդ դոլարի։ Պլատֆորմի մշակողները նաև ակնկալում են բարձր արդյունավետության համակարգերի պահանջարկի աճ: Այս ակնկալիքն ամրապնդվում է Big Data-ի հանրաճանաչությամբ և մեծ ծավալի տվյալների մշակման հաճախակի անհրաժեշտությամբ:

Բացի այդ, vGPU-ների պահանջարկի աճը կարող է խթանել հիբրիդային տեխնոլոգիաների զարգացումը, որոնք միավորում են GPU-ն և CPU-ն մեկ սարքում: Նման ինտեգրված լուծումներում երկու տեսակի միջուկներ կիսում են քեշը, որն արագացնում է տվյալների փոխանցումը GPU-ների և ավանդական պրոցեսորների միջև:

Հիբրիդները հիմնովին կփոխեն վիրտուալացման և տվյալների կենտրոններում վիրտուալ ռեսուրսների բաշխման մոտեցումը: Իսկ բաց կոդով լուծումները, ինչպիսիք են ROCm-ը և Rapids-ը, տվյալների կենտրոնների օպերատորներին թույլ են տալիս ավելի արդյունավետ օգտագործել հաշվողական ռեսուրսները՝ բարձրացնելով ապարատային աշխատանքը:

Մեկ այլ կարծիք էլ կա. Օրինակ՝ այդ վիրտուալ GPU-ները կփոխարինվեն օպտիկական չիպերով՝ ֆոտոնային տվյալների կոդավորումով: Նման լուծումներ արդեն կան և օգտագործվում են մեքենայական ուսուցման համար։ Ավելին, թվում է ավելի արդյունավետ սովորական GPU: Բայց տեխնոլոգիան դեռ կոպիտ է:

Ի՞նչ կարելի է եզրակացնել. Չնայած անալոգների հնարավոր տեսքին, vGPU-ն շատ խոստումնալից ուղղություն է, որն ունակ է մեծ թվով խնդիրներ լուծել: Բայց դա բոլորի համար հարմար չէ: Այսպիսով, դուք ինքներդ կարող եք վերնագրում ստորակետ դնել:

PS
Բաժանորդագրվեք մեր Telegram-ալիք, որպեսզի բաց չթողնեք հաջորդ հոդվածը: Մենք գրում ենք ոչ ավելի, քան շաբաթական երկու անգամ և միայն գործով:

Հարցմանը կարող են մասնակցել միայն գրանցված օգտվողները։ Մուտք գործել, խնդրում եմ: