પરિસ્થિતિ: વર્ચ્યુઅલ GPU એ હાર્ડવેર સોલ્યુશન્સ માટે પ્રદર્શનમાં હલકી ગુણવત્તાવાળા નથી

ફેબ્રુઆરીમાં, સ્ટેનફોર્ડે હાઇ-પરફોર્મન્સ કમ્પ્યુટિંગ (HPC) પર એક કોન્ફરન્સનું આયોજન કર્યું હતું. VMware પ્રતિનિધિઓએ જણાવ્યું હતું કે GPU સાથે કામ કરતી વખતે, સંશોધિત ESXi હાઇપરવાઇઝર પર આધારિત સિસ્ટમ બેર મેટલ સોલ્યુશનની ઝડપમાં હલકી ગુણવત્તાવાળી નથી.

અમે તે તકનીકો વિશે વાત કરીએ છીએ જેણે આ પ્રાપ્ત કરવાનું શક્ય બનાવ્યું.

/ ફોટો વિક્ટરગ્રિગાસ સીસી બાય-એસએ

પ્રદર્શન સમસ્યા

વિશ્લેષકોના જણાવ્યા મુજબ, ડેટા સેન્ટર્સમાં લગભગ 70% વર્કલોડ છે વર્ચ્યુઅલાઈઝ્ડ. જો કે, બાકીના 30% હજુ પણ હાઈપરવાઈઝર વગર એકદમ મેટલ પર ચાલે છે. આ 30% મોટાભાગે ઉચ્ચ-લોડ એપ્લિકેશનોનો સમાવેશ કરે છે, જેમ કે ન્યુરલ નેટવર્કને તાલીમ આપવાથી સંબંધિત અને GPU નો ઉપયોગ.

નિષ્ણાતો આ વલણને એ હકીકત દ્વારા સમજાવે છે કે હાઇપરવાઇઝર, મધ્યવર્તી અમૂર્ત સ્તર તરીકે, સમગ્ર સિસ્ટમની કામગીરીને અસર કરી શકે છે. પાંચ વર્ષ પહેલા અભ્યાસમાં તમે ડેટા શોધી શકો છો કામની ઝડપ 10% ઘટાડવા વિશે. તેથી, કંપનીઓ અને ડેટા સેન્ટર ઓપરેટરો HPC વર્કલોડને વર્ચ્યુઅલ પર્યાવરણમાં સ્થાનાંતરિત કરવાની કોઈ ઉતાવળમાં નથી.

પરંતુ વર્ચ્યુઅલાઈઝેશન ટેક્નોલોજીઓ વિકસિત અને સુધારી રહી છે. એક મહિના પહેલા એક કોન્ફરન્સમાં, VMwareએ જણાવ્યું હતું કે ESXi હાઇપરવાઇઝર GPU પ્રદર્શન પર નકારાત્મક અસર કરતું નથી. કમ્પ્યુટિંગ ઝડપ ત્રણ ટકા ઘટાડી શકાય છે, જે એકદમ મેટલ સાથે તુલનાત્મક છે.

આ કેવી રીતે કામ કરે છે

GPUs સાથે HPC સિસ્ટમોના પ્રદર્શનને સુધારવા માટે, VMware એ હાઇપરવાઇઝરમાં ઘણા ફેરફારો કર્યા છે. ખાસ કરીને, તે vMotion ફંક્શનથી છુટકારો મેળવ્યો હતો. તે લોડ બેલેન્સિંગ માટે જરૂરી છે અને સામાન્ય રીતે વર્ચ્યુઅલ મશીનો (VMs) ને સર્વર્સ અથવા GPUs વચ્ચે સ્થાનાંતરિત કરે છે. vMotion ને અક્ષમ કરવાથી દરેક VM ને હવે ચોક્કસ GPU અસાઇન કરવામાં આવે છે. આનાથી ડેટાની આપલે કરતી વખતે ખર્ચ ઘટાડવામાં મદદ મળી.

સિસ્ટમનો બીજો મુખ્ય ઘટક ટેકનોલોજી છે ડાયરેક્ટપાથ I/O. તે CUDA સમાંતર કમ્પ્યુટિંગ ડ્રાઇવરને હાઇપરવાઇઝરને બાયપાસ કરીને વર્ચ્યુઅલ મશીનો સાથે સીધો સંપર્ક કરવાની મંજૂરી આપે છે. જ્યારે તમારે એક જ GPU પર એક સાથે અનેક VM ચલાવવાની જરૂર હોય, ત્યારે GRID vGPU સોલ્યુશનનો ઉપયોગ થાય છે. તે કાર્ડની મેમરીને કેટલાક સેગમેન્ટમાં વિભાજિત કરે છે (પરંતુ કોમ્પ્યુટેશનલ સાયકલ વિભાજિત થતા નથી).

આ કિસ્સામાં બે વર્ચ્યુઅલ મશીનોના ઓપરેશન ડાયાગ્રામ આના જેવો દેખાશે:

પરિણામો અને આગાહીઓ

ફર્મ પરીક્ષણો હાથ ધર્યા પર આધારિત ભાષા મોડેલને તાલીમ આપીને હાઇપરવાઇઝર ટેન્સરફ્લો. બેર મેટલની સરખામણીમાં પ્રદર્શન "નુકસાન" માત્ર 3-4% હતું. બદલામાં, સિસ્ટમ વર્તમાન લોડના આધારે માંગ પર સંસાધનોનું વિતરણ કરવામાં સક્ષમ હતી.

આઇટી જાયન્ટ પણ પરીક્ષણો હાથ ધર્યા કન્ટેનર સાથે. કંપનીના એન્જિનિયરોએ ન્યુરલ નેટવર્કને ઈમેજો ઓળખવા માટે તાલીમ આપી હતી. તે જ સમયે, એક GPU ના સંસાધનો ચાર કન્ટેનર VM વચ્ચે વિતરિત કરવામાં આવ્યા હતા. પરિણામે, વ્યક્તિગત મશીનોની કામગીરીમાં 17% ઘટાડો થયો (GPU સંસાધનોની સંપૂર્ણ ઍક્સેસ સાથે એક VMની તુલનામાં). જો કે, પ્રતિ સેકન્ડ પર પ્રક્રિયા કરાયેલી છબીઓની સંખ્યા વધારો ત્રણ વખત. એવી અપેક્ષા રાખવામાં આવે છે કે આવી સિસ્ટમો શોધીશું ડેટા વિશ્લેષણ અને કમ્પ્યુટર મોડેલિંગમાં એપ્લિકેશન.

VMware નો સામનો કરી શકે તેવી સંભવિત સમસ્યાઓ પૈકી, નિષ્ણાતો ફાળવણી તેના બદલે સંકુચિત લક્ષ્ય પ્રેક્ષકો. થોડી સંખ્યામાં કંપનીઓ હજુ પણ ઉચ્ચ-પ્રદર્શન સિસ્ટમો સાથે કામ કરી રહી છે. સ્ટેટિસ્ટામાં હોવા છતાં ઉજવણીકે 2021 સુધીમાં, વિશ્વના ડેટા સેન્ટર વર્કલોડના 94% વર્ચ્યુઅલાઈઝ થઈ જશે. દ્વારા આગાહી વિશ્લેષકોના મતે 32 થી 45ના સમયગાળામાં HPC માર્કેટનું મૂલ્ય 2017 થી 2022 અબજ ડોલર સુધી વધશે.

/ ફોટો ગ્લોબલ એક્સેસ પોઈન્ટ PD

સમાન ઉકેલો

બજારમાં ઘણા એનાલોગ છે જે મોટી IT કંપનીઓ દ્વારા વિકસાવવામાં આવ્યા છે: AMD અને Intel.

GPU વર્ચ્યુઅલાઈઝેશન માટે પ્રથમ કંપની તક આપે છે SR-IOV (સિંગલ-રુટ ઇનપુટ/આઉટપુટ વર્ચ્યુઅલાઈઝેશન) પર આધારિત અભિગમ. આ ટેક્નોલોજી સિસ્ટમની હાર્ડવેર ક્ષમતાઓના ભાગ માટે VM ઍક્સેસ આપે છે. સોલ્યુશન તમને વર્ચ્યુઅલાઈઝ્ડ સિસ્ટમ્સના સમાન પ્રદર્શન સાથે 16 વપરાશકર્તાઓ વચ્ચે GPU ને શેર કરવાની મંજૂરી આપે છે.

બીજા આઇટી જાયન્ટ માટે, તેઓ ટેકનોલોજી આધારિત Citrix XenServer 7 હાઇપરવાઇઝર પર. તે પ્રમાણભૂત GPU ડ્રાઇવર અને વર્ચ્યુઅલ મશીનના કાર્યને જોડે છે, જે બાદમાં સેંકડો વપરાશકર્તાઓના ઉપકરણો પર 3D એપ્લિકેશન અને ડેસ્કટોપ પ્રદર્શિત કરવાની મંજૂરી આપે છે.

ટેકનોલોજીનું ભવિષ્ય

વર્ચ્યુઅલ GPU ડેવલપર્સ શરત લગાવો AI સિસ્ટમ્સના અમલીકરણ અને બિઝનેસ ટેક્નોલોજી માર્કેટમાં ઉચ્ચ-પ્રદર્શન સોલ્યુશન્સની વધતી જતી લોકપ્રિયતા પર. તેઓ આશા રાખે છે કે મોટી માત્રામાં ડેટા પર પ્રક્રિયા કરવાની જરૂરિયાતથી vGPU ની માંગમાં વધારો થશે.

હવે ઉત્પાદકો રસ્તો શોધી રહ્યા છીએ ગ્રાફિક્સ, ગાણિતિક ગણતરીઓ, લોજિકલ ઓપરેશન્સ અને ડેટા પ્રોસેસિંગને લગતી સમસ્યાઓને ઝડપી ઉકેલવા માટે CPU અને GPU ની કાર્યક્ષમતાને એક કોરમાં જોડો. ભવિષ્યમાં બજારમાં આવા કોરોનો દેખાવ સંસાધન વર્ચ્યુઅલાઈઝેશન અને વર્ચ્યુઅલ અને ક્લાઉડ વાતાવરણમાં વર્કલોડ વચ્ચે તેમના વિતરણના અભિગમને બદલશે.

અમારા કોર્પોરેટ બ્લોગમાં વિષય પર શું વાંચવું:

• શા માટે કંપનીઓ કન્ટેનરને બદલે વર્ચ્યુઅલ મશીનોનો ઉપયોગ કરે છે
• "VMware કેવી રીતે કરી રહ્યું છે": નવા ઉકેલોની સમીક્ષા
• VMware vSphere 6.7: નવા હાઇપરવાઇઝર સુવિધાઓના ફાયદા શું છે

અમારી ટેલિગ્રામ ચેનલમાંથી કેટલીક પોસ્ટ્સ:

• ભવિષ્યનું આઇટી આર્કિટેક્ચર - કોણ અને કેવી રીતે તેની તૈયારી કરી રહ્યું છે
• 5 ક્લાઉડ મેનેજમેન્ટ ટૂલ્સ
• IaaS પ્રદાતા ગ્રાહક ડેટાને કેવી રીતે સુરક્ષિત કરે છે

સોર્સ: www.habr.com