स्थिति: भर्चुअल GPU हरू हार्डवेयर समाधानहरूमा प्रदर्शनमा कम छैनन्

फेब्रुअरीमा, स्ट्यानफोर्डले उच्च प्रदर्शन कम्प्युटिङ (HPC) मा एक सम्मेलन आयोजना गर्यो। VMware प्रतिनिधिहरूले भने कि GPU सँग काम गर्दा, परिमार्जित ESXi हाइपरवाइजरमा आधारित प्रणाली बेयर मेटल समाधानहरूको गतिमा कम छैन।

हामी टेक्नोलोजीहरूको बारेमा कुरा गर्छौं जसले यसलाई प्राप्त गर्न सम्भव बनायो।

/ फोटो भिक्टोरग्रिगास CC BY-SA

कार्यसम्पादन मुद्दा

विश्लेषकहरूका अनुसार डेटा केन्द्रहरूमा लगभग 70% कार्यभार छ भर्चुअलाइज गरिएको। यद्यपि, बाँकी 30% अझै पनि हाइपरभाइजर बिना खाली धातुमा चल्छ। यो 30% मा अधिकतर उच्च-लोड अनुप्रयोगहरू समावेश छन्, जस्तै कि प्रशिक्षण तंत्रिका सञ्जालहरूसँग सम्बन्धित, र GPUs प्रयोग गरेर।

विशेषज्ञहरूले यस प्रवृतिलाई यस तथ्यले व्याख्या गर्छन् कि हाइपरभाइजर, मध्यवर्ती अमूर्त तहको रूपमा, सम्पूर्ण प्रणालीको प्रदर्शनलाई असर गर्न सक्छ। पाँच वर्षअघिको अध्ययनमा डाटा फेला पार्न सक्नुहुन्छ कामको गति १० प्रतिशतले घटाउने बारे। त्यसकारण, कम्पनीहरू र डाटा सेन्टर अपरेटरहरू HPC वर्कलोडहरू भर्चुअल वातावरणमा स्थानान्तरण गर्न हतारमा छैनन्।

तर भर्चुअलाइजेशन प्रविधिहरू विकास र सुधार हुँदैछन्। एक महिना अघि एक सम्मेलनमा, VMware ले भने कि ESXi हाइपरभाइजरले GPU कार्यसम्पादनमा नकारात्मक प्रभाव पार्दैन। कम्प्युटिङ गति तीन प्रतिशतले घटाउन सकिन्छ, जुन बेयर मेटलसँग तुलना गर्न सकिन्छ।

यो कसरी काम गर्छ

GPU हरूको साथ HPC प्रणालीहरूको प्रदर्शन सुधार गर्न, VMware ले हाइपरभाइजरमा धेरै परिवर्तनहरू गरेको छ। विशेष गरी, यो vMotion प्रकार्यबाट छुटकारा पाएको थियो। यो लोड सन्तुलनको लागि आवश्यक छ र सामान्यतया सर्भर वा GPU हरू बीच भर्चुअल मेसिनहरू (VMs) स्थानान्तरण गर्दछ। vMotion असक्षम पार्नाले प्रत्येक VM लाई अब एक विशिष्ट GPU तोकिएको छ। यसले डाटा आदानप्रदान गर्दा लागत घटाउन मद्दत गर्‍यो।

प्रणाली को अर्को प्रमुख घटक प्रविधि छ DirectPath I/O। यसले CUDA समानान्तर कम्प्युटिङ ड्राइभरलाई भर्चुअल मेसिनहरूसँग सिधै अन्तरक्रिया गर्न अनुमति दिन्छ, हाइपरभाइजरलाई बाइपास गर्दै। जब तपाइँ एकै पटक एक GPU मा धेरै VMs चलाउन आवश्यक छ, GRID vGPU समाधान प्रयोग गरिन्छ। यसले कार्डको मेमोरीलाई धेरै खण्डहरूमा विभाजन गर्दछ (तर कम्प्युटेशनल चक्रहरू विभाजित छैनन्)।

यस मामला मा दुई भर्चुअल मिसिन को सञ्चालन रेखाचित्र यस्तो देखिनेछ:

परिणाम र पूर्वानुमान

दृढ परीक्षणहरू सञ्चालन गरे हाइपरवाइजरमा आधारित भाषा मोडेललाई प्रशिक्षण दिएर TensorFlow। प्रदर्शन "नुकसान" नंगे धातुको तुलनामा 3-4% मात्र थियो। बदलामा, प्रणालीले वर्तमान लोडको आधारमा मागमा स्रोतहरू वितरण गर्न सक्षम थियो।

आईटी दिग्गज पनि परीक्षणहरू सञ्चालन गरे कन्टेनर संग। कम्पनीका इन्जिनियरहरूले तस्बिरहरू पहिचान गर्न तंत्रिका नेटवर्कहरूलाई तालिम दिए। एकै समयमा, एक GPU को स्रोतहरू चार कन्टेनर VM हरू बीच वितरित गरियो। नतिजाको रूपमा, व्यक्तिगत मेसिनहरूको प्रदर्शन 17% घट्यो (GPU स्रोतहरूमा पूर्ण पहुँचको साथ एकल VM को तुलनामा)। यद्यपि, प्रति सेकेन्ड प्रशोधन गरिएका छविहरूको संख्या बढेको तिन चोटी। यस्तो प्रणालीको अपेक्षा गरिएको छ भेट्टाउने छु डाटा विश्लेषण र कम्प्युटर मोडलिङ मा अनुप्रयोगहरू।

VMware ले सामना गर्न सक्ने सम्भावित समस्याहरू मध्ये, विशेषज्ञहरू आवंटन बरु साँघुरो लक्षित दर्शक। थोरै संख्यामा कम्पनीहरूले अझै उच्च प्रदर्शन प्रणालीसँग काम गरिरहेका छन्। यद्यपि Statista मा मनाउनुसन् २०२१ सम्ममा विश्वको डाटा सेन्टर वर्कलोडको ९४% भर्चुअलाइज हुनेछ। द्वारा पूर्वानुमान विश्लेषकहरू, HPC बजारको मूल्य 32 देखि 45 को अवधिमा 2017 देखि 2022 बिलियन डलर सम्म बढ्नेछ।

/ फोटो ग्लोबल एक्सेस पोइन्ट PD

समान समाधानहरू

त्यहाँ बजारमा धेरै एनालगहरू छन् जुन ठूला आईटी कम्पनीहरू द्वारा विकसित गरिएको छ: AMD र Intel।

GPU भर्चुअलाइजेसनको लागि पहिलो कम्पनी प्रस्तावहरु SR-IOV (एकल-मूल इनपुट/आउटपुट भर्चुअलाइजेशन) मा आधारित दृष्टिकोण। यो प्रविधिले VM लाई प्रणालीको हार्डवेयर क्षमताहरूको अंशमा पहुँच दिन्छ। समाधानले तपाइँलाई भर्चुअलाइज्ड प्रणालीहरूको समान प्रदर्शनको साथ 16 प्रयोगकर्ताहरू बीच GPU साझेदारी गर्न अनुमति दिन्छ।

दोस्रो आईटी विशालको लागि, तिनीहरू प्रविधि आधारित Citrix XenServer 7 हाइपरभाइजरमा। यसले मानक GPU ड्राइभर र भर्चुअल मेसिनको कामलाई संयोजन गर्दछ, जसले पछिल्लालाई सयौं प्रयोगकर्ताहरूको यन्त्रहरूमा 3D अनुप्रयोगहरू र डेस्कटपहरू प्रदर्शन गर्न अनुमति दिन्छ।

प्रविधिको भविष्य

भर्चुअल GPU विकासकर्ताहरू एक शर्त बनाउन एआई प्रणालीको कार्यान्वयन र व्यापार प्रविधि बजारमा उच्च प्रदर्शन समाधानहरूको बढ्दो लोकप्रियतामा। तिनीहरू आशा गर्छन् कि ठूलो मात्रामा डाटा प्रशोधन गर्ने आवश्यकताले vGPU हरूको माग बढाउनेछ।

अब निर्माताहरू बाटो खोज्दै ग्राफिक्स, गणितीय गणना, तार्किक अपरेसनहरू, र डाटा प्रोसेसिङसँग सम्बन्धित समस्याहरू समाधान गर्नको लागि एक कोरमा CPU र GPU को कार्यक्षमता संयोजन गर्नुहोस्। भविष्यमा बजारमा त्यस्ता कोरहरूको उपस्थितिले संसाधन भर्चुअलाइजेशन र भर्चुअल र क्लाउड वातावरणमा वर्कलोडहरू बीच तिनीहरूको वितरणको दृष्टिकोण परिवर्तन गर्नेछ।

हाम्रो कर्पोरेट ब्लगमा शीर्षकमा के पढ्ने:

• किन कम्पनीहरूले भर्चुअल मेसिनहरू प्रयोग गर्छन्, कन्टेनरहरू होइन
• "VMware कसरी गरिरहेको छ": नयाँ समाधानहरूको समीक्षा
• VMware vSphere 6.7: नयाँ हाइपरभाइजर सुविधाहरूका फाइदाहरू के हुन्

हाम्रो टेलिग्राम च्यानलबाट केही पोस्टहरू:

• भविष्यको IT वास्तुकला - कसले र कसरी यसको लागि तयारी गर्छ
• 5 क्लाउड व्यवस्थापन उपकरणहरू
• कसरी IaaS प्रदायकले ग्राहक डेटा सुरक्षित गर्दछ

स्रोत: www.habr.com