स्थिति: वर्चुअल जीपीयू प्रदर्शन में हार्डवेयर समाधानों से कमतर नहीं हैं

फरवरी में, स्टैनफोर्ड ने उच्च-प्रदर्शन कंप्यूटिंग (एचपीसी) पर एक सम्मेलन की मेजबानी की। वीएमवेयर प्रतिनिधियों ने कहा कि जीपीयू के साथ काम करते समय, संशोधित ईएसएक्सआई हाइपरवाइजर पर आधारित सिस्टम गति में नंगे धातु समाधानों से कमतर नहीं है।

हम उन तकनीकों के बारे में बात करते हैं जिन्होंने इसे हासिल करना संभव बनाया।

/ तस्वीर विक्टोरग्रिगास सीसी द्वारा एसए

प्रदर्शन की समस्याएं

विश्लेषकों के अनुसार, लगभग 70% कार्यभार डेटा केंद्रों पर है आभासी. हालाँकि, शेष 30% अभी भी हाइपरविजर के बिना नंगे धातु पर चलता है। इस 30% में अधिकतर उच्च-लोड अनुप्रयोग शामिल हैं, जैसे कि तंत्रिका नेटवर्क को प्रशिक्षित करने और जीपीयू का उपयोग करने से संबंधित।

विशेषज्ञ इस प्रवृत्ति को इस तथ्य से समझाते हैं कि हाइपरवाइजर, एक मध्यवर्ती अमूर्त परत के रूप में, पूरे सिस्टम के प्रदर्शन को प्रभावित कर सकता है। पांच साल पहले पढ़ाई में आप डेटा पा सकते हैं काम की गति को 10% कम करने के बारे में। इसलिए, कंपनियां और डेटा सेंटर ऑपरेटर एचपीसी वर्कलोड को वर्चुअल वातावरण में स्थानांतरित करने की जल्दी में नहीं हैं।

लेकिन वर्चुअलाइजेशन प्रौद्योगिकियां विकसित और सुधार रही हैं। एक महीने पहले एक सम्मेलन में, VMware ने कहा कि ESXi हाइपरवाइज़र का GPU प्रदर्शन पर नकारात्मक प्रभाव नहीं पड़ता है। कंप्यूटिंग गति को तीन प्रतिशत तक कम किया जा सकता है, जो नंगे धातु के बराबर है।

Как это работает

जीपीयू के साथ एचपीसी सिस्टम के प्रदर्शन को बेहतर बनाने के लिए, वीएमवेयर ने हाइपरवाइजर में कई बदलाव किए हैं। विशेष रूप से, इसे vMotion फ़ंक्शन से छुटकारा मिल गया था। यह लोड संतुलन के लिए आवश्यक है और आमतौर पर सर्वर या जीपीयू के बीच वर्चुअल मशीन (वीएम) को स्थानांतरित करता है। vMotion को अक्षम करने के परिणामस्वरूप प्रत्येक VM को अब एक विशिष्ट GPU सौंपा गया है। इससे डेटा का आदान-प्रदान करते समय लागत कम करने में मदद मिली।

सिस्टम का एक अन्य प्रमुख घटक प्रौद्योगिकी है डायरेक्टपाथ I/O. यह CUDA समानांतर कंप्यूटिंग ड्राइवर को हाइपरवाइजर को दरकिनार करते हुए वर्चुअल मशीनों के साथ सीधे इंटरैक्ट करने की अनुमति देता है। जब आपको एक साथ एक जीपीयू पर कई वीएम चलाने की आवश्यकता होती है, तो जीआरआईडी वीजीपीयू समाधान का उपयोग किया जाता है। यह कार्ड की मेमोरी को कई खंडों में विभाजित करता है (लेकिन कम्प्यूटेशनल चक्र विभाजित नहीं होते हैं)।

इस मामले में दो वर्चुअल मशीनों का संचालन आरेख इस तरह दिखेगा:

परिणाम और पूर्वानुमान

कंपनी परीक्षण किये हाइपरवाइज़र एक भाषा मॉडल पर आधारित प्रशिक्षण द्वारा TensorFlow. प्रदर्शन "नुकसान" नंगे धातु की तुलना में केवल 3-4% था। बदले में, सिस्टम वर्तमान लोड के आधार पर मांग पर संसाधनों को वितरित करने में सक्षम था।

आईटी दिग्गज भी परीक्षण किये कंटेनरों के साथ. कंपनी के इंजीनियरों ने छवियों को पहचानने के लिए तंत्रिका नेटवर्क को प्रशिक्षित किया। उसी समय, एक जीपीयू के संसाधनों को चार कंटेनर वीएम के बीच वितरित किया गया था। परिणामस्वरूप, व्यक्तिगत मशीनों का प्रदर्शन 17% कम हो गया (जीपीयू संसाधनों तक पूर्ण पहुंच वाले एकल वीएम की तुलना में)। हालाँकि, प्रति सेकंड संसाधित छवियों की संख्या बढ़ा हुआ तीन बार। ऐसी प्रणालियों की अपेक्षा की जाती है पता कर लेंगे डेटा विश्लेषण और कंप्यूटर मॉडलिंग में अनुप्रयोग।

विशेषज्ञों का कहना है कि वीएमवेयर को जिन संभावित समस्याओं का सामना करना पड़ सकता है पृथक बल्कि संकीर्ण लक्षित दर्शक वर्ग। बहुत कम संख्या में कंपनियाँ अभी भी उच्च-प्रदर्शन प्रणालियों के साथ काम कर रही हैं। हालाँकि स्टेटिस्टा में मार्ककि 2021 तक दुनिया के 94% डेटा सेंटर वर्कलोड को वर्चुअलाइज कर दिया जाएगा। द्वारा पूर्वानुमान विश्लेषकों के अनुसार, एचपीसी बाजार का मूल्य 32 से 45 की अवधि में 2017 से 2022 बिलियन डॉलर तक बढ़ जाएगा।

/ तस्वीर ग्लोबल एक्सेस पॉइंट PD

समान समाधान

बाज़ार में ऐसे कई एनालॉग हैं जो बड़ी आईटी कंपनियों द्वारा विकसित किए गए हैं: एएमडी और इंटेल।

GPU वर्चुअलाइजेशन के लिए पहली कंपनी प्रदान करता है SR-IOV (सिंगल-रूट इनपुट/आउटपुट वर्चुअलाइजेशन) पर आधारित दृष्टिकोण। यह तकनीक वीएम को सिस्टम की हार्डवेयर क्षमताओं के हिस्से तक पहुंच प्रदान करती है। समाधान आपको वर्चुअलाइज्ड सिस्टम के समान प्रदर्शन के साथ 16 उपयोगकर्ताओं के बीच GPU साझा करने की अनुमति देता है।

जहां तक ​​दूसरे आईटी दिग्गज की बात है, वे प्रौद्योगिकी आधारित Citrix XenServer 7 हाइपरवाइजर पर। यह एक मानक GPU ड्राइवर और एक वर्चुअल मशीन के काम को जोड़ता है, जो बाद वाले को सैकड़ों उपयोगकर्ताओं के उपकरणों पर 3D एप्लिकेशन और डेस्कटॉप प्रदर्शित करने की अनुमति देता है।

प्रौद्योगिकी का भविष्य

वर्चुअल जीपीयू डेवलपर्स एक शर्त बना एआई सिस्टम के कार्यान्वयन और व्यापार प्रौद्योगिकी बाजार में उच्च-प्रदर्शन समाधानों की बढ़ती लोकप्रियता पर। उन्हें उम्मीद है कि बड़ी मात्रा में डेटा संसाधित करने की आवश्यकता से वीजीपीयू की मांग बढ़ जाएगी।

अब निर्माता रास्ता ढूंढ रहा हूँ ग्राफिक्स, गणितीय गणना, तार्किक संचालन और डेटा प्रोसेसिंग से संबंधित समस्याओं को हल करने में तेजी लाने के लिए सीपीयू और जीपीयू की कार्यक्षमता को एक कोर में संयोजित करें। भविष्य में बाजार में ऐसे कोर की उपस्थिति संसाधन वर्चुअलाइजेशन और वर्चुअल और क्लाउड वातावरण में कार्यभार के बीच उनके वितरण के दृष्टिकोण को बदल देगी।

हमारे कॉर्पोरेट ब्लॉग में इस विषय पर क्या पढ़ें:

• कंपनियां वर्चुअल मशीन का उपयोग क्यों करती हैं, कंटेनर का नहीं
• "VMware कैसा चल रहा है": नए समाधानों की समीक्षा
• VMware vSphere 6.7: नई हाइपरवाइज़र सुविधाओं के क्या लाभ हैं

हमारे टेलीग्राम चैनल से कुछ पोस्ट:

• भविष्य की आईटी वास्तुकला - इसके लिए कौन और कैसे तैयारी करता है
• 5 क्लाउड प्रबंधन उपकरण
• IaaS प्रदाता ग्राहक डेटा की सुरक्षा कैसे करता है

स्रोत: www.habr.com