परिस्थिती: वर्च्युअल GPUs हे हार्डवेअर सोल्यूशन्सच्या कामगिरीमध्ये कमी दर्जाचे नाहीत

फेब्रुवारीमध्ये, स्टॅनफोर्डने उच्च-कार्यक्षमता संगणन (HPC) वर एक परिषद आयोजित केली होती. VMware च्या प्रतिनिधींनी सांगितले की GPU सह काम करताना, सुधारित ESXi हायपरवाइजरवर आधारित प्रणाली बेअर मेटल सोल्यूशन्सच्या गतीमध्ये कमी नाही.

आम्ही तंत्रज्ञानाबद्दल बोलतो ज्यामुळे हे साध्य करणे शक्य झाले.

/ छायाचित्र व्हिक्टरग्रिगास सीसी बाय-एसए

कार्यप्रदर्शन समस्या

विश्लेषकांच्या मते, डेटा सेंटरमध्ये सुमारे 70% वर्कलोड आहे आभासी. तथापि, उर्वरित 30% अद्याप हायपरवाइजरशिवाय बेअर मेटलवर चालतात. या 30% मध्ये मुख्यतः उच्च-लोड ऍप्लिकेशन्स असतात, जसे की प्रशिक्षण तंत्रिका नेटवर्कशी संबंधित, आणि GPUs वापरणे.

तज्ञ या प्रवृत्तीचे स्पष्टीकरण देतात की हायपरवाइजर, एक इंटरमीडिएट अॅब्स्ट्रॅक्शन लेयर म्हणून, संपूर्ण सिस्टमच्या कार्यक्षमतेवर परिणाम करू शकतो. पाच वर्षांपूर्वीच्या अभ्यासात आपण डेटा शोधू शकता कामाचा वेग 10% ने कमी करण्याबद्दल. त्यामुळे, कंपन्या आणि डेटा सेंटर ऑपरेटरना व्हर्च्युअल वातावरणात HPC वर्कलोड हस्तांतरित करण्याची घाई नाही.

परंतु आभासीकरण तंत्रज्ञान विकसित आणि सुधारत आहेत. एक महिन्यापूर्वी एका परिषदेत, VMware ने सांगितले की ESXi हायपरवाइजरचा GPU कार्यक्षमतेवर नकारात्मक प्रभाव पडत नाही. संगणकीय गती तीन टक्क्यांनी कमी केली जाऊ शकते, जी बेअर मेटलशी तुलना करता येते.

या कसे कार्य करते

GPU सह HPC सिस्टीमचे कार्यप्रदर्शन सुधारण्यासाठी, VMware ने हायपरवाइजरमध्ये अनेक बदल केले आहेत. विशेषतः, ते vMotion फंक्शनपासून मुक्त होते. लोड बॅलन्सिंगसाठी हे आवश्यक आहे आणि सहसा सर्व्हर किंवा GPU दरम्यान आभासी मशीन (VMs) हस्तांतरित करते. vMotion अक्षम केल्याने प्रत्येक VM आता एक विशिष्ट GPU नियुक्त केला जात आहे. यामुळे डेटाची देवाणघेवाण करताना खर्च कमी करण्यात मदत झाली.

सिस्टमचा आणखी एक महत्त्वाचा घटक तंत्रज्ञान आहे DirectPath I/O. हे CUDA समांतर कंप्युटिंग ड्रायव्हरला हायपरवाइजरला मागे टाकून थेट आभासी मशीनशी संवाद साधण्याची परवानगी देते. जेव्हा तुम्हाला एकाच GPU वर अनेक VM चालवायचे असतात, तेव्हा GRID vGPU सोल्यूशन वापरले जाते. हे कार्डच्या मेमरीला अनेक विभागांमध्ये विभाजित करते (परंतु संगणकीय चक्रे विभागली जात नाहीत).

या प्रकरणात दोन आभासी मशीनचे ऑपरेशन आकृती असे दिसेल:

परिणाम आणि अंदाज

फर्म चाचण्या घेतल्या आधारित भाषा मॉडेलचे प्रशिक्षण देऊन हायपरवाइजर टेन्सर फ्लो. बेअर मेटलच्या तुलनेत "नुकसान" केवळ 3-4% होते. त्या बदल्यात, सिस्टम सध्याच्या लोडवर अवलंबून मागणीनुसार संसाधने वितरीत करण्यास सक्षम होती.

आयटी दिग्गज देखील चाचण्या घेतल्या कंटेनर सह. कंपनीच्या अभियंत्यांनी न्यूरल नेटवर्कला प्रतिमा ओळखण्यासाठी प्रशिक्षित केले. त्याच वेळी, एका GPU ची संसाधने चार कंटेनर VM मध्ये वितरीत केली गेली. परिणामी, वैयक्तिक मशीन्सची कार्यक्षमता 17% कमी झाली (जीपीयू संसाधनांमध्ये पूर्ण प्रवेशासह एकल व्हीएमच्या तुलनेत). तथापि, प्रति सेकंद प्रक्रिया केलेल्या प्रतिमांची संख्या वाढले तीन वेळा. अशी यंत्रणा अपेक्षित आहे सापडेल डेटा विश्लेषण आणि संगणक मॉडेलिंग मध्ये अनुप्रयोग.

व्हीएमवेअरला सामोरे जाणाऱ्या संभाव्य समस्यांपैकी, तज्ञ वाटप ऐवजी अरुंद लक्ष्य प्रेक्षक. काही कंपन्या अजूनही उच्च-कार्यक्षमता प्रणालीसह काम करत आहेत. Statista मध्ये तरी साजरा करा2021 पर्यंत, जगातील डेटा सेंटर वर्कलोडपैकी 94% वर्च्युअलाइज्ड केले जातील. द्वारे अंदाज विश्लेषकांच्या मते, 32 ते 45 या कालावधीत एचपीसी बाजाराचे मूल्य 2017 ते 2022 अब्ज डॉलर्सपर्यंत वाढेल.

/ छायाचित्र ग्लोबल ऍक्सेस पॉइंट PD

तत्सम उपाय

बाजारात अनेक analogues आहेत जे मोठ्या IT कंपन्यांनी विकसित केले आहेत: AMD आणि Intel.

GPU वर्च्युअलायझेशनसाठी पहिली कंपनी ऑफर SR-IOV (सिंगल-रूट इनपुट/आउटपुट वर्च्युअलायझेशन) वर आधारित दृष्टीकोन. हे तंत्रज्ञान प्रणालीच्या हार्डवेअर क्षमतेच्या काही भागामध्ये VM ला प्रवेश देते. समाधान तुम्हाला वर्च्युअलाइज्ड सिस्टमच्या समान कार्यक्षमतेसह 16 वापरकर्त्यांमध्ये GPU सामायिक करण्यास अनुमती देते.

दुसरी आयटी दिग्गज म्हणून, ते तंत्रज्ञानावर आधारित Citrix XenServer 7 हायपरवाइजरवर. हे मानक GPU ड्रायव्हर आणि व्हर्च्युअल मशीनचे कार्य एकत्र करते, जे शेकडो वापरकर्त्यांच्या उपकरणांवर 3D अनुप्रयोग आणि डेस्कटॉप प्रदर्शित करण्यास अनुमती देते.

तंत्रज्ञानाचे भविष्य

व्हर्च्युअल GPU विकसक पैज लावा एआय सिस्टम्सच्या अंमलबजावणीवर आणि व्यवसाय तंत्रज्ञान बाजारपेठेतील उच्च-कार्यक्षमता समाधानांची वाढती लोकप्रियता. त्यांना आशा आहे की मोठ्या प्रमाणात डेटावर प्रक्रिया करण्याची गरज vGPU ची मागणी वाढवेल.

आता उत्पादक मार्ग शोधत आहे ग्राफिक्सशी संबंधित समस्यांचे निराकरण करण्यासाठी, गणितीय गणना करणे, तार्किक ऑपरेशन्स आणि डेटा प्रोसेसिंग करण्यासाठी CPU आणि GPU ची कार्यक्षमता एका कोरमध्ये एकत्र करा. भविष्यात बाजारावर अशा कोरचे स्वरूप व्हर्च्युअल आणि क्लाउड वातावरणातील वर्कलोड्स दरम्यान संसाधन व्हर्च्युअलायझेशन आणि त्यांच्या वितरणाचा दृष्टिकोन बदलेल.

आमच्या कॉर्पोरेट ब्लॉगमध्ये या विषयावर काय वाचावे:

• कंपन्या व्हर्च्युअल मशीन्स का वापरतात, कंटेनर नाही
• "व्हीएमवेअर कसे चालले आहे": नवीन उपायांचे पुनरावलोकन
• VMware vSphere 6.7: नवीन हायपरवाइजर वैशिष्ट्यांचे फायदे काय आहेत

आमच्या टेलिग्राम चॅनेलवरील काही पोस्ट:

• भविष्यातील आयटी आर्किटेक्चर - कोण आणि कसे त्याची तयारी करते
• 5 क्लाउड व्यवस्थापन साधने
• IaaS प्रदाता ग्राहक डेटाचे संरक्षण कसे करतो

स्त्रोत: www.habr.com