5.8 मिलियन IOPS: इतना अधिक क्यों?

हेलो हबर! बिग डेटा और मशीन लर्निंग के लिए डेटा सेट तेजी से बढ़ रहे हैं और हमें उनके साथ बने रहने की जरूरत है। उच्च प्रदर्शन कंप्यूटिंग (एचपीसी, उच्च प्रदर्शन कंप्यूटिंग) के क्षेत्र में एक और नवीन तकनीक के बारे में हमारी पोस्ट, किंग्स्टन बूथ पर दिखाई गई सुपरकंप्यूटिंग-2019. यह ग्राफिक प्रोसेसिंग यूनिट (जीपीयू) और जीपीयूडायरेक्ट स्टोरेज बस तकनीक वाले सर्वर में हाई-एंड डेटा स्टोरेज सिस्टम (एसडीएस) का उपयोग है। स्टोरेज सिस्टम और जीपीयू के बीच सीधे डेटा एक्सचेंज के लिए धन्यवाद, सीपीयू को छोड़कर, जीपीयू एक्सेलेरेटर में डेटा लोड करना परिमाण के क्रम से तेज हो जाता है, इसलिए बिग डेटा एप्लिकेशन जीपीयू द्वारा प्रदान किए जाने वाले अधिकतम प्रदर्शन पर चलते हैं। बदले में, एचपीसी सिस्टम डेवलपर्स उच्चतम I/O गति वाले स्टोरेज सिस्टम में प्रगति में रुचि रखते हैं, जैसे कि किंग्स्टन द्वारा उत्पादित।

GPU का प्रदर्शन डेटा लोडिंग से आगे निकल जाता है

2007 में सामान्य प्रयोजन अनुप्रयोगों को विकसित करने के लिए जीपीयू-आधारित हार्डवेयर-सॉफ्टवेयर समानांतर कंप्यूटिंग आर्किटेक्चर, सीयूडीए के निर्माण के बाद से, जीपीयू की हार्डवेयर क्षमताओं में अविश्वसनीय रूप से वृद्धि हुई है। आज, बिग डेटा, मशीन लर्निंग (एमएल), और डीप लर्निंग (डीएल) जैसे एचपीसी अनुप्रयोगों में जीपीयू का तेजी से उपयोग किया जा रहा है।

ध्यान दें कि शब्दों की समानता के बावजूद, अंतिम दो एल्गोरिदमिक रूप से भिन्न कार्य हैं। एमएल संरचित डेटा के आधार पर कंप्यूटर को प्रशिक्षित करता है, जबकि डीएल तंत्रिका नेटवर्क से फीडबैक के आधार पर कंप्यूटर को प्रशिक्षित करता है। अंतरों को समझने में मदद के लिए एक उदाहरण काफी सरल है। आइए मान लें कि कंप्यूटर को स्टोरेज सिस्टम से लोड की गई बिल्लियों और कुत्तों की तस्वीरों के बीच अंतर करना चाहिए। एमएल के लिए, आपको कई टैग के साथ छवियों का एक सेट सबमिट करना चाहिए, जिनमें से प्रत्येक जानवर की एक विशेष विशेषता को परिभाषित करता है। डीएल के लिए, यह बहुत बड़ी संख्या में छवियां अपलोड करने के लिए पर्याप्त है, लेकिन केवल एक टैग के साथ "यह एक बिल्ली है" या "यह एक कुत्ता है"। डीएल बिल्कुल उसी तरह है जैसे छोटे बच्चों को सिखाया जाता है - उन्हें बस किताबों और जीवन में कुत्तों और बिल्लियों की तस्वीरें दिखाई जाती हैं (अक्सर, विस्तृत अंतर बताए बिना भी), और बच्चे का मस्तिष्क खुद ही जानवर के प्रकार को निर्धारित करना शुरू कर देता है तुलना के लिए चित्रों की एक निश्चित महत्वपूर्ण संख्या (अनुमान के अनुसार, हम प्रारंभिक बचपन के दौरान केवल सौ या दो शो के बारे में बात कर रहे हैं)। डीएल एल्गोरिदम अभी तक इतने सही नहीं हैं: एक तंत्रिका नेटवर्क के लिए छवियों की पहचान पर सफलतापूर्वक काम करने के लिए, लाखों छवियों को जीपीयू में फीड करना और संसाधित करना आवश्यक है।

प्रस्तावना का सारांश: जीपीयू के आधार पर, आप बिग डेटा, एमएल और डीएल के क्षेत्र में एचपीसी एप्लिकेशन बना सकते हैं, लेकिन एक समस्या है - डेटा सेट इतने बड़े हैं कि स्टोरेज सिस्टम से जीपीयू तक डेटा लोड करने में समय लगता है एप्लिकेशन के समग्र प्रदर्शन को कम करना शुरू कर देता है। दूसरे शब्दों में, अन्य उपप्रणालियों से आने वाले धीमे I/O डेटा के कारण तेज़ GPU का उपयोग कम हो जाता है। GPU की I/O गति और CPU/स्टोरेज सिस्टम की बस में अंतर परिमाण का एक क्रम हो सकता है।

GPUDirect स्टोरेज तकनीक कैसे काम करती है?

I/O प्रक्रिया को सीपीयू द्वारा नियंत्रित किया जाता है, जैसे आगे की प्रक्रिया के लिए स्टोरेज से जीपीयू में डेटा लोड करने की प्रक्रिया होती है। इससे ऐसी तकनीक के लिए अनुरोध किया गया जो एक दूसरे के साथ शीघ्रता से संचार करने के लिए जीपीयू और एनवीएमई ड्राइव के बीच सीधी पहुंच प्रदान करेगी। NVIDIA ऐसी तकनीक पेश करने वाला पहला था और इसे GPUDirect स्टोरेज कहा जाता था। वास्तव में, यह उनके द्वारा पहले विकसित की गई GPUDirect RDMA (रिमोट डायरेक्ट मेमोरी एड्रेस) तकनीक का एक रूप है।

NVIDIA के सीईओ जेन्सेन हुआंग SC-19 में GPUDirect RDMA के एक संस्करण के रूप में GPUDirect स्टोरेज पेश करेंगे। स्रोत: एनवीडिया

GPUDirect RDMA और GPUDirect स्टोरेज के बीच अंतर उन डिवाइसों में है जिनके बीच एड्रेसिंग की जाती है। GPUDirect RDMA तकनीक को सीधे फ्रंट-एंड नेटवर्क इंटरफ़ेस कार्ड (NIC) और GPU मेमोरी के बीच डेटा स्थानांतरित करने के लिए पुन: उपयोग किया जाता है, और GPUDirect स्टोरेज स्थानीय या दूरस्थ स्टोरेज जैसे NVMe या NVMe ओवर फैब्रिक (NVMe-oF) के बीच एक सीधा डेटा पथ प्रदान करता है। जीपीयू मेमोरी.

जीपीयूडायरेक्ट आरडीएमए और जीपीयूडायरेक्ट स्टोरेज दोनों सीपीयू मेमोरी में बफर के माध्यम से अनावश्यक डेटा मूवमेंट से बचते हैं और डायरेक्ट मेमोरी एक्सेस (डीएमए) तंत्र को नेटवर्क कार्ड या स्टोरेज से डेटा को सीधे जीपीयू मेमोरी में या उससे स्थानांतरित करने की अनुमति देते हैं - यह सब केंद्रीय सीपीयू पर लोड किए बिना। GPUDirect स्टोरेज के लिए, स्टोरेज का स्थान कोई मायने नहीं रखता: यह एक GPU यूनिट के अंदर एक NVME डिस्क हो सकता है, एक रैक के अंदर, या NVMe-oF के रूप में नेटवर्क पर जुड़ा हो सकता है।

GPUडायरेक्ट स्टोरेज के संचालन की योजना। स्रोत: एनवीडिया

एचपीसी एप्लिकेशन बाजार में एनवीएमई पर हाई-एंड स्टोरेज सिस्टम की मांग है

यह महसूस करते हुए कि GPUDirect स्टोरेज के आगमन के साथ, बड़े ग्राहकों की रुचि GPU के थ्रूपुट के अनुरूप I/O गति के साथ स्टोरेज सिस्टम की पेशकश करने के लिए आकर्षित होगी, SC-19 प्रदर्शनी में किंग्स्टन ने एक सिस्टम का डेमो दिखाया जिसमें एक शामिल है एनवीएमई डिस्क पर आधारित भंडारण प्रणाली और एक जीपीयू वाली इकाई, जो प्रति सेकंड हजारों उपग्रह छवियों का विश्लेषण करती है। हम पहले ही 10 DC1000M U.2 NVMe ड्राइव पर आधारित ऐसे स्टोरेज सिस्टम के बारे में लिख चुके हैं सुपरकंप्यूटर प्रदर्शनी की एक रिपोर्ट में.

10 DC1000M U.2 NVMe ड्राइव पर आधारित एक स्टोरेज सिस्टम ग्राफिक्स एक्सेलेरेटर वाले सर्वर को पर्याप्त रूप से पूरक करता है। स्रोत: किंग्स्टन

इस भंडारण प्रणाली को 1U या बड़ी रैक इकाई के रूप में डिज़ाइन किया गया है और इसे DC1000M U.2 NVMe ड्राइव की संख्या के आधार पर बढ़ाया जा सकता है, प्रत्येक की क्षमता 3.84-7.68 टीबी है। DC1000M किंग्स्टन की डेटा सेंटर ड्राइव लाइन में U.2 फॉर्म फैक्टर में पहला NVMe SSD मॉडल है। इसकी एक सहनशक्ति रेटिंग (DWPD, ड्राइव प्रति दिन लिखती है) है, जो इसे ड्राइव के गारंटीकृत जीवन के लिए दिन में एक बार अपनी पूरी क्षमता से डेटा को फिर से लिखने की अनुमति देती है।

Ubuntu 3.13 LTS ऑपरेटिंग सिस्टम, लिनक्स कर्नेल 18.04.3-5.0.0-जेनेरिक पर fio v31 परीक्षण में, प्रदर्शनी भंडारण नमूने ने एक टिकाऊ थ्रूपुट (सतत बैंडविड्थ) के साथ 5.8 मिलियन IOPS की पढ़ने की गति (सतत रीड) दिखाई ) 23.8 Gbit/s.

किंग्स्टन में एसएसडी बिजनेस मैनेजर एरियल पेरेज़ ने नए स्टोरेज सिस्टम के बारे में कहा: “हम पारंपरिक रूप से स्टोरेज से जुड़ी कई डेटा ट्रांसफर बाधाओं को खत्म करने के लिए अगली पीढ़ी के सर्वर को यू.2 एनवीएमई एसएसडी समाधानों से लैस करने के लिए तैयार हैं। एनवीएमई एसएसडी ड्राइव और हमारे प्रीमियम सर्वर प्रीमियर डीआरएएम का संयोजन किंग्स्टन को उद्योग के सबसे व्यापक एंड-टू-एंड डेटा समाधान प्रदाताओं में से एक बनाता है।"

Gfio v3.13 परीक्षण ने DC23.8M U.1000 NVMe ड्राइव पर डेमो स्टोरेज सिस्टम के लिए 2 Gbps का थ्रूपुट दिखाया। स्रोत: किंग्स्टन

GPUDirect स्टोरेज या इसी तरह की तकनीक का उपयोग करके HPC अनुप्रयोगों के लिए एक विशिष्ट प्रणाली कैसी दिखेगी? यह एक रैक के भीतर कार्यात्मक इकाइयों के भौतिक पृथक्करण के साथ एक वास्तुकला है: रैम के लिए एक या दो इकाइयां, जीपीयू और सीपीयू कंप्यूटिंग नोड्स के लिए कई और, और भंडारण प्रणालियों के लिए एक या अधिक इकाइयां।

जीपीयूडायरेक्ट स्टोरेज की घोषणा और अन्य जीपीयू विक्रेताओं से समान प्रौद्योगिकियों के संभावित उद्भव के साथ, उच्च-प्रदर्शन कंप्यूटिंग में उपयोग के लिए डिज़ाइन किए गए स्टोरेज सिस्टम की किंग्स्टन की मांग बढ़ रही है। मार्कर स्टोरेज सिस्टम से डेटा पढ़ने की गति होगी, जो जीपीयू के साथ कंप्यूटिंग इकाई के प्रवेश द्वार पर 40- या 100-जीबी नेटवर्क कार्ड के थ्रूपुट के बराबर होगी। इस प्रकार, फैब्रिक के माध्यम से बाहरी एनवीएमई सहित अल्ट्रा-हाई-स्पीड स्टोरेज सिस्टम, एचपीसी अनुप्रयोगों के लिए विदेशी से मुख्यधारा में चले जाएंगे। विज्ञान और वित्तीय गणनाओं के अलावा, उन्हें कई अन्य व्यावहारिक क्षेत्रों में भी आवेदन मिलेगा, जैसे कि सुरक्षित शहर महानगरीय स्तर पर सुरक्षा प्रणालियाँ या परिवहन निगरानी केंद्र, जहाँ प्रति सेकंड लाखों एचडी छवियों की पहचान और पहचान गति की आवश्यकता होती है,'' उल्लिखित शीर्ष भंडारण प्रणाली का बाज़ार स्थान

किंग्स्टन उत्पादों के बारे में अधिक जानकारी यहां पाई जा सकती है आधिकारिक वेबसाइट कंपनी।

स्रोत: www.habr.com