तंत्रिका नेटवर्क को प्रशिक्षित करते समय Intel Xeon ने कई बार आठ टेस्ला V100 से बेहतर प्रदर्शन किया

गहन तंत्रिका नेटवर्क सीखने के दौरान एक साथ आठ ग्राफिक्स प्रोसेसर के संयोजन की तुलना में केंद्रीय प्रोसेसर प्रदर्शन में कई गुना तेज था। ऐसा लगता है जैसे यह कोई विज्ञान कथा है, है ना? लेकिन राइस यूनिवर्सिटी के शोधकर्ताओं ने Intel Xeon का उपयोग करके साबित कर दिया है कि यह संभव है।

सीपीयू की तुलना में जीपीयू हमेशा गहन शिक्षण तंत्रिका नेटवर्क के लिए अधिक उपयुक्त रहे हैं। यह जीपीयू की वास्तुकला के कारण है, जिसमें कई छोटे कोर शामिल हैं जो समानांतर में कई छोटे कार्य करने में सक्षम हैं, जो कि तंत्रिका नेटवर्क के प्रशिक्षण के लिए बिल्कुल आवश्यक है। लेकिन यह पता चला कि केंद्रीय प्रोसेसर, सही दृष्टिकोण के साथ, गहन शिक्षण में बहुत प्रभावी हो सकते हैं।

यह बताया गया है कि SLIDE डीप लर्निंग एल्गोरिदम का उपयोग करते समय, 44 कोर वाला एक Intel Xeon प्रोसेसर आठ NVIDIA Tesla V3,5 कंप्यूटिंग एक्सेलेरेटर के संयोजन की तुलना में 100 गुना अधिक उत्पादक था। यह शायद पहली बार है कि सीपीयू ने न केवल ऐसे परिदृश्य में जीपीयू को पीछे छोड़ दिया, बल्कि उनसे आगे निकल गया, और बहुत ही उल्लेखनीय रूप से।

विश्वविद्यालय द्वारा जारी एक प्रेस विज्ञप्ति में कहा गया है कि SLIDE एल्गोरिदम को GPU की आवश्यकता नहीं है क्योंकि यह पूरी तरह से अलग दृष्टिकोण का उपयोग करता है। आमतौर पर, तंत्रिका नेटवर्क को प्रशिक्षित करते समय, प्रशिक्षण त्रुटि बैकप्रॉपैगेशन तकनीक का उपयोग किया जाता है, जो मैट्रिक्स गुणन का उपयोग करता है, जो जीपीयू के लिए एक आदर्श भार है। दूसरी ओर, SLIDE सीखने को एक लुकअप समस्या में बदल देता है जिसे हैश तालिकाओं का उपयोग करके हल किया जाता है।

शोधकर्ताओं के अनुसार, यह तंत्रिका नेटवर्क के प्रशिक्षण की कम्प्यूटेशनल लागत को काफी कम कर देता है। बेसलाइन प्राप्त करने के लिए, शोधकर्ताओं ने Google की TensorFlow लाइब्रेरी का उपयोग करके एक तंत्रिका नेटवर्क को प्रशिक्षित करने के लिए आठ टेस्ला V100 त्वरक के साथ राइस यूनिवर्सिटी लैब की मौजूदा प्रणाली का उपयोग किया। इस प्रक्रिया में 3,5 घंटे लगे. बाद में, एक समान तंत्रिका नेटवर्क को एकल 44-कोर Xeon प्रोसेसर वाले सिस्टम पर SLIDE एल्गोरिदम का उपयोग करके प्रशिक्षित किया गया था, और इसमें केवल 1 घंटा लगा।

यहां ध्यान देने वाली बात यह है कि इंटेल के पास वर्तमान में अपने उत्पाद रेंज में 44-कोर प्रोसेसर मॉडल नहीं हैं। यह संभव है कि शोधकर्ताओं ने किसी प्रकार की कस्टम या अप्रकाशित चिप का उपयोग किया हो, लेकिन इसकी संभावना नहीं है। इसकी अधिक संभावना है कि यहां दो 22-कोर इंटेल ज़ीऑन वाले सिस्टम का उपयोग किया गया था, या प्रेस विज्ञप्ति में बस एक त्रुटि थी, और हम 44 थ्रेड्स के बारे में बात कर रहे हैं जो एक 22-कोर प्रोसेसर द्वारा प्रदान किए गए थे। लेकिन किसी भी मामले में, इससे उपलब्धि में कोई कमी नहीं आती है।

बेशक, स्लाइड एल्गोरिदम को अभी भी कई परीक्षणों से गुजरना होगा और इसकी प्रभावशीलता साबित करनी होगी, साथ ही किसी भी विशिष्टता और नुकसान की अनुपस्थिति भी साबित करनी होगी। हालाँकि, अब हम जो देखते हैं वह बहुत प्रभावशाली है और वास्तव में उद्योग के विकास पर बड़ा प्रभाव डाल सकता है।

स्रोत: 3dnews.ru