डेटा केंद्रांमध्ये FPGA प्रवेशाची अपरिहार्यता

तुम्हाला FPGA साठी प्रोग्राम करण्यासाठी चिप डिझायनर असण्याची गरज नाही, जसे तुम्हाला Java मध्ये कोड लिहिण्यासाठी C++ प्रोग्रामर असण्याची गरज नाही. तथापि, दोन्ही प्रकरणांमध्ये ते कदाचित उपयुक्त ठरेल.

Java आणि FPGA दोन्ही तंत्रज्ञानाचे व्यावसायिकीकरण करण्याचे उद्दिष्ट नंतरचे दावे खोटे ठरवणे आहे. FPGAs साठी चांगली बातमी - प्रोग्रामेबल लॉजिक डिव्हाईसचा शोध लागल्यापासून गेल्या 35 वर्षांत योग्य ॲब्स्ट्रॅक्शन लेयर्स आणि टूलसेट वापरून, CPUs, DSPs, GPUs ऐवजी FPGAs साठी अल्गोरिदम आणि डेटा प्रवाह तयार करणे किंवा सानुकूल ASIC चे इतर कोणतेही स्वरूप बनले आहे. अधिक सामान्य.

त्यांच्या निर्मितीची अचूक वेळ यावरून स्पष्ट होते की, नेमके त्याच वेळी जेव्हा सीपीयू हे एकमेव संगणकीय मॉड्यूल म्हणून राहणे शक्य नव्हते. डेटा केंद्रे विविध कामांसाठी—विविध कारणांसाठी—एफपीजीएने उच्च कार्यक्षमता, कमी विलंब, नेटवर्किंग आणि मेमरी—म्हणजेच आधुनिक एफपीजीए एसओसीच्या विविध संगणकीय क्षमता—प्रत्यक्षात संपूर्ण संगणकीय प्रणाली असल्याने, आपली परिणामकारकता साधली आहे. तथापि, एफपीजीए हायब्रीड प्रणालींमध्ये इतर उपकरणांसोबतही यशस्वीरित्या एकत्र येतात आणि आमच्या मते, संगणकीय श्रेणीमध्ये आपले योग्य स्थान मिळवण्यास त्यांची ही केवळ सुरुवात आहे.

म्हणूनच आम्ही 22 जानेवारी रोजी सॅन जोस येथे नेक्स्ट FPGA प्लॅटफॉर्म परिषद आयोजित केली. साहजिकच, जगातील मुख्य FPGA पुरवठादारांपैकी एक आणि या क्षेत्रातील अग्रगण्य Xilinx आहे. Ivo Bolsens, Xilinx चे वरिष्ठ उपाध्यक्ष आणि मुख्य तंत्रज्ञान अधिकारी, कॉन्फरन्समध्ये बोलले आणि Xilinx डेटा सेंटर्ससाठी बदलण्यायोग्य संगणकीय प्रणाली तयार करण्यात कशी मदत करत आहे याबद्दल आज आम्हाला त्यांचे विचार दिले.

एका विषम डेटा सेंटरवर पोहोचण्यासाठी सिस्टम आर्किटेक्ट आणि प्रोग्रामरना थोडा वेळ लागतो, ज्यामध्ये वेगवेगळ्या प्रकारची संगणकीय शक्ती असेल, संगणकीय, स्टोरेज आणि नेटवर्किंग कामे हाताळली जातील. हे आवश्यक वाटते कारण विविध CMOS चिप्ससह मूरच्या कायद्याचे पालन करणे अधिक कठीण होत चालले आहे. सध्या, आपली भाषा अजूनही CPU-केंद्रित आहे आणि आपण अजूनही "अ‍ॅप्लिकेशन अॅक्सिलरेशन" बद्दल बोलतो, म्हणजे प्रोग्राम केवळ CPU वर करता येण्यापेक्षा चांगले चालतात. अखेरीस, डेटा सेंटर संगणकीय शक्ती, स्टोरेज आणि सर्वकाही एकत्र जोडणारे प्रोटोकॉलचे संग्रह बनतील आणि आपण "कॉम्प्यूट" आणि "अ‍ॅप्लिकेशन्स" सारख्या संज्ञांकडे परत जाऊ. हायब्रिड संगणकीय आजच्या क्लाउड सेवांइतकेच सामान्य होईल, जे पारंपारिक किंवा व्हर्च्युअल मशीन्स, आणि कधीतरी, आपण त्यांच्या कार्याचे वर्णन करण्यासाठी फक्त "संगणक" हा शब्द वापरू. कधीतरी - आणि FPGAs कदाचित या युगाची सुरुवात करण्यात महत्त्वाची भूमिका बजावतील - आपण त्याला पुन्हा डेटा प्रोसेसिंग म्हणू.

डेटा सेंटर्समध्ये FPGA स्वीकारण्यासाठी मानसिकतेत बदल आवश्यक आहे. “आजच्या ऍप्लिकेशन्सचा वेग वाढवण्याच्या मार्गांचा विचार करताना, ते कसे चालतात, कोणती संसाधने वापरली जातात, वेळ कुठे घालवला जातो या मूलभूत गोष्टींकडे तुम्हाला उतरावे लागेल,” बोलसेन्स स्पष्ट करतात. - आपण ज्या सामान्य समस्येचे निराकरण करण्याचा प्रयत्न करीत आहात त्याचा अभ्यास करणे आवश्यक आहे. आज डेटा सेंटरमध्ये चालणारे अनेक ऍप्लिकेशन्स मोठ्या प्रमाणात संसाधने वापरण्यासाठी स्केल करतात. उदाहरणार्थ, मशीन लर्निंग घ्या, जे मोठ्या संख्येने संगणकीय नोड्स वापरते. परंतु जेव्हा आपण प्रवेग बद्दल बोलतो तेव्हा आपल्याला केवळ संगणकीय गती वाढविण्याबद्दलच नव्हे तर पायाभूत सुविधांचा वेग वाढवण्याबद्दल देखील विचार केला पाहिजे.

उदाहरणार्थ, बोलसेन्सने अभ्यासात ज्या प्रकारच्या मशीन लर्निंग ऑपरेशन्सचा अभ्यास केला त्यामध्ये, अंदाजे 50% वेळ हा डेटा विखुरलेल्या संगणन शक्ती दरम्यान पाठीमागे हस्तांतरित करण्यात खर्च होतो आणि उरलेला अर्धा वेळ स्वतः गणनेवर खर्च होतो.

“मला वाटते की इथेच FPGA मदत करू शकते, कारण आम्ही हे सुनिश्चित करू शकतो की ऍप्लिकेशनच्या संगणकीय आणि संप्रेषण या दोन्ही बाबी ऑप्टिमाइझ केल्या आहेत. आणि आपण हे एकूण पायाभूत सुविधांच्या पातळीवर आणि चिप स्तरावर करू शकतो. FPGAs चा हा एक मोठा फायदा आहे, जो तुम्हाला विशिष्ट अनुप्रयोग गरजांसाठी संप्रेषण नेटवर्क तयार करण्यास अनुमती देतो. एआय वर्कलोड्समधील डेटा हालचालींच्या विशिष्ट नमुन्यांवर आधारित, मला जटिल स्विच-आधारित आर्किटेक्चरची आवश्यकता दिसत नाही. आपण मोठ्या डेटा प्रवाहासह नेटवर्क तयार करू शकता. हेच न्यूरल नेटवर्क प्रशिक्षण कार्यांना लागू होते - तुम्ही विशिष्ट कार्याशी जुळवून घेणारे पॅकेट आकारांसह एक जाळी नेटवर्क तयार करू शकता. FPGA वापरून, डेटा ट्रान्सफर प्रोटोकॉल आणि सर्किट टोपोलॉजी अगदी अचूकपणे मोजले जाऊ शकतात आणि विशिष्ट अनुप्रयोगासाठी तयार केले जाऊ शकतात. आणि मशीन लर्निंगच्या बाबतीत, हे देखील स्पष्ट आहे की आम्हाला दुहेरी-परिशुद्धता फ्लोटिंग पॉइंट नंबरची आवश्यकता नाही आणि आम्ही ते देखील समायोजित करू शकतो."

FPGA आणि CPU किंवा कस्टम ASIC मधील फरक हा आहे की नंतरचे फॅक्टरीमध्ये प्रोग्राम केले जातात आणि त्यानंतर तुम्ही डेटाच्या प्रकारांबद्दल किंवा घटकांची गणना केल्याबद्दल किंवा डेटाच्या स्वरूपाबद्दल तुमचे मत बदलू शकत नाही. डिव्हाइसमधून प्रवाह. ऑपरेटिंग परिस्थिती बदलल्यास FPGAs तुम्हाला तुमचा विचार बदलण्याची परवानगी देतात.

भूतकाळात, जेव्हा FPGA प्रोग्रामिंग हृदयाच्या अशक्तपणासाठी नव्हते तेव्हा हा फायदा खर्चात मिळत असे. C, C++, किंवा Python मध्ये CPU-समांतर ऍप्लिकेशन्स लिहिण्यासाठी प्रोग्रामर वापरत असलेल्या टूल्सशी चांगल्या प्रकारे समाकलित होण्यासाठी FPGA कंपाइलर उघडण्याची आणि FPGA वरील प्रक्रियांना गती देणाऱ्या लायब्ररींना काही काम आउटसोर्स करण्याची गरज आहे. Vitis मशीन लर्निंग स्टॅक हेच करते, ML प्लॅटफॉर्म जसे की Caffe आणि TensorFlow, लायब्ररीसह पारंपारिक AI मॉडेल चालवते किंवा व्हिडिओ ट्रान्सकोडिंग, व्हिडिओ ऑब्जेक्ट ओळखणे आणि डेटा विश्लेषण , आर्थिक जोखीम व्यवस्थापन आणि कोणत्याही तिसऱ्या कार्यांमध्ये FPGA क्षमता जोडते -पक्षीय ग्रंथालये.

ही संकल्पना एका दशकापूर्वी लाँच केलेल्या Nvidia च्या CUDA प्रकल्पापेक्षा फारशी वेगळी नाही, जी GPU प्रवेगकांना समांतर संगणन ऑफलोड करते, किंवा AMD च्या ROCm टूलकिटमधून, किंवा Intel च्या OneAPI प्रकल्पाच्या वचनापासून, जी वेगवेगळ्या CPU, GPU आणि FPGA वर चालली पाहिजे.

प्रश्न एवढाच आहे की ही सर्व साधने एकमेकांशी कशी जोडली जातील जेणेकरून कोणतीही व्यक्ती त्यांच्या विवेकबुद्धीनुसार संगणकीय शक्तींचा संच प्रोग्राम करू शकेल. हे महत्त्वाचे आहे कारण FPGAs उपलब्ध CPUs पेक्षा अधिक गुंतागुंतीचे झाले आहेत. ते सर्वात प्रगत उत्पादन प्रक्रिया आणि सर्वात आधुनिक चिप पॅकेजिंग तंत्रज्ञान वापरून तयार केले जातात. आणि त्यांना त्यांचे स्थान सापडेल, कारण आपण यापुढे वेळ, पैसा, ऊर्जा आणि बुद्धिमत्ता वाया घालवू शकत नाही - ही सर्व खूप महाग संसाधने आहेत.

"FPGAs तांत्रिक फायदे देतात," Bolsens म्हणतात. - आणि ही केवळ अनुकूलता आणि पुनर्रचना करण्याबद्दलची नेहमीची जाहिरात नाही. सर्व महत्त्वाच्या ऍप्लिकेशन्समध्ये - मशीन लर्निंग, आलेख विश्लेषण, हाय-स्पीड ट्रेडिंग इ. - त्यांच्याकडे केवळ डेटा वितरण मार्गच नव्हे तर मेमरी आर्किटेक्चर - डेटा चिपमध्ये कसा हलतो हे देखील विशिष्ट कार्याशी जुळवून घेण्याची क्षमता आहे. FPGA मध्ये इतर उपकरणांच्या तुलनेत खूप जास्त मेमरी तयार केली जाते. हे देखील लक्षात घेतले पाहिजे की एखादे कार्य एका FPGA मध्ये बसत नसल्यास, एकाधिक CPUs किंवा GPU वर कार्ये स्केलिंग करताना तुम्हाला वाटणाऱ्या गैरसोयींचा सामना न करता तुम्ही ते एकाधिक चिप्सवर स्केल करू शकता."

स्त्रोत: www.habr.com