टपरवेअर: फेसबुकचा कुबर्नेट्स किलर?

टपरवेअरसह कोणत्याही प्रमाणात क्लस्टरचे कार्यक्षम आणि विश्वासार्ह व्यवस्थापन

आज वर सिस्टम @ स्केल परिषद आम्ही टपरवेअर, आमची क्लस्टर व्यवस्थापन प्रणाली सादर केली आहे जी आमच्या जवळपास सर्व सेवा चालवणाऱ्या लाखो सर्व्हरवर कंटेनरचे आयोजन करते. आम्ही 2011 मध्ये प्रथम टपरवेअर तैनात केले आणि तेव्हापासून आमच्या पायाभूत सुविधांमध्ये वाढ झाली. 1 डेटा सेंटर संपूर्ण पर्यंत 15 भौगोलिक-वितरित डेटा केंद्रे. या सर्व वेळी, टपरवेअर स्थिर राहिले नाही आणि आमच्याबरोबर विकसित झाले. टपरवेअर राज्यपूर्ण सेवांसाठी सोयीस्कर समर्थन, सर्व डेटा केंद्रांसाठी एकल नियंत्रण पॅनेल आणि रिअल टाइममध्ये सेवांमध्ये क्षमता वितरीत करण्याची क्षमता यासह टपरवेअर प्रथम श्रेणीचे क्लस्टर व्यवस्थापन कसे प्रदान करते ते आम्ही तुम्हाला दाखवू. आमची पायाभूत सुविधा विकसित होत असताना आम्ही शिकलेले धडे देखील शेअर करू.

टपरवेअर वेगवेगळी कामे करतात. अॅप्लिकेशन डेव्हलपर ते अॅप्लिकेशन वितरित करण्यासाठी आणि व्यवस्थापित करण्यासाठी वापरतात. हे ऍप्लिकेशन कोड आणि अवलंबनांना प्रतिमेमध्ये पॅकेज करते आणि कंटेनर म्हणून सर्व्हरवर वितरित करते. कंटेनर एकाच सर्व्हरवरील ऍप्लिकेशन्समध्ये अलगाव प्रदान करतात जेणेकरुन डेव्हलपर ऍप्लिकेशन लॉजिकशी व्यवहार करतात आणि सर्व्हर शोधण्याची किंवा अद्यतने व्यवस्थापित करण्याची काळजी करण्याची गरज नाही. टपरवेअर सर्व्हरच्या कार्यक्षमतेवर देखील लक्ष ठेवते आणि त्यात बिघाड आढळल्यास, ते समस्याग्रस्त सर्व्हरवरून कंटेनर हस्तांतरित करते.

क्षमता नियोजन अभियंते बजेट आणि मर्यादांवर आधारित संघांना सर्व्हर क्षमता वाटप करण्यासाठी Tupperware वापरतात. ते सर्व्हर वापर सुधारण्यासाठी देखील वापरतात. डेटा सेंटर ऑपरेटर डेटा सेंटरमध्ये कंटेनरचे योग्यरित्या वितरण करण्यासाठी आणि देखभाल दरम्यान कंटेनर थांबवण्यासाठी किंवा हलवण्यासाठी टपरवेअरकडे वळतात. याबद्दल धन्यवाद, सर्व्हर, नेटवर्क आणि उपकरणे राखण्यासाठी किमान मानवी हस्तक्षेप आवश्यक आहे.

टपरवेअर आर्किटेक्चर

टपरवेअर PRN आर्किटेक्चर हे आमच्या डेटा सेंटरच्या क्षेत्रांपैकी एक आहे. या प्रदेशात जवळपास असलेल्या अनेक डेटा सेंटर इमारती (PRN1 आणि PRN2) आहेत. आम्ही एक नियंत्रण पॅनेल बनवण्याची योजना आखत आहोत जे एका प्रदेशातील सर्व सर्व्हर व्यवस्थापित करेल.

ॲप्लिकेशन डेव्हलपर टपरवेअर जॉब्सच्या स्वरूपात सेवा देतात. नोकरीमध्ये एकाधिक कंटेनर असतात आणि ते सर्व सामान्यतः समान अनुप्रयोग कोड चालवतात.

कंटेनरची तरतूद करण्यासाठी आणि त्यांचे जीवनचक्र व्यवस्थापित करण्यासाठी टपरवेअर जबाबदार आहे. यात अनेक घटक असतात:

• Tupperware फ्रंटएंड वापरकर्ता इंटरफेस, CLI आणि इतर ऑटोमेशन टूल्ससाठी API प्रदान करते ज्याद्वारे तुम्ही Tupperware शी संवाद साधू शकता. ते संपूर्ण अंतर्गत रचना Tupperware जॉब मालकांपासून लपवतात.
• टपरवेअर शेड्युलर हे कंटेनर आणि जॉब लाइफसायकल व्यवस्थापित करण्यासाठी जबाबदार नियंत्रण पॅनेल आहे. हे प्रादेशिक आणि जागतिक स्तरावर तैनात केले जाते, जेथे प्रादेशिक शेड्यूलर एका प्रदेशातील सर्व्हर व्यवस्थापित करतो आणि जागतिक शेड्यूलर वेगवेगळ्या प्रदेशांमधील सर्व्हर व्यवस्थापित करतो. शेड्युलर शार्ड्समध्ये विभागलेला आहे आणि प्रत्येक शार्ड जॉबचा संच व्यवस्थापित करतो.
• टपरवेअरचे शेड्युलर प्रॉक्सी अंतर्गत शार्डिंग लपवते आणि टपरवेअर वापरकर्त्यांसाठी काचेचे सोयीस्कर सिंगल पॅन प्रदान करते.
• टपरवेअर ऍलोकेटर सर्व्हरला कंटेनर नियुक्त करतो. शेड्युलर कंटेनर थांबवणे, सुरू करणे, अपडेट करणे आणि फेलओव्हर हाताळते. सध्या, एक वाटप करणारा संपूर्ण प्रदेशाचे विभाजन न करता व्यवस्थापित करू शकतो. (परिभाषेतील फरक लक्षात घ्या. उदाहरणार्थ, टपरवेअरमधील शेड्युलर मधील कंट्रोल पॅनेलशी संबंधित आहे कुबेरनेट्स, आणि Tupperware वाटपकर्त्याला Kubernetes मध्ये शेड्युलर म्हणतात.)
• रिसोर्स ब्रोकर सर्व्हर आणि सर्व्हिस इव्हेंटसाठी सत्याचा स्रोत संग्रहित करतो. आम्ही प्रत्येक डेटा सेंटरसाठी एक रिसोर्स ब्रोकर चालवतो आणि तो त्या डेटा सेंटरमधील सर्व्हरबद्दल सर्व माहिती संग्रहित करतो. रिसोर्स ब्रोकर आणि कॅपॅसिटी मॅनेजमेंट सिस्टम, किंवा रिसोर्स प्रोव्हिजनिंग सिस्टीम, कोणता शेड्युलर डिलिव्हरी कोणत्या सर्व्हरवर नियंत्रण ठेवतो हे डायनॅमिकपणे ठरवते. आरोग्य तपासणी सेवा सर्व्हरवर लक्ष ठेवते आणि संसाधन ब्रोकरमध्ये त्यांच्या आरोग्याविषयी डेटा संग्रहित करते. सर्व्हरला समस्या असल्यास किंवा देखभालीची आवश्यकता असल्यास, संसाधन दलाल वाटपकर्त्याला आणि शेड्युलरला कंटेनर थांबवण्यास किंवा इतर सर्व्हरवर हलवण्यास सांगतात.
• टपरवेअर एजंट प्रत्येक सर्व्हरवर चालणारा एक डिमन आहे जो कंटेनरची तरतूद आणि काढणे हाताळतो. अनुप्रयोग कंटेनरमध्ये चालतात, ज्यामुळे त्यांना अधिक अलगाव आणि पुनरुत्पादनक्षमता मिळते. चालू गेल्या वर्षीची सिस्टीम @Scale परिषद प्रतिमा, btrfs, cgroupv2 आणि systemd वापरून वैयक्तिक Tupperware कंटेनर कसे तयार केले जातात याचे आम्ही आधीच वर्णन केले आहे.

टपरवेअरची विशिष्ट वैशिष्ट्ये

टपरवेअर हे इतर क्लस्टर मॅनेजमेंट सिस्टम जसे की कुबर्नेट्स आणि अनेक प्रकारे समान आहे मेसोस, परंतु फरक देखील आहेत:

• राज्य सेवांसाठी अंगभूत समर्थन.
• वेगवेगळ्या डेटा सेंटर्समधील सर्व्हरसाठी एकच कंट्रोल पॅनल हेतू, क्लस्टर्सचे डिकमीशनिंग आणि देखभाल यावर आधारित कंटेनरची डिलिव्हरी स्वयंचलित करण्यासाठी.
• झूमिंगसाठी नियंत्रण पॅनेलचे स्पष्ट विभाजन.
• लवचिक संगणन आपल्याला रिअल टाइममध्ये सेवांमध्ये वीज वितरित करण्यास अनुमती देते.

मोठ्या जागतिक शेअर्ड सर्व्हर फ्लीटमध्ये विविध स्टेटलेस आणि स्टेटफुल अॅप्लिकेशन्सना समर्थन देण्यासाठी आम्ही ही छान वैशिष्ट्ये विकसित केली आहेत.

राज्य सेवांसाठी अंगभूत समर्थन.

Tupperware विविध प्रकारच्या गंभीर स्टेटफुल सेवा चालवते ज्या Facebook, Instagram, Messenger आणि WhatsApp साठी सतत उत्पादन डेटा संग्रहित करतात. हे की-व्हॅल्यू जोड्यांचे मोठे स्टोअर्स असू शकतात (उदा. ZippyDB) आणि डेटा रिपॉझिटरीजचे निरीक्षण करणे (उदाहरणार्थ, ODS गोरिल्ला и स्कुबा). स्टेटफुल सेवा राखणे सोपे नाही, कारण नेटवर्क आउटेज किंवा पॉवर आउटेजसह कंटेनरचा पुरवठा मोठ्या प्रमाणात व्यत्ययांचा सामना करू शकतो हे सिस्टमने सुनिश्चित केले पाहिजे. आणि पारंपारिक तंत्रे, जसे की फॉल्ट डोमेनवर कंटेनर वितरित करणे, स्टेटलेस सेवांसाठी चांगले कार्य करते, राज्य सेवांना अतिरिक्त समर्थनाची आवश्यकता असते.

उदाहरणार्थ, सर्व्हरच्या अपयशामुळे एक डेटाबेस प्रतिकृती अनुपलब्ध असल्यास, आपण 50 च्या पूलमधून 10 सर्व्हरवरील कोर अद्यतनित करणारी स्वयंचलित देखभाल सक्षम करावी का? परिस्थितीवर अवलंबून असते. या 50 सर्व्हरपैकी एकामध्ये समान डेटाबेसची दुसरी प्रतिकृती असल्यास, प्रतीक्षा करणे चांगले आहे आणि एकाच वेळी 2 प्रतिकृती गमावू नका. सिस्टम देखरेख आणि कार्यप्रदर्शनाबद्दल गतिशीलपणे निर्णय घेण्यासाठी, आम्हाला अंतर्गत डेटा प्रतिकृती आणि प्रत्येक स्टेटफुल सेवेच्या प्लेसमेंट लॉजिकबद्दल माहिती आवश्यक आहे.

टास्ककंट्रोल इंटरफेस स्टेटफुल सेवांना डेटा उपलब्धतेवर परिणाम करणाऱ्या निर्णयांवर प्रभाव टाकण्याची परवानगी देतो. या इंटरफेसचा वापर करून, शेड्युलर बाह्य अनुप्रयोगांना कंटेनर ऑपरेशन्स (रीस्टार्ट, अपडेट, स्थलांतर, देखभाल) बद्दल सूचित करतो. स्टेटफुल सर्व्हिस एक कंट्रोलर लागू करते जे प्रत्येक ऑपरेशन करणे सुरक्षित आहे तेव्हा Tupperware ला सांगते आणि या ऑपरेशन्सची अदलाबदल केली जाऊ शकते किंवा तात्पुरते विलंब होऊ शकतो. वरील उदाहरणामध्ये, डेटाबेस कंट्रोलर Tupperware ला 49 पैकी 50 सर्व्हर अपडेट करण्यास सांगू शकतो, परंतु सध्या एक विशिष्ट सर्व्हर (X) सोडा. परिणामी, कर्नल अपडेट कालावधी निघून गेल्यास आणि डेटाबेस अद्याप समस्याग्रस्त प्रतिकृती पुनर्संचयित करण्यात अक्षम असल्यास, Tupperware अद्याप X सर्व्हर अद्यतनित करेल.

Tupperware मधील अनेक स्टेटफुल सेवा टास्ककंट्रोलचा थेट वापर करतात, परंतु ShardManager द्वारे, Facebook वर स्टेटफुल सेवा तयार करण्यासाठी एक सामान्य व्यासपीठ. टपरवेअरसह, डेव्हलपर डेटा सेंटरमध्ये कंटेनर्सचे वितरण नेमके कसे करावे यासाठी त्यांचा हेतू निर्दिष्ट करू शकतात. ShardManager सह, डेव्हलपर कंटेनरमध्ये डेटा शार्ड्स कसे वितरित केले जावेत यासाठी त्यांचा हेतू निर्दिष्ट करतात. ShardManager ला डेटा प्लेसमेंट आणि त्याच्या ऍप्लिकेशन्सच्या प्रतिकृतीबद्दल माहिती आहे आणि थेट ऍप्लिकेशनच्या सहभागाशिवाय कंटेनर ऑपरेशन्स शेड्यूल करण्यासाठी TaskControl इंटरफेसद्वारे Tupperware शी संवाद साधतो. हे एकत्रीकरण राज्य सेवांचे व्यवस्थापन मोठ्या प्रमाणात सुलभ करते, परंतु TaskControl अधिक सक्षम आहे. उदाहरणार्थ, आमचा विस्तृत वेब टियर स्टेटलेस आहे आणि कंटेनरवरील अपडेटचे दर डायनॅमिकपणे समायोजित करण्यासाठी TaskControl वापरतो. अखेरीस वेब टियर एकाधिक सॉफ्टवेअर रिलीझ त्वरीत पूर्ण करण्यास सक्षम आहे उपलब्धतेशी तडजोड न करता दररोज.

डेटा केंद्रांमध्ये सर्व्हर व्यवस्थापित करणे

2011 मध्ये जेव्हा Tupperware लाँच केले गेले तेव्हा प्रत्येक सर्व्हर क्लस्टर वेगळ्या शेड्युलरद्वारे व्यवस्थापित केले गेले. त्यावेळेस, फेसबुक क्लस्टर हा एका नेटवर्क स्विचशी कनेक्ट केलेला सर्व्हर रॅकचा समूह होता आणि डेटा सेंटरमध्ये अनेक क्लस्टर्स होते. शेड्युलर फक्त एका क्लस्टरमध्ये सर्व्हर व्यवस्थापित करू शकतो, म्हणजे नोकरी अनेक क्लस्टरमध्ये पसरू शकत नाही. आमची पायाभूत सुविधा वाढली, आम्ही वाढत्या प्रमाणात क्लस्टर रद्द केले. टपरवेअर बदलाशिवाय कार्य रद्द केलेल्या क्लस्टरमधून इतर क्लस्टरमध्ये हलवू शकत नसल्यामुळे, यासाठी बरेच प्रयत्न आणि अॅप्लिकेशन डेव्हलपर आणि डेटा सेंटर ऑपरेटर यांच्यात काळजीपूर्वक समन्वय आवश्यक आहे. डिकमिशनिंग प्रक्रियेमुळे सर्व्हर महिने निष्क्रिय असताना या प्रक्रियेमुळे संसाधने वाया गेली.

क्लस्टर डिकमीशनिंग समस्येचे निराकरण करण्यासाठी आणि इतर प्रकारच्या देखभाल कार्यांचे समन्वय करण्यासाठी आम्ही एक संसाधन दलाल तयार केला आहे. रिसोर्स ब्रोकर सर्व्हरशी संबंधित सर्व भौतिक माहितीचा मागोवा ठेवतो आणि प्रत्येक सर्व्हरवर कोणता शेड्यूलर नियंत्रित करतो हे डायनॅमिकपणे ठरवतो. डायनॅमिकली सर्व्हरला शेड्युलरशी लिंक केल्याने शेड्युलरला वेगवेगळ्या डेटा सेंटरमध्ये सर्व्हर व्यवस्थापित करण्याची अनुमती मिळते. टपरवेअर जॉब यापुढे एका क्लस्टरपुरता मर्यादित नसल्यामुळे, टपरवेअर वापरकर्ते हे निर्दिष्ट करू शकतात की फॉल्ट डोमेनमध्ये कंटेनर कसे वितरित केले जावेत. उदाहरणार्थ, विकसक विशिष्ट उपलब्धता क्षेत्रे निर्दिष्ट न करता त्याचा हेतू (म्हणा: "पीआरएन प्रदेशातील 2 फॉल्ट डोमेनवर माझे काम चालवा") घोषित करू शकतो. हा हेतू अंमलात आणण्यासाठी टपरवेअर स्वतःच योग्य सर्व्हर शोधेल, जरी क्लस्टर किंवा सेवा बंद केली असली तरीही.

संपूर्ण जागतिक प्रणालीला समर्थन देण्यासाठी स्केलेबल

ऐतिहासिकदृष्ट्या, आमची पायाभूत सुविधा वैयक्तिक संघांसाठी शेकडो समर्पित सर्व्हर पूलमध्ये विभागली गेली आहे. विखंडन आणि मानकांच्या कमतरतेमुळे, आमच्याकडे उच्च परिचालन खर्च होते आणि निष्क्रिय सर्व्हर पुन्हा वापरणे अधिक कठीण होते. गेल्या वर्षीच्या परिषदेत सिस्टम @Scale आम्ही सादर केले सेवा म्हणून पायाभूत सुविधा (IaaS), ज्याने आमच्या पायाभूत सुविधांना एका मोठ्या सिंगल सर्व्हर पार्कमध्ये एकत्र केले पाहिजे. परंतु एकाच सर्व्हर पार्कच्या स्वतःच्या अडचणी आहेत. काही विशिष्ट आवश्यकता पूर्ण केल्या पाहिजेत:

• स्केलेबिलिटी. आम्ही प्रत्येक प्रदेशात डेटा सेंटर जोडल्यामुळे आमची पायाभूत सुविधा वाढली. सर्व्हर लहान आणि अधिक ऊर्जा कार्यक्षम झाले आहेत, म्हणून प्रत्येक प्रदेशात त्यापैकी बरेच आहेत. परिणामी, प्रत्येक प्रदेशातील शेकडो हजार सर्व्हरवर चालवल्या जाणार्‍या कंटेनरची संख्या प्रति प्रदेश एकल शेड्युलर हाताळू शकत नाही.
• विश्वसनीयता. जरी शेड्युलर इतके वाढवले ​​जाऊ शकते, शेड्युलरच्या मोठ्या व्याप्तीचा अर्थ असा आहे की त्रुटींचा धोका जास्त आहे आणि कंटेनरचा संपूर्ण प्रदेश अव्यवस्थापित होऊ शकतो.
• चुकीची सहनशीलता. मोठ्या पायाभूत सुविधांमध्ये बिघाड झाल्यास (उदाहरणार्थ, शेड्युलर चालवणारे सर्व्हर नेटवर्क बिघाडामुळे किंवा पॉवर आउटेजमुळे अयशस्वी होतात), नकारात्मक परिणामांचा परिणाम प्रदेशातील सर्व्हरच्या काही भागावरच होतो.
• उपयोग सहज. असे दिसते की तुम्हाला एका प्रदेशासाठी अनेक स्वतंत्र शेड्युलर चालवणे आवश्यक आहे. परंतु सोयीच्या दृष्टीकोनातून, प्रदेशाच्या सामायिक पूलमध्ये प्रवेशाचा एकच बिंदू क्षमता आणि नोकऱ्या व्यवस्थापित करणे सोपे करते.

मोठ्या सामायिक पूल राखण्याच्या समस्यांचे निराकरण करण्यासाठी आम्ही शेड्यूलरला शार्डमध्ये विभागले. प्रत्येक शेड्युलर शार्ड प्रदेशात स्वतःच्या नोकर्‍यांचा संच व्यवस्थापित करतो आणि यामुळे शेड्युलरशी संबंधित जोखीम कमी होते. शेअर्ड पूल जसजसा वाढत जाईल, तसतसे आम्ही अधिक शेड्युलर शार्ड जोडू शकतो. टपरवेअर वापरकर्त्यांसाठी, शार्ड्स आणि शेड्युलर प्रॉक्सी एका कंट्रोल पॅनलसारखे दिसतात. त्यांना अनेक शार्ड्ससह काम करण्याची गरज नाही जी कार्ये मांडतात. नेटवर्क टोपोलॉजीनुसार सर्व्हरच्या सामायिक पूलला स्थिरपणे विभाजित न करता जेव्हा नियंत्रण पॅनेलचे विभाजन केले गेले तेव्हा आम्ही आधी वापरलेल्या क्लस्टर शेड्युलरपेक्षा शेड्युलर शार्ड्स मूलभूतपणे भिन्न आहेत.

लवचिक संगणनासह वापर कार्यक्षमता सुधारा

आमची पायाभूत सुविधा जितकी मोठी, पायाभूत सुविधांच्या खर्चाला अनुकूल करण्यासाठी आणि भार कमी करण्यासाठी आमच्या सर्व्हरचा कार्यक्षमतेने वापर करणे अधिक महत्त्वाचे आहे. सर्व्हरच्या वापराची कार्यक्षमता वाढवण्याचे दोन मार्ग आहेत:

• लवचिक संगणन - शांत तासांमध्ये ऑनलाइन सेवा कमी करा आणि ऑफलाइन वर्कलोडसाठी मुक्त सर्व्हर वापरा, जसे की मशीन लर्निंग आणि MapReduce जॉब्स.
• ओव्हरलोडिंग - समान सर्व्हरवर ऑनलाइन सेवा आणि बॅच वर्कलोड ठेवा जेणेकरून बॅच वर्कलोड कमी प्राधान्याने चालतील.

आमच्या डेटा सेंटरमधील अडचण आहे वीज वापर. म्हणून, आम्ही लहान, ऊर्जा-कार्यक्षम सर्व्हरला प्राधान्य देतो जे एकत्रितपणे अधिक प्रक्रिया शक्ती प्रदान करतात. दुर्दैवाने, थोडे CPU आणि मेमरी असलेल्या लहान सर्व्हरवर, ओव्हरलोडिंग कमी प्रभावी आहे. अर्थात, आम्ही एका लहान उर्जा-कार्यक्षम सर्व्हरवर लहान सेवांचे अनेक कंटेनर ठेवू शकतो जे थोडे प्रोसेसर संसाधने आणि मेमरी वापरतात, परंतु मोठ्या सेवांची या स्थितीत कार्यक्षमता कमी असेल. म्हणून, आम्ही आमच्या मोठ्या सेवांच्या विकासकांना त्यांना ऑप्टिमाइझ करण्याचा सल्ला देतो जेणेकरून ते संपूर्ण सर्व्हर वापरतील.


मूलभूतपणे, आम्ही लवचिक संगणन वापरून वापर कार्यक्षमता सुधारतो. आमच्या अनेक प्रमुख सेवा, जसे की न्यूज फीड, मेसेजिंग वैशिष्ट्य आणि फ्रंट-एंड वेब टियर, दिवसाच्या वेळेनुसार बदलतात. आम्‍ही जाणूनबुजून शांत तासांमध्‍ये ऑनलाइन सेवा कमी करतो आणि मशीन लर्निंग आणि MapReduce जॉब्स यांसारख्या ऑफलाइन वर्कलोडसाठी फ्रीड सर्व्हर वापरतो.

आम्हाला अनुभवावरून माहित आहे की लवचिक क्षमतेचे एकक म्हणून संपूर्ण सर्व्हरची तरतूद करणे सर्वोत्तम आहे कारण मोठ्या सेवा दोन्ही प्रमुख देणगीदार आणि लवचिक क्षमतेचे प्रमुख ग्राहक आहेत आणि संपूर्ण सर्व्हर वापरण्यासाठी अनुकूल आहेत. जेव्हा शांत तासांमध्ये सर्व्हर ऑनलाइन सेवेतून सोडला जातो, तेव्हा संसाधन दलाल त्यावर ऑफलाइन वर्कलोड चालवण्यासाठी शेड्युलरला सर्व्हर भाड्याने देतो. जर ऑनलाइन सेवेला कमालीचा भार येत असेल, तर रिसोर्स ब्रोकर उधार घेतलेला सर्व्हर पटकन परत मागवतो आणि शेड्युलरसह ते ऑनलाइन सेवेवर परत करतो.

शिकलेले धडे आणि भविष्यासाठी योजना

गेल्या 8 वर्षांमध्ये, आम्ही Facebook च्या वेगवान वाढीसोबत राहण्यासाठी Tupperware विकसित करत आहोत. आम्ही जे शिकलो ते आम्ही सामायिक करतो आणि आशा करतो की ते इतरांना वेगाने वाढणाऱ्या पायाभूत सुविधा व्यवस्थापित करण्यात मदत करेल:

• नियंत्रण पॅनेल आणि ते व्यवस्थापित करत असलेल्या सर्व्हर दरम्यान एक लवचिक कनेक्शन सेट करा. ही लवचिकता नियंत्रण पॅनेलला वेगवेगळ्या डेटा सेंटर्समधील सर्व्हर व्यवस्थापित करण्यास अनुमती देते, क्लस्टर्सचे डिकमिशनिंग आणि देखभाल स्वयंचलित करण्यास मदत करते आणि लवचिक संगणनाचा वापर करून डायनॅमिक क्षमता वाटप सक्षम करते.
• प्रदेशात एकाच नियंत्रण पॅनेलसह, कार्यांसह कार्य करणे अधिक सोयीस्कर बनते आणि मोठ्या सामायिक सर्व्हर फ्लीटचे व्यवस्थापन करणे सोपे होते. लक्षात ठेवा की नियंत्रण पॅनेल प्रवेशाचा एकच बिंदू राखतो, जरी त्याची अंतर्गत रचना स्केल किंवा फॉल्ट टॉलरन्सच्या कारणास्तव विभक्त केली गेली असली तरीही.
• प्लगइन मॉडेल वापरून, नियंत्रण पॅनेल आगामी कंटेनर ऑपरेशन्सच्या बाह्य अनुप्रयोगांना सूचित करू शकते. शिवाय, स्टेटफुल सेवा कंटेनर व्यवस्थापन सानुकूलित करण्यासाठी प्लगइन इंटरफेस वापरू शकतात. या प्लगइन मॉडेलसह, नियंत्रण पॅनेल अनेक भिन्न स्टेटफुल सेवा कार्यक्षमतेने सेवा देत असताना साधेपणा प्रदान करते.
• आमचा विश्वास आहे की लवचिक संगणन, जिथे आम्ही बॅच जॉब्स, मशीन लर्निंग आणि इतर अत्यावश्यक सेवांसाठी देणगीदार सेवांमधून संपूर्ण सर्व्हर काढून घेतो, लहान, ऊर्जा-कार्यक्षम सर्व्हरची कार्यक्षमता सुधारण्याचा सर्वोत्तम मार्ग आहे.

आम्ही फक्त अंमलबजावणी सुरू करत आहोत सिंगल ग्लोबल शेअर्ड सर्व्हर फ्लीट. सध्या आमचे सुमारे 20% सर्व्हर शेअर्ड पूलमध्ये आहेत. 100% साध्य करण्यासाठी, शेअर्ड स्टोरेज पूल राखणे, स्वयंचलित देखभाल, क्रॉस-टेनंट आवश्यकता व्यवस्थापित करणे, सर्व्हरचा वापर सुधारणे आणि मशीन लर्निंग वर्कलोडसाठी समर्थन सुधारणे यासह अनेक समस्यांचे निराकरण करणे आवश्यक आहे. आम्ही ही आव्हाने स्वीकारण्यासाठी आणि आमचे यश सामायिक करण्यासाठी प्रतीक्षा करू शकत नाही.

स्त्रोत: www.habr.com