QCon परिषद. मास्टरिंग कॅओस: मायक्रो सर्व्हिसेससाठी नेटफ्लिक्स मार्गदर्शक. भाग ४

जोश इव्हान्स नेटफ्लिक्स मायक्रोसर्व्हिसेसच्या गोंधळलेल्या आणि रंगीबेरंगी जगाबद्दल बोलतात, अगदी मूलभूत गोष्टींपासून - मायक्रोसर्व्हिसेसची शरीररचना, वितरित प्रणालींशी संबंधित आव्हाने आणि त्यांचे फायदे. या पायावर उभारून, तो सांस्कृतिक, वास्तुशास्त्रीय आणि ऑपरेशनल पद्धतींचा शोध घेतो ज्यामुळे मायक्रोसर्व्हिस प्रभुत्व प्राप्त होते.

QCon परिषद. मास्टरिंग कॅओस: मायक्रो सर्व्हिसेससाठी नेटफ्लिक्स मार्गदर्शक. भाग ४
QCon परिषद. मास्टरिंग कॅओस: मायक्रो सर्व्हिसेससाठी नेटफ्लिक्स मार्गदर्शक. भाग ४
QCon परिषद. मास्टरिंग कॅओस: मायक्रो सर्व्हिसेससाठी नेटफ्लिक्स मार्गदर्शक. भाग ४

ऑपरेशनल ड्रिफ्टच्या विपरीत, सेवेच्या आंतरराष्ट्रीयीकरणासाठी नवीन भाषांचा परिचय आणि कंटेनर सारख्या नवीन तंत्रज्ञानाचा परिचय पर्यावरणात नवीन जटिलता जोडण्यासाठी जाणीवपूर्वक घेतलेले निर्णय आहेत. माझ्या ऑपरेशन्स टीमने Netflix साठी सर्वोत्तम तंत्रज्ञान रोडमॅपवर प्रमाणित केले, जे Java आणि EC2 वर आधारित पूर्वनिर्धारित सर्वोत्तम पद्धतींमध्ये बेक केले गेले होते, परंतु जसजसा व्यवसाय वाढला तसतसे विकासकांनी Python, Ruby, Node-JS आणि Docker सारखे नवीन घटक जोडण्यास सुरुवात केली.

मला खूप अभिमान वाटतो की, ग्राहकांच्या तक्रारींची वाट न पाहता आमच्या उत्पादनाचे उत्तम काम करण्यासाठी आम्ही प्रथमच समर्थन केले. हे सर्व अगदी सोप्या पद्धतीने सुरू झाले - आमच्याकडे पायथनमध्ये ऑपरेटिंग प्रोग्राम्स आणि रुबीमध्ये काही बॅक-ऑफिस ऍप्लिकेशन्स होते, परंतु आमच्या वेब डेव्हलपर्सने जाहीर केले की ते JVM सोडणार आहेत आणि वेब हलवणार आहेत तेव्हा गोष्टी अधिक मनोरंजक झाल्या. नोड सॉफ्टवेअर प्लॅटफॉर्मवर अनुप्रयोग. js. डॉकरच्या परिचयानंतर, गोष्टी अधिक जटिल झाल्या. आम्ही तर्कशास्त्राचे पालन केले आणि आम्ही जे तंत्रज्ञान आणले ते ग्राहकांसाठी लागू केले तेव्हा ते वास्तव बनले कारण त्यांनी खूप अर्थ प्राप्त केला. हे असे का आहे ते मी तुम्हाला सांगेन.

API गेटवेमध्ये खरोखर उत्कृष्ट स्क्रिप्ट समाकलित करण्याची क्षमता आहे जी UI विकसकांसाठी अंतिम बिंदू म्हणून कार्य करू शकते. त्यांनी यातील प्रत्येक स्क्रिप्ट अशा प्रकारे रूपांतरित केली की बदल केल्यावर ते त्यांना उत्पादनात आणि नंतर वापरकर्त्याच्या उपकरणांवर उपयोजित करू शकतील आणि हे सर्व बदल API गेटवेमध्ये चालणाऱ्या एंडपॉइंट्ससह समक्रमित केले गेले.

तथापि, यामुळे नवीन मोनोलिथ तयार करण्याच्या समस्येची पुनरावृत्ती झाली जिथे API सेवा कोडसह ओव्हरलोड झाली होती अशा प्रकारे विविध अपयशी परिस्थिती उद्भवल्या. उदाहरणार्थ, काही एंडपॉइंट्स काढले गेले किंवा स्क्रिप्ट्सने यादृच्छिकपणे एखाद्या गोष्टीच्या इतक्या आवृत्त्या व्युत्पन्न केल्या की आवृत्तींनी API सेवेची सर्व उपलब्ध मेमरी घेतली.

हे अंतिम बिंदू घेणे आणि त्यांना API सेवेतून बाहेर काढणे तर्कसंगत होते. हे करण्यासाठी, आम्ही Node.js घटक तयार केले जे डॉकर कंटेनरमध्ये लहान ऍप्लिकेशन्स म्हणून चालतात. यामुळे आम्हाला या नोड ऍप्लिकेशन्समुळे होणाऱ्या कोणत्याही समस्या आणि क्रॅश वेगळे करण्याची परवानगी मिळाली.

या बदलांची किंमत खूप मोठी आहे आणि त्यात खालील घटकांचा समावेश आहे:

• उत्पादकता साधने. नवीन तंत्रज्ञान व्यवस्थापित करण्यासाठी नवीन साधने आवश्यक आहेत कारण UI कार्यसंघ, एक कार्यक्षम मॉडेल तयार करण्यासाठी खूप चांगल्या स्क्रिप्टचा वापर करून, पायाभूत सुविधा व्यवस्थापित करण्यासाठी जास्त वेळ घालवावा लागला नाही, त्यांना फक्त स्क्रिप्ट लिहिणे आणि त्यांची कार्यक्षमता तपासणे आवश्यक होते.
  संधी अंतर्दृष्टी आणि क्रमवारी - एक प्रमुख उदाहरण म्हणजे कार्यप्रदर्शन ड्रायव्हर माहिती उघड करण्यासाठी आवश्यक असलेली नवीन साधने. प्रोसेसर किती व्यापला आहे, मेमरी कशी वापरली जात आहे हे जाणून घेणे आवश्यक होते आणि ही माहिती गोळा करण्यासाठी विविध साधनांची आवश्यकता होती.
• बेस प्रतिमांचे विखंडन - साधा बेस AMI अधिक खंडित आणि विशेष बनला आहे.
• नोड व्यवस्थापन. तुम्हाला क्लाउडमध्ये नोड्स व्यवस्थापित करण्यास अनुमती देणारे कोणतेही ऑफ-द-शेल्फ आर्किटेक्चर किंवा तंत्रज्ञान उपलब्ध नाही, म्हणून आम्ही Titus, कंटेनर व्यवस्थापन प्लॅटफॉर्म तयार केला आहे जो स्केलेबल आणि विश्वसनीय कंटेनर उपयोजन आणि Amazon AWS सह क्लाउड एकीकरण प्रदान करतो.
• लायब्ररी किंवा प्लॅटफॉर्मची डुप्लिकेशन. प्लॅटफॉर्मच्या समान कार्यक्षमतेसह नवीन तंत्रज्ञान प्रदान करण्यासाठी ते क्लाउड-आधारित Node.js विकसक साधनांमध्ये डुप्लिकेट करणे आवश्यक आहे.
• शिकणे वक्र आणि औद्योगिक अनुभव. नवीन तंत्रज्ञानाचा परिचय अपरिहार्यपणे नवीन आव्हाने निर्माण करतो ज्यावर मात केली पाहिजे आणि त्यातून शिकले पाहिजे.

अशा प्रकारे, आम्ही स्वतःला एका "पक्की रस्त्या"पुरते मर्यादित करू शकलो नाही आणि आमचे तंत्रज्ञान पुढे नेण्यासाठी सतत नवीन मार्ग तयार करावे लागले. खर्च कमी ठेवण्यासाठी, आम्ही केंद्रीकृत समर्थन मर्यादित केले आणि JVM, नवीन नोड्स आणि डॉकरवर लक्ष केंद्रित केले. आम्ही प्रभावी प्रभावांना प्राधान्य दिले, संघांना त्यांच्या निर्णयांच्या किंमतीबद्दल माहिती दिली आणि त्यांनी आधीच विकसित केलेल्या उच्च-प्रभाव समाधानांचा पुन्हा वापर करण्याचे मार्ग शोधण्यासाठी प्रोत्साहित केले. आंतरराष्ट्रीय ग्राहकांपर्यंत उत्पादन वितरीत करण्यासाठी सेवेचे परदेशी भाषांमध्ये भाषांतर करताना आम्ही हा दृष्टिकोन वापरला. उदाहरणांमध्ये तुलनेने सोप्या क्लायंट लायब्ररींचा समावेश आहे ज्या स्वयंचलितपणे व्युत्पन्न केल्या जाऊ शकतात, ज्यामुळे पायथन आवृत्ती, रुबी आवृत्ती, Java आवृत्ती इत्यादी तयार करणे सोपे आहे.

आम्ही सतत सिद्ध तंत्रज्ञान वापरण्याच्या संधी शोधत होतो ज्यांनी स्वतःला एका ठिकाणी आणि इतर समान परिस्थितींमध्ये सिद्ध केले होते.

चला शेवटच्या घटकाबद्दल बोलू - बदल किंवा भिन्नता. आमच्या उत्पादनाचा वापर आठवड्याच्या दिवसानुसार आणि दिवसभरात तासानुसार असमानपणे कसा बदलतो ते पहा. तुम्ही म्हणू शकता की सकाळी 9 ही Netflix साठी सर्वात कठीण वेळ आहे, जेव्हा सिस्टमवरील भार जास्तीत जास्त पोहोचतो.

सेवा वितरणात व्यत्यय न आणता आणि आमच्या ग्राहकांची गैरसोय न करता, आम्ही सॉफ्टवेअर नवकल्पनांच्या अंमलबजावणीचा उच्च वेग कसा मिळवू शकतो, म्हणजेच सिस्टममध्ये सतत नवीन बदल करत आहोत? नेटफ्लिक्सने स्पिननेकर, नवीन जागतिक क्लाउड-आधारित व्यवस्थापन आणि सतत वितरण (CD) प्लॅटफॉर्म वापरून हे साध्य केले.

गंभीरपणे, Spinnaker ची रचना आमच्या सर्वोत्कृष्ट पद्धती समाकलित करण्यासाठी केली गेली होती जेणेकरून आम्ही उत्पादनामध्ये घटक उपयोजित करतो, आम्ही थेट आमच्या मीडिया वितरण तंत्रज्ञानामध्ये आउटपुट समाकलित करू शकतो.

आम्ही आमच्या डिलिव्हरी पाइपलाइनमध्ये दोन तंत्रज्ञानाचा समावेश करण्यात सक्षम झालो आहोत ज्यांना आम्ही खूप महत्त्व देतो: स्वयंचलित कॅनरी विश्लेषण आणि स्टेज्ड डिप्लॉयमेंट. कॅनरी विश्लेषणाचा अर्थ असा आहे की आम्ही कोडच्या नवीन आवृत्तीकडे रहदारीचा एक छोटासा भाग निर्देशित करतो आणि उर्वरित उत्पादन रहदारी जुन्या आवृत्तीद्वारे पास करतो. मग आम्ही नवीन कोड कार्याशी कसा सामना करतो ते तपासतो - विद्यमान कोडपेक्षा चांगले किंवा वाईट.

स्तब्ध रोलआउटचा अर्थ असा की एका प्रदेशातील रोलआउटमध्ये समस्या असल्यास, आम्ही दुसर्‍या प्रदेशातील रोलआउटवर जाऊ. या प्रकरणात, उपरोक्त-उल्लेखित चेकलिस्ट उत्पादन पाइपलाइनमध्ये समाविष्ट करणे आवश्यक आहे. मी तुमचा थोडा वेळ वाचवतो आणि तुम्हाला या विषयात अधिक खोलात जाण्यात स्वारस्य असल्यास, क्लाउडमधील अभियांत्रिकी ग्लोबल नेटफ्लिक्स ऑपरेशन्स, माझे मागील भाषण पहा. स्लाईडच्या तळाशी दिलेल्या लिंकवर जाऊन भाषणाचे व्हिडिओ रेकॉर्डिंग पाहता येईल.

चर्चेच्या शेवटी, मी नेटफ्लिक्सच्या संस्थेबद्दल आणि वास्तुकलाबद्दल थोडक्यात बोलेन. अगदी सुरुवातीला आमच्याकडे इलेक्ट्रॉनिक डिलिव्हरी नावाची योजना होती, जी NRDP 1.x मीडिया स्ट्रीमिंगची पहिली आवृत्ती होती. "बॅकस्ट्रीम" हा शब्द येथे वापरला जाऊ शकतो कारण सुरुवातीला वापरकर्ता फक्त नंतरच्या प्लेबॅकसाठी डिव्हाइसवर सामग्री डाउनलोड करू शकत होता. नेटफ्लिक्सचे पहिले डिजिटल वितरण प्लॅटफॉर्म, २००९ मध्ये, असे काहीतरी दिसत होते.

वापरकर्ता उपकरणामध्ये नेटफ्लिक्स ऍप्लिकेशन आहे, ज्यामध्ये NRDP प्लॅटफॉर्मवर आधारित UI इंटरफेस, सुरक्षा मॉड्यूल्स, सेवा सक्रियकरण आणि प्लेबॅकचा समावेश आहे - Netflix रेडी डिव्हाइस प्लॅटफॉर्म.

त्यावेळी यूजर इंटरफेस खूप सोपा होता. त्यात Queque Reader असे म्हटले जाते आणि वापरकर्ता Queque मध्ये काहीतरी जोडण्यासाठी साइटवर जाईल आणि नंतर त्यांच्या डिव्हाइसवर जोडलेली सामग्री पाहेल. सकारात्मक गोष्ट अशी होती की फ्रंट एंड टीम आणि बॅक एंड टीम एकाच इलेक्ट्रॉनिक डिलिव्हरी संस्थेशी संबंधित होते आणि त्यांच्यात जवळचे कार्य संबंध होते. XML वर आधारित पेलोड तयार केले गेले. त्याच वेळी, DVD व्यवसायासाठी Netflix API तयार केले गेले, ज्याने तृतीय-पक्ष अनुप्रयोगांना आमच्या सेवेकडे रहदारी निर्देशित करण्यासाठी प्रोत्साहित केले.

तथापि, Netflix API सर्व सामग्रीचा मेटाडेटा, कोणते चित्रपट उपलब्ध आहेत याविषयी माहिती असलेल्या नाविन्यपूर्ण वापरकर्ता इंटरफेससह आम्हाला मदत करण्यासाठी तयार होते, ज्यामुळे पाहण्याच्या सूची तयार करण्याची क्षमता निर्माण झाली. त्यात JSON स्कीमा, HTTP प्रतिसाद कोड, आधुनिक आर्किटेक्चरमध्ये वापरला जाणारा समान REST API आणि OAuth सुरक्षा मॉडेलवर आधारित जेनेरिक REST API होते, जे त्या वेळी फ्रंट-एंड ऍप्लिकेशनसाठी आवश्यक होते. यामुळे स्ट्रीमिंग सामग्री वितरणाच्या सार्वजनिक मॉडेलवरून खाजगीमध्ये जाणे शक्य झाले.

संक्रमणातील समस्या विखंडन होती, कारण आता आमची प्रणाली ऑपरेशनच्या पूर्णपणे भिन्न तत्त्वांवर आधारित दोन सेवा चालवते - एक रेस्ट, JSON आणि OAuth वर, दुसरी RPC, XML वर आणि NTBA टोकन सिस्टमवर आधारित वापरकर्ता सुरक्षा यंत्रणा. ही पहिली संकरित वास्तुकला होती.

आमच्‍या दोन संघांमध्‍ये मूलत: फायरवॉल होते कारण सुरुवातीला API ची NCCP सोबत फारशी मापे झाली नाही आणि यामुळे संघांमध्‍ये भांडण झाले. फरक सेवा, प्रोटोकॉल, सर्किट्स, सुरक्षा मॉड्यूल्समध्ये होते आणि विकासकांना अनेकदा पूर्णपणे भिन्न संदर्भांमध्ये स्विच करावे लागले.

या संदर्भात, कंपनीच्या एका वरिष्ठ अभियंत्याशी माझे संभाषण झाले, ज्यांना मी प्रश्न विचारला: “योग्य दीर्घकालीन आर्किटेक्चर काय असावे?” आणि त्याने काउंटर प्रश्न विचारला: “तुम्ही कदाचित अधिक चिंतित आहात. संघटनात्मक परिणामांबद्दल - जर आपण या गोष्टी एकत्र केल्या आणि आपण जे चांगले करायला शिकलो ते खंडित केले तर काय होईल? हा दृष्टीकोन कॉनवेच्या कायद्याशी अतिशय सुसंगत आहे: "ज्या संस्था डिझाईन सिस्टीम त्या संस्थेच्या संप्रेषण संरचनेची प्रतिकृती बनविणाऱ्या डिझाइनद्वारे मर्यादित असतात." ही एक अतिशय अमूर्त व्याख्या आहे, म्हणून मी अधिक विशिष्टला प्राधान्य देतो: "सॉफ्टवेअरचा कोणताही भाग ती तयार केलेल्या संस्थात्मक रचना प्रतिबिंबित करतो." एरिक रेमंडचे माझे आवडते कोट येथे आहे: "जर तुमच्याकडे डेव्हलपरच्या चार संघ कंपायलरवर काम करत असतील, तर तुम्हाला चार-पास कंपाइलर मिळेल." बरं, नेटफ्लिक्समध्ये फोर-पास कंपाइलर आहे आणि आम्ही त्याप्रमाणे काम करतो.

आपण असे म्हणू शकतो की या प्रकरणात शेपूट कुत्र्याला हलवत आहे. आमचे पहिले प्राधान्य समाधान नाही तर संघटना आहे; ती संस्था आहे जी आमच्याकडे असलेल्या वास्तुकला चालवते. हळुहळू, सेवांच्या हॉजपॉजमधून, आम्ही ब्लेड रनर नावाच्या आर्किटेक्चरकडे वळलो, कारण येथे आम्ही एज सर्व्हिसेस आणि NCCP च्या झुल प्रॉक्सी, API गेटवे आणि संबंधित फंक्शनलमध्ये विभक्त आणि एकत्रित करण्याच्या क्षमतेबद्दल बोलत आहोत. अधिक प्रगत सुरक्षा, रीप्ले, डेटा सॉर्टिंग इ. वैशिष्ट्यांसह “तुकडे” नवीन मायक्रो सर्व्हिसेसमध्ये बदलले गेले आहेत.

अशाप्रकारे, असे म्हटले जाऊ शकते की विभागीय संरचना आणि कंपनी गतिशीलता प्रणालीच्या डिझाइनला आकार देण्यामध्ये महत्त्वाची भूमिका बजावते आणि बदलांना प्रोत्साहन देणारे किंवा अडथळा आणणारे घटक आहेत. मायक्रोसर्व्हिसेस आर्किटेक्चर क्लिष्ट आणि सेंद्रिय आहे आणि त्याचे आरोग्य शिस्तीवर आधारित आहे आणि अनागोंदी सुरू आहे.

थोडी जाहिरात

आमच्यासोबत राहिल्याबद्दल धन्यवाद. तुम्हाला आमचे लेख आवडतात का? अधिक मनोरंजक सामग्री पाहू इच्छिता? ऑर्डर देऊन किंवा मित्रांना शिफारस करून आम्हाला समर्थन द्या, $4.99 पासून विकसकांसाठी क्लाउड VPS, एंट्री-लेव्हल सर्व्हरचे एक अद्वितीय अॅनालॉग, जे तुमच्यासाठी आमच्याद्वारे शोधले गेले आहे: VPS (KVM) E5-2697 v3 (6 Cores) 10GB DDR4 480GB SSD 1Gbps बद्दल संपूर्ण सत्य $19 पासून किंवा सर्व्हर कसा शेअर करायचा? (RAID1 आणि RAID10 सह उपलब्ध, 24 कोर पर्यंत आणि 40GB DDR4 पर्यंत).

डेल R730xd ऍमस्टरडॅममधील इक्विनिक्स टियर IV डेटा सेंटरमध्ये 2 पट स्वस्त? फक्त इथेच 2 x इंटेल टेट्राडेका-कोर Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 टीव्ही $199 पासून नेदरलँड मध्ये! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - $99 पासून! बद्दल वाचा इन्फ्रास्ट्रक्चर कॉर्पोरेशन कसे तयार करावे. डेल R730xd E5-2650 v4 सर्व्हरचा वापर करून 9000 युरो किमतीचा वर्ग?

स्त्रोत: www.habr.com