AWS स्पॉट इंस्टेंसेस पर एक स्केलेबल एपीआई का निर्माण

नमस्ते! मेरा नाम किरिल है, मैं एडैप्टी में सीटीओ हूं। हमारा अधिकांश आर्किटेक्चर AWS पर है, और आज मैं इस बारे में बात करूंगा कि हमने उत्पादन वातावरण में स्पॉट इंस्टेंस का उपयोग करके सर्वर लागत को 3 गुना कैसे कम किया, साथ ही साथ उनकी ऑटो-स्केलिंग कैसे सेट की जाए। सबसे पहले इसका अवलोकन किया जाएगा कि यह कैसे काम करता है, और फिर आरंभ करने के लिए विस्तृत निर्देश दिए जाएंगे।

स्पॉट इंस्टेंस क्या हैं?

स्थान इंस्टेंस अन्य AWS उपयोगकर्ताओं के सर्वर हैं जो वर्तमान में निष्क्रिय हैं, और वे उन्हें बड़े डिस्काउंट पर बेचते हैं (अमेज़ॅन 90% तक लिखता है, हमारे अनुभव में ~3x, क्षेत्र, AZ और इंस्टेंस प्रकार के आधार पर भिन्न होता है)। नियमित लोगों से उनका मुख्य अंतर यह है कि वे किसी भी समय बंद हो सकते हैं। इसलिए, लंबे समय तक हम मानते थे कि उनका उपयोग अछूते वातावरण के लिए, या किसी चीज़ की गणना करने के कार्यों के लिए, S3 या डेटाबेस में मध्यवर्ती परिणामों को सहेजने के लिए सामान्य था, लेकिन बिक्री के लिए नहीं। ऐसे तृतीय-पक्ष समाधान हैं जो आपको उत्पादन पर स्पॉट का उपयोग करने की अनुमति देते हैं, लेकिन हमारे मामले में कई बाधाएं हैं, इसलिए हमने उन्हें लागू नहीं किया। लेख में वर्णित दृष्टिकोण अतिरिक्त स्क्रिप्ट, क्राउन आदि के बिना पूरी तरह से मानक AWS कार्यक्षमता के भीतर काम करता है।

नीचे कुछ स्क्रीनशॉट हैं जो स्पॉट इंस्टेंस के लिए मूल्य इतिहास दिखाते हैं।

एम5.ईयू-पश्चिम-1 (आयरलैंड) क्षेत्र में बड़ा। कीमत लगभग तीन महीनों से स्थिर है, वर्तमान में 3x की बचत हो रही है।

यूएस-ईस्ट-5 क्षेत्र (एन. वर्जीनिया) में m1.बड़ा। कीमत 3 महीनों में लगातार बदल रही है, वर्तमान में उपलब्धता क्षेत्र के आधार पर 2.3x से 2.8x तक की बचत हो रही है।

t3.यूएस-ईस्ट-1 क्षेत्र (एन. वर्जीनिया) में छोटा। कीमत 3 महीने से स्थिर है, वर्तमान में 3.4x की बचत हो रही है।

सेवा वास्तुकला

इस लेख में हम जिस सेवा के बारे में बात करेंगे उसकी मूल संरचना नीचे दिए गए चित्र में दिखाई गई है।

एप्लिकेशन लोड बैलेंसर → EC2 लक्ष्य समूह → इलास्टिक कंटेनर सेवा

एप्लिकेशन लोड बैलेंसर (ALB) का उपयोग बैलेंसर के रूप में किया जाता है, जो EC2 टारगेट ग्रुप (TG) को अनुरोध भेजता है। टीजी एएलबी के लिए इंस्टेंस पर पोर्ट खोलने और उन्हें इलास्टिक कंटेनर सर्विस (ईसीएस) कंटेनर के पोर्ट से जोड़ने के लिए जिम्मेदार है। ECS AWS में कुबेरनेट्स का एक एनालॉग है, जो डॉकर कंटेनरों का प्रबंधन करता है।

एक उदाहरण में एक ही पोर्ट के साथ कई चालू कंटेनर हो सकते हैं, इसलिए हम उन्हें निश्चित रूप से सेट नहीं कर सकते। ईसीएस टीजी को बताता है कि वह एक नया कार्य लॉन्च कर रहा है (कुबेरनेट्स शब्दावली में इसे पॉड कहा जाता है), यह इंस्टेंस पर मुफ्त पोर्ट की जांच करता है और उनमें से एक को लॉन्च किए गए कार्य को सौंपता है। टीजी नियमित रूप से यह भी जांचता है कि स्वास्थ्य जांच का उपयोग करके इंस्टेंस और एपीआई इस पर काम कर रहे हैं या नहीं, और यदि उसे कोई समस्या दिखाई देती है, तो वह वहां अनुरोध भेजना बंद कर देता है।

EC2 ऑटो स्केलिंग समूह + ECS क्षमता प्रदाता

उपरोक्त आरेख EC2 ऑटो स्केलिंग ग्रुप (ASG) सेवा नहीं दिखाता है। नाम से आप समझ सकते हैं कि यह स्केलिंग इंस्टेंसेस के लिए ज़िम्मेदार है। हालाँकि, हाल तक, AWS के पास ECS से चलने वाली मशीनों की संख्या को प्रबंधित करने की अंतर्निहित क्षमता नहीं थी। ईसीएस ने कार्यों की संख्या को मापना संभव बना दिया, उदाहरण के लिए, सीपीयू उपयोग, रैम या अनुरोधों की संख्या के आधार पर। लेकिन यदि कार्यों में सभी मुक्त इंस्टेंसेस शामिल होते, तो नई मशीनें स्वचालित रूप से नहीं बनाई जातीं।

ईसीएस कैपेसिटी प्रोवाइडर्स (ईसीएस सीपी) के आगमन के साथ यह बदल गया है। अब ईसीएस में प्रत्येक सेवा को एएसजी के साथ जोड़ा जा सकता है, और यदि कार्य चल रहे उदाहरणों पर फिट नहीं होते हैं, तो नए उठाए जाएंगे (लेकिन स्थापित एएसजी सीमाओं के भीतर)। यह विपरीत दिशा में भी काम करता है, यदि ईसीएस सीपी बिना कार्यों के निष्क्रिय उदाहरण देखता है, तो यह एएसजी को उन्हें बंद करने का आदेश देगा। ईसीएस सीपी में इंस्टेंस लोड का लक्ष्य प्रतिशत निर्दिष्ट करने की क्षमता है, ताकि त्वरित स्केलिंग कार्यों के लिए एक निश्चित संख्या में मशीनें हमेशा मुक्त रहें; मैं इस बारे में थोड़ी देर बाद बात करूंगा।

EC2 लॉन्च टेम्प्लेट

इस बुनियादी ढांचे के निर्माण के बारे में विस्तार से जाने से पहले मैं जिस आखिरी सेवा के बारे में बात करूंगा वह EC2 लॉन्च टेम्प्लेट है। यह आपको एक टेम्पलेट बनाने की अनुमति देता है जिसके अनुसार सभी मशीनें शुरू होंगी, ताकि हर बार इसे दोबारा न दोहराया जाए। यहां आप शुरू करने के लिए मशीन का प्रकार, सुरक्षा समूह, डिस्क छवि और कई अन्य पैरामीटर चुन सकते हैं। आप उपयोगकर्ता डेटा भी निर्दिष्ट कर सकते हैं जो सभी लॉन्च किए गए इंस्टेंसेस पर अपलोड किया जाएगा। आप उपयोगकर्ता डेटा में स्क्रिप्ट चला सकते हैं, उदाहरण के लिए, आप किसी फ़ाइल की सामग्री को संपादित कर सकते हैं ईसीएस एजेंट कॉन्फ़िगरेशन.

इस आलेख के लिए सबसे महत्वपूर्ण कॉन्फ़िगरेशन पैरामीटर में से एक है ECS_ENABLE_SPOT_INSTANCE_DRAINING=सच. यदि यह पैरामीटर सक्षम है, तो जैसे ही ईसीएस को संकेत मिलता है कि एक स्पॉट इंस्टेंस को हटाया जा रहा है, यह उस पर काम करने वाले सभी कार्यों को ड्रेनिंग स्थिति में स्थानांतरित कर देता है। इस इंस्टेंस को कोई नया कार्य नहीं सौंपा जाएगा; यदि ऐसे कार्य हैं जिन्हें अभी इसमें शामिल किया जाना है, तो उन्हें रद्द कर दिया जाएगा। बैलेंसर से अनुरोध भी आना बंद हो जाते हैं। उदाहरण हटाने की अधिसूचना वास्तविक घटना से 2 मिनट पहले आती है। इसलिए, यदि आपकी सेवा 2 मिनट से अधिक समय तक कार्य नहीं करती है और डिस्क पर कुछ भी सहेजती नहीं है, तो आप डेटा खोए बिना स्पॉट इंस्टेंस का उपयोग कर सकते हैं।

डिस्क के संबंध में - AWS हाल ही में मेरे पास है ईसीएस के साथ इलास्टिक फाइल सिस्टम (ईएफएस) का उपयोग करना संभव है; इस योजना के साथ, डिस्क भी कोई बाधा नहीं है, लेकिन हमने यह कोशिश नहीं की, क्योंकि सिद्धांत रूप में हमें राज्य को संग्रहीत करने के लिए डिस्क की आवश्यकता नहीं है। डिफ़ॉल्ट रूप से, SIGINT (किसी कार्य को ड्रेनिंग स्थिति में स्थानांतरित होने पर भेजा जाता है) प्राप्त करने के बाद, सभी चल रहे कार्य 30 सेकंड के बाद बंद कर दिए जाएंगे, भले ही वे अभी तक पूरे नहीं हुए हों; आप पैरामीटर का उपयोग करके इस बार को बदल सकते हैं ECS_CONTAINER_STOP_TIMEOUT. मुख्य बात यह है कि इसे स्पॉट मशीनों के लिए 2 मिनट से अधिक समय तक सेट न करें।

एक सेवा बनाना

आइए वर्णित सेवा बनाने के लिए आगे बढ़ें। इस प्रक्रिया में, मैं अतिरिक्त रूप से कई उपयोगी बिंदुओं का वर्णन करूंगा जिनका उल्लेख ऊपर नहीं किया गया था। सामान्य तौर पर, यह एक चरण-दर-चरण निर्देश है, लेकिन मैं कुछ बहुत बुनियादी या, इसके विपरीत, बहुत विशिष्ट मामलों पर विचार नहीं करूंगा। सभी क्रियाएं AWS विज़ुअल कंसोल में की जाती हैं, लेकिन क्लाउडफ़ॉर्मेशन या टेराफ़ॉर्म का उपयोग करके प्रोग्रामेटिक रूप से पुन: प्रस्तुत किया जा सकता है। एडाप्टी में हम टेराफॉर्म का उपयोग करते हैं।

EC2 लॉन्च टेम्प्लेट

यह सेवा उन मशीनों का कॉन्फ़िगरेशन बनाती है जिनका उपयोग किया जाएगा। टेम्प्लेट EC2 -> इंस्टेंसेस -> लॉन्च टेम्प्लेट अनुभाग में प्रबंधित किए जाते हैं।

अमेज़ॅन मशीन छवि (एएमआई) - वह डिस्क छवि निर्दिष्ट करें जिसके साथ सभी इंस्टेंस लॉन्च किए जाएंगे। ईसीएस के लिए, ज्यादातर मामलों में अमेज़ॅन से अनुकूलित छवि का उपयोग करना उचित है। इसे नियमित रूप से अद्यतन किया जाता है और इसमें ईसीएस के काम करने के लिए आवश्यक सभी चीजें शामिल हैं। वर्तमान छवि आईडी जानने के लिए, पृष्ठ पर जाएँ अमेज़ॅन ईसीएस-अनुकूलित एएमआई, उस क्षेत्र का चयन करें जिसका आप उपयोग कर रहे हैं और इसके लिए एएमआई आईडी की प्रतिलिपि बनाएँ। उदाहरण के लिए, यूएस-ईस्ट-1 क्षेत्र के लिए, लेखन के समय वर्तमान आईडी है ami-00c7c1cf5bdc913ed. इस आईडी को एक कस्टम मान आइटम निर्दिष्ट करें में डाला जाना चाहिए।

उदाहरण प्रकार - उदाहरण प्रकार इंगित करें। वह चुनें जो आपके कार्य के लिए सबसे उपयुक्त हो।

कुंजी जोड़ी (लॉगिन) - यदि आवश्यक हो तो एक प्रमाणपत्र निर्दिष्ट करें जिसके साथ आप एसएसएच के माध्यम से इंस्टेंस से जुड़ सकते हैं।

नेटवर्क सेटिंग्स - नेटवर्क पैरामीटर निर्दिष्ट करें। नेटवर्किंग प्लेटफार्म अधिकांश मामलों में एक वर्चुअल प्राइवेट क्लाउड (VPC) होना चाहिए। सुरक्षा समूह - आपके उदाहरणों के लिए सुरक्षा समूह। चूँकि हम इंस्टेंसेस के सामने एक बैलेंसर का उपयोग करेंगे, मैं यहां एक समूह निर्दिष्ट करने की सलाह देता हूं जो केवल बैलेंसर से आने वाले कनेक्शन की अनुमति देता है। यानी, आपके पास 2 सुरक्षा समूह होंगे, एक बैलेंसर के लिए, जो पोर्ट 80 (http) और 443 (https) पर कहीं से भी इनबाउंड कनेक्शन की अनुमति देता है, और दूसरा मशीनों के लिए, जो बैलेंसर समूह से किसी भी पोर्ट पर इनकमिंग कनेक्शन की अनुमति देता है। . दोनों समूहों में आउटबाउंड कनेक्शन को सभी पतों पर सभी पोर्ट पर टीसीपी प्रोटोकॉल का उपयोग करके खोला जाना चाहिए। आप आउटगोइंग कनेक्शन के लिए पोर्ट और पते को सीमित कर सकते हैं, लेकिन फिर आपको लगातार निगरानी करने की ज़रूरत है कि आप बंद पोर्ट पर कुछ एक्सेस करने का प्रयास तो नहीं कर रहे हैं।

भंडारण (मात्रा) - मशीनों के लिए डिस्क पैरामीटर निर्दिष्ट करें। डिस्क का आकार AMI में निर्दिष्ट आकार से कम नहीं हो सकता; ECS अनुकूलित के लिए यह 30 GiB है।

उन्नत विवरण - अतिरिक्त पैरामीटर निर्दिष्ट करें.

क्रय विकल्प - क्या हम स्पॉट इंस्टेंस खरीदना चाहते हैं। हम चाहते हैं, लेकिन हम यहां इस बॉक्स को चेक नहीं करेंगे; हम इसे ऑटो स्केलिंग ग्रुप में कॉन्फ़िगर करेंगे, वहां और भी विकल्प हैं।

IAM उदाहरण प्रोफ़ाइल - उस भूमिका को इंगित करें जिसके साथ इंस्टेंसेस लॉन्च किए जाएंगे। उदाहरणों को ईसीएस में चलाने के लिए, उन्हें अनुमतियों की आवश्यकता होती है, जो आमतौर पर भूमिका में पाई जाती हैं ecsInstanceRole. कुछ मामलों में इसे बनाया जा सकता है, यदि नहीं, तो यहां अनुदेश यह कैसे करना है। निर्माण के बाद, हम इसे टेम्पलेट में इंगित करते हैं।
आगे कई पैरामीटर हैं, मूल रूप से आप हर जगह डिफ़ॉल्ट मान छोड़ सकते हैं, लेकिन उनमें से प्रत्येक का स्पष्ट विवरण है। यदि उपयोग किया जाता है तो मैं हमेशा ईबीएस-अनुकूलित इंस्टेंस और टी2/टी3 अनलिमिटेड विकल्पों को सक्षम करता हूं फटने योग्य उदाहरण.

उपयोगकर्ता का समय - उपयोगकर्ता डेटा इंगित करें। हम फ़ाइल संपादित करेंगे /etc/ecs/ecs.config, जिसमें ईसीएस एजेंट कॉन्फ़िगरेशन शामिल है।
उपयोगकर्ता डेटा कैसा दिख सकता है इसका एक उदाहरण:

#!/bin/bash
echo ECS_CLUSTER=DemoApiClusterProd >> /etc/ecs/ecs.config
echo ECS_ENABLE_SPOT_INSTANCE_DRAINING=true >> /etc/ecs/ecs.config
echo ECS_CONTAINER_STOP_TIMEOUT=1m >> /etc/ecs/ecs.config
echo ECS_ENGINE_AUTH_TYPE=docker >> /etc/ecs/ecs.config
echo "ECS_ENGINE_AUTH_DATA={"registry.gitlab.com":{"username":"username","password":"password"}}" >> /etc/ecs/ecs.config

ECS_CLUSTER=DemoApiClusterProd - पैरामीटर इंगित करता है कि उदाहरण दिए गए नाम वाले क्लस्टर से संबंधित है, यानी, यह क्लस्टर इस सर्वर पर अपने कार्यों को रखने में सक्षम होगा। हमने अभी तक कोई क्लस्टर नहीं बनाया है, लेकिन इसे बनाते समय हम इस नाम का उपयोग करेंगे।

ECS_ENABLE_SPOT_INSTANCE_DRAINING=true - पैरामीटर निर्दिष्ट करता है कि जब स्पॉट इंस्टेंस को बंद करने के लिए सिग्नल प्राप्त होता है, तो उस पर सभी कार्यों को ड्रेनिंग स्थिति में स्थानांतरित किया जाना चाहिए।

ECS_CONTAINER_STOP_TIMEOUT=1m - पैरामीटर निर्दिष्ट करता है कि SIGINT सिग्नल प्राप्त करने के बाद, सभी कार्यों को समाप्त होने से पहले 1 मिनट का समय मिलता है।

ECS_ENGINE_AUTH_TYPE=docker - पैरामीटर इंगित करता है कि डॉकर योजना का उपयोग प्राधिकरण तंत्र के रूप में किया जाता है

ECS_ENGINE_AUTH_DATA=... - निजी कंटेनर रजिस्ट्री से कनेक्शन पैरामीटर, जहां आपकी डॉकर छवियां संग्रहीत हैं। यदि यह सार्वजनिक है, तो आपको कुछ भी निर्दिष्ट करने की आवश्यकता नहीं है।

इस लेख के प्रयोजनों के लिए, मैं डॉकर हब से एक सार्वजनिक छवि का उपयोग करूंगा, इसलिए पैरामीटर निर्दिष्ट करें ECS_ENGINE_AUTH_TYPE и ECS_ENGINE_AUTH_DATA यह आवश्यक नहीं है।

पता करने के लिए उपयोगी: एएमआई को नियमित रूप से अपडेट करने की अनुशंसा की जाती है, क्योंकि नए संस्करण डॉकर, लिनक्स, ईसीएस एजेंट इत्यादि के संस्करणों को अपडेट करते हैं। इसके बारे में न भूलें, आप कर सकते हैं सूचनाएं सेट करें नये संस्करण जारी करने के बारे में। आप ईमेल द्वारा सूचनाएं प्राप्त कर सकते हैं और मैन्युअल रूप से अपडेट कर सकते हैं, या आप एक लैम्ब्डा फ़ंक्शन लिख सकते हैं जो अपडेटेड एएमआई के साथ स्वचालित रूप से लॉन्च टेम्पलेट का एक नया संस्करण तैयार करेगा।

EC2 ऑटो स्केलिंग समूह

ऑटो स्केलिंग ग्रुप इंस्टेंसेस को लॉन्च करने और स्केल करने के लिए जिम्मेदार है। समूहों को EC2 -> ऑटो स्केलिंग -> ऑटो स्केलिंग समूह अनुभाग में प्रबंधित किया जाता है।

टेम्प्लेट लॉन्च करें - पिछले चरण में बनाए गए टेम्पलेट का चयन करें। हम डिफ़ॉल्ट संस्करण छोड़ देते हैं।

खरीद विकल्प और उदाहरण प्रकार - क्लस्टर के लिए इंस्टेंस के प्रकार निर्दिष्ट करें। लॉन्च टेम्पलेट का पालन लॉन्च टेम्पलेट से इंस्टेंस प्रकार का उपयोग करता है। खरीदारी विकल्पों और इंस्टेंस प्रकारों को संयोजित करने से आप इंस्टेंस प्रकारों को लचीले ढंग से कॉन्फ़िगर कर सकते हैं। हम इसका उपयोग करेंगे.

वैकल्पिक ऑन-डिमांड आधार - नियमित, गैर-स्पॉट उदाहरणों की संख्या जो हमेशा काम करेंगे।

आधार से ऊपर ऑन-डिमांड प्रतिशत - नियमित और स्पॉट उदाहरणों का प्रतिशत अनुपात, 50-50 समान रूप से वितरित किया जाएगा, 20-80 प्रत्येक नियमित उदाहरण के लिए 4 स्पॉट वाले बढ़ाए जाएंगे। इस उदाहरण के प्रयोजनों के लिए, मैं 50-50 इंगित करूंगा, लेकिन वास्तव में हम अक्सर 20-80 करते हैं, कुछ मामलों में 0-100।

उदाहरण प्रकार - यहां आप अतिरिक्त प्रकार के उदाहरण निर्दिष्ट कर सकते हैं जिनका उपयोग क्लस्टर में किया जाएगा। हमने कभी इसका उपयोग नहीं किया क्योंकि मैं वास्तव में कहानी का अर्थ नहीं समझता। शायद यह विशिष्ट प्रकार के उदाहरणों की सीमाओं के कारण है, लेकिन उन्हें समर्थन के माध्यम से आसानी से बढ़ाया जा सकता है। यदि आप एप्लिकेशन को जानते हैं, तो मुझे टिप्पणियों में इसे पढ़कर खुशी होगी)

नेटवर्क - नेटवर्क सेटिंग्स, मशीनों के लिए वीपीसी और सबनेट का चयन करें, ज्यादातर मामलों में आपको सभी उपलब्ध सबनेट का चयन करना चाहिए।

भार संतुलन - बैलेंसर सेटिंग्स, लेकिन हम इसे अलग से करेंगे, हम यहां कुछ भी नहीं छूएंगे। स्वास्थ्य जांच बाद में भी कॉन्फ़िगर किया जाएगा.

समूह का आकार - हम क्लस्टर में मशीनों की संख्या और शुरुआत में मशीनों की वांछित संख्या की सीमा दर्शाते हैं। क्लस्टर में मशीनों की संख्या कभी भी निर्दिष्ट न्यूनतम से कम और अधिकतम से अधिक नहीं होगी, भले ही स्केलिंग मेट्रिक्स के अनुसार होनी चाहिए।

स्केलिंग नीतियां - स्केलिंग पैरामीटर, लेकिन हम चल रहे ईसीएस कार्यों के आधार पर स्केल करेंगे, इसलिए हम स्केलिंग को बाद में कॉन्फ़िगर करेंगे।

उदाहरण स्केल-इन सुरक्षा - स्केल डाउन करते समय इंस्टेंस को डिलीट होने से बचाना। हम इसे सक्षम करते हैं ताकि एएसजी उस मशीन को न हटा दे जिसमें कार्य चल रहे हैं। ईसीएस क्षमता प्रदाता उन उदाहरणों के लिए सुरक्षा अक्षम कर देगा जिनमें कार्य नहीं हैं।

टैग लगा दो - आप उदाहरणों के लिए टैग निर्दिष्ट कर सकते हैं (इसके लिए, टैग नए उदाहरण चेकबॉक्स को चेक किया जाना चाहिए)। मैं नाम टैग निर्दिष्ट करने की अनुशंसा करता हूं, फिर समूह के भीतर लॉन्च किए गए सभी उदाहरणों का एक ही नाम होगा, और उन्हें कंसोल में देखना सुविधाजनक होगा।

समूह बनाने के बाद, इसे खोलें और उन्नत कॉन्फ़िगरेशन अनुभाग पर जाएं। निर्माण चरण में कंसोल में सभी विकल्प क्यों दिखाई नहीं देते हैं?

समाप्ति नीतियां — नियम जो इंस्टेंसेस को हटाते समय ध्यान में रखे जाते हैं। इन्हें क्रम से लागू किया जाता है. हम आम तौर पर नीचे दी गई तस्वीर का उपयोग करते हैं। सबसे पहले, सबसे पुराने लॉन्च टेम्पलेट वाले इंस्टेंस हटा दिए जाते हैं (उदाहरण के लिए, यदि हमने एएमआई को अपडेट किया है, तो हमने एक नया संस्करण बनाया है, लेकिन सभी इंस्टेंस उस पर स्विच करने में कामयाब रहे)। फिर वे उदाहरण चुने जाते हैं जो अगले बिलिंग घंटे के सबसे करीब होते हैं। और फिर लॉन्च तिथि के आधार पर सबसे पुराने का चयन किया जाता है।

पता करने के लिए उपयोगी: क्लस्टर में सभी मशीनों को अद्यतन करने के लिए, उपयोग में सुविधाजनक उदाहरण ताज़ा करें. यदि आप इसे पिछले चरण के लैम्ब्डा फ़ंक्शन के साथ जोड़ते हैं, तो आपके पास पूरी तरह से स्वचालित इंस्टेंस अपडेट सिस्टम होगा। सभी मशीनों को अपडेट करने से पहले, आपको समूह में सभी इंस्टेंस के लिए इंस्टेंस स्केल-इन सुरक्षा को अक्षम करना होगा। समूह में कॉन्फ़िगरेशन नहीं, बल्कि स्वयं मशीनों से सुरक्षा, यह इंस्टेंस प्रबंधन टैब पर किया जाता है।

एप्लिकेशन लोड बैलेंसर और EC2 लक्ष्य समूह

बैलेंसर EC2 → लोड बैलेंसिंग → लोड बैलेंसर्स अनुभाग में बनाया गया है। हम एप्लिकेशन लोड बैलेंसर का उपयोग करेंगे; विभिन्न प्रकार के बैलेंसरों की तुलना यहां पढ़ी जा सकती है सेवा पृष्ठ.

श्रोताओं - पोर्ट 80 और 443 बनाना और बाद में बैलेंसर नियमों का उपयोग करके 80 से 443 पर रीडायरेक्ट करना समझ में आता है।

उपलब्धता क्षेत्र — ज्यादातर मामलों में, हम सभी के लिए पहुंच क्षेत्र का चयन करते हैं।

सुरक्षा सेटिंग्स कॉन्फ़िगर करें - बैलेंसर के लिए एसएसएल प्रमाणपत्र यहां दर्शाया गया है, सबसे सुविधाजनक विकल्प है एक प्रमाण पत्र बनाओ एसीएम में. मतभेदों के बारे में सुरक्षा नीति में पढ़ा जा सकता है प्रलेखन, आप इसे डिफ़ॉल्ट रूप से चयनित छोड़ सकते हैं ELBSecurityPolicy-2016-08. बैलेंसर बनाने के बाद आप इसे देखेंगे डीएनएस नाम, जिसे आपको अपने डोमेन के लिए CNAME कॉन्फ़िगर करने की आवश्यकता है। उदाहरण के लिए, Cloudflare में यह इस तरह दिखता है।

सुरक्षा समूह - बैलेंसर के लिए एक सुरक्षा समूह बनाएं या चुनें, मैंने इसके बारे में ऊपर EC2 लॉन्च टेम्पलेट → नेटवर्क सेटिंग्स अनुभाग में और अधिक लिखा है।

लक्ष्य समूह - हम एक समूह बनाते हैं जो बैलेंसर से मशीनों तक अनुरोधों को रूट करने और समस्याओं के मामले में उन्हें बदलने के लिए उनकी उपलब्धता की जांच करने के लिए जिम्मेदार है। लक्ष्य प्रकार उदाहरण होना चाहिए, प्रोटोकॉल и बंदरगाह कोई भी, यदि आप बैलेंसर और इंस्टेंस के बीच संचार के लिए HTTPS का उपयोग करते हैं, तो आपको उनके लिए एक प्रमाणपत्र अपलोड करना होगा। इस उदाहरण के प्रयोजनों के लिए, हम ऐसा नहीं करेंगे, हम बस पोर्ट 80 छोड़ देंगे।

स्वास्थ्य जांच — सेवा की कार्यक्षमता की जाँच के लिए पैरामीटर। वास्तविक सेवा में, यह एक अलग अनुरोध होना चाहिए जो व्यावसायिक तर्क के महत्वपूर्ण हिस्सों को लागू करता है; इस उदाहरण के प्रयोजनों के लिए, मैं डिफ़ॉल्ट सेटिंग्स छोड़ दूंगा। इसके बाद, आप अनुरोध अंतराल, टाइमआउट, सफलता कोड आदि का चयन कर सकते हैं। हमारे उदाहरण में, हम सफलता कोड 200-399 इंगित करेंगे, क्योंकि उपयोग की जाने वाली डॉकर छवि 304 कोड लौटाती है।

लक्ष्य पंजीकृत करें - यहां समूह के लिए कारों का चयन किया जाता है, लेकिन हमारे मामले में यह ईसीएस द्वारा किया जाएगा, इसलिए हम इस चरण को छोड़ देते हैं।

पता करने के लिए उपयोगी: बैलेंसर स्तर पर आप लॉग को सक्षम कर सकते हैं जो निश्चित रूप से S3 में सहेजे जाएंगे प्रारूप. वहां से उन्हें एनालिटिक्स के लिए तृतीय-पक्ष सेवाओं में निर्यात किया जा सकता है, या आप सीधे S3 में डेटा पर SQL क्वेरी बना सकते हैं एथेना का उपयोग करना. यह सुविधाजनक है और बिना किसी अतिरिक्त कोड के काम करता है। मैं एक निर्दिष्ट अवधि के बाद S3 बकेट से लॉग हटाने की स्थापना की भी अनुशंसा करता हूं।

ईसीएस कार्य परिभाषा

पिछले चरणों में, हमने सेवा बुनियादी ढांचे से संबंधित सब कुछ बनाया; अब हम उन कंटेनरों का वर्णन करने के लिए आगे बढ़ते हैं जिन्हें हम लॉन्च करेंगे। यह ECS → कार्य परिभाषाएँ अनुभाग में किया जाता है।

लॉन्च प्रकार की अनुकूलता - EC2 चुनें.

कार्य निष्पादन IAM भूमिका - चुनना ecsTaskExecutionRole. इसका उपयोग करके लॉग लिखे जाते हैं, गुप्त चरों तक पहुंच दी जाती है, आदि।

कंटेनर परिभाषाएँ अनुभाग में, कंटेनर जोड़ें पर क्लिक करें।

छवि - प्रोजेक्ट कोड के साथ छवि से लिंक करें; इस उदाहरण के लिए मैं डॉकर हब से एक सार्वजनिक छवि का उपयोग करूंगा बिटनामी/नोड-उदाहरण:0.0.1.

स्मृति सीमाएँ - कंटेनर के लिए मेमोरी सीमा. कठिन सीमा - हार्ड लिमिट, यदि कंटेनर निर्दिष्ट मूल्य से आगे जाता है, तो डॉकर किल कमांड निष्पादित किया जाएगा, कंटेनर तुरंत मर जाएगा। नरम सीमा — नरम सीमा, कंटेनर निर्दिष्ट मूल्य से आगे जा सकता है, लेकिन मशीनों पर कार्य करते समय इस पैरामीटर को ध्यान में रखा जाएगा। उदाहरण के लिए, यदि किसी मशीन में 4 GiB RAM है, और किसी कंटेनर की सॉफ्ट सीमा 2048 MiB है, तो यह मशीन इस कंटेनर के साथ अधिकतम 2 रनिंग कार्य कर सकती है। वास्तव में, 4 GiB RAM 4096 MiB से थोड़ा कम है, इसे क्लस्टर में ECS इंस्टेंस टैब पर देखा जा सकता है। नरम सीमा कठोर सीमा से अधिक नहीं हो सकती। यह समझना महत्वपूर्ण है कि यदि एक कार्य में कई कंटेनर हैं, तो उनकी सीमाएँ संक्षेप में हैं।

पोर्ट मैपिंग - में होस्ट पोर्ट हम 0 इंगित करते हैं, इसका मतलब है कि पोर्ट को गतिशील रूप से सौंपा जाएगा और लक्ष्य समूह द्वारा निगरानी की जाएगी। कंटेनर पोर्ट - जिस पोर्ट पर आपका एप्लिकेशन चलता है वह अक्सर निष्पादन कमांड में निर्दिष्ट होता है, या आपके एप्लिकेशन कोड, डॉकरफाइल आदि में निर्दिष्ट होता है। हमारे उदाहरण के लिए हम 3000 का उपयोग करेंगे क्योंकि यह सूचीबद्ध है Dockerfile जिस छवि का उपयोग किया जा रहा है.

स्वास्थ्य जांच - कंटेनर स्वास्थ्य जांच पैरामीटर, लक्ष्य समूह में कॉन्फ़िगर किए गए पैरामीटर के साथ भ्रमित न हों।

वातावरण - पर्यावरण सेटिंग्स. सीपीयू इकाइयाँ - मेमोरी सीमा के समान, केवल प्रोसेसर के बारे में। प्रत्येक प्रोसेसर कोर 1024 यूनिट है, इसलिए यदि सर्वर में डुअल-कोर प्रोसेसर है और कंटेनर 512 पर सेट है, तो इस कंटेनर के साथ 4 कार्य एक सर्वर पर लॉन्च किए जा सकते हैं। सीपीयू इकाइयाँ हमेशा कोर की संख्या के अनुरूप होती हैं; उनकी संख्या थोड़ी कम नहीं हो सकती, जैसा कि मेमोरी के मामले में है।

आदेश - एक कंटेनर के अंदर एक सेवा शुरू करने के लिए एक कमांड, सभी पैरामीटर अल्पविराम द्वारा अलग किए गए हैं। यह गनिकोर्न, एनपीएम आदि हो सकता है। यदि निर्दिष्ट नहीं है, तो Dockerfile से CMD निर्देश का मान उपयोग किया जाएगा। हम संकेत करते हैं npm,start.

पर्यावरण चर - कंटेनर पर्यावरण चर। यह या तो साधारण टेक्स्ट डेटा या गुप्त चर हो सकता है राज प्रबंधक या पैरामीटर स्टोर.

भंडारण और लॉगिंग - यहां हम क्लाउडवॉच लॉग्स (एडब्ल्यूएस से लॉग के लिए एक सेवा) में लॉगिंग सेट करेंगे। ऐसा करने के लिए, बस ऑटो-कॉन्फ़िगर क्लाउडवॉच लॉग्स चेकबॉक्स को सक्षम करें। टास्क डेफिनिशन बनाने के बाद, क्लाउडवॉच में लॉग का एक समूह स्वचालित रूप से बनाया जाएगा। डिफ़ॉल्ट रूप से, लॉग इसमें अनिश्चित काल तक संग्रहीत होते हैं; मैं रिटेंशन अवधि को नेवर एक्सपायर से आवश्यक अवधि में बदलने की सलाह देता हूं। यह क्लाउडवॉच लॉग समूहों में किया जाता है, आपको वर्तमान अवधि पर क्लिक करना होगा और एक नया चयन करना होगा।

ईसीएस क्लस्टर और ईसीएस क्षमता प्रदाता

क्लस्टर बनाने के लिए ECS → क्लस्टर अनुभाग पर जाएँ। हम टेम्पलेट के रूप में EC2 Linux + नेटवर्किंग का चयन करते हैं।

क्लस्टर का नाम - बहुत महत्वपूर्ण, हम यहां वही नाम बनाते हैं जो लॉन्च टेम्पलेट पैरामीटर में निर्दिष्ट है ECS_CLUSTER, हमारे मामले में - DemoApiClusterProd. एक खाली क्लस्टर बनाएं चेकबॉक्स को चेक करें। वैकल्पिक रूप से, आप क्लाउडवॉच में सेवाओं के लिए मेट्रिक्स देखने के लिए कंटेनर इनसाइट्स को सक्षम कर सकते हैं। यदि आपने सब कुछ सही ढंग से किया है, तो ईसीएस इंस्टेंस अनुभाग में आप ऑटो स्केलिंग समूह में बनाई गई मशीनें देखेंगे।

टैब पर जाएं क्षमता प्रदाता और एक नया बनाएं. मैं आपको याद दिला दूं कि चल रहे ईसीएस कार्यों की संख्या के आधार पर मशीनों के निर्माण और शटडाउन को नियंत्रित करना आवश्यक है। यह ध्यान रखना महत्वपूर्ण है कि एक प्रदाता को केवल एक समूह को सौंपा जा सकता है।

ऑटो स्केलिंग समूह - पहले से बनाए गए समूह का चयन करें।

प्रबंधित स्केलिंग - इसे सक्षम करें ताकि प्रदाता सेवा को स्केल कर सके।

लक्ष्य क्षमता % — हमें कार्यों से भरी हुई कितने प्रतिशत मशीनों की आवश्यकता है। यदि आप 100% निर्दिष्ट करते हैं, तो सभी मशीनें हमेशा चलने वाले कार्यों में व्यस्त रहेंगी। यदि आप 50% निर्दिष्ट करते हैं, तो आधी कारें हमेशा निःशुल्क रहेंगी। इस मामले में, यदि लोड में तेज उछाल होता है, तो नई टैक्सियों को तुरंत मुफ्त कारें मिल जाएंगी, बिना उदाहरणों के तैनात होने की प्रतीक्षा किए।

प्रबंधित समाप्ति सुरक्षा - सक्षम करें, यह पैरामीटर प्रदाता को इंस्टेंस की सुरक्षा को हटाने की अनुमति देता है। ऐसा तब होता है जब मशीन पर कोई सक्रिय कार्य नहीं होता है और लक्ष्य क्षमता% की अनुमति देता है।

ईसीएस सेवा और स्केलिंग सेटअप

अंतिम चरण :) एक सेवा बनाने के लिए, आपको सेवा टैब पर पहले से बनाए गए क्लस्टर पर जाना होगा।

लॉन्च प्रकार - आपको क्षमता प्रदाता रणनीति पर स्विच पर क्लिक करना होगा और पहले से बनाए गए प्रदाताओं का चयन करना होगा।

कार्य परिभाषा - पहले से बनाई गई कार्य परिभाषा और उसके संशोधन का चयन करें।

सेवा का नाम - भ्रम से बचने के लिए, हम हमेशा कार्य परिभाषा के समान ही इंगित करते हैं।

सर्विस प्रकार - हमेशा प्रतिकृति.

कार्यों की संख्या — सेवा में सक्रिय कार्यों की वांछित संख्या। यह पैरामीटर स्केलिंग द्वारा नियंत्रित किया जाता है, लेकिन फिर भी इसे निर्दिष्ट किया जाना चाहिए।

न्यूनतम स्वस्थ प्रतिशत и अधिकतम प्रतिशत - तैनाती के दौरान कार्यों का व्यवहार निर्धारित करें। डिफ़ॉल्ट मान 100 और 200 हैं, जो दर्शाता है कि तैनाती के समय कार्यों की संख्या कई गुना बढ़ जाएगी, और फिर वांछित मान पर वापस आ जाएगी। यदि आपके पास 1 कार्य चल रहा है, न्यूनतम = 0, और अधिकतम = 100, तो तैनाती के दौरान इसे मार दिया जाएगा, और उसके बाद एक नया उठाया जाएगा, यानी यह डाउनटाइम होगा। यदि 1 कार्य चल रहा है, न्यूनतम = 50, अधिकतम = 150, तो तैनाती बिल्कुल नहीं होगी, क्योंकि 1 कार्य को आधे में विभाजित नहीं किया जा सकता है या डेढ़ गुना तक बढ़ाया नहीं जा सकता है।

परिनियोजन प्रकार - रोलिंग अपडेट छोड़ें।

प्लेसमेंट टेम्पलेट - मशीनों पर कार्य डालने के नियम। डिफ़ॉल्ट AZ बैलेंस्ड स्प्रेड है - इसका मतलब है कि प्रत्येक नए कार्य को एक नए उदाहरण पर रखा जाएगा जब तक कि सभी उपलब्धता क्षेत्रों में मशीनें नहीं बढ़ जातीं। हम आम तौर पर बिनपैक - सीपीयू और स्प्रेड - एज़ करते हैं; इस नीति के साथ, कार्यों को प्रति सीपीयू एक मशीन पर यथासंभव सघनता से रखा जाता है। यदि नई मशीन बनाना आवश्यक हो तो इसे नए उपलब्धता क्षेत्र में बनाया जाता है।

लोड बैलेंसर प्रकार - एप्लिकेशन लोड बैलेंसर चुनें।

सेवा IAM भूमिका - चुनें ecsServiceRole.

लोड बैलेंसर का नाम - पहले से बनाए गए बैलेंसर का चयन करें।

स्वास्थ्य जांच अनुग्रह अवधि - किसी नए कार्य को शुरू करने के बाद स्वास्थ्य जांच करने से पहले रुकें, हम आमतौर पर इसे 60 सेकंड पर सेट करते हैं।

संतुलन लोड करने के लिए कंटेनर - लक्ष्य समूह नाम आइटम में, पहले बनाए गए समूह का चयन करें, और सब कुछ स्वचालित रूप से भर जाएगा।

सेवा ऑटो स्केलिंग - सेवा स्केलिंग पैरामीटर। अपनी सेवा की वांछित गणना समायोजित करने के लिए कॉन्फिगर सर्विस ऑटो स्केलिंग का चयन करें। स्केलिंग करते समय हम कार्यों की न्यूनतम और अधिकतम संख्या निर्धारित करते हैं।

सर्विस ऑटो स्केलिंग के लिए IAM भूमिका - चुनें AWSServiceRoleForApplicationAutoScaling_ECSService.

स्वचालित कार्य स्केलिंग नीतियां - स्केलिंग के नियम. ये 2 प्रकार के होते हैं:

1. लक्ष्यीकरण ट्रैकिंग - लक्ष्य मेट्रिक्स पर नज़र रखना (सीपीयू/रैम उपयोग या प्रत्येक कार्य के लिए अनुरोधों की संख्या)। उदाहरण के लिए, हम चाहते हैं कि औसत प्रोसेसर लोड 85% हो, जब यह अधिक हो जाएगा, तो लक्ष्य मूल्य तक पहुंचने तक नए कार्य जोड़े जाएंगे। यदि लोड कम है, तो कार्यों को हटा दिया जाएगा, इसके विपरीत, जब तक कि स्केलिंग डाउन के खिलाफ सुरक्षा सक्षम न हो (स्केल-इन अक्षम करें).
2. स्टेप स्केलिंग - किसी मनमानी घटना पर प्रतिक्रिया। यहां आप किसी भी घटना (क्लाउडवॉच अलार्म) पर प्रतिक्रिया कॉन्फ़िगर कर सकते हैं, जब ऐसा होता है, तो आप निर्दिष्ट संख्या में कार्यों को जोड़ या हटा सकते हैं, या कार्यों की सटीक संख्या निर्दिष्ट कर सकते हैं।

एक सेवा में कई स्केलिंग नियम हो सकते हैं, यह उपयोगी हो सकता है, मुख्य बात यह सुनिश्चित करना है कि वे एक-दूसरे के साथ टकराव न करें।

निष्कर्ष

यदि आपने निर्देशों का पालन किया है और उसी डॉकर छवि का उपयोग किया है, तो आपकी सेवा को इस तरह एक पृष्ठ वापस करना चाहिए।

1. हमने एक टेम्प्लेट बनाया है जिसके अनुसार सेवा में सभी मशीनें लॉन्च की जाती हैं। हमने यह भी सीखा कि टेम्प्लेट बदलने पर मशीनों को कैसे अपडेट किया जाए।
2. हमने स्पॉट इंस्टेंस स्टॉप सिग्नल की प्रोसेसिंग को कॉन्फ़िगर किया है, इसलिए इसे प्राप्त करने के एक मिनट के भीतर, सभी चल रहे कार्यों को मशीन से हटा दिया जाता है, ताकि कुछ भी खो न जाए या बाधित न हो।
3. हमने सभी मशीनों पर लोड को समान रूप से वितरित करने के लिए बैलेंसर को ऊपर उठाया।
4. हमने एक ऐसी सेवा बनाई है जो ऑन स्पॉट इंस्टेंस पर चलती है, जिससे मशीन की लागत लगभग 3 गुना कम हो जाती है।
5. हमने डाउनटाइम लागत के बिना बढ़े हुए कार्यभार को संभालने के लिए दोनों दिशाओं में ऑटोस्केलिंग को कॉन्फ़िगर किया है।
6. हम क्षमता प्रदाता का उपयोग करते हैं ताकि एप्लिकेशन बुनियादी ढांचे (मशीनों) का प्रबंधन कर सके, न कि इसके विपरीत।
7. महान थे।

यदि आपके पास लोड में पूर्वानुमानित स्पाइक्स हैं, उदाहरण के लिए आप एक बड़े ईमेल अभियान में विज्ञापन कर रहे हैं, तो आप स्केलिंग सेट कर सकते हैं समय सारणी.

आप अपने सिस्टम के विभिन्न भागों के डेटा के आधार पर भी स्केल कर सकते हैं। उदाहरण के लिए, हमारे पास कार्यक्षमता है व्यक्तिगत प्रचार प्रस्ताव भेजना मोबाइल एप्लिकेशन के उपयोगकर्ता. कभी-कभी एक अभियान 1M+ लोगों को भेजा जाता है। इस तरह के वितरण के बाद, एपीआई के अनुरोधों में हमेशा बड़ी वृद्धि होती है, क्योंकि कई उपयोगकर्ता एक ही समय में एप्लिकेशन में लॉग इन करते हैं। इसलिए यदि हम देखते हैं कि प्रमोशनल पुश नोटिफिकेशन भेजने के लिए कतार में काफी अधिक मानक संकेतक हैं, तो हम लोड के लिए तैयार होने के लिए तुरंत कई अतिरिक्त मशीनें और कार्य लॉन्च कर सकते हैं।

मुझे खुशी होगी अगर आप मुझे टिप्पणियों में स्पॉट इंस्टेंस और ईसीएस के उपयोग के दिलचस्प मामले या स्केलिंग के बारे में कुछ बताएंगे।

जल्द ही इस बारे में लेख होंगे कि हम मुख्य रूप से सर्वर रहित स्टैक (पैसे के साथ) पर प्रति सेकंड हजारों विश्लेषणात्मक घटनाओं को कैसे संसाधित करते हैं और GitLab CI और टेराफॉर्म क्लाउड का उपयोग करके सेवाओं की तैनाती कैसे काम करती है।

हमारी सदस्यता लें, यह दिलचस्प होगा!

केवल पंजीकृत उपयोगकर्ता ही सर्वेक्षण में भाग ले सकते हैं। साइन इन करेंकृपया।

क्या आप उत्पादन में स्पॉट इंस्टेंस का उपयोग करते हैं?

• 22,2% तक हाँ6

• 66,7% तक नंबर 18

• 11,1% तक मैंने उनके बारे में एक लेख से सीखा और उनका उपयोग करने की योजना बनाई3

27 उपयोगकर्ताओं ने मतदान किया। 5 उपयोगकर्ता अनुपस्थित रहे।

स्रोत: www.habr.com