AWS स्पॉट उदाहरणांवर स्केलेबल API तयार करणे

सर्वांना नमस्कार! माझे नाव किरिल आहे, मी Adapty येथे CTO आहे. आमची बहुतेक आर्किटेक्चर AWS वर आहे, आणि आज मी उत्पादन वातावरणात स्पॉट उदाहरणे वापरून सर्व्हरची किंमत 3 पट कमी कशी केली, तसेच त्यांचे ऑटो-स्केलिंग कसे सेट करायचे याबद्दल बोलेन. प्रथम ते कसे कार्य करते याचे विहंगावलोकन आणि नंतर प्रारंभ करण्यासाठी तपशीलवार सूचना असतील.

स्पॉट उदाहरणे काय आहेत?

स्पॉट उदाहरणे इतर AWS वापरकर्त्यांचे सर्व्हर आहेत जे सध्या निष्क्रिय आहेत आणि ते त्यांना मोठ्या सवलतीत विकतात (Amazon 90% पर्यंत लिहितो, आमच्या अनुभवानुसार ~3x, प्रदेश, AZ आणि उदाहरण प्रकारानुसार बदलते). नियमित लोकांपेक्षा त्यांचा मुख्य फरक म्हणजे ते कधीही बंद होऊ शकतात. म्हणून, बर्याच काळापासून आमचा असा विश्वास होता की त्यांचा वापर व्हर्जिन वातावरणासाठी किंवा काहीतरी गणना करण्याच्या कार्यांसाठी, S3 वर किंवा डेटाबेसमध्ये जतन केलेल्या मध्यवर्ती परिणामांसह, परंतु विक्रीसाठी नाही. असे तृतीय-पक्ष उपाय आहेत जे आपल्याला उत्पादनावर स्पॉट्स वापरण्याची परवानगी देतात, परंतु आमच्या केससाठी अनेक क्रॅच आहेत, म्हणून आम्ही त्यांची अंमलबजावणी केली नाही. लेखात वर्णन केलेला दृष्टीकोन अतिरिक्त स्क्रिप्ट, मुकुट इत्यादींशिवाय पूर्णपणे मानक AWS कार्यक्षमतेमध्ये कार्य करतो.

खाली काही स्क्रीनशॉट आहेत जे स्पॉट उदाहरणांसाठी किंमत इतिहास दर्शवतात.

eu-west-5 (आयर्लंड) प्रदेशात m1.large. किंमत 3 महिन्यांसाठी स्थिर आहे, सध्या 2.9x बचत आहे.

m5.large US-पूर्व-1 प्रदेशात (N. व्हर्जिनिया). 3 महिन्यांत किंमत सतत बदलत असते, सध्या उपलब्धतेच्या क्षेत्रानुसार 2.3x ते 2.8x पर्यंत बचत होत आहे.

t3.small US-पूर्व-1 प्रदेशात (N. व्हर्जिनिया). किंमत 3 महिन्यांसाठी स्थिर आहे, सध्या 3.4x बचत आहे.

सेवा आर्किटेक्चर

सेवेचे मूळ आर्किटेक्चर ज्याबद्दल आपण या लेखात बोलणार आहोत ते खालील आकृतीमध्ये दर्शविले आहे.

ऍप्लिकेशन लोड बॅलेंसर → EC2 लक्ष्य गट → लवचिक कंटेनर सेवा

अॅप्लिकेशन लोड बॅलन्सर (ALB) बॅलन्सर म्हणून वापरला जातो, जो EC2 टार्गेट ग्रुप (TG) ला विनंत्या पाठवतो. ALB साठी पोर्ट उघडण्यासाठी आणि त्यांना इलास्टिक कंटेनर सर्व्हिस (ECS) कंटेनरच्या पोर्टशी जोडण्यासाठी TG जबाबदार आहे. ECS हे AWS मधील Kubernetes चे अॅनालॉग आहे, जे डॉकर कंटेनरचे व्यवस्थापन करते.

एका उदाहरणामध्ये समान पोर्टसह अनेक चालू कंटेनर असू शकतात, म्हणून आम्ही ते निश्चितपणे सेट करू शकत नाही. ECS TG ला सांगते की ते एक नवीन टास्क लाँच करत आहे (कुबर्नेट्सच्या परिभाषेत याला पॉड म्हणतात), ते उदाहरणावर विनामूल्य पोर्ट तपासते आणि त्यापैकी एक लाँच केलेल्या टास्कसाठी नियुक्त करते. TG हेल्थ चेक वापरून इन्स्टन्स आणि API त्यावर काम करत आहेत की नाही हे देखील नियमितपणे तपासते आणि काही समस्या दिसल्यास ते तिथे विनंत्या पाठवणे थांबवते.

EC2 ऑटो स्केलिंग गट + ECS क्षमता प्रदाता

वरील आकृती EC2 ऑटो स्केलिंग ग्रुप्स (ASG) सेवा दर्शवत नाही. नावावरून तुम्ही समजू शकता की ते स्केलिंग उदाहरणांसाठी जबाबदार आहे. तथापि, अलीकडे पर्यंत, AWS कडे ECS वरून चालणाऱ्या मशीनची संख्या व्यवस्थापित करण्याची अंगभूत क्षमता नव्हती. ECS ने कार्यांची संख्या मोजणे शक्य केले, उदाहरणार्थ, CPU वापर, RAM किंवा विनंत्यांची संख्या. परंतु जर कार्यांनी सर्व विनामूल्य उदाहरणे व्यापली असतील तर नवीन मशीन स्वयंचलितपणे तयार होणार नाहीत.

ECS क्षमता प्रदाते (ECS CP) च्या आगमनाने हे बदलले आहे. आता ECS मधील प्रत्येक सेवा ASG शी निगडीत केली जाऊ शकते, आणि जर कार्य चालू असलेल्या घटनांमध्ये बसत नसेल, तर नवीन वाढवल्या जातील (परंतु स्थापित ASG मर्यादेत). हे विरुद्ध दिशेने देखील कार्य करते, जर ECS CP ला कार्यांशिवाय निष्क्रिय उदाहरणे दिसली, तर ते ASG ला त्यांना बंद करण्याचा आदेश देईल. ईसीएस सीपीमध्ये उदाहरण लोडची लक्ष्य टक्केवारी निर्दिष्ट करण्याची क्षमता आहे, जेणेकरून त्वरीत स्केलिंग कार्यांसाठी ठराविक मशीन नेहमी विनामूल्य असतात; मी याबद्दल थोड्या वेळाने बोलेन.

EC2 लाँच टेम्पलेट्स

ही पायाभूत सुविधा तयार करण्याबद्दल तपशीलात जाण्यापूर्वी मी ज्या शेवटच्या सेवेबद्दल बोलेन ती आहे EC2 लाँच टेम्पलेट्स. हे आपल्याला एक टेम्पलेट तयार करण्यास अनुमती देते ज्यानुसार सर्व मशीन सुरू होतील, जेणेकरून प्रत्येक वेळी सुरवातीपासून याची पुनरावृत्ती होऊ नये. येथे तुम्ही सुरू करण्यासाठी मशीनचा प्रकार, सुरक्षा गट, डिस्क प्रतिमा आणि इतर अनेक पॅरामीटर्स निवडू शकता. तुम्ही वापरकर्ता डेटा देखील निर्दिष्ट करू शकता जो सर्व लॉन्च केलेल्या उदाहरणांवर अपलोड केला जाईल. तुम्ही वापरकर्ता डेटामध्ये स्क्रिप्ट चालवू शकता, उदाहरणार्थ, तुम्ही फाईलची सामग्री संपादित करू शकता ECS एजंट कॉन्फिगरेशन.

या लेखासाठी सर्वात महत्वाचे कॉन्फिगरेशन पॅरामीटर्सपैकी एक आहे ECS_ENABLE_SPOT_INSTANCE_DRAINING= खरे. जर हे पॅरामीटर सक्षम केले असेल, तर ईसीएसला स्पॉट इंस्टन्स काढून टाकला जात असल्याचा सिग्नल प्राप्त होताच, ते त्यावर काम करणारी सर्व कार्ये ड्रेनिंग स्थितीवर हस्तांतरित करते. या उदाहरणासाठी कोणतीही नवीन कार्ये नियुक्त केली जाणार नाहीत; जर काही कार्ये आत्ता त्यात आणायची असतील तर ती रद्द केली जातील. बॅलन्सरकडून रिक्वेस्ट येणेही बंद होते. उदाहरण हटवण्याची सूचना वास्तविक कार्यक्रमाच्या 2 मिनिटे आधी येते. म्हणून, जर तुमची सेवा 2 मिनिटांपेक्षा जास्त काळ कार्य करत नसेल आणि डिस्कवर काहीही जतन करत नसेल, तर तुम्ही डेटा न गमावता स्पॉट उदाहरणे वापरू शकता.

डिस्कबद्दल - अलीकडे AWS केले ईसीएससह लवचिक फाइल सिस्टम (ईएफएस) वापरणे शक्य आहे; या योजनेसह, डिस्क देखील अडथळा नाही, परंतु आम्ही याचा प्रयत्न केला नाही, कारण तत्त्वतः आम्हाला स्थिती संग्रहित करण्यासाठी डिस्कची आवश्यकता नाही. डीफॉल्टनुसार, SIGINT प्राप्त केल्यानंतर (एखादे कार्य निचरा स्थितीत हस्तांतरित केले जाते तेव्हा पाठविले जाते), सर्व चालू कार्ये 30 सेकंदांनंतर थांबविली जातील, जरी ती अद्याप पूर्ण झाली नसतील; तुम्ही पॅरामीटर वापरून ही वेळ बदलू शकता ECS_CONTAINER_STOP_TIMEOUT. मुख्य गोष्ट म्हणजे स्पॉट मशीनसाठी 2 मिनिटांपेक्षा जास्त वेळ सेट करणे नाही.

सेवा तयार करणे

चला वर्णन केलेली सेवा तयार करण्यासाठी पुढे जाऊया. प्रक्रियेत, मी वर नमूद न केलेल्या अनेक उपयुक्त मुद्द्यांचे अतिरिक्त वर्णन करेन. सर्वसाधारणपणे, ही एक चरण-दर-चरण सूचना आहे, परंतु मी काही अतिशय मूलभूत किंवा त्याउलट, अगदी विशिष्ट प्रकरणांचा विचार करणार नाही. सर्व क्रिया AWS व्हिज्युअल कन्सोलमध्ये केल्या जातात, परंतु CloudFormation किंवा Terraform वापरून प्रोग्रामॅटिकरित्या पुनरुत्पादित केल्या जाऊ शकतात. Adapty मध्ये आम्ही Terraform वापरतो.

EC2 लाँच टेम्पलेट

ही सेवा वापरल्या जाणार्‍या मशीनचे कॉन्फिगरेशन तयार करते. टेम्पलेट्स EC2 -> उदाहरणे -> लाँच टेम्पलेट विभागात व्यवस्थापित केले जातात.

Amazon मशीन इमेज (AMI) — डिस्क प्रतिमा निर्दिष्ट करा ज्यासह सर्व उदाहरणे लाँच केली जातील. ECS साठी, बहुतेक प्रकरणांमध्ये Amazon वरून ऑप्टिमाइझ केलेली प्रतिमा वापरणे योग्य आहे. हे नियमितपणे अद्ययावत केले जाते आणि त्यात ECS कार्य करण्यासाठी आवश्यक असलेल्या सर्व गोष्टींचा समावेश आहे. वर्तमान प्रतिमा आयडी शोधण्यासाठी, पृष्ठावर जा Amazon ECS-अनुकूलित AMIs, तुम्ही वापरत असलेला प्रदेश निवडा आणि त्यासाठी AMI आयडी कॉपी करा. उदाहरणार्थ, us-east-1 प्रदेशासाठी, लेखनाच्या वेळी वर्तमान ID आहे ami-00c7c1cf5bdc913ed. हा आयडी सानुकूल मूल्य आयटम निर्दिष्ट करा मध्ये समाविष्ट करणे आवश्यक आहे.

उदाहरण प्रकार - उदाहरण प्रकार दर्शवा. आपल्या कार्यासाठी सर्वात योग्य एक निवडा.

की जोडी (लॉगिन) — आवश्यक असल्यास, SSH द्वारे उदाहरणाशी तुम्ही जोडणी करू शकता असे प्रमाणपत्र निर्देशीत करा.

नेटवर्क सेटिंग्ज — नेटवर्क पॅरामीटर्स निर्दिष्ट करा. नेटवर्किंग प्लॅटफॉर्म बहुतेक प्रकरणांमध्ये व्हर्च्युअल प्रायव्हेट क्लाउड (व्हीपीसी) असावा. सुरक्षा गट - तुमच्या उदाहरणांसाठी सुरक्षा गट. आम्ही उदाहरणांसमोर बॅलन्सर वापरणार असल्याने, मी येथे एक गट निर्दिष्ट करण्याची शिफारस करतो जो फक्त बॅलन्सरमधून येणार्‍या कनेक्शनला परवानगी देतो. म्हणजेच, तुमच्याकडे 2 सुरक्षा गट असतील, एक बॅलन्सरसाठी, जो पोर्ट 80 (http) आणि 443 (https) वर कुठूनही इनबाउंड कनेक्शनला परवानगी देतो आणि दुसरा मशीनसाठी, जो बॅलन्सर ग्रुपमधील कोणत्याही पोर्टवर इनकमिंग कनेक्शनला परवानगी देतो. . दोन्ही गटांमधील आउटबाउंड कनेक्शन सर्व पत्त्यांवर सर्व पोर्ट्सवर TCP प्रोटोकॉल वापरून उघडणे आवश्यक आहे. आपण आउटगोइंग कनेक्शनसाठी पोर्ट आणि पत्ते मर्यादित करू शकता, परंतु नंतर आपल्याला सतत निरीक्षण करणे आवश्यक आहे की आपण बंद पोर्टवर काहीतरी प्रवेश करण्याचा प्रयत्न करत नाही.

स्टोरेज (खंड) — मशीनसाठी डिस्क पॅरामीटर्स निर्दिष्ट करा. डिस्कचा आकार AMI मध्ये निर्दिष्ट केलेल्यापेक्षा कमी असू शकत नाही; ECS ऑप्टिमाइझसाठी तो 30 GiB आहे.

प्रगत तपशील — अतिरिक्त पॅरामीटर्स निर्दिष्ट करा.

खरेदी पर्याय - आम्हाला स्पॉट उदाहरणे खरेदी करायची आहेत का. आम्हाला हवे आहे, परंतु आम्ही हा बॉक्स येथे चेक करणार नाही; आम्ही ते ऑटो स्केलिंग गटामध्ये कॉन्फिगर करू, तेथे आणखी पर्याय आहेत.

IAM उदाहरण प्रोफाइल - उदाहरणे कोणत्या भूमिकेसह लॉन्च केली जातील ते सूचित करा. उदाहरणे ECS मध्ये चालवण्यासाठी, त्यांना परवानग्या आवश्यक आहेत, ज्या सहसा भूमिकेत आढळतात ecsInstanceRole. काही प्रकरणांमध्ये ते तयार केले जाऊ शकते, नसल्यास, येथे सूचना हे कसे करावे यावर. निर्मितीनंतर, आम्ही ते टेम्पलेटमध्ये सूचित करतो.
पुढे बरेच पॅरामीटर्स आहेत, मुळात आपण सर्वत्र डीफॉल्ट मूल्ये सोडू शकता, परंतु त्या प्रत्येकाचे स्पष्ट वर्णन आहे. मी नेहमी EBS-अनुकूलित उदाहरण आणि T2/T3 अमर्यादित पर्याय वापरल्यास सक्षम करतो फुटण्यायोग्य उदाहरणे

वापरकर्त्याची माहिती - वापरकर्ता डेटा दर्शवा. आम्ही फाइल संपादित करू /etc/ecs/ecs.config, ज्यामध्ये ECS एजंट कॉन्फिगरेशन आहे.
वापरकर्ता डेटा कसा दिसू शकतो याचे उदाहरण:

#!/bin/bash
echo ECS_CLUSTER=DemoApiClusterProd >> /etc/ecs/ecs.config
echo ECS_ENABLE_SPOT_INSTANCE_DRAINING=true >> /etc/ecs/ecs.config
echo ECS_CONTAINER_STOP_TIMEOUT=1m >> /etc/ecs/ecs.config
echo ECS_ENGINE_AUTH_TYPE=docker >> /etc/ecs/ecs.config
echo "ECS_ENGINE_AUTH_DATA={"registry.gitlab.com":{"username":"username","password":"password"}}" >> /etc/ecs/ecs.config

ECS_CLUSTER=DemoApiClusterProd — पॅरामीटर सूचित करते की उदाहरण दिलेल्या नावाच्या क्लस्टरशी संबंधित आहे, म्हणजेच हा क्लस्टर त्याची कार्ये या सर्व्हरवर ठेवण्यास सक्षम असेल. आम्ही अद्याप क्लस्टर तयार केलेले नाही, परंतु ते तयार करताना आम्ही हे नाव वापरू.

ECS_ENABLE_SPOT_INSTANCE_DRAINING=true — पॅरामीटर निर्दिष्ट करते की जेव्हा स्पॉट इन्स्टन्स बंद करण्यासाठी सिग्नल प्राप्त होतो, तेव्हा त्यावरील सर्व कार्ये ड्रेनिंग स्थितीकडे हस्तांतरित केली जावीत.

ECS_CONTAINER_STOP_TIMEOUT=1m - पॅरामीटर निर्दिष्ट करते की SIGINT सिग्नल प्राप्त केल्यानंतर, सर्व कार्यांना मारल्या जाण्यापूर्वी 1 मिनिट असतो.

ECS_ENGINE_AUTH_TYPE=docker — पॅरामीटर सूचित करते की डॉकर योजना अधिकृतता यंत्रणा म्हणून वापरली जाते

ECS_ENGINE_AUTH_DATA=... — खाजगी कंटेनर रेजिस्ट्रीशी कनेक्शन पॅरामीटर्स, जिथे तुमच्या डॉकर प्रतिमा संग्रहित केल्या जातात. ते सार्वजनिक असल्यास, आपल्याला काहीही निर्दिष्ट करण्याची आवश्यकता नाही.

या लेखाच्या हेतूंसाठी, मी डॉकर हब वरून सार्वजनिक प्रतिमा वापरेन, म्हणून पॅरामीटर्स निर्दिष्ट करा ECS_ENGINE_AUTH_TYPE и ECS_ENGINE_AUTH_DATA गरज नाही.

जाणून घेणे चांगले: एएमआय नियमितपणे अपडेट करण्याची शिफारस केली जाते, कारण नवीन आवृत्त्या डॉकर, लिनक्स, ईसीएस एजंट इ.च्या आवृत्त्या अपडेट करतात. हे विसरू नये म्हणून, तुम्ही हे करू शकता. सूचना सेट करा नवीन आवृत्त्यांच्या प्रकाशन बद्दल. तुम्ही ईमेलद्वारे सूचना प्राप्त करू शकता आणि व्यक्तिचलितपणे अपडेट करू शकता किंवा तुम्ही Lambda फंक्शन लिहू शकता जे अपडेटेड AMI सह लॉन्च टेम्पलेटची नवीन आवृत्ती स्वयंचलितपणे तयार करेल.

EC2 ऑटो स्केलिंग गट

ऑटो स्केलिंग ग्रुप लॉन्च आणि स्केलिंग उदाहरणांसाठी जबाबदार आहे. गट EC2 -> ऑटो स्केलिंग -> ऑटो स्केलिंग गट विभागात व्यवस्थापित केले जातात.

टेम्पलेट लाँच करा — मागील चरणात तयार केलेले टेम्पलेट निवडा. आम्ही डीफॉल्ट आवृत्ती सोडतो.

खरेदी पर्याय आणि उदाहरण प्रकार — क्लस्टरसाठी उदाहरणांचे प्रकार निर्दिष्ट करा. अॅडहेअर टू लॉन्च टेम्पलेट लाँच टेम्प्लेटमधील उदाहरण प्रकार वापरते. खरेदी पर्याय आणि उदाहरण प्रकार एकत्र करा तुम्हाला लवचिकपणे उदाहरण प्रकार कॉन्फिगर करण्याची परवानगी देतात. आम्ही त्याचा वापर करू.

ऑप्शनल ऑन-डिमांड बेस — नेहमी कार्य करणार्‍या नियमित, स्पॉट नसलेल्या उदाहरणांची संख्या.

ऑन-डिमांड टक्केवारी बेसच्या वर — नियमित आणि स्पॉट उदाहरणांचे टक्केवारी गुणोत्तर, 50-50 समान प्रमाणात वितरीत केले जातील, प्रत्येक नियमित उदाहरणासाठी 20-80 4 स्पॉट वाढवले ​​जातील. या उदाहरणाच्या हेतूंसाठी, मी 50-50 दर्शवितो, परंतु प्रत्यक्षात आम्ही बहुतेक वेळा 20-80 करतो, काही प्रकरणांमध्ये 0-100.

उदाहरण प्रकार — येथे तुम्ही क्लस्टरमध्ये वापरले जाणारे अतिरिक्त प्रकार निर्दिष्ट करू शकता. आम्ही ते कधीही वापरले नाही कारण मला कथेचा अर्थ कळत नाही. कदाचित हे विशिष्ट प्रकारच्या उदाहरणांवरील मर्यादांमुळे आहे, परंतु ते समर्थनाद्वारे सहजपणे वाढवता येतात. जर तुम्हाला अनुप्रयोग माहित असेल तर, टिप्पण्यांमध्ये वाचून मला आनंद होईल)

नेटवर्क — नेटवर्क सेटिंग्ज, मशीनसाठी VPC आणि सबनेट्स निवडा, बहुतेक प्रकरणांमध्ये तुम्ही सर्व उपलब्ध सबनेट निवडले पाहिजेत.

लोड बॅलेंसिंग - बॅलन्सर सेटिंग्ज, परंतु आम्ही हे स्वतंत्रपणे करू, आम्ही येथे काहीही स्पर्श करणार नाही. आरोग्य तपासणी नंतर कॉन्फिगर केले जाईल.

गट आकार — आम्ही क्लस्टरमधील मशीन्सच्या संख्येची मर्यादा आणि सुरवातीला मशीनची इच्छित संख्या सूचित करतो. क्लस्टरमधील मशीन्सची संख्या निर्दिष्ट केलेल्या किमान पेक्षा कमी आणि कमाल पेक्षा जास्त कधीच असू शकत नाही, जरी मेट्रिक्सनुसार स्केलिंग केले पाहिजे.

स्केलिंग धोरणे — स्केलिंग पॅरामीटर्स, परंतु आम्ही चालू असलेल्या ECS कार्यांवर आधारित स्केल करू, म्हणून आम्ही नंतर स्केलिंग कॉन्फिगर करू.

उदाहरण स्केल-इन संरक्षण - खाली स्केलिंग करताना हटवण्यापासून घटनांचे संरक्षण. आम्ही ते सक्षम करतो जेणेकरुन एएसजी चालू असलेली कार्ये असलेली मशीन हटवू नये. ईसीएस क्षमता प्रदाता कार्ये नसलेल्या उदाहरणांसाठी संरक्षण अक्षम करेल.

टॅग जोडा — तुम्ही उदाहरणांसाठी टॅग निर्दिष्ट करू शकता (यासाठी, नवीन उदाहरणे टॅग करा चेकबॉक्स चेक करणे आवश्यक आहे). मी नाव टॅग निर्दिष्ट करण्याची शिफारस करतो, नंतर गटामध्ये लॉन्च केलेल्या सर्व उदाहरणांचे नाव समान असेल आणि ते कन्सोलमध्ये पाहणे सोयीचे आहे.

गट तयार केल्यानंतर, तो उघडा आणि प्रगत कॉन्फिगरेशन विभागात जा. निर्मितीच्या टप्प्यावर कन्सोलमध्ये सर्व पर्याय का दिसत नाहीत.

समाप्ती धोरणे - उदाहरणे हटवताना विचारात घेतलेले नियम. ते क्रमाने लागू केले जातात. आम्ही सहसा खालील चित्रात वापरतो. प्रथम, सर्वात जुने लाँच टेम्पलेट असलेली उदाहरणे हटविली जातात (उदाहरणार्थ, आम्ही AMI अद्यतनित केल्यास, आम्ही एक नवीन आवृत्ती तयार केली, परंतु सर्व उदाहरणे त्यावर स्विच करण्यात व्यवस्थापित झाली). त्यानंतर पुढील बिलिंग तासाच्या सर्वात जवळची उदाहरणे निवडली जातात. आणि नंतर सर्वात जुने लाँच तारखेवर आधारित निवडले जातात.

जाणून घेणे चांगले: सर्व मशीन्स क्लस्टरमध्ये अपडेट करण्यासाठी, वापरण्यास सोयीस्कर उदाहरण रीफ्रेश करा. जर तुम्ही हे मागील चरणातील Lambda फंक्शनसह एकत्र केले, तर तुमच्याकडे पूर्णपणे स्वयंचलित इन्स्टन्स अपडेट सिस्टम असेल. सर्व मशीन्स अपडेट करण्यापूर्वी, तुम्ही ग्रुपमधील सर्व उदाहरणांसाठी इंस्टन्स स्केल-इन संरक्षण अक्षम केले पाहिजे. ग्रुपमध्ये कॉन्फिगरेशन नाही, तर स्वतः मशीन्सपासून संरक्षण, हे इन्स्टन्स मॅनेजमेंट टॅबवर केले जाते.

ऍप्लिकेशन लोड बॅलन्सर आणि EC2 लक्ष्य गट

बॅलन्सर EC2 → लोड बॅलन्सिंग → लोड बॅलन्सर्स या विभागात तयार केला आहे. आम्ही ऍप्लिकेशन लोड बॅलन्सर वापरू; विविध प्रकारच्या बॅलन्सरची तुलना येथे वाचली जाऊ शकते सेवा पृष्ठ.

ऐकणारे - पोर्ट 80 आणि 443 बनवणे आणि नंतर बॅलेंसर नियम वापरून 80 ते 443 पर्यंत पुनर्निर्देशित करणे अर्थपूर्ण आहे.

उपलब्धता झोन — बहुतेक प्रकरणांमध्ये, आम्ही प्रत्येकासाठी प्रवेशयोग्यता क्षेत्रे निवडतो.

सुरक्षा सेटिंग्ज कॉन्फिगर करा - बॅलन्सरसाठी SSL प्रमाणपत्र येथे सूचित केले आहे, सर्वात सोयीस्कर पर्याय आहे प्रमाणपत्र बनवा ACM मध्ये. फरकांबद्दल सुरक्षा धोरण मध्ये वाचता येते दस्तऐवजीकरण, तुम्ही ते डीफॉल्टनुसार निवडलेले सोडू शकता ELBSecurityPolicy-2016-08. बॅलन्सर तयार केल्यानंतर, तुम्हाला ते दिसेल डीएनएस नाव, जे तुम्हाला तुमच्या डोमेनसाठी CNAME कॉन्फिगर करणे आवश्यक आहे. उदाहरणार्थ, क्लाउडफ्लेअरमध्ये हे असे दिसते.

सुरक्षा गट - बॅलन्सरसाठी सुरक्षा गट तयार करा किंवा निवडा, मी EC2 लाँच टेम्पलेट → नेटवर्क सेटिंग्ज विभागात याबद्दल अधिक लिहिले आहे.

लक्ष्य गट — आम्ही एक गट तयार करतो जो बॅलन्सरकडून मशीन्सवर विनंत्या राउटिंग करण्यासाठी आणि समस्यांच्या बाबतीत त्यांना बदलण्यासाठी त्यांची उपलब्धता तपासण्यासाठी जबाबदार आहे. लक्ष्य प्रकार उदाहरण असावे, प्रोटोकॉल и पोर्ट कोणत्याही, जर तुम्ही बॅलन्सर आणि उदाहरणांमधील संवादासाठी HTTPS वापरत असाल, तर तुम्हाला त्यांच्यासाठी प्रमाणपत्र अपलोड करणे आवश्यक आहे. या उदाहरणाच्या हेतूंसाठी, आम्ही हे करणार नाही, आम्ही फक्त पोर्ट 80 सोडू.

आरोग्य तपासणी — सेवेची कार्यक्षमता तपासण्यासाठी पॅरामीटर्स. वास्तविक सेवेमध्ये, ही एक वेगळी विनंती असावी जी व्यवसाय तर्कशास्त्राचे महत्त्वाचे भाग लागू करते; या उदाहरणाच्या हेतूंसाठी, मी डीफॉल्ट सेटिंग्ज सोडेन. पुढे, तुम्ही विनंती मध्यांतर, कालबाह्य, सक्सेस कोड इ. निवडू शकता. आमच्या उदाहरणात, आम्ही सक्सेस कोड 200-399 सूचित करू, कारण डॉकर इमेज जी वापरली जाईल ती 304 कोड देते.

लक्ष्यांची नोंदणी करा — येथे गटासाठी कार निवडल्या आहेत, परंतु आमच्या बाबतीत हे ECS द्वारे केले जाईल, म्हणून आम्ही फक्त ही पायरी वगळू.

जाणून घेणे चांगले: बॅलन्सर स्तरावर तुम्ही लॉग सक्षम करू शकता जे S3 मध्ये निश्चितपणे सेव्ह केले जातील स्वरूप. तेथून ते विश्लेषणासाठी तृतीय-पक्ष सेवांवर निर्यात केले जाऊ शकतात किंवा तुम्ही S3 मधील डेटावर थेट SQL क्वेरी करू शकता अथेना वापरून. हे सोयीस्कर आहे आणि कोणत्याही अतिरिक्त कोडशिवाय कार्य करते. मी निर्दिष्ट कालावधीनंतर S3 बकेटमधून लॉग काढण्याची देखील शिफारस करतो.

ECS कार्य व्याख्या

मागील चरणांमध्ये, आम्ही सेवा पायाभूत सुविधांशी संबंधित सर्व काही तयार केले आहे; आता आम्ही लॉन्च केलेल्या कंटेनरचे वर्णन करू. हे ECS → Task Definitions विभागात केले जाते.

प्रकार सुसंगतता लाँच करा - EC2 निवडा.

कार्य अंमलबजावणी IAM भूमिका - निवडा ecsTaskExecutionRole. त्याचा वापर करून, नोंदी लिहिल्या जातात, गुप्त व्हेरिएबल्समध्ये प्रवेश दिला जातो, इ.

कंटेनर व्याख्या विभागात, कंटेनर जोडा क्लिक करा.

प्रतिमा — प्रोजेक्ट कोडसह प्रतिमेचा दुवा; या उदाहरणासाठी मी डॉकर हब मधील सार्वजनिक प्रतिमा वापरेन bitnami/node-example:0.0.1.

मेमरी मर्यादा - कंटेनरसाठी मेमरी मर्यादा. हार्ड मर्यादा — कठोर मर्यादा, जर कंटेनर निर्दिष्ट मूल्याच्या पलीकडे गेला तर, डॉकर किल कमांड कार्यान्वित होईल, कंटेनर त्वरित मरेल. मऊ मर्यादा — मऊ मर्यादा, कंटेनर निर्दिष्ट मूल्याच्या पलीकडे जाऊ शकतो, परंतु मशीनवर कार्ये ठेवताना हे पॅरामीटर विचारात घेतले जाईल. उदाहरणार्थ, जर मशीनमध्ये 4 GiB RAM असेल आणि कंटेनरची सॉफ्ट मर्यादा 2048 MiB असेल, तर या मशीनमध्ये या कंटेनरसह जास्तीत जास्त 2 चालू कार्ये असू शकतात. प्रत्यक्षात, 4 GiB RAM 4096 MiB पेक्षा किंचित कमी आहे, हे क्लस्टरमधील ECS उदाहरण टॅबवर पाहिले जाऊ शकते. मऊ मर्यादा कठोर मर्यादेपेक्षा जास्त असू शकत नाही. हे समजून घेणे महत्वाचे आहे की जर एका कार्यात अनेक कंटेनर असतील तर त्यांची मर्यादा एकत्रित केली जाईल.

पोर्ट मॅपिंग - मध्ये होस्ट पोर्ट आम्ही 0 सूचित करतो, याचा अर्थ पोर्ट डायनॅमिकपणे नियुक्त केले जाईल आणि लक्ष्य गटाद्वारे त्याचे परीक्षण केले जाईल. कंटेनर पोर्ट — तुमचा अॅप्लिकेशन ज्या पोर्टवर चालतो तो पोर्ट बर्‍याचदा एक्झिक्युशन कमांडमध्ये किंवा तुमच्या अॅप्लिकेशन कोड, डॉकरफाइल इ. मध्ये निर्दिष्ट केलेला असतो. आमच्या उदाहरणासाठी आम्ही 3000 वापरू कारण ते सूचीबद्ध आहे डॉकरफाइल प्रतिमा वापरली जात आहे.

आरोग्य तपासणी — कंटेनर हेल्थ चेक पॅरामीटर्स, टार्गेट ग्रुपमध्ये कॉन्फिगर केलेल्या पॅरामीटर्समध्ये गोंधळून जाऊ नये.

पर्यावरण - पर्यावरण सेटिंग्ज. CPU युनिट्स - मेमरी मर्यादांप्रमाणेच, फक्त प्रोसेसरबद्दल. प्रत्येक प्रोसेसर कोर 1024 युनिट्सचा असतो, त्यामुळे सर्व्हरमध्ये ड्युअल-कोर प्रोसेसर असल्यास आणि कंटेनर 512 वर सेट केला असल्यास, एका सर्व्हरवर या कंटेनरसह 4 कार्ये सुरू केली जाऊ शकतात. CPU युनिट्स नेहमी कोरच्या संख्येशी संबंधित असतात; मेमरीच्या बाबतीत त्यांच्यापैकी थोडे कमी असू शकत नाही.

आदेश — कंटेनरमध्ये सेवा सुरू करण्यासाठी कमांड, सर्व पॅरामीटर्स स्वल्पविरामाने विभक्त केले जातात. हे gunicorn, npm इ. असू शकते. निर्दिष्ट न केल्यास, डॉकरफाइलमधील CMD निर्देशांचे मूल्य वापरले जाईल. आम्ही सूचित करतो npm,start.

पर्यावरण परिवर्तने — कंटेनर पर्यावरण चल. हा एकतर साधा मजकूर डेटा किंवा गुप्त चल असू शकतो सिक्रेट्स मॅनेजर किंवा पॅरामीटर स्टोअर.

स्टोरेज आणि लॉगिंग — येथे आम्ही CloudWatch Logs (AWS कडील लॉगसाठी सेवा) मध्ये लॉगिंग सेट करू. हे करण्यासाठी, फक्त स्वयं-कॉन्फिगर क्लाउडवॉच लॉग चेकबॉक्स सक्षम करा. कार्य व्याख्या तयार केल्यानंतर, CloudWatch मध्ये लॉगचा एक गट स्वयंचलितपणे तयार केला जाईल. डीफॉल्टनुसार, लॉग त्यात अनिश्चित काळासाठी संग्रहित केले जातात; मी शिफारस करतो की धारणा कालावधी कधीही कालबाह्य होणार नाही वरून आवश्यक कालावधीत बदलतो. हे CloudWatch लॉग गटांमध्ये केले जाते, तुम्हाला वर्तमान कालावधीवर क्लिक करणे आणि एक नवीन निवडणे आवश्यक आहे.

ECS क्लस्टर आणि ECS क्षमता प्रदाता

क्लस्टर तयार करण्यासाठी ECS → क्लस्टर्स विभागात जा. आम्ही टेम्पलेट म्हणून EC2 लिनक्स + नेटवर्किंग निवडतो.

क्लस्टरचे नाव - खूप महत्वाचे, आम्ही येथे लाँच टेम्प्लेट पॅरामीटरमध्ये नमूद केल्याप्रमाणे समान नाव बनवतो ECS_CLUSTER, आमच्या बाबतीत - DemoApiClusterProd. रिक्त क्लस्टर तयार करा चेकबॉक्स तपासा. वैकल्पिकरित्या, तुम्ही CloudWatch मधील सेवांसाठी मेट्रिक्स पाहण्यासाठी कंटेनर इनसाइट्स सक्षम करू शकता. जर तुम्ही सर्वकाही योग्यरित्या केले असेल, तर ईसीएस उदाहरणे विभागात तुम्हाला ऑटो स्केलिंग गटामध्ये तयार केलेली मशीन दिसेल.

टॅबवर जा क्षमता प्रदाता आणि एक नवीन तयार करा. मी तुम्हाला आठवण करून देतो की चालू असलेल्या ईसीएस कार्यांच्या संख्येनुसार मशीनची निर्मिती आणि बंद करणे नियंत्रित करणे आवश्यक आहे. हे लक्षात घेणे महत्त्वाचे आहे की प्रदाता फक्त एका गटाला नियुक्त केला जाऊ शकतो.

ऑटो स्केलिंग गट — पूर्वी तयार केलेला गट निवडा.

व्यवस्थापित स्केलिंग - ते सक्षम करा जेणेकरून प्रदाता सेवा मोजू शकेल.

लक्ष्य क्षमता % — कार्यांनी भरलेल्या मशीनची किती टक्के आम्हाला गरज आहे. आपण 100% निर्दिष्ट केल्यास, सर्व मशीन नेहमी चालू असलेल्या कार्यांमध्ये व्यस्त असतील. आपण 50% निर्दिष्ट केल्यास, अर्ध्या कार नेहमी विनामूल्य असतील. या प्रकरणात, लोडमध्ये तीक्ष्ण उडी असल्यास, नवीन टॅक्सी ताबडतोब विनामूल्य कार मिळतील, तैनात केल्या जाणाऱ्या घटनांची प्रतीक्षा न करता.

व्यवस्थापित समाप्ती संरक्षण — सक्षम करा, हे पॅरामीटर प्रदात्याला घटनांचे संरक्षण हटवण्यापासून काढून टाकण्यास अनुमती देते. जेव्हा मशीनवर कोणतीही सक्रिय कार्ये नसतात आणि लक्ष्य क्षमता% परवानगी देते तेव्हा हे घडते.

ECS सेवा आणि स्केलिंग सेटअप

शेवटची पायरी :) सेवा तयार करण्यासाठी, तुम्हाला सेवा टॅबवर आधी तयार केलेल्या क्लस्टरवर जावे लागेल.

लाँच प्रकार — तुम्हाला स्विच टू कॅपॅसिटी प्रोव्हायडर स्ट्रॅटेजी वर क्लिक करावे लागेल आणि आधी तयार केलेले प्रदाते निवडा.

कार्य व्याख्या — पूर्वी तयार केलेली टास्क डेफिनिशन आणि त्याची पुनरावृत्ती निवडा.

सेवा नाव — गोंधळ टाळण्यासाठी, आम्ही नेहमी टास्क डेफिनिशन प्रमाणेच सूचित करतो.

सेवा प्रकार - नेहमी प्रतिकृती.

कार्यांची संख्या — सेवेतील सक्रिय कार्यांची इच्छित संख्या. हे पॅरामीटर स्केलिंगद्वारे नियंत्रित केले जाते, परंतु तरीही निर्दिष्ट करणे आवश्यक आहे.

किमान निरोगी टक्के и जास्तीत जास्त टक्के - तैनाती दरम्यान कार्यांचे वर्तन निश्चित करा. डीफॉल्ट मूल्ये 100 आणि 200 आहेत, हे दर्शविते की उपयोजनाच्या वेळी कार्यांची संख्या अनेक वेळा वाढेल आणि नंतर इच्छित मूल्यावर परत येईल. जर तुमच्याकडे 1 टास्क चालू असेल, min=0, आणि max=100, तर डिप्लॉयमेंट दरम्यान ते मारले जाईल, आणि त्यानंतर एक नवीन उभे केले जाईल, म्हणजेच तो डाउनटाइम असेल. जर 1 टास्क चालू असेल, min=50, max=150, तर डिप्लॉयमेंट अजिबात होणार नाही, कारण 1 टास्क अर्ध्यामध्ये विभागता येत नाही किंवा दीड पटीने वाढवता येत नाही.

उपयोजन प्रकार - रोलिंग अपडेट सोडा.

प्लेसमेंट टेम्पलेट्स - मशीनवर कार्ये ठेवण्याचे नियम. डीफॉल्ट AZ बॅलन्स्ड स्प्रेड आहे - याचा अर्थ असा की सर्व उपलब्धता झोनमधील मशीन्स वाढेपर्यंत प्रत्येक नवीन कार्य नवीन उदाहरणावर ठेवले जाईल. आम्ही सहसा बिनपॅक - सीपीयू आणि स्प्रेड - एझेड करतो; या धोरणासह, प्रत्येक सीपीयू एका मशीनवर कार्ये शक्य तितक्या घनतेने ठेवली जातात. नवीन मशीन तयार करणे आवश्यक असल्यास, ते नवीन उपलब्धता झोनमध्ये तयार केले जाते.

लोड बॅलन्सर प्रकार - ऍप्लिकेशन लोड बॅलन्सर निवडा.

सेवा IAM भूमिका - निवडा ecsServiceRole.

लोड बॅलन्सरचे नाव - पूर्वी तयार केलेला बॅलन्सर निवडा.

आरोग्य तपासणी वाढीव कालावधी — नवीन कार्य रोलआउट केल्यानंतर आरोग्य तपासणी करण्यापूर्वी विराम द्या, आम्ही सहसा ते 60 सेकंदांवर सेट करतो.

शिल्लक लोड करण्यासाठी कंटेनर — लक्ष्य गट नाव आयटममध्ये, पूर्वी तयार केलेला गट निवडा आणि सर्वकाही आपोआप भरले जाईल.

सेवा ऑटो स्केलिंग — सेवा स्केलिंग पॅरामीटर्स. तुमच्या सेवेची इच्छित संख्या समायोजित करण्यासाठी सेवा ऑटो स्केलिंग कॉन्फिगर करा निवडा. स्केलिंग करताना आम्ही कार्यांची किमान आणि कमाल संख्या सेट करतो.

सेवा ऑटो स्केलिंगसाठी IAM भूमिका - निवडा AWSServiceRoleForApplicationAutoScaling_ECSService.

स्वयंचलित कार्य स्केलिंग धोरणे - स्केलिंगचे नियम. 2 प्रकार आहेत:

1. लक्ष्य ट्रॅकिंग — ट्रॅकिंग लक्ष्य मेट्रिक्स (सीपीयू/रॅम वापर किंवा प्रत्येक कार्यासाठी विनंत्यांची संख्या). उदाहरणार्थ, आम्हाला सरासरी प्रोसेसर लोड 85% हवा आहे, जेव्हा ते जास्त होते, तेव्हा ते लक्ष्य मूल्यापर्यंत पोहोचेपर्यंत नवीन कार्ये जोडली जातील. जर भार कमी असेल, तर कार्ये काढून टाकली जातील, उलटपक्षी, स्केलिंग विरूद्ध संरक्षण सक्षम नसल्यास (स्केल-इन अक्षम करा).
2. स्टेप स्केलिंग - अनियंत्रित घटनेची प्रतिक्रिया. येथे तुम्ही कोणत्याही इव्हेंटची प्रतिक्रिया कॉन्फिगर करू शकता (क्लाउडवॉच अलार्म), जेव्हा ती येते, तेव्हा तुम्ही निर्दिष्ट केलेल्या कार्यांची संख्या जोडू किंवा काढू शकता किंवा कार्यांची अचूक संख्या निर्दिष्ट करू शकता.

सेवेमध्ये अनेक स्केलिंग नियम असू शकतात, हे उपयुक्त ठरू शकते, मुख्य गोष्ट म्हणजे ते एकमेकांशी विरोधाभास होणार नाहीत याची खात्री करणे.

निष्कर्ष

जर तुम्ही सूचनांचे पालन केले असेल आणि तीच डॉकर इमेज वापरली असेल, तर तुमच्या सेवेने यासारखे पेज दिले पाहिजे.

1. आम्ही एक टेम्प्लेट तयार केला आहे ज्यानुसार सेवेतील सर्व मशीन लॉन्च केल्या आहेत. टेम्प्लेट बदलल्यावर मशीन्स कशी अपडेट करायची हे देखील आम्ही शिकलो.
2. आम्ही स्पॉट इन्स्टन्स स्टॉप सिग्नलची प्रक्रिया कॉन्फिगर केली आहे, म्हणून ते प्राप्त केल्यानंतर एका मिनिटात, सर्व चालू कार्ये मशीनमधून काढून टाकली जातात, त्यामुळे काहीही गमावले किंवा व्यत्यय येत नाही.
3. संपूर्ण मशीनवर लोड समान रीतीने वितरीत करण्यासाठी आम्ही बॅलन्सर वाढवला.
4. आम्ही एक सेवा तयार केली आहे जी स्पॉट उदाहरणांवर चालते, ज्यामुळे मशीनची किंमत सुमारे 3 पट कमी होते.
5. डाउनटाइमसाठी पैसे न देता वाढलेला वर्कलोड हाताळण्यासाठी आम्ही दोन्ही दिशांमध्ये ऑटोस्केलिंग सेट केले.
6. आम्ही क्षमता प्रदाता वापरतो जेणेकरुन अनुप्रयोग पायाभूत सुविधा (मशीन्स) व्यवस्थापित करेल आणि इतर मार्गाने नाही.
7. आम्ही महान आहोत.

तुमच्याकडे लोडमध्ये अंदाजे स्पाइक्स असल्यास, उदाहरणार्थ तुम्ही मोठ्या ईमेल मोहिमेमध्ये जाहिरात करत असल्यास, तुम्ही स्केलिंग सेट करू शकता वेळापत्रक.

तुम्ही तुमच्या सिस्टीमच्या वेगवेगळ्या भागांतील डेटावर आधारित स्केल देखील करू शकता. उदाहरणार्थ, आमच्याकडे कार्यक्षमता आहे वैयक्तिक प्रचारात्मक ऑफर पाठवणे मोबाइल अनुप्रयोग वापरकर्ते. कधीकधी 1M+ लोकांना मोहीम पाठवली जाते. अशा वितरणानंतर, API च्या विनंत्यांमध्ये नेहमीच मोठी वाढ होते, कारण अनेक वापरकर्ते एकाच वेळी अनुप्रयोगात लॉग इन करतात. त्यामुळे प्रमोशनल पुश नोटिफिकेशन्स पाठवण्यासाठी रांगेत अधिक प्रमाणिक निर्देशक आहेत असे आम्हाला दिसले, तर लोडसाठी तयार होण्यासाठी आम्ही ताबडतोब अनेक अतिरिक्त मशीन्स आणि कार्ये लाँच करू शकतो.

स्पॉट इंस्टन्सेस आणि ईसीएस किंवा स्केलिंगबद्दल काहीतरी वापरण्याच्या मनोरंजक प्रकरणांमध्ये तुम्ही टिप्पण्यांमध्ये मला सांगितल्यास मला आनंद होईल.

आम्ही प्रामुख्याने सर्व्हरलेस स्टॅकवर (पैशांसह) प्रति सेकंद हजारो विश्लेषणात्मक इव्हेंट्सवर प्रक्रिया कशी करतो आणि GitLab CI आणि Terraform क्लाउड वापरून सेवांची तैनाती कशी कार्य करते याबद्दल लवकरच लेख असतील.

आमची सदस्यता घ्या, हे मनोरंजक असेल!

केवळ नोंदणीकृत वापरकर्तेच सर्वेक्षणात भाग घेऊ शकतात. साइन इन करा, आपले स्वागत आहे.

तुम्ही उत्पादनात स्पॉट उदाहरणे वापरता का?

• 22,2%होय २०७

• 66,7%क्रमांक २४४

• 11,1%मी त्यांच्याबद्दल एका लेखातून शिकलो आणि त्यांचा वापर करण्याची योजना आखली

27 वापरकर्त्यांनी मतदान केले. 5 वापरकर्ते दूर राहिले.

स्त्रोत: www.habr.com