कुबर्नेट्समधील ऑटोस्केलिंगचे तीन स्तर: त्यांचा प्रभावीपणे कसा वापर करावा

कुबर्नेट्समध्ये पूर्णपणे प्रभुत्व मिळविण्यासाठी, तुम्हाला क्लस्टर संसाधने मोजण्याचे वेगवेगळे मार्ग माहित असणे आवश्यक आहे: सिस्टम डेव्हलपर्सच्या मतेहे कुबर्नेट्सच्या मुख्य उद्दिष्टांपैकी एक आहे. आम्ही क्षैतिज आणि उभ्या ऑटोस्केलिंग आणि क्लस्टर रिसाइझिंग यंत्रणेचा उच्च-स्तरीय आढावा तयार केला आहे, तसेच त्यांचा प्रभावीपणे वापर कसा करायचा याबद्दलच्या शिफारसी देखील तयार केल्या आहेत.

लेख कुबर्नेट्स ऑटोस्केलिंग १०१: क्लस्टर ऑटोस्केलर, हॉरिझॉन्टल ऑटोस्केलर आणि व्हर्टिकल पॉड ऑटोस्केलर मध्ये ऑटोस्केलिंग लागू करणाऱ्या टीमने भाषांतरित केले Mail.ru वरून Kubernetes aaS.

स्केलिंगचा विचार करणे का महत्त्वाचे आहे

कुबेरनेट्स — संसाधन व्यवस्थापन आणि ऑर्केस्ट्रेशनसाठी एक साधन. अर्थात, तैनाती, देखरेख आणि पॉड व्यवस्थापनासाठी (पॉड म्हणजे विनंतीला प्रतिसाद म्हणून लाँच केलेल्या कंटेनरचा समूह) छान वैशिष्ट्यांसह छेडछाड करणे छान आहे.

तथापि, तुम्ही खालील प्रश्नांचा देखील विचार केला पाहिजे:

1. मॉड्यूल्स आणि अॅप्लिकेशन्स कसे स्केल करायचे?
2. कंटेनर चांगल्या स्थितीत आणि कार्यक्षमतेने कसे ठेवायचे?
3. कोड आणि वापरकर्त्याच्या वर्कलोडमध्ये सतत होणाऱ्या बदलांना कसे प्रतिसाद द्यायचे?

संसाधने आणि कामगिरी संतुलित करण्यासाठी कुबर्नेट्स क्लस्टर्स कॉन्फिगर करणे गुंतागुंतीचे असू शकते आणि त्यासाठी कुबर्नेट्सच्या अंतर्गत कामकाजाचे तज्ञ ज्ञान आवश्यक असते. तुमच्या अर्जाचा किंवा सेवांचा वर्कलोड दिवसभर किंवा अगदी तासभर चढ-उतार होऊ शकतो, म्हणून संतुलन राखणे ही एक सतत चालणारी प्रक्रिया म्हणून सर्वोत्तम विचार आहे.

कुबर्नेट्स ऑटोस्केलिंग टियर्स

प्रभावी ऑटोस्केलिंगसाठी दोन स्तरांमधील समन्वय आवश्यक आहे:

1. पॉड लेयरमध्ये क्षैतिज (क्षैतिज पॉड ऑटोस्केलर, एचपीए) आणि उभ्या (व्हर्टिकल पॉड ऑटोस्केलर, व्हीपीए) ऑटोस्केलिंग समाविष्ट आहे. हे तुमच्या कंटेनरसाठी उपलब्ध संसाधनांचे स्केलिंग करते.
2. क्लस्टर पातळी क्लस्टर ऑटोस्केलर (CA) द्वारे व्यवस्थापित केली जाते, जी क्लस्टरमधील नोड्सची संख्या वाढवते किंवा कमी करते.

क्षैतिज पॉवर ऑटोस्केलिंग (HPA) मॉड्यूल

नावाप्रमाणेच, HPA पॉड प्रतिकृतींची संख्या मोजते. बहुतेक DevOps प्रणाली प्रतिकृतींची संख्या बदलण्यासाठी ट्रिगर म्हणून CPU आणि मेमरी लोड वापरतात. तथापि, यावर आधारित प्रणाली मोजणे शक्य आहे वापरकर्ता मेट्रिक्स, त्यांचे संयोजन किंवा अगदी बाह्य मेट्रिक्स.

एचपीए कसे कार्य करते याचा उच्च-स्तरीय आकृती:

1. एचपीए ३० सेकंदांच्या डीफॉल्ट अंतराने इंस्टॉलेशन दरम्यान निर्दिष्ट केलेल्या मेट्रिक मूल्यांची सतत तपासणी करते.
2. निर्दिष्ट मर्यादा गाठल्यास HPA मॉड्यूलची संख्या वाढवण्याचा प्रयत्न करते.
3. एचपीए डिप्लॉयमेंट/रेप्लिकेशन कंट्रोलरमधील प्रतिकृतींची संख्या अपडेट करते.
4. त्यानंतर डिप्लॉयमेंट/रिप्लिकेशन कंट्रोलर आवश्यक असलेले कोणतेही अतिरिक्त मॉड्यूल तैनात करतो.

मेट्रिक थ्रेशोल्ड गाठल्यावर HPA मॉड्यूल तैनाती प्रक्रिया सुरू करते.

एचपीए वापरताना, खालील गोष्टींचा विचार करा:

• डीफॉल्ट HPA चेक इंटरव्हल 30 सेकंद आहे. ते फ्लॅगद्वारे सेट केले जाते क्षैतिज-पॉड-ऑटोस्केलर-सिंक-पीरियड कंट्रोलर मॅनेजरमध्ये.
• डीफॉल्ट सापेक्ष त्रुटी १०% आहे.
• मॉड्यूल्सच्या संख्येत शेवटची वाढ झाल्यानंतर, HPA तीन मिनिटे मेट्रिक्स स्थिर होण्याची वाट पाहतो. हा मध्यांतर ध्वजाद्वारे सेट केला जातो. क्षैतिज-पॉड-ऑटोस्केलर-अपस्केल-विलंब.
• मॉड्यूल्सच्या संख्येत शेवटची कपात केल्यानंतर, HPA पाच मिनिटे स्थिरीकरणाची वाट पाहतो. हा मध्यांतर ध्वजाद्वारे सेट केला जातो. क्षैतिज-पॉड-ऑटोस्केलर-डाउनस्केल-विलंब.
• एचपीए प्रतिकृती नियंत्रकांपेक्षा उपयोजन वस्तूंसह सर्वोत्तम कार्य करते. क्षैतिज ऑटोस्केलिंग रोलिंग अद्यतनांशी विसंगत आहे, जे प्रतिकृती नियंत्रकांना थेट हाताळते. उपयोजना दरम्यान, प्रतिकृतींची संख्या थेट उपयोजन वस्तूंवर अवलंबून असते.

उभ्या पॉड ऑटोस्केलिंग

व्हर्टिकल ऑटोस्केलिंग (VPA) विद्यमान पॉड्सना जास्त (किंवा कमी) CPU किंवा मेमरी देते. हे स्टेटफुल आणि स्टेटलेस पॉड्स दोन्हीसाठी काम करते, परंतु ते प्रामुख्याने स्टेटफुल सेवांसाठी आहे. तथापि, जर तुम्हाला सुरुवातीचे संसाधन वाटप स्वयंचलितपणे समायोजित करायचे असेल तर तुम्ही स्टेटफुल पॉड्ससाठी देखील VPA वापरू शकता.

व्हीपीए ओओएम (मेमरी संपली) इव्हेंट्सना देखील प्रतिसाद देते. सीपीयू वेळ आणि मेमरी बदलण्यासाठी पॉड रीस्टार्ट आवश्यक आहे. रीस्टार्ट दरम्यान, व्हीपीए वाटप बजेटचे पालन करते (पॉड्स वितरण बजेट (PDB)) मॉड्यूल्सची किमान आवश्यक संख्या सुनिश्चित करण्यासाठी.

तुम्ही प्रत्येक पॉडसाठी किमान आणि कमाल संसाधन वाटप सेट करू शकता. उदाहरणार्थ, तुम्ही जास्तीत जास्त मेमरी वाटप 8 GB पर्यंत मर्यादित करू शकता. जर सध्याचे नोड्स प्रति कंटेनर 8 GB पेक्षा जास्त मेमरी वाटप करू शकत नसतील तर हे उपयुक्त आहे. तपशीलवार तपशील आणि ऑपरेटिंग यंत्रणा मध्ये वर्णन केल्या आहेत अधिकृत व्हीपीए विकी.

याव्यतिरिक्त, VPA मध्ये एक मनोरंजक शिफारस वैशिष्ट्य (VPA Recommender) आहे. ते सर्व पॉड्ससाठी संसाधन वापर आणि OOM इव्हेंट्सचे निरीक्षण करते जेणेकरून ते एका बुद्धिमान अल्गोरिथम आणि ऐतिहासिक मेट्रिक्सवर आधारित नवीन मेमरी आणि CPU वाटप सुचवू शकेल. एक API देखील आहे जो पॉड डिस्क्रिप्टर स्वीकारतो आणि सुचवलेले संसाधन वाटप परत करतो.

हे लक्षात घेण्यासारखे आहे की VPA शिफारसकर्ता संसाधन मर्यादांचे निरीक्षण करत नाही. यामुळे मॉड्यूल नोड्समधील संसाधनांवर एकाधिकार करू शकते. जास्त मेमरी किंवा CPU वापर टाळण्यासाठी नेमस्पेस स्तरावर मर्यादा सेट करणे चांगले.

VPA कसे कार्य करते याचा उच्च-स्तरीय आकृती:

1. VPA स्थापनेदरम्यान निर्दिष्ट केलेल्या मेट्रिक मूल्यांची सतत १० सेकंदांच्या डीफॉल्ट अंतराने तपासणी करते.
2. जर निर्दिष्ट मर्यादा गाठली गेली तर, VPA वाटप केलेल्या संसाधनांची रक्कम बदलण्याचा प्रयत्न करते.
3. VPA डिप्लॉयमेंट/रेप्लिकेशन कंट्रोलरमधील रिसोर्स काउंट अपडेट करते.
4. जेव्हा मॉड्यूल्स रीस्टार्ट केले जातात, तेव्हा सर्व नवीन संसाधने तयार केलेल्या उदाहरणांवर लागू केली जातात.

VPA आवश्यक प्रमाणात संसाधने जोडते

VPA वापरताना खालील मुद्दे विचारात घ्या:

• स्केलिंगसाठी पॉड रीस्टार्ट करणे अनिवार्य आहे. बदल केल्यानंतर अस्थिरता टाळण्यासाठी हे आवश्यक आहे. विश्वासार्हता सुनिश्चित करण्यासाठी, पॉड रीस्टार्ट केले जातात आणि नवीन वाटप केलेल्या संसाधनांवर आधारित नोड्समध्ये वितरित केले जातात.
• VPA आणि HPA अद्याप एकमेकांशी सुसंगत नाहीत आणि एकाच पॉड्सवर ऑपरेट करू शकत नाहीत. जर तुम्ही एकाच क्लस्टरमध्ये दोन्ही स्केलिंग यंत्रणा वापरत असाल, तर सेटिंग्ज त्यांना एकाच ऑब्जेक्टवर सक्रिय होण्यापासून रोखत आहेत याची खात्री करा.
• VPA केवळ ऐतिहासिक आणि वर्तमान वापरावर आधारित कंटेनर संसाधन विनंत्या समायोजित करते. ते संसाधन वापर मर्यादा लादत नाही. यामुळे अनुप्रयोग चुकीच्या पद्धतीने चालत असताना आणि सतत वाढत्या संसाधनांना अडकवण्याच्या समस्या उद्भवू शकतात, ज्यामुळे कुबर्नेट्स पॉड बंद करू शकते.
• VPA अजूनही विकासाच्या सुरुवातीच्या टप्प्यात आहे. कृपया लक्षात ठेवा की नजीकच्या भविष्यात सिस्टममध्ये काही बदल होऊ शकतात. तुम्ही याबद्दल अधिक वाचू शकता ज्ञात मर्यादा и विकास योजनाअशाप्रकारे, योजनांमध्ये VPA आणि HPA चे संयुक्त ऑपरेशन अंमलात आणणे, तसेच त्यांच्यासाठी उभ्या ऑटोस्केलिंग धोरणासह मॉड्यूल्सची तैनाती (उदाहरणार्थ, 'VPA आवश्यक आहे' असे विशेष लेबल) समाविष्ट आहे.

कुबर्नेट्स क्लस्टर ऑटोस्केलिंग

क्लस्टर ऑटोस्केलर (CA) वेटिंग पॉड्सच्या संख्येवर आधारित नोड्सची संख्या समायोजित करते. सिस्टम वेळोवेळी वेटिंग पॉड्सची तपासणी करते आणि अधिक संसाधनांची आवश्यकता असल्यास क्लस्टरचा आकार वाढवते आणि क्लस्टर त्याच्या कॉन्फिगर केलेल्या मर्यादेत राहतो. CA क्लाउड प्रदात्याशी संवाद साधतो, अतिरिक्त नोड्सची विनंती करतो किंवा निष्क्रिय नोड्स रिलीज करतो. CA ची पहिली सामान्यतः उपलब्ध आवृत्ती कुबर्नेट्स 1.8 मध्ये रिलीज झाली.

CA कसे कार्य करते याचा उच्च-स्तरीय आकृती:

1. CA १० सेकंदांच्या डिफॉल्ट अंतराने वेटिंग स्थितीत असलेल्या मॉड्यूल्सची तपासणी करतो.
2. जर क्लस्टरकडे त्यांचे वाटप करण्यासाठी पुरेसे संसाधने उपलब्ध नसल्यामुळे एक किंवा अधिक पॉड्स प्रतीक्षा स्थितीत असतील, तर ते एक किंवा अधिक अतिरिक्त नोड्सची तरतूद करण्याचा प्रयत्न करते.
3. एकदा क्लाउड प्रोव्हायडरने आवश्यक नोड वाटप केले की, ते क्लस्टरमध्ये सामील होते आणि पॉड्स देण्यासाठी तयार होते.
4. कुबर्नेट्स शेड्युलर नवीन नोडला वेटिंग पॉड्स नियुक्त करतो. जर काही पॉड्स वेटिंगमध्ये राहिले तर प्रक्रिया पुन्हा होते आणि क्लस्टरमध्ये नवीन नोड्स जोडले जातात.

क्लाउडमध्ये क्लस्टर नोड्सचे स्वयंचलित वाटप

CA वापरताना कृपया खालील गोष्टींचा विचार करा:

• CA हे सुनिश्चित करते की क्लस्टरमधील सर्व मॉड्यूल्सना CPU लोड कितीही असला तरी चालण्यासाठी जागा आहे. ते क्लस्टरमध्ये अनावश्यक नोड्स नाहीत याची खात्री करण्याचा देखील प्रयत्न करते.
• अंदाजे ३० सेकंदांनंतर CA ला स्केल करण्याची आवश्यकता नोंदवली जाते.
• नोड अनावश्यक झाल्यानंतर, CA सिस्टम स्केल करण्यापूर्वी डीफॉल्टनुसार 10 मिनिटे वाट पाहतो.
• ऑटोस्केलिंग सिस्टम एक्सपांडर्सची संकल्पना वापरते. नोड्सचा एक गट निवडण्यासाठी या वेगवेगळ्या रणनीती आहेत ज्यामध्ये नवीन जोडले जातील.
• पर्याय जबाबदारीने वापरा cluster-autoscaler.kubernetes.io/safe-to-evict (सत्य)जर तुम्ही खूप पॉड्स बसवले, किंवा त्यापैकी बरेच सर्व नोड्समध्ये विखुरलेले असतील, तर तुम्ही क्लस्टर स्केल करण्याची क्षमता लक्षणीयरीत्या गमावाल.
• वापरा पॉडडिस्रप्शनबजेट्सपॉड्स काढून टाकण्यापासून रोखण्यासाठी, ज्यामुळे तुमच्या अर्जाचा काही भाग पूर्णपणे अयशस्वी होऊ शकतो.

कुबर्नेट्स ऑटोस्केलिंग सिस्टम एकमेकांशी कसे संवाद साधतात

परिपूर्ण सुसंवादासाठी, पॉड (HPA/VPA) आणि क्लस्टर दोन्ही पातळीवर ऑटोस्केलिंग लागू केले पाहिजे. ते तुलनेने सहजपणे संवाद साधतात:

1. एचपीए किंवा व्हीपीए विद्यमान पॉड्सना वाटप केलेल्या पॉड प्रतिकृती किंवा संसाधने अद्यतनित करते.
2. जर नियोजित स्केलिंग करण्यासाठी पुरेसे नोड्स नसतील, तर CA ला लक्षात येते की पॉड्स वेटिंग स्थितीत आहेत.
3. CA नवीन नोड्स वाटप करते.
4. मॉड्यूल नवीन नोड्समध्ये वितरित केले जातात.

कुबर्नेट्स कोलॅबोरेटिव्ह स्केलिंग सिस्टम

कुबर्नेट्स ऑटोस्केलिंगमधील सामान्य चुका

ऑटोस्केलिंग लागू करण्याचा प्रयत्न करताना DevOps टीमना अनेक सामान्य समस्यांना तोंड द्यावे लागते.

HPA आणि VPA मेट्रिक्स आणि काही ऐतिहासिक डेटावर अवलंबून असतात. जर पुरेसे संसाधने वाटप केली गेली नाहीत, तर मॉड्यूल बंद होतील आणि मेट्रिक्स जनरेट करू शकणार नाहीत. या प्रकरणात, ऑटोस्केलिंग कधीही होणार नाही.

स्केलिंग ऑपरेशन स्वतःच वेळेच्या बाबतीत संवेदनशील आहे. वापरकर्त्यांना कोणतीही समस्या किंवा बिघाड लक्षात येण्यापूर्वी पॉड्स आणि क्लस्टर लवकर स्केल करावेत अशी आमची इच्छा आहे. म्हणून, पॉड आणि क्लस्टर स्केलिंगचा सरासरी वेळ विचारात घेतला पाहिजे.

आदर्श परिस्थिती - ४ मिनिटे:

1. ३० सेकंद. लक्ष्य मेट्रिक्स अपडेट: ३०-६० सेकंद.
2. ३० सेकंद. HPA मेट्रिक मूल्ये तपासते: ३० सेकंद.
3. २ सेकंदांपेक्षा कमी. पॉड्स तयार होतात आणि निष्क्रिय स्थितीत प्रवेश करतात: १ सेकंद.
4. २ सेकंदांपेक्षा कमी वेळ. सीए वेटिंग मॉड्यूल पाहतो आणि नोड्स तयार करण्यासाठी कॉल जारी करतो: १ सेकंद.
5. ३ मिनिटे. क्लाउड प्रोव्हायडर नोड्स वाटप करतो. K8s ते तयार होईपर्यंत वाट पाहतो: १० मिनिटांपर्यंत (अनेक घटकांवर अवलंबून).

सर्वात वाईट (अधिक वास्तववादी) परिस्थिती - १२ मिनिटे:

1. ३० सेकंद. लक्ष्य मेट्रिक्स अपडेट करत आहे.
2. ३० सेकंद. HPA मेट्रिक मूल्ये तपासते.
3. २ सेकंदांपेक्षा कमी वेळ. पॉड्स तयार होतात आणि प्रतीक्षा स्थितीत प्रवेश करतात.
4. २ सेकंदांपेक्षा कमी वेळ. CA वेटिंग मॉड्यूल पाहतो आणि नोड्स तयार करण्यासाठी कॉल पाठवतो.
5. १० मिनिटे. क्लाउड प्रोव्हायडर नोड्स वाटप करतो. K8s ते तयार होईपर्यंत वाट पाहतो. प्रतीक्षा वेळ अनेक घटकांवर अवलंबून असतो, जसे की प्रोव्हायडर लेटन्सी, OS लेटन्सी आणि सपोर्टिंग टूल्सचे ऑपरेशन.

क्लाउड प्रोव्हायडर्सच्या स्केलिंग मेकॅनिझम आणि आमच्या सीए मध्ये गोंधळ करू नका. नंतरचे कुबर्नेट्स क्लस्टरमध्ये काम करते, तर क्लाउड प्रोव्हायडरची मेकॅनिझम नोड अलोकेशनवर आधारित असते. तुमच्या पॉड्स किंवा अॅप्लिकेशनमध्ये काय चालले आहे हे त्याला माहिती नसते. या सिस्टीम समांतरपणे काम करतात.

कुबर्नेट्समध्ये स्केलिंग कसे व्यवस्थापित करावे

1. कुबर्नेट्स हे एक संसाधन व्यवस्थापन आणि ऑर्केस्ट्रेशन साधन आहे. पॉड आणि क्लस्टर संसाधन व्यवस्थापन ऑपरेशन्स हे कुबर्नेट्समध्ये प्रभुत्व मिळविण्यातील एक महत्त्वाचा टप्पा आहे.
2. HPA आणि VPA वर आधारित पॉड स्केलेबिलिटीमागील तर्क समजून घ्या.
3. तुमच्या शेंगा आणि कंटेनरच्या गरजांची चांगली समज असेल तरच CA चा वापर करावा.
4. क्लस्टरला चांगल्या प्रकारे कॉन्फिगर करण्यासाठी, तुम्हाला वेगवेगळ्या स्केलिंग सिस्टीम एकत्र कसे काम करतात हे समजून घेणे आवश्यक आहे.
5. स्केलिंग वेळेचा अंदाज लावताना, सर्वात वाईट आणि सर्वोत्तम परिस्थिती लक्षात ठेवा.

स्त्रोत: www.habr.com