কুবারনেটসে অটোস্কেলিংয়ের তিনটি স্তর: কীভাবে তাদের কার্যকরভাবে ব্যবহার করবেন

Kubernetes সম্পূর্ণরূপে আয়ত্ত করতে, আপনাকে ক্লাস্টার সংস্থান স্কেল করার বিভিন্ন উপায় জানতে হবে: দ্বারা সিস্টেম ডেভেলপারদের মতে, এটি কুবারনেটসের অন্যতম প্রধান কাজ। আমরা অনুভূমিক এবং উল্লম্ব অটোস্কেলিং এবং ক্লাস্টার রিসাইজিং মেকানিজমগুলির একটি উচ্চ-স্তরের ওভারভিউ প্রদান করেছি, সেইসাথে সেগুলিকে কীভাবে কার্যকরভাবে ব্যবহার করা যায় সে সম্পর্কে সুপারিশগুলি।

নিবন্ধ কুবারনেটেস অটোস্কেলিং 101: ক্লাস্টার অটোস্কেলার, হরাইজন্টাল অটোস্কেলার এবং ভার্টিক্যাল পড অটোস্কেলার অটোস্কেলিং বাস্তবায়নকারী দল দ্বারা অনুবাদ করা হয়েছে Mail.ru থেকে Kubernetes aaS.

কেন স্কেলিং সম্পর্কে চিন্তা করা গুরুত্বপূর্ণ

Kubernetes - সম্পদ ব্যবস্থাপনা এবং অর্কেস্ট্রেশনের জন্য একটি টুল। অবশ্যই, পড স্থাপন, পর্যবেক্ষণ এবং পরিচালনার দুর্দান্ত বৈশিষ্ট্যগুলির সাথে টিঙ্কার করা ভাল (একটি পড হল একটি পাত্রের একটি গ্রুপ যা একটি অনুরোধের প্রতিক্রিয়া হিসাবে চালু করা হয়)।

যাইহোক, আপনার নিম্নলিখিত প্রশ্নগুলি সম্পর্কেও চিন্তা করা উচিত:

1. কিভাবে মডিউল এবং অ্যাপ্লিকেশন স্কেল?
2. কিভাবে কন্টেইনারগুলি সচল এবং দক্ষ রাখা যায়?
3. ব্যবহারকারীদের কাছ থেকে কোড এবং কাজের চাপে ধ্রুবক পরিবর্তনের প্রতিক্রিয়া কীভাবে করবেন?

সম্পদ এবং কর্মক্ষমতার ভারসাম্য বজায় রাখতে Kubernetes ক্লাস্টারগুলি কনফিগার করা চ্যালেঞ্জিং হতে পারে এবং Kubernetes-এর অভ্যন্তরীণ কাজ সম্পর্কে বিশেষজ্ঞ জ্ঞানের প্রয়োজন। আপনার অ্যাপ্লিকেশন বা পরিষেবাগুলির কাজের চাপ সারা দিন বা এমনকি এক ঘন্টার মধ্যেও ওঠানামা করতে পারে, তাই ভারসাম্য বজায় রাখাকে একটি চলমান প্রক্রিয়া হিসাবে বিবেচনা করা হয়।

Kubernetes অটোস্কেলিং স্তর

কার্যকর অটোস্কেলিংয়ের জন্য দুটি স্তরের মধ্যে সমন্বয় প্রয়োজন:

1. পড স্তর, অনুভূমিক (অনুভূমিক পড অটোস্ক্যালার, এইচপিএ) এবং উল্লম্ব অটোস্কেলার (উল্লম্ব পড অটোস্ক্যালার, ভিপিএ) সহ। এটি আপনার কন্টেইনারগুলির জন্য উপলব্ধ সংস্থানগুলিকে স্কেল করছে৷
2. ক্লাস্টার স্তর, যা ক্লাস্টার অটোস্ক্যালার (CA) দ্বারা পরিচালিত হয়, যা ক্লাস্টারের মধ্যে নোডের সংখ্যা বৃদ্ধি বা হ্রাস করে।

অনুভূমিক অটোস্কেলার (HPA) মডিউল

নাম অনুসারে, এইচপিএ পডের প্রতিলিপিগুলির সংখ্যা স্কেল করে। বেশিরভাগ ডেভপগুলি প্রতিলিপিগুলির সংখ্যা পরিবর্তনের জন্য ট্রিগার হিসাবে CPU এবং মেমরি লোড ব্যবহার করে। যাইহোক, এটি উপর ভিত্তি করে সিস্টেম স্কেল করা সম্ভব কাস্টম মেট্রিক্স, তাদের সমন্বয় বা এমনকি এমনকি বাহ্যিক মেট্রিক্স.

উচ্চ-স্তরের HPA অপারেটিং ডায়াগ্রাম:

1. HPA ক্রমাগত 30 সেকেন্ডের একটি ডিফল্ট ব্যবধানে ইনস্টলেশনের সময় নির্দিষ্ট মেট্রিক মান পরীক্ষা করে।
2. নির্দিষ্ট থ্রেশহোল্ডে পৌঁছে গেলে HPA মডিউলের সংখ্যা বাড়ানোর চেষ্টা করে।
3. এইচপিএ স্থাপনা/প্রতিলিপি নিয়ন্ত্রকের মধ্যে প্রতিলিপির সংখ্যা আপডেট করে।
4. স্থাপনা/প্রতিলিপি নিয়ন্ত্রক তারপর প্রয়োজনীয় অতিরিক্ত মডিউল স্থাপন করে।

একটি মেট্রিক থ্রেশহোল্ডে পৌঁছে গেলে HPA মডিউল স্থাপন প্রক্রিয়া শুরু করে

HPA ব্যবহার করার সময়, নিম্নলিখিত বিবেচনা করুন:

• ডিফল্ট HPA চেক ব্যবধান 30 সেকেন্ড। এটা পতাকা দ্বারা সেট করা হয় অনুভূমিক-পড-অটোস্কেলার-সিঙ্ক-পিরিয়ড কন্ট্রোলার ম্যানেজারে।
• ডিফল্ট আপেক্ষিক ত্রুটি 10%।
• মডিউলের সংখ্যা সর্বশেষ বৃদ্ধির পরে, HPA আশা করে যে মেট্রিক্স তিন মিনিটের মধ্যে স্থিতিশীল হবে। এই ব্যবধান পতাকা দ্বারা সেট করা হয় অনুভূমিক-পড-অটোস্কেলার-আপস্কেল-বিলম্ব.
• মডিউলের সংখ্যা শেষ হ্রাসের পরে, HPA স্থিতিশীল হওয়ার জন্য পাঁচ মিনিট অপেক্ষা করে। এই ব্যবধান পতাকা দ্বারা সেট করা হয় অনুভূমিক-পড-অটোস্কেলার-ডাউনস্কেল-বিলম্ব.
• HPA প্রতিলিপি কন্ট্রোলারের পরিবর্তে স্থাপনার বস্তুর সাথে সবচেয়ে ভাল কাজ করে। অনুভূমিক অটোস্কেলিং রোলিং আপডেটের সাথে সামঞ্জস্যপূর্ণ নয়, যা সরাসরি প্রতিলিপি কন্ট্রোলারকে ম্যানিপুলেট করে। স্থাপনার সাথে, প্রতিলিপির সংখ্যা সরাসরি স্থাপনার বস্তুর উপর নির্ভর করে।

শুঁটির উল্লম্ব অটোস্কেলিং

উল্লম্ব অটোস্কেলিং (VPA) বিদ্যমান পডগুলিতে বেশি (বা কম) CPU সময় বা মেমরি বরাদ্দ করে। রাষ্ট্রীয় বা রাষ্ট্রবিহীন পডের জন্য উপযুক্ত, কিন্তু প্রধানত রাষ্ট্রীয় পরিষেবার জন্য উদ্দেশ্যে। যাইহোক, আপনি যদি প্রাথমিকভাবে বরাদ্দকৃত সম্পদের পরিমাণ স্বয়ংক্রিয়ভাবে সামঞ্জস্য করতে চান তবে আপনি স্টেটলেস মডিউলগুলির জন্য VPA ব্যবহার করতে পারেন।

ভিপিএ ওওএম (মেমরির বাইরে) ইভেন্টগুলিতেও সাড়া দেয়। CPU সময় এবং মেমরি পরিবর্তন করার জন্য পড পুনরায় চালু করা প্রয়োজন। পুনরায় চালু হলে, VPA বরাদ্দ বাজেটকে সম্মান করে (পড বিতরণ বাজেট, PDB) ন্যূনতম প্রয়োজনীয় সংখ্যক মডিউলের নিশ্চয়তা দিতে।

আপনি প্রতিটি মডিউলের জন্য সর্বনিম্ন এবং সর্বোচ্চ সংস্থান সেট করতে পারেন। এইভাবে, আপনি বরাদ্দকৃত মেমরির সর্বাধিক পরিমাণ 8 জিবি পর্যন্ত সীমাবদ্ধ করতে পারেন। এটি কার্যকর যদি বর্তমান নোডগুলি অবশ্যই প্রতি কন্টেইনারে 8 গিগাবাইটের বেশি মেমরি বরাদ্দ করতে না পারে। বিস্তারিত স্পেসিফিকেশন এবং অপারেটিং প্রক্রিয়া বর্ণনা করা হয় অফিসিয়াল ভিপিএ উইকি.

এছাড়াও, ভিপিএর একটি আকর্ষণীয় সুপারিশ ফাংশন (ভিপিএ সুপারিশকারী) রয়েছে। এটি ঐতিহাসিক মেট্রিক্সের উপর ভিত্তি করে একটি বুদ্ধিমান অ্যালগরিদমের উপর ভিত্তি করে নতুন মেমরি এবং সিপিইউ সময় মান প্রস্তাব করার জন্য সমস্ত মডিউলের সম্পদ ব্যবহার এবং OOM ইভেন্টগুলি পর্যবেক্ষণ করে। এছাড়াও একটি API রয়েছে যা একটি পড হ্যান্ডেল নেয় এবং প্রস্তাবিত সংস্থান মান প্রদান করে।

এটি লক্ষণীয় যে VPA সুপারিশকারী সংস্থান "সীমা" ট্র্যাক করে না। এর ফলে নোডের মধ্যে মডিউল একচেটিয়া সংস্থান হতে পারে। বিশাল মেমরি বা CPU খরচ এড়াতে নেমস্পেস স্তরে সীমা সেট করা ভাল।

উচ্চ-স্তরের ভিপিএ অপারেশন স্কিম:

1. VPA ক্রমাগত 10 সেকেন্ডের একটি ডিফল্ট ব্যবধানে ইনস্টলেশনের সময় নির্দিষ্ট মেট্রিক মান পরীক্ষা করে।
2. যদি নির্দিষ্ট থ্রেশহোল্ডে পৌঁছে যায়, VPA বরাদ্দকৃত সম্পদের পরিমাণ পরিবর্তন করার চেষ্টা করে।
3. ভিপিএ স্থাপনা/প্রতিলিপি নিয়ন্ত্রকের মধ্যে সম্পদের সংখ্যা আপডেট করে।
4. যখন মডিউল পুনরায় আরম্ভ করা হয়, সমস্ত নতুন সংস্থান তৈরি করা উদাহরণগুলিতে প্রয়োগ করা হয়।

VPA প্রয়োজনীয় পরিমাণ সম্পদ যোগ করে

VPA ব্যবহার করার সময় নিম্নলিখিত বিষয়গুলি মনে রাখবেন:

• স্কেলিংয়ের জন্য পডের একটি বাধ্যতামূলক পুনঃসূচনা প্রয়োজন। পরিবর্তন করার পরে অস্থির অপারেশন এড়াতে এটি প্রয়োজনীয়। নির্ভরযোগ্যতার জন্য, মডিউলগুলি পুনরায় চালু করা হয় এবং নতুন বরাদ্দকৃত সংস্থানগুলির উপর ভিত্তি করে নোডগুলিতে বিতরণ করা হয়।
• VPA এবং HPA এখনও একে অপরের সাথে সামঞ্জস্যপূর্ণ নয় এবং একই পডগুলিতে চলতে পারে না। আপনি যদি একই ক্লাস্টারে উভয় স্কেলিং প্রক্রিয়া ব্যবহার করেন তবে নিশ্চিত করুন যে আপনার সেটিংস একই বস্তুতে সক্রিয় হতে বাধা দেয়।
• শুধুমাত্র অতীত এবং বর্তমান ব্যবহারের উপর ভিত্তি করে সম্পদের জন্য VPA টিউন কন্টেইনার অনুরোধ। এটি সম্পদ ব্যবহারের সীমা নির্ধারণ করে না। অ্যাপ্লিকেশানগুলি সঠিকভাবে কাজ না করা এবং আরও বেশি সংস্থান গ্রহণ করা শুরু করার ক্ষেত্রে সমস্যা হতে পারে, এর ফলে কুবারনেটস এই পডটি বন্ধ করে দেবে।
• ভিপিএ এখনও বিকাশের প্রাথমিক পর্যায়ে রয়েছে। প্রস্তুত থাকুন যে সিস্টেমে অদূর ভবিষ্যতে কিছু পরিবর্তন হতে পারে। সম্পর্কে পড়তে পারেন পরিচিত সীমাবদ্ধতা и উন্নয়ন পরিকল্পনা. এইভাবে, VPA এবং HPA এর যৌথ অপারেশন বাস্তবায়নের পরিকল্পনা রয়েছে, সেইসাথে তাদের জন্য একটি উল্লম্ব অটোস্কেলিং নীতি সহ মডিউল স্থাপনের (উদাহরণস্বরূপ, একটি বিশেষ লেবেল 'VPA প্রয়োজন')।

একটি Kubernetes ক্লাস্টার অটোস্কেলিং

ক্লাস্টার অটোস্ক্যালার (CA) ওয়েটিং পডের সংখ্যার উপর ভিত্তি করে নোডের সংখ্যা পরিবর্তন করে। সিস্টেমটি পর্যায়ক্রমে মুলতুবি মডিউলগুলির জন্য পরীক্ষা করে - এবং আরও সংস্থানগুলির প্রয়োজন হলে এবং ক্লাস্টারটি প্রতিষ্ঠিত সীমা অতিক্রম না করলে ক্লাস্টারের আকার বৃদ্ধি করে। CA ক্লাউড পরিষেবা প্রদানকারীর সাথে যোগাযোগ করে, এটি থেকে অতিরিক্ত নোডের জন্য অনুরোধ করে, অথবা নিষ্ক্রিয় নোডগুলি প্রকাশ করে৷ CA এর প্রথম সাধারণভাবে উপলব্ধ সংস্করণটি Kubernetes 1.8 এ চালু করা হয়েছিল।

এসএ অপারেশনের উচ্চ-স্তরের স্কিম:

1. CA 10 সেকেন্ডের ডিফল্ট ব্যবধানে মুলতুবি মডিউলগুলির জন্য পরীক্ষা করে।
2. যদি এক বা একাধিক পড স্ট্যান্ডবাই অবস্থায় থাকে কারণ ক্লাস্টারে তাদের বরাদ্দ করার জন্য পর্যাপ্ত উপলব্ধ সংস্থান না থাকে, তবে এটি এক বা একাধিক অতিরিক্ত নোড সরবরাহ করার চেষ্টা করে।
3. যখন ক্লাউড পরিষেবা প্রদানকারী প্রয়োজনীয় নোড বরাদ্দ করে, তখন এটি ক্লাস্টারে যোগ দেয় এবং পড পরিবেশন করার জন্য প্রস্তুত হয়।
4. Kubernetes সময়সূচী নতুন নোডে মুলতুবি পড বিতরণ করে। এর পরেও যদি কিছু মডিউল অপেক্ষারত অবস্থায় থাকে, প্রক্রিয়াটি পুনরাবৃত্তি করা হয় এবং ক্লাস্টারে নতুন নোড যোগ করা হয়।

ক্লাউডে ক্লাস্টার নোডের স্বয়ংক্রিয় ব্যবস্থা

CA ব্যবহার করার সময় নিম্নলিখিত বিবেচনা করুন:

• CA নিশ্চিত করে যে CPU লোড নির্বিশেষে ক্লাস্টারের সমস্ত পডগুলিতে চালানোর জন্য জায়গা রয়েছে। এটা নিশ্চিত করার চেষ্টা করে যে ক্লাস্টারে কোন অপ্রয়োজনীয় নোড নেই।
• CA প্রায় 30 সেকেন্ড পরে স্কেল করার প্রয়োজনীয়তা নিবন্ধন করে।
• একবার একটি নোডের আর প্রয়োজন না হলে, CA ডিফল্ট সিস্টেমটি স্কেল করার আগে 10 মিনিট অপেক্ষা করে।
• অটোস্কেলিং সিস্টেমে প্রসারক ধারণা রয়েছে। এই নোডের একটি গ্রুপ নির্বাচন করার জন্য বিভিন্ন কৌশল যেখানে নতুন নোড যোগ করা হবে।
• দায়িত্বের সাথে বিকল্পটি ব্যবহার করুন cluster-autoscaler.kubernetes.io/safe-to-evict (সত্য). আপনি যদি অনেকগুলি পড ইনস্টল করেন, বা যদি তাদের অনেকগুলি সমস্ত নোড জুড়ে ছড়িয়ে ছিটিয়ে থাকে তবে আপনি মূলত ক্লাস্টারটি স্কেল করার ক্ষমতা হারাবেন।
• ব্যবহার PodDisruption Budgetsমুছে ফেলা থেকে পড প্রতিরোধ করতে, যা আপনার অ্যাপ্লিকেশনের অংশগুলি সম্পূর্ণরূপে ভেঙে যেতে পারে।

Kubernetes autoscalers কিভাবে একে অপরের সাথে যোগাযোগ করে

নিখুঁত সামঞ্জস্যের জন্য, পড স্তর (HPA/VPA) এবং ক্লাস্টার স্তর উভয়েই অটোস্কেলিং প্রয়োগ করা উচিত। তারা একে অপরের সাথে তুলনামূলকভাবে সহজভাবে যোগাযোগ করে:

1. HPAs বা VPAs আপডেট পড প্রতিলিপি বা বিদ্যমান পড বরাদ্দ সম্পদ.
2. পরিকল্পিত স্কেলিংয়ের জন্য পর্যাপ্ত নোড না থাকলে, CA অপেক্ষারত অবস্থায় পডের উপস্থিতি লক্ষ্য করে।
3. CA নতুন নোড বরাদ্দ করে।
4. মডিউল নতুন নোড বিতরণ করা হয়.

সহযোগিতামূলক কুবারনেটস স্কেল-আউট সিস্টেম

কুবারনেটস অটোস্কেলিংয়ের সাধারণ ভুল

স্বয়ংক্রিয় স্কেলিং বাস্তবায়নের চেষ্টা করার সময় বেশ কয়েকটি সাধারণ সমস্যা দেখা দেয়।

HPA এবং VPA মেট্রিক্স এবং কিছু ঐতিহাসিক তথ্যের উপর নির্ভর করে। যদি অপর্যাপ্ত সম্পদ বরাদ্দ করা হয়, তাহলে মডিউলগুলি ছোট করা হবে এবং মেট্রিক্স তৈরি করতে সক্ষম হবে না। এই ক্ষেত্রে, অটোস্কেলিং কখনই ঘটবে না।

স্কেলিং অপারেশন নিজেই সময় সংবেদনশীল. আমরা মডিউল এবং ক্লাস্টার দ্রুত স্কেল করতে চাই - ব্যবহারকারীরা কোনো সমস্যা বা ব্যর্থতা লক্ষ্য করার আগে। অতএব, পড এবং ক্লাস্টারের গড় স্কেলিং সময় বিবেচনায় নেওয়া উচিত।

আদর্শ দৃশ্য - 4 মিনিট:

1. 30 সেকেন্ড. টার্গেট মেট্রিক্স আপডেট করুন: 30-60 সেকেন্ড।
2. 30 সেকেন্ড. HPA মেট্রিক মান পরীক্ষা করে: 30 সেকেন্ড।
3. 2 সেকেন্ডের কম। শুঁটি তৈরি হয় এবং অপেক্ষার অবস্থায় যায়: 1 সেকেন্ড।
4. 2 সেকেন্ডের কম। CA অপেক্ষা মডিউল দেখে এবং প্রভিশন নোডগুলিতে কল পাঠায়: 1 সেকেন্ড।
5. 3 মিনিট. ক্লাউড প্রদানকারী নোড বরাদ্দ করে। K8s তারা প্রস্তুত না হওয়া পর্যন্ত অপেক্ষা করে: 10 মিনিট পর্যন্ত (অনেক কারণের উপর নির্ভর করে)।

সবচেয়ে খারাপ ক্ষেত্রে (আরো বাস্তবসম্মত) দৃশ্য - 12 মিনিট:

1. 30 সেকেন্ড. টার্গেট মেট্রিক্স আপডেট করুন।
2. 30 সেকেন্ড. HPA মেট্রিক মান পরীক্ষা করে।
3. 2 সেকেন্ডের কম। শুঁটি তৈরি হয় এবং স্ট্যান্ডবাই অবস্থায় প্রবেশ করে।
4. 2 সেকেন্ডের কম। CA অপেক্ষমাণ মডিউলগুলি দেখে এবং নোডগুলির ব্যবস্থা করার জন্য কল করে৷
5. 10 মিনিট. ক্লাউড প্রদানকারী নোড বরাদ্দ করে। K8s তারা প্রস্তুত না হওয়া পর্যন্ত অপেক্ষা করে। অপেক্ষার সময় বিভিন্ন কারণের উপর নির্ভর করে, যেমন বিক্রেতা বিলম্ব, OS বিলম্ব এবং সমর্থন সরঞ্জাম।

আমাদের CA এর সাথে ক্লাউড প্রদানকারীদের স্কেলিং প্রক্রিয়াকে বিভ্রান্ত করবেন না। পরবর্তীটি একটি কুবারনেটস ক্লাস্টারের ভিতরে চলে, যখন ক্লাউড প্রদানকারী ইঞ্জিনটি নোড বিতরণের ভিত্তিতে কাজ করে। এটি আপনার পড বা অ্যাপ্লিকেশনের সাথে কি ঘটছে তা জানে না। এই সিস্টেমগুলি সমান্তরালভাবে কাজ করে।

কুবারনেটসে কীভাবে স্কেলিং পরিচালনা করবেন

1. Kubernetes একটি সম্পদ ব্যবস্থাপনা এবং অর্কেস্ট্রেশন টুল. পড এবং ক্লাস্টার সংস্থান পরিচালনার জন্য কাজগুলি কুবারনেটস আয়ত্ত করার জন্য একটি মূল মাইলফলক।
2. HPA এবং VPA বিবেচনায় নিয়ে পড স্কেলেবিলিটির যুক্তি বুঝুন।
3. CA শুধুমাত্র তখনই ব্যবহার করা উচিত যদি আপনার পড এবং পাত্রের প্রয়োজনীয়তা সম্পর্কে ভালো ধারণা থাকে।
4. একটি ক্লাস্টার সর্বোত্তমভাবে কনফিগার করার জন্য, আপনাকে বুঝতে হবে কিভাবে বিভিন্ন স্কেলিং সিস্টেম একসাথে কাজ করে।
5. স্কেলিং সময় অনুমান করার সময়, সবচেয়ে খারাপ-কেস এবং সেরা-কেস পরিস্থিতি মনে রাখবেন।

উত্স: www.habr.com