কুবারনেটস: সিস্টেম রিসোর্স ম্যানেজমেন্ট কনফিগার করা কেন এত গুরুত্বপূর্ণ?

একটি নিয়ম হিসাবে, একটি অ্যাপ্লিকেশনের সঠিক এবং স্থিতিশীল ক্রিয়াকলাপের জন্য সর্বদা একটি উত্সর্গীকৃত সংস্থান সরবরাহ করার প্রয়োজন রয়েছে। কিন্তু যদি একই শক্তিতে বেশ কয়েকটি অ্যাপ্লিকেশন চলছে? তাদের প্রত্যেককে কীভাবে ন্যূনতম প্রয়োজনীয় সংস্থান সরবরাহ করা যায়? আপনি কিভাবে সম্পদ খরচ সীমিত করতে পারেন? কিভাবে সঠিকভাবে নোড মধ্যে লোড বিতরণ? অ্যাপ্লিকেশন লোড বৃদ্ধি পেলে অনুভূমিক স্কেলিং প্রক্রিয়া কীভাবে কাজ করে তা নিশ্চিত করবেন?

সিস্টেমে কী কী প্রধান ধরণের সংস্থান বিদ্যমান তা দিয়ে আপনাকে শুরু করতে হবে - এটি অবশ্যই প্রসেসরের সময় এবং RAM। k8s-তে এই সম্পদের ধরনগুলি নিম্নলিখিত এককগুলিতে পরিমাপ করা হয়:

• CPU - কোরে
• RAM - বাইটে

তদুপরি, প্রতিটি সংস্থানের জন্য দুটি ধরণের প্রয়োজনীয়তা সেট করা সম্ভব - অনুরোধ и সীমা. অনুরোধ - একটি ধারক (এবং সামগ্রিকভাবে পড) চালানোর জন্য একটি নোডের বিনামূল্যে সংস্থানগুলির জন্য ন্যূনতম প্রয়োজনীয়তাগুলি বর্ণনা করে, যখন সীমাগুলি কন্টেইনারে উপলব্ধ সংস্থানগুলির উপর একটি কঠিন সীমা নির্ধারণ করে৷

এটা বোঝা গুরুত্বপূর্ণ যে ম্যানিফেস্টকে স্পষ্টভাবে উভয় প্রকারকে সংজ্ঞায়িত করতে হবে না, তবে আচরণটি নিম্নরূপ হবে:

• যদি শুধুমাত্র একটি সম্পদের সীমা সুনির্দিষ্টভাবে উল্লেখ করা হয়, তাহলে এই সম্পদের জন্য অনুরোধ স্বয়ংক্রিয়ভাবে সীমার সমান একটি মান নেয় (আপনি বর্ণনাকারী সত্তাকে কল করে এটি যাচাই করতে পারেন)। সেগুলো. প্রকৃতপক্ষে, ধারকটি চালানোর জন্য প্রয়োজনীয় সম্পদের একই পরিমাণে সীমাবদ্ধ থাকবে।
• যদি শুধুমাত্র রিকোয়েস্টগুলি একটি রিসোর্সের জন্য স্পষ্টভাবে নির্দিষ্ট করা থাকে, তাহলে এই রিসোর্সে কোন উপরের সীমাবদ্ধতা সেট করা নেই - যেমন ধারকটি শুধুমাত্র নোডের সংস্থান দ্বারা সীমাবদ্ধ।

রিসোর্স ম্যানেজমেন্ট কনফিগার করাও সম্ভব শুধুমাত্র একটি নির্দিষ্ট পাত্রের স্তরেই নয়, নিচের সত্তাগুলি ব্যবহার করে নামস্থান স্তরেও:

• সীমা রেঞ্জ — এনএস-এ কন্টেইনার/পড লেভেলে সীমাবদ্ধতা নীতি বর্ণনা করে এবং কন্টেইনার/পডের ডিফল্ট সীমা বর্ণনা করার জন্য প্রয়োজন, সেইসাথে স্পষ্টতই চর্বিযুক্ত পাত্র/পড (বা তদ্বিপরীত) তৈরি করা প্রতিরোধ করতে, তাদের সংখ্যা সীমিত করুন এবং সীমা এবং অনুরোধের মানগুলির সম্ভাব্য পার্থক্য নির্ধারণ করুন
• সম্পদ কোটা — এনএস-এ সমস্ত কন্টেইনারের জন্য সাধারণভাবে বিধিনিষেধ নীতি বর্ণনা করুন এবং একটি নিয়ম হিসাবে, পরিবেশের মধ্যে সংস্থানগুলিকে সীমাবদ্ধ করতে ব্যবহৃত হয় (যখন নোড স্তরে পরিবেশগুলি কঠোরভাবে সীমাবদ্ধ করা হয় না তখন দরকারী)

নিম্নলিখিত ম্যানিফেস্টের উদাহরণ যা সম্পদের সীমা নির্ধারণ করে:

• নির্দিষ্ট ধারক স্তরে:

  containers:
  - name: app-nginx
    image: nginx
    resources:
      requests:
        memory: 1Gi
      limits:
        cpu: 200m

  সেগুলো. এই ক্ষেত্রে, nginx-এর সাথে একটি কন্টেইনার চালানোর জন্য, আপনার নোডে কমপক্ষে 1G ফ্রি RAM এবং 0.2 CPU লাগবে, যখন সর্বাধিক কন্টেইনারটি 0.2 CPU এবং নোডে উপলব্ধ সমস্ত RAM ব্যবহার করতে পারে।

• পূর্ণসংখ্যা স্তরে ns:

  apiVersion: v1
  kind: ResourceQuota
  metadata:
    name: nxs-test
  spec:
    hard:
      requests.cpu: 300m
      requests.memory: 1Gi
      limits.cpu: 700m
      limits.memory: 2Gi

  সেগুলো. ডিফল্ট ns-এ সমস্ত অনুরোধের কন্টেইনারের যোগফল CPU-এর জন্য 300m এবং OP-এর জন্য 1G-এর বেশি হতে পারে না এবং সমস্ত সীমার যোগফল হল CPU-এর জন্য 700m এবং OP-এর জন্য 2G৷

• এনএস-এ কন্টেইনারগুলির জন্য ডিফল্ট সীমা:

  apiVersion: v1
  kind: LimitRange
  metadata:
    name: nxs-limit-per-container
  spec:
   limits:
     - type: Container
       defaultRequest:
         cpu: 100m
         memory: 1Gi
       default:
         cpu: 1
         memory: 2Gi
       min:
         cpu: 50m
         memory: 500Mi
       max:
         cpu: 2
         memory: 4Gi

  সেগুলো. সমস্ত কন্টেইনারের জন্য ডিফল্ট নামস্থানে, অনুরোধটি CPU-এর জন্য 100m এবং OP-এর জন্য 1G-তে সেট করা হবে, সীমা - 1 CPU এবং 2G। একই সময়ে, CPU (50m < x < 2) এবং RAM (500M < x < 4G) এর জন্য অনুরোধ/সীমার সম্ভাব্য মানগুলির উপর একটি সীমাও সেট করা হয়েছে।

• পড-স্তরের সীমাবদ্ধতা ns:

  apiVersion: v1
  kind: LimitRange
  metadata:
   name: nxs-limit-pod
  spec:
   limits:
   - type: Pod
     max:
       cpu: 4
       memory: 1Gi

  সেগুলো. ডিফল্ট এনএসে প্রতিটি পডের জন্য 4টি vCPU এবং 1G এর সীমা থাকবে।

এখন আমি আপনাকে বলতে চাই যে এই বিধিনিষেধগুলি সেট করা আমাদের কী সুবিধা দিতে পারে।

নোডের মধ্যে লোড ব্যালেন্সিং মেকানিজম

আপনি জানেন, k8s উপাদান নোডের মধ্যে পড বিতরণের জন্য দায়ী, যেমন নির্ধারণকারী, যা একটি নির্দিষ্ট অ্যালগরিদম অনুযায়ী কাজ করে। লঞ্চ করার জন্য সর্বোত্তম নোড নির্বাচন করার সময় এই অ্যালগরিদম দুটি পর্যায়ে যায়:

1. ফিল্টারিং
2. রেঞ্জিং

সেগুলো. বর্ণিত নীতি অনুসারে, নোডগুলি প্রাথমিকভাবে নির্বাচন করা হয় যার উপর ভিত্তি করে একটি সেট চালু করা সম্ভব predicates (পড চালানোর জন্য নোডে পর্যাপ্ত সম্পদ আছে কিনা তা পরীক্ষা করা সহ - PodFitsResources), এবং তারপর এই নোডগুলির প্রতিটির জন্য, অনুযায়ী অগ্রাধিকার পয়েন্ট প্রদান করা হয় (সহ, একটি নোডের যত বেশি ফ্রি রিসোর্স থাকবে, তত বেশি পয়েন্ট বরাদ্দ করা হবে - LeastResourceAllocation/LeastRequestedPriority/BalancedResourceAllocation) এবং পডটি সর্বাধিক পয়েন্ট সহ নোডে চালু করা হয়েছে (যদি একাধিক নোড একবারে এই শর্তটি পূরণ করে, তাহলে একটি এলোমেলো একটি নির্বাচন করা হয়)।

একই সময়ে, আপনাকে বুঝতে হবে যে সময়সূচী, একটি নোডের উপলব্ধ সংস্থানগুলি মূল্যায়ন করার সময়, etcd-এ সংরক্ষিত ডেটা দ্বারা পরিচালিত হয় - যেমন এই নোডে চলমান প্রতিটি পডের অনুরোধকৃত/সীমা সম্পদের পরিমাণের জন্য, কিন্তু প্রকৃত সম্পদ খরচের জন্য নয়। এই তথ্য কমান্ড আউটপুট থেকে প্রাপ্ত করা যেতে পারে kubectl describe node $NODEউদাহরণস্বরূপ,

# kubectl describe nodes nxs-k8s-s1
..
Non-terminated Pods:         (9 in total)
  Namespace                  Name                                         CPU Requests  CPU Limits  Memory Requests  Memory Limits  AGE
  ---------                  ----                                         ------------  ----------  ---------------  -------------  ---
  ingress-nginx              nginx-ingress-controller-754b85bf44-qkt2t    0 (0%)        0 (0%)      0 (0%)           0 (0%)         233d
  kube-system                kube-flannel-26bl4                           150m (0%)     300m (1%)   64M (0%)         500M (1%)      233d
  kube-system                kube-proxy-exporter-cb629                    0 (0%)        0 (0%)      0 (0%)           0 (0%)         233d
  kube-system                kube-proxy-x9fsc                             0 (0%)        0 (0%)      0 (0%)           0 (0%)         233d
  kube-system                nginx-proxy-k8s-worker-s1                    25m (0%)      300m (1%)   32M (0%)         512M (1%)      233d
  nxs-monitoring             alertmanager-main-1                          100m (0%)     100m (0%)   425Mi (1%)       25Mi (0%)      233d
  nxs-logging                filebeat-lmsmp                               100m (0%)     0 (0%)      100Mi (0%)       200Mi (0%)     233d
  nxs-monitoring             node-exporter-v4gdq                          112m (0%)     122m (0%)   200Mi (0%)       220Mi (0%)     233d
Allocated resources:
  (Total limits may be over 100 percent, i.e., overcommitted.)
  Resource           Requests           Limits
  --------           --------           ------
  cpu                487m (3%)          822m (5%)
  memory             15856217600 (2%)  749976320 (3%)
  ephemeral-storage  0 (0%)             0 (0%)

এখানে আমরা দেখতে পাই যে সমস্ত পড একটি নির্দিষ্ট নোডে চলছে, সেইসাথে প্রতিটি পডের অনুরোধ করা সংস্থানগুলি। এবং cronjob-cron-events-1573793820-xt6q9 পড চালু হলে শিডিউলার লগগুলি কেমন দেখায় (এই তথ্যটি শিডিউলার লগে প্রদর্শিত হবে যখন লঞ্চ কমান্ডের আর্গুমেন্টে 10 তম লগিং স্তর সেট করা হবে -v=10 ):

লগ

I1115 07:57:21.637791       1 scheduling_queue.go:908] About to try and schedule pod nxs-stage/cronjob-cron-events-1573793820-xt6q9                                                                                                                                           
I1115 07:57:21.637804       1 scheduler.go:453] Attempting to schedule pod: nxs-stage/cronjob-cron-events-1573793820-xt6q9                                                                                                                                                    
I1115 07:57:21.638285       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s5 is allowed, Node is running only 16 out of 110 Pods.                                                                               
I1115 07:57:21.638300       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s6 is allowed, Node is running only 20 out of 110 Pods.                                                                               
I1115 07:57:21.638322       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s3 is allowed, Node is running only 20 out of 110 Pods.                                                                               
I1115 07:57:21.638322       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s4 is allowed, Node is running only 17 out of 110 Pods.                                                                               
I1115 07:57:21.638334       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s10 is allowed, Node is running only 16 out of 110 Pods.                                                                              
I1115 07:57:21.638365       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s12 is allowed, Node is running only 9 out of 110 Pods.                                                                               
I1115 07:57:21.638334       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s11 is allowed, Node is running only 11 out of 110 Pods.                                                                              
I1115 07:57:21.638385       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s1 is allowed, Node is running only 19 out of 110 Pods.                                                                               
I1115 07:57:21.638402       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s2 is allowed, Node is running only 21 out of 110 Pods.                                                                               
I1115 07:57:21.638383       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s9 is allowed, Node is running only 16 out of 110 Pods.                                                                               
I1115 07:57:21.638335       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s8 is allowed, Node is running only 18 out of 110 Pods.                                                                               
I1115 07:57:21.638408       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s13 is allowed, Node is running only 8 out of 110 Pods.                                                                               
I1115 07:57:21.638478       1 predicates.go:1369] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s10 is allowed, existing pods anti-affinity terms satisfied.                                                                         
I1115 07:57:21.638505       1 predicates.go:1369] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s8 is allowed, existing pods anti-affinity terms satisfied.                                                                          
I1115 07:57:21.638577       1 predicates.go:1369] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s9 is allowed, existing pods anti-affinity terms satisfied.                                                                          
I1115 07:57:21.638583       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s7 is allowed, Node is running only 25 out of 110 Pods.                                                                               
I1115 07:57:21.638932       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: BalancedResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 2343 millicores 9640186880 memory bytes, score 9        
I1115 07:57:21.638946       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: LeastResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 2343 millicores 9640186880 memory bytes, score 8           
I1115 07:57:21.638961       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: BalancedResourceAllocation, capacity 39900 millicores 66620170240 memory bytes, total request 4107 millicores 11307422720 memory bytes, score 9        
I1115 07:57:21.638971       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: BalancedResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 5847 millicores 24333637120 memory bytes, score 7        
I1115 07:57:21.638975       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: LeastResourceAllocation, capacity 39900 millicores 66620170240 memory bytes, total request 4107 millicores 11307422720 memory bytes, score 8           
I1115 07:57:21.638990       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: LeastResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 5847 millicores 24333637120 memory bytes, score 7           
I1115 07:57:21.639022       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s10: TaintTolerationPriority, Score: (10)                                                                                                        
I1115 07:57:21.639030       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s8: TaintTolerationPriority, Score: (10)                                                                                                         
I1115 07:57:21.639034       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s9: TaintTolerationPriority, Score: (10)                                                                                                         
I1115 07:57:21.639041       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s10: NodeAffinityPriority, Score: (0)                                                                                                            
I1115 07:57:21.639053       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s8: NodeAffinityPriority, Score: (0)                                                                                                             
I1115 07:57:21.639059       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s9: NodeAffinityPriority, Score: (0)                                                                                                             
I1115 07:57:21.639061       1 interpod_affinity.go:237] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: InterPodAffinityPriority, Score: (0)                                                                                                                   
I1115 07:57:21.639063       1 selector_spreading.go:146] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: SelectorSpreadPriority, Score: (10)                                                                                                                   
I1115 07:57:21.639073       1 interpod_affinity.go:237] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: InterPodAffinityPriority, Score: (0)                                                                                                                    
I1115 07:57:21.639077       1 selector_spreading.go:146] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: SelectorSpreadPriority, Score: (10)                                                                                                                    
I1115 07:57:21.639085       1 interpod_affinity.go:237] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: InterPodAffinityPriority, Score: (0)                                                                                                                    
I1115 07:57:21.639088       1 selector_spreading.go:146] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: SelectorSpreadPriority, Score: (10)                                                                                                                    
I1115 07:57:21.639103       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s10: SelectorSpreadPriority, Score: (10)                                                                                                         
I1115 07:57:21.639109       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s8: SelectorSpreadPriority, Score: (10)                                                                                                          
I1115 07:57:21.639114       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s9: SelectorSpreadPriority, Score: (10)                                                                                                          
I1115 07:57:21.639127       1 generic_scheduler.go:781] Host nxs-k8s-s10 => Score 100037                                                                                                                                                                            
I1115 07:57:21.639150       1 generic_scheduler.go:781] Host nxs-k8s-s8 => Score 100034                                                                                                                                                                             
I1115 07:57:21.639154       1 generic_scheduler.go:781] Host nxs-k8s-s9 => Score 100037                                                                                                                                                                             
I1115 07:57:21.639267       1 scheduler_binder.go:269] AssumePodVolumes for pod "nxs-stage/cronjob-cron-events-1573793820-xt6q9", node "nxs-k8s-s10"                                                                                                               
I1115 07:57:21.639286       1 scheduler_binder.go:279] AssumePodVolumes for pod "nxs-stage/cronjob-cron-events-1573793820-xt6q9", node "nxs-k8s-s10": all PVCs bound and nothing to do                                                                             
I1115 07:57:21.639333       1 factory.go:733] Attempting to bind cronjob-cron-events-1573793820-xt6q9 to nxs-k8s-s10

এখানে আমরা দেখতে পাচ্ছি যে প্রাথমিকভাবে শিডিউলার ফিল্টার করে এবং 3টি নোডের একটি তালিকা তৈরি করে যার উপর এটি চালু করা যেতে পারে (nxs-k8s-s8, nxs-k8s-s9, nxs-k8s-s10)। তারপর এটি সবচেয়ে উপযুক্ত নোড নির্ধারণ করার জন্য এই প্রতিটি নোডের জন্য বেশ কয়েকটি পরামিতির (ব্যালেন্সড রিসোর্স অ্যালোকেশন, LeastResourceAllocation সহ) উপর ভিত্তি করে স্কোর গণনা করে। শেষ পর্যন্ত, পডটি সর্বোচ্চ সংখ্যক পয়েন্ট সহ নোডের উপর নির্ধারিত হয় (এখানে দুটি নোডের একই সংখ্যক পয়েন্ট 100037, তাই একটি এলোমেলো একটি নির্বাচন করা হয়েছে - nxs-k8s-s10)।

উপসংহার: যদি একটি নোড এমন পড চালায় যার জন্য কোনো বিধিনিষেধ সেট করা নেই, তাহলে k8s এর জন্য (সম্পদ ব্যবহারের দৃষ্টিকোণ থেকে) এটি সমতুল্য হবে যেন এই নোডে এমন কোনো পড নেই। অতএব, যদি আপনার, শর্তসাপেক্ষে, পেটুক প্রক্রিয়া সহ একটি পড থাকে (উদাহরণস্বরূপ, ওয়াওজা) এবং এটির জন্য কোনও বিধিনিষেধ সেট করা না থাকে, তবে এমন পরিস্থিতি তৈরি হতে পারে যখন এই পডটি আসলে নোডের সমস্ত সংস্থান খেয়েছিল, তবে k8s এর জন্য এই নোডটি আনলোড করা বলে বিবেচিত হয় এবং এটিকে একই সংখ্যক পয়েন্ট প্রদান করা হবে যখন র‍্যাঙ্কিং করা হবে (সুনির্দিষ্টভাবে উপলব্ধ সংস্থান মূল্যায়ন করার ক্ষেত্রে) এমন একটি নোড হিসাবে যেখানে কাজ করার পড নেই, যা শেষ পর্যন্ত নোডের মধ্যে লোডের অসম বন্টন হতে পারে।

পড এর উচ্ছেদ

আপনি জানেন, প্রতিটি পডকে 3টি QoS ক্লাসের মধ্যে একটি বরাদ্দ করা হয়েছে:

1. নিশ্চিত — নির্ধারিত হয় যখন পডের প্রতিটি কন্টেইনারের জন্য মেমরি এবং সিপিইউ-এর জন্য একটি অনুরোধ এবং সীমা নির্দিষ্ট করা হয় এবং এই মানগুলি অবশ্যই মিলতে হবে
2. burstable — পডের অন্তত একটি পাত্রে অনুরোধ < সীমা সহ একটি অনুরোধ এবং একটি সীমা রয়েছে
3. সেরা প্রচেষ্টা — যখন পডের একটি একক ধারক সম্পদ সীমিত নয়

একই সময়ে, যখন একটি নোড সম্পদের (ডিস্ক, মেমরি) অভাব অনুভব করে, তখন কুবেলেট একটি নির্দিষ্ট অ্যালগরিদম অনুযায়ী পডকে র‌্যাঙ্ক করা এবং উচ্ছেদ করা শুরু করে যা পড এবং এর QoS ক্লাসের অগ্রাধিকারকে বিবেচনা করে। উদাহরণস্বরূপ, যদি আমরা RAM সম্পর্কে কথা বলি, তাহলে QoS শ্রেণীর উপর ভিত্তি করে, নিম্নলিখিত নীতি অনুসারে পয়েন্ট প্রদান করা হয়:

• গ্যারান্টিযুক্ত: -998
• সেরা প্রচেষ্টা: 1000
• বিস্ফোরণযোগ্য: মিন (সর্বোচ্চ(2, 1000 - (1000 * মেমরিরিকোয়েস্টবাইট) / মেশিনমেমোরি ক্যাপাসিটিবাইটস), 999)

সেগুলো. একই অগ্রাধিকারের সাথে, কুবেলেট নোড থেকে সর্বোত্তম প্রচেষ্টা QoS ক্লাসের সাথে প্রথমে পডগুলিকে উচ্ছেদ করবে।

উপসংহার: আপনি যদি রিসোর্সের অভাবের ক্ষেত্রে কাঙ্খিত পডটিকে নোড থেকে বের করে দেওয়ার সম্ভাবনা কমাতে চান, তাহলে অগ্রাধিকারের পাশাপাশি, আপনাকে এটির জন্য একটি অনুরোধ/সীমা নির্ধারণের যত্ন নিতে হবে।

অ্যাপ্লিকেশন পড (HPA) এর অনুভূমিক অটোস্কেলিংয়ের প্রক্রিয়া

যখন কাজটি হয় স্বয়ংক্রিয়ভাবে সম্পদের (সিস্টেম - CPU/RAM বা ব্যবহারকারী - rps) ব্যবহারের উপর নির্ভর করে পডের সংখ্যা বৃদ্ধি এবং হ্রাস করা, যেমন k8s সত্তা HPA (অনুভূমিক পড অটোস্ক্যালার)। যার অ্যালগরিদম নিম্নরূপ:

1. পর্যবেক্ষণ করা সম্পদের বর্তমান রিডিং নির্ধারিত হয় (বর্তমানমেট্রিক ভ্যালু)
2. রিসোর্সের জন্য কাঙ্খিত মান নির্ধারণ করা হয় (কাঙ্খিত মেট্রিক ভ্যালু), যা সিস্টেম রিসোর্সের জন্য অনুরোধ ব্যবহার করে সেট করা হয়
3. প্রতিলিপিগুলির বর্তমান সংখ্যা নির্ধারণ করা হয় (বর্তমান প্রতিরূপ)
4. নিম্নলিখিত সূত্রটি প্রতিলিপিগুলির পছন্দসই সংখ্যা গণনা করে (কাঙ্খিত প্রতিরূপ)
   desiredReplicas = [বর্তমান প্রতিলিপি * (বর্তমানমেট্রিক ভ্যালু / ইচ্ছাকৃত মেট্রিক ভ্যালু)]

এই ক্ষেত্রে, সহগ (currentMetricValue / desiredMetricValue) 1 এর কাছাকাছি হলে স্কেলিং ঘটবে না (এই ক্ষেত্রে, আমরা নিজেরাই অনুমতিযোগ্য ত্রুটি সেট করতে পারি; ডিফল্টরূপে এটি 0.1)।

অ্যাপ-টেস্ট অ্যাপ্লিকেশনের (ডিপ্লয়মেন্ট হিসাবে বর্ণনা করা হয়েছে) উদাহরণ ব্যবহার করে hpa কীভাবে কাজ করে তা দেখা যাক, যেখানে CPU খরচের উপর নির্ভর করে প্রতিলিপিগুলির সংখ্যা পরিবর্তন করা প্রয়োজন:

• অ্যাপ্লিকেশন ম্যানিফেস্ট

  kind: Deployment
  apiVersion: apps/v1beta2
  metadata:
  name: app-test
  spec:
  selector:
  matchLabels:
  app: app-test
  replicas: 2
  template:
  metadata:
  labels:
  app: app-test
  spec:
  containers:
  - name: nginx
  image: registry.nixys.ru/generic-images/nginx
  imagePullPolicy: Always
  resources:
  requests:
  cpu: 60m
  ports:
  - name: http
  containerPort: 80
  - name: nginx-exporter
  image: nginx/nginx-prometheus-exporter
  resources:
  requests:
  cpu: 30m
  ports:
  - name: nginx-exporter
  containerPort: 9113
  args:
  - -nginx.scrape-uri
  - http://127.0.0.1:80/nginx-status

  সেগুলো. আমরা দেখি যে অ্যাপ্লিকেশন পডটি প্রাথমিকভাবে দুটি উদাহরণে চালু করা হয়েছে, যার প্রতিটিতে দুটি nginx এবং nginx-রপ্তানিকারক পাত্র রয়েছে, যার প্রতিটির জন্য একটি নির্দিষ্ট অনুরোধ CPU এর জন্য।

• এইচপিএ ইশতেহার

  apiVersion: autoscaling/v2beta2
  kind: HorizontalPodAutoscaler
  metadata:
  name: app-test-hpa
  spec:
  maxReplicas: 10
  minReplicas: 2
  scaleTargetRef:
  apiVersion: extensions/v1beta1
  kind: Deployment
  name: app-test
  metrics:
  - type: Resource
  resource:
  name: cpu
  target:
  type: Utilization
  averageUtilization: 30

  সেগুলো. আমরা একটি এইচপিএ তৈরি করেছি যা ডিপ্লয়মেন্ট অ্যাপ-পরীক্ষা নিরীক্ষণ করবে এবং সিপিইউ নির্দেশকের উপর ভিত্তি করে অ্যাপ্লিকেশনের সাথে পডের সংখ্যা সামঞ্জস্য করবে (আমরা আশা করি যে পডটি অনুরোধ করা সিপিইউর 30% ব্যবহার করবে), প্রতিলিপির সংখ্যা সহ 2-10 এর পরিসীমা।

  এখন, আসুন এইচপিএ অপারেশনের প্রক্রিয়াটি দেখি যদি আমরা একটি চুলায় লোড প্রয়োগ করি:

   # kubectl top pod
  NAME                                                   CPU(cores)   MEMORY(bytes)
  app-test-78559f8f44-pgs58            101m         243Mi
  app-test-78559f8f44-cj4jz            4m           240Mi

মোট আমাদের নিম্নলিখিত আছে:

• পছন্দসই মান (কাঙ্খিত মেট্রিক ভ্যালু) - এইচপিএ সেটিংস অনুসারে, আমাদের 30% আছে
• বর্তমান মান (currentMetricValue) - গণনার জন্য, নিয়ামক-ব্যবস্থাপক %-এ সম্পদ খরচের গড় মান গণনা করে, অর্থাৎ শর্তসাপেক্ষে নিম্নলিখিতগুলি করে:
  1. মেট্রিক সার্ভার থেকে পড মেট্রিক্সের পরম মান গ্রহণ করে, যেমন 101 মি এবং 4 মি
  2. গড় পরম মান গণনা করে, যেমন (101 মি + 4 মি) / 2 = 53 মি
  3. পছন্দসই সম্পদ খরচের জন্য পরম মান পায় (এর জন্য, সমস্ত কন্টেইনারের অনুরোধগুলি সংক্ষিপ্ত করা হয়) 60m + 30m = 90m
  4. অনুরোধ পডের সাপেক্ষে CPU খরচের গড় শতাংশ গণনা করে, যেমন 53m / 90m * 100% = 59%

প্রতিলিপির সংখ্যা পরিবর্তন করতে হবে কিনা তা নির্ধারণ করার জন্য এখন আমাদের যা দরকার তা রয়েছে; এটি করার জন্য, আমরা সহগ গণনা করি:

ratio = 59% / 30% = 1.96

সেগুলো. প্রতিলিপির সংখ্যা ~2 গুণ বৃদ্ধি করা উচিত এবং পরিমাণ [2 * 1.96] = 4 হওয়া উচিত।

উপসংহার: আপনি দেখতে পাচ্ছেন, এই প্রক্রিয়াটি কাজ করার জন্য, একটি প্রয়োজনীয় শর্ত হল পর্যবেক্ষণ করা পডের সমস্ত পাত্রের জন্য অনুরোধের উপস্থিতি।

নোডের অনুভূমিক অটোস্কেলিংয়ের প্রক্রিয়া (ক্লাস্টার অটোস্কেলার)

লোড বৃদ্ধির সময় সিস্টেমে নেতিবাচক প্রভাবকে নিরপেক্ষ করার জন্য, একটি কনফিগার করা এইচপিএ থাকা যথেষ্ট নয়। উদাহরণস্বরূপ, এইচপিএ কন্ট্রোলার ম্যানেজারের সেটিংস অনুসারে, এটি সিদ্ধান্ত নেয় যে প্রতিলিপিগুলির সংখ্যা 2 গুণ বৃদ্ধি করা দরকার, কিন্তু নোডগুলিতে এতগুলি সংখ্যক পড চালানোর জন্য বিনামূল্যের সংস্থান নেই (অর্থাৎ নোডটি সরবরাহ করতে পারে না। রিকোয়েস্ট পডে রিকোয়েস্ট করা রিসোর্স) এবং এই পডগুলি পেন্ডিং স্টেটে স্যুইচ করে।

এই ক্ষেত্রে, যদি প্রদানকারীর একটি অনুরূপ IaaS/PaaS থাকে (উদাহরণস্বরূপ, GKE/GCE, AKS, EKS, ইত্যাদি), যেমন একটি টুল নোড অটোস্কেলার. এটি আপনাকে ক্লাস্টারে সর্বাধিক এবং সর্বনিম্ন সংখ্যক নোড সেট করতে এবং যখন ক্লাস্টার এবং পডগুলিতে সংস্থানগুলির অভাব থাকে তখন নোডের বর্তমান সংখ্যা (কোনও নোড অর্ডার/সরানোর জন্য ক্লাউড প্রদানকারী API-কে কল করে) স্বয়ংক্রিয়ভাবে সামঞ্জস্য করতে দেয়। নির্ধারিত করা যাবে না (মুলতুবি অবস্থায় আছে)।

উপসংহার: নোড অটোস্কেল করতে সক্ষম হওয়ার জন্য, পড পাত্রে অনুরোধ সেট করা প্রয়োজন যাতে k8s সঠিকভাবে নোডের লোড মূল্যায়ন করতে পারে এবং সেই অনুযায়ী পরবর্তী পড চালু করার জন্য ক্লাস্টারে কোন সংস্থান নেই।

উপসংহার

এটি লক্ষ করা উচিত যে অ্যাপ্লিকেশনটি সফলভাবে চালানোর জন্য ধারক সংস্থান সীমা নির্ধারণ করা একটি প্রয়োজনীয়তা নয়, তবে নিম্নলিখিত কারণে এটি করা আরও ভাল:

1. k8s নোডের মধ্যে লোড ব্যালেন্সিংয়ের ক্ষেত্রে শিডিউলারের আরও সঠিক অপারেশনের জন্য
2. একটি "পড উচ্ছেদ" ঘটনা ঘটার সম্ভাবনা কমাতে
3. অ্যাপ্লিকেশন পড (HPA) এর অনুভূমিক স্বয়ংক্রিয়ভাবে কাজ করার জন্য
4. ক্লাউড প্রদানকারীদের জন্য নোডের অনুভূমিক অটোস্কেলিংয়ের জন্য (ক্লাস্টার অটোস্কেলিং)

এছাড়াও আমাদের ব্লগে অন্যান্য নিবন্ধ পড়ুন:

• টেকটন পাইপলাইন - কুবারনেটেস-নেটিভ পাইপলাইন
• Nginx এর জন্য গতিশীল মডিউল তৈরি করা
• অনুমোদন ছাড়াই ClickHouse থেকে ClickHouse-এ অনুমোদন সহ মাইগ্রেশন কিসের দিকে নিয়ে গেছে?
• গোলং-এ প্রসঙ্গ প্যাকেজ বোঝা
• ডকার ইমেজ সঙ্কুচিত করার তিনটি সহজ কৌশল
• বিপুল সংখ্যক ভিন্নধর্মী ওয়েব প্রকল্পের ব্যাকআপ

উত্স: www.habr.com