કુબરનેટ્સ: સિસ્ટમ રિસોર્સ મેનેજમેન્ટને ગોઠવવું શા માટે એટલું મહત્વપૂર્ણ છે?

એક નિયમ તરીકે, એપ્લિકેશનને તેની સાચી અને સ્થિર કામગીરી માટે હંમેશા સંસાધનોનો સમર્પિત પૂલ પ્રદાન કરવાની જરૂર છે. પરંતુ જો એક જ પાવર પર ઘણી એપ્લિકેશનો ચાલી રહી હોય તો શું? તેમાંના દરેકને ન્યૂનતમ જરૂરી સંસાધનો કેવી રીતે પ્રદાન કરવા? તમે સંસાધન વપરાશને કેવી રીતે મર્યાદિત કરી શકો છો? નોડ્સ વચ્ચેના ભારને યોગ્ય રીતે કેવી રીતે વિતરિત કરવું? જો એપ્લિકેશન લોડ વધે તો હોરીઝોન્ટલ સ્કેલિંગ મિકેનિઝમ કામ કરે છે તેની ખાતરી કેવી રીતે કરવી?

તમારે સિસ્ટમમાં કયા મુખ્ય પ્રકારનાં સંસાધનો અસ્તિત્વમાં છે તેની સાથે પ્રારંભ કરવાની જરૂર છે - આ, અલબત્ત, પ્રોસેસર સમય અને રેમ છે. k8s માં આ સંસાધન પ્રકારો નીચેના એકમોમાં માપવામાં આવે છે:

• સીપીયુ - કોરોમાં
• રેમ - બાઇટ્સમાં

તદુપરાંત, દરેક સંસાધન માટે બે પ્રકારની આવશ્યકતાઓ સેટ કરવી શક્ય છે - વિનંતીઓ и મર્યાદા. વિનંતીઓ - કન્ટેનર (અને એકંદરે પોડ) ચલાવવા માટે નોડના મફત સંસાધનો માટેની ન્યૂનતમ આવશ્યકતાઓનું વર્ણન કરે છે, જ્યારે મર્યાદા કન્ટેનર માટે ઉપલબ્ધ સંસાધનો પર સખત મર્યાદા સેટ કરે છે.

તે સમજવું અગત્યનું છે કે મેનિફેસ્ટમાં બંને પ્રકારોને સ્પષ્ટપણે વ્યાખ્યાયિત કરવાની જરૂર નથી, પરંતુ વર્તન નીચે મુજબ હશે:

• જો સંસાધનની માત્ર મર્યાદાઓ સ્પષ્ટપણે નિર્દિષ્ટ કરવામાં આવી હોય, તો પછી આ સંસાધન માટેની વિનંતીઓ આપમેળે મર્યાદાની બરાબર મૂલ્ય લે છે (તમે વર્ણન કરતી સંસ્થાઓને કૉલ કરીને આને ચકાસી શકો છો). તે. હકીકતમાં, કન્ટેનર તેને ચલાવવા માટે જરૂરી સંસાધનોની સમાન રકમ સુધી મર્યાદિત હશે.
• જો સંસાધન માટે માત્ર વિનંતીઓ સ્પષ્ટપણે ઉલ્લેખિત હોય, તો પછી આ સંસાધન પર કોઈ ઉપલા પ્રતિબંધો સેટ કરવામાં આવતા નથી - એટલે કે. કન્ટેનર ફક્ત નોડના સંસાધનો દ્વારા મર્યાદિત છે.

સંસાધન સંચાલનને માત્ર ચોક્કસ કન્ટેનરના સ્તરે જ નહીં, પણ નીચેની સંસ્થાઓનો ઉપયોગ કરીને નેમસ્પેસ સ્તરે પણ ગોઠવવાનું શક્ય છે:

• લિમિટરેન્જ — ns માં કન્ટેનર/પોડ સ્તર પર પ્રતિબંધ નીતિનું વર્ણન કરે છે અને કન્ટેનર/પોડ પરની ડિફૉલ્ટ મર્યાદાઓનું વર્ણન કરવા તેમજ દેખીતી રીતે ચરબીયુક્ત કન્ટેનર/પોડ્સ (અથવા તેનાથી વિપરીત) ની રચના અટકાવવા માટે, તેમની સંખ્યા મર્યાદિત કરવા માટે જરૂરી છે. અને મર્યાદાઓ અને વિનંતીઓમાં મૂલ્યોમાં સંભવિત તફાવત નક્કી કરો
• રિસોર્સક્વોટા - એનએસમાંના તમામ કન્ટેનર માટે સામાન્ય રીતે પ્રતિબંધ નીતિનું વર્ણન કરો અને તેનો ઉપયોગ, એક નિયમ તરીકે, પર્યાવરણો વચ્ચે સંસાધનોને સીમિત કરવા માટે થાય છે (જ્યારે પર્યાવરણોને નોડ સ્તરે સખત રીતે સીમાંકન ન હોય ત્યારે ઉપયોગી)

નીચેના મેનિફેસ્ટના ઉદાહરણો છે જે સંસાધન મર્યાદા સેટ કરે છે:

• ચોક્કસ કન્ટેનર સ્તર પર:

  containers:
  - name: app-nginx
    image: nginx
    resources:
      requests:
        memory: 1Gi
      limits:
        cpu: 200m

  તે. આ કિસ્સામાં, nginx સાથે કન્ટેનર ચલાવવા માટે, તમારે નોડ પર ઓછામાં ઓછી 1G ફ્રી RAM અને 0.2 CPUની જરૂર પડશે, જ્યારે વધુમાં વધુ કન્ટેનર 0.2 CPU અને નોડ પર ઉપલબ્ધ તમામ RAM નો ઉપયોગ કરી શકે છે.

• પૂર્ણાંક સ્તરે ns:

  apiVersion: v1
  kind: ResourceQuota
  metadata:
    name: nxs-test
  spec:
    hard:
      requests.cpu: 300m
      requests.memory: 1Gi
      limits.cpu: 700m
      limits.memory: 2Gi

  તે. ડિફૉલ્ટ એનએસમાં તમામ વિનંતી કન્ટેનરનો સરવાળો CPU માટે 300m અને OP માટે 1G કરતાં વધુ ન હોઈ શકે અને તમામ મર્યાદાનો સરવાળો CPU માટે 700m અને OP માટે 2G છે.

• એનએસમાં કન્ટેનર માટે ડિફૉલ્ટ મર્યાદા:

  apiVersion: v1
  kind: LimitRange
  metadata:
    name: nxs-limit-per-container
  spec:
   limits:
     - type: Container
       defaultRequest:
         cpu: 100m
         memory: 1Gi
       default:
         cpu: 1
         memory: 2Gi
       min:
         cpu: 50m
         memory: 500Mi
       max:
         cpu: 2
         memory: 4Gi

  તે. બધા કન્ટેનર માટે ડિફોલ્ટ નેમસ્પેસમાં, વિનંતી CPU માટે 100m અને OP માટે 1G, મર્યાદા - 1 CPU અને 2G પર સેટ કરવામાં આવશે. તે જ સમયે, CPU (50m < x < 2) અને RAM (500M < x < 4G) માટે વિનંતી/મર્યાદામાં સંભવિત મૂલ્યો પર પણ મર્યાદા સેટ કરવામાં આવી છે.

• પોડ-લેવલ પ્રતિબંધો ns:

  apiVersion: v1
  kind: LimitRange
  metadata:
   name: nxs-limit-pod
  spec:
   limits:
   - type: Pod
     max:
       cpu: 4
       memory: 1Gi

  તે. ડિફોલ્ટ એનએસમાં દરેક પોડ માટે 4 vCPU અને 1G ની મર્યાદા હશે.

હવે હું તમને જણાવવા માંગુ છું કે આ પ્રતિબંધો સેટ કરવાથી આપણને કયા ફાયદા મળી શકે છે.

નોડ્સ વચ્ચે લોડ બેલેન્સિંગ મિકેનિઝમ

જેમ તમે જાણો છો, k8s ઘટક નોડ્સ વચ્ચે શીંગોના વિતરણ માટે જવાબદાર છે, જેમ કે સુનિશ્ચિત, જે ચોક્કસ અલ્ગોરિધમ મુજબ કામ કરે છે. લોન્ચ કરવા માટે શ્રેષ્ઠ નોડ પસંદ કરતી વખતે આ અલ્ગોરિધમ બે તબક્કામાંથી પસાર થાય છે:

1. ફિલ્ટરિંગ
2. રેન્જિંગ

તે. વર્ણવેલ નીતિ અનુસાર, ગાંઠો શરૂઆતમાં પસંદ કરવામાં આવે છે જેના પર સેટના આધારે પોડ લોન્ચ કરવાનું શક્ય છે આગાહી કરે છે (નોડમાં પોડ ચલાવવા માટે પૂરતા સંસાધનો છે કે કેમ તે તપાસવા સહિત - PodFitsResources), અને પછી આ દરેક નોડ માટે પ્રાથમિકતાઓ પોઈન્ટ આપવામાં આવે છે (જેમાં નોડમાં જેટલા વધુ મફત સંસાધનો હોય છે, તેટલા વધુ પોઈન્ટ તેને અસાઇન કરવામાં આવે છે - LeastResourceAllocation/LeastRequestedPriority/BalancedResourceAllocation) અને પોડ સૌથી વધુ પોઈન્ટ સાથે નોડ પર લોન્ચ કરવામાં આવે છે (જો એક સાથે અનેક નોડ્સ આ સ્થિતિને સંતોષે છે, તો પછી એક રેન્ડમ પસંદ થયેલ છે).

તે જ સમયે, તમારે એ સમજવાની જરૂર છે કે શેડ્યૂલર, નોડના ઉપલબ્ધ સંસાધનોનું મૂલ્યાંકન કરતી વખતે, વગેરેમાં સંગ્રહિત ડેટા દ્વારા માર્ગદર્શન આપવામાં આવે છે - એટલે કે. આ નોડ પર ચાલતા દરેક પોડના વિનંતી કરેલ/મર્યાદા સ્ત્રોતની રકમ માટે, પરંતુ વાસ્તવિક સંસાધન વપરાશ માટે નહીં. આ માહિતી કમાન્ડ આઉટપુટમાંથી મેળવી શકાય છે kubectl describe node $NODE, ઉદાહરણ તરીકે:

# kubectl describe nodes nxs-k8s-s1
..
Non-terminated Pods:         (9 in total)
  Namespace                  Name                                         CPU Requests  CPU Limits  Memory Requests  Memory Limits  AGE
  ---------                  ----                                         ------------  ----------  ---------------  -------------  ---
  ingress-nginx              nginx-ingress-controller-754b85bf44-qkt2t    0 (0%)        0 (0%)      0 (0%)           0 (0%)         233d
  kube-system                kube-flannel-26bl4                           150m (0%)     300m (1%)   64M (0%)         500M (1%)      233d
  kube-system                kube-proxy-exporter-cb629                    0 (0%)        0 (0%)      0 (0%)           0 (0%)         233d
  kube-system                kube-proxy-x9fsc                             0 (0%)        0 (0%)      0 (0%)           0 (0%)         233d
  kube-system                nginx-proxy-k8s-worker-s1                    25m (0%)      300m (1%)   32M (0%)         512M (1%)      233d
  nxs-monitoring             alertmanager-main-1                          100m (0%)     100m (0%)   425Mi (1%)       25Mi (0%)      233d
  nxs-logging                filebeat-lmsmp                               100m (0%)     0 (0%)      100Mi (0%)       200Mi (0%)     233d
  nxs-monitoring             node-exporter-v4gdq                          112m (0%)     122m (0%)   200Mi (0%)       220Mi (0%)     233d
Allocated resources:
  (Total limits may be over 100 percent, i.e., overcommitted.)
  Resource           Requests           Limits
  --------           --------           ------
  cpu                487m (3%)          822m (5%)
  memory             15856217600 (2%)  749976320 (3%)
  ephemeral-storage  0 (0%)             0 (0%)

અહીં આપણે ચોક્કસ નોડ પર ચાલતા તમામ પોડ્સ, તેમજ દરેક પોડ વિનંતી કરે છે તે સંસાધનો જોઈએ છીએ. અને જ્યારે cronjob-cron-events-1573793820-xt6q9 પોડ લૉન્ચ કરવામાં આવે ત્યારે શેડ્યૂલર લૉગ્સ કેવા દેખાય છે તે અહીં છે (આ માહિતી શેડ્યૂલર લૉગમાં દેખાશે જ્યારે લૉન્ચ કમાન્ડની દલીલોમાં 10મું લૉગિંગ લેવલ સેટ થશે -v=10 ):

લોગ

I1115 07:57:21.637791       1 scheduling_queue.go:908] About to try and schedule pod nxs-stage/cronjob-cron-events-1573793820-xt6q9                                                                                                                                           
I1115 07:57:21.637804       1 scheduler.go:453] Attempting to schedule pod: nxs-stage/cronjob-cron-events-1573793820-xt6q9                                                                                                                                                    
I1115 07:57:21.638285       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s5 is allowed, Node is running only 16 out of 110 Pods.                                                                               
I1115 07:57:21.638300       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s6 is allowed, Node is running only 20 out of 110 Pods.                                                                               
I1115 07:57:21.638322       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s3 is allowed, Node is running only 20 out of 110 Pods.                                                                               
I1115 07:57:21.638322       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s4 is allowed, Node is running only 17 out of 110 Pods.                                                                               
I1115 07:57:21.638334       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s10 is allowed, Node is running only 16 out of 110 Pods.                                                                              
I1115 07:57:21.638365       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s12 is allowed, Node is running only 9 out of 110 Pods.                                                                               
I1115 07:57:21.638334       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s11 is allowed, Node is running only 11 out of 110 Pods.                                                                              
I1115 07:57:21.638385       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s1 is allowed, Node is running only 19 out of 110 Pods.                                                                               
I1115 07:57:21.638402       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s2 is allowed, Node is running only 21 out of 110 Pods.                                                                               
I1115 07:57:21.638383       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s9 is allowed, Node is running only 16 out of 110 Pods.                                                                               
I1115 07:57:21.638335       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s8 is allowed, Node is running only 18 out of 110 Pods.                                                                               
I1115 07:57:21.638408       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s13 is allowed, Node is running only 8 out of 110 Pods.                                                                               
I1115 07:57:21.638478       1 predicates.go:1369] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s10 is allowed, existing pods anti-affinity terms satisfied.                                                                         
I1115 07:57:21.638505       1 predicates.go:1369] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s8 is allowed, existing pods anti-affinity terms satisfied.                                                                          
I1115 07:57:21.638577       1 predicates.go:1369] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s9 is allowed, existing pods anti-affinity terms satisfied.                                                                          
I1115 07:57:21.638583       1 predicates.go:829] Schedule Pod nxs-stage/cronjob-cron-events-1573793820-xt6q9 on Node nxs-k8s-s7 is allowed, Node is running only 25 out of 110 Pods.                                                                               
I1115 07:57:21.638932       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: BalancedResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 2343 millicores 9640186880 memory bytes, score 9        
I1115 07:57:21.638946       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: LeastResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 2343 millicores 9640186880 memory bytes, score 8           
I1115 07:57:21.638961       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: BalancedResourceAllocation, capacity 39900 millicores 66620170240 memory bytes, total request 4107 millicores 11307422720 memory bytes, score 9        
I1115 07:57:21.638971       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: BalancedResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 5847 millicores 24333637120 memory bytes, score 7        
I1115 07:57:21.638975       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: LeastResourceAllocation, capacity 39900 millicores 66620170240 memory bytes, total request 4107 millicores 11307422720 memory bytes, score 8           
I1115 07:57:21.638990       1 resource_allocation.go:78] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: LeastResourceAllocation, capacity 39900 millicores 66620178432 memory bytes, total request 5847 millicores 24333637120 memory bytes, score 7           
I1115 07:57:21.639022       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s10: TaintTolerationPriority, Score: (10)                                                                                                        
I1115 07:57:21.639030       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s8: TaintTolerationPriority, Score: (10)                                                                                                         
I1115 07:57:21.639034       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s9: TaintTolerationPriority, Score: (10)                                                                                                         
I1115 07:57:21.639041       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s10: NodeAffinityPriority, Score: (0)                                                                                                            
I1115 07:57:21.639053       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s8: NodeAffinityPriority, Score: (0)                                                                                                             
I1115 07:57:21.639059       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s9: NodeAffinityPriority, Score: (0)                                                                                                             
I1115 07:57:21.639061       1 interpod_affinity.go:237] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: InterPodAffinityPriority, Score: (0)                                                                                                                   
I1115 07:57:21.639063       1 selector_spreading.go:146] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s10: SelectorSpreadPriority, Score: (10)                                                                                                                   
I1115 07:57:21.639073       1 interpod_affinity.go:237] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: InterPodAffinityPriority, Score: (0)                                                                                                                    
I1115 07:57:21.639077       1 selector_spreading.go:146] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s8: SelectorSpreadPriority, Score: (10)                                                                                                                    
I1115 07:57:21.639085       1 interpod_affinity.go:237] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: InterPodAffinityPriority, Score: (0)                                                                                                                    
I1115 07:57:21.639088       1 selector_spreading.go:146] cronjob-cron-events-1573793820-xt6q9 -> nxs-k8s-s9: SelectorSpreadPriority, Score: (10)                                                                                                                    
I1115 07:57:21.639103       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s10: SelectorSpreadPriority, Score: (10)                                                                                                         
I1115 07:57:21.639109       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s8: SelectorSpreadPriority, Score: (10)                                                                                                          
I1115 07:57:21.639114       1 generic_scheduler.go:726] cronjob-cron-events-1573793820-xt6q9_nxs-stage -> nxs-k8s-s9: SelectorSpreadPriority, Score: (10)                                                                                                          
I1115 07:57:21.639127       1 generic_scheduler.go:781] Host nxs-k8s-s10 => Score 100037                                                                                                                                                                            
I1115 07:57:21.639150       1 generic_scheduler.go:781] Host nxs-k8s-s8 => Score 100034                                                                                                                                                                             
I1115 07:57:21.639154       1 generic_scheduler.go:781] Host nxs-k8s-s9 => Score 100037                                                                                                                                                                             
I1115 07:57:21.639267       1 scheduler_binder.go:269] AssumePodVolumes for pod "nxs-stage/cronjob-cron-events-1573793820-xt6q9", node "nxs-k8s-s10"                                                                                                               
I1115 07:57:21.639286       1 scheduler_binder.go:279] AssumePodVolumes for pod "nxs-stage/cronjob-cron-events-1573793820-xt6q9", node "nxs-k8s-s10": all PVCs bound and nothing to do                                                                             
I1115 07:57:21.639333       1 factory.go:733] Attempting to bind cronjob-cron-events-1573793820-xt6q9 to nxs-k8s-s10

અહીં આપણે જોઈએ છીએ કે શરૂઆતમાં શેડ્યૂલર 3 નોડ્સની સૂચિને ફિલ્ટર કરે છે અને જનરેટ કરે છે જેના પર તેને લોન્ચ કરી શકાય છે (nxs-k8s-s8, nxs-k8s-s9, nxs-k8s-s10). પછી તે સૌથી યોગ્ય નોડ નક્કી કરવા માટે આ દરેક નોડ માટે કેટલાક પરિમાણો (સંતુલિત સંસાધન ફાળવણી, LeastResourceAllocation સહિત)ના આધારે સ્કોર્સની ગણતરી કરે છે. આખરે, પોડ નોડ પર સૌથી વધુ પોઈન્ટ સાથે સુનિશ્ચિત થયેલ છે (અહીં બે નોડમાં એક સાથે પોઈન્ટની સમાન સંખ્યા 100037 છે, તેથી રેન્ડમ એક પસંદ કરવામાં આવે છે - nxs-k8s-s10).

નિષ્કર્ષ: જો નોડ પોડ્સ ચલાવે છે જેના માટે કોઈ પ્રતિબંધો સેટ નથી, તો k8s માટે (સંસાધન વપરાશના દૃષ્ટિકોણથી) આ સમાન હશે જાણે કે આ નોડ પર આવા કોઈ પોડ્સ જ ન હોય. તેથી, જો તમારી પાસે, શરતી રીતે, એક ખાઉધરા પ્રક્રિયા (ઉદાહરણ તરીકે, wowza) સાથે પોડ હોય અને તેના માટે કોઈ નિયંત્રણો ન હોય, તો પરિસ્થિતિ ઊભી થઈ શકે છે જ્યારે આ પોડ ખરેખર નોડના તમામ સંસાધનો ખાય છે, પરંતુ k8s માટે આ નોડ અનલોડ થયેલ ગણવામાં આવે છે અને તેને નોડ તરીકે (ચોક્કસપણે ઉપલબ્ધ સંસાધનોનું મૂલ્યાંકન કરતા પોઈન્ટમાં) ક્રમાંકિત કરતી વખતે સમાન સંખ્યામાં પોઈન્ટ આપવામાં આવશે, જેમાં કાર્યકારી પોડ્સ નથી, જે આખરે નોડ્સ વચ્ચેના ભારનું અસમાન વિતરણ તરફ દોરી શકે છે.

પોડની હકાલપટ્ટી

જેમ તમે જાણો છો, દરેક પોડને 3 QoS વર્ગોમાંથી એક સોંપવામાં આવે છે:

1. ખાતરીપૂર્વક - જ્યારે પોડમાં દરેક કન્ટેનર માટે મેમરી અને સીપીયુ માટે વિનંતી અને મર્યાદા નિર્દિષ્ટ કરવામાં આવે ત્યારે સોંપવામાં આવે છે, અને આ મૂલ્યો મેળ ખાતા હોવા જોઈએ
2. વિસ્ફોટ કરી શકાય તેવું - પોડમાં ઓછામાં ઓછા એક કન્ટેનરમાં વિનંતી અને મર્યાદા હોય છે, વિનંતી < મર્યાદા સાથે
3. ઉત્તમ પ્રયત્ન - જ્યારે પોડમાં એક પણ કન્ટેનર સંસાધન મર્યાદિત ન હોય

તે જ સમયે, જ્યારે નોડ સંસાધનોનો અભાવ (ડિસ્ક, મેમરી) અનુભવે છે, ત્યારે કુબેલેટ પોડ અને તેના QoS વર્ગની પ્રાથમિકતાને ધ્યાનમાં લેતા ચોક્કસ અલ્ગોરિધમ અનુસાર પોડ્સને ક્રમ આપવા અને બહાર કાઢવાનું શરૂ કરે છે. ઉદાહરણ તરીકે, જો આપણે RAM વિશે વાત કરી રહ્યા છીએ, તો પછી QoS વર્ગના આધારે, નીચેના સિદ્ધાંત અનુસાર પોઈન્ટ આપવામાં આવે છે:

• ખાતરી આપી:-998
• ઉત્તમ પ્રયત્ન: 1000
• છલકાતું: મિનિટ(મહત્તમ(2, 1000 - (1000 * મેમરી રિક્વેસ્ટબાઇટ્સ) / મશીનમેમોરી કેપેસિટીબાઇટ્સ), 999)

તે. સમાન અગ્રતા સાથે, કુબેલેટ પ્રથમ નોડમાંથી શ્રેષ્ઠ પ્રયાસ QoS વર્ગ સાથે પોડ્સને બહાર કાઢશે.

નિષ્કર્ષ: જો તમે તેના પર સંસાધનોની અછતની સ્થિતિમાં ઇચ્છિત પોડને નોડમાંથી બહાર કાઢવાની સંભાવનાને ઘટાડવા માંગતા હો, તો અગ્રતાની સાથે, તમારે તેના માટેની વિનંતી/મર્યાદા સેટ કરવાની પણ કાળજી લેવાની જરૂર છે.

એપ્લિકેશન પોડ્સ (HPA) ના આડા ઓટોસ્કેલિંગ માટેની પદ્ધતિ

જ્યારે કાર્ય સંસાધનોના ઉપયોગ (સિસ્ટમ - CPU/RAM અથવા વપરાશકર્તા - rps) ના આધારે પોડ્સની સંખ્યાને આપમેળે વધારવા અને ઘટાડવાનું હોય છે, જેમ કે k8s એન્ટિટી એચપીએ (હોરિઝોન્ટલ પોડ ઓટોસ્કેલર). જેનું અલ્ગોરિધમ નીચે મુજબ છે.

1. અવલોકન કરેલ સંસાધનના વર્તમાન રીડિંગ્સ નક્કી કરવામાં આવે છે (વર્તમાનમેટ્રિક મૂલ્ય)
2. સંસાધન માટે ઇચ્છિત મૂલ્યો નક્કી કરવામાં આવે છે (desiredMetricValue), જે સિસ્ટમ સ્રોતો માટે વિનંતીનો ઉપયોગ કરીને સેટ કરવામાં આવે છે
3. પ્રતિકૃતિઓની વર્તમાન સંખ્યા નિર્ધારિત છે (વર્તમાન પ્રતિકૃતિઓ)
4. નીચેનું સૂત્ર પ્રતિકૃતિઓની ઇચ્છિત સંખ્યાની ગણતરી કરે છે (ઇચ્છિત પ્રતિકૃતિઓ)
   ઇચ્છિત પ્રતિકૃતિઓ = [ વર્તમાન પ્રતિકૃતિઓ * (વર્તમાનમેટ્રિકવેલ્યુ / ઇચ્છિતમેટ્રિકવેલ્યુ)]

આ કિસ્સામાં, જ્યારે ગુણાંક (currentMetricValue / desiredMetricValue) 1 ની નજીક હોય ત્યારે સ્કેલિંગ થશે નહીં (આ કિસ્સામાં, અમે અનુમતિપાત્ર ભૂલ જાતે સેટ કરી શકીએ છીએ; મૂળભૂત રીતે તે 0.1 છે).

ચાલો જોઈએ કે એપ-ટેસ્ટ એપ્લિકેશન (ડિપ્લોયમેન્ટ તરીકે વર્ણવેલ) ના ઉદાહરણનો ઉપયોગ કરીને hpa કેવી રીતે કાર્ય કરે છે, જ્યાં CPU વપરાશના આધારે પ્રતિકૃતિઓની સંખ્યા બદલવી જરૂરી છે:

• એપ્લિકેશન મેનિફેસ્ટ

  kind: Deployment
  apiVersion: apps/v1beta2
  metadata:
  name: app-test
  spec:
  selector:
  matchLabels:
  app: app-test
  replicas: 2
  template:
  metadata:
  labels:
  app: app-test
  spec:
  containers:
  - name: nginx
  image: registry.nixys.ru/generic-images/nginx
  imagePullPolicy: Always
  resources:
  requests:
  cpu: 60m
  ports:
  - name: http
  containerPort: 80
  - name: nginx-exporter
  image: nginx/nginx-prometheus-exporter
  resources:
  requests:
  cpu: 30m
  ports:
  - name: nginx-exporter
  containerPort: 9113
  args:
  - -nginx.scrape-uri
  - http://127.0.0.1:80/nginx-status

  તે. આપણે જોઈએ છીએ કે એપ્લિકેશન પોડ શરૂઆતમાં બે દાખલાઓમાં લોન્ચ કરવામાં આવે છે, જેમાંના દરેકમાં બે nginx અને nginx-નિકાસકર્તા કન્ટેનર હોય છે, જેમાંથી પ્રત્યેક માટે એક ઉલ્લેખિત વિનંતીઓ CPU માટે.

• HPA મેનિફેસ્ટો

  apiVersion: autoscaling/v2beta2
  kind: HorizontalPodAutoscaler
  metadata:
  name: app-test-hpa
  spec:
  maxReplicas: 10
  minReplicas: 2
  scaleTargetRef:
  apiVersion: extensions/v1beta1
  kind: Deployment
  name: app-test
  metrics:
  - type: Resource
  resource:
  name: cpu
  target:
  type: Utilization
  averageUtilization: 30

  તે. અમે એક એચપીએ બનાવ્યું છે જે ડિપ્લોયમેન્ટ એપ-ટેસ્ટનું નિરીક્ષણ કરશે અને સીપીયુ સૂચકના આધારે એપ્લિકેશન સાથે પોડની સંખ્યાને સમાયોજિત કરશે (અમે અપેક્ષા રાખીએ છીએ કે પોડ તે વિનંતી કરે છે તે સીપીયુનો 30% ઉપયોગ કરે છે), પ્રતિકૃતિઓની સંખ્યા સાથે 2-10 ની રેન્જ.

  હવે, ચાલો એચપીએ ઓપરેશનની પદ્ધતિ જોઈએ જો આપણે કોઈ એક હર્થ પર ભાર લાગુ કરીએ:

   # kubectl top pod
  NAME                                                   CPU(cores)   MEMORY(bytes)
  app-test-78559f8f44-pgs58            101m         243Mi
  app-test-78559f8f44-cj4jz            4m           240Mi

કુલ મળીને અમારી પાસે નીચેના છે:

• ઇચ્છિત મૂલ્ય (ઇચ્છિત મેટ્રિકવેલ્યુ) - એચપીએ સેટિંગ્સ અનુસાર, અમારી પાસે 30% છે
• વર્તમાન મૂલ્ય (currentMetricValue) - ગણતરી માટે, નિયંત્રક-મેનેજર % માં સંસાધન વપરાશના સરેરાશ મૂલ્યની ગણતરી કરે છે, એટલે કે. શરતી રીતે નીચેના કરે છે:
  1. મેટ્રિક સર્વરમાંથી પોડ મેટ્રિક્સના સંપૂર્ણ મૂલ્યો પ્રાપ્ત કરે છે, એટલે કે. 101 મી અને 4 મી
  2. સરેરાશ નિરપેક્ષ મૂલ્યની ગણતરી કરે છે, એટલે કે. (101m + 4m) / 2 = 53m
  3. ઇચ્છિત સંસાધન વપરાશ માટે સંપૂર્ણ મૂલ્ય મેળવે છે (આ માટે, તમામ કન્ટેનરની વિનંતીઓનો સારાંશ આપવામાં આવે છે) 60m + 30m = 90m
  4. વિનંતી પોડની તુલનામાં CPU વપરાશની સરેરાશ ટકાવારીની ગણતરી કરે છે, એટલે કે. 53 મી / 90 મી * 100% = 59%

હવે આપણી પાસે પ્રતિકૃતિઓની સંખ્યા બદલવાની જરૂર છે કે કેમ તે નિર્ધારિત કરવા માટે જરૂરી બધું છે; આ કરવા માટે, અમે ગુણાંકની ગણતરી કરીએ છીએ:

ratio = 59% / 30% = 1.96

તે. પ્રતિકૃતિઓની સંખ્યામાં ~2 ગણો વધારો કરવો જોઈએ અને તેની રકમ [2 * 1.96] = 4 હોવી જોઈએ.

ઉપસંહાર: જેમ તમે જોઈ શકો છો, આ મિકેનિઝમ કામ કરવા માટે, એક આવશ્યક સ્થિતિ એ અવલોકન કરેલ પોડમાં તમામ કન્ટેનર માટેની વિનંતીઓની હાજરી છે.

નોડ્સના આડા ઓટોસ્કેલિંગ માટેની પદ્ધતિ (ક્લસ્ટર ઓટોસ્કેલર)

લોડ વધતી વખતે સિસ્ટમ પરની નકારાત્મક અસરને બેઅસર કરવા માટે, રૂપરેખાંકિત એચપીએ હોવું પૂરતું નથી. ઉદાહરણ તરીકે, hpa કંટ્રોલર મેનેજરની સેટિંગ્સ અનુસાર, તે નક્કી કરે છે કે પ્રતિકૃતિઓની સંખ્યામાં 2 ગણો વધારો કરવાની જરૂર છે, પરંતુ નોડ્સ પાસે આવા સંખ્યાબંધ પોડ્સ ચલાવવા માટે મફત સંસાધનો નથી (એટલે ​​​​કે નોડ પ્રદાન કરી શકતું નથી. રિક્વેસ્ટ પોડમાં સંસાધનોની વિનંતી કરી) અને આ પોડ્સ બાકી સ્થિતિમાં સ્વિચ કરે છે.

આ કિસ્સામાં, જો પ્રદાતા પાસે અનુરૂપ IaaS/PaaS હોય (ઉદાહરણ તરીકે, GKE/GCE, AKS, EKS, વગેરે), જેમ કે સાધન નોડ ઓટોસ્કેલર. તે તમને ક્લસ્ટરમાં નોડ્સની મહત્તમ અને ન્યૂનતમ સંખ્યા સેટ કરવાની અને જ્યારે ક્લસ્ટર અને પોડ્સમાં સંસાધનોની અછત હોય ત્યારે નોડ્સની વર્તમાન સંખ્યા (નોડને ઓર્ડર/દૂર કરવા માટે ક્લાઉડ પ્રદાતા API ને કૉલ કરીને) આપમેળે ગોઠવવાની મંજૂરી આપે છે. સુનિશ્ચિત કરી શકાતું નથી (બાકી સ્થિતિમાં છે).

ઉપસંહાર: નોડ્સને ઓટોસ્કેલ કરવામાં સક્ષમ થવા માટે, પોડ કન્ટેનરમાં વિનંતીઓ સેટ કરવી જરૂરી છે જેથી k8s નોડ્સ પરના ભારનું યોગ્ય મૂલ્યાંકન કરી શકે અને તે મુજબ આગળના પોડને લોંચ કરવા માટે ક્લસ્ટરમાં કોઈ સંસાધનો નથી.

નિષ્કર્ષ

એ નોંધવું જોઈએ કે એપ્લિકેશનને સફળતાપૂર્વક ચલાવવા માટે કન્ટેનર સંસાધન મર્યાદા સેટ કરવી જરૂરી નથી, પરંતુ નીચેના કારણોસર આમ કરવું વધુ સારું છે:

1. k8s નોડ્સ વચ્ચે લોડ બેલેન્સિંગના સંદર્ભમાં શેડ્યૂલરની વધુ સચોટ કામગીરી માટે
2. "પોડ ઇવિક્શન" ઇવેન્ટ થવાની સંભાવનાને ઘટાડવા માટે
3. એપ્લીકેશન પોડ્સ (HPA) ના આડા ઓટોસ્કેલિંગ કામ કરવા માટે
4. ક્લાઉડ પ્રદાતાઓ માટે નોડ્સના આડા ઓટોસ્કેલિંગ (ક્લસ્ટર ઓટોસ્કેલિંગ) માટે

અમારા બ્લોગ પર અન્ય લેખો પણ વાંચો:

• ટેકટન પાઈપલાઈન - કુબરનેટસ-નેટિવ પાઈપલાઈન
• Nginx માટે ડાયનેમિક મોડ્યુલ બનાવવું
• અધિકૃતતા સાથે ક્લિકહાઉસમાંથી અધિકૃતતા વિના ક્લિકહાઉસમાં સ્થાનાંતરણ શું તરફ દોરી ગયું?
• ગોલાંગમાં સંદર્ભ પેકેજને સમજવું
• ડોકર છબીઓને સંકોચવાની ત્રણ સરળ યુક્તિઓ
• મોટી સંખ્યામાં વિજાતીય વેબ પ્રોજેક્ટ્સનો બેકઅપ

સોર્સ: www.habr.com