Load ntsuas thiab ntsuas cov kev sib txuas ntev ntev hauv Kubernetes

Tsab ntawv xov xwm no yuav pab koj nkag siab tias kev ntsuas qhov ntsuas ua haujlwm li cas hauv Kubernetes, yuav ua li cas thaum ntsuas kev sib txuas ntev ntev, thiab vim li cas koj thiaj li yuav tsum xav txog kev sib npaug ntawm cov neeg siv khoom yog tias koj siv HTTP / 2, gRPC, RSockets, AMQP, lossis lwm yam kev cai nyob ntev. . 

Ib me ntsis txog yuav ua li cas kev tsheb khiav rov qab hauv Kubernetes 

Kubernetes muab ob qho yooj yim abstractions rau deploying applications: Kev Pabcuam thiab Deployments.

Kev xa tawm piav qhia yuav ua li cas thiab pes tsawg daim ntawv luam ntawm koj daim ntawv thov yuav tsum tau khiav ntawm lub sijhawm. Txhua daim ntawv thov raug xa mus ua Pod thiab tau muab qhov chaw nyob IP.

Cov kev pabcuam zoo sib xws hauv kev ua haujlwm rau lub load balancer. Lawv yog tsim los faib cov tsheb khiav mus rau ntau lub pods.

Cia peb saib seb nws zoo li cas.

1. Hauv daim duab hauv qab no koj tuaj yeem pom peb qhov piv txwv ntawm tib daim ntawv thov thiab cov khoom sib npaug:

   

2. Lub load balancer hu ua Kev Pabcuam thiab tau muab tus IP chaw nyob. Txhua qhov kev thov nkag tau raug xa mus rau ib qho ntawm cov pods:

   

3. Qhov xwm txheej xa tawm txiav txim seb muaj pes tsawg zaus ntawm daim ntawv thov. Koj yuav luag tsis tas yuav nthuav tawm ncaj qha hauv qab no:

   

4. Txhua lub pod yog muab nws tus kheej IP chaw nyob:

   

Nws yog ib qho tseem ceeb kom xav txog cov kev pabcuam raws li kev sau ntawm IP chaw nyob. Txhua zaus koj nkag mus rau qhov kev pabcuam, ib qho ntawm qhov chaw nyob IP raug xaiv los ntawm cov npe thiab siv los ua qhov chaw nyob.

Nws zoo li no.

1. Ib qho curl 10.96.45.152 thov tau txais rau qhov kev pabcuam:

   

2. Qhov kev pabcuam xaiv ib qho ntawm peb qhov chaw nyob ntawm qhov chaw nyob raws li qhov chaw nyob:

   

3. Tsheb thauj mus los yog hloov mus rau ib qho chaw tshwj xeeb:

   

Yog tias koj daim ntawv thov muaj cov frontend thiab backend, ces koj yuav muaj ob qho kev pabcuam thiab kev xa mus rau txhua tus.

Thaum lub frontend thov mus rau lub backend, nws tsis tas yuav paub tseeb tias muaj pes tsawg pods lub backend pab: yuav muaj ib, kaum, los yog ib puas.

Tsis tas li ntawd, lub frontend tsis paub dab tsi txog qhov chaw nyob ntawm cov pods pab lub backend.

Thaum lub frontend thov rau lub backend, nws siv qhov chaw nyob IP ntawm qhov kev pabcuam backend, uas tsis hloov.

Qhov no yog qhov nws zoo li.

1. Nyob rau hauv 1 thov lub internal backend tivthaiv. Es tsis txhob xaiv ib qho tshwj xeeb rau qhov backend, nws ua rau kev thov rau kev pabcuam:

   

2. Cov kev pabcuam xaiv ib qho ntawm cov backend pods raws li qhov chaw nyob:

   

3. Kev khiav mus los ntawm Pod 1 mus rau Pod 5, xaiv los ntawm kev pabcuam:

   

4. Nyob rau hauv 1 tsis paub meej pes tsawg pods zoo li nyob rau hauv 5 yog muab zais tom qab qhov kev pab cuam:

   

Tab sis li cas raws nraim qhov kev pab cuam faib kev thov? Nws zoo li kev sib npaug-robin yog siv? Cia peb xav txog nws. 

Sib npaug hauv Kubernetes cov kev pabcuam

Kubernetes cov kev pabcuam tsis muaj nyob. Tsis muaj txheej txheem rau cov kev pabcuam uas tau muab tus IP chaw nyob thiab chaw nres nkoj.

Koj tuaj yeem txheeb xyuas qhov no los ntawm kev nkag mus rau hauv ib qho ntawm cov pawg hauv pawg thiab khiav cov lus txib netstat -ntlp.

Koj tseem tsis tuaj yeem nrhiav tus IP chaw nyob uas muab rau cov kev pabcuam.

Qhov kev pabcuam tus IP chaw nyob yog nyob rau hauv cov txheej txheem tswj, hauv cov maub los, thiab kaw rau hauv database - thiab lwm yam. Tib qhov chaw nyob yog siv los ntawm lwm yam - kube-proxy.
Kube-proxy tau txais ib daim ntawv teev npe IP chaw nyob rau txhua qhov kev pabcuam thiab tsim cov txheej txheem iptables ntawm txhua tus ntawm hauv pawg.

Cov cai no hais tias: "Yog tias peb pom qhov chaw nyob IP ntawm qhov kev pabcuam, peb yuav tsum hloov kho qhov chaw nyob ntawm qhov kev thov thiab xa mus rau ib qho ntawm cov pods."

Qhov kev pabcuam IP chaw nyob tsuas yog siv los ua qhov chaw nkag thiab tsis tau txais kev pabcuam los ntawm cov txheej txheem mloog tus IP chaw nyob thiab chaw nres nkoj.

Cia peb saib qhov no. 

1. Xav txog ib pawg ntawm peb cov nodes. Txhua lub node muaj pods:

   

2. Tied pods pleev xim rau beige yog ib feem ntawm kev pabcuam. Vim tias qhov kev pabcuam tsis muaj nyob raws li tus txheej txheem, nws tau qhia hauv grey:

   

3. Thawj cov pods thov ib qho kev pabcuam thiab yuav tsum mus rau ib qho ntawm cov khoom sib txuas:

   

4. Tab sis qhov kev pabcuam tsis muaj nyob, cov txheej txheem tsis muaj nyob. Nws ua haujlwm li cas?

   

5. Ua ntej qhov kev thov tawm ntawm node, nws mus dhau cov cai iptables:

   

6. Cov cai iptables paub tias qhov kev pabcuam tsis muaj nyob thiab hloov nws qhov chaw nyob IP nrog ib qho ntawm IP chaw nyob ntawm cov pods cuam tshuam nrog cov kev pabcuam ntawd:

   

7. Qhov kev thov tau txais qhov chaw nyob IP uas siv tau raws li qhov chaw nyob thiab ua tiav ib txwm:

   

8. Nyob ntawm lub network topology, qhov kev thov nws thiaj li ncav cuag lub pod:

   

iptables puas tuaj yeem thauj khoom sib npaug?

Tsis yog, iptables yog siv rau kev lim dej thiab tsis tsim los rau kev sib npaug.

Txawm li cas los xij, nws muaj peev xwm sau cov txheej txheem uas ua haujlwm zoo li pseudo-balancer.

Thiab qhov no yog qhov tseeb uas tau siv hauv Kubernetes.

Yog tias koj muaj peb lub plhaub, kube-proxy yuav sau cov cai hauv qab no:

1. Xaiv thawj sub nrog qhov tshwm sim ntawm 33%, txwv tsis pub mus rau txoj cai tom ntej.
2. Xaiv qhov thib ob nrog qhov tshwm sim ntawm 50%, txwv tsis pub mus rau txoj cai tom ntej.
3. Xaiv qhov thib peb hauv qab.

Qhov system no ua rau txhua lub pod raug xaiv nrog qhov tshwm sim ntawm 33%.

Thiab tsis muaj kev lees paub tias Pod 2 yuav raug xaiv tom ntej tom qab Pod 1.

Примечание: iptables siv ib qho kev txheeb cais module nrog random faib. Yog li, qhov ntsuas algorithm yog nyob ntawm kev xaiv random.

Tam sim no koj nkag siab tias cov kev pabcuam ua haujlwm li cas, cia peb saib cov kev pabcuam nthuav dav ntxiv.

Kev sib txuas nyob ntev hauv Kubernetes tsis suav los ntawm lub neej ntawd

Txhua qhov kev thov HTTP los ntawm frontend mus rau backend tau txais kev pabcuam los ntawm kev sib txuas TCP cais, uas tau qhib thiab kaw.

Yog hais tias lub frontend xa 100 thov ib ob mus rau lub backend, ces 100 sib txawv TCP kev twb kev txuas yog qhib thiab kaw.

Koj tuaj yeem txo qhov kev thov ua lub sijhawm thiab thauj khoom los ntawm kev qhib ib qho kev sib txuas TCP thiab siv nws rau txhua qhov kev thov HTTP tom ntej.

HTTP raws tu qauv muaj qhov tshwj xeeb hu ua HTTP kom ciaj sia, lossis kev sib txuas rov siv dua. Hauv qhov no, ib qho kev sib txuas TCP yog siv los xa thiab tau txais ntau qhov kev thov HTTP thiab cov lus teb:

Cov yam ntxwv no tsis tau qhib los ntawm lub neej ntawd: ob tus neeg rau zaub mov thiab cov neeg siv khoom yuav tsum tau teeb tsa raws li.

Kev teeb tsa nws tus kheej yog qhov yooj yim thiab siv tau rau feem ntau cov lus programming thiab ib puag ncig.

Nov yog qee qhov txuas rau cov piv txwv hauv ntau hom lus:

• Keep-alive hauv Node.js
• Khaws- ciaj sia nyob rau hauv lub caij nplooj ntoos hlav khau raj
• Cia li ciaj sia hauv Python
• Keep-alive hauv .NET

Yuav ua li cas yog tias peb siv kom muaj sia nyob hauv Kubernetes kev pabcuam?
Cia peb xav tias ob qho tib si frontend thiab backend txhawb kom muaj sia nyob.

Peb muaj ib daim qauv ntawm frontend thiab peb daim ntawv ntawm lub backend. Lub frontend ua thawj qhov kev thov thiab qhib qhov kev sib txuas TCP rau lub backend. Qhov kev thov mus txog qhov kev pabcuam, ib qho ntawm cov backend pods raug xaiv raws li qhov chaw nyob. Lub backend xa cov lus teb, thiab frontend tau txais nws.

Tsis zoo li qhov xwm txheej ib txwm muaj qhov kev sib txuas TCP raug kaw tom qab tau txais cov lus teb, tam sim no tau qhib rau kev thov HTTP ntxiv.

Yuav ua li cas yog lub frontend xa ntau thov mus rau lub backend?

Txhawm rau xa cov lus thov no, qhib TCP kev sib txuas yuav raug siv, txhua qhov kev thov yuav mus rau tib lub backend qhov twg thawj qhov kev thov mus.

Yuav tsum tsis iptables rov faib cov tsheb khiav?

Tsis yog hauv qhov no.

Thaum TCP kev twb kev txuas raug tsim, nws mus dhau iptables cov cai, uas xaiv ib lub backend tshwj xeeb uas cov tsheb yuav mus.

Txij li tag nrho cov kev thov tom ntej yog nyob rau ntawm qhov twb qhib TCP kev twb kev txuas, iptables cov cai tsis raug hu lawm.

Cia peb saib seb nws zoo li cas.

1. Thawj pod xa ib daim ntawv thov mus rau qhov kev pabcuam:

   

2. Koj twb paub dab tsi yuav tshwm sim tom ntej. Cov kev pabcuam tsis muaj nyob, tab sis muaj cov cai iptables uas yuav ua cov ntawv thov:

   

3. Ib qho ntawm cov backend pods yuav raug xaiv raws li qhov chaw nyob:

   

4. Qhov kev thov ncav cuag lub plhaub. Nyob rau ntawm no, kev txuas TCP txuas ntxiv ntawm ob lub pods yuav raug tsim:

   

5. Ib qho kev thov tom ntej los ntawm thawj lub pod yuav dhau los ntawm kev sib txuas uas twb tau tsim lawm:

   

Qhov tshwm sim yog lub sij hawm teb sai dua thiab ntau dua throughput, tab sis koj poob lub peev xwm los ntsuas qhov backend.

Txawm hais tias koj muaj ob lub pods nyob rau hauv lub backend, nrog rau kev sib txuas tas li, kev khiav tsheb yuav ib txwm mus rau ib qho ntawm lawv.

Qhov no puas tuaj yeem kho tau?

Txij li Kubernetes tsis paub yuav ua li cas sib npaug kev sib txuas tsis tu ncua, txoj haujlwm no poob rau koj.

Cov kev pabcuam yog kev sau ntawm IP chaw nyob thiab cov chaw nres nkoj hu ua endpoints.

Koj daim ntawv thov tuaj yeem tau txais cov npe ntawm qhov kawg ntawm qhov kev pabcuam thiab txiav txim siab seb yuav faib cov lus thov li cas ntawm lawv. Koj tuaj yeem qhib qhov txuas tsis tu ncua rau txhua lub pod thiab sib npaug thov ntawm cov kev sib txuas no siv round-robin.

Los yog thov ntxiv complex ntsuas algorithms.

Tus neeg siv-sab code uas yog lub luag haujlwm rau kev sib npaug yuav tsum ua raws li cov lus qhia no:

1. Tau txais cov npe ntawm qhov kawg ntawm qhov kev pabcuam.
2. Qhib qhov txuas tsis tu ncua rau txhua qhov kawg.
3. Thaum xav tau kev thov, siv ib qho kev sib txuas qhib.
4. Tsis tu ncua hloov cov npe ntawm cov ntsiab lus kawg, tsim cov tshiab lossis kaw cov kev sib txuas tsis tu ncua yog tias daim ntawv hloov pauv.

Qhov no yog qhov nws yuav zoo li.

1. Hloov chaw thawj pod xa cov lus thov mus rau qhov kev pabcuam, koj tuaj yeem sib npaug qhov kev thov ntawm tus neeg siv khoom:

   

2. Koj yuav tsum sau cov lej uas nug seb cov pods twg yog ib feem ntawm qhov kev pabcuam:

   

3. Thaum koj muaj daim ntawv teev npe, txuag nws ntawm tus neeg siv khoom sab thiab siv nws los txuas rau cov pods:

   

4. Koj yog lub luag hauj lwm rau lub load balancing algorithm:

   

Tam sim no cov lus nug tshwm sim: qhov teeb meem no tsuas yog siv rau HTTP kom ciaj sia?

Client-side load balancing

HTTP tsis yog tib txoj cai uas tuaj yeem siv kev sib txuas tsis tu ncua TCP.

Yog tias koj daim ntawv thov siv cov ntaub ntawv, ces qhov kev sib txuas TCP tsis qhib txhua zaus koj xav tau thov lossis muab cov ntaub ntawv los ntawm cov ntaub ntawv. 

Hloov chaw, qhov txuas tsis tu ncua TCP rau cov ntaub ntawv tau qhib thiab siv.

Yog tias koj cov ntaub ntawv khaws cia rau ntawm Kubernetes thiab kev nkag mus tau yog qhov kev pabcuam, ces koj yuav ntsib cov teeb meem tib yam uas tau piav qhia hauv ntu dhau los.

Ib tug database replica yuav ntau loaded dua lwm tus. Kube-proxy thiab Kubernetes yuav tsis pab sib npaug sib txuas. Koj yuav tsum tau saib xyuas kom sib npaug cov lus nug rau koj cov ntaub ntawv.

Nyob ntawm seb lub tsev qiv ntawv twg koj siv los txuas rau cov ntaub ntawv, koj tuaj yeem muaj ntau txoj hauv kev los daws qhov teeb meem no.

Hauv qab no yog ib qho piv txwv ntawm kev nkag mus rau MySQL database cluster los ntawm Node.js:

var mysql = require('mysql');
var poolCluster = mysql.createPoolCluster();

var endpoints = /* retrieve endpoints from the Service */

for (var [index, endpoint] of endpoints) {
  poolCluster.add(`mysql-replica-${index}`, endpoint);
}

// Make queries to the clustered MySQL database

Muaj ntau ntau lwm cov kev cai uas siv kev sib txuas tsis tu ncua TCP:

• WebSockets thiab ruaj ntseg WebSockets
• HTTP / 2
• GRPC
• RSockets
• AMQP

Koj yuav tsum tau paub txog feem ntau ntawm cov txheej txheem no.

Tab sis yog tias cov txheej txheem no nrov heev, vim li cas ho tsis muaj qhov kev ntsuas ntsuas tus qauv? Vim li cas tus neeg siv khoom xav tau hloov pauv? Puas muaj cov tshuaj Kubernetes ib txwm muaj?

Kube-proxy thiab iptables yog tsim los npog cov neeg siv feem ntau thaum xa mus rau Kubernetes. Qhov no yog rau kev yooj yim.

Yog tias koj siv lub vev xaib kev pabcuam uas nthuav tawm REST API, koj muaj hmoo - qhov no, tsis siv TCP txuas ntxiv, koj tuaj yeem siv cov kev pabcuam Kubernetes.

Tab sis thaum koj pib siv cov kev sib txuas tsis tu ncua TCP, koj yuav tsum paub seb yuav ua li cas thiaj li faib cov khoom sib npaug thoob plaws lub backends. Kubernetes tsis muaj cov kev daws teeb meem npaj rau rooj plaub no.

Txawm li cas los xij, yeej muaj cov kev xaiv uas tuaj yeem pab tau.

Ntsuas kev sib txuas nyob ntev hauv Kubernetes

Muaj plaub hom kev pabcuam hauv Kubernetes:

1. ClusterIP
2. NodePort
3. LoadBalancer
4. Lub taub hau

Thawj peb qhov kev pabcuam ua haujlwm raws li qhov chaw nyob IP virtual, uas yog siv los ntawm kube-proxy los tsim cov cai iptables. Tab sis lub hauv paus tseem ceeb ntawm tag nrho cov kev pabcuam yog kev pabcuam tsis muaj taub hau.

Cov kev pabcuam headless tsis muaj qhov chaw nyob IP cuam tshuam nrog nws thiab tsuas yog muab cov txheej txheem rau kev khaws cov npe ntawm IP chaw nyob thiab cov chaw nres nkoj ntawm cov pods (endpoints) cuam tshuam nrog nws.

Txhua qhov kev pabcuam yog ua raws li qhov kev pabcuam tsis muaj taub hau.

Qhov kev pabcuam ClusterIP yog qhov kev pabcuam tsis muaj taub hau nrog qee qhov ntxiv: 

1. Cov txheej txheem tswj hwm muab nws qhov chaw nyob IP.
2. Kube-proxy tsim cov cai iptables tsim nyog.

Txoj kev no koj tuaj yeem tsis quav ntsej kube-proxy thiab siv ncaj qha rau cov npe ntawm cov ntsiab lus kawg tau txais los ntawm cov kev pabcuam headless kom thauj khoom sib npaug koj daim ntawv thov.

Tab sis yuav ua li cas peb ntxiv cov laj thawj zoo sib xws rau txhua daim ntawv thov siv hauv pawg?

Yog tias koj daim ntawv thov twb tau siv lawm, txoj haujlwm no yuav zoo li ua tsis tau. Txawm li cas los xij, muaj lwm txoj kev xaiv.

Service Mesh yuav pab tau koj

Tej zaum koj twb tau pom tias tus neeg siv khoom-sab load ntsuas lub tswv yim yog tus qauv zoo.

Thaum daim ntawv thov pib, nws:

1. Tau txais ib daim ntawv teev npe IP chaw nyob los ntawm kev pabcuam.
2. Qhib thiab tuav lub pas dej sib txuas.
3. Hloov kho lub pas dej ib ntus los ntawm kev ntxiv lossis tshem tawm cov ntsiab lus kawg.

Thaum daim ntawv thov xav thov, nws:

1. Xaiv ib qho kev sib txuas uas siv qee qhov logic (xws li round-robin).
2. Executes qhov kev thov.

Cov kauj ruam no ua haujlwm rau WebSockets, gRPC, thiab AMQP kev sib txuas.

Koj tuaj yeem cais cov logic no rau hauv ib lub tsev qiv ntawv cais thiab siv nws hauv koj daim ntawv thov.

Txawm li cas los xij, koj tuaj yeem siv cov kev pabcuam meshes xws li Istio lossis Linkerd hloov.

Service Mesh augments koj daim ntawv thov nrog ib tug txheej txheem uas:

1. Tsis siv neeg tshawb nrhiav qhov chaw nyob IP chaw nyob.
2. Ntsuas kev sib txuas xws li WebSockets thiab gRPC.
3. Sib npaug thov siv cov txheej txheem kom raug.

Kev Pabcuam Mesh pab tswj kev khiav tsheb hauv pawg, tab sis nws muaj peev xwm siv tau ntau heev. Lwm cov kev xaiv yog siv cov tsev qiv ntawv thib peb xws li Netflix Ribbon lossis programmable proxies zoo li Envoy.

Yuav ua li cas yog tias koj tsis quav ntsej cov teeb meem sib npaug?

Koj tuaj yeem xaiv tsis siv qhov ntsuas load thiab tseem tsis pom muaj kev hloov pauv. Cia peb saib ob peb yam xwm txheej ua haujlwm.

Yog tias koj muaj cov neeg siv ntau dua li cov servers, qhov no tsis yog qhov teeb meem loj.

Cia peb hais tias muaj tsib tus neeg siv khoom txuas rau ob lub servers. Txawm hais tias tsis muaj qhov sib npaug, ob lub servers yuav raug siv:

Kev sib txuas yuav tsis sib npaug: tej zaum plaub tus neeg siv khoom txuas nrog tib lub server, tab sis muaj lub sijhawm zoo uas ob lub servers yuav raug siv.

Dab tsi yog teeb meem ntau dua yog qhov opposite scenario.

Yog tias koj muaj cov neeg siv tsawg dua thiab ntau cov servers, koj cov peev txheej yuav raug siv tsis tau thiab yuav muaj qhov cuam tshuam tsis zoo.

Cia peb hais tias muaj ob tus neeg siv khoom thiab tsib servers. Hauv qhov zoo tshaj plaws, yuav muaj ob qhov txuas mus tas li rau ob lub servers ntawm tsib.

Cov servers ntxiv yuav tsis ua haujlwm:

Yog tias ob lub servers tsis tuaj yeem tswj cov neeg thov kev thov, kev ntsuas kab rov tav yuav tsis pab.

xaus

Cov kev pabcuam Kubernetes yog tsim los ua haujlwm hauv feem ntau cov qauv web application scenarios.

Txawm li cas los xij, thaum koj pib ua haujlwm nrog daim ntawv thov raws tu qauv uas siv TCP txuas ntxiv, xws li databases, gRPC lossis WebSockets, cov kev pabcuam tsis tsim nyog lawm. Kubernetes tsis muab cov txheej txheem sab hauv los ntsuas kev sib txuas tsis tu ncua TCP.

Qhov no txhais tau tias koj yuav tsum sau cov ntawv thov nrog cov neeg siv khoom sib npaug hauv siab.

Pab neeg txhais lus npaj Kubernetes aaS los ntawm Mail.ru.

Dab tsi ntxiv los nyeem ntawm lub ncauj lus:

1. Peb theem ntawm autoscaling hauv Kubernetes thiab yuav siv lawv li cas. 
2. Kubernetes nyob rau hauv lub siab ntawm piracy nrog ib tug qauv rau kev siv.
3. Peb Telegram channel hais txog kev hloov pauv digital.

Tau qhov twg los: www.hab.com