🥇Ho leka-lekanya le ho holisa likhokahano tsa nako e telele ho Kubernetes

Sengoliloeng sena se tla u thusa ho utloisisa hore na ho leka-lekanya mojaro ho sebetsa joang Kubernetes, ho etsahala'ng ha u phahamisa likhokahano tsa nako e telele, le hore na ke hobane'ng ha u lokela ho nahana ka ho leka-lekana ha bareki haeba u sebelisa HTTP/2, gRPC, RSockets, AMQP, kapa mekhoa e meng ea nako e telele. .

Hanyane mabapi le hore na sephethephethe se abuoa joang ho Kubernetes

Kubernetes e fana ka likhatiso tse peli tse bonolo bakeng sa ho tsamaisa lits'ebetso: Litšebeletso le Lisebelisoa.

Ho romelloa ho hlalosa hore na kopo ea hau e tlameha ho sebetsa joang le hore na ke tse kae ka nako efe kapa efe. Sesebelisoa se seng le se seng se romelloa joalo ka Pod mme se abeloa aterese ea IP.

Litšebeletso li ts'oana ka ts'ebetso le sekala sa mojaro. Li etselitsoe ho tsamaisa sephethephethe ho pholletsa le li-pods tse ngata.

Ha re bone hore na e shebahala joang.

Setšoantšong se ka tlase u ka bona mehlala e meraro ea ts'ebeliso e tšoanang le sekala sa mojaro:
Selekanyi sa mojaro se bitsoa Tšebeletso 'me se fuoa aterese ea IP. Kopo efe kapa efe e kenang e fetisetsoa ho e 'ngoe ea li-pods:
Boemo ba thomello bo lekanya palo ea maemo a kopo. Ha ho mohla u tla tlameha ho hola ka kotloloho tlasa:
Pod ka 'ngoe e fuoa aterese ea eona ea IP:

Ho molemo ho nahana ka litšebeletso e le pokello ea liaterese tsa IP. Nako le nako ha u fumana litšebeletso, ho khethoa e 'ngoe ea liaterese tsa IP lethathamong ebe e sebelisoa e le aterese ea moo u eang teng.

E shebahala tjena.

Kopo ea curl 10.96.45.152 e amoheloa ts'ebeletso:
Ts'ebeletso e khetha e 'ngoe ea liaterese tse tharo tsa pod e le sebaka seo e eang ho sona:
Sephethephethe se fetisetsoa sebakeng se itseng:

Haeba kopo ea hau e na le frontend le backend, joale u tla ba le ts'ebeletso le phepelo bakeng sa e 'ngoe le e 'ngoe.

Ha frontend e etsa kopo ho backend, ha ho hlokahale hore e tsebe hantle hore na ke li-pods tse kae tse sebetsang ka morao: ho ka ba le e le 'ngoe, leshome, kapa lekholo.

Hape, frontend ha e tsebe letho ka liaterese tsa li-pods tse sebeletsang mokokotlo.

Ha frontend e etsa kopo ho backend, e sebelisa aterese ea IP ea tšebeletso ea morao-rao, e sa fetoheng.

Ena ke tsela eo e shebahalang ka eona.

Tlas'a 1 e kopa karolo e ka hare ea backend. Sebakeng sa ho khetha e itseng bakeng sa backend, e etsa kopo ho ts'ebeletso:
Tšebeletso e khetha e 'ngoe ea li-pods tse ka morao e le aterese ea moo e eang teng:
Sephethephethe se tloha Pod 1 ho ea Pod 5, se khethiloeng ke tšebeletso:
Tlas'a 1 ha e tsebe hantle hore na ke li-pods tse kae tse ka tlase ho 5 tse patiloeng ka morao ho ts'ebeletso:

Empa hantle-ntle tšebeletso e aba likopo joang? Ho bonahala eka ho sebelisoa ho leka-lekanya ho pota-pota? Ha re e utloisise.

Ho leka-lekanya lits'ebeletso tsa Kubernetes

Litšebeletso tsa Kubernetes ha li eo. Ha ho na ts'ebetso ea ts'ebeletso e fuoeng aterese ea IP le boema-kepe.

U ka netefatsa sena ka ho kena ka har'a node efe kapa efe sehlopheng le ho tsamaisa taelo ea netstat -ntlp.

U ke ke ua khona le ho fumana aterese ea IP e abetsoeng ts'ebeletso.

Aterese ea IP ea ts'ebeletso e sebakeng sa taolo, ho molaoli, 'me e tlalehiloe polokelong ea litaba - joalo-joalo. Aterese e tšoanang e sebelisoa ke karolo e 'ngoe - kube-proxy.
Kube-proxy e fumana lethathamo la liaterese tsa IP bakeng sa lits'ebeletso tsohle mme e hlahisa melao ea iptables ho node ka 'ngoe sehlopheng.

Melao ena e re: "Haeba re bona aterese ea IP ea ts'ebeletso, re hloka ho fetola aterese ea kopo ebe re e romela ho e 'ngoe ea li-pods."

Aterese ea IP ea tšebeletso e sebelisoa feela e le sebaka sa ho kena 'me ha e sebeletsoe ke mokhoa ofe kapa ofe oa ho mamela aterese ea IP le boema-kepe.

Ha re shebeng sena.

Nahana ka sehlopha sa li-node tse tharo. Node e 'ngoe le e' ngoe e na le li-pods:
Li-pods tse tlanngoeng tse pentiloeng ka beige ke karolo ea tšebeletso. Hobane tšebeletso ha e eo e le ts'ebetso, e bontšoa ka bohlooho:
Pod ea pele e kopa ts'ebeletso 'me e tlameha ho ea ho e' ngoe ea li-pods tse amanang:
Empa tšebeletso ha e eo, tshebetso ha e eo. E sebetsa joang?
Pele kopo e siea node, e feta melaong ea iptables:
Melao ea iptables e tseba hore ts'ebeletso ha e eo mme e nkela aterese ea IP sebaka ka e 'ngoe ea liaterese tsa IP tsa li-pods tse amanang le ts'ebeletso eo:
Kopo e fumana aterese e nepahetseng ea IP e le aterese ea moo e eang teng 'me e sebetsoa ka mokhoa o tloaelehileng:
Ho ipapisitsoe le topology ea marang-rang, kopo e qetella e fihlile ho pod:

Na li-iptable li ka jara tekanyo?

Che, li-iptables li sebelisetsoa ho sefa 'me li ne li sa etselitsoe ho leka-lekanya.

Leha ho le joalo, hoa khoneha ho ngola sehlopha sa melao e sebetsang joalo ka pseudo-balancer.

'Me sena ke sona hantle se sebelisoang ho Kubernetes.

Haeba u na le li-pods tse tharo, kube-proxy e tla ngola melao e latelang:

Khetha karolo ea pele e nang le monyetla oa 33%, ho seng joalo u ee molaong o latelang.
Khetha ea bobeli e nang le monyetla oa 50%, ho seng joalo e-ea molaong o latelang.
Khetha ea boraro tlas'a.

Tsamaiso ena e fella ka hore pod ka 'ngoe e khethoe ka monyetla oa 33%.

'Me ha ho na tiiso ea hore Pod 2 e tla khethoa ka mor'a Pod 1.

mantsoe: iptables e sebelisa module ea lipalo-palo e nang le kabo e sa reroang. Kahoo, algorithm ea ho leka-lekanya e itšetlehile ka khetho e sa reroang.

Kaha joale u utloisisa hore na lits'ebeletso li sebetsa joang, a re shebeng maemo a ts'ebeletso a khahlisang.

Likhokahano tsa nako e telele ho Kubernetes ha li felle ka mokhoa o ikhethileng

Kopo e 'ngoe le e' ngoe ea HTTP ho tloha ka pele ho ea ka morao e sebelisoa ke khokahano e fapaneng ea TCP, e butsoeng le ho koaloa.

Haeba frontend e romela likōpo tse 100 ka motsotsoana ho ea morao, joale likhokahano tse fapaneng tsa 100 tsa TCP lia buloa le ho koaloa.

O ka fokotsa nako le mojaro oa nako ea kopo ka ho bula khokahano e le 'ngoe ea TCP le ho e sebelisa bakeng sa likopo tsohle tse latelang tsa HTTP.

Protocol ea HTTP e na le tšobotsi e bitsoang HTTP keep-alive, kapa tšebeliso ea khokahano hape. Tabeng ena, khokahano e le 'ngoe ea TCP e sebelisoa ho romella le ho amohela likopo le likarabo tse ngata tsa HTTP:

Ts'ebetso ena ha e sebetse ka mokhoa o ikhethileng: seva le moreki li tlameha ho hlophisoa ka nepo.

Setupo ka boeona e bonolo ebile e fumaneha bakeng sa lipuo le libaka tse ngata tsa mananeo.

Lihokelo tsa mehlala ka lipuo tse fapaneng ke tsena:

Ho etsahala'ng haeba re sebelisa ho lula re phela tšebeletsong ea Kubernetes?
Ha re nke hore li-frontend le li-backend li tšehetsa li boloka li phela.

Re na le kopi e le 'ngoe ea frontend le likopi tse tharo tsa backend. Sebaka se ka pele se etsa kopo ea pele mme se bula khokahano ea TCP ho backend. Kopo e fihla ts'ebeletso, e 'ngoe ea li-pods tsa backend e khethiloe e le aterese ea moo e eang teng. The backend romela karabo, 'me frontend e amohela.

Ho fapana le boemo bo tloaelehileng moo khokahanyo ea TCP e koetsoeng ka mor'a ho fumana karabo, hona joale e bolokiloe e bulehile bakeng sa likōpo tse ling tsa HTTP.

Ho etsahala'ng haeba frontend e romella likopo tse ling ho backend?

Ho fetisetsa likōpo tsena, ho tla sebelisoa khokahanyo e bulehileng ea TCP, likōpo tsohle li tla ea ho backend e tšoanang moo kopo ea pele e ileng ea ea teng.

Na li-iptables ha lia lokela ho arolelana sephethephethe hape?

Eseng tabeng ena.

Ha khokahano ea TCP e bōptjoa, e feta melaong ea iptables, e khethang mokokotlo o itseng moo sephethephethe se tla ea teng.

Kaha likōpo tsohle tse latelang li se li ntse li bulehile ka TCP, melao ea iptables ha e sa bitsoa.

Ha re bone hore na e shebahala joang.

Pod ea pele e romela kopo ho tšebeletso:
U se u ntse u tseba se tla etsahala ka mor'a moo. Tšebeletso ha e eo, empa ho na le melao ea iptables e tla sebetsana le kopo:
E 'ngoe ea li-pods tsa morao-rao e tla khethoa e le aterese ea moo e eang teng:
Kopo e fihla sehlohlolong. Mothating ona, khokahano e tsitsitseng ea TCP lipakeng tsa li-pods tse peli e tla thehoa:
Kopo efe kapa efe e latelang e tsoang ho pod ea pele e tla feta khokahanong e seng e thehiloe:

Sephetho ke nako ea karabo e potlakileng le phallo e phahameng, empa u lahleheloa ke bokhoni ba ho lekanya mokokotlo.

Esita le haeba u na le li-pods tse peli ka morao, ka khokahanyo e sa khaotseng, sephethephethe se tla lula se ea ho e 'ngoe ea tsona.

Na see se ka lokisoa?

Kaha Kubernetes ha a tsebe ho leka-lekanya likhokahano tse phehellang, mosebetsi ona o oela ho uena.

Litšebeletso ke pokello ea liaterese tsa IP le likou tse bitsoang li-endpoints.

Kopo ea hau e ka fumana lethathamo la li-endpoints ho tsoa ts'ebeletso ebe u etsa qeto ea ho aba likopo lipakeng tsa tsona. O ka bula khokahano e phehellang ho pod e 'ngoe le e 'ngoe le likopo tsa ho leka-lekana lipakeng tsa likhokahano tsena u sebelisa round-robin.

Kapa etsa kopo ho feta mekhoa e rarahaneng ea ho leka-lekanya.

Khoutu ea lehlakore la bareki e ikarabellang bakeng sa ho leka-lekanya e lokela ho latela mokhoa ona:

Fumana lethathamo la lintlha tsa ho qetela ho tsoa tšebeletsong.
Bula khokahano e tsitsitseng bakeng sa ntlha ka 'ngoe.
Ha kopo e hloka ho etsoa, sebelisa e 'ngoe ea likhokahano tse bulehileng.
Kamehla ntlafatsa lethathamo la lintlha tsa ho qetela, theha tse ncha kapa u koale likhokahano tsa khale tse phehellang haeba lenane le fetoha.

Sena ke kamoo e tla shebahala kateng.

Sebakeng sa pod ea pele e romellang kopo ts'ebeletso, o ka leka-lekanya likopo ka lehlakoreng la bareki:
U hloka ho ngola khoutu e botsang hore na ke li-pods life tseo e leng karolo ea ts'ebeletso:
Ha u se u e-na le lethathamo, le boloke ka lehlakoreng la bareki 'me u le sebelise ho hokela li-pods:
Ke uena ea ikarabellang bakeng sa algorithm ea ho leka-lekanya mojaro:

Joale ho hlaha potso: na bothata bona bo sebetsa feela ho boloka HTTP e phela?

Ho leka-lekanya mojaro oa lehlakore la bareki

HTTP ha se eona feela protocol e ka sebelisang likhokahano tse tsitsitseng tsa TCP.

Haeba kopo ea hau e sebelisa database, joale khokahano ea TCP ha e buloe nako le nako ha u hloka ho etsa kopo kapa ho fumana tokomane ho tswa ho database.

Ho e-na le hoo, khokahanyo e tsitsitseng ea TCP ho database ea buloa le ho sebelisoa.

Haeba database ea hau e rometsoe ho Kubernetes mme phihlello e fanoa e le ts'ebeletso, joale u tla kopana le mathata a tšoanang a hlalositsoeng karolong e fetileng.

Setšoantšo se le seng sa database se tla jarolloa ho feta tse ling. Kube-proxy le Kubernetes li ke ke tsa thusa ho leka-lekanya likhokahano. U tlameha ho hlokomela ho leka-lekanya lipotso ho database ea hau.

Ho ipapisitse le hore na u sebelisa laebrari efe ho hokela polokelong ea litaba, u ka ba le likhetho tse fapaneng tsa ho rarolla bothata bona.

Ka tlase ke mohlala oa ho fihlella sehlopha sa database sa MySQL ho tsoa ho Node.js:

var mysql = require('mysql');
var poolCluster = mysql.createPoolCluster();

var endpoints = /* retrieve endpoints from the Service */

for (var [index, endpoint] of endpoints) {
  poolCluster.add(`mysql-replica-${index}`, endpoint);
}

// Make queries to the clustered MySQL database

Ho na le liprothokholo tse ling tse ngata tse sebelisang likhokahano tse tsitsitseng tsa TCP:

Li-WebSockets le li-WebSockets tse sirelelitsoeng
HTTP / 2
GRPC
RSockets
AMQP

U tlameha hore u se u ntse u tloaelane le boholo ba liprothokholo tsena.

Empa haeba liprothokholo tsena li tumme hakaale, ke hobane'ng ha ho se na tharollo e tsitsitseng ea ho leka-lekanya? Hobaneng ha logic ea bareki e hloka ho fetoha? Na ho na le tharollo ea tlhaho ea Kubernetes?

Kube-proxy le iptables li etselitsoe ho koahela linyeoe tse sebelisoang haholo ha li romelloa ho Kubernetes. Sena ke molemong oa boiketlo.

Haeba o sebelisa ts'ebeletso ea marang-rang e pepesang REST API, o lehlohonolo - ntlheng ena, likhokahano tse tsitsitseng tsa TCP ha li sebelisoe, o ka sebelisa ts'ebeletso efe kapa efe ea Kubernetes.

Empa hang ha o qala ho sebelisa likhokahano tse tsitsitseng tsa TCP, o tla tlameha ho fumana mokhoa oa ho aba mojaro ka mokhoa o ts'oanang ho li-backends. Kubernetes ha e na litharollo tse lokiselitsoeng nyeoeng ena.

Leha ho le joalo, ka sebele ho na le likhetho tse ka thusang.

Ho leka-lekanya likhokahano tsa nako e telele ho Kubernetes

Ho na le mefuta e mene ea litšebeletso ho Kubernetes:

ClusterIP
NodePort
LoadBalancer
E se nang hlooho

Litšebeletso tse tharo tsa pele li sebetsa ho latela aterese ea IP ea sebele, e sebelisoang ke kube-proxy ho haha melao ea iptables. Empa motheo oa lits'ebeletso tsohle ke ts'ebeletso e se nang hlooho.

Ts'ebeletso e se nang hlooho ha e na aterese ea IP e amanang le eona mme e fana feela ka mokhoa oa ho khutlisa lethathamo la liaterese tsa IP le likou tsa li-pods (endpoints) tse amanang le eona.

Litšebeletso tsohle li ipapisitse le tšebeletso e se nang hlooho.

Ts'ebeletso ea ClusterIP ke ts'ebeletso e se nang hlooho e nang le litlatsetso tse ling:

Sebaka sa tsamaiso se se fa aterese ea IP.
Kube-proxy e hlahisa melao e hlokahalang ea iptables.

Ka tsela ena o ka iphapanyetsa be-proxy mme o sebelisa ka kotloloho lethathamo la liphetho tse fumanoeng ts'ebeletso e se nang hlooho ho kenya ts'ebeliso ea kopo ea hau.

Empa re ka kenya mohopolo o ts'oanang joang lits'ebetsong tsohle tse kentsoeng sehlopheng?

Haeba kopo ea hau e se e kentsoe, mosebetsi ona o ka bonahala o sa khonehe. Leha ho le joalo, ho na le khetho e 'ngoe.

Service Mesh e tla u thusa

Mohlomong u se u hlokometse hore leano la ho leka-lekanya mojaro oa bareki ke maemo a tloaelehileng.

Ha kopo e qala, e:

E fumana lethathamo la liaterese tsa IP ho tsoa ts'ebeletso.
E bula le ho boloka letamo la khokahano.
Nako le nako e nchafatsa letamo ka ho eketsa kapa ho tlosa lintlha tsa ho qetela.

Hang ha kopo e batla ho etsa kopo, e:

E khetha khokahanyo e fumanehang ka mokhoa o itseng (mohlala, round-robin).
E phethahatsa kopo.

Mehato ena e sebetsa bakeng sa likhokahano tsa WebSockets, gRPC, le AMQP ka bobeli.

O ka arola mohopolo ona ho laeborari e arohaneng mme oa e sebelisa lits'ebetsong tsa hau.

Leha ho le joalo, o ka sebelisa li-meshes tsa lits'ebeletso joalo ka Istio kapa Linkerd sebakeng sa eona.

Service Mesh e eketsa kopo ea hau ka mokhoa o latelang:

E batla liaterese tsa IP tsa litšebeletso ka bo eona.
E leka likhokahano tse kang WebSockets le gRPC.
E leka-lekanya likopo ho sebelisoa protocol e nepahetseng.

Service Mesh e thusa ho laola sephethephethe ka har'a sehlopha, empa e na le lisebelisoa tse ngata. Likhetho tse ling li sebelisa lilaeborari tsa mokha oa boraro joalo ka Netflix Ribbon kapa li-proxies tse ka khonehang joalo ka Envoy.

Ho etsahala'ng haeba u iphapanyetsa litaba tsa ho leka-lekanya?

U ka khetha ho se sebelise ho leka-lekanya mojaro 'me u ntse u sa hlokomele liphetoho leha e le life. Ha re shebeng maemo a 'maloa a mosebetsi.

Haeba u na le bareki ba bangata ho feta li-server, sena ha se bothata bo boholo joalo.

Ha re re ho na le bareki ba bahlano ba hokelang ho li-server tse peli. Leha ho se na ho leka-lekana, li-server ka bobeli li tla sebelisoa:

Lihokelo li kanna tsa se ke tsa ajoa ka ho lekana: mohlomong bareki ba bane ba hokahaneng le seva se le seng, empa ho na le monyetla o motle oa hore li-server ka bobeli li sebelisoe.

Ntho e thata le ho feta ke boemo bo fapaneng.

Haeba u na le bareki ba fokolang le li-server tse ngata, lisebelisoa tsa hau li ka 'na tsa se ke tsa sebelisoa 'me ho ka hlaha bothata bo ka bang teng.

Ha re re ho na le bareki ba babeli le li-server tse hlano. Boemong bo botle, ho tla ba le likhokahano tse peli tse sa feleng ho li-server tse peli ho tse hlano.

Li-server tse setseng li tla be li sa sebetse:

Haeba li-server tsena tse peli li sa khone ho sebetsana le likopo tsa bareki, ho pharalla ha maemo ho ke ke ha thusa.

fihlela qeto e

Litšebeletso tsa Kubernetes li etselitsoe ho sebetsa maemong a mangata a tloaelehileng a ts'ebeliso ea webo.

Leha ho le joalo, hang ha u qala ho sebetsa le li-protocol tsa kopo tse sebelisang likhokahano tse tsitsitseng tsa TCP, tse kang databases, gRPC kapa WebSockets, litšebeletso ha li sa tšoanela. Kubernetes ha e fane ka mekhoa ea ka hare ea ho leka-lekanya likamano tse tsitsitseng tsa TCP.

Sena se bolela hore o tlameha ho ngola likopo o nahanne ka ho leka-lekanya lehlakore la bareki.

Phetolelo e lokisitsoeng ke sehlopha Kubernetes aaS ho tsoa ho Mail.ru.

Ke eng hape eo u lokelang ho e bala ka sehlooho:

Source: www.habr.com

Ho leka-lekanya le ho holisa likhokahano tsa nako e telele ho Kubernetes