🥇Мувозинат ва миқёси пайвастҳои дарозмуддат дар Кубернетес

Ин мақола ба шумо кӯмак мекунад, ки тавозуни сарборӣ дар Кубернетес чӣ гуна кор мекунад, ҳангоми миқёси пайвастҳои дарозмуддат чӣ рӯй медиҳад ва чаро шумо бояд мувозинати муштариро баррасӣ кунед, агар шумо HTTP/2, gRPC, RSockets, AMQP ё дигар протоколҳои дарозмуддатро истифода баред .

Каме дар бораи чӣ гуна трафик дар Кубернетес аз нав тақсим карда мешавад

Kubernetes ду абстраксияи мувофиқро барои ҷойгиркунии барномаҳо пешниҳод мекунад: Хизматҳо ва Ҷойгиркунӣ.

Ҷойгиркунӣ тасвир мекунад, ки чӣ гуна ва чанд нусхаи аризаи шумо бояд дар вақти дилхоҳ иҷро шавад. Ҳар як барнома ҳамчун Pod ҷойгир карда мешавад ва суроғаи IP таъин карда мешавад.

Хизматҳо аз рӯи вазифа ба мувозинаткунандаи сарбор монанданд. Онҳо барои паҳн кардани трафик дар якчанд подкӯҳҳо пешбинӣ шудаанд.

Биёед бубинем, ки он чӣ гуна аст.

Дар диаграммаи зер шумо метавонед се мисоли як барнома ва мувозинати сарборро бинед:
Тавозуни сарборӣ Хидмат номида мешавад ва суроғаи IP таъин шудааст. Ҳар як дархости воридотӣ ба яке аз қуттиҳо равона карда мешавад:
Сенарияи густариш шумораи мисолҳои барномаро муайян мекунад. Ба шумо қариб ҳеҷ гоҳ лозим намеояд, ки бевосита дар зери:
Ҳар як подкаст суроғаи IP-и худро таъин мекунад:

Дар бораи хидматҳо ҳамчун маҷмӯи суроғаҳои IP фикр кардан муфид аст. Ҳар дафъае, ки шумо ба хидмат ворид мешавед, яке аз суроғаҳои IP аз рӯйхат интихоб карда мешавад ва ҳамчун суроғаи таъинот истифода мешавад.

Чунин ба назар мерасад.

Дархости curl 10.96.45.152 ба хидмат қабул карда мешавад:
Хидмат яке аз се суроғаи подшоиро ҳамчун макони таъинот интихоб мекунад:
Трафик ба қуттии мушаххас равона карда мешавад:

Агар замимаи шумо аз фронт ва пушти сар иборат бошад, пас шумо барои ҳар як хидмат ва ҷойгиркунӣ хоҳед дошт.

Ҳангоме ки фронтент ба қафо дархост мекунад, ба он лозим нест, ки дақиқ донист, ки чанд паҳлӯи пуштибонӣ хидмат мекунад: метавонад як, даҳ ё сад бошад.

Ғайр аз он, фронтент дар бораи суроғаҳои подкастаҳое, ки ба пушти қафо хидмат мекунанд, чизе намедонанд.

Ҳангоме ки фронтент ба қафо дархост мекунад, он суроғаи IP-и хидмати пуштибониро истифода мебарад, ки он тағир намеёбад.

Ин чунин аст.

Дар зери 1 ҷузъи пуштибонии дохилиро дархост мекунад. Ба ҷои интихоби мушаххаси пуштибон, он ба хидмат дархост мекунад:
Хидмат яке аз қуттиҳои пушти сарро ҳамчун суроғаи таъинот интихоб мекунад:
Трафик аз Pod 1 ба Pod 5 мегузарад, ки аз ҷониби хидмат интихоб шудааст:
Дар зери 1 дақиқ намедонад, ки дар паси хидмат чӣ қадар подкаҳо ба мисли зери 5 пинҳон шудаанд:

Аммо хадамот дархостҳоро чӣ гуна тақсим мекунад? Чунин ба назар мерасад, ки мувозинати даврӣ истифода мешавад? Биёед инро фаҳмем.

Мувозинат дар хидматҳои Kubernetes

Хидматҳои Kubernetes вуҷуд надоранд. Барои хидмате, ки суроғаи IP ва порт таъин шудааст, ягон раванд вуҷуд надорад.

Шумо метавонед инро тавассути ворид шудан ба ягон гиреҳи кластер ва иҷро кардани фармони netstat -ntlp тафтиш кунед.

Шумо ҳатто суроғаи IP-и ба хидмат ҷудошударо пайдо карда наметавонед.

Суроғаи IP-и хидмат дар қабати идоракунӣ, дар контроллер ҷойгир аст ва дар базаи маълумот сабт карда мешавад - ғайра. Ҳамин суроғаро ҷузъҳои дигар - kube-proxy истифода мебаранд.
Kube-proxy рӯйхати суроғаҳои IP-ро барои ҳама хидматҳо қабул мекунад ва дар ҳар як гиреҳи кластер маҷмӯи қоидаҳои iptables тавлид мекунад.

Ин қоидаҳо мегӯянд: "Агар мо суроғаи IP-и хидматро бубинем, мо бояд суроғаи таъиноти дархостро тағир диҳем ва онро ба яке аз подкҳо фиристем."

Суроғаи IP-и хидматрасонӣ танҳо ҳамчун нуқтаи вуруд истифода мешавад ва аз ҷониби ягон раванде, ки ба он суроғаи IP ва порт гӯш медиҳад, хидмат намекунад.

Биёед инро дида бароем.

Кластери аз се гиреҳро баррасӣ кунед. Ҳар як гиреҳ дорои қуттиҳои:
Подшоҳҳои басташуда бо ранги беж як қисми хидмат мебошанд. Азбаски хидмат ҳамчун раванд вуҷуд надорад, он бо ранги хокистарӣ нишон дода мешавад:
Подгоҳи аввал хидматро дархост мекунад ва бояд ба яке аз подкҳои алоқаманд равад:
Аммо хидмат вуҷуд надорад, раванд вуҷуд надорад. Он чӣ гуна кор мекунад?
Пеш аз он ки дархост аз гиреҳ берун равад, он аз қоидаҳои iptables мегузарад:
Қоидаҳои iptables медонанд, ки хидмат вуҷуд надорад ва суроғаи IP-и онро бо яке аз суроғаҳои IP-и подкҳои бо ин хидмат алоқаманд иваз мекунад:
Дархост суроғаи дурусти IP-ро ҳамчун суроғаи таъинот мегирад ва ба таври муқаррарӣ коркард мешавад:
Вобаста аз топологияи шабака, дархост дар ниҳоят ба подкаст мерасад:

Оё iptables метавонад тавозунро бор кунад?

Не, iptables барои филтр истифода мешаванд ва барои мувозинат пешбинӣ нашудаанд.

Бо вуҷуди ин, мумкин аст, ки ба навиштани маҷмӯи қоидаҳо, ки мисли кор псевдобалансер.

Ва ин маҳз ҳамон чизест, ки дар Кубернетес амалӣ карда мешавад.

Агар шумо се подка дошта бошед, kube-proxy қоидаҳои зеринро менависад:

Зери аввалро бо эҳтимолияти 33% интихоб кунед, вагарна ба қоидаи навбатӣ гузаред.
Дуюмро бо эҳтимолияти 50% интихоб кунед, вагарна ба қоидаи навбатӣ гузаред.
Дар зер сеюмро интихоб кунед.

Ин система боиси он мегардад, ки ҳар як қуттӣ бо эҳтимолияти 33% интихоб карда мешавад.

Ва ҳеҷ кафолате нест, ки Pod 2 баъд аз Pod 1 интихоб карда мешавад.

эрод гирифтан: iptables модули оморӣ бо тақсимоти тасодуфиро истифода мебарад. Ҳамин тариқ, алгоритми мувозинат ба интихоби тасодуфӣ асос ёфтааст.

Акнун, ки шумо фаҳмед, ки хидматҳо чӣ гуна кор мекунанд, биёед сенарияҳои ҷолибтари хидматро бубинем.

Пайвастҳои дарозмуддат дар Кубернетес ба таври нобаёнӣ миқёс надоранд

Ҳар як дархости HTTP аз пештара ба ақиб бо пайвасти алоҳидаи TCP, ки кушода ва пӯшида мешавад, хизмат мерасонад.

Агар фронтент дар як сония ба қафо 100 дархост фиристад, пас 100 пайвасти гуногуни TCP кушода ва баста мешавад.

Шумо метавонед бо кушодани як пайвасти TCP ва истифода аз он барои ҳама дархостҳои минбаъдаи HTTP вақти коркарди дархост ва борро кам кунед.

Протоколи HTTP дорои хусусиятест, ки HTTP зинда нигоҳ дорад ё истифодаи дубораи пайвастшавӣ номида мешавад. Дар ин ҳолат, пайвасти ягонаи TCP барои фиристодан ва қабул кардани дархостҳо ва посухҳои сершумори HTTP истифода мешавад:

Ин хусусият бо нобаёнӣ фаъол нест: ҳам сервер ва ҳам муштарӣ бояд мувофиқи танзим карда шаванд.

Худи танзимот барои аксари забонҳо ва муҳитҳои барномасозӣ оддӣ ва дастрас аст.

Инҳоянд чанд истинод ба мисолҳо бо забонҳои гуногун:

Агар мо нигоҳ доштани зиндаро дар хидмати Kubernetes истифода барем, чӣ мешавад?
Фарз мекунем, ки ҳам фронт ва ҳам пуштибон зинда монданро дастгирӣ мекунанд.

Мо як нусхаи пешина ва се нусхаи пушти сар дорем. Пешниҳод дархости аввалро медиҳад ва пайвасти TCP-ро ба пуштибон мекушояд. Дархост ба хидмат мерасад, яке аз қуттиҳои пуштибонӣ ҳамчун суроғаи таъинот интихоб карда мешавад. Дар пушти сар ҷавоб мефиристад, ва frontend онро қабул мекунад.

Баръакси вазъияти муқаррарӣ, ки пайвасти TCP пас аз гирифтани ҷавоб баста мешавад, он ҳоло барои дархостҳои HTTP-и минбаъда кушода нигоҳ дошта мешавад.

Чӣ мешавад, агар фронтент ба пуштибон дархостҳои бештар ирсол кунад?

Барои фиристодани ин дархостҳо, пайвасти кушодаи TCP истифода мешавад, ҳама дархостҳо ба ҳамон пуштибонии он ҷое, ки дархости аввал рафта буд, меравад.

Оё iptables набояд трафикро дубора тақсим кунанд?

На дар ин маврид.

Вақте ки пайвасти TCP эҷод мешавад, он тавассути қоидаҳои iptables мегузарад, ки пуштибонии мушаххасеро интихоб мекунанд, ки трафик ба он ҷо хоҳад рафт.

Азбаски ҳама дархостҳои минбаъда дар пайвасти TCP аллакай кушодаанд, қоидаҳои iptables дигар даъват карда намешаванд.

Биёед бубинем, ки он чӣ гуна аст.

Подшоҳи аввал ба хидмат дархост мефиристад:
Шумо аллакай медонед, ки минбаъд чӣ мешавад. Ин хидмат вуҷуд надорад, аммо қоидаҳои iptables мавҷуданд, ки дархостро коркард мекунанд:
Яке аз қуттиҳои пуштибонӣ ҳамчун суроғаи таъинот интихоб карда мешавад:
Дархост ба пода мерасад. Дар ин лаҳза, пайвасти доимии TCP байни ду поддон муқаррар карда мешавад:
Ҳар як дархости минбаъда аз банди аввал тавассути пайвасти аллакай муқарраршуда мегузарад:

Дар натиҷа вақти вокуниш тезтар ва гузариши баландтар аст, аммо шумо қобилияти васеъ кардани пуштибониро аз даст медиҳед.

Ҳатто агар шумо дар паси пушти ду қутб дошта бошед, бо пайвасти доимӣ трафик ҳамеша ба яке аз онҳо меравад.

Оё инро ислоҳ кардан мумкин аст?

Азбаски Кубернетес намедонад, ки чӣ тавр мувозинат кардани пайвастҳои доимӣ, ин вазифа ба дӯши шумост.

Хидматҳо маҷмӯи суроғаҳои IP ва портҳо мебошанд, ки нуқтаи ниҳоӣ номида мешаванд.

Аризаи шумо метавонад аз хадамот рӯйхати нуқтаҳои ниҳоӣ гирад ва қарор кунад, ки чӣ гуна дархостҳоро байни онҳо тақсим кунад. Шумо метавонед ба ҳар як подк пайвасти доимӣ кушоед ва дархостҳои мувозинат байни ин пайвастҳоро бо истифода аз round-robin кушоед.

Ё бештар муроҷиат кунед алгоритмҳои мураккаби мувозинат.

Рамзи муштарӣ, ки барои мувозинат масъул аст, бояд ин мантиқро риоя кунад:

Рӯйхати нуқтаҳои ниҳоиро аз хидмат дастрас кунед.
Барои ҳар як нуқтаи ниҳоӣ пайвасти доимиро кушоед.
Вақте ки дархост лозим аст, яке аз пайвастҳои кушодаро истифода баред.
Рӯйхати нуқтаҳоро мунтазам навсозӣ кунед, нав эҷод кунед ё пайвастҳои кӯҳнаи доимиро пӯшед, агар рӯйхат тағир ёбад.

Чунин хоҳад буд.

Ба ҷои он ки подтаи аввал дархостро ба хидмат мефиристад, шумо метавонед дархостҳоро дар тарафи муштарӣ мувозинат кунед:
Шумо бояд кодеро нависед, ки аз он пурсад, ки кадом pods қисми хидмат мебошанд:
Пас аз он ки шумо рӯйхатро доред, онро дар тарафи муштарӣ захира кунед ва онро барои пайвастшавӣ ба подкҳо истифода баред:
Шумо барои алгоритми мувозинати сарборӣ масъул ҳастед:

Акнун савол ба миён меояд: оё ин мушкилот танҳо ба HTTP нигоҳ доштани зинда дахл дорад?

Мувозинати сарбории муштарӣ

HTTP ягона протоколе нест, ки метавонад пайвастҳои доимии TCP-ро истифода барад.

Агар замимаи шумо пойгоҳи додаҳоро истифода барад, пас пайвастагии TCP ҳар дафъае, ки ба шумо дархост кардан ё гирифтани ҳуҷҷат аз пойгоҳи додаҳо лозим аст, кушода намешавад.

Ба ҷои ин, пайвасти доимии TCP ба пойгоҳи додаҳо кушода ва истифода мешавад.

Агар махзани шумо дар Kubernetes ҷойгир карда шуда бошад ва дастрасӣ ҳамчун хидмат таъмин карда шавад, шумо бо ҳамон мушкилоте, ки дар боби қаблӣ тавсиф шудааст, дучор хоҳед шуд.

Як нусхаи пойгоҳи додаҳо нисбат ба дигарон бештар бор карда мешавад. Kube-proxy ва Kubernetes ба мувозинати пайвастҳо кӯмак намекунанд. Шумо бояд ғамхорӣ кунед, ки дархостҳоро ба базаи худ мувозинат кунед.

Вобаста аз он, ки шумо барои пайвастшавӣ ба базаи маълумот кадом китобхонаро истифода мебаред, шумо метавонед барои ҳалли ин мушкилот имконоти гуногун дошта бошед.

Дар зер намунаи дастрасӣ ба кластери пойгоҳи додаҳои MySQL аз Node.js оварда шудааст:

var mysql = require('mysql');
var poolCluster = mysql.createPoolCluster();

var endpoints = /* retrieve endpoints from the Service */

for (var [index, endpoint] of endpoints) {
  poolCluster.add(`mysql-replica-${index}`, endpoint);
}

// Make queries to the clustered MySQL database

Бисёр протоколҳои дигаре ҳастанд, ки пайвастагиҳои доимии TCP-ро истифода мебаранд:

WebSockets ва WebSockets эмин
HTTP / 2
gRPC
RSockets
AMQP

Шумо бояд аллакай бо аксари ин протоколҳо шинос бошед.

Аммо агар ин протоколҳо ин қадар маъмул бошанд, чаро ҳалли стандартии мувозинат вуҷуд надорад? Чаро мантиқи муштарӣ бояд тағир ёбад? Оё ҳалли аслии Kubernetes вуҷуд дорад?

Kube-proxy ва iptables барои пӯшонидани ҳолатҳои маъмултарини истифода ҳангоми ҷойгиркунӣ ба Kubernetes тарҳрезӣ шудаанд. Ин барои роҳат аст.

Агар шумо хидмати вебро истифода баред, ки API-и REST-ро фош мекунад, шумо хушбахт ҳастед - дар ин ҳолат, пайвастҳои доимии TCP истифода намешаванд, шумо метавонед ҳама гуна хидмати Kubernetes -ро истифода баред.

Аммо вақте ки шумо ба истифодаи пайвастагиҳои доимии TCP шурӯъ мекунед, шумо бояд бифаҳмед, ки чӣ гуна сарборӣ дар пушти сарҳо баробар тақсим карда мешавад. Kubernetes барои ин парванда ҳалли омодаро дар бар намегирад.

Бо вуҷуди ин, албатта вариантҳое ҳастанд, ки метавонанд кӯмак кунанд.

Мувозинати пайвастҳои дарозмуддат дар Кубернетес

Дар Kubernetes чор намуди хидмат вуҷуд дорад:

ClusterIP
NodePort
LoadBalancer
Сарвари

Се хидмати аввал дар асоси суроғаи IP виртуалӣ амал мекунанд, ки аз ҷониби kube-proxy барои сохтани қоидаҳои iptables истифода мешавад. Аммо асоси асосии ҳама хидматҳо хидмати бе сар аст.

Хидмати бе сар ягон суроғаи IP-и бо он алоқаманд надорад ва танҳо механизми дарёфти рӯйхати суроғаҳои IP ва портҳои подкҳо (нуқтаҳои охири) бо он алоқамандро таъмин мекунад.

Ҳама хидматҳо ба хидматрасонии бе сар асос ёфтаанд.

Хидмати ClusterIP як хидмати бе сар аст бо баъзе иловаҳо:

Қабати идоракунӣ ба он суроғаи IP таъин мекунад.
Kube-proxy қоидаҳои зарурии iptables тавлид мекунад.

Бо ин роҳ шумо метавонед kube-proxy-ро сарфи назар кунед ва мустақиман рӯйхати нуқтаҳоеро, ки аз хидмати бе сар гирифта шудааст, барои мувозинати барномаи шумо истифода баред.

Аммо чӣ гуна мо метавонем мантиқи шабеҳро ба ҳама замимаҳои дар кластер ҷойгиршуда илова кунем?

Агар барномаи шумо аллакай ҷойгир карда шуда бошад, ин вазифа метавонад ғайриимкон ба назар расад. Бо вуҷуди ин, як варианти алтернативӣ вуҷуд дорад.

Service Mesh ба шумо кӯмак мекунад

Эҳтимол шумо аллакай пай бурдаед, ки стратегияи мувозинати сарбории муштарӣ хеле стандартист.

Вақте ки барнома оғоз меёбад, он:

Рӯйхати суроғаҳои IP-ро аз хидмат мегирад.
Ҳавзи пайвастро мекушояд ва нигоҳ медорад.
Давра ба давра ҳавзро тавассути илова ё хориҷ кардани нуқтаҳои ниҳоӣ навсозӣ мекунад.

Вақте ки барнома мехоҳад дархост пешниҳод кунад, он:

Пайвасти дастрасро бо истифода аз мантиқ интихоб мекунад (масалан, round-robin).
Дархостро иҷро мекунад.

Ин қадамҳо барои пайвастҳои WebSockets, gRPC ва AMQP кор мекунанд.

Шумо метавонед ин мантиқро ба китобхонаи алоҳида ҷудо кунед ва онро дар барномаҳои худ истифода баред.

Аммо, шумо метавонед ба ҷои он торҳои хидматрасониро ба монанди Istio ё Linkerd истифода баред.

Service Mesh барномаи шуморо бо раванде, ки:

Ба таври худкор суроғаҳои IP-и хидматрасониро ҷустуҷӯ мекунад.
Пайвастҳоро ба монанди WebSockets ва gRPC месанҷад.
Бо истифода аз протоколи дуруст дархостҳоро мувозинат мекунад.

Service Mesh ба идоракунии трафик дар дохили кластер кӯмак мекунад, аммо он захираҳои зиёдеро талаб мекунад. Имкониятҳои дигар китобхонаҳои тарафи сеюмро ба мисли Netflix Ribbon ё прокси-прокси барномарезишаванда ба монанди Envoy истифода мебаранд.

Чӣ мешавад, агар шумо масъалаҳои мувозинатро сарфи назар кунед?

Шумо метавонед интихоб кунед, ки мувозинати сарборӣ истифода набаред ва то ҳол ягон тағиротро пай набаред. Биёед якчанд сенарияи корро дида бароем.

Агар шумо муштариёни бештар аз серверҳо дошта бошед, ин як мушкили бузург нест.

Фарз мекунем, ки панҷ муштарӣ вуҷуд доранд, ки ба ду сервер пайваст мешаванд. Ҳатто агар мувозинат мавҷуд набошад ҳам, ҳарду сервер истифода мешаванд:

Пайвастшавӣ метавонад баробар тақсим карда нашавад: шояд чаҳор муштарӣ ба як сервер пайваст шаванд, аммо имкони хуби истифода шудани ҳарду сервер вуҷуд дорад.

Он чизе ки мушкилтар аст, сенарияи муқобил аст.

Агар шумо мизоҷҳои камтар ва серверҳои бештар дошта бошед, захираҳои шумо шояд кам истифода шаванд ва монеаи эҳтимолӣ пайдо шавад.

Фарз мекунем, ки ду муштарӣ ва панҷ сервер вуҷуд доранд. Дар беҳтарин ҳолат, аз панҷ сервер ба ду сервер ду пайвасти доимӣ хоҳад буд.

Серверҳои боқимонда бекор хоҳанд буд:

Агар ин ду сервер дархостҳои муштариро иҷро карда натавонанд, миқёси уфуқӣ кӯмак намекунад.

хулоса

Хидматҳои Kubernetes барои кор дар аксари сенарияҳои стандартии барномаҳои веб тарҳрезӣ шудаанд.

Аммо, вақте ки шумо кор бо протоколҳои замимаро оғоз мекунед, ки пайвастагиҳои доимии TCP-ро истифода мебаранд, ба монанди пойгоҳи додаҳо, gRPC ё WebSockets, хидматҳо дигар мувофиқ нестанд. Kubernetes механизмҳои дохилиро барои мувозинат кардани пайвастҳои доимии TCP таъмин намекунад.

Ин маънои онро дорад, ки шумо бояд барномаҳоро бо назардошти тавозуни муштарӣ нависед.

Тарҷума аз ҷониби даста омода шудааст Kubernetes aaS аз Mail.ru.

Дар ин мавзӯъ боз чӣ хондан лозим аст:

Манбаъ: will.com

Мувозинат ва миқёси пайвастҳои дарозмуддат дар Кубернетес