Nóta. aistrigh.: San Airteagal seo, roinneann Banzai Cloud sampla de conas is féidir a chuid uirlisí saincheaptha a úsáid chun Kafka a dhéanamh níos éasca le húsáid laistigh de Kubernetes. Léiríonn na treoracha seo a leanas conas is féidir leat an méid is fearr is féidir do do bhonneagar a chinneadh agus Kafka féin a chumrú chun an tréchur riachtanach a bhaint amach.
Is ardán sruthaithe dáilte é Apache Kafka chun córais sruthaithe fíor-ama iontaofa, inscálaithe agus ardfheidhmíochta a chruthú. Is féidir a chumais iontacha a leathnú trí úsáid a bhaint as Kubernetes. Chun seo a fhorbairt againn agus uirlis ar a dtugtar . Ligeann siad duit Kafka a reáchtáil ar Kubernetes agus na gnéithe éagsúla a bhaineann leis a úsáid, mar shampla cumraíocht an bhróicéir a mhionchoigeartú, scálú bunaithe ar mhéadrach le hathchothromú, feasacht ar racaí, “bog” (go grásta) nuashonruithe a rolladh amach, etc.
Bain triail as Supertubes i do bhraisle:
curl https://getsupertubes.sh | sh и supertubes install -a --no-democluster --kubeconfig <path-to-eks-cluster-kubeconfig-file>Nó déan teagmháil . Is féidir leat léamh freisin faoi roinnt de na cumais atá ag Kafka, an obair a bhfuil uathoibrithe ag baint úsáide as Supertubes agus oibreoir Kafka. Scríobhamar fúthu ar an mblag cheana féin:
- ;
- ;
- ;
- ;
- ;
- ;
- .
Nuair a shocraíonn tú braisle Kafka a imscaradh ar Kubernetes, is dócha go mbeidh ort an dúshlán a bhaineann le méid optamach an bhonneagair bhunaigh a chinneadh agus an gá le do chumraíocht Kafka a mhionchoigeartú chun freastal ar riachtanais tréchuir. Déantar feidhmíocht uasta gach bróicéir a chinneadh ag feidhmíocht na gcomhpháirteanna bonneagair bhunúsacha, mar shampla cuimhne, próiseálaí, luas diosca, bandaleithead líonra, etc.
Go hidéalach, ba cheart go mbeadh cumraíocht an bhróicéir sa chaoi is go n-úsáidtear na heilimintí bonneagair go léir de réir a n-uaschumais. Mar sin féin, sa saol fíor tá an socrú seo casta go leor. Is dóichí go ndéanfaidh úsáideoirí bróicéirí a chumrú chun an úsáid is fearr a bhaint as comhpháirt amháin nó dhó (diosca, cuimhne nó próiseálaí). Go ginearálta, léiríonn bróicéir an fheidhmíocht uasta nuair a cheadaíonn a chumraíocht an chomhpháirt is moille a úsáid chomh fada agus is féidir. Ar an mbealach seo is féidir linn smaoineamh garbh a fháil ar an ualach is féidir le bróicéir amháin a láimhseáil.
Go teoiriciúil, is féidir linn meastachán a dhéanamh freisin ar líon na bróicéirí a theastaíonn chun ualach áirithe a láimhseáil. Mar sin féin, go praiticiúil tá an oiread sin roghanna cumraíochta ag leibhéil éagsúla go bhfuil sé an-deacair (mura bhfuil sé dodhéanta) feidhmíocht ionchasach cumraíochta áirithe a mheas. I bhfocail eile, tá sé an-deacair cumraíocht a phleanáil bunaithe ar fheidhmíocht áirithe.
Maidir le húsáideoirí Supertubes, de ghnáth déanaimid an cur chuige seo a leanas: tosaímid le roinnt cumraíochta (bonneagar + socruithe), ansin a fheidhmíocht a thomhas, socruithe an bróicéir a choigeartú agus an próiseas a athdhéanamh arís. Tarlaíonn sé seo go dtí go mbaintear lánúsáid as an gcuid is moille den bhonneagar.
Ar an mbealach seo, faigheann muid smaoineamh níos soiléire ar cé mhéad bróicéir a theastaíonn ó bhraisle chun ualach áirithe a láimhseáil (braitheann líon na bróicéirí freisin ar fhachtóirí eile, mar shampla an líon íosta macasamhla teachtaireachtaí chun athléimneacht a chinntiú, líon na ndeighiltí. ceannairí, etc.). Ina theannta sin, faighimid léargas ar na comhpháirteanna bonneagair a dteastaíonn scálaithe ingearach leo.
Labhróidh an t-alt seo faoi na céimeanna a ghlacfaimid chun an leas is fearr a bhaint as na comhpháirteanna is moille i bhfoirmíochtaí tosaigh agus tríchur braisle Kafka a thomhas. Éilíonn cumraíocht an-athléimneach ar a laghad trí bhróicéir reatha (min.insync.replicas=3), scaipthe thar thrí chrios inrochtaineachta éagsúla. Chun bonneagar Kubernetes a chumrú, a scála agus monatóireacht a dhéanamh air, bainimid úsáid as ár n-ardán bainistíochta coimeádáin féin le haghaidh scamaill hibrideacha - . Tacaíonn sé ar-áitreabh (miotal lom, VMware) agus cúig chineál scamaill (Alibaba, AWS, Azure, Google, Oracle), chomh maith le haon teaglaim díobh.
Smaointe ar bhonneagar agus cumraíocht bhraisle Kafka
Le haghaidh na samplaí thíos, roghnaigh muid AWS mar an soláthraí scamall agus EKS mar dháileadh Kubernetes. Is féidir cumraíocht den chineál céanna a chur i bhfeidhm ag baint úsáide as - Dáileadh Kubernetes ó Banzai Cloud, deimhnithe ag CNCF.
Céide
Tairgeann Amazon éagsúla . Ag croílár gp2 и io1 tá tiomántáin SSD ann, áfach, chun tréchur ard a chinntiú gp2 ídíonn creidmheasanna carntha (creidiúintí I/O), mar sin b'fhearr linn an cineál io1, a thairgeann tréchur ard comhsheasmhach.
Cineálacha cásanna
Tá feidhmíocht Kafka ag brath go mór ar thaisce leathanach an chórais oibriúcháin, agus mar sin ní mór dúinn cásanna le go leor cuimhne do na bróicéirí (JVM) agus taisce leathanach. cás c5.2x mór - tús maith, ós rud é go bhfuil 16 GB de chuimhne agus . Is é an míbhuntáiste atá aige ná nach bhfuil sé in ann an fheidhmíocht uasta a sholáthar ach ar feadh 30 nóiméad ar a mhéad gach 24 uair an chloig. Má éilíonn d’ualach oibre buaicfheidhmíocht thar thréimhse níos faide ama, b’fhéidir gur mhaith leat cineálacha cásanna eile a bhreithniú. Sin go díreach a rinne muid, ag stopadh ag c5.4x mór. Soláthraíonn sé tréchur uasta isteach 593,75 Mbps. Tréchur uasta toirte EBS io1 níos airde ná an cás c5.4x mór, mar sin is dócha gurb é an tréchur I/O den chineál seo an ghné is moille den bhonneagar (ar cheart dár dtástálacha ualaigh a dheimhniú freisin).
Líonra
Ní mór tréchur an líonra a bheith mór go leor i gcomparáid le feidhmíocht an ásc VM agus an diosca, nó beidh an líonra ina bhac. Is é ár gcás, an comhéadan líonra c5.4x mór tacaíonn sé le luasanna suas le 10 Gb/s, atá i bhfad níos airde ná tréchur I/O shampla VM.
Imscaradh Bróicéara
Ba cheart bróicéirí a imscaradh (sceidealaithe i Kubernetes) chuig nóid thiomanta ionas nach mbeidh siad in iomaíocht le próisis eile le haghaidh acmhainní LAP, cuimhne, líonra agus diosca.
Java leagan
Is é Java 11 an rogha loighciúil toisc go bhfuil sé ag luí le Docker sa chiall go gcinnfidh an JVM i gceart na próiseálaithe agus an chuimhne atá ar fáil don choimeádán ina bhfuil an bróicéir ag rith. A fhios agam go bhfuil teorainneacha LAP tábhachtach, socraíonn an JVM go hinmheánach agus go trédhearcach líon na snáitheanna GC agus snáitheanna JIT. D’úsáideamar an íomhá Kafka banzaicloud/kafka:2.13-2.4.0, lena n-áirítear leagan Kafka 2.4.0 (Scala 2.13) ar Java 11.
Más mian leat níos mó a fhoghlaim faoi Java/JVM ar Kubernetes, féach ar ár bpostálacha seo a leanas:
- ;
- .
Socruithe cuimhne bróicéir
Tá dhá phríomhghné ann maidir le cuimhne bróicéir a chumrú: socruithe don JVM agus don Kubernetes pod. Caithfidh an teorainn chuimhne atá socraithe le haghaidh pod a bheith níos mó ná an t-uasmhéid carn ionas go mbeidh spás ag an JVM don mheiteaspás Java a bhfuil cónaí air ina chuimhne féin agus do thaisce leathanach an chórais oibriúcháin a úsáideann Kafka go gníomhach. In ár dtástálacha sheolamar bróicéirí Kafka le paraiméadair -Xmx4G -Xms2G, agus ba é an teorainn chuimhne don pod 10 Gi. Tabhair faoi deara gur féidir socruithe cuimhne don JVM a fháil go huathoibríoch trí úsáid a bhaint as -XX:MaxRAMPercentage и -X:MinRAMPercentage, bunaithe ar an teorainn chuimhne don pod.
Socruithe próiseálaí bróicéir
Go ginearálta, is féidir leat feidhmíocht a fheabhsú trí chomhthreomhaireacht a mhéadú trí líon na snáitheanna a úsáideann Kafka a mhéadú. Dá mhéad próiseálaithe atá ar fáil do Kafka, is amhlaidh is fearr. In ár dtástáil, thosaigh muid le teorainn de 6 phróiseálaí agus de réir a chéile (trí atriallta) d'ardaigh a n-uimhir go 15. Ina theannta sin, leagamar síos num.network.threads=12 sna socruithe bróicéireachta chun líon na snáitheanna a fhaigheann sonraí ón líonra a mhéadú agus é a sheoladh. Ag fáil amach láithreach nach bhféadfadh na bróicéirí leantacha macasamhla a fháil tapa go leor, d'ardaigh siad num.replica.fetchers go 4 chun cur leis an luas ar a ndéanann bróicéirí leantacha teachtaireachtaí ó cheannairí a mhacasamhlú.
Uirlis Giniúint Luchtaigh
Ba cheart duit a chinntiú nach n-imeoidh an gineadóir ualaigh roghnaithe as acmhainn sula sroicheann braisle Kafka (atá á thagarmharcáil) a ualach uasta. I bhfocail eile, is gá réamh-mheasúnú a dhéanamh ar chumais na huirlise giniúna ualaigh, agus freisin cineálacha cásanna a roghnú dó le líon leordhóthanach próiseálaithe agus cuimhne. Sa chás seo, déanfaidh ár n-uirlis níos mó ualach ná mar is féidir le braisle Kafka a láimhseáil. Tar éis go leor turgnaimh, shocraigh muid ar thrí chóip c5.4x mór, agus bhí gineadóir ag rith gach ceann acu.
Tagarmharcáil
Is próiseas atriallach é tomhas feidhmíochta a chuimsíonn na céimeanna seo a leanas:
- bonneagar a bhunú (cnuasach EKS, braisle Kafka, uirlis ginte ualaigh, chomh maith le Prometheus agus Grafana);
- ualach a ghiniúint ar feadh tréimhse áirithe chun diallais randamacha a scagadh sna táscairí feidhmíochta bailithe;
- bonneagar agus cumraíocht an bhróicéir a choigeartú bunaithe ar tháscairí feidhmíochta breathnaithe;
- an próiseas a athrá go dtí go mbaintear amach an leibhéal riachtanach de thréchur braisle Kafka. Ag an am céanna, caithfidh sé a bheith in-atáirgthe go comhsheasmhach agus éagsúlachtaí íosta sa tréchur a léiriú.
Déanann an chéad chuid eile cur síos ar na céimeanna a rinneadh le linn an phróisis tagarmharcála braisle tástála.
Uirlisí
Baineadh úsáid as na huirlisí seo a leanas chun cumraíocht bhonnlíne a imscaradh go tapa, chun ualaí a ghiniúint agus chun feidhmíocht a thomhas:
- as cnuasach EKS a eagrú ó Amazon c (chun Kafka agus méadracht bhonneagair a bhailiú) agus (chun na méadrachtaí seo a léirshamhlú). Bhaineamar leas as comhtháite в seirbhísí a sholáthraíonn monatóireacht chónaidhme, bailiú láraithe logaí, scanadh leochaileachta, athshlánú tubaiste, slándáil de ghrád fiontair agus go leor eile.
- — uirlis chun ualach a thástáil ar bhraisle Kafka.
- Deais Grafana chun méadracht agus bonneagar Kafka a léirshamhlú: , .
- Supertubes CLI chun an bealach is éasca chun braisle Kafka a bhunú ar Kubernetes. Tá Zookeeper, oibreoir Kafka, Toscaire agus go leor comhpháirteanna eile suiteáilte agus cumraithe i gceart chun braisle Kafka atá réidh le táirgeadh a reáchtáil ar Kubernetes.
- Le haghaidh suiteála supertubes CLI bain úsáid as na treoracha a chuirtear ar fáil .
Braisle EKS
Ullmhaigh braisle EKS le nóid oibrithe tiomnaithe c5.4x mór i gcriosanna infhaighteachta éagsúla le haghaidh pods le bróicéirí Kafka, chomh maith le nóid tiomnaithe don ghineadóir ualaigh agus don bhonneagar monatóireachta.
banzai cluster create -f https://raw.githubusercontent.com/banzaicloud/kafka-operator/master/docs/benchmarks/infrastructure/cluster_eks_202001.jsonNuair a bheidh an bhraisle EKS ar bun agus ag feidhmiú, cumasaigh é a chomhtháthú — imlonnóidh sí Prometheus agus Grafana i gcnuasach.
Comhpháirteanna córais Kafka
Suiteáil comhpháirteanna córais Kafka (Zookeeper, kafka-operator) in EKS ag baint úsáide as sárfheadáin CLI:
supertubes install -a --no-democluster --kubeconfig <path-to-eks-cluster-kubeconfig-file>Cnuasach Kafka
De réir réamhshocraithe, úsáideann EKS méideanna de chineál EBS gp2, mar sin ní mór duit rang stórála ar leith a chruthú bunaithe ar mhéideanna io1 do bhraisle Kafka:
kubectl create -f - <<EOF
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
name: fast-ssd
provisioner: kubernetes.io/aws-ebs
parameters:
type: io1
iopsPerGB: "50"
fsType: ext4
volumeBindingMode: WaitForFirstConsumer
EOF
Socraigh an paraiméadar do bhróicéirí min.insync.replicas=3 agus pods bróicéirí a imscaradh ar nóid i dtrí chrios infhaighteachta éagsúla:
supertubes cluster create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f https://raw.githubusercontent.com/banzaicloud/kafka-operator/master/docs/benchmarks/infrastructure/kafka_202001_3brokers.yaml --wait --timeout 600Ábhair
Ritheamar trí chás gineadóra ualaigh ag an am céanna. Scríobhann gach duine acu ar a ábhar féin, is é sin, tá trí thopaic ag teastáil uainn san iomlán:
supertubes cluster topic create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f -<<EOF
apiVersion: kafka.banzaicloud.io/v1alpha1
kind: KafkaTopic
metadata:
name: perftest1
spec:
name: perftest1
partitions: 12
replicationFactor: 3
retention.ms: '28800000'
cleanup.policy: delete
EOF
supertubes cluster topic create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f -<<EOF
apiVersion: kafka.banzaicloud.io/v1alpha1
kind: KafkaTopic
metadata:
name: perftest2
spec:
name: perftest2
partitions: 12
replicationFactor: 3
retention.ms: '28800000'
cleanup.policy: delete
EOF
supertubes cluster topic create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f -<<EOF
apiVersion: kafka.banzaicloud.io/v1alpha1
kind: KafkaTopic
metadata:
name: perftest3
spec:
name: perftest3
partitions: 12
replicationFactor: 3
retention.ms: '28800000'
cleanup.policy: delete
EOFI gcás gach topaic, is é an fachtóir macasamhlaithe ná 3—an luach íosta molta do chórais táirgthe atá ar fáil go mór.
Uirlis Giniúint Luchtaigh
Sheolamar trí chóip den ghineadóir ualaigh (scríobh gach ceann acu in ábhar ar leith). Le haghaidh pods gineadóir ualaigh, ní mór duit cleamhnas nód a shocrú ionas nach mbeidh siad sceidealta ach ar na nóid a leithdháiltear dóibh:
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
labels:
app: loadtest
name: perf-load1
namespace: kafka
spec:
progressDeadlineSeconds: 600
replicas: 1
revisionHistoryLimit: 10
selector:
matchLabels:
app: loadtest
strategy:
rollingUpdate:
maxSurge: 25%
maxUnavailable: 25%
type: RollingUpdate
template:
metadata:
creationTimestamp: null
labels:
app: loadtest
spec:
affinity:
nodeAffinity:
requiredDuringSchedulingIgnoredDuringExecution:
nodeSelectorTerms:
- matchExpressions:
- key: nodepool.banzaicloud.io/name
operator: In
values:
- loadgen
containers:
- args:
- -brokers=kafka-0:29092,kafka-1:29092,kafka-2:29092,kafka-3:29092
- -topic=perftest1
- -required-acks=all
- -message-size=512
- -workers=20
image: banzaicloud/perfload:0.1.0-blog
imagePullPolicy: Always
name: sangrenel
resources:
limits:
cpu: 2
memory: 1Gi
requests:
cpu: 2
memory: 1Gi
terminationMessagePath: /dev/termination-log
terminationMessagePolicy: File
dnsPolicy: ClusterFirst
restartPolicy: Always
schedulerName: default-scheduler
securityContext: {}
terminationGracePeriodSeconds: 30Cúpla pointe le tabhairt faoi deara:
- Gineann an gineadóir ualaigh teachtaireachtaí 512 beart ar fad agus foilsíonn sé iad chuig Kafka i mbaisceanna 500 teachtaireacht.
- Ag baint úsáide as argóint
-required-acks=allMeastar go n-éiríonn leis an bhfoilseachán nuair a fhaigheann agus deimhníonn bróicéirí Kafka gach macasamhail den teachtaireacht. Ciallaíonn sé seo gur thomhaiseamar sa tagarmharc, ní hamháin luas na gceannairí ag fáil teachtaireachtaí, ach freisin a lucht leanúna ag déanamh macasamhail teachtaireachtaí. Ní hé cuspóir na tástála seo luas léitheoireachta tomhaltóirí a mheas (tomhaltóirí) teachtaireachtaí a fuarthas le déanaí atá fós i dtaisce leathanach an OS, agus a chomparáid le luas léitheoireachta na dteachtaireachtaí atá stóráilte ar dhiosca. - Ritheann an gineadóir ualaigh 20 oibrí ag an am céanna (
-workers=20). Tá 5 léiritheoir i ngach oibrí a roinneann nasc an oibrí le braisle Kafka. Mar thoradh air sin, tá 100 táirgeoir ag gach gineadóir, agus cuireann siad go léir teachtaireachtaí chuig braisle Kafka.
Monatóireacht a dhéanamh ar shláinte an bhraisle
Le linn tástáil ualaigh ar bhraisle Kafka, rinneamar monatóireacht freisin ar a shláinte chun a chinntiú nach raibh aon atosuithe pod, aon macasamhla lasmuigh den sioncronú, agus uas-thréchur le luaineachtaí íosta:
- Scríobhann an gineadóir ualach staitisticí caighdeánach faoi líon na dteachtaireachtaí a foilsíodh agus an ráta earráide. Ba cheart go bhfanfadh an ráta earráide mar a chéile
0,00%. - , arna imscaradh ag kafka-operator, soláthraíonn sé painéal inar féidir linn monatóireacht a dhéanamh freisin ar staid an bhraisle. Chun an painéal seo a fheiceáil, déan:
supertubes cluster cruisecontrol show -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> - Leibhéal ISR (líon macasamhla “in-sync”) Laghdaigh agus leathnú cothrom le 0.
Torthaí tomhais
3 bróicéir, méid na teachtaireachta - 512 bytes
Le landairí scaipthe go cothrom thar thrí bróicéir, bhíomar in ann feidhmíocht a bhaint amach ~500 Mb/s (thart ar 990 míle teachtaireacht in aghaidh an tsoicind):
Níor sháraigh tomhaltas cuimhne an mheaisín fíorúil JVM 2 GB:
Shroich tréchur diosca an tréchur nód I/O uasta ar na trí chás ar a raibh na bróicéirí ag rith:
Ó na sonraí ar úsáid cuimhne ag nóid, leanann sé gur ghlac maolánú córais agus taisceadh ~ 10-15 GB:
3 bróicéir, méid na teachtaireachta - 100 bytes
De réir mar a thagann laghdú ar mhéid na teachtaireachta, laghdaítear an tréchur de thart ar 15-20%: bíonn tionchar ag an am a chaitear ag próiseáil gach teachtaireacht air. Ina theannta sin, tá an t-ualach próiseálaí beagnach faoi dhó.
Ós rud é go bhfuil croíleacáin neamhúsáidte fós ag nóid bróicéireachta, is féidir feidhmíocht a fheabhsú trí chumraíocht Kafka a athrú. Ní tasc éasca é seo, mar sin chun tréchur a mhéadú is fearr oibriú le teachtaireachtaí níos mó.
4 bróicéir, méid na teachtaireachta - 512 bytes
Is féidir leat feidhmíocht braisle Kafka a mhéadú go héasca trí bhróicéirí nua a chur leis agus cothromaíocht na ndeighiltí a choinneáil (cinntíonn sé seo go ndéantar an t-ualach a dháileadh go cothrom idir bróicéirí). Is é ár gcás, tar éis bróicéir a chur leis, mhéadaigh an tréchur braisle go ~580 Mb/s (~1,1 milliún teachtaireacht in aghaidh an tsoicind). D'éirigh leis an bhfás a bheith níos lú ná mar a bhíothas ag súil leis: mínítear é seo go príomha ag éagothroime na ndeighiltí (ní oibríonn gach bróicéir ag buaic a gcumais).
D’fhan tomhaltas cuimhne an mheaisín JVM faoi bhun 2 GB:
Chuir míchothromaíocht na ndeighiltí isteach ar obair bróicéirí le tiomántáin:
Torthaí
Is féidir an cur chuige atriallach a chuirtear i láthair thuas a leathnú chun cásanna níos casta a chlúdach a bhaineann leis na céadta tomhaltóirí, athrá, nuashonruithe rollta, atosú pods, etc. Ligeann sé seo go léir dúinn teorainneacha cumais bhraisle Kafka a mheas i gcoinníollacha éagsúla, scrogaill ina oibríocht a aithint agus bealaí a aimsiú chun iad a chomhrac.
Dhearamar Supertubes chun braisle a imscaradh go tapa agus go héasca, é a chumrú, bróicéirí agus topaicí a chur leis / a bhaint, freagairt a thabhairt ar fholáirimh, agus a chinntiú go n-oibríonn Kafka go ginearálta i gceart ar Kubernetes. Is é an sprioc atá againn ná cabhrú leat díriú ar an bpríomhthasc ("teachtaireachtaí Kafka a ghiniúint" agus "a ithe"), agus an obair chrua ar fad a fhágáil ag Supertubes agus ag oibreoir Kafka.
Má tá suim agat i dteicneolaíochtaí Banzai Cloud agus tionscadail Foinse Oscailte, liostáil leis an gcuideachta ag , nó .
PS ó aistritheoir
Léigh freisin ar ár mblag:
- «";
- «";
- «'.
Foinse: will.com