Tuhipoka. whakamaori.: I roto i tenei tuhinga, ka tohatoha a Banzai Cloud i tetahi tauira mo te whakamahi i ana taputapu ritenga kia ngawari ake ai te whakamahi a Kafka i roto i nga Kubernetes. Ko nga tohutohu e whai ake nei e whakaatu ana me pehea e taea ai e koe te whakatau i te rahi tino pai o to hanganga me te whirihora i a Kafka ake ki te whakatutuki i te waahanga e hiahiatia ana.
Ko te Apache Kafka he papaa rerenga toha mo te hanga i nga punaha rerenga pono, whakaineine me te tino mahi i nga wa-tuituru. Ka taea te whakaroa atu i ona kaha whakamiharo ma te whakamahi i nga Kubernetes. Mo tenei i whakawhanakehia e matou me tetahi taputapu e kiia ana . Ka taea e koe te whakahaere i te Kafka i runga i nga Kubernetes me te whakamahi i ona ahuatanga rereke, penei i te whakatikatika i te whirihoranga kaihokohoko, te whakatauira i runga i te metric me te whakatikatika, te mohio ki te whatanga, "ngawari" (ahuareka) te whakaputa i nga whakahou, me etahi atu.
Whakamātauria a Supertubes i roto i to huinga:
curl https://getsupertubes.sh | sh и supertubes install -a --no-democluster --kubeconfig <path-to-eks-cluster-kubeconfig-file>Whakapā ranei . Ka taea hoki e koe te panui mo etahi o nga kaha o Kafka, te mahi e mahi aunoa ana ma te whakamahi i te Supertubes me te Kafka operator. Kua tuhia e matou mo ratou i runga i te blog:
- ;
- ;
- ;
- ;
- ;
- ;
- .
Ina whakatau ana koe ki te whakatakoto i te kahui Kafka ki runga i nga Kubernetes, ka raru pea koe ki te whakatau i te rahi tino pai o te hanganga o raro me te hiahia ki te whakatikatika i to whirihoranga Kafka kia tutuki nga whakaritenga whakaputa. Ko te nui o nga mahi a ia kaihokohoko ka whakatauhia e te mahinga o nga waahanga hanganga o raro, penei i te mahara, te tukatuka, te tere kōpae, te bandwidth whatunga, aha atu.
Ko te tikanga, ko te whirihoranga a te kaihokohoko kia rite ki te whakamahi i nga waahanga hanganga katoa ki o raatau kaha. Heoi, i roto i te ora tonu he tino uaua tenei tatūnga. Ko te mea pea ka whirihorahia e nga kaiwhakamahi nga kaihokohoko ki te whakanui i te whakamahinga o tetahi waahanga e rua ranei (te kōpae, te mahara, te tukatuka ranei). I te nuinga o te korero, ka whakaatuhia e te kaihokohoko nga mahi tino nui ka taea e tana whirihoranga te whakamahi i te waahanga puhoi rawa atu. Ma tenei ka taea e taatau te whakaaro nui mo te kawenga ka taea e tetahi kaihokohoko te whakahaere.
Ko te tikanga, ka taea hoki e taatau te whakatau i te maha o nga kaihokohoko e hiahiatia ana hei hapai i tetahi kawenga. Heoi, i roto i nga mahi he maha nga whiringa whirihoranga i nga taumata rereke he tino uaua (mehemea kaore e taea) ki te arotake i nga mahi ka taea e tetahi whirihoranga. I etahi atu kupu, he tino uaua ki te whakamahere i tetahi whirihoranga i runga i etahi mahi kua whakaritea.
Mo nga kaiwhakamahi Supertubes, ko te tikanga e whai ake nei: ka tiimata me etahi whirihoranga (hanganga + tautuhinga), ka ine i tana mahi, whakatika i nga tautuhinga kaihokohoko me te whakahoki ano i te mahi. Ka puta tenei kia tae noa ki te wa e tino whakamahia ana te waahanga puhoi rawa o te hanganga.
Ma tenei ara, ka marama ake to maatau whakaaro mo te maha o nga kaihokohoko e hiahiatia ana e te tautau ki te hapai i tetahi kawenga (ko te maha o nga kaihokohoko ka whakawhirinaki ano ki etahi atu mea, penei i te iti rawa o nga tauira karere hei whakarite i te kaha, te maha o te wehewehe. rangatira, etc.). Hei taapiri, ka maarama taatau ki nga waahanga hangahanga e hiahia ana kia whakatauhia poutū.
Ka korero tenei tuhinga mo nga huarahi ka mahia e matou ki te whai hua mai i nga waahanga puhoi i roto i nga whirihoranga tuatahi me te ine i te whakaputanga o te kahui Kafka. Ko te whirihoranga tino kaha e hiahia ana kia toru nga kaihokohoko whakahaere (min.insync.replicas=3), ka tohatohahia ki nga waahi rereke e toru. Hei whirihora, te tauine me te aro turuki i nga hanganga Kubernetes, ka whakamahia e matou ta matou ake papa whakahaere ipu mo nga kapua ranu - . Ka tautokohia i runga-whare (te whakarewa kore, VMware) me nga momo kapua e rima (Alibaba, AWS, Azure, Google, Oracle), me nga huinga katoa.
Nga whakaaro mo te hanganga me te whirihoranga o te roopu Kafka
Mo nga tauira i raro nei, i whiriwhiria e matou ko AWS hei kaiwhakarato kapua me te EKS hei tohatoha Kubernetes. Ka taea te whakamahi i tetahi whirihoranga rite - Te tohatoha Kubernetes mai i Banzai Cloud, i whakamanahia e CNCF.
Drive
Ka tukuna e Amazon nga momo rereke . I te matua gp2 и io1 he puku SSD, heoi, hei whakarite i te whakaputanga teitei gp2 ka pau nga whiwhinga kua kohia (I/O whiwhinga), no reira i pai ake matou ki te momo io1, e tuku ana i te whakaputanga teitei.
Momo tauira
Ko te mahi a Kafka e tino ti'aturi ana ki te keteroki wharangi o te punaha whakahaere, no reira me nui nga mahara mo nga kaihokohoko (JVM) me te keteroki wharangi. Tauira c5.2x nui - he timatanga pai, no te mea he 16 GB o te mahara me te . Ko tana kino ko te mea ka taea e ia te whakarato i nga mahi tino nui mo te 30 meneti ia 24 haora. Mena kei te hiahia to kawenga mahi mo te wa roa, ka hiahia pea koe ki te whakaaro ki etahi atu momo tauira. Koia tonu ta maua mahi, ka mutu c5.4x nui. E whakarato ana i te urunga nui ki roto 593,75 Mb/s. Te whakaputanga teitei o te rōrahi EBS io1 teitei ake i te tauira c5.4x nui, no reira ko te mea puhoi rawa o te hangahanga ko te I/O puta noa o tenei momo tauira (ma o taatau whakamatautau uta e whakau).
Whatunga
Me tino nui te whakaputanga whatunga ki te mahi o te tauira VM me te kopae, ki te kore ka waiho te whatunga hei kohungahunga. I roto i to maatau, ko te atanga whatunga c5.4x nui e tautoko ana i nga tere ki te 10 Gb/s, he tino teitei ake i te whakaputanga I/O o te tauira VM.
Tukunga Kaihokohoko
Me tuku nga Kaihokohoko (kua whakaritea i roto i nga Kubernetes) ki nga waahanga motuhake hei karo i te whakataetae me etahi atu tukanga mo te PTM, te mahara, te whatunga, me nga rauemi kōpae.
Putanga Java
Ko te kowhiringa arorau ko Java 11 na te mea he hototahi ki a Docker i runga i te tikanga ka whakatau tika te JVM i nga kaitukatuka me te mahara e waatea ana ki te ipu kei te whakahaerehia e te kaihokohoko. Ma te mohio he mea nui nga rohe CPU, ka tautuhia e te JVM a roto me te marama te maha o nga miro GC me nga miro JIT. I whakamahia e matou te ahua Kafka banzaicloud/kafka:2.13-2.4.0, kei roto ko te putanga Kafka 2.4.0 (Scala 2.13) mo Java 11.
Mena kei te pirangi koe ki te ako atu mo Java/JVM i runga i nga Kubernetes, tirohia o maatau panui e whai ake nei:
- ;
- .
Tautuhinga mahara tauhokohoko
E rua nga waahanga matua mo te whirihora i te mahara kaihokohoko: nga tautuhinga mo te JVM me te Pod Kubernetes. Me nui ake te tepe mahara kua whakaritea mo te pd ki te rahi o te puranga kia whai waahi te JVM mo te mokowāmeta Java e noho ana ki tana ake mahara, mo te keteroki whaarangi punaha whakahaere e kaha whakamahia ana e Kafka. I a maatau whakamatautau i whakarewahia e matou nga kaihokohoko Kafka me nga taapiri -Xmx4G -Xms2G, a ko te tepe mahara mo te pene ko 10 Gi. Kia mahara ko nga tautuhinga mahara mo te JVM ka taea te tiki aunoa ma te whakamahi -XX:MaxRAMPercentage и -X:MinRAMPercentage, i runga i te tepe maumahara mo te pene.
Tautuhinga tukatuka kaihokohoko
Ko te tikanga, ka taea e koe te whakapai ake i te mahi ma te whakanui i te whakarara ma te whakanui ake i te maha o nga miro e whakamahia ana e Kafka. Ko te maha atu o nga kaitukatuka e waatea ana mo Kafka, ko te pai ake. I roto i ta maatau whakamatautau, i timata matou me te tepe o te 6 kaitukatuka me te haere haere (ma te taapiri) ka piki ake to raatau nama ki te 15. I tua atu, ka tautuhia e matou. num.network.threads=12 i roto i nga tautuhinga kaihokohoko hei whakanui ake i te maha o nga miro ka whiwhi raraunga mai i te whatunga me te tuku. I te kitenga tonu karekau e taea e nga kaihokohoko whai muri te whiwhi tauira tere, ka piki ake num.replica.fetchers ki te 4 ki te whakanui ake i te tere o nga kaihokohoko whai i te whakahoki i nga karere mai i nga kaiarahi.
Utauta Whakatupu Uta
Me whakarite kia kore e pau te kaha o te kaihanga uta i tohua i mua i te ekenga o te kahui Kafka (e tohuhia ana) ki tana kawenga morahi. I etahi atu kupu, he mea tika ki te whakahaere i te aromatawai tuatahi mo nga kaha o te taputapu whakaputa kawenga, me te whiriwhiri ano i nga momo tauira mo taua mea me te maha o nga tukatuka me te mahara. I tenei keehi, ka nui ake te utaina o ta maatau taputapu i te kaha o te roopu Kafka. I muri i nga whakamatautau maha, ka whakatauhia e matou nga kape e toru c5.4x nui, kei ia o ratou he hikohiko e rere ana.
Te tohu tohu
Ko te inenga mahi he tukanga auau e whai ake nei nga waahanga:
- te whakatu i nga hanganga (EKS cluster, Kafka cluster, utauta taputapu whakaputa, me Prometheus me Grafana);
- te whakaputa i te kawenga mo tetahi wa hei tātari i nga rereke matapōkere i roto i nga tohu mahi kua kohia;
- te whakatikatika i te hanganga me te whirihoranga a te kaihokohoko i runga i nga tohu mahi kua kitea;
- te tukurua i te tukanga kia tutuki ra ano te taumata e hiahiatia ana o te kohinga kohinga Kafka. I te wa ano, me whakaputa i nga wa katoa me te whakaatu i nga rereketanga iti o te whakaputa.
Ko te waahanga e whai ake nei e whakaatu ana i nga waahanga i mahia i te wa o te tukanga tohu tohu kahui whakamatautau.
Utauta
I whakamahia nga taputapu e whai ake nei ki te tuku tere i te whirihoranga turanga, te whakaputa kawenga, me te ine mahi:
- mo te whakarite i te roopu EKS mai i Amazon c (ki te kohi Kafka me nga inenga hanganga) me (ki te whakaata i enei inenga). I whai hua matou whakauru в Ko nga ratonga e whakarato ana i te aro turuki, te kohikohinga raarangi tuuturu, te matawai whakaraeraetanga, te whakaora i nga aitua, te haumarutanga o te hinonga me te maha atu.
- — he taputapu mo te whakamatautau uta i te tautau Kafka.
- Papatohu Grafana hei tiro i nga inenga me nga hanganga Kafka: , .
- Supertubes CLI mo te huarahi ngawari ki te whakatu i tetahi kahui Kafka ki runga Kubernetes. Zookeeper, Kafka operator, Envoy me te maha atu o nga waahanga kua whakauruhia me te whirihora tika hei whakahaere i tetahi kahui Kafka kua rite ki te hanga i runga i nga Kubernetes.
- Hei tāuta supertubes CLI whakamahia nga tohutohu kua whakaratohia .
Ko te roopu hokohoko o nga EKS
Whakaritehia he huinga EKS me nga pona kaimahi kua whakatapua c5.4x nui i roto i nga waahi rereke rereke mo nga putea me nga kaihokohoko Kafka, me nga waahanga motuhake mo te kaihanga kawenga me nga hanganga aroturuki.
banzai cluster create -f https://raw.githubusercontent.com/banzaicloud/kafka-operator/master/docs/benchmarks/infrastructure/cluster_eks_202001.jsonI te wa e noho ana te roopu EKS, ka taea te whakauru — ka tukuna e ia a Prometheus me Grafana ki roto i te tautau.
Nga waahanga punaha Kafka
Whakauruhia nga waahanga punaha Kafka (Zookeeper, kafka-operator) ki EKS ma te whakamahi i nga supertubes CLI:
supertubes install -a --no-democluster --kubeconfig <path-to-eks-cluster-kubeconfig-file>Kafka tautau
Ma te taunoa, ka whakamahia e EKS nga momo pukapuka EBS gp2, na me hanga e koe he akomanga rokiroki motuhake i runga i nga pukapuka io1 mō te kāhui Kafka:
kubectl create -f - <<EOF
apiVersion: storage.k8s.io/v1
kind: StorageClass
metadata:
name: fast-ssd
provisioner: kubernetes.io/aws-ebs
parameters:
type: io1
iopsPerGB: "50"
fsType: ext4
volumeBindingMode: WaitForFirstConsumer
EOF
Tautuhia te tawhā mo nga kaihokohoko min.insync.replicas=3 ka horahia nga putea kaihokohoko ki runga i nga pona i roto i nga rohe waatea e toru:
supertubes cluster create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f https://raw.githubusercontent.com/banzaicloud/kafka-operator/master/docs/benchmarks/infrastructure/kafka_202001_3brokers.yaml --wait --timeout 600Kaupapa
E toru nga wa whakarara i whakahaerehia e matou. Ka tuhi ia o ratou ki tana ake kaupapa, ara, kia toru nga kaupapa katoa:
supertubes cluster topic create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f -<<EOF
apiVersion: kafka.banzaicloud.io/v1alpha1
kind: KafkaTopic
metadata:
name: perftest1
spec:
name: perftest1
partitions: 12
replicationFactor: 3
retention.ms: '28800000'
cleanup.policy: delete
EOF
supertubes cluster topic create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f -<<EOF
apiVersion: kafka.banzaicloud.io/v1alpha1
kind: KafkaTopic
metadata:
name: perftest2
spec:
name: perftest2
partitions: 12
replicationFactor: 3
retention.ms: '28800000'
cleanup.policy: delete
EOF
supertubes cluster topic create -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> -f -<<EOF
apiVersion: kafka.banzaicloud.io/v1alpha1
kind: KafkaTopic
metadata:
name: perftest3
spec:
name: perftest3
partitions: 12
replicationFactor: 3
retention.ms: '28800000'
cleanup.policy: delete
EOFMo ia kaupapa, ko te take tukurua ko te 3—te uara iti e taunaki ana mo nga punaha whakaputa tino watea.
Utauta Whakatupu Uta
I whakarewahia e matou nga kape e toru o te kaihanga uta (i tuhia e ia ki tetahi kaupapa motuhake). Mo nga pona whakangao uta, me whakarite e koe te hononga o te node kia whakaritea ki runga i nga pona kua tohua mo ratou:
apiVersion: extensions/v1beta1
kind: Deployment
metadata:
labels:
app: loadtest
name: perf-load1
namespace: kafka
spec:
progressDeadlineSeconds: 600
replicas: 1
revisionHistoryLimit: 10
selector:
matchLabels:
app: loadtest
strategy:
rollingUpdate:
maxSurge: 25%
maxUnavailable: 25%
type: RollingUpdate
template:
metadata:
creationTimestamp: null
labels:
app: loadtest
spec:
affinity:
nodeAffinity:
requiredDuringSchedulingIgnoredDuringExecution:
nodeSelectorTerms:
- matchExpressions:
- key: nodepool.banzaicloud.io/name
operator: In
values:
- loadgen
containers:
- args:
- -brokers=kafka-0:29092,kafka-1:29092,kafka-2:29092,kafka-3:29092
- -topic=perftest1
- -required-acks=all
- -message-size=512
- -workers=20
image: banzaicloud/perfload:0.1.0-blog
imagePullPolicy: Always
name: sangrenel
resources:
limits:
cpu: 2
memory: 1Gi
requests:
cpu: 2
memory: 1Gi
terminationMessagePath: /dev/termination-log
terminationMessagePolicy: File
dnsPolicy: ClusterFirst
restartPolicy: Always
schedulerName: default-scheduler
securityContext: {}
terminationGracePeriodSeconds: 30He tohu iti hei tohu:
- Ka whakaputahia e te kaihanga uta nga karere 512 paita te roa, ka whakaputa ki Kafka i roto i nga roopu 500 nga karere.
- Te whakamahi tautohe
-required-acks=allKo te whakaputanga ka kiia kua angitu ina ka tae mai nga tauira tukutahi katoa o te karere ka whakamanahia e nga kaihokohoko Kafka. Ko te tikanga i roto i te tohu tohu i inehia e matou ehara i te mea ko te tere o nga kaiarahi ki te whiwhi karere, engari ko o raatau akonga ki te whakahoki karere. Ko te kaupapa o tenei whakamatautau ehara i te arotake i te tere panui a nga kaihoko (nga kaihoko) tata tonu i tae mai nga karere kei te noho tonu ki te keteroki wharangi OS, me tana whakataurite ki te tere panui o nga karere kua rongoa ki runga kopae. - E 20 nga kaimahi i roto i te whakarara (
-workers=20). Kei ia kaimahi nga kaihanga 5 e tiri ana i te hononga o te kaimahi ki te roopu Kafka. Ko te mutunga mai, he 100 nga kaihanga o ia kaihanga, ka tuku karere katoa ki te kahui Kafka.
Te aroturuki i te hauora o te kohinga
I te wa o te whakamatautau kawenga o te kahui Kafka, i aro turuki ano matou i tona hauora kia kore ai e timata ano te porowhita, kaore he tauira kore-tukutahi, me te nui o te whakaputanga me te iti o te rereketanga:
- Ka tuhia e te kaihanga kawenga nga tatauranga paerewa mo te maha o nga karere i whakaputaina me te reeti hapa. Me noho tonu te reiti hapa
0,00%. - , ka tukuna e te kafka-operator, e whakarato ana i te papatohu ka taea hoki e matou te aroturuki i te ahua o te roopu. Hei tiro i tenei panui me mahi:
supertubes cluster cruisecontrol show -n kafka --kubeconfig <path-to-eks-cluster-kubeconfig-file> - ISR taumata (te maha o nga tauira "i-tukutahi") ko te whakaheke me te roha he rite ki te 0.
Nga hua ine
3 kaihokohoko, rahi karere - 512 paita
Na nga wehewehenga kua tohatohahia puta noa i nga kaihokohoko e toru, i taea e matou te whakatutuki i nga mahi ~500 Mb/s (tata ki te 990 mano nga karere mo ia hekona):
Ko te kai mahara o te miihini mariko JVM kaore i neke ake i te 2 GB:
I tae atu te puta o te kopae ki te morahi o te whakaputanga node I/O i runga i nga wahanga e toru e whakahaere ana nga kaihokohoko:
Mai i nga raraunga mo te whakamahi mahara ma nga pona, ka whai ake i tangohia e te punaha whakahaere me te keteroki ~ 10-15 GB:
3 kaihokohoko, rahi karere - 100 paita
I te hekenga o te rahi o te karere, ka heke iho te urunga ma te 15-20%: ko te wa e pau ana ki te tukatuka i ia karere ka pa ki a ia. I tua atu, kua tata rua te kawenga o te tukatuka.
I te mea kei te noho tonu nga kohanga a te kaihokohoko, ka taea te whakapai ake ma te whakarereke i te whirihoranga Kafka. Ehara tenei i te mahi ngawari, no reira he pai ake te mahi me nga karere nui ake.
4 kaihokohoko, rahi karere - 512 paita
Ka taea e koe te whakanui ake i nga mahi o te kahui Kafka ma te taapiri noa i nga kaihokohoko hou me te pupuri i te toenga o nga wehewehenga (ma tenei ka tohatoha te kawenga i waenga i nga kaihokohoko). I roto i to maatau, i muri i te taapiri i tetahi kaihokohoko, ka piki ake te kohinga kohinga ki ~580 Mb/s (~1,1 miriona karere mo ia hekona). Ko te tipu ka iti ake i te mea i tumanakohia: ko te nuinga tenei e whakamaramahia ana e te koretake o nga wehewehenga (kaore nga kaihokohoko katoa e mahi ana i te tihi o o raatau kaha).
Ko te kai mahara o te miihini JVM i noho i raro i te 2 GB:
Ko nga mahi a nga kaihokohoko me nga puku i pa ki te koretake o nga wehewehenga:
kitenga
Ka taea te whakawhänuihia te huarahi whiti e whakaatuhia ana i runga ake nei ki te kapi i nga ahuatanga uaua e pa ana ki nga rau o nga kaihoko, te wehewehe, te huri whakahōutanga, te whakaara ano i te pod, me era atu. Ko enei mea katoa ka taea e tatou te aromatawai i nga rohe o nga kaha o te roopu Kafka i roto i nga ahuatanga rereke, te tautuhi i nga pounamu i roto i tana mahi me te rapu huarahi ki te whawhai ia ratou.
I hoahoatia e matou a Supertubes kia tere me te ngawari te hora i te kahui, te whirihora, te taapiri/tango i nga kaihokohoko me nga kaupapa, te whakautu ki nga matohi, me te whakarite kia pai te mahi a Kafka ki runga i nga Kubernetes. Ko ta matou whainga ko te awhina i a koe ki te aro ki te mahi matua ("whakaputa" me "ka pau" nga karere Kafka), ka waiho nga mahi uaua katoa ki a Supertubes me te kaiwhakahaere Kafka.
Mena kei te pirangi koe ki nga hangarau Banzai Cloud me nga kaupapa Open Source, ohauru ki te kamupene i , ranei .
PS mai i te kaiwhakamaori
Pānuihia hoki i runga i ta maatau blog:
- «";
- «";
- «".
Source: will.com