Da li je Kafka na Kubernetesu dobra ideja?

Dobrodošli, Habr!

Nekada smo prvi lansirali temu Kafki i nastavljamo pratiti pratiti njen razvoj. Konkretno, zanimljivo nam se činilo pitanje interakcije između Kafke i Kubernetes. U oktobru prošle godine, blog kompanije Confluent je objavio oprezni i pregledni članak koji je napisala Gven Šapira. Danas želimo skrenuti vašu pažnju na noviji, aprilski članak Johanna Gygera, koji, iako nije izbezao upitnik u naslovu, razmatra temu konkretnije, prateći tekst zanimljivim linkovima. Izvinjavamo se na slobodnom prevodu „chaos monkey“, ako možete! članak Kubernetes je dizajniran za rad sa opterećenjima koja ne čuvaju stanje. Obično su takva radna opterećenja predstavljena u obliku mikroservisne arhitekture, lagana su, lako se horizontalno skaliraju, podložna su pravilima 12-faktorskih aplikacija, omogućavaju rad sa automatskim prekidačima i „chaos monkeys“.

Da li je Kafka na Kubernetesu dobra ideja?

Uvod

Kafka, koja se nalazi s druge strane, u suštini djeluje kao distribuirana baza podataka. Dakle, kada radite, morate imati posla sa stanjem, a ono je znatno teže od mikroservisa. Kubernetes podržava opterećenja sa očuvanjem stanja, ali, kako Kelsey Hightower ističe u svojim tvitovima, s njima treba postupati s oprezom:

Neki misle da, ako se primeni Kubernetes na opterećenja sa očuvanjem stanja, to postaje potpuno upravljana baza podataka koja može konkurisati RDS-u. To nije tačno. Možda, ako dovoljno trudite, dodate dodatne komponente i angažujete tim SRE inženjera, moguće je postaviti RDS na Kubernetes.

Uvek svima preporučujem da budu izuzetno oprezni kada pokreću opterećenja sa očuvanjem stanja na Kubernetesu. Većina onih koji se pitaju, „Mogu li pokretati opterećenja sa očuvanjem stanja na Kubernetesu“, nemaju dovoljno iskustva sa Kubernetesom, a često ni sa opterećenjem o kojem se radi.

Uvijek svima preporučujem da budu izuzetno oprezni prilikom pokretanja opterećenja sa očuvanjem stanja na Kubernetesu. Većina onih koji se pitaju, "mogu li pokrenuti opterećenja sa očuvanjem stanja na Kubernetesu", nema dovoljno iskustva u radu sa Kubernetesom, a često ni sa onim opterećenjem za koje pitaju.

Dakle, treba li pokrenuti Kafka na Kubernetesu? Pitanje se postavlja: hoće li Kafka bolje raditi bez Kubernetesa? Zato želim naglasiti u ovom članku kako se Kafka i Kubernetes međusobno dopunjuju, kao i koje prepreke mogu nastati kada ih kombiniramo.

Vrijeme izvođenja

Razgovarajmo o osnovnoj stvari — o samom vremenu izvođenja

Proces

Kafka brokeri su korisni kada je u pitanju CPU. TLS može donijeti određene troškove. Međutim, klijenti Kafke mogu više opteretiti CPU kada koriste enkripciju, ali to ne utiče na brokere.

Memorija

Kafka brokeri troše puno memorije. Veličinu JVM hrpe obično je najbolje ograničiti na 4–5 GB, ali također ćete trebati mnogo sistemske memorije jer Kafka aktivno koristi stranicu keš. U Kubernetesu odgovarajuće postavite limite resursa i zahtjeve za kontejnere.

Skladište podataka

Skladište podataka u kontejnerima je efemerno – podaci se gube prilikom ponovnog pokretanja. Za podatke Kafke možete koristiti volumene emptyDir, a efekat će biti sličan: podaci vašeg brokera će se izgubiti nakon završetka. Vaše poruke ipak mogu ostati na drugim brokerima kao replikati. Stoga, nakon ponovnog pokretanja, neispravan broker treba prvo replicirati sve podatke, a ovaj proces može potrajati.

Zato je važno koristiti dugotrajno skladište podataka. Neka to bude nelokalno dugotrajno skladište s XFS datotečnim sistemom ili, tačnije, ext4. Ne koristite NFS. Upozorio sam vas. NFS verzije v3 ili v4 neće raditi. Ukratko, broker Kafke će se srušiti ako ne može izbrisati direktorij s podacima zbog problema sa "glupim preimenovanjima", koji su aktualni u NFS-u. Ako vas do sada nisam uvjerio, obratite pažnju pročitajte ovaj članak. Skladište podataka mora biti nelokalno kako bi Kubernetes mogao fleksibilnije birati novi čvor nakon ponovnog pokretanja ili premještanja.

Mreža

Kao i u većini distribuiranih sistema, performanse Kafke vrlo zavise od minimiziranja latencija u mreži i maksimiziranja propusnosti. Ne pokušavajte da smeštate sve brokere na isti čvor, jer će to smanjiti dostupnost. Ako otkaže čvor Kubernetes, otkažeće i ceo klaster Kafke. Takođe, ne raspoređujte klaster Kafke po celim data centrima. Isto važi i za klaster Kubernetes. Dobar kompromis je odabrati različite zone dostupnosti.

Konfiguracija

Uobičajeni manifesti

Na sajtu Kubernetes postoji vrlo dobro uputstvo o tome kako konfigurisati ZooKeeper pomoću manifestacija. Pošto ZooKeeper dolazi s Kafkom, lako je započeti upoznavanje sa konceptima Kubernetesa koji su ovde primenljivi. Kada to razumete, moći ćete da primenite iste koncepte i na klaster Kafke.

  • Pod: pod – to je minimalna jedinica za raspoređivanje u Kubernetesu. U podu se nalaze vaše radne opterećenja, a sam pod odgovara procesu u vašem klasteru. U podu se nalazi jedan ili više kontejnera. Svaki poslužitelj ZooKeeper u ansamblu i svaki broker u klasteru Kafke će raditi u posebnom podu.
  • StatefulSet: StatefulSet je objekat Kubernetesa koji radi sa višestrukim radnim opterećenjima koja očuvavaju stanje, a takva opterećenja zahtevaju koordinaciju. StatefulSet pruža garancije u vezi sa redosledom podova i njihovom jedinstvenošću.
  • Headless usluge: Usluge omogućavaju vezivanje podova na klijente putem logičkog imena. Kubernetes je u ovom slučaju odgovoran za ravnomernu raspodelu opterećenja. Međutim, prilikom rada s radnim opterećenjima koja očuvavaju stanje, kao što su ZooKeeper i Kafka, klijentima je potrebno da komunikaciju sa konkretnim instansama. Tu vam pomažu headless usluge: u tom slučaju klijent i dalje ima logičko ime, ali direktno se ne obraća podu.
  • Obezbeđeni volumen: takvi volumeni su potrebni za konfiguraciju nekontrolisanog blokovskog dugotrajnog skladištenja, koje je pomenuto ranije.

Na Yolean nudi sveobuhvatan set manifestacija, pomoću kojih je lako započeti rad s Kafkom na Kubernetesu.

Helm dijagrami

Helm je upravitelj paketa za Kubernetes, koji se može usporediti s upraviteljima paketa za operacijske sustave, poput yum, apt, Homebrew ili Chocolatey. Uz njegovu pomoć lako je instalirati unaprijed definirane softverske pakete opisane u Helm dijagramima. Dobro dizajniran Helm dijagram olakšava složen zadatak: kako pravilno konfigurirati sve parametre za korištenje Kafke na Kubernetesu. Postoji nekoliko Kafkinih dijagrama: službeni se nalazi u inkubacijskom stanju, jedan je od Confluent, a drugi je od Bitnami.

Operateri

Budući da Helm ima određene nedostatke, sve veću popularnost stječe još jedan alat: Kubernetes operateri. Operater ne samo da pakira softver za Kubernetes, već vam također omogućuje da taj softver implementirate i upravljate njime.

Na popisu izvanrednih operatera spominju se dva operatera za Kafku. Jedan od njih je Strimzi. Uz Strimzi lako je podići Kafkin klaster u nekoliko minuta. Gotovo nikakva konfiguracija nije potrebna, a osim toga, sam operater pruža neke privlačne mogućnosti, poput to-točka TLS enkripcije unutar klastera. Confluent također nudi svoj vlastiti operater.

Performanse

Vrlo je važno testirati performanse opskrbljujući svoj instalirani primjerak Kafke kontrolnim točkama. Takvi testovi će vam pomoći da otkrijete potencijalne uske grane prije nego što problemi počnu. Na sreću, u Kafki su već dostupna dva alata za testiranje performansi: kafka-producer-perf-test.sh i kafka-consumer-perf-test.sh. Aktivno ih koristite. Za referencu možete se osloniti na rezultate opisane u ovom postu Jake Krepsa, ili se možete osvježiti s ovim pregledom Amazon MSK od Stéphane Maarek.

Operacije

Monitorisanje

Prozirnost u sustavu je vrlo važna – inače nećete razumjeti što se događa. Danas postoji solidan skup alata koji omogućuju nadzor temeljen na metrima u stilu cloud native. Dva popularna alata za ovu svrhu su Prometheus i Grafana. Prometheus može prikupljati metrike sa svih Java procesa (Kafka, Zookeeper, Kafka Connect) pomoću JMX izvođača – na najjednostavniji način. Ako dodate metrike cAdvisor, možete bolje razumjeti kako se resursi koriste u Kubernetesu.

Strimzi nudi vrlo praktičan primjer Grafana kontrolne ploče za Kafka. Ona vizualizira ključne metrike, poput ne-repliciranih sektora ili sektora koji su offline. Sve je vrlo jasno. Ove metrike se dopunjuju informacijama o korištenju resursa i performansama, kao i pokazateljima stabilnosti. Tako dobijate osnovno praćenje Kafka klastera besplatno!

Da li je Kafka na Kubernetesu dobra ideja?

Izvor: strimzi.io/docs/master/#kafka_dashboard

Sve to bi bilo dobro dopuniti praćenjem klijenata (metrike za konzumente i producenete), kao i praćenjem kašnjenja (za to postoji Burrow) i sveobuhvatnim praćenjem – za to koristite Kafka Monitor.

Logovanje

Logovanje je još jedan veoma važan zadatak. Uvjerite se da se svi kontejneri u vašoj Kafka instalaciji loguju u stdout i stderr, te se pobrinite da vaš Kubernetes klaster agregira sve logove u centralnu log infrastrukturu, poput Elasticsearch.

Provjera funkcionalnosti

Kubernetes koristi 'liveness' i 'readiness' probe da bi provjerio da li vaši podovi rade normalno. Ako probe za živost ne uspiju, Kubernetes će zaustaviti taj kontejner, a zatim ga automatski ponovo pokrenuti ako je politika ponovnog pokretanja postavljena ispravno. Ako provjera spremnosti ne uspije, Kubernetes izolira taj pod od servisiranja zahtjeva. Na taj način, u takvim slučajevima, ručno interveniranje više nije potrebno, što je velika prednost.

Implementacija ažuriranja

StatefulSet podržava automatska ažuriranja: pri odabiru strategije RollingUpdate, svaki pod Kafka će se ažurirati jedan po jedan. Na taj način možete smanjiti trajanje prekida na nulu.

Skaliranje

Skaliranje Kafka klastera je složen zadatak. Međutim, u Kubernetesu je vrlo jednostavno skalirati pode do određenog broja replikata, što znači da možete deklarativno definirati koliko god želite Kafka brokera. Najteže u ovom slučaju je preusmjeravanje sektora nakon skaliranja naviše ili prije skaliranja naniže. Ponovno, Kubernetes će vam pomoći s ovim zadatkom.

Upravljanje

Zadaci povezani sa administracijom vašeg Kafka klastera, posebno kreiranje tema i ponovno dodeljivanje particija, mogu se obaviti pomoću dostupnih shell skripti otvaranjem komandne linije u vašim podovima. Međutim, ovo rešenje nije baš elegantno. Strimzi podržava upravljanje temama putem drugog operatora. Ovde ima mjesta za poboljšanje.

Sigurnosno kopiranje i obnova

Sada će dostupnost Kafka zavisiti i od dostupnosti Kubernetes-a. Ako vam klaster Kubernetes padne, u najgorem slučaju i klaster Kafka će se srušiti. Prema Murphyjevom zakonu, to će se sigurno desiti i izgubićete podatke. Da biste smanjili rizik od takvog ishoda, dobro razradite koncept sigurnosnog kopiranja. Možete koristiti MirrorMaker, a druga opcija je da se za to angažuje S3, kao što je opisano u ovom postu od Zalanda.

Zaključak

Pri radu sa malim ili srednjim Kafka klasterima, sigurno je smisleno koristiti Kubernetes, jer pruža dodatnu fleksibilnost i olakšava rad sa operatorima. Ako imate veoma ozbiljne nefunkcionalne zahteve koji se tiču kašnjenja i/ili propusnosti, možda bi trebalo razmotriti neku drugu opciju implementacije.

Izvor: habr.com

Kupite pouzdan hosting za sajtove uz zaštitu od DDoS, VPS VDS servere 🔥 Kupite pouzdan hosting za sajtove uz zaštitu od DDoS, VPS VDS servere | ProHoster