Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Raporti i dedikohet çështjeve praktike të zhvillimit të operatorëve në Kubernetes, dizajnimit të arkitekturës së tij dhe parimeve themelore të funksionimit.

Në pjesën e parë të raportit do të shqyrtojmë:

  • çfarĂ« Ă«shtĂ« njĂ« operator nĂ« Kubernetes dhe pĂ«r çfarĂ« Ă«shtĂ« i nevojshĂ«m;
  • si e thjeshton operatori menaxhimin e sistemeve tĂ« ndĂ«rlikuara;
  • çfarĂ« mund tĂ« bĂ«jĂ« operatori dhe çfarĂ« nuk mund tĂ« bĂ«jĂ«.

Më pas, do të kalojmë në diskutimin e strukturës së brendshme të operatorit. Do të shqyrtojmë arkitekturën dhe funksionimin e operatorit hap pas hapi. Do të analizojmë në detaje:

  • interaksionin midis operatorit dhe Kubernetes;
  • cilat funksione operatori merr pĂ«rsipĂ«r, dhe çfarĂ« delegon nĂ« Kubernetes.

Do të shqyrtojmë menaxhimin e shard-eve dhe kopjeve të DB në Kubernetes.
Më pas, do të diskutojmë çështjet e ruajtjes së të dhënave:

  • si tĂ« punoni me Ruajtjen e PĂ«rhershme nga kĂ«ndvĂ«shtrimi i operatorit;
  • tronditjet e mundshme tĂ« pĂ«rdorimit tĂ« Ruajtjes Lokale.

Në pjesën përfundimtare të raportit do të shqyrtojmë shembuj praktikë të përdorimit clickhouse-operator me Amazon ose Shërbimin e Google Cloud. Raporti ndërtone mbi shembujt e zhvillimit dhe përvojës së operimit të operatorit për ClickHouse.

Video:

Luaj videon

E kam emrin Vladislav Klimenko. Sot doja të flisja për përvojën tonë në zhvillimin dhe operimin e operatorëve, sidomos për një operator të specializuar për menaxhimin e klastereve të databazave. Në shembullin e ClickHouse-operator për menaxhimin e klasterit ClickHouse.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Pse kemi mundësinë të flasim për operatorin dhe ClickHouse?

  • Ne merremi me mbĂ«shtetje dhe zhvillim tĂ« ClickHouse.
  • Aktualisht pĂ«rpiqemi gradualisht tĂ« kontribuojmĂ« nĂ« zhvillimin e ClickHouse. Dhe jemi tĂ« dytĂ«t pas Yandex nĂ« sasinĂ« e ndryshimeve tĂ« kryera nĂ« ClickHouse.
  • PĂ«rpiqemi tĂ« bĂ«jmĂ« projekte shtesĂ« pĂ«r ekosistemin e ClickHouse.

Një nga këto projekte doja të flisja. Ky është ClickHouse-operator për Kubernetes.

Në raportin tim do të doja të preknja dy tema:

  • Tema e parĂ« – si funksionon operatori ynĂ« pĂ«r menaxhimin e databazave ClickHouse nĂ« Kubernetes.
  • Tema e dytĂ« – si funksionon çdo operator, pra si bashkĂ«vepron ai me Kubernetes.

Sidoqoftë, këto dy pyetje do të ndërthuren gjatë gjithë raportit tim.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Kush do të jetë i interesuar të dëgjojë atë që përpiqem të them?

  • MĂ« sĂ« shumti do tĂ« jetĂ« interesante pĂ«r ata qĂ« operojnĂ« operatorĂ«t.
  • Apo pĂ«r ata qĂ« duan tĂ« krijojnĂ« tĂ« vetin, pĂ«r tĂ« kuptuar se si funksionon brenda, si bashkĂ«vepron operatori me Kubernetes dhe cilat tronditje mund tĂ« shfaqen.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Për ta kuptuar më mirë atë që do të diskutojmë sot, do të ishte e dobishme të dimë se si funksionon Kubernetes dhe të kemi një përgatitje bazike për teknologjitë e cloud.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

ÇfarĂ« Ă«shtĂ« ClickHouse? Ajo Ă«shtĂ« njĂ« bazĂ« tĂ« dhĂ«nash kolonore me specifikĂ« nĂ« pĂ«rpunimin online tĂ« kĂ«rkesave analitike. Dhe ajo Ă«shtĂ« plotĂ«sisht open source.

Dhe na duhet tĂ« dimĂ« vetĂ«m dy gjĂ«ra. Duhet tĂ« dimĂ« se kjo Ă«shtĂ« njĂ« bazĂ« tĂ« dhĂ«nash, prandaj ajo qĂ« do tĂ« tregoj do tĂ« jetĂ« e aplikueshme praktikisht pĂ«r çdo bazĂ« tĂ« dhĂ«nash. Dhe se DBMS ClickHouse Ă«shtĂ« shumĂ« e shkallĂ«zueshme, duke ofruar pĂ«r njĂ« shkallĂ«zim pothuajse linear. Prandaj, gjendja e klasterit – Ă«shtĂ« njĂ« gjendje natyrale pĂ«r ClickHouse. Dhe ndoshta mĂ« interesante Ă«shtĂ« tĂ« diskutojmĂ« se si tĂ« menaxhojmĂ« klasterin ClickHouse nĂ« Kubernetes.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Pse është e nevojshme atje? Pse nuk mund të vazhdojmë ta eksploatojmë atë vet? Pergjigjet janë pjesërisht teknike dhe pjesërisht organizative.

  • NĂ« praktikĂ«, ne gjithnjĂ« e mĂ« shpesh hasim situata tĂ« tilla, kur nĂ« kompanitĂ« e mĂ«dha tashmĂ« praktikisht tĂ« gjitha komponentĂ«t janĂ« nĂ« Kubernetes. Baza e tĂ« dhĂ«nave mbetet pĂ«rjashtim.
  • Dhe gjithnjĂ« e mĂ« shpesh bĂ«het pyetja: "A mund ta fusim atĂ« brenda?". Prandaj, kompanitĂ« e mĂ«dha pĂ«rpiqen tĂ« krijojnĂ« maksimalĂ«n e unifikimit tĂ« menaxhimit pĂ«r tĂ« pasur mundĂ«sinĂ« tĂ« menaxhojnĂ« shpejt depozitat e tyre tĂ« dhĂ«nash.
  • Dhe kjo ndihmon nĂ« veçanti, nĂ«se Ă«shtĂ« e nevojshme qĂ« maksimalisht tĂ« pĂ«rsĂ«risim tĂ« njĂ«jtĂ«n gjĂ« nĂ« njĂ« vend tĂ« ri, dmth. maksimalja portabilitet.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Sa e lehtë ose e vështirë është? Natyrisht, kjo mund të bëhet me duar. Por nuk është aq e lehtë, sepse ne hasim në ndërlikimin e menaxhimit të vetë Kubernetes, por mbi këtë përflakja e specifikës së ClickHouse. Kështu, ndodh një agregatë.

Dhe gjithçka së bashku ofron një set mjaft të gjerë teknologjish, të cilat bëhen mjaft të vështira për t'u menaxhuar, sepse Kubernetes sjell pyetje të përditshme për operimin, ndërsa ClickHouse sjell pyetje të veta për operimin e përditshëm. Sidomos, nëse kemi disa ClickHouse-e dhe duhet të bëjmë vazhdimisht diçka me to.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Në ClickHouse, me konfigurim dinamik, ka një numër të konsiderueshëm pyetjesh që krijojnë një ngarkesë të vazhdueshme për DevOps:

  • Kur duam tĂ« ndryshojmĂ« diçka nĂ« ClickHouse, pĂ«r shembull, tĂ« shtojmĂ« njĂ« replikĂ«, njĂ« shard, do tĂ« duhet tĂ« realizojmĂ« menaxhimin e konfiguracionit.
  • MĂ« pas, duhet tĂ« ndryshoni skemĂ«n e tĂ« dhĂ«nave, sepse ClickHouse ka njĂ« mĂ«nyrĂ« specifike tĂ« shardimit. Duhet tĂ« ndahen skemat e tĂ« dhĂ«nave dhe tĂ« konfigurohen.
  • Duhet tĂ« konfigurohet monitorimi.
  • Mblidhni logjet pĂ«r shards tĂ« rinj, pĂ«r replika tĂ« reja.
  • Kujdesuni pĂ«r rikuperimin.
  • Dhe pĂ«r rindezjen.

Këto janë punë rutinore, të cilat shumë do të donin t'i lehtësonin në përgatitje.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Kubernetes po ndihmon shumë në menaxhim, por në aspektet themelore të sistemit.

Kubernetes lehtëson dhe automatizon gjëra si:

  • Rikuperimi.
  • Rindezja.
  • Menaxhimi i sistemit tĂ« ruajtjes.

Kjo është e mirë, kjo është drejtimi i duhur, por ai nuk ka një kuptim të plotë se si të menaxhohet një klaster i bazës së të dhënave.

Dëshirojmë më shumë, duam që e gjithë baza e të dhënave të funksionojë në Kubernetes.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dëshirojmë të kemi diçka si një buton të madh magjik të kuq, mbi të cilin klikoni dhe ju krijohet dhe mbahet gjatë gjithë ciklit të jetës një klaster me detyra të përditshme që duhen zgjidhur. Klasteri ClickHouse në Kubernetes.

Dhe ne kemi përpjekur të krijojmë një zgjidhje që do të ndihmonte në lehtësimin e punës. Ky është ClickHouse-operator për Kubernetes nga kompania Altinity.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Operatori është një program, detyra kryesore e të cilit është të menaxhojë programe të tjera, domethënë ai është një menaxher.

Dhe ai përmban modele sjelljeje. Mund ta quajmë këtë njohuri të kodifikuara mbi fushën përkatëse.

Dhe detyra kryesore e tij është të lehtësojë jetën për DevOps dhe të reduktojë menaxhimin e mikros, që ai (DevOps) të mendojë në terma më të lartë, domethënë që ai (DevOps) të mos merret me menaxhimin e detajeve manualisht.

Dhe operatori është pikërisht një robot ndihmës, që lufton me detyra të vogla dhe ndihmon DevOps.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Pse është nevojitur operatori? Ai tregohet veçanërisht i mirë në dy çështje:

  • Kur njĂ« specialist qĂ« merret me ClickHouse, nuk ka pĂ«rvojĂ« tĂ« mjaftueshme, por duhet tĂ« operohet ClickHouse, operatori lehtĂ«son operimin dhe ndihmon nĂ« manaxhimin e njĂ« klasteri ClickHouse me njĂ« konfiguracion mjaft tĂ« komplikuar, duke mos u pĂ«rfshirĂ« shumĂ« nĂ« detaje se si funksionon gjithçka brenda. Thjesht i jepni detyra tĂ« nivelit tĂ« lartĂ«, dhe kjo funksionon.
  • Dhe detyra e dytĂ«, nĂ« tĂ« cilĂ«n ai shihet mĂ« sĂ« miri, Ă«shtĂ« kur duhet tĂ« automatizohet njĂ« numĂ«r i madh detyrash tipike. Ai heq mikrodetyrat nga administruesit e sistemit.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Kjo është më e nevojshme për ata që sapo kanë filluar rrugën e tyre, ose për ata që duhet të angazhohen shumë në automatizim.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Cila Ă«shtĂ« dallimi i qasjes qĂ« bazohet nĂ« operatorĂ« nga sistemet e tjera? Ka Helm. Ai gjithashtu ndihmon nĂ« instalimin e ClickHouse, mund tĂ« vizatoni helm charts, tĂ« cilat madje vendosin njĂ« klaster tĂ« tĂ«rĂ« ClickHouse. ÇfarĂ« dallimi ka midis operatorit dhe, pĂ«r shembull, Helm?

Dallimi themelor Ă«shtĂ« se Helm Ă«shtĂ« menaxhim paketash, ndersa operatori shkon mĂ« tej. Ai mbulon tĂ« gjithĂ« ciklin e jetĂ«s. Nuk Ă«shtĂ« vetĂ«m instalimi, janĂ« detyrat e pĂ«rditshme, qĂ« pĂ«rfshijnĂ« skalimin, sharding, pra, tĂ« gjitha ato qĂ« duhet tĂ« kryhen nĂ« procesin e ciklit tĂ« jetĂ«s (nĂ«se nevojitet, edhe fshirja) – tĂ« gjitha kĂ«to i zgjidh operatori. Ai pĂ«rpiqet tĂ« automatizojĂ« dhe mbĂ«shtesĂ« tĂ« gjithĂ« ciklin e jetĂ«s sĂ« softuerit. Kjo Ă«shtĂ« dallimi i tij themelor nga zgjidhjet e tjera qĂ« janĂ« tĂ« pranishme.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Kjo ishte pjesa hyrëse, le të vazhdojmë më tutje.

Si ndërtuojmë operatorin tonë? Ne përpiqemi të qasemi në mënyrë që të menaxhojmë klasterin ClickHouse si një burim të vetëm.

Ja, në anën e majtë të pamjes kemi të dhënat hyrëse. Ky është një YAML me specifikimin e klasterit, që në mënyrën klasike kalon përmes kubectl në Kubernetes. Atje, operatori e merr, bën magjinë e tij. Dhe në daljen kemi diçka të tillë. Kjo është implementimi i ClickHouse në Kubernetes.

Dhe më pas do të shikojmë gradualisht se si funksionon operatori, cilat detyra tipike mund të zgjidhen. Do të shqyrtojmë vetëm detyrat tipike, sepse kemi kohë të kufizuar. Dhe nuk do të flasim për gjithçka që mund të zgjidhë operatori.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Le të nisemi nga praktika. Projekti ynë është plotësisht open source, kështu që mund të shihni në GitHub se si funksionon. Dhe mund të lini që, nëse dëshironi të provoni ta aktivizoni thjesht, atëherë mund të filloni me udhëzuesin e shpejtë.

Nëse dëshironi të zhyteni në detaje, ne përpiqemi të mbajmë dokumentacionin në një formë më të pranueshme.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Le të nisim me një detyrë praktike. Detyra e parë, nga e cila të gjithë duam të fillojmë, është ta nisnim shembullin e parë në njëfarë mënyre. Si ta nxjerrim në punë ClickHouse me ndihmën e operatorit, edhe pa e ditur shumë si funksionon? Shkruajmë një manifest, pasi të gjitha komunikimet me k8s janë komunikime përmes manafests.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ja një manifest i tillë i komplikuar. Ajo që kemi theksuar me të kuqe është ajo që duhet të akcentohet. Ne i kërkojmë operatorit të krijojë një grup me emrin demo.

Për momentin këto janë shembuj bazikë. Storage ende nuk përshkruhet, por do të kthehemi te storage pak më vonë. Për tani, do të ndjekim zhvillimin e grupit në dinamikë.

E krijuam këtë manifest. I japim atë operatorit tonë. Ai punoi, bëri magjinë.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

ShikojmĂ« nĂ« konsolĂ«. Tre komponente tĂ« ndryshme janĂ« interesante – kĂ«to janĂ« Pod, dy ShĂ«rbime dhe StatefulSet.

Operatori kreu punën e tij, dhe ne mund të shohim se çfarë saktësisht krijoi ai.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ai krijon një skemë të tillë. Kemi StatefulSet, Pod, ConfigMap për çdo ndryshim, ConfigMap për të gjithë grupin. Sigurisht, shërbimet si pika hyrëse në grup.

Shërbimet janë Shërbimi Qendror Load Balancer dhe gjithashtu mund të ketë për çdo ndryshim, për çdo shard.

Ja si duket grupi ynë bazë. Ai përbëhet nga një nodësh të vetme.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Le të vazhdojmë, do të komplikohemi. Duhet të shardojmë grupin.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Detyrat tona po rriten, duke filluar dinamikën. Dëshirojmë të shtojmë një shard. Ndjekim zhvillimin. Ndryshojmë specifikimin tonë. Shkruajmë se duam dy shard.

Ky është po ai skedar, i cili zhvillohet në mënyrë dinamike me rritjen e sistemit. Storage nuk ka, storage do të shqyrtohet më vonë, kjo është një temë e veçantë.

I japim YAML-operatorit dhe shohim se çfarë del.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Operatori mendoi dhe krijoi entitetet e mëposhtme. Tani kemi dy Pod, tre Shërbime dhe, befas, 2 StatefulSet. Pse 2 StatefulSet?

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

NĂ« skemĂ« ishte kĂ«shtu – ky ishte gjendja fillestare, kur kishim njĂ« pod.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Tani u bë kështu. Për momentin gjithçka është e thjeshtë, është e dyfishuar.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe pse StatefulSet u bĂ« dy? KĂ«tu duhet tĂ« largohemi dhe tĂ« diskutojmĂ« çështjen se si nĂ« Kubernetes menaxhohen Pod’ët.

Ka njĂ« objekt tĂ« tillĂ« tĂ« quajtur StatefulSet, i cili lejon krijimin e njĂ« grupi Pod’ësh nga njĂ« shablon. Faktor kryesor Ă«shtĂ« Template. Dhe mund tĂ« eksploroni shumĂ« Pod’ë nga njĂ« shablon nĂ« njĂ« StatefulSet. Dhe fraza kyçe kĂ«tu Ă«shtĂ« "nga njĂ« shablon shumĂ« Pod’ë."

Dhe kishte një tundim të madh për të bërë të gjithë klastri, duke e paketuar në një StatefulSet. Kjo do të funksiononte, nuk ka asnjë problem. Por ka një nuancë. Nëse duam të formojmë një klasër heterogjen, pra me disa versione të ClickHouse, atëherë kemi disa pyetje. Po, StatefulSet mund të bëjë një përditësim të rrotullueshëm, po aty mund të vendosim versionin e ri, duke shpjeguar se nuk duhet të provojmë më shumë se kaq shumë nodë njëherësh.

Por nëse e ekstrapolojmë detyrën dhe themi se duam të krijojmë një klasër plotësisht heterogjen dhe duam jo të kalojmë nga versioni i vjetër në të riun me anë të përditësimit rrotullues, por thjesht duam të krijojmë një klasër heterogjen si në pjesën e versioneve të ndryshme të ClickHouse, ashtu edhe në pjesën e ruajtjes së ndryshme. Duam, për shembull, të krijojmë disa replika mbi disqe të veçanta, mbi të ngadalta, në përgjithësi, të ndërtojmë plotësisht një klasër heterogjen. Dhe për shkak se StatefulSet bën një zgjidhje të standardizuar nga një model, nuk ka mundësi ta bëjmë këtë.

Pas disa reflektimesh, u mor vendimi qĂ« tĂ« veprojmĂ« kĂ«shtu. Çdo replika Ă«shtĂ« nĂ« StatefulSet-in e vet. Ka disa mangĂ«si nĂ« kĂ«tĂ« zgjidhje, por nĂ« praktikĂ«, operatori e enkapsulon plotĂ«sisht kĂ«tĂ«. Dhe ka shumĂ« pĂ«rfitime. Mund tĂ« ndĂ«rtojmĂ« njĂ« klasĂ«r plotĂ«sisht ashtu siç duam, pĂ«r shembull, absolutisht heterogjen. Prandaj, nĂ« klastrin tonĂ«, ku kemi dy shard-e me njĂ« replika, do tĂ« kemi 2 StatefulSet-a dhe 2 Pod-a pikĂ«risht pĂ«r shkak se kemi zgjedhur njĂ« qasje tĂ« tillĂ« pĂ«r shkak tĂ« arsyeve tĂ« pĂ«rmendura mĂ« sipĂ«r pĂ«r mundĂ«sinĂ« e ndĂ«rtimit tĂ« njĂ« klasri heterogjen.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Të kthehemi te detyrat praktike. Ne në klastrin tonë duam të konfigurimim përdoruesit, pra na nevojitet ndonjë konfigurim i ClickHouse në Kubernetes. Operatorët ofrojnë të gjitha mundësitë për këtë.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Mund ta shkruajmë drejtpërsëdrejti në YAML atë që duam. Të gjitha mundësitë e konfigurimit mapohen drejtpërsëdrejti nga ky YAML tek konfigurimet e ClickHouse, të cilat më pas shpërndahen në të gjithë klastrin.

Mund të shkruajmë edhe kështu. Ky është vetëm një shembull. Fjalëkalimi mund të bëhet e enkriptuar. Të gjitha mundësitë e konfigurimit të ClickHouse mbështeten. Këtu është vetëm një shembull.

Konfigurimi për klastri shpërndahet si ConfigMap. Në praktikë, përditësimi i ConfigMap-it nuk ndodh në mënyrë të menjëhershme, prandaj nëse klastri është i madh, procesi i shpërndarjes së konfigurimit zgjat disi. Por gjithçka është shumë e rehatshme në funksionim.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

E rendim situatën më të komplikuar. Klusteri po zhvillohet. Ne duam të replikojmë të dhënat. Pra, kemi tashmë dy shard-e, me një replikë secili, të vendosur përdoruesit. Po rritemi dhe duam të merremi me replikimin.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

ÇfarĂ« na nevojitet pĂ«r replikimin?

Na nevojitet ZooKeeper. Në ClickHouse, replikimi ndërtohet duke përdorur ZooKeeper. ZooKeeper është i nevojshëm që replikat e ndryshme të ClickHouse të kenë konsensus në lidhje me cilat blloqe të dhënash ndodhen në cilin ClickHouse.

Mund të përdoren çfarëdo ZooKeeper-i. Nëse kompania ka një ZooKeeper të jashtëm, atëherë mund ta përdorim atë. Nëse jo, mund të instalojmë nga depoja jonë. Ka një installer që e bën këtë punë më të lehtë.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Këtu është skema e bashkëveprimit të gjithë sistemit. Kemi Kubernetes si platformë. Atje ekzekutohet operatori ClickHouse. ZooKeeper e kam paraqitur këtu. Dhe operatori bashkëpunon si me ClickHouse, ashtu edhe me ZooKeeper. Pra, kemi bashkëveprim.

Dhe gjithçka kjo është e nevojshme që ClickHouse të ngashmojë me sukses të dhënat në k8s.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Tani le të shohim vetë detyrën, se si do të duket manifesti për replikimin.

Ne i shtojmĂ« dy seksione manifestit tonĂ«. E para – Ă«shtĂ« se nga mund tĂ« marrĂ« ZooKeeper, i cili mund tĂ« jetĂ« brenda Kubernetes, ose tĂ« jashtme. Kjo Ă«shtĂ« thjesht njĂ« pĂ«rshkrim. Dhe kĂ«rkojmĂ« replikat. Pra, ne duam dy replika. NĂ« pĂ«rfundim, do tĂ« kemi 4 pod-e. PĂ«r ruajtjen kujtojmĂ«, ajo do tĂ« kthehet pak mĂ« vonĂ«. Ruajtja Ă«shtĂ« njĂ« kĂ«ngĂ« e veçantĂ«.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ishte kështu.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Bëhet kështu. Shtohen replikat. E katërta nuk u fut, ne besojmë që atje mund të ketë shumë. Dhe në anë shtohet ZooKeeper. Skemat po komplikohet.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe erdhi koha të shtojmë detyrën tjetër. Do të shtojmë Ruajtje të Përhershme.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)Për Ruajtjen e Përhershme kemi mundësi të ndryshme ekzekutimi.

Në rast se ne ekzekutojmë në një ofrues cloud, për shembull, duke përdorur Amazon, Google, ka një joshje të madhe për të përdorur ruajtjen cloud. Kjo është shumë e convenient, kjo është mirë.

Dhe ka një opsion tjetër. Kjo është për ruajtjen lokale, kur diskët janë lokale në çdo nod. Ky opsion është shumë më i komplikuar në ekzekutim, por në të njëjtën kohë është më i efektshëm.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Le të shohim se çfarë kemi në lidhje me ruajtjen cloud.

Ka avantazhe. ËshtĂ« shumĂ« e lehtĂ« pĂ«r t'u konfiguruar. Ne thjesht kĂ«rkojmĂ« nga ofruesi cloud, qĂ« na jepni, ju lutem, ruajtjen e tillĂ« me kapacitet tĂ« tillĂ«, tĂ« kĂ«tij klasĂ«. Klasat janĂ« pĂ«rshkruar nga ofruesit vetĂ«.

Dhe ka njĂ« mangĂ«si. PĂ«r dikĂ« ky Ă«shtĂ« njĂ« mangĂ«si qĂ« nuk Ă«shtĂ« kritike. Sigurisht, do tĂ« ketĂ« ndonjĂ« zhvillim tĂ« performancĂ«s. ËshtĂ« shumĂ« i pĂ«rshtatshĂ«m pĂ«r punĂ«, i besueshĂ«m, por ka disa rreziqe potenciale pĂ«r performancĂ«n.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe pasi ClickHouse fokusohet pikërisht në performancë, mund të themi se nxjerr maksimumin e mundshëm, prandaj shumë klientë përpiqen të nxjerrin maksimumin e performancës.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe për të arritur maksimumin, na nevojitet ruajtja lokale.

Kubernetes ofron tre abstraksione për të përdorur ruajtjen lokale në Kubernetes. Këto janë:

  • EmptyDir
  • HostPath.
  • Local

Le të shqyrtojmë se si ndryshojnë dhe si janë të ngjashëm.

Së pari, në të tre qasjet ruajtja përbën disqet lokale që ndodhen në të njëjtën nodë fizike k8s. Por ato kanë disa ndryshime.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

TĂ« fillojmĂ« me gjĂ«nĂ« mĂ« tĂ« thjeshtĂ«, pra me emptyDir. ÇfarĂ« Ă«shtĂ« kjo nĂ« praktikĂ«? Kjo Ă«shtĂ« kur ne i kĂ«rkojmĂ« sistemit tĂ« kontenjerĂ«ve (mĂ« shpesh Ă«shtĂ« docker) qĂ« tĂ« na japĂ« akses nĂ« njĂ« dosje nĂ« diskun lokal.

Në praktikë, docker krijon ndonjëherë një dosje të përkohshme në rrugët e tij të veta, e emërton atë me një hash të gjatë. Dhe ofron një ndërfaqe për aksesin në të.

Si do të funksionojë kjo për sa i përket performancës? Kjo do të funksionojë me shpejtësinë e diskut lokal, dmth. kjo është plotësisht e aksesueshme për diskun tuaj.

Por kjo ka një mangësi të vet. Persistente janë mjaft të dyshimta. Me lëvizjen e parë të dockers me kontejnerët, Persistente humbin. Nëse Kubernetes dëshiron, për ndonjë arsye, të transferojë këtë Pod në një disk tjetër, atëherë të dhënat humbasin.

Ky qasje është e mirë për teste, sepse shpejtësia tregon tashmë normale, por për diçka të rëndësishme ky variant nuk është i përshtatshëm.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Prandaj ka një qasje të dytë. Kjo është hostPath. Nëse shikoni slajdin e kaluar dhe këtë, mund të shihni një vetëm dallim. Dosja është shkuar nga docker drejtpërdrejt në nodën Kubernetes. Këtu është pak më e thjeshtë. Ne shkruajmë direkt rrugën në sistemin e skedarëve vendas, ku do të doja të ruaja të dhënat e mia.

Avantazhet e këtij mënyre janë reale. Ky është tashmë një Persistent i vërtetë, madje klasik. Të dhënat tona do të shkruhen në disk në një adresë të caktuar.

Ka there dhe disavantazhe. Kjo është kompleksiteti i menaxhimit. Kubernetes-i ynë mund të dëshirojë të lëvizë një Pod në një nodë tjetër fizike. Dhe këtu hyn në lojë DevOps. Ai duhet të shpjegojë saktë të gjithë sistemit se lëvizja e këtyre pod'ëve mund të bëhet vetëm në ato nódë ku keni diçka të montuar dhe jo më shumë se një nodë në një kohë. Kjo është mjaft e komplikuar.

Për këto qëllime, ne si operator kemi krijuar shabllone për të fshehur gjithë këtë kompleksitet. Dhe do të ishte e mjaftueshme të thuash: 'Dua që të kem një instance ClickHouse për çdo nodë fizike dhe në këtë rrugë'.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Por kjo nevojë nuk është vetëm për ne, prandaj gentlemanët nga Kubernetes-i vetë e kuptojnë se njerëzit duan të kenë akses në disqet fizike, prandaj ata ofrojnë një nivel të tretë.

Ai quhet local. Diferenca me sliden e mëparshme praktikisht nuk ka. Vetëm se më parë duhej të bënim me dorë që këto pod'ë nuk mund të lëvizeshin nga një nodë në një tjetër, sepse ata duhet të ishin të lidhur për një rrugë të tillë me disqin fizik lokal, dhe tani të gjitha këto njohuri inkapsulohen vetë në Kubernetes. Dhe bëhet shumë më e thjeshtë për t'u konfiguruar.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Të kthehemi në detyrën tonë praktike. Të kthehemi në shabllonin YAML. Këtu kemi një storage të vërtetë. Jemi rikthyer në këtë. Ne përcaktojmë një shabllon klasike VolumeClaim si në k8s. Dhe përshkruajmë se çfarë storage-i duam.

Pas kësaj, k8s do të kërkojë storage. Do ta ndajë atë në StatefulSet. Dhe në fund do ta kemi në dispozicion ClickHouse.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ishte një skemë e tillë. Storage-i ynë i Përhershëm ishte e kuqe, që siç do të na nxiste ta bënim atë.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe ajo bëhet e gjelbër. Tani skema e klasterit ClickHouse mbi k8s është plotësisht finalizuar. Kemi sharde, replika, ZooKeeper, kemi një Persistent të vërtetë, i cili realizohet në një mënyrë ose një tjetër. Skema tashmë është plotësisht funksionale.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ne vazhdojmĂ« tĂ« jetojmĂ«. Klasteri ynĂ« po zhvillohet. Dhe АлДĐșсДĐč po pĂ«rpiqet, duke lĂ«shuar njĂ« version tĂ« ri tĂ« ClickHouse.

Shkaktohet njĂ« detyrĂ« praktike – tĂ« testojmĂ« versionin e ri tĂ« ClickHouse nĂ« klasterin tonĂ«. Dhe, natyrisht, nuk dĂ«shirojmĂ« ta pĂ«rditĂ«sojmĂ« krejt, dĂ«shirojmĂ« ta vendosim njĂ« version tĂ« ri nĂ« njĂ« replika ndoshta nĂ« njĂ« qoshe tĂ« largĂ«t, dhe ndoshta jo njĂ« version tĂ« ri, por dy menjĂ«herĂ«, pasi ato dalin shpesh.

ÇfarĂ« mund tĂ« themi pĂ«r kĂ«tĂ«?

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

KĂ«tu kemi pikĂ«risht njĂ« mundĂ«si tĂ« tillĂ«. KĂ«to janĂ« shabllonĂ« pod’ash. Mund tĂ« detajojmĂ«, operatori ynĂ« lejon plotĂ«sisht ndĂ«rtimin e njĂ« klasteri heterogjen. DomethĂ«nĂ«, konfigurojmĂ« nga tĂ« gjitha replikat nĂ« grumbull, deri te çdo replikĂ« individuale me versionin qĂ« duam pĂ«r ClickHouse, cilin version duam pĂ«r storage. Mund tĂ« konfigurojmĂ« plotĂ«sisht njĂ« klaster me konfigurimin qĂ« na nevojitet.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Tani do të thellojmë pak më shumë. Deri tani kemi folur se si funksionon ClickHouse-operatori në lidhje me specifikat e ClickHouse.

Tani do doja të thosha disa fjalë mbi mënyrën se si funksionon çdo operator, si dhe si bashkëvepron me K8s.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Le tĂ« shqyrtojmĂ« bashkĂ«veprimin me K8s pĂ«r fillim. ÇfarĂ« ndodh kur bĂ«jmĂ« kubectl apply? Objekte tona shfaqen pĂ«rmes API nĂ« etcd.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Për shembull, objektet bazë të Kubernetes: pod, StatefulSet, shërbim dhe kështu me radhë.

Megjithatë, asgjë fizike nuk ndodh ende. Këto objekte duhet të materializohen në klaster.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Për këtë, shfaqet kontrolluesi. Kontrolluesi është një komponent i veçantë K8s që di si të materializojë këto përshkrime. Ai di se çfarë dhe si duhet bërë fizikisht. Ai di si të aktivizojë kontejnerët, çfarë duhet të konfigurohet në mënyrë që serveri të funksionojë.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe ai materializon objektet tona në K8s.

Por ne duam të operojmë jo vetëm me pod-a, StatefulSet-a, por duam të krijojmë ClickHouseInstallation, domethënë, një objekt të tipit ClickHouse, për ta operuar si një njësi të vetme. Aktualisht, kjo mundësi nuk ekziston.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Por K8s ka diçka tjetĂ«r tĂ« kĂ«ndshme. Ne duam qĂ« tĂ« kemi ndonjĂ«herĂ« njĂ« entitet tĂ« tillĂ« tĂ« komplikuar, nĂ« tĂ« cilin do tĂ« ishte i grumbulluar klasteri ynĂ« nga pod’ash dhe StatefulSet.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe çfarĂ« duhet tĂ« bĂ«jmĂ« pĂ«r kĂ«tĂ«? SĂ« pari, dalin pĂ«rpara Definimi i Burimeve tĂ« Personalizuara. ÇfarĂ« Ă«shtĂ« kjo? Ky Ă«shtĂ« njĂ« pĂ«rshkrim pĂ«r K8s qĂ« do tĂ« kemi njĂ« lloj tĂ« dhĂ«nash tĂ« tjera, qĂ« dĂ«shirojmĂ« tĂ« shtojmĂ« njĂ« burim tĂ« personalizuar nĂ« pod, StatefulSet, i cili do tĂ« jetĂ« kompleks brenda. Ky Ă«shtĂ« njĂ« pĂ«rshkrim i strukturĂ«s sĂ« tĂ« dhĂ«nave.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ne e dërgojmë gjithashtu atë përmes kubectl apply. Kubernetes e pranoi me gëzim.

Dhe tani kemi në ruajtje, te objekti në etcd, mundësinë për të regjistruar një burim të personalizuar me emrin ClickHouseInstallation.

Por tani, asgjë më tej nuk do të ndodhë. Që do të thotë, nëse tani krijojmë një skedar YAML, i cili e kemi shqyrtuar me përshkrimin e shardit, replika dhe themi "kubectl apply", Kubernetes do ta pranojë, do ta vendosë në etcd dhe do të thotë: "Mirë, por nuk di çfarë të bëj me të. Si ta menaxhoj ClickHouseInstallation nuk e di."

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Prandaj, na nevojitet dikush që do të ndihmojë Kubernetes të menaxhojë një lloj të ri të dhënash. Nga ana e majtë kemi një kontrollues të rregullt të Kubernetes, i cili punon me llojet e zakonshme të të dhënave. Ndërsa nga ana e djathtë duhet të shfaqet një kontrollues personalizuar, i cili di të punojë me llojet e personalizuara të të dhënave.

Dhe ndryshe quhet operator. E kam nxjerrë këtu jashtë Kubernetes, sepse ai mund të ekzekutohet edhe jashtë K8s. Në shumicën e rasteve, sigurisht, të gjithë operatorët ekzekutohen në Kubernetes, por asgjë nuk e pengon atë të qëndrojë jashtë, prandaj këtu është nxjerrë veçmas.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe tashmë kontrolluesi personalizuar, i njohur si operator, bashkëvepron me Kubernetes përmes API-së. Ai tashmë di të bashkëveprojë me API-në. Dhe ai tashmë di si të materializojë një skemë të komplikuar nga burimi personalizuar, që dëshirojmë të krijojmë. Këtë saktësisht bën operatori.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Si funksionon operatori? Le të hedhim një sy në anën e djathtë për të zbuluar se si e bën këtë. Do të kuptojmë se si operatori materializon gjithçka dhe si vazhdon bashkëveprimi me K8s.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Operatori është një program. Ai është i orientuar nga ngjarjet. Operatorin me anë të API-së së Kubernetes nënshkruan për ngjarje. Në API-në e Kubernetes ka pika hyrëse ku mund të nënshkruhen ngjarje. Dhe nëse diçka ndryshon në K8s, atëherë Kubernetes dërgon ngjarje te të gjithë ata që e duan, dmth. ai që është nënshkruar në këtë pikë API do të marrë njoftime.

Operatori nënshkruhet për ngjarje dhe duhet të bëjë ndonjë reagim. Detyra e tij është të reagojë ndaj ngjarjeve që shfaqen.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ngjarjet gjenerohen nga disa azhurnime. Vjen skedari ynë YAML me përshkrimin e ClickHouseInstallation. Ai shkoi në etcd përmes kubectl apply. Aty ndodhi një ngjarje, dhe në përfundim, kjo ngjarje erdhi në ClickHouse-operator. Operatori mori këtë përshkrim. Dhe ai duhet të bëjë diçka. Nëse ka ardhur një azhurnim në objektin ClickHouseInstallation, atëherë duhet të azhurnojmë klasterin. Dhe detyra e operatorit është të azhurnojë klasterin.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

ÇfarĂ« bĂ«n ai? SĂ« pari, duhet tĂ« hartojmĂ« njĂ« plan veprimi, se çfarĂ« do tĂ« bĂ«jmĂ« me kĂ«tĂ« pĂ«rditĂ«sim. PĂ«rditĂ«simet mund tĂ« jenĂ« shumĂ« tĂ« vogla, dmth, tĂ« vogla nĂ« aplikimin YAML, por mund tĂ« sjellin ndryshime shumĂ« tĂ« mĂ«dha nĂ« klaster. Prandaj, operatori krijon njĂ« plan dhe mĂ« pas e ndjek atĂ«.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ai fillon sipas kĂ«tij plani tĂ« krijojĂ« kĂ«tĂ« strukturĂ« brenda, pĂ«r tĂ« materializuar pod’ët, shĂ«rbimet, dmth, tĂ« bĂ«jĂ« atĂ« qĂ« Ă«shtĂ« detyra e tij kryesore. ËshtĂ« si ndĂ«rtimi i njĂ« klasteri ClickHouse nĂ« Kubernetes.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Tani le të prekim një gjë interesante. Ky është ndarja e përgjegjësisë midis Kubernetes dhe operatorit, dmth, çfarë bën Kubernetes, çfarë bën operatori dhe si interaktojnë ata me njëri-tjetrin.

Kubernetes Ă«shtĂ« pĂ«rgjegjĂ«s pĂ«r gjĂ«rat sistemore, dmth, pĂ«r grupin bazĂ« tĂ« objekteve, qĂ« mund tĂ« interpretohen si sistem i gjerĂ«. Kubernetes di si tĂ« nisĂ« pod’ët, si tĂ« rihapĂ« konteinerĂ«t, si tĂ« bĂ«jĂ« mount volumes, si tĂ« punojĂ« me ConfigMap, dmth, gjithçka qĂ« mund tĂ« quhet sistem.

OperatorĂ«t operojnĂ« nĂ« fushat tematike. Çdo operator bĂ«het pĂ«r fushĂ«n e tij tematike. Ne e bĂ«mĂ« pĂ«r ClickHouse.

Dhe operatori ndërvepron pikërisht në terma të fushës tematike, siç janë shtimi i një kopjeje, krijimi i një skeme, konfigurimi i monitorimit. Kështu krijohet një ndarje.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Le të shikojmë një shembull praktik, si ndodh kjo ndarje përgjegjësish kur ne performojmë veprimin shto një kopje.

NĂ« operator vjen detyra – shto njĂ« kopje. ÇfarĂ« bĂ«n operatori? Operatorit do tĂ« llogarisĂ« se duhet tĂ« krijojĂ« njĂ« StatefulSet tĂ« ri, nĂ« tĂ« cilin duhet tĂ« pĂ«rshkruajĂ« disa shabllone, kĂ«rkesĂ«n pĂ«r volume.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ai e përgatit gjithçka dhe e kalon më tej në K8s. I thotë se i nevojitet ConfigMap, StatefulSet, Volume. Kubernetes punon. Ai materializon njësitë bazë me të cilat operon.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe më pas përsëri ndërhyn ClickHouse-operatori. Ai tashmë ka një pod fizik, në të cilin mund të bëjë diçka. Dhe ClickHouse-operatori punon përsëri në terma të fushës tematike. Pra, konkretisht për ClickHouse, për të përfshirë një kopje në klaster, duhet, së pari, të konfigurohet skema e të dhënave që ka ky klaster. Dhe së dyti, kjo kopje duhet të përfshihet në monitorim, në mënyrë që të jetë e lehtë për t'u ndjekur. Kjo tashmë e konfigurimin nga operatori.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe vetëm pas kësaj merr pjesë vetë ClickHouse, pra një entitet tjetër më i lartë. Kjo është tashmë një bazë të dhënash. Ajo ka instancën e saj, një replikë të re konfiguruar, e cila është e gatshme të bashkohet me klasterin.

Pra, krijohet njĂ« zinxhir pĂ«ræ‰§èĄŒć’Œćˆ†èŽŁä»»ćœšæ·»ćŠ ć€ćˆ¶ć“ Ă«shtĂ« mjaft i gjatĂ«.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Të vazhdojmë me detyrat tona praktike. Nëse klasteri tashmë ekziston, mund të kryhet migrimi i konfiguracionit.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ne e bëmë që në xml ekzistues, i cili kuptohet nga ClickHouse, mund të kalojnë përmes.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Mund të bëhet një konfigurim i saktë i ClickHouse. Pikërisht implementimi me zona është ajo për të cilën flasja gjatë shpjegimit të hostPath, ruajtjes lokale. Kështu është siç duhet të bëhet implementimi me zona.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Detyra e ardhshme praktike është monitorimi.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Nëse klasteri ynë ndryshon, duhet të përshtatni monitorimin periodikisht.

Le tĂ« shqyrtojmĂ« skemĂ«n. Ne kemi shqyrtuar tashmĂ« стрДлĐșОтД Đ·Đ”Đ»Đ”ĐœĐ”. Tani le tĂ« shqyrtojmĂ« стрДлĐșОтД e kuqe. Ky Ă«shtĂ« mĂ«nyra si duam tĂ« monitorojmĂ« klasterin tonĂ«. Si metrikat nga klasteri ClickHouse kalojnĂ« nĂ« Prometheus dhe mĂ« pas nĂ« Grafana.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe cila është vështirësia me monitorimin? Pse ky proces nxirret si një arritje? Vështirësia është pikërisht në dinamike. Kur kemi një klaster dhe ai është static, mund të konfigurojmë monitorimin një herë dhe më pas të mos shqetësohemi më.

Por nëse kemi shumë klastere, ose gjithmonë diçka ndryshon, procesi është dinamik. Dhe të bësh rregullime të vazhdueshme në monitorim është një humbje burimesh dhe kohe, pra madje është vetëm mëndje. Kjo duhet automatizuar. Vështirësia është pikërisht në dinamikën e procesit. Dhe operatori e automatizon këtë shumë mirë.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Si u zhvillua klasteri ynë? Në fillim ai ishte kështu.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Pastaj ai ishte kështu.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Në fund, ai u bë kështu.

Dhe monitorimi bëhet automatikisht nga operatori. Një pikë e vetme hyrjeje.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Dhe ne vetëm shikojmë të dhënat në Grafana dashboard, si po jeton klasteri ynë brenda.

Për më tepër, Grafana dashboard shpërndahet gjithashtu me operatorin tonë direkt në burimin. Mund ta lidhni dhe ta përdorni. Ky është screenshot-i që na dha DevOps-i ynë.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ku dëshirojmë të shkojmë më tej? Kjo është:

  • TĂ« zhvillojmĂ« automatizimin e testimit. Detyra kryesore Ă«shtĂ« testimi automatik i versioneve tĂ« reja.
  • Ne duam shumĂ« tĂ« automatizojmĂ« integrimin me ZooKeeper. Gjithashtu, kemi nĂ« plan tĂ« integrohemi me ZooKeeper-operator. DomethĂ«nĂ«, pĂ«r ZooKeeper Ă«shtĂ« shkruar njĂ« operator dhe Ă«shtĂ« logjike qĂ« dy operatorĂ« tĂ« fillojnĂ« tĂ« integrohen pĂ«r tĂ« ndĂ«rtuar njĂ« zgjidhje mĂ« tĂ« pĂ«rshtatshme.
  • Duam tĂ« bĂ«jmĂ« verifikime mĂ« tĂ« komplikuara tĂ« jetĂ«gjatĂ«sisĂ«.
  • E theksova me gjelbĂ«r atĂ« qĂ« na pret trashĂ«gimi e Templates – PUNË E PLOTË, domethĂ«nĂ« me versionin e ardhshĂ«m tĂ« operatorit do tĂ« kemi tashmĂ« trashĂ«gimi tĂ« shabllonĂ«ve. Ky Ă«shtĂ« njĂ« mjet i fuqishĂ«m qĂ« lejon ndĂ«rtimin e konfigurimeve tĂ« komplikuara nga pjesĂ«t.
  • Dhe ne duam automatizimin e detyrave komplekse. Kryesorja nga to Ă«shtĂ« Re-sharding.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Le të bëjmë një përmbledhje ndërmjetës.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

ÇfarĂ« marrim nĂ« fund? Dhe a ja vlen tĂ« merremi me kĂ«tĂ« apo jo? A duhet tĂ« pĂ«rpiqemi tĂ« tĂ«rheqim bazĂ«n e tĂ« dhĂ«nave nĂ« Kubernetes dhe tĂ« pĂ«rdorim operatorin nĂ« pĂ«rgjithĂ«si dhe Alitnity-operatorin nĂ« veçanti.

NĂ« fund marrim:

  • NjĂ« thjeshtim dhe automatizim tĂ« konsiderueshĂ«m tĂ« konfigurimit, zhvillimit, si dhe mbĂ«shtetjes.
  • Monitoring i integruar menjĂ«herĂ«.
  • Dhe shabllone tĂ« kodifikuara tĂ« gatshme pĂ«r situata komplekse. Veprime si tĂ« shtosh njĂ« replikĂ« nuk duhet tĂ« bĂ«hen me dorĂ«. KĂ«tĂ« e bĂ«n operatori.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Ka mbetur vetëm një pyetje e fundit. Ne tashmë kemi bazën e të dhënave në Kubernetes, virtualizim. Si është performanca e një zgjidhjeje të tillë, duke marrë parasysh se ClickHouse është optimizuar për performancë?

PĂ«rgjigja Ă«shtĂ« – gjithçka Ă«shtĂ« nĂ« rregull! Nuk do e shpjegoj nĂ« detaje, ky Ă«shtĂ« njĂ« temĂ« e njĂ« raporti tjetĂ«r.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Por ka një projekt të tillë si TSBS. Cila është qëllimi i tij kryesor? Ky është një test për performancën e bazave të të dhënave. Kjo është një përpjekje për të krahasuar të ngrohtat me të ngrohta, të butat me të buta.

Si funksionon ai? Gjenerohet një grup i dhënash. Pastaj ky grup i dhënash kalon në teste të njëjta mbi baza të ndryshme të të dhënave. Dhe çdo bazë të dhënash zgjidh një problem ashtu siç di të bëjë. Më pas mund të krahasosh rezultatet.

Ai tashmë mbështet një mori të madhe bazash të të dhënave. Kam theksuar tre kryesoret. Këto janë:

  • TimescaleDB.
  • InfluxDB.
  • ClickHouse.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Gjithashtu, është bërë një krahasim me një zgjidhje tjetër të ngjashme. Krahasimi me RedShift. Krahasimi është bërë në Amazon. ClickHouse gjithashtu e tejkalon të gjitha në këtë aspekt.

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Cilat përfundime mund të nxirren nga ajo që kam treguar?

  • DB nĂ« Kubernetes Ă«shtĂ« i mundur. MĂ« vjen keq, ndoshta mund tĂ« jetĂ« çdo lloj, por nĂ« pĂ«rgjithĂ«si duket se Ă«shtĂ« e mundur. ClickHouse nĂ« Kubernetes me siguri Ă«shtĂ« e mundur falĂ« operatorit tonĂ«.
  • Operatori ndihmon nĂ« automatizimin e proceseve dhe vĂ«rtet lehtĂ«son jetĂ«n.
  • Performanca Ă«shtĂ« normale.
  • Dhe, na duket se kjo mund dhe duhet tĂ« pĂ«rdoret.

Open source – bashkohuni!

Siç kam thënë më parë, operatori është një produkt plotësisht open source, prandaj do të ishte shumë e mirë nëse numri maksimal i njerëzve e përdor atë. Bashkohuni! Ne po ju presim ju të gjithë!

Faleminderit të gjithëve!

Pyetje

Operatori në Kubernetes për menaxhimin e klasterëve të DB. Vladislav Klimenko (Altinity, 2019)

Faleminderit për raportin! Unë quhem Anton. Jam nga kompania SEMrush. Më intereson çështja e logimit. Për monitorimin ka informacion, por për logimin asgjë, nëse flasim për klasterin në tërësi. Ne, për shembull, kemi ngritur një klaster në pajisje. Dhe ne përdorim logimin qendror, mbledhim me mjete standarde në një grumbull të përbashkët. Dhe pastaj e nxjerrim informacionin që na intereson nga atje.

NjĂ« pyetje e mirĂ«, pra, logimi Ă«shtĂ« nĂ« listĂ«n e punĂ«ve. Operator nuk e automatizon ende kĂ«tĂ«. Ai ende po zhvillohet, projekti Ă«shtĂ« ende mjaft i ri. Ne e kuptojmĂ« domosdoshmĂ«rinĂ« e logimit. Kjo gjithashtu Ă«shtĂ« njĂ« temĂ« shumĂ« e rĂ«ndĂ«sishme. Dhe ndoshta nuk Ă«shtĂ« mĂ« pak e rĂ«ndĂ«sishme se monitorimi. Por e para nĂ« listĂ«n pĂ«r realizim ka qenĂ« monitorimi. Logimi do tĂ« vijĂ«. Ne, natyrisht, pĂ«rpiqemi tĂ« automatizojmĂ« tĂ« gjitha aspektet e jetĂ«s sĂ« klasterit. Prandaj pĂ«rgjigjja – pĂ«r momentin operatori, fatkeqĂ«sisht, nuk e di kĂ«tĂ«, por Ă«shtĂ« nĂ« planet tona, do ta bĂ«jmĂ«. NĂ«se keni dĂ«shirĂ« tĂ« bashkoheni, atĂ«herĂ« bĂ«ni njĂ« pull request, ju lutem.

Përshëndetje! Faleminderit për raportin! Kam një pyetje standarde, të lidhur me Vëllimet e Përhershme. Kur krijojmë një konfiguracion me këtë operator, si e përcakton operatori se në cilin nodë është montuar ndonjë disk, ose dosje? A duhet ta sqarojmë paraprakisht se, ju lutem, vendosni ClickHouse tonë pikërisht në këto nodë, në të cilat ka disk?

Sipas asaj qĂ« kuptoj, kjo pyetje Ă«shtĂ« njĂ« vazhdim i ruajtjes lokale, veçanĂ«risht pjesĂ«s sĂ« saj pĂ«r hostPath. ËshtĂ« si tĂ« shpjegosh gjithĂ« sistemin se duhet qĂ« pod-i tĂ« jetĂ« aktivizuar pikĂ«risht nĂ« njĂ« nodĂ« tĂ« tillĂ«, nĂ« tĂ« cilĂ«n kemi disk fizik tĂ« lidhur, i cili Ă«shtĂ« montuar nĂ« njĂ« rrugĂ« tĂ« tillĂ«. Kjo Ă«shtĂ« njĂ« seksion e tĂ«rĂ«, tĂ« cilin e kam prekur shumĂ« sipĂ«rfaqĂ«sisht, sepse pĂ«rgjigjja Ă«shtĂ« mjaft e gjatĂ«.

NĂ« thelb, kjo duket kĂ«shtu. Natyrisht, na nevojitet tĂ« bĂ«jmĂ« provisioning tĂ« kĂ«tyre volumes. Aktualisht, nĂ« storage lokal nuk ka provisioning dinamik, prandaj DevOps duhet tĂ« krijojnĂ« vetĂ« diskĂ«t, kĂ«to volumes. Ata duhet tĂ« shpjegojnĂ« Kubernetes provisioning, se do tĂ« keni Persistent volumes tĂ« njĂ« klase tĂ« caktuar, tĂ« cilat ndodhen nĂ« node tĂ« caktuar. MĂ« pas, duhet tĂ« shpjegohet Kubernetes, se pod’ët qĂ« kĂ«rkojnĂ« njĂ« klasĂ« tĂ« tillĂ« storage lokal, duhet tĂ« planifikohen vetĂ«m nĂ« ato node, pĂ«rmes labels. PĂ«r kĂ«to qĂ«llime, operatori ka mundĂ«sinĂ« tĂ« caktojĂ« njĂ« label dhe one per host instance. Dhe do tĂ« rezultojĂ« se pod’ët do tĂ« rregullohen nga Kubernetes pĂ«r t'u nisur vetĂ«m nĂ« node qĂ« pĂ«rmbushin kĂ«rkesat e labels, duke folur nĂ« terma tĂ« thjeshtĂ«. AdministratorĂ«t caktojnĂ« labels, bĂ«jnĂ« provisioning tĂ« diskĂ«ve manualisht. Dhe atĂ«herĂ« kjo do tĂ« shkallĂ«zohet.

Dhe pikërisht opsioni i tretë lokal ndihmon ta lehtësojë këtë. Siç e kam theksuar, është një punë e imët e konfigurimit, që në fund ndihmon për të arritur performancën maksimale.

Kam njĂ« pyetje tjetĂ«r, e lidhur me kĂ«tĂ«. Kubernetes Ă«shtĂ« menduar kĂ«shtu, qĂ« nuk ka rĂ«ndĂ«si nĂ«se humbim apo jo njĂ« node. ÇfarĂ« duhet tĂ« bĂ«jmĂ« nĂ« kĂ«tĂ« rast, nĂ«se e humbĂ«m node’in ku ndodhet njĂ« shard?

Po, Kubernetes origjinalisht Ă«shtĂ« pozicionuar qĂ« marrĂ«dhĂ«nia jonĂ« me pod’ët tanĂ« Ă«shtĂ« si me bagĂ«titĂ«, por kĂ«tu çdo disk bĂ«het si njĂ« kafshĂ« e dashur. Ka njĂ« problem, qĂ« nuk mund t'i hedhim ata thjesht kĂ«shtu. Dhe zhvillimi i Kubernetes shkon nĂ« drejtimin qĂ« nuk Ă«shtĂ« e mundur tĂ« shohim gjithçka filozofikisht si burime qĂ« mund tĂ« hidhen plotĂ«sisht.

Tani, njĂ« pyetje praktike. ÇfarĂ« tĂ« bĂ«ni, nĂ«se ju ka humbur njĂ« node, nĂ« tĂ« cilin ishte disk? KĂ«tu, detyra zgjidhet nĂ« njĂ« nivel mĂ« tĂ« lartĂ«. NĂ« rastin e ClickHouse, kemi replika qĂ« punojnĂ« nĂ« njĂ« nivel mĂ« tĂ« lartĂ«, pra nĂ« nivelin e ClickHouse.

Cila është dispozita rezultuese? Për të siguruar që të dhënat të mos humbin është përgjegjësi e DevOps. Ai duhet ta konfiguronte siç duhet replikimin dhe duhet të përpiqet që replikimi të ekzekutohet. Në replikën në nivelin e ClickHouse, të dhënat duhet të jenë të duplikatuara. Kjo nuk është një detyrë që e zgjidh operatori. Dhe nuk është një detyrë që e zgjidh vetë Kubernetes. Kjo është në nivelin e ClickHouse.

ÇfarĂ« duhet tĂ« bĂ«ni nĂ«se njĂ« nodĂ« e fortĂ« ka rĂ«nĂ«? Duket se do tĂ« duhet tĂ« vendosni njĂ« tĂ« dytĂ«, ta konfiguroni siç duhet diskun, dhe tĂ« aplikoni etiketat. Pas kĂ«saj, ajo do tĂ« pĂ«rmbushĂ« kĂ«rkesat qĂ« Kubernetes mund tĂ« fillojĂ« njĂ« instancĂ« pod-i mbi tĂ«. Kubernetes do ta nisĂ« atĂ«. Numri juaj i pod-eve nuk Ă«shtĂ« i mjaftueshĂ«m sipas kĂ«rkesave. Ajo do tĂ« kalojĂ« nĂ«pĂ«r ciklin qĂ« unĂ« tregova. Dhe nĂ« nivelin mĂ« tĂ« lartĂ«, ClickHouse do tĂ« kuptojĂ« qĂ« kemi njĂ« replikĂ«, ajo Ă«shtĂ« ende bosh dhe duhet tĂ« fillojmĂ« tĂ« transferojmĂ« tĂ« dhĂ«na mbi tĂ«. Pra, ky proces Ă«shtĂ« ende pak i automatizuar.

Faleminderit për elaborimin! Kur ndodhin disa gjëra të këqija, operatori bie dhe rilansohet, dhe në këtë moment ndodhin ngjarje, a e përpunoni ndonjëherë atë?

ÇfarĂ« do tĂ« ndodhĂ« nĂ«se operatori ka rĂ«nĂ« dhe Ă«shtĂ« rilansuar, apo jo?

Po. Dhe në këtë moment kanë ndodhur ngjarje.

Detyra, çfarë të bëjmë në këtë rast, ndahen pjesërisht midis operatorit dhe Kubernetes. Kubernetes ka mundësinë të riprodhojë ngjarjen që ndodhi. Ai e riprodhon. Dhe detyra e operatorit është të sigurojë që kur i bëhet riprodhimi i logjeve të ngjarjeve, këto ngjarje të jenë idempotente. Dhe për të siguruar që përsëritja e të njëjtës ngjarje nuk shkakton dëme në sistemin tonë. Dhe operatori ynë e kryen këtë detyrë.

Përshëndetje! Faleminderit për elaborimin! Dmitry Zavyalov, kompani Smedova. A është planifikuar shtimi i mundësisë së konfigurimit me haproxy në operator? Më intereson ndonjë balancues tjetër përveç standardit, në mënyrë që të jetë inteligjent dhe të kuptojë se çfarë është realisht ClickHouse.

A po flisni për Ingress?

Po, zëvendësoni Ingress me haproxy. Në haproxy mund të specifikoni topologjinë e klasterit, ku ndodhen replikat.

Derisa ne nuk kemi menduar pĂ«r kĂ«tĂ«. NĂ«se ju nevojitet dhe mund tĂ« shpjegoni pse Ă«shtĂ« e nevojshme, mund ta realizojmĂ«, nĂ« veçanti nĂ«se dĂ«shironi tĂ« merrni pjesĂ«. Ne do ta shqyrtojmĂ« me kĂ«naqĂ«si kĂ«tĂ« mundĂ«si. PĂ«rgjigjja e shkurtĂ«r – jo, pĂ«r momentin nuk kemi njĂ« funksionalitet tĂ« tillĂ«. Faleminderit pĂ«r sugjerimin, ne do ta shqyrtojmĂ« atĂ«. NĂ«se gjithashtu shpjegoni rastin e pĂ«rdorimit dhe pse Ă«shtĂ« e nevojshme nĂ« praktikĂ«, pĂ«r shembull, krijoni issues nĂ« GitHub, do tĂ« ishte mrekulli.

Ajo ekziston tashmë.

Mirë. Ne jemi të hapur për çdo propozim. Dhe haproxy po shtohet në listën e punëve për t'u bërë. Lista e punëve për t'u bërë po rritet, dhe jo pakësohet për momentin. Por kjo është e mirë, do të thotë që produkti është i kërkuar.

Burimi: habr.com

Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster