Local<\/li>\n<\/ul>\n<\/p>\n
Zastan\u00f3wmy si\u0119, czym si\u0119 r\u00f3\u017cni\u0105, a czym s\u0105 podobne. <\/p>\n
<\/p>\n
Przede wszystkim we wszystkich trzech podej\u015bciach mamy storage \u2013 to lokalne dyski, kt\u00f3re znajduj\u0105 si\u0119 na tej samej fizycznej nodzie k8s. Ale maj\u0105 pewne r\u00f3\u017cnice.<\/p>\n
<\/p>\n
<\/p>\n
Zacznijmy od najprostszej, czyli emptyDir. Co to praktycznie oznacza? Prosimy nasz\u0105 specyfikacj\u0119 o to, by system konteneryzacji (najcz\u0119\u015bciej jest to Docker) zapewni\u0142 nam dost\u0119p do folderu na lokalnym dysku.<\/p>\n
<\/p>\n
W praktyce Docker gdzie\u015b tam tworzy tymczasowy folder, nazywaj\u0105c go d\u0142ugim hashem, wed\u0142ug w\u0142asnych \u015bcie\u017cek. I zapewnia interfejs dost\u0119pu do niego. <\/p>\n
<\/p>\n
Jak to b\u0119dzie dzia\u0142a\u0107 pod wzgl\u0119dem wydajno\u015bci? B\u0119dzie dzia\u0142a\u0107 z szybko\u015bci\u0105 lokalnego dysku, to znaczy, \u017ce to ca\u0142kowity dost\u0119p do w\u0142asnego dysku. <\/p>\n
<\/p>\n
Ale ma to swoj\u0105 wad\u0119. Trwa\u0142o\u015b\u0107 w tym przypadku jest do\u015b\u0107 w\u0105tpliwa. Przy pierwszej zmianie Dockera z kontenerami trwa\u0142o\u015b\u0107 jest tracona. Je\u015bli Kubernetes z jakiego\u015b powodu zechce przenie\u015b\u0107 ten Pod na inny dysk, dane zostan\u0105 utracone. <\/p>\n
<\/p>\n
Takie podej\u015bcie jest dobre do test\u00f3w, poniewa\u017c pokazuje ju\u017c odpowiedni\u0105 pr\u0119dko\u015b\u0107, ale na co\u015b powa\u017cnego ten wariant si\u0119 nie nadaje. <\/p>\n
<\/p>\n
<\/p>\n
Dlatego jest drugie podej\u015bcie. To HostPath. Gdyby spojrze\u0107 na poprzedni slajd i ten, mo\u017cna zauwa\u017cy\u0107 tylko jedno r\u00f3\u017cnic\u0119. Nasz folder pojawi\u0142 si\u0119 z Dockera bezpo\u015brednio na nodzie Kubernetes. Tutaj jest troch\u0119 pro\u015bciej. Bezpo\u015brednio zapisujemy \u015bcie\u017ck\u0119 w lokalnym systemie plik\u00f3w, gdzie chcieliby\u015bmy przechowywa\u0107 nasze dane. <\/p>\n
<\/p>\n
Zalety tego sposobu s\u0105. To ju\u017c prawdziwa trwa\u0142o\u015b\u0107, wr\u0119cz klasyczna. Na dysku b\u0119d\u0105 zapisane dane pod jakim\u015b adresem. <\/p>\n
<\/p>\n
S\u0105 r\u00f3wnie\u017c wady. To trudno\u015bci w zarz\u0105dzaniu. Nasz Kubernetes mo\u017ce chcie\u0107 przenie\u015b\u0107 Pod na inn\u0105 fizyczn\u0105 w\u0119ze\u0142. I tu do akcji wchodzi DevOps. Musi on poprawnie wyt\u0142umaczy\u0107 ca\u0142emu systemowi, \u017ce przenosi\u0107 te pod\u2019y mo\u017cna tylko na takie w\u0119z\u0142y, na kt\u00f3rych masz zamontowane co\u015b po tych \u015bcie\u017ckach, i nie wi\u0119cej ni\u017c jeden w\u0119ze\u0142 naraz. To do\u015b\u0107 skomplikowane. <\/p>\n
<\/p>\n
Specjalnie w tym celu stworzyli\u015bmy w naszej firmie szablony, aby ukry\u0107 ca\u0142\u0105 t\u0119 z\u0142o\u017cono\u015b\u0107. Mo\u017cna by po prostu powiedzie\u0107: \u201eChc\u0119 mie\u0107 jeden instance ClickHouse na ka\u017cd\u0105 fizyczn\u0105 w\u0119ze\u0142 i po takiej \u015bcie\u017cce\u201d. <\/p>\n
<\/p>\n
<\/p>\n
Ale ta potrzeba nie dotyczy tylko nas, dlatego panowie z samego Kubernetes tak\u017ce rozumiej\u0105, \u017ce ludzie chc\u0105 mie\u0107 dost\u0119p do fizycznych dysk\u00f3w, dlatego oferuj\u0105 trzeci poziom.<\/p>\n
<\/p>\n
Nazywa si\u0119 on local. R\u00f3\u017cnice z poprzednim slajdem s\u0105 praktycznie \u017cadne. Tylko wcze\u015bniej trzeba by\u0142o r\u0119cznie przeprowadza\u0107, \u017ce tych pod\u2019\u00f3w nie mo\u017cna przenosi\u0107 z w\u0119z\u0142a na w\u0119ze\u0142, poniewa\u017c musz\u0105 by\u0107 podpi\u0119te po takiej \u015bcie\u017cce do lokalnego fizycznego dysku, a teraz ca\u0142a ta wiedza jest inkapsu\u0142owana w samym Kubernetes. I konfiguracja staje si\u0119 znacznie prostsza.<\/p>\n
<\/p>\n
<\/p>\n
Wracamy do naszego praktycznego zadania. Wracamy do szablonu YAML. Tutaj pojawi\u0142 si\u0119 prawdziwy storage. Wr\u00f3cili\u015bmy do tego. Zadajemy klasyczny szablon VolumeClaim jak w k8s. I opisujemy, jaki storage chcemy.<\/p>\n
<\/p>\n
Po tym k8s poprosi o storage. Przydzieli go nam w StatefulSet. I w efekcie b\u0119dzie to w dyspozycji ClickHouse.<\/p>\n
<\/p>\n
<\/p>\n
Mieli\u015bmy tak\u0105 schem\u0119. Nasz Persistent Storage by\u0142 czerwony, co sugerowa\u0142o, \u017ce warto go poprawi\u0107. <\/p>\n
<\/p>\n
<\/p>\n
I staje si\u0119 zielony. Teraz schemat klastra ClickHouse na k8s jest w pe\u0142ni finalizowany. Mamy shard'y, repliki, ZooKeeper, mamy prawdziwy Persistent, kt\u00f3ry jest zrealizowany w jaki\u015b spos\u00f3b. Schemat jest ju\u017c w pe\u0142ni funkcjonalny. <\/p>\n
<\/p>\n
<\/p>\n
\u017byjemy dalej. Nasz klaster si\u0119 rozwija. Andrey si\u0119 stara i wydaje now\u0105 wersj\u0119 ClickHouse.<\/p>\n
<\/p>\n
Pojawia si\u0119 praktyczne zadanie \u2013 przetestowa\u0107 now\u0105 wersj\u0119 ClickHouse na naszym klastrze. Oczywi\u015bcie nie chcemy implementowa\u0107 jej w ca\u0142o\u015bci, chcemy umie\u015bci\u0107 now\u0105 wersj\u0119 w jakim\u015b dalekim k\u0105cie na jedn\u0105 replik\u0119, a mo\u017ce nawet nie jedn\u0105 now\u0105 wersj\u0119, a od razu dwie, poniewa\u017c cz\u0119sto si\u0119 pojawiaj\u0105. <\/p>\n
<\/p>\n
Co mo\u017cemy na ten temat powiedzie\u0107?<\/p>\n
<\/p>\n
<\/p>\n
Tut mamy dok\u0142adnie tak\u0105 mo\u017cliwo\u015b\u0107. To s\u0105 szablony pod\u00f3w. Mo\u017cemy je opisa\u0107, nasz operator ca\u0142kowicie pozwala na budow\u0119 heterogenicznego klastra. Tzn. konfigurowa\u0107, zaczynaj\u0105c od wszystkich replik w grupie, ko\u0144cz\u0105c na ka\u017cdej osobistej replikacji i okre\u015blaj\u0105c, jak\u0105 wersj\u0119 ClickHouse, jak\u0105 wersj\u0119 magazynu chcemy. Mo\u017cemy ca\u0142kowicie skonfigurowa\u0107 klaster wed\u0142ug naszych potrzeb. <\/p>\n
<\/p>\n
<\/p>\n
Nieco zg\u0142\u0119bimy temat. Wcze\u015bniej m\u00f3wili\u015bmy, jak dzia\u0142a ClickHouse-operator w kontek\u015bcie ClickHouse.<\/p>\n
<\/p>\n
Teraz chcia\u0142bym powiedzie\u0107 kilka s\u0142\u00f3w o tym, jak w og\u00f3le dzia\u0142a jakikolwiek operator, a tak\u017ce o tym, jak wsp\u00f3\u0142dzia\u0142a z K8s.<\/p>\n
<\/p>\n
<\/p>\n
Rozwa\u017cmy wsp\u00f3\u0142dzia\u0142anie z K8s na pocz\u0105tku. Co si\u0119 dzieje, gdy wykonujemy kubectl apply? Nasze obiekty pojawiaj\u0105 si\u0119 w etcd przez API. <\/p>\n
<\/p>\n
<\/p>\n
Na przyk\u0142ad podstawowe obiekty Kubernetes: pod, StatefulSet, service i tak dalej. <\/p>\n
<\/p>\n
Jednocze\u015bnie nic fizycznego jeszcze si\u0119 nie wydarzy\u0142o. Te obiekty musz\u0105 zosta\u0107 zmaterializowane w klastrze. <\/p>\n
<\/p>\n
<\/p>\n
W tym celu pojawia si\u0119 kontroler. Kontroler to specjalny komponent k8s, kt\u00f3ry umie zmaterializowa\u0107 te opisy. Wie, jak i co nale\u017cy zrobi\u0107 fizycznie. Wie, jak uruchomi\u0107 kontenery, co trzeba skonfigurowa\u0107, aby serwer dzia\u0142a\u0142. <\/p>\n
<\/p>\n
<\/p>\n
I on materializuje nasze obiekty w K8s.<\/p>\n
<\/p>\n
Ale chcemy operowa\u0107 nie tylko podami, StatefulSetami, chcemy stworzy\u0107 ClickHouseInstallation, tzn. obiekt typu ClickHouse, aby operowa\u0107 nim jako ca\u0142o\u015bci\u0105. Na razie takiej mo\u017cliwo\u015bci nie ma. <\/p>\n
<\/p>\n
<\/p>\n
Ale K8s ma nast\u0119puj\u0105c\u0105 przyjemn\u0105 rzecz. Chcemy, aby pojawi\u0142a si\u0119 gdzie\u015b tam taka skomplikowana jednostka, kt\u00f3ra by\u0142aby zbudowana z pod\u00f3w i StatefulSet, naszego klastra. <\/p>\n
<\/p>\n
<\/p>\n
Co nale\u017cy zatem zrobi\u0107? Po pierwsze, na scen\u0119 wychodzi Custom Resource Definition. Czym to jest? To opis dla K8s, \u017ce b\u0119dziesz mia\u0142 jeszcze jeden typ danych, \u017ce chcemy doda\u0107 do pod, StatefulSet niestandardowy zas\u00f3b, kt\u00f3ry b\u0119dzie skomplikowany w \u015brodku. To opis struktury danych. <\/p>\n
<\/p>\n
<\/p>\n
My r\u00f3wnie\u017c wysy\u0142amy go tam przez kubectl apply. Kubernetes z rado\u015bci\u0105 go przyj\u0105\u0142. <\/p>\n
<\/p>\n
I teraz mamy w magazynie, przy obiekcie w etcd mo\u017cliwo\u015b\u0107 zapisania niestandardowego zasobu pod nazw\u0105 ClickHouseInstallation.<\/p>\n
<\/p>\n
Ale na razie nic wi\u0119cej si\u0119 nie wydarzy. To znaczy, je\u015bli teraz stworzymy plik YAML, kt\u00f3ry omawiali\u015bmy z opisem shard\u00f3w, replik i powiemy \"kubectl apply\", to Kubernetes go przyjmie, umie\u015bci w etcd i powie: \"\u015awietnie, ale nie wiem, co z tym zrobi\u0107. Jak zarz\u0105dza\u0107 ClickHouseInstallation, nie wiem\". <\/p>\n
<\/p>\n
<\/p>\n
W zwi\u0105zku z tym potrzebujemy kogo\u015b, kto pomo\u017ce Kubernetesowi zarz\u0105dza\u0107 nowym typem danych. Po lewej mamy standardowy kontroler Kubernetes, kt\u00f3ry dzia\u0142a z standardowymi typami danych. A po prawej powinien pojawi\u0107 si\u0119 niestandardowy kontroler, kt\u00f3ry potrafi pracowa\u0107 z niestandardowymi typami danych. <\/p>\n
<\/p>\n
I w inny spos\u00f3b nazywa si\u0119 to operatorem. Celowo umie\u015bci\u0142em go poza Kubernetes, poniewa\u017c mo\u017ce dzia\u0142a\u0107 tak\u017ce poza K8s. Najcz\u0119\u015bciej oczywi\u015bcie wszystkie operatory dzia\u0142aj\u0105 w Kubernetes, ale nic nie stoi na przeszkodzie, aby dzia\u0142a\u0142 na zewn\u0105trz, dlatego tutaj zosta\u0142 specjalnie wyr\u00f3\u017cniony. <\/p>\n
<\/p>\n
<\/p>\n
I z kolei niestandardowy kontroler, czyli operator, wsp\u00f3\u0142dzia\u0142a z Kubernetesem przez API. Ju\u017c potrafi wchodzi\u0107 w interakcj\u0119 z API. I wie, jak przekszta\u0142ci\u0107 niestandardowy zas\u00f3b w z\u0142o\u017con\u0105 struktur\u0119, kt\u00f3r\u0105 chcemy utworzy\u0107. Tym si\u0119 dok\u0142adnie zajmuje operator. <\/p>\n
<\/p>\n
<\/p>\n
Jak dzia\u0142a operator? Przyjrzyjmy si\u0119 prawej cz\u0119\u015bci, aby dowiedzie\u0107 si\u0119, jak to robi. Zobaczymy, jak operator materializuje wszystko i jak p\u00f3\u017aniej wygl\u0105da interakcja z K8s.<\/p>\n
<\/p>\n
<\/p>\n
Operator to program. Jest zdarzeniowo zorientowany. Operator przy pomocy API Kubernetes zapisuje si\u0119 na wydarzenia. W API Kubernetes s\u0105 punkty wej\u015bcia, w kt\u00f3rych mo\u017cna si\u0119 zapisa\u0107 na wydarzenia. I je\u015bli co\u015b si\u0119 zmienia w K8s, to Kubernetes wysy\u0142a powiadomienia do wszystkich zainteresowanych, tj. kto zapisa\u0142 si\u0119 na ten punkt API, ten b\u0119dzie otrzymywa\u0142 powiadomienia.<\/p>\n
<\/p>\n
Operator zapisuje si\u0119 na wydarzenia i powinien na nie reagowa\u0107. Jego zadaniem jest reagowa\u0107 na pojawiaj\u0105ce si\u0119 zdarzenia. <\/p>\n
<\/p>\n
<\/p>\n
Zdarzenia s\u0105 generowane przez pewne aktualizacje. Przybywa nasz plik YAML z opisem ClickHouseInstallation. Przeszed\u0142 przez kubectl apply do etcd. Tam zadzia\u0142a\u0142 event, w rezultacie ten event dotar\u0142 do ClickHouse-operatora. Operator otrzyma\u0142 ten opis. I musi co\u015b zrobi\u0107. Je\u015bli nadesz\u0142a aktualizacja obiektu ClickHouseInstallation, trzeba zaktualizowa\u0107 klaster. A zadaniem operatora jest aktualizowanie klastra. <\/p>\n
<\/p>\n
<\/p>\n
Co on robi? Po pierwsze, nale\u017cy opracowa\u0107 plan dzia\u0142a\u0144, co zamierzamy zrobi\u0107 w zwi\u0105zku z t\u0105 aktualizacj\u0105. Aktualizacje mog\u0105 by\u0107 bardzo ma\u0142e, tzn. ma\u0142e w realizacji YAML, ale mog\u0105 wi\u0105za\u0107 si\u0119 z bardzo du\u017cymi zmianami w klastrze. Dlatego operator tworzy plan, a nast\u0119pnie si\u0119 go trzyma.<\/p>\n
<\/p>\n
<\/p>\n
Zgodnie z tym planem zaczyna konstruowa\u0107 t\u0119 struktur\u0119 wewn\u0119trznie, aby zmaterializowa\u0107 pod'y, us\u0142ugi, czyli robi to, co jest jego g\u0142\u00f3wnym zadaniem. To jak budowanie klastra ClickHouse w Kubernetes.<\/p>\n
<\/p>\n
<\/p>\n
Teraz poruszmy interesuj\u0105cy temat. To podzia\u0142 odpowiedzialno\u015bci mi\u0119dzy Kubernetes a operatorem, tzn. co robi Kubernetes, co robi operator i jak wsp\u00f3\u0142dzia\u0142aj\u0105 ze sob\u0105. <\/p>\n
<\/p>\n
Kubernetes odpowiada za rzeczy systemowe, tzn. za podstawowy zestaw obiekt\u00f3w, kt\u00f3re mo\u017cna interpretowa\u0107 jako zasi\u0119g systemu. Kubernetes wie, jak uruchamia\u0107 pod'y, jak restartowa\u0107 kontenery, jak montowa\u0107 wolumeny, jak pracowa\u0107 z ConfigMap, tzn. wszystko, co mo\u017cna nazwa\u0107 systemem. <\/p>\n
<\/p>\n
Operatorzy operuj\u0105 w dziedzinach tematycznych. Ka\u017cdy operator jest tworzony dla swojej dziedziny tematycznej. U nas zrobili\u015bmy dla ClickHouse.<\/p>\n
<\/p>\n
Operator dzia\u0142a w\u0142a\u015bnie w terminach dziedziny tematycznej, takich jak dodanie repliki, utworzenie schematu, skonfigurowanie monitoringu. Powstaje wi\u0119c taki podzia\u0142.<\/p>\n
<\/p>\n
<\/p>\n
Przyjrzyjmy si\u0119 praktycznemu przyk\u0142adzie, jak ten podzia\u0142 odpowiedzialno\u015bci dzia\u0142a, gdy wykonujemy dzia\u0142anie dodania repliki. <\/p>\n
<\/p>\n
Do operatora trafia zadanie \u2013 doda\u0107 replik\u0119. Co operator robi? Operator oblicza, \u017ce nale\u017cy stworzy\u0107 nowy StatefulSet, w kt\u00f3rym nale\u017cy opisa\u0107 takie a takie szablony, zg\u0142oszenie wolumenu. <\/p>\n
<\/p>\n
<\/p>\n
On to wszystko przygotowuje i przekazuje dalej do K8s. M\u00f3wi, \u017ce potrzebuje ConfigMap, StatefulSet, Wolumen. Kubernetes to realizuje. Zmaterializuje podstawowe jednostki, kt\u00f3rymi operuje. <\/p>\n
<\/p>\n
<\/p>\n
I dalej ponownie wkracza ClickHouse-operator. Ma ju\u017c fizyczny pod, na kt\u00f3rym mo\u017cna co\u015b zrobi\u0107. I ClickHouse-operator ponownie dzia\u0142a w terminach dziedziny tematycznej. Tzn. aby w\u0142\u0105czy\u0107 replik\u0119 w klastrze ClickHouse, nale\u017cy najpierw skonfigurowa\u0107 schemat danych, kt\u00f3ry jest w tym klastrze. Po drugie, t\u0119 replik\u0119 nale\u017cy w\u0142\u0105czy\u0107 w monitoring, aby dobrze j\u0105 \u015bledzi\u0107. To ju\u017c operator ustawia. <\/p>\n
<\/p>\n
<\/p>\n
I dopiero po tym wkracza sam ClickHouse, czyli kolejny, wy\u017cej poziomowy byt. To ju\u017c jest baza danych. Ma swoje instancje, kolejn\u0105 skonfigurowan\u0105 replik\u0119, kt\u00f3ra jest gotowa do\u0142\u0105czenia do klastra.<\/p>\n
<\/p>\n
W ten spos\u00f3b \u0142a\u0144cuch wykonania i podzia\u0142u odpowiedzialno\u015bci przy dodawaniu repliki staje si\u0119 do\u015b\u0107 d\u0142ugi.<\/p>\n
<\/p>\n
<\/p>\n
Kontynuujemy nasze praktyczne zadania. Je\u015bli klaster ju\u017c istnieje, mo\u017cna wykona\u0107 migracj\u0119 konfiguracji. <\/p>\n
<\/p>\n
<\/p>\n
Zrobili\u015bmy tak, \u017ce do istniej\u0105cego pliku XML, kt\u00f3ry rozumie ClickHouse, mo\u017cna przesy\u0142a\u0107 dane bezpo\u015brednio.<\/p>\n
<\/p>\n
<\/p>\n
Mo\u017cna przeprowadzi\u0107 dok\u0142adn\u0105 konfiguracj\u0119 ClickHouse. Akurat wdro\u017cenie strefowe \u2013 to w\u0142a\u015bnie to, o czym m\u00f3wi\u0142em podczas wyja\u015bniania hostPath, lokalnego magazynu. Jak prawid\u0142owo przeprowadzi\u0107 wdro\u017cenie strefowe.<\/p>\n
<\/p>\n
<\/p>\n
Nast\u0119pnym praktycznym zadaniem jest monitorowanie.<\/p>\n
<\/p>\n
<\/p>\n
Je\u015bli nasz klaster si\u0119 zmienia, musimy okresowo ustawia\u0107 monitorowanie. <\/p>\n
<\/p>\n
Zobaczmy schemat. Zielone strza\u0142ki ju\u017c om\u00f3wili\u015bmy. Teraz przyjrzyjmy si\u0119 czerwonym strza\u0142kom. To spos\u00f3b, w jaki chcemy monitorowa\u0107 nasz klaster. Jak metryki z klastra ClickHouse trafiaj\u0105 do Prometheus, a potem do Grafana.<\/p>\n
<\/p>\n
<\/p>\n
A w czym tkwi trudno\u015b\u0107 w monitorowaniu? Dlaczego jest to traktowane jako jakie\u015b osi\u0105gni\u0119cie? Trudno\u015b\u0107 le\u017cy w\u0142a\u015bnie w dynamice. Kiedy mamy jeden klaster, kt\u00f3ry jest statyczny, mo\u017cna jednorazowo ustawi\u0107 monitorowanie i wi\u0119cej si\u0119 tym nie zajmowa\u0107.<\/p>\n
<\/p>\n
Ale je\u015bli mamy wiele klastr\u00f3w, lub ci\u0105gle co\u015b si\u0119 zmienia, proces staje si\u0119 dynamiczny. Ci\u0105g\u0142e przestawianie monitorowania to strata zasob\u00f3w i czasu, czyli nawet zwyk\u0142e lenistwo. Trzeba to zautomatyzowa\u0107. Trudno\u015b\u0107 tkwi w\u0142a\u015bnie w dynamice procesu. I operator bardzo dobrze to automatyzuje. <\/p>\n
<\/p>\n
<\/p>\n
Jak rozwija\u0142 si\u0119 nasz klaster? Na pocz\u0105tku wygl\u0105da\u0142 tak.<\/p>\n
<\/p>\n
<\/p>\n
Potem by\u0142 taki.<\/p>\n
<\/p>\n
<\/p>\n
W ko\u0144cu sta\u0142 si\u0119 taki. <\/p>\n
<\/p>\n
A monitorowanie jest automatycznie realizowane przez operatora. Jednolite miejsce wej\u015bcia. <\/p>\n
<\/p>\n
<\/p>\n
A my jedynie na wyj\u015bciu patrzymy na pulpit nawigacyjny Grafana, jak w \u015brodku toczy si\u0119 \u017cycie naszego klastra. <\/p>\n
<\/p>\n
Swoj\u0105 drog\u0105, pulpit nawigacyjny Grafana r\u00f3wnie\u017c jest dostarczany z naszym operatorem bezpo\u015brednio w \u017ar\u00f3d\u0142ach. Mo\u017cna si\u0119 pod\u0142\u0105czy\u0107 i korzysta\u0107. Ten zrzut ekranu otrzyma\u0142em od naszych DevOps.<\/p>\n
<\/p>\n
<\/p>\n
Gdzie chcieliby\u015bmy i\u015b\u0107 dalej? To:<\/p>\n
<\/p>\n
\nRozwija\u0107 automatyzacj\u0119 testowania. G\u0142\u00f3wnym zadaniem jest automatyzacja testowania nowych wersji. <\/li>\n Chcieliby\u015bmy r\u00f3wnie\u017c zautomatyzowa\u0107 integracj\u0119 z ZooKeeper. Planujemy zintegrowa\u0107 si\u0119 z ZooKeeper-operator. Tzn. dla ZooKeeper napisano operatora i logiczne jest, aby dwa operatorzy zacz\u0119li si\u0119 integrowa\u0107 w celu stworzenia bardziej wygodnego rozwi\u0105zania. <\/li>\n Chcemy zrobi\u0107 bardziej zaawansowane kontrole \u017cywotno\u015bci. <\/li>\n Na zielono wyr\u00f3\u017cni\u0142em to, co mamy na uko\u0144czeniu \u2014 dziedziczenie Template \u2013 ZREALIZOWANE, tzn. z nast\u0119pn\u0105 wersj\u0105 operatora b\u0119dziemy ju\u017c mie\u0107 dziedziczenie szablon\u00f3w. To pot\u0119\u017cne narz\u0119dzie, kt\u00f3re pozwala budowa\u0107 z\u0142o\u017cone konfiguracje z kawa\u0142k\u00f3w. <\/li>\n I chcemy zautomatyzowa\u0107 skomplikowane zadania. G\u0142\u00f3wne z nich to Re-sharding. <\/li>\n<\/ul>\n<\/p>\n
<\/p>\n
Podsumujmy dotychczasowe wyniki. <\/p>\n
<\/p>\n
<\/p>\n
Co otrzymujemy na wyj\u015bciu? Czy warto si\u0119 tym zajmowa\u0107, czy nie? Czy nale\u017cy w og\u00f3le pr\u00f3bowa\u0107 przenie\u015b\u0107 baz\u0119 danych do Kubernetes i zastosowa\u0107 operatora w og\u00f3le oraz operatora Alitnity w szczeg\u00f3lno\u015bci.<\/p>\n
<\/p>\n
Na wyj\u015bciu uzyskujemy:<\/p>\n
<\/p>\n
\nZnaczne uproszczenie i automatyzacj\u0119 konfiguracji, wdra\u017cania oraz utrzymania. <\/li>\n Natychmiastowy, wbudowany monitoring. <\/li>\n I gotowe do u\u017cycia, skodyfikowane szablony dla z\u0142o\u017conych sytuacji. Ju\u017c dzia\u0142ania typy dodanie repliki nie musz\u0105 by\u0107 wykonywane r\u0119cznie. To robi operator. <\/li>\n<\/ul>\n<\/p>\n
<\/p>\n
Pozosta\u0142o tylko jedno pytanie. Mamy ju\u017c baz\u0119 danych w Kubernetes, wirtualizacj\u0119. Jak wygl\u0105da wydajno\u015b\u0107 tego rozwi\u0105zania, szczeg\u00f3lnie w kontek\u015bcie tego, \u017ce ClickHouse jest zoptymalizowany pod k\u0105tem wydajno\u015bci?<\/p>\n
<\/p>\n
Odpowied\u017a \u2013 wszystko w porz\u0105dku! Nie b\u0119d\u0119 szczeg\u00f3\u0142owo opisywa\u0142, to temat osobnego wyk\u0142adu. <\/p>\n
<\/p>\n
<\/p>\n
Jednak istnieje projekt, taki jak TSBS. Jakie jest jego g\u0142\u00f3wne zadanie? To test baz danych pod k\u0105tem wydajno\u015bci. To pr\u00f3ba por\u00f3wnania ciep\u0142ego z ciep\u0142ym, mi\u0119kkiego z mi\u0119kkim. <\/p>\n
<\/p>\n
Jak to dzia\u0142a? Generowany jest jeden zestaw danych. Nast\u0119pnie ten zestaw danych jest testowany na r\u00f3\u017cnorodnych bazach danych przy u\u017cyciu tych samych test\u00f3w. I ka\u017cda baza danych rozwi\u0105zuj\u0105c jedn\u0105 zadanie robi to tak, jak potrafi. A potem mo\u017cna por\u00f3wnywa\u0107 wyniki. <\/p>\n
<\/p>\n
Ju\u017c obs\u0142uguje wiele baz danych. Wyr\u00f3\u017cni\u0142em trzy g\u0142\u00f3wne. To:<\/p>\n
<\/p>\n
\nTimescaleDB.<\/li>\n InfluxDB.<\/li>\n ClickHouse.<\/li>\n<\/ul>\n<\/p>\n
<\/p>\n
Przeprowadzono r\u00f3wnie\u017c por\u00f3wnanie z innym podobnym rozwi\u0105zaniem. Por\u00f3wnanie z RedShift. Por\u00f3wnanie mia\u0142o miejsce na Amazonie. ClickHouse r\u00f3wnie\u017c dobrze przeskakuje wszystkich w tej kwestii. <\/p>\n
<\/p>\n
<\/p>\n
Jakie wnioski mo\u017cna wyci\u0105gn\u0105\u0107 z tego, co powiedzia\u0142em?<\/p>\n
<\/p>\n
\nBaza danych w Kubernetes jest mo\u017cliwa. Prawdopodobnie mo\u017cna u\u017cywa\u0107 r\u00f3\u017cnych baz, ale og\u00f3lnie wygl\u0105da na to, \u017ce to zadzia\u0142a. ClickHouse w Kubernetes na pewno mo\u017cna uruchomi\u0107 za pomoc\u0105 naszego operatora. <\/li>\n Operator pomaga automatyzowa\u0107 procesy i naprawd\u0119 u\u0142atwia \u017cycie.<\/li>\n Wydajno\u015b\u0107 jest normalna.<\/li>\n I wydaje nam si\u0119, \u017ce to mo\u017cna i trzeba wykorzysta\u0107. <\/li>\n<\/ul>\n<\/p>\n
Open source \u2013 do\u0142\u0105cz do nas!<\/p>\n
<\/p>\n
Jak ju\u017c wspomnia\u0142em, operator to ca\u0142kowicie produkt open source, dlatego by\u0142oby \u015bwietnie, gdyby jak najwi\u0119cej ludzi z niego korzysta\u0142o. Do\u0142\u0105czcie do nas! Czekamy na wszystkich!<\/p>\n
<\/p>\n
Dzi\u0119kuj\u0119 wszystkim!<\/p>\n
<\/p>\n
Pytania<\/p>\n
<\/p>\n
<\/p>\n
Dzi\u0119kuj\u0119 za prezentacj\u0119! Nazywam si\u0119 Anton. Jestem z firmy SEMrush. Interesuje mnie logging. O monitoringu s\u0142ycha\u0107, a o logowaniu nic, je\u015bli m\u00f3wimy o ca\u0142ym klastrze. U nas na przyk\u0142ad zbudowali\u015bmy klaster na sprz\u0119cie. I wykorzystujemy zcentralizowane logowanie, zbieraj\u0105c standardowymi narz\u0119dziami w jedn\u0105 ca\u0142o\u015b\u0107. A potem wyci\u0105gamy z niej interesuj\u0105ce nas dane.<\/em> <\/p>\n<\/p>\n
Dobre pytanie, tzn. logowanie jest na li\u015bcie do zrealizowania. Nasz operator obecnie tego nie automatyzuje. On jest jeszcze w fazie rozwoju, projekt jest stosunkowo m\u0142ody. Rozumiemy konieczno\u015b\u0107 logowania. To r\u00f3wnie\u017c bardzo wa\u017cny temat. I jest zapewne co najmniej tak samo wa\u017cny, jak monitoring. Jednak pierwszym elementem do realizacji by\u0142 monitoring. Logowanie b\u0119dzie. Oczywi\u015bcie staramy si\u0119 zautomatyzowa\u0107 wszystkie aspekty funkcjonowania klastra. Dlatego odpowied\u017a jest taka \u2013 w tej chwili operator, niestety, tego nie potrafi, ale to jest w planach, zamierzamy to zrobi\u0107. Je\u015bli jest ch\u0119\u0107, aby do\u0142\u0105czy\u0107, to prosz\u0119 o pull request.<\/p>\n
<\/p>\n
Witam! Dzi\u0119kuj\u0119 za prezentacj\u0119! Mam standardowe pytanie zwi\u0105zane z Persistent Volumes. Kiedy tworzymy konfiguracj\u0119 za pomoc\u0105 tego operatora, jak operator okre\u015bla, na kt\u00f3rym w\u0119\u017ale mamy zamontowany dysk lub folder? Musimy mu wcze\u015bniej wyja\u015bni\u0107, \u017ce prosz\u0119 umie\u015bci\u0107 nasz ClickHouse w\u0142a\u015bnie na tych w\u0119z\u0142ach, na kt\u00f3rych jest dysk?<\/em><\/p>\n<\/p>\n
O ile rozumiem, to pytanie to kontynuacja local storage, szczeg\u00f3lnie jego cz\u0119\u015bci dotycz\u0105cej hostPath. To jak wyja\u015bni\u0107 ca\u0142emu systemowi, \u017ce pod powinien by\u0107 uruchomiony w\u0142a\u015bnie na takim w\u0119\u017ale, na kt\u00f3rym mamy fizycznie pod\u0142\u0105czony dysk, zamontowany w okre\u015blonej lokalizacji. To jest ca\u0142a sekcja, kt\u00f3r\u0105 poruszy\u0142em bardzo powierzchownie, poniewa\u017c odpowied\u017a jest do\u015b\u0107 obszerna. <\/p>\n
<\/p>\n
W skr\u00f3cie wygl\u0105da to tak. Oczywi\u015bcie musimy dokona\u0107 provisioning tych wolumen\u00f3w. W tej chwili w lokalnej pami\u0119ci nie ma dynamicznego provisioningu, wi\u0119c DevOps musz\u0105 samodzielnie podzieli\u0107 dyski, te wolumeny. Musz\u0105 r\u00f3wnie\u017c wyja\u015bni\u0107 Kubernetesowi provisioning, \u017ce b\u0119d\u0105 mie\u0107 Persistent volumes okre\u015blonej klasy, kt\u00f3re znajduj\u0105 si\u0119 na takich a takich nodach. Nast\u0119pnie trzeba b\u0119dzie wyja\u015bni\u0107 Kubernetesowi, \u017ce pod\u2019y, kt\u00f3re potrzebuj\u0105 okre\u015blonej klasy lokalnej pami\u0119ci, musz\u0105 by\u0107 planowane tylko na takich a takich nodach. W tym celu operator ma mo\u017cliwo\u015b\u0107 przypisania jakiej\u015b etykiety i one per host instance. I oka\u017ce si\u0119, \u017ce pod\u2019y b\u0119d\u0105 routowane przez Kubernetes do uruchomienia tylko na nodach spe\u0142niaj\u0105cych wymagania, etykietami m\u00f3wi\u0105c prosto. Administratorzy przypisuj\u0105 etykiety, dokonuj\u0105 provisioning dysk\u00f3w r\u0119cznie. A wtedy mo\u017cna to skalowa\u0107.<\/p>\n
<\/p>\n
I w\u0142a\u015bnie trzecia opcja lokalna pomaga to nieco u\u0142atwi\u0107. Jak ju\u017c podkre\u015bla\u0142em, to \u017cmudna praca nad konfiguracj\u0105, kt\u00f3ra na ko\u0144cu pomaga uzyska\u0107 maksymaln\u0105 wydajno\u015b\u0107.<\/p>\n
<\/p>\n
Mam drugie pytanie zwi\u0105zane z tym. Kubernetes by\u0142 zaprojektowany w taki spos\u00f3b, \u017ce nie ma znaczenia, czy stracimy nod\u0119, czy nie. Co w takim przypadku nale\u017cy zrobi\u0107, je\u015bli utracimy nod\u0119, na kt\u00f3rej znajduje si\u0119 shard?<\/em><\/p>\n<\/p>\n
Tak, Kubernetes zosta\u0142 pocz\u0105tkowo zaprezentowany tak, \u017ce nasze relacje z pod\u2019ami \u2013 to jak byd\u0142o, a tutaj ka\u017cdy dysk staje si\u0119 czym\u015b w rodzaju zwierz\u0105tka domowego. Jest taki problem, \u017ce nie mo\u017cemy ich po prostu wyrzuci\u0107. Rozw\u00f3j Kubernetes zmierza w kierunku, \u017ce nie mo\u017cna ca\u0142kowicie podchodzi\u0107 do tego filozoficznie, jak do ca\u0142kowicie wyrzucanych zasob\u00f3w.<\/p>\n
<\/p>\n
Teraz praktyczne pytanie. Co zrobi\u0107, je\u015bli stracisz nod\u0119, na kt\u00f3rej by\u0142 dysk? Tutaj problem ju\u017c rozwi\u0105zany jest na wy\u017cszym poziomie. W przypadku ClickHouse mamy repliki, kt\u00f3re dzia\u0142aj\u0105 na wy\u017cszym poziomie, tzn. na poziomie ClickHouse.<\/p>\n
<\/p>\n
Jaka zanika dyspozycja? Za to, \u017ceby dane si\u0119 nie zgubi\u0142y, odpowiada DevOps. Musi on prawid\u0142owo skonfigurowa\u0107 replikacj\u0119 i musi kontrolowa\u0107, \u017ceby replikacja by\u0142a realizowana. W replikach na poziomie ClickHouse dane musz\u0105 by\u0107 zdublowane. To nie jest zadanie, kt\u00f3re rozwi\u0105zuj\u0105 operatorzy. I nie to zadanie, kt\u00f3re rozwi\u0105zuje sam Kubernetes. To na poziomie ClickHouse.<\/p>\n
<\/p>\n
Co zrobi\u0107, je\u015bli tw\u00f3j w\u0119ze\u0142 serwerowy przesta\u0142 dzia\u0142a\u0107? Nale\u017cy zainstalowa\u0107 drugi, poprawnie skonfigurowa\u0107 dysk i doda\u0107 etykiety. Po tym procesie w\u0119ze\u0142 spe\u0142ni wymagania, by Kubernetes m\u00f3g\u0142 uruchomi\u0107 instancj\u0119 poda. Kubernetes go uruchomi. Liczba pod\u00f3w jest niewystarczaj\u0105ca do okre\u015blonej warto\u015bci. Przejdzie przez cykl, kt\u00f3ry pokaza\u0142em. A na najwy\u017cszym poziomie ClickHouse zrozumie, \u017ce dostarczono replik\u0119, kt\u00f3ra jest jeszcze pusta i nale\u017cy zacz\u0105\u0107 transfer danych. Innymi s\u0142owy, ten proces jest jeszcze s\u0142abo zautomatyzowany. <\/p>\n
<\/p>\n
Dzi\u0119kuj\u0119 za prezentacj\u0119! Kiedy co\u015b z\u0142ego si\u0119 dzieje, operator si\u0119 zawiesza i restaruje, a w tym momencie pojawiaj\u0105 si\u0119 zdarzenia, czy w jaki\u015b spos\u00f3b to przetwarzacie?<\/em><\/p>\n<\/p>\n
Co si\u0119 stanie, je\u015bli operator zawiesi si\u0119 i zostanie zrestartowany, tak? <\/p>\n
<\/p>\n
Tak. I w tym momencie pojawi\u0142y si\u0119 zdarzenia.<\/em> <\/p>\n<\/p>\n
Zadanie zwi\u0105zane z tym przypadkiem jest cz\u0119\u015bciowo rozdzielone mi\u0119dzy operatorem a Kubernetesem. Kubernetes ma mo\u017cliwo\u015b\u0107 odtworzenia zdarze\u0144, kt\u00f3re mia\u0142y miejsce. Odtwarza je. A zadaniem operatora jest zapewnienie, \u017ce gdy zostanie na niego odtworzone log zdarze\u0144, to zdarzenia te b\u0119d\u0105 idempotentne. Oznacza to, \u017ce ponowne wyst\u0105pienie tego samego zdarzenia nie z\u0142amie naszego systemu. I nasz operator dobrze radzi sobie z tym zadaniem. <\/p>\n
<\/p>\n
Dzie\u0144 dobry! Dzi\u0119kuj\u0119 za prezentacj\u0119! Dmitrij Zawia\u0142ow, firma<\/em> Smiedowa. Czy planowane jest dodanie do operatora mo\u017cliwo\u015bci konfiguracji z haproxy? Interesuje mnie jaki\u015b inny balancer opr\u00f3cz standardowego, kt\u00f3ry by\u0142by m\u0105dry i zrozumia\u0142, \u017ce to rzeczywi\u015bcie ClickHouse.<\/em> <\/p>\n<\/p>\n
Czy m\u00f3wisz o Ingress?<\/p>\n
<\/p>\n
Tak, zamieni\u0107 Ingress na haproxy. W haproxy mo\u017cna okre\u015bli\u0107 topologi\u0119 klastra, gdzie znajduj\u0105 si\u0119 jego repliki.<\/em><\/p>\n<\/p>\n
Na razie o tym nie my\u015bleli\u015bmy. Je\u015bli potrzebujesz tego i mo\u017cesz wyja\u015bni\u0107, dlaczego to jest potrzebne, to mo\u017cliwe, \u017ce uda si\u0119 to zrealizowa\u0107, szczeg\u00f3lnie je\u015bli zechcesz wzi\u0105\u0107 w tym udzia\u0142. Kr\u00f3tk\u0105 odpowiedzi\u0105 jest \u2013 nie, w tej chwili nie mamy takiej funkcjonalno\u015bci. Dzi\u0119kujemy za sugesti\u0119, przyjrzymy si\u0119 temu. A je\u015bli jeszcze wyja\u015bnisz use case i dlaczego to jest potrzebne w praktyce, na przyk\u0142ad stworzysz zg\u0142oszenia na GitHubie, to b\u0119dzie wspaniale.<\/p>\n
<\/p>\n
Ju\u017c jest.<\/em><\/p>\n<\/p>\n
Dobrze. Jeste\u015bmy otwarci na wszelkie propozycje. A haproxy zostanie dodane do listy zada\u0144 do wykonania. Lista zada\u0144 si\u0119 rozrasta, a nie zmniejsza jak dot\u0105d. Ale to dobrze, to oznacza, \u017ce produkt jest poszukiwany.<\/p>\n
\u0179r\u00f3d\u0142o: habr.com<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u0414\u043e\u043a\u043b\u0430\u0434 \u043f\u043e\u0441\u0432\u044f\u0449\u0435\u043d \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u043c \u0432\u043e\u043f\u0440\u043e\u0441\u0430\u043c \u0440\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u043a\u0438 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440\u0430 \u0432 Kubernetes, \u043f\u0440\u043e\u0435\u043a\u0442\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044e \u0435\u0433\u043e \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u044b \u0438 \u043e\u0441\u043d\u043e\u0432\u043d\u044b\u0445 \u043f\u0440\u0438\u043d\u0446\u0438\u043f\u043e\u0432 \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f. \u0412 \u043f\u0435\u0440\u0432\u043e\u0439 \u0447\u0430\u0441\u0442\u0438 \u0434\u043e\u043a\u043b\u0430\u0434\u0430 \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c: \u0447\u0442\u043e \u0442\u0430\u043a\u043e\u0435 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 \u0432 Kubernetes \u0438 \u0437\u0430\u0447\u0435\u043c \u043e\u043d \u043d\u0443\u0436\u0435\u043d; \u043a\u0430\u043a \u0438\u043c\u0435\u043d\u043d\u043e \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 \u0443\u043f\u0440\u043e\u0449\u0430\u0435\u0442 \u0443\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0441\u043b\u043e\u0436\u043d\u044b\u043c\u0438 \u0441\u0438\u0441\u0442\u0435\u043c\u0430\u043c\u0438; \u0447\u0442\u043e \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 \u043c\u043e\u0436\u0435\u0442, \u0430 \u0447\u0442\u043e \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440 \u043d\u0435 \u043c\u043e\u0436\u0435\u0442. \u0414\u0430\u043b\u0435\u0435, \u043f\u0435\u0440\u0435\u0439\u0434\u0451\u043c \u043a \u043e\u0431\u0441\u0443\u0436\u0434\u0435\u043d\u0438\u044e \u0432\u043d\u0443\u0442\u0440\u0435\u043d\u043d\u0435\u0433\u043e \u0443\u0441\u0442\u0440\u043e\u0439\u0441\u0442\u0432\u0430 \u043e\u043f\u0435\u0440\u0430\u0442\u043e\u0440\u0430. \u0420\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440\u0443 \u0438 \u0444\u0443\u043d\u043a\u0446\u0438\u043e\u043d\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":96966,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-96965","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Operator](\"\/wp-content\/uploads\/2020\/10\/56e002c7408c4708e39ece867f84171e.jpeg\")
<\/p>\n