{"id":93294,"date":"2020-09-05T07:42:58","date_gmt":"2020-09-05T05:42:58","guid":{"rendered":"https:\/\/prohoster.info\/blog\/administrirovanie\/logirovanie-v-kubernetes-kak-sobirat-hranit-parsit-i-obrabatyvat-logi"},"modified":"2020-09-05T07:42:58","modified_gmt":"2020-09-05T05:42:58","slug":"logirovanie-v-kubernetes-kak-sobirat-hranit-parsit-i-obrabatyvat-logi","status":"publish","type":"post","link":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/logirovanie-v-kubernetes-kak-sobirat-hranit-parsit-i-obrabatyvat-logi","title":{"rendered":"Logowanie w Kubernetes: jak zbiera\u0107, przechowywa\u0107, analizowa\u0107 i przetwarza\u0107 logi","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

Om\u00f3wimy podstawy logowania w Docker i Kubernetes, a nast\u0119pnie zaprezentujemy dwa narz\u0119dzia, kt\u00f3re mo\u017cna \u015bmia\u0142o stosowa\u0107 w produkcji: Grafana Loki i stos EFK (Elasticsearch + Fluent Bit + Kibana).<\/p>\n

<\/p>\n

Materia\u0142 artyku\u0142u \u2014 podsumowanie z otwartej lekcji szko\u0142y \u201eS\u0142\u00f6rm\u201d<\/a><\/noindex>. Je\u015bli jest ch\u0119\u0107 i tym bardziej konieczno\u015b\u0107 produkcyjna, mo\u017cna przej\u015b\u0107 pe\u0142ne szkolenie \u2014 zapisz si\u0119 na kurs dotycz\u0105cy monitorowania i logowania infrastruktury w Kubernetes<\/a><\/noindex>.<\/em><\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/a><\/noindex><\/p>\n

Logowanie w Dockerze<\/h2>\n

<\/p>\n

Na poziomie Kubernetes aplikacje uruchamiane s\u0105 w podach, ale na ni\u017cszym poziomie zwykle dzia\u0142aj\u0105 w Dockerze. Dlatego trzeba skonfigurowa\u0107 logowanie w taki spos\u00f3b, aby zbiera\u0107 logi z kontener\u00f3w. Kontenery uruchamia Docker \u2014 oznacza to, \u017ce nale\u017cy zrozumie\u0107, jak logowanie dzia\u0142a na poziomie Dockera.<\/p>\n

<\/p>\n

Mam nadziej\u0119, \u017ce ka\u017cdy czytelnik wie: logi aplikacji nale\u017cy pisa\u0107 do stdout\/stderr, a nie do wewn\u0105trz kontenera. Logi agreguje Docker Daemon, a on pracuje tylko z tymi logami, kt\u00f3re s\u0105 wysy\u0142ane do stdout\/stderr. Poza tym zapisywanie log\u00f3w wewn\u0105trz kontenera rodzi problemy: kontener puchnie od rosn\u0105cego logu (poniewa\u017c prawdopodobnie nie ma w kontenerze \u017cadnego Logrotate), a Docker Daemon nie ma poj\u0119cia o tym logu.<\/p>\n

<\/p>\n

Docker ma kilka sterownik\u00f3w log\u00f3w lub wtyczek do zbierania log\u00f3w kontener\u00f3w. W bezp\u0142atnej wersji Docker Community Edition (CE) jest mniej sterownik\u00f3w log\u00f3w ni\u017c w komercyjnej wersji Docker Enterprise Edition (EE).<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Docker EE nie u\u017cywa\u0142em w praktyce: w Southbridge staramy si\u0119 trzyma\u0107 rozwi\u0105za\u0144 typu Open Source, a klienci nie potrzebuj\u0105 wielu dodatkowych mo\u017cliwo\u015bci, kt\u00f3re oferuje Docker EE. <\/p>\n

<\/p>\n

Sterowniki log\u00f3w w Docker CE:<\/p>\n

<\/p>\n

local<\/strong> \u2014 zapisywanie log\u00f3w w wewn\u0119trznych plikach Docker Daemon;
\njson-file<\/strong> \u2014 tworzenie logu json w folderze ka\u017cdego kontenera;
\njournald<\/strong> \u2014 wysy\u0142anie log\u00f3w do journald.<\/p>\n

<\/p>\n

Ustawienia logowania w Dockerze znajduj\u0105 si\u0119 w pliku daemon.json. <\/p>\n

<\/p>\n

W polu \u201clog-driver\u201d wskazuje si\u0119 wtyczk\u0119, a w polu \u201clog-opts\u201d \u2014 jej ustawienia. W powy\u017cszym przyk\u0142adzie wskazana jest wtyczka \u201cjson-file\u201d, ograniczenie rozmiaru logu wynosi \u201cmax-size\u201d: \u201c10m\u201d; ograniczenie liczby plik\u00f3w (ustawienia rotacji) wynosi \u201cmax-file\u201d: \u201c3\u201d; a tak\u017ce warto\u015bci, kt\u00f3re b\u0119d\u0105 do\u0142\u0105czane do log\u00f3w.<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Niekt\u00f3re ustawienia sterownika log\u00f3w mo\u017cna skonfigurowa\u0107 za pomoc\u0105 narz\u0119dzia wiersza polece\u0144. To wygodne, je\u015bli trzeba uruchomi\u0107 osobny kontener z innym sterownikiem log\u00f3w. <\/p>\n

<\/p>\n

Oto jak wygl\u0105da schemat logowania w Dockerze:<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Jak dzia\u0142a schemat: log-driver, na przyk\u0142ad json-file, tworzy pliki. Zbieracze log\u00f3w (Rsyslog, Fluentd, Logagent i inne) zbieraj\u0105 te pliki i przesy\u0142aj\u0105 je do przechowywania w Elastic, Sematext lub innych magazynach.<\/p>\n

<\/p>\n

Cechy logowania w Kubernetes<\/h2>\n

<\/p>\n

Uproszczony schemat logowania w Kubernetes wygl\u0105da tak: jest pod, w kt\u00f3rym uruchomiono kontener, kontener wysy\u0142a logi do stdout\/stderr. Nast\u0119pnie Docker tworzy plik i zapisuje logi, kt\u00f3re mog\u0105 by\u0107 rotowane.<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Przyjrzyjmy si\u0119 cechom logowania w Kubernetes.<\/p>\n

<\/p>\n

Zachowywanie log\u00f3w mi\u0119dzy wdro\u017ceniami<\/strong>. To jest wym\u00f3g konieczny do prawid\u0142owej konfiguracji logowania. Je\u015bli nie zachowasz log\u00f3w mi\u0119dzy wdro\u017ceniami, to przy wydaniu nowej wersji aplikacji logi poprzedniej b\u0119d\u0105 nadpisywane, a ponowne uruchomienie kontenera r\u00f3wnie\u017c wi\u0105\u017ce si\u0119 z utrat\u0105 log\u00f3w. Kubernetes ma klucz —previous, kt\u00f3ry pozwala zobaczy\u0107 logi aplikacji przed ostatnim restartem Pod, ale nie g\u0142\u0119biej.<\/p>\n

<\/p>\n

Agregowanie log\u00f3w ze wszystkich instancji<\/strong>. Je\u015bli mikroserwisy s\u0105 hostowane w chmurze, to za kontrol\u0119 systemu odpowiada dostawca chmurowy. Je\u015bli mikroserwisy dzia\u0142aj\u0105 na w\u0142asnym sprz\u0119cie, to opr\u00f3cz log\u00f3w z kontener\u00f3w nale\u017cy zbiera\u0107 r\u00f3wnie\u017c logi systemowe.<\/p>\n

<\/p>\n

Dawniej nie by\u0142o wygodnych narz\u0119dzi do zbierania log\u00f3w zar\u00f3wno z systemu, jak i z mikroserwis\u00f3w. Zazwyczaj jedno narz\u0119dzie zbiera\u0142o logi systemowe (na przyk\u0142ad Rsyslog), a drugie \u2014 logi z Dockera (na przyk\u0142ad journal-bit z konfiguracj\u0105 log-drivera Dockera na journald). Pr\u00f3bowano u\u017cywa\u0107 journal-bit \u2014 zbiera\u0107 logi zar\u00f3wno z kontener\u00f3w (w log-driverze Dockera wskaza\u0107, \u017ce logi maj\u0105 by\u0107 zapisywane w journald), jak i z systemu (w CentOS 7 ju\u017c istnieje systemd i journald). Rozwi\u0105zanie dzia\u0142a, ale nie jest idealne. Je\u015bli log\u00f3w jest du\u017co, journal-bit zaczyna lagowa\u0107, a wiadomo\u015bci s\u0105 tracone.<\/p>\n

<\/p>\n

Eksperymenty trwa\u0142y \u2014 i znaleziono inny spos\u00f3b. W CentOS 7 g\u0142\u00f3wne logi systemowe (messages, audit, secure) s\u0105 duplikowane w var-log w postaci plik\u00f3w. W Dockerze r\u00f3wnie\u017c mo\u017cna skonfigurowa\u0107 zapis log\u00f3w do plik\u00f3w json. W zwi\u0105zku z tym te pliki z CentOS 7 i Dockera mo\u017cna zbiera\u0107 razem.<\/p>\n

<\/p>\n

Z czasem sta\u0142o si\u0119 popularne rozwi\u0105zanie ELK Stack. To kombinacja kilku narz\u0119dzi: Elasticsearch, Logstash i Kibana.<\/p>\n

<\/p>\n

Elasticsearch przechowuje logi z kontener\u00f3w, Logstash zbiera logi z instancji, Kibana pozwala przetwarza\u0107 otrzymane logi, tworzy\u0107 na ich podstawie wykresy. Przez pewien czas aktywnie u\u017cywano ELK Stack, ale moim zdaniem jego czas mija. P\u00f3\u017aniej opowiem, dlaczego.<\/p>\n

<\/p>\n

Dodawanie metadanych<\/strong>. Pody, aplikacje, kontenery mog\u0105 by\u0107 uruchamiane wsz\u0119dzie. Co wi\u0119cej, jedna aplikacja mo\u017ce mie\u0107 wiele instancji. Logi s\u0105 zapisane w jednym formacie, a my musimy zrozumie\u0107, kt\u00f3ra to dok\u0142adnie replika, kt\u00f3ry Pod je zapisuje i w jakim namespace si\u0119 znajduje. Dlatego logom nale\u017cy dodawa\u0107 metadane.<\/p>\n

<\/p>\n

Parsowanie log\u00f3w<\/strong>. Zabawne, ale koszty utrzymania systemu logowania i monitorowania mog\u0105 przewy\u017cszy\u0107 wydatki na g\u0142\u00f3wn\u0105 aplikacj\u0119. Kiedy dostajecie dziesi\u0105tki i setki tysi\u0119cy log\u00f3w na sekund\u0119, wydaje si\u0119 to by\u0107 logiczne, ale trzeba zna\u0107 granice. Jednym ze sposob\u00f3w znalezienia tej granicy jest parsowanie log\u00f3w. <\/p>\n

<\/p>\n

Zazwyczaj nie ma potrzeby zbiera\u0107 i przechowywa\u0107 wszystkich log\u00f3w, trzeba wysy\u0142a\u0107 do przechowania tylko cz\u0119\u015b\u0107 \u2013 na przyk\u0142ad logi o statusie \u201ewarning\u201d lub \u201eerror\u201d. Je\u015bli m\u00f3wimy o logach nginx lub kontroler\u00f3w ingress, to mo\u017cna przechowywa\u0107 tylko te, kt\u00f3rych status r\u00f3\u017cni si\u0119 od 200. Jednak to nie jest uniwersalna rada: je\u015bli budujecie w jaki\u015b spos\u00f3b analityk\u0119 na podstawie log\u00f3w Nginx, to zdecydowanie warto je zbiera\u0107. <\/p>\n

<\/p>\n

Nie zaleca si\u0119 bezmy\u015blnego filtrowania log\u00f3w, poniewa\u017c przefiltrowanych danych mo\u017ce brakowa\u0107 do normalnej analizy. Z drugiej strony, by\u0107 mo\u017ce analityk\u0119 warto prowadzi\u0107 nie na poziomie logowania, a na poziomie zbierania metryk. Wtedy nie trzeba b\u0119dzie przechowywa\u0107 setek tysi\u0119cy linii z kodem 200. Jednym z podej\u015b\u0107 jest uzyskiwanie informacji o ruchu i b\u0142\u0119dach z metryk kontroler\u00f3w ingress. <\/p>\n

<\/p>\n

Og\u00f3lnie, trzeba tutaj dobrze pomy\u015ble\u0107: co chcecie przechowywa\u0107 i jak d\u0142ugo, poniewa\u017c w przeciwnym razie pojawi si\u0119 sytuacja, w kt\u00f3rej system logowania zajmie wi\u0119cej zasob\u00f3w ni\u017c g\u0142\u00f3wny projekt.<\/p>\n

<\/p>\n

Jak dot\u0105d nie ma standardowego rozwi\u0105zania dla logowania<\/strong>. W przeciwie\u0144stwie do monitorowania, gdzie istnieje jedno najbardziej rozpowszechnione rozwi\u0105zanie Prometheus, w logowaniu nie ma standardu. <\/p>\n

<\/p>\n

W ramach tej lekcji rozwa\u017cymy dwa narz\u0119dzia: jedno popularne, a drugie \u2014 zdobywaj\u0105ce popularno\u015b\u0107. Opr\u00f3cz nich s\u0105 te\u017c inne, ale w tym artykule ich nie om\u00f3wimy.<\/p>\n

<\/p>\n

Bior\u0105c pod uwag\u0119 wszystkie powy\u017csze aspekty, logowanie w Kubernetes mo\u017cna teraz przedstawi\u0107 na takiej schemacie:<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Pozostaj\u0105 logi kontenera, rotacja, ale pojawia si\u0119 agent zbieraj\u0105cy, kt\u00f3ry zbiera logi i wysy\u0142a je do przechowania (na schemacie \u2014 do Logging Backend). Agent dzia\u0142a na ka\u017cdej nodzie i zazwyczaj jest uruchamiany w Kubernetes.<\/p>\n

<\/p>\n

Teraz przyjrzymy si\u0119 narz\u0119dziom do logowania.<\/p>\n

<\/p>\n

Grafana Loki<\/h2>\n

<\/p>\n

Grafana Loki<\/a><\/noindex> pojawi\u0142 si\u0119 niedawno, ale ju\u017c sta\u0142 si\u0119 do\u015b\u0107 znany. Jego zalety: \u0142atwa instalacja, niewielkie zu\u017cycie zasob\u00f3w, nie wymaga instalacji Elasticsearch, poniewa\u017c przechowuje dane w TSDB (baza danych szereg\u00f3w czasowych). W poprzednim artykule pisa\u0142em, \u017ce tego typu baza przechowuje dane Prometheus i to jedna z licznych podobie\u0144stw obu produkt\u00f3w. Deweloperzy twierdz\u0105 nawet, \u017ce Loki to \u201ePrometheus dla \u015bwiata logowania\u201d.<\/p>\n

<\/p>\n

Ma\u0142e odskoczenie do TSDB dla tych, kt\u00f3rzy nie czytali poprzedni artyku\u0142<\/a><\/noindex>: TSDB doskonale radzi sobie z przechowywaniem du\u017cej ilo\u015bci danych, szereg\u00f3w czasowych, ale nie jest przeznaczona do d\u0142ugoterminowego przechowywania. Je\u015bli z jakiego\u015b powodu musisz przechowywa\u0107 logi d\u0142u\u017cej ni\u017c dwa tygodnie, lepiej skonfigurowa\u0107 ich transfer do innej bazy danych.<\/p>\n

<\/p>\n

Kolejn\u0105 zalet\u0105 Loki jest to, \u017ce do wizualizacji danych u\u017cywa Grafany. Bardzo wygodne: w Grafanie ogl\u0105damy dane dotycz\u0105ce monitorowania, a tam, pod\u0142\u0105czaj\u0105c Loki, ogl\u0105damy logi. Na podstawie log\u00f3w mo\u017cna tworzy\u0107 wykresy.<\/p>\n

<\/p>\n

Architektura Loki wygl\u0105da mniej wi\u0119cej tak: <\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Za pomoc\u0105 DaemonSet na wszystkich serwerach klastra uruchamiany jest agent \u2014 Promtail lub Fluent Bit. Agent zbiera logi. Loki je pobiera i przechowuje w TSDB. Do log\u00f3w od razu dodawane s\u0105 metadane, co jest wygodne: mo\u017cna filtrowa\u0107 wed\u0142ug Pods, namespaces, nazw kontener\u00f3w, a nawet etykiet.<\/p>\n

<\/p>\n

Instrukcja instalacji Loki<\/a><\/noindex><\/p>\n

<\/p>\n

Loki dzia\u0142a w znanym interfejsie Grafany. Loki ma nawet w\u0142asny j\u0119zyk zapyta\u0144, nazywa si\u0119 LogQL \u2014 z nazwy i sk\u0142adni przypomina PromQL w Prometheus. W interfejsie Loki s\u0105 podpowiedzi dotycz\u0105ce zapyta\u0144, dlatego nie trzeba ich zna\u0107 na pami\u0119\u0107.<\/p>\n

<\/p>\n

Dokumentacja do j\u0119zyka LogQL<\/a><\/noindex><\/p>\n

<\/p>\n

\"Logowanie
\nLoki w interfejsie Grafany<\/em><\/p>\n

<\/p>\n

U\u017cywaj\u0105c filtr\u00f3w, w Loki mo\u017cna znale\u017a\u0107 kody (\"400\", \"404\" i inne); przegl\u0105da\u0107 logi z ca\u0142ego w\u0119z\u0142a; filtrowa\u0107 wszystkie logi zawieraj\u0105ce s\u0142owo \u201eerror\u201d. Je\u015bli klikniesz na log, rozwinie si\u0119 karta z ca\u0142ymi informacjami o zdarzeniu.<\/p>\n

<\/p>\n

W Loki jest wystarczaj\u0105co du\u017co narz\u0119dzi, kt\u00f3re pozwalaj\u0105 wydobywa\u0107 potrzebne logi, chocia\u017c szczerze m\u00f3wi\u0105c, technicznie mog\u0142o by ich by\u0107 wi\u0119cej. Obecnie Loki aktywnie si\u0119 rozwija i zyskuje na popularno\u015bci. <\/p>\n

<\/p>\n

Elastic + Fluent Bit + Kibana (Stos EFK)<\/h2>\n

<\/p>\n

Stos EFK to bardziej klasyczne, a jednocze\u015bnie nie mniej popularne narz\u0119dzie do logowania. <\/p>\n

<\/p>\n

Na pocz\u0105tku artyku\u0142u wspomniano o ELK (Elasticsearch + Logstash + Kibana), ale ten stos si\u0119 zestarza\u0142 z powodu niewystarczaj\u0105cej wydajno\u015bci i jednocze\u015bnie du\u017cego zu\u017cycia zasob\u00f3w przez Logstash. Zamiast niego zacz\u0119to u\u017cywa\u0107 bardziej lekkiego i wydajnego Fluentd, a po pewnym czasie do pomocy do\u0142\u0105czy\u0142 Fluent Bit<\/a><\/noindex> \u2014 jeszcze bardziej lekki i jeszcze bardziej wydajny agent zbieraj\u0105cy. <\/p>\n

<\/p>\n

Je\u015bli wierzy\u0107 deweloperom, to Fluent Bit jest ponad 100 razy bardziej wydajny ni\u017c Fluentd: \u201etam, gdzie Fluentd zu\u017cywa 20 MB RAM, Fluent Bit b\u0119dzie zu\u017cywa\u0142 150 kB\u201d \u2014 to dos\u0142owny cytat z dokumentacji. Patrz\u0105c na to, Fluent Bit zacz\u0119to cz\u0119\u015bciej stosowa\u0107.<\/p>\n

<\/p>\n

Fluent Bit ma mniej mo\u017cliwo\u015bci ni\u017c Fluentd, ale zaspokaja podstawowe potrzeby, wi\u0119c g\u0142\u00f3wnie korzystamy z Fluent Bit.<\/p>\n

<\/p>\n

Schemat dzia\u0142ania stosu EFK: agenta zbiera logi z wszystkich pod\u00f3w (zazwyczaj jest to DaemonSet uruchomiony na wszystkich serwerach klastra) i przesy\u0142a do magazynu (Elasticsearch, PostgreSQL lub Kafka). Kibana \u0142\u0105czy si\u0119 z magazynem i pobiera stamt\u0105d wszystkie potrzebne informacje.<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Kibana<\/a><\/noindex> prezentuje informacje w wygodnym interfejsie internetowym. S\u0105 wykresy, filtry i wiele wi\u0119cej.<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Z log\u00f3w mo\u017cna tworzy\u0107 ca\u0142e pulpitowe tablice.<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Mo\u017cliwo\u015bci Fluent Bit<\/h2>\n

<\/p>\n

Poniewa\u017c o Fluent Bit z regu\u0142y s\u0142ysza\u0142o si\u0119 mniej ni\u017c o Logstash, przyjrzyjmy si\u0119 mu bli\u017cej. Fluent Bit mo\u017cna logicznie podzieli\u0107 na 6 modu\u0142\u00f3w, a do niekt\u00f3rych modu\u0142\u00f3w mo\u017cna doda\u0107 wtyczki, kt\u00f3re rozszerzaj\u0105 mo\u017cliwo\u015bci Fluent Bit.<\/p>\n

<\/p>\n

\"Logowanie<\/p>\n

<\/p>\n

Modu\u0142 Input<\/strong> zbiera logi z plik\u00f3w, us\u0142ug systemd, a nawet z gniazd tcp (nale\u017cy tylko wskaza\u0107 punkt ko\u0144cowy, a Fluent Bit zacznie tam \u015bci\u0105ga\u0107). Te mo\u017cliwo\u015bci s\u0105 wystarczaj\u0105ce, aby zbiera\u0107 logi zar\u00f3wno z systemu, jak i z kontener\u00f3w.<\/p>\n

<\/p>\n

W produkcji najcz\u0119\u015bciej u\u017cywamy wtyczek tail<\/a><\/noindex> (mo\u017cna go skierowa\u0107 na folder z logami) i systemd<\/a><\/noindex> (mo\u017cna mu powiedzie\u0107, z jakich us\u0142ug zbiera\u0107 logi).<\/p>\n

<\/p>\n

Modu\u0142 Parser<\/strong> przyjmuje logi w jednolitym formacie. Domy\u015blnie logi Nginx s\u0105 reprezentowane jako ci\u0105g. Za pomoc\u0105 wtyczki mo\u017cna przekszta\u0142ci\u0107 ten ci\u0105g w JSON: okre\u015bli\u0107 pola i ich warto\u015bci. Z JSON-em znacznie \u0142atwiej si\u0119 pracuje ni\u017c z logiem w postaci ci\u0105gu, poniewa\u017c oferuje bardziej elastyczne mo\u017cliwo\u015bci sortowania.<\/p>\n

<\/p>\n

Modu\u0142 Filter<\/strong>. Na tym poziomie odrzucane s\u0105 niepotrzebne logi. Na przyk\u0142ad do przechowywania wysy\u0142ane s\u0105 tylko logi ze znakiem \u201ewarning\u201d lub z okre\u015blonymi etykietami. Wybrane logi trafiaj\u0105 do bufora.<\/p>\n

<\/p>\n

Modu\u0142 Buffer<\/strong>. Fluent Bit ma dwa rodzaje bufor\u00f3w: bufor pami\u0119ci i bufor na dysku. Bufor to tymczasowe miejsce przechowywania log\u00f3w, potrzebne w przypadku b\u0142\u0119d\u00f3w lub awarii. Ka\u017cdy chce oszcz\u0119dza\u0107 pami\u0119\u0107 RAM, dlatego zwykle wybiera si\u0119 bufor dyskowy. Nale\u017cy jednak pami\u0119ta\u0107, \u017ce przed zapisaniem na dysku logi s\u0105 i tak \u0142adowane do pami\u0119ci.<\/p>\n

<\/p>\n

Modu\u0142 Routing\/Output<\/strong> zawiera zasady i adresy wysy\u0142ania log\u00f3w. Jak ju\u017c wspomniano, logi mo\u017cna wysy\u0142a\u0107 do Elasticsearch, PostgreSQL lub na przyk\u0142ad do Kafka. <\/p>\n

<\/p>\n

Ciekawe, \u017ce z Fluent Bit logi mo\u017cna wysy\u0142a\u0107 do Fluentd. Poniewa\u017c pierwszy jest l\u017cejszy i mniej funkcjonalny, mo\u017cna przez niego zbiera\u0107 logi i wysy\u0142a\u0107 je do Fluentd, a nast\u0119pnie tam, za pomoc\u0105 dodatkowych wtyczek, je przetwarza\u0107 i wysy\u0142a\u0107 do magazyn\u00f3w.<\/p>\n

<\/p>\n

Je\u015bli planujesz korzysta\u0107 z Elasticsearch...<\/p>\n

Na koniec dwa wskaz\u00f3wki dla tych, kt\u00f3rzy planuj\u0105 u\u017cywa\u0107 Elasticsearch jako magazynu log\u00f3w w produkcji. <\/p>\n

    \n
  1. Skonfiguruj powiadomienia za pomoc\u0105 ElastAlert<\/a><\/noindex>. Ten program wyodr\u0119bnia z og\u00f3lnego strumienia log\u00f3w istotne wiadomo\u015bci i tworzy powiadomienia do e-maila lub innego kana\u0142u. Niestety, niedawno pojawi\u0142a si\u0119 smutna wiadomo\u015b\u0107, \u017ce projekt mo\u017ce wkr\u00f3tce przesta\u0107 istnie\u0107<\/a><\/noindex><\/em>.<\/li>\n
  2. Rotuj logi za pomoc\u0105 aplikacji Curator<\/a><\/noindex> lub korzystaj\u0105c z API Elasticsearch. Sam Elastic obecnie podejmuje znacz\u0105ce kroki w zarz\u0105dzaniu cyklem \u017cycia indeks\u00f3w bez stosowania zewn\u0119trznych narz\u0119dzi. Generalnie nie ma sensu przechowywa\u0107 log\u00f3w przez d\u0142ugi czas: trudno wyobrazi\u0107 sobie, aby jakikolwiek log by\u0142 przydatny po dw\u00f3ch tygodniach \u2014 je\u015bli jest naprawd\u0119 krytyczny, na pewno zostanie przetworzony w tym czasie. W ostateczno\u015bci stare logi mo\u017cna zarchiwizowa\u0107 i przes\u0142a\u0107 gdzie indziej na d\u0142ugoterminowe przechowywanie. S\u0142ysza\u0142em o szczeg\u00f3lnych logach, kt\u00f3re wed\u0142ug przepis\u00f3w prawa musz\u0105 by\u0107 przechowywane przez 5 lat. Osobi\u015bcie z takim si\u0119 nie spotka\u0142em, ale nie potrafi\u0142bym por\u00f3wna\u0107 takich informacji z zwyk\u0142ymi logami, a by\u0107 mo\u017ce nawet przechowywa\u0142bym je oddzielnie.<\/li>\n<\/ol>\n

    \n<\/p><\/blockquote>\n

    Ci\u0105g dalszy nast\u0105pi\u2026<\/p>\n

    <\/p>\n

    Autor: Marcel Ibraev, certyfikowany administrator Kubernetes, in\u017cynier praktykuj\u0105cy w firmie Southbridge<\/a><\/noindex>, prelegent i tw\u00f3rca kurs\u00f3w Slurm<\/a><\/noindex>.<\/em><\/p>\n

    \u0179r\u00f3d\u0142o: habr.com<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

    \u0420\u0430\u0437\u0431\u0435\u0440\u0451\u043c \u043e\u0441\u043d\u043e\u0432\u044b \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432 Docker \u0438 Kubernetes, \u0430 \u0437\u0430\u0442\u0435\u043c \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0434\u0432\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0436\u043d\u043e \u0441\u043c\u0435\u043b\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043d\u0430 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u0435\u043d\u0435: Grafana Loki \u0438 \u0441\u0442\u0435\u043a EFK (Elasticsearch + Fluent Bit + Kibana). \u041c\u0430\u0442\u0435\u0440\u0438\u0430\u043b \u0441\u0442\u0430\u0442\u044c\u0438 \u2014 \u0432\u044b\u0436\u0438\u043c\u043a\u0430 \u0438\u0437 \u043e\u0442\u043a\u0440\u044b\u0442\u043e\u0439 \u043b\u0435\u043a\u0446\u0438\u0438 \u0448\u043a\u043e\u043b\u044b \u00ab\u0421\u043b\u0451\u0440\u043c\u00bb. \u0415\u0441\u043b\u0438 \u0435\u0441\u0442\u044c \u0436\u0435\u043b\u0430\u043d\u0438\u0435 \u0438 \u0442\u0435\u043c \u0431\u043e\u043b\u0435\u0435 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0441\u0442\u0432\u0435\u043d\u043d\u0430\u044f \u043d\u0435\u043e\u0431\u0445\u043e\u0434\u0438\u043c\u043e\u0441\u0442\u044c \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0439\u0442\u0438 \u043f\u043e\u043b\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u2014 \u0437\u0430\u043f\u0438\u0441\u044b\u0432\u0430\u0439\u0442\u0435\u0441\u044c \u043d\u0430 \u043a\u0443\u0440\u0441 \u043f\u043e […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":93295,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[688],"tags":[],"class_list":["post-93294","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-administrirovanie"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47Rejestrowanie w Kubernetes: jak zbiera\u0107, przechowywa\u0107, analizowa\u0107 i przetwarza\u0107 logi | ProHoster","description":"Om\u00f3wimy podstawy logowania w Dockerze i Kubernetes, a nast\u0119pnie przyjrzymy si\u0119 dw\u00f3m narz\u0119dziom, kt\u00f3re mo\u017cna \u015bmia\u0142o wykorzystywa\u0107 w produkcji: Grafana Loki oraz stos EFK (Elasticsearch + Fluent Bit + Kibana)..","canonical_url":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/logirovanie-v-kubernetes-kak-sobirat-hranit-parsit-i-obrabatyvat-logi","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"pl_PL","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0432 Kubernetes: \u043a\u0430\u043a \u0441\u043e\u0431\u0438\u0440\u0430\u0442\u044c, \u0445\u0440\u0430\u043d\u0438\u0442\u044c, \u043f\u0430\u0440\u0441\u0438\u0442\u044c \u0438 \u043e\u0431\u0440\u0430\u0431\u0430\u0442\u044b\u0432\u0430\u0442\u044c \u043b\u043e\u0433\u0438 | ProHoster","og:description":"\u0420\u0430\u0437\u0431\u0435\u0440\u0451\u043c \u043e\u0441\u043d\u043e\u0432\u044b \u043b\u043e\u0433\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u044f \u0432 Docker \u0438 Kubernetes, \u0430 \u0437\u0430\u0442\u0435\u043c \u0440\u0430\u0441\u0441\u043c\u043e\u0442\u0440\u0438\u043c \u0434\u0432\u0430 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u0430, \u043a\u043e\u0442\u043e\u0440\u044b\u0435 \u043c\u043e\u0436\u043d\u043e \u0441\u043c\u0435\u043b\u043e \u0438\u0441\u043f\u043e\u043b\u044c\u0437\u043e\u0432\u0430\u0442\u044c \u043d\u0430 \u043f\u0440\u043e\u0434\u0430\u043a\u0448\u0435\u043d\u0435: Grafana Loki \u0438 \u0441\u0442\u0435\u043a EFK (Elasticsearch + Fluent Bit + Kibana)..","og:url":"https:\/\/prohoster.info\/pl\/blog\/administrirovanie\/logirovanie-v-kubernetes-kak-sobirat-hranit-parsit-i-obrabatyvat-logi","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2020-09-05T05:42:58+00:00","article:modified_time":"2020-09-05T05:42:58+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"93294","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":null,"breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-02-28 11:50:29","updated":"2022-09-27 18:43:48","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/93294","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/comments?post=93294"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/posts\/93294\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media\/93295"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/media?parent=93294"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/categories?post=93294"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/pl\/wp-json\/wp\/v2\/tags?post=93294"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}