Loki - Prometheus दृष्टिकोण प्रयोग गरेर लग संग्रह

सलाम, Khabrovsk निवासीहरू! पाठ्यक्रमको लागि नयाँ भर्नाको सुरुवातको पूर्वसन्ध्यामा "DevOps अभ्यास र उपकरणहरू" हामीले तपाईंको लागि रोचक सामग्रीको अनुवाद तयार गरेका छौं।

यो लेख लोकीको छोटो परिचय हो। परियोजना लोकी Grafana द्वारा समर्थित र लगहरूको केन्द्रीकृत सङ्कलन (सर्भर वा कन्टेनरहरूबाट) को उद्देश्य हो।

लोकीको मुख्य प्रेरणा थियो Prometheus लग व्यवस्थापनमा आफ्नो दृष्टिकोण लागू गर्ने विचारको साथ:

• डाटा भण्डारण गर्न लेबलहरू प्रयोग गर्दै
• थोरै स्रोतहरूको खपत

हामी प्रोमिथियसले कसरी काम गर्छ भन्ने कुरामा फर्कनेछौं र कुबेरनेटको सन्दर्भमा यसको प्रयोगका केही उदाहरणहरू दिनेछौं।

Prometheus बारेमा केही शब्दहरू

लोकीले कसरी काम गर्छ भन्ने पूर्ण रूपमा बुझ्नको लागि, एक कदम पछि हट्नु र प्रोमेथियसको बारेमा थोरै सम्झनु महत्त्वपूर्ण छ।

प्रोमेथियसको एक विशिष्ट विशेषता भनेको संग्रह बिन्दुहरू (निर्यातकर्ताहरू मार्फत) बाट मेट्रिक्स निकाल्नु र तिनीहरूलाई TSDB (समय श्रृंखला डाटा बेस) मा भण्डारण गर्नु हो, लेबलको रूपमा मेटाडेटा थप्नु।

किन यो आवश्यक छ

भर्खरै, प्रोमेथियस कन्टेनर र कुबर्नेट्सको संसारमा वास्तविक मानक भएको छ: यसको स्थापना धेरै सरल छ, र कुबर्नेट्स क्लस्टर प्रोमेथियसको लागि नेटिभ एन्डपोइन्टको साथ आउँछ। प्रोमेथियसले विशेष लेबलहरू भण्डारण गर्दा कन्टेनरमा तैनाथ गरिएका अनुप्रयोगहरूबाट मेट्रिक्स पनि निकाल्न सक्छ। तसर्थ, अनुप्रयोग अनुगमन लागू गर्न धेरै सजिलो छ।

दुर्भाग्यवश, लग व्यवस्थापनको लागि अझै कुनै टर्नकी समाधान छैन, र तपाईंले आफैंको लागि समाधान खोज्नुपर्छ:

• केन्द्रीकृत लगहरूका लागि व्यवस्थित क्लाउड सेवा (AWS, Azure वा Google)
• अनुगमन सेवा "सेवाको रूपमा निगरानी" (उदाहरणका लागि, Datadog)
• तपाईंको आफ्नै लग संग्रह सेवा सिर्जना गर्दै।

तेस्रो विकल्पको लागि, मैले परम्परागत रूपमा Elasticsearch प्रयोग गरें, यस तथ्यको बावजुद म सधैं यसमा खुसी थिएन (विशेष गरी यसको भारीपन र कन्फिगरेसनको जटिलता)।

लोकी निम्न सिद्धान्तहरू अनुसार कार्यान्वयन सरल बनाउन डिजाइन गरिएको थियो:

• सुरु गर्न सरल हुनुहोस्
• थोरै स्रोतहरू खपत
• कुनै विशेष मर्मत बिना स्वतन्त्र रूपमा काम गर्नुहोस्
• बग अनुसन्धानमा मद्दत गर्न प्रोमिथियसलाई थपको रूपमा सेवा गर्नुहोस्

यद्यपि, यो सादगी केही सम्झौताको खर्चमा आउँछ। ती मध्ये एक सामग्री अनुक्रमणिका छैन। त्यसैले, पाठ खोज धेरै कुशल वा धनी छैन र पाठ को सामग्री मा तथ्याङ्क अनुमति दिदैन। तर लोकी ग्रेपको बराबर र प्रोमेथियसको पूरक हुन चाहन्छ, यो कुनै हानि होइन।

घटना अनुसन्धान

लोकीलाई किन अनुक्रमणिका आवश्यक पर्दैन भन्ने कुरा राम्रोसँग बुझ्नको लागि, लोकी विकासकर्ताहरूले प्रयोग गरेको घटना अनुसन्धान विधिमा फर्कौं:

१ अलर्ट → २ ड्यासबोर्ड → ३ एडहक क्वेरी → ४ लग एग्रीगेसन → ५ वितरित ट्रेसिङ → ६ फिक्स!
(१ चेतावनी → २ ड्यासबोर्ड → ३ एडहक क्वेरी → ४ लग एग्रीगेसन → ५ वितरित ट्रेसिङ → ६ फिक्सिङ!)

विचार यो हो कि हामीले कुनै प्रकारको अलर्ट (स्ल्याक सूचना, एसएमएस, आदि) प्राप्त गर्छौं र त्यसपछि:

• Grafana ड्यासबोर्डहरू हेर्नुहोस्
• सेवा मेट्रिक्स हेर्नुहोस् (उदाहरणका लागि, प्रोमेथियसमा)
• लग प्रविष्टिहरू हेर्नुहोस् (उदाहरणका लागि, Elasticsearch मा)
• हुनसक्छ वितरित ट्रेसहरूमा एक नजर राख्नुहोस् (जेगर, जिपकिन, आदि)
• र अन्तमा मूल समस्या समाधान।

यहाँ, Grafana + Prometheus + Elasticsearch + Zipkin स्ट्याकको अवस्थामा, तपाईंले चार फरक उपकरणहरू प्रयोग गर्नुपर्नेछ। समय कम गर्न, यी सबै चरणहरू एउटै उपकरण प्रयोग गरेर प्रदर्शन गर्न सक्षम हुनु राम्रो हुनेछ: Grafana। यो ध्यान दिन लायक छ कि अनुसन्धानको लागि यो दृष्टिकोण Grafana मा संस्करण 6 देखि लागू गरिएको छ। यसरी, Grafana बाट सीधै प्रोमिथियस डेटा पहुँच गर्न सम्भव हुन्छ।

प्रोमेथियस र लोकी बीच एक्सप्लोरर स्क्रिन विभाजन

यस स्क्रिनबाट तपाईंले स्प्लिट स्क्रिन अवधारणा प्रयोग गरेर प्रोमिथियस मेट्रिक्ससँग सम्बन्धित लोकी लगहरू हेर्न सक्नुहुन्छ। संस्करण 6.5 देखि, Grafana ले तपाइँलाई तपाइँको मनपर्ने वितरित ट्रेसिङ उपकरणहरू (Jaeger) को लिङ्कहरू पछ्याउन Loki लग प्रविष्टिहरूमा ट्रेस आईडी पार्स गर्न अनुमति दिन्छ।

स्थानीय लोकी परीक्षण

स्थानीय रूपमा लोकी परीक्षण गर्ने सबैभन्दा सजिलो तरिका डकर-कम्पोज प्रयोग गर्नु हो। डकर-कम्पोज फाइल लोकी भण्डारमा अवस्थित छ। तपाइँ निम्न आदेश प्रयोग गरेर भण्डार प्राप्त गर्न सक्नुहुन्छ git:

$ git clone https://github.com/grafana/loki.git

त्यसपछि तपाईंले उत्पादन निर्देशिकामा जान आवश्यक छ:

$ cd production

यस पछि तपाईले डकर छविहरूको नवीनतम संस्करण प्राप्त गर्न सक्नुहुन्छ:

$ docker-compose pull

अन्तमा, लोकी स्ट्याक निम्न आदेशको साथ सुरू गरिएको छ:

$ docker-compose up

लोकी वास्तुकला

यहाँ लोकी वास्तुकलाको साथ एउटा सानो रेखाचित्र छ:

लोकी वास्तुकला सिद्धान्तहरू

वेब क्लाइन्टले सर्भरमा अनुप्रयोगहरू चलाउँछ, प्रोमटेलले लगहरू सङ्कलन गर्दछ र तिनीहरूलाई लोकीमा पठाउँछ, वेब क्लाइन्टले लोकीमा मेटाडेटा पनि पठाउँछ। लोकीले सबै कुरा जम्मा गर्छ र यसलाई ग्राफानामा पठाउँछ।
लोकी सुरु भएको छ। उपलब्ध घटकहरू हेर्न, निम्न आदेश चलाउनुहोस्:

$ docker ps

भर्खरै स्थापित डकरको अवस्थामा, आदेशले निम्न परिणाम फर्काउनु पर्छ:

IMAGE               PORTS                  NAMES
grafana/promtail:                          production_promtail_1
grafana/grafana: m  0.0.0.0:3000->3000/tcp production_grafana_1
grafana/loki: late  80/tcp,0.0.0.0:3100... production_loki_1

हामी निम्न घटकहरू देख्छौं:

• Promtail: केन्द्रीकृत लगहरूको लागि जिम्मेवार एजेन्ट
• Grafana: एक प्रसिद्ध ड्यासबोर्ड उपकरण
• लोकी: डाटा केन्द्रीकरण डेमन

क्लासिक पूर्वाधारको भागको रूपमा (उदाहरणका लागि, भर्चुअल मेसिनहरूमा आधारित), प्रत्येक मेसिनमा प्रोमटेल एजेन्ट तैनाथ गरिनुपर्छ। Grafana र Loki एउटै मेसिनमा स्थापना गर्न सकिन्छ।

Kubernetes मा तैनाती

Kubernetes मा Loki घटक स्थापना निम्नानुसार हुनेछ:

• सर्भर क्लस्टरमा प्रत्येक मेसिनमा प्रोमटेल एजेन्ट तैनाथ गर्नका लागि डेमनसेट
• तैनाती लोकी
• र अन्तिम एक Grafana को तैनाती हो।

सौभाग्यवश, लोकी हेल्म प्याकेजको रूपमा उपलब्ध छ, यसलाई प्रयोग गर्न सजिलो बनाउँदै।

Heml मार्फत स्थापना

तपाईंले पहिले नै हेमल स्थापना गरेको हुनुपर्छ। यो परियोजनाको GitHub भण्डारबाट डाउनलोड गर्न सकिन्छ। यो तपाइँको वास्तुकला संग सम्बन्धित संग्रह अनप्याक गरेर र हेल्म थपेर स्थापना गरिएको छ। $PATH.

नोट: हेल्मको संस्करण 3.0.0 भर्खरै जारी गरिएको थियो। यसमा धेरै परिवर्तनहरू भएको हुनाले, पाठकहरूलाई यसलाई प्रयोग गर्नु अघि केही समय पर्खन सल्लाह दिइन्छ।.

Helm को लागि स्रोत थप्दै

पहिलो चरण निम्न आदेश प्रयोग गरेर "loki" भण्डार थप्नु हो:

$ helm add loki https://grafana.github.io/loki/charts

यस पछि, तपाइँ "loki" नामक प्याकेजहरू खोज्न सक्नुहुन्छ:

$ helm search loki

परिणाम:

loki/loki       0.17.2 v0.4.0 Loki: like Prometheus, but for logs.
loki/loki-stack 0.19.1 v0.4.0 Loki: like Prometheus, but for logs.
loki/fluent-bit 0.0.2  v0.0.1 Uses fluent-bit Loki go plugin for...
loki/promtail   0.13.1 v0.4.0 Responsible for gathering logs and...

यी प्याकेजहरूमा निम्न सुविधाहरू छन्:

• प्याकेज loki/loki Loki सर्भर मात्र मेल खान्छ
• प्याकेज loki/fluent-bit Promtail को सट्टा लगहरू सङ्कलन गर्न fluent-bin प्रयोग गरेर डेमोनसेट प्रयोग गर्न अनुमति दिन्छ।
• प्याकेज loki/promtail लग फाइल सङ्कलन एजेन्ट समावेश गर्दछ
• प्याकेज loki/loki-stack, तपाईंलाई Promtail सँग लोकीलाई तुरुन्तै प्रयोग गर्न अनुमति दिन्छ।

लोकी स्थापना गर्दै

Kubernetes मा Loki तैनात गर्न को लागी, "निगरानी" नाम स्थान मा निम्न आदेश चलाउनुहोस्:

$ helm upgrade --install loki loki/loki-stack --namespace monitoring

डिस्कमा बचत गर्न, प्यारामिटर थप्नुहोस् --set loki.persistence.enabled = true:

$ helm upgrade --install loki loki/loki-stack 
              --namespace monitoring 
              --set loki.persistence.enabled=true

नोट: यदि तपाइँ एकै समयमा Grafana प्रयोग गर्न चाहनुहुन्छ भने, त्यसपछि प्यारामिटर थप्नुहोस् --set grafana.enabled = true

जब तपाइँ यो आदेश चलाउनुहुन्छ तपाइँले निम्न आउटपुट प्राप्त गर्नुपर्छ:

LAST DEPLOYED: Tue Nov 19 15:56:54 2019
NAMESPACE: monitoring
STATUS: DEPLOYED
RESOURCES:
==> v1/ClusterRole
NAME AGE
loki-promtail-clusterrole 189d
…
NOTES:
The Loki stack has been deployed to your cluster. Loki can now be added as a datasource in Grafana.
See <a href="http://docs.grafana.org/features/datasources/loki/">http://docs.grafana.org/features/datasources/loki/</a> for more details.

"निगरानी" नाम स्थानमा पोडहरूको अवस्था हेर्दै, हामी देख्न सक्छौं कि सबै कुरा तैनाथ गरिएको छ:

$ kubectl -n monitoring get pods -l release=loki

परिणाम:

NAME                 READY  STATUS   RESTARTS  AGE
loki-0               1/1    Running  0         147m
loki-promtail-9zjvc  1/1    Running  0         3h25m
loki-promtail-f6brf  1/1    Running  0         11h
loki-promtail-hdcj7  1/1    Running  0         3h23m
loki-promtail-jbqhc  1/1    Running  0         11h
loki-promtail-mj642  1/1    Running  0         62m
loki-promtail-nm64g  1/1    Running  0         24m

सबै पोडहरू चलिरहेका छन्। अब यो केहि परीक्षण गर्न को लागी समय हो!

Grafana मा जडान गर्दै

Kubernetes अन्तर्गत Grafana मा जडान गर्न, तपाईंले यसको पोडमा सुरुङ खोल्न आवश्यक छ। Grafana पोडको लागि 3000 पोर्ट खोल्ने आदेश तल छ:

$ kubectl -n port-forward monitoring svc/loki-grafana 3000:80

अर्को महत्त्वपूर्ण बिन्दु Grafana प्रशासक पासवर्ड पुन: प्राप्त गर्न आवश्यक छ। पासवर्ड गोप्य राखिएको छ loki-grafana क्षेत्र मा .data.admin-user बेस64 ढाँचामा।

यसलाई पुनर्स्थापना गर्न, तपाईंले निम्न आदेश चलाउन आवश्यक छ:

$ kubectl -n monitoring get secret loki-grafana 
 --template '{{index .data "admin-password" | base64decode}}'; echo

पूर्वनिर्धारित प्रशासक खाता (प्रशासक) संग संयोजनमा यो पासवर्ड प्रयोग गर्नुहोस्।

Grafana मा लोकी डेटा स्रोत परिभाषित गर्दै

सबै भन्दा पहिले, निश्चित गर्नुहोस् कि लोकी डाटा स्रोत सिर्जना गरिएको छ (कन्फिगरेसन/डेटा स्रोत)।
यहाँ एक उदाहरण छ:

लोकीको लागि डेटा स्रोत सेटअप गर्ने उदाहरण

"परीक्षण" मा क्लिक गरेर तपाईं Loki सँग जडान जाँच गर्न सक्नुहुन्छ।

लोकीलाई अनुरोध गर्दै

अब Grafana मा जानुहोस् "अन्वेषण" खण्डमा। कन्टेनरहरूबाट लगहरू प्राप्त गर्दा, लोकीले Kubernetes बाट मेटाडेटा थप्छ। यसैले, यो एक विशेष कन्टेनर को लग हेर्न सम्भव हुन्छ।

उदाहरणका लागि, प्रोमटेल कन्टेनर लगहरू चयन गर्न, तपाईंले निम्न क्वेरी प्रयोग गर्न सक्नुहुन्छ: {container_name = "promtail"}.
यहाँ पनि Loki डेटा स्रोत चयन गर्न सम्झनुहोस्।

यो क्वेरीले निम्नानुसार कन्टेनर गतिविधि फिर्ता गर्नेछ:

Grafana मा क्वेरी परिणाम

ड्यासबोर्डमा थप्नुहोस्

Grafana 6.4 बाट सुरु गर्दै, तपाईंले लग जानकारी सिधै ड्यासबोर्डमा राख्न सक्नुहुन्छ। यस पछि, प्रयोगकर्ताले आफ्नो साइटमा अनुरोधहरूको संख्या र अनुप्रयोग ट्रेसहरू बीच द्रुत रूपमा स्विच गर्न सक्षम हुनेछ।

तल ड्यासबोर्डको उदाहरण हो जसले यो अन्तरक्रियालाई लागू गर्दछ:

Prometheus मेट्रिक्स र Loki लगहरु संग नमूना ड्यासबोर्ड

लोकीको भविष्य

मैले संस्करण ०.१ को साथ मे/जूनमा लोकी प्रयोग गर्न थालें। आज संस्करण १, र १.१ र १.२ पहिले नै जारी गरिएको छ।

यो स्वीकार गर्नुपर्छ कि संस्करण 0.1 पर्याप्त स्थिर थिएन। तर ०.३ ले पहिले नै परिपक्वताको वास्तविक संकेत देखाएको छ, र त्यसपछिका संस्करणहरू (०.४, त्यसपछि १.०) ले मात्र यो प्रभावलाई बलियो बनायो।

1.0.0 पछि, यो अद्भुत उपकरण प्रयोग नगर्ने कुनै पनि बहाना हुन सक्दैन।

थप सुधारहरू लोकीको बारेमा होइन, तर उत्कृष्ट ग्राफनासँग यसको एकीकरण हुनु पर्छ। वास्तवमा, Grafana 6.4 सँग पहिले नै ड्यासबोर्डहरूसँग राम्रो एकीकरण छ।

Grafana 6.5, जुन हालै जारी गरिएको थियो, JSON ढाँचामा स्वचालित रूपमा लग सामग्रीहरू पहिचान गरेर यो एकीकरणलाई अझ सुधार गर्दछ।

तलको भिडियोले यस संयन्त्रको सानो उदाहरण देखाउँछ:

Grafana मा उजागर लोकी स्ट्रिङहरू प्रयोग गर्दै

यो JSON क्षेत्र मध्ये एक प्रयोग गर्न सम्भव हुन्छ, उदाहरण को लागी, को लागी:

• बाह्य उपकरणमा लिङ्कहरू
• लग सामग्री फिल्टर गर्दै

उदाहरणका लागि, तपाईले जिपकिन वा जेगरमा जान ट्रेसआईडीमा क्लिक गर्न सक्नुहुन्छ।

सामान्य रूपमा, हामी तपाईंको टिप्पणीहरूको लागि तत्पर छौं र तपाईंलाई आमन्त्रित गर्दछौं वेबिनार खोल्नुहोस्, जहाँ हामी २०१९ मा DevOps उद्योगको विकास कसरी भयो र २०२० का लागि सम्भावित विकास मार्गहरूबारे छलफल गर्नेछौं।

स्रोत: www.habr.com