लोकी - प्रोमेथियस दृष्टिकोण का उपयोग करके लॉग एकत्रित करना

सलाम, खाबरोवाइट्स! पाठ्यक्रम के लिए नए नामांकन की शुरुआत की प्रत्याशा में "DevOps अभ्यास और उपकरण" आपके लिए रोचक सामग्री का अनुवाद तैयार किया है।

यह लेख लोकी का संक्षिप्त परिचय है। प्रोजेक्ट लोकी ग्राफाना द्वारा समर्थित और इसका उद्देश्य लॉग का केंद्रीकृत संग्रह (सर्वर या कंटेनर से) करना है।

लोकी के लिए मुख्य प्रेरणा थी प्रोमिथेउस लॉग प्रबंधन के लिए अपने दृष्टिकोण को लागू करने के विचार के साथ:

• डेटा संग्रहीत करने के लिए लेबल का उपयोग करना
• कम संसाधन खपत

हम प्रोमेथियस के सिद्धांतों पर लौटेंगे और कुबेरनेट्स के संदर्भ में इसके उपयोग के कुछ उदाहरण देंगे।

प्रोमेथियस के बारे में कुछ शब्द

लोकी कैसे काम करता है इसे पूरी तरह से समझने के लिए, एक कदम पीछे हटना और प्रोमेथियस को थोड़ा फिर से देखना महत्वपूर्ण है।

प्रोमेथियस की विशिष्ट विशेषताओं में से एक संग्रह बिंदुओं (निर्यातकों के माध्यम से) से मेट्रिक्स का निष्कर्षण है और उन्हें लेबल के रूप में मेटाडेटा के अतिरिक्त टीएसडीबी (टाइम सीरीज़ डेटा बेस, टाइम सीरीज़ डेटाबेस) में संग्रहीत करना है।

यह जरूरी क्यों है

हाल ही में, प्रोमेथियस कंटेनरों और कुबेरनेट्स की दुनिया में वास्तविक मानक बन गया है: इसकी स्थापना बहुत सरल है, और कुबेरनेट्स क्लस्टर में शुरू में प्रोमेथियस के लिए एक समापन बिंदु होता है। प्रोमेथियस विशिष्ट लेबल बनाए रखते हुए कंटेनर में तैनात अनुप्रयोगों से मेट्रिक्स भी निकाल सकता है। इसलिए, एप्लिकेशन मॉनिटरिंग को लागू करना बहुत आसान है।

दुर्भाग्य से, लॉग प्रबंधन के लिए अभी भी कोई टर्नकी समाधान नहीं है, और आपको अपने लिए एक समाधान ढूंढना होगा:

• लॉग को केंद्रीकृत करने के लिए प्रबंधित क्लाउड सेवा (AWS, Azure या Google)
• निगरानी सेवा "एक सेवा के रूप में निगरानी" (उदाहरण के लिए, डेटाडॉग)
• अपनी स्वयं की लॉग संग्रह सेवा बनाना।

तीसरे विकल्प के लिए, मैंने पारंपरिक रूप से इलास्टिक्स खोज का उपयोग किया है, इस तथ्य के बावजूद कि मैं हमेशा इससे खुश नहीं था (विशेषकर इसकी भारीपन और सेटअप की जटिलता)।

लोकी को निम्नलिखित सिद्धांतों के अनुसार लागू करना आसान बनाने के लिए डिज़ाइन किया गया था:

• शुरू करना आसान हो
• कुछ संसाधनों का उपभोग करें
• बिना किसी विशेष रखरखाव के स्वतंत्र रूप से कार्य करें
• बग जांच में सहायता के लिए प्रोमेथियस में एक ऐड-ऑन के रूप में कार्य करें

हालाँकि, यह सरलता कुछ समझौतों की कीमत पर आती है। उनमें से एक है सामग्री को अनुक्रमित न करना. इसलिए, पाठ खोज बहुत कुशल या समृद्ध नहीं है और आपको पाठ की सामग्री पर आंकड़े रखने की अनुमति नहीं देती है। लेकिन चूंकि लोकी ग्रेप के समकक्ष और प्रोमेथियस का पूरक बनना चाहता है, इसलिए यह कोई नुकसान नहीं है।

घटना की जांच पड़ताल

यह बेहतर ढंग से समझने के लिए कि लोकी को अनुक्रमण की आवश्यकता क्यों नहीं है, आइए लोकी डेवलपर्स द्वारा उपयोग की जाने वाली घटना जांच पद्धति पर वापस जाएं:

1 अलर्ट → 2 डैशबोर्ड → 3 एडहॉक क्वेरी → 4 लॉग एकत्रीकरण → 5 वितरित ट्रेसिंग → 6 ठीक करें!
(1 चेतावनी → 2 डैशबोर्ड → 3 एडहॉक क्वेरी → 4 लॉग एग्रीगेशन → 5 वितरित ट्रेसिंग → 6 फिक्स!)

विचार यह है कि हमें किसी प्रकार का अलर्ट (स्लैक नोटिफिकेशन, एसएमएस, आदि) मिले और उसके बाद:

• ग्राफाना डैशबोर्ड देखें
• सेवा मेट्रिक्स देखें (उदाहरण के लिए, प्रोमेथियस में)
• लॉग प्रविष्टियाँ देखें (उदाहरण के लिए, इलास्टिक्स खोज में)
• शायद वितरित निशानों पर एक नज़र डालें (जेगर, जिप्किन, आदि)
• और अंततः मूल समस्या को ठीक करें।

यहां, ग्राफाना + प्रोमेथियस + इलास्टिक्स खोज + जिपकिन स्टैक के मामले में, आपको चार अलग-अलग टूल का उपयोग करना होगा। समय बचाने के लिए, इन सभी चरणों को एक ही टूल से करने में सक्षम होना अच्छा होगा: ग्राफाना। यह ध्यान देने योग्य है कि अनुसंधान के लिए यह दृष्टिकोण ग्राफाना में संस्करण 6 से लागू किया गया है। इस प्रकार, ग्राफाना से सीधे प्रोमेथियस डेटा तक पहुंच संभव हो जाती है।

एक्सप्लोरर स्क्रीन प्रोमेथियस और लोकी के बीच विभाजित हो गई

इस स्क्रीन से, आप स्प्लिट स्क्रीन अवधारणा का उपयोग करके प्रोमेथियस मेट्रिक्स से संबंधित लोकी में लॉग देख सकते हैं। संस्करण 6.5 के बाद से, ग्राफाना आपको अपने पसंदीदा वितरित ट्रेसिंग टूल (जैगर) के लिंक का पालन करने के लिए लोकी लॉग प्रविष्टियों में ट्रेस आईडी को पार्स करने की अनुमति देता है।

लोकी स्थानीय परीक्षण

लोकी का स्थानीय स्तर पर परीक्षण करने का सबसे आसान तरीका डॉकर-कंपोज़ का उपयोग करना है। डॉकर-कंपोज़ फ़ाइल लोकी रिपॉजिटरी में स्थित है। आप निम्न आदेश से रिपॉजिटरी प्राप्त कर सकते हैं git:

$ git clone https://github.com/grafana/loki.git

फिर आपको उत्पादन निर्देशिका में बदलाव करना होगा:

$ cd production

उसके बाद, आप नवीनतम डॉकर छवियां प्राप्त कर सकते हैं:

$ docker-compose pull

अंत में, लोकी स्टैक को निम्नलिखित कमांड के साथ शुरू किया गया है:

$ docker-compose up

लोकी वास्तुकला

यहाँ लोकी वास्तुकला के साथ एक छोटा सा चित्र है:

लोकी वास्तुकला सिद्धांत

वेब क्लाइंट सर्वर पर एप्लिकेशन चलाता है, प्रोमटेल लॉग एकत्र करता है और उन्हें लोकी को भेजता है, वेब क्लाइंट लोकी को मेटाडेटा भी भेजता है। लोकी सब कुछ एकत्र करता है और इसे ग्राफाना को भेजता है।
लोकी चल रहा है. उपलब्ध घटकों को देखने के लिए, निम्न आदेश चलाएँ:

$ docker ps

ताज़ा स्थापित डॉकर के मामले में, कमांड को निम्नलिखित आउटपुट लौटाना चाहिए:

IMAGE               PORTS                  NAMES
grafana/promtail:                          production_promtail_1
grafana/grafana: m  0.0.0.0:3000->3000/tcp production_grafana_1
grafana/loki: late  80/tcp,0.0.0.0:3100... production_loki_1

हम निम्नलिखित घटक देखते हैं:

• प्रोमटेल: लॉग को केंद्रीकृत करने के लिए जिम्मेदार एजेंट
• ग्राफाना: प्रसिद्ध डैशबोर्ड टूल
• लोकी: डेटा केंद्रीकरण डेमॉन

एक क्लासिक बुनियादी ढांचे के हिस्से के रूप में (उदाहरण के लिए, वर्चुअल मशीनों पर आधारित), प्रत्येक मशीन पर प्रोमटेल एजेंट को तैनात किया जाना चाहिए। ग्राफाना और लोकी को एक ही मशीन पर स्थापित किया जा सकता है।

कुबेरनेट्स पर तैनाती

कुबेरनेट्स में लोकी घटकों को स्थापित करना इस प्रकार होगा:

• सर्वर क्लस्टर में प्रत्येक मशीन पर प्रोमटेल एजेंट को तैनात करने के लिए डेमॉनसेट
• लोकी परिनियोजन
• और आखिरी ग्राफाना की तैनाती है।

सौभाग्य से, लोकी हेल्म पैकेज के रूप में उपलब्ध है, जिससे इसे तैनात करना आसान हो जाता है।

हेमल के माध्यम से स्थापना

आपके पास पहले से ही हेमल स्थापित होना चाहिए। इसे प्रोजेक्ट के GitHub रिपॉजिटरी से डाउनलोड किया जा सकता है। इसे आपके आर्किटेक्चर के लिए उपयुक्त संग्रह को निकालकर और उसमें हेल्म जोड़कर स्थापित किया जाता है $PATH.

नोट: हेल्म का संस्करण 3.0.0 हाल ही में जारी किया गया था। चूंकि इसमें कई बदलाव हुए हैं, इसलिए पाठक को इसका उपयोग शुरू करने से पहले थोड़ा इंतजार करने की सलाह दी जाती है।.

हेल्म के लिए स्रोत जोड़ा जा रहा है

पहला कदम निम्नलिखित कमांड के साथ "लोकी" रिपॉजिटरी को जोड़ना है:

$ helm add loki https://grafana.github.io/loki/charts

उसके बाद, आप "लोकी" नामक पैकेज खोज सकते हैं:

$ helm search loki

रिजल्ट:

loki/loki       0.17.2 v0.4.0 Loki: like Prometheus, but for logs.
loki/loki-stack 0.19.1 v0.4.0 Loki: like Prometheus, but for logs.
loki/fluent-bit 0.0.2  v0.0.1 Uses fluent-bit Loki go plugin for...
loki/promtail   0.13.1 v0.4.0 Responsible for gathering logs and...

इन पैकेजों में निम्नलिखित विशेषताएं हैं:

• пакет लोकी/लोकी केवल लोकी सर्वर से मेल खाता है
• пакет लोकी/धाराप्रवाह-बिट आपको प्रोमटेल के बजाय लॉग एकत्र करने के लिए फ्लुएंट-बिन का उपयोग करके डेमॉनसेट को तैनात करने की अनुमति देता है
• пакет लोकी/प्रोमटेल एक लॉग संग्रह एजेंट शामिल है
• пакет लोकी/लोकी-स्टैक, आपको प्रोमटेल के साथ लोकी को तुरंत तैनात करने की अनुमति देता है।

लोकी स्थापित करना

लोकी को कुबेरनेट्स पर तैनात करने के लिए, "मॉनिटरिंग" नेमस्पेस में निम्नलिखित कमांड चलाएँ:

$ helm upgrade --install loki loki/loki-stack --namespace monitoring

डिस्क पर सहेजने के लिए, विकल्प जोड़ें --set loki.persistence.enabled = true:

$ helm upgrade --install loki loki/loki-stack 
              --namespace monitoring 
              --set loki.persistence.enabled=true

नोट: यदि आप एक ही समय में ग्राफाना को तैनात करना चाहते हैं, तो पैरामीटर जोड़ें --set grafana.enabled = true

जब आप यह कमांड चलाते हैं, तो आपको निम्नलिखित आउटपुट मिलना चाहिए:

LAST DEPLOYED: Tue Nov 19 15:56:54 2019
NAMESPACE: monitoring
STATUS: DEPLOYED
RESOURCES:
==> v1/ClusterRole
NAME AGE
loki-promtail-clusterrole 189d
…
NOTES:
The Loki stack has been deployed to your cluster. Loki can now be added as a datasource in Grafana.
See <a href="http://docs.grafana.org/features/datasources/loki/">http://docs.grafana.org/features/datasources/loki/</a> for more details.

"मॉनिटरिंग" नेमस्पेस में पॉड्स की स्थिति को देखते हुए, हम देख सकते हैं कि सब कुछ तैनात है:

$ kubectl -n monitoring get pods -l release=loki

रिजल्ट:

NAME                 READY  STATUS   RESTARTS  AGE
loki-0               1/1    Running  0         147m
loki-promtail-9zjvc  1/1    Running  0         3h25m
loki-promtail-f6brf  1/1    Running  0         11h
loki-promtail-hdcj7  1/1    Running  0         3h23m
loki-promtail-jbqhc  1/1    Running  0         11h
loki-promtail-mj642  1/1    Running  0         62m
loki-promtail-nm64g  1/1    Running  0         24m

सभी पॉड्स चल रहे हैं. अब कुछ परीक्षण करने का समय आ गया है!

ग्राफ़ाना से कनेक्ट हो रहा है

कुबेरनेट्स के तहत ग्राफाना से जुड़ने के लिए, आपको इसके पॉड के लिए एक सुरंग खोलनी होगी। ग्राफाना पॉड के लिए पोर्ट 3000 खोलने का आदेश निम्नलिखित है:

$ kubectl -n port-forward monitoring svc/loki-grafana 3000:80

एक अन्य महत्वपूर्ण बिंदु ग्राफाना व्यवस्थापक पासवर्ड को पुनर्प्राप्त करने की आवश्यकता है। पासवर्ड गुप्त रखा जाता है loki-grafana क्षेत्र में .data.admin-user बेस64 प्रारूप में।

इसे पुनर्स्थापित करने के लिए, आपको निम्नलिखित कमांड चलाने की आवश्यकता है:

$ kubectl -n monitoring get secret loki-grafana 
 --template '{{index .data "admin-password" | base64decode}}'; echo

इस पासवर्ड का उपयोग डिफ़ॉल्ट व्यवस्थापक खाते (एडमिन) के साथ करें।

ग्राफाना में लोकी डेटा स्रोत परिभाषा

सबसे पहले, सुनिश्चित करें कि लोकी डेटा स्रोत (कॉन्फ़िगरेशन/डेटास्रोत) बनाया गया है।
यहां एक उदाहरण दिया गया है:

लोकी के लिए डेटा स्रोत स्थापित करने का एक उदाहरण

"टेस्ट" पर क्लिक करके आप लोकी के साथ कनेक्शन का परीक्षण कर सकते हैं।

लोकी से अनुरोध कर रहा हूँ

अब ग्राफाना पर जाएं और "एक्सप्लोर" सेक्शन पर जाएं। कंटेनरों से लॉग प्राप्त करते समय, लोकी कुबेरनेट्स से मेटाडेटा जोड़ता है। इस प्रकार, किसी विशिष्ट कंटेनर के लॉग देखना संभव हो जाता है।

उदाहरण के लिए, प्रोमटेल कंटेनर लॉग का चयन करने के लिए, आप निम्न क्वेरी का उपयोग कर सकते हैं: {container_name = "promtail"}.
यहां लोकी डेटा स्रोत का चयन करना भी न भूलें।

यह क्वेरी कंटेनर गतिविधि को निम्नानुसार वापस कर देगी:

ग्राफाना में क्वेरी परिणाम

डैशबोर्ड में जोड़ा जा रहा है

ग्राफाना 6.4 से शुरू करके, लॉग जानकारी को सीधे डैशबोर्ड पर डालना संभव है। उसके बाद, उपयोगकर्ता अपनी साइट पर अनुरोधों की संख्या से लेकर एप्लिकेशन ट्रेस तक के बीच त्वरित रूप से स्विच करने में सक्षम होगा।

नीचे एक उदाहरण डैशबोर्ड है जो इस इंटरैक्शन को लागू करता है:

प्रोमेथियस मेट्रिक्स और लोकी लॉग के साथ नमूना डैशबोर्ड

लोकी का भविष्य

मैंने मई/जून में संस्करण 0.1 के साथ लोकी का उपयोग शुरू किया। संस्करण 1 आज ही जारी किया जा चुका है, और यहाँ तक कि 1.1 और 1.2 भी।

यह स्वीकार करना होगा कि संस्करण 0.1 पर्याप्त रूप से स्थिर नहीं था। लेकिन 0.3 ने पहले ही परिपक्वता के वास्तविक संकेत दिखा दिए थे, और अगले संस्करणों (0.4, फिर 1.0) ने इस धारणा को और मजबूत कर दिया।

1.0.0 के बाद, किसी के पास इस अद्भुत उपकरण का उपयोग न करने का कोई बहाना नहीं हो सकता।

आगे के सुधार लोकी के बारे में नहीं होने चाहिए, बल्कि उत्कृष्ट ग्राफाना के साथ इसके एकीकरण के बारे में होने चाहिए। वास्तव में, ग्राफाना 6.4 में पहले से ही डैशबोर्ड के साथ अच्छा एकीकरण है।

ग्राफाना 6.5, जो हाल ही में जारी किया गया था, JSON प्रारूप में लॉग की सामग्री को स्वचालित रूप से पहचानकर इस एकीकरण को और बेहतर बनाता है।

नीचे दिया गया वीडियो इस तंत्र का एक छोटा सा उदाहरण दिखाता है:

ग्राफाना में प्रस्तुत लोकी स्ट्रिंग्स का उपयोग करना

उदाहरण के लिए, JSON फ़ील्ड में से किसी एक का उपयोग करना संभव हो जाता है:

• किसी बाहरी टूल से लिंक
• लॉग सामग्री को फ़िल्टर करना

उदाहरण के लिए, आप Zipkin या Jaeger पर जाने के लिए ट्रेसआईडी पर क्लिक कर सकते हैं।

हमेशा की तरह, हम आपकी टिप्पणियों की प्रतीक्षा करते हैं और आपको आमंत्रित करते हैं वेबिनार खोलें, जहां हम इस बारे में बात करेंगे कि 2019 के दौरान DevOps उद्योग कैसे विकसित हुआ है और 2020 के लिए संभावित विकास पथों पर चर्चा करेंगे।

स्रोत: www.habr.com