लोकी - प्रोमिथियस दृष्टिकोन वापरून लॉग संग्रह

सलाम, खाब्रोव्स्क रहिवासी! अभ्यासक्रमासाठी नवीन नोंदणी सुरू होण्याच्या पूर्वसंध्येला "DevOps सराव आणि साधने" आम्ही तुमच्यासाठी मनोरंजक सामग्रीचे भाषांतर तयार केले आहे.

हा लेख म्हणजे लोकीचा संक्षिप्त परिचय आहे. प्रोजेक्ट लोकी Grafana द्वारे समर्थित आणि लॉगचे केंद्रीकृत संकलन (सर्व्हर किंवा कंटेनरमधून) करण्याचे उद्दिष्ट आहे.

लोकीची मुख्य प्रेरणा होती Prometheus लॉग व्यवस्थापनासाठी त्याचे दृष्टिकोन लागू करण्याच्या कल्पनेसह:

• डेटा संग्रहित करण्यासाठी लेबल वापरणे
• काही संसाधनांचा वापर

आम्ही प्रोमिथियस कसे कार्य करतो याकडे परत जाऊ आणि कुबर्नेट्सच्या संदर्भात त्याच्या वापराची काही उदाहरणे देऊ.

प्रोमिथियस बद्दल काही शब्द

लोकी कसे कार्य करते हे पूर्णपणे समजून घेण्यासाठी, एक पाऊल मागे घेणे आणि प्रोमिथियसबद्दल थोडे लक्षात ठेवणे महत्वाचे आहे.

प्रोमिथियसच्या विशिष्ट वैशिष्ट्यांपैकी एक म्हणजे कलेक्शन पॉईंट्समधून मेट्रिक्स काढणे (निर्यातकर्त्यांद्वारे) आणि ते लेबल्सच्या स्वरूपात मेटाडेटा जोडून TSDB (टाइम सिरीज डेटा बेस) मध्ये संग्रहित करणे.

याची गरज का आहे?

अलीकडे, कंटेनर आणि कुबर्नेट्सच्या जगात प्रोमिथियस डी फॅक्टो मानक बनले आहे: त्याची स्थापना अगदी सोपी आहे, आणि कुबर्नेट्स क्लस्टर प्रोमिथियससाठी मूळ अंत्यबिंदूसह येतो. प्रोमिथियस विशिष्ट लेबले संचयित करताना कंटेनरमध्ये तैनात केलेल्या अनुप्रयोगांमधून मेट्रिक्स देखील काढू शकतो. म्हणून, अनुप्रयोग निरीक्षण अंमलबजावणी करणे खूप सोपे आहे.

दुर्दैवाने, लॉग मॅनेजमेंटसाठी अद्याप कोणतेही टर्नकी सोल्यूशन नाही आणि तुम्ही स्वतःसाठी उपाय शोधला पाहिजे:

• सेंट्रलाइझिंग लॉगसाठी व्यवस्थापित क्लाउड सेवा (AWS, Azure किंवा Google)
• देखरेख सेवा "सेवा म्हणून देखरेख" (उदाहरणार्थ, डेटाडॉग)
• तुमची स्वतःची लॉग कलेक्शन सेवा तयार करणे.

तिसर्‍या पर्यायासाठी, मी पारंपारिकपणे इलास्टिकसर्चचा वापर केला, तरीही मी त्यात नेहमीच आनंदी नसतो (विशेषत: त्याचे जडपणा आणि कॉन्फिगरेशनची जटिलता).

लोकी खालील तत्त्वांनुसार अंमलबजावणी सुलभ करण्यासाठी डिझाइन केले होते:

• प्रारंभ करणे सोपे व्हा
• काही संसाधने वापरा
• कोणतीही विशेष देखभाल न करता स्वतंत्रपणे कार्य करा
• दोष तपासण्यात मदत करण्यासाठी प्रोमिथियसला एक जोड म्हणून काम करा

तथापि, ही साधेपणा काही तडजोडीच्या खर्चावर येते. त्यापैकी एक सामग्री अनुक्रमित न करणे आहे. म्हणून, मजकूर शोध फार कार्यक्षम किंवा समृद्ध नाही आणि मजकूराच्या सामग्रीवर आकडेवारीची परवानगी देत ​​​​नाही. परंतु लोकीला ग्रेपचे समतुल्य आणि प्रोमिथियसचे पूरक बनायचे असल्याने, हे गैरसोय नाही.

घटनेचा तपास

लोकीला अनुक्रमणिकेची आवश्यकता का नाही हे अधिक चांगल्या प्रकारे समजून घेण्यासाठी, लोकी विकसकांनी वापरलेल्या घटना तपास पद्धतीकडे परत जाऊया:

1 अलर्ट → 2 डॅशबोर्ड → 3 अॅडहॉक क्वेरी → 4 लॉग एकत्रीकरण → 5 वितरित ट्रेसिंग → 6 निराकरण!
(1 चेतावणी → 2 डॅशबोर्ड → 3 अॅडहॉक क्वेरी → 4 लॉग एकत्रीकरण → 5 वितरित ट्रेसिंग → 6 निराकरण!)

कल्पना अशी आहे की आम्हाला एक प्रकारचा इशारा (स्लॅक नोटिफिकेशन, एसएमएस इ.) प्राप्त होतो आणि त्यानंतर:

• Grafana डॅशबोर्ड पहा
• सेवा मेट्रिक्स पहा (उदाहरणार्थ, प्रोमिथियसमध्ये)
• लॉग एंट्री पहा (उदाहरणार्थ, Elasticsearch मध्ये)
• कदाचित वितरित ट्रेस पहा (जेगर, झिपकिन इ.)
• आणि शेवटी मूळ समस्येचे निराकरण.

येथे, Grafana + Prometheus + Elasticsearch + Zipkin स्टॅकच्या बाबतीत, तुम्हाला चार भिन्न साधने वापरावी लागतील. वेळ कमी करण्यासाठी, एक साधन वापरून हे सर्व चरण पूर्ण करण्यास सक्षम असणे चांगले होईल: ग्राफना. हे लक्षात घेण्यासारखे आहे की संशोधनाचा हा दृष्टिकोन Grafana मध्ये आवृत्ती 6 पासून लागू करण्यात आला आहे. अशा प्रकारे, थेट Grafana वरून प्रोमिथियस डेटामध्ये प्रवेश करणे शक्य होते.

प्रोमिथियस आणि लोकी दरम्यान एक्सप्लोरर स्क्रीन विभाजित

या स्क्रीनवरून तुम्ही स्प्लिट स्क्रीन संकल्पना वापरून प्रोमिथियस मेट्रिक्सशी संबंधित लोकी लॉग पाहू शकता. आवृत्ती 6.5 पासून, Grafana तुम्हाला तुमच्या आवडत्या वितरित ट्रेसिंग टूल्स (Jaeger) च्या लिंक फॉलो करण्यासाठी Loki लॉग एंट्रीमधील ट्रेस आयडी पार्स करण्याची परवानगी देते.

स्थानिक लोकी चाचणी

लोकीची स्थानिक पातळीवर चाचणी करण्याचा सर्वात सोपा मार्ग म्हणजे डॉकर-कंपोज वापरणे. डॉकर-कंपोज फाइल लोकी रेपॉजिटरीमध्ये स्थित आहे. तुम्ही खालील कमांड वापरून रेपॉजिटरी मिळवू शकता git:

$ git clone https://github.com/grafana/loki.git

मग आपल्याला उत्पादन निर्देशिकेवर जाण्याची आवश्यकता आहे:

$ cd production

यानंतर तुम्ही डॉकर प्रतिमांची नवीनतम आवृत्ती मिळवू शकता:

$ docker-compose pull

शेवटी, लोकी स्टॅक खालील आदेशासह लॉन्च केला जातो:

$ docker-compose up

लोकी आर्किटेक्चर

लोकी आर्किटेक्चरसह येथे एक लहान आकृती आहे:

लोकी आर्किटेक्चरची तत्त्वे

वेब क्लायंट सर्व्हरवर ऍप्लिकेशन्स चालवतो, प्रोमटेल लॉग गोळा करते आणि लोकीला पाठवते, वेब क्लायंट लोकीला मेटाडेटा देखील पाठवते. लोकी सर्वकाही एकत्रित करते आणि ग्राफानामध्ये प्रसारित करते.
लोकी लाँच केले आहे. उपलब्ध घटक पाहण्यासाठी, खालील आदेश चालवा:

$ docker ps

नव्याने स्थापित डॉकरच्या बाबतीत, कमांडने खालील परिणाम परत केले पाहिजेत:

IMAGE               PORTS                  NAMES
grafana/promtail:                          production_promtail_1
grafana/grafana: m  0.0.0.0:3000->3000/tcp production_grafana_1
grafana/loki: late  80/tcp,0.0.0.0:3100... production_loki_1

आम्ही खालील घटक पाहतो:

• प्रॉमटेल: नोंदी केंद्रीकृत करण्यासाठी जबाबदार एजंट
• ग्राफाना: एक प्रसिद्ध डॅशबोर्ड साधन
• लोकी: डेटा केंद्रीकरण डिमन

क्लासिक इन्फ्रास्ट्रक्चरचा भाग म्हणून (उदाहरणार्थ, आभासी मशीनवर आधारित), प्रॉमटेल एजंट प्रत्येक मशीनवर तैनात करणे आवश्यक आहे. Grafana आणि Loki एकाच मशीनवर स्थापित केले जाऊ शकतात.

Kubernetes तैनात

Kubernetes वर लोकी घटक स्थापित करणे खालीलप्रमाणे असेल:

• सर्व्हर क्लस्टरमधील प्रत्येक मशीनवर प्रॉमटेल एजंट तैनात करण्यासाठी डेमनसेट
• तैनाती लोकी
• आणि शेवटचा म्हणजे ग्राफानाची तैनाती.

सुदैवाने, लोकी हेल्म पॅकेज म्हणून उपलब्ध आहे, ते तैनात करणे सोपे करते.

Heml द्वारे स्थापना

तुम्‍ही आधीच हेमल इंस्‍टॉल केलेले असावे. ते प्रकल्पाच्या GitHub भांडारातून डाउनलोड केले जाऊ शकते. हे तुमच्या आर्किटेक्चरशी संबंधित आर्काइव्ह अनपॅक करून आणि त्यात हेल्म जोडून स्थापित केले आहे $PATH.

टीप: हेल्मची आवृत्ती 3.0.0 नुकतीच प्रसिद्ध झाली. त्यात बरेच बदल करण्यात आले असल्याने वाचकांनी ते वापरण्यापूर्वी थोडी प्रतीक्षा करावी असा सल्ला देण्यात आला आहे..

हेल्मसाठी स्त्रोत जोडत आहे

पहिली पायरी म्हणजे खालील कमांड वापरून “loki” रेपॉजिटरी जोडणे:

$ helm add loki https://grafana.github.io/loki/charts

यानंतर, तुम्ही “loki” नावाचे पॅकेज शोधू शकता:

$ helm search loki

निकाल:

loki/loki       0.17.2 v0.4.0 Loki: like Prometheus, but for logs.
loki/loki-stack 0.19.1 v0.4.0 Loki: like Prometheus, but for logs.
loki/fluent-bit 0.0.2  v0.0.1 Uses fluent-bit Loki go plugin for...
loki/promtail   0.13.1 v0.4.0 Responsible for gathering logs and...

या पॅकेजेसमध्ये खालील वैशिष्ट्ये आहेत:

• पॅकेज loki/loki फक्त लोकी सर्व्हरशी जुळते
• पॅकेज loki/fluent-bit प्रॉमटेलऐवजी लॉग गोळा करण्यासाठी फ्लुएंट-बिन वापरून डेमनसेट तैनात करण्याची परवानगी देते
• पॅकेज loki/promtail लॉग फाइल संकलन एजंट समाविष्टीत आहे
• पॅकेज loki/loki-stack, तुम्हाला Promtail सह Loki ताबडतोब तैनात करण्याची परवानगी देते.

लोकी स्थापित करत आहे

लोकी कुबर्नेट्सवर तैनात करण्यासाठी, "मॉनिटरिंग" नेमस्पेसमध्ये खालील आदेश चालवा:

$ helm upgrade --install loki loki/loki-stack --namespace monitoring

डिस्कवर सेव्ह करण्यासाठी, पॅरामीटर जोडा --set loki.persistence.enabled = true:

$ helm upgrade --install loki loki/loki-stack 
              --namespace monitoring 
              --set loki.persistence.enabled=true

टीप: जर तुम्हाला एकाच वेळी Grafana उपयोजित करायचे असेल, तर पॅरामीटर जोडा --set grafana.enabled = true

जेव्हा तुम्ही ही कमांड चालवता तेव्हा तुम्हाला खालील आउटपुट मिळावे:

LAST DEPLOYED: Tue Nov 19 15:56:54 2019
NAMESPACE: monitoring
STATUS: DEPLOYED
RESOURCES:
==> v1/ClusterRole
NAME AGE
loki-promtail-clusterrole 189d
…
NOTES:
The Loki stack has been deployed to your cluster. Loki can now be added as a datasource in Grafana.
See <a href="http://docs.grafana.org/features/datasources/loki/">http://docs.grafana.org/features/datasources/loki/</a> for more details.

"मॉनिटरिंग" नेमस्पेसमधील पॉड्सची स्थिती पाहता, आपण पाहू शकतो की सर्व काही तैनात केले आहे:

$ kubectl -n monitoring get pods -l release=loki

निकाल:

NAME                 READY  STATUS   RESTARTS  AGE
loki-0               1/1    Running  0         147m
loki-promtail-9zjvc  1/1    Running  0         3h25m
loki-promtail-f6brf  1/1    Running  0         11h
loki-promtail-hdcj7  1/1    Running  0         3h23m
loki-promtail-jbqhc  1/1    Running  0         11h
loki-promtail-mj642  1/1    Running  0         62m
loki-promtail-nm64g  1/1    Running  0         24m

सर्व शेंगा चालू आहेत. आता काही चाचण्या करण्याची वेळ आली आहे!

Grafana शी कनेक्ट करत आहे

Kubernetes अंतर्गत Grafana शी कनेक्ट करण्यासाठी, तुम्हाला त्याच्या पॉडसाठी एक बोगदा उघडण्याची आवश्यकता आहे. खाली ग्राफाना पॉडसाठी पोर्ट 3000 उघडण्याची आज्ञा आहे:

$ kubectl -n port-forward monitoring svc/loki-grafana 3000:80

दुसरा महत्त्वाचा मुद्दा म्हणजे Grafana प्रशासक पासवर्ड पुनर्प्राप्त करणे आवश्यक आहे. पासवर्ड गुप्त ठेवला जातो loki-grafana शेतात .data.admin-user बेस64 फॉरमॅटमध्ये.

ते पुनर्संचयित करण्यासाठी, तुम्हाला खालील कमांड चालवावी लागेल:

$ kubectl -n monitoring get secret loki-grafana 
 --template '{{index .data "admin-password" | base64decode}}'; echo

हा पासवर्ड डीफॉल्ट प्रशासक खाते (प्रशासक) च्या संयोगाने वापरा.

Grafana मध्ये लोकी डेटा स्रोत परिभाषित करणे

सर्व प्रथम, लोकी डेटा स्त्रोत तयार केला गेला आहे याची खात्री करा (कॉन्फिगरेशन/डेटासोर्स).
येथे एक उदाहरण आहे:

लोकीसाठी डेटा स्रोत सेट करण्याचे उदाहरण

“चाचणी” वर क्लिक करून तुम्ही लोकी सह कनेक्शन तपासू शकता.

लोकीला विनंती करणे

आता Grafana वर "Explore" विभागात जा. कंटेनरमधून लॉग प्राप्त करताना, लोकी Kubernetes कडून मेटाडेटा जोडते. अशा प्रकारे, विशिष्ट कंटेनरचे लॉग पाहणे शक्य होते.

उदाहरणार्थ, प्रोमटेल कंटेनर लॉग निवडण्यासाठी, तुम्ही खालील क्वेरी वापरू शकता: {container_name = "promtail"}.
येथे लोकी डेटा स्रोत निवडण्याचे देखील लक्षात ठेवा.

ही क्वेरी खालीलप्रमाणे कंटेनर क्रियाकलाप देईल:

Grafana मध्ये क्वेरी परिणाम

डॅशबोर्डमध्ये जोडा

Grafana 6.4 सह प्रारंभ करून, तुम्ही लॉग माहिती थेट डॅशबोर्डवर ठेवू शकता. यानंतर, वापरकर्ता त्याच्या साइटवरील विनंत्यांची संख्या आणि ऍप्लिकेशन ट्रेस दरम्यान द्रुतपणे स्विच करण्यास सक्षम असेल.

खाली डॅशबोर्डचे उदाहरण आहे जे या परस्परसंवादाची अंमलबजावणी करते:

प्रोमिथियस मेट्रिक्स आणि लोकी लॉगसह नमुना डॅशबोर्ड

लोकीचे भविष्य

मी लोकी परत मे/जून मध्ये आवृत्ती 0.1 सह वापरण्यास सुरुवात केली. आज आवृत्ती 1, आणि अगदी 1.1 आणि 1.2 आधीच रिलीज झाली आहे.

हे मान्य केलेच पाहिजे की आवृत्ती 0.1 पुरेशी स्थिर नव्हती. परंतु 0.3 ने आधीच परिपक्वतेची वास्तविक चिन्हे दर्शविली आहेत आणि त्यानंतरच्या आवृत्त्या (0.4, नंतर 1.0) ने केवळ ही छाप मजबूत केली आहे.

1.0.0 नंतर, हे आश्चर्यकारक साधन न वापरण्यासाठी कोणाकडेही कारण असू शकत नाही.

पुढील सुधारणा लोकी बद्दल नसून उत्कृष्ट ग्राफनासह त्याचे एकत्रीकरण असावे. खरं तर, Grafana 6.4 मध्ये आधीच डॅशबोर्डसह चांगले एकत्रीकरण आहे.

Grafana 6.5, जे नुकतेच रिलीझ झाले होते, JSON फॉरमॅटमधील लॉग सामग्री आपोआप ओळखून हे एकत्रीकरण आणखी सुधारते.

खालील व्हिडिओ या यंत्रणेचे एक लहान उदाहरण दर्शविते:

Grafana मध्ये उघड लोकी स्ट्रिंग वापरणे

JSON फील्डपैकी एक वापरणे शक्य होते, उदाहरणार्थ, यासाठी:

• बाह्य साधनाचे दुवे
• लॉग सामग्री फिल्टर करणे

उदाहरणार्थ, तुम्ही Zipkin किंवा Jaeger वर जाण्यासाठी traceId वर क्लिक करू शकता.

नेहमीप्रमाणे, आम्ही तुमच्या टिप्पण्यांसाठी उत्सुक आहोत आणि तुम्हाला आमंत्रित करतो वेबिनार उघडा, जिथे आम्ही 2019 मध्ये DevOps उद्योग कसा विकसित झाला याबद्दल बोलू आणि 2020 साठी संभाव्य विकास मार्गांवर चर्चा करू.

स्त्रोत: www.habr.com