Loki - প্রমিথিউস পদ্ধতি ব্যবহার করে লগ সংগ্রহ

সালাম, খাব্রোভস্কের বাসিন্দা! কোর্সের জন্য একটি নতুন তালিকাভুক্তি শুরুর প্রাক্কালে "DevOps অনুশীলন এবং সরঞ্জাম" আমরা আপনার জন্য আকর্ষণীয় উপাদানের একটি অনুবাদ প্রস্তুত করেছি।

এই নিবন্ধটি লোকির একটি সংক্ষিপ্ত ভূমিকা। প্রজেক্ট লোকি Grafana দ্বারা সমর্থিত এবং লগগুলির কেন্দ্রীভূত সংগ্রহের লক্ষ্য (সার্ভার বা পাত্র থেকে)।

লোকির মূল অনুপ্রেরণা ছিল প্রমিথিউস লগ পরিচালনায় তার পন্থা প্রয়োগ করার ধারণার সাথে:

• ডেটা সঞ্চয় করতে লেবেল ব্যবহার করে
• অল্প সম্পদের ব্যবহার

আমরা প্রমিথিউস কীভাবে কাজ করে সেদিকে ফিরে যাব এবং কুবারনেটসের প্রসঙ্গে এর ব্যবহারের কিছু উদাহরণ দেব।

প্রমিথিউস সম্পর্কে কয়েকটি শব্দ

লোকি কীভাবে কাজ করে তা সম্পূর্ণরূপে বোঝার জন্য, এক ধাপ পিছিয়ে যাওয়া এবং প্রমিথিউস সম্পর্কে একটু মনে রাখা গুরুত্বপূর্ণ।

প্রমিথিউসের স্বতন্ত্র বৈশিষ্ট্যগুলির মধ্যে একটি হল সংগ্রহের পয়েন্টগুলি থেকে মেট্রিক্স বের করা (রপ্তানিকারকদের মাধ্যমে) এবং সেগুলিকে TSDB (টাইম সিরিজ ডেটা বেস) এ সংরক্ষণ করা, লেবেল আকারে মেটাডেটা যুক্ত করা।

কেন আপনি এটি প্রয়োজন

সম্প্রতি, প্রমিথিউস কন্টেইনার এবং কুবারনেটসের জগতে ডি ফ্যাক্টো স্ট্যান্ডার্ড হয়ে উঠেছে: এটির ইনস্টলেশন খুবই সহজ, এবং কুবারনেটস ক্লাস্টার প্রমিথিউসের জন্য একটি নেটিভ এন্ডপয়েন্ট নিয়ে আসে। প্রমিথিউস নির্দিষ্ট লেবেল সংরক্ষণ করার সময় একটি পাত্রে স্থাপন করা অ্যাপ্লিকেশন থেকে মেট্রিক্স বের করতে পারে। অতএব, অ্যাপ্লিকেশন পর্যবেক্ষণ বাস্তবায়ন করা খুব সহজ।

দুর্ভাগ্যবশত, লগ পরিচালনার জন্য এখনও কোন টার্নকি সমাধান নেই, এবং আপনাকে অবশ্যই নিজের জন্য একটি সমাধান খুঁজে বের করতে হবে:

• কেন্দ্রীভূত লগগুলির জন্য পরিচালিত ক্লাউড পরিষেবা (AWS, Azure বা Google)
• পর্যবেক্ষণ পরিষেবা "পরিষেবা হিসাবে পর্যবেক্ষণ" (উদাহরণস্বরূপ, ডেটাডগ)
• আপনার নিজস্ব লগ সংগ্রহ পরিষেবা তৈরি করা।

তৃতীয় বিকল্পের জন্য, আমি ঐতিহ্যগতভাবে ইলাস্টিকসার্চ ব্যবহার করতাম, যদিও আমি এটিতে সবসময় খুশি ছিলাম না (বিশেষত এর ভারীতা এবং কনফিগারেশনের জটিলতা)।

লোকি নিম্নলিখিত নীতিগুলি অনুসারে বাস্তবায়নকে সহজ করার জন্য ডিজাইন করা হয়েছিল:

• শুরু করা সহজ
• কিছু সম্পদ ব্যবহার করুন
• কোনো বিশেষ রক্ষণাবেক্ষণ ছাড়াই স্বাধীনভাবে কাজ করুন
• বাগ তদন্তে সাহায্য করার জন্য প্রমিথিউসের একটি সংযোজন হিসাবে কাজ করুন

যাইহোক, এই সরলতা কিছু আপস খরচে আসে. তার মধ্যে একটি বিষয়বস্তু সূচী না করা। অতএব, পাঠ্য অনুসন্ধান খুব দক্ষ বা সমৃদ্ধ নয় এবং পাঠ্যের বিষয়বস্তুর পরিসংখ্যানের অনুমতি দেয় না। কিন্তু যেহেতু লোকি গ্রেপের সমতুল্য হতে চায় এবং প্রমিথিউসের পরিপূরক হতে চায়, তাই এটা কোনো অসুবিধা নয়।

ঘটনার তদন্ত

কেন লোকির সূচীকরণের প্রয়োজন নেই তা আরও ভালভাবে বোঝার জন্য, আসুন ঘটনা তদন্ত পদ্ধতিতে ফিরে যাই যা লোকি বিকাশকারীরা ব্যবহার করেছিলেন:

1 সতর্কতা → 2 ড্যাশবোর্ড → 3 অ্যাডহক কোয়েরি → 4 লগ একত্রীকরণ → 5 বিতরণকৃত ট্রেসিং → 6 ঠিক করুন!
(1 সতর্কতা → 2 ড্যাশবোর্ড → 3 অ্যাডহক কোয়েরি → 4 লগ একত্রীকরণ → 5 বিতরণ করা ট্রেসিং → 6 ফিক্সিং!)

ধারণাটি হল যে আমরা কিছু ধরণের সতর্কতা (স্ল্যাক নোটিফিকেশন, এসএমএস, ইত্যাদি) পাই এবং তার পরে:

• Grafana ড্যাশবোর্ড দেখুন
• পরিষেবা মেট্রিক্স দেখুন (উদাহরণস্বরূপ, প্রমিথিউসে)
• লগ এন্ট্রিগুলি দেখুন (উদাহরণস্বরূপ, ইলাস্টিকসার্চে)
• হয়তো বিতরণ করা ট্রেস (জেগার, জিপকিন, ইত্যাদি) দেখুন
• এবং অবশেষে মূল সমস্যা ঠিক করা।

এখানে, Grafana + Prometheus + Elasticsearch + Zipkin স্ট্যাকের ক্ষেত্রে, আপনাকে চারটি ভিন্ন টুল ব্যবহার করতে হবে। সময় কমাতে, একটি টুল ব্যবহার করে এই সমস্ত পদক্ষেপগুলি সম্পাদন করতে সক্ষম হওয়া ভাল হবে: Grafana। এটি লক্ষণীয় যে গবেষণার এই পদ্ধতিটি গ্রাফনায় 6 সংস্করণ থেকে প্রয়োগ করা হয়েছে। এইভাবে, গ্রাফানা থেকে সরাসরি প্রমিথিউস ডেটা অ্যাক্সেস করা সম্ভব হয়।

প্রমিথিউস এবং লোকির মধ্যে এক্সপ্লোরার স্ক্রিন বিভক্ত

এই স্ক্রীন থেকে আপনি স্প্লিট স্ক্রিন ধারণা ব্যবহার করে প্রমিথিউস মেট্রিক্স সম্পর্কিত লোকি লগ দেখতে পারেন। সংস্করণ 6.5 থেকে, Grafana আপনাকে আপনার প্রিয় বিতরণ করা ট্রেসিং টুলস (Jaeger) এর লিঙ্কগুলি অনুসরণ করতে Loki লগ এন্ট্রিতে ট্রেস আইডি পার্স করার অনুমতি দেয়।

স্থানীয় লোকি পরীক্ষা

স্থানীয়ভাবে লোকি পরীক্ষা করার সবচেয়ে সহজ উপায় হল ডকার-কম্পোজ ব্যবহার করা। ডকার-কম্পোজ ফাইলটি লোকি সংগ্রহস্থলে অবস্থিত। আপনি নিম্নলিখিত কমান্ড ব্যবহার করে সংগ্রহস্থল পেতে পারেন git:

$ git clone https://github.com/grafana/loki.git

তারপরে আপনাকে উত্পাদন ডিরেক্টরিতে যেতে হবে:

$ cd production

এর পরে আপনি ডকার চিত্রগুলির সর্বশেষ সংস্করণ পেতে পারেন:

$ docker-compose pull

অবশেষে, লোকি স্ট্যাক নিম্নলিখিত কমান্ডের সাথে চালু করা হয়েছে:

$ docker-compose up

লোকি স্থাপত্য

এখানে লোকি আর্কিটেকচারের সাথে একটি ছোট চিত্র রয়েছে:

লোকি স্থাপত্যের নীতি

ওয়েব ক্লায়েন্ট সার্ভারে অ্যাপ্লিকেশন চালায়, প্রমটেল লগ সংগ্রহ করে এবং লোকিতে পাঠায়, ওয়েব ক্লায়েন্ট লোকিতে মেটাডেটাও পাঠায়। লোকি সবকিছু একত্রিত করে এবং গ্রাফনায় প্রেরণ করে।
লোকি চালু হয়েছে। উপলব্ধ উপাদানগুলি দেখতে, নিম্নলিখিত কমান্ডটি চালান:

$ docker ps

একটি নতুনভাবে ইনস্টল করা ডকারের ক্ষেত্রে, কমান্ডটি নিম্নলিখিত ফলাফলটি ফিরিয়ে দেবে:

IMAGE               PORTS                  NAMES
grafana/promtail:                          production_promtail_1
grafana/grafana: m  0.0.0.0:3000->3000/tcp production_grafana_1
grafana/loki: late  80/tcp,0.0.0.0:3100... production_loki_1

আমরা নিম্নলিখিত উপাদানগুলি দেখতে পাই:

• Promtail: লগ কেন্দ্রীয়করণের জন্য দায়ী এজেন্ট
• Grafana: একটি বিখ্যাত ড্যাশবোর্ড টুল
• লোকি: ডেটা সেন্ট্রালাইজেশন ডেমন

একটি ক্লাসিক পরিকাঠামোর অংশ হিসাবে (উদাহরণস্বরূপ, ভার্চুয়াল মেশিনের উপর ভিত্তি করে), প্রমটেল এজেন্টকে অবশ্যই প্রতিটি মেশিনে মোতায়েন করতে হবে। Grafana এবং Loki একই মেশিনে ইনস্টল করা যেতে পারে।

কুবারনেটসে স্থাপনা

Kubernetes এ Loki উপাদান ইনস্টল করা নিম্নরূপ হবে:

• সার্ভার ক্লাস্টারে প্রতিটি মেশিনে প্রমটেল এজেন্ট স্থাপনের জন্য ডেমনসেট
• স্থাপনা লোকি
• এবং শেষ একটি Grafana এর স্থাপনা.

ভাগ্যক্রমে, লোকি একটি হেলম প্যাকেজ হিসাবে উপলব্ধ, এটি স্থাপন করা সহজ করে তোলে।

হেমলের মাধ্যমে ইনস্টলেশন

আপনার ইতিমধ্যেই Heml ইনস্টল করা উচিত। এটি প্রকল্পের GitHub সংগ্রহস্থল থেকে ডাউনলোড করা যেতে পারে। এটি আপনার আর্কিটেকচারের সাথে সম্পর্কিত আর্কাইভটি আনপ্যাক করে এবং এতে হেলম যোগ করে ইনস্টল করা হয় $PATH.

দ্রষ্টব্য: হেলমের সংস্করণ 3.0.0 সম্প্রতি প্রকাশিত হয়েছে। যেহেতু এটিতে অনেক পরিবর্তন করা হয়েছে, তাই পাঠককে এটি ব্যবহারের আগে একটু অপেক্ষা করার পরামর্শ দেওয়া হচ্ছে।.

হেলমের জন্য একটি উৎস যোগ করা হচ্ছে

প্রথম ধাপ হল নিম্নলিখিত কমান্ড ব্যবহার করে "loki" সংগ্রহস্থল যোগ করা:

$ helm add loki https://grafana.github.io/loki/charts

এর পরে, আপনি "loki" নামের প্যাকেজগুলি অনুসন্ধান করতে পারেন:

$ helm search loki

ফলাফল:

loki/loki       0.17.2 v0.4.0 Loki: like Prometheus, but for logs.
loki/loki-stack 0.19.1 v0.4.0 Loki: like Prometheus, but for logs.
loki/fluent-bit 0.0.2  v0.0.1 Uses fluent-bit Loki go plugin for...
loki/promtail   0.13.1 v0.4.0 Responsible for gathering logs and...

এই প্যাকেজগুলির নিম্নলিখিত বৈশিষ্ট্য রয়েছে:

• প্যাকেজ লোকি/লোকি শুধুমাত্র লোকি সার্ভারের সাথে মেলে
• প্যাকেজ loki/fluent-bit প্রমটেলের পরিবর্তে লগ সংগ্রহ করতে আপনাকে ফ্লুয়েন্ট-বিন ব্যবহার করে একটি ডেমনসেট স্থাপন করার অনুমতি দেয়
• প্যাকেজ loki/promtail একটি লগ ফাইল সংগ্রহ এজেন্ট রয়েছে
• প্যাকেজ loki/loki-stack, আপনাকে অবিলম্বে Promtail এর সাথে Loki স্থাপন করার অনুমতি দেয়।

লোকি ইনস্টল করা হচ্ছে

কুবারনেটসে লোকি স্থাপন করতে, "মনিটরিং" নামস্থানে নিম্নলিখিত কমান্ডটি চালান:

$ helm upgrade --install loki loki/loki-stack --namespace monitoring

ডিস্কে সংরক্ষণ করতে, প্যারামিটার যোগ করুন --set loki.persistence.enabled = true:

$ helm upgrade --install loki loki/loki-stack 
              --namespace monitoring 
              --set loki.persistence.enabled=true

দ্রষ্টব্য: আপনি যদি একই সময়ে Grafana স্থাপন করতে চান, তাহলে পরামিতি যোগ করুন --set grafana.enabled = true

আপনি যখন এই কমান্ডটি চালান তখন আপনাকে নিম্নলিখিত আউটপুট পেতে হবে:

LAST DEPLOYED: Tue Nov 19 15:56:54 2019
NAMESPACE: monitoring
STATUS: DEPLOYED
RESOURCES:
==> v1/ClusterRole
NAME AGE
loki-promtail-clusterrole 189d
…
NOTES:
The Loki stack has been deployed to your cluster. Loki can now be added as a datasource in Grafana.
See <a href="http://docs.grafana.org/features/datasources/loki/">http://docs.grafana.org/features/datasources/loki/</a> for more details.

"মনিটরিং" নামস্থানে পডগুলির অবস্থার দিকে তাকিয়ে, আমরা দেখতে পাচ্ছি যে সবকিছু স্থাপন করা হয়েছে:

$ kubectl -n monitoring get pods -l release=loki

ফলাফল:

NAME                 READY  STATUS   RESTARTS  AGE
loki-0               1/1    Running  0         147m
loki-promtail-9zjvc  1/1    Running  0         3h25m
loki-promtail-f6brf  1/1    Running  0         11h
loki-promtail-hdcj7  1/1    Running  0         3h23m
loki-promtail-jbqhc  1/1    Running  0         11h
loki-promtail-mj642  1/1    Running  0         62m
loki-promtail-nm64g  1/1    Running  0         24m

সব পড চলছে। এখন কিছু পরীক্ষা করার সময়!

Grafana এর সাথে সংযোগ করা হচ্ছে

Kubernetes-এর অধীনে Grafana-এর সাথে সংযোগ করতে, আপনাকে এর পডে একটি টানেল খুলতে হবে। নীচে Grafana পডের জন্য 3000 পোর্ট খোলার কমান্ড রয়েছে:

$ kubectl -n port-forward monitoring svc/loki-grafana 3000:80

আরেকটি গুরুত্বপূর্ণ বিষয় হল Grafana অ্যাডমিনিস্ট্রেটর পাসওয়ার্ড পুনরুদ্ধার করার প্রয়োজন। পাসওয়ার্ড গোপন রাখা হয় loki-grafana মাঠে .data.admin-user বেস64 ফরম্যাটে।

এটি পুনরুদ্ধার করতে, আপনাকে নিম্নলিখিত কমান্ডটি চালাতে হবে:

$ kubectl -n monitoring get secret loki-grafana 
 --template '{{index .data "admin-password" | base64decode}}'; echo

ডিফল্ট অ্যাডমিনিস্ট্রেটর অ্যাকাউন্ট (প্রশাসক) এর সাথে এই পাসওয়ার্ডটি ব্যবহার করুন।

Grafana একটি Loki ডেটা উৎস সংজ্ঞায়িত করা

প্রথমত, নিশ্চিত করুন যে লোকি ডেটা উত্স তৈরি করা হয়েছে (কনফিগারেশন/ডেটাসোর্স)।
এখানে একটি উদাহরণ:

লোকির জন্য একটি ডেটা উৎস সেট আপ করার উদাহরণ

"পরীক্ষা" এ ক্লিক করে আপনি লোকির সাথে সংযোগ পরীক্ষা করতে পারেন৷

লোকির কাছে অনুরোধ করা

এখন Grafana থেকে "Explore" বিভাগে যান। কন্টেইনার থেকে লগ গ্রহণ করার সময়, লোকি কুবারনেটস থেকে মেটাডেটা যোগ করে। সুতরাং, একটি নির্দিষ্ট পাত্রের লগগুলি দেখা সম্ভব হয়।

উদাহরণস্বরূপ, promtail কন্টেইনার লগ নির্বাচন করতে, আপনি নিম্নলিখিত ক্যোয়ারী ব্যবহার করতে পারেন: {container_name = "promtail"}.
এখানে লোকি ডেটা উত্স নির্বাচন করতেও মনে রাখবেন।

এই ক্যোয়ারীটি নিম্নরূপ ধারক কার্যকলাপ ফিরিয়ে দেবে:

Grafana-এ প্রশ্নের ফলাফল

ড্যাশবোর্ডে যোগ করুন

Grafana 6.4 দিয়ে শুরু করে, আপনি লগ ইনফরমেশন সরাসরি ড্যাশবোর্ডে রাখতে পারেন। এর পরে, ব্যবহারকারী তার সাইটের অনুরোধের সংখ্যা এবং অ্যাপ্লিকেশন ট্রেসের মধ্যে দ্রুত স্যুইচ করতে সক্ষম হবেন।

নীচে একটি ড্যাশবোর্ডের একটি উদাহরণ যা এই মিথস্ক্রিয়াটি প্রয়োগ করে:

প্রমিথিউস মেট্রিক্স এবং লোকি লগ সহ নমুনা ড্যাশবোর্ড

লোকির ভবিষ্যত

আমি সংস্করণ 0.1 সহ মে/জুন মাসে লোকি ব্যবহার শুরু করেছি। আজ সংস্করণ 1, এমনকি 1.1 এবং 1.2 ইতিমধ্যে প্রকাশিত হয়েছে।

এটা অবশ্যই স্বীকার করতে হবে যে সংস্করণ 0.1 যথেষ্ট স্থিতিশীল ছিল না। কিন্তু 0.3 ইতিমধ্যেই পরিপক্কতার প্রকৃত লক্ষণ দেখিয়েছে, এবং পরবর্তী সংস্করণগুলি (0.4, তারপর 1.0) শুধুমাত্র এই ছাপটিকে শক্তিশালী করেছে।

1.0.0 এর পরে, এই দুর্দান্ত সরঞ্জামটি ব্যবহার না করার জন্য কারও কাছে কোনও অজুহাত থাকতে পারে না।

আরও উন্নতি লোকি সম্পর্কে নয়, বরং চমৎকার গ্রাফনার সাথে এর একীকরণ হওয়া উচিত। প্রকৃতপক্ষে, Grafana 6.4 এর ইতিমধ্যেই ড্যাশবোর্ডগুলির সাথে ভাল ইন্টিগ্রেশন রয়েছে।

Grafana 6.5, যা সম্প্রতি প্রকাশিত হয়েছে, JSON ফরম্যাটে স্বয়ংক্রিয়ভাবে লগ বিষয়বস্তু সনাক্ত করার মাধ্যমে এই একীকরণকে আরও উন্নত করে।

নীচের ভিডিওটি এই প্রক্রিয়াটির একটি ছোট উদাহরণ দেখায়:

গ্রাফনায় উন্মুক্ত লোকি স্ট্রিং ব্যবহার করে

JSON ক্ষেত্রগুলির একটি ব্যবহার করা সম্ভব হয়, উদাহরণস্বরূপ, এর জন্য:

• বাহ্যিক সরঞ্জামের লিঙ্ক
• লগ বিষয়বস্তু ফিল্টারিং

উদাহরণস্বরূপ, আপনি Zipkin বা Jaeger যেতে traceId এ ক্লিক করতে পারেন।

যথারীতি, আমরা আপনার মন্তব্যের জন্য অপেক্ষা করছি এবং আপনাকে আমন্ত্রণ জানাচ্ছি খোলা ওয়েবিনার, যেখানে আমরা 2019-এ DevOps শিল্প কীভাবে বিকশিত হয়েছিল সে সম্পর্কে কথা বলব এবং 2020-এর সম্ভাব্য উন্নয়নের পথগুলি নিয়ে আলোচনা করব।

উত্স: www.habr.com