🥇 Prometheus এবং KEDA ব্যবহার করে কুবারনেটস অ্যাপ্লিকেশন অটোস্কেলিং

সিমুয়ানোসের বেলুন ম্যান

ক্লাউড অ্যাপ্লিকেশনের জন্য মাপযোগ্যতা একটি মূল প্রয়োজনীয়তা। Kubernetes-এর সাথে, একটি অ্যাপ্লিকেশন স্কেল করা যথাযথ স্থাপনার জন্য প্রতিলিপির সংখ্যা বাড়ানোর মতোই সহজ বা ReplicaSet কিন্তু এটি একটি ম্যানুয়াল প্রক্রিয়া।

কুবারনেটস অ্যাপ্লিকেশনগুলিকে স্বয়ংক্রিয়ভাবে স্কেল করার অনুমতি দেয় (যেমন একটি স্থাপনায় পড বা ReplicaSet) অনুভূমিক পড অটোস্ক্যালার স্পেসিফিকেশন ব্যবহার করে ঘোষণামূলক পদ্ধতিতে। স্বয়ংক্রিয় স্কেলিং এর জন্য ডিফল্ট মানদণ্ড হল CPU ব্যবহার মেট্রিক্স (রিসোর্স মেট্রিক্স), কিন্তু আপনি কাস্টম এবং বাহ্যিকভাবে প্রদত্ত মেট্রিক্সকে একীভূত করতে পারেন।

টীম Mail.ru থেকে Kubernetes aaS একটি Kubernetes অ্যাপ্লিকেশন স্বয়ংক্রিয়ভাবে স্কেল করার জন্য কিভাবে বহিরাগত মেট্রিক্স ব্যবহার করতে হয় সে সম্পর্কে একটি নিবন্ধ অনুবাদ করেছে৷ সবকিছু কীভাবে কাজ করে তা দেখানোর জন্য, লেখক HTTP অ্যাক্সেস অনুরোধ মেট্রিক্স ব্যবহার করেন, যা প্রমিথিউস ব্যবহার করে সংগ্রহ করা হয়।

পডের অনুভূমিক অটোস্কেলিংয়ের পরিবর্তে, কুবারনেটস ইভেন্ট ড্রাইভেন অটোস্কেলিং (কেইডিএ) ব্যবহার করা হয়, একটি ওপেন সোর্স কুবারনেটস অপারেটর। ইভেন্ট-চালিত কাজের চাপের জন্য নিরবচ্ছিন্ন অটোস্কেলিং (শূন্য থেকে/শূন্য সহ) প্রদান করতে এটি স্থানীয়ভাবে অনুভূমিক পড অটোস্ক্যালারের সাথে সংহত করে। কোড উপলব্ধ GitHub.

সিস্টেমের সংক্ষিপ্ত বিবরণ

চিত্রটি কীভাবে সবকিছু কাজ করে তার একটি সংক্ষিপ্ত বিবরণ দেখায়:

অ্যাপ্লিকেশনটি প্রমিথিউস ফরম্যাটে HTTP হিট গণনা মেট্রিক্স প্রদান করে।
প্রমিথিউস এই মেট্রিক্স সংগ্রহ করার জন্য কনফিগার করা হয়েছে।
KEDA-তে প্রমিথিউস স্কেলারটি HTTP হিটের সংখ্যার উপর ভিত্তি করে অ্যাপ্লিকেশনটিকে স্বয়ংক্রিয়ভাবে স্কেল করার জন্য কনফিগার করা হয়েছে।

এখন আমি আপনাকে প্রতিটি উপাদান সম্পর্কে বিস্তারিত বলব।

KEDA এবং প্রমিথিউস

প্রমিথিউস একটি ওপেন সোর্স সিস্টেম মনিটরিং এবং সতর্ককারী টুলকিট, অংশ ক্লাউড নেটিভ কম্পিউটিং ফাউন্ডেশন. বিভিন্ন উত্স থেকে মেট্রিক্স সংগ্রহ করে এবং সেগুলিকে টাইম সিরিজ ডেটা হিসাবে সংরক্ষণ করে। ডেটা কল্পনা করতে আপনি ব্যবহার করতে পারেন গ্রাফানা বা অন্যান্য ভিজ্যুয়ালাইজেশন টুল যা Kubernetes API এর সাথে কাজ করে।

KEDA একটি স্কেলারের ধারণাকে সমর্থন করে - এটি KEDA এবং বাহ্যিক সিস্টেমের মধ্যে একটি সেতু হিসাবে কাজ করে। স্কেলার বাস্তবায়ন প্রতিটি টার্গেট সিস্টেমের জন্য নির্দিষ্ট এবং এটি থেকে ডেটা বের করে। KEDA তারপর স্বয়ংক্রিয় স্কেলিং নিয়ন্ত্রণ করতে তাদের ব্যবহার করে।

স্কেলার একাধিক ডেটা উত্স সমর্থন করে, উদাহরণস্বরূপ, কাফকা, রেডিস, প্রমিথিউস। অর্থাৎ, মানদণ্ড হিসাবে প্রমিথিউস মেট্রিক্স ব্যবহার করে কুবারনেটস স্থাপনার স্বয়ংক্রিয়ভাবে স্কেল করতে KEDA ব্যবহার করা যেতে পারে।

পরীক্ষার আবেদন

Golang পরীক্ষা অ্যাপ্লিকেশন HTTP এর মাধ্যমে অ্যাক্সেস প্রদান করে এবং দুটি গুরুত্বপূর্ণ ফাংশন সম্পাদন করে:

প্রমিথিউস গো ক্লায়েন্ট লাইব্রেরি ব্যবহার করে অ্যাপ্লিকেশানটি ইনস্ট্রুমেন্ট করতে এবং http_requests মেট্রিক প্রদান করে, যাতে একটি হিট কাউন্ট থাকে। শেষ বিন্দু যেখানে প্রমিথিউস মেট্রিক্স পাওয়া যায় সেটি URI-তে অবস্থিত /metrics.
```
var httpRequestsCounter = promauto.NewCounter(prometheus.CounterOpts{
       Name: "http_requests",
       Help: "number of http requests",
   })
```

একটি অনুরোধের জবাবে GET অ্যাপ্লিকেশন কীটির মান বৃদ্ধি করে (access_count) রেডিসে। এটি একটি HTTP হ্যান্ডলারের অংশ হিসাবে কাজ করার এবং প্রমিথিউস মেট্রিক্স চেক করার একটি সহজ উপায়। মেট্রিক মান মান হিসাবে একই হতে হবে access_count রেডিসে

func main() {
       http.Handle("/metrics", promhttp.Handler())
       http.HandleFunc("/test", func(w http.ResponseWriter, r 
*http.Request) {
           defer httpRequestsCounter.Inc()
           count, err := client.Incr(redisCounterName).Result()
           if err != nil {
               fmt.Println("Unable to increment redis counter", err)
               os.Exit(1)
           }
           resp := "Accessed on " + time.Now().String() + "nAccess count " + strconv.Itoa(int(count))
           w.Write([]byte(resp))
       })
       http.ListenAndServe(":8080", nil)
   }

অ্যাপ্লিকেশনটি Kubernetes এর মাধ্যমে স্থাপন করা হয়েছে Deployment. একটি পরিষেবাও তৈরি করা হয় ClusterIP, এটি প্রমিথিউস সার্ভারকে অ্যাপ্লিকেশন মেট্রিক্স পেতে অনুমতি দেয়।

এখানে অ্যাপ্লিকেশনের জন্য স্থাপনার ম্যানিফেস্ট.

প্রমিথিউস সার্ভার

প্রমিথিউস স্থাপনার ম্যানিফেস্টের মধ্যে রয়েছে:

ConfigMap — প্রমিথিউস কনফিগারেশন স্থানান্তর করতে;
Deployment — কুবারনেটস ক্লাস্টারে প্রমিথিউস স্থাপনের জন্য;
ClusterIP — UI প্রমিথিউস অ্যাক্সেসের জন্য পরিষেবা;
ClusterRole, ClusterRoleBinding и ServiceAccount — Kubernetes (স্বয়ংক্রিয়-আবিষ্কার) পরিষেবাগুলির স্বয়ংক্রিয় সনাক্তকরণের জন্য।

এখানে প্রমিথিউস চালানোর জন্য ম্যানিফেস্ট.

KEDA Prometheus ScaledObject

স্ক্যালার KEDA এবং বাহ্যিক সিস্টেমের মধ্যে একটি সেতু হিসাবে কাজ করে যেখান থেকে মেট্রিক্স প্রাপ্ত করা প্রয়োজন। ScaledObject একটি কাস্টম রিসোর্স যা ইভেন্ট সোর্সের সাথে ডিপ্লয়মেন্ট সিঙ্ক্রোনাইজ করার জন্য স্থাপন করা প্রয়োজন, এই ক্ষেত্রে প্রমিথিউস।

ScaledObject ডিপ্লোয়মেন্ট স্কেলিং তথ্য, ইভেন্ট সোর্স মেটাডেটা (যেমন সংযোগের গোপনীয়তা, সারি নাম), পোলিং ব্যবধান, পুনরুদ্ধারের সময়কাল এবং অন্যান্য ডেটা রয়েছে। এটি স্থাপনার স্কেল করার জন্য সংশ্লিষ্ট অটোস্কেলিং রিসোর্স (HPA সংজ্ঞা) ফলাফল করে।

যখন একটি বস্তু ScaledObject মুছে ফেলা হয়, সংশ্লিষ্ট HPA সংজ্ঞা সাফ করা হয়।

এখানে সংজ্ঞা আছে ScaledObject আমাদের উদাহরণের জন্য, এটি একটি স্কেলার ব্যবহার করে Prometheus:

apiVersion: keda.k8s.io/v1alpha1
kind: ScaledObject
metadata:
 name: prometheus-scaledobject
 namespace: default
 labels:
   deploymentName: go-prom-app
spec:
 scaleTargetRef:
   deploymentName: go-prom-app
 pollingInterval: 15
 cooldownPeriod:  30
 minReplicaCount: 1
 maxReplicaCount: 10
 triggers:
 - type: prometheus
   metadata:
     serverAddress: 
http://prometheus-service.default.svc.cluster.local:9090
     metricName: access_frequency
     threshold: '3'
     query: sum(rate(http_requests[2m]))

নিম্নলিখিত পয়েন্ট বিবেচনা করুন:

সে ইঙ্গিত করে Deployment নাম সহ go-prom-app.
ট্রিগার প্রকার - Prometheus. প্রমিথিউস সার্ভারের ঠিকানা মেট্রিক নাম, থ্রেশহোল্ড এবং সহ উল্লেখ করা হয়েছে PromQL প্রশ্ন, যা ব্যবহার করা হবে। PromQL প্রশ্ন - sum(rate(http_requests[2m])).
অনুযায়ী pollingInterval,কেডা প্রতি পনের সেকেন্ডে প্রমিথিউসের কাছ থেকে একটি লক্ষ্যের অনুরোধ করে। অন্তত একটি অধীনে (minReplicaCount), এবং পডের সর্বাধিক সংখ্যা অতিক্রম করে না maxReplicaCount (এই উদাহরণে - দশ)।

ইন্সটল করতে পারবেন minReplicaCount শূন্যের সমান। এই ক্ষেত্রে, KEDA শূন্য থেকে এক স্থাপনা সক্রিয় করে এবং তারপরে আরও স্বয়ংক্রিয় স্কেলিং এর জন্য HPA প্রকাশ করে। বিপরীত ক্রমও সম্ভব, অর্থাৎ এক থেকে শূন্য পর্যন্ত স্কেলিং করা। উদাহরণে, আমরা শূন্য নির্বাচন করিনি কারণ এটি একটি HTTP পরিষেবা এবং একটি অন-ডিমান্ড সিস্টেম নয়৷

অটোস্কেলিংয়ের ভিতরে যাদু

থ্রেশহোল্ড স্থাপনা স্কেল একটি ট্রিগার হিসাবে ব্যবহার করা হয়. আমাদের উদাহরণে, PromQL ক্যোয়ারী sum(rate (http_requests [2m])) একত্রিত HTTP অনুরোধের হার (প্রতি সেকেন্ডে অনুরোধ), গত দুই মিনিটে পরিমাপ করে।

যেহেতু থ্রেশহোল্ড মান তিনটি, এর মানে হল মান যখন একটির নিচে থাকবে sum(rate (http_requests [2m])) তিনের কম মান বৃদ্ধি হলে, প্রতিবার একটি অতিরিক্ত সাব যোগ করা হয় sum(rate (http_requests [2m])) তিন দ্বারা বৃদ্ধি পায়। উদাহরণস্বরূপ, যদি মানটি 12 থেকে 14 পর্যন্ত হয়, তাহলে পডের সংখ্যা চারটি।

এখন এটা সেট আপ করার চেষ্টা করা যাক!

প্রাক-সেটিং

আপনার যা দরকার তা হল একটি কুবারনেটস ক্লাস্টার এবং একটি কনফিগার করা ইউটিলিটি kubectl. এই উদাহরণটি একটি ক্লাস্টার ব্যবহার করে minikube, কিন্তু আপনি অন্য যে কোনো একটি নিতে পারেন. একটি ক্লাস্টার ইনস্টল করার জন্য আছে নেতৃত্ব.

Mac এ সর্বশেষ সংস্করণ ইনস্টল করুন:

curl -Lo minikube 
https://storage.googleapis.com/minikube/releases/latest/minikube-linux-amd64 
&& chmod +x minikube
sudo mkdir -p /usr/local/bin/
sudo install minikube /usr/local/bin/

ইনস্টল করুন কুবেক্টেলকুবারনেটস ক্লাস্টার অ্যাক্সেস করতে।

Mac এ সর্বশেষ সংস্করণ ইনস্টল করুন:

curl -LO 
"https://storage.googleapis.com/kubernetes-release/release/$(curl -s
https://storage.googleapis.com/kubernetes-release/release/stable.txt)/bin/darwin/amd64/kubectl"
chmod +x ./kubectl
sudo mv ./kubectl /usr/local/bin/kubectl
kubectl version

KEDA ইনস্টলেশন

আপনি বিভিন্ন উপায়ে KEDA স্থাপন করতে পারেন, সেগুলি তালিকাভুক্ত করা হয়েছে৷ ডকুমেন্টেশন. আমি একচেটিয়া YAML ব্যবহার করছি:

kubectl apply -f
https://raw.githubusercontent.com/kedacore/keda/master/deploy/KedaScaleController.yaml

KEDA এবং এর উপাদানগুলি নামস্থানে ইনস্টল করা আছে keda. চেক করার আদেশ:

kubectl get pods -n keda

KEDA অপারেটর শুরু করার জন্য অপেক্ষা করুন এবং যান Running State. এবং এর পরে, চালিয়ে যান।

হেলম ব্যবহার করে রেডিস ইনস্টল করা হচ্ছে

আপনার যদি হেলম ইনস্টল না থাকে তবে এটি ব্যবহার করুন নেতৃত্ব. ম্যাকে ইনস্টল করার জন্য কমান্ড:

brew install kubernetes-helm
helm init --history-max 200

helm init স্থানীয় কমান্ড লাইন ইন্টারফেস আরম্ভ করে এবং ইনস্টল করে Tiller কুবারনেটস ক্লাস্টারে।

kubectl get pods -n kube-system | grep tiller

টিলার পডটি চলমান অবস্থায় প্রবেশ করার জন্য অপেক্ষা করুন।

অনুবাদকের নোট: লেখক হেলম@2 ব্যবহার করেন, যার জন্য টিলার সার্ভার উপাদান ইনস্টল করা প্রয়োজন। এখন Helm@3 প্রাসঙ্গিক, এটির সার্ভার অংশের প্রয়োজন নেই।

হেলম ইনস্টল করার পরে, রেডিস শুরু করার জন্য একটি কমান্ড যথেষ্ট:

helm install --name redis-server --set cluster.enabled=false --set 
usePassword=false stable/redis

যাচাই করুন যে Redis সফলভাবে শুরু হয়েছে:

kubectl get pods/redis-server-master-0

রেডিস রাজ্যে যাওয়ার জন্য অপেক্ষা করুন Running.

অ্যাপ্লিকেশন স্থাপনা

স্থাপনার আদেশ:

kubectl apply -f go-app.yaml

//output
deployment.apps/go-prom-app created
service/go-prom-app-service created

সবকিছু শুরু হয়েছে তা পরীক্ষা করুন:

kubectl get pods -l=app=go-prom-app

রেডিস রাজ্যে প্রবেশের জন্য অপেক্ষা করুন Running.

একটি প্রমিথিউস সার্ভার স্থাপন করা হচ্ছে

প্রমিথিউস ম্যানিফেস্ট ব্যবহার করে প্রমিথিউসের জন্য কুবারনেটস পরিষেবা আবিষ্কার. এটি পরিষেবা লেবেলের উপর ভিত্তি করে অ্যাপ্লিকেশন পডগুলির গতিশীল আবিষ্কারের অনুমতি দেয়।

kubernetes_sd_configs:
   - role: service
   relabel_configs:
   - source_labels: [__meta_kubernetes_service_label_run]
     regex: go-prom-app-service
     action: keep

স্থাপন করা:

kubectl apply -f prometheus.yaml

//output
clusterrole.rbac.authorization.k8s.io/prometheus created
serviceaccount/default configured
clusterrolebinding.rbac.authorization.k8s.io/prometheus created
configmap/prom-conf created
deployment.extensions/prometheus-deployment created
service/prometheus-service created

সবকিছু শুরু হয়েছে তা পরীক্ষা করুন:

kubectl get pods -l=app=prometheus-server

প্রমিথিউসের রাজ্যে যাওয়ার জন্য অপেক্ষা করুন Running.

ব্যবহার kubectl port-forward এ প্রমিথিউস ইউজার ইন্টারফেস (বা API সার্ভার) অ্যাক্সেস করতে http://localhost:9090.

kubectl port-forward service/prometheus-service 9090

KEDA অটোস্কেলিং কনফিগারেশন স্থাপন করা হচ্ছে

তৈরি করার নির্দেশ ScaledObject:

kubectl apply -f keda-prometheus-scaledobject.yaml

KEDA অপারেটর লগ চেক করুন:

KEDA_POD_NAME=$(kubectl get pods -n keda 
-o=jsonpath='{.items[0].metadata.name}')
kubectl logs $KEDA_POD_NAME -n keda

ফলাফল এই মত কিছু দেখায়:

time="2019-10-15T09:38:28Z" level=info msg="Watching ScaledObject:
default/prometheus-scaledobject"
time="2019-10-15T09:38:28Z" level=info msg="Created HPA with 
namespace default and name keda-hpa-go-prom-app"

অ্যাপ্লিকেশন অধীনে চেক করুন. এক দৃষ্টান্ত চলমান হতে হবে কারণ minReplicaCount সমান 1:

kubectl get pods -l=app=go-prom-app

যাচাই করুন যে HPA সম্পদ সফলভাবে তৈরি করা হয়েছে:

kubectl get hpa

আপনার এমন কিছু দেখতে হবে:

NAME                   REFERENCE                TARGETS     MINPODS   MAXPODS   REPLICAS   AGE
keda-hpa-go-prom-app   Deployment/go-prom-app   0/3 (avg)   1         10        1          45s

স্বাস্থ্য পরীক্ষা: অ্যাপ্লিকেশন অ্যাক্সেস

আমাদের অ্যাপ্লিকেশনের REST এন্ডপয়েন্ট অ্যাক্সেস করতে, চালান:

kubectl port-forward service/go-prom-app-service 8080

আপনি এখন ঠিকানা ব্যবহার করে আপনার Go অ্যাপ অ্যাক্সেস করতে পারবেন http://localhost:8080. এটি করতে, কমান্ডটি চালান:

curl http://localhost:8080/test

ফলাফল এই মত কিছু দেখায়:

Accessed on 2019-10-21 11:29:10.560385986 +0000 UTC 
m=+406004.817901246
Access count 1

এই সময়েও Redis চেক করুন। দেখবেন সেই চাবি access_count 1 এ বেড়েছে:

kubectl exec -it redis-server-master-0 -- redis-cli get access_count
//output
"1"

মেট্রিক মান নিশ্চিত করুন http_requests একই:

curl http://localhost:8080/metrics | grep http_requests
//output
# HELP http_requests number of http requests
# TYPE http_requests counter
http_requests 1

লোড সৃষ্টি

আমরা ব্যবহার করবো অঁ্যা - লোড তৈরির জন্য ইউটিলিটি:

curl -o hey https://storage.googleapis.com/hey-release/hey_darwin_amd64 
&& chmod a+x hey

আপনি এর জন্য ইউটিলিটি ডাউনলোড করতে পারেন লিনাক্স বা উইন্ডোজ.

চালাও এটা:

./hey http://localhost:8080/test

ডিফল্টরূপে, ইউটিলিটি 200টি অনুরোধ পাঠায়। আপনি প্রমিথিউস মেট্রিক্সের পাশাপাশি রেডিস ব্যবহার করে এটি যাচাই করতে পারেন।

curl http://localhost:8080/metrics | grep http_requests
//output
# HELP http_requests number of http requests
# TYPE http_requests counter
http_requests 201
kubectl exec -it redis-server-master-0 -- redis-cli get access_count
//output
201

প্রকৃত মেট্রিকের মান যাচাই করুন (প্রোমকিউএল কোয়েরি দ্বারা প্রত্যাবর্তিত):

curl -g 
'http://localhost:9090/api/v1/query?query=sum(rate(http_requests[2m]))'
//output
{"status":"success","data":{"resultType":"vector","result":[{"metric":{},"value":[1571734214.228,"1.686057971014493"]}]}}

এই ক্ষেত্রে প্রকৃত ফলাফল 1,686057971014493 এবং ক্ষেত্রে প্রদর্শিত হয় value. এটি স্কেলিং করার জন্য যথেষ্ট নয়, যেহেতু আমরা যে থ্রেশহোল্ড সেট করেছি তা হল 3।

আরো লোড!

নতুন টার্মিনালে, অ্যাপ্লিকেশন পডের সংখ্যা নিরীক্ষণ করুন:

kubectl get pods -l=app=go-prom-app -w

কমান্ড ব্যবহার করে লোড বৃদ্ধি করা যাক:

./hey -n 2000 http://localhost:8080/test

কিছুক্ষণ পরে, আপনি দেখতে পাবেন যে HPA স্থাপনা স্কেল করছে এবং নতুন পড চালু করছে। নিশ্চিত করতে আপনার HPA পরীক্ষা করুন:

kubectl get hpa
NAME                   REFERENCE                TARGETS         MINPODS   MAXPODS   REPLICAS   AGE
keda-hpa-go-prom-app   Deployment/go-prom-app   1830m/3 (avg)   1         10        6          4m22s

যদি লোডটি অসামঞ্জস্যপূর্ণ হয়, তাহলে স্থাপনাটি এমন স্থানে হ্রাস পাবে যেখানে শুধুমাত্র একটি পড চলছে। আপনি যদি প্রকৃত মেট্রিক পরীক্ষা করতে চান (প্রোমকিউএল ক্যোয়ারী দ্বারা প্রত্যাবর্তিত), তাহলে কমান্ডটি ব্যবহার করুন:

curl -g 
'http://localhost:9090/api/v1/query?query=sum(rate(http_requests[2m]))'

Очистка

//Delete KEDA
kubectl delete namespace keda
//Delete the app, Prometheus server and KEDA scaled object
kubectl delete -f .
//Delete Redis
helm del --purge redis-server

উপসংহার

KEDA আপনাকে বাহ্যিক মেট্রিক্সের ডেটার উপর ভিত্তি করে স্বয়ংক্রিয়ভাবে আপনার Kubernetes স্থাপনা (শূন্য থেকে/শূন্য) স্কেল করতে দেয়। উদাহরণস্বরূপ, প্রমিথিউস মেট্রিক্সের উপর ভিত্তি করে, রেডিসে সারির দৈর্ঘ্য, কাফকা বিষয়ে ভোক্তা লেটেন্সি।

KEDA একটি বাহ্যিক উত্সের সাথে সংহত করে এবং মেট্রিক্স সার্ভারের মাধ্যমে অনুভূমিক পড অটোস্ক্যালারের মাধ্যমে এর মেট্রিক্স প্রদান করে।

সৌভাগ্য কামনা করছি!

আর কি পড়তে হবে:

উত্স: www.habr.com

Prometheus এবং KEDA-এর সাথে কুবারনেটস অ্যাপ্লিকেশন অটোস্কেলিং