ෆ්ලැගර් සහ ඉස්ටියෝ සමඟ ස්වයංක්‍රීය කැනරි යෙදවීම්

CD යනු ව්‍යවසාය මෘදුකාංග භාවිතයක් ලෙස පිළිගෙන ඇති අතර එය ස්ථාපිත CI මූලධර්මවල ස්වභාවික පරිණාමයකි. කෙසේ වෙතත්, CD තවමත් තරමක් දුර්ලභ ය, සමහර විට කළමනාකරණයේ සංකීර්ණත්වය සහ පද්ධති ලබා ගැනීමේ හැකියාවට බලපාන අසාර්ථක යෙදවීම් පිලිබඳ බිය නිසා විය හැක.

ධජය ව්‍යාකූල සබඳතා තුරන් කිරීම අරමුණු කරගත් විවෘත මූලාශ්‍ර Kubernetes ක්රියාකරු වේ. කළමනාකරණය කරන ලද ප්‍රචාරණයකදී යෙදුම් හැසිරීම විශ්ලේෂණය කිරීමට Istio ගමනාගමන ඕෆ්සෙට් සහ Prometheus මෙට්‍රික්ස් භාවිතයෙන් කැනරි යෙදවීම් ප්‍රවර්ධනය කිරීම එය ස්වයංක්‍රීය කරයි.

පහත දැක්වෙන්නේ Google Kubernetes Engine (GKE) හි Flagger පිහිටුවීමට සහ භාවිතා කිරීමට පියවරෙන් පියවර මාර්ගෝපදේශයකි.

Kubernetes පොකුරක් පිහිටුවීම

ඔබ Istio ඇඩෝනය සමඟ GKE පොකුරක් සෑදීමෙන් ආරම්භ කරන්න (ඔබට GCP ගිණුමක් නොමැති නම්, ඔබට ලියාපදිංචි විය හැක මෙහි - නොමිලේ බැර ලබා ගැනීමට).

Google Cloud වෙත පුරන්න, ව්‍යාපෘතියක් සාදන්න, සහ ඒ සඳහා බිල්පත් සක්‍රීය කරන්න. විධාන රේඛා උපයෝගීතාව ස්ථාපනය කරන්න gCloud සහ ඔබේ ව්‍යාපෘතිය වින්‍යාස කරන්න gcloud init.

පෙරනිමි ව්‍යාපෘතිය, ගණනය කිරීමේ ප්‍රදේශය සහ කලාපය සකසන්න (ප්‍රතිස්ථාපනය කරන්න PROJECT_ID ඔබේ ව්යාපෘතිය සඳහා):

gcloud config set project PROJECT_ID
gcloud config set compute/region us-central1
gcloud config set compute/zone us-central1-a

GKE සේවාව සබල කර HPA සහ Istio ඇඩෝන සහිත පොකුරක් සාදන්න:

gcloud services enable container.googleapis.com
K8S_VERSION=$(gcloud beta container get-server-config --format=json | jq -r '.validMasterVersions[0]')
gcloud beta container clusters create istio 
--cluster-version=${K8S_VERSION} 
--zone=us-central1-a 
--num-nodes=2 
--machine-type=n1-standard-2 
--disk-size=30 
--enable-autorepair 
--no-enable-cloud-logging 
--no-enable-cloud-monitoring 
--addons=HorizontalPodAutoscaling,Istio 
--istio-config=auth=MTLS_PERMISSIVE

ඉහත විධානය මඟින් VM දෙකකින් සමන්විත පෙරනිමි නෝඩ් සංචිතයක් සාදනු ඇත n1-standard-2 (vCPU: 2, RAM 7,5 GB, තැටිය: 30 GB). ඉතා මැනවින්, Istio සංරචක ඒවායේ වැඩ බරින් හුදකලා විය යුතුය, නමුත් කැප වූ නෝඩ් සංචිතයක් මත Istio කරල් ධාවනය කිරීමට පහසු ක්‍රමයක් නොමැත. Istio ප්‍රකාශන කියවීමට පමණක් ලෙස සලකනු ලබන අතර, GKE විසින් node එකක් මතම බන්ධනය වීම හෝ පොඩ් එකකින් වෙන්වීම වැනි ඕනෑම වෙනස්කමක් ප්‍රතිවර්තනය කරයි.

සඳහා අක්තපත්ර සකසන්න kubectl:

gcloud container clusters get-credentials istio

පොකුරු පරිපාලක භූමිකාව බැඳීමක් සාදන්න:

kubectl create clusterrolebinding "cluster-admin-$(whoami)" 
--clusterrole=cluster-admin 
--user="$(gcloud config get-value core/account)"

විධාන රේඛා මෙවලම ස්ථාපනය කරන්න හෙල්ම්:

brew install kubernetes-helm

Homebrew 2.0 දැන් ද ලබා ගත හැකිය ලිනක්ස්.

ටිලර් සඳහා සේවා ගිණුමක් සහ පොකුරු භූමිකාව බැඳීම සාදන්න:

kubectl -n kube-system create sa tiller && 
kubectl create clusterrolebinding tiller-cluster-rule 
--clusterrole=cluster-admin 
--serviceaccount=kube-system:tiller

නාම අවකාශයේ ටිලර් පුළුල් කරන්න kube-system:

helm init --service-account tiller

ඔබ Helm සහ Tiller අතර SSL භාවිතා කිරීම සලකා බැලිය යුතුය. ඔබගේ හෙල්ම් ස්ථාපනය ආරක්ෂා කිරීම පිළිබඳ වැඩි විස්තර සඳහා, බලන්න docs.helm.sh

සැකසීම් තහවුරු කරන්න:

kubectl -n istio-system get svc

තත්පර කිහිපයකට පසු, GCP විසින් සේවාවට බාහිර IP ලිපිනයක් ලබා දිය යුතුය istio-ingressgateway.

ඉස්ටියෝ ඇතුල්වීමේ දොරටුවක් පිහිටුවීම

නම සමඟ ස්ථිතික IP ලිපිනයක් සාදන්න istio-gatewayIstio gateway IP ලිපිනය භාවිතා කරමින්:

export GATEWAY_IP=$(kubectl -n istio-system get svc/istio-ingressgateway -ojson | jq -r .status.loadBalancer.ingress[0].ip)
gcloud compute addresses create istio-gateway --addresses ${GATEWAY_IP} --region us-central1

දැන් ඔබට අන්තර්ජාල වසමක් සහ ඔබේ DNS රෙජිස්ට්‍රාර් වෙත ප්‍රවේශය අවශ්‍ය වේ. A වාර්තා දෙකක් එක් කරන්න (ප්‍රතිස්ථාපනය කරන්න example.com ඔබගේ වසමට):

istio.example.com   A ${GATEWAY_IP}
*.istio.example.com A ${GATEWAY_IP}

DNS Wildcard ක්‍රියා කරන බව තහවුරු කරන්න:

watch host test.istio.example.com

HTTP හරහා සේවා දැලෙන් පිටත සේවා සැපයීමට සාමාන්‍ය Istio ද්වාරයක් සාදන්න:

apiVersion: networking.istio.io/v1alpha3
kind: Gateway
metadata:
  name: public-gateway
  namespace: istio-system
spec:
  selector:
    istio: ingressgateway
  servers:
    - port:
        number: 80
        name: http
        protocol: HTTP
      hosts:
        - "*"

ඉහත සම්පත public-gateway.yaml ලෙස සුරකින්න පසුව එය යොදන්න:

kubectl apply -f ./public-gateway.yaml

SSL නොමැතිව කිසිදු නිෂ්පාදන පද්ධතියක් අන්තර්ජාලයේ සේවා සැපයිය යුතු නැත. සහතික කළමණාකරු, CloudDNS සහ Let's Encrypt සමඟ ඔබේ Istio ඇතුල්වීමේ දොරටුව සුරක්ෂිත කිරීමට, කරුණාකර කියවන්න ලේඛනගත කිරීම කොඩිකරු ජී.කේ.ඊ.

ධජය ස්ථාපනය කිරීම

GKE Istio ඇඩෝනයෙහි Istio ටෙලිමෙට්‍රි සේවාව පිරිසිදු කරන Prometheus අවස්ථාව ඇතුළත් නොවේ. කැනරි විශ්ලේෂණය සිදු කිරීමට Flagger Istio HTTP ප්‍රමිතික භාවිතා කරන බැවින්, ඔබට පහත Prometheus වින්‍යාසය යෙදවීමට අවශ්‍ය වේ, නිල Istio Helm schema සමඟ එන ආකාරයටම.

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/gke/istio-prometheus.yaml

Flagger Helm ගබඩාව එක් කරන්න:

helm repo add flagger [https://flagger.app](https://flagger.app/)

ධජය නාම අවකාශයට පුළුල් කරන්න istio-systemSlack දැනුම්දීම් සබල කිරීමෙන්:

helm upgrade -i flagger flagger/flagger 
--namespace=istio-system 
--set metricsServer=http://prometheus.istio-system:9090 
--set slack.url=https://hooks.slack.com/services/YOUR-WEBHOOK-ID 
--set slack.channel=general 
--set slack.user=flagger

9090 වරායේ Istio Prometheus සේවාව සමඟ සන්නිවේදනය කළ හැකි තාක් ඔබට ඕනෑම නාම අවකාශයක Flagger ස්ථාපනය කළ හැක.

Flagger සතුව කැනරි විශ්ලේෂණය සඳහා Grafana උපකරණ පුවරුවක් ඇත. නාම අවකාශයේ Grafana ස්ථාපනය කරන්න istio-system:

helm upgrade -i flagger-grafana flagger/grafana 
--namespace=istio-system 
--set url=http://prometheus.istio-system:9090 
--set user=admin 
--set password=change-me

අතථ්‍ය සේවාවක් නිර්මාණය කිරීම මගින් විවෘත ද්වාරයක් හරහා Grafana නිරාවරණය කරන්න (ප්‍රතිස්ථාපනය කරන්න example.com ඔබගේ වසමට):

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: grafana
  namespace: istio-system
spec:
  hosts:
    - "grafana.istio.example.com"
  gateways:
    - public-gateway.istio-system.svc.cluster.local
  http:
    - route:
        - destination:
            host: flagger-grafana

ඉහත සම්පත grafana-virtual-service.yaml ලෙස සුරකින්න පසුව එය යොදන්න:

kubectl apply -f ./grafana-virtual-service.yaml

යන විට http://grafana.istio.example.com ඔබගේ බ්‍රවුසරය ඔබව Grafana පිවිසුම් පිටුවට යොමු කළ යුතුය.

Flagger සමඟ වෙබ් යෙදුම් යෙදවීම

Flagger Kubernetes යොදවන අතර, අවශ්‍ය නම්, තිරස් ස්වයං පරිමාණය (HPA), ඉන්පසු වස්තු මාලාවක් (Kubernetes යෙදවීම්, ClusterIP සේවා සහ Istio අතථ්‍ය සේවා) නිර්මාණය කරයි. මෙම වස්තු සේවා දැල වෙත යෙදුම නිරාවරණය කරන අතර කැනරි විශ්ලේෂණය සහ ප්‍රවර්ධනය පාලනය කරයි.

Istio Sidecar ක්රියාත්මක කිරීම සබල කර ඇති පරීක්ෂණ නාම අවකාශයක් සාදන්න:

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/namespaces/test.yaml

පොඩ් එක සඳහා යෙදවීමක් සහ ස්වයංක්‍රීය තිරස් පරිමාණ මෙවලමක් සාදන්න:

kubectl apply -f ${REPO}/artifacts/canaries/deployment.yaml
kubectl apply -f ${REPO}/artifacts/canaries/hpa.yaml

කැනරි විශ්ලේෂණය අතරතුර ගමනාගමනය උත්පාදනය කිරීමට බර පරීක්ෂණ සේවාවක් යොදන්න:

helm upgrade -i flagger-loadtester flagger/loadtester 
--namepace=test

අභිරුචි කැනරි සම්පතක් සාදන්න (ප්‍රතිස්ථාපනය කරන්න example.com ඔබගේ වසමට):

apiVersion: flagger.app/v1alpha3
kind: Canary
metadata:
  name: podinfo
  namespace: test
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: podinfo
  progressDeadlineSeconds: 60
  autoscalerRef:
    apiVersion: autoscaling/v2beta1
    kind: HorizontalPodAutoscaler
    name: podinfo
  service:
    port: 9898
    gateways:
    - public-gateway.istio-system.svc.cluster.local
    hosts:
    - app.istio.example.com
  canaryAnalysis:
    interval: 30s
    threshold: 10
    maxWeight: 50
    stepWeight: 5
    metrics:
    - name: istio_requests_total
      threshold: 99
      interval: 30s
    - name: istio_request_duration_seconds_bucket
      threshold: 500
      interval: 30s
    webhooks:
      - name: load-test
        url: http://flagger-loadtester.test/
        timeout: 5s
        metadata:
          cmd: "hey -z 1m -q 10 -c 2 http://podinfo.test:9898/"

ඉහත සම්පත podinfo-canary.yaml ලෙස සුරකින්න පසුව එය යොදන්න:

kubectl apply -f ./podinfo-canary.yaml

ඉහත විශ්ලේෂණය, සාර්ථක නම්, සෑම මිනිත්තු භාගයකම HTTP මිතික පරීක්ෂා කරමින් මිනිත්තු පහක් ක්‍රියාත්මක වනු ඇත. පහත සූත්‍රය භාවිතයෙන් කැනරි යෙදවීම පරීක්ෂා කිරීමට සහ ප්‍රවර්ධනය කිරීමට අවශ්‍ය අවම කාලය ඔබට තීරණය කළ හැක: interval * (maxWeight / stepWeight). කැනරි CRD ක්ෂේත්‍ර ලේඛනගත කර ඇත මෙහි.

තත්පර කිහිපයකට පසු, ෆ්ලැගර් කැනරි වස්තූන් නිර්මාණය කරයි:

# applied 
deployment.apps/podinfo
horizontalpodautoscaler.autoscaling/podinfo
canary.flagger.app/podinfo
# generated 
deployment.apps/podinfo-primary
horizontalpodautoscaler.autoscaling/podinfo-primary
service/podinfo
service/podinfo-canary
service/podinfo-primary
virtualservice.networking.istio.io/podinfo

ඔබගේ බ්‍රව්සරය විවෘත කර යන්න app.istio.example.com, ඔබ අනුවාද අංකය දැකිය යුතුය demo යෙදුම්.

ස්වයංක්‍රීය කැනරි විශ්ලේෂණය සහ ප්‍රවර්ධනය

ෆ්ලැගර් විසින් HTTP ඉල්ලීම් සාර්ථක වීමේ අනුපාතය, සාමාන්‍ය ඉල්ලීම් කාලසීමාව සහ පොඩ් සෞඛ්‍යය වැනි ප්‍රධාන කාර්ය සාධන දර්ශක මැනීමේදී ක්‍රමයෙන් කැනරි වෙත ගමනාගමනය ගෙන යන පාලන ලූපයක් ක්‍රියාත්මක කරයි. KPI විශ්ලේෂණය මත පදනම්ව, කැනරි ප්රවර්ධනය කිරීම හෝ අවසන් කිරීම, සහ විශ්ලේෂණයේ ප්රතිඵල Slack හි ප්රකාශයට පත් කෙරේ.

පහත වස්තු වලින් එකක් වෙනස් වූ විට කැනරි යෙදවීම ආරම්භ වේ:

• PodSpec යොදවන්න (බහාලුම් රූපය, විධාන, වරාය, env, ආදිය)
• වින්‍යාස සිතියම් පරිමා ලෙස සවි කර හෝ පරිසර විචල්‍ය බවට පරිවර්තනය වේ
• රහස් පරිමා ලෙස සවි කර හෝ පරිසර විචල්‍ය බවට පරිවර්තනය වේ

බහාලුම් රූපය යාවත්කාලීන කිරීමේදී කැනරි යෙදවීම ධාවනය කරන්න:

kubectl -n test set image deployment/podinfo 
podinfod=quay.io/stefanprodan/podinfo:1.4.1

Flagger යෙදවීමේ අනුවාදය වෙනස් වී ඇති බව හඳුනාගෙන එය විශ්ලේෂණය කිරීමට පටන් ගනී:

kubectl -n test describe canary/podinfo

Events:

New revision detected podinfo.test
Scaling up podinfo.test
Waiting for podinfo.test rollout to finish: 0 of 1 updated replicas are available
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Advance podinfo.test canary weight 20
Advance podinfo.test canary weight 25
Advance podinfo.test canary weight 30
Advance podinfo.test canary weight 35
Advance podinfo.test canary weight 40
Advance podinfo.test canary weight 45
Advance podinfo.test canary weight 50
Copying podinfo.test template spec to podinfo-primary.test
Waiting for podinfo-primary.test rollout to finish: 1 of 2 updated replicas are available
Promotion completed! Scaling down podinfo.test

විශ්ලේෂණය අතරතුර, ග්‍රැෆනා භාවිතයෙන් කැනරි ප්‍රතිඵල නිරීක්ෂණය කළ හැක:

කරුණාකර සටහන් කරන්න: කැනරි විශ්ලේෂණය අතරතුර යෙදවීම සඳහා නව වෙනස්කම් යොදන්නේ නම්, Flagger විශ්ලේෂණ අදියර නැවත ආරම්භ කරනු ඇත.

ඔබේ පොකුරේ ඇති සියලුම කැනරි ලැයිස්තුවක් සාදන්න:

watch kubectl get canaries --all-namespaces
NAMESPACE   NAME      STATUS        WEIGHT   LASTTRANSITIONTIME
test        podinfo   Progressing   15       2019-01-16T14:05:07Z
prod        frontend  Succeeded     0        2019-01-15T16:15:07Z
prod        backend   Failed        0        2019-01-14T17:05:07Z

ඔබ Slack දැනුම්දීම් සක්‍රීය කර ඇත්නම්, ඔබට පහත පණිවිඩ ලැබෙනු ඇත:

ස්වයංක්‍රීය ආපසු හැරීම

කැනරි විශ්ලේෂණය අතරතුර, Flagger යෙදවීම නවත්වන්නේ දැයි පරීක්ෂා කිරීමට ඔබට කෘතිම HTTP 500 දෝෂ සහ ඉහළ ප්‍රතිචාර ප්‍රමාදයක් ජනනය කළ හැක.

පරීක්ෂණ පොඩ් එකක් සාදා එහි පහත දේ කරන්න:

kubectl -n test run tester 
--image=quay.io/stefanprodan/podinfo:1.2.1 
-- ./podinfo --port=9898
kubectl -n test exec -it tester-xx-xx sh

HTTP 500 දෝෂ උත්පාදනය කිරීම:

watch curl http://podinfo-canary:9898/status/500

ප්‍රමාද උත්පාදනය:

watch curl http://podinfo-canary:9898/delay/1

අසාර්ථක චෙක්පත් සංඛ්‍යාව එළිපත්තකට ළඟා වූ විට, ගමනාගමනය ප්‍රාථමික නාලිකාව වෙත ආපසු හරවනු ලැබේ, කැනරි ශුන්‍යයට පරිමාණය කෙරේ, සහ යෙදවීම අසාර්ථක ලෙස සලකුණු කෙරේ.

කැනරි දෝෂ සහ ප්‍රමාද කරල් Kubernetes සිදුවීම් ලෙස ලොග් කර JSON ආකෘතියෙන් Flagger විසින් පටිගත කර ඇත:

kubectl -n istio-system logs deployment/flagger -f | jq .msg

Starting canary deployment for podinfo.test
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Halt podinfo.test advancement success rate 69.17% < 99%
Halt podinfo.test advancement success rate 61.39% < 99%
Halt podinfo.test advancement success rate 55.06% < 99%
Halt podinfo.test advancement success rate 47.00% < 99%
Halt podinfo.test advancement success rate 37.00% < 99%
Halt podinfo.test advancement request duration 1.515s > 500ms
Halt podinfo.test advancement request duration 1.600s > 500ms
Halt podinfo.test advancement request duration 1.915s > 500ms
Halt podinfo.test advancement request duration 2.050s > 500ms
Halt podinfo.test advancement request duration 2.515s > 500ms
Rolling back podinfo.test failed checks threshold reached 10
Canary failed! Scaling down podinfo.test

ඔබ Slack දැනුම්දීම් සක්‍රීය කර ඇත්නම්, විශ්ලේෂණයක දී අසාර්ථක වූ උපරිම සමාලෝචන සංඛ්‍යාව සම්පූර්ණ කිරීමට හෝ ළඟා වීමට නියමිත කාලසීමාව ඉක්මවා ගිය විට ඔබට පණිවිඩයක් ලැබෙනු ඇත:

අවසාන වශයෙන්

Kubernetes මත Istio වැනි සේවා දැලක් ධාවනය කිරීම ස්වයංක්‍රීය ප්‍රමිතික, ලඝු-සටහන් සහ ලඝු-සටහන් සපයනු ඇත, නමුත් වැඩ බර යෙදවීම තවමත් බාහිර මෙවලම් මත රඳා පවතී. Flagger විසින් Istio හැකියාවන් එකතු කිරීමෙන් මෙය වෙනස් කිරීම අරමුණු කරයි ප්රගතිශීලී බෙදාහැරීම.

Flagger Kubernetes සඳහා ඕනෑම CI/CD විසඳුමක් සමඟ අනුකූල වන අතර, කැනරි විශ්ලේෂණය පහසුවෙන් දීර්ඝ කළ හැක webhooks පද්ධති ඒකාබද්ධ කිරීම/පිළිගැනීමේ පරීක්ෂණ, පැටවීමේ පරීක්ෂණ හෝ වෙනත් අභිරුචි පරීක්ෂණ සිදු කිරීමට. Flagger ප්‍රකාශනාත්මක වන අතර Kubernetes සිදුවීම් වලට ප්‍රතිචාර දක්වන නිසා, එය GitOps නල මාර්ගවල භාවිතා කළ හැක වීව් ෆ්ලක්ස් හෝ ජෙන්කින්ස්එක්ස්. ඔබ JenkinsX භාවිතා කරන්නේ නම්, ඔබට jx add-ons සමඟ Flagger ස්ථාපනය කළ හැකිය.

ෆ්ලැගර් සහාය දක්වයි රෙදි විවීම සහ කැනරි යෙදවීම් සපයයි වලාකුළු වියන්න. ව්‍යාපෘතිය GKE, EKS සහ kubeadm සමඟ හිස් ලෝහ මත පරීක්ෂා කරනු ලැබේ.

ඔබට Flagger වැඩිදියුණු කිරීම සඳහා යෝජනා තිබේ නම්, කරුණාකර GitHub හි ගැටලුවක් හෝ PR ඉදිරිපත් කරන්න stefanprodan/flagger. දායකත්වය සාදරයෙන් පිළිගනිමු!

ස්තුතියි රේ සාං.

මූලාශ්රය: www.habr.com