פריסות קנריות אוטומטיות עם Flagger ו-Istio

CD מוכר כפרקטיקה של תוכנה ארגונית ומהווה התפתחות טבעית של עקרונות CI מבוססים. עם זאת, CD עדיין נדיר למדי, אולי בשל מורכבות הניהול והחשש מפריסות כושלות המשפיעות על זמינות המערכת.

דגל הוא מפעיל קוד פתוח של Kubernetes שמטרתו לחסל קשרים מבלבלים. זה ממכן את הקידום של פריסות קנריות באמצעות קיזוז תעבורה של Istio ומדדי Prometheus כדי לנתח את התנהגות האפליקציה במהלך השקה מנוהלת.

להלן מדריך שלב אחר שלב להגדרה ושימוש ב-flagger ב-Google Kubernetes Engine (GKE).

הגדרת אשכול Kubernetes

אתה מתחיל ביצירת אשכול GKE עם התוסף Istio (אם אין לך חשבון GCP, אתה יכול להירשם כאן - לקבלת קרדיטים חינם).

היכנס ל-Google Cloud, צור פרויקט והפעל עבורו חיוב. התקן את תוכנית השירות של שורת הפקודה gcloud ולהגדיר את הפרויקט שלך עם gcloud init.

הגדר את פרויקט ברירת המחדל, אזור החישוב והאזור (החלף PROJECT_ID עבור הפרויקט שלך):

gcloud config set project PROJECT_ID
gcloud config set compute/region us-central1
gcloud config set compute/zone us-central1-a

הפעל את שירות GKE וצור אשכול עם תוספות HPA ו-Istio:

gcloud services enable container.googleapis.com
K8S_VERSION=$(gcloud beta container get-server-config --format=json | jq -r '.validMasterVersions[0]')
gcloud beta container clusters create istio 
--cluster-version=${K8S_VERSION} 
--zone=us-central1-a 
--num-nodes=2 
--machine-type=n1-standard-2 
--disk-size=30 
--enable-autorepair 
--no-enable-cloud-logging 
--no-enable-cloud-monitoring 
--addons=HorizontalPodAutoscaling,Istio 
--istio-config=auth=MTLS_PERMISSIVE

הפקודה לעיל תיצור מאגר צמתים המוגדר כברירת מחדל המורכב משני מחשבי VM n1-standard-2 (מעבד vC: 2, זיכרון RAM 7,5 GB, דיסק: 30 GB). באופן אידיאלי, רכיבי Istio צריכים להיות מבודדים מעומסי העבודה שלהם, אבל אין דרך קלה להפעיל פודים של Istio על מאגר צמתים ייעודי. מניפסטים של Istio נחשבים לקריאה בלבד, ו-GKE יחזיר את כל השינויים כמו כריכה לצומת או ניתוק מתרמיל.

הגדר אישורים עבור kubectl:

gcloud container clusters get-credentials istio

צור מחייב תפקיד מנהל אשכול:

kubectl create clusterrolebinding "cluster-admin-$(whoami)" 
--clusterrole=cluster-admin 
--user="$(gcloud config get-value core/account)"

התקן את כלי שורת הפקודה הגה:

brew install kubernetes-helm

Homebrew 2.0 זמין כעת גם עבור לינוקס.

צור חשבון שירות ותפקיד מחייב באשכול עבור Tiller:

kubectl -n kube-system create sa tiller && 
kubectl create clusterrolebinding tiller-cluster-rule 
--clusterrole=cluster-admin 
--serviceaccount=kube-system:tiller

הרחב את Tiller במרחב השמות kube-system:

helm init --service-account tiller

כדאי לשקול להשתמש ב-SSL בין Helm ו-Tiler. למידע נוסף על הגנה על התקנת Helm שלך, ראה docs.helm.sh

אשר הגדרות:

kubectl -n istio-system get svc

לאחר מספר שניות, GCP אמור להקצות כתובת IP חיצונית לשירות istio-ingressgateway.

הגדרת Istio Ingress Gateway

צור כתובת IP סטטית עם השם istio-gatewayבאמצעות כתובת ה-IP של שער Istio:

export GATEWAY_IP=$(kubectl -n istio-system get svc/istio-ingressgateway -ojson | jq -r .status.loadBalancer.ingress[0].ip)
gcloud compute addresses create istio-gateway --addresses ${GATEWAY_IP} --region us-central1

כעת אתה צריך דומיין אינטרנט וגישה לרשם ה-DNS שלך. הוסף שתי רשומות A (החלף example.com לדומיין שלך):

istio.example.com   A ${GATEWAY_IP}
*.istio.example.com A ${GATEWAY_IP}

ודא שתו כללי DNS פועל:

watch host test.istio.example.com

צור שער Istio גנרי כדי לספק שירותים מחוץ לרשת השירות באמצעות HTTP:

apiVersion: networking.istio.io/v1alpha3
kind: Gateway
metadata:
  name: public-gateway
  namespace: istio-system
spec:
  selector:
    istio: ingressgateway
  servers:
    - port:
        number: 80
        name: http
        protocol: HTTP
      hosts:
        - "*"

שמור את המשאב לעיל בתור public-gateway.yaml ולאחר מכן החל אותו:

kubectl apply -f ./public-gateway.yaml

אף מערכת ייצור לא צריכה לספק שירותים באינטרנט ללא SSL. כדי לאבטח את שער הכניסה שלך ל-Istio עם cert-manager, CloudDNS ו-Let's Encrypt, אנא קרא תיעוד Flagger G.K.E.

התקנת דגל

התוסף GKE Istio אינו כולל את המופע של Prometheus שמנקה את שירות הטלמטריה של Istio. מכיוון ש- Flagger משתמש במדדי Istio HTTP לביצוע ניתוח קנרי, עליך לפרוס את תצורת Prometheus הבאה, בדומה לזו שמגיעה עם סכימת Istio Helm הרשמית.

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/gke/istio-prometheus.yaml

הוסף את מאגר Flagger Helm:

helm repo add flagger [https://flagger.app](https://flagger.app/)

הרחב את Flagger למרחב השמות istio-systemעל ידי הפעלת התראות Slack:

helm upgrade -i flagger flagger/flagger 
--namespace=istio-system 
--set metricsServer=http://prometheus.istio-system:9090 
--set slack.url=https://hooks.slack.com/services/YOUR-WEBHOOK-ID 
--set slack.channel=general 
--set slack.user=flagger

אתה יכול להתקין את Flagger בכל מרחב שמות כל עוד הוא יכול לתקשר עם שירות Istio Prometheus ביציאה 9090.

לפלאגר יש לוח מחוונים של Grafana לניתוח קנרי. התקן את Grafana במרחב השמות istio-system:

helm upgrade -i flagger-grafana flagger/grafana 
--namespace=istio-system 
--set url=http://prometheus.istio-system:9090 
--set user=admin 
--set password=change-me

חשוף את Grafana דרך שער פתוח על ידי יצירת שירות וירטואלי (החלף example.com לדומיין שלך):

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: grafana
  namespace: istio-system
spec:
  hosts:
    - "grafana.istio.example.com"
  gateways:
    - public-gateway.istio-system.svc.cluster.local
  http:
    - route:
        - destination:
            host: flagger-grafana

שמור את המשאב לעיל בתור grafana-virtual-service.yaml ולאחר מכן החל אותו:

kubectl apply -f ./grafana-virtual-service.yaml

כאשר הולכים ל http://grafana.istio.example.com הדפדפן שלך אמור להפנות אותך לדף ההתחברות של Grafana.

פריסת יישומי אינטרנט עם Flagger

Flagger פורסת Kubernetes, ובמידת הצורך, קנה מידה אוטומטי (HPA), ולאחר מכן יוצר סדרה של אובייקטים (פריסות Kubernetes, שירותי ClusterIP ושירותים וירטואליים של Istio). אובייקטים אלו חושפים את האפליקציה לרשת השירות ומנהלים ניתוח וקידום כנריות.

צור מרחב שמות לבדיקה כאשר הטמעת Istio Sidecar מופעלת:

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/namespaces/test.yaml

צור פריסה וכלי קנה מידה אופקי אוטומטי עבור הפוד:

kubectl apply -f ${REPO}/artifacts/canaries/deployment.yaml
kubectl apply -f ${REPO}/artifacts/canaries/hpa.yaml

פרוס שירות בדיקת עומס כדי ליצור תעבורה במהלך ניתוח קנרי:

helm upgrade -i flagger-loadtester flagger/loadtester 
--namepace=test

צור משאב קנרי מותאם אישית (החלף example.com לדומיין שלך):

apiVersion: flagger.app/v1alpha3
kind: Canary
metadata:
  name: podinfo
  namespace: test
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: podinfo
  progressDeadlineSeconds: 60
  autoscalerRef:
    apiVersion: autoscaling/v2beta1
    kind: HorizontalPodAutoscaler
    name: podinfo
  service:
    port: 9898
    gateways:
    - public-gateway.istio-system.svc.cluster.local
    hosts:
    - app.istio.example.com
  canaryAnalysis:
    interval: 30s
    threshold: 10
    maxWeight: 50
    stepWeight: 5
    metrics:
    - name: istio_requests_total
      threshold: 99
      interval: 30s
    - name: istio_request_duration_seconds_bucket
      threshold: 500
      interval: 30s
    webhooks:
      - name: load-test
        url: http://flagger-loadtester.test/
        timeout: 5s
        metadata:
          cmd: "hey -z 1m -q 10 -c 2 http://podinfo.test:9898/"

שמור את המשאב לעיל בתור podinfo-canary.yaml ולאחר מכן החל אותו:

kubectl apply -f ./podinfo-canary.yaml

הניתוח שלעיל, אם יצליח, יפעל במשך חמש דקות, ויבדוק מדי חצי דקה מדדי HTTP. אתה יכול לקבוע את הזמן המינימלי הנדרש כדי לבדוק ולקדם פריסה קנרית באמצעות הנוסחה הבאה: interval * (maxWeight / stepWeight). שדות CRD קנריים מתועדים כאן.

לאחר כמה שניות, Flagger יצור אובייקטים קנריים:

# applied 
deployment.apps/podinfo
horizontalpodautoscaler.autoscaling/podinfo
canary.flagger.app/podinfo
# generated 
deployment.apps/podinfo-primary
horizontalpodautoscaler.autoscaling/podinfo-primary
service/podinfo
service/podinfo-canary
service/podinfo-primary
virtualservice.networking.istio.io/podinfo

פתח את הדפדפן שלך ועבור אל app.istio.example.com, אתה אמור לראות את מספר הגרסה יישומי הדגמה.

ניתוח וקידום כנריות אוטומטיים

Flagger מיישמת לולאת בקרה המעבירה בהדרגה את התעבורה לקנרית תוך מדידת מדדי ביצועים מרכזיים כמו שיעור הצלחה של בקשת HTTP, משך בקשה ממוצע ותקינות הפוד. בהתבסס על ניתוח ה-KPI, הקנרית מקודמת או מופסקת, ותוצאות הניתוח מתפרסמות ב-Slack.

פריסה קנרית מופעלת כאשר אחד מהאובייקטים הבאים משתנה:

• פרוס PodSpec (תמונת מיכל, פקודה, יציאות, env וכו')
• ConfigMaps מותקנים כאמצעי אחסון או מומרים למשתני סביבה
• סודות מורכבים ככרכים או מומרים למשתני סביבה

הפעל פריסת קנרי בעת עדכון תמונת המכולה:

kubectl -n test set image deployment/podinfo 
podinfod=quay.io/stefanprodan/podinfo:1.4.1

Flagger מזהה שגרסת הפריסה השתנתה ומתחיל לנתח אותה:

kubectl -n test describe canary/podinfo

Events:

New revision detected podinfo.test
Scaling up podinfo.test
Waiting for podinfo.test rollout to finish: 0 of 1 updated replicas are available
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Advance podinfo.test canary weight 20
Advance podinfo.test canary weight 25
Advance podinfo.test canary weight 30
Advance podinfo.test canary weight 35
Advance podinfo.test canary weight 40
Advance podinfo.test canary weight 45
Advance podinfo.test canary weight 50
Copying podinfo.test template spec to podinfo-primary.test
Waiting for podinfo-primary.test rollout to finish: 1 of 2 updated replicas are available
Promotion completed! Scaling down podinfo.test

במהלך הניתוח, ניתן לעקוב אחר תוצאות הקנריות באמצעות Grafana:

שימו לב: אם שינויים חדשים יחולו על הפריסה במהלך ניתוח קנרי, Flagger יתחיל מחדש את שלב הניתוח.

ערכו רשימה של כל הכנריות באשכול שלכם:

watch kubectl get canaries --all-namespaces
NAMESPACE   NAME      STATUS        WEIGHT   LASTTRANSITIONTIME
test        podinfo   Progressing   15       2019-01-16T14:05:07Z
prod        frontend  Succeeded     0        2019-01-15T16:15:07Z
prod        backend   Failed        0        2019-01-14T17:05:07Z

אם הפעלת את התראות Slack, תקבל את ההודעות הבאות:

החזרה אוטומטית

במהלך ניתוח קנרי, אתה יכול ליצור שגיאות HTTP 500 סינתטיות והשהיית תגובה גבוהה כדי לבדוק אם Flagger יעצור את הפריסה.

צור פוד בדיקה ועשה בו את הפעולות הבאות:

kubectl -n test run tester 
--image=quay.io/stefanprodan/podinfo:1.2.1 
-- ./podinfo --port=9898
kubectl -n test exec -it tester-xx-xx sh

יצירת שגיאות HTTP 500:

watch curl http://podinfo-canary:9898/status/500

יצירת עיכוב:

watch curl http://podinfo-canary:9898/delay/1

כאשר מספר הבדיקות שנכשלו מגיע לסף, התעבורה מנותבת חזרה לערוץ הראשי, הקנרית משתנה לאפס והפריסה מסומנת ככשלה.

שגיאות קנריות ושיא השהייה נרשמות כאירועי Kubernetes ומתועדות על ידי Flagger בפורמט JSON:

kubectl -n istio-system logs deployment/flagger -f | jq .msg

Starting canary deployment for podinfo.test
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Halt podinfo.test advancement success rate 69.17% < 99%
Halt podinfo.test advancement success rate 61.39% < 99%
Halt podinfo.test advancement success rate 55.06% < 99%
Halt podinfo.test advancement success rate 47.00% < 99%
Halt podinfo.test advancement success rate 37.00% < 99%
Halt podinfo.test advancement request duration 1.515s > 500ms
Halt podinfo.test advancement request duration 1.600s > 500ms
Halt podinfo.test advancement request duration 1.915s > 500ms
Halt podinfo.test advancement request duration 2.050s > 500ms
Halt podinfo.test advancement request duration 2.515s > 500ms
Rolling back podinfo.test failed checks threshold reached 10
Canary failed! Scaling down podinfo.test

אם הפעלת הודעות Slack, תקבל הודעה כאשר תאריך היעד להשלמת או הגעה למספר המרבי של ביקורות שנכשלו בניתוח נחרג:

לסיכום

הפעלת רשת שירות כמו Istio על גבי Kubernetes תספק מדדים, יומנים ויומנים אוטומטיים, אך פריסת עומסי העבודה עדיין תלויה בכלים חיצוניים. Flagger שואף לשנות זאת על ידי הוספת יכולות Istio משלוח מתקדם.

Flagger תואם לכל פתרון CI/CD עבור Kubernetes, וניתן להרחיב בקלות את הניתוח הקנרי עם webhooks לבצע בדיקות אינטגרציה/קבלה של המערכת, בדיקות עומס או כל בדיקות מותאמות אישית אחרות. מכיוון ש- Flagger הוא הצהרתי ומגיב לאירועי Kubernetes, ניתן להשתמש בו בצינורות GitOps יחד עם שטף אריגה או ג'נקינס X. אם אתה משתמש ב-JenkinsX, אתה יכול להתקין את Flagger עם תוספות jx.

מסמן נתמך עבודות אריגה ומספק פריסות קנריות ב Weave Cloud. הפרויקט נבדק על GKE, EKS ומתכת חשופה עם kubeadm.

אם יש לך הצעות לשיפור Flagger, אנא שלח בעיה או יחסי ציבור ב-GitHub בכתובת stefanprodan/flagger. תרומות יתקבלו בברכה!

תודה ריי טסאנג.

מקור: www.habr.com