Usambazaji wa kiotomatiki wa canary na Bendera na Istio

CD inatambuliwa kama mazoezi ya programu ya biashara na ni mageuzi ya asili ya kanuni zilizoanzishwa za CI. Hata hivyo, CD bado ni nadra kabisa, labda kutokana na ugumu wa usimamizi na hofu ya kushindwa kutumwa na kuathiri upatikanaji wa mfumo.

Mpiga bendera ni mtoa huduma wa chanzo huria wa Kubernetes ambaye analenga kuondoa mahusiano yenye kutatanisha. Hufanya utangazaji kiotomatiki wa uenezaji wa canary kwa kutumia viwango vya trafiki vya Istio na metriki za Prometheus ili kuchanganua tabia ya programu wakati wa uchapishaji unaodhibitiwa.

Ufuatao ni mwongozo wa hatua kwa hatua wa kusanidi na kutumia Bendera kwenye Google Kubernetes Engine (GKE).

Kuanzisha kikundi cha Kubernetes

Unaanza kwa kuunda nguzo ya GKE na programu jalizi ya Istio (ikiwa huna akaunti ya GCP, unaweza kujisajili. hapa - kupokea mikopo ya bure).

Ingia kwenye Google Cloud, unda mradi na uwashe utozaji. Sakinisha matumizi ya mstari wa amri gcloud na usanidi mradi wako na gcloud init.

Weka mradi chaguo-msingi, eneo la kukokotoa, na eneo (badilisha PROJECT_ID kwa mradi wako):

gcloud config set project PROJECT_ID
gcloud config set compute/region us-central1
gcloud config set compute/zone us-central1-a

Washa huduma ya GKE na uunde nguzo yenye nyongeza za HPA na Istio:

gcloud services enable container.googleapis.com
K8S_VERSION=$(gcloud beta container get-server-config --format=json | jq -r '.validMasterVersions[0]')
gcloud beta container clusters create istio 
--cluster-version=${K8S_VERSION} 
--zone=us-central1-a 
--num-nodes=2 
--machine-type=n1-standard-2 
--disk-size=30 
--enable-autorepair 
--no-enable-cloud-logging 
--no-enable-cloud-monitoring 
--addons=HorizontalPodAutoscaling,Istio 
--istio-config=auth=MTLS_PERMISSIVE

Amri iliyo hapo juu itaunda dimbwi la nodi chaguo-msingi inayojumuisha VM mbili n1-standard-2 (vCPU: 2, RAM 7,5 GB, diski: 30 GB). Kimsingi, vipengele vya Istio vinapaswa kutengwa na mizigo yao ya kazi, lakini hakuna njia rahisi ya kuendesha maganda ya Istio kwenye bwawa la nodi maalum. Maonyesho ya Istio yanachukuliwa kuwa ya kusomeka tu, na GKE itarejesha mabadiliko yoyote kama vile kufunga nodi au kujitenga na ganda.

Sanidi vitambulisho vya kubectl:

gcloud container clusters get-credentials istio

Unda jukumu la msimamizi wa nguzo:

kubectl create clusterrolebinding "cluster-admin-$(whoami)" 
--clusterrole=cluster-admin 
--user="$(gcloud config get-value core/account)"

Sakinisha zana ya mstari wa amri Helm:

brew install kubernetes-helm

Homebrew 2.0 sasa inapatikana pia kwa Linux.

Unda akaunti ya huduma na wajibu wa nguzo kwa Tiller:

kubectl -n kube-system create sa tiller && 
kubectl create clusterrolebinding tiller-cluster-rule 
--clusterrole=cluster-admin 
--serviceaccount=kube-system:tiller

Panua Tiller katika nafasi ya majina kube-system:

helm init --service-account tiller

Unapaswa kuzingatia kutumia SSL kati ya Helm na Tiller. Kwa habari zaidi kuhusu kulinda usakinishaji wako wa Helm, ona hati.helm.sh

Thibitisha mipangilio:

kubectl -n istio-system get svc

Baada ya sekunde chache, GCP inapaswa kukabidhi anwani ya IP ya nje kwa huduma istio-ingressgateway.

Kuanzisha lango la Istio Ingress

Unda anwani ya IP tuli na jina istio-gatewaykwa kutumia anwani ya IP ya lango la Istio:

export GATEWAY_IP=$(kubectl -n istio-system get svc/istio-ingressgateway -ojson | jq -r .status.loadBalancer.ingress[0].ip)
gcloud compute addresses create istio-gateway --addresses ${GATEWAY_IP} --region us-central1

Sasa unahitaji kikoa cha mtandao na ufikiaji wa msajili wako wa DNS. Ongeza rekodi mbili za A (badilisha example.com kwa kikoa chako):

istio.example.com   A ${GATEWAY_IP}
*.istio.example.com A ${GATEWAY_IP}

Thibitisha kuwa kadi ya pori ya DNS inafanya kazi:

watch host test.istio.example.com

Unda lango la kawaida la Istio ili kutoa huduma nje ya wavu wa huduma kupitia HTTP:

apiVersion: networking.istio.io/v1alpha3
kind: Gateway
metadata:
  name: public-gateway
  namespace: istio-system
spec:
  selector:
    istio: ingressgateway
  servers:
    - port:
        number: 80
        name: http
        protocol: HTTP
      hosts:
        - "*"

Hifadhi nyenzo iliyo hapo juu kama public-gateway.yaml kisha uitumie:

kubectl apply -f ./public-gateway.yaml

Hakuna mfumo wa uzalishaji unapaswa kutoa huduma kwenye Mtandao bila SSL. Ili kulinda lango lako la kuingilia Istio kwa meneja wa cert, CloudDNS na Let's Encrypt, tafadhali soma. nyaraka Bendera G.K.E.

Ufungaji wa bendera

Nyongeza ya GKE Istio haijumuishi mfano wa Prometheus ambao husafisha huduma ya telemetry ya Istio. Kwa kuwa Bendera hutumia vipimo vya Istio HTTP kufanya uchanganuzi wa canary, unahitaji kupeleka usanidi ufuatao wa Prometheus, sawa na ule unaokuja na schema rasmi ya Istio Helm.

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/gke/istio-prometheus.yaml

Ongeza hazina ya Helm ya Bendera:

helm repo add flagger [https://flagger.app](https://flagger.app/)

Panua Kiweka alama kwenye nafasi ya majina istio-systemkwa kuwezesha arifa za Slack:

helm upgrade -i flagger flagger/flagger 
--namespace=istio-system 
--set metricsServer=http://prometheus.istio-system:9090 
--set slack.url=https://hooks.slack.com/services/YOUR-WEBHOOK-ID 
--set slack.channel=general 
--set slack.user=flagger

Unaweza kusakinisha Bendera katika nafasi yoyote ya majina mradi tu inaweza kuwasiliana na huduma ya Istio Prometheus kwenye bandari 9090.

Bendera ina dashibodi ya Grafana kwa uchanganuzi wa canary. Sakinisha Grafana kwenye nafasi ya majina istio-system:

helm upgrade -i flagger-grafana flagger/grafana 
--namespace=istio-system 
--set url=http://prometheus.istio-system:9090 
--set user=admin 
--set password=change-me

Fichua Grafana kupitia lango lililo wazi kwa kuunda huduma pepe (badilisha example.com kwa kikoa chako):

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: grafana
  namespace: istio-system
spec:
  hosts:
    - "grafana.istio.example.com"
  gateways:
    - public-gateway.istio-system.svc.cluster.local
  http:
    - route:
        - destination:
            host: flagger-grafana

Hifadhi nyenzo iliyo hapo juu kama grafana-virtual-service.yaml kisha uitumie:

kubectl apply -f ./grafana-virtual-service.yaml

Wakati wa kwenda http://grafana.istio.example.com Kivinjari chako kinapaswa kukuelekeza kwenye ukurasa wa kuingia wa Grafana.

Inapeleka programu za wavuti na Bendera

Bendera hutumia Kubernetes na, ikihitajika, kupima otomatiki kwa mlalo (HPA), kisha huunda mfululizo wa vitu (uwekaji wa Kubernetes, huduma za ClusterIP na huduma pepe za Istio). Vitu hivi hufichua programu kwenye matundu ya huduma na kudhibiti uchanganuzi na ukuzaji wa canary.

Unda nafasi ya majina ya majaribio ukiwasha utekelezaji wa Istio Sidecar:

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/namespaces/test.yaml

Unda uwekaji na zana ya kiotomatiki ya kuongeza mlalo kwa ganda:

kubectl apply -f ${REPO}/artifacts/canaries/deployment.yaml
kubectl apply -f ${REPO}/artifacts/canaries/hpa.yaml

Tumia huduma ya kupima mzigo ili kuzalisha trafiki wakati wa uchambuzi wa canary:

helm upgrade -i flagger-loadtester flagger/loadtester 
--namepace=test

Unda rasilimali maalum ya canary (badilisha example.com kwa kikoa chako):

apiVersion: flagger.app/v1alpha3
kind: Canary
metadata:
  name: podinfo
  namespace: test
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: podinfo
  progressDeadlineSeconds: 60
  autoscalerRef:
    apiVersion: autoscaling/v2beta1
    kind: HorizontalPodAutoscaler
    name: podinfo
  service:
    port: 9898
    gateways:
    - public-gateway.istio-system.svc.cluster.local
    hosts:
    - app.istio.example.com
  canaryAnalysis:
    interval: 30s
    threshold: 10
    maxWeight: 50
    stepWeight: 5
    metrics:
    - name: istio_requests_total
      threshold: 99
      interval: 30s
    - name: istio_request_duration_seconds_bucket
      threshold: 500
      interval: 30s
    webhooks:
      - name: load-test
        url: http://flagger-loadtester.test/
        timeout: 5s
        metadata:
          cmd: "hey -z 1m -q 10 -c 2 http://podinfo.test:9898/"

Hifadhi rasilimali iliyo hapo juu kama podinfo-canary.yaml kisha uitumie:

kubectl apply -f ./podinfo-canary.yaml

Uchanganuzi ulio hapo juu, ukifaulu, utaendelea kwa dakika tano, ukiangalia vipimo vya HTTP kila nusu dakika. Unaweza kubainisha muda wa chini zaidi unaohitajika ili kujaribu na kukuza usambazaji wa canary kwa kutumia fomula ifuatayo: interval * (maxWeight / stepWeight). Sehemu za Canary CRD zimeandikwa hapa.

Baada ya sekunde chache, Bendera itaunda vitu vya canary:

# applied 
deployment.apps/podinfo
horizontalpodautoscaler.autoscaling/podinfo
canary.flagger.app/podinfo
# generated 
deployment.apps/podinfo-primary
horizontalpodautoscaler.autoscaling/podinfo-primary
service/podinfo
service/podinfo-canary
service/podinfo-primary
virtualservice.networking.istio.io/podinfo

Fungua kivinjari chako na uende app.istio.example.com, unapaswa kuona nambari ya toleo maombi ya demo.

Uchambuzi na ukuzaji wa canary otomatiki

Bendera hutumia kitanzi cha udhibiti ambacho husogeza trafiki polepole hadi kwenye canri huku ikipima viashirio muhimu vya utendakazi kama vile kiwango cha mafanikio cha ombi la HTTP, wastani wa muda wa ombi na afya ya ganda. Kulingana na uchanganuzi wa KPI, canary inakuzwa au kukomeshwa, na matokeo ya uchanganuzi huchapishwa katika Slack.

Usambazaji wa Canary huanzishwa wakati moja ya vitu vifuatavyo vinabadilika:

• Tumia PodSpec (picha ya kontena, amri, bandari, env, n.k.)
• ConfigMaps huwekwa kama ujazo au kubadilishwa kuwa anuwai za mazingira
• Siri huwekwa kama kiasi au kubadilishwa kwa vigezo vya mazingira

Endesha uwekaji wa canary wakati wa kusasisha picha ya kontena:

kubectl -n test set image deployment/podinfo 
podinfod=quay.io/stefanprodan/podinfo:1.4.1

Bendera hugundua kuwa toleo la uwekaji limebadilika na huanza kulichanganua:

kubectl -n test describe canary/podinfo

Events:

New revision detected podinfo.test
Scaling up podinfo.test
Waiting for podinfo.test rollout to finish: 0 of 1 updated replicas are available
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Advance podinfo.test canary weight 20
Advance podinfo.test canary weight 25
Advance podinfo.test canary weight 30
Advance podinfo.test canary weight 35
Advance podinfo.test canary weight 40
Advance podinfo.test canary weight 45
Advance podinfo.test canary weight 50
Copying podinfo.test template spec to podinfo-primary.test
Waiting for podinfo-primary.test rollout to finish: 1 of 2 updated replicas are available
Promotion completed! Scaling down podinfo.test

Wakati wa uchambuzi, matokeo ya canary yanaweza kufuatiliwa kwa kutumia Grafana:

Tafadhali kumbuka: ikiwa mabadiliko mapya yatatumika kwa uwekaji wakati wa uchanganuzi wa canary, Bendera itaanzisha upya awamu ya uchanganuzi.

Tengeneza orodha ya canaries zote kwenye nguzo yako:

watch kubectl get canaries --all-namespaces
NAMESPACE   NAME      STATUS        WEIGHT   LASTTRANSITIONTIME
test        podinfo   Progressing   15       2019-01-16T14:05:07Z
prod        frontend  Succeeded     0        2019-01-15T16:15:07Z
prod        backend   Failed        0        2019-01-14T17:05:07Z

Ikiwa umewasha arifa za Slack, utapokea ujumbe ufuatao:

Urejeshaji otomatiki

Wakati wa uchanganuzi wa canary, unaweza kuzalisha hitilafu sanisi za HTTP 500 na ucheleweshaji wa majibu ya juu ili kuangalia kama Bendera itasimamisha utumaji.

Unda ganda la majaribio na ufanye yafuatayo ndani yake:

kubectl -n test run tester 
--image=quay.io/stefanprodan/podinfo:1.2.1 
-- ./podinfo --port=9898
kubectl -n test exec -it tester-xx-xx sh

Inazalisha makosa ya HTTP 500:

watch curl http://podinfo-canary:9898/status/500

Uzalishaji wa kuchelewa:

watch curl http://podinfo-canary:9898/delay/1

Wakati idadi ya ukaguzi ambao haujafaulu unafikia kizingiti, trafiki inarudishwa kwenye chaneli ya msingi, canary inaongezwa hadi sifuri, na utumiaji unatiwa alama kuwa haukufaulu.

Hitilafu za Canary na miisho ya muda huwekwa kama matukio ya Kubernetes na kurekodiwa na Bendera katika umbizo la JSON:

kubectl -n istio-system logs deployment/flagger -f | jq .msg

Starting canary deployment for podinfo.test
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Halt podinfo.test advancement success rate 69.17% < 99%
Halt podinfo.test advancement success rate 61.39% < 99%
Halt podinfo.test advancement success rate 55.06% < 99%
Halt podinfo.test advancement success rate 47.00% < 99%
Halt podinfo.test advancement success rate 37.00% < 99%
Halt podinfo.test advancement request duration 1.515s > 500ms
Halt podinfo.test advancement request duration 1.600s > 500ms
Halt podinfo.test advancement request duration 1.915s > 500ms
Halt podinfo.test advancement request duration 2.050s > 500ms
Halt podinfo.test advancement request duration 2.515s > 500ms
Rolling back podinfo.test failed checks threshold reached 10
Canary failed! Scaling down podinfo.test

Iwapo umewasha arifa za Slack, utapokea ujumbe wakati tarehe ya mwisho ya kukamilisha au kufikia idadi ya juu kabisa ya hakiki zilizoshindwa katika uchanganuzi imepitwa:

Kwa kumalizia

Kuendesha matundu ya huduma kama vile Istio juu ya Kubernetes kutatoa vipimo otomatiki, kumbukumbu na kumbukumbu, lakini kupeleka mizigo ya kazi bado kunategemea zana za nje. Bendera inalenga kubadilisha hii kwa kuongeza uwezo wa Istio utoaji unaoendelea.

Bendera inaoana na suluhisho lolote la CI/CD la Kubernetes, na uchanganuzi wa canary unaweza kupanuliwa kwa urahisi na vijiti vya wavuti kufanya majaribio ya ujumuishaji wa mfumo/kukubalika, majaribio ya upakiaji au majaribio yoyote maalum. Kwa sababu Flagger ni tangazo na hujibu matukio ya Kubernetes, inaweza kutumika katika mabomba ya GitOps pamoja na Weave Flux au JenkinsX. Ikiwa unatumia JenkinsX, unaweza kusakinisha Bendera kwa kutumia programu jalizi za jx.

Kipeperushi kinatumika Weaveworks na hutoa usambazaji wa canary ndani Weave Cloud. Mradi huu umejaribiwa kwenye GKE, EKS na chuma tupu kwa kubeadm.

Ikiwa una mapendekezo ya kuboresha Bendera, tafadhali wasilisha suala au PR kwenye GitHub kwa stefanprodan/flagger. Michango inakaribishwa zaidi!

Shukrani Ray Tsang.

Chanzo: mapenzi.com