🥇 Cleachdadh canary fèin-ghluasadach le Flagger agus Istio

Tha CD air aithneachadh mar chleachdadh bathar-bog iomairt agus tha e mar thoradh air mean-fhàs nàdarra de phrionnsapalan CI stèidhichte. Ach, tha CD fhathast gu math tearc, is dòcha air sgàth cho iom-fhillte 'sa tha an riaghladh agus an t-eagal mu chleachdadh fàillichte a bheir buaidh air cothrom air an t-siostam.

Bratach na ghnìomhaiche stòr fosgailte Kubernetes a tha ag amas air cuir às do dhàimhean troimh-chèile. Bidh e gu fèin-ghluasadach a’ brosnachadh cleachdadh canary a’ cleachdadh chothromachadh trafaic Istio agus metrics Prometheus gus giùlan tagraidh a sgrùdadh aig àm sgaoileadh stiùirichte.

Gu h-ìosal tha stiùireadh ceum air cheum air stèidheachadh agus cleachdadh Flagger air Google Kubernetes Engine (GKE).

Stèidhich buidheann Kubernetes

Tòisichidh tu le bhith a’ cruthachadh cruinneachadh GKE leis an tuilleadan Istio (mura h-eil cunntas GCP agad, faodaidh tu clàradh an seo - gus creideasan an-asgaidh fhaighinn).

Clàraich a-steach gu Google Cloud, cruthaich pròiseact, agus cuir an comas bilean air a shon. Stàlaich goireas loidhne-àithne clod agus cuir air dòigh do phròiseact le gcloud init.

Suidhich am pròiseact bunaiteach, an raon coimpiutaireachd, agus an sòn (na àite PROJECT_ID airson do phròiseact):

gcloud config set project PROJECT_ID
gcloud config set compute/region us-central1
gcloud config set compute/zone us-central1-a

Dèan comas air seirbheis GKE agus cruthaich cruinneachadh le tuilleadan HPA agus Istio:

gcloud services enable container.googleapis.com
K8S_VERSION=$(gcloud beta container get-server-config --format=json | jq -r '.validMasterVersions[0]')
gcloud beta container clusters create istio 
--cluster-version=${K8S_VERSION} 
--zone=us-central1-a 
--num-nodes=2 
--machine-type=n1-standard-2 
--disk-size=30 
--enable-autorepair 
--no-enable-cloud-logging 
--no-enable-cloud-monitoring 
--addons=HorizontalPodAutoscaling,Istio 
--istio-config=auth=MTLS_PERMISSIVE

Cruthaichidh an àithne gu h-àrd cruinneachadh nod bunaiteach a’ toirt a-steach dà VM n1-standard-2 (vCPU: 2, RAM 7,5 GB, diosc: 30 GB). Mas fheàrr, bu chòir dhut co-phàirtean Istio a sgaradh bhon eallach obrach agad, ach chan eil dòigh furasta air Istio Pods a ruith ann an amar sònraichte de nodan. Thathas a’ beachdachadh air manifestos Istio ri leughadh a-mhàin agus bheir GKE air falbh atharrachaidhean sam bith, leithid ceangal ri nód no dealachadh bho phod.

Stèidhich teisteanasan airson kubectl:

gcloud container clusters get-credentials istio

Cruthaich dreuchd rianadair brabhsair ceangailteach:

kubectl create clusterrolebinding "cluster-admin-$(whoami)" 
--clusterrole=cluster-admin 
--user="$(gcloud config get-value core/account)"

Stàlaich an inneal loidhne-àithne Helm:

brew install kubernetes-helm

Tha Homebrew 2.0 a-nis ri fhaighinn airson Linux.

Cruthaich cunntas seirbheis agus dreuchd brabhsair ceangailteach airson Tiller:

kubectl -n kube-system create sa tiller && 
kubectl create clusterrolebinding tiller-cluster-rule 
--clusterrole=cluster-admin 
--serviceaccount=kube-system:tiller

Leudaich Tiller ann an namespace kube-system:

helm init --service-account tiller

Bu chòir dhut beachdachadh air SSL a chleachdadh eadar Helm agus Tiller. Airson tuilleadh fiosrachaidh mu bhith a’ dìon do stàladh Helm, faic docs.helm.sh

Dearbhaich na roghainnean:

kubectl -n istio-system get svc

Às deidh beagan dhiog, bu chòir do GCP seòladh IP taobh a-muigh a shònrachadh airson na seirbheis istio-ingressgateway.

A’ rèiteachadh Geata Istio Ingress

Cruthaich seòladh IP statach le ainm istio-gatewaya’ cleachdadh seòladh IP geata Istio:

export GATEWAY_IP=$(kubectl -n istio-system get svc/istio-ingressgateway -ojson | jq -r .status.loadBalancer.ingress[0].ip)
gcloud compute addresses create istio-gateway --addresses ${GATEWAY_IP} --region us-central1

A-nis feumaidh tu àrainn eadar-lìn agus ruigsinneachd don neach-clàraidh DNS agad. Cuir dà chlàr A ris (cuir an àite example.com don àrainn agad):

istio.example.com   A ${GATEWAY_IP}
*.istio.example.com A ${GATEWAY_IP}

Dèan cinnteach gu bheil a’ chairt-fiadhaich DNS ag obair:

watch host test.istio.example.com

Cruthaich geata coitcheann Istio gus seirbheisean a thoirt seachad taobh a-muigh mogal na seirbheis thairis air HTTP:

apiVersion: networking.istio.io/v1alpha3
kind: Gateway
metadata:
  name: public-gateway
  namespace: istio-system
spec:
  selector:
    istio: ingressgateway
  servers:
    - port:
        number: 80
        name: http
        protocol: HTTP
      hosts:
        - "*"

Sàbhail an goireas gu h-àrd mar public-gateway.yaml agus an uairsin cuir an gnìomh e:

kubectl apply -f ./public-gateway.yaml

Cha bu chòir siostam toraidh sam bith seirbheisean a thoirt seachad air an eadar-lìn às aonais SSL. Gus an geata inntrigidh Istio a dhèanamh tèarainte le manaidsear teisteanachaidh, CloudDNS agus Let's Encrypt, feuch an leugh thu sgrìobhainnean Bratach G.K.E.

Stàladh Flagger

Chan eil an tuilleadan GKE Istio a’ toirt a-steach eisimpleir Prometheus a bhios a’ glanadh seirbheis telemetry Istio. Leis gu bheil Flagger a’ cleachdadh metrics Istio HTTP gus mion-sgrùdadh canary a dhèanamh, feumaidh tu an rèiteachadh Prometheus a leanas a chleachdadh, coltach ris an fhear a thig an cois sgeama oifigeil Istio Helm.

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/gke/istio-prometheus.yaml

Cuir ris an stòr Flagger Helm:

helm repo add flagger [https://flagger.app](https://flagger.app/)

Leudaich Flagger gu namespace istio-systemle bhith a’ comasachadh fiosan Slack:

helm upgrade -i flagger flagger/flagger 
--namespace=istio-system 
--set metricsServer=http://prometheus.istio-system:9090 
--set slack.url=https://hooks.slack.com/services/YOUR-WEBHOOK-ID 
--set slack.channel=general 
--set slack.user=flagger

Faodaidh tu Flagger a chuir a-steach ann an àite ainm sam bith fhad ‘s as urrainn dha conaltradh le seirbheis Istio Prometheus air port 9090.

Tha deas-bhòrd Grafana aig Flagger airson mion-sgrùdadh canary. Stàlaich Grafana ann an namespace istio-system:

helm upgrade -i flagger-grafana flagger/grafana 
--namespace=istio-system 
--set url=http://prometheus.istio-system:9090 
--set user=admin 
--set password=change-me

Nochdaidh Grafana tro gheata fosgailte le bhith a’ cruthachadh seirbheis bhrìgheil (cuir na àite example.com don àrainn agad):

apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: grafana
  namespace: istio-system
spec:
  hosts:
    - "grafana.istio.example.com"
  gateways:
    - public-gateway.istio-system.svc.cluster.local
  http:
    - route:
        - destination:
            host: flagger-grafana

Sàbhail an goireas gu h-àrd mar grafana-virtual-service.yaml agus an uairsin cuir an sàs e:

kubectl apply -f ./grafana-virtual-service.yaml

Nuair a thèid a ghluasad gu http://grafana.istio.example.com sa bhrobhsair, bu chòir dhut a bhith air do stiùireadh gu duilleag logadh a-steach Grafana.

A’ cleachdadh thagraidhean lìn le Flagger

Bidh Flagger a’ cleachdadh Kubernetes agus gu roghnach a ’sgèileadh a-mach gu fèin-ghluasadach (HPA), an uairsin a’ cruthachadh sreath de nithean (cleachdadh Kubernetes, seirbheisean ClusterIP, agus seirbheisean brìgheil Istio). Bidh na nithean sin a’ nochdadh an tagraidh don mhogal seirbheis agus a’ cumail smachd air mion-sgrùdadh agus adhartas canary.

Cruthaich àite ainm deuchainn le in-stealladh Istio Sidecar air a chomasachadh:

REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/namespaces/test.yaml

Cruthaich cleachdadh agus inneal sgèile fèin-ghluasadach pod:

kubectl apply -f ${REPO}/artifacts/canaries/deployment.yaml
kubectl apply -f ${REPO}/artifacts/canaries/hpa.yaml

Cleachd seirbheis luchdan deuchainn gus trafaic a ghineadh rè mion-sgrùdadh canary:

helm upgrade -i flagger-loadtester flagger/loadtester 
--namepace=test

Cruthaich goireas canary àbhaisteach (na àite example.com don àrainn agad):

apiVersion: flagger.app/v1alpha3
kind: Canary
metadata:
  name: podinfo
  namespace: test
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: podinfo
  progressDeadlineSeconds: 60
  autoscalerRef:
    apiVersion: autoscaling/v2beta1
    kind: HorizontalPodAutoscaler
    name: podinfo
  service:
    port: 9898
    gateways:
    - public-gateway.istio-system.svc.cluster.local
    hosts:
    - app.istio.example.com
  canaryAnalysis:
    interval: 30s
    threshold: 10
    maxWeight: 50
    stepWeight: 5
    metrics:
    - name: istio_requests_total
      threshold: 99
      interval: 30s
    - name: istio_request_duration_seconds_bucket
      threshold: 500
      interval: 30s
    webhooks:
      - name: load-test
        url: http://flagger-loadtester.test/
        timeout: 5s
        metadata:
          cmd: "hey -z 1m -q 10 -c 2 http://podinfo.test:9898/"

Sàbhail an goireas gu h-àrd mar podinfo-canary.yaml agus an uairsin cuir an sàs e:

kubectl apply -f ./podinfo-canary.yaml

Ma bhios an sgrùdadh gu h-àrd soirbheachail, ruithidh e airson còig mionaidean, a’ sgrùdadh meatrach HTTP gach leth-mhionaid. Faodaidh tu an ùine as lugha a dhearbhadh gus cleachdadh canary a dhearbhadh agus adhartachadh a’ cleachdadh na foirmle a leanas: interval * (maxWeight / stepWeight). Tha raointean Canary CRD air an clàradh an seo.

Às deidh diog no dhà, cruthaichidh Flagger nithean canary:

# applied 
deployment.apps/podinfo
horizontalpodautoscaler.autoscaling/podinfo
canary.flagger.app/podinfo
# generated 
deployment.apps/podinfo-primary
horizontalpodautoscaler.autoscaling/podinfo-primary
service/podinfo
service/podinfo-canary
service/podinfo-primary
virtualservice.networking.istio.io/podinfo

Fosgail brabhsair agus rachaibh gu app.istio.example.com, bu chòir dhut àireamh an tionndaidh fhaicinn aplacaidean demo.

Mion-sgrùdadh canary fèin-ghluasadach agus adhartachadh

Bidh Flagger a’ cur an gnìomh lùb smachd a ghluaiseas an trafaic mean air mhean chun a’ chanàl fhad ‘s a bhios e a’ tomhas prìomh mheatrics coileanaidh leithid ìre soirbheachaidh iarrtas HTTP, fad iarrtas cuibheasach, agus slàinte pod. Stèidhichte air mion-sgrùdadh KPI, tha an canary air a bhrosnachadh no air a bhriseadh, agus tha toraidhean an sgrùdaidh air am foillseachadh gu Slack.

Tha cleachdadh canary air a phiobrachadh nuair a dh’ atharraicheas aon de na nithean a leanas:

Cleachd PodSpec (dealbh soithich, àithne, puirt, env, msaa)
Tha ConfigMaps air an cur suas mar leabhraichean no air am mapadh gu caochladairean àrainneachd
Tha dìomhaireachdan air an cur suas mar leabhraichean no air an atharrachadh gu caochladairean àrainneachd

Ruith cleachdadh canary nuair a bhios tu ag ùrachadh ìomhaigh container:

kubectl -n test set image deployment/podinfo 
podinfod=quay.io/stefanprodan/podinfo:1.4.1

Bidh Flagger a’ faighinn a-mach gu bheil an dreach cleachdadh air atharrachadh agus a’ tòiseachadh ga pharsadh:

kubectl -n test describe canary/podinfo

Events:

New revision detected podinfo.test
Scaling up podinfo.test
Waiting for podinfo.test rollout to finish: 0 of 1 updated replicas are available
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Advance podinfo.test canary weight 20
Advance podinfo.test canary weight 25
Advance podinfo.test canary weight 30
Advance podinfo.test canary weight 35
Advance podinfo.test canary weight 40
Advance podinfo.test canary weight 45
Advance podinfo.test canary weight 50
Copying podinfo.test template spec to podinfo-primary.test
Waiting for podinfo-primary.test rollout to finish: 1 of 2 updated replicas are available
Promotion completed! Scaling down podinfo.test

Rè mion-sgrùdadh, faodar toraidhean canary a leantainn le bhith a’ cleachdadh Grafana:

Thoir an aire ma thèid atharrachaidhean ùra a chuir an sàs ann an cleachdadh rè mion-sgrùdadh canary, an uairsin ath-thòisichidh Flagger an ìre sgrùdaidh.

Dèan liosta de na canaries anns a’ bhuidheann agad:

watch kubectl get canaries --all-namespaces
NAMESPACE   NAME      STATUS        WEIGHT   LASTTRANSITIONTIME
test        podinfo   Progressing   15       2019-01-16T14:05:07Z
prod        frontend  Succeeded     0        2019-01-15T16:15:07Z
prod        backend   Failed        0        2019-01-14T17:05:07Z

Ma tha thu air fiosan Slack a chomasachadh, gheibh thu na teachdaireachdan a leanas:

Tar-aisig fèin-ghluasadach

Rè mion-sgrùdadh canary, faodaidh tu mearachdan HTTP 500 synthetigeach a ghineadh agus latency freagairt àrd gus faicinn an stad Flagger an cleachdadh.

Cruthaich pod deuchainn agus dèan na leanas ann:

kubectl -n test run tester 
--image=quay.io/stefanprodan/podinfo:1.2.1 
-- ./podinfo --port=9898
kubectl -n test exec -it tester-xx-xx sh

A’ cruthachadh mhearachdan HTTP 500:

watch curl http://podinfo-canary:9898/status/500

Ginealach dàil:

watch curl http://podinfo-canary:9898/delay/1

Nuair a ruigeas an àireamh de sgrùdaidhean a dh’ fhàillig an stairsneach, thèid an trafaic a chuir air ais chun phrìomh sheanal, tha an canary air a sgèileadh gu neoni, agus tha an cleachdadh air a chomharrachadh mar a dh’ fhàillig.

Tha mearachdan canary agus spìcean latency air an clàradh mar thachartasan Kubernetes agus air an logadh le Flagger ann an cruth JSON:

kubectl -n istio-system logs deployment/flagger -f | jq .msg

Starting canary deployment for podinfo.test
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Halt podinfo.test advancement success rate 69.17% < 99%
Halt podinfo.test advancement success rate 61.39% < 99%
Halt podinfo.test advancement success rate 55.06% < 99%
Halt podinfo.test advancement success rate 47.00% < 99%
Halt podinfo.test advancement success rate 37.00% < 99%
Halt podinfo.test advancement request duration 1.515s > 500ms
Halt podinfo.test advancement request duration 1.600s > 500ms
Halt podinfo.test advancement request duration 1.915s > 500ms
Halt podinfo.test advancement request duration 2.050s > 500ms
Halt podinfo.test advancement request duration 2.515s > 500ms
Rolling back podinfo.test failed checks threshold reached 10
Canary failed! Scaling down podinfo.test

Ma tha thu air fiosan Slack a chomasachadh, gheibh thu teachdaireachd nuair a thèid thu thairis air a’ cheann-latha no nuair a ruigear an àireamh as motha de sgrùdaidhean air fàiligeadh san anailis:

Ann an co-dhùnadh

Bheir ruith mogal seirbheis mar Istio a bharrachd air Kubernetes metrics fèin-ghluasadach, logaichean, agus protocolaidhean, ach tha cleachdadh eallach obrach fhathast an urra ri innealan taobh a-muigh. Tha Flagger ag amas air seo atharrachadh le bhith a’ cur comasan Istio ris solar adhartach.

Tha Flagger co-chòrdail ri fuasgladh Kubernetes CI / CD sam bith, agus faodar mion-sgrùdadh canary a leudachadh gu furasta le cuachan-lìn gus deuchainnean amalachadh siostam / gabhail, deuchainnean luchdan, no sgrùdaidhean àbhaisteach sam bith eile a dhèanamh. Leis gu bheil Flagger dearbhach agus a’ freagairt air tachartasan Kubernetes, faodar a chleachdadh ann am pìoban GitOps còmhla ri Flux fighe no JenkinsX. Ma tha thu a’ cleachdadh JenkinsX is urrainn dhut Flagger a stàladh le jx addons.

Tha taic aig Flagger Obair fhighe agus a’ toirt seachad cleachdadh canary ann an Sgòthan Fighe. Tha am pròiseact ga dheuchainn air GKE, EKS, agus meatailt lom le kubeadm.

Ma tha molaidhean agad airson Flagger a leasachadh, feuch an cuir thu a-steach cùis no PR air GitHub aig stefanprodan/bratach. Tha fàilte ro mhòr air tabhartasan!

Спасибо Ray Tsang.

Source: www.habr.com

Cleachdadh canary fèin-ghluasadach le Flagger agus Istio