เดธเดฟเดกเดฟ เดเดฐเต เดเดจเตเดฑเตผเดชเตเดฐเตเดธเต เดธเตเดซเตเดฑเตเดฑเตโเดตเตเดฏเตผ เดชเดฐเดฟเดถเตเดฒเดจเดฎเดพเดฏเดฟ เด เดเดเตเดเดฐเดฟเดเตเดเดชเตเดชเตเดเตเดเดฟเดฐเดฟเดเตเดเตเดจเตเดจเต, เดเดคเต เดธเตเดฅเดพเดชเดฟเดคเดฎเดพเดฏ CI เดคเดคเตเดตเดเตเดเดณเตเดเต เดธเตเดตเดพเดญเดพเดตเดฟเด เดชเดฐเดฟเดฃเดพเดฎเดคเตเดคเดฟเดจเตเดฑเต เดซเดฒเดฎเดพเดฃเต. เดเดจเตเดจเดฟเดฐเตเดจเตเดจเดพเดฒเตเด, เดธเดฟเดกเดฟ เดเดชเตเดชเตเดดเตเด เดตเดณเดฐเต เดตเดฟเดฐเดณเดฎเดพเดฃเต, เดเดฐเตเดชเดเตเดทเต เดฎเดพเดจเตเดเตเดฎเตเดจเตเดฑเดฟเดจเตเดฑเต เดธเดเตเดเตเตผเดฃเตเดฃเดคเดฏเตเด เดธเดฟเดธเตเดฑเตเดฑเด เดฒเดญเตเดฏเดคเดฏเต เดฌเดพเดงเดฟเดเตเดเตเดจเตเดจ เดชเดฐเดพเดเดฏ เดตเดฟเดจเตเดฏเดพเดธเดเตเดเดณเตเดเตเดเตเดฑเดฟเดเตเดเตเดณเตเดณ เดญเดฏเดตเตเด เดเดพเดฐเดฃเด.
Google Kubernetes Engine-เตฝ (GKE) เดซเตเดฒเดพเดเตผ เดธเดเตเดเตเดเดฐเดฟเดเตเดเตเดจเตเดจเดคเดฟเดจเตเด เดเดชเดฏเตเดเดฟเดเตเดเตเดจเตเดจเดคเดฟเดจเตเดฎเตเดณเตเดณ เดเดเตเดเด เดเดเตเดเดฎเดพเดฏเตเดณเตเดณ เดเตเดกเต เดเตเดตเดเตเดฏเตเดฃเตเดเต.
เดเดฐเต เดเตเดฌเตผเดจเตเดฑเตเดฑเดธเต เดเตเดฒเดธเตเดฑเตเดฑเตผ เดธเดเตเดเตเดเดฐเดฟเดเตเดเตเดจเตเดจเต
เดจเดฟเดเตเดเตพ Istio เดเดกเต-เดเตบ เดเดชเดฏเตเดเดฟเดเตเดเต เดเดฐเต GKE เดเตเดฒเดธเตเดฑเตเดฑเตผ เดธเตเดทเตเดเดฟเดเตเดเตเดเตเดฃเตเดเต เดเดฐเดเดญเดฟเดเตเดเตเด (เดจเดฟเดเตเดเตพเดเตเดเต GCP เด
เดเตเดเตเดฃเตเดเต เดเดฒเตเดฒเตเดเตเดเดฟเตฝ, เดจเดฟเดเตเดเตพเดเตเดเต เดธเตเตป เด
เดชเตเดชเต เดเตเดฏเตเดฏเดพเด
Google เดเตเดฒเตเดกเดฟเดฒเตเดเตเดเต เดธเตเตป เดเตป เดเตเดฏเตเดฏเตเด, เดเดฐเต เดชเตเดฐเตเดเดเตเดฑเตเดฑเต เดธเตเดทเตโเดเดฟเดเตเดเตเด, เด
เดคเดฟเดจเดพเดฏเดฟ เดฌเดฟเดฒเตเดฒเดฟเดเดเต เดชเตเดฐเดตเตผเดคเตเดคเดจเดเตเดทเดฎเดฎเดพเดเตเดเตเด. เดเดฎเดพเตปเดกเต เดฒเตเตป เดฏเตเดเตเดเดฟเดฒเดฟเดฑเตเดฑเดฟ เดเตปเดธเตเดฑเตเดฑเดพเตพ เดเตเดฏเตเดฏเตเด gcloud init
.
เดกเดฟเดซเตเตพเดเตเดเต เดชเตเดฐเตเดเดเตเดฑเตเดฑเต, เดเดฎเตเดชเตเดฏเตเดเตเดเต เดเดฐเดฟเดฏ, เดธเตเตบ เดเดจเตเดจเดฟเดต เดธเดเตเดเดฎเดพเดเตเดเตเด (เดฎเดพเดฑเตเดฑเดฟเดธเตเดฅเดพเดชเดฟเดเตเดเตเด PROJECT_ID
เดจเดฟเดเตเดเดณเตเดเต เดชเตเดฐเตเดเดเตเดฑเตเดฑเดฟเดจเดพเดฏเดฟ):
gcloud config set project PROJECT_ID
gcloud config set compute/region us-central1
gcloud config set compute/zone us-central1-a
GKE เดธเตเดตเดจเด เดชเตเดฐเดตเตผเดคเตเดคเดจเดเตเดทเดฎเดฎเดพเดเตเดเตเดเดฏเตเด HPA, Istio เดเดกเต-เดเดฃเตเดเตพ เดเดจเตเดจเดฟเดต เดเดชเดฏเตเดเดฟเดเตเดเต เดเดฐเต เดเตเดฒเดธเตเดฑเตเดฑเตผ เดธเตเดทเตเดเดฟเดเตเดเตเดเดฏเตเด เดเตเดฏเตเดฏเตเด:
gcloud services enable container.googleapis.com
K8S_VERSION=$(gcloud beta container get-server-config --format=json | jq -r '.validMasterVersions[0]')
gcloud beta container clusters create istio
--cluster-version=${K8S_VERSION}
--zone=us-central1-a
--num-nodes=2
--machine-type=n1-standard-2
--disk-size=30
--enable-autorepair
--no-enable-cloud-logging
--no-enable-cloud-monitoring
--addons=HorizontalPodAutoscaling,Istio
--istio-config=auth=MTLS_PERMISSIVE
เดฎเตเดเดณเดฟเดฒเตเดณเตเดณ เดเดฎเดพเตปเดกเต เดฐเดฃเตเดเต VM-เดเตพ เดเตพเดชเตเดชเตเดเต เดเดฐเต เดกเดฟเดซเตเตพเดเตเดเต เดจเตเดกเต เดชเตเตพ เดธเตเดทเตเดเดฟเดเตเดเตเด n1-standard-2
(vCPU: 2, เดฑเดพเด 7,5 GB, เดกเดฟเดธเตเดเต: 30 GB). เดจเดฟเดเตเดเดณเตเดเต เดเตเดฒเดฟเดญเดพเดฐเดคเตเดคเดฟเตฝ เดจเดฟเดจเตเดจเต เดจเดฟเดเตเดเตพ เดเดธเตเดคเดฟเดฏเต เดเดเดเดเตเดเดณเต เดตเตเตผเดคเดฟเดฐเดฟเดเตเดเตเดฃเตเดเดคเดพเดฃเต, เดเดจเตเดจเดพเตฝ เดจเตเดกเตเดเดณเตเดเต เดธเดฎเตผเดชเตเดชเดฟเดค เดชเตเดณเดฟเตฝ เดเดธเตเดคเดฟเดฏเต เดชเตเดกเตเดเตพ เดชเตเดฐเดตเตผเดคเตเดคเดฟเดชเตเดชเดฟเดเตเดเดพเตป เดเดณเตเดชเตเดชเดตเดดเดฟเดฏเดฟเดฒเตเดฒ. เดเดธเตเดฑเตเดฑเดฟเดฏเต เดฎเดพเดจเดฟเดซเตเดธเตเดฑเตเดฑเตเดเตพ เดฑเตเดกเต-เดเตบเดฒเดฟ เดเดฏเดฟ เดเดฃเดเตเดเดพเดเตเดเตเดจเตเดจเต, เดเตเดเดพเดคเต เดเดฐเต เดจเตเดกเดฟเดฒเตเดเตเดเต เดฒเดฟเดเตเดเต เดเตเดฏเตเดฏเตเดจเตเดจเดคเต เดชเตเดกเดฟเตฝ เดจเดฟเดจเตเดจเต เดตเตเตผเดชเตเดเตเดคเตเดคเตเดจเตเดจเดคเต เดชเตเดฒเตเดณเตเดณ เดเดฒเตเดฒเดพ เดฎเดพเดฑเตเดฑเดเตเดเดณเตเด GKE เดชเดดเดฏเดชเดเดฟเดฏเดพเดเตเดเตเด.
เดเดคเดฟเดจเดพเดฏเดฟ เดเตเดฐเตเดกเตปเดทเตเดฏเดฒเตเดเตพ เดธเดเตเดเตเดเดฐเดฟเดเตเดเตเด kubectl
:
gcloud container clusters get-credentials istio
เดเดฐเต เดเตเดฒเดธเตเดฑเตเดฑเตผ เด เดกเตเดฎเดฟเดจเดฟเดธเตเดเตเดฐเตเดฑเตเดฑเตผ เดฑเตเตพ เดฌเตเตปเดกเดฟเดเดเต เดธเตเดทเตเดเดฟเดเตเดเตเด:
kubectl create clusterrolebinding "cluster-admin-$(whoami)"
--clusterrole=cluster-admin
--user="$(gcloud config get-value core/account)"
เดเดฎเดพเตปเดกเต เดฒเตเตป เดเตเตพ เดเตปเดธเตเดฑเตเดฑเดพเตพ เดเตเดฏเตเดฏเตเด
brew install kubernetes-helm
เดนเตเดเดฌเตเดฐเต 2.0 เดเดชเตเดชเตเตพ เดฒเดญเตเดฏเดฎเดพเดฃเต
เดเดฟเดฒเตเดฒเดฑเดฟเดจเดพเดฏเดฟ เดเดฐเต เดธเตเดตเดจ เด เดเตเดเตเดฃเตเดเตเด เดเตเดฒเดธเตเดฑเตเดฑเตผ เดฑเตเตพ เดฌเตเตปเดกเดฟเดเดเตเด เดธเตเดทเตเดเดฟเดเตเดเตเด:
kubectl -n kube-system create sa tiller &&
kubectl create clusterrolebinding tiller-cluster-rule
--clusterrole=cluster-admin
--serviceaccount=kube-system:tiller
เดจเตเดฏเดฟเดเดธเตเดชเตเดธเดฟเตฝ เดเดฟเดฒเตเดฒเตผ เดตเดฟเดเดธเดฟเดชเตเดชเดฟเดเตเดเตเด kube-system
:
helm init --service-account tiller
เดนเตเตฝเดฎเดฟเดจเตเด เดเดฟเดฒเตเดฒเดฑเดฟเดจเตเด เดเดเดฏเดฟเตฝ SSL เดเดชเดฏเตเดเดฟเดเตเดเตเดจเตเดจเดคเต เดจเดฟเดเตเดเตพ เดชเดฐเดฟเดเดฃเดฟเดเตเดเดฃเด. เดจเดฟเดเตเดเดณเตเดเต เดนเตเตฝเด เดเตปเดธเตเดฑเตเดฑเดพเดณเตเดทเตป เดชเดฐเดฟเดฐเดเตเดทเดฟเดเตเดเตเดจเตเดจเดคเดฟเดจเตเดเตเดเตเดฑเดฟเดเตเดเตเดณเตเดณ เดเตเดเตเดคเตฝ เดตเดฟเดตเดฐเดเตเดเตพเดเตเดเต, เดเดพเดฃเตเด
เดเตเดฐเดฎเตเดเดฐเดฃเดเตเดเตพ เดธเตเดฅเดฟเดฐเตเดเดฐเดฟเดเตเดเตเด:
kubectl -n istio-system get svc
เดเตเดฑเดเตเดเต เดจเดฟเดฎเดฟเดทเดเตเดเตพเดเตเดเต เดถเตเดทเด, เดธเตเดตเดจเดคเตเดคเดฟเดจเดพเดฏเดฟ GCP เดเดฐเต เดฌเดพเดนเตเดฏ IP เดตเดฟเดฒเดพเดธเด เดจเตฝเดเดฃเด istio-ingressgateway
.
เดเดธเตเดคเดฟเดฏเต เดเตปเดเตเดฐเดธเต เดเตเดฑเตเดฑเตโเดตเต เดเตเตบเดซเดฟเดเตผ เดเตเดฏเตเดฏเตเดจเตเดจเต
เดเดฐเต เดชเตเดฐเดฟเดจเตเดชเตเดชเด เดเดฐเต เดธเตเดฑเตเดฑเดพเดฑเตเดฑเดฟเดเต เดเดชเดฟ เดตเดฟเดฒเดพเดธเด เดธเตเดทเตเดเดฟเดเตเดเตเด istio-gateway
เดเดธเตเดคเดฟเดฏเต เดเตเดฑเตเดฑเตโเดตเตเดฏเตเดเต IP เดตเดฟเดฒเดพเดธเด เดเดชเดฏเตเดเดฟเดเตเดเตเดจเตเดจเต:
export GATEWAY_IP=$(kubectl -n istio-system get svc/istio-ingressgateway -ojson | jq -r .status.loadBalancer.ingress[0].ip)
gcloud compute addresses create istio-gateway --addresses ${GATEWAY_IP} --region us-central1
เดเดชเตเดชเตเตพ เดจเดฟเดเตเดเตพเดเตเดเต เดเดฐเต เดเดจเตเดฑเตผเดจเตเดฑเตเดฑเต เดกเตเดฎเตเดฏเตโเดจเตเด เดจเดฟเดเตเดเดณเตเดเต DNS เดฐเดเดฟเดธเตเดเตเดฐเดพเดฑเดฟเดฒเตเดเตเดเตเดณเตเดณ เดเดเตโเดธเดธเตเด เดเดตเดถเตเดฏเดฎเดพเดฃเต. เดฐเดฃเตเดเต เด เดฑเตเดเตเดเตเตผเดกเตเดเตพ เดเตเตผเดเตเดเตเด (เดฎเดพเดฑเตเดฑเดฟเดธเตเดฅเดพเดชเดฟเดเตเดเตเด example.com
เดจเดฟเดเตเดเดณเตเดเต เดกเตเดฎเตเดฏเตโเดจเดฟเดฒเตเดเตเดเต):
istio.example.com A ${GATEWAY_IP}
*.istio.example.com A ${GATEWAY_IP}
DNS เดตเตเตฝเดกเตเดเดพเตผเดกเต เดชเตเดฐเดตเตผเดคเตเดคเดฟเดเตเดเตเดจเตเดจเตเดฃเตเดเตเดฏเตเดจเตเดจเต เดชเดฐเดฟเดถเตเดงเดฟเดเตเดเตเด:
watch host test.istio.example.com
HTTP เดฎเตเดเตเดจเดฏเตเดณเตเดณ เดธเตเดตเดจ เดฎเตเดทเดฟเดจเต เดชเตเดฑเดคเตเดคเต เดธเตเดตเดจเดเตเดเตพ เดจเตฝเดเตเดจเตเดจเดคเดฟเดจเต เดเดฐเต เดชเตเดคเต เดเดธเตเดคเดฟเดฏเต เดเตเดฑเตเดฑเตโเดตเต เดธเตเดทเตเดเดฟเดเตเดเตเด:
apiVersion: networking.istio.io/v1alpha3
kind: Gateway
metadata:
name: public-gateway
namespace: istio-system
spec:
selector:
istio: ingressgateway
servers:
- port:
number: 80
name: http
protocol: HTTP
hosts:
- "*"
เดฎเตเดเดณเดฟเดฒเตเดณเตเดณ เดเดฑเดตเดฟเดเด public-gateway.yaml เดเดฏเดฟ เดธเดเดฐเดเตเดทเดฟเดเตเดเต เด เดคเต เดชเตเดฐเดฏเตเดเดฟเดเตเดเตเด:
kubectl apply -f ./public-gateway.yaml
SSL เดเดฒเตเดฒเดพเดคเต เดเดฐเต เดชเตเดฐเตเดกเดเตเดทเตป เดธเดฟเดธเตเดฑเตเดฑเดตเตเด เดเดจเตเดฑเตผเดจเตเดฑเตเดฑเดฟเตฝ เดธเตเดตเดจเดเตเดเตพ เดจเตฝเดเดฐเตเดคเต. Cert-manager, CloudDNS, Let's Encrypt เดเดจเตเดจเดฟเดต เดเดชเดฏเตเดเดฟเดเตเดเต Istio เดชเตเดฐเดตเตเดถเดจ เดเตเดฑเตเดฑเตโเดตเต เดธเตเดฐเดเตเดทเดฟเดคเดฎเดพเดเตเดเดพเตป, เดฆเดฏเดตเดพเดฏเดฟ เดตเดพเดฏเดฟเดเตเดเตเด
เดซเตเดฒเดพเดเตผ เดเตปเดธเตเดฑเตเดฑเดพเดณเตเดทเตป
GKE Istio เดเดกเต-เดเดฃเดฟเตฝ Istio เดเตเดฒเดฟเดฎเตเดเตเดฐเดฟ เดธเตเดตเดจเด เดตเตเดคเตเดคเดฟเดฏเดพเดเตเดเตเดจเตเดจ เดเดฐเต Prometheus เดเดฆเดพเดนเดฐเดฃเด เดเตพเดชเตเดชเตเดเตเดจเตเดจเดฟเดฒเตเดฒ. เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจเด เดจเดเดคเตเดคเดพเตป Flagger Istio HTTP เดฎเตเดเตเดฐเดฟเดเตโเดธเต เดเดชเดฏเตเดเดฟเดเตเดเตเดจเตเดจเดคเดฟเดจเดพเตฝ, เดเดฆเตเดฏเตเดเดฟเด เดเดธเตเดคเดฟเดฏเต เดนเตเตฝเด เดธเตโเดเตเดฎเดฏเตโเดเตเดเตเดชเตเดชเด เดตเดฐเตเดจเตเดจเดคเดฟเดจเต เดธเดฎเดพเดจเดฎเดพเดฏเดฟ เดเดจเดฟเดชเตเดชเดฑเดฏเตเดจเตเดจ เดชเตเดฐเตเดฎเดฟเดคเตเดฏเตเดธเต เดเตเตบเดซเดฟเดเดฑเตเดทเตป เดจเดฟเดเตเดเตพ เดตเดฟเดจเตเดฏเดธเดฟเดเตเดเตเดฃเตเดเดคเตเดฃเตเดเต.
REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/gke/istio-prometheus.yaml
เดซเตเดฒเดพเดเตผ เดนเตเตฝเด เดถเตเดเดฐเด เดเตเตผเดเตเดเตเด:
helm repo add flagger [https://flagger.app](https://flagger.app/)
เดซเตเดฒเดพเดเตผ เดจเตเดฏเดฟเดเดธเตเดชเตเดธเดฟเดฒเตเดเตเดเต เดตเดฟเดเดธเดฟเดชเตเดชเดฟเดเตเดเตเด istio-system
เดธเตเดฒเดพเดเตเดเต เด
เดฑเดฟเดฏเดฟเดชเตเดชเตเดเตพ เดชเตเดฐเดตเตผเดคเตเดคเดจเดเตเดทเดฎเดฎเดพเดเตเดเตเดจเตเดจเดคเดฟเดฒเตเดเต:
helm upgrade -i flagger flagger/flagger
--namespace=istio-system
--set metricsServer=http://prometheus.istio-system:9090
--set slack.url=https://hooks.slack.com/services/YOUR-WEBHOOK-ID
--set slack.channel=general
--set slack.user=flagger
เดชเตเตผเดเตเดเต 9090-เดฒเต เดเดธเตเดฑเตเดฑเดฟเดฏเต เดชเตเดฐเตเดฎเดฟเดคเตเดฏเตเดธเต เดธเตเดตเดจเดตเตเดฎเดพเดฏเดฟ เดเดถเดฏเดตเดฟเดจเดฟเดฎเดฏเด เดจเดเดคเตเดคเดพเตป เดเดดเดฟเดฏเตเดจเตเดจเดฟเดเดคเตเดคเตเดณเด, เดเดคเต เดจเตเดฏเดฟเดเดธเตโเดชเตเดฏเตโเดธเดฟเดฒเตเด เดจเดฟเดเตเดเตพเดเตเดเต เดซเตเดฒเดพเดเตผ เดเตปเดธเตเดฑเตเดฑเดพเตพ เดเตเดฏเตเดฏเดพเตป เดเดดเดฟเดฏเตเด.
เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจเดคเตเดคเดฟเดจเดพเดฏเดฟ เดซเตเดฒเดพเดเดฑเดฟเดจเต เดเดฐเต เดเตเดฐเดพเดซเดพเดจ เดกเดพเดทเตโเดฌเตเตผเดกเต เดเดฃเตเดเต. เดเตเดฐเดพเดซเดพเดจ เดจเตเดฏเดฟเดเดธเตเดชเตเดธเดฟเตฝ เดเตปเดธเตเดฑเตเดฑเดพเตพ เดเตเดฏเตเดฏเตเด istio-system
:
helm upgrade -i flagger-grafana flagger/grafana
--namespace=istio-system
--set url=http://prometheus.istio-system:9090
--set user=admin
--set password=change-me
เดเดฐเต เดตเตเตผเดเตเดตเตฝ เดธเตเดตเดจเด เดธเตเดทเตเดเดฟเดเตเดเตเดเตเดฃเตเดเต เดเดฐเต เดคเตเดฑเดจเตเดจ เดเตเดฑเตเดฑเตโเดตเตเดฏเดฟเดฒเตเดเต เดเตเดฐเดพเดซเดพเดจเดฏเต เดคเตเดฑเดจเตเดจเตเดเดพเดเตเดเตเด (เดฎเดพเดฑเตเดฑเดฟเดธเตเดฅเดพเดชเดฟเดเตเดเตเด example.com
เดจเดฟเดเตเดเดณเตเดเต เดกเตเดฎเตเดฏเตโเดจเดฟเดฒเตเดเตเดเต):
apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
name: grafana
namespace: istio-system
spec:
hosts:
- "grafana.istio.example.com"
gateways:
- public-gateway.istio-system.svc.cluster.local
http:
- route:
- destination:
host: flagger-grafana
เดฎเตเดเดณเดฟเดฒเต เดเดฑเดตเดฟเดเด grafana-virtual-service.yaml เดเดฏเดฟ เดธเดเดฐเดเตเดทเดฟเดเตเดเต เด เดคเต เดชเตเดฐเดฏเตเดเดฟเดเตเดเตเด:
kubectl apply -f ./grafana-virtual-service.yaml
เดฒเตเดเตเดเต เดจเตเดเตเดเตเดฎเตเดชเตเตพ http://grafana.istio.example.com
เดฌเตเดฐเตเดธเดฑเดฟเตฝ, เดจเดฟเดเตเดเดณเต เดเตเดฐเดพเดซเดพเดจ เดฒเตเดเดฟเตป เดชเตเดเดฟเดฒเตเดเตเดเต เดจเดฏเดฟเดเตเดเดฃเด.
เดซเตเดฒเดพเดเตผ เดเดชเดฏเตเดเดฟเดเตเดเต เดตเตเดฌเต เดเดชเตเดฒเดฟเดเตเดเตเดทเดจเตเดเตพ เดตเดฟเดจเตเดฏเดธเดฟเดเตเดเตเดจเตเดจเต
เดซเตเดฒเดพเดเตผ เดเตเดฌเตผเดจเตเดฑเตเดฑเตเดเดณเต เดตเดฟเดจเตเดฏเดธเดฟเดเตเดเตเดเดฏเตเด เดเดชเตโเดทเดฃเดฒเดพเดฏเดฟ เดธเตเดตเดฏเดฎเตเดต เดธเตเดเตเดฏเดฟเตฝ เดเดเตเดเต เดเตเดฏเตเดฏเตเดเดฏเตเด เดเตเดฏเตเดฏเตเดจเตเดจเต (HPA), เดคเตเดเตผเดจเตเดจเต เดเดฌเตโเดเดเตเดฑเตเดฑเตเดเดณเตเดเต เดเดฐเต เดถเตเดฐเตเดฃเดฟ เดธเตเดทเตโเดเดฟเดเตเดเตเดจเตเดจเต (เดเตเดฌเตผเดจเตเดฑเตเดฑเตเดธเต เดตเดฟเดจเตเดฏเดพเดธเดเตเดเตพ, เดเตเดฒเดธเตเดฑเตเดฑเตผเดเดชเดฟ เดธเตเดตเดจเดเตเดเตพ, เดเดธเตเดฑเตเดฑเดฟเดฏเต เดตเตเตผเดเตเดตเตฝ เดธเตเดตเดจเดเตเดเตพ). เด เดเดฌเตโเดเดเตโเดฑเตเดฑเตเดเตพ เดธเตเดตเดจ เดฎเตเดทเดฟเดฒเตเดเตเดเต เด เดชเตเดฒเดฟเดเตเดเตเดทเดจเต เดคเตเดฑเดจเตเดจเตเดเดพเดเตเดเตเดเดฏเตเด เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจเดตเตเด เดชเตเดฐเตเดเดคเดฟเดฏเตเด เดจเดฟเดฏเดจเตเดคเตเดฐเดฟเดเตเดเตเดเดฏเตเด เดเตเดฏเตเดฏเตเดจเตเดจเต.
Istio Sidecar injection เดชเตเดฐเดตเตผเดคเตเดคเดจเดเตเดทเดฎเดฎเดพเดเตเดเดฟ เดเดฐเต เดเตเดธเตเดฑเตเดฑเต เดจเตเดฏเดฟเดเดธเตเดชเตเดธเต เดธเตเดทเตเดเดฟเดเตเดเตเด:
REPO=https://raw.githubusercontent.com/stefanprodan/flagger/master
kubectl apply -f ${REPO}/artifacts/namespaces/test.yaml
เดเดฐเต เดตเดฟเดจเตเดฏเดพเดธเดตเตเด เดเดฐเต เดชเตเดกเต เดเดเตเดเต เดธเตเดเตเดฏเดฟเตฝ เดเตเดณเตเด เดธเตเดทเตเดเดฟเดเตเดเตเด:
kubectl apply -f ${REPO}/artifacts/canaries/deployment.yaml
kubectl apply -f ${REPO}/artifacts/canaries/hpa.yaml
เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจ เดธเดฎเดฏเดคเตเดคเต เดเตเดฐเดพเดซเดฟเดเต เดธเตเดทเตเดเดฟเดเตเดเดพเตป เดเดฐเต เดเตเดธเตเดฑเตเดฑเต เดฒเตเดกเต เดธเตเดตเดจเด เดตเดฟเดจเตเดฏเดธเดฟเดเตเดเตเด:
helm upgrade -i flagger-loadtester flagger/loadtester
--namepace=test
เดเดฐเต เดเดทเตโเดเดพเดจเตเดธเตเดค เดเดพเดจเดฑเดฟ เดเดฑเดตเดฟเดเด เดธเตเดทเตโเดเดฟเดเตเดเตเด (เดฎเดพเดฑเตเดฑเดฟเดธเตเดฅเดพเดชเดฟเดเตเดเตเด example.com
เดจเดฟเดเตเดเดณเตเดเต เดกเตเดฎเตเดฏเตโเดจเดฟเดฒเตเดเตเดเต):
apiVersion: flagger.app/v1alpha3
kind: Canary
metadata:
name: podinfo
namespace: test
spec:
targetRef:
apiVersion: apps/v1
kind: Deployment
name: podinfo
progressDeadlineSeconds: 60
autoscalerRef:
apiVersion: autoscaling/v2beta1
kind: HorizontalPodAutoscaler
name: podinfo
service:
port: 9898
gateways:
- public-gateway.istio-system.svc.cluster.local
hosts:
- app.istio.example.com
canaryAnalysis:
interval: 30s
threshold: 10
maxWeight: 50
stepWeight: 5
metrics:
- name: istio_requests_total
threshold: 99
interval: 30s
- name: istio_request_duration_seconds_bucket
threshold: 500
interval: 30s
webhooks:
- name: load-test
url: http://flagger-loadtester.test/
timeout: 5s
metadata:
cmd: "hey -z 1m -q 10 -c 2 http://podinfo.test:9898/"
เดฎเตเดเดณเดฟเดฒเต เดเดฑเดตเดฟเดเด podinfo-canary.yaml เดเดฏเดฟ เดธเดเดฐเดเตเดทเดฟเดเตเด เดถเตเดทเด เดชเตเดฐเดฏเตเดเดฟเดเตเดเตเด:
kubectl apply -f ./podinfo-canary.yaml
เดฎเตเดเดณเดฟเดฒเต เดตเดฟเดถเดเดฒเดจเด เดตเดฟเดเดฏเดเดฐเดฎเดพเดฃเตเดเตเดเดฟเตฝ, เดเดฐเต เด
เดฐ เดฎเดฟเดจเดฟเดฑเตเดฑเดฟเดฒเตเด HTTP เดฎเตเดเตเดฐเดฟเดเตโเดธเต เดชเดฐเดฟเดถเตเดงเดฟเดเตเดเต เด
เดเตเดเต เดฎเดฟเดจเดฟเดฑเตเดฑเต เดชเตเดฐเดตเตผเดคเตเดคเดฟเดเตเดเตเด. เดเดจเดฟเดชเตเดชเดฑเดฏเตเดจเตเดจ เดซเตเตผเดฎเตเดฒ เดเดชเดฏเตเดเดฟเดเตเดเต เดเดฐเต เดเดพเดจเดฑเดฟ เดตเดฟเดจเตเดฏเดพเดธเด เดธเดพเดงเตเดเดฐเดฟเดเตเดเตเดจเตเดจเดคเดฟเดจเตเด เดชเตเดฐเตเดคเตเดธเดพเดนเดฟเดชเตเดชเดฟเดเตเดเตเดจเตเดจเดคเดฟเดจเตเด เดเดตเดถเตเดฏเดฎเดพเดฏ เดเดฑเตเดฑเดตเตเด เดเตเดฑเดเตเด เดธเดฎเดฏเด เดจเดฟเดเตเดเตพเดเตเดเต เดจเดฟเตผเดฃเตเดฃเดฏเดฟเดเตเดเดพเดจเดพเดเตเด: interval * (maxWeight / stepWeight)
. เดเดพเดจเดฑเดฟ CRD เดซเตเตฝเดกเตเดเตพ เดฐเตเดเดชเตเดชเตเดเตเดคเตเดคเดฟเดฏเดฟเดเตเดเตเดฃเตเดเต
เดเตเดฑเดเตเดเต เดจเดฟเดฎเดฟเดทเดเตเดเตพเดเตเดเต เดถเตเดทเด, เดซเตเดฒเดพเดเตผ เดเดพเดจเดฑเดฟ เดเดฌเตเดเดเตเดฑเตเดฑเตเดเตพ เดธเตเดทเตเดเดฟเดเตเดเตเด:
# applied
deployment.apps/podinfo
horizontalpodautoscaler.autoscaling/podinfo
canary.flagger.app/podinfo
# generated
deployment.apps/podinfo-primary
horizontalpodautoscaler.autoscaling/podinfo-primary
service/podinfo
service/podinfo-canary
service/podinfo-primary
virtualservice.networking.istio.io/podinfo
เดเดฐเต เดฌเตเดฐเตเดธเตผ เดคเตเดฑเดจเตเดจเต เด
เดคเดฟเดฒเตเดเตเดเต เดชเตเดเตเด app.istio.example.com
, เดจเดฟเดเตเดเตพ เดชเดคเดฟเดชเตเดชเต เดจเดฎเตเดชเตผ เดเดพเดฃเดฃเด
เดฏเดพเดจเตเดคเตเดฐเดฟเด เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจเดตเตเด เดชเตเดฐเดฎเตเดทเดจเตเด
HTTP เด เดญเตเดฏเตผเดคเตเดฅเดจ เดตเดฟเดเดฏ เดจเดฟเดฐเดเตเดเต, เดถเดฐเดพเดถเดฐเดฟ เด เดญเตเดฏเตผเดคเตเดฅเดจ เดฆเตเตผเดเตเดฏเด, เดชเตเดกเต เดเดฐเตเดเตเดฏเด เดเดจเตเดจเดฟเดต เดชเตเดฒเตเดณเตเดณ เดชเตเดฐเดงเดพเดจ เดชเตเดฐเดเดเดจ เดฎเตเดเตเดฐเดฟเดเตโเดธเตเดเตพ เด เดณเดเตเดเตเดฎเตเดชเตเตพ เดเตเดฐเดฎเตเดฃ เดเดพเดจเดฑเดฟเดฏเดฟเดฒเตเดเตเดเต เดเตเดฐเดพเดซเดฟเดเตเดเดฟเดจเต เดจเตเดเตเดเตเดจเตเดจ เดเดฐเต เดเตบเดเตเดฐเตเตพ เดฒเตเดชเตเดชเต เดซเตเดฒเดพเดเตผ เดจเดเดชเตเดชเดฟเดฒเดพเดเตเดเตเดจเตเดจเต. เดเตเดชเดฟเด เดตเดฟเดถเดเดฒเดจเดคเตเดคเต เด เดเดฟเดธเตเดฅเดพเดจเดฎเดพเดเตเดเดฟ, เดเดพเดจเดฑเดฟเดฏเต เดชเตเดฐเตเดคเตเดธเดพเดนเดฟเดชเตเดชเดฟเดเตเดเตเดเดฏเต เดคเดเดธเตเดธเดชเตเดชเตเดเตเดคเตเดคเตเดเดฏเต เดเตเดฏเตเดฏเตเดจเตเดจเต, เดตเดฟเดถเดเดฒเดจเดคเตเดคเดฟเดจเตเดฑเต เดซเดฒเดเตเดเตพ เดธเตเดฒเดพเดเตเดเดฟเตฝ เดชเตเดฐเดธเดฟเดฆเตเดงเตเดเดฐเดฟเดเตเดเตเดจเตเดจเต.
เดเดจเดฟเดชเตเดชเดฑเดฏเตเดจเตเดจ เดเดฌเตโเดเดเตโเดฑเตเดฑเตเดเดณเดฟเตฝ เดเดจเตเดจเต เดฎเดพเดฑเตเดฎเตเดชเตเตพ เดเดพเดจเดฑเดฟ เดตเดฟเดจเตเดฏเดพเดธเด เดเตเดฐเดฟเดเตผ เดเตเดฏเตเดฏเดชเตเดชเตเดเตเดจเตเดจเต:
- PodSpec เดตเดฟเดจเตเดฏเดธเดฟเดเตเดเตเด (เดเดฃเตเดเตเดฏเตโเดจเตผ เดเดฎเตเดเต, เดเดฎเดพเตปเดกเต, เดชเตเตผเดเตเดเตเดเตพ, env เดฎเตเดคเดฒเดพเดฏเดต)
- เดเตเตบเดซเดฟเดเดฑเตเดทเตป เดฎเดพเดชเตเดชเตเดเตพ เดตเตเดณเตเดฏเดเตเดเดณเดพเดฏเดฟ เดฎเตเดฃเตเดเต เดเตเดฏเตโเดคเดฟเดฐเดฟเดเตเดเตเดจเตเดจเต เด เดฒเตเดฒเตเดเตเดเดฟเตฝ เดเตปเดตเดฏเตเตบเดฎเตเดจเตเดฑเต เดตเตเดฐเดฟเดฏเดฌเดฟเดณเตเดเดณเดฟเดฒเตเดเตเดเต เดฎเดพเดชเตเดชเต เดเตเดฏเตโเดคเดฟเดฐเดฟเดเตเดเตเดจเตเดจเต
- เดฐเดนเดธเตเดฏเดเตเดเตพ เดตเตเดณเตเดฏเดเตเดเดณเดพเดฏเดฟ เดฎเตเดฃเตเดเต เดเตเดฏเตเดฏเดชเตเดชเตเดเตเดจเตเดจเต เด เดฒเตเดฒเตเดเตเดเดฟเตฝ เดชเดฐเดฟเดธเตเดฅเดฟเดคเดฟ เดตเตเดฐเดฟเดฏเดฌเดฟเดณเตเดเดณเดฟเดฒเตเดเตเดเต เดชเดฐเดฟเดตเตผเดคเตเดคเดจเด เดเตเดฏเตเดฏเตเดจเตเดจเต
เดเดฐเต เดเดฃเตเดเตเดฏเตโเดจเตผ เดเดฎเตเดเต เด เดชเตโเดกเตเดฑเตเดฑเต เดเตเดฏเตเดฏเตเดฎเตเดชเตเตพ เดเดพเดจเดฑเดฟ เดตเดฟเดจเตเดฏเดพเดธเด เดชเตเดฐเดตเตผเดคเตเดคเดฟเดชเตเดชเดฟเดเตเดเตเด:
kubectl -n test set image deployment/podinfo
podinfod=quay.io/stefanprodan/podinfo:1.4.1
เดตเดฟเดจเตเดฏเดพเดธ เดชเดคเดฟเดชเตเดชเต เดฎเดพเดฑเดฟเดฏเตเดจเตเดจเต เดซเตเดฒเดพเดเตผ เดเดฃเตเดเตเดคเตเดคเดฟ เด เดคเต เดชเดพเดดเตโเดธเต เดเตเดฏเตเดฏเดพเตป เดคเตเดเดเตเดเตเดจเตเดจเต:
kubectl -n test describe canary/podinfo
Events:
New revision detected podinfo.test
Scaling up podinfo.test
Waiting for podinfo.test rollout to finish: 0 of 1 updated replicas are available
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Advance podinfo.test canary weight 20
Advance podinfo.test canary weight 25
Advance podinfo.test canary weight 30
Advance podinfo.test canary weight 35
Advance podinfo.test canary weight 40
Advance podinfo.test canary weight 45
Advance podinfo.test canary weight 50
Copying podinfo.test template spec to podinfo-primary.test
Waiting for podinfo-primary.test rollout to finish: 1 of 2 updated replicas are available
Promotion completed! Scaling down podinfo.test
เดตเดฟเดถเดเดฒเดจ เดธเดฎเดฏเดคเตเดคเต, เดเตเดฐเดพเดซเดพเดจ เดเดชเดฏเตเดเดฟเดเตเดเต เดเดพเดจเดฑเดฟ เดซเดฒเดเตเดเตพ เดเตเดฐเดพเดเตเดเต เดเตเดฏเตเดฏเดพเตป เดเดดเดฟเดฏเตเด:
เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจ เดธเดฎเดฏเดคเตเดคเต เดเดฐเต เดตเดฟเดจเตเดฏเดพเดธเดคเตเดคเดฟเตฝ เดชเตเดคเดฟเดฏ เดฎเดพเดฑเตเดฑเดเตเดเตพ เดชเตเดฐเดฏเตเดเดฟเดเตเดเตเดเดฏเดพเดฃเตเดเตเดเดฟเตฝ, เดซเตเดฒเดพเดเตผ เดตเดฟเดถเดเดฒเดจ เดเดเตเดเด เดชเตเดจเดฐเดพเดฐเดเดญเดฟเดเตเดเตเดฎเตเดจเตเดจเดคเต เดถเตเดฐเดฆเตเดงเดฟเดเตเดเตเด.
เดจเดฟเดเตเดเดณเตเดเต เดเตเดฒเดธเตเดฑเตเดฑเดฑเดฟเดฒเต เดเดฒเตเดฒเดพ เดเดพเดจเดฑเดฟเดเดณเตเดเตเดฏเตเด เดเดฐเต เดฒเดฟเดธเตเดฑเตเดฑเต เดเดฃเตเดเดพเดเตเดเตเด:
watch kubectl get canaries --all-namespaces
NAMESPACE NAME STATUS WEIGHT LASTTRANSITIONTIME
test podinfo Progressing 15 2019-01-16T14:05:07Z
prod frontend Succeeded 0 2019-01-15T16:15:07Z
prod backend Failed 0 2019-01-14T17:05:07Z
เดจเดฟเดเตเดเตพ เดธเตเดฒเดพเดเตเดเต เด เดฑเดฟเดฏเดฟเดชเตเดชเตเดเตพ เดชเตเดฐเดตเตผเดคเตเดคเดจเดเตเดทเดฎเดฎเดพเดเตเดเดฟเดฏเดฟเดเตเดเตเดฃเตเดเตเดเตเดเดฟเตฝ, เดจเดฟเดเตเดเตพเดเตเดเต เดเดจเดฟเดชเตเดชเดฑเดฏเตเดจเตเดจ เดธเดจเตเดฆเตเดถเดเตเดเตพ เดฒเดญเดฟเดเตเดเตเด:
เดเดเตเดเตเดฎเดพเดฑเตเดฑเดฟเดเต เดฑเตเตพเดฌเดพเดเตเดเต
เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจ เดธเดฎเดฏเดคเตเดคเต, เดซเตเดฒเดพเดเตผ เดตเดฟเดจเตเดฏเดพเดธเด เดจเดฟเตผเดคเตเดคเตเดฎเตเดฏเตเดจเตเดจเดฑเดฟเดฏเดพเตป เดจเดฟเดเตเดเตพเดเตเดเต เดธเดฟเดจเตเดคเดฑเตเดฑเดฟเดเต HTTP 500 เดชเดฟเดถเดเตเดเดณเตเด เดเดฏเตผเดจเตเดจ เดชเตเดฐเดคเดฟเดเดฐเดฃ เดฒเตเดฑเตเดฑเตปเดธเดฟเดฏเตเด เดธเตเดทเตเดเดฟเดเตเดเดพเตป เดเดดเดฟเดฏเตเด.
เดเดฐเต เดเตเดธเตเดฑเตเดฑเต เดชเตเดกเต เดธเตเดทเตเดเดฟเดเตเดเต เด เดคเดฟเตฝ เดเดจเดฟเดชเตเดชเดฑเดฏเตเดจเตเดจเดต เดเตเดฏเตเดฏเตเด:
kubectl -n test run tester
--image=quay.io/stefanprodan/podinfo:1.2.1
-- ./podinfo --port=9898
kubectl -n test exec -it tester-xx-xx sh
HTTP 500 เดชเดฟเดถเดเตเดเตพ เดธเตเดทเตเดเดฟเดเตเดเตเดจเตเดจเต:
watch curl http://podinfo-canary:9898/status/500
เดเดพเดฒเดคเดพเดฎเดธเด เดเดจเดฑเตเดทเตป:
watch curl http://podinfo-canary:9898/delay/1
เดชเดฐเดพเดเดฏเดชเตเดชเตเดเตเด เดเตเดเตเดเตเดเดณเตเดเต เดเดฃเตเดฃเด เดคเตเดฐเตเดทเตเตพเดกเดฟเตฝ เดเดคเตเดคเตเดฎเตเดชเตเตพ, เดเตเดฐเดพเดซเดฟเดเต เดชเตเดฐเตเดฎเดฑเดฟ เดเดพเดจเดฒเดฟเดฒเตเดเตเดเต เดคเดฟเดฐเดฟเดเตเดเตเดตเดฟเดเตเดเดฏเตเด เดเดพเดจเดฑเดฟ เดชเตเดเตเดฏเดคเตเดคเดฟเดฒเตเดเตเดเต เดธเตเดเตเดฏเดฟเตฝ เดเตเดฏเตเดฏเตเดเดฏเตเด เดตเดฟเดจเตเดฏเดพเดธเด เดชเดฐเดพเดเดฏเดชเตเดชเตเดเตเดเดคเดพเดฏเดฟ เด เดเดฏเดพเดณเดชเตเดชเตเดเตเดคเตเดคเตเดเดฏเตเด เดเตเดฏเตเดฏเตเดจเตเดจเต.
เดเดพเดจเดฑเดฟ เดชเดฟเดถเดเตเดเดณเตเด เดฒเตเดฑเตเดฑเตปเดธเดฟ เดชเตเดเตเดเตเดเดณเตเด เดเตเดฌเตผเดจเตเดฑเตเดฑเดธเต เดเดตเดจเตเดฑเตเดเดณเดพเดฏเดฟ เดฒเตเดเดฟเตป เดเตเดฏเตเดฏเตเดเดฏเตเด JSON เดซเตเตผเดฎเดพเดฑเตเดฑเดฟเตฝ เดซเตเดฒเดพเดเตผ เดฒเตเดเต เดเตเดฏเตเดฏเตเดเดฏเตเด เดเตเดฏเตเดคเต:
kubectl -n istio-system logs deployment/flagger -f | jq .msg
Starting canary deployment for podinfo.test
Advance podinfo.test canary weight 5
Advance podinfo.test canary weight 10
Advance podinfo.test canary weight 15
Halt podinfo.test advancement success rate 69.17% < 99%
Halt podinfo.test advancement success rate 61.39% < 99%
Halt podinfo.test advancement success rate 55.06% < 99%
Halt podinfo.test advancement success rate 47.00% < 99%
Halt podinfo.test advancement success rate 37.00% < 99%
Halt podinfo.test advancement request duration 1.515s > 500ms
Halt podinfo.test advancement request duration 1.600s > 500ms
Halt podinfo.test advancement request duration 1.915s > 500ms
Halt podinfo.test advancement request duration 2.050s > 500ms
Halt podinfo.test advancement request duration 2.515s > 500ms
Rolling back podinfo.test failed checks threshold reached 10
Canary failed! Scaling down podinfo.test
เดจเดฟเดเตเดเตพ เดธเตเดฒเดพเดเตเดเต เด เดฑเดฟเดฏเดฟเดชเตเดชเตเดเตพ เดชเตเดฐเดตเตผเดคเตเดคเดจเดเตเดทเดฎเดฎเดพเดเตเดเดฟเดฏเดฟเดเตเดเตเดฃเตเดเตเดเตเดเดฟเตฝ, เดธเดฎเดฏเดชเดฐเดฟเดงเดฟ เดเดตเดฟเดฏเตเดฎเตเดชเตเดดเต เดตเดฟเดถเดเดฒเดจเดคเตเดคเดฟเตฝ เดชเดฐเดพเดเดฏเดชเตเดชเตเดเตเด เดเตเดเตเดเตเดเดณเตเดเต เดชเดฐเดฎเดพเดตเดงเดฟ เดเดฃเตเดฃเด เดเดคเตเดคเตเดฎเตเดชเตเดดเต เดจเดฟเดเตเดเตพเดเตเดเต เดเดฐเต เดธเดจเตเดฆเตเดถเด เดฒเดญเดฟเดเตเดเตเด:
เดเดชเดธเดเดนเดพเดฐเดฎเดพเดฏเดฟ
Kubernetes-เดจเต เดชเตเดฑเดฎเต Istio เดชเตเดฒเตเดฏเตเดณเตเดณ เดเดฐเต เดธเตเดตเดจ เดฎเตเดทเต เดชเตเดฐเดตเตผเดคเตเดคเดฟเดชเตเดชเดฟเดเตเดเตเดจเตเดจเดคเต เดธเตเดตเดฏเดฎเตเดตเดฏเตเดณเตเดณ เด
เดณเดตเตเดเตพ, เดฒเตเดเตเดเตพ, เดชเตเดฐเตเดเตเดเตเดเตเดเตเดณเตเดเตพ เดเดจเตเดจเดฟเดต เดฒเดญเตเดฏเดฎเดพเดเตเดเตเด, เดเดจเตเดจเดพเตฝ เดเตเดฒเดฟเดญเดพเดฐเด เดตเดฟเดจเตเดฏเดพเดธเด เดเดชเตเดชเตเดดเตเด เดฌเดพเดนเตเดฏ เดเดชเดเดฐเดฃเดเตเดเดณเต เดเดถเตเดฐเดฏเดฟเดเตเดเดฟเดฐเดฟเดเตเดเตเดจเตเดจเต. Istio เดเดดเดฟเดตเตเดเตพ เดเตเตผเดคเตเดคเต เดเดคเต เดฎเดพเดฑเตเดฑเดพเตป เดซเตเดฒเดพเดเตผ เดฒเดเตเดทเตเดฏเดฎเดฟเดเตเดจเตเดจเต
เดซเตเดฒเดพเดเตผ เดเดคเต เดเตเดฌเตผเดจเตเดฑเตเดฑเดธเต เดธเดฟเด/เดธเดฟเดกเดฟ เดธเตเดฒเตเดฏเตเดทเดจเตเดฎเดพเดฏเดฟ เดชเตเดฐเตเดคเตเดคเดชเตเดชเตเดเตเดจเตเดจเต, เดเตเดเดพเดคเต เดเดพเดจเดฑเดฟ เดตเดฟเดถเดเดฒเดจเด เดเดณเตเดชเตเดชเดคเตเดคเดฟเตฝ เดตเดฟเดชเตเดฒเตเดเดฐเดฟเดเตเดเดพเตป เดเดดเดฟเดฏเตเด
เดซเตเดฒเดพเดเตผ เดชเดฟเดจเตเดคเตเดฃเดฏเตเดเตเดเตเดจเตเดจเต
เดซเตเดฒเดพเดเตผ เดฎเตเดเตเดเดชเตเดชเตเดเตเดคเตเดคเดพเตป เดจเดฟเดเตเดเตพเดเตเดเต เดจเดฟเตผเดฆเตเดฆเตเดถเดเตเดเดณเตเดฃเตเดเตเดเตเดเดฟเตฝ, เดฆเดฏเดตเดพเดฏเดฟ GitHub-เตฝ เดเดฐเต เดชเตเดฐเดถเตโเดจเด เด
เดฒเตเดฒเตเดเตเดเดฟเตฝ PR เดธเดฎเตผเดชเตเดชเดฟเดเตเดเตเด
ะกะฟะฐัะธะฑะพ
เด เดตเดฒเดเดฌเด: www.habr.com