Istio संग microservices मा फर्कनुहोस्। भाग 1

Istio संग microservices मा फर्कनुहोस्। भाग 1

नोट। अनुवाद।: माइक्रोसर्भिस आर्किटेक्चर पछ्याउने अनुप्रयोगहरूको लागि आधुनिक पूर्वाधारमा सेवा जालहरू निश्चित रूपमा सान्दर्भिक समाधान भएको छ। जबकि Istio धेरै DevOps ईन्जिनियरहरूको ओठमा हुन सक्छ, यो एकदम नयाँ उत्पादन हो जुन, यसले प्रदान गर्ने क्षमताहरूको सन्दर्भमा व्यापक हुँदा, परिचित हुनको लागि महत्त्वपूर्ण समय चाहिन्छ। जर्मन इन्जिनियर रिनोर मालोकु, जो दूरसञ्चार कम्पनी ओरेन्ज नेटवर्क्सका ठूला ग्राहकहरूका लागि क्लाउड कम्प्युटिङका ​​लागि जिम्मेवार छन्, सामग्रीहरूको एक अद्भुत श्रृंखला लेखेका छन् जसले तपाईंलाई इस्टियोमा छिटो र गहिरो डुब्न अनुमति दिन्छ। उसले आफ्नो कथा सुरु गर्छ Istio सामान्यतया के गर्न सक्छ र कसरी तपाइँ यसलाई आफ्नो आँखाले छिटो देख्न सक्नुहुन्छ।

इस्तिओ — गुगल, IBM र Lyft का टोलीहरूसँगको सहकार्यमा विकसित खुला स्रोत परियोजना। यसले सूक्ष्म सेवाहरूमा आधारित अनुप्रयोगहरूमा उत्पन्न हुने जटिलताहरूलाई समाधान गर्छ, जस्तै:

  • ट्राफिक व्यवस्थापन: टाइमआउट, पुन: प्रयास, लोड सन्तुलन;
  • सुरक्षा: अन्त प्रयोगकर्ता प्रमाणीकरण र प्राधिकरण;
  • अवलोकन योग्यता: ट्रेसिङ, निगरानी, ​​लगिङ।

यी सबैलाई एप्लिकेसन स्तरमा समाधान गर्न सकिन्छ, तर त्यस पछि तपाईका सेवाहरू "माइक्रो" हुने छैनन्। यी समस्याहरू समाधान गर्नका लागि सबै अतिरिक्त प्रयासहरू कम्पनी स्रोतहरूको बर्बादी हो जुन सीधा व्यापार मूल्यको लागि प्रयोग गर्न सकिन्छ। एउटा उदाहरण हेरौं:

परियोजना प्रबन्धक: प्रतिक्रिया सुविधा थप्न कति समय लाग्छ?
विकासकर्ता: दुई स्प्रिन्टहरू।

सांसद: के?... यो केवल CRUD हो!
R: CRUD गर्नु सजिलो भाग हो, तर हामीले अझै पनि प्रयोगकर्ताहरू र सेवाहरूलाई प्रमाणीकरण र अधिकृत गर्न आवश्यक छ। नेटवर्क अविश्वसनीय भएकोले, तपाईंले बारम्बार अनुरोधहरू लागू गर्न आवश्यक हुनेछ, साथै सर्किट ब्रेकर ढाँचा ग्राहकहरु मा। साथै, सम्पूर्ण प्रणाली क्र्यास नहुने सुनिश्चित गर्न, तपाईंलाई टाइमआउट र आवश्यक पर्दछ बल्कहेड्स (उल्लेख गरिएका दुवै ढाँचाहरूको बारेमा थप विवरणहरूको लागि, लेखमा पछि हेर्नुहोस् - लगभग अनुवाद।)र समस्याहरू पत्ता लगाउन, अनुगमन, ट्रेसिङ, […]

सांसद: ओह, त्यसोभए उत्पादन सेवामा यो सुविधा सम्मिलित गरौं।

मलाई लाग्छ कि विचार स्पष्ट छ: एक सेवा थप्न आवश्यक कदम र प्रयास को मात्रा ठूलो छ। यस लेखमा, हामी Istio ले माथि उल्लेखित सबै जटिलताहरूलाई कसरी हटाउँछ भनेर हेर्नेछौं (जुन व्यवसाय तर्कको उद्देश्य होइन) सेवाहरूबाट।

Istio संग microservices मा फर्कनुहोस्। भाग 1

भन्नु: यो लेखले तपाईंलाई Kubernetes को काम गर्ने ज्ञान छ भनी मान्दछ। अन्यथा, म पढ्न सिफारिस गर्दछु Kubernetes को मेरो परिचय र त्यस पछि मात्र यो सामग्री पढ्न जारी राख्नुहोस्।

Istio विचार

Istio बिनाको संसारमा, एक सेवाले अर्कोलाई प्रत्यक्ष अनुरोध गर्दछ, र असफलताको अवस्थामा, सेवाले यसलाई आफैं ह्यान्डल गर्नुपर्छ: नयाँ प्रयास गर्नुहोस्, समय समाप्त गर्नुहोस्, सर्किट ब्रेकर खोल्नुहोस्, आदि।

Istio संग microservices मा फर्कनुहोस्। भाग 1
Kubernetes मा नेटवर्क ट्राफिक

Istio ले नेटवर्क संचारमा हस्तक्षेप गरेर सेवाहरू र कार्यहरूबाट पूर्ण रूपमा अलग गरी एक विशेष समाधान प्रदान गर्दछ। र यसैले यो लागू गर्दछ:

  • दोष सहिष्णुता: प्रतिक्रियामा रहेको स्थिति कोडको आधारमा, यसले अनुरोध असफल भयो वा होइन भन्ने बुझ्छ र यसलाई पुन: कार्यान्वयन गर्छ।
  • क्यानरी रोलआउटहरू: सेवाको नयाँ संस्करणमा अनुरोधहरूको एक निश्चित प्रतिशत मात्र पुन: निर्देशित गर्दछ।
  • निगरानी र मेट्रिक्स: सेवा प्रतिक्रिया दिन कति समय लाग्यो?
  • ट्रेसिङ र अवलोकन योग्यता: प्रत्येक अनुरोधमा विशेष हेडरहरू थप्छ र तिनीहरूलाई क्लस्टरभरि ट्रेस गर्दछ।
  • सुरक्षा: JWT टोकन पुन: प्राप्त गर्दछ, प्रमाणीकरण गर्दछ र प्रयोगकर्ताहरूलाई अधिकृत गर्दछ।

यी केही सम्भावनाहरू मात्र हुन् (वास्तवमा केही!) तपाईंलाई चासो दिन। अब प्राविधिक विवरणहरूमा डुबौं!

Istio वास्तुकला

Istio ले सबै नेटवर्क ट्राफिकलाई रोक्छ र यसमा नियमहरूको सेट लागू गर्दछ, प्रत्येक पोडमा साइडकार कन्टेनरको रूपमा स्मार्ट प्रोक्सी घुसाउँछ। सबै क्षमताहरू सक्रिय गर्ने प्रोक्सीहरू फारम ए डाटा प्लेन, र तिनीहरू गतिशील रूपमा प्रयोग गरेर कन्फिगर गर्न सकिन्छ नियन्त्रण विमान.

डाटा प्लेन

पोडहरूमा सम्मिलित प्रोक्सीहरूले Istio लाई हामीलाई आवश्यक आवश्यकताहरू सजिलै पूरा गर्न अनुमति दिन्छ। उदाहरणका लागि, पुन: प्रयास र सर्किट ब्रेकर प्रकार्यहरू जाँच गरौं।

Istio संग microservices मा फर्कनुहोस्। भाग 1
पुन: प्रयास र सर्किट ब्रेकिङ कसरी Envoy मा लागू गरिन्छ

संक्षिप्त गर्न:

  1. दूतावास (हामी साइडकार कन्टेनरमा अवस्थित प्रोक्सीको बारेमा कुरा गर्दैछौं, जुन रूपमा वितरित गरिएको छ अलग उत्पादन - लगभग। अनुवाद।) सेवा B को पहिलो उदाहरणमा अनुरोध पठाउँछ र असफल हुन्छ।
  2. Envoy Sidecar फेरि प्रयास गर्छ (पुनः प्रयास). (1)
  3. अनुरोध असफल हुन्छ र प्रोक्सीमा फिर्ता हुन्छ जुन यसलाई भनिन्छ।
  4. यसले सर्किट ब्रेकर खोल्छ र त्यसपछिका अनुरोधहरूको लागि अर्को सेवालाई कल गर्छ। (2)

यसको मतलब यो हो कि तपाईंले अर्को पुन: प्रयास पुस्तकालय प्रयोग गर्नु पर्दैन, तपाईंले प्रोग्रामिङ भाषा X, Y वा Z मा सर्किट ब्रेकिङ र सेवा खोजको आफ्नै कार्यान्वयन गर्नु पर्दैन। यी सबै र धेरै कुराहरू बक्स बाहिर उपलब्ध छन्। Istio मा र आवश्यक छैन होईन कोड मा परिवर्तन।

महान! अब तपाईं Istio संग यात्रा मा जान चाहानुहुन्छ, तर तपाईं अझै पनि केहि शंका, खुला प्रश्नहरू छन्। यदि यो जीवनमा सबै अवसरहरूको लागि एक सार्वभौमिक समाधान हो भने, त्यसपछि तपाइँसँग एक प्राकृतिक शंका छ: आखिर, वास्तविकतामा त्यस्ता सबै समाधानहरू कुनै पनि अवस्थामा अनुपयुक्त हुन जान्छ।

र अन्तमा तपाइँ सोध्नुहुन्छ: "के यो अनुकूलन योग्य छ?"

अब तपाईं समुद्री यात्राको लागि तयार हुनुहुन्छ, नियन्त्रण विमानसँग परिचित गरौं।

नियन्त्रण विमान

यो तीन घटक समावेश: पायलट, मिक्सर и Citadel, जसले मार्ग ट्राफिक, नीतिहरू लागू गर्न, र टेलिमेट्री डेटा सङ्कलन गर्न राजदूतहरूलाई कन्फिगर गर्न सँगै काम गर्दछ। योजनाबद्ध रूपमा यो सबै यस्तो देखिन्छ:

Istio संग microservices मा फर्कनुहोस्। भाग 1
डाटा प्लेन संग नियन्त्रण विमान को अन्तरक्रिया

दूतहरू (जस्तै डाटा प्लेन) प्रयोग गरेर कन्फिगर गरिएको छ Kubernetes CRD (कस्टम रिसोर्स परिभाषाहरू) Istio द्वारा परिभाषित र विशेष रूपमा यस उद्देश्यको लागि अभिप्रेरित। तपाईका लागि यसको अर्थ के हो भने तिनीहरू परिचित वाक्यविन्यासको साथ Kubernetes मा अर्को स्रोत मात्र देखिन्छन्। एक पटक सिर्जना भएपछि, यो स्रोत नियन्त्रण विमान द्वारा उठाइनेछ र राजदूतहरूमा लागू गरिनेछ।

Istio सेवाहरूको सम्बन्ध

हामीले सेवाहरूसँग Istio को सम्बन्ध वर्णन गरेका छौं, तर उल्टो होइन: सेवाहरू कसरी Istio सँग सम्बन्धित छन्?

इमानदारीपूर्वक भन्नुपर्दा, सेवाहरू Istio को उपस्थितिको बारेमा सचेत हुन्छन् जस्तै माछाहरू पानीका हुन्छन् जब तिनीहरूले आफैलाई सोध्छन्, "जे भए पनि पानी के हो?"

Istio संग microservices मा फर्कनुहोस्। भाग 1
दृष्टान्त भिक्टोरिया दिमित्राकोपौलोस:- पानी कस्तो लाग्छ ? - जे भए पनि पानी के हो?

यसरी, तपाईले काम गर्ने क्लस्टर लिन सक्नुहुन्छ र Istio कम्पोनेन्टहरू डिप्लोइ गरिसकेपछि, यसमा अवस्थित सेवाहरूले काम गर्न जारी राख्नेछ, र यी कम्पोनेन्टहरू हटाएपछि, सबै कुरा फेरि ठीक हुनेछ। यो स्पष्ट छ कि यस अवस्थामा तपाईले Istio द्वारा प्रदान गरिएका क्षमताहरू गुमाउनुहुनेछ।

पर्याप्त सिद्धान्त - यो ज्ञान व्यवहारमा राखौं!

अभ्यासमा Istio

Istio लाई कम्तिमा 4 vCPU र 8 GB RAM उपलब्ध भएको Kubernetes क्लस्टर चाहिन्छ। द्रुत रूपमा क्लस्टर सेटअप गर्न र लेखबाट निर्देशनहरू पालना गर्न, म Google क्लाउड प्लेटफर्म प्रयोग गर्न सिफारिस गर्दछु, जसले नयाँ प्रयोगकर्ताहरूलाई प्रस्ताव गर्दछ। नि: शुल्क $ 300.

क्लस्टर सिर्जना गरेपछि र कन्सोल उपयोगिता मार्फत Kubernetes पहुँच कन्फिगर गरेपछि, तपाईंले Helm प्याकेज प्रबन्धक मार्फत Istio स्थापना गर्न सक्नुहुन्छ।

हेलम स्थापना

तपाईंको कम्प्युटरमा हेल्म क्लाइन्ट स्थापना गर्नुहोस्, जसमा वर्णन गरिएको छ आधिकारिक दस्तावेज। हामी यसलाई अर्को खण्डमा Istio स्थापना गर्न टेम्प्लेटहरू उत्पन्न गर्न प्रयोग गर्नेछौं।

Istio स्थापना गर्दै

बाट Istio स्रोतहरू डाउनलोड गर्नुहोस् पछिल्लो रिलीज (संस्करण १.०.५ मा मूल लेखकको लिङ्क हालकोमा परिवर्तन गरिएको छ, अर्थात् १.०.६ - लगभग अनुवाद।), सामग्रीहरू एक डाइरेक्टरीमा निकाल्नुहोस्, जुन म अबदेखि कल गर्नेछु [istio-resources].

Istio स्रोतहरू सजिलै पहिचान गर्न, K8s क्लस्टरमा नामस्थान सिर्जना गर्नुहोस् istio-system:

$ kubectl create namespace istio-system

डाइरेक्टरीमा गएर स्थापना पूरा गर्नुहोस् [istio-resources] र आदेश चलाउँदै:

$ helm template install/kubernetes/helm/istio 
  --set global.mtls.enabled=false 
  --set tracing.enabled=true 
  --set kiali.enabled=true 
  --set grafana.enabled=true 
  --namespace istio-system > istio.yaml

यो आदेशले फाइलमा Istio को प्रमुख घटकहरू आउटपुट गर्नेछ istio.yaml। हामीले निम्न प्यारामिटरहरू निर्दिष्ट गर्दै मानक टेम्प्लेट आफैलाई अनुरूप परिमार्जन गर्यौं:

  • global.mtls.enabled मा स्थापित false (जस्तै mTLS प्रमाणीकरण असक्षम गरिएको छ - लगभग।)हाम्रो डेटिङ प्रक्रिया सरल बनाउन;
  • tracing.enabled Jaeger प्रयोग गरेर अनुरोध ट्रेसिङ समावेश गर्दछ;
  • kiali.enabled सेवाहरू र ट्राफिकहरू कल्पना गर्न क्लस्टरमा Kiali स्थापना गर्दछ;
  • grafana.enabled सङ्कलन मेट्रिक्स कल्पना गर्न Grafana स्थापना गर्दछ।

आदेशको साथ उत्पन्न स्रोतहरू प्रयोग गरौं:

$ kubectl apply -f istio.yaml

क्लस्टरमा Istio को स्थापना पूरा भयो! सबै पोडहरू नेमस्पेसमा नभएसम्म पर्खनुहोस् istio-system गर्न सक्षम हुनेछ Running वा Completedतलको आदेश चलाएर:

$ kubectl get pods -n istio-system

अब हामी अर्को खण्डमा जारी राख्नको लागि तयार छौं, जहाँ हामी अनुप्रयोग प्राप्त गर्नेछौं र चल्नेछौं।

भावना विश्लेषण आवेदन को वास्तुकला

पहिले नै उल्लेख गरिएको मा प्रयोग गरिएको भावना विश्लेषण माइक्रोसर्विस अनुप्रयोगको उदाहरण प्रयोग गरौं Kubernetes को परिचय लेख। अभ्यासमा Istio को क्षमताहरू देखाउन यो पर्याप्त जटिल छ।

एप्लिकेसनमा चार माइक्रोसर्भिसेसहरू छन्:

  1. सेवा SA-फ्रन्टएन्ड, जसले Reactjs एप्लिकेसनको फ्रन्टएन्ड सेवा गर्दछ;
  2. सेवा SA-WebApp, जसले भावना विश्लेषण प्रश्नहरू सेवा गर्दछ;
  3. सेवा SA- तर्क, जसले आफैं प्रदर्शन गर्छ भावना विश्लेषण;
  4. सेवा SA-प्रतिक्रिया, जसले विश्लेषणको शुद्धता बारे प्रयोगकर्ताहरूबाट प्रतिक्रिया प्राप्त गर्दछ।

Istio संग microservices मा फर्कनुहोस्। भाग 1

यस रेखाचित्रमा, सेवाहरूका अतिरिक्त, हामी इन्ग्रेस कन्ट्रोलर पनि देख्छौं, जसले कुबेरनेटमा उपयुक्त सेवाहरूमा आगमन अनुरोधहरू मार्ग गर्दछ। Istio यसको Ingress गेटवे भित्र समान अवधारणा प्रयोग गर्दछ, जसको थप विवरणहरू पछ्याउनेछन्।

Istio बाट प्रोक्सीको साथ एउटा अनुप्रयोग चलाउँदै

लेखमा उल्लिखित थप कार्यहरूको लागि, तपाईंको भण्डार क्लोन गर्नुहोस् istio-mastery। यसले Kubernetes र Istio को लागी आवेदन र प्रकट गर्दछ।

साइडकारहरू घुसाउँदै

सम्मिलन गर्न सकिन्छ स्वत: वा म्यानुअली। साइडकार कन्टेनरहरू स्वचालित रूपमा सम्मिलित गर्न, तपाईंले नाम स्थानमा लेबल सेट गर्न आवश्यक छ istio-injection=enabled, जुन निम्न आदेश संग गरिन्छ:

$ kubectl label namespace default istio-injection=enabled
namespace/default labeled

अब प्रत्येक पोड जुन पूर्वनिर्धारित नेमस्पेस (default) ले यसको साइडकार कन्टेनर प्राप्त गर्नेछ। यसलाई प्रमाणित गर्नको लागि, भण्डारको मूल डाइरेक्टरीमा गएर परीक्षण अनुप्रयोग प्रयोग गरौं [istio-mastery] र निम्न आदेश चलाउँदै:

$ kubectl apply -f resource-manifests/kube
persistentvolumeclaim/sqlite-pvc created
deployment.extensions/sa-feedback created
service/sa-feedback created
deployment.extensions/sa-frontend created
service/sa-frontend created
deployment.extensions/sa-logic created
service/sa-logic created
deployment.extensions/sa-web-app created
service/sa-web-app created

सेवाहरू तैनात गरिसकेपछि, आदेश चलाएर पोडहरूमा दुईवटा कन्टेनरहरू छन् (सेवा आफैं र यसको साइडकारको साथ) जाँच गरौं। kubectl get pods र स्तम्भ मुनि सुनिश्चित गर्दै READY मूल्य निर्दिष्ट 2/2, दुवै कन्टेनरहरू चलिरहेका छन् भन्ने प्रतीक:

$ kubectl get pods
NAME                           READY     STATUS    RESTARTS   AGE
sa-feedback-55f5dc4d9c-c9wfv   2/2       Running   0          12m
sa-frontend-558f8986-hhkj9     2/2       Running   0          12m
sa-logic-568498cb4d-2sjwj      2/2       Running   0          12m
sa-logic-568498cb4d-p4f8c      2/2       Running   0          12m
sa-web-app-599cf47c7c-s7cvd    2/2       Running   0          12m

दृष्टिगत रूपमा यो यस्तो देखिन्छ:

Istio संग microservices मा फर्कनुहोस्। भाग 1
एउटा पोडमा दूत प्रोक्सी

अब जब अनुप्रयोग माथि र चलिरहेको छ, हामीले आगमन ट्राफिकलाई अनुप्रयोगमा आउन अनुमति दिन आवश्यक छ।

प्रवेश द्वार

यो प्राप्त गर्नको लागि उत्तम अभ्यास (क्लस्टरमा ट्राफिकलाई अनुमति दिनुहोस्) हो प्रवेश द्वार Istio मा, जुन क्लस्टरको "धार" मा अवस्थित छ र तपाईंलाई Istio सुविधाहरू सक्षम गर्न अनुमति दिन्छ जस्तै राउटिङ, लोड ब्यालेन्सिङ, सुरक्षा र आगमन ट्राफिकको निगरानी।

Ingress गेटवे कम्पोनेन्ट र यसलाई बाहिरी रूपमा फर्वार्ड गर्ने सेवा Istio स्थापनाको क्रममा क्लस्टरमा स्थापना गरिएको थियो। सेवाको बाह्य IP ठेगाना पत्ता लगाउन, चलाउनुहोस्:

$ kubectl get svc -n istio-system -l istio=ingressgateway
NAME                   TYPE           CLUSTER-IP     EXTERNAL-IP
istio-ingressgateway   LoadBalancer   10.0.132.127   13.93.30.120

हामी यो आईपी प्रयोग गरेर एप्लिकेसन पहुँच गर्न जारी राख्नेछौं (म यसलाई बाह्य-आईपीको रूपमा सन्दर्भ गर्नेछु), त्यसैले सुविधाको लागि हामी मानलाई चरमा लेख्नेछौं:

$ EXTERNAL_IP=$(kubectl get svc -n istio-system 
  -l app=istio-ingressgateway 
  -o jsonpath='{.items[0].status.loadBalancer.ingress[0].ip}')

यदि तपाईंले अहिले ब्राउजर मार्फत यो आईपी पहुँच गर्ने प्रयास गर्नुभयो भने, तपाईंले सेवा अनुपलब्ध त्रुटि प्राप्त गर्नुहुनेछ, किनभने पूर्वनिर्धारित रूपमा Istio सबै आगमन यातायात रोक्छ, गेटवे अझै परिभाषित गरिएको छैन।

गेटवे स्रोत

गेटवे Kubernetes मा CRD (कस्टम रिसोर्स डेफिनिशन) हो, क्लस्टरमा Istio स्थापना गरेपछि परिभाषित गरिएको छ र पोर्टहरू, प्रोटोकल र होस्टहरू निर्दिष्ट गर्ने क्षमता सक्षम पारेर हामी आगमन ट्राफिकलाई अनुमति दिन चाहन्छौं।

हाम्रो अवस्थामा, हामी सबै होस्टहरूको लागि पोर्ट 80 मा HTTP ट्राफिक अनुमति दिन चाहन्छौं। कार्य निम्न परिभाषा द्वारा लागू गरिएको छ (http-gateway.yaml):

apiVersion: networking.istio.io/v1alpha3
kind: Gateway
metadata:
  name: http-gateway
spec:
  selector:
    istio: ingressgateway
  servers:
  - port:
      number: 80
      name: http
      protocol: HTTP
    hosts:
- "*"

यो कन्फिगरेसनलाई चयनकर्ता बाहेक कुनै व्याख्या आवश्यक पर्दैन istio: ingressgateway। यस चयनकर्ताको साथ हामी कुन इन्ग्रेस गेटवेमा कन्फिगरेसन लागू गर्ने निर्दिष्ट गर्न सक्छौं। हाम्रो अवस्थामा, यो Ingress गेटवे नियन्त्रक हो, जुन पूर्वनिर्धारित रूपमा Istio मा स्थापित गरिएको थियो।

निम्न आदेशलाई कल गरेर कन्फिगरेसन लागू गरिएको छ:

$ kubectl apply -f resource-manifests/istio/http-gateway.yaml gateway.networking.istio.io/http-gateway created

गेटवेले अब पोर्ट 80 मा पहुँच गर्न अनुमति दिन्छ, तर अनुरोधहरू कहाँ मार्ग गर्ने भन्ने बारे कुनै जानकारी छैन। यसका लागि तपाईलाई आवश्यक पर्नेछ भर्चुअल सेवाहरु.

भर्चुअल सेवा स्रोत

VirtualService ले Ingress Gateway लाई क्लस्टर भित्र अनुमति दिइएका अनुरोधहरूलाई कसरी रुट गर्ने भनेर बताउँछ।

http-गेटवे मार्फत आउने हाम्रो आवेदनका लागि अनुरोधहरू sa-frontend, sa-web-app र sa-feedback सेवाहरूमा पठाइनुपर्छ:

Istio संग microservices मा फर्कनुहोस्। भाग 1
VirtualServices संग कन्फिगर गर्न आवश्यक मार्गहरू

SA-Frontend मा पठाइनु पर्ने अनुरोधहरू हेरौं:

  • बाटोमा ठ्याक्कै मेल खान्छ / index.html प्राप्त गर्न SA-Frontend मा पठाउनु पर्छ;
  • उपसर्ग मार्गहरू /static/* CSS र JavaScript जस्ता फ्रन्टएन्डमा प्रयोग गरिएका स्थिर फाइलहरू प्राप्त गर्न SA-Frontend मा पठाइनुपर्छ;
  • रेगुलर एक्स्प्रेशनद्वारा मिल्ने मार्गहरू '^.*.(ico|png|jpg)$', SA-Frontend मा पठाउनु पर्छ, किनभने यी पृष्ठमा प्रदर्शित चित्रहरू हुन्।

कार्यान्वयन निम्न कन्फिगरेसन द्वारा प्राप्त छ (sa-virtualservice-external.yaml):

kind: VirtualService
metadata:
  name: sa-external-services
spec:
  hosts:
  - "*"
  gateways:
  - http-gateway                      # 1
  http:
  - match:
    - uri:
        exact: /
    - uri:
        exact: /callback
    - uri:
        prefix: /static
    - uri:
        regex: '^.*.(ico|png|jpg)

Важные моменты:

  1. Этот VirtualService относится к запросам, приходящим через http-gateway;
  2. В destination определяется сервис, куда отправляются запросы.
Примечание: Конфигурация выше хранится в файле sa-virtualservice-external.yaml, который также содержит настройки для маршрутизации в SA-WebApp и SA-Feedback, но был сокращён здесь в статье для лаконичности. Применим VirtualService вызовом:
$ kubectl apply -f resource-manifests/istio/sa-virtualservice-external.yaml
virtualservice.networking.istio.io/sa-external-services created

Примечание: Когда мы применяем ресурсы Istio, Kubernetes API Server создаёт событие, которое получает Istio Control Plane, и уже после этого новая конфигурация применяется к прокси-серверам Envoy каждого pod'а. А контроллер Ingress Gateway представляется очередным Envoy, сконфигурированным в Control Plane. Всё это на схеме выглядит так:

Назад к микросервисам вместе с Istio. Часть 1
Конфигурация Istio-IngressGateway для маршрутизации запросов

Приложение Sentiment Analysis стало доступным по http://{EXTERNAL-IP}/. Не переживайте, если вы получаете статус Not Found: иногда требуется чуть больше времени для того, чтобы конфигурация вступила в силу и кэши Envoy обновились.

Перед тем, как продолжить, поработайте немного с приложением, чтобы сгенерировать трафик (его наличие необходимо для наглядности в последующих действиях — прим. перев.).

Kiali : наблюдаемость

Чтобы попасть в административный интерфейс Kiali, выполните следующую команду:

$ kubectl port-forward 
    $(kubectl get pod -n istio-system -l app=kiali 
    -o jsonpath='{.items[0].metadata.name}') 
    -n istio-system 20001

… и откройте http://localhost:20001/, залогинившись под admin/admin. Здесь вы найдете множество полезных возможностей, например, для проверки конфигурации компонентов Istio, визуализации сервисов по информации, собранной при перехвате сетевых запросов, получения ответов на вопросы «Кто к кому обращается?», «У какой версии сервиса возникают сбои?» и т.п. В общем, изучите возможности Kiali перед тем, как двигаться дальше — к визуализации метрик с Grafana.

Назад к микросервисам вместе с Istio. Часть 1

Grafana: визуализация метрик

Собранные в Istio метрики попадают в Prometheus и визуализируются с Grafana. Чтобы попасть в административный интерфейс Grafana, выполните команду ниже, после чего откройте http://localhost:3000/:

$ kubectl -n istio-system port-forward 
    $(kubectl -n istio-system get pod -l app=grafana 
    -o jsonpath={.items[0].metadata.name}) 3000

Кликнув на меню Home слева сверху и выбрав Istio Service Dashboard в левом верхнем углу, начните с сервиса sa-web-app, чтобы посмотреть на собранные метрики:

Назад к микросервисам вместе с Istio. Часть 1

Здесь нас ждёт пустое и совершенно скучное представление — руководство никогда такое не одобрит. Давайте же создадим небольшую нагрузку следующей командой:

$ while true; do 
    curl -i http://$EXTERNAL_IP/sentiment 
    -H "Content-type: application/json" 
    -d '{"sentence": "I love yogobella"}'; 
    sleep .8; done

Вот теперь у нас гораздо более симпатичные графики, а в дополнение к ним — замечательные инструменты Prometheus для мониторинга и Grafana для визуализации метрик, что позволят нам узнать о производительности, состоянии здоровья, улучшениях/деградации в работе сервисов на протяжении времени.

Наконец, посмотрим на трассировку запросов в сервисах.

Jaeger : трассировка

Трассировка нам потребуется, потому что чем больше у нас сервисов, тем сложнее добраться до причины сбоя. Посмотрим на простой случай из картинки ниже:

Назад к микросервисам вместе с Istio. Часть 1
Типовой пример случайного неудачного запроса

Запрос приходит, падает — в чём же причина? Первый сервис? Или второй? Исключения есть в обоих — давайте посмотрим на логи каждого. Как часто вы ловили себя за таким занятием? Наша работа больше похожа на детективов программного обеспечения, а не разработчиков…

Это широко распространённая проблема в микросервисах и решается она распределёнными системами трассировки, в которых сервисы передают друг другу уникальный заголовок, после чего эта информация перенаправляется в систему трассировки, где она сопоставляется с данными запроса. Вот иллюстрация:

Назад к микросервисам вместе с Istio. Часть 1
Для идентификации запроса используется TraceId

В Istio используется Jaeger Tracer, который реализует независимый от вендоров фреймворк OpenTracing API. Получить доступ к пользовательского интерфейсу Jaeger можно следующей командой:

$ kubectl port-forward -n istio-system 
    $(kubectl get pod -n istio-system -l app=jaeger 
    -o jsonpath='{.items[0].metadata.name}') 16686

Теперь зайдите на http://localhost:16686/ и выберите сервис sa-web-app. Если сервис не показан в выпадающем меню — проявите/сгенерируйте активность на странице и обновите интерфейс. После этого нажмите на кнопку Find Traces, которая покажет самые последние трейсы — выберите любой — покажется детализированная информация по всем трейсам:

Назад к микросервисам вместе с Istio. Часть 1

Этот трейс показывает:

  1. Запрос приходит в istio-ingressgateway (это первое взаимодействие с одним из сервисов, и для запроса генерируется Trace ID), после чего шлюз направляет запрос в сервис sa-web-app.
  2. В сервисе sa-web-app запрос подхватывается Envoy sidecar'ом, создаётся «ребёнок» в span'е (поэтому мы видим его в трейсах) и перенаправляется в контейнер sa-web-app. (Span — логическая единица работы в Jaeger, имеющая название, время начало операции и её продолжительность. Span'ы могут быть вложенными и упорядоченными. Ориентированный ациклический граф из span'ов образует trace. — прим. перев.)
  3. Здесь запрос обрабатывается методом sentimentAnalysis. Эти трейсы уже сгенерированы приложением, т.е. для них потребовались изменения в коде.
  4. С этого момента инициируется POST-запрос в sa-logic. Trace ID должен быть проброшен из sa-web-app.

Примечание: На 4 шаге приложение должно увидеть заголовки, сгенерированные Istio, и передать их в последующие запросы, как показано на изображении ниже:

Назад к микросервисам вместе с Istio. Часть 1
(A) За проброс заголовков отвечает Istio; (B) За заголовки отвечают сервисы

Istio делает основную работу, т.к. генерирует заголовки для входящих запросов, создаёт новые span'ы в каждом sidecare'е и пробрасывает их. Однако без работы с заголовками внутри сервисов полный путь трассировки запроса будет утерян.

Необходимо учитывать (пробрасывать) следующие заголовки:

x-request-id
x-b3-traceid
x-b3-spanid
x-b3-parentspanid
x-b3-sampled
x-b3-flags
x-ot-span-context

Это несложная задача, однако для упрощения её реализации уже существует множество библиотек — например, в сервисе sa-web-app клиент RestTemplate пробрасывает эти заголовки, если просто добавить библиотеки Jaeger и OpenTracing в его зависимости.

Заметьте, что приложение Sentiment Analysis демонстрирует реализации на Flask, Spring и ASP.NET Core.

Теперь, когда стало ясно, что мы получаем из коробки (или почти «из коробки»), рассмотрим вопросы тонко настраиваемой маршрутизации, управления сетевым трафиком, безопасности и т.п.!

Прим. перев.: об этом читайте в следующей части материалов по Istio от Rinor Maloku, переводы которых последуют в нашем блоге в ближайшее время. UPDATE (14 марта): Вторая часть уже опубликована.

P.S. от переводчика

Читайте также в нашем блоге:

Источник: habr.com

route:
- destination:
host: sa-frontend # 2
port:
number: 80

महत्त्वपूर्ण बुँदाहरू:

  1. यो VirtualService मार्फत आउने अनुरोधहरूलाई जनाउँछ http-गेटवे;
  2. В destination अनुरोध पठाइने सेवा निर्धारण गरिएको छ।

भन्नु: माथिको कन्फिगरेसन फाइलमा भण्डार गरिएको छ sa-virtualservice-external.yaml, जसमा SA-WebApp र SA-feedback मा राउटिङका ​​लागि सेटिङहरू पनि समावेश छन्, तर संक्षिप्तताका लागि यहाँ लेखमा छोटो पारिएको छ।

कल गरेर भर्चुअल सेवा लागू गरौं:


भन्नु: जब हामीले Istio स्रोतहरू उपभोग गर्छौं, Kubernetes API सर्भरले Istio Control Plane द्वारा प्राप्त भएको घटना सिर्जना गर्दछ, र त्यसपछि नयाँ कन्फिगरेसन प्रत्येक पोडको दूत प्रोक्सीहरूमा लागू हुन्छ। र इन्ग्रेस गेटवे कन्ट्रोलर कन्ट्रोल प्लेनमा कन्फिगर गरिएको अर्को दूत जस्तो देखिन्छ। यो सबै रेखाचित्रमा यस्तो देखिन्छ:

Istio संग microservices मा फर्कनुहोस्। भाग 1
अनुरोध मार्गको लागि Istio-IngressGateway कन्फिगरेसन

भावना विश्लेषण आवेदन अब उपलब्ध छ http://{EXTERNAL-IP}/। यदि तपाईंले फेला परेन स्थिति प्राप्त गर्नुभयो भने चिन्ता नगर्नुहोस्: कहिलेकाहीँ यसले कन्फिगरेसनलाई प्रभाव पार्न र दूत क्यासहरू अद्यावधिक गर्न अलि बढी समय लिन्छ.

अगाडि बढ्नु अघि, ट्राफिक उत्पन्न गर्न अनुप्रयोगसँग अलिकति खेल्नुहोस्। (यसको उपस्थिति पछिका कार्यहरूमा स्पष्टताको लागि आवश्यक छ - लगभग अनुवाद।).

Kiali: अवलोकन क्षमता

Kiali प्रशासनिक इन्टरफेस प्राप्त गर्न, निम्न आदेश चलाउनुहोस्:


... र खोल्नुहोस् http://localhost:20001/, admin/admin को रूपमा लग इन गर्नुहोस्। यहाँ तपाईंले धेरै उपयोगी सुविधाहरू पाउनुहुनेछ, उदाहरणका लागि, Istio कम्पोनेन्टहरूको कन्फिगरेसन जाँच गर्न, नेटवर्क अनुरोधहरू अवरोध गर्नेबाट सङ्कलन गरिएको जानकारी प्रयोग गरेर सेवाहरू कल्पना गर्न, "कसले कसलाई सम्पर्क गर्दै हुनुहुन्छ?", "सेवाको कुन संस्करण अनुभव गरिरहेको छ भन्ने प्रश्नहरूको जवाफ पाउनुहोस्। असफलता?" र यस्तै। सामान्यतया, Grafana को साथ मेट्रिक्स को दृश्य मा जानु अघि Kiali को क्षमताहरु को अन्वेषण गर्नुहोस्।

Istio संग microservices मा फर्कनुहोस्। भाग 1

ग्राफाना: मेट्रिक्स विजुअलाइजेशन

Istio मा संकलित मेट्रिक्स Prometheus मा जान्छ र Grafana संग कल्पना गरिन्छ। Grafana प्रशासनिक इन्टरफेसमा प्राप्त गर्न, तलको आदेश चलाउनुहोस् र त्यसपछि खोल्नुहोस् http://localhost:3000/:


मेनुमा क्लिक गर्दै गृहपृष्ठ शीर्ष बायाँ र चयन Istio सेवा ड्यासबोर्ड शीर्ष बायाँ कुनामा, सेवाको साथ सुरु गर्नुहोस् sa-web-appसङ्कलन मेट्रिक्स हेर्न:

Istio संग microservices मा फर्कनुहोस्। भाग 1

हामीलाई यहाँ के पर्खिरहेको छ एक खाली र पूर्ण रूपमा बोरिंग प्रदर्शन हो - व्यवस्थापनले यसलाई कहिल्यै अनुमोदन गर्दैन। निम्न आदेशको साथ एउटा सानो लोड सिर्जना गरौं:


अब हामीसँग धेरै राम्रा ग्राफहरू छन्, र तिनीहरूका अतिरिक्त, अनुगमनका लागि अद्भुत प्रोमेथियस उपकरणहरू र मेट्रिक्सको दृश्यावलोकनका लागि ग्राफाना जसले हामीलाई समयसँगै सेवाहरूमा कार्यसम्पादन, स्वास्थ्य, सुधार / गिरावट बारे जान्न अनुमति दिनेछ।

अन्तमा, सेवाहरूमा ट्रेसिङ अनुरोधहरू हेरौं।

जेगर: ट्रेसिङ

हामीलाई ट्रेसिङ चाहिन्छ किनभने हामीसँग जति धेरै सेवाहरू छन्, असफलताको कारणमा पुग्न त्यति नै गाह्रो छ। तलको चित्रबाट एउटा साधारण केस हेरौं:

Istio संग microservices मा फर्कनुहोस्। भाग 1
अनियमित असफल अनुरोधको विशिष्ट उदाहरण

माग आउँछ, झर्छ- कारण के हो? पहिलो सेवा? वा दोस्रो? दुबैमा अपवादहरू छन् - प्रत्येकको लगहरू हेरौं। कति पटक तपाईंले आफैंलाई यो गर्दै हुनुहुन्छ? हाम्रो काम विकासकर्ताहरू भन्दा सफ्टवेयर जासूसहरू जस्तै छ ...

यो माइक्रोसर्भिसेसहरूमा एक सामान्य समस्या हो र वितरित ट्रेसिङ प्रणालीहरूद्वारा समाधान गरिन्छ, जसमा सेवाहरूले एकअर्कालाई एक अद्वितीय हेडर पास गर्छन्, त्यसपछि यो जानकारी ट्रेसिङ प्रणालीमा फर्वार्ड गरिन्छ, जहाँ यो अनुरोध डेटासँग तुलना गरिन्छ। यहाँ एउटा दृष्टान्त छ:

Istio संग microservices मा फर्कनुहोस्। भाग 1
TraceId अनुरोध पहिचान गर्न प्रयोग गरिन्छ

Istio ले Jaeger Tracer को प्रयोग गर्दछ, जसले विक्रेता-स्वतन्त्र OpenTracing API फ्रेमवर्क लागू गर्दछ। तपाइँ निम्न आदेश संग Jaeger प्रयोगकर्ता इन्टरफेस पहुँच गर्न सक्नुहुन्छ:


अब जानुहोस् http://localhost:16686/ र सेवा चयन गर्नुहोस् sa-web-app। यदि सेवा ड्रप-डाउन मेनुमा देखाइएको छैन भने, पृष्ठमा गतिविधि देखाउनुहोस्/उत्पन्न गर्नुहोस् र इन्टरफेस अपडेट गर्नुहोस्। त्यस पछि, बटनमा क्लिक गर्नुहोस् ट्रेसहरू फेला पार्नुहोस्, जसले नवीनतम ट्रेसहरू देखाउनेछ - कुनै पनि चयन गर्नुहोस् - सबै ट्रेसहरूमा विस्तृत जानकारी देखा पर्नेछ:

Istio संग microservices मा फर्कनुहोस्। भाग 1

यो ट्रेसले देखाउँछ:

  1. अनुरोध आउँछ istio-ingressgateway (यो कुनै एक सेवासँगको पहिलो अन्तर्क्रिया हो, र अनुरोधको लागि ट्रेस आईडी उत्पन्न हुन्छ), त्यसपछि गेटवेले सेवामा अनुरोध पठाउँछ। sa-web-app.
  2. सेवामा sa-web-app अनुरोध दूत साइडकार द्वारा उठाइन्छ, स्प्यानमा "बच्चा" सिर्जना गरिन्छ (यसैले हामी यसलाई ट्रेसहरूमा देख्छौं) र कन्टेनरमा पुन: निर्देशित गरिन्छ। sa-web-app. (span - Jaeger मा कामको तार्किक एकाइ, जसको नाम, सञ्चालनको सुरु समय र यसको अवधि छ। स्प्यानहरू नेस्ट र अर्डर गर्न सकिन्छ। स्प्यानको निर्देशित एसाइक्लिक ग्राफले ट्रेस बनाउँछ। - लगभग। अनुवाद।)
  3. यहाँ अनुरोध विधि द्वारा प्रशोधन गरिएको छ भावना विश्लेषण। यी ट्रेसहरू पहिले नै एप्लिकेसनद्वारा उत्पन्न भइसकेका छन्, अर्थात् तिनीहरूले कोड परिवर्तन आवश्यक छ।
  4. यस क्षण देखि, एक POST अनुरोध मा प्रारम्भ गरिएको छ सा-तर्क। ट्रेस आईडी बाट फर्वार्ड हुनुपर्छ sa-web-app.
  5. ...

भन्नु: चरण 4 मा, अनुप्रयोगले Istio द्वारा उत्पन्न हेडरहरू हेर्नु पर्छ र तिनीहरूलाई तलको छविमा देखाइए अनुसार पछिका अनुरोधहरूमा पास गर्नुपर्छ:

Istio संग microservices मा फर्कनुहोस्। भाग 1
(A) Istio हेडरहरू फर्वार्ड गर्न जिम्मेवार छ; (B) सेवाहरू हेडरहरूको लागि जिम्मेवार छन्

Istio ले धेरै जसो काम गर्दछ किनभने ... आगमन अनुरोधहरूको लागि हेडरहरू उत्पन्न गर्दछ, प्रत्येक साइडकेयरमा नयाँ स्प्यानहरू सिर्जना गर्दछ र तिनीहरूलाई फर्वार्ड गर्दछ। यद्यपि, सेवाहरू भित्र हेडरहरूसँग काम नगरी, पूर्ण अनुरोध ट्रेस मार्ग हराउनेछ।

निम्न हेडरहरूलाई ध्यानमा राख्नुपर्छ:


यो कुनै गाह्रो काम छैन, तर यसको कार्यान्वयनलाई सरल बनाउन पहिले नै छ धेरै पुस्तकालयहरू - उदाहरणका लागि, sa-web-app सेवामा, RestTemplate क्लाइन्टले यी हेडरहरू फर्वार्ड गर्छ यदि तपाईंले केवल Jaeger र OpenTracing पुस्तकालयहरू थप्नुभयो भने। उसको लत.

ध्यान दिनुहोस् कि भावना विश्लेषण अनुप्रयोगले फ्लास्क, वसन्त, र ASP.NET कोरमा कार्यान्वयनहरू देखाउँछ।

अब जब हामी बक्सबाट बाहिर (वा लगभग बाकस बाहिर) के प्राप्त गर्छौं भन्ने कुरा स्पष्ट छ, आउनुहोस् राम्रो-ट्यून गरिएको मार्ग, नेटवर्क ट्राफिक व्यवस्थापन, सुरक्षा, आदि हेरौं!

नोट। अनुवाद।: यस बारे Rinor Maloku बाट Istio मा सामग्रीको अर्को भागमा पढ्नुहोस्, जसका अनुवादहरू निकट भविष्यमा हाम्रो ब्लगमा पछ्याउनेछन्। अद्यतन (मार्च १४): को दोस्रो भाग पहिले नै प्रकाशित भएको छ।

अनुवादकबाट PS

हाम्रो ब्लगमा पनि पढ्नुहोस्:

स्रोत: www.habr.com