Skenarët e përdorimit të service mesh

Skenarët e përdorimit të service mesh

ShĂ«n. pĂ«rkth.: autori i kĂ«tij artikulli (Luc Perkins) Ă«shtĂ« developer advocate nĂ« organizatĂ«n CNCF, e cila Ă«shtĂ« shtĂ«pia e projekteve Open Source si Linkerd, SMI (Service Mesh Interface) dhe Kuma (meqĂ« ra fjala, edhe ju e keni pyetur veten pse nĂ« kĂ«tĂ« listĂ« mungon Istio?..). Duke u pĂ«rpjekur edhe njĂ« herĂ« t’i sjellĂ« komunitetit DevOps njĂ« kuptim mĂ« tĂ« qartĂ« tĂ« fenomenit nĂ« modĂ« tĂ« quajtur «service mesh», ai paraqet 16 aftĂ«si karakteristike qĂ« ofrojnĂ« zgjidhje tĂ« tilla.

Sot service mesh ― Ă«shtĂ« njĂ« nga temat mĂ« tĂ« nxehta nĂ« fushĂ«n e inxhinierisĂ« sĂ« softuerit (dhe me tĂ« drejtĂ«!). Mendoj se kjo teknologji ka njĂ« potencial tĂ« jashtĂ«zakonshĂ«m dhe shpresoj ta shoh tĂ« pĂ«rhapet gjerĂ«sisht (natyrisht, kur kjo ka kuptim). MegjithatĂ«, pĂ«r shumicĂ«n e njerĂ«zve ajo ende mbetet e mbĂ«shtjellĂ« me njĂ« farĂ« misteri. Madje edhe ata qĂ« e njohin mirĂ« shpesh e kanĂ« tĂ« vĂ«shtirĂ« tĂ« shpjegojnĂ« qartĂ« cilat janĂ« pĂ«rparĂ«sitĂ« e saj dhe çfarĂ« pĂ«rfaqĂ«son saktĂ«sisht (duke pĂ«rfshirĂ« edhe mua). NĂ« kĂ«tĂ« artikull do tĂ« pĂ«rpiqem ta sqaroj kĂ«tĂ«, duke renditur skenarĂ« tĂ« ndryshĂ«m pĂ«rdorimi tĂ« «rrjeteve tĂ« shĂ«rbimeve»*.

* Shënim i përkthyesit: këtu dhe më poshtë në artikull do të përdoret pikërisht ky përkthim («rrjet shërbimesh») për termin ende relativisht të ri service mesh.

Por më parë dua të bëj disa sqarime:

  • UnĂ« nuk kam punuar kurrĂ« me rrjete shĂ«rbimesh dhe nuk i kam pĂ«rdorur ato jashtĂ« projekteve tĂ« nisura pĂ«r vetĂ«-edukim. Nga ana tjetĂ«r, pikĂ«risht unĂ« kam shkruar shumĂ« dokumentacion pĂ«r service mesh-in e brendshĂ«m tĂ« Twitter nĂ« vitin 2015 (atĂ«herĂ« ai ende nuk quhej as «rrjet shĂ«rbimesh») dhe kam marrĂ« pjesĂ« nĂ« zhvillimin e faqes dhe dokumentacionit pĂ«r Linkerd, kĂ«shtu qĂ« kjo ndoshta ka njĂ«farĂ« peshe.
  • Lista ime Ă«shtĂ« e pĂ«rafĂ«rt dhe jo e plotĂ«. Mund tĂ« ketĂ« fare mirĂ« skenarĂ« pĂ«rdorimi pĂ«r tĂ« cilĂ«t nuk jam nĂ« dijeni, dhe me kalimin e kohĂ«s me siguri do tĂ« shfaqen variante tĂ« reja, ndĂ«rsa teknologjia zhvillohet dhe popullariteti i saj rritet.
  • Po ashtu, jo çdo implementim ekzistues i service mesh mbĂ«shtet tĂ« gjitha rastet e pĂ«rdorimit tĂ« renditura mĂ« poshtĂ«. Prandaj, shprehje tĂ« miat si «service mesh mund të » duhen lexuar si «disa, e ndoshta tĂ« gjitha implementimet e njohura tĂ« service mesh mund të ».
  • Renditja e shembujve nuk ka ndonjĂ« rĂ«ndĂ«si tĂ« veçantĂ«.

Lista e shkurtër:

  • zbulimi i shĂ«rbimeve;
  • enkriptimi;
  • autentikimi dhe autorizimi;
  • balancimi i ngarkesĂ«s;
  • circuit breaking;
  • auto-shkallĂ«zimi;
  • deployime kanarinĂ«;
  • deployime blue-green;
  • kontrolli i gjendjes;
  • load shedding;
  • pasqyrimi i trafikut;
  • izolimi;
  • kufizimi i frekuencĂ«s sĂ« kĂ«rkesave, riprovime dhe time-out;
  • telemetria;
  • auditimi;
  • vizualizimi.

1. Zbulimi i shërbimeve

TL;DR: Lidheni me shërbime të tjera në rrjet duke përdorur emra të thjeshtë.

ShĂ«rbimet duhet tĂ« jenĂ« nĂ« gjendje tĂ« “gjejnĂ«â€ automatikisht njĂ«ri-tjetrin pĂ«rmes emrave tĂ« pĂ«rshtatshĂ«m — pĂ«r shembull, service.api.production, pets/staging ose cassandra. Mjediset cloud dallohen pĂ«r elasticitetin e tyre dhe pas njĂ« emri mund tĂ« fshihen shumĂ« instanca tĂ« njĂ« shĂ«rbimi. ËshtĂ« e qartĂ« se nĂ« njĂ« situatĂ« tĂ« tillĂ« Ă«shtĂ« fizikisht e pamundur tĂ« hardkodohen tĂ« gjitha adresat IP.

PĂ«r mĂ« tepĂ«r, kur njĂ« shĂ«rbim gjen njĂ« tjetĂ«r, ai duhet tĂ« jetĂ« nĂ« gjendje t’i dĂ«rgojĂ« kĂ«rkesa atij shĂ«rbimi pa u shqetĂ«suar se ato do tĂ« pĂ«rfundojnĂ« te njĂ« instancĂ« jo funksionale. Me fjalĂ« tĂ« tjera, service mesh duhet tĂ« monitorojĂ« gjendjen e tĂ« gjitha instancave tĂ« shĂ«rbimeve dhe ta mbajĂ« listĂ«n e hosteve sa mĂ« tĂ« pĂ«rditĂ«suar qĂ« tĂ« jetĂ« e mundur.

Çdo service mesh e zbaton mekanizmin e zbulimit tĂ« shĂ«rbimeve nĂ« mĂ«nyrĂ«n e vet. Aktualisht, mĂ«nyra mĂ« e pĂ«rhapur Ă«shtĂ« delegimi te procese tĂ« jashtme si DNS i Kubernetes. NĂ« tĂ« kaluarĂ«n, nĂ« Twitter ne pĂ«rdornim sistemin e emĂ«rtimit Finagle. PĂ«rveç kĂ«saj, teknologjia service mesh bĂ«n tĂ« mundur krijimin e mekanizmave tĂ« personalizuar tĂ« emĂ«rtimit (megjithĂ«se ende nuk kam hasur asnjĂ« implementim SM me kĂ«tĂ« funksionalitet).

2. Kriptimi

TL;DR: Hiqni dorë nga trafiku i pakriptuar midis shërbimeve dhe bëjeni këtë proces të automatizuar dhe të shkallëzueshëm.

ËshtĂ« qetĂ«suese tĂ« dish se keqbĂ«rĂ«sit nuk mund tĂ« depĂ«rtojnĂ« nĂ« rrjetin tuaj tĂ« brendshĂ«m. Firewall-et e pĂ«rballojnĂ« shumĂ« mirĂ« kĂ«tĂ«. Por çfarĂ« ndodh nĂ«se njĂ« haker arrin gjithsesi tĂ« futet brenda? A do tĂ« jetĂ« nĂ« gjendje tĂ« bĂ«jĂ« çfarĂ« tĂ« dojĂ« me trafikun midis shĂ«rbimeve? Le tĂ« shpresojmĂ« qĂ« kjo tĂ« mos ndodhĂ«. PĂ«r tĂ« parandaluar njĂ« skenar tĂ« tillĂ«, duhet tĂ« zbatohet njĂ« rrjet me besim zero (zero-trust), ku i gjithĂ« trafiku ndĂ«rmjet shĂ«rbimeve Ă«shtĂ« i kriptuar. Shumica e service mesh moderne e arrijnĂ« kĂ«tĂ« me ndihmĂ«n e TLS (mutual TLS, mTLS). NĂ« disa raste, mTLS funksionon nĂ« tĂ« gjithĂ« cloud-et dhe klasterĂ«t (mendoj se njĂ« ditĂ« edhe komunikimet ndĂ«rplanetare do tĂ« organizohen nĂ« mĂ«nyrĂ« tĂ« ngjashme).

Sigurisht, pĂ«r mTLS service mesh nuk Ă«shtĂ« e detyrueshme. Çdo shĂ«rbim mund tĂ« kujdeset vetĂ« pĂ«r TLS-in e tij, por kjo do tĂ« thotĂ« se duhet tĂ« gjeni njĂ« mĂ«nyrĂ« pĂ«r tĂ« gjeneruar certifikata, pĂ«r t’i shpĂ«rndarĂ« ato te hostet e shĂ«rbimit dhe pĂ«r tĂ« pĂ«rfshirĂ« nĂ« aplikacion kodin qĂ« do t’i ngarkojĂ« kĂ«to certifikata nga skedarĂ«t. Po, dhe mos harroni rinovimin e kĂ«tyre certifikatave nĂ« intervale tĂ« caktuara kohore. Service mesh automatizojnĂ« mTLS me ndihmĂ«n e sistemeve si SPIFFE, tĂ« cilat, nga ana e tyre, automatizojnĂ« procesin e lĂ«shimit dhe rotacionit tĂ« certifikatave.

3. Autentikimi dhe autorizimi

TL;DR: Përcaktoni kush është iniciatori i kërkesës dhe çfarë i lejohet të bëjë, para se kërkesa të arrijë te shërbimi.

Shërbimet shpesh duan të dinë, kush po e kryen kërkesën (autentikim), dhe, duke përdorur këtë informacion, vendosin, nuk shkon, dhe gjithashtu ka një ide për atë që ndodh në shërbimet përreth, për të kuptuar, çfarë i lejohet të bëjë këtij subjekti (autorizim). Në këtë rast, pas përemrit «kush» mund të fshihen:

  1. Shërbime të tjera. Kjo quhet «autentikimi i peer-it». Për shembull, shërbimi web dëshiron të ketë qasje te shërbimi db. Service mesh zakonisht i zgjidhin këto probleme me mTLS: në këtë rast, certifikatat shërbejnë si identifikuesi i nevojshëm.
  2. Përdorues njerëzorë. Kjo quhet «autentikimi i kërkesës». Për shembull, përdoruesi haxor69 dëshiron të blejë një llambë të re. Service mesh ofrojnë mekanizma të ndryshëm, për shembull, JSON Web Tokens.

    Shumë prej nesh e kanë bërë këtë në kodin e aplikacionit. Vjen një kërkesë, ne kontrollojmë tabelën users, gjejmë përdoruesin dhe krahasojmë fjalëkalimin, pastaj kontrollojmë kolonën permissions e kështu me radhë. Në rastin e service mesh, kjo ndodh para se kërkesa të arrijë te shërbimi.

Pasi të kemi përcaktuar nga ka ardhur kërkesa, duhet të vendosim çfarë i lejohet të bëjë këtij subjekti. Disa service mesh lejojnë përcaktimin e politikave bazë (për atë se kush dhe çfarë mund të bëjë) në formën e skedarëve YAML ose në vijën e komandës, ndërsa të tjerët ofrojnë integrim me framework-e si Open Policy Agent. Qëllimi përfundimtar është që shërbimet tuaja të pranojnë çdo kërkesë, duke supozuar me besim se ajo vjen nga një burim i besueshëm dhe dhe se ky veprim lejohet.

4. Balancimi i ngarkesës

TL;DR: Shpërndajeni ngarkesën midis instancave të shërbimit sipas një modeli të caktuar.

"ShĂ«rbimi" brenda rrjetit tĂ« shĂ«rbimeve shumĂ« shpesh pĂ«rbĂ«het nga shumĂ« instanca identike. PĂ«r shembull, sot shĂ«rbimi cache pĂ«rbĂ«het nga 5 kopje, ndĂ«rsa nesĂ«r numri i tyre mund tĂ« rritet nĂ« 11. KĂ«rkesat qĂ« drejtohen te cacheduhet tĂ« shpĂ«rndahen sipas njĂ« objektivi tĂ« caktuar. PĂ«r shembull, tĂ« minimizohet vonesa ose tĂ« maksimizohet mundĂ«sia pĂ«r tĂ« arritur te njĂ« instancĂ« funksionale. MĂ« sĂ« shpeshti pĂ«rdoret algoritmi Round-robin, por ekzistojnĂ« edhe shumĂ« tĂ« tjerĂ« — pĂ«r shembull, metoda e kĂ«rkesave tĂ« peshuara (weighted) (mund tĂ« zgjidhen objektivat prioritare), hashimi unazor (ring) (pĂ«rdorimi i hashing-ut tĂ« qĂ«ndrueshĂ«m pĂ«r hostĂ«t upstream) ose metoda e numrit mĂ« tĂ« vogĂ«l tĂ« kĂ«rkesave (pĂ«rparĂ«si i jepet instancĂ«s me numrin mĂ« tĂ« ulĂ«t tĂ« kĂ«rkesave).

Balancuesit klasikĂ« kanĂ« edhe funksione tĂ« tjera, si cache-imi HTTP dhe mbrojtja nga DDoS, por ato nuk janĂ« shumĂ« tĂ« rĂ«ndĂ«sishme pĂ«r trafikun east-west (domethĂ«nĂ« pĂ«r trafikun qĂ« qarkullon brenda datacenter-it — shĂ«n. pĂ«rkth.). Kjo Ă«shtĂ« fusha tipike e pĂ«rdorimit tĂ« service mesh. Natyrisht, nuk Ă«shtĂ« e detyrueshme tĂ« pĂ«rdoret service mesh pĂ«r balancimin e ngarkesĂ«s, por ajo ju lejon tĂ« pĂ«rcaktoni dhe tĂ« kontrolloni politikat e balancimit pĂ«r çdo shĂ«rbim nga njĂ« shtresĂ« e centralizuar menaxhimi, duke eliminuar kĂ«shtu nevojĂ«n pĂ«r tĂ« nisur dhe konfiguruar balancues tĂ« veçantĂ« nĂ« stack-un e rrjetit.

5. Ndërprerja e qarkut (circuit breaking)

TL;DR: Ndaloni trafikun drejt shërbimit problematik dhe kufizoni dëmin në skenarët më të këqij.

NĂ«se pĂ«r çfarĂ«do arsye njĂ« shĂ«rbim nuk e pĂ«rballon trafikun, service mesh ofron disa mĂ«nyra pĂ«r ta zgjidhur kĂ«tĂ« problem (pĂ«r tĂ« tjerat do tĂ« flitet nĂ« seksionet pĂ«rkatĂ«se). Circuit breaking Ă«shtĂ« mĂ«nyra mĂ« drastike pĂ«r ta shkĂ«putur shĂ«rbimin nga trafiku. MegjithatĂ«, nĂ« vetvete nuk ka kuptim — duhet njĂ« plan rezervĂ«. Mund tĂ« parashikohet backpressure (backpressure) mbi shĂ«rbimet qĂ« ekzekutojnĂ« kĂ«rkesa (vetĂ«m mos harroni ta konfiguroni service mesh-in tuaj pĂ«r kĂ«tĂ«!), ose, pĂ«r shembull, ta ktheni faqen e statusit nĂ« tĂ« kuqe dhe t’i ridrejtoni pĂ«rdoruesit te njĂ« variant tjetĂ«r i faqes me «balenĂ«n qĂ« bie» («Twitter is down»).

Rrjetet e shĂ«rbimeve ju lejojnĂ« jo vetĂ«m tĂ« pĂ«rcaktoni, kur do tĂ« ndodhĂ« ndĂ«rprerja dhe nuk shkon, dhe gjithashtu ka njĂ« ide pĂ«r atĂ« qĂ« ndodh nĂ« shĂ«rbimet pĂ«rreth, pĂ«r tĂ« kuptuar, do tĂ« pasohet nga kjo. NĂ« kĂ«tĂ« rast, “kur” mund tĂ« pĂ«rfshijĂ« çdo kombinim tĂ« parametrave tĂ« caktuar: numrin total tĂ« kĂ«rkesave gjatĂ« njĂ« periudhe tĂ« caktuar, numrin e lidhjeve paralele, kĂ«rkesat pending, riprovimet aktive etj.

Me shumë gjasa nuk do të doni të abuzoni me circuit breaking, por është mirë të dini se ekziston një plan rezervë për rastet ekstreme.

6. Autoskalimi

TL;DR: Rrisni ose ulni numrin e instancave të shërbimit sipas kritereve të përcaktuara.

Service mesh-et nuk janë planifikues, prandaj nuk kryejnë skalimin vetë. Megjithatë, ato mund të ofrojnë të dhëna mbi të cilat planifikuesit do të marrin vendime. Meqenëse service mesh-et kanë qasje në të gjithë trafikun midis shërbimeve, ato disponojnë informacion të gjerë për atë që po ndodh: cilat shërbime kanë hasur probleme, cilat janë fare pak të ngarkuara (burimet e alokuara për to shpërdorohen) etj.

PĂ«r shembull, Kubernetes i shkallĂ«zon shĂ«rbimet nĂ« varĂ«si tĂ« pĂ«rdorimit tĂ« CPU dhe memories nga pod-et (shihni prezantimin tonĂ« “Autoskalimi dhe menaxhimi i burimeve nĂ« Kubernetes” — shĂ«n. pĂ«rkth.), por nĂ«se vendosni tĂ« kryeni shkallĂ«zimin bazuar nĂ« çfarĂ«do treguesi tjetĂ«r (nĂ« rastin tonĂ«, tĂ« lidhur me trafikun), do t’ju duhet njĂ« metrikĂ« e veçantĂ«. UdhĂ«zuesi si ky tregon se si tĂ« bĂ«het kjo me ndihmĂ«n e Envoy, Istio dhe Prometheus, por vetĂ« procesi Ă«shtĂ« mjaft i ndĂ«rlikuar. Ne do tĂ« donim qĂ« service mesh ta thjeshtonte kĂ«tĂ«, duke ju lejuar thjesht tĂ« pĂ«rcaktoni kushte si “rrite numrin e instancave tĂ« shĂ«rbimit auth, nĂ«se numri i kĂ«rkesave nĂ« pritje e kalon vlerĂ«n prag pĂ«r njĂ« minutĂ«â€.

7. Vendosjet canary

TL;DR: Testoni funksione ose versione të reja të shërbimit te një nëngrup përdoruesish.

Le tĂ« themi se po zhvilloni njĂ« produkt SaaS dhe planifikoni tĂ« nxirrni versionin e tij tĂ« ri. E keni testuar nĂ« staging dhe ka funksionuar shkĂ«lqyeshĂ«m. MegjithatĂ«, ende keni disa dyshime se si do tĂ« sillet nĂ« kushte reale. Me fjalĂ« tĂ« tjera, duhet tĂ« kontrolloni versionin e ri nĂ« detyra reale, pa rrezikuar besimin e pĂ«rdoruesve. Canary deployment Ă«shtĂ« zgjidhja ideale pĂ«r kĂ«tĂ«. Ato ju lejojnĂ« t’ua prezantoni funksionalitetin e ri njĂ« nĂ«ngrupi tĂ« caktuar pĂ«rdoruesish. Ky nĂ«ngrup mund tĂ« pĂ«rbĂ«het nga pĂ«rdoruesit mĂ« besnikĂ«, nga ata qĂ« pĂ«rdorin versionin falas tĂ« produktit ose nga pĂ«rdorues qĂ« kanĂ« shprehur dĂ«shirĂ«n tĂ« jenĂ« «kavie prove».

Service mesh e bëjnë këtë të mundur duke ju lejuar të përcaktoni kriteret që vendosin kush do të shohë cilin version të aplikacionit, dhe duke e rutuar trafikun në përputhje me to. Ndërkohë, për vetë shërbimet nuk ndryshon asgjë. Versioni 1.0 i shërbimit supozon se të gjitha kërkesat vijnë nga përdoruesit që duhet të shohin pikërisht atë, ndërsa versioni 1.1 mendon të njëjtën gjë për përdoruesit e vet. Ju, nga ana tjetër, mund të ndryshoni përqindjen e trafikut mes versionit të vjetër dhe atij të ri, duke ridrejtuar gjithnjë e më shumë përdorues te versioni i ri, nëse ai punon në mënyrë të qëndrueshme dhe «testuesit» tuaj japin miratimin.

8. Vendosjet blue-green

TL;DR: Nxirrni funksionalitetin e ri, por jini gati ta ktheni gjithçka menjëherë mbrapsht.

Thelbi i vendosjeve blue-green është të nxirrni shërbimin e ri «blu», duke e nisur paralelisht me të vjetrin, «jeshil». Nëse gjithçka shkon pa probleme dhe shërbimi i ri e dëshmon veten mirë, atëherë i vjetri mund të çaktivizohet gradualisht. (Fatkeqësisht, një ditë edhe ky shërbim i ri «blu» do ta përsërisë fatin e atij «jeshil» dhe do të zhduket...) Vendosjet blue-green ndryshojnë nga canary deployment sepse funksionaliteti i ri u shfaqet të gjithë përdoruesve menjëherë (dhe jo vetëm një pjese); ideja këtu është të keni gati një «strehë rezervë» nëse papritur diçka shkon keq.

Service mesh-et ofrojnë një mënyrë shumë të përshtatshme për të testuar shërbimin «blu» dhe për të kaluar menjëherë te shërbimi funksional «jeshil» në rast problemesh. Për më tepër, ato japin edhe shumë informacion (shih pikën «Telemetria» më poshtë) për funksionimin e shërbimit «blu», gjë që ndihmon të kuptohet nëse ai është gati për përdorim të plotë.

Shën. përkth.: Më shumë rreth strategjive të ndryshme të vendosjes në Kubernetes (përfshirë canary, blue/green dhe të tjera të përmendura) mund të lexoni te këto artikuj.

9. Kontrolli i gjendjes

TL;DR: Monitoroni se cilat instanca të shërbimeve janë funksionale dhe reagoni ndaj atyre që pushojnë së qeni të tilla.

Kontrolli i gjendjes (health check) ndihmon për të vendosur nëse instancat e shërbimit janë gati të pranojnë dhe të përpunojnë trafikun. Për shembull, në rastin e shërbimeve HTTP, kontrolli i gjendjes mund të duket si një kërkesë GET drejt endpoint-it /health. Përgjigjja 200 OK do të thotë se instanca është në gjendje të mirë; çdo përgjigje tjetër do të thotë se ajo nuk është gati të pranojë trafik. Service mesh-et ju lejojnë të përcaktoni si metodën me të cilën do të kontrollohet funksionimi, ashtu edhe shpeshtësinë me të cilën do të kryhet ky kontroll. Kjo informacion mund të përdoret më pas për qëllime të tjera, për shembull për balancimin e ngarkesës dhe circuit breaking.

Kështu, kontrolli i gjendjes nuk është një skenar përdorimi më vete, por zakonisht përdoret për të arritur qëllime të tjera. Gjithashtu, në varësi të rezultateve të health check-eve, mund të nevojiten veprime të jashtme (në raport me qëllimet e tjera të service mesh-eve): për shembull, përditësimi i faqes së statusit, krijimi i një issue në GitHub ose plotësimi i një tikete në JIRA. Dhe service mesh ofron një mekanizëm të përshtatshëm për automatizimin e të gjitha këtyre.

10. Shpërndarja e ngarkesës (load shedding)

TL;DR: Ridrejtoni trafikun si përgjigje ndaj një rritjeje të përkohshme të përdorimit.

Nëse një shërbim i caktuar mbingarkohet nga trafiku, mund ta ridrejtoni përkohësisht një pjesë të këtij trafiku diku tjetër (domethënë ta «shkarkoni», ta «transferoni» (shed) atje). Për shembull, te një shërbim rezervë ose qendër të dhënash, ose te një Pulsar topic. Si rezultat, shërbimi do të vazhdojë të përpunojë një pjesë të kërkesave në vend që të bjerë dhe të ndalojë krejtësisht përpunimin e të gjithave. Heqja e ngarkesës është më e preferueshme sesa ndërprerja e qarkut, por sërish nuk duhet abuzuar me të. Ajo ndihmon në parandalimin e dështimeve kaskadë, të cilat çojnë në rrëzimin e shërbimeve downstream.

11. Paralelizimi/pasqyrimi i trafikut

TL;DR: Dërgojeni një kërkesë njëkohësisht në disa destinacione.

Ndonjëherë lind nevoja që një kërkesë (ose një pjesë e caktuar e kërkesave) të dërgohet njëkohësisht në disa shërbime. Një shembull tipik është dërgimi i një pjese të trafikut production te një shërbim staging. Web server-i kryesor i production dërgon një kërkesë te shërbimi vartës products.production dhe vetëm tek ai. Ndërkohë, service mesh e kopjon në mënyrë inteligjente këtë kërkesë dhe e dërgon te products.staging, pa e ditur fare web server-i.

Një tjetër skenar i lidhur i përdorimit të service mesh, që mund të zbatohet mbi paralelizimin e trafikut, është testimi i regresionit. Ai parashikon dërgimin e të njëjtave kërkesa te versione të ndryshme të shërbimit dhe verifikimin nëse të gjitha versionet sillen njësoj. Ende nuk më ka rastisur të shoh një implementim të service mesh me një sistem të integruar të testimit të regresionit si Diffy, por vetë ideja duket premtuese.

12. Izolimi

TL;DR: Ndajeni service mesh tuaj në mini-rrjete.

I njohur gjithashtu si segmentimi, izolimi është arti i ndarjes së service mesh në segmente logjikisht të veçuara, të cilat nuk dinë asgjë për njëri-tjetrin. Izolimi i ngjan disi krijimit të rrjeteve private virtuale. Dallimi themelor është se ju prapë mund të përfitoni nga të gjitha avantazhet e service mesh (si zbulimi i shërbimeve), por me siguri shtesë. Për shembull, nëse një sulmues arrin të depërtojë në një shërbim brenda njërës prej nënrrjeteve, ai nuk do të mund të shohë se cilat shërbime ekzekutohen në nënrrjetet e tjera ose të përgjojë trafikun e tyre.

PĂ«rveç kĂ«saj, pĂ«rfitimet mund tĂ« jenĂ« edhe organizative. Mund tĂ« dĂ«shironi t’i ndani shĂ«rbimet nĂ« nĂ«nrrjete sipas strukturĂ«s sĂ« kompanisĂ« dhe t’i çlironi zhvilluesit nga ngarkesa njohĂ«se qĂ« shkakton nevoja pĂ«r ta mbajtur nĂ« mendje tĂ« gjithĂ« service mesh.

13. Kufizimi i frekuencës së kërkesave, riprovimet dhe timeout-et

TL;DR: Nuk ka mĂ« nevojĂ« t’i fusni nĂ« bazĂ«n e kodit detyrat e pĂ«rditshme pĂ«r menaxhimin e kĂ«rkesave.

TĂ« gjitha kĂ«to mund tĂ« konsideroheshin si raste pĂ«rdorimi mĂ« vete, por vendosa t’i bashkoj pĂ«r shkak tĂ« njĂ« veçorie tĂ« pĂ«rbashkĂ«t: ato marrin pĂ«rsipĂ«r detyrat e menaxhimit tĂ« ciklit tĂ« jetĂ«s sĂ« kĂ«rkesave, tĂ« cilat zakonisht i kryejnĂ« bibliotekat e aplikacioneve. NĂ«se zhvilloni njĂ« web server nĂ« Ruby on Rails (jo tĂ« integruar me service mesh), i cili dĂ«rgon kĂ«rkesa te shĂ«rbimet backend pĂ«rmes gRPC, aplikacioni do tĂ« duhet tĂ« vendosĂ« vetĂ« çfarĂ« tĂ« bĂ«jĂ« nĂ«se N kĂ«rkesa dĂ«shtojnĂ«. Gjithashtu do tĂ« duhet tĂ« pĂ«rcaktohet sa trafik mund tĂ« pĂ«rpunojnĂ« kĂ«to shĂ«rbime dhe kĂ«to parametra tĂ« hardcode-ohen me ndihmĂ«n e njĂ« biblioteke tĂ« veçantĂ«. PĂ«r mĂ« tepĂ«r, aplikacioni do tĂ« duhet tĂ« vendosĂ« kur Ă«shtĂ« koha tĂ« heqĂ« dorĂ« dhe tĂ« lejojĂ« qĂ« kĂ«rkesa tĂ« skadojĂ« (sipas timeout). Dhe pĂ«r tĂ« ndryshuar cilindo nga parametrat e mĂ«sipĂ«rm, web server-i do tĂ« duhet tĂ« ndalet, tĂ« rikonfigurohet dhe tĂ« niset sĂ«rish.

Kalimi i këtyre detyrave te service mesh do të thotë jo vetëm që zhvilluesit e shërbimeve nuk do të duhet të mendojnë më për to, por edhe që ato mund të trajtohen në një nivel më të gjerë. Nëse përdoret një zinxhir kompleks shërbimesh, për shembull, A -> B -> C -> D -> E, duhet marrë parasysh i gjithë cikli i jetës së kërkesës. Nëse synohet të zgjaten timeout-et në shërbimin C, ka kuptim që kjo të bëhet njëherazi dhe jo pjesë-pjesë: duke përditësuar kodin e shërbimit dhe duke pritur që pull request të pranohet e që sistemi CI të vendosë versionin e përditësuar të shërbimit.

14. Telemetria

TL;DR: Mblidhni të gjithë informacionin e nevojshëm (dhe jo vetëm) nga shërbimet.

Telemetria Ă«shtĂ« njĂ« term i pĂ«rgjithshĂ«m qĂ« pĂ«rfshin metrika, gjurmim tĂ« shpĂ«rndarĂ« dhe log-e. Service mesh ofrojnĂ« mekanizma pĂ«r mbledhjen dhe pĂ«rpunimin e tĂ« tre kĂ«tyre llojeve tĂ« tĂ« dhĂ«nave. KĂ«tu gjithçka bĂ«het disi mĂ« e paqartĂ«, sepse numri i varianteve tĂ« mundshme Ă«shtĂ« shumĂ« i madh. PĂ«r mbledhjen e metrikave ka Prometheus dhe mjete tĂ« tjera, pĂ«r mbledhjen e log-eve mund tĂ« pĂ«rdoren fluentd, Loki, Vector etj. (pĂ«r shembull, ClickHouse me loghouse pĂ«r K8s — shĂ«n. e pĂ«rkth.), ndĂ«rsa pĂ«r gjurmimin e shpĂ«rndarĂ« ka Jaeger etj. Çdo service mesh mund tĂ« mbĂ«shtesĂ« disa mjete dhe tĂ« mos mbĂ«shtesĂ« tĂ« tjera. Do tĂ« jetĂ« interesante tĂ« shihet nĂ«se projekti Open Telemetry do tĂ« mund tĂ« sjellĂ« njĂ«farĂ« konvergjence.

NĂ« kĂ«tĂ« rast, pĂ«rparĂ«sia e teknologjisĂ« service mesh qĂ«ndron nĂ« faktin se kontejnerĂ«t sidecar, nĂ« parim, mund t’i mbledhin tĂ« gjitha tĂ« dhĂ«nat e mĂ«sipĂ«rme nga shĂ«rbimet e tyre. Me fjalĂ« tĂ« tjera, ju merrni njĂ« sistem tĂ« unifikuar pĂ«r mbledhjen e telemetrisĂ« dhe service mesh mund ta pĂ«rpunojĂ« gjithĂ« kĂ«tĂ« informacion nĂ« mĂ«nyra tĂ« ndryshme. PĂ«r shembull:

  • tĂ« bĂ«ni tail tĂ« logjeve tĂ« njĂ« shĂ«rbimi tĂ« caktuar nĂ« CLI;
  • tĂ« monitoroni volumin e kĂ«rkesave nga paneli i monitorimit tĂ« service mesh;
  • tĂ« mblidhni gjurmime tĂ« shpĂ«rndara dhe t’i ridrejtoni ato nĂ« njĂ« sistem si Jaeger.

Kujdes, gjykim subjektiv: NĂ« pĂ«rgjithĂ«si, telemetria Ă«shtĂ« ajo fushĂ« ku ndĂ«rhyrja e fortĂ« e service mesh nuk Ă«shtĂ« e dĂ«shirueshme. Mbledhja e informacionit bazĂ« dhe ndjekja nĂ« kohĂ« reale e disa “metrikave tĂ« arta”, si pĂ«rqindja e kĂ«rkesave tĂ« suksesshme dhe vonesat, Ă«shtĂ« krejt normale, por le tĂ« shpresojmĂ« qĂ« tĂ« mos shohim shfaqjen e disa stack-eve Frankenstein qĂ« do tĂ« pĂ«rpiqen tĂ« zĂ«vendĂ«sojnĂ« sisteme tĂ« specializuara, disa prej tĂ« cilave tashmĂ« e kanĂ« provuar veten shumĂ« mirĂ« dhe janĂ« studiuar gjerĂ«sisht.

15. Auditimi

TL;DR: Ai qĂ« harron mĂ«simet e historisĂ«, Ă«shtĂ« i dĂ«nuar t’i pĂ«rsĂ«risĂ« ato.

Auditimi është arti i vëzhgimit të ngjarjeve të rëndësishme në sistem. Në rastin e service mesh, kjo mund të nënkuptojë ndjekjen e asaj se kush ka bërë kërkesa ndaj endpoint-eve specifike të shërbimeve të caktuara ose sa herë ka ndodhur gjatë muajit të fundit një ngjarje e caktuar që lidhet me sigurinë.

ËshtĂ« e qartĂ« se auditimi Ă«shtĂ« shumĂ« i lidhur ngushtĂ« me telemetrinĂ«. Dallimi Ă«shtĂ« se telemetria zakonisht lidhet me gjĂ«ra si performanca dhe qĂ«ndrueshmĂ«ria teknike, ndĂ«rsa auditimi mund tĂ« ketĂ« tĂ« bĂ«jĂ« me çështje ligjore dhe tema tĂ« tjera qĂ« dalin pĂ«rtej sferĂ«s rreptĂ«sisht teknike (pĂ«r shembull, pĂ«rputhshmĂ«ria me kĂ«rkesat e GDPR — Rregullores sĂ« PĂ«rgjithshme tĂ« BE-sĂ« pĂ«r Mbrojtjen e tĂ« DhĂ«nave).

16. Vizualizimi

TL;DR: RroftĂ« React.js — burim i pashtershĂ«m i ndĂ«rfaqeve tĂ« çuditshme.

Ndoshta ka një term më të përshtatshëm, por unë nuk e di. Thjesht kam parasysh paraqitjen grafike të service mesh ose të disa prej komponentëve të saj. Këto vizualizime mund të përfshijnë tregues si vonesat mesatare, informacion mbi konfigurimin e kontejnerëve sidecar, rezultatet e kontrollit të gjendjes dhe njoftimet.

Puna në një mjedis të orientuar drejt shërbimeve shoqërohet me një ngarkesë njohëse shumë më të lartë krahasuar me Madhërinë e Tij Monolitin. Prandaj, kjo ngarkesë duhet ulur me çdo kusht. Edhe një ndërfaqe e thjeshtë grafike për service mesh, ku mjafton të klikoni një buton për të marrë rezultatin e dëshiruar, mund të ketë rëndësi vendimtare për rritjen e popullaritetit të kësaj teknologjie.

Nuk u përfshinë në listë

Fillimisht kisha ndërmend të përfshija në listë edhe disa skenarë të tjerë përdorimi, por më pas vendosa të mos e bëja. Ja cilët janë, së bashku me arsyet e këtij vendimi:

  • Multi-data center. Sipas mendimit tim, kjo nuk Ă«shtĂ« aq njĂ« skenar pĂ«rdorimi, sa njĂ« fushĂ« e ngushtĂ« dhe konkrete e zbatimit tĂ« service mesh ose e njĂ« grupi funksionesh si zbulimi i shĂ«rbimeve.
  • Ingress dhe egress. Kjo Ă«shtĂ« njĂ« fushĂ« e lidhur, por unĂ« e kufizova veten (ndoshta artificialisht) te skenari i pĂ«rdorimit tĂ« “trafikut east-west”. Ingress dhe egress meritojnĂ« njĂ« artikull mĂ« vete.

Përfundim

Kaq për momentin! Edhe një herë, kjo listë është mjaft relative dhe me shumë gjasa jo e plotë. Nëse ju duket se kam lënë diçka pa përmendur ose kam gabuar diku, më kontaktoni në Twitter (@lucperkins). Ju lutem, respektoni rregullat e mirësjelljes.

P.S. nga përkthyesi

Si bazĂ« pĂ«r ilustrimin kryesor tĂ« artikullit Ă«shtĂ« pĂ«rdorur njĂ« imazh nga artikulli “What is a Service Mesh (and when to use one)?” (autor — Gregory MacKinnon). Ai tregon se si njĂ« pjesĂ« e funksionalitetit Ă«shtĂ« zhvendosur nga aplikacionet (me ngjyrĂ« tĂ« gjelbĂ«r) te service mesh, e cila siguron ndĂ«rlidhjen mes tyre (me ngjyrĂ« blu tĂ« çelĂ«t).

Lexoni gjithashtu në blogun tonë:

Burimi: habr.com

Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS đŸ”„ Blini hosting tĂ« besueshĂ«m pĂ«r faqe interneti me mbrojtje nga DDoS, serverĂ« VPS VDS | ProHoster