
Napomena za prijevod.: autor ovog članka (Luc Perkins) — developer advocate u organizaciji CNCF, koja je dom za projekte otvorenog koda poput Linkerd, SMI (Service Mesh Interface) i Kuma (usput rečeno, jeste li se ikada pitali zašto u ovom popisu nema Istio?..). Pokušavajući ponovno donijeti bolje razumijevanje u DevOps zajednicu o popularnom trendu nazvanom 'service mesh', iznosi 16 karakteristika koje ova rješenja pružaju.
Danas ― jedna je od najtraženijih tema u području softverskog inženjerstva (i s pravom!). Smatram ovu tehnologiju izuzetno perspektivnom i sanjam o tome da ću biti svjedok njezinog širokog prihvaćanja (naravno, kada to ima smisla). Ipak, još uvijek je okružena aurasom misterije za većinu ljudi. Čak i oni koji dobro su upoznati s njom, često imaju poteškoća u formuliranju njenih prednosti i što ona zapravo predstavlja (uključujući i vašeg poniznog poslužitelja). U ovom ću članku pokušati ispraviti situaciju, navodeći različite scenarije korištenja „servisnih mreža“*.
* Napomena prev.: ovdje i dalje u članku koristit će se ovakav prijevod („servisna mreža“) za još uvijek novi izraz service mesh.
Ali prvo želim iznijeti nekoliko opasku:
- Nikada nisam radio s servisnim mrežama i nisam ih koristio izvan projekata pokrenutih zbog vlastitog obrazovanja. S druge strane, upravo sam ja napisao tonu dokumentacije za internu service mesh tvrtke Twitter 2015. godine (tada se još nije zvala „servisna mreža“) i sudjelovao u razvoju web stranice i dokumentacije za , tako da to nešto znači.
- Moj popis je okvirni i nepotpun. Postoje mogli bi postojati nepoznati mi scenariji korištenja, a s vremenom će se sigurno pojaviti nove opcije, kako se tehnologija razvija i raste njena popularnost.
- U isto vrijeme, daleko od toga da svaka postojeća implementacija service mesha podržava sve navedene slučajeve korištenja. Stoga moje izjave poput 'service mesh može...' trebaju se shvatiti kao 'određene, a možda i sve popularne implementacije service mesha mogu...'.
- Redoslijed primjera nema nikakvu važnost.
Kratki popis:
- otkrivanje servisa;
- enkripcija;
- autentifikacija i autorizacija;
- balansiranje opterećenja;
- circuit breaking;
- automatsko skaliranje;
- kanarinska izdanja;
- plavoljubične implementacije;
- provjera zdravlja;
- otklanjanje opterećenja;
- mirroriranje prometa;
- izolacija;
- ograničenje učestalosti zahtjeva, ponovni pokušaji i vremenska ograničenja;
- telemetrija;
- revizija;
- vizualizacija.
1. Otkritje usluga
TL;DR: Povezujte se s drugim uslugama u mreži jednostavnim nazivima.
Usluge moraju imati mogućnost da se automatski "pronađu" međusobno koristeći adekvatne nazive ― na primjer, service.api.production, pets/staging ili cassandra. Cloud okruženja se odlikuju svojom elastičnošću, a ispod jednog naziva može se skrivati više instanci usluga. Jasno je da u takvoj situaciji fizički nije moguće hardkodirati sve IP adrese.
Osim toga, kada jedna usluga pronalazi drugu, ona mora imati mogućnost slanja zahtjeva toj usluzi bez straha da će završiti na ulazu neaktivne instance. Drugim riječima, service mesh treba pratiti rad svih instanci usluga i održavati popis hostova u najaktualnijem stanju.
Svaka service mesh implementira mehanizam otkrivanja usluga na svoj način. Trenutno je najrašireniji način delegiranje vanjskim procesima kao što je Kubernetes DNS. U prošlosti smo u Twitteru za te svrhe koristili sustav imenovanja . Osim toga, tehnologija service mesh omogućuje pojavu korisničkih mehanizama imenovanja (iako još nisam naišao na niti jednu implementaciju SM s tom funkcionalnošću).
2. Enkripcija
TL;DR: Oslobodite se nešifriranog prometa između usluga i neka taj proces bude automatiziran i skalabilan.
Lijepo je znati da zlonamjerni akteri ne mogu prodrijeti u vašu unutarnju mrežu. Mrežni firewalli se odlično nose s tim. No što se događa ako haker ipak prodre unutra? Može raditi s internim prometom sve što želi? Nadamo se da se to neće dogoditi. Da bismo spriječili takav scenarij, potrebno je implementirati mrežu s nultim povjerenjem (zero-trust), u kojoj je sav promet između usluga šifriran. Većina modernih uslužnih mreža to postigne putem uzajamnog (mutual TLS, mTLS). U nekim slučajevima mTLS funkcionira u cijelim oblacima i klasterima (mislim da će i međugalaktičke komunikacije jednog dana biti organizirane slično).
Naravno, za mTLS servisnu mrežu nije obavezno. Svaka usluga može sama brinuti o svom TLS-u, ali to znači da ćete morati pronaći način za generisanje certifikata, raspodelu po hostovima usluge, uključivanje u aplikaciju koda koji će učitati te certifikate iz datoteka. Da, ne zaboravite ni na ažuriranje ovih certifikata u redovnim intervalima. Servisne mreže automatski upravljaju mTLS-om putem sistema poput , koji, zauzvrat, automatizuju proces izdavanja i rotacije certifikata.
3. Autentifikacija i autorizacija
TL;DR: Odredite ko je inicijator zahteva i definišite što mu je dozvoljeno raditi pre nego što zahtev stigne do usluge.
Usluge često žele znati, ko vrši zahtev (autentifikacija), a koristeći te informacije, odlučuju, šta tom subjektu je dozvoljeno raditi (autorizacija). U ovom slučaju iza zamene 'ko' mogu stajati:
- Druge usluge. To se naziva 'autentifikacija peer-a'. Na primer, usluga
webželi pristup usluzidb. Servisne mreže obično rešavaju ovakve probleme putem mTLS-a: certifikati u ovom slučaju deluju kao potrebna identifikacija. - Neki korisnici ljudi. To se naziva 'autentifikacija zahteva'. Na primer, korisnik
haxor69želi kupiti novu lampu. Servisne mreže pružaju različite mehanizme, poput .Mnogima od nas se dogodilo da to radimo u kodu aplikacije. Dolazi zahtev, pregledamo tabelu
users, pronalazimo korisnika i upoređujemo lozinku, zatim proveravamo kolonupermissionsitd. U slučaju servisne mreže ovo se događa još pre nego što zahtev stigne do usluge.
Nakon što smo utvrdili od koga je došao zahtev, potrebno je odrediti što tom subjektu je dozvoljeno raditi. Neki servisni mreže omogućuju postavljanje osnovnih pravila (o tome ko i šta može raditi) u obliku YAML datoteka ili u komandnoj liniji, dok drugi nude integraciju s okvirima poput . Krajnji cilj je postići da vaše usluge prihvataju sve zahteve, smelo pretpostavljajući da dolaze iz pouzdane izvore i što je radnja koja je dozvoljena.
4. Balansiranje opterećenja
TL;DR: Distribuirajte opterećenje među instancama usluga prema određenom obrascu.
U okviru servisa u okviru servisne sekte, često se sastoji od više identičnih instanci. Na primjer, danas servis cache se sastoji od 5 kopija, a sutra se njihov broj može povećati na 11. Upiti koji su usmjereni na cache, trebaju biti raspoređeni prema određenoj svrsi. Na primjer, minimizirati kašnjenje ili maksimalizirati vjerojatnost dolaska do funkcionalne instance. Najčešće se koristi algoritam kružnog servisiranja (Round-robin), ali postoji mnogo drugih — kao što su metoda ponderiranih (weighted) upita (možete odabrati preferirane ciljeve), kružno (ring) heširanje (korištenje dosljednog heširanja za upstream hostove) ili metoda najmanjeg broja upita (prednost se daje instanci s najmanjim brojem upita).
Klasični balansirnici imaju i druge funkcije, kao što su HTTP keširanje i zaštita od DDoS, ali one nisu previše relevantne za east-west promet (tj. za promet koji se odvija unutar data centra — prim. prev.) (tipično područje primjene service mesh-a). Naravno, nije obavezno koristiti service mesh za ravnotežu opterećenja, međutim, ona omogućava postavljanje i kontrolu pravila ravnoteže za svaku uslugu iz centraliziranog upravljačkog sloja, čime se uklanja potreba za pokretanjem i postavljanjem zasebnih balansirnika u mrežnom okviru.
5. Prekid kruga (circuit breaking)
TL;DR: Zaustavite promet prema problematičnoj usluzi i kontrolirajte štetu u najgorem slučaju.
Ako iz bilo kojeg razloga usluga ne može podnijeti promet, service mesh pruža nekoliko opcija za rješavanje tog problema (o drugim će se govoriti u odgovarajućim odjeljcima). Circuit breaking je najoštriji način isključivanja usluge iz prometa. Međutim, to samo po sebi nema smisla — potreban je plan B. Može se omogućiti povratni pritisak () na usluge koje obrađuju upite (samo ne zaboravite postaviti svoju service mesh za to!), ili, na primjer, obojiti stranicu statusa u crvenu boju i preusmjeriti korisnike na alternativnu stranicu s 'padajućim kitom' ('Twitter is down').
Servisne mreže omogućuju ne samo određivanje kada će doći do isključenja i šta to će uslijediti. U ovom slučaju „kada” može uključivati bilo koju kombinaciju zadanih parametara: ukupni broj zahtjeva u određenom razdoblju, broj paralelnih priključaka, pending-zahtjeve, aktivne ponovne pokušaje itd.
Vjerojatno nećete željeti zloupotrebljavati circuit breaking, ali lijepo je znati da postoji rezervni plan za hitne slučajeve.
6. Automatsko skaliranje
TL;DR: Povećavajte ili smanjujte broj instanci usluge ovisno o zadanom kriteriju.
Service meshovi nisu planificatori, pa ne provode skaliranje sami. Međutim, mogu pružiti informacije na temelju kojih će planificatori donositi odluke. Budući da service meshovi imaju pristup svemu prometu između usluga, posjeduju opsežne informacije o tome što se događa: koje usluge imaju problema, koje su potpuno slabo opterećene (resursi dodijeljeni njima se troše uzalud) itd.
Na primjer, Kubernetes skalira usluge na temelju korištenja CPU-a i memorije od strane podova (vidi naš izvještaj „” — napomena prev.), ali ako odlučite provesti skaliranje na temelju bilo kojeg drugog pokazatelja (u našem slučaju — povezanog s prometom), bit će potrebna posebna metrike. Vodič pokazuje kako to učiniti pomoću , i , ali je sam proces prilično složen. Željeli bismo da service mesh to pojednostavi, omogućujući jednostavno postavljanje uvjeta poput „povećaj broj instanci usluge auth, ako broj zahtjeva koji čekaju obradu prekorači pragu tijekom jedne minute.”
7. Kanarečka razmještanja
TL;DR: Isprobajte nove funkcije ili verzije usluge na podskupu korisnika.
Recimo, razvijate neki SaaS-projekt i nameravate uvesti novu verziju koja je super. Testirali ste je na stagingu i odlično je funkcionisala. Ipak, i dalje vas muče određene sumnje o njenom ponašanju u stvarnim uslovima. Drugim rečima, potrebno je da proverite novu verziju na realnim zadacima, a da pritom ne ugrozite poverenje korisnika. Kanarinske implementacije su odlične za to. One omogućavaju da prikažete novu funkciju određenom podskupu korisnika. Ovaj podskup može se sastojati od najlojalnijih korisnika, onih koji koriste besplatnu verziju proizvoda ili korisnika koji su izrazili želju da budu „kraljevi eksperimenta“.
Service mesh-ovi to realizuju, omogućavajući vam da navedete kriterijume koji određuju ko i koju verziju aplikacije može videti, a odgovarajuće usmeravajući saobraćaj. Pri tome, za same servise ništa se ne menja. Verzija 1.0 servisa misli da svi zahtevi dolaze od korisnika koji je trebaju videti, dok verzija 1.1 misli isto o svojim korisnicima. A vi, u međuvremenu, možete menjati procenat saobraćaja između stare i nove verzije, usmeravajući rastući broj korisnika na novu verziju, ako ona stabilno funkcioniše i vaši „eksperimentalni“ korisnici daju odobrenje.
8. Plavo-zeleni deploymenti
TL;DR: Uvedite novu cool funkciju, ali budite spremni da je odmah povučete.
Značenje je da se uvede novi "plavi" servis, pokrećući ga paralelno sa starim, "zelenim". Ako sve prođe u redu i novi servis bude dobro funkcionisao, stari se može postepeno isključiti. (Nažalost, jednom će i ovaj novi "plavi" servis imati sudbinu "zelenog" i nestati...) Plavo-zeleni deploymenti se razlikuju od kanarinskih jer nova funkcija obuhvata sve korisnike (a ne deo); smisao je imati "rezervnu luku" ako nešto krene po zlu.
Service mesh nudi vrlo praktičan način testiranja 'plave' usluge i trenutnog prebacivanja na radnu 'zelenu' uslugu u slučaju problema. Ne spominjući da istovremeno pružaju mnoge informacije (vidi odjeljak 'Telemetrija' u nastavku) o radu 'plave' usluge, što pomaže u razumijevanju je li spremna za punu eksploataciju.
Napomena za prijevod.: Više o različitim strategijama implementacije u Kubernetesu (uključujući spomenute canary, blue/green i druge) možete pročitati u .
9. Provjera zdravlja
TL;DR: Pratite koji su primjeri usluga aktivni i reagirajte na one koji nisu.
Provjera zdravlja (health check) pomaže donijeti odluku o tome jesu li primjeri usluge spremni primati i obrađivati promet. Na primjer, u slučaju HTTP usluga, provjera zdravlja može izgledati kao GET zahtjev na endpoint. /health. Odgovor 200 OK značit će da je primjer zdrav, svaki drugi odgovor značit će da nije spreman primati promet. Service mesh omogućuje definiranje metode provjere zdravlja kao i učestalosti s kojom će se ta provjera provoditi. Te se informacije mogu potom koristiti za druge svrhe—na primjer, za ravnotežu opterećenja i circuit breaking.
Tako provjera zdravlja nije samostalni scenarij korištenja, već se obično koristi za postizanje drugih ciljeva. Također, ovisno o rezultatima provjera zdravlja, mogle bi biti potrebne vanjske radnje (u odnosu na druge ciljeve uslužnih mreža): na primjer, ažuriranje stranice s informacijama, otvaranje issue-a na GitHubu ili ispunjavanje JIRA tiketa. A service mesh nudi praktičan mehanizam za automatizaciju svega toga.
10. Preusmjeravanje opterećenja (load shedding)
TL;DR: Preusmjeravajte promet kao odgovor na privremeni porast korištenja.
Ako neka usluga postane preopterećena prometom, možete privremeno preusmjeriti dio tog prometa na drugo mjesto (tj. 'izbaciti', 'preliti' (shed) ga tamo). Na primjer, prema rezervnoj usluzi ili podatkovnom centru, ili prema stalnom teme. Kao rezultat, usluga će nastaviti obrađivati dio zahtjeva umjesto da padne i prestane obrađivati sve. Oslobađanje opterećenja je bolje od prekida lanca, ali se i dalje ne preporučuje zloupotrebljavati ga. To pomaže u sprečavanju kaskadnih kvarova koji izazivaju pad downstream usluga.
11. Paralelizacija/zrcaljenje prometa
TL;DR: Pošaljite jedan zahtjev na nekoliko mjesta odjednom.
Ponekad se javlja potreba da se zahtjev (ili neka uzorak zahtjeva) pošalje odmah u nekoliko usluga. Karakterističan primjer je slanje dijela produkcijskog prometa u staging uslugu. Glavni web server produkcije šalje zahtjev doljnjem usluzi products.production i samo njemu. A service mesh inteligentno kopira taj zahtjev i šalje ga na products.staging, o čemu glavni web server čak nije ni svjestan.
Još jedan povezani scenarij korištenja service mesh, koji se može realizirati iznad paralelizacije prometa, je . Ono podrazumijeva slanje istih zahtjeva različitim verzijama usluge i provjeru da li se sve verzije ponašaju jednako. Do sada nisam naišao na implementaciju service mesh s integriranim sustavom regresijskog testiranja poput , ali sama ideja mi se čini perspektivnom.
12. Izolacija
TL;DR: Razdvojite svoju service mesh na mini-mreže.
Također poznata kao segmentacija, izolacija je umjetnost razdvajanja servisne mreže na logički odvojene segmente koji ništa ne znaju jedni o drugima. Izolacija je malo nalik stvaranju virtualnih privatnih mreža. Temeljna razlika je u tome što i dalje možete koristiti sve prednosti service mesh (poput otkrivanja usluga), ali s dodatnom sigurnošću. Na primjer, ako napadač uspije prodrijeti u uslugu u jednoj od podmreža, neće moći vidjeti koje se usluge izvode u drugim podmrežama ili presresti njihov promet.
Osim toga, prednosti mogu biti i organizacijske. Možda ćete htjeti razbiti usluge na podmreže prema strukturi kompanije i osloboditi programere od kognitivnog opterećenja izazvanog potrebom da drže na umu cijelu service mesh.
13. Ograničenje brzine zahtjeva, ponovni pokušaji i vremenski intervali
TL;DR: Više ne morate uključivati hitne zadatke za upravljanje zahtjevima u kodnu bazu.
Sve ove stvari mogli bismo smatrati posebnim slučajevima, ali sam ih odlučio spojiti zbog jedne zajedničke karakteristike: preuzimaju na sebe zadatke upravljanja životnim ciklusom zahtjeva, obično obrađivane aplikacijskim bibliotekama. Ako razvijate web server na Ruby on Rails (koji nije integriran s servisnom mrežom) koji izvršava zahtjeve prema backend uslugama putem , aplikacija će sama morati odlučiti što učiniti ako N zahtjeva ne uspije. Također će biti potrebno utvrditi kakvu količinu prometa mogu obraditi te usluge i 'hardcodirati' ove parametre uz pomoć posebne biblioteke. Osim toga, aplikacija će morati odlučiti kada je vrijeme da odustane i dopusti zahtjevu da istekne (putem timeout-a). I da bi se promijenio bilo koji od gore navedenih parametara, web server će trebati zaustaviti, ponovo konfigurirati i ponovno pokrenuti.
Prenašanje ovih zadataka na servisnu mrežu ne znači samo to da developeri usluga više neće morati razmišljati o njima, već i to da ih možemo razmatrati na globalniji način. Ako se koristi složeni lanac usluga, recimo, A -> B -> C -> D -> E, potrebno je uzeti u obzir cijeli životni ciklus zahtjeva. Ako je cilj produžiti timeout-e u usluzi C, logično je to učiniti sve odjednom, a ne postupno: ažuriranjem koda usluge i čekanjem da pull request bude prihvaćen i CI sustav rasporedi ažuriranu uslugu.
14. Telemetrija
TL;DR: Prikupite sve potrebne (i ne baš) informacije od usluga.
Telemetrija je opći pojam koji obuhvaća metrike, distribuirano praćenje i logove. Servisne mreže nude mehanizme za prikupljanje i obradu sva tri tipa podataka. Ovdje postaje malo nejasno, jer je broj mogućih varijacija prevelik. Za prikupljanje metrika postoje i drugi alati, a za prikupljanje logova možete koristiti , , i dr. (na primjer, ClickHouse s našim za K8s — napomena prev.), za distribuirano praćenje postoje i sl. Svaka servisna mreža može podržavati određene alate i ne podržavati druge. Bit će zanimljivo vidjeti može li projekt osigurati neku konvergenciju.
U ovom slučaju, prednost tehnologije service mesh je u tome što sidecar kontejneri mogu, u načelu, prikupiti sve gore navedene podatke sa svojih servisa. Drugim riječima, na raspolaganju imate jedinstveni sustav prikupljanja telemetrije, a service mesh može obrađivati sve te informacije na različite načine. Na primjer:
- pratiti logove nekog servisa u CLI-u;
- praćenje volumena zahtjeva s nadzorne ploče service mesh-a;
- prikupljanje distribuiranih tragova i preusmjeravanje u sustav poput Jaeger-a.
Pažnja, subjektivno mišljenje: Općenito govoreći, telemetrija je područje u koje je snažno umiješavanje servisne mreže nepoželjno. Prikupljanje osnovnih informacija i praćenje u stvarnom vremenu nekih "zlatnih metrike" poput postotka uspješnih zahtjeva i kašnjenja - to je u redu, ali se nadamo da nećemo biti svjedoci pojave takozvanih Frankenstein-architectura koje će pokušati zamijeniti specijalizirane sustave, od kojih su neki već vrlo dobro uspostavljeni i dobro proučeni.
15. Revizija
TL;DR: Tko zaboravlja lekcije iz povijesti, osuđen je ponavljati ih.
Revizija je umjetnost promatranja važnih događaja u sustavu. U slučaju service mesh-a to može značiti praćenje tko je slao zahtjeve na određene endpoint-e određenih servisa ili koliko je puta u posljednjih mjesec dana došlo do nekog događaja vezanog uz sigurnost.
Razumljivo je da je revizija vrlo usko povezana s telemetrijom. Razlika je u tome što se telemetrija obično povezuje s takvim stvarima kao što su učinkovitost i tehnička usklađenost, dok revizija može imati veze s pravnim i drugim pitanjima koja izlaze iz strogo tehničke sfere (npr. usklađenost s GDPR-om — Općom regulativom EU o zaštiti podataka).
16. Vizualizacija
TL;DR: Neka živi React.js — neiscrpan izvor egzotičnih sučelja.
Možda postoji prikladniji izraz, ali ga ne znam. Samo mislim na grafičku reprezentaciju service mesh-a ili nekih njenih komponenti. Ove vizualizacije mogu uključivati indikatore poput prosječnih kašnjenja, informacije o konfiguraciji sidecar kontejnera, rezultate provjera zdravlja i obavijesti.
Rad u okruženju usmjerenom na usluge nosi znatno veću kognitivnu opterećenost u usporedbi s Njegovom Velikosti Monolitom. Stoga bi se kognitivni pritisak trebao smanjiti po svaku cijenu. Banalan grafički sučelje za service mesh s mogućnošću klika na gumb i dobivanja željenog rezultata može biti presudan za rast popularnosti ove tehnologije.
Nisu uključeni na popis
Isprva sam namjeravao uključiti još nekoliko scenarija korištenja na popis, ali sam potom odlučio ne učiniti to. Evo ih zajedno s razlozima moje odluke:
- Višedatacentar. U mom shvaćanju, to nije samo scenarij korištenja, već uska i specifična područja primjene servisnih mreža ili nekog skupa funkcija poput otkrivanja servisa.
- Ingress i egress. Ovo je povezana domena, ali sam se ograničio (možda umjetno) scenarijem korištenja 'east-west' prometa. Ingress i egress zaslužuju poseban članak.
Zaključak
Za sada je to sve! Ponovno, ovaj popis je prilično uvjetan i najvjerojatnije nije potpun. Ako mislite da sam nešto propustio ili napravio grešku, obratite mi se na Twitteru (). Molim vas, poštujte pravila ponašanja.
P.S. od prevodioca
Kao osnovu za naslovnu ilustraciju članka korištena je slika iz članka '' (autor — Gregory MacKinnon). Na njoj je prikazano kako je dio funkcionalnosti iz aplikacija (označeno zelenom) prešao na service mesh, osiguravajući međusobne veze među njima (plavom).
Pročitajte i na našem blogu:
- «»;
- «»;
- «».
Izvor: habr.com
