Pozdrav! Ovo je kratak članak koji odgovara na pitanja: "što je envoy?", "zašto je potreban?" i "odakle početi?".
Što je to
Envoy je L4-L7 balansirnik napisan u C++, orijentiran na visoku učinkovitost i dostupnost. S jedne strane, to je na neki način analog nginx-a i haproxy-a, usporediv s njima po performansama. S druge strane, više je usmjeren na mikroservisnu arhitekturu i ima funkcionalnosti koje nisu lošije od balansirnika na javi i go-u, poput zuul-a ili traefik-a.
Tablica usporedbe haproxy/nginx/envoy, ne pretendira na apsolutnu istinu, ali daje sveobuhvatan pregled.
nginx
haproxy
envoy
traefik
zvijezda na githubu
11.2k/mirror
1.1k/mirror
12.4k
27.6k
napisan u
C
C
C++
go
API
ne
samo socket/push
dataplane/pull
omogućuju objavu artefakata ili preuzimanje postojećih artefakata iz udaljenog registra. Pokušajmo objaviti politiku koju smo stvorili u lokalni Docker registar pomoću
aktivni healthcheck
ne
da
da
da
Open tracing
vanjski plugin
ne
da
da
JWT
vanjski plugin
ne
da
ne
Proširenje
Lua/C
Lua/C
Lua/C++
ne
Zašto
Ovo je mlad projekt, nedostaje mu puno stvari, nešto je u ranoj alfa fazi. No envoy, uključujući i mladost, brzo se razvija i već sada ima mnogo zanimljivih mogućnosti: dinamičku konfiguraciju, mnogo spremnih filtera, jednostavno sučelje za pisanje vlastitih filtera.
Iz ovoga proizađu područja primjene, ali na početku dva antipatterna:
- Serviranje statike.
Naime, trenutno u envoy nema podrške za keširanje. Ljudi iz google-a pokušavaju to . Ideja je jednom implementirati sve finese (zoo glave) usklađenosti s RFC-om, a za konkretne implementacije napraviti sučelje. No trenutno to nije ni alpha, arhitektura je u raspravi, envoy otvoren (dok sam pisao članak, PR je spojen, ali ova točka je još uvijek aktualna). A trenutno koristite nginx za statiku.
Statička konfiguracija.
- Može se koristiti, ali
nije stvoren za to. Mogućnosti u statičkoj konfiguraciji neće biti otkrivene. Ima mnogo aspekata: envoy Uređujući konfiguraciju u yaml-u, griješit ćete, psovati programere zbog opskurnosti i misliti da su konfiguracije nginx/haproxy, iako manje strukturirane, sažetije. U tome je bit. Konfiguracija Nginx i Haproxy je stvarana za ručno uređivanje, dok je
napravljena za generiranje iz koda. Cjelokupna konfiguracija opisuje se u envoy protobuf Canary scenariji, b/g implementacije i mnoge druge stvari normalno se provode samo u dinamičkoj konfiguraciji. Ne kažem da to ne može biti učinjeno u statičkoj, sve to radimo. Ali za to se treba osloniti na razne workaround-e, u bilo kojem od balansirača,
uključujući i. envoy Zadaci u kojima je Envoy neophodan:
Zadaci u kojima je Envoy nezamjenjiv:
- Uravnoteženje prometa u složenim i dinamičnim sustavima. Ovdje spada service mesh, ali to nije jedina mogućnost.
- Potrebna je funkcionalnost distribuiranog traganja, složene autorizacije ili nešto drugo što je dostupno envoy iz kutije ili se lako implementira, dok se u nginx/haproxy moramo oslanjati na lua i sumnjive dodatke.
Oboje bi, ako je potrebno, trebalo osigurati visoke performanse.
Kako to funkcionira
Envoy se distribuira samo kao docker slika. U slici već postoji primjer statičke konfiguracije. No, zanimljiv nam je samo za razumijevanje strukture.
envoy.yaml statička konfiguracija
static_resources:
listeners:
- name: listener_0
address:
socket_address:
protocol: TCP
address: 0.0.0.0
port_value: 10000
filter_chains:
- filters:
- name: envoy.http_connection_manager
typed_config:
"@type": type.googleapis.com/envoy.config.filter.network.http_connection_manager.v2.HttpConnectionManager
stat_prefix: ingress_http
route_config:
name: local_route
virtual_hosts:
- name: local_service
domains: ["*"]
routes:
- match:
prefix: "\/"
route:
host_rewrite: www.google.com
cluster: service_google
http_filters:
- name: envoy.router
clusters:
- name: service_google
connect_timeout: 0.25s
type: LOGICAL_DNS
# Isključite sljedeći redak da biste testirali na v6 mrežama
dns_lookup_family: V4_ONLY
lb_policy: ROUND_ROBIN
load_assignment:
cluster_name: service_google
endpoints:
- lb_endpoints:
- endpoint:
address:
socket_address:
address: www.google.com
port_value: 443
transport_socket:
name: envoy.transport_sockets.tls
typed_config:
"@type": type.googleapis.com/envoy.api.v2.auth.UpstreamTlsContext
sni: www.google.comDinamička konfiguracija
Koji problem pokušavamo riješiti? Ne možemo jednostavno ponovno učitati konfiguraciju balansirnika pod opterećenjem, javit će se "manji" problemi:
- Valideranje konfiguracije.
Konfiguracija može biti velika, može biti vrlo velika, ako je učitavamo sve odjednom, šanse za grešku negdje se povećavaju.
- Dugotrajne veze.
Pri inicijalizaciji novog listenere, potrebno je brinuti se o vezama koje rade na starom, ako se promjene često javljaju i postoje dugotrajne veze, morat ćemo pronaći kompromis. Pozdrav, kubernetes ingress na nginx.
- Aktivni health checkovi.
Ako imamo aktivne health checkove, trebali bismo ih sve provjeriti na novoj konfiguraciji prije nego što pošaljemo promet. Ako imamo mnogo upstream-a, to zahtijeva vrijeme. Pozdrav, haproxy.
Kako se to rješava u envoy, dinamički učitavajući konfiguraciju po modelu grupe, može se podijeliti na zasebne dijelove i ne ponovno inicijalizirati onaj dio koji se nije mijenjao. Na primjer, listener, čije ponovno inicijaliziranje košta, mijenja se rijetko.
Konfiguracija envoy (iz gornje datoteke) ima sljedeće entitete:
- listener — listener koji je vezan na određenom IP/portu
- virtual host — virtualni host po imenu domene
- route — pravilo balansiranja
- cluster — grupa upstream-a s parametrima balansiranja
- endpoint — adresa instance upstream-a
Svaka od ovih entiteta, plus neki drugi, može se dinamički popuniti; za to se u konfiguraciji navodi adresa servisa s koje će se dobiti konfiguracija. Servis može biti REST ili gRPC, poželjno je koristiti gRPC.
Servisi se nazivaju odgovarajuće: LDS, VHDS, RDS, CDS i EDS. Može se kombinirati statička i dinamička konfiguracija, s ograničenjem da dinamički resurs ne može biti naveden u statičkoj konfiguraciji.
Za većinu zadataka dovoljno je implementirati posljednja tri servisa, koja se nazivaju ADS (Aggregated Discovery Service), za i go postoji gotova implementacija gRPC dataplanea koja samo zahtijeva popunjavanje objekata iz vlastitog izvora.
Konfiguracija dobiva sljedeći oblik:
envoy.yaml dinamička konfiguracija
dynamic_resources:
ads_config:
api_type: GRPC
grpc_services:
envoy_grpc:
cluster_name: xds_clr
cds_config:
ads: {}
static_resources:
listeners:
- name: listener_0
address:
socket_address:
protocol: TCP
address: 0.0.0.0
port_value: 10000
filter_chains:
- filters:
- name: envoy.http_connection_manager
typed_config:
"@type": type.googleapis.com/envoy.config.filter.network.http_connection_manager.v2.HttpConnectionManager
stat_prefix: ingress_http
rds:
route_config_name: local_route
config_source:
ads: {}
http_filters:
- name: envoy.router
clusters:
- name: xds_clr
connect_timeout: 0.25s
type: LOGICAL_DNS
dns_lookup_family: V4_ONLY
lb_policy: ROUND_ROBIN
load_assignment:
cluster_name: xds_clr
endpoints:
- lb_endpoints:
- endpoint:
address:
socket_address:
address: xds
port_value: 6565Kada se pokrene, prikazuje se sljedeće: envoy s ovom konfiguracijom povezati će se s control-planeom i pokušati zatražiti konfiguraciju RDS, CDS i EDS. Kako se odvija proces interakcije opisano je .
Ukratko, envoy šalje zahtjev, navodeći tip traženog resursa, verziju i parametre čvora. U odgovoru dobiva resurs i verziju; ako na control-planeu verzija nije promijenjena, ne odgovara.
Postoje 4 opcije interakcije:
- Jedan gRPC stream za sve vrste resursa, šalje se cjelokupno stanje resursa.
- Odvojeni streamovi, potpuno stanje.
- Jedan stream, inkrementalno stanje.
- Odvojeni streamovi, inkrementalno stanje.
Inkrementalni xDS smanjuje promet između kontrolne ploče i envoy, to je relevantno za velike konfiguracije. Međutim, otežava interakciju, u zahtjevu se šalje popis resursa za odjavu i pretplatu.
U našem primjeru koristi se ADS — jedan stream za RDS, CDS, EDS i neinkrementalni način. Da biste omogućili inkrementalni način, trebate navesti api_type: DELTA_GRPC
Budući da u zahtjevu postoje parametri čvora, možemo na kontrolnu ploču slati različite resurse za različite instance envoy, to je praktično za izgradnju uslužne mreže.
Zagrijavanje
Na envoy pri pokretanju ili pri primanju nove konfiguracije od kontrolne ploče pokreće se proces zagrijavanja resursa. Podijeljen je na zagrijavanje slušatelja i zagrijavanje klastera. Prvi se pokreće prilikom promjena u RDS/LDS, drugi pri CDS/EDS. To znači da, ako se promijene samo uzlazni resursi, slušatelj se ne rekreira.
Tijekom zagrijavanja, očekuju se ovisni resursi od kontrolne ploče tijekom vremenskog ograničenja. Ako istekne vremensko ograničenje, inicijalizacija neće biti uspješna, novi slušatelj neće početi slušati port.
Redoslijed inicijalizacije: EDS, CDS, aktivna provjera zdravlja, RDS, LDS. Kada su aktivne provjere zdravlja uključene, promet će ići na uzlazni resurs samo nakon jedne uspješne provjere zdravlja.
Ako je slušatelj rekreiran, stari prelazi u stanje DRAIN i bit će uklonjen nakon zatvaranja svih veza ili isteka vremenskog ograničenja --drain-time-s, prema zadanim postavkama 10 minuta.
Nastavak slijedi.
Izvor: habr.com
