Envoy. 1. Uvod

Pozdrav! Ovo je kratak članak koji odgovara na pitanja: "što je envoy?", "zašto je potreban?" i "odakle početi?".

Što je to

Envoy je L4-L7 balansirnik napisan u C++, orijentiran na visoku učinkovitost i dostupnost. S jedne strane, to je na neki način analog nginx-a i haproxy-a, usporediv s njima po performansama. S druge strane, više je usmjeren na mikroservisnu arhitekturu i ima funkcionalnosti koje nisu lošije od balansirnika na javi i go-u, poput zuul-a ili traefik-a.

Tablica usporedbe haproxy/nginx/envoy, ne pretendira na apsolutnu istinu, ali daje sveobuhvatan pregled.

nginx
haproxy
envoy
traefik

zvijezda na githubu
11.2k/mirror
1.1k/mirror
12.4k
27.6k

napisan u
C
C
C++
go

API
ne
samo socket/push
dataplane/pull
omogućuju objavu artefakata ili preuzimanje postojećih artefakata iz udaljenog registra. Pokušajmo objaviti politiku koju smo stvorili u lokalni Docker registar pomoću

aktivni healthcheck
ne
da
da
da

Open tracing
vanjski plugin
ne
da
da

JWT
vanjski plugin
ne
da
ne

Proširenje
Lua/C
Lua/C
Lua/C++
ne

Zašto

Ovo je mlad projekt, nedostaje mu puno stvari, nešto je u ranoj alfa fazi. No envoy, uključujući i mladost, brzo se razvija i već sada ima mnogo zanimljivih mogućnosti: dinamičku konfiguraciju, mnogo spremnih filtera, jednostavno sučelje za pisanje vlastitih filtera.
Iz ovoga proizađu područja primjene, ali na početku dva antipatterna:

  • Serviranje statike.

Naime, trenutno u envoy nema podrške za keširanje. Ljudi iz google-a pokušavaju to ispraviti. Ideja je jednom implementirati sve finese (zoo glave) usklađenosti s RFC-om, a za konkretne implementacije napraviti sučelje. No trenutno to nije ni alpha, arhitektura je u raspravi, envoy otvoren (dok sam pisao članak, PR je spojen, ali ova točka je još uvijek aktualna). PR A trenutno koristite nginx za statiku.

Statička konfiguracija.

  • Može se koristiti, ali

nije stvoren za to. Mogućnosti u statičkoj konfiguraciji neće biti otkrivene. Ima mnogo aspekata: envoy Uređujući konfiguraciju u yaml-u, griješit ćete, psovati programere zbog opskurnosti i misliti da su konfiguracije nginx/haproxy, iako manje strukturirane, sažetije. U tome je bit. Konfiguracija Nginx i Haproxy je stvarana za ručno uređivanje, dok je

napravljena za generiranje iz koda. Cjelokupna konfiguracija opisuje se u envoy protobuf , generirajući je prema proto datotekama, mnogo je teže pogriješiti.Canary scenariji, b/g implementacije i mnoge druge stvari normalno se provode samo u dinamičkoj konfiguraciji. Ne kažem da to ne može biti učinjeno u statičkoj, sve to radimo. Ali za to se treba osloniti na razne workaround-e, u bilo kojem od balansirača,

uključujući i. envoy Zadaci u kojima je Envoy neophodan:

Zadaci u kojima je Envoy nezamjenjiv:

  • Uravnoteženje prometa u složenim i dinamičnim sustavima. Ovdje spada service mesh, ali to nije jedina mogućnost.
  • Potrebna je funkcionalnost distribuiranog traganja, složene autorizacije ili nešto drugo što je dostupno envoy iz kutije ili se lako implementira, dok se u nginx/haproxy moramo oslanjati na lua i sumnjive dodatke.

Oboje bi, ako je potrebno, trebalo osigurati visoke performanse.

Kako to funkcionira

Envoy se distribuira samo kao docker slika. U slici već postoji primjer statičke konfiguracije. No, zanimljiv nam je samo za razumijevanje strukture.

envoy.yaml statička konfiguracija

static_resources:
  listeners:
  - name: listener_0
    address:
      socket_address:
        protocol: TCP
        address: 0.0.0.0
        port_value: 10000
    filter_chains:
    - filters:
      - name: envoy.http_connection_manager
        typed_config:
          "@type": type.googleapis.com/envoy.config.filter.network.http_connection_manager.v2.HttpConnectionManager
          stat_prefix: ingress_http
          route_config:
            name: local_route
            virtual_hosts:
            - name: local_service
              domains: ["*"]
              routes:
              - match:
                  prefix: "\/"
                route:
                  host_rewrite: www.google.com
                  cluster: service_google
          http_filters:
          - name: envoy.router
  clusters:
  - name: service_google
    connect_timeout: 0.25s
    type: LOGICAL_DNS
    # Isključite sljedeći redak da biste testirali na v6 mrežama
    dns_lookup_family: V4_ONLY
    lb_policy: ROUND_ROBIN
    load_assignment:
      cluster_name: service_google
      endpoints:
      - lb_endpoints:
        - endpoint:
            address:
              socket_address:
                address: www.google.com
                port_value: 443
    transport_socket:
      name: envoy.transport_sockets.tls
      typed_config:
        "@type": type.googleapis.com/envoy.api.v2.auth.UpstreamTlsContext
        sni: www.google.com

Dinamička konfiguracija

Koji problem pokušavamo riješiti? Ne možemo jednostavno ponovno učitati konfiguraciju balansirnika pod opterećenjem, javit će se "manji" problemi:

  • Valideranje konfiguracije.

Konfiguracija može biti velika, može biti vrlo velika, ako je učitavamo sve odjednom, šanse za grešku negdje se povećavaju.

  • Dugotrajne veze.

Pri inicijalizaciji novog listenere, potrebno je brinuti se o vezama koje rade na starom, ako se promjene često javljaju i postoje dugotrajne veze, morat ćemo pronaći kompromis. Pozdrav, kubernetes ingress na nginx.

  • Aktivni health checkovi.

Ako imamo aktivne health checkove, trebali bismo ih sve provjeriti na novoj konfiguraciji prije nego što pošaljemo promet. Ako imamo mnogo upstream-a, to zahtijeva vrijeme. Pozdrav, haproxy.

Kako se to rješava u envoy, dinamički učitavajući konfiguraciju po modelu grupe, može se podijeliti na zasebne dijelove i ne ponovno inicijalizirati onaj dio koji se nije mijenjao. Na primjer, listener, čije ponovno inicijaliziranje košta, mijenja se rijetko.

Konfiguracija envoy (iz gornje datoteke) ima sljedeće entitete:

  • listener — listener koji je vezan na određenom IP/portu
  • virtual host — virtualni host po imenu domene
  • route — pravilo balansiranja
  • cluster — grupa upstream-a s parametrima balansiranja
  • endpoint — adresa instance upstream-a

Svaka od ovih entiteta, plus neki drugi, može se dinamički popuniti; za to se u konfiguraciji navodi adresa servisa s koje će se dobiti konfiguracija. Servis može biti REST ili gRPC, poželjno je koristiti gRPC.

Servisi se nazivaju odgovarajuće: LDS, VHDS, RDS, CDS i EDS. Može se kombinirati statička i dinamička konfiguracija, s ograničenjem da dinamički resurs ne može biti naveden u statičkoj konfiguraciji.

Za većinu zadataka dovoljno je implementirati posljednja tri servisa, koja se nazivaju ADS (Aggregated Discovery Service), za java i go postoji gotova implementacija gRPC dataplanea koja samo zahtijeva popunjavanje objekata iz vlastitog izvora.

Konfiguracija dobiva sljedeći oblik:

envoy.yaml dinamička konfiguracija

dynamic_resources:
  ads_config:
    api_type: GRPC
    grpc_services:
      envoy_grpc:
        cluster_name: xds_clr
  cds_config:
    ads: {}
static_resources:
  listeners:
  - name: listener_0
    address:
      socket_address:
        protocol: TCP
        address: 0.0.0.0
        port_value: 10000
    filter_chains:
    - filters:
      - name: envoy.http_connection_manager
        typed_config:
          "@type": type.googleapis.com/envoy.config.filter.network.http_connection_manager.v2.HttpConnectionManager
          stat_prefix: ingress_http
          rds:
            route_config_name: local_route
            config_source:
              ads: {}
          http_filters:
          - name: envoy.router
  clusters:
  - name: xds_clr
    connect_timeout: 0.25s
    type: LOGICAL_DNS
    dns_lookup_family: V4_ONLY
    lb_policy: ROUND_ROBIN
    load_assignment:
      cluster_name: xds_clr
      endpoints:
      - lb_endpoints:
        - endpoint:
            address:
              socket_address:
                address: xds
                port_value: 6565

Kada se pokrene, prikazuje se sljedeće: envoy s ovom konfiguracijom povezati će se s control-planeom i pokušati zatražiti konfiguraciju RDS, CDS i EDS. Kako se odvija proces interakcije opisano je ovdje.

Ukratko, envoy šalje zahtjev, navodeći tip traženog resursa, verziju i parametre čvora. U odgovoru dobiva resurs i verziju; ako na control-planeu verzija nije promijenjena, ne odgovara.
Postoje 4 opcije interakcije:

  • Jedan gRPC stream za sve vrste resursa, šalje se cjelokupno stanje resursa.
  • Odvojeni streamovi, potpuno stanje.
  • Jedan stream, inkrementalno stanje.
  • Odvojeni streamovi, inkrementalno stanje.

Inkrementalni xDS smanjuje promet između kontrolne ploče i envoy, to je relevantno za velike konfiguracije. Međutim, otežava interakciju, u zahtjevu se šalje popis resursa za odjavu i pretplatu.

U našem primjeru koristi se ADS — jedan stream za RDS, CDS, EDS i neinkrementalni način. Da biste omogućili inkrementalni način, trebate navesti api_type: DELTA_GRPC

Budući da u zahtjevu postoje parametri čvora, možemo na kontrolnu ploču slati različite resurse za različite instance envoy, to je praktično za izgradnju uslužne mreže.

Zagrijavanje

Na envoy pri pokretanju ili pri primanju nove konfiguracije od kontrolne ploče pokreće se proces zagrijavanja resursa. Podijeljen je na zagrijavanje slušatelja i zagrijavanje klastera. Prvi se pokreće prilikom promjena u RDS/LDS, drugi pri CDS/EDS. To znači da, ako se promijene samo uzlazni resursi, slušatelj se ne rekreira.

Tijekom zagrijavanja, očekuju se ovisni resursi od kontrolne ploče tijekom vremenskog ograničenja. Ako istekne vremensko ograničenje, inicijalizacija neće biti uspješna, novi slušatelj neće početi slušati port.
Redoslijed inicijalizacije: EDS, CDS, aktivna provjera zdravlja, RDS, LDS. Kada su aktivne provjere zdravlja uključene, promet će ići na uzlazni resurs samo nakon jedne uspješne provjere zdravlja.

Ako je slušatelj rekreiran, stari prelazi u stanje DRAIN i bit će uklonjen nakon zatvaranja svih veza ili isteka vremenskog ograničenja --drain-time-s, prema zadanim postavkama 10 minuta.

Nastavak slijedi.

Izvor: habr.com

Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere 🔥 Kupite pouzdan hosting za web stranice s DDoS zaštitom, VPS VDS servere | ProHoster