Napomena prev.: Nakon nedavne objave o pull i push metodama u GitOpsu, primijetili smo interes za ovaj model u cjelini, međutim, objava na ovom jeziku gotovo da nema (na Habré jednostavno nema). Stoga ćemo vam rado predstaviti prevod drugog članka — iako je skoro godinu dana star! — od kompanije Weaveworks, čiji je osnivač smislio termin „GitOps“. U tekstu se objašnjava suština pristupa i ključne razlike od već postojećih.
Prije godinu dana objavili smo . Tada smo ispričali kako je tim Weaveworks pokrenuo SaaS koji je u potpunosti zasnovan na Kubernetesu i razvio set preporuka najboljih praksi za implementaciju, upravljanje i nadzor u cloud native okruženju.
Članak je postao popularan. O drugim ljudima se počelo pričati o GitOpsu, a objavljeni su novi alati za , , , , i slično. Na našoj web stranici pojavili su se objave i primjeri korištenja GitOpsa. Ali neki ljudi su i dalje imali pitanja. Kako se model razlikuje od tradicionalne i kontinuirane isporuke ()? Da li je korištenje Kubernetesa obavezno?
Ubrzo smo shvatili da je potrebno novo objašnjenje koje nudi:
- Veliki broj primjera i priča;
- Konkretna definicija GitOpsa;
- Poređenje sa tradicionalnom kontinuiranom isporukom.
U ovom članku pokušali smo obuhvatiti sve ove teme. U njemu ćete pronaći ažurirani uvod u GitOps i njegov pogled sa strane programera i CI/CD. Pretežno se fokusiramo na Kubernetes, iako se model može generalizovati.
Upoznajte: GitOps
Zamislite Alisu. Ona upravlja kompanijom Family Insurance, koja nudi polise za zdravstveno osiguranje, osiguranje automobila, imovine i putničko osiguranje ljudima koji su suviše zaposleni da bi se sami bavili sitnicama ugovora. Njen biznis je počeo kao sporedni projekat dok je Alisa radila u banci kao data scientist. Jednog dana je shvatila da može koristiti napredne računalne algoritme za efikasniju analizu podataka i kreiranje osiguravajućih paketa. Investitori su podržali projekat, i sada njena kompanija zarađuje više od 20 miliona dolara godišnje i brzo raste. Trenutno zapošljava 180 ljudi na raznim pozicijama. U njih spada i tehnološki tim, koji se bavi razvojem, održavanjem sajta, baze podataka i analizom korisničke baze. Tim od 60 ljudi predvodi Bob — tehnički direktor kompanije.
Bobov tim implementira produkcione sisteme u oblaku. Njihove glavne aplikacije rade na GKE, koristeći prednosti Kubernetesa u Google Cloud-u. Pored toga, koriste razne alate za rad sa podacima i analitiku.
Family Insurance nije planirala da koristi kontejnere, ali su se zarazili entuzijazmom oko Dockera. Ubrzo su stručnjaci kompanije otkrili da GKE omogućava lako i nesmetano postavljanje klastera za testiranje novih funkcija. Dodali su Jenkins za CI i Quay za organizaciju registra kontejnera, napisali su skripte za Jenkins koje su slale nove kontejnere i konfiguracije u GKE.
Prošlo je neko vrijeme. Alisa i Bob su bili razočarani performansama odabranog pristupa i njegovim utjecajem na posao. Uvođenje kontejnera nije povećalo performanse onako kako se tim nadao. Ponekad su se implementacije rušile, a nije bilo jasno jesu li za to krive promjene u kodu. Također je bilo teško pratiti promjene u konfiguracijama. Često su morali kreirati novi klaster i premještati aplikacije u njega, jer je to bilo najlakši način da se isprazni nered u kojem se sustav našao. Alisa se bojala da će se situacija pogoršati kako aplikacija bude napredovala (osim toga, razmatrali su novi projekt temeljen na strojnog učenja). Bob je automatizirao veći dio posla i nije razumio zašto je pipeline i dalje nestabilan, loše se skalira i povremeno zahtijeva ručne intervencije?
Zatim su saznali za GitOps. Ovo rješenje se pokazalo upravo onim što im je bilo potrebno za siguran napredak.
Alisa i Bob su već godinama čuli za radne procese temeljene na Gitu, DevOpsu i infrastrukturi kao kod. Jedinstvenost GitOpsa je u tome što donosi niz najboljih praksi - kategoriziranih i normativnih - za implementaciju tih ideja u kontekstu Kubernetes-a. Ova tema , uključujući i .
Kompanija Family Insurance odlučuje uvesti GitOps. Sada kompanija ima automatizirani model operacija, kompatibilan s Kubernetes-om i kombinira brzina sa stabilnost, jer su oni:
- otkrili da je produktivnost tima udvostručena i nitko pritom ne gubi razum;
- prestali sa održavanjem skripti. Umjesto toga, sada se mogu fokusirati na nove funkcije i poboljšati inženjerske metode - na primjer, uvesti kanarinske implementacije i poboljšati testiranje;
- usavršili proces implementacije - sada se rijetko ruši;
- dobili mogućnost vraćanja implementacija nakon djelomičnih kvarova bez ručne intervencije;
- steklioveće povjerenje u sustave isporuke. Alisa i Bob su otkrili da mogu podijeliti tim u grupe koje se bave mikroservisima i rade paralelno;
- mogu unositi od 30 do 50 promjena u projekt svaki dan trudom svake grupe i isprobavati nove tehnike;
- lako privlače nove programere u projekat, koji imaju mogućnost primene ažuriranja na produkciji putem pull requestova već za nekoliko sati;
- lako prolaze reviziju u okviru SOC2 (u skladu sa zahtevima dobavljača usluga za sigurnu upravljanje podacima; više informacija možete pronaći, na primer, — napomena prev.).
Šta se desilo?
GitOps — to su dve stvari:
- Model operacija za Kubernetes i cloud native. Pruža skup najboljih praksi za implementaciju, upravljanje i praćenje klastera i aplikacija pakovanih u kontejnere. Elegantan opis u obliku od :
- Put ka stvaranju okruženja orijentisanog na programere za upravljanje aplikacijama. Primjenjujemo radni tok Git kako za operacije, tako i za razvoj. Imajte na umu da se ne radi samo o Git push, već o organizaciji čitave kolekcije CI/CD alata i UI/UX.
Par reči o Git
Ako niste upoznati sa sistemima kontrole verzija i Git-baziranim radnim procesima, toplo preporučujemo da ih istražite. Na prvi pogled rad sa granama i pull requestovima može izgledati kao crna magija, ali koristi su vredne uloženog truda. Evo za početak.
Kako funkcioniše Kubernetes
U našoj priči, Alisa i Bob su se obratili GitOps-u, nakon što su neko vreme radili sa Kubernetesom. Zaista, GitOps je usko povezan s Kubernetesom — to je model operacija za infrastrukturu i aplikacije zasnovane na Kubernetesu.
Šta Kubernetes nudi korisnicima?
Evo nekoliko osnovnih mogućnosti:
- U modelu Kubernetes, sve se može opisati u deklarativnom obliku.
- Kubernetes API server prihvata takvu deklaraciju kao ulazne podatke, a zatim konstantno pokušava da dovede klaster u stanje opisano u deklaraciji.
- Deklaracije su dovoljne za opisivanje i upravljanje širokim spektrom radnih opterećenja — "aplikacija".
- Kao rezultat toga, promene u aplikaciji i klasteru se dešavaju zbog:
- promena u slikama kontejnera;
- promena u deklarativnoj specifikaciji;
- grešaka u okruženju — na primer, padova kontejnera.
Fenomenalne sposobnosti Kubernetes-a za konvergenciju
Kada administrator unese promene u konfiguraciju, orkestrator Kubernetes će ih primeniti na klaster sve dok njegovo stanje ne bude blizu nove konfiguracije. Ovaj model funkcioniše za bilo koji Kubernetes resurs i može se proširiti pomoću Custom Resource Definitions (CRD). Takođe, Kubernetes deployment-i imaju sledeće sjajne osobine:
- Automatizacija: Kubernetes ažuriranja pružaju mehanizam za automatizaciju procesa primene promena na ispravan i pravovremen način.
- Konvergencija: Kubernetes će nastaviti da pokušava ažuriranja dok ne postigne uspeh.
- Idempotentnost: ponovna primena konvergencije dovodi do istog rezultata.
- Determinističnost: uz dovoljno resursa, stanje ažuriranog klastera zavisi samo od željenog stanja.
Kako funkcioniše GitOps
Naučili smo dovoljno o Kubernetes-u da objasnimo principe rada GitOps-a.
Vratimo se timovima Family Insurance, koji su povezani s mikroservisima. Šta im obično treba raditi? Pogledajte listu ispod (ako neki stavci izgledaju čudno ili nepoznato — molimo vas da sačekate s kritikama i ostanite s nama). Ovo su samo primeri radnih tokova zasnovanih na Jenkins-u. Postoji i mnogo drugih procesa u radu s drugim alatima.
Najvažnije je da vidimo da svako ažuriranje završava izmenama u konfiguracionim datotekama i Git repozitorijumima. Ove promene u Gitu dovode do toga da „GitOps operator“ ažurira klaster:
1. Radni tok: „Jenkins build — master grana».
Lista zadataka:
- Jenkins šalje tagovane slike u Quay;
- Jenkins šalje konfiguraciju i Helm šarte u bucket master skladišta;
- Oblačna funkcija kopira konfiguraciju i šarte iz bucketa master skladišta u Git repozitorijum master;
- GitOps operator ažurira klaster.
2. Jenkins build — release ili hotfix grana:
- Jenkins šalje netagovane slike u Quay;
- Jenkins šalje konfiguraciju i Helm šarte u bucket staging skladišta;
- Oblačna funkcija kopira konfiguraciju i šarte iz bucketa staging skladišta u Git repozitorijum staging;
- GitOps operator ažurira klaster.
3. Jenkins build — develop ili feature grana:
- Jenkins šalje netagovane slike u Quay;
- Jenkins šalje konfiguraciju i Helm šarte u bucket develop skladišta;
- Oblačna funkcija kopira konfiguraciju i šarte iz bucketa develop skladišta u Git repozitorijum develop;
- GitOps operator ažurira klaster.
4. Dodavanje novog klijenta:
- Menadžer ili administrator (LCM/ops) pokreće Gradle za inicijalno raspoređivanje i podešavanje mrežnih balansirajućih uređaja (NLB);
- LCM/ops potvrđuje novu konfiguraciju za pripremu deployment-a za ažuriranja;
- GitOps operator ažurira klaster.
Kratak opis GitOps-a
- Opišite željeno stanje cijelog sistema koristeći deklarativne specifikacije za svako okruženje (u našoj priči Bobov tim definiše kompletnu konfiguraciju sistema u Git-u).
- Git repozitorij je jedini izvor istine kada je u pitanju željeno stanje cijelog sistema.
- Sve promjene željenog stanja se ostvaruju putem commit-ova u Git-u.
- Sve željene karakteristike klastera su također vidljive u samom klasteru. Tako možemo odrediti da li se željeno i opaženo stanje poklapaju (konvergiraju, converge) ili se razlikuju (divergiraju, diverge) željeno i opaženo stanje.
- Ako se željeno i opaženo stanje razlikuju, tada:
- Postoji mehanizam konvergencije koji će prije ili kasnije automatski sinkronizovati ciljno i opaženo stanje. Unutar klastera tim se bavi Kubernetes.
- Proces se pokreće odmah uz obavještenje "change committed".
- Nakon nekog podešavanog vremenskog intervala može biti poslato obavještenje "diff" ako se stanja razlikuju.
- Tako svi commit-ovi u Git-u izazivaju provjerljive i idempotentne ažuriranja u klasteru.
- Rollback je konvergencija na prethodno željeno stanje.
- Konvergencija je konačna. O njenom ostvarivanju svjedoče:
- Izostanak obavještenja "diff" tokom određenog vremenskog intervala.
- Obavještenje "converged" (na primjer, webhook, Git writeback događaj).
Šta predstavlja divergenciju?
Ponovo naglašavamo: sva željena svojstva klastera moraju biti vidljiva u samom klasteru..
Nekoliko primjera divergencije:
- Promjena u konfiguracionom fajlu usled spajanja grana u Git-u.
- Promjena u konfiguracionom fajlu usled commit-a u Git-u, napravljenog putem GUI klijenta.
- Više promjena u željenom stanju usled PR-a u Git-u, praćeno izradom kontejnerskog imidža i promjenama u konfiguraciji.
- Promjena stanja klastera usled greške, konflikta resursa, što dovodi do "lošeg ponašanja", ili jednostavno slučajnog odstupanja od originalnog stanja.
Šta predstavlja mehanizam konvergencije?
Nekoliko primjera:
- Za kontejnere i klastere mehanizam konvergencije pruža Kubernetes.
- Isti mehanizam se može koristiti za upravljanje aplikacijama i konstrukcijama zasnovanim na Kubernetesu (na primjer, Istio i Kubeflow).
- Mehanizam za upravljanje radnom interakcijom između Kubernetes-a, repozitorija slika i Gita pruža , koji je deo .
- Za osnovne mašine mehanizam konvergencije mora biti deklarativan i autonoman. Na osnovu iskustva možemo reći da najbliže ovom opisu, ali ipak zahteva ljudsku kontrolu. U tom smislu, GitOps proširuje tradiciju Infrastructure as Code.
GitOps kombinuje Git sa izvanrednim mehanizmom konvergencije Kubernetes-a, nudeći model za eksploataciju.
GitOps nam omogućava da kažemo: automatizaciji i kontroli podliježu samo oni sistemi koje je moguće opisati i posmatrati.
GitOps je namenjen celokupnom cloud native-stack-u (na primer, Terraform itd.)
GitOps nije samo Kubernetes. Želimo da ceo sistem bude upravljan deklarativno i koristi konvergenciju. Pod celim sistemom podrazumevamo skup sredina koje rade sa Kubernetes-om — na primer, "dev cluster 1", "proizvodnja" itd. Svaka sredina uključuje mašine, klastere, aplikacije, kao i interfejse za spoljne servise koji omogućavaju podatke, monitoring itd.
Obratite pažnju koliko je Terraform važan za problem bootstrapping-a u ovom slučaju. Kubernetes mora biti negde postavljen, a korišćenje Terraforma znači da možemo primeniti iste radne tokove GitOps-a za kreiranje upravljačkog sloja koji leži na osnovu Kubernetes-a i aplikacija. Ovo je korisna najbolja praksa.
Velika pažnja se posvećuje primeni koncepata GitOps-a na slojeve iznad Kubernetes-a. Do sada postoje GitOps-rešenja za Istio, Helm, Ksonnet, OpenFaaS i Kubeflow, kao i, na primer, za Pulumi, koji kreiraju sloj za razvoj aplikacija za cloud native.
Kubernetes CI/CD: poređenje GitOps-a s drugim pristupima
Kao što je rečeno, GitOps je dve stvari:
- Model eksploatacije za Kubernetes i cloud native, kao što je opisano gore.
- Put ka organizaciji orijentisanoj na programere за upravljanje aplikacijama.
Za mnoge, GitOps je pre svega radni tok zasnovan na Git push-evima. I mi ga volimo. Ali to nije sve: hajde da sada pogledamo CI/CD pipeline-ove.
GitOps omogućava neprekidno postavljanje (CD) pod Kubernetes-om
GitOps nudi mehanizam neprekidnog postavljanja koji eliminiše potrebu za posebnim "sistemima za upravljanje postavljanjem". Sav posao obavlja Kubernetes.
- Ažuriranje aplikacije zahteva ažuriranje u Gitu. Ovo je transakcijsko ažuriranje do željenog stanja. "Implementacija" se zatim vrši unutar klastera pomoću Kubernetesa na osnovu ažuriranog opisa.
- Zbog specifičnosti rada Kubernetesa, ova ažuriranja su konvergentna. To obezbeđuje mehanizam za kontinuiranu implementaciju, gde su sva ažuriranja atomska.
- Napomena: nudi GitOps operator, koji integriše Git i Kubernetes i omogućava izvođenje CD-a usklađujući željeno i trenutno stanje klastera.
Bez kubectl i skripti
Treba izbegavati korišćenje Kubectl za ažuriranje klastera, a posebno skripti za grupisanje Kubectl komandi. Umesto toga, korisnik može ažurirati svoj Kubernetes klaster putem GitOps pipelina.
Prednosti uključuju:
- Tačnost. Grupa ažuriranja može biti primenjena, konvergirana i konačno validirana, što nas približava cilju atomske implementacije. Nasuprot tome, korišćenje skripti ne pruža nikakve garancije konvergencije (više o ovome u nastavku).
- Sigurnost. Kelsey Hightower: "Ograničite pristup Kubernetes klasteru alatima za automatizaciju i administratorima čija je dužnost da ga debaguju ili održavaju u funkcionalnom stanju." Poglejte takođe o bezbednosti i usklađenosti sa tehničkim uslovima, kao i kroz krađu kredencijala iz nepažljivo napisanog Jenkins skripta.
- Korisničko iskustvo. Kubectl otkriva mehaniku objektnog modela Kubernetesa, koja je veoma složena. Idealno, korisnici bi trebali da interaguju sa sistemom na višem nivou apstrakcije. Ovde ponovo citiram Kelsey i preporučujem pregled .
Razlika između CI i CD
GitOps unapređuje postojeće CI/CD modele.
Savremeni CI server je alat za orkestraciju. Konkretno, to je alat za orkestraciju CI pipelina. Oni uključuju build, testiranje, spajanje na trunk itd. CI serveri automatizuju upravljanje složenim višestepenim pipeline-ima. Uobičajeni mamac je da se napravi skript za seriju ažuriranja Kubernetesa i izvrši ga kao deo pipeline-a za push promena u klaster. Zaista, mnogi stručnjaci to rade. Međutim, to nije optimalno, i evo zašto.
CI se treba koristiti za ažuriranje trunk-a, a Kubernetes klaster treba da se menja na osnovu tih ažuriranja kako bi interno upravljao CD-om. Ovo nazivamo , za razliku od CI push-modela. CD je deo runtime-orchestracije..
Zašto CI serveri ne bi trebali vršiti CD kroz direktne ažuriranja u Kubernetes
Ne koristite CI server za orkestraciju direktnih ažuriranja u Kubernetes kao skup CI zadataka. To je anti-uzorak o kojem smo pisali u našem blogu.
Vratimo se na Alisu i Boba.
Sa kakvim se problemima susreću? CI server Boba primenjuje izmene na klasteru, ali ako u tom procesu zakaže, Bob neće znati u kojem stanju se nalazi (ili bi trebao biti) klaster i kako da ga popravi. Isto važi i u slučaju uspeha.
Pretpostavimo da je Bobov tim izgradio novu sliku i zatim ju je zakrpio u svojim deployment-ima kako bi razvio sliku (sve to iz CI pipeline-a).
Ako je slika normalno izgrađena, ali pipeline zakaže, timu će biti potrebno da istraži:
- Da li je ažuriranje razvedeno?
- Pokrećemo li novu verziju? Hoće li to izazvati nepotrebne sporedne efekte — sa mogućnošću dobijanja dve verzije iste nepromenjene slike?
- Treba li da sačekamo sledeće ažuriranje pre nego što pokrenemo verziju?
- Šta tačno nije u redu? Koje korake treba ponoviti (i koji od njih se mogu bezbedno ponavljati)?
Organizacija radnog toka zasnovanog na Gitu ne garantuje da će se Bobov tim suočiti sa ovim problemima. I dalje mogu napraviti grešku prilikom push-a commit-a, sa tagom ili bilo kojim drugim parametrom; međutim, ovaj pristup je bliži eksplicitnom sve-ili-ništa.
Ukratko, evo zašto CI serveri ne bi trebali raditi CD:
- Skripte za ažuriranje nisu uvek deterministične; lako se mogu napraviti greške.
- CI serveri se ne konvergiraju u deklarativni model klastera.
- Teško je garantovati idempotentnost. Korisnici moraju razumeti duboku semantiku sistema.
- Teže je izvršiti oporavak nakon delimičnog kvara.
Napomena o Helm-u: ako želite koristiti Helm, preporučujemo da ga kombinujete sa GitOps operatorom, kao što je . To će pomoći da obezbedi konvergenciju. Sam po sebi, Helm nije ni determinističan ni atomaran.
GitOps kao najbolji način za ostvarivanje Continuous Delivery za Kubernetes.
Tim Ali i Boba implementira GitOps i otkriva da je mnogo lakše raditi sa softverskim proizvodima te održavati visoku efikasnost i stabilnost. Završimo ovaj članak ilustracijama koje prikazuju kako izgleda njihov novi pristup. Imajte na umu da se uglavnom radi o aplikacijama i servisima, no GitOps se može koristiti za upravljanje cijelom platformom.
Model operativnog rada za Kubernetes
Pogledajte sljedeći dijagram. On predstavlja Git i skladište slika kontejnera kao zajedničke resurse za dva orkestrirana ciklusa života:
- Pipelines za kontinuiranu integraciju, koji čita i zapisuje datoteke u Git i može ažurirati skladište kontejnerskih slika.
- Runtime GitOps pipeline, koji kombinuje implementaciju sa upravljanjem i nadgledanjem. On čita i zapisuje datoteke u Git i može učitavati slike kontejnera.
Koje su glavne lekcije?
- Razdvaja problematiku: Imajte na umu da oba pipeline-a mogu razmjenjivati podatke samo ažuriranjem Git-a ili skladišta slika. Drugim riječima, postoji vatrozid između CI i runtime okruženja. Nazivamo ga 'vatrozidom nepromjenjivosti' (immutability firewall), jer sva ažuriranja skladišta stvaraju nove verzije. Za dodatne informacije na ovu temu pogledajte slajdove 72-87 .
- Može se koristiti bilo koji CI i Git server: GitOps funkcioniše sa bilo kojim komponentama. Možete nastaviti koristiti svoje omiljene CI i Git servere, skladišta slika i skupove testova. Gotovo svi ostali alati za kontinuiranu isporuku na tržištu zahtijevaju vlastiti CI/Git server ili skladište slika. To može postati ograničavajući faktor u razvoju cloud native. U slučaju GitOps-a možete koristiti poznate alate.
- Događaji kao alat integracije: Kada se podaci u Gitu ažuriraju, Weave Flux (ili Weave Cloud operator) obavještava o tome runtime. Svaki put kada Kubernetes prihvati set izmjena, Git se ažurira. To osigurava jednostavan model integracije za organizaciju radnih tokova za GitOps, kao što je prikazano ispod.
Zaključak
GitOps pruža značajne garancije ažuriranja koje su potrebne svakom modernom alatu CI/CD:
- automacija;
- konvergencija;
- idempotentnost;
- determinističnost.
Ovo je važno jer nudi model operacija za programere u oblasti cloud native.
- Tradicionalni alati za upravljanje i nadgledanje sistema povezani su s operativnim timovima koji djeluju unutar runbook-a. (set rutinskih procedura i operacija — pr. prev.), vezanog za određeno implementaciju.
- U upravljanju cloud native sistemima, alati za nadgledanje su najbolji način za ocjenu rezultata implementacija kako bi tim programera mogao brzo reagovati.
Zamislite mnogo klastera raspršenih po različitim oblacima i mnoštvo servisa sa svojim timovima i planovima implementacije. GitOps nudi model upravljanja koji je otporan na skale za upravljanje svim tim bogatstvom.
P.S. od prevodioca
Takođe pročitajte na našem blogu:
- «»;
- «»;
- «».
Samo registrovani korisnici mogu učestvovati u anketi. , molim vas.
Da li ste znali za GitOps pre nego što su se pojavila ova dva prevoda na Habr?
Da, sve sam znao(la)
Samo površno
Ne
Glasalo je 35 korisnika. Uzdržalo se 10 korisnika.
Izvor: habr.com
