Sveiki visiem. ZemÄk ir stenogramma .
ā dažÄdu sistÄmu un pakalpojumu uzraudzÄ«bas sistÄma, ar kuras palÄ«dzÄ«bu sistÄmu administratori var apkopot informÄciju par aktuÄlajiem sistÄmu parametriem un iestatÄ«t brÄ«dinÄjumus, lai saÅemtu paziÅojumus par novirzÄm sistÄmu darbÄ«bÄ.
ZiÅojumÄ bÅ«s iekļauts salÄ«dzinÄjums Šø ā Prometheus metrikas ilgtermiÅa glabÄÅ”anas projekti.
Vispirms es jums pastÄstÄ«Å”u par Prometeju. Å Ä« ir uzraudzÄ«bas sistÄma, kas apkopo metriku no norÄdÄ«tajiem mÄrÄ·iem un saglabÄ tos vietÄjÄ krÄtuvÄ. Prometheus var ierakstÄ«t metriku attÄlajÄ krÄtuvÄ un var Ä£enerÄt brÄ«dinÄjumus un ierakstÄ«Å”anas noteikumus.
Prometheus ierobežojumi:
- Tam nav globÄla vaicÄjuma skata. Tas ir tad, kad jums ir vairÄki neatkarÄ«gi prometeja gadÄ«jumi. ViÅi apkopo metriku. Un jÅ«s vÄlaties veikt vaicÄjumu papildus visiem Å”iem rÄdÄ«tÄjiem, kas savÄkti no dažÄdiem Prometheus gadÄ«jumiem. Prometejs to nepieļauj.
- Izmantojot Prometheus, veiktspÄja ir ierobežota tikai vienam serverim. Prometheus netiek automÄtiski mÄrogots vairÄkos serveros. Varat tikai manuÄli sadalÄ«t savus mÄrÄ·us starp vairÄkiem Prometheus.
- Prometheus metrikas apjoms ir ierobežots lÄ«dz vienam serverim tÄ paÅ”a iemesla dÄļ, ka to nevar automÄtiski mÄrogot vairÄkos serveros.
- Prometheus nav tik vienkÄrÅ”i organizÄt datu droŔību.
Å o problÄmu/problÄmu risinÄjumi?
RisinÄjumi ir:
Visi Å”ie risinÄjumi ir paredzÄti Prometheus savÄkto datu attÄlinÄtai glabÄÅ”anai. Tie dažÄdos veidos atrisina iepriekÅ”ÄjÄ slaida attÄlÄs krÄtuves problÄmu. Å ajÄ prezentÄcijÄ es runÄÅ”u tikai par pirmajiem diviem risinÄjumiem: Šø .
Pirmo reizi informÄcija par parÄdÄ«jÄs . Tur ir aprakstÄ«ta arhitektÅ«ra un kÄ tas darbojas.
Thanos Åem datus, ko Prometheus saglabÄja vietÄjÄ diskÄ, un kopÄ tos uz S3 vai uz citu objektu krÄtuvi.
TÄdÄjÄdi Thanos nodroÅ”ina globÄlu vaicÄjumu skatu. Objektu krÄtuvÄ saglabÄtos datus var pieprasÄ«t no vairÄkiem Prometheus gadÄ«jumiem.
Thanos atbalsta PromQL un .
Thanos izmanto Prometheus kodu, lai saglabÄtu datus.
Thanos izstrÄdÄ tie paÅ”i izstrÄdÄtÄji, kas Prometheus.
uz . Å eit , kur mÄs pirmo reizi runÄjÄm .
VictoriaMetrics saÅem datus no vairÄkiem prometejiem Prometheus atbalstÄ«tais protokols.
VictoriaMetrics nodroÅ”ina globÄlu vaicÄjumu skatu, jo vairÄkas Prometheus instances var rakstÄ«t datus vienÄ VictoriaMetrics. AttiecÄ«gi jÅ«s varat veikt vaicÄjumus par visiem Å”iem datiem.
VictoriaMetrics atbalsta arÄ«, piemÄram, Thanos, PromQL un Prometheus vaicÄjumu API.
AtŔķirÄ«bÄ no Thanos, VictoriaMetrics pirmkods ir rakstÄ«ts no nulles un ir optimizÄts Ätrumam un resursu patÄriÅam.
VictoriaMetrics, atŔķirÄ«bÄ no Thanos, mÄrogojas gan vertikÄli, gan horizontÄli. Äst , kas mÄrogojas vertikÄli. Varat sÄkt ar vienu procesoru un 1 GB atmiÅu un pakÄpeniski palielinÄties lÄ«dz simtiem procesoru un 1 TB atmiÅas. VictoriaMetrics var izmantot visus Å”os resursus. TÄ veiktspÄja palielinÄsies aptuveni 100 reizes, salÄ«dzinot ar 1 kodola sistÄmu.
Thanos vÄsture sÄkÄs 2017. gada novembrÄ«, kad parÄdÄ«jÄs pirmÄ publiskÄ apÅemÅ”anÄs. Pirms tam Thanos tika izstrÄdÄts iekÅ”Äji .
2019. gada jÅ«nijÄ tika izdota ievÄrojama versija 0.5.0, kurÄ protokols. ViÅÅ” tika noÅemts no Thanos, jo viÅÅ” nedarbojÄs labi. Bieži vien Thanos klasteris nedarbojÄs pareizi, mezgli tam nepareizi pieslÄdzÄs tenku protokola dÄļ. TÄpÄc mÄs nolÄmÄm viÅu izÅemt no turienes. ManuprÄt, tas ir pareizs lÄmums.
TajÄ paÅ”Ä 2019. gada jÅ«nijÄ viÅi nosÅ«tÄ«ja pieteikuma numuru Š² .
Un pÄc pÄris mÄneÅ”iem Tanoss tika uzÅemts , kas ietver Prometheus, Kubernetes un citus populÄrus projektus.
2018. gada janvÄrÄ« sÄkÄs VictoriaMetrics izstrÄde.
2018. gada septembrÄ« es pirmo reizi publiski pieminÄju VictoriaMetrics.
2018. gada decembrÄ« tika publicÄta viena mezgla versija.
MaijÄ 2019 gan viena mezgla, gan klastera versiju avoti.
2019. gada jÅ«nijÄ, tÄpat kÄ Thanos, mÄs iesniedzÄm pieteikumu CNCF fondam ar numuru . MÄs pieteicÄmies vienu dienu pirms Thanos pieteikÅ”anÄs.
Bet diemžÄl mÄs joprojÄm neesam tur uzÅemti. NepiecieÅ”ama sabiedrÄ«bas palÄ«dzÄ«ba.
ApskatÄ«sim svarÄ«gÄkos slaidus, kas parÄda Thanos un VictoriaMetrics arhitektÅ«ru.
SÄksim ar Thanos. DzeltenÄs sastÄvdaļas ir Prometheus sastÄvdaļas. Viss pÄrÄjais ir Thanos komponenti. SÄksim ar vissvarÄ«gÄko komponentu. Thanos Sidecar ir komponents, kas tiek uzstÄdÄ«ts blakus katram Prometheus. Tas ielÄdÄ Prometheus datus no vietÄjÄs krÄtuves S3 vai citÄ objektu krÄtuvÄ.
Ir arÄ« komponents ar nosaukumu Thanos Store Gateway, kas var nolasÄ«t Å”os datus no objektu krÄtuves pÄc ienÄkoÅ”ajiem pieprasÄ«jumiem no Thanos Query. Thanos Query ievieÅ” PromQL un Prometheus API. Tas ir, no Ärpuses tas izskatÄs kÄ Prometejs. SaÅem PromQL vaicÄjumus, nosÅ«ta tos uz Thanos Store Gateway, Thanos Store Gateway izgÅ«st nepiecieÅ”amos datus no Object Storage, nosÅ«ta tos atpakaļ.
TaÄu mÄs glabÄjam datus objektu krÄtuvÄ bez pÄdÄjÄm divÄm stundÄm Thanos Sidecar ievieÅ”anas iezÄ«mes dÄļ, kas nevar augÅ”upielÄdÄt pÄdÄjÄs divas stundas objektÄ Object Storage S3, jo Prometheus vÄl nav izveidojis failus Ŕīm divÄm stundÄm vietÄjÄ krÄtuvÄ.
KÄ jÅ«s nolÄmÄt to apiet? Thanos Query papildus pieprasÄ«jumiem Thanos Store Gateway nosÅ«ta paralÄlus pieprasÄ«jumus uz katru Thanos blakusvÄÄ£i, kas atrodas blakus Prometheus.
SavukÄrt Thanos Sidecar nosÅ«ta pieprasÄ«jumus tÄlÄk uz Prometheus un izgÅ«st datus par pÄdÄjÄm divÄm stundÄm.
Papildus Å”iem komponentiem ir arÄ« papildu komponents, bez kura Thanos nedarbosies labi. Tas ir Thanos Compact, kas ir atbildÄ«gs par nelielu objektu krÄtuves failu sapludinÄÅ”anu lielÄkos failos, kurus Å”eit augÅ”upielÄdÄja Thanos Sidecars. Thanos Sidecar augÅ”upielÄdÄ datu failus tur divu stundu laikÄ. Å ie faili, ja tie nav sapludinÄti lielÄkos failos, tad to skaits var pieaugt ļoti bÅ«tiski. Jo vairÄk Å”Ädu failu, jo vairÄk atmiÅas ir nepiecieÅ”ams Thanos Store Gateway, jo vairÄk resursu ir nepiecieÅ”ams, lai pÄrsÅ«tÄ«tu datus tÄ«klÄ un metadatus. Thanos Store Gateway kļūst neefektÄ«va. TÄpÄc ir nepiecieÅ”ams palaist Thanos Compact, kas apvieno mazus failus lielÄkos, lai Å”Ädu failu bÅ«tu mazÄk un lai samazinÄtu Thanos Store Gateway pieskaitÄmÄs izmaksas.
Ir arÄ« tÄds komponents kÄ Thanos Ruler. Tas izpilda Prometheus brÄ«dinÄjuma noteikumus un var novÄrtÄt Prometheus ierakstÄ«Å”anas noteikumus, lai rakstÄ«tu datus atpakaļ uz objektu krÄtuvi. Bet Å”o komponentu nav ieteicams lietot, jo... ViÅÅ” .
Å Ä« ir vienkÄrÅ”Ä Thanos shÄma.
Tagad salÄ«dzinÄsim to ar VictoriaMetrics shÄmu.
VictoriaMetrics ir 2 versijas: viena mezgla un klastera versija. Viens mezgls darbojas vienÄ datorÄ. Vienam mezglam nav Å”o komponentu, tikai viens binÄrs. Å is binÄrs slaidÄ izskatÄs kÄ Å”is kvadrÄts. Viss, kas atrodas kvadrÄtÄ, ir viena mezgla versijas binÄrÄ faila saturs. Jums par viÅu nav jÄzina. JÅ«s vienkÄrÅ”i palaižat binÄro failu, un viss darbojas mÅ«su labÄ.
Klastera versija ir sarežģītÄka. TajÄ ir trÄ«s dažÄdi komponenti: vmselect, vminsert un vmstorage. No viÅu vÄrda bÅ«tu skaidrs, ko katrs no viÅiem dara. Komponents Insert pieÅem datus dažÄdos formÄtos: no Prometheus attÄlÄs rakstÄ«Å”anas API, Influx lÄ«nijas protokola, Graphite protokola un OpenTSDB protokola. Komponents Insert tos pieÅem, parsÄ un izplata starp esoÅ”ajiem krÄtuves komponentiem, kur dati jau ir glabÄti. Komponents Select, savukÄrt, pieÅem PromQL vaicÄjumus. ViÅÅ” Ä«steno , kÄ arÄ« Prometheus vaicÄjumu API, un to var izmantot kÄ Prometheus aizstÄjÄju programmÄ Grafana vai citos Prometheus API klientiem. Select pieÅem promql pieprasÄ«jumu, parsÄ to, nolasa Ŕī pieprasÄ«juma izpildei nepiecieÅ”amos datus no krÄtuves mezgliem, apstrÄdÄ Å”os datus un atgriež atbildi.
SalÄ«dzinÄsim Thanos un VictoriaMetrics instalÄÅ”anas sarežģītÄ«bu.
SÄksim ar Thanos. Pirms sÄkat strÄdÄt ar Thanos, objektÄ Object Storage ir jÄizveido segments, piemÄram, S3 vai GCS, lai Thanos Sidecar varÄtu tajÄ ierakstÄ«t datus.
PÄc tam katram Prometheus ir jÄinstalÄ Thanos Sidecar. Pirms tam jums jÄatceras Prometheus atspÄjot datu blÄ«vÄÅ”anu. Datu blÄ«vÄÅ”ana periodiski saspiež datus vietÄjÄ Prometheus krÄtuvÄ, lai samazinÄtu resursu patÄriÅu.
InstalÄjot Thanos Sidecar savÄ Prometheus, Ŕī datu blÄ«vÄÅ”ana ir jÄatspÄjo, jo Thanos Sidecar nedarbojas pareizi, ja ir iespÄjota datu blÄ«vÄÅ”ana. Tas nozÄ«mÄ, ka jÅ«su Prometheus sÄk saglabÄt datus divu stundu blokos un pÄrtrauc Å”o bloku sapludinÄÅ”anu lielÄkos blokos. AttiecÄ«gi, ja veicat vaicÄjumus, kas pÄrsniedz pÄdÄjo divu stundu ilgumu, tie nedarbosies tik efektÄ«vi, kÄ varÄtu darboties, ja bÅ«tu iespÄjota datu blÄ«vÄÅ”ana.
TÄpÄc Thanos iesaka samazinÄt datu saglabÄÅ”anas laiku vietÄjÄ krÄtuvÄ lÄ«dz 6-8 stundÄm, lai samazinÄtu liela skaita mazu bloku pieskaitÄmÄs izmaksas.
Kad esat instalÄjis Thanos Sidecar, jums ir jÄinstalÄ divi komponenti katram objektu krÄtuves kausam. Tie ir Thanos Compactor un Thanos Store Gateway.
PÄc tam jums ir jÄinstalÄ Thanos Query un jÄkonfigurÄ tas, lai tas varÄtu izveidot savienojumu ar visiem jums esoÅ”ajiem Thanos Store Gateways, kÄ arÄ« var izveidot savienojumu ar visiem Thanos blakusvÄÄ£iem.
Å eit var bÅ«t neliela problÄma.
Jums ir jÄkonfigurÄ uzticams un droÅ”s savienojums no Thanos Query ar Å”iem komponentiem. Un, ja jÅ«su Prometheus atrodas dažÄdos datu centros vai dažÄdos VPC, tad savienojumi ar tiem no Ärpuses ir aizliegti. Bet, lai Thanos Query darbotos, jums kaut kÄ jÄkonfigurÄ savienojums, un jums ir jÄizdomÄ veids.
Ja jums ir daudz Å”Ädu datu centru, tad attiecÄ«gi samazinÄs visas sistÄmas uzticamÄ«ba. TÄ kÄ Thanos Query pastÄvÄ«gi jÄuztur savienojumi ar visiem Thanos blakusvÄÄ£iem, kas atrodas dažÄdos datu centros. Katram ienÄkoÅ”ajam pieprasÄ«jumam tas novirzÄ«s pieprasÄ«jumus uz visiem Thanos blakusvÄÄ£iem. Ja savienojums tiek pÄrtraukts, jÅ«s vai nu saÅemsit nepilnÄ«gu datu kopu, vai arÄ« saÅemsit atbildi ākopa nedarbojasā.
VictoriaMetrics viss ir nedaudz vienkÄrÅ”Äk. Viena mezgla versijai jums vienkÄrÅ”i jÄpalaiž viens binÄrs, un viss darbojas.
Klastera versijÄ ir pietiekami palaist visus trÄ«s iepriekÅ” minÄtos komponentu veidus jebkurÄ jums nepiecieÅ”amajÄ vai izmantotajÄ daudzumÄ lai automatizÄtu komponentu palaiÅ”anu programmÄ Kubernetes. PlÄnojam uztaisÄ«t arÄ« Kubernetes operatoru. StÅ«res diagramma neaptver dažus gadÄ«jumus un ļauj ieÅ”aut sev kÄjÄ. PiemÄram, tas ļauj samazinÄt krÄtuves mezglu skaitu, kas novedÄ«s pie datu zuduma.
Kad esat palaidis vienu binÄro vai kopu versiju, jums vienkÄrÅ”i jÄpievieno Prometheus konfigurÄcijai lai tas sÄktu rakstÄ«t datus paralÄli vietÄjai krÄtuvei un attÄlajai krÄtuvei. KÄ redzat, Å”ai konfigurÄcijai vajadzÄtu darboties daudz uzticamÄk, salÄ«dzinot ar Thanos konfigurÄciju. Mums nav jÄuztur savienojums no VictoriaMetrics ar visiem Prometheus, jo Prometheus paÅ”i savienojas ar VictoriaMetrics un pÄrsÅ«ta datus.
ApsvÄrsim Thanos un VictoriaMetrics atbalstu.
Thanos ir jÄuzrauga Sidecar, lai pÄrliecinÄtos, ka tie nepÄrtrauc datu ielÄdi objektu krÄtuvÄ. ViÅi var apturÄt Å”o datu lejupielÄdi lejupielÄdes kļūdu dÄļ, piemÄram, jÅ«su tÄ«kla savienojums ar objektu krÄtuvi ir Ä«slaicÄ«gi pÄrtraukts vai objektu krÄtuve Ä«slaicÄ«gi nav pieejama. Thanos Sidecar to pamanÄ«s Å”obrÄ«d, ziÅos par kļūdu, var avarÄt un pÄc tam pÄrstÄt darboties. Ja jÅ«s to neuzraugÄt, jÅ«s pÄrtrauksit datu pÄrsÅ«tÄ«Å”anu uz objektu krÄtuvi. Ja saglabÄÅ”anas laiks paiet (ieteicams 6ā8 stundas), jÅ«s zaudÄsiet datus, kas nenonÄca objektu krÄtuvÄ.
Thanos blÄ«vÄtÄji var pÄrstÄt darboties, jo . BlÄ«vÄtÄji Åem datus no objektu krÄtuves un apvieno tos lielÄkos datu gabalos. TÄ kÄ blÄ«vÄtÄji nav sinhronizÄti ar Sidecars, var notikt sekojoÅ”ais: Sidecar vÄl nav paspÄjis pabeigt bloku, Compactor nolemj, ka Å”is bloks ir pilnÄ«bÄ uzrakstÄ«ts. BlÄ«vÄtÄjs sÄk to lasÄ«t. Tas neizlasa bloku pilnÄ«bÄ un pÄrstÄj darboties. SkatÄ«t sÄ«kÄku informÄciju .
Veikala vÄrteja var atgriezt nekonsekventus datus, jo notiek sacÄ«kstes starp blÄ«vÄtÄju un blakusvÄÄ£iem. Tas pats notiek Å”eit, jo Store Gateway nekÄdÄ veidÄ nav sinhronizÄts ar blÄ«vÄtÄjiem un blakusvÄÄ£iem. AttiecÄ«gi sacensÄ«bu apstÄkļi var rasties, ja veikala vÄrteja neredz daļu datu vai redz nevajadzÄ«gus datus.
VaicÄjuma komponents Thanos pÄc noklusÄjuma atgriež daļÄju rezultÄtu, ja daži blakusvÄÄ£i vai veikala vÄrtejas paÅ”laik nav pieejami. JÅ«s saÅemsiet daļu datu, un jÅ«s pat nezinÄsit, ka nesaÅÄmÄt visus datus. Å Ädi tas darbojas pÄc noklusÄjuma. LÄ«dzÄ«gÄ situÄcijÄ VictoriaMetrics atgriež atzÄ«mÄtos datus kÄ daļÄjus.
AtŔķirÄ«bÄ no Thanos, VictoriaMetrics reti zaudÄ datus. Pat ja savienojums no Prometheus uz VictoriaMetrics tiek pÄrtraukts, tÄ nav problÄma, jo Prometheus turpina ierakstÄ«t ienÄkoÅ”os jaunus datus žurnÄlÄ Write Ahead, kura lielums ir 2 stundas. Ja divu stundu laikÄ atjaunosit savienojumu ar VictoriaMetrics, jÅ«su dati netiks zaudÄti. Prometejs .
AtŔķirÄ«bÄ no Thanos, kas ieraksta datus objekta krÄtuvÄ tikai pÄc divÄm stundÄm, Prometheus automÄtiski replicÄ datus, izmantojot attÄlÄs rakstÄ«Å”anas protokolu, attÄlajÄ krÄtuvÄ, piemÄram, VictoriaMetrics. JÅ«s nebaidÄties zaudÄt vietÄjo krÄtuvi pakalpojumÄ Prometheus. Ja viÅÅ” pÄkÅ”Åi zaudÄja vietÄjo krÄtuvi, tad sliktÄkajÄ gadÄ«jumÄ jÅ«s zaudÄsit pÄdÄjÄs datu sekundes, kuras nebija laika ierakstÄ«t attÄlajÄ krÄtuvÄ.
AtŔķirÄ«bÄ no Thanos, Kubernetes automÄtiski pÄrvalda kopu. AtŔķirÄ«bÄ no VictoriaMetrics klastera komponentiem ir grÅ«ti ievietot visus Thanos komponentus vienÄ Kubernetes klasterÄ«.
VictoriaMetrics ir ļoti vienkÄrÅ”s jaunÄs versijas atjauninÄjums. VienkÄrÅ”i apturiet VictoriaMetrics, atjauniniet binÄros failus un palaidiet to. Apturot, izmantojot SIGINT signÄlu, visi VictoriaMetrics binÄrie faili veic graciozu izslÄgÅ”anu. ViÅi pareizi saglabÄ nepiecieÅ”amos datus, pareizi aizver ienÄkoÅ”os savienojumus, lai neko nezaudÄtu. TÄtad jauninÄÅ”anas laikÄ jÅ«s neko nezaudÄsit.
VictoriaMetrics ļauj ļoti viegli paplaÅ”inÄt klasteru. VienkÄrÅ”i pievienojiet nepiecieÅ”amÄs sastÄvdaļas un turpiniet strÄdÄt.
Par Thanos un VictoriaMetrics kļūmÄm.
Thanosam ir Å”Ädas nepilnÄ«bas. Prometejam ir jÄsaglabÄ dati par pÄdÄjÄm divÄm stundÄm. Ja tie pazudÄ«s, jÅ«s tos pilnÄ«bÄ pazaudÄsit, jo viÅiem vÄl nav bijis laika rakstÄ«t uz objektu krÄtuvi, piemÄram, S3.
Komponentam Store Gateway un kompaktoram var bÅ«t nepiecieÅ”ams daudz atmiÅas, lai strÄdÄtu ar lielu objektu krÄtuvi, ja tajÄ ir glabÄti daudz mazu failu. Jo lielÄks failu skaits un lielums, jo vairÄk Store Gateway un kompaktora RAM ir nepiecieÅ”ams metainformÄcijas glabÄÅ”anai. Thanosam ir daudz problÄmu saistÄ«bÄ ar to .
Thanos tiek reklamÄts uz nenoteiktu laiku, Åemot vÄrÄ jÅ«su rÄ«cÄ«bÄ esoÅ”o Prometeja daudzumu. TÄ patiesÄ«bÄ nav taisnÄ«ba. TÄ kÄ visi pieprasÄ«jumi tiek nosÅ«tÄ«ti caur vaicÄjuma komponentu, kuram vienlaikus jÄaptauj visi veikala vÄrtejas komponenti un visi blakusvÄÄ£a komponenti, izvelciet datus no turienes un pÄc tam tos iepriekÅ” apstrÄdÄjiet. AcÄ«mredzot pieprasÄ«juma Ätrumu ierobežo lÄnÄkÄ vÄjÄ saite, lÄnÄkÄ veikala vÄrteja vai lÄnÄkÄ blakusvÄÄ£is.
Å Ä«s sastÄvdaļas var bÅ«t nevienmÄrÄ«gi noslogotas. PiemÄram, jums ir Prometheus, kas apkopo miljoniem metrikas sekundÄ. Un ir Prometheus, kas savÄc tÅ«kstoÅ”iem metriku sekundÄ. Prometheus, kas savÄc miljoniem metrikas sekundÄ, uzliek daudz lielÄku slodzi serverim, kurÄ tas darbojas. AttiecÄ«gi Sidecar tur darbojas lÄnÄk. Un vispÄr tur viss darbojas lÄni. Un vaicÄjuma komponents ļoti lÄni iegÅ«s datus no turienes. AttiecÄ«gi visa jÅ«su klastera veiktspÄju ierobežos Å”is lÄnais blakusvÄÄ£is.
PÄc noklusÄjuma Thanos sniedz daļÄjus datus, ja daži blakusvÄÄ£i un veikala vÄrteja nav pieejami. PiemÄram, ja jÅ«su blakusvÄÄ£i ir izkaisÄ«ti pa visu pasauli dažÄdos datu centros, tad savienojuma kļūmes un komponentu nepieejamÄ«bas iespÄjamÄ«ba ievÄrojami palielinÄs. AttiecÄ«gi vairumÄ gadÄ«jumu jÅ«s saÅemsiet daļÄjus datus, pat to nezinot.
VictoriaMetrics ir arÄ« nepilnÄ«bas. PirmÄ kļūme ir opcija, kas ierobežo VictoriaMetrics keÅ”atmiÅai izmantotÄs RAM apjomu. PÄc noklusÄjuma tas ir vienÄds ar 60% RAM tajÄ iekÄrtÄ, kurÄ darbojas VictoriaMetrics, vai 60% no VictoriaMetrics pod RAM Kubernetes.
Ja mainÄ«sit Å”o vÄrtÄ«bu nepareizi, varat sabojÄt VictoriaMetrics veiktspÄju. PiemÄram, ja iestatÄt pÄrÄk zemu vÄrtÄ«bu, dati var vairs neietilpst VictoriaMetrics keÅ”atmiÅÄ. Å Ä« iemesla dÄļ viÅai bÅ«s jÄveic papildu darbs un jÄielÄdÄ procesors un disks. Ja Å”o opciju padarÄ«sit pÄrÄk lielu, tas, pirmkÄrt, palielina iespÄjamÄ«bu, ka VictoriaMetrics avarÄs kļūdas dÄļ, ka trÅ«kst atmiÅas, un, otrkÄrt, tas novedÄ«s pie tÄ, ka operÄtÄjsistÄmas atmiÅÄ paliks ļoti maz RAM. failu keÅ”atmiÅa. Un VictoriaMetrics veiktspÄjai paļaujas uz failu keÅ”atmiÅu. Ja ar to nepietiek, diska slodze var ievÄrojami palielinÄties. TÄpÄc padoms: nemainiet parametru, ja vien tas nav absolÅ«ti nepiecieÅ”ams.
Otrais variants. Å is ir retentionPeriod ā periods, kas pÄc noklusÄjuma ir iestatÄ«ts uz 1 mÄnesi. Å is ir laiks, kurÄ VictoriaMetrics saglabÄ datus. PÄc Ŕī perioda VictoriaMetrics dzÄÅ” datus.
Daudzi cilvÄki izmanto VictoriaMetrics bez Ŕī parametra un ieraksta datus par mÄnesi. Un tad viÅi jautÄ: kÄpÄc pazuda dati par iepriekÅ”Äjo mÄnesi? TÄ kÄ noklusÄjuma saglabÄÅ”anas periods ir 1 mÄnesis. TÄpÄc jums jÄzina un jÄiestata pareizais retentionPeriod.
ApskatÄ«sim unikÄlÄs funkcijas.
Thanos ir funkcija, ko sauc par samazinÄÅ”anu: 5 minÅ«Å”u un stundu intervÄli, kas bieži . Ja meklÄjat Google un aplÅ«kojat viÅu problÄmu vietnÄ github, ir daudz problÄmu, kas saistÄ«tas ar Å”o iztverÅ”anu, ka dažreiz tÄ nedarbojas pareizi vai nedarbojas tÄ, kÄ lietotÄji gaida.
Thanos ir datu dedublikÄcija Prometheus HA pÄriem. Kad divi Prometheus apkopo vienu un to paÅ”u metriku no vieniem un tiem paÅ”iem mÄrÄ·iem un Thanos tos saglabÄ objektu krÄtuvÄ. AtŔķirÄ«bÄ no VictoriaMetrics, Thanos var pareizi dedublÄt Å”os datus.
Thanos ir brÄ«dinÄjuma komponents, kas bija Thanos shÄmÄ. Bet viÅÅ” .
Thanos priekÅ”rocÄ«ba ir tÄ, ka Thanos un Prometheus izmanto vienu un to paÅ”u kodu. Thanos un Prometheus izstrÄdÄ tie paÅ”i izstrÄdÄtÄji. Ar Thanos vai Prometheus uzlabojumiem uzvar otra puse.
VictoriaMetrics galvenÄ funkcija ir MetricsQL. Tie ir VictoriaMetrics paplaÅ”inÄjumi PromQL, par kuriem es runÄju iepriekÅ”ÄjÄ lielajÄ uzraudzÄ«bas metu.
VictoriaMetrics atbalsta datu ielÄdi, izmantojot daudzus dažÄdus protokolus. VictoriaMetrics var ne tikai pieÅemt datus no Prometheus, bet arÄ« izmantojot Influx, OpenTSDB un Graphite protokolus.
VictoriaMetrics dati aizÅem daudz mazÄk vietas salÄ«dzinÄjumÄ ar Thanos un Prometheus.
Ja ierakstÄt reÄlus datus, lietotÄji runÄ par diskÄ esoÅ”o datu apjoma samazinÄjumu 2ā5 reizes, salÄ«dzinot ar Prometheus un Thanos.
VÄl viena VictoriaMetrics priekÅ”rocÄ«ba ir tÄ, ka tÄ ir optimizÄta Ätrumam.
Apskatīsim infrastruktūras izmaksas.
Viena no Thanos priekÅ”rocÄ«bÄm ir tÄ, ka tÄ glabÄ datus objektu krÄtuvÄ, kas ir salÄ«dzinoÅ”i lÄta.
UzglabÄjot datus objektu krÄtuvÄ, jums ir jÄmaksÄ par datu rakstÄ«Å”anas un lasÄ«Å”anas operÄcijÄm (10 USD par miljonu operÄciju). Ierakstot datus objektu krÄtuvÄ, jÅ«s maksÄjat mitinÄÅ”anas izmaksas par datu augÅ”upielÄdi internetÄ; ja jÅ«su klasteris nav AWS, tas ir bez maksas. Lasot datus, jÅ«s maksÄjat no 10 lÄ«dz 230 USD par 1 TB. Tas var bÅ«t nozÄ«mÄ«gi, ja bieži pieprasÄt vÄsturiskos datus no Thanos klastera.
Thanos klasterim jums ir jÄmaksÄ par serveriem Compact, Store Gateway, Query komponentiem, kuriem nepiecieÅ”ams daudz atmiÅas, un CPU lielam datu apjomam.
VictoriaMetrics ir Å”Ädi izdevumi. Ja datus glabÄjat GCE HDD diskdziÅos, tas maksÄ 40 USD par 1 TB. VictoriaMetrics ir pietiekami ar parastajiem HDD diskdziÅiem, nav nepiecieÅ”ami SSD, kas maksÄ piecas reizes vairÄk. VictoriaMetrics ir optimizÄta HDD.
VictoriaMetrics komponentiem ir nepiecieÅ”ami serveri: viena mezgla vai kopu komponenti, kuriem atŔķirÄ«bÄ no Thanos komponentiem ir nepiecieÅ”ams daudz mazÄk CPU un RAM, un attiecÄ«gi tie bÅ«s lÄtÄki.
ÄŖstenoÅ”anas piemÄri.
Thanos ir ievieÅ”anas piemÄrs Gitlab. Gitlab pilnÄ«bÄ darbojas uz Thanos. Bet ne viss tur ir tik gludi. Ja paskatÄs uz tiem , tad jÅ«s varat redzÄt, ka viÅiem pastÄvÄ«gi ir daži : nepietiek atmiÅas veikala vÄrtejas vai vaicÄjuma komponentiem. ViÅiem pastÄvÄ«gi jÄpalielina atmiÅas apjoms.
SakarÄ ar to palielinÄs Å”o problÄmu risinÄÅ”anas izmaksas.
OtrÄ ievieÅ”ana, kas varÄtu bÅ«t veiksmÄ«gÄka, ir uzÅÄmums Improbable, kas sÄka attÄ«stÄ«t Thanos. ViÅi publicÄja Thanos pirmkodu. Improbable ir uzÅÄmums, kas izstrÄdÄ spÄļu dzinÄjus.
VictoriaMetrics ir publiski ievieÅ”anas piemÄri:
- wix.com vietÅu veidotÄjs
- Adidas ievieÅ” VictoriaMetrics un pat uzstÄjÄs ar prezentÄciju pÄdÄjÄ PromCon 2019. gadÄ
- TrafficStars - reklÄmu tÄ«kls
- Seznam.cz ir populÄra Äehijas meklÄtÄjprogramma.
Un tad bija uzÅÄmumi bez nosaukuma, kurus es tagad nevaru nosaukt. ViÅi nepiekrita.
- Viens no galvenajiem spÄļu izstrÄdÄtÄjiem. LielÄks nekÄ im Neticami.
- LielÄkais grafikas programmatÅ«ras izstrÄdÄtÄjs.
- LielÄ Krievijas banka.
- Eiropas vÄja turbÄ«nu ražotÄjs, kas ir veiksmÄ«gi testÄjis VictoriaMetrics. Å is ražotÄjs ievieÅ” VictoriaMetrics, lai uzraudzÄ«tu datus, kas savÄkti no vÄja turbÄ«nÄm ar Ätrumu 50 paraugi sekundÄ uz vienu sensoru. Katrai vÄja turbÄ«nai ir vairÄki simti sensoru. ViÅiem ir vairÄki simti vÄja turbÄ«nu.
- Krievijas aviosabiedrÄ«bas, kas vÄlas ieviest VictoriaMetrics, bet joprojÄm nevar. MÄs ar viÅiem esam lÄ«guma stadijÄ.
SecinÄjumi.
VictoriaMetrics un Thanos atrisina lÄ«dzÄ«gas problÄmas, bet dažÄdos veidos:
- GlobÄlais vaicÄjuma skats
- horizontÄlÄ mÄrogoÅ”ana
- patvaļīga saglabÄÅ”ana
Paldies.
GaidÄm JÅ«s pie mums .
AptaujÄ var piedalÄ«ties tikai reÄ£istrÄti lietotÄji. , lÅ«dzu.
Ko jÅ«s izmantojat kÄ Prometheus ilgtermiÅa uzglabÄÅ”anu?
-
35,3%Thanos6
-
0,0%Kortekss0
-
0,0%M3DB0
-
41,2%VictoriaMetrics7
-
23,5%cits4
Nobalsoja 17 lietotÄji. 16 lietotÄji atturÄjÄs.
Avots: www.habr.com