Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Hi kollha. Hawn taħt hemm it-traskrizzjoni rapport minn Big Monitoring Meetup 4.

Prometheus – sistema ta’ monitoraġġ għal diversi sistemi u servizzi, li bl-għajnuna tagħha l-amministraturi tas-sistema jistgħu jiġbru informazzjoni dwar il-parametri attwali tas-sistemi u jistabbilixxu twissijiet biex jirċievu notifiki dwar devjazzjonijiet fl-operat tas-sistemi.

Ir-rapport se jinkludi paragun Thanos и VictoriaMetrics — proġetti għall-ħażna fit-tul tal-metriċi Prometheus.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

L-ewwel, ngħidlek dwar Prometheus. Din hija sistema ta 'monitoraġġ li tiġbor metriċi minn miri speċifikati u ssalvahom għal ħażna lokali. Prometheus jista 'jirreġistra metriċi għal ħażna remota u jista' jiġġenera twissijiet u regoli ta 'reġistrazzjoni.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Limitazzjonijiet Prometheus:

  • M'għandux ħarsa globali ta' mistoqsija. Dan huwa meta jkollok diversi każijiet indipendenti ta 'Prometheus. Huma jiġbru metriċi. U trid tagħmel mistoqsija fuq dawn il-metriċi kollha miġbura minn każijiet ta 'Prometheus differenti. Prometheus ma jippermettix dan.
  • Bi prometheus, il-prestazzjoni hija limitata għal server wieħed biss. Prometheus ma tiskalax awtomatikament fuq servers multipli. Tista 'biss taqsam il-miri tiegħek manwalment bejn Prometheus multipli.
  • L-ambitu tal-metriċi fi Prometheus huwa limitat għal server wieħed biss għall-istess raġuni li ma jistax awtomatikament skala fuq servers multipli.
  • Mhux daqshekk faċli li torganizza s-sigurtà tad-dejta fi Prometheus.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Soluzzjonijiet għal dawn il-problemi/isfidi?

Is-soluzzjonijiet huma:

Dawn is-soluzzjonijiet kollha huma għall-ħażna remota tad-dejta miġbura minn Prometheus. Huma jsolvu l-problema tal-ħażna remota mill-pjastra ta 'qabel b'modi differenti. F'din il-preżentazzjoni ser nitkellem biss dwar l-ewwel żewġ soluzzjonijiet: Thanos и VictoriaMetrics.

Għall-ewwel darba informazzjoni dwar Thanos deher minn din ir-rabta. L-arkitettura hija deskritta hemmhekk Thanos u kif taħdem.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos jieħu d-dejta li Prometheus issejvja fuq id-diska lokali u tikkopjaha fuq S3, biex GCS jew għal ħażna ta’ oġġett ieħor.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Għalhekk Thanos jipprovdi ħarsa globali tal-mistoqsija. Tista 'tfittex dejta maħżuna fil-ħażna ta' oġġetti minn istanzi multipli Prometheus.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos jappoġġja PromQL u Prometheus qed ifittex l-API.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos juża kodiċi Prometheus biex jaħżen id-dejta.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos huwa żviluppat mill-istess żviluppaturi bħal Prometheus.

fuq VictoriaMetrics. Hawnhekk rabta, fejn l-ewwel tkellimna dwaru VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics tirċievi data minn diversi prometheus API tal-kitba mill-bogħod protokoll appoġġjat minn Prometheus.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics jipprovdi ħarsa globali ta' mistoqsija, peress li bosta istanzi ta' Prometheus jistgħu jiktbu data fuq VictoriaMetrics wieħed. Għaldaqstant, tista 'tagħmel mistoqsijiet dwar din id-dejta kollha.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics jappoġġja wkoll, bħal Thanos, PromQL u Prometheus querying API.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

B'differenza minn Thanos, il-kodiċi sors VictoriaMetrics huwa miktub mill-bidu u huwa ottimizzat għall-veloċità u l-konsum tar-riżorsi.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics, b'differenza minn Thanos, tiskali kemm vertikalment kif ukoll orizzontalment. Kul Verżjoni b'nodu wieħed, li tiskala vertikalment. Tista 'tibda bi proċessur wieħed u 1 GB ta' memorja u gradwalment tikber għal mijiet ta 'proċessuri u 1 TB ta' memorja. VictoriaMetrics tista’ tuża dawn ir-riżorsi kollha. Il-prestazzjoni tagħha se tiżdied b'madwar 100 darba meta mqabbla ma 'sistema 1-core.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

L-istorja ta 'Thanos bdiet f'Novembru 2017, meta deher l-ewwel impenn pubbliku. Qabel dan, Thanos ġie żviluppat internament improbabbli.io.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

F'Ġunju 2019 kien hemm rilaxx importanti 0.5.0, li fih imneħħija gossip protokoll. Huwa tneħħa minn Thanos għax ma wettaqx tajjeb. Ħafna drabi l-cluster Thanos ma ħadimx b'mod korrett, nodi konnessi miegħu b'mod żbaljat minħabba l-protokoll tal-gossip. Għalhekk, iddeċidejna li nneħħuh minn hemm. Naħseb li din hija d-deċiżjoni t-tajba.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Fl-istess Ġunju 2019, bagħtu n-numru tal-applikazzjoni 256 в Fondazzjoni Cloud Native Computing.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

U wara ftit xhur Thanos ġie aċċettat fih Fondazzjoni Cloud Native Computing, li jinkludi Prometheus, Kubernetes u proġetti popolari oħra.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

F'Jannar 2018, beda l-iżvilupp ta 'VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

F'Settembru 2018, semmejt pubblikament VictoriaMetrics għall-ewwel darba.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

F'Diċembru 2018, ġiet ippubblikata verżjoni Single-node.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

F'Mejju 2019 ġew ippubblikati sorsi ta 'żewġ verżjonijiet Single-node u cluster.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

F'Ġunju 2019, bħal Thanos, issottomettejna applikazzjoni lill-fondazzjoni CNCF taħt in-numru 255. Applikajna ġurnata qabel Thanos applika.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Iżda, sfortunatament, għadna ma ġejnax aċċettati hemmhekk. Għajnuna Komunitarja meħtieġa.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Ejja nħarsu lejn l-aktar slides importanti li juru l-arkitettura ta' Thanos u VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Nibdew b'Thanos. Il-komponenti isfar huma komponenti Prometheus. Kollox ieħor huwa komponenti Thanos. Nibdew bl-aktar komponent importanti. Thanos Sidecar huwa komponent li huwa installat ħdejn kull Prometheus. Huwa jgħabbi d-dejta tal-Prometheus minn ħażna lokali f'S3 jew Ħażna ta' Oġġetti oħra.

Hemm ukoll komponent imsejjaħ Thanos Store Gateway, li jista 'jaqra din id-dejta minn Object Storage fuq talbiet deħlin minn Thanos Query. Thanos Query timplimenta PromQL u Prometheus API. Jiġifieri minn barra qisu Prometheus. Jirċievi mistoqsijiet PromQL, jibgħathom lil Thanos Store Gateway, Thanos Store Gateway jirkupra d-dejta meħtieġa minn Object Storage, jibgħatha lura.

Iżda aħna naħżnu d-dejta f'Object Storage mingħajr l-aħħar sagħtejn minħabba karatteristika tal-implimentazzjoni ta 'Thanos Sidecar, li ma tistax ittella' l-aħħar sagħtejn għal Object Storage S3, peress li Prometheus għadu ma ħoloqx fajls għal dawn is-sagħtejn fil-ħażna lokali.

Kif iddeċidejt li tevita dan? Thanos Query, minbarra talbiet lil Thanos Store Gateway, tibgħat talbiet paralleli lil kull Thanos Sidecar, li jinsab ħdejn Prometheus.

U Thanos Sidecar, min-naħa tiegħu, iressaq talbiet ulterjuri lil Prometheus, u jirkupra d-dejta għall-aħħar sagħtejn.

Minbarra dawn il-komponenti, hemm ukoll komponent fakultattiv li mingħajru Thanos mhux se jaħdem tajjeb. Dan huwa Thanos Compact, li huwa responsabbli biex jgħaqqad fajls żgħar fuq Object Storage f'fajls akbar li ttellgħu hawn minn Thanos Sidecars. Thanos Sidecar itella' fajls tad-dejta hemmhekk f'sagħtejn. Dawn il-fajls, jekk ma jiġux magħquda f'fajls akbar, allura n-numru tagħhom jista 'jikber b'mod sinifikanti ħafna. Iktar ma jkun hemm fajls bħal dawn, aktar tkun meħtieġa memorja għal Thanos Store Gateway, aktar huma meħtieġa riżorsi biex tittrasferixxi d-dejta fuq in-netwerk u l-metadejta. Thanos Store Gateway isir ineffettiv. Għalhekk, huwa meħtieġ li titħaddem Thanos Compact, li jgħaqqad fajls żgħar f'oħrajn akbar, sabiex ikun hemm inqas fajls bħal dawn u tnaqqas l-overhead fuq il-Gateway tal-Aħżen Thanos.

Hemm ukoll komponent bħal Thanos Ruler. Hija tesegwixxi r-regoli ta' twissija ta' Prometheus u tista' tevalwa r-regoli ta' reġistrazzjoni ta' Prometheus sabiex tikteb id-dejta lura lill-Object Storage. Iżda dan il-komponent mhuwiex rakkomandat li jintuża, minħabba li... Hu tendenza li jirritorna data mhux kompluta.

Din hija l-iskema sempliċi ta 'Thanos.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Issa ejja nqabbluha mal-iskema VictoriaMetrics.

VictoriaMetrics għandha 2 verżjonijiet: Verżjoni b'node wieħed u cluster. Single-node jimxi fuq kompjuter wieħed. Single-node m'għandux dawn il-komponenti, binarju wieħed biss. Dan il-binarju fuq il-pjastra jidher bħal dan il-kwadru. Dak kollu li jinsab ġewwa l-kwadru huwa l-kontenut tal-fajl binarju għall-verżjoni Single-node. M'għandekx bżonn tkun taf dwaru. Inti sempliċiment tmexxi l-binarju u kollox jaħdem għalina.

Il-verżjoni cluster hija aktar ikkumplikata. Ġewwa fih hemm tliet komponenti differenti: vmselect, vminsert u vmstorage. Minn isimhom għandu jkun ċar x'jagħmel kull wieħed minnhom. Il-komponent Daħħal jaċċetta data f'formati differenti: mill-API tal-kitba remota Prometheus, il-protokoll tal-linja Influx, il-protokoll Graphite u l-protokoll OpenTSDB. Il-komponent Daħħal jaċċettahom, janalizzahom u jqassamhom bejn il-komponenti tal-ħażna eżistenti, fejn id-dejta hija diġà maħżuna. Il-komponent Select, min-naħa tiegħu, jaċċetta mistoqsijiet PromQL. Huwa jimplimenta PromQL, kif ukoll l-API ta' mistoqsijiet ta' Prometheus, u tista' tintuża bħala sostitut għal Prometheus f'Grafana jew klijenti oħra ta' Prometheus API. Agħżel taċċetta talba promql, teżaminaha, taqra d-dejta meħtieġa għall-eżekuzzjoni ta 'din it-talba minn nodi tal-ħażna, tipproċessa din id-dejta u tirritorna tweġiba.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Ejja nqabblu l-kumplessità ta 'l-installazzjoni ta' Thanos u VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Nibdew b'Thanos. Qabel ma tibda taħdem ma 'Thanos, għandek bżonn toħloq barmil f'Object Storage, bħal S3 jew GCS, sabiex Thanos Sidecar ikun jista' jikteb dejta għalih.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Imbagħad għal kull Prometheus għandek bżonn tinstalla Thanos Sidecar. Qabel dan, trid tiftakar li tiddiżattiva l-kompattazzjoni tad-dejta fi Prometheus. Il-kompattazzjoni tad-dejta perjodikament tikkompressa d-dejta fil-ħażna Prometheus lokali sabiex tnaqqas il-konsum tar-riżorsi.

Meta tinstalla Thanos Sidecar fuq il-Prometheus tiegħek, trid tiddiżattiva din il-kompattazzjoni tad-dejta, minħabba li Thanos Sidecar ma taħdimx sew bil-kompattazzjoni tad-dejta attivata. Dan ifisser li l-Prometheus tiegħek jibda jsalva d-dejta fi blokki ta’ sagħtejn u jieqaf jgħaqqad dawk il-blokki f’oħrajn akbar. Għaldaqstant, jekk tagħmel mistoqsijiet li jaqbżu t-tul tal-aħħar sagħtejn, allura dawn ma jaħdmux b'mod effiċjenti daqs kemm jistgħu jaħdmu jekk il-kompattazzjoni tad-dejta kienet attivata.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Għalhekk, Thanos jirrakkomanda li jitnaqqas il-ħin taż-żamma tad-dejta fil-ħażna lokali għal 6-8 sigħat sabiex jitnaqqas l-overhead ta 'numru kbir ta' blokki żgħar.

Ladarba tkun installat Thanos Sidecar, trid tinstalla żewġ komponenti għal kull Barmil tal-Ħżin tal-Oġġetti. Dawn huma Thanos Compactor u Thanos Store Gateway.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Wara dan, għandek bżonn tinstalla Thanos Query u tikkonfiguraha sabiex tkun tista 'tqabbad mal-Thanos Store Gateways kollha li għandek, u tista' wkoll tikkonnettja mal-Thanos Sidecars kollha.

Jista 'jkun hemm problema żgħira hawn.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Għandek bżonn tikkonfigura konnessjoni affidabbli u sigura minn Thanos Query għal dawn il-komponenti. U jekk il-Prometheus tiegħek jinsab f'ċentri tad-dejta differenti, jew f'VPCs differenti, allura l-konnessjonijiet magħhom minn barra huma pprojbiti. Iżda biex Thanos Query taħdem, trid b'xi mod tikkonfigura l-konnessjoni hemmhekk, u trid issib mod.

Jekk għandek ħafna ċentri tad-dejta bħal dawn, allura, għalhekk, l-affidabbiltà tas-sistema kollha tonqos. Peress li Thanos Query għandu kontinwament iżomm konnessjonijiet mal-Thanos Sidecars kollha li jinsabu f'ċentri tad-dejta differenti. Għal kull talba li tkun deħlin, se tgħaddi t-talbiet lejn is-Sidecars kollha ta' Thanos. Jekk il-konnessjoni tiġi interrotta, jew tirċievi sett ta' dejta mhux komplut, jew tirċievi rispons ta' "cluster is down".

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

F'VictoriaMetrics kollox huwa ftit aktar sempliċi. Għall-verżjoni Single-node, għandek bżonn biss li tħaddem binarju wieħed u kollox jaħdem.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Fil-verżjoni cluster, huwa biżżejjed li tħaddem it-tliet tipi ta 'komponenti ta' hawn fuq fi kwalunkwe kwantità li għandek bżonn, jew tuża chart tat-tmun biex awtomat it-tnedija ta 'komponenti f'Kubernetes. Qed nippjanaw ukoll li nagħmlu operatur Kubernetes. It-tabella Helm ma tkoprix xi każijiet u tħallik tispara lilek innifsek fis-sieq. Pereżempju, jippermettilek tnaqqas in-numru ta 'nodi tal-ħażna, li twassal għal telf ta' data.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Wara li tkun nediet verżjoni binarja waħda jew raggruppata, għandek bżonn biss li żżid Prometheus mal-konfigurazzjoni l-issettjar għall-url tal-kitba mill-bogħodsabiex jibda jikteb id-data b'mod parallel mal-ħażna lokali u l-ħażna mill-bogħod. Kif tistgħu taraw, din il-konfigurazzjoni għandha twettaq ħafna aktar b'mod affidabbli meta mqabbla mal-konfigurazzjoni ta 'Thanos. M'għandniex bżonn li nżommu konnessjoni minn VictoriaMetrics mal-Prometheus kollha, minħabba li l-Prometheus infushom jgħaqqdu ma' VictoriaMetrics u jittrasmettu d-dejta.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Ejja nikkunsidraw l-appoġġ ta 'Thanos u VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos jeħtieġ li jimmonitorja Sidecar biex jiżgura li ma jieqfux jgħabbu d-dejta f'Object Storage. Jistgħu jwaqqfu din it-tniżżil tad-dejta minħabba żbalji ta' tniżżil, pereżempju l-konnessjoni tan-netwerk tiegħek mal-Ħażna tal-Objet hija temporanjament interrotta, jew Ħażna tal-Oġġetti ma tkunx temporanjament disponibbli. Thanos Sidecar se jinnota dan f'dan il-mument, jirrapporta żball, jista 'jiġġarraf u mbagħad jieqaf jaħdem. Jekk ma tissorveljahiex, allura tieqaf tittrasferixxi d-data lill-Object Storage. Jekk il-ħin ta 'żamma jgħaddi (6-8 sigħat rakkomandat), allura inti titlef dejta li ma spiċċatx fil-Ħażna tal-Oġġetti.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Il-kompatturi Thanos jistgħu jieqfu jaħdmu minħabba tellieqa ma' Sidecar. Il-kompatturi jieħdu d-dejta mill-Object Storage u jingħaqduha f'biċċiet akbar ta 'dejta. Peress li l-kompatturi mhumiex sinkronizzati ma' Sidecars, jista' jiġri dan li ġej: Sidecar għadu ma kellux ħin biex ilesti l-blokk, Compactor jiddeċiedi li dan il-blokk inkiteb kompletament. Compactor jibda jaqrah. Ma jaqrax il-blokk kollu u jieqaf jaħdem. Ara d-dettalji hawn.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Store Gateway jista’ jirritorna data inkonsistenti minħabba tlielaq bejn Compactor u Sidecars. L-istess ħaġa tiġri hawn, minħabba li l-Store Gateway m'huwa sinkronizzat bl-ebda mod ma' Compactors u Sidecars. Għaldaqstant, il-kundizzjonijiet tat-tellieqa jistgħu jseħħu meta l-Store Gateway ma jarax parti mid-dejta jew jara dejta mhux meħtieġa.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Il-komponent Query f'Thanos awtomatikament jirritorna riżultat parzjali jekk xi Sidecars jew Store Gateways mhumiex disponibbli bħalissa. Inti ser tirċievi parti mid-dejta, u lanqas biss tkun taf li ma rċevejtx id-dejta kollha. Dan huwa kif jaħdem awtomatikament. F'sitwazzjoni simili, VictoriaMetrics jirritorna data mmarkata bħala parzjali.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

B'differenza minn Thanos, VictoriaMetrics rarament titlef id-dejta. Anke jekk il-konnessjoni minn Prometheus għal VictoriaMetrics tiġi interrotta, din mhix problema, peress li Prometheus tkompli tirreġistra dejta ġdida li tidħol fil-Write Ahead Log, li d-daqs tiegħu huwa sagħtejn. Jekk tirrestawra l-konnessjoni tiegħek ma' VictoriaMetrics fi żmien sagħtejn, id-dejta tiegħek ma tintilifx. Prometheus jista’ jżid id-dejta wara li jirrestawra l-konnessjoni ma’ VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

B'differenza minn Thanos, li jikteb id-dejta fil-ħażna tal-oġġett biss wara sagħtejn, Prometheus awtomatikament jirreplika d-dejta bl-użu tal-protokoll tal-kitba mill-bogħod għal ħażna remota, bħal VictoriaMetrics. Ma tibżax li titlef il-ħażna lokali fi Prometheus. Jekk f'daqqa waħda tilef il-ħażna lokali, allura fl-agħar każ titlef l-aħħar sekondi ta 'data li ma kellhiex ħin biex tiġi rreġistrata f'ħażna remota.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Kubernetes awtomatikament jimmaniġġja l-cluster, b'differenza minn Thanos. Huwa diffiċli li tqiegħed il-komponenti kollha ta' Thanos fi cluster wieħed ta' Kubernetes, b'differenza mill-komponenti tal-cluster VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics għandha aġġornament sempliċi ħafna għall-verżjoni l-ġdida. Twaqqaf VictoriaMetrics, aġġorna l-binarji u tniedi. Meta titwaqqaf permezz ta' sinjal SIGINT, il-binarji VictoriaMetrics kollha jwettqu għeluq gracefull. Huma jiffrankaw b'mod korrett id-dejta meħtieġa, jagħlqu l-konnessjonijiet deħlin b'mod korrett sabiex ma jitilfu xejn. Allura inti ma titlef xejn meta taġġorna.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics jagħmilha faċli ħafna li tespandi cluster. Żid biss il-komponenti meħtieġa u kompli taħdem.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Dwar in-nases f'Thanos u VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos għandu l-iżvantaġġi li ġejjin. Prometheus għandu jaħżen id-dejta għall-aħħar sagħtejn. Jekk jintilfu, int titlefhom kompletament għax għadhom ma nkitbux lil Object Storage bħal S3.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Il-komponent tal-Aħżen Gateway u l-komponent tal-kompattur jistgħu jeħtieġu ħafna memorja biex jaħdmu ma 'Ħażna ta' Oġġetti kbira jekk hemm ħafna fajls żgħar maħżuna hemmhekk. Aktar ma jkun kbir in-numru u d-daqs tal-fajls, aktar Aħżen Gateway u RAM kompatta hija meħtieġa biex taħżen metainformazzjoni. Thanos għandu ħafna kwistjonijiet dwar il-fatt li Aħżen Gateway u compactor crash b'volumi medji ta 'dejta rreġistrata.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos huwa reklamat biex tiskala b'mod indefinit bl-ammont ta 'Prometheus li għandek. Dan fil-fatt mhux minnu. Peress li t-talbiet kollha jgħaddu mill-komponent tal-Mistoqsija, li fl-istess ħin irid jivverifika l-komponenti kollha tal-Store Gateway u l-komponenti kollha tas-Sidecar, iġbed id-dejta minn hemm u mbagħad ipproċessaha minn qabel. Ovvjament, il-veloċità tat-talba hija limitata mill-iktar rabta dgħajfa bil-mod, l-iktar Gateway tal-Aħżen bil-mod jew l-aktar Sidecar bil-mod.

Dawn il-komponenti jistgħu jkunu mgħobbija b'mod irregolari. Per eżempju, għandek Prometheus, li jiġbor miljuni ta 'metriċi kull sekonda. U hemm Prometheus, li jiġbor eluf ta 'metriċi kull sekonda. Prometheus, li jiġbor miljuni ta 'metriċi kull sekonda, ipoġġi tagħbija ferm ogħla fuq is-server li jaħdem fuqu. Għaldaqstant, Sidecar jaħdem aktar bil-mod hemmhekk. U b'mod ġenerali kollox jaħdem bil-mod hemmhekk. U l-komponent tal-Mistoqsija se jiġbed id-dejta minn hemm bil-mod ħafna. Għaldaqstant, il-prestazzjoni tal-cluster kollu tiegħek se tkun limitata minn dan is-Sidecar bil-mod.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

B'mod awtomatiku, Thanos jagħti dejta parzjali jekk xi Sidecars u jew il-Store Gateway ma jkunux disponibbli. Pereżempju, jekk is-Sidecars tiegħek huma mxerrda madwar id-dinja f'ċentri tad-dejta differenti, allura l-probabbiltà ta 'falliment ta' konnessjoni u indisponibbiltà tal-komponenti tiżdied ħafna. Għaldaqstant, fil-biċċa l-kbira tal-każijiet tirċievi dejta parzjali mingħajr ma tkun taf.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics għandha wkoll in-nases. L-ewwel nasa hija l-għażla li tillimita l-ammont ta 'RAM użat għall-cache VictoriaMetrics. B'mod awtomatiku, huwa ugwali għal 60% tar-RAM fuq il-magna fejn qed taħdem VictoriaMetrics jew 60% tar-RAM tal-pod VictoriaMetrics f'Kubernetes.

Jekk tibdel dan il-valur ħażin, tista' tħassar il-prestazzjoni ta' VictoriaMetrics. Pereżempju, jekk issettja l-valur baxx wisq, id-dejta tista' ma tibqax tidħol fil-cache VictoriaMetrics. Minħabba dan, hija jkollha tagħmel xogħol żejjed u tgħabbi l-proċessur u d-disk. Jekk tagħmel din l-għażla kbira wisq, iżid, l-ewwelnett, il-probabbiltà li VictoriaMetrics tiġġarraf bi żball tal-memorja barra, u, it-tieni, iwassal għall-fatt li se jkun hemm ftit RAM fil-memorja tas-sistema operattiva għal cache tal-fajls. U VictoriaMetrics tiddependi fuq cache tal-fajls għall-prestazzjoni. Jekk ma jkunx biżżejjed, it-tagħbija fuq id-diska tista 'tiżdied ħafna. Għalhekk, parir: tbiddilx il-parametru sakemm ma jkunx assolutament meħtieġ.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

It-tieni għażla. Dan huwa retentionPeriod - perjodu li huwa stabbilit għal xahar b'mod awtomatiku. Dan huwa t-tul ta' żmien li VictoriaMetrics jaħżen id-dejta. Wara dan il-perjodu, VictoriaMetrics iħassar id-dejta.

Ħafna nies imexxu VictoriaMetrics mingħajr dan il-parametru u jirreġistraw data għal xahar. U mbagħad jistaqsu: għaliex id-dejta għax-xahar ta’ qabel sparixxa? Minħabba li r-retentionPeriod default huwa xahar. Għalhekk, trid tkun taf u tissettja l-Perjodu ta 'żamma korrett.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Ejja nagħtu ħarsa lejn il-karatteristiċi uniċi.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos għandu karatteristika msejħa downsampling: intervalli ta '5 minuti u kull siegħa, li spiss ma taħdimx sew. Jekk tagħmel google u tħares lejn il-kwistjoni tagħhom fuq github, hemm ħafna kwistjonijiet relatati ma 'dan it-tnaqqis ta' kampjuni, li xi drabi ma jaħdimx b'mod korrett, jew ma jaħdimx kif jistennew l-utenti.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos għandu deduplikazzjoni tad-dejta għall-pari Prometheus HA. Meta żewġ Prometheus jiġbru l-istess metriċi mill-istess miri u Thanos jaħżenhom f'Object Storage. Thanos jista’ jiddeduplika sew din id-dejta, b’differenza VictoriaMetrics.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos għandu komponent ta 'twissija li kien fl-iskematika ta' Thanos. Imma lilu mhux rakkomandat għall-użu fil-produzzjoni.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos għandu l-vantaġġ li Thanos u Prometheus jaqsmu l-istess kodiċi. Thanos u Prometheus huma żviluppati mill-istess żviluppaturi. B'titjib għal Thanos jew Prometheus, in-naħa l-oħra tirbaħ.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Il-karatteristika ewlenija ta' VictoriaMetrics hija MetricsQL. Dawn huma estensjonijiet VictoriaMetrics għal PromQL, li tkellimt dwarhom fil-metup ta 'monitoraġġ kbir preċedenti.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics jappoġġja t-tagħbija tad-dejta billi tuża ħafna protokolli differenti. VictoriaMetrics ma tistax biss taċċetta data minn Prometheus, iżda wkoll permezz tal-protokolli Influx, OpenTSDB u Graphite.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Id-dejta ta 'VictoriaMetrics tieħu ħafna inqas spazju meta mqabbla ma' Thanos u Prometheus.

Jekk tirreġistra dejta reali, l-utenti jitkellmu dwar tnaqqis ta '2-5 darbiet fid-daqs tad-dejta fuq disk meta mqabbel ma' Prometheus u Thanos.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Vantaġġ ieħor ta 'VictoriaMetrics huwa li huwa ottimizzat għall-veloċità.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Ejja nħarsu lejn l-ispiża tal-infrastruttura.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Wieħed mill-vantaġġi ta 'Thanos huwa li jaħżen id-dejta fil-ħażna tal-oġġetti, li hija relattivament irħisa.

Meta taħżen id-dejta fil-ħażna tal-oġġetti, trid tħallas għal operazzjonijiet ta 'kitba u qari tad-dejta ($10 għal kull miljun operazzjoni). Meta tikteb id-dejta għall-ħażna tal-oġġetti, tħallas l-ispejjeż tal-hosting tiegħek għat-tlugħ tad-dejta fuq l-Internet; jekk il-cluster tiegħek ma jkunx fl-AWS, huwa b'xejn hemmhekk. Meta taqra d-dejta, tħallas bejn $10 u $230 għal kull 1TB. Dan jista 'jkun sinifikanti jekk ta' spiss titlob dejta storika mill-cluster Thanos.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Għal cluster Thanos, trid tħallas għal servers għal Compact, Store Gateway, Query komponenti li jeħtieġu ħafna memorja, u CPU għal ammonti kbar ta 'dejta.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics għandha l-ispejjeż li ġejjin. Jekk taħżen id-dejta fuq drives tal-HDD GCE, allura toħroġ għal $ 40 għal 1TB. Għal VictoriaMetrics, drives HDD ordinarji huma biżżejjed; l-ebda SSDs, li jiswew ħames darbiet aktar, ma huma meħtieġa. VictoriaMetrics huwa ottimizzat għall-HDD.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics teħtieġ servers għal komponenti: jew komponenti Single-nod jew clustered, li, b'differenza mill-komponenti Thanos, jeħtieġu ħafna inqas CPU u RAM - u għalhekk se jkunu orħos.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Eżempji ta' implimentazzjoni.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Thanos għandu eżempju ta 'implimentazzjoni f'Gitlab. Gitlab jimxi kompletament fuq Thanos. Imma mhux kollox huwa daqshekk bla xkiel hemmhekk. Jekk tħares lejhom kwistjonijiet, allura tista 'tara li kontinwament għandhom xi problemi operattivi ma Thanos: M'hemmx biżżejjed memorja għall-komponenti Store Gateway jew Query. Huma kontinwament għandhom iżidu l-ammont ta 'memorja.

Minħabba dan, l-ispejjeż biex jiġu solvuti dawn il-problemi jiżdiedu.

It-tieni implimentazzjoni, li tista 'tkun aktar suċċess, hija l-kumpanija Improbabbli, li bdiet tiżviluppa Thanos. Huma ppubblikaw il-kodiċi tas-sors Thanos. Improbabbli hija kumpanija li tiżviluppa magni tal-logħob.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics għandha eżempji ta’ implimentazzjoni pubblika:

  • bennej tal-websajt wix.com
  • Adidas qed timplimenta VictoriaMetrics u anke għamlet preżentazzjoni fl-aħħar PromCon 2019
  • TrafficStars - netwerk ad
  • Seznam.cz hija magna ta' riċerka popolari Ċeka.

U allura kien hemm kumpaniji bla isem li ma nistax insemmi issa. Ma tawx il-kunsens tagħhom.

  • Żviluppatur ewlieni tal-logħob wieħed. Akbar minn Improbabbli.
  • Żviluppatur ewlieni tas-softwer tal-grafika.
  • Bank kbir Russu.
  • Manifattur Ewropew tat-turbini tar-riħ li ttestja b'suċċess VictoriaMetrics. Dan il-manifattur qed jimplimenta VictoriaMetrics biex jimmonitorja d-dejta miġbura minn turbini tar-riħ b’rata ta’ 50 kampjun kull sekonda għal kull sensor. Kull turbina tar-riħ għandha diversi mijiet ta 'sensuri. Għandhom diversi mijiet ta' turbini tar-riħ.
  • Linji tal-ajru Russi li jridu jimplimentaw VictoriaMetrics, iżda xorta ma jistgħux. Ninsabu fl-istadju tal-kuntratt magħhom.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetricsKonklużjonijiet.

VictoriaMetrics u Thanos isolvu problemi simili, iżda b'modi differenti:

  • Veduta tal-mistoqsija globali
  • skalar orizzontali
  • żamma arbitrarja

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Grazzi.

Qed nistennewk f'tagħna kanal tat-telegramma.

Għażla ta' ħażna tad-dejta għal Prometheus: Thanos vs VictoriaMetrics

Utenti reġistrati biss jistgħu jipparteċipaw fl-istħarriġ. Idħol, ta 'xejn.

X'tuża bħala ħażna fit-tul għal Prometheus?

  • 35,3%Thanos6

  • 0,0%Cortex0

  • 0,0%M3DB0

  • 41,2%VictoriaMetrics7

  • 23,5%oħra4

Ivvutaw 17 utent. 16 utenti astjenew.

Sors: www.habr.com

Żid kumment