Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Moien alleguer. Drënner ass den Transkript Bericht vum Big Monitoring Meetup 4.

Prometheus - e Iwwerwaachungssystem fir verschidde Systemer a Servicer, mat der Hëllef vun deem Systemadministrateuren Informatioun iwwer déi aktuell Systemparameter sammelen an Alarmer opsetzen fir Notifikatiounen iwwer OfwÀichungen an der Operatioun vu Systemer ze kréien.

De Bericht wÀert e Verglach enthalen Thanos О VictoriaMetrics - Projete fir laangfristeg Lagerung vu Prometheus Metriken.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Spillt Video

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Als éischt wÀert ech Iech iwwer Prometheus soen. Dëst ass en Iwwerwaachungssystem deen Metriken aus spezifizéierten Ziler sammelt a se op lokal SpÀichere spÀichert. Prometheus kann Metriken op Fernspeicher ophuelen a kann Alarmer an Opnamregelen generéieren.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Prometheus Limitatiounen:

  • Et huet keng global Ufro Vue. DĂ«st ass wann Dir verschidde onofhĂ€ngeg Instanzen vu Prometheus hutt. Si sammelen Metriken. An Dir wĂ«llt iwwer all dĂ«s Metriken aus verschiddene Prometheus Instanzen gesammelt ginn. Prometheus erlaabt dĂ«st net.
  • Mat Prometheus ass d'Performance op nĂ«mmen ee Server limitĂ©iert. Prometheus skalĂ©iert net automatesch iwwer verschidde Serveren. Dir kĂ«nnt Är Ziler nĂ«mmen manuell tĂ«scht Multiple Prometheus opdeelen.
  • Den Ëmfang vun de Metriken am Prometheus ass limitĂ©iert op nĂ«mmen ee Server aus dem selwechte Grond datt et net automatesch iwwer verschidde Servere kann skalĂ©ieren.
  • Et ass net sou einfach DatesĂ©cherheet am Prometheus ze organisĂ©ieren.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Léisunge fir dës Problemer / Erausfuerderungen?

D'Léisungen sinn:

All dës Léisunge si fir Fernspeicherung vun Daten gesammelt vum Prometheus. Si léisen de Fernspeicherproblem vum fréiere Rutsch op verschidde Weeër. An dëser Presentatioun wÀert ech nëmmen iwwer déi éischt zwou Léisungen schwÀtzen: Thanos О VictoriaMetrics.

Fir d'éischte Kéier Informatiounen iwwer Thanos erschéngt vun dëse Link. D'Architektur gëtt do beschriwwen Thanos a wéi et funktionnéiert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos hëlt d'Donnéeën déi Prometheus op der lokaler Scheif gespÀichert a kopéiert se op S3, fir GCS oder zu engem aneren Objet Stockage.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Also bitt Thanos eng global Ufro Vue. Dir kënnt Daten, déi an Objektlagerung gespÀichert sinn, vu multiple Prometheus Instanzen ufroen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos ënnerstëtzt PromQL an Prometheus Ufro API.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos benotzt Prometheus Code fir Daten ze spÀicheren.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos gëtt vun de selwechten Entwéckler wéi Prometheus entwéckelt.

op VictoriaMetricsAn. Hei ze verschécken, wou mir fir d'éischt geschwat hunn VictoriaMetrics.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics kritt Daten vu verschiddene Prometheus Remote Write API Prometheus ënnerstëtzt.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics bitt eng global Ufro Vue, well verschidde Prometheus Instanzen Daten op eng VictoriaMetrics schreiwen kënnen. Deementspriechend kënnt Dir Ufroen iwwer all dës Donnéeën maachen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics ënnerstëtzt och, wéi Thanos, PromQL a Prometheus Ufro API.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am Géigesaz zu Thanos, gëtt VictoriaMetrics Quellcode vun Null geschriwwe an optimiséiert fir Geschwindegkeet a Ressourceverbrauch.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics, am Géigesaz zu Thanos, skaléiert souwuel vertikal wéi horizontal. Iessen Single-Node Versioun, déi vertikal skaléiert. Dir kënnt mat engem Prozessor an 1 GB Erënnerung ufÀnken a graduell op Honnerte vu Prozessoren an 1 TB Erënnerung wuessen. VictoriaMetrics kann all dës Ressourcen benotzen. Seng Leeschtung wÀert ëm ongeféier 100 Mol eropgoen am Verglach mat engem 1-KÀr System.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

D'Geschicht vum Thanos huet am November 2017 ugefaang, wéi den éischten ëffentlechen Engagement opgetaucht ass. Virun dësem gouf den Thanos intern entwéckelt onwahrscheinlech.io.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am Juni 2019 gouf et eng Landmark Verëffentlechung 0.5.0, an dÀr ewechgeholl Klatsch Protokoll. Hie gouf vum Thanos ewechgeholl well hien net gutt gespillt huet. Dacks huet den Thanos Cluster net korrekt geschafft, KnÀppercher verbonne mat deem falsch wéinst dem Klatschprotokoll. Dofir hu mir décidéiert hien vun do ewechzehuelen. Ech mengen dat ass déi richteg Entscheedung.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am selwechte Juni 2019 hu se d'Uwendungsnummer geschĂ©ckt 256 ĐČ Cloud Native Computing Foundation.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

An no e puer Méint gouf den Thanos ugeholl Cloud Native Computing Foundation, déi Prometheus, Kubernetes an aner populÀr Projeten enthÀlt.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am Januar 2018 huet d'Entwécklung vu VictoriaMetrics ugefaang.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am September 2018 hunn ech VictoriaMetrics fir d'éischte Kéier ëffentlech ernimmt.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am Dezember 2018 gouf eng Single-Node Versioun publizéiert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am Mee 2019 publizéiert goufen Quelle vu béide Single-Node a Cluster Versiounen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am Juni 2019, grad wéi Thanos, hu mir eng Demande un d'CNCF Foundation ënner Nummer ofginn 255. Mir hunn een Dag virum Thanos applizéiert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Mee do si mir leider nach ëmmer net ugeholl ginn. Gemeinschaftshëllef gebraucht.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis déi wichtegst Rutschen kucken, déi d'Architektur vun Thanos a VictoriaMetrics weisen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis mam Thanos ufÀnken. Déi giel Komponente si Prometheus Komponenten. Alles anescht ass Thanos Komponenten. Loosst d'mat de wichtegste Bestanddeel ufÀnken. Thanos Sidecar ass e Komponent deen nieft all Prometheus installéiert ass. Et lued Prometheus Daten aus der lokaler SpÀichere an S3 oder en aneren Object Storage.

Et gëtt och e Komponent genannt Thanos Store Gateway, deen dës Donnéeën vun Object Storage op Entréeën Ufroe vun Thanos Query liesen kann. Thanos Query implementéiert PromQL a Prometheus API. Dat ass, vu baussen gesÀit et aus wéi Prometheus. Kritt PromQL Ufroen, schéckt se op Thanos Store Gateway, Thanos Store Gateway recuperéiert déi néideg Donnéeën vun Object Storage, schéckt se zréck.

Awer mir spÀicheren Daten an Object Storage ouni déi lescht zwou Stonnen wéinst enger Feature vun der Thanos Sidecar Implementatioun, déi déi lescht zwou Stonnen net op Object Storage S3 eropluede kann, well Prometheus nach keng Dateie fir dës zwou Stonnen an der lokaler SpÀichere erstallt huet.

Wéi hutt Dir decidéiert dëst ëmzegoen? Thanos Query, zousÀtzlech zu Ufroen un den Thanos Store Gateway, schéckt parallel Ufroen un all Thanos Sidecar, deen nieft Prometheus lÀit.

An Thanos Sidecar, am Tour, Proxy Ufroe weider un Prometheus, an retrives Daten fir déi lescht zwou Stonnen.

ZousÀtzlech zu dëse Komponenten gëtt et och eng fakultativ Komponent, ouni déi den Thanos net gutt funktionnéiert. Dëst ass den Thanos Compact, dee verantwortlech ass fir kleng Dateien op Object Storage a gréisser Dateien ze fusionéieren déi hei vun Thanos Sidecars eropgeluede goufen. Thanos Sidecar lued Datendateien an zwou Stonnen erop. Dës Dateien, wa se net a méi grouss Dateien fusionéiert sinn, da kann hir Zuel ganz bedeitend wuessen. Wat méi esou Dateien, wat méi Erënnerung fir Thanos Store Gateway gebraucht gëtt, wat méi Ressourcen gebraucht ginn fir Daten iwwer d'Netz ze transferéieren, Metadaten. Thanos Store Gateway gëtt ineffektiv. Dofir ass et néideg den Thanos Compact auszeféieren, deen kleng Dateien a gréisser fusionéiert, sou datt et manner esou Dateie gëtt an d'Overhead op der Thanos Store Gateway ze reduzéieren.

Et gëtt och esou e Komponent wéi Thanos Ruler. Et féiert Prometheus Alarmreegelen aus a kann Prometheus Opnamregelen evaluéieren fir Daten zréck an Object Storage ze schreiwen. Awer dës Komponent ass net recommandéiert, well ... Hien tendéiert onkomplett Donnéeën zréck.

Dëst ass den einfache Schema vum Thanos.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis et elo mam VictoriaMetrics Schema verglÀichen.

VictoriaMetrics huet 2 Versiounen: Single-Node a Cluster Versioun. Single-Node leeft op engem Computer. Een Node huet dës Komponenten net, nëmmen ee BinÀr. Dëse BinÀr op der Rutsch gesÀit aus wéi dëse Quadrat. Alles wat am Quadrat ass ass den Inhalt vun der binÀrer Datei fir d'Single-Node Versioun. Dir musst net iwwer hien wëssen. Dir leeft just de BinÀr an alles funktionnéiert fir eis.

D'Cluster Versioun ass mĂ©i komplizĂ©iert. Bannen et ginn drĂ€i verschidde Komponenten: vmselect, vminsert a vmstorage. Vun hirem Numm soll kloer sinn wat jidderee vun hinnen mĂ©cht. D'Insert Komponent akzeptĂ©iert Daten a verschiddene Formater: vum Prometheus Remote Write API, Influx Line Protokoll, Graphite Protokoll a vum OpenTSDB Protokoll. D'Insert Komponent akzeptĂ©iert se, parsĂ©iert se a verdeelt se tĂ«scht existente SpĂ€icherkomponenten, wou d'DonnĂ©eĂ«n scho gespĂ€ichert sinn. De Select Komponent akzeptĂ©iert am Tour PromQL Ufroen. Hien implementĂ©iert PromQL, wĂ©i och d'Prometheus Ufro API, an et kann als Ersatz fir Prometheus zu Grafana oder aner Prometheus API Clienten benotzt ginn. Select akzeptĂ©iert eng promql Ufro, parsĂ©iert se, liest dĂ©i nĂ©ideg DonnĂ©eĂ«n fir dĂ«s Ufro aus SpĂ€icherknĂ€ppchen auszefĂ©ieren, veraarbecht dĂ«s DonnĂ©eĂ«n a gĂ«tt eng Äntwert zrĂ©ck.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis d'Komplexitéit vun der Installatioun vun Thanos a VictoriaMetrics verglÀichen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis mam Thanos ufÀnken. Ier Dir ufÀnkt mat Thanos ze schaffen, musst Dir en Eemer an Object Storage erstellen, sou wéi S3 oder GCS, sou datt den Thanos Sidecar Daten dran schreiwen kann.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Dann fir all Prometheus musst Dir den Thanos Sidecar installéieren. Virun dësem, musst Dir drun erënneren d'Datekomprimatioun am Prometheus auszeschalten. Datekomprimatioun kompriméiert periodesch Daten an der lokaler Prometheus-SpÀichere fir de Ressourceverbrauch ze reduzéieren.

Wann Dir Thanos Sidecar op Ärem Prometheus installĂ©iert, musst Dir dĂ«s Datekomprimatioun auszeschalten, well Thanos Sidecar funktionnĂ©iert net richteg mat Datekomprimatioun aktivĂ©iert. DĂ«st bedeit datt Äre Prometheus ufĂ€nkt Daten an zwou Stonne Blocken ze spĂ€icheren an stoppt dĂ«s Blocken a mĂ©i grouss ze fusionĂ©ieren. Deementspriechend, wann Dir Ufroe maacht, dĂ©i d'Dauer vun de leschten zwou Stonnen iwwerschreiden, da wĂ€erte se net esou effizient funktionnĂ©ieren wĂ©i se geschafft hĂ€tten wann d'Datekomprimatioun aktivĂ©iert wier.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Dofir recommandéiert Thanos d'DatenretentiounszÀit an der lokaler Lagerung op 6-8 Stonnen ze reduzéieren fir d'Overhead vun enger grousser Zuel vu klenge Blocken ze reduzéieren.

Wann Dir Thanos Sidecar installéiert hutt, musst Dir zwee Komponente fir all Objektlagereemer installéieren. Dëst sinn Thanos Compactor an Thanos Store Gateway.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Duerno musst Dir Thanos Query installéieren an et konfiguréieren sou datt et mat all Thanos Store Gateways verbënnt, déi Dir hutt, a kann och mat all Thanos Sidecars konnektéieren.

Et kann e liichte Problem ginn hei.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Dir musst eng zouverlĂ€sseg a sĂ©cher Verbindung vun Thanos Query op dĂ«s Komponenten konfigurĂ©ieren. A wann Äre Prometheus a verschiddene Rechenzentren oder a verschiddene VPCs lĂ€it, da sinn d'Verbindunge mat hinnen vu baussen verbueden. Awer fir datt Thanos Query funktionnĂ©iert, musst Dir iergendwĂ©i d'Verbindung do konfigurĂ©ieren, an Dir musst e Wee erausfannen.

Wann Dir vill esou Datenzenteren hutt, da geet d'ZouverlĂ€ssegkeet vum ganze System deementspriechend of. ZĂ«nter Thanos Query muss permanent Verbindunge mat all Thanos Sidecars erhalen, dĂ©i a verschiddenen Datenzentere lokalisĂ©iert sinn. Fir all erakommen Ufro gĂ«tt et Ufroe fir all Thanos Sidecars routen. Wann d'Verbindung Ă«nnerbrach ass, kritt Dir entweder en onkomplett Satz vun Daten, oder Dir kritt eng "Cluster ass erof" Äntwert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

An VictoriaMetrics ass alles e bësse méi einfach. Fir d'Single-Node Versioun musst Dir just ee BinÀr lafen an alles funktionnéiert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

An der Cluster Versioun ass et genuch fir all déi uewe genannten drÀi Zorte vu Komponenten an all Quantitéit ze lafen déi Dir braucht, oder benotzt Helmdiagramm fir de Start vun Komponenten an Kubernetes ze automatiséieren. Mir plangen och e Kubernetes Bedreiwer ze maachen. D'Helm Chart deckt e puer FÀll net of a léisst Iech selwer an de Fouss schéissen. Zum Beispill erlaabt et Iech d'Zuel vun de SpÀicherknÀppchen ze reduzéieren, wat zu Datenverloscht féiert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Nodeems Dir eng binÀr oder eng cluster Versioun lancéiert hutt, musst Dir just Prometheus an d'Konfiguratioun addéieren Astellung fir Remote Write URLsou datt et ufÀnkt Daten parallel zu der lokaler Lagerung an der Fernlagerung ze schreiwen. Wéi Dir gesitt, soll dës Konfiguratioun vill méi zouverlÀsseg ausféieren am Verglach mat der Thanos Konfiguratioun. Mir brauche keng Verbindung vu VictoriaMetrics un all Prometheus z'erhalen, well Prometheus selwer mat VictoriaMetrics konnektéieren an Daten iwwerdroen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis d'ËnnerstĂ«tzung vum Thanos a VictoriaMetrics betruechten.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos muss Sidecar iwwerwaachen fir sĂ©cherzestellen datt se net ophalen Daten an Objektspeicherung ze lueden. Si kĂ«nnen dĂ«s DonnĂ©eĂ«n eroflueden wĂ©inst Downloadfehler stoppen, zum Beispill Är Netzwierkverbindung mat Object Storage ass temporĂ€r Ă«nnerbrach, oder Object Storage ass temporĂ€r net verfĂŒgbar. Thanos Sidecar wĂ€ert dĂ«st am Moment bemierken, e Feeler mellen, kann ofbriechen an dann ophalen ze schaffen. Wann Dir et net iwwerwaacht, da stoppt Dir d'Daten op Object Storage ze transferĂ©ieren. Wann d'RetentiounszĂ€it passĂ©iert (6-8 Stonnen recommandĂ©iert), da verlĂ©iert Dir Daten, dĂ©i net an Object Storage opgehalen sinn.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos compactors kënnen ophalen ze schaffen wéinst Rennen ass mat Sidecar. Compactors huelen Daten aus Object Storage a fusionéieren se a méi grouss Stécker vun Daten. Well compactors net mat Sidecars synchroniséiert sinn, kann déi folgend geschéien: Sidecar huet nach keng ZÀit de SpÀr fÀerdeg ze maachen, Compactor decidéiert datt dëse Block komplett geschriwwe gouf. Compactor fÀnkt et ze liesen. Et liest de Block net voll a hÀlt op ze schaffen. Gesinn Detailer hei.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Store Gateway kann onkonsequent Daten zréckginn wéinst Rennen tëscht Compactor a Sidecars. Datselwecht geschitt hei, well de Store Gateway op kee Fall mat Compactors a Sidecars synchroniséiert ass. Deementspriechend kënnen d'Coursebedéngungen optrieden wann de Store Gateway net en Deel vun den Donnéeën gesÀit oder onnéideg Donnéeën gesÀit.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

De Query-Komponent an Thanos gĂ«tt als Standard en deelweis Resultat zrĂ©ck wann e puer Sidecars oder Store Gateways am Moment net verfĂŒgbar sinn. Dir kritt en Deel vun den DonnĂ©eĂ«n, an Dir wĂ€ert net mol wĂ«ssen, datt Dir net all d'DonnĂ©eĂ« kritt hutt. DĂ«st ass wĂ©i et par dĂ©faut funktionnĂ©iert. An enger Ă€hnlecher Situatioun gĂ«tt VictoriaMetrics markĂ©iert Daten als partiell zrĂ©ck.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am GĂ©igesaz zu Thanos verlĂ©iert VictoriaMetrics selten Daten. Och wann d'Verbindung vu Prometheus op VictoriaMetrics Ă«nnerbrach ass, ass dĂ«st kee Problem, well Prometheus weider erakommen nei Daten am Write Ahead Log opzehuelen, d'GrĂ©isst vun deenen 2 Stonnen ass. Wann Dir Är Verbindung mat VictoriaMetrics bannent zwou Stonnen restaurĂ©iert, ginn Är DonnĂ©eĂ«n net verluer. Prometheus kann Daten derbĂ€i ginn nodeems d'Verbindung op VictoriaMetrics restaurĂ©iert gouf.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Am Géigesaz zum Thanos, deen Daten nëmmen no zwou Stonnen op Objektlagerung schreift, replizéiert Prometheus automatesch Daten mam Remote Schreifprotokoll op Fernspeicherung, sou wéi VictoriaMetrics. Dir sidd keng Angscht lokal Stockage am Prometheus ze verléieren. Wann hien op eemol d'lokal SpÀichere verléiert, da verléiert Dir am schlëmmste Fall déi lescht Sekonnen vun Daten, déi keng ZÀit haten an der Fernspeicherung opgeholl ze ginn.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Kubernetes geréiert automatesch de Cluster, am Géigesaz zu Thanos. Et ass schwéier all Thanos Komponenten an ee Kubernetes Cluster ze placéieren, am Géigesaz zu VictoriaMetrics Cluster Komponenten.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics huet e ganz einfachen Update fir dĂ©i nei Versioun. Stop just VictoriaMetrics, aktualisĂ©ieren d'Binaeren a starten se. Wann se iwwer e SIGINT Signal gestoppt ginn, maachen all VictoriaMetrics BinĂ€ren e graziĂ©isen Ofschloss. Si spĂ€icheren dĂ©i nĂ©ideg DonnĂ©eĂ«n korrekt, schließen erakommen Verbindungen korrekt fir nĂ€ischt ze verlĂ©ieren. Also verlĂ©iert Dir nĂ€ischt beim Upgrade.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics mĂ©cht et ganz einfach e Cluster auszebauen. FĂŒĂŒgt just dĂ©i nĂ©ideg Komponenten derbĂ€i a schafft weider.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Iwwert Fallen an Thanos a VictoriaMetrics.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos huet déi folgend Fallen. Prometheus muss Daten fir déi lescht zwou Stonnen spÀicheren. Wa se verluer goen, verléiert Dir se komplett well se nach net op Object Storage wéi S3 geschriwwe goufen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

De Store Gateway-Komponent an de Komprimatorkomponent kënne vill Erënnerung erfuerderen fir mat enger grousser Object Storage ze schaffen, wann et vill kleng Dateien do gespÀichert sinn. Wat méi grouss ass d'Zuel an d'Gréisst vun de Dateien, dest méi Store Gateway a Komprimator RAM ass erfuerderlech fir Metainformatioun ze spÀicheren. Den Thanos huet vill Themen iwwer d'Tatsaach datt Store Gateway a Komprimator Crash mat Duerchschnëttsvolumen vun opgeholl Daten.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos gëtt ugekënnegt fir onbestëmmt ze skala mat der Quantitéit vum Prometheus deen Dir hutt. Dëst ass tatsÀchlech net wouer. Well all Ufroe duerch d'Query-Komponente goen, déi glÀichzÀiteg all Store Gateway Komponenten an all Sidecar-Komponente musse pollen, zéien d'Daten vun do aus an zéien se dann vir. Natierlech ass d'Ufrogeschwindegkeet limitéiert duerch de luesste schwaache Link, de luesste Store Gateway oder de luesste Sidecar.

DĂ«s Komponente kĂ«nnen onglĂ€ich gelueden sinn. Zum Beispill hutt Dir Prometheus, deen Millioune Metriken pro Sekonn sammelt. An et gĂ«tt de Prometheus, deen Dausende vu Metriken pro Sekonn sammelt. Prometheus, deen Millioune Metriken pro Sekonn sammelt, setzt eng vill mĂ©i hĂ©ich Belaaschtung op de Server op deen et leeft. Deementspriechend schafft Sidecar do mĂ©i lues. An am allgemengen klappt do alles lues. An d'Query Komponent zitt Daten vun do ganz lues. Deementspriechend gĂ«tt d'Leeschtung vun Ärem ganze StĂ€rekoup vun dĂ«sem luesen Sidecar limitĂ©iert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Par dĂ©faut gĂ«tt Thanos deelweis Daten wann e puer Sidecars an entweder de Store Gateway net verfĂŒgbar sinn. Zum Beispill, wann Är Sidecars ronderĂ«m d'Welt a verschiddenen Datenzentere verspreet sinn, da geet d'Wahrscheinlechkeet vun engem Verbindungsfehler an der UnverfĂŒgbarkeet vun Komponenten staark erop. Deementspriechend kritt Dir an de meeschte FĂ€ll deelweis Daten ouni et iwwerhaapt ze wĂ«ssen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics huet och Falen. Den éischte Fall ass d'Optioun déi d'Quantitéit vum RAM limitéiert fir de VictoriaMetrics Cache benotzt. Par défaut ass et glÀich wéi 60% vum RAM op der Maschinn wou VictoriaMetrics leeft oder 60% vum RAM vum VictoriaMetrics Pod zu Kubernetes.

Wann Dir dëse WÀert falsch Ànnert, kënnt Dir d'Performance vu VictoriaMetrics ruinéieren. Zum Beispill, wann Dir de WÀert ze niddreg setzt, kënnen d'Donnéeën net méi an de VictoriaMetrics Cache passen. Dofir muss si extra Aarbecht maachen an de Prozessor an den Disk lueden. Wann Dir dës Optioun ze grouss mécht, erhéicht et éischtens d'Wahrscheinlechkeet datt VictoriaMetrics mat engem Feeler am GedÀchtnis ofbriechen, an zweetens wÀert et zu der Tatsaach féieren datt et ganz wéineg RAM am Betribssystem Erënnerung bleift Fichier Cache. An VictoriaMetrics hÀnkt op engem Fichier Cache fir Leeschtung. Wann et net genuch ass, kann d'Laascht op der Disk staark eropgoen. Dofir, Rotschléi: Ànnert de Parameter net ausser absolut néideg.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Zweet Optioun. Dëst ass RetentionPeriod - eng Period déi als Standard op 1 Mount gesat ass. Dëst ass d'LÀngt vun der ZÀit VictoriaMetrics Daten spÀichert. No dëser Period lÀscht VictoriaMetrics d'Donnéeën.

Vill Leit lafen VictoriaMetrics ouni dëse Parameter a Rekord Daten fir e Mount. An da froe se: Firwat sinn d'Donnéeën vum Mount virdrun verschwannen? Well d'Default RetentionPeriod ass 1 Mount. Dofir musst Dir déi richteg RetentionPeriod wëssen an astellen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis déi eenzegaarteg Features kucken.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos huet eng Fonktioun genannt downsampling: 5-Minutt a Stonn Intervalle, déi oft funktionnéiert net richteg. Wann Dir googlet a kuckt op hiren Thema op github, et gi vill Themen am Zesummenhang mat dëser Downsampling, datt et heiansdo net richteg funktionnéiert oder net funktionnéiert wéi d'Benotzer erwaarden.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos huet Daten Deduplication fir Prometheus HA Pairen. Wann zwee Prometheus déiselwecht Metriken aus deeneselwechten Ziler sammelen an den Thanos spÀichert se an Object Storage. Thanos kann dës Donnéeën richteg deduplizéieren, am Géigesaz zu VictoriaMetrics.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos huet eng Alarmkomponent déi an der Thanos Schema war. Awer hien net recommandéiert fir an der Produktioun ze benotzen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos huet de Virdeel datt Thanos a Prometheus deeselwechte Code deelen. Thanos a Prometheus gi vun de selwechten Entwéckler entwéckelt. Mat Verbesserunge vum Thanos oder Prometheus gewënnt déi aner SÀit.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

D'Haaptfeature vum VictoriaMetrics ass MetricsQL. Dëst sinn VictoriaMetrics Extensiounen fir PromQL, iwwer déi ech an der viregter grousser Iwwerwaachungsmetup geschwat hunn.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics ënnerstëtzt d'Datebelaaschtung mat ville verschiddene Protokoller. VictoriaMetrics kann net nëmmen Daten vum Prometheus akzeptéieren, awer och iwwer d'Influx, OpenTSDB a Graphite Protokoller.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics Daten huelen vill manner Plaz op am Verglach zum Thanos a Prometheus.

Wann Dir real Daten opgeholl hutt, schwÀtzen d'Benotzer iwwer eng 2-5 Mol Reduktioun vun der Gréisst vun den Daten op der Disk am Verglach zum Prometheus an Thanos.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

En anere Virdeel vu VictoriaMetrics ass datt et fir Geschwindegkeet optimiséiert ass.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Loosst eis d'KĂ€schte vun der Infrastruktur kucken.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Ee vun de Virdeeler vum Thanos ass datt et Daten an Objektlagerung spÀichert, wat relativ bëlleg ass.

Wann Dir Daten an Objektspeicher spĂ€ichert, musst Dir fir Daten Schreif- a Liesoperatioune bezuelen ($ 10 pro Millioun Operatiounen). Wann Dir Daten op Objektlagerung schreift, bezuelt Dir Är HostingkĂ€schte fir Daten op den Internet eropzelueden, wann Äre StĂ€rekoup net an AWS ass, ass et gratis. Wann Dir Daten liest, bezuelt Dir tĂ«scht $10 an $230 pro 1TB. DĂ«st kann bedeitend sinn wann Dir dacks historesch Daten aus dem Thanos-Cluster ufroen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Fir en Thanos Cluster musst Dir fir Servere bezuelen fir Compact, Store Gateway, Query Komponenten déi vill Erënnerung erfuerderen, an CPU fir grouss Quantitéiten un Daten.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics huet déi folgend Ausgaben. Wann Dir Daten op GCE HDD Drive spÀichert, da kënnt et op $40 fir 1TB. Fir VictoriaMetrics si gewéinlech HDD-Laufwerke genuch, keng SSDs, déi fënnef Mol méi kaschten, sinn néideg. VictoriaMetrics ass fir HDD optimiséiert.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics erfuerdert Serveren fir Komponenten: entweder Single-Nod oder Clustered Komponenten, déi, am Géigesaz zu Thanos Komponenten, vill manner CPU a RAM erfuerderen - an deementspriechend méi bëlleg sinn.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Beispiller vun Ëmsetzung.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Thanos huet en Implementéierungsbeispill am Gitlab. Gitlab leeft ganz op Thanos. Mee do ass net alles sou glat. Wann Dir se kucken Problemer, da gesitt Dir datt se dauernd e puer hunn operationell Problemer mat Thanos: Et gëtt net genuch Erënnerung fir de Store Gateway oder Query Komponenten. Si mussen permanent d'Quantitéit un Erënnerung erhéijen.

Dofir ginn d'KÀschte fir dës Problemer ze léisen erop.

Déi zweet Implementatioun, déi méi erfollegrÀich ka sinn, ass d'Improbable Firma, déi ugefaang huet Thanos z'entwéckelen. Si hunn den Thanos Quellcode publizéiert. Improbable ass eng Firma déi Spillmotoren entwéckelt.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

VictoriaMetrics huet ëffentlech Implementéierungsbeispiller:

  • wix.com WebsĂ€it Builder
  • Adidas implementĂ©iert VictoriaMetrics an huet souguer eng Presentatioun um leschte PromCon 2019 gemaach
  • TrafficStars - Annonce Reseau
  • Seznam.cz ass eng populĂ€r tschechesch Sichmotor.

An da waren et keng-Numm Firmen déi ech elo net nennen kann. Si hunn net zoustëmmen.

  • Ee grousse SpillentwĂ©ckler. MĂ©i grouss wĂ©i onwahrscheinlech.
  • Major Grafik Software EntwĂ©ckler.
  • Grouss russesch Bank.
  • EuropĂ€esche Wandkraaftanlage Hiersteller deen erfollegrĂ€ich VictoriaMetrics getest huet. DĂ«sen Hiersteller implementĂ©iert VictoriaMetrics fir Daten ze iwwerwaachen, dĂ©i vu Wandturbinen gesammelt ginn mat enger Rate vun 50 Proben pro Sekonn pro Sensor. All Wandturbin huet e puer honnert Sensoren. Si hunn e puer honnert Wandkraaftanlagen.
  • Russesch Fluchgesellschaften dĂ©i VictoriaMetrics Ă«msetzen wĂ«llen, awer nach Ă«mmer net. Mir sinn op der Kontraktphase mat hinnen.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetricsConclusiounen.

VictoriaMetrics an Thanos léisen Àhnlech Probleemer, awer op verschidde Weeër:

  • Global Ufro Vue
  • horizontale Skala
  • arbitrĂ€r Retentioun

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

Spass.

Mir waarden op Iech bei eis Telegram Kanal.

Wielt eng Datelagerung fir Prometheus: Thanos vs VictoriaMetrics

NĂ«mme registrĂ©iert Benotzer kĂ«nnen un der Ëmfro deelhuelen. Umellen, wann ech glift.

Wat benotzt Dir als laangfristeg Lagerung fir Prometheus?

  • 35,3%Thanos 6

  • 0,0%Cortex 0

  • 0,0%M3DB0

  • 41,2%VictoriaMetrics7

  • 23,5%aner 4

17 Benotzer hunn gestëmmt. 16 Benotzer hu sech enthalen.

Source: will.com

Kaaft zouverlĂ€sseg Hosting fir Site mat DDoS Schutz, VPS VDS Server đŸ”„ Kaaft zouverlĂ©issegt WebsĂ€ithosting mat DDoS-Schutz, VPS VDS Server | ProHoster