Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Kumusta tanan. Sa ubos mao ang decryption report gikan sa Big Monitoring Meetup 4.

Prometheus – usa ka sistema alang sa pagmonitor sa lain-laing mga sistema ug mga serbisyo, uban sa tabang sa nga sistema administrador makakolekta impormasyon mahitungod sa kasamtangan nga mga parameter sa mga sistema ug sa pag-set up sa mga alerto sa pagdawat sa mga pahibalo mahitungod sa mga pagtipas sa operasyon sa mga sistema.

Ang report magtandi Thanos и VictoriaMetrics - mga proyekto alang sa dugay nga pagtipig sa Prometheus metrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Pagdula sa video

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Tugoti ako sa pagsulti kanimo bahin sa Prometheus una. Kini usa ka sistema sa pagmonitor nga nagkolekta sa mga sukatan gikan sa gihatag nga mga target ug gitipigan kini sa lokal nga pagtipig. Ang Prometheus makahimo sa pagsulat sa mga sukatan sa hilit nga pagtipig, makahimo og mga alerto ug mga lagda sa pagrekord.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Mga Limitasyon sa Prometheus:

  • Kini walay global nga panglantaw sa pangutana. Kini kung ikaw adunay daghang mga independente nga mga higayon sa prometheus. Gikolekta nila ang mga sukatan. Ug gusto nimo nga mangutana sa ibabaw sa tanan nga mga sukatan nga nakolekta gikan sa lainlaing mga higayon sa prometheus. Ang Prometheus wala magtugot niini.
  • Uban sa prometheus, ang pasundayag limitado lamang sa usa ka server. Ang Prometheus dili awtomatik nga mag-scale sa daghang mga server. Mahimo ra nimo nga mano-mano nga bahinon ang imong mga target taliwala sa daghang Prometheus.
  • Ang sakup sa mga sukatan sa Prometheus limitado sa usa ra ka server sa parehas nga hinungdan nga dili kini awtomatiko nga masukod sa daghang mga server nga awtomatiko.
  • Sa Prometheus, dili sayon ​​​​ang pag-organisar sa kaluwasan sa datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Mga solusyon sa kini nga mga problema / buluhaton?

Ang mga solusyon mao ang:

Ang tanan nga kini nga mga solusyon alang sa hilit nga pagtipig sa mga datos nga nakolekta sa Prometheus. Gisulbad nila ang problema sa hilit nga pagtipig gikan sa miaging slide sa lainlaing mga paagi. Niini nga presentasyon, maghisgot lang ako bahin sa unang duha ka solusyon: Thanos и VictoriaMetrics.

Sa unang higayon nga impormasyon bahin sa Thanos nagpakita sa kini nga sumpay. Ang arkitektura gihulagway Thanos ug giunsa kini paglihok.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Gikuha ni Thanos ang datos nga gitipigan ni Prometheus sa lokal nga drive ug gikopya kini sa S3, Ang GCS o sa laing butang nga tipiganan.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sa ingon ang Thanos naghatag usa ka global nga pagtan-aw sa pangutana. Mahimo nimong pangutan-on ang datos nga gitipigan sa pagtipig sa butang gikan sa daghang mga higayon sa Prometheus.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Gisuportahan ni Thanos ang PromQL ug Prometheus nga nagpangutana sa API.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Gigamit ni Thanos ang Prometheus code sa pagtipig sa datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Thanos gimugna sa parehas nga mga developer sama sa Prometheus.

sa VictoriaMetrics. Dinhi linkdiin una ta nagstorya VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang VictoriaMetrics nakadawat og datos gikan sa daghang prometheus layo nga pagsulat API protocol nga gisuportahan sa Prometheus.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Naghatag ang VictoriaMetrics og pangkalibutanon nga pagtan-aw sa pangutana, tungod kay daghang mga higayon sa Prometheus ang makasulat ug datos sa usa ka VictoriaMetrics. Sa ingon, mahimo kang maghimo mga pangutana sa tanan niini nga datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Gisuportahan usab sa VictoriaMetrics, sama sa Thanos, PromQL ug Prometheus querying API.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Dili sama sa Thanos, ang source code sa VictoriaMetrics gisulat gikan sa wala ug gi-optimize alang sa katulin ug pagkonsumo sa kapanguhaan.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang VictoriaMetrics, dili sama sa Thanos, nagtimbang sa patayo ug pinahigda. Kaon Single-node nga bersyon, nga nagtimbang nga patindog. Mahimo ka magsugod sa usa ka processor ug 1 GB nga memorya ug motubo hangtod sa gatusan ka mga processor ug 1 TB nga memorya. Nahibal-an sa VictoriaMetrics kung giunsa paggamit ang tanan nga kini nga mga kapanguhaan. Ang pasundayag niini motaas sa mga 100 ka beses kon itandi sa usa ka 1-core nga sistema.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Nagsugod ang kasaysayan sa Thanos kaniadtong Nobyembre 2017, sa dihang migawas ang unang public commit. Sa wala pa kini, ang Thanos naugmad sa balay imposible.io.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Niadtong Hunyo 2019, adunay usa ka timaan nga pagpagawas 0.5.0, diin gikuha tsismis protocol. Gitangtang siya sa Thanos tungod kay dili maayo ang iyang performance. Kasagaran ang kumpol sa Thanos wala molihok sa husto, ang mga node nga konektado niini dili husto tungod sa protocol sa tsismis. Busa nakahukom kami nga tangtangon kini gikan didto. Nagtuo ko nga kini ang husto nga desisyon.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sa parehas nga Hunyo 2019, nagpadala sila usa ka numero sa aplikasyon 256 в Cloud Native Computing Foundation.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ug pagkahuman sa pila ka bulan, gidawat si Thanos Cloud Native Computing Foundation, nga naglakip sa Prometheus, Kubernetes ug uban pang sikat nga mga proyekto.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Niadtong Enero 2018, nagsugod ang pag-uswag sa VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Niadtong Septembre 2018, una nakong gihisgutan sa publiko ang VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sa Disyembre 2018, ang Single-node nga bersyon gipatik.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sa Mayo 2019 gimantala tinubdan sa Single-node ug cluster nga bersyon.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Niadtong Hunyo 2019, sama ni Thanos, nagsumite kami og aplikasyon sa pundasyon sa CNCF ubos sa numero 255. Nag-apply kami usa ka adlaw sa wala pa mag-apply si Thanos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Pero, unfortunately, wala gihapon mi gidawat didto. Gikinahanglan ang tabang sa komunidad.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Hunahunaa ang labing hinungdanon nga mga slide nga nagpakita sa arkitektura sa Thanos ug VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Magsugod ta sa Thanos. Ang mga dilaw nga sangkap mao ang mga sangkap sa Prometheus. Ang tanan mao ang mga sangkap sa Thanos. Magsugod kita sa labing hinungdanon nga sangkap. Ang Thanos Sidecar usa ka sangkap nga gi-install sunod sa matag Prometheus. Kini ang responsable sa pagkarga sa datos sa Prometheus gikan sa lokal nga pagtipig ngadto sa S3 o uban pang Pagtipig sa Butang.

Adunay usab usa ka bahin sama sa Thanos Store Gateway, nga makabasa niini nga datos gikan sa Object Storage sa umaabot nga mga hangyo gikan sa Thanos Query. Ang Thanos Query nagpatuman sa PromQL ug Prometheus API. Sa ato pa, sa gawas murag Prometheus. Gidawat niini ang mga hangyo sa PromQL, gipadala kini sa Gateway sa Thanos Store, nakuha sa Gateway sa Thanos Store ang kinahanglan nga datos gikan sa Pagtipig sa Object, gipabalik kini.

Apan kami adunay mga datos nga gitipigan sa Object Storage nga wala ang katapusang duha ka oras tungod sa pagpatuman sa Thanos Sidecar, nga dili maka-upload sa katapusang duha ka oras sa Object Storage S3, tungod kay ang Prometheus wala pa makahimo og mga file sa lokal nga storage sulod niining duha ka oras.

Giunsa nimo pagdesisyon nga likayan kini? Ang Thanos Query, dugang sa mga hangyo sa Thanos Store Gateway, nagpadala ug parallel requests sa matag Thanos Sidecar nga sunod sa Prometheus.

Ug si Thanos Sidecar, sa baylo, ang mga proxy nangayo pa sa Prometheus, ug nakakuha mga datos sa katapusan nga duha ka oras.

Gawas pa sa kini nga mga sangkap, adunay usab usa ka opsyonal nga sangkap, kung wala ang Thanos mobati nga dili maayo. Kini mao ang Thanos Compact, nga naghiusa sa gagmay nga mga file sa Object Storage ngadto sa mas dagkong mga file nga gi-upload dinhi ni Thanos Sidecars. Ang Thanos Sidecar nag-upload sa mga file sa datos didto sulod sa duha ka oras. Kini nga mga file, kung dili kini i-merge ngadto sa mas dagkong mga file, ang ilang gidaghanon mahimong motubo nga dako kaayo. Ang mas daghang ingon nga mga file, mas daghang memorya ang gikinahanglan alang sa Thanos Store Gateway, mas daghang mga kapanguhaan ang gikinahanglan aron mabalhin ang data sa network, metadata. Ang Thanos Store Gateway nahimong dili epektibo. Busa, gikinahanglan ang pagpadagan sa Thanos Compact, nga naghiusa sa gagmay nga mga file ngadto sa mas dagko, aron adunay gamay nga mga file ug aron makunhuran ang overhead sa Thanos Store Gateway.

Adunay usab usa ka bahin sama sa Thanos Ruler. Nagpatuman kini sa mga lagda sa pag-alerto sa Prometheus ug maka-compute sa mga lagda sa pagrekord sa Prometheus aron masulat ang datos balik sa Object Storage. Apan kini nga sangkap dili girekomenda nga gamiton, tungod kay. Siya lagmit nga ibalik ang dili kompleto nga datos.

Ania ang usa ka yano nga laraw alang sa Thanos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Karon atong itandi sa pamaagi sa VictoriaMetrics.

Ang VictoriaMetrics adunay 2 ka bersyon: Single-node ug cluster nga bersyon. Ang single-node nagdagan sa usa ka kompyuter. Ang single-node wala niini nga mga component, usa lang ka binary. Kini nga binary sa slide morag kini nga square. Ang tanan sulod sa square mao ang sulod sa binary file para sa Single-node nga bersyon. Dili nimo kinahanglan nga mahibal-an bahin niini. Pagdagan lang ang binary - ug ang tanan molihok alang kanamo.

Ang bersyon sa cluster mas lisud. Sa sulod niini adunay tulo ka lainlaing mga sangkap: vmselect, vminsert ug vmstorage. Gikan sa ilang ngalan kinahanglan nga klaro kung unsa ang gibuhat sa matag usa kanila. Ang Insert component modawat sa data sa lain-laing mga format: gikan sa Prometheus remote write API, ang Influx line protocol, ang Graphite protocol, ug ang OpenTSDB protocol. Gidawat kini sa Insert component, gi-parse kini, ug giapod-apod kini sa mga kasamtangan nga sangkap sa pagtipig, diin ang datos gitipigan na. Ang Select component, sa baylo, modawat sa PromQL nga mga pangutana. Kini nagpatuman PromQL, ingon man ang Prometheus querying API, ug mahimong gamiton isip puli sa Prometheus sa Grafana o uban pang mga kliyente sa Prometheus API. Ang Select nagkinahanglan og promql request, pag-parse niini, pagbasa sa gikinahanglan nga datos aron mapatuman kini nga hangyo gikan sa mga storage node, pagproseso niini nga datos ug ibalik ang tubag.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Atong itandi ang pagkakomplikado sa pag-instalar sa Thanos ug VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Magsugod ta sa Thanos. Sa dili ka pa magsugod sa pagtrabaho kauban si Thanos, kinahanglan ka maghimo usa ka balde sa Object Storage, sama sa S3 o GCS, aron ang Thanos Sidecar makasulat ug datos didto.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Unya alang sa matag Prometheus kinahanglan nimo nga i-install ang Thanos Sidecar. Sa wala pa kana, kinahanglan nimong hinumdoman nga i-disable ang data compaction sa Prometheus. Ang data compaction matag karon ug unya nag-compress sa data sa Prometheus local storage aron makunhuran ang konsumo sa kapanguhaan.

Kung imong gi-install ang Thanos Sidecar sa imong Prometheus kinahanglan nimo nga i-disable kini nga data compaction tungod kay ang Thanos Sidecar dili molihok sa husto nga paagi sa data compaction enabled. Kini nagpasabot nga ang imong Prometheus nagsugod sa pag-save sa datos sa mga bloke sa duha ka oras ug mihunong sa paghiusa niini nga mga bloke ngadto sa mas dagko. Tungod niini, kung maghimo ka og mga hangyo nga molapas sa gidugayon sa katapusang duha ka oras, nan dili kini molihok nga episyente sama sa ilang mahimo kung mahimo ang pag-compact sa datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Busa, girekomenda ni Thanos ang pagkunhod sa oras sa pagtipig sa datos sa lokal nga pagtipig sa 6-8 ka oras aron makunhuran kini nga overhead sa daghang gagmay nga mga bloke.

Human nimo ma-install ang Thanos Sidecar, kinahanglan nimo nga i-install ang duha ka sangkap alang sa matag Object Storage Bucket. Kini mao ang Thanos Compactor ug Thanos Store Gateway.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Pagkahuman niana, kinahanglan nimo nga i-install ang Thanos Query ug i-configure kini aron makakonekta kini sa tanan nga mga Gateway sa Thanos Store nga naa kanimo, ingon usab makakonektar sa tanan nga Thanos Sidecars.

Tingali adunay gamay nga problema dinhi.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Kinahanglan nimo nga magbutang usa ka kasaligan ug luwas nga koneksyon gikan sa Thanos Query sa kini nga mga sangkap. Ug kung ikaw adunay Prometheus'y nga nahimutang sa lainlaing mga sentro sa datos, o sa lainlaing mga VPC, nan ang mga koneksyon sa kanila gikan sa gawas gidili. Apan aron magtrabaho ang Thanos Query, kinahanglan nimo nga i-configure ang koneksyon didto, ug kinahanglan ka maghimo usa ka paagi.

Kung daghan ka sa ingon nga mga sentro sa datos, nan, sa ingon, ang pagkakasaligan sa tibuuk nga sistema mikunhod. Tungod kay ang Thanos Query kinahanglan kanunay nga magpadayon sa mga koneksyon sa tanan nga Thanos Sidecars nga nahimutang sa lainlaing mga sentro sa datos. Sa matag umaabot nga hangyo, magpadala kini mga hangyo sa tanan nga Thanos Sidecars. Kung ang koneksyon nabalda, nan makadawat ka usa ka dili kompleto nga set sa datos, o makadawat ka usa ka tubag nga "wala molihok ang cluster".

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sa VictoriaMetrics, ang mga butang mas simple. Alang sa Single-node nga bersyon, pagdagan lang ang usa ka binary ug ang tanan molihok.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sa clustered nga bersyon, igo na nga modagan ang tanan nga tulo ka matang sa mga sangkap sa ibabaw sa bisan unsang gidaghanon nga imong gikinahanglan, o gamiton tsart sa timon aron awtomatiko ang paglansad sa mga sangkap sa Kubernetes. Nagplano usab kami nga maghimo usa ka operator sa Kubernetes. Ang tsart sa helm wala maglakip sa pipila ka mga kaso ug nagtugot kanimo sa pagpusil sa imong tiil. Pananglitan, kini nagtugot kanimo sa pagpakunhod sa gidaghanon sa mga storage node, nga mosangpot sa pagkawala sa datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Human nimo gilansad ang usa ka binary o clustered nga bersyon, kinahanglan nimo nga idugang sa Prometheus config setting alang sa hilit nga pagsulat urlaron kini magsugod sa pagsulat sa datos nga susama sa lokal nga pagtipig ug hilit nga pagtipig. Sama sa imong nakita, kini nga pagsumpo kinahanglan nga molihok nga labi ka kasaligan kaysa sa pagsumpo sa Thanos. Dili namo kinahanglan nga magtipig ug koneksyon gikan sa VictoriaMetrics ngadto sa tanan nga Prometheus, tungod kay ang Prometheus mismo nagkonektar sa VictoriaMetrics ug nagbalhin sa datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ikonsiderar ang suporta alang sa Thanos ug VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Kinahanglan nga bantayan ni Thanos ang Sidecar aron dili sila mohunong sa pag-upload sa datos sa Object Storage. Mahimo nilang hunongon kini nga pag-download sa datos tungod sa mga sayup sa pag-download, sama sa imong koneksyon sa network sa Object Storage temporaryo nga nawala, o ang Object Storage temporaryo nga wala magamit. Ang Thanos Sidecar makamatikod niini niining puntoha, magreport sa usa ka sayup, mahimong ma-crash ug unya mohunong sa pagtrabaho. Kung dili nimo kini bantayan, nan ang imong data dili na ibalhin sa Object Storage. Kung molabay ang oras sa pagpadayon (girekomenda ang 6-8 ka oras), mawad-an ka sa datos nga wala makuha sa Pagtipig sa Object.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang mga compactor sa Thanos mahimong mohunong sa pagtrabaho tungod sa lumba sa Sidecar. Ang mga Compactor nagkuhag datos gikan sa Object Storage ug gihiusa kini ngadto sa dagkong mga tipik sa datos. Tungod kay ang mga compactor wala ma-synchronize sa mga Sidecar, ang mosunod mahimong mahitabo: ang Sidecar wala pay panahon sa pagdugang sa block, ang Compactor mihukom nga kini nga block hingpit nga gisulat. Ang Compactor nagsugod sa pagbasa niini. Gibasa niini ang block nga dili kompleto ug mihunong sa pagtrabaho. Tan-awa ang mga detalye dinhi.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Gateway sa Store mahimong magbalik sa dili managsama nga datos tungod sa mga karera tali sa Compactor ug Sidecar. Kini mao ang sama nga butang dinhi, tungod kay ang Store Gateway dili synchronize sa Compactors ug Sidecars sa bisan unsa nga paagi. Tungod niini, ang mga kondisyon sa lumba mahimong mahitabo kung ang Store Gateway dili makakita sa bahin sa datos, o makakita og dugang nga datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Query component sa Thanos nagbalik sa partial nga resulta pinaagi sa default kung ang pipila ka Sidecars o Store Gateways dili magamit sa pagkakaron. Madawat nimo ang pipila sa mga datos, ug dili gani mahibal-an nga wala nimo nadawat ang tanan nga datos. Ingon niini kung giunsa kini molihok pinaagi sa default. Sa parehas nga sitwasyon, gibalik sa VictoriaMetrics ang gimarkahan nga datos nga partial.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Dili sama sa Thanos, ang VictoriaMetrics panagsa ra mawad-an sa datos. Bisan kung ang koneksyon gikan sa Prometheus hangtod sa VictoriaMetrics nabalda, nan kini dili usa ka problema, tungod kay si Prometheus nagpadayon sa pagsulat sa umaabot nga bag-ong datos sa Write Ahead Log, nga 2 ka oras ang gitas-on. Kung imong ibalik ang koneksyon sa VictoriaMetrics sulod sa duha ka oras, ang data dili mawala. Prometheus mahimong makadugang sa datos human makonektar pag-usab sa VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Dili sama sa Thanos, nga nagsulat sa data ngadto sa object storage human lang sa duha ka oras, ang Prometheus awtomatikong mokopya sa datos pinaagi sa remote write protocol ngadto sa remote storage, sama sa VictoriaMetrics. Dili ka mahadlok nga mawala ang lokal nga pagtipig sa Prometheus. Kung siya kalit nga nawad-an sa lokal nga pagtipig, nan mawala nimo ang katapusang mga segundo sa datos nga wala’y oras sa pagsulat sa hilit nga pagtipig sa labing grabe nga kaso.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Awtomatikong gidumala sa Kubernetes ang cluster dili sama sa Thanos. Lisud ibutang ang tanang component sa Thanos sa usa ka Kubernetes cluster, dili sama sa VictoriaMetrics cluster components.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang VictoriaMetrics adunay dali kaayo nga pag-upgrade sa bag-ong bersyon. Hunong lang ang VictoriaMetrics, i-update ang mga binary ug sugdi. Kung gihunong pinaagi sa usa ka signal sa SIGINT, ang tanan nga binary sa VictoriaMetrics naghimo usa ka maayo nga pagsira. Sakto nga gitipigan nila ang kinahanglan nga datos, husto nga pagsira sa umaabot nga mga koneksyon aron dili mawala ang bisan unsang butang. Mao nga dili ka mawala kung mag-upgrade ka.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sayon ra kaayo alang sa VictoriaMetrics ang pagpalapad sa cluster. Idugang lang ang gikinahanglan nga mga sangkap ug padayon sa pagtrabaho.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Mahitungod sa mga lit-ag sa Thanos ug VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Thanos adunay mosunod nga mga lit-ag. Ang Prometheus kinahanglan nga magtipig sa datos sa katapusang duha ka oras. Kung mawala sila, hingpit nga mawala nimo sila, tungod kay wala silay panahon sa pagsulat sa Object Storage, sama sa S3.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Store Gateway component ug compactor component mahimong memory intensive sa pag-atubang sa dako nga Object Storage kung adunay daghang gagmay nga mga file nga gitipigan didto. Kon mas dako ang gidaghanon ug gidak-on sa mga file, mas daghang RAM ang gikinahanglan sa Store Gateway ug compactor sa pagtipig sa impormasyon sa meta. Daghan kaayog isyu si Thanos bahin sa unsa Store Gateway ug compactor crash sa medium volume sa data nga gisulat.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Gi-anunsyo si Thanos nga makahimo sa pagsukod hangtod sa hangtod sa gidaghanon sa Prometheus nga naa kanimo. Sa pagkatinuod kini dili tinuod. Tungod kay ang tanan nga mga hangyo moagi sa Query component, nga kinahanglan poll ang tanan nga Store Gateway nga mga sangkap ug ang tanan nga mga sangkap sa Sidecar nga managsama, pagkuha sa datos gikan didto ug dayon iproseso kini. Dayag nga ang rate sa mga hangyo limitado sa pinakahinay nga huyang nga link, ang pinakahinay nga Store Gateway o ang pinakahinay nga Sidecar.

Kini nga mga sangkap mahimong dili parehas nga gikarga. Pananglitan, aduna kay Prometheus, nga nagkolekta og minilyon nga metrics kada segundo. Ug adunay Prometheus, nga nagkolekta sa libu-libo nga mga sukatan matag segundo. Ang Prometheus, nga nagkolekta sa milyon-milyon nga mga sukatan matag segundo, nag-load sa server diin kini nagdagan labi pa. Subay niini, mas hinay ang Sidecar didto. Ug sa kinatibuk-an, ang tanan didto hinay. Ug ang bahin sa Pangutana mobira sa datos nga hinay kaayo gikan didto. Tungod niini, ang pasundayag sa imong tibuok cluster mahimong limitado niining hinay nga Sidecar.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Sa kasagaran, gibalik ni Thanos ang partial data kung dili magamit ang pipila nga Sidecar ug bisan asa nga mga Gateway sa Store. Pananglitan, kung ikaw adunay mga Sidecar nga nagkatag sa tibuuk kalibutan sa lainlaing mga sentro sa datos, nan ang kalagmitan sa pagkadiskonekta ug pagkadili magamit sa mga sangkap labi nga nagdugang. Tungod niini, sa kadaghanang mga kaso, makadawat ka ug partial data nga wala gani mahibalo niini.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang VictoriaMetrics usab adunay mga lit-ag. Ang unang lit-ag mao ang usa ka kapilian nga naglimite sa gidaghanon sa RAM nga gigamit alang sa VictoriaMetrics cache. Nag-default kini sa 60% RAM sa makina diin ang VictoriaMetrics nagdagan, o 60% RAM sa VictoriaMetrics pod sa Kubernetes.

Kung sayop ang imong pag-ilis niini nga bili, mahimo nimong gub-on ang performance sa VictoriaMetrics. Pananglitan, kung ang kantidad gitakda nga ubos kaayo, nan ang datos mahimong dili na mohaum sa VictoriaMetrics cache. Tungod niini, kinahanglan siyang maghimo dugang nga trabaho ug i-load ang processor gamit ang disk. Kung gihimo nimo kini nga kapilian nga dako kaayo, kini nagdugang, una, ang posibilidad nga ang VictoriaMetrics ma-crash nga adunay usa ka out of memory error, ug ikaduha, kini modala sa kamatuoran nga ang operating system adunay gamay ra nga nahabilin nga RAM. memory para sa file cache. Ug ang VictoriaMetrics nagsalig sa file cache alang sa pasundayag. Kung kini dili igo, nan ang load sa disk mahimong madugangan pag-ayo. Busa, tambag: ayaw usba ang parameter gawas kung gikinahanglan.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ikaduha nga kapilian. Kini nga retentionPeriod usa ka yugto nga gitakda sa 1 ka bulan nga default. Kini ang panahon diin gitipigan sa VictoriaMetrics ang datos. Pagkahuman niini nga panahon, gitangtang sa VictoriaMetrics ang datos.

Daghang mga tawo ang nagpadagan sa VictoriaMetrics nga wala kini nga kapilian ug nagrekord sa datos sulod sa usa ka bulan. Ug unya nangutana sila: nganong nawala ang datos sa miaging bulan? Kay ang default retentionPeriod kay 1 month. Busa, kinahanglan nimo mahibal-an ug itakda ang husto nga retentionPeriod.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Atong susihon ang talagsaon nga mga bahin.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Thanos adunay feature nga gitawag og downsampling: 5-minuto ug matag oras nga agwat, nga sagad dili molihok sa husto. Kung mag-google ka ug tan-awon ang ilang isyu sa github, adunay daghang mga isyu nga may kalabutan sa kini nga downsampling, nga usahay dili kini molihok sa husto, o dili molihok sama sa gipaabut sa mga tiggamit.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Thanos adunay data deduplication alang sa Prometheus HA nga mga pares. Kung ang duha ka Prometheus nangolekta sa parehas nga mga sukatan gikan sa parehas nga mga target ug gidugang kini ni Thanos sa Pagtipig sa Object. Ang Thanos makahimo sa husto nga pag-dedupe niini nga datos, dili sama sa VictoriaMetrics.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Thanos adunay usa ka alerto nga sangkap nga naa sa eskematiko sa Thanos. Apan siya dili girekomendar alang sa paggamit sa produksyon.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang Thanos adunay bentaha nga si Thanos ug Prometheus adunay parehas nga code. Ang Thanos ug Prometheus gimugna sa parehas nga mga developer. Sa mga pag-uswag sa Thanos o Prometheus, ang pikas nga bahin nagdaog.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang panguna nga bahin sa VictoriaMetrics mao ang MetricsQL. Kini ang mga extension sa VictoriaMetrics alang sa PromQL, nga akong gihisgutan sa miaging dako nga pag-monitor sa metup.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Gisuportahan sa VictoriaMetrics ang pag-upload sa datos gamit ang daghang lainlaing mga protocol. Ang VictoriaMetrics dili lamang makadawat sa datos gikan sa Prometheus, apan pinaagi usab sa Influx, OpenTSDB ug Graphite nga mga protocol.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang datos sa VictoriaMetrics nagkuha ug gamay nga wanang kaysa Thanos ug Prometheus.

Kung nagsulat sa tinuud nga datos, ang mga tiggamit naghisgot bahin sa usa ka 2-5 nga pilo nga pagkunhod sa gidak-on sa datos sa disk kumpara sa Prometheus ug Thanos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang laing bentaha sa VictoriaMetrics mao nga kini na-optimize alang sa katulin.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Atong hisgotan ang gasto sa imprastraktura.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Usa sa mga bentaha sa Thanos mao nga kini nagtipig sa datos sa pagtipig sa butang, nga medyo barato.

Sa pagtipig sa datos sa pagtipig sa butang, kinahanglan ka nga magbayad alang sa pagsulat sa datos ug mga operasyon sa pagbasa ($10 kada milyon nga operasyon). Kung nagsulat ka ug data sa pagtipig sa butang, bayran nimo ang imong gasto sa pag-host alang sa pag-upload sa datos sa Internet, kung ang imong cluster wala sa AWS - libre kini didto. Kung nagbasa ka sa datos, nagbayad ka tali sa $10 ug $230 alang sa 1TB. Mahimong hinungdanon kini kung kanunay ka nga mangayo ug mga datos sa kasaysayan gikan sa kumpol sa Thanos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Alang sa usa ka cluster sa Thanos, kinahanglan nimo nga bayran ang mga server alang sa Compact, Store Gateway, mga sangkap sa Query nga nanginahanglan daghang memorya, CPU alang sa daghang mga datos.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang VictoriaMetrics adunay mga musunod nga gasto. Kung magtipig ka ug data sa GCE HDDs, unya mogawas ang $40 para sa 1TB. Alang sa VictoriaMetrics, igo na ang ordinaryong HDD drive, wala’y kinahanglan nga mga SSD, nga nagkantidad og lima ka pilo. Ang VictoriaMetrics gi-optimize alang sa HDD.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang VictoriaMetrics nanginahanglan mga server alang sa mga sangkap: bisan ang Single-nod o alang sa mga clustered nga sangkap, nga, dili sama sa mga sangkap sa Thanos, nanginahanglan labi ka gamay nga CPU, RAM - matag usa, kini mas barato.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Mga pananglitan sa pagpatuman.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Alang kang Thanos, ang panig-ingnan sa pagpatuman mao ang Gitlab. Ang Gitlab hingpit nga nagdagan sa Thanos. Apan dili kaayo hapsay ang tanan didto. Kung tan-awon nimo sila mga isyu, unya imong makita nga sila kanunay adunay pipila mga problema sa operasyon sa Thanos: Dili igo nga memorya alang sa Store Gateway o Query nga mga sangkap. Kinahanglan nila kanunay nga dugangan ang gidaghanon sa memorya.

Tungod niini, ang mga gasto sa pagsulbad niini nga mga problema nagdugang.

Ang ikaduha nga pagpatuman, nga mahimong mas malampuson, mao ang Improbable, kinsa nagsugod sa pagpalambo sa Thanos. Ilang gipagawas ang tinubdan sa Thanos. Imposible usa ka kompanya nga nagpalambo sa mga makina sa dula.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang VictoriaMetrics adunay mga pananglitan sa pagpatuman sa publiko nga mao ang:

  • wix tigtukod sa website
  • Gipatuman sa Adidas ang VictoriaMetrics ug naghimo pa gani og presentasyon sa miaging PromCon 2019
  • TrafficStars-ad network
  • Ang Seznam.cz usa ka sikat nga makina sa pagpangita sa Czech.

Ug unya adunay mga kompanya nga wala’y ngalan nga dili nako mahingalan karon. Wala sila mosugot.

  • Usa ka mayor nga developer sa dula. Mas dako kay sa im Improbable.
  • Dako nga developer sa graphics software.
  • Dako nga bangko sa Russia.
  • Ang tiggama sa turbine sa hangin sa Europe nga malampuson nga nagsulay sa VictoriaMetrics. Kini nga tiggama nagpatuman sa VictoriaMetrics aron mamonitor ang datos sa wind turbine sa gikusgon nga 50 ka sample kada segundo kada sensor. Ang matag wind turbine adunay pipila ka gatos nga sensor. Adunay sila pipila ka gatos nga mga wind turbine.
  • Ang mga airline sa Russia nga gusto nga ipatuman ang VictoriaMetrics, apan dili gihapon mahimo. Anaa kami sa yugto sa kontrata uban kanila.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetricsMga konklusyon.

Gisulbad sa VictoriaMetrics ug Thanos ang parehas nga mga problema, apan sa lainlaing mga paagi:

  • Pangkalibutanon nga panan-aw sa pangutana
  • horizontal scaling
  • arbitraryong pagpabilin

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Спасибо.

Naghulat kami kanimo sa among channel sa telegrama.

Pagpili sa usa ka tindahan sa datos alang sa Prometheus: Thanos vs VictoriaMetrics

Ang mga rehistradong tiggamit lamang ang makaapil sa survey. Sign in, walay sapayan.

Unsa ang imong gigamit ingon nga dugay nga pagtipig alang sa Prometheus?

  • 35,3%Thanos6

  • 0,0%Cortex0

  • 0,0%M3DB0

  • 41,2%VictoriaMetrics7

  • 23,5%uban 4

17 ka tiggamit ang nagboto. 16 ka tiggamit ang nag-abstain.

Source: www.habr.com

Pagpalit kasaligan nga pag-host alang sa mga site nga adunay proteksyon sa DDoS, mga server sa VPS VDS 🔥 Pagpalit og kasaligang website hosting nga adunay proteksyon sa DDoS, VPS VDS servers | ProHoster