Ech proposéieren den Transkript vum Bericht vum Roman Khavronenko "ExtendedPromQL" ze liesen
Kuerz iwwer mech. Mäin Numm ass Roman. Ech schaffen fir CloudFlare a liewen zu London. Awer ech sinn och e VictoriaMetrics Ënnerhalter.
An ech sinn den Auteur fir Grafana an ass e klenge Proxy fir ClickHouse.
Mir fänke mam éischten Deel un, deen "Iwwersetzungsschwieregkeeten" genannt gëtt, an do wäert ech iwwer d'Tatsaach schwätzen datt all Sprooch oder souguer nëmmen eng Kommunikatiounssprooch ganz wichteg ass. Well dat ass wéi Dir Är Gedanken un eng aner Persoun oder System vermëttelt, wéi Dir eng Ufro formuléiert. D'Leit um Internet streiden iwwer wéi eng Sprooch besser ass - Java oder eng aner. Fir mech hunn ech décidéiert datt et néideg ass eng Aufgab ze wielen, well all dëst spezifesch ass.
Loosst eis vun Ufank un ufänken. Wat ass PromQL? PromQL ass Prometheus Query Language. Dëst ass wéi mir Ufroen am Prometheus bilden fir Zäitseriedaten, Zäitreihen ze kréien.
Wat ass Zäit Serie Daten? wuertwiertlech, dës sinn dräi Parameteren.
Dëst sinn:
- Wat mir kucken op.
- Wa mir et kucken.
- A wéi engem Wäert et weist.
Wann Dir dës Diagramm kuckt (dës Diagramm ass vu mengem Telefon, deen d'Statistike vu menge Schrëtt weist), da kënnt Dir dës Froen séier beäntweren.
Mir kucken op Schrëtt. Mir gesinn d'Bedeitung a mir gesinn d'Zäit wa mir et kucken. Dat ass, wann Dir op dësem Diagramm kuckt, kënnt Dir ganz einfach soen datt ech e Sonndeg ongeféier 15 Schrëtt gaang sinn. Dëst ass Zäit Serie Daten.
Loosst eis se elo "briechen" (transforméieren) se an en aneren Datemodell a Form vun enger Tabell. Hei hu mir och wat mir kucken. Hei hunn ech e bëssen zousätzlech Donnéeën bäigefüügt, déi mir Meta-Daten nennen, dat heescht, et war net ech, deen duerchgaang ass, awer zwee Leit, zum Beispill, Jay a Silent Bob. Dëst ass wat mir kucken; wat et weist a wéini et dee Wäert weist.
Loosst eis elo probéieren all dës Donnéeën an der Datebank ze späicheren. Zum Beispill hunn ech de ClickHouse Syntax geholl. An hei kreéiere mir en Dësch mam Numm "Schrëtt", also wat mir kucken. Et gëtt eng Zäit hei, wou mir et kucken; wat et weist an e puer Meta-Daten wou mir späichere wien et ass: Jay a Silent Bob.
A fir ze probéieren alles ze visualiséieren, wäerte mir Grafana benotzen, well et als éischt schéin ass.
Och wäerte mir dëse Plugin benotzen. Et ginn zwee Grënn dofir. Déi éischt ass well ech et geschriwwen hunn. An ech weess genau wéi schwéier et ass Zäitseriedaten aus ClickHouse erauszezéien fir et zu Grafana ze weisen.
Mir wäerten an der Grafik Panel weisen. Dëst ass déi populärste Panel zu Grafana a weist Wäert géint Zäit, also brauche mir nëmmen zwee Parameteren.
Loosst eis déi einfachst Ufro schreiwen - wéi Dir Schrëtt Statistiken an Grafana weist, dës Donnéeën am ClickHouse späicheren, an der Tabell déi mir erstallt hunn. A mir schreiwen esou eng einfach Ufro. Mir wielen aus Schrëtt. Mir wielt e Wäert a wielt d'Zäit vun dëse Wäerter, dh déi selwecht dräi Parameteren iwwer déi mir geschwat hunn.
An als Resultat kréien mir dës Grafik. Wien weess firwat hien esou komesch ass?
Dat ass richteg, Dir musst no Zäit sortéieren.
An um Enn kréie mer e besseren, awer trotzdem komeschen Zäitplang. Wien weess firwat? Dat ass richteg, et sinn zwee Participanten, a mir ginn zwou Zäitreihe zu Grafana ewech, well wa mir erëm mam Datemodell beschäftegen, dann ass all Zäitserie eng eenzegaarteg Kombinatioun vun engem Numm an all Etiketten Schlësselwäerter.
Dofir musse mir eng spezifesch Persoun wielen. Mir wielen Jay.
An nees molen. Elo gesäit d'Grafik aus wéi d'Wourecht. Elo ass et en normalen Zäitplang an alles funktionnéiert gutt.
An, wahrscheinlech, wësst Dir wéi Dir ongeféier datselwecht maacht, awer am Prometheus iwwer PromQL. Ongeféier esou. E bësse méi einfach. A loosst eis alles opbriechen. Mir hu Schrëtt gemaach. A filtert vum Jay. Mir präziséieren hei net datt mir e Wäert musse kréien a mir wielen keng Zäit.
Loosst eis elo probéieren d'Bewegungsgeschwindegkeet vum Jay oder Silent Bob ze berechnen. Am ClickHouse musse mir lafenDifference maachen, dh den Ënnerscheed tëscht Pairen vu Punkte berechent an se duerch Zäit deelen fir déi exakt Geschwindegkeet ze kréien. D'Demande wäert esou ausgesinn.
An hie wäert ongeféier dës Wäerter weisen, dh ongeféier 1,8 Schrëtt pro Sekonn mécht Silent Bob oder Jay.
An am Prometheus wësst Dir wéi et och ze maachen. Vill méi einfach wéi virdrun.
A fir et och einfach zu Grafana ze maachen, hunn ech esou e Wrapper bäigefüügt, dee ganz ähnlech wéi PromQL ausgesäit. Et nennt een Rate Macros, oder wéi een et och nenne wëllt. Zu Grafana schreift Dir just "Taux", awer iergendwou déif verwandelt et an esou eng grouss Ufro. An Dir musst et net emol kucken, et ass iergendwou do, awer Dir spuert vill Zäit, well sou rieseg SQL Ufroen schreiwen ass ëmmer deier. Dir kënnt einfach e Feeler maachen an dann net verstoen wat geschitt fir eng laang Zäit.
An dëst ass eng Ufro déi net emol op engem Rutsch passt, an ech hu se souguer an zwou Kolonnen missen opdeelen. Dëst ass och eng Ufro am ClickHouse, déi deeselwechten Taux mécht, awer fir béid Zäitserie: Silent Bob a Jay, sou datt mir zwou Zäitreihen um Panel hunn. An dat ass menger Meenung no scho ganz schwéier.
An no Prometheus wäert et Zomm (Taux). Fir ClickHouse hunn ech e separaten Makro mam Numm RateColumns gemaach deen ausgesäit wéi eng Prometheus Ufro.
Mir hunn gekuckt an et schéngt datt PromQL alles sou cool ass, awer et huet natierlech Aschränkungen.
Dëst sinn:
- Limitéiert SELECT.
- Rand JOINs.
- Keng Ënnerstëtzung.
A wann Dir eng laang Zäit domat geschafft hutt, da wësst Dir datt et heiansdo ganz schwéier ass eppes am PromQL ze maachen, an an SQL kënnt Dir bal alles maachen, well all dës Optiounen, iwwer déi mir just geschwat hunn, kënnen an SQL gemaach ginn . Awer wier et bequem et ze benotzen? An dat mécht mech denken datt net ëmmer déi mächtegst Sprooch déi bequemste ka sinn.
Dofir, heiansdo musst Dir eng Sprooch fir Aufgaben wielen. Et ass wéi eng Schluecht tëscht Batman an Superman. Et ass kloer datt den Superman méi staark ass, awer de Batman konnt hien besiegen well hie méi praktesch ass a wousst genau wat hie mécht.
An den nächsten Deel ass PromQL verlängeren.
Nach eng Kéier iwwer VictoriaMetrics. Wat ass VictoriaMetrics? Dëst ass eng Zäitserie Datebank, et ass an OpenSource, mir verdeelen seng Single a Cluster Versiounen. Laut eise Benchmarks ass et dee schnellsten deen elo um Maart ass an et ass ähnlech wat d'Kompressioun ugeet, dh lieweg Leit mellen Kompressioun vu ronn 0,4 Bytes pro Punkt, wann de Prometheus 1,2-1,4 huet.
Mir ënnerstëtzen net nëmmen de Prometheus. Mir ënnerstëtzen InfluxDB, Graphite, OpenTSDB.
Dir kënnt an eis "schreiwen", dat ass, Dir kënnt al Daten Transfert.
A mir schaffen och perfekt mat Prometheus a Grafana, dat heescht mir ënnerstëtzen de PromQL Motor. An zu Grafana kënnt Dir einfach de Prometheus Endpunkt op VictoriaMetrics änneren an all Är Dashboards funktionnéieren wéi se gemaach hunn.
Awer Dir kënnt och zousätzlech Chips benotzen, déi vun VictoriaMetrics geliwwert ginn.
Mir wäerte séier duerch d'Features goen, déi mir derbäigesat hunn.
Intervallparam ofginn - Dir kënnt Parameterintervall a Grafana iwwersprangen. Wann Dir keng komesch Grafike wëllt kréien beim Zoom-in/Out am Panel, ass et recommandéiert d'Variabel ze benotzen $__interval. Dëst ass eng intern Grafana Ännerung an et wielt d'Dateberäich selwer. A VictoriaMetrics ka selwer verstoen wat dës Gamme soll sinn. An Dir musst net all Är Ufroen aktualiséieren. Et wäert vill méi einfach ginn.
Déi zweet Funktioun ass Intervall Referenz. Dir kënnt dës Abstand an Ären Ausdréck benotzen. Dir kënnt multiplizéieren, deelen, transferéieren, op et bezéien.
Nächst ass d'Rollup Funktioun Famill. D'Rollup Funktioun transforméiert all Är Zäitreihe an dräi getrennten Zäitreihen. Dëst sinn min, max an avg. Ech fannen et ganz bequem, well heiansdo kann et e puer Auslänner (Anomalien) an Ongenauegkeeten weisen.
A wann Dir just rosen oder bewäerten, da kënnt Dir wahrscheinlech e puer Fäll verpassen, wou d'Zäitreihe sech net behuelen wéi Dir geduecht hutt. Et ass vill méi einfach mat dëser Funktioun ze gesinn, loosst eis soen datt de max ganz vill ass avg.
Als nächst ass d'Standardvariabel. Default - dat heescht wat Wäert mir mussen zu Grafana molen wa mir keng Zäit Serie am Moment hunn. Wéini geschitt et? Loosst eis soen datt Dir e puer Feeler Metriken exportéiert. An Dir hutt esou eng cool Applikatioun datt wann Dir ufänkt, Dir hutt keng Feeler an och keng Feeler fir déi nächst dräi Stonnen oder souguer den Dag. An Dir hutt Dashboards déi Bezéiunge vu Succès bis Feeler weisen. A si weisen Iech näischt well Dir keng Fehler Metrik hutt. An am Standard kënnt Dir alles uginn.
Keep_last_Value - späichert de leschte Wäert vun der Metrik wann et fehlt. Wann de Prometheus no der nächster Schrack et net bannent 5 Minutten fonnt huet, da erënnere mir eis un de leschte Wäert an Är Charts wäerten net erëm briechen.
Scrape_interval - weist wéi dacks Prometheus Daten iwwer Är Metrik sammelt, mat wéi enger Frequenz. Hei kënnt Dir zum Beispill de Pass gesinn.
Label Ersatz ass eng populär Feature. Awer mir mengen et ass e bësse komplizéiert well et ganz Zuelen Argumenter brauch. An Dir musst net nëmmen déi 5 Argumenter erënneren, awer och hir Sequenz erënneren.
Dofir, firwat se net méi einfach maachen? Dat ass, opzedeelen et a kleng Funktiounen mat kloer Syntax.
An elo déi interessantst. Firwat mengen mir datt et PromQL verlängert ass? Well mir ënnerstëtzen Common Table Expressions. Dir kënnt de QR Code verfollegen (), kuckt Linken mat Beispiller, vun der Spillplaz, wou Dir Ufroen direkt an VictoriaMetrics lafen kann ouni se just am Browser z'installéieren.
A wat ass et? Dës Ufro vun uewen ass eng zimlech populär Ufro. Ech mengen an all Dashboard a ville Firmen benotzt Dir dee selwechte Filter fir alles. Normalerweis esou. Awer wann Dir e neie Filter addéiere musst, musst Dir all Panel aktualiséieren, oder den Dashboard eroflueden, et op JSON opmaachen, e Find Ersatz maachen, wat och Zäit brauch. Firwat späichert dëse Wäert net an enger Variabel a benotzt se erëm? Et gesäit, menger Meenung no, vill méi einfach a méi kloer aus.
Zum Beispill, wann ech Filteren an Grafana an all Ufroen aktualiséieren muss, an den Dashboard kann enorm sinn oder et kënne souguer e puer vun hinnen sinn. A wéi géif ech dëse Problem zu Grafana léisen?
Ech léisen dëse Problem esou: Ech maachen e CommonFilter an definéieren dëse Filter dran, an dann benotzen ech et an Ufroen. Awer wann Dir datselwecht elo maacht, funktionnéiert et net well Grafana erlaabt Iech net Variablen an Ufrovariablen ze benotzen. An et ass e bësse komesch.
An dofir hunn ech eng Optioun gemaach, déi Iech erlaabt dëst ze maachen. A wann Dir interesséiert sidd oder esou eng Feature wëllt, dann ënnerstëtzen oder net gär wann Dir dës Iddi net gär hutt.
Méi iwwer PromQL verlängert. Hei definéiere mir net nëmmen eng Variabel, awer direkt eng ganz Funktioun. A mir nennen et ru (Ressourceverbrauch). An dës Funktioun akzeptéiert gratis Ressourcen, eng Ressourcelimit an e Filter. D'Syntax schéngt einfach ze sinn. An et ass ganz einfach dës Funktioun ze benotzen an de Prozentsaz vun der fräier Erënnerung ze berechnen déi mir hunn. Dat ass, wéi vill Erënnerung mir hunn, wat Limite a wéi Filter. Et gesäit vill besser aus wann Dir alles géift schreiwen andeems Dir déiselwecht Filtere benotzt, well et zu enger grousser grousser Ufro gëtt.
An hei ass e Beispill vun esou enger grousser, grousser Demande. Et ass vum offiziellen NodeExporter Dashboard fir Grafana. Mee ech verstinn net wierklech wat hei lass ass. Dat ass, natierlech, ech verstinn wann Dir genau kuckt, mä d'Zuel vun de Klammern kann direkt d'Motivatioun reduzéieren fir ze verstoen wat hei geschitt. A firwat et net méi einfach a méi kloer maachen?
Zum Beispill, wéi dëst, bedeitend Saachen oder Deeler a Variabelen ervirhiewen. An dann Är Basis Mathematik. Dëst ass méi wéi programméiere, dat ass wat ech gär an Zukunft zu Grafana gesinn.
Hei ass en zweet Beispill vu wéi mir et nach méi einfach maache kënnen wa mir dës ru Funktioun schonn haten, an et existéiert schonn direkt an VictoriaMetrics. An dann passéiert Dir just de cache Wäert deen Dir am CTE deklaréiert hutt.
Ech hu scho geschwat wéi wichteg et ass déi richteg Programméierungssprooch ze benotzen. An, wahrscheinlech, eppes anescht ass lass zu Grafana an all Firma. A wahrscheinlech gitt Dir ëmmer nach Zougang zu Grafana fir Är Entwéckler, an d'Entwéckler maachen eppes vun hiren eegene. A si maachen et all op eng aner Manéier. Awer ech wollt et iergendwéi d'selwecht, dat heescht, op e gemeinsame Standard reduzéiert.
Loosst eis soen datt Dir net emol just Systemingenieuren hutt, vläicht hutt Dir souguer Experten, Devops oder SREs. Vläicht hutt Dir Experten déi wësse wat Iwwerwaachung ass, wësse wat Grafana ass, dat heescht si schaffe schonn zënter Joeren domat a si wësse genau wéi se et richteg maachen. A si hunn et schonn 100 Mol geschriwwen an jidderengem erkläert, awer aus iergendengem Grond lauschtert keen.
Wat wa se dëst Wëssen direkt an Grafana kéinte setzen, sou datt aner Benotzer d'Funktioune kënnen nei benotzen? A wann et néideg wier de Prozentsaz vum fräie Gedächtnis ze berechnen, da géifen se einfach d'Funktioun applizéieren. Awer wat wann d'Creatoren vun Exporter, zesumme mat hirem Produkt, och eng Rei vu Funktiounen ubidden, wéi se mat hire Metriken schaffen, well se genau wësse wat dës Metriken sinn a wéi se se richteg ausrechnen?
Dës gëtt et net wierklech. Hei ass wat ech selwer gemaach hunn. Dëst ass d'Bibliothéik Ënnerstëtzung zu Grafana. Loosst eis soen datt d'Jongen, déi den NodeExporter gemaach hunn, gemaach hunn wat ech beschriwwen hunn. An och e Set vu Feature geliwwert.
Dat heescht, et gesäit sou eppes aus. Dir verbënnt dës Bibliothéik mat Grafana, Dir gitt an d'Editioun, an hei ass et ganz einfach am JSON wéi Dir mat dëser Metrik schafft. Dat ass, e puer Set vu Funktiounen, hir Beschreiwung a wat se entfalen.
Menger Meenung no kéint dat nëtzlech sinn, well da schreift Dir grad esou an Grafana. A Grafana "seet" Iech datt et esou an esou eng Funktioun aus esou an esou enger Bibliothéik gëtt - loosst eis se benotzen. Ech mengen dat wier ganz cool.
E bëssen iwwer VictoriaMetrics. Mir maachen vill interessant Saachen. Liest eis Artikelen iwwer Kompressioun, iwwer eis Konkurrenz mat aneren Zäitseriedatenapplikatiounen, eis Erklärung wéi Dir mat PromQL schafft, well et vill méi Ufänger an dësem sinn, wéi och iwwer vertikal Skalierbarkeet an iwwer Konfrontatioun mam Thanos.
Froen:
Ech fänken meng Fro mat enger einfacher Liewensgeschicht un. Wann ech ugefaang Grafana ze benotzen, Ech hunn eng ganz iwwerzeegend 5 Linn Ufro geschriwwen. D'Enn Resultat ass eng ganz iwwerzeegend Diagramm. Dës Grafik ass bal an d'Produktioun gaangen. Awer bei méi no unzekucken, huet sech erausgestallt datt dës Diagramm absolute Blödsinn weist, deen näischt mat der Realitéit ze dinn huet, obwuel d'Zuelen an de Beräich falen, déi mir erwaart hunn ze gesinn. A meng Fro. Mir hunn Bibliothéiken, mir hu Funktiounen, mee wéi schreiwen mir Tester fir Grafana? Dir hutt eng komplex Ufro geschriwwen, déi d'Geschäftsentscheedung beaflosst - e richtege Container vu Serveren ze bestellen oder net ze bestellen. A wéi mir wëssen, ass dës Funktioun déi eng Grafik zeechent ähnlech wéi d'Wourecht. Merci.
Merci fir d'Fro. Et ginn zwee Deeler hei. Als éischt hunn ech den Androck, baséiert op menger Erfahrung, datt déi meescht Benotzer, wa se hir Charts kucken, net verstinn wat se hinnen weisen. Iergendwéi sinn d'Leit ganz gutt fir eng Excuse ze kommen fir all Anomalie déi op den Charts geschitt, och wann et e Feeler an enger Funktioun ass. An den zweeten Deel - et schéngt mir datt d'Benotzung vun esou Funktiounen vill besser gëeegent ass fir Äre Problem ze léisen, anstatt datt jidderee vun Ären Entwéckler hir eege Kapazitéitsplanung mécht a Feeler mat e puer Wahrscheinlechkeet mécht.
Wéi kontrolléieren?
Wéi kontrolléieren? Wahrscheinlech net.
Als Test zu Grafana.
A wat iwwer Grafana? Grafana iwwersetzt dës Ufro direkt un d'DataSource.
Andeems Dir e bëssen un d'Parameteren bäidréit.
Nee, näischt gëtt zu Grafana dobäi. Et kann GET Parameteren ginn, wéi Schrëtt. Et ass net explizit uginn, mä Dir kënnt et iwwerdribblen, Dir kënnt et net iwwerdribblen, mä et gëtt automatesch dobäi. Dir schreift hei keng Tester. Ech mengen net, Dir sollt hei op Grafana als Quell vun der Wourecht vertrauen.
Merci fir de Bericht! Merci fir d'Kompressioun! Dir erënnert Iech un d'Kaart vun enger Variabel an enger Grafik, datt Dir zu Grafana keng Variabel an enger Variabel benotzt. Verstitt Dir wat ech mengen?
Jo.
Dëst war am Ufank e Kappwéi wann ech eng Alarm zu Grafana wollt maachen. An do musst Dir eng Alarm fir all Host separat maachen. Hei ass dës Saach déi Dir gemaach hutt, funktionnéiert et fir Alarmer zu Grafana?
Wann Grafana keng Variabelen op eng aner Manéier zougräift, da jo, et funktionnéiert. Awer mäi Rot ass guer net d'Alarméierung zu Grafana ze benotzen, Dir sollt besser den Alertmanager benotzen.
Jo, ech benotzen et, mee et schéngt just méi einfach ze ageriicht zu Grafana, mee merci fir den Tipp!
Source: will.com