Ez ji we re pêşniyar dikim ku hûn transkripta rapora Roman Khavronenko "ExtendedPromQL" bixwînin.
Bi kurtî li ser min. Navê min Roman e. Ez li CloudFlare dixebitim û li Londonê dijîm. Lê ez di heman demê de parêzvanek VictoriaMetrics im.
Û ez nivîskar im ji bo Grafana û ji bo ClickHouse proxyek piçûk e.
Em ê ji beşa yekem a ku jê re “Zehmetiyên Wergerandinê” tê gotin dest pê bikin û di wê de ez ê qala wê yekê bikim ku her zimanek an jî tenê zimanek ragihandinê pir girîng e. Ji ber ku bi vî rengî hûn ramanên xwe ji kesek an pergalek din re radigihînin, hûn çawa daxwazek formule dikin. Mirovên li ser Înternetê nîqaş dikin ka kîjan ziman çêtir e - java an hin din. Ji bo xwe, min biryar da ku ez hewce dikim ku li gorî peywirê hilbijêrin, ji ber ku ev hemî taybetî ye.
Ka em ji destpêkê ve dest pê bikin. PromQL çi ye? PromQL Zimanê Query Prometheus e. Bi vî rengî em di Prometheus de pirsan çêdikin da ku daneyên rêzikên demê bistînin.
Daneyên rêzikên demê çi ne? Bi rastî, ev sê parameter in.
Ev in:
- Em li çi dinêrin?
- Dema ku em lê dinêrin.
- Û çi nirx nîşan dide?
Ger hûn li vê nexşeyê mêze bikin (ev nexşe ji têlefona min e ku statîstikên gavê min nîşan dide), ew dikare zû bersiva van pirsan bide.
Em li gavan dinêrin. Em wateyê dibînin û dema ku em lê dinêrin em demê dibînin. Yanî li vê şemayê binêre meriv bi rehetî dikare bibêje ku roja yekşemê ez bi qasî 15 gav meşiyam. Ev daneyên rêzikên demê ye.
Naha werin em wan di forma tabloyê de li modelek daneya din "perçe bikin" (biguherînin). Li vir tiştê ku em lê dinêrin jî heye. Li vir min daneyên piçûktir lê zêde kir, ku em ê jê re bibêjin meta-dane, ango ne ez bûm ku vê yekê derbas kir, lê du kes, mînakî, Jay û Silent Bob. Ya ku em lê dinêrin ev e; çi nîşan dide û kengê wê nirxê nîşan dide.
Naha em hewl bidin ku van hemî daneyan di databasek de hilînin. Mînakî, min hevoksaziya ClickHouse girt. Û li vir em tabloyek bi navê "Gavek" ava dikin, ango tiştê ku em lê dinêrin. Demek heye ku em lê dinêrin; ew çi nîşan dide û hin daneyên meta li ku derê em ê kî ye hilînin: Jay û Silent Bob.
Û ji bo ku em hewl bidin ku van hemî xuyang bikin, em ê Grafana bikar bînin ji ber ku, berî her tiştî, ew xweşik e.
Em ê vê pêvekê jî bikar bînin. Du sedemên vê yekê hene. Ya yekem ji ber ku min nivîsandiye. Û ez bi rastî dizanim ka çiqas dijwar e ku meriv daneyên rêzikên demê ji ClickHouse bikişîne da ku wê li Grafana nîşan bide.
Em ê di Panela Grafê de nîşan bidin. Ev panela herî populer a Grafana ye, ku girêdayîbûna nirxek bi demê re destnîşan dike, ji ber vê yekê em tenê du pîvanan hewce ne.
Ka em pirsa herî hêsan binivîsin - meriv çawa statîstîkên gavê li Grafana nîşan dide, van daneyan li ClickHouse, di tabloya ku me çêkiriye de hilîne. Û em vê daxwaza hêsan dinivîsin. Em ji gavan hilbijêrin. Em nirxek hilbijêrin û dema van nirxan hilbijêrin, ango heman sê pîvanên ku me qala wan kir.
Û di encamê de, em ê grafiyek bi vî rengî bistînin. Kî dizane çima ew qas xerîb e?
Rast e, divê em li gorî demê rêz bikin.
Û di dawiyê de em ê bernameyek çêtir, lê hîn jî ecêb bistînin. Kî dizane çima? Rast e, du beşdar hene, û em li Grafana du rêzikên demê didin, ji ber ku heke hûn careke din li modela daneyê binerin, wê hingê her rêzek dem tevliheviyek bêhempa ya nav û hemî etîketên nirx-kilît e.
Ji ber vê yekê, divê em kesek taybetî hilbijêrin. Em Jay hilbijêrin.
Û em dîsa xêz bikin. Naha grafî wekî rastiyê xuya dike. Niha ev bernameyek normal e û her tişt baş dixebite.
Û dibe ku hûn dizanin ka meriv çawa hema hema heman tiştî dike, lê li Prometheus bi PromQL. Tiştekî wiha. Hinekî hêsantir. Û em her tiştî hilweşînin. Me gav avêtin. Û Parzûna ji aliyê Jay. Em li vir diyar nakin ku em hewce ne ku nirxek bi dest bixin û em dem hilbijêrin.
Naha em hewl bidin ku leza tevgera Jay an Silent Bob hesab bikin. Di ClickHouse de em ê hewce bikin ku runningDifference bikin, ango ferqa di navbera cotên xalan de hesab bikin û wan bi demê ve parve bikin da ku leza rast bistînin. Daxwaz dê tiştek bi vî rengî xuya bike.
Û ew ê bi qasî van nirxan nîşan bide, ango Silent Bob an Jay bi qasî 1,8 gavan di çirkeyê de digire.
Û di Prometheus de jî hûn dizanin ku hûn vê yekê çawa bikin. Ji berê pir hêsantir.
Û ji bo ku ew di Grafana de jî hêsan bikim, min ev pêça, ku pir dişibihe PromQL-ê lê zêde kir. Jê re tê gotin Rate Macros an ku hûn dixwazin jê re bibêjin. Di Grafana de hûn tenê "rêjeyê" dinivîsin, lê li cîhek kûr ew vediguhere vê daxwaza mezin. We ne hewce ye ku hûn lê binihêrin, ew li deverek heye, lê hûn pir dem diparêzin, ji ber ku nivîsandina pirsên SQL yên weha her gav biha ye. Hûn dikarin bi hêsanî xeletiyek bikin û dûv re demek dirêj fêm nekin ka çi diqewime.
Û ev daxwazek e ku di slaytekekê de jî cîh negirt û min neçar kir ku ez wê bikim du stûn. Ev jî daxwazek li ClickHouse ye, ku heman rêjeyê dike, lê ji bo her du rêzikên demê: Silent Bob û Jay, da ku em du rêzikên demjimêr li ser panelê hebin. Û ev jixwe pir zehmet e, bi dîtina min.
Û li gor Prometheus ew ê sum (rêjeya) be. Ji bo ClickHouse, min makroyek cihê bi navê RateColumns çêkir, ku di Prometheus de wekî pirsek xuya dike.
Me lê nihêrî û wusa dixuye ku PromQL ew qas xweş e, lê bê guman, sînorkirinên wê hene.
Ev in:
- Limited SELECT.
- Serhedê JOINs.
- Piştgiriya HAVING tune.
Û heke we demek dirêj pê re xebitî, wê hingê hûn dizanin ku carinan di PromQL de kirina tiştek pir dijwar e, lê di SQL de hûn dikarin hema hema her tiştî bikin, ji ber ku hemî van vebijarkên ku me tenê li ser wan axivîn dikarin di SQL de bêne kirin. . Lê gelo karanîna wê hêsan e? Û ev yek min dike ku bifikirim ku zimanê herî hêzdar dibe ku her gav ne ya herî rehet be.
Ji ber vê yekê, carinan hûn hewce ne ku ji bo peywirê zimanek hilbijêrin. Mîna ku Batman bi Superman re şer dike. Eşkere ye ku Superman bi hêztir e, lê Batman karibû wî têk bibe ji ber ku ew pir pratîktir e û tam dizanibû ku ew çi dike.
Û beşa din Berfirehkirina PromQL ye.
Careke din li ser VictoriaMetrics. VictoriaMetrics çi ye? Ev databasek rêzedemî ye, ew di OpenSource de ye, em guhertoyên wê yên yekane û komê belav dikin. Li gorî pîvanên me, ew ji her tiştê ku naha li sûkê ye zûtir e û çewisandin dişibihe, ango mirovên rast berhevkirina bi qasî 0,4 byte serê xalê radigihînin, dema ku ya Prometheus 1,2-1,4 e.
Em ji Prometheus zêdetir piştgirî dikin. Em piştgirî didin InfluxDB, Graphite, OpenTSDB.
Hûn dikarin ji me re "binivîsin", ango hûn dikarin daneyên kevn veguhezînin.
Û em bi Prometheus û Grafana re jî bêkêmasî dixebitin, ango em piştgirî didin motora PromQL. Û di Grafana de hûn dikarin tenê xala dawiya Prometheus biguherînin VictoriaMetrics û hemî dashboardên we dê wekî wan bixebitin.
Lê hûn dikarin taybetmendiyên din ên ku VictoriaMetrics peyda dike jî bikar bînin.
Em ê zû bi taybetmendiyên ku me lê zêde kirine derbas bibin.
Parama navberê derxe - hûn dikarin li Grafana parametreyên navberê derxînin. Gava ku hûn nexwazin grafikên xerîb gava ku di panelê de mezinkirin/dervekirin bistînin, tê pêşniyar kirin ku guhêrbar bikar bînin. $__interval. Ev guherînek Grafana navxweyî ye û ew bi xwe rêza daneyê hildibijêre. Û VictoriaMetrics bixwe dikare fêm bike ku ev rêz divê çi be. Û hûn ne hewce ne ku hemî daxwazên xwe nûve bikin. Ew ê pir hêsantir be.
Fonksiyona duyemîn referanskirina navberê ye. Hûn dikarin vê navberê di bêjeyên xwe de bikar bînin. Hûn dikarin zêde bikin, dabeş bikin, veguhezînin, jê re vebêjin.
Piştre malbata fonksiyonê ya berhevkirinê ye. Fonksiyona Rollup yek ji rêzikên dema we vediguhezîne sê rêzikên demjimêr ên cihê. Vana min, max û avg in. Ez vê yekê pir musaît dibînim ji ber ku carinan ew dikare hin derbirîn û nerastiyan nîşan bide.
Û heke hûn tenê hêrs an rêjeyê dikin, wê hingê hûn ê belkî hin bûyeran ji bîr nekin ku rêzikên demê wekî ku hûn hêvî dikin tevnagerin. Bi vê fonksiyonê dîtina wê pir hêsantir e, em bibêjin ku max pir ji avg e.
Piştre guherbara xwerû ye. Pêşniyaz - ev tê vê wateyê ku em hewce ne ku em di Grafana de çi nirx bikêşin heke heya niha rêzek demjimêrek me tune be. Dema ku ev dibe? Ka em bibêjin hûn hin pîvanên xeletiyê derdixin. Û we serîlêdanek wusa xweş heye ku gava hûn dest pê dikin, sê saetên pêş de an rojek jî tu xeletî û tewra jî xeletî tune. Û we tabloyên ku pêwendiyê ji serfiraziyê heya xeletiyê nîşan didin hene. Û ew ê tiştek nîşanî we bidin ji ber ku we metrîka xeletiyê tune. Û di xwerû de hûn dikarin her tiştî diyar bikin.
Keep_last_Value - heke wenda be nirxa paşîn a metrikê diparêze. Ger Prometheus di nav 5 hûrdeman de piştî şûştina paşîn wê nebîne, wê hingê em ê li vir nirxa wê ya paşîn bi bîr bînin û nexşeyên we dê careke din neşikênin.
Scrape_interval - nîşan dide ka çend caran Prometheus daneyên li ser metrika we berhev dike, û bi çi frekansê. Li vir hûn dikarin ji bo nimûne pasek bibînin.
Veguheztina labelê taybetmendiyek populer e. Lê em difikirin ku ew hinekî tevlihev e ji ber ku ew tevahî argumanan digire. Û hûn hewce ne ku ne tenê 5 argumanan bi bîr bînin, lê rêza wan jî bi bîr bînin.
Ji ber vê yekê, çima wan hêsan nakin? Ango, wê bi hevoksaziya têgihîştî ve bi fonksiyonên piçûk veqetîne.
Û niha beşa kêfê. Çima em difikirin ku ev PromQL dirêjkirî ye? Ji ber ku em piştgirî didin Gotinên Tabloya Hevpar. Hûn dikarin koda QR bişopînin (), lînkên bi mînakan, ji qada lîstikê bibînin, ku hûn dikarin rasterast li VictoriaMetrics pirsan bişopînin bêyî ku wê bi tenê di gerokê de saz bikin.
Û ev çi ye? Ev daxwaza li jor daxwazek pir populer e. Ez difikirim ku di her dashboardê de di gelek pargîdaniyan de hûn ji bo her tiştî heman fîlterê bikar tînin. Bi gelemperî wusa. Lê gava ku hûn hewce ne ku fîlterek nû lê zêde bikin, pêdivî ye ku hûn her panelê nûve bikin, an dashboardê dakêşin, wê di JSON de vekin, li şûna xwe bibînin, ev jî dem digire. Çima vê nirxê di guhêrbarekê de hilnagire û ji nû ve bikar nayîne? Ev xuya dike, bi dîtina min, pir sadetir û zelal.
Mînakî, gava ku ez hewce dikim di hemî daxwazan de fîlteran li Grafana nûve bikim, û dashboard dikare mezin be an jî çend ji wan hebin. Û ez çawa dixwazim vê pirsgirêkê li Grafana çareser bikim?
Ez vê pirsgirêkê bi vî rengî çareser dikim: Ez Parzûnek hevpar çê dikim û vê parzûnê tê de diyar dikim, û dûv re wê di pirsan de ji nû ve bikar tînim. Lê heke hûn nuha heman yekê bikin, ew ê nexebite ji ber ku Grafana destûrê nade ku hûn guhêrbaran di hundurê guhêrbarên pirsê de bikar bînin. Û hinekî xerîb e.
Û ji ber vê yekê min vebijarkek çêkir ku destûrê dide we ku hûn vê bikin. Û heke hûn taybetmendiyek wusa eleqedar in an jî dixwazin, wê hingê wê piştgirî bikin an jê hez nekin heke hûn ji vê ramanê hez nakin.
Zêdetir di derbarê PromQL de dirêj kirin. Li vir em ne tenê guhêrbarek, lê fonksiyonek tevahî diyar dikin. Û em jê re dibêjin ru (bikaranîna çavkaniyê). Û ev fonksiyon çavkaniyên belaş, sînorkirina çavkaniyê û parzûnê qebûl dike. Hevoksazî hêsan xuya dike. Û pir hêsan e ku meriv vê fonksiyonê bikar bîne û rêjeya bîranîna belaş a ku me heye hesab bike. Yanî hafizeya me çiqas heye, sînor çi ye û çawa parzûn dibe. Heke hûn hemî binivîsin, heman fîlteran ji nû ve bikar bînin, pir hêsantir xuya dike, ji ber ku ew ê bibe pirsek mezin û mezin.
Û li vir mînakek daxwazek wusa mezin û mezin heye. Ew ji dashboarda fermî ya NodeExporter ji bo Grafana ye. Lê ez bi zor fêm dikim ka li vir çi diqewime. Ango, bê guman, heke hûn ji nêz ve lê binihêrin ez fêm dikim, lê hejmara parantezê dikare tavilê motîvasyona ku fêm bike ka li vir çi diqewime kêm bike. Û çima wê hêsantir û zelaltir nakin?
Mînakî, bi vî rengî, veqetandina tiştên girîng an beşên li guhêrbaran. Û paşê matematîka xweya bingehîn bikin. Ev jixwe bêtir wekî bernamekirinê ye, tiştê ku ez dixwazim di pêşerojê de li Grafana bibînim ev e.
Li vir mînakek duyemîn e ku meriv çawa dikare vê yekê hêsantir bike ger me berê vê fonksiyona ru hebe, û ew jixwe rasterast di VictoriaMetrics de heye. Dûv re hûn tenê nirxa cache ya ku we di CTE de ragihand derbas dikin.
Min berê jî behs kir ku çiqas girîng e ku meriv zimanê bernamenûsê rast bikar bîne. Û, dibe ku, her pargîdaniyek li Grafana tiştek cûda diqewime. Û dibe ku hûn jî gihîştina Grafana bidin pêşdebirên xwe, û pêşdebir jî karê xwe dikin. Û ew hemî wê bi rengek cûda dikin. Lê min dixwest ku ew bi rengekî yek be, ango, ew bi standardek hevpar kêm bikim.
Em bêjin ku hûn ne tenê endezyarên pergalê ne, dibe ku hûn pispor, devops an SRE jî hebin. Dibe ku we pisporên ku dizanin çavdêrîkirin çi ye, ku dizanin Grafana çi ye, ango ew bi salan pê re dixebitin û ew bi rastî dizanin ka meriv çawa wiya rast dike. Û berê jî 100 caran ev nivîsandiye û ji her kesî re rave kiriye, lê ji ber hin sedeman kes guh nade.
Ger ew bikaribin vê zanînê rasterast têxin Grafana da ku bikarhênerên din bikarin taybetmendiyan ji nû ve bikar bînin? Û heke wan hewce bike ku ji sedî bîranîna belaş hesab bikin, ew ê tenê fonksiyonê bicîh bikin. Ger afirînerên hinardekaran, ligel hilbera xwe, komek fonksiyon jî peyda bikin ka meriv çawa bi metrîkên xwe re bixebite, ji ber ku ew bi rastî dizanin ev metrîk çi ne û çawa wan rast hesab dikin?
Ev bi rastî tune. Ya ku min bi xwe kir ev e. Ev piştgiriya pirtûkxaneyê li Grafana ye. Ka em bêjin xortên ku NodeExporter çêkirine tiştê ku min behs kir kir. Û wan jî komek fonksiyon pêşkêş kirin.
Yanî tiştekî wiha xuya dike. Hûn vê pirtûkxaneyê bi Grafana ve girêdidin, hûn dikevin nav guherandinê û ew bi JSON-ê pir hêsan hatî nivîsandin ka meriv çawa bi vê metrikê re dixebite. Ango, hin komek fonksiyonan, ravekirina wan û tiştê ku ew vediguherînin.
Ez difikirim ku ev dikare kêrhatî be, ji ber ku wê hingê di Grafana de hûn ê wusa binivîsin. Û Grafana ji we re "dibêje" ku ji pirtûkxaneyek wusa û wusa fonksiyonek heye - bila em wê bikar bînin. Ez difikirim ku ew ê pir xweş be.
Hinekî li ser VictoriaMetrics. Em gelek tiştên balkêş dikin. Gotarên me di derbarê berhevkirinê de, di derbarê pêşbaziyên me yên bi serîlêdanên daneya rêzikên demkî yên din re, ravekirina me ya çawa bi PromQL re dixebitin bixwînin, ji ber ku di vê yekê de hîna jî gelek destpêk hene, û hem jî di derbarê scalability vertîkal û di derbarê rûbirûbûna bi Thanos de.
Pirs:
Ez ê pirsa xwe bi çîrokek jiyanê ya hêsan dest pê bikim. Dema ku min yekemcar dest bi karanîna Grafana kir, min pirsek pir balkêş nivîsand ku 5 rêz dirêj bû. Encama dawiyê grafiyek pir pêbawer e. Ev bername hema hema ketiye hilberînê. Lê piştî lêkolînek nêzîk, derket holê ku ev graf bêwateya bêkêmasî nîşan dide ku ti têkiliya wê bi rastiyê re nîne, her çend hejmar di nav rêza ku me li bendê bû ku bibînin jî dikevin. Û pirsa min. Pirtûkxaneyên me hene, fonksiyonên me hene, lê em çawa ceribandinên ji bo Grafana dinivîsin? We daxwazek tevlihev nivîsandiye ku biryarek karsaziyê pê ve girêdayî ye - hûn konteynirek rastîn a servers ferman bikin an nekirin. Û wek ku em dizanin, ev fonksiyona ku grafîkê xêz dike dişibe rastiyê. Sipas ji were.
Spas ji bo pirsê. Du beş hene. Pêşîn, ez li ser bingeha ezmûna xwe têgihîştim ku pir bikarhêneran, gava ku ew li nexşeyên xwe dinêrin, fêm nakin ka ew çi nîşanî wan didin. Ji ber hin sedeman, mirov ji bo her anomalîyek ku di grafikan de çêdibe hincetek pir baş e, her çend ew di hundurê fonksiyonek de xeletiyek be jî. Û beşa duyemîn - ji min re xuya dike ku karanîna fonksiyonên weha dê ji bo çareserkirina pirsgirêka we nêzîkatiyek pir çêtir be, li şûna ku her pêşdebirên we plansaziya kapasîteya xwe bikin û bi îhtîmalek xeletiyan bikin.
Meriv çawa kontrol dike?
Çawa kontrol bikin? Probably ne.
Wekî ceribandinek li Grafana.
Çi têkiliya Grafana bi wê re heye? Grafana vê daxwazê rasterast ji DataSource re werdigerîne.
Zêdekirina piçekê li pîvanan.
Na, tiştek li Grafana nayê zêdekirin. Dibe ku parametreyên GET-ê hebin, wek, bêje, gav. Ew bi eşkere nehatiye destnîşan kirin, lê hûn dikarin wê bişopînin, an jî hûn dikarin wê negirin, lê ew bixweber tê zêdekirin. Hûn ê li vir testan nenivîsin. Ez bawer nakim ku em li vir xwe bispêrin Grafana wekî çavkaniya rastiyê.
Spas ji bo raporê! Spas ji bo compression! We behsa nexşeya guherbarek di grafekê de kir, ku di Grafana de hûn nikarin guhêrbarek di nav guhêrbarekê de bikar bînin. Tu dizanî mebesta min çi ye?
Erê
Dema ku min dixwest ku li Grafana hişyariyek biafirînim ev di destpêkê de serêşek bû. Û li wir hûn hewce ne ku ji bo her mêvandar ji hev cuda hişyariyek bikin. Ev tiştê ku we çêkir, ew ji bo hişyariyên li Grafana dixebite?
Ger Grafana bi rengek cûda bigihîje guhêrbaran, wê hingê erê, ew ê bixebite. Lê şîreta min ev e ku hûn qet li Grafana hişyarkirinê bikar neynin, hûn çêtir e ku hûn alertmanager bikar bînin.
Erê, ez wê bikar tînim, lê sazkirina li Grafana hêsantir xuya bû, lê spas ji bo şîretê!
Source: www.habr.com