Nissuġġerixxi li taqra t-traskrizzjoni tar-rapport ta’ Roman Khavronenko “ExtendedPromQL”
Fil-qosor dwari. Jisimni Ruman. Jien naħdem ma' CloudFlare u noqgħod f'Londra. Imma jien ukoll manutenzjoni VictoriaMetrics.
U jien l-awtur għal Grafana u huwa prokura żgħira għal ClickHouse.
Nibdew bl-ewwel parti, li tissejjaħ “Diffikultajiet tat-Traduzzjoni” u fiha se nitkellem dwar il-fatt li kull lingwa jew anke sempliċiment lingwa ta’ komunikazzjoni hija importanti ħafna. Għax hekk twassal il-ħsibijiet tiegħek lil persuna jew sistema oħra, kif tifformula talba. Nies fuq l-Internet jargumentaw dwar liema lingwa hija aħjar - java jew xi oħra. Għalija nnifsi, iddeċidejt li għandi bżonn nagħżel skont il-kompitu, għax dan kollu huwa speċifiku.
Nibdew mill-bidu nett. X'inhu PromQL? PromQL hija Prometheus Query Language. Dan huwa kif niffurmaw mistoqsijiet fi Prometheus biex niksbu data tas-serje tal-ħin.
X'inhi d-dejta tas-serje tal-ħin? Litteralment, dawn huma tliet parametri.
Dawn huma:
- X'qegħdin inħarsu lejn?
- Meta nħarsu lejha.
- U liema valur juri?
Jekk tħares lejn din iċ-ċart (din it-tabella hija mit-telefon tiegħi li turi l-istatistiċi tal-pass tiegħi), tista 'twieġeb malajr dawn il-mistoqsijiet.
Inħarsu lejn il-passi. Naraw it-tifsira u naraw il-ħin meta nħarsu lejh. Jiġifieri, meta tħares lejn din id-dijagramma, tista’ faċilment tgħid li l-Ħadd imxejt madwar 15 tarġa. Din hija data tas-serje tal-ħin.
Issa ejja "taqsam" (ikkonvertihom) f'mudell ta 'dejta ieħor fil-forma ta' tabella. Hawnhekk għandna wkoll dak li qed inħarsu lejh. Hawnhekk żidt ftit dejta addizzjonali, li se nsejħu meta-dejta, jiġifieri ma kontx jien li għaddejt minn dan, iżda żewġ persuni, pereżempju, Jay u Silent Bob. Dan huwa dak li qed inħarsu lejh; x'juri u meta juri dak il-valur.
Issa ejja nippruvaw naħżnu din id-dejta kollha f'database. Per eżempju, ħadt is-sintassi ClickHouse. U hawn noħolqu tabella waħda msejħa "Passi", jiġifieri dak li qed inħarsu lejh. Hemm żmien meta nħarsu lejha; dak li turi u xi meta data fejn se naħżnu min hu: Jay u Silent Bob.
U biex nippruvaw viżwalizzaw dan kollu, nużaw lil Grafana għax, l-ewwel nett, huwa sabiħ.
Se nużaw ukoll dan il-plugin. Hemm żewġ raġunijiet għal dan. L-ewwel għax ktibtha. U naf eżattament kemm hu diffiċli li tiġbed data tas-serje tal-ħin minn ClickHouse biex turiha fi Grafana.
Aħna se nuruh fil-Panel tal-Grafika. Dan huwa l-aktar panel popolari fi Grafana, li juri d-dipendenza ta 'valur fil-ħin, għalhekk għandna bżonn biss żewġ parametri.
Ejja niktbu l-iktar mistoqsija sempliċi - kif turi l-istatistika tal-pass fi Grafana, taħżen din id-dejta f'ClickHouse, fit-tabella li ħloqna. U niktbu din it-talba sempliċi. Aħna nagħżlu minn passi. Aħna nagħżlu valur u nagħżlu l-ħin ta 'dawn il-valuri, jiġifieri l-istess tliet parametri li tkellimna dwarhom.
U bħala riżultat, aħna se tikseb graff bħal dan. Min jaf għaliex hu daqshekk stramb?
Dak id-dritt, għandna bżonn issortja skond il-ħin.
U fl-aħħar se jkollna skeda aħjar, iżda xorta stramba. Min jaf għaliex? Hekk hu, hemm żewġ parteċipanti, u aħna ta’ Grafana nagħtu żewġ serje ta’ żmien, għax jekk terġa’ tħares lejn il-mudell tad-dejta, allura kull serje ta’ żmien hija taħlita unika ta’ isem u tikketti kollha ta’ valur ewlieni.
Għalhekk, għandna bżonn nagħżlu persuna speċifika. Aħna nagħżlu lil Jay.
U nerġgħu niġbdu. Issa l-grafika tidher bħall-verità. Issa din hija skeda normali u kollox qed jaħdem tajjeb.
U probabilment taf kif tagħmel bejn wieħed u ieħor l-istess ħaġa, iżda fi Prometheus permezz ta 'PromQL. Xi ħaġa bħal din. Ftit aktar sempliċi. U ejja nkissru dan kollu. Ħadna Passi. U iffiltra minn Jay. Hawnhekk mhux qed nispeċifikaw li rridu nġibu valur u mhux qed nagħżlu żmien.
Issa ejja nippruvaw nikkalkulaw il-veloċità tal-moviment ta 'Jay jew Silent Bob. F'ClickHouse se jkollna bżonn nagħmlu runningDifference, jiġifieri nikkalkulaw id-differenza bejn pari ta' punti u naqsmuhom bil-ħin biex niksbu l-veloċità eżatta. It-talba tidher xi ħaġa bħal din.
U se juri bejn wieħed u ieħor dawn il-valuri, jiġifieri Silent Bob jew Jay jieħu madwar 1,8 passi kull sekonda.
U fi Prometheus taf kif tagħmel dan ukoll. Ħafna aktar faċli milli kien qabel.
U biex tagħmilha faċli wkoll li tagħmel fi Grafana, żidt dan it-tgeżwir, li jidher simili ħafna għal PromQL. Tissejjaħ Rate Macros jew xi tkun trid issejjaħlu. Fi Grafana sempliċiment tikteb "rata", iżda x'imkien fil-fond tittrasforma f'din it-talba kbira. U lanqas m'għandekx għalfejn tħares lejha, qiegħed hemm x'imkien, imma tiffranka ħafna ħin, għax il-kitba ta 'mistoqsijiet SQL enormi bħal dawn hija dejjem għalja. Tista 'faċilment tagħmel żball u mbagħad ma tifhimx dak li qed jiġri għal żmien twil.
U din hija talba li lanqas biss daħlet fi slide waħda u saħansitra kelli naqsamha f’żewġ kolonni. Din hija wkoll talba f'ClickHouse, li tagħmel l-istess rata, iżda għaż-żewġ serje ta 'żmien: Silent Bob u Jay, sabiex ikollna żewġ serje ta' ħin fuq il-panel. U dan huwa diġà diffiċli ħafna, fl-opinjoni tiegħi.
U skond Prometheus se tkun somma (rata). Għal ClickHouse, għamilt makro separat imsejjaħ RateColumns, li tidher qisha mistoqsija fi Prometheus.
Ħarisna lejha u jidher li PromQL huwa tant jibred, iżda għandu, ovvjament, limitazzjonijiet.
Dawn huma:
- Agħżel limitat.
- Borderline JOINs.
- L-ebda appoġġ LI JKOLLU.
U jekk ħdimt magħha għal żmien twil, allura taf li xi drabi huwa diffiċli ħafna li tagħmel xi ħaġa fi PromQL, iżda fl-SQL tista 'tagħmel kważi kollox, għax dawn l-għażliet kollha li għadna kif tkellimna dwarhom jistgħu jsiru f'SQL . Imma jkun konvenjenti li tużah? U dan iġġiegħli naħseb li l-aktar lingwaġġ qawwi mhux dejjem ikun l-aktar konvenjenti.
Għalhekk, xi kultant ikollok bżonn tagħżel lingwa għall-kompitu. Huwa bħal Batman jiġġieled Superman. Jidher ċar li Superman huwa aktar b’saħħtu, iżda Batman seta’ jegħlibh għax hu iktar prattiku u kien jaf eżatt x’qed jagħmel.
U l-parti li jmiss hija Extending PromQL.
Għal darb'oħra dwar VictoriaMetrics. X'inhu VictoriaMetrics? Din hija database ta 'serje ta' żmien, hija f'OpenSource, aħna nqassmu l-verżjonijiet single u cluster tagħha. Skont il-benchmarks tagħna, huwa aktar mgħaġġel minn kull ħaġa li tinsab fis-suq issa u l-kompressjoni hija simili, jiġifieri nies reali jirrappurtaw kompressjoni ta 'madwar 0,4 bytes għal kull punt, filwaqt li Prometheus hija 1,2-1,4.
Aħna nappoġġjaw aktar milli sempliċement Prometheus. Aħna nappoġġjaw InfluxDB, Graphite, OpenTSDB.
Tista '"tikteb" lilna, jiġifieri, tista' tittrasferixxi data antika.
U naħdmu wkoll perfettament ma 'Prometheus u Grafana, jiġifieri nappoġġjaw il-magna PromQL. U fi Grafana tista' sempliċement tibdel l-endpoint ta' Prometheus għal VictoriaMetrics u d-dashboards kollha tiegħek jaħdmu kif għamlu.
Iżda tista' wkoll tuża karatteristiċi addizzjonali li tipprovdi VictoriaMetrics.
Aħna ser ngħaddu malajr mill-karatteristiċi li żidna.
Omit interval param – tista’ tħalli barra l-parametri tal-intervall f’Grafana. Meta ma tridx tikseb graphs strambi meta tiżżumja 'l ġewwa/out fil-panel, huwa rakkomandat li tuża l-varjabbli $__interval. Din hija bidla interna Grafana u tagħżel il-firxa tad-dejta hija stess. U VictoriaMetrics innifsu jista' jifhem x'għandha tkun din il-firxa. U m'għandekx bżonn taġġorna t-talbiet kollha tiegħek. Se jkun ħafna aktar faċli.
It-tieni funzjoni hija referenzar ta 'intervall. Tista' tuża dan l-intervall fl-espressjonijiet tiegħek. Tista 'timmultiplika, taqsam, tittrasferixxi, tirreferi għaliha.
Li jmiss hija l-familja tal-funzjoni rollup. Il-funzjoni Rollup tittrasforma kwalunkwe serje ta 'żmien tiegħek fi tliet serje ta' ħin separati. Dawn huma min, max u avg. Dan insibha konvenjenti ħafna għax xi drabi jista’ juri xi nuqqasijiet u ineżattezzi.
U jekk inti qed tagħmel biss irate jew rata, allura inti probabilment titlef xi każijiet fejn is-serje tal-ħin ma jaġixxix kif inti mistenni. B'din il-funzjoni huwa ħafna aktar faċli biex tara, ejja ngħidu li max huwa ħafna minn avg.
Li jmiss huwa l-varjabbli default. Default - dan ifisser x'valur irridu niġbdu fi Grafana jekk ma jkollniex serje ta' żmien bħalissa. Meta jiġri dan? Ejja ngħidu li qed tesporta xi metriċi ta' żball. U għandek applikazzjoni tant friska li meta tibda, ma jkollok l-ebda żbalji u lanqas żbalji għat-tliet sigħat jew saħansitra kuljum. U għandek dashboards li juru r-relazzjoni minn suċċess għal żball. U ma juruk xejn għax m'għandekx metrika ta 'żball. U fin-nuqqas tista 'tispeċifika xejn.
Keep_last_Value – jiffranka l-aħħar valur tal-metrika jekk ikun nieqes. Jekk Prometheus ma jsibhiex fi żmien 5 minuti wara l-brix li jmiss, allura hawnhekk niftakru l-aħħar valur tiegħu u ċ-ċarts tiegħek ma jerġgħux jinkisru.
Scrape_interval - juri kemm-il darba Prometheus jiġbor data dwar il-metrika tiegħek, u b'liema frekwenza. Hawnhekk tista' tara pass, pereżempju.
Tikketta tissostitwixxi hija karatteristika popolari. Imma naħsbu li hija ftit ikkumplikata għax tieħu argumenti sħaħ. U għandek bżonn mhux biss tiftakar 5 argumenti, iżda wkoll tiftakar is-sekwenza tagħhom.
Għalhekk, għaliex ma tagħmilhom aktar sempliċi? Jiġifieri, aqsamha f'funzjonijiet żgħar b'sintassi li tinftiehem.
U issa l-parti divertenti. Għaliex naħsbu li dan huwa PromQL estiż? Għax aħna nappoġġjaw Common Table Expressions. Tista' ssegwi l-kodiċi QR (), ara links b'eżempji, mill-bitħa, fejn tista' tmexxi mistoqsijiet direttament f'VictoriaMetrics mingħajr ma tinstallah sempliċement fil-browser.
U dan x'inhu? Din it-talba hawn fuq hija talba pjuttost popolari. Naħseb li fi kwalunkwe dashboard f'ħafna kumpaniji tuża l-istess filtru għal kollox. Normalment hekk. Imma meta jkollok bżonn iżżid xi filtru ġdid, trid taġġorna kull panel, jew tniżżel id-dashboard, tiftaħha f'JSON, issib issostitwixxi, li wkoll jieħu ż-żmien. Għaliex ma taħżinx dan il-valur f'varjabbli u terġa' tużah? Dan jidher, fl-opinjoni tiegħi, ħafna aktar sempliċi u ċar.
Pereżempju, meta jkolli bżonn naġġorna l-filtri fi Grafana fit-talbiet kollha, u d-dashboard jista 'jkun enormi jew jista' saħansitra jkun hemm diversi minnhom. U kif nixtieq insolvi din il-problema fi Grafana?
Insolvi din il-problema b'dan il-mod: nagħmel commonFilter u niddefinixxi dan il-filtru fih, u mbagħad nerġa' nużah f'mistoqsijiet. Imma jekk tagħmel l-istess issa, ma taħdimx għax Grafana ma tippermettix li tuża varjabbli ġewwa varjabbli ta' mistoqsija. U hija ftit stramba.
U għalhekk għamilt għażla li tippermettilek tagħmel dan. U jekk int interessat jew trid karatteristika bħal din, imbagħad appoġġjaha jew ma togħġbokx jekk ma tħobbx din l-idea.
Aktar dwar PromQL estiż. Hawnhekk aħna niddefinixxu mhux biss varjabbli, iżda funzjoni sħiħa. U aħna nsejħulha ru (użu tar-riżorsi). U din il-funzjoni taċċetta riżorsi b'xejn, limitazzjoni tar-riżorsi u filtru. Is-sintassi tidher li hija sempliċi. U huwa faċli ħafna li tuża din il-funzjoni u tikkalkula l-perċentwal ta 'memorja ħielsa li għandna. Jiġifieri kemm għandna memorja, x'inhi l-limitazzjoni u kif niffiltraw. Jidher ħafna aktar konvenjenti jekk ktibt kollox, billi tuża mill-ġdid l-istess filtri, għax tinbidel f'mistoqsija kbira u kbira.
U hawn eżempju ta’ talba daqshekk kbira u kbira. Huwa mid-dashboard uffiċjali ta 'NodeExporter għal Grafana. Imma bilkemm nifhem x’qed jiġri hawn. Jiġifieri, ovvjament, nifhem jekk tħares mill-qrib, iżda n-numru ta 'parentesi jista' immedjatament inaqqas il-motivazzjoni biex tifhem dak li qed jiġri hawn. U għaliex ma tagħmilha aktar sempliċi u ċara?
Per eżempju, bħal dan, jisseparaw affarijiet jew partijiet sinifikanti f'varjabbli. U mbagħad agħmel il-matematika bażika tiegħek. Dan huwa diġà aktar bħal programmar, dan huwa dak li nixtieq nara fil-futur fil Grafana.
Hawn hu t-tieni eżempju ta’ kif nistgħu nagħmlu dan saħansitra aktar faċli jekk diġà kellna din il-funzjoni ru, u diġà teżisti direttament f’VictoriaMetrics. U mbagħad sempliċement tgħaddi l-valur cached li ddikjarajt fis-CTE.
Diġà tkellimt dwar kemm huwa importanti li tuża l-lingwa ta' programmar it-tajba. U, probabbilment, kull kumpanija fi Grafana għandha xi ħaġa differenti għaddejja. U inti probabilment tagħti wkoll aċċess għal Grafana lill-iżviluppaturi tiegħek, u l-iżviluppaturi jagħmlu l-ħaġa tagħhom. U kollha jagħmluha b'xi mod differenti. Imma xtaqt li tkun b'xi mod l-istess, jiġifieri li tnaqqasha għal standard komuni.
Ejja ngħidu li lanqas biss għandek inġiniera tas-sistema, forsi saħansitra għandek esperti, devops jew SRE. Forsi għandek esperti li jafu x’inhu l-monitoraġġ, li jafu x’inhu Grafana, jiġifieri ilhom snin jaħdmu magħha u jafu eżattament kif jagħmluh sew. U diġà kitbu dan 100 darba u spjegawh lil kulħadd, iżda għal xi raġuni ħadd ma jisma '.
X'jiġri kieku jistgħu jpoġġu dan l-għarfien direttament fi Grafana sabiex utenti oħra jkunu jistgħu jerġgħu jużaw il-karatteristiċi? U kieku kellhom bżonn jikkalkulaw il-perċentwal ta 'memorja ħielsa, huma sempliċement japplikaw il-funzjoni. X'jiġri jekk il-ħallieqa tal-esportaturi, flimkien mal-prodott tagħhom, ipprovdew ukoll sett ta 'funzjonijiet dwar kif jaħdmu bil-metriċi tagħhom, għaliex jafu eżattament x'inhuma dawn il-metriċi u kif jikkalkulawhom b'mod korrett?
Dan ma jeżistix verament. Dan huwa dak li għamilt jien stess. Dan huwa l-appoġġ tal-librerija fi Grafana. Ejja ngħidu li l-guys li għamlu NodeExporter għamlu dak li tkellimt dwaru. U pprovdew ukoll sett ta 'funzjonijiet.
Jiġifieri, jidher xi ħaġa bħal din. Tqabbad din il-librerija ma' Grafana, tidħol fl-editjar u hija miktuba b'mod sempliċi ħafna f'JSON kif taħdem ma' din il-metrika. Jiġifieri, xi sett ta 'funzjonijiet, id-deskrizzjoni tagħhom u dak li jinbidlu.
Naħseb li dan jista’ jkun utli, għax imbagħad f’Grafana tikteb eżatt hekk. U Grafana "jgħidlek" li hemm tali u tali funzjoni minn tali u tali librerija - ejja nużawha. Naħseb li jkun jibred ħafna.
Ftit dwar VictoriaMetrics. Nagħmlu ħafna affarijiet interessanti. Aqra l-artikoli tagħna dwar il-kompressjoni, dwar il-kompetizzjonijiet tagħna ma 'applikazzjonijiet oħra tad-dejta tas-serje taż-żmien, l-ispjegazzjoni tagħna ta' kif taħdem ma 'PromQL, għaliex għad hemm ħafna jibdew f'dan, kif ukoll dwar iskalabbiltà vertikali u dwar il-konfrontazzjoni ma' Thanos.
Mistoqsijiet:
Nibda l-mistoqsija tiegħi bi storja sempliċi tal-ħajja. Meta bdejt nuża Grafana għall-ewwel darba, ktibt mistoqsija konvinċenti ħafna li kienet twila 5 linji. Ir-riżultat aħħari huwa graff konvinċenti ħafna. Din l-iskeda kważi daħlet fil-produzzjoni. Iżda wara spezzjoni aktar mill-qrib, irriżulta li din il-grafika turi bla sens assolut li m'għandu x'taqsam xejn mar-realtà, għalkemm in-numri jaqgħu fil-medda li konna nistennew li naraw. U l-mistoqsija tiegħi. Għandna libreriji, għandna funzjonijiet, imma kif niktbu testijiet għal Grafana? Int ktibt talba kumplessa li fuqha tiddependi deċiżjoni kummerċjali - biex tordna kontenitur reali ta 'servers jew ma tordnax. U kif nafu, din il-funzjoni li tiġbed il-graff hija simili għall-verità. Grazzi.
Grazzi tal-mistoqsija. Hemm żewġ partijiet. L-ewwel, nieħu l-impressjoni, ibbażata fuq l-esperjenza tiegħi, li ħafna mill-utenti, meta jħarsu lejn iċ-ċarts tagħhom, ma jifhmux dak li qed juruhom. Għal xi raġuni, in-nies huma tajbin ħafna biex joħorġu bi skuża għal kwalunkwe anomalija li sseħħ fil-graffs, anki jekk huwa żball fi ħdan funzjoni. U t-tieni parti - jidhirli li l-użu ta 'funzjonijiet bħal dawn ikun approċċ ferm aħjar biex issolvi l-problema tiegħek, minflok kull wieħed mill-iżviluppaturi tiegħek jagħmel l-ippjanar tal-kapaċità tiegħu stess u jagħmel żbalji b'xi probabbiltà.
Kif tiċċekkja?
Kif tiċċekkja? Probabbilment le.
Bħala test fil Grafana.
X'għandu x'jaqsam magħha Grafana? Grafana tittraduċi din it-talba direttament lid-DataSource.
Żid ftit mal-parametri.
Le, ma jiżdied xejn ma’ Grafana. Jista 'jkun hemm parametri GET, bħal, ngħidu aħna, pass. Mhijiex speċifikata b'mod espliċitu, iżda tista' tegħlebha, jew tista' ma tegħlebx, iżda hija miżjuda awtomatikament. Mhux se tikteb testijiet hawn. Ma naħsibx li għandna nistrieħu fuq Grafana bħala sors ta' verità hawn.
Grazzi tar-rapport! Grazzi għall-kompressjoni! Semmejt l-immappjar ta’ varjabbli f’graff, li fi Grafana ma tistax tuża varjabbli fi ħdan varjabbli. Taf xi ngħid?
Iva.
Dan kien inizjalment uġigħ ta 'ras meta ridt noħloq allert fi Grafana. U hemm trid tagħmel twissija għal kull ospitanti separatament. Din il-ħaġa li għamilt, taħdem għal allerti fi Grafana?
Jekk Grafana ma jaċċessax varjabbli b'mod differenti, allura iva, se taħdem. Imma l-parir tiegħi huwa li ma tużax l-allert fi Grafana xejn, inti aħjar li tuża alertmanager.
Iva, nużaha, iżda dehret biss aktar faċli li twaqqaf f'Grafana, iżda grazzi għall-parir!
Sors: www.habr.com