Мен сізге Роман Хавроненконың «ExtendedPromQL» баяндамасының стенограммасын оқуды ұсынамын.
Мен туралы қысқаша. Менің атым Роман. Мен CloudFlare-де жұмыс істеймін және Лондонда тұрамын. Бірақ мен сонымен қатар VictoriaMetrics қызметшісімін.
Ал мен автормын Графана үшін және ClickHouse үшін шағын прокси болып табылады.
Біз бірінші бөлімнен бастаймыз, ол «Аударманың қиындықтары» деп аталады және онда мен кез келген тілдің, тіпті қарапайым қарым-қатынас тілінің өте маңызды екендігі туралы айтатын боламын. Өйткені, сіз өз ойыңызды басқа адамға немесе жүйеге осылай жеткізесіз, өтінішті қалай тұжырымдайсыз. Интернеттегі адамдар қай тілдің жақсырақ екендігі туралы дауласады - java немесе басқа. Мен өзім үшін тапсырмаға сәйкес таңдау керек деп шештім, өйткені мұның бәрі нақты.
Ең басынан бастайық. PromQL дегеніміз не? PromQL - бұл Prometheus сұрау тілі. Уақыт қатарларының деректерін алу үшін Прометейде сұрауларды осылай қалыптастырамыз.
Уақыт сериясының деректері дегеніміз не? Сөзбе-сөз бұл үш параметр.
Олар мыналар:
- Біз не қарап жатырмыз?
- Біз оны қараған кезде.
- Және ол қандай құндылықты көрсетеді?
Егер сіз осы диаграмманы қарасаңыз (бұл диаграмма менің қадамдарымның статистикасын көрсететін телефонымнан алынған), ол осы сұрақтарға жылдам жауап бере алады.
Біз қадамдарды қарастырамыз. Мағынаны көреміз және оған қараған кезде уақытты көреміз. Яғни, бұл диаграммаға қарап, жексенбі күні мен шамамен 15 000 қадам жүрдім деп оңай айта аласыз. Бұл уақыт сериясының деректері.
Енді оларды кесте түріндегі басқа деректер моделіне «бөліп» (түрлендіру) көрейік. Мұнда біз де қарап отырғанымыз бар. Мұнда мен мета-деректер деп атайтын кішкене қосымша деректерді қостым, яғни бұл мен емес, екі адам, мысалы, Джей және Силент Боб болды. Бұл біз қарап отырған нәрсе; ол нені көрсетеді және бұл мәнді қашан көрсетеді.
Енді осы деректердің барлығын дерекқорда сақтауға тырысайық. Мысалы, мен ClickHouse синтаксисін қабылдадым. Міне, біз «Қадамдар» деп аталатын бір кестені жасаймыз, яғни біз қарап отырған нәрсе. Соған қарайтын кезіміз бар; ол нені көрсетеді және оның кім екенін қайда сақтайтын кейбір метадеректер: Джей және Силент Боб.
Осының барлығын визуализациялауға тырысу үшін біз Grafana-ны қолданамыз, өйткені ол ең алдымен әдемі.
Біз бұл плагинді де қолданамыз. Мұның екі себебі бар. Біріншісі мен жазғандықтан. Мен Grafana-да көрсету үшін ClickHouse-дан уақыт қатары деректерін алу қаншалықты қиын екенін білемін.
Біз оны графикалық тақтада көрсетеміз. Бұл Grafana-дағы ең танымал панель, ол мәннің уақытқа тәуелділігін көрсетеді, сондықтан бізге тек екі параметр қажет.
Ең қарапайым сұранысты жазайық - Grafana-да қадамдар статистикасын қалай көрсету керек, бұл деректерді ClickHouse-да біз жасаған кестеде сақтаймыз. Біз бұл қарапайым сұранысты жазамыз. Біз қадамдардан таңдаймыз. Біз мәнді таңдаймыз және осы мәндердің уақытын таңдаймыз, яғни біз айтқан үш бірдей параметр.
Нәтижесінде біз осындай график аламыз. Оның неліктен біртүрлі екенін кім біледі?
Дұрыс, уақыт бойынша сұрыптауымыз керек.
Ақыр соңында біз жақсырақ, бірақ бәрібір оғаш кесте аламыз. Неліктен кім біледі? Дұрыс, екі қатысушы бар және біз Grafana-да екі уақыт қатарын береміз, өйткені деректер үлгісіне қайта қарасаңыз, әрбір уақыт қатары атау мен барлық кілт-мән белгілерінің бірегей тіркесімі болып табылады.
Сондықтан біз нақты адамды таңдауымыз керек. Біз Джейді таңдаймыз.
Ал тағы да сурет салайық. Енді график шындыққа ұқсайды. Қазір бұл қалыпты кесте және бәрі жақсы жұмыс істейді.
Сіз шамамен бірдей нәрсені қалай жасау керектігін білетін шығарсыз, бірақ Prometheus-те PromQL арқылы. Сол сияқты бірнәрсе. Сәл қарапайым. Ал бәрін бөлшектеп көрейік. Біз қадамдар жасадық. Және Джей сүзеді. Біз мұнда мәнді алуымыз керек екенін көрсетпейміз және уақытты таңдамаймыз.
Енді Джей немесе Silent Bob қозғалыс жылдамдығын есептеп көрейік. ClickHouse бағдарламасында біз runDifference жасауымыз керек, яғни нақты жылдамдықты алу үшін жұп нүктелер арасындағы айырмашылықты есептеп, оларды уақытқа бөлу керек. Сұраныс келесідей болады.
Және ол шамамен осы мәндерді көрсетеді, яғни Silent Bob немесе Jay секундына шамамен 1,8 қадам жасайды.
Прометейде сіз мұны қалай жасау керектігін білесіз. Бұрынғыға қарағанда әлдеқайда оңай.
Мұны Grafana-да орындауды жеңілдету үшін мен PromQL-ге өте ұқсайтын осы қаптаманы қостым. Бұл макросты мөлшерлеме деп аталады немесе оны қалай атағыңыз келсе. Графанада сіз жай ғана «ставка» деп жазасыз, бірақ тереңірек бір жерде ол осы үлкен сұранысқа айналады. Сізге тіпті қараудың қажеті жоқ, ол бір жерде бар, бірақ сіз көп уақытты үнемдейсіз, өйткені мұндай үлкен SQL сұрауларын жазу әрқашан қымбат. Сіз оңай қателесе аласыз, содан кейін ұзақ уақыт бойы не болып жатқанын түсіне алмайсыз.
Бұл тіпті бір слайдқа сыймайтын сұраныс және оны екі бағанға бөлуге тура келді. Бұл сонымен қатар ClickHouse бағдарламасындағы сұраныс, ол бірдей жылдамдықты жасайды, бірақ екі уақыт қатары үшін: Silent Bob және Jay, осылайша панельде екі уақыт қатары болады. Және бұл менің ойымша, қазірдің өзінде өте қиын.
Ал Прометей бойынша ол қосынды (ставка) болады. ClickHouse үшін мен Prometheus бағдарламасындағы сұрауға ұқсайтын RateColumns деп аталатын бөлек макрос жасадым.
Біз оны қарадық және PromQL өте керемет сияқты, бірақ оның шектеулері бар.
Олар мыналар:
- Шектеулі ТАҢДАУ.
- Шекара сызығы JOIN.
- Қолдау жоқ.
Егер сіз онымен ұзақ уақыт жұмыс жасасаңыз, онда сіз PromQL-де кейде бірдеңе жасау өте қиын екенін білесіз, бірақ SQL-де сіз барлығын дерлік жасай аласыз, өйткені біз жаңа ғана айтқан барлық опцияларды SQL-де жасауға болады. . Бірақ оны пайдалану ыңғайлы болар ма еді? Бұл мені ең күшті тіл әрқашан ең қолайлы бола бермеуі мүмкін деп ойлаймын.
Сондықтан кейде тапсырма үшін тілді таңдау керек. Бұл Бэтменнің Суперменмен соғысуы сияқты. Суперменнің күштірек екені анық, бірақ Бэтмен оны жеңе алды, өйткені ол практикалық және оның не істеп жатқанын нақты білетін.
Ал келесі бөлім - Extending PromQL.
VictoriaMetrics туралы тағы да. VictoriaMetrics дегеніміз не? Бұл уақыт сериясының дерекқоры, ол OpenSource жүйесінде, біз оның жалғыз және кластерлік нұсқаларын таратамыз. Біздің эталондарымызға сәйкес, ол қазір нарықтағы кез келген нәрседен жылдамырақ және қысу ұқсас, яғни нақты адамдар бір нүктеге шамамен 0,4 байт қысу туралы хабарлайды, ал Прометейдікі 1,2-1,4.
Біз Прометейді ғана қолдаймыз. Біз InfluxDB, Graphite, OpenTSDB қолдаймыз.
Бізге «жазуға» болады, яғни ескі деректерді тасымалдауға болады.
Біз сондай-ақ Prometheus және Grafana-мен тамаша жұмыс істейміз, яғни PromQL қозғалтқышын қолдаймыз. Ал Grafana-да сіз жай ғана Prometheus соңғы нүктесін VictoriaMetrics-ке өзгерте аласыз және сіздің барлық бақылау тақталары сол сияқты жұмыс істейді.
Бірақ VictoriaMetrics қамтамасыз ететін қосымша мүмкіндіктерді де пайдалана аласыз.
Біз қосқан мүмкіндіктерді жылдам қарап шығамыз.
Интервал параметрін өткізіп жіберу – Grafana ішіндегі интервал параметрлерін өткізіп жіберуге болады. Панельде үлкейту/кішірейту кезінде біртүрлі графиктерді алғыңыз келмесе, айнымалы мәнді пайдалану ұсынылады. $__interval. Бұл ішкі Grafana өзгерісі және ол деректер ауқымын өзі таңдайды. Ал VictoriaMetrics өзі бұл диапазонның қандай болуы керектігін түсіне алады. Және барлық сұрауларыңызды жаңартудың қажеті жоқ. Бұл әлдеқайда жеңіл болады.
Екінші функция аралық сілтеме болып табылады. Сіз бұл интервалды өрнектеріңізде пайдалана аласыз. Оны көбейтуге, бөлуге, тасымалдауға, сілтеме жасауға болады.
Келесі жиынтық функциялар тобы. Жинақтау функциясы кез келген уақыт қатарын үш бөлек уақыт қатарына түрлендіреді. Бұл минимум, макс және орташа. Мен мұны өте ыңғайлы деп санаймын, өйткені кейде ол кейбір шектен тыс көрсеткіштер мен дәлсіздіктерді көрсетуі мүмкін.
Егер сіз жай ғана ашулансаңыз немесе бағаласаңыз, уақыт қатары сіз күткендей әрекет етпейтін жағдайларды жіберіп алуыңыз мүмкін. Бұл функцияның көмегімен оны көру әлдеқайда оңай, максимум орташадан өте көп делік.
Келесі - әдепкі айнымалы. Әдепкі - бұл қазіргі уақытта бізде уақыт қатары болмаса, Grafana-да қандай мәнді салу керек екенін білдіреді. Бұл қашан болады? Кейбір қате көрсеткіштерін экспорттап жатырсыз делік. Сізде сондай керемет қолданба бар, сіз бастаған кезде сізде келесі үш сағат немесе тіпті бір күнде қателер болмайды және тіпті қателер болмайды. Сізде сәттіліктен қатеге дейінгі қатынасты көрсететін бақылау тақталары бар. Олар сізге ештеңе көрсетпейді, себебі сізде қате көрсеткіші жоқ. Ал әдепкіде кез келген нәрсені көрсетуге болады.
Сақтау_соңғы_мән - егер ол жоқ болса, көрсеткіштің соңғы мәнін сақтайды. Егер Прометей оны келесі сызудан кейін 5 минут ішінде таппаса, онда біз оның соңғы мәнін есте сақтаймыз және сіздің диаграммаларыңыз қайтадан бұзылмайды.
Scrape_interval – Prometheus метрикаңыздағы деректерді қаншалықты жиі және қандай жиілікпен жинайтынын көрсетеді. Мұнда, мысалы, рұқсаттаманы көруге болады.
Жапсырманы ауыстыру - танымал мүмкіндік. Бірақ біз бұл біраз күрделі деп ойлаймыз, өйткені ол барлық дәлелдерді қажет етеді. Және 5 дәлелді есте сақтау ғана емес, сонымен қатар олардың ретін есте сақтау керек.
Сондықтан неге оларды қарапайым етпеске? Яғни, оны түсінікті синтаксисі бар шағын функцияларға бөліңіз.
Ал енді қызық бөлік. Неліктен бұл кеңейтілген PromQL деп ойлаймыз? Өйткені біз ортақ кесте өрнектерін қолдаймыз. QR кодын (), мысалдары бар сілтемелерді ойын алаңынан қараңыз, мұнда сұрауларды жай браузерде орнатпай-ақ тікелей VictoriaMetrics ішінде іске қосуға болады.
Ал бұл не? Жоғарыдағы бұл сұраныс өте танымал сұраныс. Менің ойымша, көптеген компаниялардың кез келген бақылау тақтасында сіз бәріне бірдей сүзгіні пайдаланасыз. Әдетте солай. Бірақ жаңа сүзгіні қосу қажет болғанда, әр панельді жаңарту немесе бақылау тақтасын жүктеп алу, оны JSON ішінде ашу, ауыстыруды табу керек, бұл да уақытты алады. Неліктен бұл мәнді айнымалыда сақтауға және оны қайта пайдалануға болмайды? Бұл, менің ойымша, әлдеқайда қарапайым және түсінікті көрінеді.
Мысалы, барлық сұраулардағы Grafana сүзгілерін жаңарту қажет болғанда және бақылау тақтасы үлкен болуы мүмкін немесе олардың бірнешеуі болуы мүмкін. Мен бұл мәселені Графанада қалай шешкім келеді?
Мен бұл мәселені осылай шешемін: Мен ортақ Сүзгі жасаймын және онда осы сүзгіні анықтаймын, содан кейін оны сұрауларда қайта пайдаланамын. Бірақ дәл солай істесеңіз, ол жұмыс істемейді, себебі Grafana айнымалы мәндерді сұрау айнымалы мәндерінде пайдалануға рұқсат бермейді. Және бұл біраз оғаш.
Сондықтан мен мұны істеуге мүмкіндік беретін опцияны жасадым. Ал егер сізді қызықтыратын болсаңыз немесе мұндай мүмкіндікті қаласаңыз, оны қолдаңыз немесе бұл идея ұнамаса, ұнатпаңыз.
PromQL кеңейтілгені туралы толығырақ. Мұнда айнымалыны ғана емес, тұтас функцияны анықтаймыз. Ал біз оны ru (ресурсты пайдалану) дейміз. Және бұл функция бос ресурстарды, ресурстарды шектеуді және сүзгіні қабылдайды. Синтаксис қарапайым сияқты. Бұл функцияны пайдалану және бізде бос жадтың пайызын есептеу өте оңай. Яғни, бізде қанша жады бар, қандай шектеулер бар және қалай сүзуге болады. Егер сіз бәрін бірдей сүзгілерді қайта пайдаланып жазған болсаңыз, әлдеқайда ыңғайлырақ көрінеді, өйткені ол үлкен, үлкен сұрауға айналады.
Міне, осындай үлкен, үлкен өтініштің мысалы. Бұл Grafana үшін ресми NodeExporter бақылау тақтасынан алынған. Бірақ мен мұнда не болып жатқанын әрең түсінемін. Бұл, әрине, егер сіз мұқият қарасаңыз, мен түсінемін, бірақ жақшалардың саны мұнда не болып жатқанын түсінуге мотивацияны бірден төмендетуі мүмкін. Неліктен оны қарапайым және түсінікті етпеске?
Мысалы, маңызды нәрселерді немесе бөліктерді айнымалыларға бөлу сияқты. Содан кейін негізгі математиканы орындаңыз. Бұл бағдарламалау сияқты, мен болашақта Графанада көргім келетін нәрсе.
Міне, егер бізде бұл ru функциясы болған болса және ол VictoriaMetrics ішінде тікелей бар болса, мұны қалай жеңілдете алатынымыздың екінші мысалы. Содан кейін сіз CTE-де жариялаған кэштелген мәнді жібересіз.
Мен жоғарыда дұрыс бағдарламалау тілін пайдаланудың қаншалықты маңызды екендігі туралы айттым. Және, мүмкін, Графанадағы әрбір компанияда әртүрлі нәрсе бар. Сондай-ақ, сіз әзірлеушілерге Grafana-ға рұқсат бересіз, ал әзірлеушілер өз істерін жасайды. Және олардың бәрі мұны басқаша жасайды. Бірақ мен оның әйтеуір бірдей болғанын, яғни ортақ стандартқа дейін қысқартқанын қаладым.
Сізде тек жүйелік инженерлер жоқ делік, мүмкін сізде сарапшылар, devops немесе SRE бар. Мүмкін сізде мониторингтің не екенін білетін, Grafana деген не екенін білетін, яғни онымен жылдар бойы жұмыс істеп келе жатқан және оны қалай дұрыс жасау керектігін білетін мамандар бар шығар. Ал олар мұны 100 рет жазып, бәріне түсіндірді, бірақ неге екені белгісіз ешкім тыңдамайды.
Басқа пайдаланушылар мүмкіндіктерді қайта пайдалана алуы үшін олар бұл білімді тікелей Grafana-ға енгізсе ше? Ал егер оларға бос жадтың пайызын есептеу қажет болса, олар жай ғана функцияны қолданар еді. Экспорттаушылардың жасаушылары өз өнімімен бірге олардың көрсеткіштерімен жұмыс істеуге қатысты функциялар жинағын да қамтамасыз етсе ше?
Бұл шынымен жоқ. Бұл мен өзім жасадым. Бұл Графанадағы кітапхана қолдауы. NodeExporter жасаған жігіттер мен айтқан нәрсені жасады делік. Сондай-ақ олар бірқатар функцияларды қамтамасыз етті.
Яғни, мынаған ұқсайды. Сіз бұл кітапхананы Grafana-ға қосасыз, өңдеуге кірісесіз және бұл көрсеткішпен қалай жұмыс істеу керектігі JSON-да өте қарапайым жазылған. Яғни функциялардың кейбір жиынтығы, олардың сипаттамасы және олар неге айналады.
Менің ойымша, бұл пайдалы болуы мүмкін, өйткені ол кезде Графанада дәл осылай жазар едіңіз. Ал Графана сізге анау-мынау кітапханадан осындай функция бар екенін «айтады» - оны қолданайық. Менің ойымша, бұл өте керемет болар еді.
VictoriaMetrics туралы аздап. Біз көптеген қызықты нәрселер жасаймыз. Сығымдау туралы, басқа уақыттық қатар деректер қолданбаларымен жарыстарымыз туралы, PromQL-пен қалай жұмыс істеу керектігі туралы түсініктемелерімізді оқыңыз, өйткені бұл жерде әлі де көптеген жаңадан бастаушылар бар, сонымен қатар тік масштабтау және Thanos-пен қарсыласу туралы.
Сұрақтар:
Сұрағымды қарапайым өмір оқиғасынан бастайын. Мен Grafana-ны алғаш рет қолдана бастағанда, мен 5 жолдан тұратын өте тартымды сұрау жаздым. Соңғы нәтиже - өте сенімді график. Бұл кесте дерлік өндіріске енді. Бірақ мұқият тексергеннен кейін бұл графикте шындыққа еш қатысы жоқ абсолютті нонсенс екені белгілі болды, дегенмен сандар біз күткен диапазонда келеді. Және менің сұрағым. Бізде кітапханалар бар, бізде функциялар бар, бірақ біз Grafana үшін тесттерді қалай жазамыз? Сіз іскери шешімге байланысты күрделі сұраныс жаздыңыз - серверлердің нақты контейнеріне тапсырыс беру немесе тапсырыс бермеу. Ал біз білетіндей, графикті сызатын бұл функция шындыққа ұқсас. Рақмет сізге.
Сұрақ үшін рахмет. Екі бөлік бар. Біріншіден, мен өз тәжірибеме сүйене отырып, пайдаланушылардың көпшілігі диаграммаларына қараған кезде, оларға не көрсетіп жатқанын түсінбейтін әсер аламын. Қандай да бір себептермен, адамдар графиктерде орын алатын кез келген аномалияны, тіпті егер бұл функциядағы қате болса да, ақтауды өте жақсы біледі. Ал екінші бөлім - менің ойымша, мұндай функцияларды пайдалану сіздің проблемаңызды шешуге әлдеқайда жақсы тәсіл болар еді, сіздің әзірлеушілеріңіздің әрқайсысы өз мүмкіндіктерін жоспарлауды және белгілі бір ықтималдықпен қателіктер жіберудің орнына.
Қалай тексеруге болады?
Қалай тексеруге болады? Мүмкін емес.
Графанадағы сынақ ретінде.
Графананың бұған қандай қатысы бар? Grafana бұл сұрауды тікелей DataSource жүйесіне аударады.
Параметрлерге аздап қосу.
Жоқ, Графанаға ештеңе қосылмайды. GET параметрлері болуы мүмкін, мысалы, қадам. Ол нақты көрсетілмеген, бірақ оны қайта анықтауға болады немесе оны қайта анықтауға болмайды, бірақ ол автоматты түрде қосылады. Сіз мұнда сынақ жазбайсыз. Бұл жерде шындықтың көзі ретінде Графанаға сенбеу керек деп ойлаймын.
Есеп үшін рахмет! Сығымдау үшін рахмет! Сіз айнымалы мәнді графикте салыстыру туралы айттыңыз, Grafana-да айнымалының ішінде айнымалы мәнді пайдалана алмайсыз. Менің не айтқым келгенін білесің бе?
Иә.
Мен Графанада ескерту жасағым келгенде, бұл бастапқыда бас ауруы болды. Мұнда әр хост үшін бөлек ескерту жасау керек. Бұл сіз жасаған нәрсе, ол Графанадағы ескертулер үшін жұмыс істей ме?
Егер Grafana айнымалы мәндерге басқаша қол жеткізе алмаса, иә, ол жұмыс істейді. Бірақ менің кеңесім - Grafana-да ескертуді мүлде қолданбау, сіз alertmanager қолданбасын пайдаланғаныңыз жөн.
Иә, мен оны қолданамын, бірақ оны Графанада орнату оңайырақ болып көрінді, бірақ кеңесіңізге рахмет!
Ақпарат көзі: www.habr.com