Одабир складишта података за Прометеј: Танос вс ВицториаМетрицс

Здраво свима. Испод је транскрипт извештај са Биг Мониторинг Меетуп 4.

Прометеј – систем за праћење различитих система и сервиса, уз помоћ којег администратори система могу прикупљати информације о актуелним параметрима система и подесити упозорења за примање обавештења о одступањима у раду система.

Извештај ће укључивати поређење Тханос и ВицториаМетрицс — пројекти за дуготрајно чување Прометејеве метрике.

Прво ћу вам рећи о Прометеју. Ово је систем за надгледање који прикупља метрику од одређених циљева и чува их у локалној меморији. Прометхеус може да снима метрику у удаљено складиште и може да генерише упозорења и правила снимања.

Прометејева ограничења:

• Нема глобални приказ упита. Ово је када имате више независних инстанци прометеја. Они прикупљају метрику. И желите да постављате упите поврх свих ових метрика прикупљених из различитих прометејских инстанци. Прометеј то не дозвољава.
• Са прометхеусом, перформансе су ограничене на само један сервер. Прометхеус се не прилагођава аутоматски на више сервера. Можете само ручно да поделите своје мете између више Прометеја.
• Опсег метрике у Прометхеусу је ограничен на само један сервер из истог разлога због којег се не може аутоматски скалирати на више сервера.
• Није тако лако организовати безбедност података у Прометеју.

Решења за ове проблеме/изазове?

Решења су:

• Тханос
• ВицториаМетрицс
• Убер М3
• Кортекс

Сва ова решења су за даљинско складиштење података које прикупља Прометхеус. Они решавају проблем удаљеног складиштења са претходног слајда на различите начине. У овој презентацији говорићу само о прва два решења: Тханос и ВицториаМетрицс.

Први пут информације о Тханос појавио од овај линк. Тамо је описана архитектура Тханос и како то функционише.

Танос узима податке које је Прометеј сачувао на локални диск и копира их на С3, на ГЦС или у складиште другог објекта.

Тако Тханос пружа глобални приказ упита. Можете да тражите податке ускладиштене у складишту објеката из више Прометхеус инстанци.

Тханос подржава ПромКЛ и Прометхеусов АПИ за упите.

Танос користи Прометејев код за складиштење података.

Тханос развијају исти програмери као и Прометхеус.

О томе ВицториаМетрицс. Ево веза, где смо први пут разговарали ВицториаМетрицс.

ВицториаМетрицс прима податке од неколико прометеја АПИ за даљинско писање протокол који подржава Прометеј.

ВицториаМетрицс пружа глобални приказ упита, пошто више Прометхеус инстанци може записати податке у један ВицториаМетрицс. Сходно томе, можете постављати упите о свим овим подацима.

ВицториаМетрицс такође подржава, попут Тханос, ПромКЛ и Прометхеус АПИ за упите.

За разлику од Тханоса, ВицториаМетрицс изворни код је написан од нуле и оптимизован је за брзину и потрошњу ресурса.

ВицториаМетрицс, за разлику од Тханоса, скалира и вертикално и хоризонтално. Једи Верзија са једним чвором, који се повећава вертикално. Можете почети са једним процесором и 1 ГБ меморије и постепено расти до стотина процесора и 1 ТБ меморије. ВицториаМетрицс може да користи све ове ресурсе. Његове перформансе ће се повећати за око 100 пута у поређењу са системом са 1 језгром.

Историја Таноса почела је у новембру 2017. године, када се појавила прва јавна објава. Пре тога, Тханос је интерно развијен невероватно.ио.

У јуну 2019. изашло је значајно издање 0.5.0, у којем уклоњена трач протокола. Уклоњен је из Таноса јер се није добро показао. Често Тханос кластер није радио како треба, чворови су били погрешно повезани на њега због трачева протокола. Стога смо одлучили да га одатле уклонимо. Мислим да је ово исправна одлука.

Истог јуна 2019. године послали су број пријаве 256 в Цлоуд Нативе Цомпутинг Фоундатион.

И после неколико месеци Танос је примљен Цлоуд Нативе Цомпутинг Фоундатион, који укључује Прометхеус, Кубернетес и друге популарне пројекте.

У јануару 2018. почео је развој ВицториаМетрицс-а.

У септембру 2018. први пут сам јавно поменуо ВицториаМетрицс.

У децембру 2018. објављена је верзија са једним чвором.

У мају КСНУМКС су објављени извори верзија са једним чвором и кластера.

У јуну 2019., баш као и Танос, поднели смо пријаву ЦНЦФ фондацији под бројем 255. Пријавили смо се дан пре него што се Танос пријавио.

Али, нажалост, тамо још увек нисмо примљени. Потребна помоћ заједнице.

Хајде да погледамо најважније слајдове који приказују архитектуру Тханоса и ВицториаМетрицс.

Почнимо са Таносом. Жуте компоненте су компоненте Прометеја. Све остало су Тханос компоненте. Почнимо са најважнијом компонентом. Тханос Сидецар је компонента која се инсталира поред сваког Прометеја. Он учитава Прометхеус податке из локалног складишта у С3 или други Објецт Стораге.

Постоји и компонента која се зове Тханос Сторе Гатеваи, која може читати ове податке из Објецт Стораге-а по долазним захтевима из Тханос Куери-ја. Тханос Куери имплементира ПромКЛ и Прометхеус АПИ. То јест, споља изгледа као Прометеј. Прима ПромКЛ упите, шаље их на Тханос Сторе Гатеваи, Тханос Сторе Гатеваи преузима потребне податке из Објецт Стораге-а, шаље их назад.

Али ми чувамо податке у Објецт Стораге-у без последња два сата због карактеристике Тханос Сидецар имплементације, која не може да отпреми последња два сата у Објецт Стораге С3, пошто Прометхеус још увек није креирао датотеке за ова два сата у локалној меморији.

Како сте одлучили да ово заобиђете? Тханос Куери, поред захтева ка Тханос Сторе Гатеваи-у, шаље паралелне захтеве сваком Тханос Сидецар-у, који се налази поред Прометеја.

А Танос Сидецар, заузврат, прослеђује захтеве даље Прометеју и преузима податке за последња два сата.

Поред ових компоненти, постоји и опциона компонента без које Танос неће добро радити. Ово је Тханос Цомпацт, који је одговоран за спајање малих датотека на Објецт Стораге-у у веће датотеке које су овде отпремили Тханос Сидецарс. Тханос Сидецар тамо отпрема датотеке са подацима за два сата. Ове датотеке, ако се не споје у веће датотеке, онда њихов број може веома значајно да порасте. Што је више таквих датотека, више меморије је потребно за Тханос Сторе Гатеваи, више ресурса је потребно за пренос података преко мреже и метаподатака. Тханос Сторе Гатеваи постаје неефикасан. Због тога је потребно покренути Тханос Цомпацт, који спаја мале датотеке у веће, како би било мање таквих датотека и како би се смањили трошкови на Тханос Сторе Гатеваи-у.

Постоји и таква компонента као што је Тханос Рулер. Он извршава Прометхеусова правила упозорења и може да процени Прометхеусова правила снимања како би уписивала податке назад у Складиште објеката. Али ова компонента се не препоручује за употребу, јер... Он има тенденцију да врати непотпуне податке.

Ово је једноставна шема Таноса.

Хајде сада да га упоредимо са ВицториаМетрицс шемом.

ВицториаМетрицс има 2 верзије: верзију са једним чвором и верзију кластера. Један чвор ради на једном рачунару. Појединачни чвор нема ове компоненте, само један бинарни. Ова бинарна датотека на слајду изгледа као овај квадрат. Све што је унутар квадрата је садржај бинарне датотеке за верзију са једним чвором. Не морате да знате за њега. Само покрените бинарни програм и све ради за нас.

Кластер верзија је компликованија. Унутар њега постоје три различите компоненте: вмселецт, вминсерт и вмстораге. Из њиховог имена би требало да буде јасно шта свако од њих ради. Компонента Инсерт прихвата податке у различитим форматима: од Прометхеус АПИ-ја за даљинско писање, протокола Инфлук линије, Грапхите протокола и ОпенТСДБ протокола. Компонента Инсерт их прихвата, анализира и дистрибуира између постојећих компоненти складиштења, где су подаци већ ускладиштени. Компонента Селецт, заузврат, прихвата ПромКЛ упите. Он спроводи ПромКЛ, као и Прометхеус АПИ за упите, а може се користити као замена за Прометхеус у Графани или другим Прометхеус АПИ клијентима. Селецт прихвата промкл захтев, анализира га, чита потребне податке за извршење овог захтева са чворова за складиштење, обрађује ове податке и враћа одговор.

Хајде да упоредимо сложеност инсталирања Тханоса и ВицториаМетрицс-а.

Почнимо са Таносом. Пре него што почнете да радите са Тханос-ом, потребно је да креирате канту у Складишту објеката, као што је С3 или ГЦС, тако да Тханос Сидецар може да уписује податке у њега.

Затим за сваки Прометеј морате да инсталирате Тханос Сидецар. Пре тога, морате запамтити да онемогућите сажимање података у Прометхеусу. Сажимање података периодично компримује податке у локалном Прометхеус складишту како би се смањила потрошња ресурса.

Када инсталирате Тханос Сидецар на свој Прометхеус, морате онемогућити ово сажимање података, јер Тханос Сидецар не ради исправно када је омогућено сабијање података. То значи да ваш Прометеј почиње да чува податке у блоковима од два сата и престаје да спаја те блокове у веће. Сходно томе, ако правите упите који прелазе трајање последња два сата, они неће радити тако ефикасно као што би могли да раде да је омогућено сажимање података.

Стога, Тханос препоручује смањење времена задржавања података у локалној меморији на 6-8 сати како би се смањили трошкови великог броја малих блокова.

Када инсталирате Тханос Сидецар, морате да инсталирате две компоненте за сваку корпу за складиштење објеката. То су Тханос Цомпацтор и Тханос Сторе Гатеваи.

Након тога, потребно је да инсталирате Тханос Куери и да га конфигуришете тако да се може повезати са свим Тханос Сторе Гатеваи-има које имате, а такође може да се повеже са свим Тханос Сидецарима.

Овде може доћи до малог проблема.

Морате да конфигуришете поуздану и безбедну везу са Тханос Куери-а са овим компонентама. А ако се ваш Прометеј налази у различитим центрима података, или у различитим ВПЦ-овима, везе са њима споља су забрањене. Али да би Тханос Куери функционисао, морате некако да конфигуришете везу тамо и морате да смислите начин.

Ако имате много таквих центара података, онда се, сходно томе, смањује поузданост читавог система. Пошто Тханос Куери мора стално да одржава везе са свим Тханос бочним колима који се налазе у различитим центрима података. За сваки долазни захтев, усмераваће захтеве ка свим Тханос бочним колима. Ако је веза прекинута, или ћете добити некомплетан скуп података, или ћете добити одговор „кластер не ради“.

У ВицториаМетрицс све је мало једноставније. За верзију са једним чвором, потребно је само да покренете једну бинарну датотеку и све ради.

У кластер верзији довољно је покренути све горе наведене три врсте компоненти у било којој количини која вам је потребна или користити кормиларска карта да аутоматизује покретање компоненти у Кубернетесу. Такође планирамо да направимо Кубернетес оператера. Хелмова табела не покрива неке случајеве и омогућава вам да пуцате себи у ногу. На пример, омогућава вам да смањите број чворова за складиштење, што ће довести до губитка података.

Након што сте покренули једну бинарну или кластер верзију, само треба да додате Прометхеус у конфигурацију подешавање за удаљено писање УРЛ-атако да почиње да уписује податке паралелно са локалним складиштем и удаљеним складиштем. Као што видите, ова конфигурација би требало да ради много поузданије у поређењу са Тханос конфигурацијом. Не морамо да одржавамо везу од ВицториаМетрицс-а до свих Прометхеус-а, јер се сами Прометхеус повезују са ВицториаМетрицс-ом и преносе податке.

Хајде да размотримо подршку Тханоса и ВицториаМетрицс.

Тханос треба да надгледа Сидецар како би се уверио да не престају да учитавају податке у Објецт Стораге. Они могу да зауставе ово преузимање података због грешака у преузимању, на пример, ваша мрежна веза са Складиштем објеката је привремено прекинута или Објецт Стораге је привремено недоступан. Тханос Сидецар ће то приметити у овом тренутку, пријавити грешку, можда ће се срушити и онда престати да ради. Ако га не надгледате, престаћете да преносите податке у Објецт Стораге. Ако време задржавања прође (препоручено 6-8 сати), изгубићете податке који нису завршили у Складишту објеката.

Тханос компактори могу престати да раде због трка је са приколицом. Компактори узимају податке из складишта објеката и спајају их у веће делове података. Пошто компактори нису синхронизовани са бочним колима, може се десити следеће: бочна колица још није имала времена да заврши блок, компактор одлучује да је овај блок у потпуности написан. Компактор почиње да га чита. Не чита блок у потпуности и престаје да ради. Види детаље овде.

Сторе Гатеваи може да врати недоследне податке због трка између Цомпацтор-а и Сидецарс. Иста ствар се дешава и овде, јер Сторе Гатеваи ни на који начин није синхронизован са компакторима и бочним колицима. Сходно томе, услови трке могу настати када Сторе Гатеваи не види део података или види непотребне податке.

Компонента Куери у Тханосу подразумевано враћа делимичан резултат ако неки Сидецарс или Сторе Гатеваис нису доступни у овом тренутку. Добићете део података, а нећете ни знати да нисте добили све податке. Овако ради подразумевано. У сличној ситуацији, ВицториаМетрицс враћа означене податке као делимичне.

За разлику од Тханоса, ВицториаМетрицс ретко губи податке. Чак и ако је веза између Прометхеус-а и ВицториаМетрицс-а прекинута, то није проблем, јер Прометхеус наставља да бележи долазне нове податке у дневник Врите Ахеад, чија је величина 2 сата. Ако вратите своју везу са ВицториаМетрицс у року од два сата, ваши подаци неће бити изгубљени. Прометеј може додати податке након враћања везе са ВицториаМетрицс.

За разлику од Тханоса, који уписује податке у складиште објеката тек након два сата, Прометхеус аутоматски реплицира податке користећи протокол за даљинско уписивање у удаљено складиште, као што је ВицториаМетрицс. Не плашите се губитка локалног складишта у Прометеју. Ако је изненада изгубио локалну меморију, онда ћете у најгорем случају изгубити последње секунде података који нису имали времена да се сниме у удаљено складиште.

Кубернетес аутоматски управља кластером, за разлику од Тханоса. Тешко је ставити све Тханос компоненте у један Кубернетес кластер, за разлику од ВицториаМетрицс компоненти кластера.

ВицториаМетрицс има врло једноставно ажурирање нове верзије. Само зауставите ВицториаМетрицс, ажурирајте бинарне датотеке и покрените га. Када се зауставе преко СИГИНТ сигнала, све ВицториаМетрицс бинарне датотеке извршавају елегантно искључивање. Они исправно чувају потребне податке, исправно затварају долазне везе како ништа не би изгубили. Тако да нећете ништа изгубити приликом надоградње.

ВицториаМетрицс олакшава проширење кластера. Само додајте потребне компоненте и наставите са радом.

О замкама у Тханос и ВицториаМетрицс.

Танос има следеће замке. Прометеј мора да чува податке за последња два сата. Ако се изгубе, потпуно ћете их изгубити јер још нису уписани у Објецт Стораге као што је С3.

Компонента мрежног пролаза продавнице и компонента компактора могу захтевати много меморије за рад са великим објектом за складиштење ако постоји много малих датотека које су тамо ускладиштене. Што је већи број и величина датотека, потребно је више Сторе Гатеваи-а и компактне РАМ меморије за складиштење метаинформација. Танос има много проблема у вези са тим Срушите мрежни пролаз и компактор са просечном количином снимљених података.

Танос се рекламира да се неограничено повећава са количином Прометеја коју имате. Ово заправо није тачно. Пошто сви захтеви пролазе кроз компоненту Куери, која мора истовремено да испитује све компоненте мрежног пролаза и све компоненте Сидецар-а, извући податке одатле и затим их претходно обрадити. Очигледно, брзина захтева је ограничена најспоријом слабом везом, најспоријим мрежним пролазом или најспоријим бочним колима.

Ове компоненте могу бити неравномерно оптерећене. На пример, имате Прометеј, који прикупља милионе метрика у секунди. А ту је и Прометеј, који прикупља хиљаде метрика у секунди. Прометхеус, који прикупља милионе метрика у секунди, ставља много веће оптерећење на сервер на којем ради. Сходно томе, Сидецар тамо ради спорије. И уопште тамо све ради полако. А компонента Куери ће извлачити податке одатле веома споро. Сходно томе, перформансе вашег целог кластера ће бити ограничене овим спорим бочним колима.

Подразумевано, Тханос даје делимичне податке ако су неки бочни аутомобили и или Сторе Гатеваи недоступни. На пример, ако су ваше бочне приколице раштркане широм света у различитим центрима података, онда се вероватноћа квара везе и недоступности компоненти увелико повећава. Сходно томе, у већини случајева ћете добити делимичне податке, а да то нисте ни свесни.

ВицториаМетрицс такође има замке. Прва замка је опција која ограничава количину РАМ-а који се користи за ВицториаМетрицс кеш. Подразумевано, он је једнак 60% РАМ-а на машини на којој је покренут ВицториаМетрицс или 60% РАМ-а ВицториаМетрицс под-а у Кубернетес-у.

Ако погрешно промените ову вредност, можете упропастити перформансе ВицториаМетрицс-а. На пример, ако поставите прениску вредност, подаци се можда више неће уклапати у ВицториаМетрицс кеш меморију. Због тога ће морати додатно да ради и учитава процесор и диск. Ако ову опцију учините превеликом, повећава се, прво, вероватноћа да ће се ВицториаМетрицс срушити услед недостатка меморије, а друго, то ће довести до чињенице да ће у меморији оперативног система остати врло мало РАМ-а за кеш датотека. А ВицториаМетрицс се за перформансе ослања на кеш датотека. Ако то није довољно, оптерећење на диску се може знатно повећати. Зато савет: не мењајте параметар осим ако је то апсолутно неопходно.

Друга опција. Ово је период задржавања - период који је подразумевано подешен на 1 месец. Ово је дужина времена у коме ВицториаМетрицс чува податке. Након овог периода, ВицториаМетрицс брише податке.

Многи људи покрећу ВицториаМетрицс без овог параметра и бележе податке месец дана. А онда питају: зашто су нестали подаци за претходни месец? Зато што је подразумевани период задржавања 1 месец. Стога, морате знати и поставити тачан период задржавања.

Хајде да погледамо јединствене карактеристике.

Тханос има функцију која се зове смањење узорковања: интервали од 5 минута и сваки сат, који често не ради како треба. Ако прогуглате и погледате њихов проблем на гитхуб-у, постоји много проблема у вези са овим смањењем узорковања, да понекад не ради исправно или не ради како корисници очекују.

Тханос има дедупликацију података за Прометхеус ХА парове. Када два Прометеја прикупе исте метрике са истих циљева и Танос их складишти у Складиште објеката. Танос може правилно да дедуплицира ове податке, за разлику од ВицториаМетрицс-а.

Танос има компоненту упозорења која се налазила на Тханос шеми. Али њега не препоручује се за употребу у производњи.

Танос има предност што Танос и Прометеј деле исти код. Тханос и Прометхеус развијају исти програмери. Са побољшањима Таноса или Прометеја, друга страна побеђује.

Главна карактеристика ВицториаМетрицс-а је МетрицсКЛ. Ово су ВицториаМетрицс екстензије за ПромКЛ, о којима сам говорио на претходном великом састанку за праћење.

ВицториаМетрицс подржава учитавање података користећи много различитих протокола. ВицториаМетрицс не може само да прихвати податке од Прометхеуса, већ и преко Инфлук, ОпенТСДБ и Грапхите протокола.

ВицториаМетрицс подаци заузимају много мање простора у поређењу са Таносом и Прометејем.

Ако снимате стварне податке, корисници говоре о смањењу величине података на диску 2-5 пута у поређењу са Прометејем и Таносом.

Још једна предност ВицториаМетрицс-а је што је оптимизован за брзину.

Погледајмо цену инфраструктуре.

Једна од предности Тханоса је то што чува податке у објектном складишту, што је релативно јефтино.

Када складиштите податке у складишту објеката, морате платити за операције писања и читања података (10 УСД за милион операција). Када уписујете податке у складиште објеката, плаћате своје трошкове хостовања за отпремање података на Интернет; ако ваш кластер није у АВС-у, тамо је бесплатан. Када читате податке, плаћате између 10 и 230 долара по 1ТБ. Ово може бити значајно ако често тражите историјске податке из Тханос кластера.

За Тханос кластер, морате да платите за сервере за Цомпацт, Сторе Гатеваи, Куери компоненте које захтевају много меморије и ЦПУ за велике количине података.

ВицториаМетрицс има следеће трошкове. Ако чувате податке на ГЦЕ ХДД дисковима, онда кошта 40 УСД за 1ТБ. За ВицториаМетрицс су довољни обични ХДД дискови; нису потребни ССД дискови, који коштају пет пута више. ВицториаМетрицс је оптимизован за ХДД.

ВицториаМетрицс захтева сервере за компоненте: или једноструке или груписане компоненте, које, за разлику од Тханос компоненти, захтевају много мање ЦПУ-а и РАМ-а – и сходно томе ће бити јефтиније.

Примери имплементације.

Тханос има пример имплементације у Гитлабу. Гитлаб у потпуности ради на Тханосу. Али тамо није све тако глатко. Ако их погледате питања, онда можете видети да их стално имају оперативни проблеми са Таносом: Нема довољно меморије за Сторе Гатеваи или Куери компоненте. Они стално морају да повећавају количину меморије.

Због тога се повећавају трошкови решавања ових проблема.

Друга имплементација, која би могла бити успешнија, је компанија Импробабле, која је почела да развија Тханос. Они су објавили изворни код Тханос. Импробабле је компанија која развија моторе за игре.

ВицториаМетрицс има примере јавне примене:

• вик.цом креатор веб локација
• Адидас имплементира ВицториаМетрицс и чак је направио презентацију на последњем ПромЦон-у 2019
• ТраффицСтарс - огласна мрежа
• Сезнам.цз је популаран чешки претраживач.

А онда су постојале компаније без имена које сада не могу да именујем. Нису пристали.

• Један велики програмер игара. Веће од им Невероватно.
• Главни програмер графичког софтвера.
• Велика руска банка.
• Европски произвођач ветротурбина који је успешно тестирао ВицториаМетрицс. Овај произвођач имплементира ВицториаМетрицс за праћење података прикупљених од ветротурбина брзином од 50 узорака у секунди по сензору. Свака ветротурбина има неколико стотина сензора. Имају неколико стотина ветротурбина.
• Руске авиокомпаније које желе да имплементирају ВицториаМетрицс, али још увек не могу. Са њима смо у фази уговора.

Закључци.

ВицториаМетрицс и Тханос решавају сличне проблеме, али на различите начине:

• Глобални приказ упита
• хоризонтално скалирање
• произвољно задржавање

Хвала.

Чекамо вас код нас телеграм канал.

Само регистровани корисници могу учествовати у анкети. Пријавите се, Добродошао си.

Шта користите као дуготрајно складиштење Прометеја?

• 100%Тханос6

• 100%Цортек0

• 100%М3ДБ0

• 100%ВицториаМетрицс7

• 100%остало4

Гласало је 17 корисника. Уздржано је било 16 корисника.

Извор: ввв.хабр.цом