Ko taku whakaaro kia panui koe i te tuhinga o te purongo o te mutunga o te tau 2019 na Alexander Valyalkin "Haere ki te arotautanga ki VictoriaMetrics"
- he DBMS tere me te tauineine mo te rokiroki me te tukatuka raraunga i roto i te ahua o te raupapa wa (ko te rekoata te hanga i te waa me te huinga o nga uara e rite ana ki tenei waa, hei tauira, i riro mai i te pooti i ia wa o te mana o nga puoro me te kohinga o ine).
Anei he hononga ki te ataata o tenei purongo -
Korerotia mai mo koe ano. Ko Alexander Valyalkin ahau. I konei . Kei te kaingākau ahau ki a Haere me te arotautanga mahi. He maha nga whare pukapuka whai hua me te kore e tino whai hua i tuhia e au. Ka timata ratou me tetahi fast, me te ranei quick prefix.
Kei te mahi ahau i VictoriaMetrics i tenei wa. He aha tena, he aha taku mahi ki reira? Ka korero ahau mo tenei i tenei whakaaturanga.
Ko te whakahuahua o te ripoata e whai ake nei:
- Tuatahi, ka korerotia e ahau ki a koe he aha te VictoriaMetrics.
- Na ka korerotia e ahau ki a koe he aha nga raupapa waahi.
- Na ka korerotia e ahau ki a koe me pehea te mahi a te raupapa waahi.
- I muri mai, ka korero atu ahau ki a koe mo te hoahoanga papaarangi: he aha te mea kei roto.
- Na ka anga whakamua ki nga arotautanga kei a VictoriaMetrics. He arotautanga tenei mo te taurangi hurihuri me te arotautanga mo te whakatinanatanga bitset i Go.
Kei te mohio tetahi o te hunga whakarongo he aha te VictoriaMetrics? Aue, he maha nga tangata kua mohio. He korero pai. Mo te hunga karekau i te mohio, he putunga korero raupapa taima tenei. Kei runga i te hoahoanga ClickHouse, i runga i etahi korero mo te whakatinanatanga ClickHouse. Hei tauira, penei i: MergeTree, te tatau whakarara i runga i nga uho tukatuka katoa e waatea ana me te arotautanga mahi ma te mahi i nga poraka raraunga ka tuu ki roto i te keteroki tukatuka.
Ka whakaratohia e VictoriaMetrics te pai ake o te kopeketanga raraunga i era atu putunga raupapa-waahi.
Ka whakatauira poutū - ara, ka taea e koe te taapiri atu i nga kaitoro, nui ake te RAM ki te rorohiko kotahi. Ka whai hua a VictoriaMetrics ki te whakamahi i enei rauemi e waatea ana, ka pai ake te hua o te raina.
Ko VictoriaMetrics ano te tauine whakapae - ara, ka taea e koe te taapiri i etahi atu pona ki te kahui VictoriaMetrics, a ka tata te piki o ana mahi.
I to whakaaro, he putunga tere a VictoriaMetrics, na te mea kaore e taea e au te tuhi i etahi atu. A kua tuhia ki te Haere, no reira kei te korero ahau mo tenei huihuinga.
Ko wai ka mohio he aha te raupapa wa? He maha hoki nga tangata e mohio ana ia. Ko te raupapa wa he raupapa takirua (timestamp, значение), kei te whakarōpūhia enei takirua i te wa. Ko te uara he tau ira maanu – rewa64.
Ko ia rangatū wā he tohu motuhake mā tētahi kī. He aha te kaupapa o tenei taviri? Kei roto i te huinga kore-puputua o nga takirua uara matua.
Anei tetahi tauira o te raupapa wa. Ko te matua o tenei raupapa he rarangi takirua: __name__="cpu_usage" ko te ingoa o te ine, instance="my-server" - koinei te rorohiko e kohia ai tenei inenga, datacenter="us-east" - koinei te pokapū raraunga kei reira tenei rorohiko.
Ka mutu he ingoa raupapa wa e toru nga takirua uara-matua. E hāngai ana tēnei kī ki te rārangi takirua (timestamp, value). t1, t3, t3, ..., tN - he tohu waahi enei, 10, 20, 12, ..., 15 — nga uara e rite ana. Koinei te whakamahinga cpu i tetahi wa mo te raupapa kua hoatu.
Kei hea te whakamahi raupapa wa? Ka whai whakaaro tetahi?
- I DevOps, ka taea e koe te ine i te PTM, RAM, whatunga, rps, maha o nga hapa, aha atu.
- IoT - ka taea e tatou te ine i te pāmahana, te pehanga, te taunga geo me tetahi atu mea.
- Putea hoki - ka taea e taatau te aro turuki i nga utu mo nga momo rakau me nga moni katoa.
- I tua atu, ka taea te whakamahi i nga raupapa waahi ki te aroturuki i nga tukanga whakaputa i roto i nga wheketere. Kei a matou nga kaiwhakamahi e whakamahi ana i a VictoriaMetrics ki te aro turuki i nga miihini hau, mo nga miihini.
- He pai hoki nga raupapa wa mo te kohi korero mai i nga pukoro o nga momo taputapu. Hei tauira, mo te miihini; mo te ine i te pehanga potae; mo te ine tere, tawhiti; mo te ine i te kai penehīni, aha atu.
- Ka taea hoki te whakamahi raupapa wa ki te aro turuki i nga waka rererangi. He pouaka pango kei ia waka rererangi e kohikohi ana i nga raupapa wa mo nga momo tawhā o te hauora o te waka rererangi. Kei te whakamahia hoki nga raupapa wa i roto i te ahumahi aerospace.
- Ko te hauora ko te pehanga toto, te pupuhi, aha atu.
He maha atu pea nga tono i warewarehia e au, engari ko taku tumanako kei te mohio koe kei te kaha te whakamahia o nga raupapa taima i roto i te ao hou. Na kei te piki haere te rahi o ta raatau whakamahinga ia tau.
He aha te take e hiahia ana koe ki te patengi raraunga raupapa wa? He aha e kore ai e taea e koe te whakamahi i te putunga raraunga hononga ki te penapena raupapa wa?
Na te mea he maha nga korero kei roto i nga raupapa waahi, he uaua ki te penapena me te tukatuka i roto i nga papaa raraunga tikanga. Na reira, i puta mai nga papaunga raraunga motuhake mo nga raupapa wa. He pai enei turanga ki te penapena tohu (timestamp, value) me te kī kua hoatu. Ka whakaratohia e ratou he API mo te panui i nga raraunga rongoa ma te kii, ma te takirua uara-matua kotahi, ma te takirua uara-matua maha, ma te regexp ranei. Hei tauira, e hiahia ana koe ki te kimi i te uta CPU o o ratonga katoa i roto i te pokapū raraunga i Amerika, katahi ka hiahia koe ki te whakamahi i tenei patai pseudo.
I te nuinga o nga wa ka whakaratohia e nga papaarangi raupapa waahi nga reo uiui motuhake na te mea kaore i te tino pai te raupapa wa SQL. Ahakoa kei reira nga papaa raraunga e tautoko ana i te SQL, kaore i te tino pai. Nga reo patai penei i , , , . Ko taku tumanako kua rongo tetahi i tetahi o enei reo. He maha nga tangata kua rongo mo PromQL. Koinei te reo patai a Prometheus.
Koia nei te ahua o te hoahoanga papaa raraunga raupapa-wa hou ma te whakamahi i a VictoriaMetrics hei tauira.
E rua nga wahanga. He putunga tenei mo te taupū hurihuri me te rokiroki mo nga uara raupapa wa. Kua wehea enei putunga.
Ina tae mai he rekoata hou i roto i te papaa raraunga, ka uru tuatahi tatou ki te taupū hurihuri hei kimi i te tautohu rangatū wā mō tētahi huinga label=value mo te ine kua whakaritea. Ka kitea e matou tenei tohu ka tiakina te uara ki te toa raraunga.
Ka tae mai he tono ki te tiki raraunga mai i te TSDB, ka haere tuatahi tatou ki te taurangi hurihuri. Kia whiwhi tatou i nga mea katoa timeseries_ids rekoata e rite ana ki tenei huinga label=value. Na ka whiwhi tatou i nga raraunga e tika ana mai i te whare putunga raraunga, kua tohua e timeseries_ids.
Ka titiro tatou ki tetahi tauira mo te mahi a te papaa raraunga raupapa-waahi i tetahi patai whiriwhiri taumai.
- Tuatahi ka whiwhi ia i nga mea katoa
timeseries_idsmai i te taupū kōaro kei roto nga takirua kua hoatulabel=value, ka makona ranei i tetahi korero auau. - Na ka tikina e ia nga tohu raraunga katoa mai i te rokiroki raraunga i te waa mo nga mea kua kitea
timeseries_ids. - Whai muri i tenei, ka mahia e te putunga raraunga etahi tatauranga mo enei tohu raraunga, e ai ki te tono a te kaiwhakamahi. A muri iho ka hoki mai te whakautu.
I tenei whakaaturanga ka korero ahau ki a koe mo te waahanga tuatahi. He rapunga tenei timeseries_ids mā te taupū kōaro. Ka taea e koe te maataki mo te waahanga tuarua me te waahanga tuatoru i muri mai , tatari ranei kia whakaritea e au etahi atu purongo :)
Me neke atu ki te taupū kōaro. He maha pea ka whakaaro he maamaa tenei. Ko wai e mohio ana he aha te taupū hurihuri me te mahi? Aue, kaore i te tini o nga tangata. Kia tamata tatou ki te mohio he aha tena.
He tino ngawari. He papakupu noa e mapi ana i te matua ki tetahi uara. He aha te kī? Ko tenei tokorua label=valuete wahi label и value - he rarangi enei. A ko nga uara he huinga timeseries_ids, kei roto ko te takirua kua hoatu label=value.
Ko te taupū hurihuri ka taea e koe te rapu tere i nga mea katoa timeseries_ids, kua homai label=value.
Ka taea hoki e koe te rapu tere timeseries_ids raupapa wa mo etahi takirua label=value, mo nga tokorua ranei label=regexp. Me pehea e tupu ai? Ma te kimi i te whitinga o te huinga timeseries_ids mo ia takirua label=value.
Kia titiro tatou ki nga momo whakatinanatanga o te taupū hurihuri. Me timata ki te whakatinanatanga maamaa noa. He penei tana ahua.
mahi getMetricIDs ka whiwhi rarangi aho. Kei ia rarangi label=value. Ka whakahokia e tenei mahi he rarangi metricIDs.
Pehea te mahi? Anei he taurangi ao e kiia nei invertedIndex. He papakupu auau tenei (map), ka mapi i te aho ki te tapatapahi ints. Kei roto i te raina label=value.
Te whakatinanatanga mahi: tiki metricIDs mo te tuatahi label=value, katahi ka haere tatou i nga mea katoa label=value, ka whiwhi tatou metricIDs mo ratou. A ka karanga i te mahi intersectInts, ka korerohia i raro nei. A ko tenei mahi ka whakahoki i te waahi o enei rarangi.
Ka taea e koe te kite, ko te whakatinana i te taurangi hurihuri ehara i te mea tino uaua. Engari he whakatinanatanga poauau tenei. He aha ona huakore? Ko te tino ngoikoretanga o te whakatinanatanga maamaa ko te rongoa o taua taurangi hurihuri ki roto i te RAM. I muri i te whakaara ano i te tono ka ngaro tenei taurangi. Karekau he penapena o tenei taupū ki te kōpae. Kare pea e pai te taurangi whakahurihia mo te putunga raraunga.
Ko te whakahoki tuarua e pa ana ki te mahara. Me uru te taupū kōaro ki te RAM. Mena ka nui ake te rahi o te RAM, katahi ka puta - ka puta mai i te hapa mahara. A ka kore te kaupapa e mahi.
Ka taea te whakatau i tenei raru ma te whakamahi i nga otinga kua rite penei i te , ranei .
I roto i te poto, e hiahia ana matou i te pātengi raraunga e taea tatou ki te mahi tere e toru ngā mahi.
- Ko te mahi tuatahi ko te tuhi
ключ-значениеki tenei pātengi raraunga. He tere rawa tana mahi, kei heaключ-значениеhe aho noa. - Ko te mahi tuarua he rapu tere mo tetahi uara ma te whakamahi i tetahi kii kua hoatu.
- A ko te mahi tuatoru he rapu tere mo nga uara katoa ma te tohu tuatahi.
LevelDB me RocksDB - na Google me Facebook enei papaa raraunga i whakawhanakehia. Tuatahi ka tae mai a LevelDB. Na ka mau nga taangata o Facebook ki te LevelDB ka tiimata ki te whakapai ake, i hanga e ratou a RocksDB. Inaianei tata katoa nga papaa raraunga o roto e mahi ana i runga i te RocksDB i roto i Facebook, tae atu ki era kua whakawhitia ki RocksDB me MySQL. I tapaina e ratou .
Ka taea te whakatinana i te taurangi hurihuri ma te whakamahi i te LevelDB. Me pehea te mahi? Ka penapena hei kii label=value. A ko te uara ko te tautohu o te raupapa wa kei reira te takirua label=value.
Mena he maha a tatou raupapa wa me te takirua kua hoatu label=value, ka maha nga rarangi kei roto i tenei putunga korero me te matua kotahi me te rereke timeseries_ids. Hei tiki rarangi katoa timeseries_ids, ka timata ki tenei label=prefix, ka mahia e matou he karapa awhe mo te pai o tenei putunga raraunga. Arā, ka tohua e mātou ngā rārangi katoa e tīmata ana label=prefix me te tiki i nga mea e tika ana timeseries_ids.
Anei he tauira whakatinanatanga o te ahua o te ahua o Go. He taupū kōaro tō mātou. Ko LevelDB tenei.
He rite tonu te mahi mo te whakatinanatanga poauau. Ka whakahoki ano i te whakatinanatanga maamaa tata ki te raina ma te raina. Ko te take anake ko te kore e huri ki map uru tatou ki te taupū kōaro. Ka whiwhi tatou i nga uara katoa mo te tuatahi label=value. Na ka haere tatou i nga toenga takirua katoa label=value me te tiki i nga huinga metricIDs mo ratou. Na ka kitea e matou te whakawhitinga.
He pai te ahua o nga mea katoa, engari he ngoikoretanga o tenei otinga. I te tuatahi ka whakatinanahia e VictoriaMetrics he taurangi hurihuri i runga i te LevelDB. Engari i te mutunga me tuku e au.
He aha? Na te mea he puhoi ake a LevelDB i te whakatinanatanga poauau. I roto i te whakatinanatanga poauau, hoatu he kī homai, ka tiki tonu tatou i te poro katoa metricIDs. He mahi tino tere tenei - kua reri te poro katoa mo te whakamahi.
I te LevelDB, i nga wa katoa ka karangahia he mahi GetValues me haere koe i nga rarangi katoa e timata ana label=value. A ka whiwhi i te uara mo ia raina timeseries_ids. O taua timeseries_ids kohia he poro o enei timeseries_ids. Ko te tikanga, he puhoi ake tenei i te uru noa ki te mapi ma te kii.
Ko te whakahoki tuarua ko te LevelDB kua tuhia ki C. Ko te karanga i nga mahi C mai i te Haere kaore i te tino tere. E hia rau nanohekona. Kaore tenei i te tino tere, no te mea ka whakaritea ki te waea mahi auau i tuhia i roto i te haere, e 1-5 nanohekona, ko te rereketanga o te mahi he tekau nga wa. Mo VictoriaMetrics he koha mate tenei :)
Na ka tuhia e au taku ake whakatinanatanga o te taurangi hurihuri. Na ka karanga ia ki a ia .
Ko te Mergeset kei runga i te hanganga raraunga MergeTree. Ko tenei hanganga raraunga ka nama mai i ClickHouse. Ko te tikanga, me arotau te mergeset mo te rapu tere timeseries_ids kia rite ki te ki i homai. Ko te Mergeset kua tuhia katoatia ki te Haere. Ka kite koe . Ko te whakatinanatanga o te mergeset kei roto i te kōpaki . Ka taea e koe te ngana ki te mohio he aha nga mea kei reira.
He tino rite te API mergeset ki LevelDB me RocksDB. Arā, ka taea e koe te penapena tere i nga rekoata hou ki reira ka kowhiri tere i nga rekoata ma te tohu tohu.
Ka korero tatou mo nga kino o te mergeset i muri mai. Inaianei me korero tatou he aha nga raru i puta mai i a VictoriaMetrics i roto i te whakaputanga i te wa e whakatinana ana i te taurangi hurihuri.
He aha ratou i whakatika ai?
Ko te take tuatahi ko te nui o te reeti churn. I whakamaoritia ki te reo Rūhia, he huringa auau tenei i nga raupapa wa. Koinei te wa ka mutu te raupapa wa ka timata te raupapa hou, ka timata ranei te maha o nga raupapa waahi hou. A ka tupu pinepine tenei.
Ko te take tuarua ko te nui o nga raupapa wa. I te timatanga, i te wa e rongonui ana te aroturuki, he iti te maha o nga raupapa waahi. Hei tauira, mo ia rorohiko me aroturuki koe i te PTM, te mahara, te whatunga me te uta kōpae. 4 raupapa wa mo ia rorohiko. Me kii kei a koe 100 rorohiko me te 400 raupapa wa. He iti rawa tenei.
I te roanga o te wa, ka mohio nga tangata ka taea e ratou te ine i nga korero maramara ake. Hei tauira, ine i te kawenga ehara i te katoa o te kaitukatuka, engari i te wehea o ia matua tukatuka. Mēnā e 40 ō pūtukatuka pūtukatuka, kātahi ka 40 ngā wā ka nui ake te raupapa wā ki te ine i te uta pūtukatuka.
Engari ehara ko tera anake. He maha nga ahuatanga o ia matua tukatuka, penei i te mangere, i te wa e mangere ana. Me mahi ano hoki i roto i te waahi kaiwhakamahi, mahi i roto i te waahi kernel me etahi atu kawanatanga. A ka taea hoki te ine i ia ahuatanga hei raupapa wa motuhake. Ka piki ake te maha o nga rarangi ma te 7-8 nga wa.
Mai i te ine kotahi ka 40 x 8 = 320 nga ine mo te rorohiko kotahi. Whakareatia ki te 100, ka riro te 32 hei utu mo te 000.
Katahi ka haere mai a Kubernetes. Na ka kino ake na te mea ka taea e Kubernetes te manaaki i nga momo ratonga maha. Ko ia ratonga i Kubernetes he maha nga poro. A ko enei mea katoa me aro turuki. I tua atu, kei a matou te tukunga o nga putanga hou o o ratonga. Mo ia putanga hou, me hanga he raupapa wa hou. Ko te hua o tenei, ka piki haere te maha o nga raupapa wa, ka pa ki a tatou te raruraru o te maha o nga raupapa waahi, e kiia nei ko te cardinality teitei. Ka tutuki pai a VictoriaMetrics ki te whakataurite ki etahi atu putunga raupapa-waahi.
Kia ata titiro tatou ki te reeti churn teitei. He aha te mea ka nui te tere o te hurihanga i roto i te whakaputanga? Na te mea kei te huri haere tonu etahi tikanga o nga tapanga me nga tohu.
Hei tauira, tangohia a Kubernetes, kei a ia te ariā deployment, i.e. ina whakatakahia he putanga hou o to tono. Mo etahi take, i whakatau nga kaihanga Kubernetes ki te taapiri i te id tuku ki te tapanga.
He aha tenei i arahi ai? I tua atu, me ia tukunga hou, ka haukotia nga raupapa wa tawhito katoa, a, hei utu mo era, ka timata nga raupapa wa hou ki te uara tapanga hou. deployment_id. Ka taea te maha o nga mano me nga miriona o nga rarangi pera.
Ko te mea nui mo enei mea katoa ko te piki haere o te katoa o nga raupapa waahi, engari ko te maha o nga raupapa waahi e kaha ana i tenei wa me te whiwhi raraunga ka mau tonu. Ko tenei ahuatanga e kiia ana ko te tere churn teitei.
Ko te raru nui o te reeti churn teitei ko te whakarite i te tere rapu tonu mo nga raupapa wa katoa mo tetahi huinga tapanga i runga i tetahi waahi wa. Ko te tikanga koinei te waahi mo te haora whakamutunga, mo te ra whakamutunga ranei.
Me pehea te whakaoti i tenei raru? Anei te kōwhiringa tuatahi. Ko tenei ki te wehewehe i te taupū kua huri ki roto i nga waahanga motuhake i roto i te waa. Arā, ka pahemo te wā, ka mutu te mahi me te taupū kōaro o nāianei. A ka hanga he taupū hou. Ka pahemo tetahi atu wa, ka hangaia e matou tetahi atu me tetahi atu.
A, i te wa e whakatauira mai ana i enei taupae hurihuri, ka kitea e matou he huinga taupae hurihuri ka taka ki roto i te waahi kua tohua. A, no reira, ka tohua e matou te id o te raupapa wa mai i reira.
Ka penapena rauemi na te mea kaore e tika kia tirohia nga waahanga karekau e taka ki roto i te waa kua whakaritea. Arā, i te nuinga o te wā, ki te kowhiria e matou he raraunga mo te haora whakamutunga, katahi mo nga wa o mua ka pekehia e matou nga tono.
He huarahi ano hei whakaoti i tenei raru. Ko tenei hei penapena mo ia ra he rarangi motuhake o nga id o nga raupapa wa i puta i taua ra.
Ko te painga o tenei otinga i runga i te otinga o mua ko te kore e taarua i nga korero raupapa waahi kaore e ngaro i te waa. Kei te noho tonu, kaore e rereke.
Ko te ngoikoretanga he uaua ake te whakatinana me te uaua ki te patuiro. Na VictoriaMetrics i whiriwhiri tenei otinga. Koinei te ahuatanga o nga korero o mua. He pai hoki te mahi o tenei otinga ki to mua. Na te mea kaore i whakatinanahia tenei otinga na te mea he mea tika kia taarua nga raraunga i ia wahanga mo nga raupapa waahi kaore e rereke, ara, kaore e ngaro i te wa. Ko VictoriaMetrics i tino arotauhia mo te kohi mokowā kōpae, ā, nā te whakatinanatanga o mua i kino ake te kai mokowā kōpae. Engari he pai ake tenei whakatinanatanga mo te whakaiti i te kohi mokowā kōpae, na reira i whiriwhiria.
Me whawhai ahau ki a ia. Ko te uaua i roto i tenei whakatinanatanga me whiriwhiri tonu koe i tetahi nama nui ake timeseries_ids mo nga raraunga i te wa e wehewehea ana te taupū hurihuri.
I pehea ta matou whakaoti i tenei raruraru? I whakatauhia e matou i runga i te huarahi taketake - ma te penapena i etahi tohu rangatū-waahi ki ia urunga taupū hurihuri, kaua ki te tohu kotahi. Arā, he kī tā mātou label=value, ka puta i ia raupapa wa. Na inaianei ka tiakina e matou etahi timeseries_ids i roto i te urunga kotahi.
Anei he tauira. I mua i a maatau nga whakaurunga N, engari inaianei he urunga kotahi he rite te ahua o mua ki era atu katoa. Mo te urunga o mua, kei roto i te uara nga id rangatū wa katoa.
Na tenei i taea ai te whakanui ake i te tere matawai o taua taurangi hurihuri ki te 10 nga wa. Na ka taea e matou te whakaiti i te kohi mahara mo te keteroki, na te mea kei te rongoa matou i te aho label=value kotahi anake i roto i te keteroki tahi N wa. A ka nui pea tenei raina mena ka penapena koe i nga raina roa ki o tohu me o tapanga, e pai ana a Kubernetes ki te pana ki reira.
Ko tetahi atu whiringa mo te tere ake i te rapu i runga i te taurangi hurihuri ko te sharding. Te hanga i etahi taupū hurihuri hei utu mo te kotahi me te tiritiri raraunga i waenga i a raatau ma te matua. He huinga tenei key=value mamaoa. Arā, ka whiwhi tatou i te maha o nga taupū huri motuhake, ka taea e tatou te uiui i runga i te whakarara i runga i te maha o nga tukatuka. Ko nga whakatinanatanga o mua ka whakaaetia anake te mahi i roto i te aratau-tukatuka kotahi, ara, te matawai raraunga i runga i te kaupapa kotahi anake. Ma tenei otinga ka taea e koe te matawai i nga raraunga i runga i nga waahanga maha i te wa kotahi, ka pai ki a ClickHouse. Koinei ta matou e whakamahere ana ki te whakatinana.
Inaianei ka hoki ki a tatou hipi - ki te mahi whakawhiti timeseries_ids. Kia whakaaro tatou he aha nga whakatinanatanga. Ma tenei mahi ka taea e koe te kimi timeseries_ids mo te huinga kua hoatu label=value.
Ko te kōwhiringa tuatahi he whakatinanatanga kuware. E rua nga koropiko kohanga. I konei ka whiwhi tatou i te whakauru mahi intersectInts e rua nga poro- a и b. I te putanga, me hoki mai ki a matou te whakawhitinga o enei poro.
He penei te ahua o te whakatinanatanga maamaa. Ka tirohia e matou nga uara katoa mai i te poro a, i roto i tenei kohanga ka haere maatau nga uara katoa o te poro b. Na ka whakatauritea e matou. Mēnā e ōrite ana, kua kitea e mātou he whakawhitinga. A ka tiakina ki roto result.
He aha nga huakore? Ko te whīwhiwhi tapawhā ko tōna tino raru. Hei tauira, mena he poroporo to rahi a и b kotahi miriona i ia wa, katahi ka kore tenei mahi e whakahoki whakautu ki a koe. Na te mea me mahi kia kotahi trillion whitiwhitinga, he nui noa atu mo nga rorohiko hou.
Ko te whakatinanatanga tuarua kei runga i te mapi. Ka hangaia e matou he mapi. Ka hoatu e matou nga uara katoa mai i te poro ki tenei mapi a. Na ka haere tatou i roto i te poro i roto i te koropiko motuhake b. A ka tirohia e maatau mena no te poro tenei uara b i te mapi. Mena kei te noho, ka taapiri atu ki te hua.
He aha nga painga? Ko te painga ko te mea he uaua rarangi noa. Arā, ka tere ake te mahi mo nga poro nui. Mo te tapahanga miriona-rahi, ka mahia e tenei mahi i roto i te 2 miriona whitiwhitinga, he rereke ki nga trillion o te mahi o mua.
Ko te kino ko tenei mahi me nui ake te mahara ki te hanga i tenei mapi.
Ko te raru tuarua ko te utu nui mo te hashing. Kaore i tino kitea tenei raru. A, ki a matou kaore ano i tino kitea, na i te tuatahi i VictoriaMetrics te whakatinanatanga o te whakawhitinga ma te mapi. Engari katahi ka whakaatuhia e te whakaaturanga ko te wa o te tukatuka matua ka pau ki te tuhi ki te mapi me te tirotiro mo te waahi o tetahi uara ki tenei mapi.
He aha i moumou ai te wa PTM i enei waahi? Na te mea kei te mahi a Go i te mahi hashing i runga i enei raina. Arā, ka tātaihia e ia te hash o te kī kia uru atu ai ki te tohu tohu i te HashMap. Ka oti te mahi tataitanga hash i roto i te tekau o te nanohekona. He puhoi tenei mo VictoriaMetrics.
I whakatau ahau ki te whakatinana i tetahi bitset kua arotauhia mo tenei keehi. Koia te ahua o te wahanga o nga poro e rua inaianei. I konei ka hangaia e matou he bitset. Ka taapirihia e matou nga huānga mai i te waahanga tuatahi. Na ka tirohia e matou te waahi o enei waahanga i te waahanga tuarua. A taapiri atu ki te hua. Arā, karekau he rereke i te tauira o mua. Ko te mea anake i konei ko te whakakapi i te uru ki te mahere me nga mahi ritenga add и has.
I te tuatahi o te titiro, te ahua nei me tere ake te mahi, mena i whakamahia he mapi paerewa i mua, katahi ka kiia etahi atu mahi, engari ko te whakaaturanga e whakaatu ana he 10 nga wa tere atu i te mapi paerewa mo VictoriaMetrics.
I tua atu, he iti ake te mahara ka whakaritea ki te whakatinanatanga mahere. Na te mea kei te rongoa tatou moka ki konei hei utu mo nga uara waru-paita.
Ko te kino o tenei whakatinanatanga ko te kore e tino kitea, ehara i te mea iti.
Ko tetahi atu ngoikoretanga kaore e kitea e te nuinga ko te kore e pai te mahi i etahi wa. Arā, kua arotauhia mo tetahi keehi motuhake, mo tenei keehi o te whitinga o nga id raupapa wa a VictoriaMetrics. Ehara tenei i te mea he pai mo nga keehi katoa. Ki te he te whakamahi, karekau e piki ake te mahi, engari he hapa o te mahara me te puhoi o te mahi.
Kia whai whakaaro tatou ki te whakatinanatanga o tenei hanganga. Mena kei te pirangi koe ki te titiro, kei roto i nga puna VictoriaMetrics, kei te kōpaki . He mea whakarite mo te keehi VictoriaMetrics, kei hea timeseries_id he uara moka-64, kei reira nga moka 32 tuatahi ka noho tonu, ka huri noa nga moka 32 whakamutunga.
Ko tenei hanganga raraunga kaore i te rongoa i runga i te kōpae, ka mahi noa i roto i te mahara.
Anei tana API. Ehara i te mea tino uaua. Ko te API he mea whakarite ki tetahi tauira mo te whakamahi i a VictoriaMetrics. Arā, karekau he mahi koretake i konei. Anei nga mahi e whakamahia ana e VictoriaMetrics.
He mahi add, e taapiri ana i nga uara hou. He mahi has, e arowhai ana mo nga uara hou. A he mahi ano del, e tango ana i nga uara. He mahi kaiawhina len, e whakahoki ana i te rahi o te huinga. Mahi clone he maha nga karaka. Me te mahi appendto ka huri i tenei huinga ki te tapatapahi timeseries_ids.
Koinei te ahua o te whakatinanatanga o tenei hanganga raraunga. E rua nga waahanga o te huinga:
-
ItemsCounthe mara kaiawhina ki te whakahoki tere i te maha o nga huānga o te huinga. Ka taea te mahi me te kore tenei mara awhina, engari me tapiri ki konei na te mea he maha nga patai a VictoriaMetrics i te roa o te bitset i roto i ana algorithm. -
Ko te mara tuarua
buckets. He tapahanga tenei mai i te hangangabucket32. Kei ia whare taongahimara. Koinei nga moka 32 o runga. A e rua nga poro-b16hisиbucketsTuhinga ka whai maibucket16hanganga.
Ko nga moka 16 runga o te waahanga tuarua o te hanganga 64-bit kei te rongoa i konei. I konei ka penapena nga huinga moka mo nga moka iti 16 o ia paita.
Bucket64 he huinga huinga uint64. Ka tātaihia te roa mā te whakamahi i ēnei pūmau. I roto i te kotahi bucket16 ka taea te penapena morahi 2^16=65536 moka. Mena ka wehewehea e koe ki te 8, he 8 kiropaita. Mena ka wehea e koe ki te 8, he 1000 uint64 tikanga. Koira Bucket16 – ko ta matou hanganga 8-kilopaita tenei.
Kia titiro tatou me pehea te whakatinanatanga o tetahi o nga tikanga o tenei hanganga mo te taapiri uara hou.
Ka timata katoa uint64 tikanga. Ka tatauhia e matou nga moka 32 o runga, ka tatauhia e matou nga moka 32 o raro. Kia haere tatou i nga mea katoa buckets. Ka whakatauritea e matou nga moka 32 o runga i ia peere me te uara ka taapirihia. A, ki te rite ratou, ka karanga tatou i te mahi add i roto i te hanganga b32 buckets. A taapirihia nga moka 32 o raro ki reira. A ki te hoki mai true, ko te tikanga tenei i tapirihia e matou he uara penei ki reira, a, kaore he uara penei. Mena ka hoki mai false, katahi ano he tikanga penei. Na ka whakanuia e matou te maha o nga huānga o te hanganga.
Mena kaore i kitea e matou te mea e hiahia ana koe bucket me te hi-uara e hiahiatia ana, katahi ka kiia te mahi addAlloc, ka puta he mea hou bucket, ka taapiri atu ki te hanganga peere.
Koinei te whakatinanatanga o te mahi b32.add. He rite ki te whakatinanatanga o mua. Ka tatauhia e matou nga moka 16 tino nui, nga moka 16 iti rawa.
Na ka haere tatou i roto i nga moka 16 runga katoa. Ka kitea e matou nga whakataetae. A, ki te mea he whakataetae, ka kiia ko te tikanga taapiri, ka whakaarohia e matou i te wharangi e whai ake nei bucket16.
Na konei ko te taumata iti rawa, e tika ana kia arotauhia kia taea. Ka tatau tatou mo uint64 uara id i te moka poro me te hoki bitmask. He kopare tenei mo te uara moka-64 kua hoatu, ka taea te whakamahi ki te tirotiro i te ahua o tenei moka, ki te tautuhi ranei. Ka tirotirohia mena kua tautuhia tenei moka me te whakanoho, ka hoki mai ano. Ko ta matou whakatinanatanga tenei, i taea ai e matou te tere ake i te mahi o nga id whakawhiti o nga raupapa wa ma te 10 nga wa ka whakaritea ki nga mapi tikanga.
I tua atu i tenei arotautanga, he maha atu nga arotautanga a VictoriaMetrics. Ko te nuinga o enei arotautanga i taapirihia mo tetahi take, engari i muri i te tohu i te waehere i roto i te mahi.
Koinei te ture matua mo te arotautanga - kaua e tapirihia te arotautanga i te whakaaro ka puta he kohanga ki konei, na te mea ka puta karekau he putea ki reira. Ko te arotautanga i te nuinga o te wa ka whakaheke te kounga o te waehere. Na reira, he pai ki te arotau anake i muri i te whakakitenga me te pai ki te whakaputa, na he raraunga pono tenei. Mena kei te hiahia tetahi, ka taea e koe te titiro ki te waehere puna VictoriaMetrics me te torotoro i etahi atu arotautanga kei reira.
He patai taku mo te bitset. He tino rite ki te C++ vector bool whakatinanatanga, mokamoka pai. I tangohia e koe te whakatinanatanga mai i reira?
Kao, ehara mai i reira. I te whakatinanatanga o tenei bitset, i arahina ahau e te mohiotanga mo te hanganga o enei ids timeseries, e whakamahia ana i VictoriaMetrics. A ko to raatau hanganga he rite tonu nga waahanga 32 o runga. Ko nga moka iti 32 ka taea te whakarereke. Ko te iti o te moka, ko te nuinga o nga wa ka huri. Na reira, ko tenei whakatinanatanga kua tino arotauhia mo tenei hanganga raraunga. Ko te whakatinanatanga C ++, ki taku mohio, kua arotauhia mo te keehi whanui. Mena ka arotau koe mo te keehi whanui, ko te tikanga kaore e tino pai mo tetahi keehi motuhake.
Ka tohutohu ano ahau ki a koe kia maataki i te ripoata a Alexey Milovid. Tata ki te marama ki muri, i korero ia mo te arotautanga i ClickHouse mo nga tohungatanga motuhake. Ko tana korero noa, i roto i te keehi whanui, he whakatinanatanga C++, etahi atu whakatinanatanga ranei kua whakaritea kia pai te mahi i roto i te hohipera. He kino ake pea te mahi i te whakatinanatanga mohio-motuhake penei i a maatau, e mohio ana matou ko nga moka 32 runga kei te noho tonu.
He patai tuarua taku. He aha te rereketanga nui mai i te InfluxDB?
He maha nga rereketanga taketake. Mo te mahi me te kohi mahara, ko te InfluxDB i roto i nga whakamatautau e whakaatu ana i te 10 nga wa nui ake te kohi mahara mo nga raupapa wa cardinality teitei, ina he maha o raatau, hei tauira, miriona. Hei tauira, ka pau a VictoriaMetrics i te 1 GB mo ia miriona rarangi hohe, ko te InfluxDB e pau ana te 10 GB. Na he rereketanga nui tera.
Ko te rereke tuarua ko te InfluxDB he reo patai kee - Flux me InfluxQL. Kaore i te tino watea mo te mahi me nga raupapa waahi ka whakaritea ki , e tautokohia ana e VictoriaMetrics. Ko te PromQL he reo patai na Prometheus.
A ko tetahi atu rereke ko te InfluxDB he tauira raraunga paku ke, ka taea e ia raina te penapena i nga mara maha me nga huinga tohu rereke. Ka wehewehea enei rarangi ki nga momo ripanga. Ko enei raruraru taapiri e whakararu ana i nga mahi o muri mai me tenei putunga raraunga. He uaua ki te tautoko me te maarama.
I roto i te VictoriaMetrics he maamaa ake nga mea katoa. I reira, ko ia raupapa wa he uara matua. Ko te uara he huinga tohu - (timestamp, value), a ko te taviri ko te huinga label=value. Karekau he wehenga i waenga i nga mara me nga inenga. Ka taea e koe te kowhiri i nga raraunga katahi ka whakakotahi, taapiri, tango, whakarea, wehewehe, kaore i rite ki te InfluxDB kaore ano kia whakatinanahia nga tatauranga i waenga i nga rarangi rereke ki taku mohio. Ahakoa ka whakatinanahia, he uaua, me tuhi koe i te maha o nga waehere.
He patai whakamarama taku. I tika taku mohio he raruraru tera i korerohia e koe, ko tenei taurangi hurihuri karekau e uru ki te mahara, na reira he wehewehenga kei reira?
Tuatahi, i whakaatu ahau i te whakatinanatanga horihori o te taupū kōaro i runga i te mahere Go paerewa. Ko tenei whakatinanatanga kaore i te pai mo nga papaaarangi na te mea kaore tenei taurangi hurihuri i te tiaki ki te kopae, me tiaki te patengi raraunga ki te kōpae kia noho watea ai enei raraunga ina timata ano. I roto i tenei whakatinanatanga, ka timata ano koe i te tono, ka ngaro to taurangi hurihuri. A ka ngaro koe i te uru ki nga raraunga katoa na te mea kaore e kitea e koe.
Kia ora! Nga mihi mo te ripoata! Ko Pavel toku ingoa. No Wildberries ahau. He torutoru aku patai mo koe. Pātai tuatahi. Ki to whakaaro mena i whiriwhiria e koe he maapono rereke i te wa e hanga ana i te hoahoanga o to tono me te wehewehe i nga raraunga i roto i te waa, katahi pea ka taea e koe te whakawhiti raraunga i te wa e rapu ana koe, i runga noa i te mea kei roto i tetahi waahanga he raraunga mo te kotahi. te wa, ara, i roto i te wa kotahi karekau koe e awangawanga mo te mea he rereke te marara o au kongakonga? Uiui nama 2 - na te mea kei te whakatinana koe i tetahi algorithm rite ki te bitset me era atu mea katoa, katahi pea koe i whakamatau ki te whakamahi i nga tohutohu tukatuka? Akene kua whakamatauria e koe enei arotautanga?
Ka whakahoki tonu ahau i te tuarua. Kare ano tatou kia tae ki tera waahi. Engari ki te tika, ka tae atu tatou ki reira. A ko te mea tuatahi, he aha te patai?
I korero koe e rua nga ahuatanga. Na ka kii ratou i kowhiria e ratou te tuarua me te whakatinanatanga uaua ake. A kaore i pai ki a raatau te tuatahi, ka wehewehea nga raraunga i te waa.
Ae. I te keehi tuatahi, ka nui ake te tapeke o te pukapuka taupū, na te mea i ia wehenga me penapena raraunga taarua mo aua raupapa wa e haere tonu ana i enei wahanga katoa. A, ki te mea he iti to reeti churn rangatū wa, ara ko taua raupapa e whakamahia ana i nga wa katoa, na i te keehi tuatahi ka nui ake te ngaro o te mokowā kōpae e noho ana ki te keehi tuarua.
Na - ae, he waahi pai te wehewehe wa. Ka whakamahia e Prometheus. Engari he raru ano a Prometheus. I te hanumi i enei wahanga raraunga, me pupuri i roto i nga korero meta mahara mo nga tapanga me nga raupapa taima katoa. No reira, ki te mea he nui nga wahanga o nga raraunga ka hanumi, katahi ka tino piki te kai mahara i te wa e hanumi ana, kaore i rite ki a VictoriaMetrics. Ina hanumi, karekau rawa a VictoriaMetrics e pau te mahara; he rua kiropaita anake ka pau, ahakoa te rahi o nga waahanga raraunga kua hanumi.
Ko te algorithm e whakamahia ana e koe ka whakamahi i te mahara. Ka tohu i nga tohu raupapa-waahi kei roto nga uara. Na tenei ka tirohia e koe mo te noho takirua ki tetahi huinga raraunga me tetahi atu. A ka mohio koe mehemea i puta te whakawhitinga, kaore ranei. I te nuinga o te wa, ka whakatinanahia e nga papaunga raraunga nga pehu me nga kaitoro e pupuri ana i o raatau ihirangi o naianei me te whakahaere i nga raraunga kua tohua na te ngawari o enei mahi.
He aha tatou e kore ai e whakamahi pehu ki te whakawhiti raraunga?
Ae.
Ka penapenahia e matou nga rarangi kua tohua ki te LevelDB, ki te mergeset ranei. Ka taea e tatou te nuku i te pehu me te kimi i te tauwhitinga. He aha tatou e kore ai e whakamahi? No te mea he puhoi. No te mea ko te tikanga o nga pehu me karanga koe i tetahi mahi mo ia raina. Ko te waea mahi he 5 nanohekona. A, ki te 100 nga raina kei a koe, katahi ka puta he haurua te rua o taatau ki te karanga i te mahi.
He mea pera, ae. Na taku patai whakamutunga. He ahua rereke pea te patai. He aha i kore ai e taea te panui i nga kohinga katoa e tika ana i te wa ka tae mai nga raraunga ka tiakina ki te ahua e hiahiatia ana? He aha te tiaki i nga pukapuka nui i roto i etahi punaha penei i a VictoriaMetrics, ClickHouse, me etahi atu, ka whakapau i te wa roa ki runga?
Ka hoatu e ahau he tauira kia marama ake ai. Me kii me pehea te mahi o te tere tere takaro iti? Ka tuhi i te tawhiti i haere koe, i nga wa katoa ka taapiri atu ki te uara kotahi, me te wa tuarua. Na ka wehewehe. A ka whiwhi tere toharite. Ka taea e koe te mahi mo taua mea ano. Tāpirihia nga meka e tika ana i runga i te rere.
Kaati, kei te mohio ahau ki te patai. He waahi to tauira. Mena ka mohio koe he aha nga whakahiato e hiahia ana koe, koinei te tino whakatinanatanga. Engari ko te raruraru ka tiakina e te tangata enei inenga, etahi raraunga kei ClickHouse kaore ano kia mohio me pehea te whakahiato me te tarai i a raatau a muri ake nei, na reira me penapena nga raraunga mata katoa. Engari ki te mohio koe me tatau koe i tetahi mea i roto i te toharite, he aha koe e kore ai e tatau hei utu mo te penapena i te paihere o nga uara mata ki reira? Engari ko tenei anake mena ka mohio koe ki taau e hiahia ana.
Ma te ara, ko nga papaa raraunga mo te penapena raupapa-waahi e tautoko ana i te tatau o nga whakahiato. Hei tauira, ka tautoko a Prometheus . Arā, ka taea tenei mena ka mohio koe he aha nga waahanga e hiahiatia ana e koe. Kaore ano a VictoriaMetrics i tenei, engari ko te nuinga o nga wa kei mua ko Prometheus, ka taea tenei i roto i nga ture recoding.
Hei tauira, i taku mahi o mua me tatau ahau i te maha o nga huihuinga i roto i te matapihi reti i te haora whakamutunga. Ko te raruraru me mahi au i tetahi whakaritenga ritenga i roto i te Haere, ara he ratonga mo te tatau i tenei mea. Ko tenei ratonga i te mutunga karekau he iti, na te mea he uaua ki te tatau. He ngawari noa te whakatinanatanga mena ka hiahia koe ki te tatau i etahi whakahiato i nga waa kua whakaritea. Mena kei te pirangi koe ki te tatau i nga huihuinga i roto i te matapihi reti, na ehara i te mea ngawari ki te ahua. Ki taku whakaaro kaore ano kia whakatinanahia tenei i roto i te ClickHouse, i roto ranei i nga papaarangi waahi, na te mea he uaua ki te whakatinana.
Me tetahi atu patai. I korero noa matou mo te tauwaenga, ka maumahara ahau i mua he mea penei i te Graphite me te tuara waro. A i mohio ia ki te whakakikorua i nga raraunga tawhito, ara, waiho kia kotahi ira mo ia meneti, kotahi ira mo ia haora, me era atu. Ko te tikanga, he tino watea tenei mena ka hiahia tatou ki nga raraunga mata, he korero, mo te marama, me era atu mea katoa ka taea. kia kikokore . Engari kaore a Prometheus me VictoriaMetrics e tautoko i tenei mahi. Kua whakaritea hei tautoko? Ki te kore, he aha?
Nga mihi mo te patai. Ka patai nga kaiwhakamahi i tenei patai i ia wa. Ka patai ratou ahea ka taapirihia he tautoko mo te whakaheke. He maha nga raru kei konei. Tuatahi, ka mohio nga kaiwhakamahi katoa downsampling he mea rereke: kei te pirangi tetahi ki te tiki i tetahi tohu i runga i te waa kua whakaritea, ka hiahia tetahi ki nga uara morahi, iti, toharite. Mena he maha nga punaha e tuhi ana i nga raraunga ki to papaunga raraunga, kaore e taea e koe te whakakotahi katoa. Tera pea he rerekee te mahi angiangi o ia punaha. A he uaua tenei ki te whakatinana.
A ko te mea tuarua ko VictoriaMetrics, penei i a ClickHouse, he mea pai mo te mahi me nga pukapuka nui o nga raraunga mata, na reira ka taea e ia te koko i te piriona raina i roto i te iti iho i te rua mena he maha nga waahanga kei roto i to punaha. Matawai i nga tohu raupapa wa i VictoriaMetrics - 50 nga tohu mo ia hekona mo ia matua. Na ka tauine tenei mahinga ki nga matua o naianei. Arā, ki te mea he 000 koe, hei tauira, ka matawai koe i te piriona tohu mo ia hēkona. Na tenei taonga o VictoriaMetrics me ClickHouse ka whakaiti i te hiahia mo te whakaheke.
Ko tetahi atu waahanga ko te VictoriaMetrics e pai ana te kopiri i enei raraunga. Ko te whakahekenga i te toharite o te hanga mai i te 0,4 ki te 0,8 paita mo ia tohu. Ko ia tohu he tohu wa + uara. A ka kopekehia kia iti iho i te kotahi paita i te toharite.
Sergey. He patai taku. He aha te rahinga o te wa tuhi?
Kotahi manomano. Ina tata nei i korerorero matou me etahi atu kaiwhakawhanake raraunga raupapa-waahi. Ko te waahanga iti rawa o te waa he hekona kotahi. A i roto i te Graphite, hei tauira, kotahi te rua. I roto i te OpenTSDB he kotahi tuarua ano. InfluxDB he nanosecond pū. I roto i te VictoriaMetrics he kotahi manomano hēkona, na te mea i roto i te Prometheus he kotahi millisecond. Na VictoriaMetrics i whakawhanakehia i te tuatahi hei rokiroki mamao mo Prometheus. Inaianei ka taea e ia te penapena raraunga mai i etahi atu punaha.
E ai ki te tangata i korero ahau he tika tuarua-ki-tuarua - kua nui ma ratou na te mea kei te ahua o nga raraunga kei te rongoa i roto i te papaaarangi raarangi wa. Mena he raraunga DevOps tenei, he raraunga ranei mai i nga hanganga, ka kohia e koe i nga wa o te 30 hēkona, ia meneti, ka nui te tika tuarua, kaore koe e hiahia ki tetahi mea iti ake. A, ki te kohikohi koe i enei raraunga mai i nga punaha hokohoko auau teitei, ka hiahia koe ki te tika nanosecond.
Ko te tika o te Millisecond i VictoriaMetrics he pai hoki mo te keehi DevOps, ka taea hoki te pai mo te nuinga o nga keehi i whakahuahia e au i te timatanga o te ripoata. Ko te mea anake kaore pea e pai ko nga punaha hokohoko auau teitei.
Mauruuru koe! Me tetahi atu patai. He aha te hototahi i roto i te PromQL?
Hototahi whakamuri katoa. Kei te tino tautoko a VictoriaMetrics i te PromQL. I tua atu, ka taapirihia etahi atu mahi matatau i roto i te PromQL, e kiia nei . He korero kei runga YouTube mo tenei mahi whakaroa. I korero ahau i te Hui Aroturuki i te puna i St.
Teihana Telegram .
Ko nga kaiwhakamahi kua rehita anake ka uru ki te rangahau. tēnā.
He aha te aukati i a koe ki te huri ki VictoriaMetrics hei rokiroki mo te wa roa mo Prometheus? (Tuhia ki roto i nga korero, ka tapiritia e ahau ki te pooti))
-
71,4 orauKaore au i te whakamahi i te Prometheus5
-
28,6 orauKaore i mohio mo VictoriaMetrics2
7 nga kaiwhakamahi i pooti. 12 nga kaiwhakamahi i aukati.
Source: will.com