Elasticsearch cluster 200 TB+

Elasticsearch cluster 200 TB+

He maha nga taangata e raru ana ki a Elasticsearch. Engari he aha te mea ka hiahia koe ki te whakamahi ki te penapena i nga raarangi "i roto i te rahi nui"? A he mamae ano hoki ki te pa ki te kore o etahi o nga pokapū raraunga maha? He aha te ahua o te hoahoanga me hanga e koe, he aha nga mahanga ka tutuki i a koe?

I whakatau matou i Odnoklassniki ki te whakamahi i te elasticsearch ki te whakaoti i te take o te whakahaere pororakau, a inaianei ka tohatohahia o maatau wheako ki a Habr: mo te hoahoanga me nga mahanga.

Ko Pyotr Zaitsev ahau, kei te mahi ahau hei kaiwhakahaere punaha i Odnoklassniki. I mua i tera, he kaiwhakahaere hoki ahau, i mahi tahi me Manticore Search, Sphinx search, Elasticsearch. Akene, ki te puta mai tetahi ... rapu, ka mahi ano ahau. Ka whai waahi ano ahau ki te maha o nga kaupapa puna tuwhera i runga i te kaupapa.

I taku taenga mai ki Odnoklassniki, i kii au i te uiuinga ka taea e au te mahi tahi me Elasticsearch. I muri i taku mohiotanga me te whakaoti i etahi mahi ngawari, i whakawhiwhia ahau ki te mahi nui ki te whakahou i te punaha whakahaere poro i tera wa.

whakaritenga

Ko nga whakaritenga o te punaha i hangaia e whai ake nei:

  • Ka whakamahia a Graylog hei pito o mua. Na te mea kua whai wheako te kamupene ki te whakamahi i tenei hua, i mohio nga kaitakataka me nga kaiwhakaatu, he maamaa me te watea ki a raatau.
  • Raraunga Raraunga: i runga i te toharite 50-80 mano nga karere mo ia hekona, engari ki te pakaru tetahi mea, karekau te waka e herea e tetahi mea, ka taea te 2-3 miriona nga raina mo ia hekona.
  • I te korero ki nga kaihoko mo nga whakaritenga mo te tere o te tukatuka i nga patai rapu, i mohio matou ko te tauira angamaheni o te whakamahi i taua punaha ko tenei: kei te rapu nga tangata i nga raarangi mo a raatau tono mo nga ra e rua kua hipa, kaore e hiahia kia tatari atu i te tuarua mo te hua o te patai i hangaia.
  • I tohe nga kaiwhakahaere kia ngawari te whakahiato i te punaha mena e tika ana, me te kore e tono kia ruku hohonu ki te mahi.
  • Ko te mahi tiaki anake e hiahiatia ana e enei punaha i ia wa ko te whakarereke i etahi taputapu.
  • I tua atu, he pai nga tikanga hangarau a Odnoklassniki: ko nga ratonga ka whakarewahia e matou me ora i te korenga o te pokapū raraunga (he ohorere, kaore i whakamaherehia me te wa katoa).

Ko te whakaritenga whakamutunga i roto i te whakatinanatanga o tenei kaupapa te utu nui rawa atu ki a matou, ka korerohia e au i roto i nga korero taipitopito.

Taiao

Ka mahi matou i roto i nga pokapū raraunga e wha, i te mea ka taea e nga waahanga raraunga Elasticsearch kia toru anake (mo etahi take kore-hangarau).

Kei roto i enei pokapū raraunga e wha tata ki te 18 mano nga momo momo puna - nga taputapu, nga ipu, nga miihini mariko.

He mea nui: ka timata te tautau i roto i nga ipu Pukeraki kaua i runga i nga miihini tinana, engari i runga ake hua kapua kotahi-kapua. Ka whakamanahia nga ipu e 2 nga matua, he rite ki te 2.0Ghz v4, me te taea te hangarua i nga toenga o nga puku mena kei te mangere.

I etahi atu kupu:

Elasticsearch cluster 200 TB+

Topology

I kite tuatahi ahau i te ahua whanui o te otinga e whai ake nei:

  • 3-4 VIPs kei muri i te A-record o te rohe Graylog, koinei te wahitau e tukuna ai nga pororakau.
  • ko ia VIP he taurite LVS.
  • Whai muri i tera, ka haere nga rakau ki te pākahiko Graylog, ko etahi o nga raraunga kei te whakatakotoranga GELF, ko etahi kei te whakatakotoranga syslog.
  • Na ka tuhia enei mea katoa ki nga roopu nui ki te pākahiko o nga kairuruku Elasticsearch.
  • A, ka tukuna e ratou nga tono tuhi me te panui ki nga kohinga raraunga e tika ana.

Elasticsearch cluster 200 TB+

Te Terminology

Kaore pea nga tangata katoa e mohio ki nga kupu i roto i nga korero, no reira ka pirangi au ki te ata noho.

He maha nga momo node a Elasticsearch - te rangatira, te kairuruku, te node raraunga. E rua etahi atu momo mo nga huringa porowhita rereke me te whakawhitiwhiti korero i waenga i nga tautau rereke, engari i whakamahia e matou anake nga raarangi.

Kaiwhakaako
Ka pingi i nga pona katoa kei roto i te tautau, ka pupuri i te mapi kapoi hou, ka tohatoha ki waenga i nga pona, ka whakahaere i te arorau takahanga, me te mahi i nga momo tiaki whare whanui.

Kaiwhakahaere
He mahi kotahi: ka whakaae ki te panui, ki te tuhi ranei i nga tono mai i nga kaihoko me te arahi i tenei waka. Mena he tono tuhi, tera pea, ka patai atu ki te rangatira ko tehea maramatanga o te taurangi e tika ana me tuu ki roto, ka tukuna ano te tono.

Node Raraunga
Ka penapena raraunga, ka mahi i nga patai rapu ka tae mai i waho me te whakahaere i nga mahi i runga i nga maramara kei runga.

karekau
He rite tenei ki te whakakotahitanga o Kibana me te Logstash i roto i te puranga ELK. Ka whakakotahi a Graylog i te UI me te paipa tukatuka rangitaki. I raro i te awhi, ka whakahaerehia e Graylog a Kafka me Zookeeper, e whakarato ana i te hononga ki a Graylog hei tautau. Ka taea e Graylog te keteroki i nga raarangi (Kafka) mena karekau a Elasticsearch me te whakahoki ano i nga tono panui me te tuhi kaore i angitu, ka whakarōpū me te tohu i nga raarangi i runga i nga ture kua tohua. Pērā i a Logstash, he mahi a Graylog ki te whakarereke i nga rarangi i mua i te tuhi ki a Elasticsearch.

I tua atu, kei a Graylog he kitenga ratonga hanga-i roto e taea ai, i runga i tetahi node Elasticsearch e waatea ana, ki te tiki i te mapi huinga katoa me te tātari ma te tohu motuhake, e taea ai te tuku tono ki nga ipu motuhake.

Ko te ahua o te ahua penei:

Elasticsearch cluster 200 TB+

He whakaahua whakaahua tenei mai i tetahi tauira motuhake. I konei ka hangaia he histogram i runga i te uiui rapu me te whakaatu i nga rarangi e tika ana.

Ngā Tauira

Ka hoki mai ano ki te hoahoanga punaha, e hiahia ana ahau ki te noho korero mo te hanga i te tauira taurangi kia pai ai te mahi katoa.

I te hoahoa i runga ake nei, koinei te taumata iti rawa: Elasticsearch data nodes.

Ko te taurangi he hinonga mariko nui i hanga mai i nga maramara Elasticsearch. I a ia ano, ko ia o nga kongakonga he mea noa ake i te tohu tohu Lucene. A, ko ia tohu Lucene, he kotahi, neke atu ranei nga waahanga.

Elasticsearch cluster 200 TB+

I te wa e hoahoa ana, i whakaaro matou kia tutuki ai te hiahia mo te tere panui i runga i te nui o nga raraunga, me "whakahora" enei raraunga ki nga waahanga raraunga.

Ko te hua tenei ko te maha o nga kongakonga mo ia taurangi (me nga tauira) me tino rite ki te maha o nga waahanga raraunga. Tuatahi, hei whakarite i te tauwehe tukurua e rite ana ki te rua (ara, ka ngaro te haurua o te tautau). A, tuarua, hei whakahaere i nga tono panui me te tuhi i runga i te haurua o te kohinga.

I te tuatahi ka whakatauhia e matou te wa rokiroki hei 30 ra.

Ko te tohatoha o nga kongakonga ka taea te whakaatu kauwhata penei:

Elasticsearch cluster 200 TB+

Ko te tapawhā tapawhā hina pouri katoa he taupū. Ko te tapawha whero maui kei roto ko te kongakonga tuatahi, ko te tuatahi kei te taurangi. A ko te tapawha puru he mahanga tauira. Kei roto i nga pokapū raraunga rereke.

Ina taapirihia e matou tetahi atu maramara, ka haere ki te tuatoru o nga pokapū raraunga. Na, i te mutunga, ka whiwhi tatou i tenei hanganga, ka taea te ngaro DC me te kore e ngaro te rite o nga raraunga:

Elasticsearch cluster 200 TB+

Te hurihanga o nga tohu, i.e. te hanga i tetahi taurangi hou me te whakakore i te mea tawhito, i rite ki te 48 haora (e ai ki te tauira o te whakamahi taurangi: ko nga haora 48 whakamutunga ka rapua i te nuinga o nga wa).

Ko tenei waahi hurihanga taurangi na nga take e whai ake nei:

Ina tae mai he tono rapu ki tetahi node raraunga motuhake, na, mai i te tirohanga mahi, ka nui ake te pai ina pataia tetahi mahanga, mena ka rite tona rahi ki te rahi o te hope o te node. Ma tenei ka taea e koe te pupuri i te waahanga "wera" o te taurangi i roto i te puranga ka tere te uru atu. Ina he maha nga "waahanga wera", ka heke te tere o te rapu tohu.

Ina timata te node ki te whakahaere i tetahi uiui rapu ki runga i te mahanga kotahi, ka tohatohahia e ia etahi miro e rite ana ki te maha o nga uho whakahiato o te miihini tinana. Mēnā ka pā te pātai rapu ki te maha o ngā kongakonga, ka nui haere te rahi o nga miro. He painga kino tenei ki te tere rapu me te pa kino ki te tohu tohu o nga raraunga hou.

Hei whakarato i te roanga rapu e tika ana, i whakatau matou ki te whakamahi SSD. Kia tere te tukatuka i nga tono, me 56 nga puku o nga miihini e manaaki ana i enei ipu. Ko te ahua o te 56 i tohua hei uara e tika ana hei whakatau i te maha o nga miro ka mahia e Elasticsearch i te wa e mahi ana. I roto i te Elasitcsearch, he maha nga taapiri poka wai miro e whakawhirinaki tika ana ki te maha o nga kohao e waatea ana, ka pa ana ki te maha o nga node e hiahiatia ana i roto i te kohinga kia rite ki te kaupapa "he iti ake nga waahanga - he nui ake nga waahanga".

Ko te mutunga mai, i kitea e matou i runga i te toharite he 20 gigabytes te taumaha o te maramara, a he 1 ​​​​sards mo ia taurangi. No reira, ki te huri kotahi tatou ia 360 haora, ka 48 o raatau. Kei ia taurangi he raraunga mo te 15 ra.

Tuhi Raraunga me te panui iahiko

Kia mohio tatou me pehea te tuhi raraunga ki tenei punaha.

Me kii kua tae mai etahi tono mai i Graylog ki te kairuruku. Hei tauira, e hiahia ana matou ki te tohu 2-3 mano rarangi.

Ko te kairuruku, i te whiwhi tono mai i a Graylog, ka patai ki te rangatira: "I roto i te tono tohu tohu, i tohua e matou he taurangi, engari ko te waahanga hei tuhi kaore i tohua."

Ka whakahoki te rangatira: "Tuhia enei korero ki te nama 71," muri iho ka tukuna tika ki te node raraunga e tika ana, kei reira te nama tuatahi-shard 71.

Muri iho ka tukuna te raarangi tauwhitinga ki te replica-shard, kei roto i tetahi atu pokapū raraunga.

Elasticsearch cluster 200 TB+

Ka tae mai he tono rapu mai i Graylog ki te kairuruku. Ka tukuna e te kairuruku kia rite ki te taurangi, i te wa e tohatoha ana a Elasticsearch i nga tono i waenga i te tuatahi-shard me te replica-shard ma te whakamahi i te kaupapa porowhita-robin.

Elasticsearch cluster 200 TB+

Ko nga pona 180 e whakautu koretake ana, a, i a ratou e whakautu ana, kei te kohi korero te kairuruku kua "tuwha" e nga pona raraunga tere ake. I muri i tenei, ka tae mai nga korero katoa, ka tae ranei te tono ki te waahi, ka tukuna nga mea katoa ki te kaihoko.

Ko tenei punaha katoa i runga i nga tikanga rapu rapu mo nga haora 48 kua hipa i roto i te 300-400ms, haunga era patai he kaari mohoao rangatira.

Puawai me te Elasticsearch: Tatūnga Java

Elasticsearch cluster 200 TB+

Kia pai ai ta matou hiahia i te tuatahi, he roa te wa i whakapaua e matou ki te patuiro i nga tini momo mea kei roto i te roopu.

Ko te waahanga tuatahi o nga raru i kitea i pa ki te huarahi i whirihorahia ai a Java ma te taunoa i Elasticsearch.

Raruraru tuatahi
Kua kite matou i te maha rawa o nga purongo i te taumata Lucene, i te wa e mahi ana nga mahi papamuri, ka rahua te hanumi o te wahanga Lucene me te hapa. I te wa ano, i kitea i roto i nga raarangi he hapa OutOfMemoryError tenei. I kite matou mai i te waea waea kei te waatea te hope, a kaore i te maarama he aha i rahua ai tenei mahi.

I puta ko nga hanumi tohu Lucene kei waho o te hope. A ko nga ipu he mea tino iti i runga i nga rauemi e pau ana. Ko te puranga anake ka uru ki roto i enei rauemi (he rite tonu te uara heap.size ki te RAM), a ko etahi o nga mahinga o-waho i tukituki me te hapa toha mahara mena kaore i uru ki roto ki te ~500MB i noho i mua i te tepe.

He iti noa te whakatika: kua piki ake te rahinga o te RAM mo te ipu, i muri mai ka wareware matou kei a matou ano nga raru.

Raruraru tuarua
4-5 ra i muri mai i te whakarewatanga o te tautau, i kite matou i timata nga pona raraunga ki te taka i ia wa mai i te tautau ka uru ki muri i te 10-20 hēkona.

I te wa i timata ai taatau ki te whakaaro, ka puta ko tenei maharatanga o te puranga i roto i te Elasticsearch kaore i te whakahaere i tetahi huarahi. I te wa i nui ake te mahara ki te ipu, ka taea e matou te whakakii i nga puna papaa tika ki nga korero rereke, a ka whakakorehia i muri i te whakarewatanga o te GC marama mai i Elasticsearch.

I etahi wa, he wa roa tenei mahi, a, i tenei wa i kaha te tautau ki te tohu i tenei pona kua puta ke. He pai te korero o tenei raruraru konei.

Ko te otinga e whai ake nei: i whakawhäitihia e mätou te kaha o Java ki te whakamahi i te nuinga o te mahara i waho o te puranga mo enei mahi. I whakawhäitihia e mätou ki te 16 gigabytes (-XX:MaxDirectMemorySize=16g), me te whakarite kia nui ake te karangatanga o te GC marama me te tere ake te tukatuka, na reira ka kore e whakararu i te tautau.

Rapanga tuatoru
Mena ka whakaaro koe kua mutu nga raruraru me nga "nodes e wehe ana i te tautau i te waa ohorere" kua pohehe koe.

I te wa i whirihorahia e matou te mahi me nga tohu, i kowhiria e matou nga mmapfs ki whakaitihia te wa rapu i runga i nga kongakonga hou me te waahanga nui. He tino pohehe tenei, na te mea ka whakamahi i nga mmapfs ka mapi te konae ki roto i te RAM, katahi ka mahi tahi me te konae mapi. Na tenei, ka puta ko te wa e ngana ana te GC ki te aukati i nga miro i roto i te tono, ka haere matou ki te waahi haumaru mo te wa roa, a, i runga i te huarahi ki reira, ka mutu te whakautu o te tono ki nga tono a te rangatira mo te mea kei te ora. . Na reira, e whakapono ana te rangatira kua kore te node i roto i te tautau. I muri i tenei, i muri i te 5-10 hēkona, ka mahi te kaikohi paru, ka ora te node, ka uru ano ki te tautau ka timata ki te timata i nga maramara. He rite katoa ki te "whakaputa tika" kaore i pai mo tetahi mea nui.

Hei whakakore i tenei whanonga, i te tuatahi ka huri matou ki nga niofs paerewa, a, i te wa i heke mai i te rima o nga putanga o Elastic ki te tuaono, i whakamatauhia e matou nga hybridfs, i reira kaore tenei raruraru i tukuna. Ka taea e koe te panui atu mo nga momo rokiroki konei.

Rapanga tuawha
Na ko tetahi atu raruraru tino pai i mahia e matou mo te wa rekoata. I hopukina e matou mo te 2-3 marama na te mea kaore i tino marama te tauira.

I etahi wa ka haere o matou kairuruku ki te Full GC, i te nuinga o te waa i muri i te tina, kaore ano kia hoki mai i reira. I te wa ano, i te wa e takiuru ana i te wa roa o te GC, he penei te ahua: kei te pai nga mea katoa, pai, pai, katahi ka ohorere ka tino kino nga mea katoa.

I te tuatahi i whakaaro matou he kaiwhakamahi kino kei te whakarewa i etahi momo tono i turaki te kairuruku i te aratau mahi. I tuhia e matou nga tono mo te wa roa, e ngana ana ki te mohio he aha te mea kei te tupu.

Ko te mutunga, ka puta mai i te wa ka tukuna e te kaiwhakamahi tetahi tono nui, ka tae atu ki tetahi kairuruku Elasticsearch motuhake, ka roa ake te whakautu a etahi pona i etahi atu.

A, i te wa e tatari ana te kairuruku mo te whakautu mai i nga pona katoa, ka kohia e ia nga hua ka tukuna mai i nga pona kua whakautua ake. Mo te GC, ko te tikanga he tere te huri o a maatau tauira whakamahi puranga. A ko te GC i whakamahia e matou kaore i kaha ki te whakatutuki i tenei mahi.

Ko te whakatika anake i kitea e matou ki te whakarereke i te whanonga o te tautau i tenei ahuatanga ko te heke ki te JDK13 me te whakamahi i te kaikohi paru Shenandoah. Na tenei i whakatika te raruraru, ka mutu te hinga o o matou kairuruku.

Koinei te waahi i mutu ai nga raruraru me Java ka timata nga raruraru bandwidth.

"Berries" me te Elasticsearch: te whakaputanga

Elasticsearch cluster 200 TB+

Ko nga raruraru ki te urunga ko te tikanga he pai te mahi o ta tatou kahui, engari i nga tihi o te maha o nga tuhinga kua tohua me te waa mahi, kaore i te rawaka te mahi.

Ko te tohu tuatahi i kitea: i te wa o etahi "pahū" i roto i te whakaputanga, i te wa ka puta ohorere te maha o nga raarangi, ka tiimata te tiimata o te hapa tohu es_rejected_execution ki te whiti i nga wa i Graylog.

Ko tenei na te mea ko te thread_pool.write.queue i runga i tetahi node raraunga, tae noa ki te wa ka taea e Elasticsearch te whakahaere i te tono tohu tohu me te tuku i nga korero ki te kongakonga i runga i te kōpae, ka taea e koe te keteroki i nga tono 200 anake. A i roto Tuhinga Elasticsearch He iti noa nga korero mo tenei tawhā. Ko te nui rawa o nga miro me te rahi taunoa ka tohua.

Ae ra, i haere matou ki te hurihuri i tenei uara ka kitea e whai ake nei: inaa, i roto i ta maatau tatūnga, tae atu ki te 300 nga tono ka tino keteroki, a he nui ake te uara i te mea ka rere ano matou ki te GC Katoa.

I tua atu, i te mea he puranga o nga karere ka tae mai i roto i te tono kotahi, me takawiri a Graylog kia kore ai e tuhi i nga wa maha me nga waahanga iti, engari i roto i nga roopu nui, kotahi ranei i ia 3 hēkona mena kaore ano kia oti te puranga. I tenei keehi, ka puta ko nga korero ka tuhia e matou ki te Elasticsearch e waatea ana kaua i roto i te rua hēkona, engari i roto i te rima (e pai ana ki a maatau), engari ko te maha o nga whakahokinga e tika ana kia pana atu i roto i te nui. ka whakahekehia te puranga o nga korero.

He mea tino nui tenei i roto i nga waa ka pakaru tetahi mea ki tetahi waahi ka purongo riri mo taua mea, kia kore ai e whiwhi i te Elastic tino mokemoke, a i muri i etahi wa - Ko nga kopuku Graylog e kore e taea te mahi na te mea kua tutakina nga papa.

I tua atu, i te wa ano enei pahūtanga i roto i te whakaputanga, i tae mai nga amuamu mai i nga kaiwhakaputa hötaka me nga kaiwhakamatautau: i te wa e tino hiahia ana ratou ki enei raarangi, he tino puhoi te tuku.

Ua haamata ratou i te feruri i te reira. I tetahi taha, i tino marama ko nga uiui rapu me nga patai tohu tohu i tukatukahia, i runga i nga miihini tinana kotahi, me tetahi huarahi, tetahi atu ranei ka puta etahi tangohanga.

Engari ka taea te karo i tetahi waahanga na te mea i roto i nga putanga tuaono o Elasticsearch ka puta mai he algorithm e taea ai e koe te tohatoha patai i waenga i nga waahanga raraunga e tika ana kaore i te rite ki te maataapono-a-roobin matapōkere (ko te ipu e mahi ana i te tohu me te pupuri i te tohu tuatahi- He tino pukumahi a shard, karekau he huarahi hei whakautu tere), engari me tuku tenei tono ki tetahi ipu iti ake te utaina me te tauira-shard, ka tere ake te whakautu. I etahi atu kupu, i tae matou ki use_adaptive_replica_selection: pono.

Ko te pikitia panui ka timata te ahua penei:

Elasticsearch cluster 200 TB+

Ko te whakawhiti ki tenei algorithm i taea ai te whakapai ake i te waa uiui i aua wa i nui ai te rere o nga raarangi hei tuhi.

Ka mutu, ko te raru nui ko te tango kore mamae o te pokapū raraunga.

Ko ta matou i hiahia mai i te tautau i muri tonu i te ngaro o te hononga ki tetahi DC:

  • Mena kei a tatou he rangatira o naianei kei roto i te pokapu raraunga rahua, ka tohua ano ka nukuhia hei waahi ki tetahi atu node i tetahi atu DC.
  • Ka tere te tango a te rangatira i nga pona katoa e kore e taea te uru mai i te tautau.
  • I runga i nga mea e toe ana, ka mohio ia: i roto i te pokapū raraunga ngaro i a maatau nga maatai ​​tuatahi me era atu, ka tere tana whakatairanga i nga kongakonga tauira taapiri i roto i nga pokapū raraunga e toe ana, ka haere tonu taatau ki te whakariterite i nga raraunga.
  • Ko te hua o tenei, ka heke haere te tuhi me te panui panui a te roopu, engari i te nuinga o te waa ka mahi nga mea katoa, ahakoa ka puhoi, engari ka mau tonu.

I te mea i puta mai, i hiahia matou ki tetahi mea penei:

Elasticsearch cluster 200 TB+

Na ka whiwhi matou i nga mea e whai ake nei:

Elasticsearch cluster 200 TB+

I pehea tenei?

I te hinganga o te pokapu raraunga, ka noho to matou rangatira ki te pounamu.

He aha?

Ko te meka ko te rangatira he TaskBatcher, ko ia te kawenga mo te tohatoha i etahi mahi me nga huihuinga i roto i te roopu. Ko nga putanga o te node, ko te whakatairanga i te kongakonga mai i te tauira ki te tuatahi, he mahi ki te hanga maramara ki tetahi waahi - ka haere tuatahi enei katoa ki TaskBatcher, kei reira ka tukatukahia i te raupapa me te miro kotahi.

I te wa o te tangohanga o tetahi pokapū raraunga, i puta mai ko nga kohinga raraunga katoa i roto i nga pokapū raraunga e ora ana i whakaaro ko ta ratou kawenga ki te whakamohio ki te rangatira "kua ngaro tatou i nga waahanga penei me era atu momo kohanga raraunga."

I te wa ano, ka tukuna e nga kohinga raraunga ora enei korero katoa ki te rangatira o naianei me te ngana ki te tatari mo te whakapumautanga kua whakaae ia. Kaore ratou i tatari mo tenei, i te mea he tere ake nga mahi a te rangatira i tana whakautu. Ko nga pona kua pau nga tono tukurua, a kaore te rangatira i tenei wa i ngana ki te whakautu, engari i tino aro ki te mahi ki te tohatoha i nga tono ma te kaupapa matua.

I roto i te ahua o te mutunga, ka puta ko nga pona raraunga i paopao ki te rangatira tae noa ki te GC katoa. Whai muri i tera, ka neke to maatau mahi rangatira ki tetahi pona e whai ake nei, he rite tonu te mea i pa ki a ia, na reira ka hinga katoa te tautau.

I inehia e matou, a, i mua i te putanga 6.4.0, i te waahi i whakatikahia ai, he nui noa ma matou ki te whakaputa i nga wa kotahi 10 nga pona raraunga mai i te 360 ​​kia kati rawa ai te tautau.

He penei te ahua:

Elasticsearch cluster 200 TB+

I muri i te putanga 6.4.0, i te waahi i whakatikahia ai tenei pepeke kino, ka mutu te patu o nga pona raraunga i te rangatira. Aita râ te reira i faariro ia ’na ei taata “ataata”. Ara: ka whakaputahia e matou te 2, te 3, te 10 ranei (tetahi tau ke atu i te kotahi), ka whiwhi te rangatira i etahi karere tuatahi e kii ana kua wehe te pona A, ka ngana ki te korero ki te pona B, te pona C mo tenei, te pona D.

Na i tenei wa, ka taea anake te mahi ma te whakarite i te waahi mo nga ngana ki te korero ki tetahi mo tetahi mea, e rite ana ki te 20-30 hēkona, na reira ka whakahaere i te tere o te pokapū raraunga ka neke atu i te tautau.

Ko te tikanga, ka uru tenei ki nga whakaritenga i tukuna i te tuatahi ki te hua whakamutunga hei waahanga o te kaupapa, engari mai i te tirohanga o te "pure science" he pepeke tenei. Ko tehea, na te ara, i tutuki pai e nga kaihanga i te putanga 7.2.

I tua atu, i te wa i puta ai tetahi putunga raraunga, ka puta ko te whakaputa korero mo tona putanga he mea nui ake i te korero ki te kahui katoa he mea pera me nga mea tuatahi kei runga (hei whakatairanga i te tauira-shard i tetahi atu raraunga. pokapū i te tuatahi, me nga korero ka taea te tuhi ki runga).

No reira, ka mate noa nga mea katoa, karekau nga pona raraunga kua tukuna e tohuhia tonutia he maoa. No reira, ka pehia matou ki te tatari kia pau nga pings katoa ki nga kohinga raraunga kua tukuna, a muri iho ka timata ta matou kahui ki te korero mai kei reira, kei reira, kei reira me haere tonu te tuhi korero. Ka taea e koe te panui atu mo tenei konei.

Ko te mutunga mai, ko te mahi tango i tetahi pokapu raraunga i tenei ra e 5 meneti pea i roto i nga haora tere. Mo te ahua nui me te pukoro, he hua tino pai tenei.

Ko te mutunga mai, ka tae matou ki te whakatau e whai ake nei:

  • E 360 nga pona raraunga me nga kōpae 700 gigabyte.
  • 60 nga kairuruku mo te arataki waka i roto i enei kohanga raraunga ano.
  • E 40 nga rangatira kua waiho e matou hei momo taonga tuku iho mai i nga putanga i mua i te 6.4.0 - kia ora ai matou i te tangohanga o te pokapū raraunga, kua rite matou ki te ngaro etahi mihini kia taea ai e matou te whai koorama rangatira ahakoa kei roto. te ahua kino rawa atu
  • Ko nga nganatanga ki te whakakotahi i nga mahi ki runga i te ipu kotahi i tutuki me te mea ka pakaru te pona i raro i te kawenga.
  • Ka whakamahia e te kohinga katoa he putunga.rahi o te 31 gigabytes: ko nga nganatanga katoa ki te whakaiti i te rahi, ka mate etahi pona i runga i nga patai rapu taumaha me te kaari mohoao matua, ka whiwhi ranei i te kaiwahi iahiko i Elasticsearch ake.
  • I tua atu, ki te whakarite i te mahi rapu, i ngana matou ki te pupuri i te maha o nga mea kei roto i te kohinga kia iti rawa, kia taea ai te tukatuka i nga huihuinga iti ka taea i roto i te pounamu i riro mai i a matou i te rangatira.

Ka mutu mo te aroturuki

Hei whakarite kia pai enei mea katoa, ka aroturuki matou i nga mea e whai ake nei:

  • Ko ia node raraunga e whakaatu ana ki ta maatau kapua kei te noho tonu, a he maha nga marara kei runga. Ka tineia e matou tetahi mea i tetahi waahi, ka kii te kohinga i muri i te 2-3 hēkona kei te pokapū A ka tineia e matou nga pona 2, 3, me te 4 - ko te tikanga i etahi atu pokapu raraunga kaore e taea e matou te whakakore i nga pona kei runga kotahi noa te maramara. maui.
  • Ma te mohio ki te ahua o te whanonga o te rangatira, ka ata tirohia e matou te maha o nga mahi e tatari ana. No te mea ahakoa kotahi te mahi e mau tonu ana, ki te kore e pau te waa, i roto i etahi ahuatanga ohorere ka waiho hei take, hei tauira, karekau e whai hua te whakatairanga o te kongakonga tauira i te tuatahi, na reira ka mutu te mahi a te taupū.
  • Ka ata titiro ano matou ki nga wa roa o te kaikohi paru, na te mea kua tino raru matou ki tenei i te wa e arotau ana.
  • Ka paopao ma te miro kia mohio i mua kei hea te pounamu.
  • Ana, nga inenga paerewa penei i te puranga, te RAM me te I/O.

I te wa e tirotirohia ana te whare, me whai whakaaro koe ki nga ahuatanga o te Thread Pool i Elasticsearch. Tuhinga Elasticsearch e whakaahua ana i nga whiringa whirihoranga me nga uara taunoa mo te rapu me te taupū, engari e wahangu ana mo te thread_pool.management. Ko enei miro e mahi ana, ina koa, nga patai penei i te _cat/shards me etahi atu mea rite, he pai ki te whakamahi i te tuhi aroturuki. Ko te nui ake o te tautau, ko te nui ake o nga tono pera ka mahia mo ia waahanga o te waa, a, ko te thread_pool.management kua kiia ake nei kaore i te whakaatuhia i roto i nga tuhinga whaimana, engari he iti noa iho ki te taunoa ki nga miro 5, ka tino tere te whakakore, i muri mai. ko te aroturuki ka mutu te mahi tika.

He aha taku e hiahia ana ki te korero i te mutunga: i mahia e matou! I taea e matou ki te hoatu ki a matou kaiwhakahoahoa me nga kaiwhakawhanake he taputapu, i roto i nga ahuatanga katoa, ka taea te tuku korero tere me te pono mo nga mea kei te mahi i roto i te mahi.

Ae, i puta he tino uaua, engari, ahakoa, i kaha taatau ki te whakauru i o maatau hiahia ki nga hua o naianei, kaore i tika ki te tarai me te tuhi ano ma tatou.

Elasticsearch cluster 200 TB+

Source: will.com

Tāpiri i te kōrero