Pehea e hoʻomaopopo ai ka mea hoʻomohala backend e hana maikaʻi kahi nīnau SQL ma kahi "prod"? I nā hui nui a ulu wikiwiki paha, ʻaʻole hiki i nā mea a pau ke komo i ka "huahana". A me ka loaʻa ʻana, ʻaʻole hiki ke nānā ʻia nā noi a pau, a ʻo ka hana ʻana i kahi kope o ka waihona e lawe pinepine i nā hola. No ka hoʻoponopono ʻana i kēia mau pilikia, ua hana mākou i kahi DBA artificial - Joe. Ua hoʻokō maikaʻi ʻia i nā ʻoihana he nui a kōkua i nā mea hoʻomohala ʻoi aku ma mua o hoʻokahi haneli.
Video:
Aloha kākou! ʻO Anatoly Stansler koʻu inoa. Hana wau no kahi hui . Hoʻopaʻa mākou i ka wikiwiki o ka hoʻomohala ʻana ma ka wehe ʻana i nā lohi e pili ana i ka hana a Postgres mai nā mea hoʻomohala, DBA a me QA.
Loaʻa iā mākou nā mea kūʻai aku a i kēia lā e hoʻolaʻa ʻia kahi ʻāpana o ka hōʻike i nā hihia a mākou i hālāwai ai i ka wā e hana pū ana me lākou. E kamaʻilio wau e pili ana i kā mākou kōkua ʻana iā lākou e hoʻoponopono i nā pilikia koʻikoʻi.
Ke hoʻomohala nei mākou a hana i nā neʻe kiʻekiʻe paʻakikī, nīnau mākou iā mākou iho i ka nīnau: "E haʻalele anei kēia neʻe?". Hoʻohana mākou i ka loiloi, hoʻohana mākou i ka ʻike o nā hoa hana ʻoi aku ka ʻike, nā loea DBA. A hiki iā lākou ke haʻi inā e lele a ʻaʻole paha.
Akā, ʻoi aku ka maikaʻi inā hiki iā mākou ke hoʻāʻo iā mākou iho ma nā kope piha piha. A i kēia lā e kamaʻilio wale mākou e pili ana i ke ʻano o ka hoʻāʻo ʻana i kēia manawa a pehea e hiki ai ke hana maikaʻi a me nā mea hana. E kamaʻilio pū mākou e pili ana i ka maikaʻi a me ka maikaʻi o ia mau ala, a me nā mea hiki iā mākou ke hoʻoponopono ma aneʻi.
ʻO wai ka mea i hana i nā kuhikuhi pololei ma ka prod a i ʻole i hoʻololi paha? He wahi liʻiliʻi. A no wai i alakaʻi ai i ka ʻoiaʻiʻo ua nalowale nā ʻikepili a i ʻole he downtime? A laila ʻike ʻoe i kēia ʻeha. Mahalo ke Akua aia nā waihona.
ʻO ke ala mua ka hoʻāʻo ʻana i ka prod. A i ʻole, ke noho ka mea hoʻomohala ma kahi mīkini kūloko, loaʻa iā ia ka ʻikepili hōʻike, aia kekahi ʻano koho palena ʻole. A ʻōwili mākou i ka prod, a loaʻa iā mākou kēia kūlana.
He ʻeha, he pipiʻi. ʻOi aku ka maikaʻi ʻaʻole.
A he aha ke ala maikaʻi loa e hana ai?
E lawe kāua i ke kahua a koho i kahi ʻāpana o ka prod ma laila. A i ʻole ma ka maikaʻi, e lawe mākou i kahi prod maoli, nā ʻikepili āpau. A ma hope o ka hoʻomohala ʻana iā ia ma ka ʻāina, e nānā hou mākou no ka hoʻokūkū.
E ʻae kēia iā mākou e wehe i kekahi o nā hewa, ʻo ia hoʻi e pale iā lākou mai ka prod.
He aha nā pilikia?
- ʻO ka pilikia ke kaʻana like mākou i kēia hoʻokūkū me nā hoa hana. A pinepine pinepine ʻoe e hana i kekahi ʻano hoʻololi, bam - a ʻaʻohe ʻikepili, aia ka hana ma lalo o ke kahawai. ʻO ka hoʻonohonoho ʻana he multi-terabyte. A pono ʻoe e kali lōʻihi no ka ala hou ʻana. A hoʻoholo mākou e hoʻopau i ka lā ʻapōpō. ʻO ia ka mea, loaʻa iā mākou kahi hoʻomohala.
- A, ʻoiaʻiʻo, nui nā hoa hana e hana ana ma laila, nui nā hui. A pono e hana me ka lima. A he mea kūpono ʻole kēia.
A he mea pono e ʻōlelo aku he hoʻokahi wale nō kā mākou hoʻāʻo, hoʻokahi pana, inā makemake mākou e hoʻololi i ka waihona, hoʻopā i ka ʻikepili, hoʻololi i ke ʻano. A inā i hewa kekahi mea, inā he hewa i ka neʻe ʻana, a laila ʻaʻole mākou e holo wikiwiki i hope.
ʻOi aku ka maikaʻi o kēia ma mua o ke ala mua, akā aia nō ke kiʻekiʻe o ke ʻano o ka hewa e hele i ka hana.
He aha ka mea e pale ai iā mākou mai ka hāʻawi ʻana i kēlā me kēia mea hoʻomohala i kahi papa hoʻāʻo, kahi kope piha? Manaʻo wau ua maopopo ka mea e hoʻopilikia ai.
ʻO wai ka ʻikepili ʻoi aku ka nui ma mua o ka terabyte? ʻOi aku ma mua o ka hapalua o ka lumi.
A ua maopopo ka mālama ʻana i nā mīkini no kēlā me kēia mea hoʻomohala, i ka wā e loaʻa ai kahi hana nui, he kumukūʻai nui loa, a ʻoi aku ka lōʻihi o ka manawa.
Loaʻa iā mākou nā mea kūʻai aku i ʻike he mea nui ka hoʻāʻo ʻana i nā hoʻololi āpau ma nā kope piha piha, akā ʻoi aku ka liʻiliʻi o kā lākou waihona ma mua o ka terabyte, a ʻaʻohe kumu e mālama ai i kahi papa hoʻāʻo no kēlā me kēia mea hoʻomohala. No laila, pono lākou e hoʻoiho i nā dumps kūloko i kā lākou mīkini a hoʻāʻo ma kēia ʻano. He nui ka manawa.
ʻOiai inā ʻoe e hana i loko o ka ʻōnaehana, a laila ʻoi aku ka maikaʻi o ka hoʻoiho ʻana i hoʻokahi terabyte o ka ʻikepili i kēlā me kēia hola. Akā hoʻohana lākou i nā dumps logical, hoʻoiho lākou i ka wahi mai ke ao. No lākou, ʻo ka wikiwiki ma kahi o 200 gigabytes i kēlā me kēia hola. A ʻo ia ka manawa e hoʻohuli ai mai ka logical dump, ʻōwili i nā indexes, etc.
Akā hoʻohana lākou i kēia ala no ka mea hiki iā lākou ke mālama pono i ka prod.
He aha kā mākou e hana ai ma ʻaneʻi? E hana mākou i nā papa hoʻāʻo maʻalahi a hāʻawi i kēlā me kēia mea hoʻomohala i kā lākou papa hoʻāʻo ponoʻī.
A hiki kēia.
A ma kēia ala, ke hana mākou i nā clones lahilahi no kēlā me kēia mea hoʻomohala, hiki iā mākou ke kaʻana like ma ka mīkini hoʻokahi. No ka laʻana, inā loaʻa iā ʻoe kahi waihona 10TB a makemake ʻoe e hāʻawi iā ia i nā mea hoʻomohala 10, ʻaʻole pono ʻoe e loaʻa i ka waihona XNUMX x XNUMXTB. Pono ʻoe i hoʻokahi mīkini e hana i nā kope i hoʻokaʻawale ʻia no kēlā me kēia mea hoʻomohala e hoʻohana ana i hoʻokahi mīkini. E haʻi wau iā ʻoe pehea e hana ai ma hope iki.
Laʻana maoli:
-
DB - 4,5 terabytes.
-
Hiki iā mākou ke loaʻa nā kope kūʻokoʻa i 30 kekona.
ʻAʻole pono ʻoe e kali i kahi kū hoʻāʻo a hilinaʻi i ka nui o ia. Hiki iā ʻoe ke loaʻa i kekona. E hoʻokaʻawale loa ia i nā kaiapuni, akā kaʻana like i ka ʻikepili i waena o lākou iho.
Maikaʻi loa kēia. Eia mākou e kamaʻilio nei e pili ana i ke kilokilo a me ke ao like.
I kā mākou hihia, hana kēia me ka hoʻohana ʻana i ka ʻōnaehana OpenZFS.
ʻO OpenZFS kahi ʻōnaehana faila kope-ma-kākau e kākoʻo ana i nā kiʻi paʻi a me nā clones ma waho o ka pahu. He mea hilinaʻi a scalable. He maʻalahi loa ia e hoʻokele. Hiki ke hoʻopili maoli ʻia i nā hui ʻelua.
Aia nā koho ʻē aʻe:
-
lvm,
-
Waihona (no ka laʻana, Pure Storage).
ʻO ka Database Lab aʻu e kamaʻilio nei he modular. Hiki ke hoʻokō me ka hoʻohana ʻana i kēia mau koho. Akā i kēia manawa, ua nānā mākou iā OpenZFS, no ka mea, aia nā pilikia me LVM kūikawā.
Pehea ia hana? Ma kahi o ke kākau hou ʻana i ka ʻikepili i kēlā me kēia manawa a mākou e hoʻololi ai, mālama mākou iā ia ma ka hōʻailona wale ʻana i kēia ʻikepili hou mai kahi manawa hou, kahi kiʻi hou.
A i ka wā e hiki mai ana, i ka wā e makemake ai mākou e rollback a i ʻole makemake mākou e hana i kahi clone hou mai kekahi mana kahiko, ʻōlelo wale mākou: "ʻAe, hāʻawi iā mākou i kēia mau poloka o ka ʻikepili i kaha ʻia e like me kēia."
A e hana kēia mea hoʻohana me kēlā ʻano ʻikepili. E hoʻololi mālie ʻo ia iā lākou, e hana i kāna mau kiʻi ponoʻī.
A e lālā mākou. Loaʻa i kēlā me kēia mea hoʻomohala i kā mākou hihia ke loaʻa i kāna clone ponoʻī āna i hoʻoponopono ai, a e kaʻana like ʻia ka ʻikepili i kaʻana like ma waena o kēlā me kēia.
No ka hoʻonohonoho ʻana i kēia ʻōnaehana ma ka home, pono ʻoe e hoʻoponopono i nā pilikia ʻelua:
-
ʻO ka mua ke kumu o ka ʻikepili, kahi āu e lawe ai. Hiki iā ʻoe ke hoʻonohonoho hou me ka hana ʻana. Hiki iā ʻoe ke hoʻohana i nā backup āu i hoʻonohonoho ai, manaʻolana wau. WAL-E, WAL-G a i ʻole Barman. A inā ʻoe e hoʻohana nei i kekahi ʻano o ka hoʻonā Cloud e like me RDS a i ʻole Cloud SQL, a laila hiki iā ʻoe ke hoʻohana i nā dumps logical. Akā ke aʻo aku nei mākou iā ʻoe e hoʻohana i nā backup, no ka mea me kēia ala e hoʻopaʻa pū ai ʻoe i ke ʻano kino o nā faila, kahi e hiki ai iā ʻoe ke kokoke loa i nā metric āu e ʻike ai i ka hana ʻana i mea e hopu ai i kēlā mau pilikia e kū nei.
-
ʻO ka lua kahi āu e makemake ai e hoʻokipa i ka Database Lab. Hiki iā Cloud, hiki ke On-premise. He mea nui e ʻōlelo ma aneʻi e kākoʻo ana ʻo ZFS i ka hoʻopili ʻikepili. A hana maikaʻi ia.
E noʻonoʻo i kēlā me kēia clone, e pili ana i nā hana a mākou e hana ai me ke kumu, e ulu ana kekahi ʻano dev. No kēia, pono pū ka dev i kahi. Akā ma muli o ka lawe ʻana i kahi kumu o 4,5 terabytes, ZFS e hoʻopaʻa iā ia i 3,5 terabytes. Hiki ke ʻokoʻa kēia ma muli o nā hoʻonohonoho. A loaʻa iā mākou kahi lumi no dev.
Hiki ke hoʻohana ʻia ia ʻōnaehana no nā hihia like ʻole.
-
ʻO kēia nā mea hoʻomohala, nā DBA no ka hōʻoia ʻana i ka nīnau, no ka loiloi.
-
Hiki ke hoʻohana ʻia kēia i ka hoʻāʻo QA e hoʻāʻo i kahi neʻe ma mua o ka ʻōwili ʻana iā ia i ka prod. A hiki iā mākou ke hāpai i nā kaiapuni kūikawā no QA me ka ʻikepili maoli, kahi e hiki ai iā lākou ke hoʻāʻo i nā hana hou. A he mau kekona ma mua o nā hola kali, a he mau lā paha i kekahi mau hihia ʻaʻole hoʻohana ʻia nā kope lahilahi.
-
A me kekahi hihia. Inā ʻaʻole i hoʻonohonoho ʻia kahi ʻōnaehana analytics i ka hui, a laila hiki iā mākou ke hoʻokaʻawale i kahi clone lahilahi o ka waihona huahana a hāʻawi iā ia i nā nīnau lōʻihi a i ʻole nā kuhikuhi kikoʻī e hiki ke hoʻohana ʻia i ka analytics.
Me kēia ala:
-
Loaʻa haʻahaʻa o nā hewa ma ka "prod", no ka mea, ua hoʻāʻo mākou i nā hoʻololi āpau i ka ʻikepili piha piha.
-
Loaʻa iā mākou kahi moʻomeheu o ka hoʻāʻo ʻana, no ka mea ʻaʻole pono ʻoe e kali i nā hola no kou kū ponoʻī.
-
A ʻaʻohe mea pale, ʻaʻohe kali ma waena o nā hoʻokolohua. Hiki iā ʻoe ke hele a nānā. A ʻoi aku ka maikaʻi ma kēia ʻano ke wikiwiki mākou i ka hoʻomohala ʻana.
-
E emi ana ka refactoring. E liʻiliʻi nā pōpoki e pau i ka prod. E hoʻololi hou mākou iā lākou ma hope.
-
Hiki iā mākou ke hoʻohuli i nā loli hiki ʻole ke hoʻololi. ʻAʻole kēia ke ala maʻamau.
- He mea maikaʻi kēia no ka mea ke kaʻana like nei mākou i nā kumuwaiwai o nā papa hoʻāʻo.
Ua maikaʻi, akā he aha nā mea e hiki ke hoʻonui ʻia?
Mahalo i ia ʻōnaehana, hiki iā mākou ke hōʻemi nui i ka paepae no ke komo ʻana i ia hoʻokolohua.
I kēia manawa aia kahi pōʻai ʻino kahi e lilo ai ka mea hoʻomohala i mea akamai i mea e hiki ai ke komo i ka ʻikepili piha piha maoli. Pono ʻo ia e hilinaʻi ʻia me ia ʻano komo.
Akā pehea e ulu ai inā ʻaʻole ma laila. Akā, pehea inā he liʻiliʻi loa kāu ʻikepili hoʻāʻo i loaʻa iā ʻoe? A laila ʻaʻole ʻoe e loaʻa i kahi ʻike maoli.
Pehea e puka ai i waho o kēia pōʻai? Ma ke ʻano he kikowaena mua, kūpono no nā mea hoʻomohala o kēlā me kēia pae, ua koho mākou i ka bot Slack. Akā hiki ke loaʻa i kekahi interface ʻē aʻe.
He aha ka mea hiki iā ʻoe ke hana? Hiki iā ʻoe ke lawe i kahi nīnau kikoʻī a hoʻouna iā ia i kahi ala kūikawā no ka waihona. E hoʻopololei mākou i kahi clone lahilahi i kekona. E holo kāua i kēia noi. ʻOhi mākou i nā ana a me nā manaʻo. E hōʻike mākou i kahi hiʻohiʻona. A laila e hoʻomau ʻia kēia clone i hiki ke hoʻonui ʻia kēia nīnau, hoʻohui i nā index, etc.
A hāʻawi pū ʻo Slack iā mākou i nā manawa no ka hui pū ʻana ma waho o ka pahu. No ka mea he ala wale kēia, hiki iā ʻoe ke hoʻomaka e kūkākūkā i kēia noi ma laila ma ka pae no kēlā noi, e ping i kāu mau hoa hana, nā DBA i loko o ka hui.
Akā, aia nā pilikia. No ka mea, ʻo kēia ka honua maoli, a ke hoʻohana nei mākou i kahi kikowaena e hoʻokipa ana i nā clones he nui i ka manawa hoʻokahi, pono mākou e kaomi i ka nui o ka hoʻomanaʻo a me ka mana CPU i loaʻa i nā clones.
Akā no kēia mau ho'āʻo ʻana e kūpono, pono ʻoe e hoʻoponopono i kēia pilikia.
Ua maopopo ka mea nui ka ʻikepili like. Akā ua loaʻa iā mākou. A makemake mākou e hoʻokō i ka hoʻonohonoho like. A hiki iā mākou ke hāʻawi i kahi hoʻonohonoho like like.
Maikaʻi ka loaʻa ʻana o ka lako like me ka hana ʻana, akā ʻokoʻa paha.
E hoʻomanaʻo kākou i ka hana ʻana o Postgres me ka hoʻomanaʻo. Loaʻa iā mākou ʻelua mau huna huna. Hoʻokahi mai ka ʻōnaehana waihona a me hoʻokahi Postgres maoli, ʻo ia hoʻi ʻo Shared Buffer Cache.
He mea nui e hoʻomaopopo i ka hoʻokaʻawale ʻana i ka Shared Buffer Cache i ka wā e hoʻomaka ai nā Postgres, e pili ana i ka nui āu e kuhikuhi ai i ka hoʻonohonoho.
A hoʻohana ka lua huna i nā wahi āpau i loaʻa.
A ke hana mākou i kekahi mau clones ma ka mīkini hoʻokahi, ʻike ʻia e hoʻopiha mālie mākou i ka hoʻomanaʻo. A ma ke ala maikaʻi, Shared Buffer Cache ʻo 25% o ka nui o ka hoʻomanaʻo i loaʻa ma ka mīkini.
A ua ʻike ʻia inā ʻaʻole mākou e hoʻololi i kēia ʻāpana, a laila hiki iā mākou ke holo i nā manawa 4 wale nō ma ka mīkini hoʻokahi, ʻo ia hoʻi, 4 o kēia mau clones lahilahi i ka huina. A ʻo kēia, ʻoiaʻiʻo, ʻino, no ka mea makemake mākou e loaʻa i nā mea he nui aku.
Akā ma ka ʻaoʻao ʻē aʻe, hoʻohana ʻia ʻo Buffer Cache e hoʻokō i nā nīnau no nā indexes, ʻo ia hoʻi, pili ka hoʻolālā i ka nui o kā mākou cache. A inā e lawe wale mākou i kēia ʻāpana a hoʻemi, a laila hiki i kā mākou mau hoʻolālā ke loli nui.
No ka laʻana, inā loaʻa iā mākou kahi huna nui ma ka prod, a laila makemake ʻo Postgres e hoʻohana i kahi index. A inā ʻaʻole, a laila e loaʻa iā SeqScan. A he aha ka hopena inā ʻaʻole i kūlike kā mākou mau hoʻolālā?
Eia naʻe mākou i ka hopena ʻoiaʻiʻo ʻaʻole hilinaʻi ka hoʻolālā ma Postgres i ka nui kikoʻī i hōʻike ʻia ma ka Shared Buffer i ka hoʻolālā, pili ia i ka effective_cache_size.
ʻO Effective_cache_size ka nui i manaʻo ʻia o ka hūnā i loaʻa iā mākou, ʻo ia hoʻi ka huina o ka Buffer Cache a me ka ʻōnaehana waihona. Hoʻonohonoho ʻia kēia e ka config. A ʻaʻole i hoʻokaʻawale ʻia kēia hoʻomanaʻo.
A ma muli o kēia ʻāpana, hiki iā mākou ke ʻano hoʻopunipuni iā Postgres, me ka ʻōlelo ʻana he nui nā ʻikepili i loaʻa iā mākou, ʻoiai inā ʻaʻole mākou i kēia ʻikepili. A pēlā, e hui like loa nā hoʻolālā me ka hana ʻana.
Akā hiki ke hoʻopili kēia i ka manawa. A hoʻopaʻa mākou i nā nīnau ma ka manawa, akā he mea nui e hilinaʻi ka manawa i nā kumu he nui:
-
Pili ia i ka ukana i kēia manawa ma ka prod.
-
Pili ia i nā ʻano o ka mīkini ponoʻī.
A ʻo kēia kahi ʻāpana kūʻokoʻa, akā ʻoiaʻiʻo hiki iā mākou ke koho pololei i ka nui o ka ʻikepili e heluhelu ai kēia nīnau i mea e loaʻa ai ka hopena.
A inā makemake ʻoe e kokoke ka manawa i ka mea a mākou e ʻike ai ma ka prod, a laila pono mākou e lawe i nā lako like loa a, ʻoi aku paha, ʻoi aku ka maikaʻi o nā clones āpau. Akā, he kuʻikahi kēia, ʻo ia hoʻi, e loaʻa iā ʻoe nā hoʻolālā like, e ʻike ʻoe i ka nui o ka ʻikepili a kahi nīnau e heluhelu ai a hiki iā ʻoe ke hoʻoholo inā maikaʻi kēia nīnau (a i ʻole ka neʻe ʻana) a maikaʻi ʻole paha, pono e hoʻomaikaʻi ʻia. .
E nānā kākou pehea ʻo Joe i hoʻopaʻa pono ʻia.
E lawe kāua i kahi noi mai kahi ʻōnaehana maoli. Ma keia hihia, he 1 terabyte ka waihona. A makemake mākou e helu i ka helu o nā pou hou i ʻoi aku ma mua o 10 makemake.
Ke kākau nei mākou i kahi leka i ke kahawai, ua kau ʻia kahi clone no mākou. A e ʻike mākou e hoʻopau ʻia kēlā noi i 2,5 mau minuke. ʻO kēia ka mea mua a mākou e ʻike ai.
E hōʻike ʻo B Joe iā ʻoe i nā ʻōlelo paipai e pili ana i ka hoʻolālā a me nā ana.
E ʻike mākou i ka hana ʻana o ka nīnau i ka ʻikepili i loaʻa i kahi helu liʻiliʻi o nā lālani. A makemake ʻia kekahi ʻano kuhikuhi kikoʻī, ʻoiai ua ʻike mākou he nui loa nā lālani kānana i ka nīnau.
E nānā pono kākou i ka mea i hana ʻia. ʻOiaʻiʻo, ʻike mākou ua heluhelu mākou ma kahi o hoʻokahi a me ka hapa gigabytes o ka ʻikepili mai ka waihona waihona a i ʻole mai ka disk. A ʻaʻole maikaʻi kēia, no ka mea, loaʻa iā mākou nā laina 142 wale nō.
A, me he mea lā, loaʻa iā mākou kahi index scan ma aneʻi a pono e hana wikiwiki, akā no ka mea ua kānana mākou i nā laina he nui (pono mākou e helu iā lākou), ua holo mālie ka noi.
A ua hana ʻia kēia ma ka hoʻolālā ma muli o ke ʻano o nā kūlana i ka nīnau a me nā kūlana i loko o ka index ʻaʻole i kūlike.
E ho'āʻo kākou e hoʻopololei i ka papa kuhikuhi a ʻike i ke ʻano o ka hoʻokō ʻana o ka nīnau ma hope o kēlā.
Ua lōʻihi ka hana ʻana o ka index, akā i kēia manawa ke nānā nei mākou i ka nīnau a ʻike i ka manawa ma kahi o 2,5 mau minuke he 156 milliseconds wale nō, ʻo ia ka maikaʻi. A heluhelu mākou he 6 megabytes o ka ʻikepili.
A i kēia manawa, hoʻohana mākou i ka index scan wale nō.
ʻO kekahi moʻolelo koʻikoʻi, makemake mākou e hōʻike i ka hoʻolālā ma ke ʻano maopopo. Ua hoʻokō mākou i ka nānā ʻana me ka hoʻohana ʻana i nā Flame Graphs.
He noi ʻokoʻa kēia, ʻoi aku ka ikaika. A kūkulu mākou i nā Flame Graphs e like me nā ʻāpana ʻelua: ʻo ia ka nui o ka ʻikepili i helu ʻia e kekahi node i ka hoʻolālā a me ka manawa, ʻo ia hoʻi ka manawa hoʻokō o ka node.
Maanei hiki iā mākou ke hoʻohālikelike i nā node kikoʻī me kekahi. A e ʻike ʻia ʻo wai o lākou e lawe i ka nui a i ʻole ka liʻiliʻi, ka mea maʻamau e paʻakikī ke hana ma nā ʻano hana hoʻohālike ʻē aʻe.
ʻOiaʻiʻo, ʻike nā mea a pau iā explain.depesz.com. ʻO kahi hiʻohiʻona maikaʻi o kēia hiʻohiʻona ʻo ia ka mālama ʻana i ka hoʻolālā kikokikona a hoʻokomo pū i kekahi mau ʻāpana kumu i loko o kahi papa i hiki iā mākou ke hoʻokaʻawale.
A ʻo nā mea hoʻomohala ʻaʻole i komo i kēia kumuhana e hoʻohana pū i ka explain.depesz.com, no ka mea ʻoi aku ka maʻalahi o lākou e noʻonoʻo i nā mea nui a ʻaʻole.
Aia kahi ala hou i ka nānā ʻana - ʻo explain.dalibo.com kēia. Hana lākou i kahi hiʻohiʻona lāʻau, akā paʻakikī loa ka hoʻohālikelike ʻana i nā nodes me kekahi. Maanei hiki iā ʻoe ke hoʻomaopopo maikaʻi i ke ʻano, akā, inā he noi nui, pono ʻoe e ʻōwili i hope a i waho, akā he koho.
hui pū
A, e like me kaʻu i ʻōlelo ai, hāʻawi ʻo Slack iā mākou i ka manawa e hui pū ai. No ka laʻana, inā ʻike mākou i kahi nīnau paʻakikī ʻaʻole maopopo i ke ʻano o ka hoʻonui ʻana, hiki iā mākou ke wehewehe i kēia pilikia me kā mākou mau hoa hana ma kahi pae ma Slack.
Me he mea lā iā mākou he mea nui e hoʻāʻo i ka ʻikepili piha piha. No ka hana ʻana i kēia, ua hana mākou i ka hāmeʻa Update Database Lab, i loaʻa ma ka open source. Hiki iā ʻoe ke hoʻohana i ka Joe bot. Hiki iā ʻoe ke lawe i kēia manawa a hoʻokō ma kou wahi. Loaʻa nā alakaʻi a pau ma laila.
He mea nui hoʻi e hoʻomaopopo ʻaʻole kipi ka hopena ponoʻī, no ka mea aia ʻo Delphix, akā he hopena ʻoihana. Ua paʻa loa, he pipiʻi loa. Kūkākūkā mākou i nā Postgres. ʻO kēia nā huahana open source. E hui pū me mākou!
ʻO kēia kahi aʻu e hoʻopau ai. Mahalo iā ʻoe!
ʻO kāu mau nīnau
Aloha! Mahalo no ka hōʻike! Hoihoi loa, ʻoi aku iaʻu, no ka mea ua hoʻoholo wau e pili ana i ka pilikia like i kekahi manawa i hala. A no laila he mau nīnau kaʻu. Manaʻolana e loaʻa iaʻu kahi hapa o ia mea.
Manaʻo wau pehea ʻoe e helu ai i kahi no kēia kaiapuni? ʻO ke ʻano o ka ʻenehana ma lalo o kekahi mau kūlana, hiki i kāu mau clones ke ulu i ka nui loa. ʻO ka ʻōlelo koʻikoʻi, inā loaʻa iā ʻoe kahi waihona ʻumi terabyte a me 10 clones, a laila maʻalahi ke hoʻohālikelike i kahi kūlana kahi i kaupaona ai kēlā me kēia clone he 10 ʻikepili kūʻokoʻa. Pehea ʻoe e helu ai i kēia wahi, ʻo ia hoʻi, kēlā delta āu i ʻōlelo ai, kahi e noho ai kēia mau clones?
He nīnau maikaʻi. He mea nui ka mālama ʻana i nā clones kikoʻī ma aneʻi. A inā he loli nui ka clone, hoʻomaka ia e ulu, a laila hiki iā mākou ke hoʻopuka mua i kahi ʻōlelo aʻo i ka mea hoʻohana e pili ana i kēia, a i ʻole e hoʻōki koke i kēia clone i ʻole e loaʻa iā mākou kahi kūlana hemahema.
ʻAe, he nīnau koʻu pūnana. ʻO ia hoʻi, pehea ʻoe e hōʻoia ai i ke ola o kēia mau modules? Loaʻa iā mākou kēia pilikia a me kahi moʻolelo kaʻawale holoʻokoʻa. Pehea e hana ai kēia?
Aia kekahi ttl no kēlā me kēia clone. Ma ke kumu, loaʻa iā mākou kahi ttl paʻa.
He aha, inā ʻaʻole he mea huna?
1 hola, ʻo ia hoʻi ka palaualelo - 1 hola. Inā ʻaʻole hoʻohana ʻia, a laila paʻi mākou. Akā ʻaʻohe mea kupanaha ma ʻaneʻi, no ka mea hiki iā mākou ke hoʻāla i ka clone i kekona. A inā makemake hou ʻoe, e ʻoluʻolu.
Makemake wau i ke koho ʻana i nā ʻenehana, no ka mea, no ka laʻana, hoʻohana mākou i nā ʻano hana like ʻole no kekahi kumu a i ʻole. No ke aha ʻo ZFS? No ke aha ʻoe i hoʻohana ʻole ai iā LVM? Ua ʻōlelo ʻoe aia nā pilikia me LVM. He aha nā pilikia? I koʻu manaʻo, ʻo ka koho maikaʻi loa me ka mālama ʻana, ma ke ʻano o ka hana.
He aha ka pilikia nui me ZFS? ʻO ka ʻoiaʻiʻo e pono ʻoe e holo ma ka host hoʻokahi, ʻo ia hoʻi, e ola nā manawa āpau i loko o ka OS hoʻokahi. A ma keʻano o ka mālamaʻana, hiki iāʻoe ke hoʻohui i nā mea likeʻole. A ʻo ka bottleneck wale nō kēlā mau poloka ma ka ʻōnaehana mālama. A he mea hoihoi ka nīnau o ke koho ʻana i nā ʻenehana. No ke aha ʻaʻole ʻo LVM?
Ma kahi kikoʻī, hiki iā mākou ke kūkākūkā i ka LVM ma ka hui. E pili ana i ka mālama ʻana - he pipiʻi wale nō. Hiki iā mākou ke hoʻokō i ka ʻōnaehana ZFS ma nā wahi āpau. Hiki iā ʻoe ke kau iā ia ma kāu mīkini. Hiki iā ʻoe ke hoʻoiho wale i ka waihona a kau iā ia. Hoʻokomo ʻia ʻo ZFS ma nā wahi āpau inā mākou e kamaʻilio e pili ana iā Linux. ʻO ia hoʻi, loaʻa iā mākou kahi hopena maʻalahi loa. A ma waho o ka pahu, hāʻawi nui ʻo ZFS. Hiki iā ʻoe ke hoʻouka i ka ʻikepili e like me kou makemake, hoʻohui i kahi helu nui o nā disks, aia nā snapshot. A, e like me kaʻu i ʻōlelo ai, maʻalahi ka lawelawe ʻana. ʻO ia hoʻi, ʻoluʻolu loa ia e hoʻohana. Ua ho'āʻoʻiaʻo ia, he mau makahiki. He kaiāulu nui kona e ulu nei. ʻO ZFS kahi hopena hilinaʻi loa.
Nikolai Samokhvalov: Hiki iaʻu ke ʻōlelo hou aku? ʻO Nikolay koʻu inoa, hana pū mākou me Anatoly. Ke ʻae nei au he maikaʻi ka mālama ʻana. A ʻo kekahi o kā mākou mea kūʻai aku he Pure Storage etc.
Ua ʻike pololei ʻo Anatoly e kālele ana mākou i ka modularity. A i ka wā e hiki mai ana, hiki iā ʻoe ke hoʻokō i hoʻokahi interface - e kiʻi i kahi kiʻi paʻi, hana i kahi clone, luku i ka clone. Ua maʻalahi nā mea a pau. A ʻoluʻolu ka mālama ʻana, inā ʻo ia.
Akā aia ʻo ZFS i nā mea āpau. Ua lawa ʻo DelPhix, he 300 nā mea kūʻai aku. ʻO kēia mau mea, ʻo ka waiwai 100 he 50 mau mea kūʻai aku, ʻo ia hoʻi, aia lākou iā NASA, etc. ʻO ka manawa kēia e loaʻa ai kēia ʻenehana. A ʻo ia ke kumu i loaʻa iā mākou kahi open source Core. Loaʻa iā mākou kahi ʻāpana kikowaena ʻaʻole i wehe ʻia ke kumu. ʻO kēia ke kahua a mākou e hōʻike ai. Akā makemake mākou e hiki ke loaʻa i nā mea a pau. Makemake mākou e hoʻololi i hiki i nā mea hoʻāʻo āpau ke hoʻōki i ka koho ʻana ma nā kamepiula. Pono mākou e kākau iā SELECT a ʻike koke i ka lohi. Mai kali i ka DBA e haʻi aku iā ʻoe. Eia ka pahuhopu nui. A ke manaʻo nei au e hele mākou a pau i kēia. A hana mākou i kēia mea no nā mea a pau. No laila ʻo ZFS, no ka mea e loaʻa iā ia ma nā wahi āpau. Mahalo i ke kaiāulu no ka hoʻoponopono ʻana i nā pilikia a no ka loaʻa ʻana o ka laikini open source, etc.*
Aloha mai! Mahalo no ka hōʻike! ʻO Maxim koʻu inoa. Ua hana mākou i nā pilikia like. Ua hoʻoholo lākou iā lākou iho. Pehea ʻoe e kaʻana like ai i nā kumuwaiwai ma waena o kēia mau clones? Hiki i kēlā me kēia clone ke hana i kāna mea pono'ī i kēlā me kēia manawa: ho'āʻo kekahi i kekahi mea, kekahi mea'ē aʻe, kūkulu kekahi i ka index, he hana koʻikoʻi kekahi. A inā hiki iā ʻoe ke puʻunaue i ka CPU, a laila ma IO, pehea ʻoe e puʻunaue ai? ʻO kēia ka nīnau mua.
A ʻo ka nīnau ʻelua e pili ana i ka ʻokoʻa o nā kū. E ʻōlelo kākou he ZFS kaʻu ma aneʻi a maikaʻi nā mea a pau, akā ʻaʻohe ZFS i ka mea kūʻai aku ma ka prod, akā ext4, no ka laʻana. Pehea ma keia hihia?
Maikaʻi loa nā nīnau. Ua haʻi iki au i kēia pilikia me ka hoʻokaʻawale ʻana i nā kumuwaiwai. A ʻo kēia ka hopena. E noʻonoʻo ʻoe e hoʻāʻo nei i ka hoʻokūkū. Hiki iā ʻoe ke loaʻa i kahi kūlana i ka manawa like a hāʻawi kekahi i hoʻokahi ukana, ʻo kekahi. A ʻo ka hopena, ʻike ʻoe i nā metric hiki ʻole ke hoʻomaopopo. Hiki ke pilikia like me ka prod. Ke makemake ʻoe e nānā i kekahi noi a ʻike ʻoe aia kekahi pilikia me ia - hana mālie ia, a laila ʻaʻole i loko o ka noi ka pilikia, akā i ka ʻoiaʻiʻo aia kekahi ʻano o ka ukana like.
A no laila, he mea nui ma ʻaneʻi e nānā i ke ʻano o ka hoʻolālā, he aha nā hana a mākou e hana ai i ka hoʻolālā a me ka nui o ka ʻikepili a mākou e hoʻonui ai no kēia. ʻO ka ʻoiaʻiʻo o kā mākou disks, no ka laʻana, e hoʻouka ʻia me kekahi mea, e pili pono ia i ka manawa. Akā hiki iā mākou ke koho i ka hoʻouka ʻia ʻana o kēia noi e ka nui o ka ʻikepili. ʻAʻole ia he mea nui i ka manawa like e loaʻa kekahi ʻano hoʻokō.
ʻElua aʻu nīnau. He mea ʻoluʻolu loa kēia. Aia kekahi mau hihia i koʻikoʻi ka ʻikepili hana, e like me nā helu kāleka hōʻaiʻē? Aia kekahi mea i mākaukau a i ʻole he hana kaʻawale? A ʻo ka nīnau ʻelua - aia kekahi mea e like me kēia no MySQL?
E pili ana i ka ʻikepili. E hana mākou i ka obfuscation a hiki i ka hana. Akā inā ʻoe e kau pololei iā Joe, inā ʻaʻole ʻoe e hāʻawi i ke komo ʻana i nā mea hoʻomohala, a laila ʻaʻohe komo i ka ʻikepili. No ke aha mai? No ka mea ʻaʻole hōʻike ʻo Joe i ka ʻikepili. Hōʻike wale ia i nā metric, hoʻolālā a ʻo ia wale nō. Ua hana ʻia kēia ma ke kumu, no ka mea ʻo ia kekahi o nā koi o kā mākou mea kūʻai aku. Ua makemake lākou e hiki ke hoʻonui me ka hāʻawi ʻole ʻana i nā mea āpau.
No MySQL. Hiki ke hoʻohana ʻia kēia ʻōnaehana no nā mea āpau e mālama i ka mokuʻāina ma ka disk. A ʻoiai mākou e hana nei i nā Postgres, ke hana nei mākou i ka automation āpau no Postgres ma mua. Makemake mākou e hoʻokaʻawale i ka loaʻa ʻana o ka ʻikepili mai kahi waihona. Ke hoʻonohonoho pono nei mākou i nā Postgres. ʻIke mākou pehea e hoʻohālikelike ai i nā hoʻolālā, etc.
Akā no ka mea hiki ke hoʻonui ʻia ka ʻōnaehana, hiki ke hoʻohana ʻia no MySQL. A aia kekahi mau laʻana. He mea like ko Yandex, akā ʻaʻole lākou e paʻi ma nā wahi āpau. Hoʻohana lākou i loko o Yandex.Metrica. A he moʻolelo wale nō e pili ana i MySQL. Akā ua like nā ʻenehana, ZFS.
Mahalo no ka hōʻike! He mau nīnau ʻelua kaʻu. Ua ʻōlelo ʻoe e hiki ke hoʻohana ʻia ka cloning no ka analytics, no ka laʻana e kūkulu i nā kuhikuhi hou ma laila. Hiki iā ʻoe ke haʻi hou aʻe e pili ana i ka hana ʻana?
A e nīnau koke wau i ka nīnau ʻelua e pili ana i ka like o nā kū, ka like o nā hoʻolālā. Aia pū ka papahana i nā helu helu i hōʻiliʻili ʻia e Postgres. Pehea ʻoe e hoʻoponopono ai i kēia pilikia?
Wahi a ka analytics, ʻaʻohe hihia kikoʻī, no ka mea ʻaʻole mākou i hoʻohana i kēia manawa, akā aia kahi manawa kūpono. Inā mākou e kamaʻilio e pili ana i nā kuhikuhi, a laila e noʻonoʻo ʻoe e hahai ana kahi nīnau i kahi papa me nā haneli miliona o nā moʻolelo a me kahi kolamu ʻaʻole i kuhikuhi ʻia i ka prod. A makemake mākou e helu i kekahi mau ʻikepili ma laila. Inā holo kēia noi ma ka prod, a laila hiki ke maʻalahi ma ka prod, no ka mea e hoʻokō ʻia ka noi ma laila no hoʻokahi minuke.
ʻAe, e hana kāua i kahi clone lahilahi ʻaʻole weliweli ke kū no kekahi mau minuke. A i mea e ʻoluʻolu ai ka heluhelu ʻana i ka ʻikepili, e hoʻohui mākou i nā helu no kēlā mau kolamu i makemake mākou i ka ʻikepili.
E hana ʻia ka papa kuhikuhi i kēlā me kēia manawa?
Hiki iā ʻoe ke hana i mea e hoʻopā ai mākou i ka ʻikepili, hana i nā kiʻi paʻi, a laila e hoʻōla mākou mai kēia kiʻi paʻi a hoʻokele i nā noi hou. ʻO ia hoʻi, hiki iā ʻoe ke hana i hiki iā ʻoe ke hoʻāla i nā clones hou me nā kuhikuhi i hoʻopili ʻia.
ʻO ka nīnau e pili ana i nā helu, inā mākou e hoʻihoʻi mai kahi waihona, inā mākou e hana hou, a laila e like like kā mākou helu. No ka mea, loaʻa iā mākou ka hoʻolālā ʻikepili kino holoʻokoʻa, ʻo ia hoʻi, e lawe mai mākou i ka ʻikepili e like me ia me nā helu helu helu āpau.
Eia kekahi pilikia. Inā ʻoe e hoʻohana i kahi hoʻonā kapua, a laila aia wale nā dumps logical ma laila, no ka mea ʻaʻole ʻae ʻo Google, Amazon iā ʻoe e lawe i kahi kope kino. E pilikia ana.
Mahalo no ka hōʻike. ʻElua mau nīnau maikaʻi ma aneʻi e pili ana i ka MySQL a me ka hoʻoili waiwai. Akā, ʻo ka mea ʻoiaʻiʻo, hiki mai nā mea āpau i ka ʻoiaʻiʻo ʻaʻole kēia he kumuhana o ka DBMS kikoʻī, akā no ka ʻōnaehana faila holoʻokoʻa. A, no laila, pono e hoʻoholo ʻia nā pilikia o ke kaʻana like ʻana mai laila, ʻaʻole ma ka hopena ʻo ia ʻo Postgres, akā ma ka ʻōnaehana faila, ma ke kikowaena, ma ka laʻana.
He ʻokoʻa iki kaʻu nīnau. ʻOi aku ka kokoke i ka waihona multi-layered, kahi he nui nā papa. No ka laʻana, hoʻonohonoho mākou i kahi hōʻano hou kiʻi ʻumi-terabyte, ke hana hou nei mākou. A hoʻohana pono mākou i kēia hoʻonā no nā waihona. Ke holomua nei ka hana hou ʻana, ke hoʻonui ʻia nei ka ʻikepili. He 100 mau limahana e hana like ana ma ʻaneʻi, e hoʻolele mau ana i kēia mau kiʻi like ʻole. He aha ka hana? Pehea e hōʻoia ai ʻaʻohe hakakā, ua hoʻomaka lākou i hoʻokahi, a laila hoʻololi ka ʻōnaehana faila, a hele kēia mau kiʻi?
ʻAʻole lākou e hele no ka mea ʻo ia ka hana a ZFS. Hiki iā mākou ke hoʻokaʻawale i loko o ke kaula hoʻokahi i ka hoʻololi ʻana o ka ʻōnaehana faila ma muli o ka hana hou ʻana. A mālama i nā clones i hoʻohana ʻia e nā mea hoʻomohala ma nā mana kahiko o ka ʻikepili. A hana ia no mākou, ua kūpono nā mea a pau me kēia.
ʻIke ʻia e hana ʻia ka mea hou ma ke ʻano he papa hou, a e hele mua nā kiʻi hou a pau, ma muli o kēia papa, ʻaʻole?
Mai nā papa mua mai nā kope o mua.
E hāʻule nā papa mua, akā e kuhikuhi lākou i ka papa kahiko, a e lawe lākou i nā kiʻi hou mai ka papa hope i loaʻa i ka hoʻonui?
Ma ka laulā, ʻae.
A laila e loaʻa iā mākou kahi fig o nā papa. A ma hope o ka manawa e pono ai lākou e hoʻopaʻa ʻia?
ʻAe, pololei nā mea a pau. Aia kekahi pukaaniani. Mālama mākou i nā kiʻi wikiō. Ma muli o ke kumu waiwai i loaʻa iā ʻoe. Inā loaʻa iā ʻoe ka hiki ke mālama i nā ʻikepili he nui, hiki iā ʻoe ke mālama i nā snapshot no ka manawa lōʻihi. ʻAʻole lākou e hele wale. ʻAʻohe palaho ʻikepili. Inā pau nā kiʻi paʻi kiʻi, e like me ka mea i manaʻo ʻia iā mākou, ʻo ia hoʻi, pili ia i ke kulekele i ka ʻoihana, a laila hiki iā mākou ke hoʻopau wale iā lākou a hoʻokuʻu i kahi.
Aloha, mahalo no ka hōʻike! Nīnau e pili ana iā Joe. Ua ʻōlelo ʻoe ʻaʻole makemake ka mea kūʻai aku e hāʻawi i nā mea āpau i ka ʻikepili. ʻO ka ʻōlelo koʻikoʻi, inā loaʻa i ke kanaka ka hopena o Explain Analyze, a laila hiki iā ia ke kiʻi i ka ʻikepili.
Pēlā nō. No ka laʻana, hiki iā mākou ke kākau: "SELECT FROM WHERE email = to that". ʻO ia, ʻaʻole mākou e ʻike i ka ʻikepili ponoʻī, akā hiki iā mākou ke ʻike i kekahi mau hōʻailona indirect. Pono e hoʻomaopopo ʻia kēia. Akā ma kekahi ʻaoʻao, aia nā mea a pau. Loaʻa iā mākou kahi loiloi log, loaʻa iā mākou ka mana o nā hoa hana ʻē aʻe e ʻike pū i ka hana a nā mea hoʻomohala. A inā e hoʻāʻo kekahi e hana i kēia, a laila e hele mai ka lawelawe palekana iā lākou a hana i kēia pilikia.
Aloha awakea, Aloha Auinalā Mahalo no ka hōʻike! He nīnau pōkole kaʻu. Inā ʻaʻole hoʻohana ka ʻoihana iā Slack, aia kekahi mea pili iā ia i kēia manawa, a i ʻole hiki i nā mea hoʻomohala ke hoʻonohonoho i nā manawa e hoʻopili ai i kahi noi hoʻāʻo i ka ʻikepili?
I kēia manawa aia kahi loulou iā Slack, ʻo ia hoʻi, ʻaʻohe ʻelele ʻē aʻe, akā makemake nui wau e kākoʻo i nā ʻelele ʻē aʻe. He aha kāu e hana ai? Hiki iā ʻoe ke kau iā DB Lab me ka ʻole o Joe, e hele me ke kōkua o ka REST API a i ʻole me ke kōkua o kā mākou kahua a hana i nā clones a pili pū me PSQL. Akā hiki ke hana i kēia inā mākaukau ʻoe e hāʻawi i kāu mau mea hoʻomohala i ka ʻikepili, no ka mea, ʻaʻohe pale.
ʻAʻole pono wau i kēia papa, akā makemake wau i kahi manawa kūpono.
A laila ʻae, hiki ke hana.
Source: www.habr.com