Cùl-taic bho WAL-G. Dè a th’ ann an 2019? Andrey Borodin

Tha mi a’ moladh gun leugh thu tar-sgrìobhadh aithisg tràth ann an 2019 aig Andrey Borodin, “Cùl-taicean le WAL-G. Dè a tha ùr ann an 2019?”

Halò a h-uile duine! Is mise Andrey Borodin. Tha mi nam leasaiche aig Yandex. Tha ùidh agam ann am PostgreSQL bho 2016, às dèidh dhomh bruidhinn ris na leasaichean agus thuirt iad gu robh e sìmplidh - dìreach gabh an còd tùsail, cuir ri chèile e, agus obraichidh e. Agus bhon uairsin, chan eil mi air a bhith comasach air stad a chuir air a h-uile seòrsa rud a sgrìobhadh.

Is e siostam cùl-taice aon de na rudan air a bheil mi ag obair. WAL-GGu dearbh, aig Yandex, tha sinn air a bhith ag obair air siostaman cùl-taic PostgreSQL airson ùine mhòr. Gheibh thu sreath de shia aithisgean air-loidhne mu mar a bhios sinn a’ togail ar siostaman cùl-taic. Agus gach bliadhna, bidh iad ag atharrachadh, a’ leasachadh, agus a’ fàs nas earbsaiche.

Ach chan e dìreach na rinn sinn a tha sinn a’ bruidhinn an-diugh, tha e cuideachd mu cho sìmplidh ‘s a tha e uile agus na tha ri fhaighinn. Cia mheud agaibh a chunnaic na còmhraidhean agam mu WAL-G mu thràth? Is e rud math a th’ ann nach do chunnaic mòran dhaoine, oir tòisichidh mi leis an rud as sìmplidh.

Ma thachras gu bheil cruinneachadh PostgreSQL agad, agus tha mi a’ smaoineachadh gu bheil dà no trì dhiubh aig a h-uile duine, agus gu h-obann nach eil siostam cùl-taice agad fhathast, feumaidh tu stòradh S3 no stòradh co-chòrdail ri Google Cloud fhaighinn.

Mar eisimpleir, faodaidh tu tighinn chun a’ bhothan againn agus còd brosnachaidh fhaighinn airson Yandex Object Storage, a tha co-chòrdail ri S3.

An uairsin cruthaich bucaid. Is e dìreach soitheach airson fiosrachadh a tha seo.

Cruthaich neach-cleachdaidh seirbheis.

Cruthaich iuchair ruigsinneachd aws-s3-key airson neach-cleachdaidh na seirbheis.

Luchdaich a-nuas an sgaoileadh seasmhach as ùire de WAL-G.

Dè an diofar a tha eadar na ro-fhoillseachadh againn agus na foillseachaidhean againn? Thathas tric ag iarraidh orm fhoillseachadh tràth. Mura h-eil biast air a bhith ann an dreach airson ùine gu leòr, can mìos, bidh mi ga leigeil ma sgaoil. Is e seo foillseachadh na Samhna. Tha seo a’ ciallachadh gu bheil sinn air biast a lorg a h-uile mìos, mar as trice ann an gnìomhachd neo-chudromach, ach chan eil sinn air fhoillseachadh fhathast. Chan eil an dreach roimhe seo ach an tè den t-Samhain. Chan eil biastagan aithnichte ann, a’ ciallachadh gun deach na biastagan a chur ris mar a bha am pròiseact a’ dol air adhart.

Às dèidh dhut WAL-G a luchdachadh sìos, faodaidh tu an àithne shìmplidh "liosta cùl-taice" a ruith, a’ cur a-steach caochladairean àrainneachd. Ceanglaicheas e ri Stòradh Rudan agus cuiridh e fios thugad dè na cùl-taicean a th’ agad. An toiseach, cha bu chòir cùl-taicean sam bith a bhith agad. Is e prìomh amas an t-sleamhnag seo sealltainn gu bheil a h-uile càil gu math sìmplidh. ’S e àithne tòcan a th’ ann a ghabhas ri caochladairean àrainneachd agus a chuireas fo-àitheantan an gnìomh.

Às dèidh seo, faodaidh tu a’ chiad chùl-taic agad a dhèanamh. Sònraich “backup-push” ann an WAL-G agus sònraich àite pgdata do chruinneachaidh ann an WAL-G. Is dòcha gun innis PostgreSQL dhut gum feum thu “modh tasglann” a chomasachadh mura h-eil siostam cùl-taic agad fhathast.

Tha seo a’ ciallachadh gum feum thu a dhol gu na roghainnean agus “archive_mode = on” a chomasachadh agus “archive_command” a chur ris, a tha cuideachd na fho-àithne ann an WAL-G. Ach airson adhbhar air choireigin, bidh daoine tric a’ cleachdadh sgriobtaichean bàr san t-snàthainn seo agus a’ cruthachadh còmhdach timcheall air WAL-G. Na dèan sin, mas e do thoil e. Cleachd an comas-gnìomh a tha aig WAL-G. Ma tha rudeigin a dhìth ort, feuch an innis thu dhomh. GitHubTha WAL-G a’ gabhail ris gur e seo an aon phrògram a ruitheas ann an archive_command.

Bidh sinn a’ cleachdadh WAL-G sa mhòr-chuid gus cruinneachadh Ruigsinneachd Àrd a chruthachadh ann an riaghladh Stòr-dàta Yandex.

Mar as trice, bidh e air a chleachdadh ann an topology le aon Mhaighstir agus iomadh ath-riochdachadh, agus bidh e a’ dèanamh cùl-taic gu Yandex Object Storage.

Is e an suidheachadh as cumanta lethbhric den chruinneachadh a chruthachadh le bhith a’ cleachdadh Ath-bheothachadh Point-in-Time. Ach, sa chùis seo, chan eil coileanadh an t-siostaim cùl-taice cho cudromach. Chan fheum sinn ach cruinneachadh ùr a chruthachadh bhon chùl-taic.

Mar as trice bidh feum againn air cùl-taic coileanaidh an t-siostaim nuair a chuireas sinn nód ùr ris. Carson a tha seo cudromach? Mar as trice bidh daoine a’ cur nód ùr ri cruinneachadh leis nach urrainn don chruinneachadh a th’ ann mar-thà an luchd leughaidh a làimhseachadh. Feumaidh iad leth-bhreac ùr a chur ris. Ma chuireas sinn an luchd pg_basebackup ris a’ Mhaighstir, dh’ fhaodadh am Maighstir tuiteam às a chèile. Mar sin, bha e deatamach dhuinn a bhith comasach air an nód ùr a thoirt seachad gu sgiobalta bhon tasglann agus an luchd as lugha a chruthachadh air a’ Mhaighstir.

Is e suidheachadh coltach eile an fheum air an t-seann Mhaighstir ath-shuidheachadh às dèidh dhut am Maighstir Cluster atharrachadh bho ionad dàta leis an deach an ceangal a chall.

• Mar thoradh air an sin, nuair a bha sinn a’ cruthachadh riatanasan airson an t-siostam cùl-taice, thuig sinn nach robh pg_basebackup freagarrach airson a chleachdadh san sgòth.
• Bha sinn airson a bhith comasach air ar dàta a dhlùthadh. Ach cha mhòr gum bi siostam cùl-taice sam bith, ach a-mhàin an tè a thig leis, a’ toirt seachad teannachadh dàta.
• Bha sinn airson a h-uile càil a dhèanamh co-shìnte oir bidh luchd-cleachdaidh sgòthan a’ ceannach àireamh mhòr de chridheachan pròiseasar. Ach mura h-eil co-shìnteachd againn ann an cuid de ghnìomhachd, bidh àireamh mhòr de chridheachan gun fheum.
• Feumaidh sinn crioptachadh oir gu tric chan e ar dàta fhèin a th’ ann agus chan urrainn dhuinn a stòradh ann an teacsa soilleir. A rèir coltais, thòisich ar tabhartas do WAL-G le crioptachadh. Chuir sinn crioptachadh ri WAL-G, agus às dèidh sin chaidh faighneachd dhuinn, “Am bu toil le aon againn am pròiseact a leasachadh?” Agus bhon uair sin, tha mi air a bhith ag obair le WAL-G airson còrr is bliadhna.
• Bha feum againn cuideachd air lughdachadh ghoireasan oir, thar ùine, fhuair sinn a-mach gu bheil luchdan-obrach cinneasachaidh cudromach aig daoine uaireannan air an oidhche, agus nach gabh an t-uallach obrach seo a bhriseadh. Mar sin, chuir sinn lughdachadh ghoireasan ris.
• A bharrachd air liostadh agus riaghladh.
• Agus dearbhadh.

Choimhead sinn air mòran innealan eadar-dhealaichte. Gu fortanach, tha taghadh mòr againn ann am PostgreSQL. Agus anns gach aon dhiubh, bha rudeigin a dhìth oirnn, feart beag air choreigin, buannachd bheag air choreigin.

Às dèidh dhuinn ath-sgrùdadh a dhèanamh air na siostaman a bh’ ann mar-thà, chuir sinn romhainn WAL-G a leasachadh. B’ e pròiseact ùr a bh’ ann aig an àm, agus bha e gu math furasta buaidh a thoirt air a leasachadh a dh’ionnsaigh bun-structar siostam cùl-taic stèidhichte air a’ sgòth.

Is e am prìomh ideòlas ris a bheil sinn a’ cumail gum bu chòir WAL-G a bhith cho sìmplidh ri balalaika.

Tha 4 àitheantan ann an WAL-G. Is iad sin:

WAL-PUSH – siaft tasglainn.

WAL-FETCH – gus seafta fhaighinn.

CÙL-TAICE-BRÙTHADH – dèan cùl-taic.

CÙL-THOGAIL-FÀGAIL – faigh cùl-taic bhon t-siostam cùl-taice.

Gu dearbh, tha WAL-G cuideachd a’ riaghladh nan cùl-taicean sin, i.e. a’ liostadh agus a’ cuir às do chlàran agus cùl-taicean ann an eachdraidh nach eil feumach orra tuilleadh an-dràsta.

Is e aon de na gnìomhan a tha cudromach dhuinne an gnìomh a bhith a’ cruthachadh lethbhric delta.

Tha cùl-taicean delta a’ ciallachadh nach cruthaich sinn cùl-taic slàn den chruinneachadh gu lèir, ach dìreach na duilleagan atharraichte de fhaidhlichean atharraichte sa chruinneachadh. Tha coltas gu bheil seo glè choltach a thaobh obrach ris a’ chomas faighinn air ais le bhith a’ cleachdadh WAL. Ach, tha WAL aon-shnàthaichte, agus mar sin is urrainn dhuinn cùl-taicean delta a ruith aig an aon àm. Mar sin, ma tha cùl-taic bunaiteach againn air a dhèanamh Disathairne, ma tha cùl-taicean delta gach latha, agus ma thachras fàilligeadh Diardaoin, feumaidh sinn ceithir cùl-taicean delta agus 10 uairean a thìde de WAL a ruith. Bheir seo timcheall air an aon ùine leis gu bheil na cùl-taicean delta air an ruith aig an aon àm.

Tha deltas stèidhichte air LSN a’ ciallachadh, nuair a bhios sinn a’ cruthachadh cùl-taic, gum feum sinn gach duilleag a chur còmhla agus an LSN aige a choimeas ri LSN an cùl-taic roimhe gus faighinn a-mach a bheil e air atharrachadh. Feumaidh duilleag sam bith a dh’ fhaodadh dàta atharraichte a bhith an làthair anns a’ chùl-taic delta.

Mar a thuirt mi, chaidh tòrr aire a thoirt do cho-shìnteachd.

Ach tha API tasglann PostgreSQL cunbhalach. Bidh PostgreSQL a’ tasglannachadh aon fhaidhle WAL, agus nuair a bhios e ga ath-nuadhachadh, bidh e ag iarraidh aon fhaidhle WAL. Ach aon uair ‘s gu bheil an stòr-dàta air aon fhaidhle WAL iarraidh a’ cleachdadh an àithne "WAL-FETCH", canaidh sinn an àithne "WAL-PREFETCH", a bhios ag ullachadh nan ochd WALan a leanas gus dàta a luchdachadh sìos bho stòradh nithean aig an aon àm.

Nuair a dh’iarras an stòr-dàta oirnn aon shruth dàta a thasgadh, bidh sinn a’ sgrùdadh archive_status gus faicinn a bheil faidhlichean WAL eile ann. Bidh sinn cuideachd a’ feuchainn ri faidhlichean WAL a luchdachadh sìos aig an aon àm. Bheir seo àrdachadh mòr ann an coileanadh agus lughdaicheas e gu mòr an àireamh de fhaidhlichean WAL nach deach an tasgadh. Tha mòran de luchd-leasachaidh siostaman cùl-taice den bheachd gur e siostam cunnartach a tha seo oir tha sinn an urra ri ar n-eòlas air taobh a-staigh a’ chòd, nach e API PostgreSQL a th’ ann. Chan eil PostgreSQL a’ gealltainn gu bheil pasgan archive_status ann, agus chan eil e a’ gealltainn brìgh no ruigsinneachd chomharran deisealachd faidhle WAL. A dh’aindeoin sin, bidh sinn a’ sgrùdadh a’ chòd tùsail, a’ faicinn gur e seo a’ chùis, agus a’ feuchainn ri brath a ghabhail air. Bidh sinn cuideachd a’ cumail sùil air an t-slighe a tha PostgreSQL a’ leasachadh; ma bhios an dòigh-obrach seo briste, sguiridh sinn ga chleachdadh.

Anns an riochd as fìor-ghlan aige, feumaidh delta WAL stèidhichte air LSN faidhle cruinneachaidh sam bith a leughadh aig a bheil an ùine-mhodh anns an t-siostam faidhle air atharrachadh bhon chùl-taic roimhe. Bha sinn a’ fuireach leis an seo airson ùine mhòr, faisg air bliadhna. Agus mu dheireadh, smaoinich sinn air deltas WAL.

Tha seo a’ ciallachadh, a h-uile uair a chuireas sinn WAL air a’ Mhaighstir, nach e a-mhàin gu bheil sinn ga dhlùthadh, ga chrioptachadh agus ga chur air-loidhne, ach bidh sinn ga leughadh cuideachd. Bidh sinn ga sgrùdadh, a’ leughadh a chlàran, a’ tuigsinn dè na blocaichean a tha air atharrachadh, agus a’ cur ri chèile faidhlichean delta.

Tha faidhle delta a’ toirt cunntas air raon de fhaidhlichean WAL, a’ mìneachadh dè na blocaichean a chaidh atharrachadh taobh a-staigh an raoin sin. Tha na faidhlichean delta seo an uair sin air an tasgadh cuideachd.

An seo thachair sinn ris a’ fhìrinn gun do rinn sinn co-shìnteachadh gu math luath, ach tha e do-dhèanta eachdraidh leantainneach a leughadh aig an aon àm, oir ann an earrann sònraichte, is dòcha gun tig sinn tarsainn air deireadh a’ chlàir WAL roimhe, nach eil dad againn ri cheangal ris fhathast, oir thug leughadh co-shìnte air adhart gu bheil sinn an toiseach a’ dèanamh anailis air an àm ri teachd, aig nach eil àm a dh’ fhalbh fhathast.

Mar thoradh air an sin, b’ fheudar dhuinn na pìosan do-thuigsinn a stòradh ann am faidhlichean _delta_partial. Mu dheireadh, nuair a thilleas sinn chun àm a dh’fhalbh, cuiridh sinn na pìosan clàr WAL còmhla ann an aon, an uairsin nì sinn mion-sgrùdadh air agus tuigidh sinn dè a dh’atharraich.

Ma tha co-dhiù aon phuing nar eachdraidh parsaidh far nach eil sinn a’ tuigsinn dè thachair, an uairsin, mar sin, rè an ath chùl-taic feumaidh sinn an cruinneachadh gu lèir a leughadh a-rithist, dìreach mar a rinn sinn leis an delta cunbhalach stèidhichte air LSN.

Mu dheireadh, thug ar fulangas uile oirnn leabharlann parsaidh WAL-G a dhèanamh stòr fosgailte. Cho fad ’s as aithne dhomh, chan eil duine ga chleachdadh fhathast, ach ma tha duine sam bith airson sin a dhèanamh, faodaidh sibh sgrìobhadh agus a chleachdadh; tha e stòr fosgailte. (Ceangal ùraichte) https://github.com/wal-g/wal-g/tree/master/internal/walparser)

Mar thoradh air an sin, tha coltas gu bheil na sruthan fiosrachaidh uile gu math iom-fhillte. Bidh ar Maighstir a’ tasgadh a’ mhòr-chuid agus a’ tasgadh faidhlichean delta. Agus feumaidh an leth-bhreac, a chruthaicheas an cùl-taic, na faidhlichean delta fhaighinn air ais airson na h-ùine a chaidh seachad eadar cùl-taicean. Feumar pàirtean den eachdraidh fhaighinn air ais mar mhòr-chuid agus an sgrùdadh, leis nach eil an eachdraidh gu lèir a’ freagairt air earrannan mòra. Chan urrainn don leth-bhreac cùl-taic delta slàn a thasgadh ach an uairsin.

Tha na grafaichean a’ toirt air cùisean coimhead tòrr nas sìmplidhe. Seo luchdachadh sìos bho aon de na cruinneachaidhean fìor againn. Tha cùl-taic stèidhichte air LSN againn, air a dhèanamh air an aon latha. Agus chì sinn gun do thachair an cùl-taic delta stèidhichte air LSN bho 3:00m gu 5:00m. Seo an luchdachadh sìos a thaobh cridheachan pròiseasar. Thug cùl-taic delta WAL timcheall air 20 mionaid. Mar sin, dh’fhàs e tòrr nas luaithe, ach bha trafaic lìonra nas dian ann cuideachd.

Leis gu bheil fiosrachadh againn mu dè na blocaichean a chaidh atharrachadh agus aig dè an àm ann an eachdraidh an stòr-dàta, chaidh sinn nas fhaide agus cho-dhùin sinn comas-gnìomh a thoirt a-steach - leudachadh PostgreSQL ris an canar “pg_prefaulter”

Tha seo a’ ciallachadh nuair a chuireas stòr-dàta aig àm feitheimh àithne ath-nuadhachaidh an gnìomh, gun innis e do WAL-G am faidhle WAL a leanas fhaighinn. Tha beachd garbh againn dè na blocaichean dàta a gheibh am pròiseas ath-nuadhachaidh WAL cothrom orra an ath thuras agus a thòisicheas gnìomhachd leughaidh air na blocaichean sin. Tha seo air a dhèanamh gus coileanadh rianadairean SSD a leasachadh. Leis gun ruig an rolladh air adhart WAL duilleag a dh’ fheumar atharrachadh. Tha an duilleag seo air diosg agus chan ann an tasgadan na duilleige. Bidh tasgadan na duilleige a’ feitheamh gu co-shìnte ris an duilleag seo ruighinn. Ach tha WAL-G faisg air làimh, agus fios aige gum feum sinn duilleagan sònraichte anns na beagan cheudan megabytes a tha romhainn de WAL agus tòisichidh e gan blàthachadh aig an aon àm. Bidh e a’ tòiseachadh iomadh ruigsinneachd diosc gus an urrainnear an cur an gnìomh aig an aon àm. Bidh seo ag obair gu math air draibhearan SSD, ach gu mì-fhortanach, chan eil e idir freagarrach airson draibh cruaidh, oir chan eil sinn ach ga bhacadh leis na molaidhean againn.

Seo na tha anns a’ chòd a-nis.

Tha feartan ann a bu mhath leinn a chur ris.

Tha an ìomhaigh seo a’ sealltainn nach toir WAL-delta ùine gu math goirid. Is e seo leughadh de na h-atharrachaidhean a thachair anns an stòr-dàta thar latha. B’ urrainn dhuinn WAL-delta a ruith chan ann a-mhàin air an oidhche, oir chan e stòr luchdan cudromach a th’ ann tuilleadh. Is urrainn dhuinn WAL-delta a leughadh a h-uile mionaid oir tha e saor. Ann an aon mhionaid, is urrainn dhuinn na h-atharrachaidhean uile a thachair anns a’ chruinneachadh a sganadh. Dh’fhaodadh seo a bhith air ainmeachadh mar “WAL-delta sa bhad”.

Is e a’ phuing lùghdachadh a dhèanamh air an ìre eachdraidh a dh’fheumas sinn ath-chluich às dèidh a chèile nuair a bhios sinn ag ath-nuadhachadh cruinneachadh. Tha seo a’ ciallachadh gum bu chòir an ìre de WAL a bhios PostgreSQL ag ath-chluich a lùghdachadh, oir bheir seo tòrr ùine.

Ach chan e sin a h-uile rud. Ma tha fios againn gun tèid bloc atharrachadh mus ruig an cùl-taic cunbhalachd, is urrainn dhuinn fhàgail gun atharrachadh. Tha seo a’ ciallachadh gu bheil leasachadh rolladh air adhart WAL-delta gach faidhle againn a-nis. Tha seo a’ ciallachadh ma chaidh clàr a dhubhadh às gu tur Dimàirt, mar eisimpleir, no ma chaidh cuid de fhaidhlichean a dhubhadh às gu tur bho chlàr, an uairsin nuair a chuireas sinn an delta air adhart Diluain agus a bheir sinn air ais pg_basebackup Disathairne, cha chruthaich sinn an dàta sin eadhon.

Tha sinn airson an teicneòlas seo a leudachadh gu ìre na duilleige. ’S e sin, ma thèid pàirt de fhaidhle atharrachadh Diluain ach gun tèid a sgrìobhadh thairis air Diciadain, nuair a bhios sinn ga ath-nuadhachadh gu puing Diardaoin, chan fheum sinn a’ chiad beagan dhreachan den duilleag a sgrìobhadh gu diosg.

Ach tha seo fhathast na bheachd a thathas a’ deasbad gu gnìomhach gu h-inntinneach, ach chan eil sinn air ìre a’ chòd a ruighinn fhathast.

Tha sinn airson feart eile a chur ri WAL-G. Tha sinn airson a dhèanamh so-leudachail oir feumaidh sinn taic a thoirt do dhiofar stòran-dàta agus bu mhath leinn a bhith comasach air cùl-taicean a riaghladh ann an dòigh chunbhalach. Ach is e an duilgheadas gu bheil na APIan MySQL gu tur eadar-dhealaichte. Chan eil PITR MySQL stèidhichte air loga corporra WAL, ach air a’ binlog. Agus chan eil siostam tasglann againn ann am MySQL a dh’innseadh do shiostam taobh a-muigh gu bheil am binlog seo coileanta agus gum feumar a thasglann. Feumaidh sinn obair cron a ruith an àiteigin leis an stòr-dàta agus sgrùdadh a bheil dad deiseil ann.

Agus san aon dòigh, nuair a bhios tu ag ath-nuadhachadh MySQL, chan eil àithne ath-nuadhachaidh ann a dh’ fhaodadh innse don t-siostam, “Feumaidh mi faidhlichean mar sin is mar sin.” Mus tòisich thu air an cruinneachadh ath-nuadhachadh, feumaidh fios a bhith agad dè na faidhlichean a dh’ fheumas tu. Feumaidh tu faighinn a-mach dè na faidhlichean a dh’ fheumas tu. Ach is dòcha gum bi e comasach dèiligeadh ris na duilgheadasan seo. (Nota: Tha taic ri MySQL mu thràth.)

Anns an aithisg, bha mi cuideachd airson bruidhinn mu na cùisean sin nuair nach eil WAL-G freagarrach dhut.

Mura h-eil leth-bhreac sioncronaich agad, chan eil WAL-G a’ gealltainn sàbhailteachd na h-earrainn mu dheireadh. Agus ma tha tasglannachadh air dheireadh air na beagan earrannan mu dheireadh de eachdraidh, tha sin na chunnart. Às aonais leth-bhreac sioncronaich, cha mholainn WAL-G a chleachdadh. Às dèidh a h-uile càil, tha e air a dhealbhadh sa mhòr-chuid airson stàlaidhean sgòthan, a dh’ fheumas fuasgladh àrd-ruigsinneachd le leth-bhreac sioncronaich, a tha an urra ri bhith a’ gleidheadh ​​​​​​na bytes mu dheireadh a chaidh a ghealltainn.

Bidh mi tric a’ faicinn dhaoine a’ feuchainn ri brath a ghabhail air WAL-G agus WAL-E aig an aon àm. Bidh sinn a’ cumail suas co-chòrdalachd air ais sa chiall gum faod WAL-G cùl-taic WAL-E ath-nuadhachadh agus gum faod e cùl-taic WAL-E ath-nuadhachadh. Ach leis gu bheil an dà shiostam a’ cleachdadh wal-push co-shìnte, bidh iad a’ tòiseachadh a’ goid faidhlichean bho chèile. Fiù mura cuir sinn seo ceart ann an WAL-G, mairidh e fhathast ann an WAL-E. Bidh WAL-E a’ coimhead air inbhe an tasglainn, a’ faicinn faidhlichean deiseil, agus gan tasglannachadh. Cha bhith fios aig siostaman eile gu robh am faidhle WAL seo ann oir cha bhith PostgreSQL a’ feuchainn ri a thasglannachadh an dàrna turas.

Dè tha sinn a’ càradh an seo bhon taobh WAL-G? Cha bhith sinn ag innse do PostgreSQL gun deach am faidhle seo a dhubhadh às aig an aon àm, agus nuair a dh’iarras PostgreSQL oirnn a thasgadh, bidh fios againn mu thràth gu bheil am faidhle seo leis a’ mhodh-ùine seo agus an md5 seo air a thasgadh mu thràth, agus mar sin innsidh sinn do PostgreSQL, “Ceart gu leòr, tha sinn deiseil,” gun dad a dhèanamh dha-rìribh.

Ach tha e eu-coltach gun tèid an duilgheadas seo a rèiteachadh air taobh WAL-E, agus mar sin chan eil e comasach an-dràsta àithne tasglainn a chruthachadh a chuireas faidhle air tasglann ann an WAL-G agus WAL-E.

Cuideachd, tha cùisean ann far nach eil WAL-G freagarrach dhut an-dràsta, ach cuiridh sinn ceart e gu cinnteach.

An toiseach, chan eil dearbhadh cùl-taice againn an-dràsta. Chan eil sinn ga dhearbhadh rè cùl-taic no ath-nuadhachadh. Gu dearbh, tha seo air a chur an gnìomh san sgòth. Ach tha e air a chur an gnìomh dìreach le bhith a’ dèanamh ro-sgrùdadh agus dìreach ag ath-nuadhachadh a’ chnuimh. Bu mhath leinn an comas-gnìomh seo a thoirt do luchd-cleachdaidh. Ach le dearbhadh, tha mi a’ faicinn WAL-G comasach air a’ chnuimh ath-nuadhachadh, a thòiseachadh, agus deuchainnean ceò a ruith: pg_dumpall gu /dev/null agus amcheck gus clàran-amais a dhearbhadh.

An-dràsta, chan eil comas aig WAL-G aon chùl-taic WAL a chur dheth. ’S e sin, tha sinn a’ toirt taic do uinneag shònraichte. Mar eisimpleir, a’ cumail nan seachd latha mu dheireadh, a’ cumail nan deich cùl-taicean mu dheireadh, a’ cumail nan trì cùl-taicean slàn mu dheireadh. Gu math tric, thig daoine agus canaidh iad, “Feumaidh sinn cùl-taic de na thachair air Oidhche na Bliadhn’ Ùire agus tha sinn airson a chumail gu bràth.” Chan eil WAL-G a’ toirt taic don seo fhathast. (Nota: Chaidh seo a chàradh mu thràth. Airson tuilleadh fiosrachaidh, faic an roghainn comharra-cùl-taice ann an https://github.com/wal-g/wal-g/blob/master/PostgreSQL.md)

Agus chan eil dearbhadh suim-sgrùdaidh duilleige no dearbhadh ionracas againn air gach earrann den t-siaft rè dearbhadh PITR.

Chuir mi pròiseact ri chèile airson Google Summer of Code a’ cleachdadh an fhiosrachaidh seo uile. Ma tha sibh eòlach air oileanaich glic sam bith a bu toil leotha rudeigin a chòdachadh ann an Go agus beagan mhìltean dolar a chosnadh bho chompanaidh G, molaibh am pròiseact againn dhaibh. Bidh mise nam chomhairliche don phròiseact, agus bidh e comasach dhaibh a thoirt gu buil. Mura h-eil oileanaich againn, nì mi fhìn e as t-samhradh.

Agus tha mòran dhuilgheadasan beaga eile againn a tha sinn ag obair orra mean air mhean. Agus tha rudan caran neònach a’ tachairt.

Mar eisimpleir, ma bheir thu cùl-taic falamh do WAL-G, tuitidh e gu tur. Mar eisimpleir, ma dh’iarras tu air cùl-taic a dhèanamh de phasgan falamh, cha bhi faidhle pg_control ann. Agus smaoinichidh e nach eil e a’ tuigsinn rudeigin. Gu h-iomchaidh, sa chùis seo, bu chòir dhut teachdaireachd cheart a sgrìobhadh chun neach-cleachdaidh a’ mìneachadh mar a chleachdas e an inneal. Ach chan e feart de phrògramadh a tha seo idir, ach feart de chànan math, ruigsinneach.

Chan eil comasan cùl-taice far-loidhne againn. Mura h-eil an stòr-dàta ag obair, chan urrainn dhuinn cùl-taic a dhèanamh dheth. Ach tha e gu math sìmplidh. Bidh sinn ag ainmeachadh cùl-taicean leis an LSN leis an deach an tòiseachadh. Feumar LSN an stòr-dàta sìos an abhainn a leughadh bhon fhaidhle smachd. Agus is e feart nach deach a chur an gnìomh a tha seo. Faodaidh mòran shiostaman cùl-taice cùl-taic a dhèanamh de stòr-dàta sìos an abhainn. Agus tha e goireasach.

Chan eil sinn a’ dèiligeadh gu ceart ri dìth àite cùl-taice an-dràsta. Tha sin air sgàth ’s gu bheil sinn fhèin ag obair le cùl-taicean mòra mar as trice. Chan eil sinn air faighinn timcheall air sin fhathast. Ach ma tha duine sam bith airson prògramadh ann an Go an-dràsta, cuir ris làimhseachadh mearachd àite bucaid dìth. Gu cinnteach bheir mi sùil air an iarrtas tarraing.

Agus is e am prìomh rud a tha gar cur dragh gu bheil sinn ag iarraidh uiread de dheuchainnean amalachaidh Docker ’s a ghabhas a bhios a’ sgrùdadh diofar shuidheachaidhean. An-dràsta, chan eil sinn a’ sgrùdadh ach suidheachaidhean bunaiteach air gach commit, ach tha sinn airson a h-uile comas-gnìomh a tha sinn a’ toirt taic dha a sgrùdadh commit by commit. Gu sònraichte, mar eisimpleir, chan eil taic againn airson PostgreSQL 9.4-9.5. Tha sinn gan taic leis gu bheil a’ choimhearsnachd a’ toirt taic do PostgreSQL, ach chan eil sinn a’ dèanamh commit by commit a’ dearbhadh gu bheil a h-uile càil fhathast ag obair. Agus tha mi a’ smaoineachadh gur e cunnart gu math dona a tha seo.

Tha WAL-G againn a’ ruith air còrr is mìle cruinneachadh ann an Yandex Database Management, a’ dèanamh lethbhreac de cheudan terabytes de dhàta gach latha.

Tha tòrr rudan ri dhèanamh sa chòd againn. Ma tha ùidh agad ann am prògramadh, thig còmhla rinn. Tha sinn a’ feitheamh ri iarrtasan tarraing is ceistean.

Do cheistean

Feasgar math! Tapadh leibh! Tha mi a’ gabhail ris ma chleachdas tu WAL-delta, gu bheil thu an urra ri sgrìobhadh làn-dhuilleag. Agus ma tha, an do ruith thu deuchainnean sam bith? Sheall thu graf snog. Dè cho dona ’s a tha e a’ coimhead ma chuireas tu dheth FPW?

Tha sgrìobhadh làn-dhuilleag againn air a chomasachadh; chan eil sinn air feuchainn ri a dhì-chomasachadh. 'S e sin, chan eil mise, mar leasaiche, air feuchainn ri a dhì-chomasachadh. Is dòcha gun do rinn na rianairean siostaim a rinn sgrùdadh air seo sin. Ach tha feum againn air FPW. Cha mhòr nach eil duine ga dhì-chomasachadh oir air dhòigh eile tha e do-dhèanta cùl-taic a dhèanamh bho leth-bhreac.

Tapadh leibh airson an aithisg! Tha dà cheist agam. Is e a’ chiad cheist dè thachras do na h-àiteachan-clàir?

Tha sinn a’ feitheamh ri iarrtas tarraing. Tha na stòran-dàta againn a’ fuireach air SSDan agus draibhean NMVE, agus chan eil feum againn air a’ fheart seo idir. Chan eil mi deiseil airson ùine mhòr a chaitheamh ga dhèanamh ag obair an-dràsta. Tha mi gu tur airson taic a thoirt dha. Tha cuid de dhaoine air taic a thoirt dha, ach tha iad air taic a thoirt dha ann an dòigh a tha freagarrach dhaibh. Tha iad air a roinn ann an forcaichean, ach chan eil iad a’ dèanamh iarrtas tarraing. (Air a chur ris ann an dreach 0.2.13)

Agus an dàrna ceist. Thuirt thu aig an toiseach gu bheil WAL-G a’ gabhail ris gu bheil e ag obair leis fhèin agus nach eil feum air còmhdach. Bidh mise fhìn a’ cleachdadh còmhdach. Carson nach bu chòir dhomh an cleachdadh?

Tha sinn ag iarraidh gum bi e cho sìmplidh ri balalaika. Tha sin a’ ciallachadh nach fheum thu dad a bharrachd air balalaika. Tha sinn ag iarraidh gum bi an siostam sìmplidh. Ma tha comas-gnìomh agad a dh’ fheumas tu a chur an gnìomh ann an sgriobt, thigibh a dh’innse dhuinn – cuiridh sinn an gnìomh e ann an Go.

Feasgar math! Tapadh leibh airson an aithisg! Cha b’ urrainn dhuinn WAL-G a thoirt gu obair le dì-chrioptachadh GPG. Bidh e a’ crioptachadh gu ceart, ach tha e a’ diùltadh dì-chrioptachadh. A bheil rudeigin ceàrr oirnn? Tha an suidheachadh brònach.

Cruthaich cùis air GitHub, leig dhuinn obrachadh a-mach i.

Mar sin cha do thachair thu ri seo?

Tha mearachd ann a thaobh aithisg mhearachd far am bi WAL-G, nuair nach eil e a’ tuigsinn dè a th’ ann am faidhle, ag iarraidh, “Is dòcha gu bheil e crioptaichte?” Tha e comasach nach e crioptachadh a th’ ann idir. Tha mi airson an clàradh airson seo a chàradh. Bu chòir dha a dhì-chrioptachadh. Tha sinn an-dràsta ag obair air a’ chùis seo oir chan eil sinn dha-rìribh dèidheil air mar a tha an siostam airson iuchraichean poblach is prìobhaideach fhaighinn air a chuir air dòigh. Leis gu bheil sinn a’ gairm GPG taobh a-muigh gus na h-iuchraichean aige fhaighinn, bidh sinn an uairsin a’ toirt nan iuchraichean sin agus gan cur chun GPG a-staigh, a dh’fhosglas PGP, a thèid a chur ri chèile ann an WAL-G, agus an uairsin bidh sinn a’ gairm crioptachadh. Tha sinn airson an siostam a leasachadh a thaobh seo agus tha sinn airson taic a thoirt do chrioptachadh Libsodium (Air a chur ris ann an dreach 0.2.15). Gu dearbh, bu chòir don dì-chrioptachadh obrachadh, ach feuch sinn ri obrachadh a-mach e - feumaidh sinn barrachd chomharran na dìreach beagan fhaclan. Dh’ fhaodadh sinn coinneachadh ann an seòmar an neach-labhairt uaireigin agus sùil a thoirt air an t-siostam. (Crioptachadh PGP às aonais GPG taobh a-muigh - v0.2.9)

Halò! Tapadh leibh airson an aithisg! Tha dà cheist agam. Tha miann neònach agam cùl-taic a dhèanamh de logaichean pg_basebackup agus WAL gu dà sholaraiche—is e sin, tha mi airson cùl-taic a dhèanamh dhiubh gu aon sgòth agus gu sgòth eile. A bheil dòigh ann seo a dhèanamh?

Chan eil seo ann a-nis, ach 's e beachd inntinneach a th' ann.

Chan eil earbsa agam ann an aon sholaraiche, tha mi airson an aon rud a bhith agam le fear eile air eagal ’s gum bi.

Tha am beachd inntinneach. Gu teicnigeach, cha bhiodh e doirbh a chur an gnìomh. Gus dèanamh cinnteach nach tèid am beachd air chall, an urrainn dhut cùis a chruthachadh air GitHub?

Tha, gu dearbh.

Agus an uairsin, nuair a thig oileanaich gu Google Summer of Code, cuiridh sinn ris a’ phròiseact iad gus am bi barrachd obrach aca ri dhèanamh agus gus am faigh iad barrachd a-mach às.

Agus an dàrna ceist. Tha duilgheadas ann air GitHub. Tha mi a’ smaoineachadh gu bheil e dùinte mu thràth. Tha clisgeadh ann rè an ath-nuadhachaidh. Gus a chàradh, chruthaich thu togail air leth. Tha e an sin anns na cùisean. Tha an roghainn ann cuideachd caochladairean àrainneachd a shuidheachadh ann an aon snàthainn. Sin as coireach gu bheil e ag obair cho slaodach. Tha sinn air coinneachadh ris a’ chùis seo roimhe, agus cha deach a chàradh fhathast.

Is e an duilgheadas a th’ ann, airson adhbhar air choireigin, gu bheil an stòradh (CEPH) a’ leigeil às a’ cheangal nuair a ruigeas sinn e le co-sheirm àrd. Dè as urrainn dhuinn a dhèanamh mu dheidhinn seo? Seo mar a tha an loidsig ath-dheuchainn: Bidh sinn a’ feuchainn ri faidhle a luchdachadh sìos a-rithist. Mura tèid àireamh shònraichte de fhaidhlichean a luchdachadh sìos ann an aon turas, bidh sinn a’ dèanamh dàrna turas dhaibhsan uile nach d’ fhuair cothrom air. Agus fhad ‘s a thèid co-dhiù aon fhaidhle a luchdachadh sìos gach turas, bidh sinn ag ath-aithris, agus ag ath-aithris, agus ag ath-aithris. Tha sinn air a bhith a’ grinneachadh loidsig an ath-dheuchainn—cùl-taic eas-chruthach. Ach chan eil e gu tur soilleir dè a nì sinn mun cheangal ga leigeil às leis an t-siostam stòraidh. Is e sin, nuair a luchdaicheas sinn suas e ann an aon snàthainn, chan eil e a’ leigeil às na ceanglaichean sin. Dè as urrainn dhuinn a leasachadh an seo? Tha smachd-lìonra againn; is urrainn dhuinn gach ceangal a chuingealachadh leis an àireamh de bytes a chuireas e. Rud eile, chan eil fhios agam ciamar a dhèiligeas mi ris an fhìrinn nach eil stòradh nithean a’ leigeil leinn luchdachadh suas no luchdachadh sìos aig an aon àm.

Chan eil SLA ann? Nach eil tuairisgeul ann air mar a leigeas iad leotha fhèin a bhith air an cràdh?

Is e a’ phuing gu bheil an stòras fhèin aig daoine a thig thugam leis a’ cheist seo mar as trice. Mar sin, chan eil duine a’ tighinn bho Amazon, Google Cloud, no Yandex Object Storage.

Is dòcha nach eil a’ cheist air a cur thugad tuilleadh?

Anns a’ chùis seo, chan eil a’ cheist gu diofar cò dha. Ma tha beachdan sam bith ann air mar a dhèiligeas sinn ris a’ chùis seo, dèanamaid e ann an WAL-G. Ach gu ruige seo, chan eil beachdan matha agam air mar a dhèiligeas sinn ris a’ chùis seo. Tha cuid de sheirbheisean Stòraidh Rudan ann a bhios a’ làimhseachadh liostadh cùl-taic ann an dòigh eadar-dhealaichte. Bidh thu ag iarraidh orra nithean a liostadh, agus bidh iad a’ cur pasgan ris. Bidh WAL-G fo eagal – tha rudeigin an seo nach eil na fhaidhle, chan urrainn dhomh a thoirt air ais, agus mar sin cha deach an cùl-taic ath-nuadhachadh. Mar sin, gu dearbh, tha cruinneachadh làn-ath-leasaichte agad, ach tha e a’ tilleadh inbhe mearachd leis gun do thill Stòradh Rudan fiosrachadh neònach nach do thuig e gu h-iomlan.

Tha an rud seo a’ tachairt anns a’ sgòth Mail.

Ma tha e comasach leth-bhreac a thogail…

Tha e air ath-riochdachadh gu cunbhalach…

Ma bhios ath-riochdachadh ann, tha mi a’ smaoineachadh gun dèan sinn deuchainnean le ro-innleachdan ath-dheuchainn agus gun obraich sinn a-mach mar a dh’fheuchas sinn a-rithist agus gun tuig sinn dè a tha an sgòth ag iarraidh oirnn. Is dòcha nach leig e às a’ cheangal gu earbsach le trì ceanglaichean, agus mar sin àrdaichidh sinn gu faiceallach e gu trì. An-dràsta, bidh sinn a’ leigeil às a’ cheangal gu math luath, a’ ciallachadh ma ruitheas mi ath-bheothachadh 16-snàthainn, às deidh a’ chiad ath-dheuchainn, bidh ochd snàithleanan, ceithir snàithleanan, dà shnàthainn, agus aon ann. Agus an uairsin tarraingidh e faidhlichean aon às deidh aon a-steach do aon shnàthainn. Ma tha luachan draoidheil ann, leithid 7,5 snàithleanan mar an fheadhainn as fheàrr airson luchdachadh sìos, cumaidh sinn riutha agus feuchaidh sinn ri 7,5 snàithleanan eile a ruith. Sin am beachd.

Tapadh leibh airson an aithisg! Cò ris a tha an sruth-obrach slàn airson WAL-G coltach? Mar eisimpleir, anns a’ chùis gòrach far nach eil dàta delta gach duilleag. Bidh sinn a’ gabhail cùl-taic tùsail, an uairsin a’ tasglannachadh an tomhas-lìonaidh gu lèir gus am bi sinn gorm san aodann. Mar a thuig mi, tha briseadh sìos an seo. Aig àm air choreigin, feumar cùl-taic delta de na duilleagan a dhèanamh. A bheil pròiseas taobh a-muigh air choreigin a’ stiùireadh seo, no ciamar a thachras seo?

Tha an API cùl-taic delta gu math sìmplidh. Tha àireamh ann - ceumannan delta as àirde, tha mi a’ smaoineachadh gur e sin a chanar ris. Gu gnàthach, is e neoni a th’ ann. Tha seo a’ ciallachadh a h-uile uair a phutas tu cùl-taic, gun luchdaich e suas cùl-taic slàn. Ma dh’atharraicheas tu e gu àireamh dheimhinneach sam bith, mar 3, an ath thuras a phutas tu cùl-taic, coimheadaidh e air eachdraidh nan cùl-taicean roimhe. Chì e nach deach thu thairis air an t-sreath 3-delta agus cruthaichidh e delta.

Mar sin a h-uile uair a ruitheas sinn WAL-G, bidh e a’ feuchainn ri làn chùl-taic a dhèanamh?

Chan eil, bidh sinn a’ ruith WAL-G agus bidh e a’ feuchainn ri delta a dhèanamh ma leigeas na poileasaidhean agad leis.

Gu garbh, ma ruitheas tu e le neoni a h-uile turas, giùlainidh e mar pg_basebackup?

Chan eil, obraichidh e nas luaithe fhathast oir bidh e a’ cleachdadh teannachadh agus co-shìnteachd. Bheir Pg_basebackup spionnadh dhut. Tha WAL-G a’ gabhail ris gu bheil tasglannachadh air a rèiteachadh agad agus cuiridh e rabhadh a-mach mura h-eil.

Faodar Pg_basebackup a ruith às aonais shailean.

Seadh, an uairsin bidh iad ag obair cha mhòr san aon dòigh. Bidh Pg_basebackup a’ dèanamh lethbhreacan chun t-siostam faidhle. Co-dhiù, tha feart ùr againn nach do dhìochuimhnich mi iomradh a thoirt air. Is urrainn dhuinn a-nis lethbhreacan a dhèanamh bho pg_basebackup chun t-siostam faidhle. Chan eil fhios agam carson a tha seo riatanach, ach tha e ann.

Mar eisimpleir, air CephFS. Chan eil a h-uile duine airson Stòradh Rudan a rèiteachadh.

'S e, is dòcha gur e sin as coireach gun do dh'fhaighnich iad mun fheart seo, gus am b' urrainn dhuinn a chur an gnìomh. Agus rinn sinn.

Tapadh leibh airson an aithisg! Tha ceist agam mu bhith a’ dèanamh lethbhreac gu siostam faidhle. A bheil sibh an-dràsta a’ toirt taic do bhith a’ dèanamh lethbhreac gu stòradh iomallach dìreach às a’ bhogsa, leithid sgeilp ann an ionad dàta no rudeigin eile?

Air a ràdh san dòigh seo, ’s e ceist dhoirbh a th’ ann. Tha, tha sinn ga thaiceadh, ach chan eil an comas-gnìomh seo air a ghabhail a-steach ann an sgaoileadh sam bith fhathast. ’S e sin, tha a h-uile ro-fhoillseachadh ga thaiceadh, ach chan eil na dreachan deireannach. Chaidh an comas-gnìomh seo a chur ris ann an dreach 0.2. Bidh e gu cinnteach san sgaoileadh deireannach a dh’ aithghearr, aon uair ‘s gu bheil sinn air na biastagan aithnichte uile a chàradh. Ach an-dràsta, chan eil sin comasach ach san ro-fhoillseachadh. Tha dà bhiast anns an ro-fhoillseachadh: cùis le ath-bheothachadh WAL-E, nach do chàr sinn. Agus chuir an ro-fhoillseachadh as ùire biast a thaobh cùl-taic delta ris. Mar sin, tha sinn a’ moladh do dhuine sam bith na dreachan deireannach a chleachdadh. Aon uair ‘s gu bheil an ro-fhoillseachadh saor bho bhiastagan, bidh e comasach dhuinn a ràdh gu bheil sinn a’ toirt taic do Google Cloud, feartan co-chòrdail ri S3, agus stòradh fhaidhlichean.

Halò, tapadh leibh airson an aithisg. Mar a thuig mi e, chan e siostam meadhanaichte a th’ ann an WAL-G mar Bartender. A bheil sibh an dùil gluasad san rathad sin?

Is e an duilgheadas gu bheil sinn air gluasad air falbh bhon taobh sin. Tha WAL-G a’ fuireach air an aoigh stòr-dàta, air an aoigh cruinneachaidh, agus air a h-uile aoigh cruinneachaidh. Nuair a ghluais sinn gu grunn mhìltean de chruinneachaidhean, bha mòran stàlaidhean Bartender againn. Agus a h-uile uair a bhriseas rudeigin annta, tha e na dhuilgheadas mòr. Leis gu feumar an càradh, agus feumaidh sinn faighinn a-mach dè na cruinneachaidhean aig nach eil cùl-taicean tuilleadh. Chan eil mi an dùil WAL-G a leasachadh airson siostaman cùl-taic bathar-cruaidh corporra. Mura h-eil a’ choimhearsnachd ag iarraidh beagan comas-gnìomh an seo, chan eil mi idir an aghaidh.

Tha sgiobaidhean againn a tha an urra ri stòradh. Agus tha sinn cho toilichte nach sinne a tha ann, gu bheil daoine dìcheallach ann a chuireas ar faidhlichean far a bheil iad sàbhailte. Bidh iad a’ dèanamh a h-uile seòrsa còdadh glic gus seasamh an aghaidh call àireamh sònraichte de fhaidhlichean. Tha iad an urra ri toradh lìonra. Nuair a bhios bàrman agad, is dòcha gum faigh thu thu fhèin gu h-obann le stòran-dàta beaga le tòrr trafaic uile air an aon fhrithealaiche. Tha coltas gu bheil tòrr àite agad, ach chan urrainn don lìonra a làimhseachadh gu lèir. Is dòcha gu bheil e an rathad eile. Tha tòrr àite lìonra ann, tha cridheachan pròiseasar ann, ach tha na diosgan a’ ruith a-mach. Agus dh’fhàs sinn sgìth den fheum seo a bhith a’ cluich a h-uile càil, agus mar sin dh’atharraich sinn gu bhith a’ dèanamh stòradh dàta na sheirbheis air leth, air a riaghladh le daoine dìcheallach.

P.S. Chaidh dreach ùr fhoillseachadh. 0.2.15, a leigeas leat am faidhle rèiteachaidh .walg.json a chleachdadh, a tha suidhichte ann am pasgan dachaigh Postgres gu bunaiteach. Faodaidh tu sgriobtaichean bash a sheachnadh. Tha eisimpleir de fhaidhle .walg.json san iris seo. https://github.com/wal-g/wal-g/issues/545

Bhidio:

Source: www.habr.com