Ĝisdatigo de LizardFS 3.13.0-rc2 cluster-dosiersistemo

Post jardaŭra paŭzo en evoluo rekomencis laborante pri nova branĉo de mistolerema distribuita dosiersistemo LacertoF 3.13 и eldonita dua eldonkandidato. Lastatempe okazis ŝanĝo de posedantoj de la firmao evoluiganta LizardFS, nova administrado estis adoptita kaj programistoj estis anstataŭigitaj. Dum la pasintaj du jaroj, la projekto estis retirita de la komunumo kaj ne sufiĉe atentis ĝin, sed la nova teamo intencas revivigi la antaŭan rilaton kun la komunumo kaj establi proksiman interagadon kun ĝi. La projektkodo estas skribita en C kaj C++ lingvoj kaj distribuita de sub GPLv3-licenco.

LacertoFS Estas distribuita cluster dosiersistemo, kiu permesas vin distribui datumojn tra malsamaj serviloj, sed havigi aliron al ili en la formo de ununura granda sekcio, kiu estas laborita kun en simila maniero al tradiciaj disksekcioj. Muntita sekcio kun LizardFS subtenas POSIX-dosierajn atributojn, ACLojn, serurojn, ingojn, tubojn, aparatdosierojn, simbolajn kaj malmolajn ligilojn. La sistemo ne havas ununuran punkton de fiasko; ĉiuj komponentoj estas redundaj. Paraleligo de datumoperacioj estas subtenata (pluraj klientoj povas samtempe aliri dosierojn).

Por certigi faŭltoleremon, la datenoj estas dividitaj en kopiojn, kiuj estas distribuitaj trans malsamaj nodoj kun redundo (pluraj kopioj estas metitaj sur malsamajn nodojn); se nodoj aŭ stiradoj malsukcesas, la sistemo daŭre funkcias sen perdo de informoj kaj aŭtomate redistribuas la datenojn. konsiderante la ceterajn nodojn. Por pligrandigi la stokadon, sufiĉas konekti novajn nodojn al ĝi sen ĉesigi laboron por prizorgado (la sistemo mem reproduktas parton de la datumoj al novaj serviloj kaj ekvilibrigas la stokadon konsiderante la novajn servilojn). Vi povas fari la samon por redukti la grandecon de la areto - vi povas simple malŝalti la malnoviĝintan ekipaĵon, kiu estas forigita de la sistemo.

Datenoj kaj metadatenoj estas konservitaj aparte. Por funkciado, oni rekomendas instali du metadatumajn servilojn funkciantajn en majstra-sklava reĝimo, same kiel almenaŭ du datumservserviloj (chunkserver). Aldone, por rezervaj metadatenoj, protokolaj serviloj povas esti uzataj por konservi informojn pri ŝanĝoj en metadatumoj kaj permesi vin restarigi operacion en kazo de damaĝo al ĉiuj ekzistantaj metadatumoj. Ĉiu dosiero estas dividita en blokojn (pecoj), ĝis 64 MB en grandeco. Blokoj estas distribuitaj inter stokaj serviloj konforme al la elektita reprodukta reĝimo: normo (eksplicita determino de la nombro da kopioj por esti metitaj sur malsamaj nodoj, inkluzive rilate al individuaj dosierujoj - por gravaj datumoj la nombro da kopioj povas esti pliigita, kaj por negravaj datumoj reduktitaj), XOR (RAID5 ) kaj EC (RAID6).

Stokado povas grimpi ĝis petabajtaj grandecoj. Areoj de apliko inkluzivas arkivadon, stokadon de virtualaj maŝinbildoj, plurmediajn datumojn, sekurkopiojn, uzadon kiel DRC (Disaster Recovery Center) kaj kiel stokado en alt-efikecaj komputikaj aretoj. LizardFS provizas tre altan legan rapidon por dosieroj de ajna grandeco, kaj dum skribado, ĝi montras bonan agadon dum skribado de tutaj grandaj kaj mezgrandaj dosieroj, kiam ne estas konstanta modifo, intensa laboro kun malfermitaj dosieroj, kaj unufojaj operacioj kun aro da malgrandaj dosieroj.

Ĝisdatigo de LizardFS 3.13.0-rc2 cluster-dosiersistemo

Inter la funkcioj de la FS, oni ankaŭ povas noti la ĉeeston de subteno por momentfotoj, reflektante la staton de dosieroj en certa tempo, kaj enkonstruitan efektivigon de la "recikla rubujo" (dosieroj ne estas tuj forigitaj kaj disponeblas por resaniĝo dum iom da tempo). Aliro al sekcio povas esti limigita per IP-adreso aŭ pasvorto (simila al NFS). Ekzistas kvoto kaj kvalito de servo-administrado-mekanismoj kiuj permesas vin limigi la grandecon kaj bendolarĝon por certaj kategorioj de uzantoj. Eblas krei geografie distribuitaj stokejoj, kies segmentoj situas en malsamaj datumcentroj.

La projekto LizardFS estis fondita en 2013 kiel forko MooseFS, kaj diferencas ĉefe en la ĉeesto de reprodukta reĝimo bazita sur Reed-Solomon-eraraj korektaj kodoj (analoga al raidzN), vastigita ACL-subteno, la ĉeesto de kliento por la Vindoza platformo, pliaj optimumigoj (ekzemple, kiam oni kombinas klienton kaj stokadservilo, blokoj, se eble, estas senditaj kun nuna nodo, kaj metadatenoj estas kaŝmemoritaj en memoro), pli fleksebla agorda sistemo, subteno por datenoj antaŭlegeblaj, dosierujoj kaj interna reverkado.

LizardFS 3.13.0 estas planita por esti liberigita fine de decembro. La ĉefa novigo de LizardFS 3.13 estas la uzo de konsenta algoritmo por certigi misfunkciadon (ŝanĝante majstrajn servilojn en kazo de fiasko) Floso (uzas nian propran efektivigon de uRaft, kiu antaŭe estis uzata en komercaj produktoj). Uzado de uRaft simpligas agordon kaj reduktas malsukcesajn reakiro-prokrastojn, sed postulas almenaŭ tri funkciajn nodojn, unu el kiuj estas uzata por kvorumo.

Aliaj ŝanĝoj: nova kliento bazita sur la subsistemo FUSE3, solvante problemojn kun erarkorektado, la kromaĵo nfs-ganesha estis reverkita en C-lingvo. Ĝisdatigo 3.13.0-rc2 korektas plurajn kritikajn erarojn, kiuj igis antaŭajn testajn eldonojn de la branĉo 3.13 neuzeblaj (korektoj por la branĉo 3.12 ankoraŭ ne estis publikigitaj, kaj la ĝisdatigo de 3.12 ĝis 3.13 ankoraŭ kondukas al kompleta perdo de datumoj).

En 2020, laboro koncentriĝos pri evoluado
Agama, nova tute reverkita LizardFS-kerno, kiu, laŭ la programistoj, provizos trioblan pliiĝon en rendimento kompare kun branĉo 3.12. Agama transiros al evento-movita arkitekturo, nesinkrona enigo/eligo bazita asio, funkcias ĉefe en uzantspaco (por redukti dependecon de kernaj kaŝmemormekanismoj). Aldone, nova sencimiga subsistemo kaj analizilo de reta agado kun subteno por agado de aŭtomata agordiĝo estos ofertitaj.

La LizardFS-kliento aldonos plenan subtenon por versioj de skribaj operacioj, kiuj plibonigos la fidindecon de katastrofa reakiro, solvos problemojn, kiuj aperas kiam malsamaj klientoj dividas aliron al la samaj datumoj, kaj ebligos signifajn rendimentajn plibonigojn. La kliento estos translokigita al sia propra reto-subsistemo funkcianta en uzantspaco. La unua funkcia prototipo de LizardFS bazita sur Agama estas planita esti preta en la dua kvara de 2020. Samtempe ili promesas efektivigi ilojn por integri LizardFS kun la platformo Kubernetes.

fonto: opennet.ru

Aldoni komenton