Nganyari sistem file kluster LizardFS 3.13.0-rc2

Sawise setaun suwene pembangunan diterusake nggarap cabang anyar saka sistem file disebarake fault-tolerant KadalF 3.13 и diterbitake calon release kapindho. bubar kedaden pangowahan pemilik perusahaan ngembangake LizardFS, manajemen anyar diadopsi lan pangembang diganti. Sajrone rong taun kepungkur, proyek kasebut wis ditarik saka komunitas lan ora menehi perhatian sing cukup, nanging tim anyar duwe tujuan kanggo nguri-uri maneh hubungan sadurunge karo masyarakat lan nggawe interaksi sing cedhak. Kode proyek ditulis ing basa C lan C ++ lan disebarake dening ing lisensi GPLv3.

KadalFS Iku sistem file kluster mbagekke, sing ngijini sampeyan kanggo disebaraké data ing server beda, nanging nyedhiyani akses kanggo wong-wong mau ing wangun pemisahan gedhe siji, kang digunakake ing cara sing padha karo partisi disk tradisional. Partisi sing dipasang karo LizardFS ndhukung atribut file POSIX, ACL, kunci, soket, pipa, file piranti, pranala simbolis lan hard. Sistem ora duwe titik kegagalan; kabeh komponen keluwih. Parallelization saka operasi data didhukung (sawetara klien bisa bebarengan ngakses file).

Kanggo mesthekake toleransi fault, data dipérang dadi replika, sing disebarake ing macem-macem simpul kanthi redundansi (sawetara salinan diselehake ing macem-macem simpul); yen simpul utawa drive gagal, sistem terus operate tanpa mundhut informasi lan kanthi otomatis redistributes data. njupuk menyang akun simpul isih. Kanggo nggedhekake panyimpenan, cukup nyambungake simpul anyar tanpa mandheg kerja kanggo pangopènan (sistem kasebut dhewe niru bagean data menyang server anyar lan ngimbangi panyimpenan kanthi njupuk server anyar). Sampeyan bisa nindakake padha kanggo nyuda ukuran kluster - sampeyan mung bisa mateni peralatan lungse sing lagi dibusak saka sistem.

Data lan metadata disimpen kanthi kapisah. Kanggo operasi, dianjurake kanggo nginstal loro server metadata sing beroperasi ing mode master-slave, uga paling ora rong server panyimpenan data (chunkserver). Kajaba iku, kanggo nggawe cadangan metadata, server log bisa digunakake kanggo nyimpen informasi babagan owah-owahan ing metadata lan ngidini sampeyan mulihake operasi yen ana karusakan ing kabeh server metadata sing ana. Saben file dipérang dadi blok (potongan), nganti ukuran 64 MB. Pamblokiran disebarake ing antarane server panyimpenan sesuai karo mode replikasi sing dipilih: standar (penetapan eksplisit jumlah salinan sing bakal dilebokake ing macem-macem simpul, kalebu sing ana hubungane karo direktori individu - kanggo data penting jumlah salinan bisa ditambah, lan kanggo data ora penting suda), XOR (RAID5) lan EC (RAID6).

Panyimpenan bisa nganti ukuran petabyte. Wilayah aplikasi kalebu arsip, panyimpenan gambar mesin virtual, data multimedia, serep, digunakake minangka DRC (Pusat Pemulihan Bencana) lan minangka panyimpenan ing kluster komputasi kanthi kinerja dhuwur. LizardFS nyedhiyakake kacepetan maca sing dhuwur banget kanggo file kanthi ukuran apa wae, lan nalika nulis, nuduhake kinerja sing apik nalika nulis kabeh file ukuran gedhe lan medium, nalika ora ana modifikasi sing terus-terusan, karya intensif kanthi file mbukak, lan operasi siji-wektu kanthi a kumpulan file cilik.

Nganyari sistem file kluster LizardFS 3.13.0-rc2

Antarane fitur FS, sampeyan uga bisa nyathet ana dhukungan kanggo snapshot, nggambarake kahanan file ing wektu tartamtu, lan implementasine "recycle bin" sing dibangun (file ora langsung dibusak lan kasedhiya kanggo pemulihan kanggo sawetara wektu). Akses menyang partisi bisa diwatesi kanthi alamat IP utawa sandhi (padha karo NFS). Ana kuota lan kualitas mekanisme manajemen layanan sing ngidini sampeyan mbatesi ukuran lan bandwidth kanggo kategori pangguna tartamtu. Sampeyan bisa nggawe fasilitas panyimpenan sing disebarake sacara geografis, segmen sing ana ing pusat data sing beda-beda.

Proyek LizardFS didegaké ing 2013 minangka garpu MooseFS, lan beda-beda utamane ing ngarsane mode replikasi adhedhasar kode koreksi kesalahan Reed-Solomon (analog karo raidzN), dhukungan ACL sing ditambahi, anané klien kanggo platform Windows, optimasi tambahan (contone, nalika nggabungake klien lan server panyimpenan, pamblokiran, yen bisa, dikirim karo simpul saiki, lan metadata cached ing memori), sistem konfigurasi luwih fleksibel, support kanggo data maca-ahead, kuota direktori lan rework internal.

LizardFS 3.13.0 dijadwalake bakal dirilis ing pungkasan Desember. Inovasi utama LizardFS 3.13 yaiku nggunakake algoritma konsensus kanggo njamin toleransi kesalahan (ngalih server master yen gagal) Raft (nggunakake implementasine dhewe saka uRaft, sing sadurunge digunakake ing produk komersial). Nggunakake uRaft nyederhanakake konfigurasi lan nyuda wektu tundha pemulihan kegagalan, nanging mbutuhake paling ora telung kelenjar sing digunakake, salah sijine digunakake kanggo kuorum.

Owah-owahan liyane: klien anyar adhedhasar subsistem FUSE3, ngrampungake masalah karo koreksi kesalahan, plugin nfs-ganesha wis ditulis maneh ing basa C. Update 3.13.0-rc2 mbenakake sawetara kewan omo kritis sing nggawe rilis test sadurungé saka cabang 3.13 ora bisa digunakake (mbenerake kanggo cabang 3.12 durung diterbitake, lan nganyari saka 3.12 kanggo 3.13 isih ndadékaké kanggo mundhut data lengkap).

Ing 2020, karya bakal fokus ing pangembangan
Agama, kernel LizardFS anyar sing wis ditulis maneh, sing, miturut pangembang, bakal nambah kinerja kaping telu dibandhingake karo cabang 3.12. Agama bakal transisi menyang arsitektur acara-mimpin, asynchronous input / output adhedhasar asio, kerjane utamane ing ruang pangguna (kanggo nyuda katergantungan ing mekanisme cache kernel). Kajaba iku, subsistem debugging anyar lan analisa aktivitas jaringan kanthi dhukungan kanggo tuning otomatis kinerja bakal ditawakake.

Klien LizardFS bakal nambah dhukungan lengkap kanggo operasi nulis versi, sing bakal ningkatake linuwih saka pemulihan bencana, ngatasi masalah sing muncul nalika klien sing beda nuduhake akses menyang data sing padha, lan ngidini perbaikan kinerja sing signifikan. Klien bakal ditransfer menyang subsistem jaringan dhewe sing beroperasi ing ruang pangguna. Prototipe kerja pertama LizardFS adhedhasar Agama direncanakake siap ing kuartal kaping pindho 2020. Ing wektu sing padha, dheweke janji bakal ngetrapake alat kanggo nggabungake LizardFS karo platform Kubernetes.

Source: opennet.ru

Add a comment