LizardFS 3.13.0-rc2 cluster file system update

Pagkahuman sa usa ka tuig nga paghinayhinay sa pag-uswag gipadayon nagtrabaho sa usa ka bag-ong sanga sa usa ka fault-tolerant distributed file system TukoF 3.13 ΠΈ gipatik ikaduhang release nga kandidato. Bag-o lang nahitabo na pagbag-o sa mga tag-iya sa kompanya nga nagpalambo sa LizardFS, gisagop ang bag-ong pagdumala ug gipulihan ang mga developer. Sulod sa milabay nga duha ka tuig, ang proyekto gikuha gikan sa komunidad ug wala naghatag ug igong pagtagad niini, apan ang bag-ong team nagtinguha nga buhion ang kanhi nga relasyon sa komunidad ug magtukod og suod nga interaksyon niini. Ang code sa proyekto gisulat sa C ug C ++ nga mga pinulongan ug giapod-apod sa ubos sa lisensya sa GPLv3.

KadlawFS Kini mao ang usa ka gipang-apod-apod nga sistema sa file sa cluster, nga nagtugot kanimo sa pag-apod-apod sa mga datos sa lainlaing mga server, apan naghatag og access sa kanila sa porma sa usa ka dako nga partisyon, nga nagtrabaho sa parehas nga paagi sa tradisyonal nga mga partisyon sa disk. Ang usa ka mount partition nga adunay LizardFS nagsuporta sa POSIX file attributes, ACLs, lock, sockets, pipes, device files, symbolic ug hard links. Ang sistema wala’y usa ka punto sa kapakyasan; ang tanan nga mga sangkap sobra. Ang parallelization sa mga operasyon sa datos gisuportahan (daghang mga kliyente ang mahimong dungan nga maka-access sa mga file).

Aron masiguro ang pagtugot sa sayup, ang datos gibahin sa mga replika, nga giapod-apod sa lainlaing mga node nga adunay redundancy (daghang mga kopya ang gibutang sa lainlaing mga node); kung ang mga node o mga drive mapakyas, ang sistema magpadayon nga molihok nga wala’y pagkawala sa kasayuran ug awtomatiko nga iapod-apod ang datos nga gikonsiderar ang nahabilin nga mga node. Aron mapalapad ang pagtipig, igo na ang pagkonektar sa mga bag-ong node niini nga wala’y paghunong sa pagtrabaho alang sa pagmentinar (ang sistema mismo nagsundog sa bahin sa datos sa mga bag-ong server ug gibalanse ang pagtipig nga gikonsiderar ang bag-ong mga server). Mahimo nimo ang parehas aron makunhuran ang gidak-on sa cluster - mahimo nimo nga ma-disable ang mga karaan nga kagamitan nga gikuha gikan sa sistema.

Ang datos ug metadata gilain nga gitipigan. Alang sa operasyon, girekomenda nga mag-install og duha ka metadata server nga naglihok sa master-slave mode, ingon man labing menos duha ka data storage server (chunkserver). Dugang pa, sa pag-backup sa metadata, ang mga log server mahimong magamit sa pagtipig sa impormasyon bahin sa mga pagbag-o sa metadata ug tugotan ka nga ibalik ang operasyon kung adunay kadaot sa tanan nga mga metadata server. Ang matag file gibahin sa mga bloke (mga tipak), hangtod sa 64 MB ang gidak-on. Ang mga bloke giapod-apod sa mga server sa pagtipig uyon sa gipili nga mode sa pagkopya: sumbanan (tin-aw nga pagtino sa gidaghanon sa mga kopya nga ibutang sa lainlaing mga node, lakip ang kalabot sa indibidwal nga mga direktoryo - alang sa hinungdanon nga datos ang gidaghanon sa mga kopya mahimong madugangan, ug alang sa ang dili importante nga datos gikunhoran), XOR (RAID5) ug EC (RAID6).

Ang pagtipig mahimong mosaka sa mga gidak-on sa petabyte. Ang mga lugar sa aplikasyon naglakip sa pag-archive, pagtipig sa mga imahe sa virtual machine, data sa multimedia, pag-backup, paggamit ingon DRC (Disaster Recovery Center) ug ingon pagtipig sa high-performance computing clusters. Naghatag ang LizardFS og taas kaayo nga katulin sa pagbasa alang sa mga file sa bisan unsang gidak-on, ug kung nagsulat, nagpakita kini nga maayo nga pasundayag kung nagsulat sa tibuuk nga dagko ug medium nga kadako nga mga file, kung wala’y kanunay nga pagbag-o, kusog nga pagtrabaho sa bukas nga mga file, ug usa ka higayon nga operasyon nga adunay usa ka hugpong sa gagmay nga mga file.

LizardFS 3.13.0-rc2 cluster file system update

Lakip sa mga bahin sa FS, mahimo usab nga matikdan ang presensya sa suporta alang sa mga snapshot, nga nagpakita sa kahimtang sa mga file sa usa ka piho nga oras, ug usa ka built-in nga pagpatuman sa "recycle bin" (ang mga file dili dayon matanggal ug magamit alang sa pagkaayo sa pipila ka panahon). Ang pag-access sa usa ka partisyon mahimong limitado sa IP address o password (sama sa NFS). Adunay quota ug kalidad sa mga mekanismo sa pagdumala sa serbisyo nga nagtugot kanimo nga limitahan ang gidak-on ug bandwidth alang sa pipila nga mga kategorya sa mga tiggamit. Posible nga maghimo mga pasilidad sa pagtipig nga giapod-apod sa geograpiya, ang mga bahin niini nahimutang sa lainlaing mga sentro sa datos.

Ang proyekto sa LizardFS gitukod kaniadtong 2013 ingon usa ka tinidor MooseFS, ug lahi sa panguna sa presensya sa usa ka replication mode base sa Reed-Solomon error correction codes (kaamgid sa raidzN), gipalapad nga suporta sa ACL, ang presensya sa usa ka kliyente alang sa plataporma sa Windows, dugang nga mga pag-optimize (pananglitan, kung gihiusa ang usa ka kliyente ug usa ka server sa pagtipig, mga bloke, kung mahimo, gipadala gamit ang karon nga node, ug ang metadata gi-cache sa memorya), usa ka labi ka flexible nga sistema sa pag-configure, suporta alang sa pagbasa sa unahan sa datos, mga quota sa direktoryo ug pag-usab sa sulod.

Ang LizardFS 3.13.0 gikatakda nga ipagawas sa katapusan sa Disyembre. Ang panguna nga kabag-ohan sa LizardFS 3.13 mao ang paggamit sa usa ka consensus algorithm aron masiguro ang pagtugot sa sayup (pagbalhin sa mga master server kung adunay kapakyasan) Raft (naggamit sa atong kaugalingong pagpatuman sa uRaft, nga kaniadto gigamit sa komersyal nga mga produkto). Ang paggamit sa uRaft nagpayano sa pag-configure ug nagpamenos sa mga paglangan sa pagbawi sa kapakyasan, apan nanginahanglan labing menos tulo nga mga node nga nagtrabaho, usa niini gigamit alang sa korum.

Uban pang mga pagbag-o: usa ka bag-ong kliyente nga gibase sa subsystem sa FUSE3, pagsulbad sa mga problema sa pagtul-id sa sayup, ang plugin nga nfs-ganesha gi-rewrit sa C nga pinulongan. Ang pag-update sa 3.13.0-rc2 nag-ayo sa pipila ka mga kritikal nga mga bug nga naghimo sa miaging pagsulay nga pagpagawas sa 3.13 nga sanga nga dili magamit (ang mga pag-ayo alang sa 3.12 nga sanga wala pa mamantala, ug ang pag-update gikan sa 3.12 ngadto sa 3.13 nagdala gihapon sa pagkompleto sa pagkawala sa datos).

Sa 2020, ang trabaho mag-focus sa pagpalambo
Agama, usa ka bag-o nga hingpit nga gisulat pag-usab nga LizardFS kernel, nga, sumala sa mga developers, maghatag ug tulo ka pilo nga pagtaas sa performance kumpara sa branch 3.12. Ang Agama mobalhin sa usa ka arkitektura nga gipatuyok sa panghitabo, base sa asynchronous input/output asio, nag-una sa pagtrabaho sa wanang sa tiggamit (aron makunhuran ang pagsalig sa mga mekanismo sa pag-cache sa kernel). Dugang pa, usa ka bag-ong debugging subsystem ug usa ka network activity analyzer nga adunay suporta alang sa performance auto-tuning ang itanyag.

Ang kliyente sa LizardFS magdugang og bug-os nga suporta alang sa mga operasyon sa pagsulat sa pag-bersyon, nga makapauswag sa kasaligan sa pag-ayo sa katalagman, pagsulbad sa mga problema nga motumaw kung ang lain-laing mga kliyente mag-ambit sa pag-access sa parehas nga datos, ug magtugot alang sa hinungdanon nga pagpaayo sa pasundayag. Ang kliyente ibalhin sa kaugalingon nga subsystem sa network nga naglihok sa wanang sa tiggamit. Ang una nga nagtrabaho nga prototype sa LizardFS base sa Agama giplano nga andam sa ikaduhang quarter sa 2020. Sa parehas nga oras, nagsaad sila nga ipatuman ang mga himan alang sa paghiusa sa LizardFS sa platform sa Kubernetes.

Source: opennet.ru

Idugang sa usa ka comment