CEPH सह अनुभव

जेव्हा एका डिस्कवर बसण्यापेक्षा जास्त डेटा असतो, तेव्हा RAID बद्दल विचार करण्याची वेळ आली आहे. लहानपणी, मी अनेकदा माझ्या वडिलांकडून ऐकले: “एखाद्या दिवशी RAID ही भूतकाळातील गोष्ट असेल, वस्तू साठवण्याने जग भरून जाईल, आणि तुम्हाला CEPH म्हणजे काय हे देखील माहीत नाही,” त्यामुळे माझ्या स्वतंत्र जीवनातील पहिली गोष्ट. माझा स्वतःचा क्लस्टर तयार करायचा होता. प्रयोगाचा उद्देश सेफच्या अंतर्गत संरचनेशी परिचित होणे आणि त्याच्या अनुप्रयोगाची व्याप्ती समजून घेणे हा होता. मध्यम आकाराच्या व्यवसायांमध्ये आणि लहान व्यवसायांमध्ये सेफची अंमलबजावणी कितपत न्याय्य आहे? अनेक वर्षांच्या ऑपरेशननंतर आणि काही अपरिवर्तनीय डेटा गमावल्यानंतर, गुंतागुंतीची समज निर्माण झाली की सर्वकाही इतके सोपे नाही. CEPH ची वैशिष्ठ्ये त्याच्या व्यापक अवलंबनात अडथळे निर्माण करतात आणि त्यांच्यामुळेच प्रयोग संपुष्टात आले आहेत. खाली घेतलेल्या सर्व पायऱ्या, मिळालेले निकाल आणि काढलेले निष्कर्ष यांचे वर्णन आहे. जाणकारांनी त्यांचे अनुभव सांगून काही मुद्दे समजावून सांगितल्यास मी त्यांचा आभारी राहीन.

टीप: टिप्पणीकर्त्यांनी काही गृहितकांमध्ये गंभीर त्रुटी ओळखल्या आहेत ज्यांना संपूर्ण लेखाची पुनरावृत्ती आवश्यक आहे.

CEPH धोरण

CEPH क्लस्टर अनियंत्रित आकाराच्या डिस्कचा अनियंत्रित क्रमांक K एकत्र करतो आणि त्यावर डेटा संग्रहित करतो, प्रत्येक तुकडा (डिफॉल्टनुसार 4 MB) दिलेल्या संख्येच्या N वेळा डुप्लिकेट करतो.

दोन समान डिस्कसह सर्वात सोप्या केसचा विचार करूया. त्यांच्याकडून तुम्ही RAID 1 किंवा N=2 सह क्लस्टर एकत्र करू शकता - परिणाम समान असेल. जर तीन डिस्क्स असतील आणि त्या वेगवेगळ्या आकाराच्या असतील, तर N=2 सह क्लस्टर एकत्र करणे सोपे आहे: काही डेटा डिस्क 1 आणि 2 वर असेल, काही डिस्क 1 आणि 3 वर असेल आणि काही असेल. 2 आणि 3 वर, तर RAID होणार नाही (तुम्ही असा RAID एकत्र करू शकता, परंतु ते एक विकृती असेल). आणखी डिस्क्स असल्यास, RAID 5 तयार करणे शक्य आहे; CEPH मध्ये एक एनालॉग आहे - erasure_code, जो विकासकांच्या सुरुवातीच्या संकल्पनांचा विरोधाभास करतो आणि म्हणून विचारात घेतले जात नाही. RAID 5 असे गृहीत धरते की तेथे कमी संख्येने ड्राइव्हस् आहेत, जे सर्व चांगल्या स्थितीत आहेत. एक अयशस्वी झाल्यास, इतरांनी डिस्क पुनर्स्थित होईपर्यंत आणि डेटा पुनर्संचयित होईपर्यंत थांबवावे. CEPH, N>=3 सह, जुन्या डिस्कचा वापर करण्यास प्रोत्साहन देते, विशेषतः, जर तुम्ही डेटाची एक प्रत साठवण्यासाठी अनेक चांगल्या डिस्क ठेवल्या आणि उर्वरित दोन किंवा तीन प्रती मोठ्या संख्येने जुन्या डिस्कवर संग्रहित केल्या, तर माहिती सुरक्षित असेल, कारण आत्तापर्यंत नवीन डिस्क जिवंत आहेत - कोणतीही समस्या नाही, आणि जर त्यापैकी एक तुटली तर, पाच वर्षांपेक्षा जास्त सेवा जीवन असलेल्या तीन डिस्कचे एकाचवेळी अपयश, शक्यतो भिन्न सर्व्हरवरून, अत्यंत संभव नाही. कार्यक्रम

प्रतींच्या वितरणात एक सूक्ष्मता आहे. डीफॉल्टनुसार, असे गृहीत धरले जाते की डेटा अधिक (~100 प्रति डिस्क) PG वितरण गटांमध्ये विभागलेला आहे, ज्यापैकी प्रत्येक काही डिस्कवर डुप्लिकेट आहे. समजा K=6, N=2, नंतर कोणत्याही दोन डिस्क अयशस्वी झाल्यास, डेटा गमावण्याची हमी दिली जाते, कारण संभाव्यता सिद्धांतानुसार, या दोन डिस्कवर किमान एक PG असेल. आणि एका गटाच्या नुकसानामुळे पूलमधील सर्व डेटा अनुपलब्ध होतो. जर डिस्क तीन जोड्यांमध्ये विभागली गेली असेल आणि डेटा केवळ एका जोडीतील डिस्कवर संग्रहित करण्याची परवानगी असेल, तर असे वितरण कोणत्याही एका डिस्कच्या अपयशास देखील प्रतिरोधक आहे, परंतु दोन डिस्क अयशस्वी झाल्यास, डेटा गमावण्याची शक्यता नाही. 100%, परंतु केवळ 3/15, आणि अपयशाच्या बाबतीतही तीन डिस्क - फक्त 12/20. म्हणून, डेटा वितरणातील एन्ट्रॉपी दोष सहिष्णुतेमध्ये योगदान देत नाही. हे देखील लक्षात ठेवा की फाइल सर्व्हरसाठी, विनामूल्य रॅम प्रतिसादाची गती लक्षणीयरीत्या वाढवते. प्रत्येक नोडमध्ये जितकी जास्त मेमरी आणि सर्व नोड्समध्ये जितकी जास्त मेमरी तितकी वेगवान होईल. हा निःसंशयपणे एकाच सर्व्हरवर क्लस्टरचा फायदा आहे आणि त्याहूनही अधिक म्हणजे, हार्डवेअर NAS, जिथे खूप कमी प्रमाणात मेमरी तयार केली जाते.

कालबाह्य उपकरणांमधून कमीत कमी गुंतवणुकीसह मोजमाप करण्याच्या क्षमतेसह दहापट टीबीसाठी विश्वासार्ह डेटा स्टोरेज सिस्टम तयार करण्याचा CEPH हा एक चांगला मार्ग आहे (येथे, अर्थातच, खर्च आवश्यक असेल, परंतु व्यावसायिक स्टोरेज सिस्टमच्या तुलनेत लहान).

क्लस्टर अंमलबजावणी

प्रयोगासाठी, इंटेल DQ57TM + Intel core i3 540 + 16 GB RAM चा बंद केलेला संगणक घेऊ. आम्ही चार 2 TB डिस्क्स RAID10 सारख्या काहीतरी मध्ये आयोजित करू, यशस्वी चाचणीनंतर आम्ही दुसरा नोड आणि त्याच संख्येच्या डिस्क जोडू.

लिनक्स स्थापित करत आहे. वितरणासाठी सानुकूलित करण्याची आणि स्थिर राहण्याची क्षमता आवश्यक आहे. डेबियन आणि सुस आवश्यकता पूर्ण करतात. सुसमध्ये अधिक लवचिक इंस्टॉलर आहे जो तुम्हाला कोणतेही पॅकेज अक्षम करण्याची परवानगी देतो; दुर्दैवाने, प्रणालीला हानी न करता कोणते फेकून दिले जाऊ शकते हे मला समजू शकले नाही. डीबूटस्ट्रॅप बस्टर वापरून डेबियन स्थापित करा. मिन-बेस पर्याय ड्रायव्हर्स नसलेली तुटलेली प्रणाली स्थापित करतो. पूर्ण आवृत्तीच्या तुलनेत आकारातील फरक त्रास देण्याइतका मोठा नाही. हे काम फिजिकल मशिनवर चालत असल्याने, मला व्हर्च्युअल मशीनप्रमाणे स्नॅपशॉट्स घ्यायचे आहेत. हा पर्याय LVM किंवा btrfs (किंवा xfs, किंवा zfs - फरक मोठा नाही) द्वारे पुरवला जातो. LVM स्नॅपशॉट्स एक मजबूत बिंदू नाहीत. btrfs स्थापित करा. आणि बूटलोडर MBR मध्ये आहे. FAT विभाजनासह 50 MB डिस्कला गोंधळ घालण्यात काही अर्थ नाही जेव्हा तुम्ही 1 MB विभाजन टेबल क्षेत्रामध्ये ढकलू शकता आणि सिस्टमसाठी सर्व जागा वाटप करू शकता. डिस्कवर 700 MB घेतला. मूलभूत SUSE इंस्टॉलेशनमध्ये किती आहे हे मला आठवत नाही, मला वाटते की ते सुमारे 1.1 किंवा 1.4 GB आहे.

CEPH स्थापित करा. आम्ही डेबियन रिपॉजिटरीमधील आवृत्ती 12 कडे दुर्लक्ष करतो आणि 15.2.3 साइटवरून थेट कनेक्ट करतो. आम्ही खालील सूचनांसह “CEPH स्वहस्ते स्थापित करा” विभागातील सूचनांचे अनुसरण करतो:

• रेपॉजिटरी कनेक्ट करण्यापूर्वी, तुम्ही gnupg wget ca-प्रमाणपत्रे स्थापित करणे आवश्यक आहे
• रेपॉजिटरी कनेक्ट केल्यानंतर, परंतु क्लस्टर स्थापित करण्यापूर्वी, पॅकेजेस स्थापित करणे वगळले आहे: apt -y --no-install-recommends install ceph-common ceph-mon ceph-osd ceph-mds ceph-mgr
• CEPH स्थापित करताना, अज्ञात कारणांमुळे, ते lvm2 स्थापित करण्याचा प्रयत्न करेल. तत्वतः, ही खेदाची गोष्ट नाही, परंतु स्थापना अयशस्वी झाली, म्हणून CEPH देखील स्थापित करणार नाही.

  या पॅचने मदत केली:

  cat << EOF >> /var/lib/dpkg/status
  Package: lvm2
  Status: install ok installed
  Priority: important
  Section: admin
  Installed-Size: 0
  Maintainer: Debian Adduser Developers <[email protected]>
  Architecture: all
  Multi-Arch: foreign
  Version: 113.118
  Description: No-install
  EOF
  

क्लस्टर विहंगावलोकन

ceph-osd - डिस्कवर डेटा संचयित करण्यासाठी जबाबदार आहे. प्रत्येक डिस्कसाठी, एक नेटवर्क सेवा लॉन्च केली जाते जी ऑब्जेक्ट्स वाचण्यासाठी किंवा लिहिण्याच्या विनंत्या स्वीकारते आणि कार्यान्वित करते. डिस्कवर दोन विभाजने तयार केली जातात. त्यापैकी एकामध्ये क्लस्टर, डिस्क क्रमांक आणि क्लस्टरच्या की बद्दल माहिती असते. डिस्क जोडताना ही 1KB माहिती एकदा तयार केली जाते आणि कधीही बदलल्याचे लक्षात आले नाही. दुसऱ्या विभाजनामध्ये फाइल प्रणाली नाही आणि CEPH बायनरी डेटा संग्रहित करते. मागील आवृत्त्यांमधील स्वयंचलित प्रतिष्ठापनने सेवा माहितीसाठी 100MB xfs विभाजन तयार केले. मी डिस्कला MBR मध्ये रूपांतरित केले आणि फक्त 16MB वाटप केले - सेवा तक्रार करत नाही. मला वाटते xfs कोणत्याही समस्यांशिवाय ext ने बदलले जाऊ शकते. हे विभाजन /var/lib/… मध्ये आरोहित केले आहे, जेथे सेवा OSD बद्दल माहिती वाचते आणि ब्लॉक उपकरणाचा संदर्भ देखील शोधते जेथे बायनरी डेटा संग्रहित केला जातो. सैद्धांतिकदृष्ट्या, तुम्ही /var/lib/… मध्ये सहाय्यक फाइल्स ताबडतोब ठेवू शकता आणि डेटासाठी संपूर्ण डिस्कचे वाटप करू शकता. ceph-deploy द्वारे OSD तयार करताना, /var/lib/… मध्‍ये विभाजन आरोहित करण्‍यासाठी एक नियम आपोआप तयार केला जातो, आणि ceph वापरकर्त्याला इच्छित ब्लॉक उपकरण वाचण्याचे अधिकार देखील दिले जातात. तुम्ही स्वहस्ते स्थापित केल्यास, तुम्ही हे स्वतः केले पाहिजे; दस्तऐवजीकरण हे सांगत नाही. osd मेमरी लक्ष्य पॅरामीटर निर्दिष्ट करणे देखील उचित आहे जेणेकरून पुरेशी भौतिक मेमरी असेल.

ceph-mds. निम्न स्तरावर, CEPH हे ऑब्जेक्ट स्टोरेज आहे. स्टोरेज ब्लॉक करण्याची क्षमता प्रत्येक 4MB ब्लॉकला ऑब्जेक्ट म्हणून संग्रहित करण्यासाठी खाली येते. फाइल स्टोरेज समान तत्त्वावर कार्य करते. दोन पूल तयार केले आहेत: एक मेटाडेटासाठी, दुसरा डेटासाठी. ते फाइल सिस्टममध्ये एकत्र केले जातात. या क्षणी, काही प्रकारचे रेकॉर्ड तयार केले आहे, म्हणून आपण फाइल सिस्टम हटविल्यास, परंतु दोन्ही पूल ठेवल्यास, आपण ते पुनर्संचयित करण्यात सक्षम राहणार नाही. ब्लॉकद्वारे फायली काढण्याची एक प्रक्रिया आहे, मी त्याची चाचणी केलेली नाही. फाइल सिस्टममध्ये प्रवेश करण्यासाठी ceph-mds सेवा जबाबदार आहे. प्रत्येक फाइल सिस्टीमला सेवेचे वेगळे उदाहरण आवश्यक आहे. तेथे एक "इंडेक्स" पर्याय आहे, जो आपल्याला एकामध्ये अनेक फाइल सिस्टमचे स्वरूप तयार करण्यास अनुमती देतो - चाचणी देखील केली नाही.

Ceph-mon - ही सेवा क्लस्टरचा नकाशा संग्रहित करते. यात सर्व OSDs बद्दल माहिती, OSD मध्ये PGs वितरित करण्यासाठी अल्गोरिदम आणि सर्वात महत्त्वाचे म्हणजे सर्व वस्तूंबद्दल माहिती (या यंत्रणेचे तपशील मला स्पष्ट नाहीत: एक निर्देशिका आहे /var/lib/ceph/mon/…/ store.db, त्यात मोठी फाईल आहे 26MB आहे, आणि 105K ऑब्जेक्ट्सच्या क्लस्टरमध्ये, ती प्रति ऑब्जेक्ट 256 बाइट्सपेक्षा थोडी जास्त आहे - मला वाटते की मॉनिटर सर्व ऑब्जेक्ट्स आणि PGs ची सूची संग्रहित करतो ज्यामध्ये ते स्थित आहेत). या निर्देशिकेचे नुकसान झाल्यामुळे क्लस्टरमधील सर्व डेटा नष्ट होतो. त्यामुळे असा निष्कर्ष काढण्यात आला की CRUSH हे दाखवते की OSD वर PGs कसे स्थित आहेत आणि ऑब्जेक्ट्स PGs वर कसे स्थित आहेत - डेव्हलपर हा शब्द कितीही टाळत असले तरीही ते डेटाबेसमध्ये मध्यवर्तीरित्या साठवले जातात. परिणामी, प्रथम, आम्ही आरओ मोडमध्ये फ्लॅश ड्राइव्हवर सिस्टम स्थापित करू शकत नाही, कारण डेटाबेस सतत रेकॉर्ड केला जात असल्याने, यासाठी अतिरिक्त डिस्कची आवश्यकता आहे (कदाचित 1 जीबीपेक्षा जास्त), दुसरे म्हणजे, आपल्याकडे असणे आवश्यक आहे. या बेसची रिअल टाइममध्ये कॉपी करा. जर तेथे अनेक मॉनिटर्स असतील, तर दोष सहनशीलता आपोआप सुनिश्चित केली जाते, परंतु आमच्या बाबतीत फक्त एक मॉनिटर आहे, कमाल दोन. ओएसडी डेटावर आधारित मॉनिटर पुनर्संचयित करण्यासाठी एक सैद्धांतिक प्रक्रिया आहे, मी विविध कारणांसाठी तीन वेळा त्याचा अवलंब केला आणि तीन वेळा कोणतेही त्रुटी संदेश तसेच डेटा नव्हता. दुर्दैवाने, ही यंत्रणा कार्य करत नाही. एकतर आम्ही OSD वर लघु विभाजन चालवतो आणि डेटाबेस संचयित करण्यासाठी RAID असेंबल करतो, ज्याचा कार्यक्षमतेवर नक्कीच खूप वाईट परिणाम होईल किंवा आम्ही किमान दोन विश्वसनीय भौतिक माध्यमे, शक्यतो USB, पोर्ट्स व्यापू नयेत म्हणून वाटप करतो.

rados-gw - S3 प्रोटोकॉल आणि तत्सम द्वारे ऑब्जेक्ट स्टोरेज निर्यात करते. अनेक पूल तयार करतात, ते का अस्पष्ट आहे. मी फारसा प्रयोग केला नाही.

ceph-mgr - ही सेवा स्थापित करताना, अनेक मॉड्यूल लॉन्च केले जातात. त्यापैकी एक ऑटोस्केल आहे जो अक्षम केला जाऊ शकत नाही. हे PG/OSD ची योग्य रक्कम राखण्याचा प्रयत्न करते. जर तुम्हाला गुणोत्तर स्वहस्ते नियंत्रित करायचे असेल, तर तुम्ही प्रत्येक पूलसाठी स्केलिंग अक्षम करू शकता, परंतु या प्रकरणात मॉड्यूल 0 ने विभाजनासह क्रॅश होते आणि क्लस्टर स्थिती ERROR होते. मॉड्यूल पायथनमध्ये लिहिलेले आहे, आणि जर तुम्ही त्यात आवश्यक ओळ टिप्पणी केली तर ते अक्षम होईल. तपशील लक्षात ठेवण्यासाठी खूप आळशी.

वापरलेल्या स्त्रोतांची यादी:

CEPH ची स्थापना
संपूर्ण मॉनिटर अयशस्वी पासून पुनर्प्राप्ती

स्क्रिप्ट सूची:

डीबूटस्ट्रॅपद्वारे सिस्टम स्थापित करणे

blkdev=sdb1
mkfs.btrfs -f /dev/$blkdev
mount /dev/$blkdev /mnt
cd /mnt
for i in {@,@var,@home}; do btrfs subvolume create $i; done
mkdir snapshot @/{var,home}
for i in {var,home}; do mount -o bind @${i} @/$i; done
debootstrap buster @ http://deb.debian.org/debian; echo $?
for i in {dev,proc,sys}; do mount -o bind /$i @/$i; done
cp /etc/bash.bashrc @/etc/

chroot /mnt/@ /bin/bash
echo rbd1 > /etc/hostname
passwd
uuid=`blkid | grep $blkdev | cut -d """ -f 2`
cat << EOF > /etc/fstab
UUID=$uuid / btrfs noatime,nodiratime,subvol=@ 0 1
UUID=$uuid /var btrfs noatime,nodiratime,subvol=@var 0 2
UUID=$uuid /home btrfs noatime,nodiratime,subvol=@home 0 2
EOF
cat << EOF >> /var/lib/dpkg/status
Package: lvm2
Status: install ok installed
Priority: important
Section: admin
Installed-Size: 0
Maintainer: Debian Adduser Developers <[email protected]>
Architecture: all
Multi-Arch: foreign
Version: 113.118
Description: No-install

Package: sudo
Status: install ok installed
Priority: important
Section: admin
Installed-Size: 0
Maintainer: Debian Adduser Developers <[email protected]>
Architecture: all
Multi-Arch: foreign
Version: 113.118
Description: No-install
EOF

exit
grub-install --boot-directory=@/boot/ /dev/$blkdev
init 6

apt -yq install --no-install-recommends linux-image-amd64 bash-completion ed btrfs-progs grub-pc iproute2 ssh  smartmontools ntfs-3g net-tools man
exit
grub-install --boot-directory=@/boot/ /dev/$blkdev
init 6

क्लस्टर तयार करा

apt -yq install --no-install-recommends gnupg wget ca-certificates
echo 'deb https://download.ceph.com/debian-octopus/ buster main' >> /etc/apt/sources.list
wget -q -O- 'https://download.ceph.com/keys/release.asc' | apt-key add -
apt update
apt -yq install --no-install-recommends ceph-common ceph-mon

echo 192.168.11.11 rbd1 >> /etc/hosts
uuid=`cat /proc/sys/kernel/random/uuid`
cat << EOF > /etc/ceph/ceph.conf
[global]
fsid = $uuid
auth cluster required = cephx
auth service required = cephx
auth client required = cephx
mon allow pool delete = true
mon host = 192.168.11.11
mon initial members = rbd1
mon max pg per osd = 385
osd crush update on start = false
#osd memory target = 2147483648
osd memory target = 1610612736
osd scrub chunk min = 1
osd scrub chunk max = 2
osd scrub sleep = .2
osd pool default pg autoscale mode = off
osd pool default size = 1
osd pool default min size = 1
osd pool default pg num = 1
osd pool default pgp num = 1
[mon]
mgr initial modules = dashboard
EOF

ceph-authtool --create-keyring ceph.mon.keyring --gen-key -n mon. --cap mon 'allow *'
ceph-authtool --create-keyring ceph.client.admin.keyring --gen-key -n client.admin --cap mon 'allow *' --cap osd 'allow *' --cap mds 'allow *' --cap mgr 'allow *'
cp ceph.client.admin.keyring /etc/ceph/
ceph-authtool --create-keyring bootstrap-osd.ceph.keyring --gen-key -n client.bootstrap-osd --cap mon 'profile bootstrap-osd' --cap mgr 'allow r'
cp bootstrap-osd.ceph.keyring /var/lib/ceph/bootstrap-osd/ceph.keyring
ceph-authtool ceph.mon.keyring --import-keyring /etc/ceph/ceph.client.admin.keyring
ceph-authtool ceph.mon.keyring --import-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring
monmaptool --create --add rbd1 192.168.11.11 --fsid $uuid monmap
rm -R /var/lib/ceph/mon/ceph-rbd1/*
ceph-mon --mkfs -i rbd1 --monmap monmap --keyring ceph.mon.keyring
chown ceph:ceph -R /var/lib/ceph
systemctl enable ceph-mon@rbd1
systemctl start ceph-mon@rbd1
ceph mon enable-msgr2
ceph status

# dashboard

apt -yq install --no-install-recommends ceph-mgr ceph-mgr-dashboard python3-distutils python3-yaml
mkdir /var/lib/ceph/mgr/ceph-rbd1
ceph auth get-or-create mgr.rbd1 mon 'allow profile mgr' osd 'allow *' mds 'allow *' > /var/lib/ceph/mgr/ceph-rbd1/keyring
systemctl enable ceph-mgr@rbd1
systemctl start ceph-mgr@rbd1
ceph config set mgr mgr/dashboard/ssl false
ceph config set mgr mgr/dashboard/server_port 7000
ceph dashboard ac-user-create root 1111115 administrator
systemctl stop ceph-mgr@rbd1
systemctl start ceph-mgr@rbd1

ओएसडी जोडत आहे (भाग)

apt install ceph-osd

osdnum=`ceph osd create`
mkdir -p /var/lib/ceph/osd/ceph-$osdnum
mkfs -t xfs /dev/sda1
mount -t xfs /dev/sda1 /var/lib/ceph/osd/ceph-$osdnum
cd /var/lib/ceph/osd/ceph-$osdnum
ceph auth get-or-create osd.0 mon 'profile osd' mgr 'profile osd' osd 'allow *' > /var/lib/ceph/osd/ceph-$osdnum/keyring
ln -s /dev/disk/by-partuuid/d8cc3da6-02  block
ceph-osd -i $osdnum --mkfs
#chown ceph:ceph /dev/sd?2
chown ceph:ceph -R /var/lib/ceph
systemctl enable ceph-osd@$osdnum
systemctl start ceph-osd@$osdnum

सारांश

CEPH चा मुख्य विपणन फायदा म्हणजे CRUSH - डेटाच्या स्थानाची गणना करण्यासाठी एक अल्गोरिदम. मॉनिटर हे अल्गोरिदम क्लायंटला वितरित करतात, त्यानंतर क्लायंट थेट इच्छित नोड आणि इच्छित ओएसडीची विनंती करतात. क्रश कोणतेही केंद्रीकरण सुनिश्चित करत नाही. ही एक छोटी फाईल आहे जी तुम्ही प्रिंट काढू शकता आणि भिंतीवर टांगू शकता. सरावाने दर्शविले आहे की क्रश हा संपूर्ण नकाशा नाही. तुम्ही सर्व OSD आणि CRUSH ठेवून मॉनिटर्स नष्ट करून पुन्हा तयार केल्यास, क्लस्टर पुनर्संचयित करण्यासाठी हे पुरेसे नाही. यावरून असा निष्कर्ष काढला जातो की प्रत्येक मॉनिटर संपूर्ण क्लस्टरबद्दल काही मेटाडेटा संग्रहित करतो. या मेटाडेटाची लहान रक्कम क्लस्टरच्या आकारावर निर्बंध लादत नाही, परंतु त्यांची सुरक्षितता सुनिश्चित करणे आवश्यक आहे, जे फ्लॅश ड्राइव्हवर सिस्टम स्थापित करून डिस्क बचत काढून टाकते आणि तीनपेक्षा कमी नोड्स असलेले क्लस्टर वगळते. पर्यायी वैशिष्ट्यांबाबत विकसकाचे आक्रमक धोरण. मिनिमलिझमपासून दूर. दस्तऐवजीकरण "आमच्याकडे जे काही आहे त्याबद्दल धन्यवाद, परंतु ते खूपच कमी आहे" या स्तरावर आहे. कमी स्तरावर सेवांशी संवाद साधण्याची क्षमता प्रदान केली जाते, परंतु दस्तऐवजीकरण या विषयाला अगदी वरवरच्या स्पर्शाने स्पर्श करते, म्हणून ते होय पेक्षा जास्त शक्यता असते. आणीबाणीच्या परिस्थितीतून डेटा पुनर्प्राप्त करण्याची व्यावहारिकदृष्ट्या कोणतीही शक्यता नाही.

पुढील कारवाईसाठी पर्याय: CEPH सोडून द्या आणि बॅनल मल्टी-डिस्क btrfs (किंवा xfs, zfs) वापरा, CEPH बद्दल नवीन माहिती शोधा, ज्यामुळे तुम्हाला ते निर्दिष्ट परिस्थितीत ऑपरेट करण्याची परवानगी मिळेल, तुमचे स्वतःचे स्टोरेज प्रगत म्हणून लिहिण्याचा प्रयत्न करा. प्रशिक्षण

स्त्रोत: www.habr.com