तो तुमच्यासाठी चांगला नाही

रुकच्या वाढत्या लोकप्रियतेच्या संदर्भात, मी त्याच्या अडचणी आणि वाटेत तुमची वाट पाहत असलेल्या समस्यांबद्दल बोलू इच्छितो.

माझ्याबद्दल: हॅमर आवृत्ती, समुदाय संस्थापक पासून सेफ प्रशासनाचा अनुभव t.me/ceph_ru टेलीग्राम मध्ये.

निराधार होऊ नये म्हणून, मी सेफच्या समस्यांबद्दल हॅब्र (रेटिंगनुसार) स्वीकारलेल्या पोस्ट्सचा संदर्भ देईन. मला या पोस्ट्समधील बहुतेक समस्या देखील आल्या. वापरलेल्या साहित्याच्या लिंक पोस्टच्या शेवटी आहेत.

रुकबद्दलच्या पोस्टमध्ये, आम्ही सेफचा उल्लेख एका कारणासाठी केला आहे - रुक हे मूलत: कुबर्नेट्समध्ये गुंडाळलेले सेफ आहे, याचा अर्थ त्याला त्याच्या सर्व समस्या वारशाने मिळतात. चला सेफ समस्यांपासून सुरुवात करूया.

क्लस्टर व्यवस्थापन सुलभ करा

रुकचा एक फायदा म्हणजे कुबेरेन्टेसद्वारे सेफचे व्यवस्थापन करणे सोपे आहे.

तथापि, ceph मध्ये कॉन्फिगरेशनसाठी 1000 पेक्षा जास्त पॅरामीटर्स आहेत, त्याच वेळी, rook द्वारे आम्ही त्यापैकी फक्त एक अल्पसंख्याक संपादित करू शकतो.

ल्युमिनस वरील उदाहरण
> ceph deemon mon.a कॉन्फिगरेशन शो | wc -l
1401

सेफ स्थापित आणि अद्यतनित करण्याचा एक सोयीस्कर मार्ग म्हणून रुक स्थानबद्ध आहे
रुकशिवाय सेफ स्थापित करण्यात कोणतीही समस्या नाही - उत्तरदायी प्लेबुक 30 मिनिटांत लिहिलेले आहे, परंतु अद्यतनित करताना बर्याच समस्या आहेत.

क्रोकच्या पोस्टमधील कोट

उदाहरण: क्रश ट्यूनेबल हमर ते ज्वेल अद्यतनित केल्यानंतर योग्यरित्या कार्य करत नाही

> ceph osd क्रश शो-ट्यूनेबल
{
...
"straw_calc_version": 1,
"allowed_bucket_algs": 22,
"profile": "अज्ञात",
"optimal_tunables": 0,
...
}

परंतु अगदी किरकोळ आवृत्त्यांमध्येही समस्या आहेत.

उदाहरण: क्लस्टरला हेल्थ एरर स्थितीत आणणे आणि सशर्त तुटलेले पीजी 12.2.6 अपडेट करा
ceph.com/releases/v12-2-8-released

अपडेट करू नका, प्रतीक्षा करा आणि चाचणी करू नका? परंतु आम्ही इतर गोष्टींबरोबरच अद्यतनांच्या सोयीसाठी Rook वापरत असल्याचे दिसते.

रुकमधील आपत्ती पुनर्प्राप्ती क्लस्टरची जटिलता

उदाहरण: ओएसडी त्याच्या पायावर त्रुटींच्या पुरळांसह पडतो. तुम्हाला शंका आहे की समस्या कॉन्फिगरेशनमधील एका पॅरामीटर्समध्ये आहे, तुम्हाला विशिष्ट डिमनसाठी कॉन्फिगरेशन बदलायचे आहे, परंतु तुमच्याकडे kubernetes आणि DaemonSet असल्यामुळे तुम्ही करू शकत नाही.

पर्याय नाही. ceph सांगा osd.Num injectargs काम करत नाही - OSD खोटे बोलत आहे.

अडचण डीबग

काही सेटअप आणि कार्यप्रदर्शन चाचण्यांना थेट डिमनच्या osd सॉकेटशी जोडणे आवश्यक आहे. रुकच्या बाबतीत, तुम्हाला प्रथम इच्छित कंटेनर शोधण्याची आवश्यकता आहे, नंतर त्यामध्ये जा, डीबगसाठी गहाळ टूलिंग शोधा आणि खूप अस्वस्थ व्हा.

सतत ओएसडी वाढवण्यात अडचण

उदाहरण: ओएसडी ओओएममध्ये पडतो, पुनर्संतुलन सुरू होते, त्यानंतर खालील गोष्टी पडतात.

उपाय: एका वेळी एक ओएसडी वाढवा, तो क्लस्टरमध्ये पूर्णपणे समाविष्ट होईपर्यंत प्रतीक्षा करा आणि पुढील वाढवा. (सेफ अहवालात अधिक तपशील. आपत्तीचे शरीरशास्त्र).

बेअरमेटल इन्स्टॉलेशनच्या बाबतीत, हे फक्त हाताने केले जाते; रूक आणि एक ओएसडी प्रति नोडच्या बाबतीत, कोणत्याही विशिष्ट समस्या नाहीत; ओएसडी > 1 प्रति नोड असल्यास पर्यायी लिफ्टिंगसह समस्या उद्भवतील.

अर्थात, त्यांचे निराकरण केले जाऊ शकते, परंतु आम्ही गोष्टी सुलभ करण्यासाठी रूक वापरतो, परंतु अधिक जटिलता मिळवतो.

सेफ राक्षसांसाठी मर्यादा निवडण्यात अडचण

सेफच्या बेअरमेटल स्थापनेसाठी, क्लस्टरसाठी आवश्यक संसाधनांची गणना करणे अगदी सोपे आहे - तेथे सूत्रे आहेत आणि संशोधन उपलब्ध आहे. तुम्ही कमकुवत CPU वापरत असल्यास, नुमा काय आहे हे शोधण्यासाठी तुम्हाला अजूनही काही कार्यप्रदर्शन चाचण्या चालवाव्या लागतील, परंतु तरीही ते Rook पेक्षा सोपे आहे.

रुकच्या बाबतीत, मोजता येणार्‍या मेमरी मर्यादांव्यतिरिक्त, तुमच्याकडे CPU मर्यादा सेट करण्याचा प्रश्न आहे.

आणि येथे तुम्हाला कामगिरी चाचण्यांसह कठोर परिश्रम करावे लागतील. तुम्ही मर्यादा कमी केल्यास, तुम्हाला स्लो क्लस्टर मिळेल; तुम्ही अनलिम सेट केल्यास, तुम्हाला रिबॅलेंसिंग दरम्यान सक्रिय CPU वापर मिळेल, ज्याचा कुबरनेटमधील तुमच्या अॅप्लिकेशनवर वाईट परिणाम होईल.

नेटवर्किंग समस्या v1

ceph साठी 2x10GB नेटवर्क वापरण्याची शिफारस केली जाते. एक क्लायंट रहदारीसाठी, दुसरा सेफ सेवा गरजांसाठी (पुनर्संतुलन). जर तुम्ही बेअरमेटलवर सेफसोबत राहत असाल, तर ही विभागणी सहजपणे कॉन्फिगर केली जाईल, जर तुम्ही रुकसोबत राहत असाल, तर नेटवर्कनुसार विभागणी केल्याने तुम्हाला समस्या निर्माण होतील, कारण प्रत्येक क्लस्टर कॉन्फिगरेशन तुम्हाला पॉडमध्ये दोन भिन्न नेटवर्क फीड करू देत नाही. .

नेटवर्किंग समस्या v2

तुम्ही नेटवर्क वेगळे करण्यास नकार दिल्यास, पुन्हा संतुलन साधताना, ceph ट्रॅफिक संपूर्ण चॅनेल बंद करेल आणि तुमचे kubernetes मधील अॅप्लिकेशन्स मंद होतील किंवा क्रॅश होतील. तुम्ही ceph रीबॅलन्सिंगचा वेग कमी करू शकता, परंतु नंतर दीर्घ पुनर्संतुलनामुळे तुम्हाला डिस्क किंवा OOM द्वारे क्लस्टरमधून दुसरा नोड बाहेर पडण्याचा धोका वाढतो आणि क्लस्टरसाठी फक्त वाचण्याची हमी आधीच आहे.

लांब पुनर्संतुलन - लांब अर्ज lags

सेफच्या पोस्टमधील कोट. आपत्तीचे शरीरशास्त्र.

चाचणी क्लस्टर कामगिरी:

4 KB आकाराचे लेखन ऑपरेशन 1 ms घेते, कार्यप्रदर्शन 1000 थ्रेडमध्ये 1 ऑपरेशन्स/सेकंद आहे.

4 MB (ऑब्जेक्ट साइज) चे ऑपरेशन 22 ms घेते, परफॉर्मन्स 45 ऑपरेशन्स/सेकंद आहे.

परिणामी, जेव्हा तीनपैकी एक डोमेन अयशस्वी होते, तेव्हा क्लस्टर काही काळ खराब अवस्थेत असतो आणि अर्ध्या हॉट ऑब्जेक्ट्स वेगवेगळ्या आवृत्त्यांमध्ये वितरीत केल्या जातात, त्यानंतर अर्ध्या लेखन ऑपरेशन्स सक्तीच्या पुनर्प्राप्तीसह सुरू होतील.

आम्ही सक्तीच्या पुनर्प्राप्ती वेळेची अंदाजे गणना करतो - खराब झालेल्या ऑब्जेक्टवर ऑपरेशन्स लिहा.

प्रथम आपण 4 ms मध्ये 22 MB वाचतो, 22 ms लिहतो आणि नंतर 1 ms मध्ये 4 KB वास्तविक डेटा लिहितो. SSD वरील डिग्रेड ऑब्जेक्टवर एकूण 45 ms प्रति लेखन ऑपरेशन, जेव्हा मानक कार्यप्रदर्शन 1 ms होते - कामगिरीमध्ये 45-पट घट.

आपल्याकडे निकृष्ट वस्तूंची टक्केवारी जितकी जास्त असेल तितकी सर्व काही वाईट होते.

असे दिसून आले की क्लस्टरच्या योग्य ऑपरेशनसाठी पुनर्संतुलनाची गती महत्त्वपूर्ण आहे.

ceph साठी विशिष्ट सर्व्हर सेटिंग्ज

ceph ला विशिष्ट होस्ट ट्यूनिंग आवश्यक असू शकते.

उदाहरण: sysctl सेटिंग्ज आणि समान जंबोफ्रेम, यापैकी काही सेटिंग्ज तुमच्या पेलोडवर नकारात्मक परिणाम करू शकतात.

रुकची खरी गरज प्रश्नातच आहे

तुम्ही क्लाउडमध्ये असल्यास तुमच्याकडे तुमच्या क्लाउड प्रदात्याकडून स्टोरेज आहे, जे जास्त सोयीचे आहे.

जर तुम्ही तुमच्या स्वतःच्या सर्व्हरवर असाल, तर कुबर्नेट्सशिवाय सेफ व्यवस्थापित करणे अधिक सोयीचे असेल.

तुम्ही काही कमी किमतीच्या होस्टिंगवरून सर्व्हर भाड्याने देता का? मग तुम्हाला नेटवर्क, त्याच्या विलंब आणि बँडविड्थसह खूप मजा येईल, जे स्पष्टपणे सेफवर नकारात्मक परिणाम करते.

एकूण: कुबेरेन्टेसची अंमलबजावणी करणे आणि स्टोरेजची अंमलबजावणी करणे हे भिन्न इनपुट आणि भिन्न समाधान पर्यायांसह भिन्न कार्ये आहेत - त्यांचे मिश्रण करणे म्हणजे एक किंवा दुसर्‍या फायद्यासाठी संभाव्यतः धोकादायक व्यापार करणे. डिझाइन स्टेजवर देखील हे उपाय एकत्र करणे खूप कठीण होईल आणि ऑपरेशनचा कालावधी अजूनही आहे.

वापरलेल्या साहित्याची यादी:

पोस्ट #1 पण तुम्ही सेफ म्हणता... तो खरोखर इतका चांगला आहे का?
पोस्ट #2 सेफ. आपत्तीचे शरीरशास्त्र

स्त्रोत: www.habr.com