CEPH ഉപയോഗിച്ചുള്ള അനുഭവം

ഒരു ഡിസ്കിൽ ഉൾക്കൊള്ളിക്കാവുന്നതിലും കൂടുതൽ ഡാറ്റ ഉള്ളപ്പോൾ, റെയിഡിനെ കുറിച്ച് ചിന്തിക്കേണ്ട സമയമാണിത്. കുട്ടിക്കാലത്ത്, എന്റെ മുതിർന്നവരിൽ നിന്ന് ഞാൻ പലപ്പോഴും കേട്ടിട്ടുണ്ട്: “ഒരു ദിവസം റെയ്ഡ് പഴയ കാര്യമായിരിക്കും, ഒബ്ജക്റ്റ് സ്റ്റോറേജ് ലോകത്തെ നിറയ്ക്കും, കൂടാതെ CEPH എന്താണെന്ന് നിങ്ങൾക്കറിയില്ല,” അതിനാൽ എന്റെ സ്വതന്ത്ര ജീവിതത്തിൽ ആദ്യത്തേത് എന്റെ സ്വന്തം ക്ലസ്റ്റർ സൃഷ്ടിക്കുക എന്നതായിരുന്നു. സെഫിന്റെ ആന്തരിക ഘടനയെക്കുറിച്ച് അറിയുകയും അതിന്റെ പ്രയോഗത്തിന്റെ വ്യാപ്തി മനസ്സിലാക്കുകയും ചെയ്യുക എന്നതായിരുന്നു പരീക്ഷണത്തിന്റെ ലക്ഷ്യം. ഇടത്തരം ബിസിനസുകളിലും ചെറുകിട ബിസിനസ്സുകളിലും സെഫ് നടപ്പിലാക്കുന്നത് എത്രത്തോളം ന്യായമാണ്? നിരവധി വർഷത്തെ പ്രവർത്തനത്തിനും മാറ്റാനാവാത്ത രണ്ട് ഡാറ്റാ നഷ്ടങ്ങൾക്കും ശേഷം, എല്ലാം അത്ര ലളിതമല്ലെന്ന സങ്കീർണ്ണതകളെക്കുറിച്ച് ഒരു ധാരണ ഉയർന്നു. CEPH ന്റെ പ്രത്യേകതകൾ അതിന്റെ വ്യാപകമായ ദത്തെടുക്കലിന് തടസ്സങ്ങൾ സൃഷ്ടിക്കുന്നു, അവ കാരണം പരീക്ഷണങ്ങൾ അവസാനഘട്ടത്തിലെത്തി. സ്വീകരിച്ച എല്ലാ നടപടികളുടെയും, ലഭിച്ച ഫലത്തിന്റെയും നിഗമനങ്ങളുടെയും ഒരു വിവരണം ചുവടെയുണ്ട്. അറിവുള്ളവർ അവരുടെ അനുഭവം പങ്കുവെക്കുകയും ചില കാര്യങ്ങൾ വിശദീകരിക്കുകയും ചെയ്താൽ, ഞാൻ നന്ദിയുള്ളവനായിരിക്കും.

കുറിപ്പ്: മുഴുവൻ ലേഖനവും പുനഃപരിശോധിക്കേണ്ട ചില അനുമാനങ്ങളിൽ ഗുരുതരമായ പിശകുകൾ കമന്റേറ്റർമാർ തിരിച്ചറിഞ്ഞിട്ടുണ്ട്.

CEPH തന്ത്രം

CEPH ക്ലസ്റ്റർ അനിയന്ത്രിതമായ വലിപ്പത്തിലുള്ള ഡിസ്കുകളുടെ ഒരു അനിയന്ത്രിതമായ സംഖ്യ K സംയോജിപ്പിക്കുകയും അവയിൽ ഡാറ്റ സംഭരിക്കുകയും ചെയ്യുന്നു, ഓരോ കഷണവും (4 MB സ്ഥിരസ്ഥിതിയായി) നൽകിയിരിക്കുന്ന സംഖ്യ N തവണ ഡ്യൂപ്ലിക്കേറ്റ് ചെയ്യുന്നു.

സമാനമായ രണ്ട് ഡിസ്കുകളുള്ള ഏറ്റവും ലളിതമായ കേസ് നമുക്ക് പരിഗണിക്കാം. അവയിൽ നിന്ന് നിങ്ങൾക്ക് ഒന്നുകിൽ RAID 1 അല്ലെങ്കിൽ N=2 ഉള്ള ഒരു ക്ലസ്റ്റർ കൂട്ടിച്ചേർക്കാം - ഫലം സമാനമായിരിക്കും. മൂന്ന് ഡിസ്കുകൾ ഉണ്ടെങ്കിൽ അവ വ്യത്യസ്ത വലുപ്പത്തിലുള്ളതാണെങ്കിൽ, N=2 ഉപയോഗിച്ച് ഒരു ക്ലസ്റ്റർ കൂട്ടിച്ചേർക്കുന്നത് എളുപ്പമാണ്: ചില ഡാറ്റ ഡിസ്കുകൾ 1, 2 എന്നിവയിലും ചിലത് 1, 3 ഡിസ്കുകളിലും ആയിരിക്കും, ചിലത് 2, 3 എന്നിവയിൽ, RAID ചെയ്യില്ല (നിങ്ങൾക്ക് അത്തരമൊരു റെയിഡ് കൂട്ടിച്ചേർക്കാൻ കഴിയും, പക്ഷേ അത് ഒരു വികൃതമായിരിക്കും). ഇനിയും കൂടുതൽ ഡിസ്കുകൾ ഉണ്ടെങ്കിൽ, RAID 5 സൃഷ്ടിക്കാൻ കഴിയും; CEPH ന് ഒരു അനലോഗ് ഉണ്ട് - erasure_code, അത് ഡെവലപ്പർമാരുടെ ആദ്യകാല ആശയങ്ങൾക്ക് വിരുദ്ധമാണ്, അതിനാൽ പരിഗണിക്കില്ല. RAID 5 അനുമാനിക്കുന്നത് കുറച്ച് ഡ്രൈവുകൾ ഉണ്ട്, അവയെല്ലാം നല്ല അവസ്ഥയിലാണ്. ഒന്ന് പരാജയപ്പെടുകയാണെങ്കിൽ, ഡിസ്ക് മാറ്റി അതിലേക്ക് ഡാറ്റ പുനഃസ്ഥാപിക്കുന്നതുവരെ മറ്റുള്ളവർ പിടിച്ചുനിൽക്കണം. N>=3 ഉള്ള CEPH, പഴയ ഡിസ്കുകളുടെ ഉപയോഗത്തെ പ്രോത്സാഹിപ്പിക്കുന്നു, പ്രത്യേകിച്ചും, ഡാറ്റയുടെ ഒരു പകർപ്പ് സംഭരിക്കുന്നതിന് നിങ്ങൾ നിരവധി നല്ല ഡിസ്കുകൾ സൂക്ഷിക്കുകയും ബാക്കിയുള്ള രണ്ടോ മൂന്നോ പകർപ്പുകൾ പഴയ ഡിസ്കുകളിൽ സൂക്ഷിക്കുകയും ചെയ്യുന്നുവെങ്കിൽ, വിവരങ്ങൾ സുരക്ഷിതമായിരിക്കും, കാരണം ഇപ്പോൾ പുതിയ ഡിസ്കുകൾ സജീവമാണ് - പ്രശ്‌നങ്ങളൊന്നുമില്ല, അവയിലൊന്ന് തകരാറിലാണെങ്കിൽ, അഞ്ച് വർഷത്തിലധികം സേവന ജീവിതമുള്ള മൂന്ന് ഡിസ്കുകളുടെ ഒരേസമയം പരാജയപ്പെടുന്നത്, വെയിലത്ത് വ്യത്യസ്ത സെർവറുകളിൽ നിന്ന്, വളരെ സാധ്യതയില്ലാത്തതാണ് സംഭവം.

പകർപ്പുകളുടെ വിതരണത്തിൽ ഒരു സൂക്ഷ്മതയുണ്ട്. സ്ഥിരസ്ഥിതിയായി, ഡാറ്റയെ കൂടുതൽ (ഓരോ ഡിസ്കിനും ~ 100) പിജി വിതരണ ഗ്രൂപ്പുകളായി വിഭജിച്ചിട്ടുണ്ടെന്ന് അനുമാനിക്കപ്പെടുന്നു, അവ ഓരോന്നും ചില ഡിസ്കുകളിൽ ഡ്യൂപ്ലിക്കേറ്റ് ചെയ്യുന്നു. നമുക്ക് K=6, N=2 എന്ന് പറയാം, ഏതെങ്കിലും രണ്ട് ഡിസ്കുകൾ പരാജയപ്പെടുകയാണെങ്കിൽ, ഡാറ്റ നഷ്‌ടപ്പെടുമെന്ന് ഉറപ്പുനൽകുന്നു, കാരണം പ്രോബബിലിറ്റി സിദ്ധാന്തമനുസരിച്ച്, ഈ രണ്ട് ഡിസ്കുകളിലും സ്ഥിതി ചെയ്യുന്ന ഒരു PG എങ്കിലും ഉണ്ടായിരിക്കും. ഒരു ഗ്രൂപ്പിന്റെ നഷ്ടം പൂളിലെ എല്ലാ ഡാറ്റയും ലഭ്യമല്ലാതാക്കുന്നു. ഡിസ്കുകളെ മൂന്ന് ജോഡികളായി വിഭജിക്കുകയും ഒരു ജോഡിക്കുള്ളിലെ ഡിസ്കുകളിൽ മാത്രം ഡാറ്റ സംഭരിക്കാൻ അനുവദിക്കുകയും ചെയ്താൽ, അത്തരം ഒരു വിതരണവും ഏതെങ്കിലും ഒരു ഡിസ്കിന്റെ പരാജയത്തെ പ്രതിരോധിക്കും, എന്നാൽ രണ്ട് ഡിസ്കുകൾ പരാജയപ്പെടുകയാണെങ്കിൽ, ഡാറ്റ നഷ്ടപ്പെടാനുള്ള സാധ്യതയില്ല. 100%, എന്നാൽ 3/15 മാത്രം, പരാജയപ്പെടുമ്പോൾ പോലും മൂന്ന് ഡിസ്കുകൾ - 12/20 മാത്രം. അതിനാൽ, ഡാറ്റാ വിതരണത്തിലെ എൻട്രോപ്പി തെറ്റ് സഹിഷ്ണുതയ്ക്ക് കാരണമാകില്ല. ഒരു ഫയൽ സെർവറിന്, സൗജന്യ റാം പ്രതികരണ വേഗത ഗണ്യമായി വർദ്ധിപ്പിക്കുന്നു എന്നതും ശ്രദ്ധിക്കുക. ഓരോ നോഡിലും കൂടുതൽ മെമ്മറി, എല്ലാ നോഡുകളിലും കൂടുതൽ മെമ്മറി, അത് വേഗത്തിലാകും. ഇത് നിസ്സംശയമായും ഒരൊറ്റ സെർവറിനു മുകളിലുള്ള ഒരു ക്ലസ്റ്ററിന്റെ പ്രയോജനമാണ്, അതിലുപരിയായി, വളരെ ചെറിയ അളവിലുള്ള മെമ്മറി അന്തർനിർമ്മിതമായ ഒരു ഹാർഡ്‌വെയർ NAS ആണ്.

കാലഹരണപ്പെട്ട ഉപകരണങ്ങളിൽ നിന്ന് കുറഞ്ഞ നിക്ഷേപം ഉപയോഗിച്ച് സ്കെയിൽ ചെയ്യാനുള്ള കഴിവുള്ള പതിനായിരക്കണക്കിന് ടിബിക്ക് വിശ്വസനീയമായ ഒരു ഡാറ്റ സ്റ്റോറേജ് സിസ്റ്റം സൃഷ്ടിക്കുന്നതിനുള്ള ഒരു നല്ല മാർഗമാണ് CEPH എന്ന് ഇത് പിന്തുടരുന്നു (ഇവിടെ, തീർച്ചയായും, ചിലവ് ആവശ്യമാണ്, പക്ഷേ വാണിജ്യ സംഭരണ ​​സംവിധാനങ്ങളുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ ചെറുതാണ്).

ക്ലസ്റ്റർ നടപ്പിലാക്കൽ

പരീക്ഷണത്തിനായി, നമുക്ക് ഡീകമ്മീഷൻ ചെയ്ത കമ്പ്യൂട്ടർ Intel DQ57TM + Intel core i3 540 + 16 GB RAM എടുക്കാം. ഞങ്ങൾ RAID2 പോലെയുള്ള നാല് 10 TB ഡിസ്കുകൾ ഓർഗനൈസുചെയ്യും, വിജയകരമായ ഒരു പരിശോധനയ്ക്ക് ശേഷം ഞങ്ങൾ രണ്ടാമത്തെ നോഡും അതേ എണ്ണം ഡിസ്കുകളും ചേർക്കും.

Linux ഇൻസ്റ്റാൾ ചെയ്യുന്നു. വിതരണത്തിന് ഇഷ്ടാനുസൃതമാക്കാനും സുസ്ഥിരമാകാനുമുള്ള കഴിവ് ആവശ്യമാണ്. ഡെബിയനും സ്യൂസും ആവശ്യകതകൾ നിറവേറ്റുന്നു. ഏത് പാക്കേജും പ്രവർത്തനരഹിതമാക്കാൻ നിങ്ങളെ അനുവദിക്കുന്ന കൂടുതൽ ഫ്ലെക്സിബിൾ ഇൻസ്റ്റാളർ സ്യൂസിനുണ്ട്; നിർഭാഗ്യവശാൽ, സിസ്റ്റത്തിന് കേടുപാടുകൾ വരുത്താതെ ഏതൊക്കെ വലിച്ചെറിയാമെന്ന് എനിക്ക് കണ്ടെത്താനായില്ല. debootstrap ബസ്റ്റർ ഉപയോഗിച്ച് Debian ഇൻസ്റ്റാൾ ചെയ്യുക. മിനി-ബേസ് ഓപ്ഷൻ ഡ്രൈവറുകൾ ഇല്ലാത്ത ഒരു തകർന്ന സിസ്റ്റം ഇൻസ്റ്റാൾ ചെയ്യുന്നു. പൂർണ്ണ പതിപ്പുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ വലുപ്പത്തിലുള്ള വ്യത്യാസം ശല്യപ്പെടുത്തുന്ന അത്ര വലുതല്ല. ജോലി ഒരു ഫിസിക്കൽ മെഷീനിൽ നടക്കുന്നതിനാൽ, വെർച്വൽ മെഷീനുകളിലേതുപോലെ സ്നാപ്പ്ഷോട്ടുകൾ എടുക്കാൻ ഞാൻ ആഗ്രഹിക്കുന്നു. LVM അല്ലെങ്കിൽ btrfs (അല്ലെങ്കിൽ xfs, അല്ലെങ്കിൽ zfs - വ്യത്യാസം വലുതല്ല) ആണ് ഈ ഓപ്ഷൻ നൽകുന്നത്. എൽവിഎം സ്നാപ്പ്ഷോട്ടുകൾ ഒരു ശക്തമായ പോയിന്റല്ല. btrfs ഇൻസ്റ്റാൾ ചെയ്യുക. ബൂട്ട്ലോഡർ MBR-ലാണ്. നിങ്ങൾക്ക് 50 MB പാർട്ടീഷൻ ടേബിൾ ഏരിയയിലേക്ക് തള്ളുകയും സിസ്റ്റത്തിനായി മുഴുവൻ സ്ഥലവും അനുവദിക്കുകയും ചെയ്യുമ്പോൾ FAT പാർട്ടീഷൻ ഉപയോഗിച്ച് 1 MB ഡിസ്ക് അലങ്കോലപ്പെടുത്തുന്നതിൽ അർത്ഥമില്ല. ഡിസ്കിൽ 700 MB എടുത്തു. അടിസ്ഥാന SUSE ഇൻസ്റ്റാളേഷന് എത്രമാത്രം ഉണ്ടെന്ന് എനിക്ക് ഓർമ്മയില്ല, ഇത് ഏകദേശം 1.1 അല്ലെങ്കിൽ 1.4 GB ആണെന്ന് ഞാൻ കരുതുന്നു.

CEPH ഇൻസ്റ്റാൾ ചെയ്യുക. ഞങ്ങൾ ഡെബിയൻ റിപ്പോസിറ്ററിയിലെ പതിപ്പ് 12 അവഗണിക്കുകയും 15.2.3 സൈറ്റിൽ നിന്ന് നേരിട്ട് ബന്ധിപ്പിക്കുകയും ചെയ്യുന്നു. "CEPH സ്വമേധയാ ഇൻസ്റ്റാൾ ചെയ്യുക" എന്ന വിഭാഗത്തിൽ നിന്നുള്ള നിർദ്ദേശങ്ങൾ ഇനിപ്പറയുന്ന മുന്നറിയിപ്പുകളോടെ ഞങ്ങൾ പിന്തുടരുന്നു:

• റിപ്പോസിറ്ററി ബന്ധിപ്പിക്കുന്നതിന് മുമ്പ്, നിങ്ങൾ gnupg wget ca-certificates ഇൻസ്റ്റാൾ ചെയ്യണം
• റിപ്പോസിറ്ററി ബന്ധിപ്പിച്ച ശേഷം, എന്നാൽ ക്ലസ്റ്റർ ഇൻസ്റ്റാൾ ചെയ്യുന്നതിനു മുമ്പ്, പാക്കേജുകൾ ഇൻസ്റ്റാൾ ചെയ്യുന്നത് ഒഴിവാക്കിയിരിക്കുന്നു: apt -y --no-install-recommends install ceph-common ceph-mon ceph-osd ceph-mds ceph-mgr
• CEPH ഇൻസ്റ്റാൾ ചെയ്യുമ്പോൾ, അജ്ഞാതമായ കാരണങ്ങളാൽ, അത് lvm2 ഇൻസ്റ്റാൾ ചെയ്യാൻ ശ്രമിക്കും. തത്വത്തിൽ, ഇത് ഒരു ദയനീയമല്ല, പക്ഷേ ഇൻസ്റ്റാളേഷൻ പരാജയപ്പെടുന്നു, അതിനാൽ CEPH ഇൻസ്റ്റാൾ ചെയ്യില്ല.

  ഈ പാച്ച് സഹായിച്ചു:

  cat << EOF >> /var/lib/dpkg/status
  Package: lvm2
  Status: install ok installed
  Priority: important
  Section: admin
  Installed-Size: 0
  Maintainer: Debian Adduser Developers <[email protected]>
  Architecture: all
  Multi-Arch: foreign
  Version: 113.118
  Description: No-install
  EOF
  

ക്ലസ്റ്റർ അവലോകനം

ceph-osd - ഡിസ്കിൽ ഡാറ്റ സംഭരിക്കുന്നതിന് ഉത്തരവാദിയാണ്. ഓരോ ഡിസ്കിനും, ഒബ്ജക്റ്റുകൾ വായിക്കാനോ എഴുതാനോ ഉള്ള അഭ്യർത്ഥനകൾ സ്വീകരിക്കുകയും നടപ്പിലാക്കുകയും ചെയ്യുന്ന ഒരു നെറ്റ്‌വർക്ക് സേവനം ആരംഭിക്കുന്നു. ഡിസ്കിൽ രണ്ട് പാർട്ടീഷനുകൾ സൃഷ്ടിക്കപ്പെടുന്നു. അവയിലൊന്നിൽ ക്ലസ്റ്റർ, ഡിസ്ക് നമ്പർ, ക്ലസ്റ്ററിലേക്കുള്ള കീകൾ എന്നിവയെക്കുറിച്ചുള്ള വിവരങ്ങൾ അടങ്ങിയിരിക്കുന്നു. ഈ 1KB വിവരങ്ങൾ ഒരു ഡിസ്ക് ചേർക്കുമ്പോൾ ഒരിക്കൽ സൃഷ്‌ടിക്കപ്പെടുന്നു, അത് ഒരിക്കലും മാറ്റുന്നത് ശ്രദ്ധയിൽപ്പെട്ടിട്ടില്ല. രണ്ടാമത്തെ പാർട്ടീഷനിൽ ഫയൽ സിസ്റ്റമില്ല കൂടാതെ CEPH ബൈനറി ഡാറ്റ സംഭരിക്കുന്നു. മുൻ പതിപ്പുകളിലെ ഓട്ടോമാറ്റിക് ഇൻസ്റ്റാളേഷൻ സേവന വിവരങ്ങൾക്കായി 100MB xfs പാർട്ടീഷൻ സൃഷ്ടിച്ചു. ഞാൻ ഡിസ്ക് MBR-ലേക്ക് പരിവർത്തനം ചെയ്യുകയും 16MB മാത്രം അനുവദിച്ചു - സേവനം പരാതിപ്പെടുന്നില്ല. ഒരു പ്രശ്നവുമില്ലാതെ xfs മാറ്റി പകരം വയ്ക്കാൻ കഴിയുമെന്ന് ഞാൻ കരുതുന്നു. ഈ പാർട്ടീഷൻ /var/lib/...-ൽ മൌണ്ട് ചെയ്തിരിക്കുന്നു, അവിടെ സേവനം OSD-യെ കുറിച്ചുള്ള വിവരങ്ങൾ വായിക്കുകയും ബൈനറി ഡാറ്റ സംഭരിച്ചിരിക്കുന്ന ബ്ലോക്ക് ഉപകരണത്തിലേക്കുള്ള ഒരു റഫറൻസ് കണ്ടെത്തുകയും ചെയ്യുന്നു. സൈദ്ധാന്തികമായി, നിങ്ങൾക്ക് ഉടനടി സഹായ ഫയലുകൾ /var/lib/... എന്നതിൽ സ്ഥാപിക്കുകയും ഡാറ്റയ്ക്കായി മുഴുവൻ ഡിസ്കും അനുവദിക്കുകയും ചെയ്യാം. ceph-deploy വഴി ഒരു OSD സൃഷ്‌ടിക്കുമ്പോൾ, /var/lib/...-ൽ പാർട്ടീഷൻ മൌണ്ട് ചെയ്യുന്നതിനായി ഒരു റൂൾ സ്വയമേവ സൃഷ്‌ടിക്കപ്പെടുന്നു, കൂടാതെ സെഫ് ഉപയോക്താവിന് ആവശ്യമുള്ള ബ്ലോക്ക് ഉപകരണം വായിക്കാനുള്ള അവകാശവും നൽകപ്പെടുന്നു. നിങ്ങൾ സ്വമേധയാ ഇൻസ്റ്റാൾ ചെയ്യുകയാണെങ്കിൽ, നിങ്ങൾ ഇത് സ്വയം ചെയ്യണം; ഡോക്യുമെന്റേഷൻ ഇത് പറയുന്നില്ല. ആവശ്യത്തിന് ഫിസിക്കൽ മെമ്മറി ഉണ്ടാകുന്നതിനായി osd മെമ്മറി ടാർഗെറ്റ് പാരാമീറ്റർ വ്യക്തമാക്കുന്നതും ഉചിതമാണ്.

ceph-mds. താഴ്ന്ന നിലയിൽ, CEPH എന്നത് ഒബ്ജക്റ്റ് സ്റ്റോറേജ് ആണ്. ഓരോ 4MB ബ്ലോക്കും ഒരു ഒബ്‌ജക്‌റ്റായി സംഭരിക്കുന്നതിന് ബ്ലോക്ക് സംഭരണ ​​ശേഷി കുറയുന്നു. ഫയൽ സംഭരണം അതേ തത്വത്തിലാണ് പ്രവർത്തിക്കുന്നത്. രണ്ട് പൂളുകൾ സൃഷ്ടിച്ചിരിക്കുന്നു: ഒന്ന് മെറ്റാഡാറ്റയ്‌ക്കായി, മറ്റൊന്ന് ഡാറ്റയ്‌ക്കായി. അവ ഒരു ഫയൽ സിസ്റ്റമായി സംയോജിപ്പിച്ചിരിക്കുന്നു. ഈ നിമിഷം, ഒരു തരത്തിലുള്ള റെക്കോർഡ് സൃഷ്ടിക്കപ്പെടുന്നു, അതിനാൽ നിങ്ങൾ ഫയൽ സിസ്റ്റം ഇല്ലാതാക്കുകയാണെങ്കിൽ, എന്നാൽ രണ്ട് പൂളുകളും സൂക്ഷിക്കുകയാണെങ്കിൽ, നിങ്ങൾക്ക് അത് പുനഃസ്ഥാപിക്കാൻ കഴിയില്ല. ബ്ലോക്കുകൾ ഉപയോഗിച്ച് ഫയലുകൾ എക്‌സ്‌ട്രാക്റ്റുചെയ്യുന്നതിനുള്ള ഒരു നടപടിക്രമമുണ്ട്, ഞാൻ അത് പരീക്ഷിച്ചിട്ടില്ല. ഫയൽ സിസ്റ്റത്തിലേക്കുള്ള പ്രവേശനത്തിന് ceph-mds സേവനം ഉത്തരവാദിയാണ്. ഓരോ ഫയൽ സിസ്റ്റത്തിനും സേവനത്തിന്റെ ഒരു പ്രത്യേക ഉദാഹരണം ആവശ്യമാണ്. ഒരു "ഇൻഡക്സ്" ഓപ്ഷൻ ഉണ്ട്, അത് ഒന്നിൽ നിരവധി ഫയൽ സിസ്റ്റങ്ങളുടെ സമാനത സൃഷ്ടിക്കാൻ നിങ്ങളെ അനുവദിക്കുന്നു - പരീക്ഷിച്ചിട്ടില്ല.

Ceph-mon - ഈ സേവനം ക്ലസ്റ്ററിന്റെ ഒരു മാപ്പ് സംഭരിക്കുന്നു. ഇതിൽ എല്ലാ OSD-കളെയും കുറിച്ചുള്ള വിവരങ്ങൾ, OSD-കളിൽ PG-കൾ വിതരണം ചെയ്യുന്നതിനുള്ള ഒരു അൽഗോരിതം, ഏറ്റവും പ്രധാനമായി, എല്ലാ ഒബ്ജക്റ്റുകളെ കുറിച്ചുള്ള വിവരങ്ങളും ഉൾപ്പെടുന്നു (ഈ മെക്കാനിസത്തിന്റെ വിശദാംശങ്ങൾ എനിക്ക് വ്യക്തമല്ല: ഒരു ഡയറക്ടറി ഉണ്ട് /var/lib/ceph/mon/.../ store.db, അതിൽ ഒരു വലിയ ഫയൽ അടങ്ങിയിരിക്കുന്നു, 26K ഒബ്‌ജക്‌റ്റുകളുടെ ഒരു ക്ലസ്റ്ററിൽ, ഇത് ഒരു ഒബ്‌ജക്‌റ്റിന് 105 ബൈറ്റിലധികം ആയി മാറുന്നു - മോണിറ്റർ എല്ലാ ഒബ്‌ജക്‌റ്റുകളുടെയും പിജികളുടെയും ഒരു ലിസ്റ്റ് സംഭരിക്കുന്നുണ്ടെന്ന് ഞാൻ കരുതുന്നു. അവ സ്ഥിതിചെയ്യുന്നു). ഈ ഡയറക്ടറിയിലെ കേടുപാടുകൾ ക്ലസ്റ്ററിലെ എല്ലാ ഡാറ്റയും നഷ്‌ടപ്പെടുന്നതിന് കാരണമാകുന്നു. അതിനാൽ OSD-യിൽ PG-കൾ എങ്ങനെ സ്ഥിതിചെയ്യുന്നുവെന്നും PG-കളിൽ ഒബ്‌ജക്റ്റുകൾ എങ്ങനെ സ്ഥിതിചെയ്യുന്നുവെന്നും ക്രഷ് കാണിക്കുന്നു എന്ന നിഗമനത്തിലെത്തി - ഡെവലപ്പർമാർ ഈ വാക്ക് എത്രമാത്രം ഒഴിവാക്കിയാലും അവ ഡാറ്റാബേസിനുള്ളിൽ കേന്ദ്രീകൃതമായി സംഭരിച്ചിരിക്കുന്നു. തൽഫലമായി, ഒന്നാമതായി, ഞങ്ങൾക്ക് RO മോഡിൽ ഒരു ഫ്ലാഷ് ഡ്രൈവിൽ സിസ്റ്റം ഇൻസ്റ്റാൾ ചെയ്യാൻ കഴിയില്ല, കാരണം ഡാറ്റാബേസ് നിരന്തരം റെക്കോർഡ് ചെയ്യുന്നതിനാൽ, ഇവയ്ക്ക് ഒരു അധിക ഡിസ്ക് ആവശ്യമാണ് (256 GB-യിൽ കൂടുതൽ), രണ്ടാമതായി, അത് ആവശ്യമാണ് ഈ അടിസ്ഥാനം തത്സമയം പകർത്തുക. നിരവധി മോണിറ്ററുകൾ ഉണ്ടെങ്കിൽ, തെറ്റ് സഹിഷ്ണുത യാന്ത്രികമായി ഉറപ്പാക്കപ്പെടും, എന്നാൽ ഞങ്ങളുടെ കാര്യത്തിൽ ഒരു മോണിറ്റർ മാത്രമേയുള്ളൂ, പരമാവധി രണ്ട്. OSD ഡാറ്റയെ അടിസ്ഥാനമാക്കി ഒരു മോണിറ്റർ പുനഃസ്ഥാപിക്കുന്നതിന് ഒരു സൈദ്ധാന്തിക നടപടിക്രമമുണ്ട്, വിവിധ കാരണങ്ങളാൽ ഞാൻ മൂന്ന് തവണ അത് അവലംബിച്ചു, മൂന്ന് തവണ പിശക് സന്ദേശങ്ങൾ ഇല്ല, അതുപോലെ തന്നെ ഡാറ്റയും ഇല്ല. നിർഭാഗ്യവശാൽ, ഈ സംവിധാനം പ്രവർത്തിക്കുന്നില്ല. ഒന്നുകിൽ ഞങ്ങൾ OSD-യിൽ ഒരു മിനിയേച്ചർ പാർട്ടീഷൻ പ്രവർത്തിപ്പിക്കുകയും ഡാറ്റാബേസ് സംഭരിക്കുന്നതിന് ഒരു റെയിഡ് കൂട്ടിച്ചേർക്കുകയും ചെയ്യുന്നു, അത് തീർച്ചയായും പ്രകടനത്തെ വളരെ മോശമായി ബാധിക്കും, അല്ലെങ്കിൽ പോർട്ടുകൾ കൈവശം വയ്ക്കാതിരിക്കാൻ ഞങ്ങൾ കുറഞ്ഞത് രണ്ട് വിശ്വസനീയമായ ഫിസിക്കൽ മീഡിയ, വെയിലത്ത് USB എന്നിവ അനുവദിക്കും.

rados-gw - S3 പ്രോട്ടോക്കോൾ വഴിയും സമാനമായി ഒബ്ജക്റ്റ് സ്റ്റോറേജ് കയറ്റുമതി ചെയ്യുന്നു. നിരവധി കുളങ്ങൾ സൃഷ്ടിക്കുന്നു, എന്തുകൊണ്ടെന്ന് വ്യക്തമല്ല. ഞാൻ അധികം പരീക്ഷണം നടത്തിയില്ല.

ceph-mgr - ഈ സേവനം ഇൻസ്റ്റാൾ ചെയ്യുമ്പോൾ, നിരവധി മൊഡ്യൂളുകൾ സമാരംഭിക്കുന്നു. അവയിലൊന്ന് പ്രവർത്തനരഹിതമാക്കാൻ കഴിയാത്ത ഓട്ടോസ്‌കെയിൽ ആണ്. PG/OSD യുടെ ശരിയായ അളവ് നിലനിർത്താൻ ഇത് ശ്രമിക്കുന്നു. നിങ്ങൾക്ക് അനുപാതം സ്വമേധയാ നിയന്ത്രിക്കണമെങ്കിൽ, ഓരോ പൂളിനും സ്കെയിലിംഗ് പ്രവർത്തനരഹിതമാക്കാം, എന്നാൽ ഈ സാഹചര്യത്തിൽ മൊഡ്യൂൾ 0 കൊണ്ട് വിഭജിച്ച് ക്രാഷുചെയ്യുന്നു, കൂടാതെ ക്ലസ്റ്റർ നില പിശകായി മാറുന്നു. മൊഡ്യൂൾ പൈത്തണിൽ എഴുതിയിരിക്കുന്നു, അതിൽ ആവശ്യമായ വരി നിങ്ങൾ അഭിപ്രായമിടുകയാണെങ്കിൽ, ഇത് അത് പ്രവർത്തനരഹിതമാക്കുന്നതിലേക്ക് നയിക്കുന്നു. വിശദാംശങ്ങൾ ഓർക്കാൻ മടി.

ഉപയോഗിച്ച ഉറവിടങ്ങളുടെ പട്ടിക:

CEPH ന്റെ ഇൻസ്റ്റാളേഷൻ
പൂർണ്ണമായ മോണിറ്റർ പരാജയത്തിൽ നിന്ന് വീണ്ടെടുക്കൽ

സ്ക്രിപ്റ്റ് ലിസ്റ്റിംഗുകൾ:

debootstrap വഴി സിസ്റ്റം ഇൻസ്റ്റോൾ ചെയ്യുന്നു

blkdev=sdb1
mkfs.btrfs -f /dev/$blkdev
mount /dev/$blkdev /mnt
cd /mnt
for i in {@,@var,@home}; do btrfs subvolume create $i; done
mkdir snapshot @/{var,home}
for i in {var,home}; do mount -o bind @${i} @/$i; done
debootstrap buster @ http://deb.debian.org/debian; echo $?
for i in {dev,proc,sys}; do mount -o bind /$i @/$i; done
cp /etc/bash.bashrc @/etc/

chroot /mnt/@ /bin/bash
echo rbd1 > /etc/hostname
passwd
uuid=`blkid | grep $blkdev | cut -d """ -f 2`
cat << EOF > /etc/fstab
UUID=$uuid / btrfs noatime,nodiratime,subvol=@ 0 1
UUID=$uuid /var btrfs noatime,nodiratime,subvol=@var 0 2
UUID=$uuid /home btrfs noatime,nodiratime,subvol=@home 0 2
EOF
cat << EOF >> /var/lib/dpkg/status
Package: lvm2
Status: install ok installed
Priority: important
Section: admin
Installed-Size: 0
Maintainer: Debian Adduser Developers <[email protected]>
Architecture: all
Multi-Arch: foreign
Version: 113.118
Description: No-install

Package: sudo
Status: install ok installed
Priority: important
Section: admin
Installed-Size: 0
Maintainer: Debian Adduser Developers <[email protected]>
Architecture: all
Multi-Arch: foreign
Version: 113.118
Description: No-install
EOF

exit
grub-install --boot-directory=@/boot/ /dev/$blkdev
init 6

apt -yq install --no-install-recommends linux-image-amd64 bash-completion ed btrfs-progs grub-pc iproute2 ssh  smartmontools ntfs-3g net-tools man
exit
grub-install --boot-directory=@/boot/ /dev/$blkdev
init 6

ഒരു ക്ലസ്റ്റർ ഉണ്ടാക്കുക

apt -yq install --no-install-recommends gnupg wget ca-certificates
echo 'deb https://download.ceph.com/debian-octopus/ buster main' >> /etc/apt/sources.list
wget -q -O- 'https://download.ceph.com/keys/release.asc' | apt-key add -
apt update
apt -yq install --no-install-recommends ceph-common ceph-mon

echo 192.168.11.11 rbd1 >> /etc/hosts
uuid=`cat /proc/sys/kernel/random/uuid`
cat << EOF > /etc/ceph/ceph.conf
[global]
fsid = $uuid
auth cluster required = cephx
auth service required = cephx
auth client required = cephx
mon allow pool delete = true
mon host = 192.168.11.11
mon initial members = rbd1
mon max pg per osd = 385
osd crush update on start = false
#osd memory target = 2147483648
osd memory target = 1610612736
osd scrub chunk min = 1
osd scrub chunk max = 2
osd scrub sleep = .2
osd pool default pg autoscale mode = off
osd pool default size = 1
osd pool default min size = 1
osd pool default pg num = 1
osd pool default pgp num = 1
[mon]
mgr initial modules = dashboard
EOF

ceph-authtool --create-keyring ceph.mon.keyring --gen-key -n mon. --cap mon 'allow *'
ceph-authtool --create-keyring ceph.client.admin.keyring --gen-key -n client.admin --cap mon 'allow *' --cap osd 'allow *' --cap mds 'allow *' --cap mgr 'allow *'
cp ceph.client.admin.keyring /etc/ceph/
ceph-authtool --create-keyring bootstrap-osd.ceph.keyring --gen-key -n client.bootstrap-osd --cap mon 'profile bootstrap-osd' --cap mgr 'allow r'
cp bootstrap-osd.ceph.keyring /var/lib/ceph/bootstrap-osd/ceph.keyring
ceph-authtool ceph.mon.keyring --import-keyring /etc/ceph/ceph.client.admin.keyring
ceph-authtool ceph.mon.keyring --import-keyring /var/lib/ceph/bootstrap-osd/ceph.keyring
monmaptool --create --add rbd1 192.168.11.11 --fsid $uuid monmap
rm -R /var/lib/ceph/mon/ceph-rbd1/*
ceph-mon --mkfs -i rbd1 --monmap monmap --keyring ceph.mon.keyring
chown ceph:ceph -R /var/lib/ceph
systemctl enable ceph-mon@rbd1
systemctl start ceph-mon@rbd1
ceph mon enable-msgr2
ceph status

# dashboard

apt -yq install --no-install-recommends ceph-mgr ceph-mgr-dashboard python3-distutils python3-yaml
mkdir /var/lib/ceph/mgr/ceph-rbd1
ceph auth get-or-create mgr.rbd1 mon 'allow profile mgr' osd 'allow *' mds 'allow *' > /var/lib/ceph/mgr/ceph-rbd1/keyring
systemctl enable ceph-mgr@rbd1
systemctl start ceph-mgr@rbd1
ceph config set mgr mgr/dashboard/ssl false
ceph config set mgr mgr/dashboard/server_port 7000
ceph dashboard ac-user-create root 1111115 administrator
systemctl stop ceph-mgr@rbd1
systemctl start ceph-mgr@rbd1

OSD ചേർക്കുന്നു (ഭാഗം)

apt install ceph-osd

osdnum=`ceph osd create`
mkdir -p /var/lib/ceph/osd/ceph-$osdnum
mkfs -t xfs /dev/sda1
mount -t xfs /dev/sda1 /var/lib/ceph/osd/ceph-$osdnum
cd /var/lib/ceph/osd/ceph-$osdnum
ceph auth get-or-create osd.0 mon 'profile osd' mgr 'profile osd' osd 'allow *' > /var/lib/ceph/osd/ceph-$osdnum/keyring
ln -s /dev/disk/by-partuuid/d8cc3da6-02  block
ceph-osd -i $osdnum --mkfs
#chown ceph:ceph /dev/sd?2
chown ceph:ceph -R /var/lib/ceph
systemctl enable ceph-osd@$osdnum
systemctl start ceph-osd@$osdnum

സംഗ്രഹം

CEPH ന്റെ പ്രധാന മാർക്കറ്റിംഗ് നേട്ടം ക്രഷ് ആണ് - ഡാറ്റയുടെ സ്ഥാനം കണക്കാക്കുന്നതിനുള്ള ഒരു അൽഗോരിതം. മോണിറ്ററുകൾ ഈ അൽഗോരിതം ക്ലയന്റുകൾക്ക് വിതരണം ചെയ്യുന്നു, അതിനുശേഷം ക്ലയന്റുകൾ നേരിട്ട് ആവശ്യമുള്ള നോഡും ആവശ്യമുള്ള OSD-യും അഭ്യർത്ഥിക്കുന്നു. ക്രഷ് കേന്ദ്രീകരണമില്ലെന്ന് ഉറപ്പാക്കുന്നു. നിങ്ങൾക്ക് പ്രിന്റ് എടുത്ത് ചുമരിൽ തൂക്കിയിടാൻ പോലും കഴിയുന്ന ഒരു ചെറിയ ഫയലാണിത്. ക്രഷ് ഒരു സമഗ്രമായ ഭൂപടമല്ലെന്ന് പ്രാക്ടീസ് തെളിയിച്ചിട്ടുണ്ട്. നിങ്ങൾ മോണിറ്ററുകൾ നശിപ്പിച്ച് പുനർനിർമ്മിക്കുകയാണെങ്കിൽ, എല്ലാ ഒഎസ്ഡിയും ക്രഷും നിലനിർത്തിയാൽ, ക്ലസ്റ്റർ പുനഃസ്ഥാപിക്കാൻ ഇത് പര്യാപ്തമല്ല. ഇതിൽ നിന്ന് ഓരോ മോണിറ്ററും മുഴുവൻ ക്ലസ്റ്ററിനെയും കുറിച്ചുള്ള ചില മെറ്റാഡാറ്റകൾ സംഭരിക്കുന്നു എന്നാണ് നിഗമനം. ഈ മെറ്റാഡാറ്റയുടെ ചെറിയ തുക ക്ലസ്റ്ററിന്റെ വലുപ്പത്തിൽ നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്തുന്നില്ല, പക്ഷേ അവയുടെ സുരക്ഷ ഉറപ്പാക്കേണ്ടതുണ്ട്, ഇത് ഒരു ഫ്ലാഷ് ഡ്രൈവിൽ സിസ്റ്റം ഇൻസ്റ്റാൾ ചെയ്യുന്നതിലൂടെ ഡിസ്ക് സേവിംഗ്സ് ഇല്ലാതാക്കുകയും മൂന്നിൽ താഴെ നോഡുകളുള്ള ക്ലസ്റ്ററുകൾ ഒഴിവാക്കുകയും ചെയ്യുന്നു. ഓപ്ഷണൽ ഫീച്ചറുകൾ സംബന്ധിച്ച ഡെവലപ്പറുടെ ആക്രമണാത്മക നയം. മിനിമലിസത്തിൽ നിന്ന് വളരെ അകലെ. ഡോക്യുമെന്റേഷൻ "ഞങ്ങളുടെ പക്കലുള്ളതിന് നന്ദി, പക്ഷേ ഇത് വളരെ തുച്ഛമാണ്" എന്ന തലത്തിലാണ്. താഴ്ന്ന തലത്തിൽ സേവനങ്ങളുമായി സംവദിക്കാനുള്ള കഴിവ് നൽകിയിട്ടുണ്ട്, എന്നാൽ ഡോക്യുമെന്റേഷൻ ഈ വിഷയത്തെ വളരെ ഉപരിപ്ലവമായി സ്പർശിക്കുന്നു, അതിനാൽ ഇത് അതെ എന്നതിനേക്കാൾ ഇല്ല എന്നതായിരിക്കും. അടിയന്തിര സാഹചര്യങ്ങളിൽ നിന്ന് ഡാറ്റ വീണ്ടെടുക്കാൻ പ്രായോഗികമായി ഒരു സാധ്യതയുമില്ല.

തുടർ പ്രവർത്തനത്തിനുള്ള ഓപ്‌ഷനുകൾ: CEPH ഉപേക്ഷിച്ച് ബാനൽ മൾട്ടി-ഡിസ്‌ക് btrfs (അല്ലെങ്കിൽ xfs, zfs) ഉപയോഗിക്കുക, CEPH നെക്കുറിച്ചുള്ള പുതിയ വിവരങ്ങൾ കണ്ടെത്തുക, ഇത് നിർദ്ദിഷ്ട വ്യവസ്ഥകളിൽ ഇത് പ്രവർത്തിപ്പിക്കാൻ നിങ്ങളെ അനുവദിക്കും, നിങ്ങളുടെ സ്വന്തം സംഭരണം വിപുലമായതായി എഴുതാൻ ശ്രമിക്കുക പരിശീലനം.

അവലംബം: www.habr.com