મફત સાધનો સાથે હજારો વર્ચ્યુઅલ મશીનો માટે બેકઅપ સ્ટોરેજ

નમસ્તે, મને તાજેતરમાં એક રસપ્રદ કાર્યનો સામનો કરવો પડ્યો: મોટી સંખ્યામાં બ્લોક ઉપકરણોનો બેકઅપ લેવા માટે સ્ટોરેજ સેટ કરવું.

અમે દર અઠવાડિયે અમારા ક્લાઉડમાં બધા વર્ચ્યુઅલ મશીનોનો બેકઅપ લઈએ છીએ, તેથી અમારે હજારો બેકઅપ્સનું સંચાલન કરવાની અને તે શક્ય તેટલી ઝડપથી અને કાર્યક્ષમ રીતે કરવાની જરૂર છે.

કમનસીબે, માનક રૂપરેખાંકનો RAID5, RAID6 આ કિસ્સામાં, તેઓ આ કરવા માંગશે નહીં કારણ કે આપણા જેવા મોટા ડિસ્ક પર પુનઃપ્રાપ્તિ પ્રક્રિયા ખૂબ જ લાંબી હશે અને સંભવતઃ ક્યારેય સમાપ્ત થશે નહીં.

ચાલો વિચાર કરીએ કે કયા વિકલ્પો છે:

ઇરેઝર કોડિંગ — RAID5 અને RAID6 જેવું જ, પરંતુ રૂપરેખાંકિત પેરિટી સ્તર સાથે. આ કિસ્સામાં, રીડન્ડન્સી બ્લોક-બાય-બ્લોક આધારે નહીં, પરંતુ પ્રતિ-ઑબ્જેક્ટ આધારે કરવામાં આવે છે. ઇરેઝર કોડિંગનો પ્રયાસ કરવાનો સૌથી સરળ રસ્તો એ છે કે ડિપ્લોય કરો મિનિઓ.

DRAID — આ હાલમાં પ્રકાશિત ન થયેલ ZFS સુવિધા છે. RAIDZ થી વિપરીત, DRAID માં વિતરિત પેરિટી બ્લોક છે અને તે પુનઃપ્રાપ્તિ દરમિયાન એરેમાંની બધી ડિસ્કનો ઉપયોગ કરે છે, જે તેને ડિસ્ક નિષ્ફળતાઓ માટે વધુ સ્થિતિસ્થાપક બનાવે છે અને ક્રેશ પછી ઝડપથી પુનઃપ્રાપ્ત થાય છે.

સર્વર ઉપલબ્ધ છે. ફુજીત્સુ પ્રાઈમર્જી RX300 S7 પ્રોસેસર સાથે ઇન્ટેલ ક્ઝેઓન સીપીયુ E5-2650L 0 @ 1.80GHz, નવ રેમ મોડ્યુલો સેમસંગ DDR3-1333 8Gb PC3L-10600R ECC રજિસ્ટર્ડ (M393B1K70DH0-YH9), ડિસ્ક શેલ્ફ સુપરમાઈક્રો સુપરચેસિસ 847E26-RJBOD1, દ્વારા જોડાયેલ ડ્યુઅલ LSI SAS2X36 એક્સપાન્ડર અને 45 ડિસ્ક સીગેજ ST6000NM0115-1YZ110 પર 6TB દરેક

કંઈપણ નક્કી કરતા પહેલા, આપણે પહેલા બધું યોગ્ય રીતે ચકાસવાની જરૂર છે.

આ કરવા માટે, મેં વિવિધ રૂપરેખાંકનો તૈયાર કર્યા અને તેનું પરીક્ષણ કર્યું. આ માટે, મેં minio નો ઉપયોગ કર્યો, જે S3 બેકએન્ડ તરીકે કામ કરતો હતો અને તેને વિવિધ મોડમાં વિવિધ લક્ષ્યો સાથે ચલાવતો હતો.

મિનીયો કેસ મુખ્યત્વે ઇરેઝર કોડિંગ વિરુદ્ધ સોફ્ટવેર રેઇડમાં સમાન સંખ્યામાં ડિસ્ક અને પેરિટી ડિસ્ક સાથે પરીક્ષણ કરવામાં આવ્યો હતો, જેમ કે: RAID6, RAIDZ2 અને DRAID2.

સંદર્ભ માટે: જ્યારે તમે ફક્ત એક જ લક્ષ્ય સાથે minio ચલાવો છો, ત્યારે minio S3 ગેટવે મોડમાં કાર્ય કરે છે, જે તમારી સ્થાનિક ફાઇલ સિસ્ટમને S3 સ્ટોરેજ તરીકે સેવા આપે છે. જો તમે બહુવિધ લક્ષ્યો સાથે minio ચલાવો છો, તો Erasure કોડિંગ મોડ આપમેળે સક્ષમ થાય છે, જે તમારા લક્ષ્યો પર ડેટા ફેલાવશે, ફોલ્ટ ટોલરન્સ પ્રદાન કરશે.

ડિફૉલ્ટ રૂપે, મિનીઓ લક્ષ્યોને 16 ડિસ્કના જૂથોમાં વિભાજીત કરે છે, જેમાં દરેક જૂથમાં બે પેરિટી ડિસ્ક હોય છે. આનો અર્થ એ છે કે ડેટા ગુમાવ્યા વિના બે ડિસ્ક એકસાથે નિષ્ફળ થઈ શકે છે.

પ્રદર્શન પરીક્ષણ માટે, મેં 16 ડિસ્કનો ઉપયોગ કર્યો, દરેક 6 TB, અને તેમાં 1 MB ના નાના ઑબ્જેક્ટ લખ્યા. આ અમારા ભાવિ વર્કલોડનું સચોટ વર્ણન કરે છે, કારણ કે બધા આધુનિક બેકઅપ ટૂલ્સ ડેટાને ઘણા મેગાબાઇટ્સના બ્લોકમાં વિભાજીત કરે છે અને તેમને તે રીતે લખે છે.

બેન્ચમાર્ક ચલાવવા માટે, s3bench યુટિલિટી રિમોટ સર્વર પર ચલાવવામાં આવી હતી, જેમાં સેંકડો થ્રેડોમાં આવા હજારો ઑબ્જેક્ટ્સ minio ને મોકલવામાં આવ્યા હતા. પછી તેણે તે જ રીતે તેમને પાછા વિનંતી કરવાનો પ્રયાસ કર્યો.

બેન્ચમાર્ક પરિણામો નીચેના કોષ્ટકમાં દર્શાવવામાં આવ્યા છે:

જેમ આપણે જોઈ શકીએ છીએ, નેટિવ ઇરેઝર કોડિંગ મોડમાં મિનિયો, RAID6, RAIDZ2 અને DRAID2 સોફ્ટવેર પર સમાન રૂપરેખાંકનમાં ચાલતા મિનિયો કરતા રાઇટ પર નોંધપાત્ર રીતે ખરાબ પ્રદર્શન કરે છે.

અલગથી મને પૂછ્યું મેં ext4 વિરુદ્ધ XFS પર minio નું પરીક્ષણ કર્યું. આશ્ચર્યજનક રીતે, મારા પ્રકારના વર્કલોડ માટે, XFS ext4 કરતા નોંધપાત્ર રીતે ધીમું બહાર આવ્યું.

પરીક્ષણોના પહેલા બેચમાં, Mdadm એ ZFS કરતાં શ્રેષ્ઠતા દર્શાવી, પરંતુ પછીથી ગ્મેલીકોવ સૂચવ્યું, કે તમે નીચેના વિકલ્પો સેટ કરીને ZFS પ્રદર્શન સુધારી શકો છો:

xattr=sa atime=off recordsize=1M

અને તે પછી ZFS સાથેના પરીક્ષણો ઘણા સારા બન્યા.

તમે એ પણ નોંધી શકો છો કે DRAID RAIDZ ની તુલનામાં કોઈ નોંધપાત્ર પ્રદર્શન લાભ પ્રદાન કરતું નથી, પરંતુ સિદ્ધાંતમાં તે વધુ સુરક્ષિત હોવું જોઈએ.

છેલ્લા બે પરીક્ષણોમાં, મેં મેટાડેટા (સ્પેશિયલ) અને ZIL (લોગ) ને SSD મિરરમાં ખસેડવાનો પણ પ્રયાસ કર્યો. પરંતુ મેટાડેટા ખસેડવાથી લખવાની ગતિમાં બહુ ફાયદો થયો નહીં, અને ZIL ને ખસેડવાથી પરિણામ આવ્યું SSDSC2KI128G8 નો પરિચય અમે ૧૦૦% ઉપયોગિતા સાથે ટોચ પર પહોંચ્યા છીએ, તેથી હું આ પરીક્ષણને નિષ્ફળ માનું છું. હું નકારી શકતો નથી કે જો મારી પાસે ઝડપી SSD ડ્રાઇવ હોત, તો મારા પરિણામોમાં નોંધપાત્ર સુધારો થયો હોત, પરંતુ કમનસીબે, મારી પાસે તે નહોતા.

અંતે, મેં DRAID નો ઉપયોગ બંધ કરવાનો નિર્ણય લીધો અને તેના બીટા સ્ટેટસ હોવા છતાં, તે અમારા કિસ્સામાં સૌથી ઝડપી અને સૌથી કાર્યક્ષમ સ્ટોરેજ સોલ્યુશન છે.

મેં ત્રણ જૂથો અને બે વિતરિત સ્પેરપાર્ટ્સ સાથે રૂપરેખાંકનમાં એક સરળ DRAID2 બનાવ્યું:

# zpool status data
  pool: data
 state: ONLINE
  scan: none requested
config:

    NAME                 STATE     READ WRITE CKSUM
    data                 ONLINE       0     0     0
      draid2:3g:2s-0     ONLINE       0     0     0
        sdy              ONLINE       0     0     0
        sdam             ONLINE       0     0     0
        sdf              ONLINE       0     0     0
        sdau             ONLINE       0     0     0
        sdab             ONLINE       0     0     0
        sdo              ONLINE       0     0     0
        sdw              ONLINE       0     0     0
        sdak             ONLINE       0     0     0
        sdd              ONLINE       0     0     0
        sdas             ONLINE       0     0     0
        sdm              ONLINE       0     0     0
        sdu              ONLINE       0     0     0
        sdai             ONLINE       0     0     0
        sdaq             ONLINE       0     0     0
        sdk              ONLINE       0     0     0
        sds              ONLINE       0     0     0
        sdag             ONLINE       0     0     0
        sdi              ONLINE       0     0     0
        sdq              ONLINE       0     0     0
        sdae             ONLINE       0     0     0
        sdz              ONLINE       0     0     0
        sdan             ONLINE       0     0     0
        sdg              ONLINE       0     0     0
        sdac             ONLINE       0     0     0
        sdx              ONLINE       0     0     0
        sdal             ONLINE       0     0     0
        sde              ONLINE       0     0     0
        sdat             ONLINE       0     0     0
        sdaa             ONLINE       0     0     0
        sdn              ONLINE       0     0     0
        sdv              ONLINE       0     0     0
        sdaj             ONLINE       0     0     0
        sdc              ONLINE       0     0     0
        sdar             ONLINE       0     0     0
        sdl              ONLINE       0     0     0
        sdt              ONLINE       0     0     0
        sdah             ONLINE       0     0     0
        sdap             ONLINE       0     0     0
        sdj              ONLINE       0     0     0
        sdr              ONLINE       0     0     0
        sdaf             ONLINE       0     0     0
        sdao             ONLINE       0     0     0
        sdh              ONLINE       0     0     0
        sdp              ONLINE       0     0     0
        sdad             ONLINE       0     0     0
    spares
      s0-draid2:3g:2s-0  AVAIL   
      s1-draid2:3g:2s-0  AVAIL   

errors: No known data errors

ઠીક છે, આપણે સ્ટોરેજ કવર કરી લીધું છે, હવે આપણે શેનો બેકઅપ લઈશું તે વિશે વાત કરીએ. હું હમણાં અજમાવેલા ત્રણ ઉકેલો શેર કરવા માંગુ છું:

બેનજી બેકઅપ - કાંટો બેકાય2, એક વિશિષ્ટ બ્લોક ડિવાઇસ બેકઅપ સોલ્યુશન, Ceph સાથે ચુસ્ત એકીકરણ ધરાવે છે. તે સ્નેપશોટ વચ્ચેના તફાવતોને કાઢી શકે છે અને તેમાંથી વધારાનું બેકઅપ બનાવી શકે છે. તે સ્થાનિક અને S3 બંને સહિત સ્ટોરેજ બેકએન્ડની વિશાળ શ્રેણીને સપોર્ટ કરે છે. ડિડુપ્લિકેશન હેશ ટેબલ સ્ટોર કરવા માટે તેને એક અલગ ડેટાબેઝની જરૂર છે. ગેરફાયદા: તે પાયથોનમાં લખાયેલ છે અને તેમાં કંઈક અંશે પ્રતિભાવહીન ક્લિયરન્સ છે.

બોર્ગ બેકઅપ - કાંટો એટિક, એક લાંબા સમયથી જાણીતું અને સાબિત બેકઅપ ટૂલ, ડેટાનો બેકઅપ લઈ શકે છે અને તેને સારી રીતે ડિડુપ્લિકેટ કરી શકે છે. તે સ્થાનિક રીતે અને scp દ્વારા રિમોટ સર્વર પર બેકઅપ સાચવી શકે છે. જો ફ્લેગ સાથે ચલાવવામાં આવે તો તે બ્લોક ડિવાઇસનો બેકઅપ લઈ શકે છે. --specialએક ખામી: બેકઅપ બનાવતી વખતે, રીપોઝીટરી સંપૂર્ણપણે લોક થઈ જાય છે, તેથી દરેક વર્ચ્યુઅલ મશીન માટે એક અલગ રીપોઝીટરી બનાવવાની ભલામણ કરવામાં આવે છે. આ કોઈ સમસ્યા નથી, કારણ કે તે બનાવવા માટે સરળ છે.

રેસ્ટિક — Go માં લખાયેલ, સક્રિય રીતે વિકાસશીલ પ્રોજેક્ટ, ખૂબ ઝડપી છે અને સ્થાનિક સ્ટોરેજ, scp, S3 અને ઘણું બધું સહિત મોટી સંખ્યામાં સ્ટોરેજ બેકએન્ડને સપોર્ટ કરે છે. એ પણ નોંધનીય છે કે ત્યાં ખાસ બનાવેલ છે રેસ્ટ-સર્વર restic માટે, જે રિમોટ ઉપયોગ માટે સ્ટોરેજના સૌથી ઝડપી નિકાસની મંજૂરી આપે છે. ઉપરોક્ત બધામાંથી, મને આ સૌથી વધુ ગમ્યું. તે stdin માંથી બેકઅપ લઈ શકે છે. તેમાં લગભગ કોઈ નોંધપાત્ર ખામીઓ નથી, પરંતુ કેટલીક ખાસિયતો છે:

• પહેલા, મેં તેનો ઉપયોગ બધા VM (જેમ કે Benji) માટે શેર કરેલ રિપોઝીટરી તરીકે કરવાનો પ્રયાસ કર્યો, અને તે સારી રીતે કામ કર્યું, પરંતુ રિસ્ટોર કામગીરીમાં ઘણો સમય લાગ્યો કારણ કે રેસ્ટિક દરેક રિસ્ટોર પહેલાં બધા બેકઅપના મેટાડેટા વાંચવાનો પ્રયાસ કરે છે. બોર્ગની જેમ, દરેક VM માટે એક અલગ રિપોઝીટરી બનાવીને આ સમસ્યા સરળતાથી ઉકેલાઈ ગઈ. આ અભિગમ બેકઅપ મેનેજમેન્ટ માટે પણ ખૂબ અસરકારક સાબિત થયો. ડેટા એક્સેસ કરવા માટે અલગ રિપોઝીટરી અલગ પાસવર્ડ ધરાવી શકે છે, અને આપણે વૈશ્વિક રેપો બ્રેકિંગ વિશે ચિંતા કરવાની જરૂર નથી. નવા રિપોઝીટરી બનાવવા એ બોર્ગ બેકઅપ જેટલું જ સરળ છે.

  કોઈ પણ સંજોગોમાં, ડિડુપ્લિકેશન ફક્ત બેકઅપના પાછલા સંસ્કરણની તુલનામાં કરવામાં આવે છે, પાછલું બેકઅપ ઉલ્લેખિત બેકઅપ માટેના પાથ દ્વારા નક્કી કરવામાં આવે છે, તેથી જો તમે stdin થી સામાન્ય રિપોઝીટરી સુધી વિવિધ ઑબ્જેક્ટ્સનો બેકઅપ લઈ રહ્યા છો, તો વિકલ્પ સ્પષ્ટ કરવાનું ભૂલશો નહીં. --stdin-filename, અથવા દરેક વખતે સ્પષ્ટપણે વિકલ્પનો ઉલ્લેખ કરો --parent.

• બીજું, stdout માં પુનઃસ્થાપિત કરવામાં ફાઇલ સિસ્ટમમાં પુનઃસ્થાપિત કરવા કરતાં નોંધપાત્ર રીતે વધુ સમય લાગે છે કારણ કે તે સમાંતર પ્રકૃતિ ધરાવે છે. ભવિષ્યમાં, અમે બ્લોક ડિવાઇસ બેકઅપ માટે વધુ કડક સપોર્ટ ઉમેરવાની યોજના બનાવી રહ્યા છીએ.

• ત્રીજે સ્થાને, આ ક્ષણે તેનો ઉપયોગ કરવાની ભલામણ કરવામાં આવે છે માસ્ટરનું સંસ્કરણ, કારણ કે સંસ્કરણ 0.9.6 માં મોટી ફાઇલોની લાંબી પુનઃપ્રાપ્તિ સાથે બગ છે.

બેકઅપ કાર્યક્ષમતા અને બેકઅપ/રીસ્ટોર સ્પીડ ચકાસવા માટે, મેં એક અલગ રિપોઝીટરી બનાવી અને એક નાની વર્ચ્યુઅલ મશીન ઈમેજ (21 GB) નો બેકઅપ લેવાનો પ્રયાસ કર્યો. મેં મૂળમાં ફેરફાર કર્યા વિના બે બેકઅપ લીધા, સૂચિબદ્ધ દરેક સોલ્યુશનનો ઉપયોગ કરીને, કોપી કરેલા ડેટાની નકલ કેટલી ઝડપી/ધીમી થાય છે તે ચકાસવા માટે.

જેમ આપણે જોઈ શકીએ છીએ, બોર્ગ બેકઅપમાં શ્રેષ્ઠ પ્રારંભિક બેકઅપ કાર્યક્ષમતા ગુણોત્તર છે, પરંતુ લખવા અને પુનઃસ્થાપિત કરવાની ગતિ બંનેની દ્રષ્ટિએ તે ગુમાવે છે.

રેસ્ટિક બેનજી બેકઅપ કરતા ઝડપી હોવાનું બહાર આવ્યું, પરંતુ તેને stdout પર પુનઃસ્થાપિત કરવામાં વધુ સમય લાગે છે, અને કમનસીબે, તે હજુ સુધી બ્લોક ડિવાઇસ પર સીધું લખી શકતું નથી.

બધા ગુણદોષનું વજન કર્યા પછી, મેં સમાધાન કરવાનું નક્કી કર્યું રેસ્ટિક с રેસ્ટ-સર્વર સૌથી અનુકૂળ અને આશાસ્પદ બેકઅપ સોલ્યુશન તરીકે.

આ સ્ક્રીનકાસ્ટમાં, તમે જોઈ શકો છો કે 10 ગીગાબીટ ચેનલનો ઉપયોગ એકસાથે ચાલતા બહુવિધ બેકઅપ ઓપરેશન્સ દ્વારા કેવી રીતે થાય છે. એ નોંધવું યોગ્ય છે કે ડિસ્ક ઉપયોગ 30% થી વધુ થતો નથી.

મને મળેલા નિર્ણયથી હું ખૂબ જ સંતુષ્ટ હતો!

સોર્સ: www.habr.com