Yandex.Cloud-এ 1C-Bitrix-এ একটি সাইটের সাথে ইনক্রিমেন্টাল VDS ব্যাকআপ

আমার জন্য সাইটটির ব্যাকআপ 2C-Bitrix: Site Management এ দিনে 1 বার (ফাইল এবং mysql ডাটাবেস) এবং 90 দিনের জন্য পরিবর্তনের ইতিহাস সংরক্ষণ করা প্রয়োজন ছিল।

সাইটটি "7C-বিট্রিক্স: ওয়েব এনভায়রনমেন্ট" ইনস্টল সহ CentOS 1 চলমান একটি VDS-এ অবস্থিত। উপরন্তু, OS সেটিংসের একটি ব্যাকআপ কপি তৈরি করুন।

প্রয়োজনীয়তা:

• ফ্রিকোয়েন্সি - দিনে 2 বার;
• গত 90 দিনের জন্য কপি রাখুন;
• প্রয়োজনে একটি নির্দিষ্ট তারিখের জন্য পৃথক ফাইল পাওয়ার ক্ষমতা;
• ব্যাকআপ অবশ্যই ভিডিএস ছাড়া অন্য কোনো ডেটা সেন্টারে সংরক্ষণ করতে হবে;
• যেকোনো জায়গা থেকে ব্যাকআপ অ্যাক্সেস করার ক্ষমতা (অন্য সার্ভার, স্থানীয় কম্পিউটার, ইত্যাদি)।

একটি গুরুত্বপূর্ণ বিষয় ছিল অতিরিক্ত স্থান এবং সিস্টেম সংস্থানগুলির ন্যূনতম খরচ সহ দ্রুত ব্যাকআপ তৈরি করার ক্ষমতা।

এটি সম্পূর্ণ সিস্টেমের দ্রুত পুনরুদ্ধারের জন্য একটি স্ন্যাপশট সম্পর্কে নয়, কিন্তু ফাইল এবং ডাটাবেস এবং পরিবর্তনের ইতিহাস সম্পর্কে।

প্রাথমিক তথ্য:

• XEN ভার্চুয়ালাইজেশনে VDS;
• ওএস CentOS 7;
• 1C-বিট্রিক্স: ওয়েব পরিবেশ;
• সাইট ভিত্তিক "1C-বিট্রিক্স: সাইট ম্যানেজমেন্ট", স্ট্যান্ডার্ড সংস্করণ;
• ফাইলের আকার 50 গিগাবাইট এবং বাড়বে;
• ডাটাবেসের আকার 3 জিবি এবং বাড়বে।

1C-বিট্রিক্স-এ নির্মিত স্ট্যান্ডার্ড ব্যাকআপ - অবিলম্বে বাদ দেওয়া হয়েছে। এটি শুধুমাত্র ছোট সাইটগুলির জন্য উপযুক্ত, কারণ:

• প্রতিবার সাইটের একটি সম্পূর্ণ অনুলিপি তৈরি করে, যথাক্রমে, প্রতিটি অনুলিপি যতটা জায়গা নেবে আমি যতটা ফাইল গ্রহণ করি, আমার ক্ষেত্রে এটি 50 GB।
• পিএইচপি ব্যবহার করে ব্যাকআপ করা হয়, যা এই ধরনের ফাইলের সাথে অসম্ভব, এটি সার্ভারকে ওভারলোড করবে এবং শেষ হবে না।
• এবং অবশ্যই, একটি সম্পূর্ণ অনুলিপি সংরক্ষণ করার সময় কোনও 90 দিনের কথা বলা যাবে না।

যে সমাধানটি প্রদান করে হোস্টারএটি একটি ব্যাকআপ ডিস্ক যা VDS-এর মতো একই ডেটা সেন্টারে অবস্থিত, কিন্তু একটি ভিন্ন সার্ভারে। আপনি FTP-এর মাধ্যমে ডিস্কটি অ্যাক্সেস করতে পারেন এবং আপনার নিজস্ব স্ক্রিপ্ট ব্যবহার করতে পারেন, অথবা, যদি VDS-এ ISPManager ইনস্টল করা থাকে, তাহলে এর ব্যাকআপ মডিউলের মাধ্যমে। এই বিকল্পটি উপযুক্ত নয় কারণ এটি একই ডেটা সেন্টার ব্যবহার করে।

উপরের সবগুলি থেকে, আমার জন্য সেরা পছন্দ হল Yandex.Cloud (অবজেক্ট স্টোরেজ) বা Amazon S3 (Amazon Simple Storage Service)-এ আমার নিজের পরিস্থিতি অনুসারে একটি ক্রমবর্ধমান ব্যাকআপ।

এর জন্য প্রয়োজন:

• ভিডিএসে রুট অ্যাক্সেস;
• ইনস্টলড ডুপ্লিসিটি ইউটিলিটি;
• Yandex.Cloud এ অ্যাকাউন্ট।

ক্রমবর্ধমান ব্যাকআপ - একটি পদ্ধতি যেখানে শুধুমাত্র শেষ ব্যাকআপের পর থেকে পরিবর্তিত ডেটা সংরক্ষণাগারভুক্ত করা হয়।

ছলনা - একটি ব্যাকআপ ইউটিলিটি যা rsync অ্যালগরিদম ব্যবহার করে এবং Amazon S3 এর সাথে কাজ করতে পারে।

Yandex.Cloud বনাম Amazon S3

আমার জন্য এই ক্ষেত্রে Yandex.Cloud এবং Amazon S3 এর মধ্যে কোন পার্থক্য নেই। Yandex Amazon S3 API-এর প্রধান অংশকে সমর্থন করে, তাই আপনি S3 এর সাথে কাজ করার জন্য উপলব্ধ সমাধানগুলি ব্যবহার করে এটির সাথে কাজ করতে পারেন। আমার ক্ষেত্রে, এটি ডুপ্লিসিটি ইউটিলিটি।

ইয়ানডেক্সের প্রধান সুবিধাটি রুবেলে অর্থপ্রদান হতে পারে, যদি প্রচুর ডেটা থাকে তবে কোর্সের কোনও লিঙ্ক থাকবে না। গতির পরিপ্রেক্ষিতে, আমাজনের ইউরোপীয় ডেটা সেন্টারগুলি ইয়ানডেক্সের রাশিয়ানগুলির সাথে সামঞ্জস্যপূর্ণভাবে কাজ করে, উদাহরণস্বরূপ, আপনি ফ্রাঙ্কফুর্ট ব্যবহার করতে পারেন। আমি পূর্বে অনুরূপ কাজের জন্য Amazon S3 ব্যবহার করেছি, এখন আমি ইয়ানডেক্স চেষ্টা করার সিদ্ধান্ত নিয়েছি।

Yandex.Cloud সেট আপ করা হচ্ছে

1. আপনাকে Yandex.Cloud এ একটি বিলিং অ্যাকাউন্ট তৈরি করতে হবে। এটি করার জন্য, আপনাকে আপনার Yandex অ্যাকাউন্টের মাধ্যমে Yandex.Cloud এ লগ ইন করতে হবে বা একটি নতুন তৈরি করতে হবে।

2. ক্লাউড তৈরি করুন।


3. "ক্লাউড" এ একটি "ক্যাটালগ" তৈরি করুন।


4. "ক্যাটালগ" এর জন্য একটি "পরিষেবা অ্যাকাউন্ট" তৈরি করুন।


5. "পরিষেবা অ্যাকাউন্ট" এর জন্য কী তৈরি করুন।


6. চাবিগুলি সংরক্ষণ করুন, ভবিষ্যতে আপনার তাদের প্রয়োজন হবে।


7. "ক্যাটালগ" এর জন্য একটি "বালতি" তৈরি করুন, ফাইলগুলি এতে পড়ে যাবে।


8. আমি একটি সীমা নির্ধারণ এবং "কোল্ড স্টোরেজ" নির্বাচন করার পরামর্শ দিই।

সার্ভারে নির্ধারিত ব্যাকআপ সেট আপ করা হচ্ছে

এই নির্দেশিকা মৌলিক প্রশাসনিক দক্ষতা অনুমান করে।

1. ভিডিএস-এ ডুপ্লিসিটি ইউটিলিটি ইনস্টল করুন

yum install duplicity

2. MySQL ডাম্পের জন্য একটি ফোল্ডার তৈরি করুন, আমার ক্ষেত্রে এটি VDS রুটে /backup_db

3. ব্যাশ স্ক্রিপ্ট /backup_scripts এর জন্য একটি ফোল্ডার তৈরি করুন এবং প্রথম স্ক্রিপ্টটি তৈরি করুন যা /backup_scripts/backup.sh ব্যাকআপ করবে

স্ক্রিপ্ট বিষয়বস্তু:

#!`which bash`


# /backup_scripts/backup.sh

# Это условие проверяет не идёт ли в данный момент процесс резервного копирования, если идёт, то на email отправляется сообщение об ошибке (этот блок можно не использовать)
if [ -f /home/backup_check.mark ];
then

DATE_TIME=`date +"%d.%m.%Y %T"`;

/usr/sbin/sendmail -t <<EOF
From:backup@$HOSTNAME
To:<Ваш EMAIL>
Subject:Error backup to YANDEX.CLOUD
Content-Type:text/plain; charset=utf-8
Error backup to YANDEX.CLOUD

$DATE_TIME
EOF

else

# Основной блок отвечающий за резервное копирование
# Если нет ощибки ставим метку и запускаем backup

echo '' > /home/backup_check.mark;


# Удаляем файлы с дампами базы оставшиеся от предыдущего backup

/bin/rm -f /backup_db/*


# Делаем дамп всех mysql баз, предполагается что доступ добавлен в файле /root/.my.cnf

DATETIME=`date +%Y-%m-%d_%H-%M-%S`;

`which mysqldump` --quote-names --all-databases | `which gzip` > /backup_db/DB_$DATETIME.sql.gz


# Добавляем данные для отправки в Яндекс.

export PASSPHRASE=<Придумайте пароль для шифрования архива>
export AWS_ACCESS_KEY_ID=<Идентификатор ключа полученный у Яндекса>
export AWS_SECRET_ACCESS_KEY=<Секретный ключ полученный у Яндекса>


# Запускаем duplicity для резервирования необходимых папок на сервере.
# Данная команда будет создавать полный backup раз в месяц и до следующего месяца добавлять инкрементальные к нему
# -- exclude это папки, которые нужно исключить, я исключаю все папки с кешем битрикса
# --include папки которые нужно резервировать в моём случае это:
# - /backup_db
# - /home
# - /etc
# s3://storage.yandexcloud.net/backup , backup это имя созданного выше бакета

# Техническая особенность и значения некоторых параметров:
# Две строки "--exclude='**'" и "/" нужны, чтобы можно было выше оперировать --include и --exclude для разных папок. Эти две строчки сначала добавляют в бэкап весь сервер "/", потом исключают его "--exclude='**'"
# --full-if-older-than='1M' - создавать полную копию каждый месяц
# --volsize='512' - максимальный размер каждого из файлов в бэкапе в мегабайтах
# --log-file='/var/log/duplicity.log' - куда писать лог файл

`which duplicity` 
    --s3-use-ia --s3-european-buckets 
    --s3-use-new-style 
    --s3-use-multiprocessing 
    --s3-multipart-chunk-size='128' 
    --volsize='512' 
    --no-print-statistics 
    --verbosity=0 
    --full-if-older-than='1M' 
    --log-file='/var/log/duplicity.log' 
    --exclude='**/www/bitrix/backup/**' 
    --exclude='**/www/bitrix/cache/**' 
    --exclude='**/www/bitrix/cache_image/**' 
    --exclude='**/www/bitrix/managed_cache/**' 
    --exclude='**/www/bitrix/managed_flags/**' 
    --exclude='**/www/bitrix/stack_cache/**' 
    --exclude='**/www/bitrix/html_pages/*/**' 
    --exclude='**/www/bitrix/tmp/**' 
    --exclude='**/www/upload/tmp/**' 
    --exclude='**/www/upload/resize_cache/**' 
    --include='/backup_db' 
    --include='/home' 
    --include='/etc' 
    --exclude='**' 
    / 
    s3://storage.yandexcloud.net/backup



# Данная команда нужна для чистки.
# Она оставляет 3 последних полных backup и ассоциированных с ними инкрементальных backup.
# Т.о. у меня остаются backup за 3 месяца, т.к. первая команда каждый месяц делает новый полный backup

`which duplicity` remove-all-but-n-full 3 --s3-use-ia --s3-european-buckets --s3-use-new-style --verbosity=0 --force s3://storage.yandexcloud.net/backup



unset PASSPHRASE
unset AWS_ACCESS_KEY_ID
unset AWS_SECRET_ACCESS_KEY

# Удаляем метку об идущем backup

/bin/rm -f /home/backup_check.mark;

fi

4. প্রথমবার স্ক্রিপ্টটি চালান এবং ফলাফলটি পরীক্ষা করুন, ফাইলগুলি বালতিতে উপস্থিত হওয়া উচিত।

`which bash` /backup_scripts/backup.sh

5. রুট ব্যবহারকারীকে দিনে 2 বার বা আপনার যতবার প্রয়োজন নির্বাহ করার জন্য ক্রোন-এ একটি স্ক্রিপ্ট যোগ করুন।

10 4,16 * * * `which bash` /backup_scripts/backup.sh

Yandex.Cloud থেকে ডেটা পুনরুদ্ধার

1. একটি পুনরুদ্ধার ফোল্ডার /backup_restore তৈরি করুন

2. ব্যাশ রিস্টোর স্ক্রিপ্ট /backup_scripts/restore.sh তৈরি করুন

আমি একটি নির্দিষ্ট ফাইল পুনরুদ্ধারের সবচেয়ে অনুরোধ করা উদাহরণ দিই:

#!`which bash`

export PASSPHRASE=<Пароль для шифрования архива используемый при бэкапе>
export AWS_ACCESS_KEY_ID=<Идентификатор ключа полученный у Яндекса>
export AWS_SECRET_ACCESS_KEY=<Секретный ключ полученный у Яндекса>

# 3 примера, раскомментировать нужный

# Получить статус backup
#`which duplicity` collection-status s3://storage.yandexcloud.net/backup

# Восстановить index.php из корня сайта
#`which duplicity` --file-to-restore='home/bitrix/www/index.php' s3://storage.yandexcloud.net/backup /backup_restore/index.php

# Восстановить index.php из корня сайта 3х дневной давности
#`which duplicity` --time='3D' --file-to-restore='home/bitrix/www/index.php' s3://storage.yandexcloud.net/backup /backup_restore/index.php

unset PASSPHRASE
unset AWS_ACCESS_KEY_ID
unset AWS_SECRET_ACCESS_KEY

3. স্ক্রিপ্টটি চালান এবং ফলাফলের জন্য অপেক্ষা করুন।

`which bash` /backup_scripts/backup.sh

/backup_restore/ ফোল্ডারে আপনি index.php ফাইলটি পাবেন যা আগে ব্যাকআপে অন্তর্ভুক্ত ছিল।

আপনি আপনার প্রয়োজন অনুসারে সূক্ষ্ম সমন্বয় করতে পারেন।

বিয়োগ ডুপ্লিসিটি

সদৃশতার একটি ত্রুটি রয়েছে - চ্যানেল ব্যবহারের সীমা সেট করার কোন উপায় নেই। একটি সাধারণ চ্যানেলের সাথে, এটি কোনও সমস্যা তৈরি করে না, তবে প্রতিদিনের বিলিং গতি সহ একটি DDoS-সুরক্ষিত চ্যানেলের সাথে, আমি 1-2 মেগাবিটের সীমা সেট করতে সক্ষম হতে চাই৷

উপসংহার হিসেবে

Yandex.Cloud অথবা Amazon S3 তে ব্যাকআপ নিলে আপনার ওয়েবসাইট এবং OS সেটিংসের একটি স্বাধীন কপি পাওয়া যাবে যা অন্য যেকোনো সার্ভার বা স্থানীয় কম্পিউটার থেকে অ্যাক্সেস করা যাবে। এই কপিটি কারো কাছে দৃশ্যমান হবে না। নিয়ন্ত্রণ প্যানেল হোস্টিং, বা বিট্রিক্স অ্যাডমিন প্যানেলেও নয়, যা অতিরিক্ত নিরাপত্তা প্রদান করে।

সবচেয়ে দুর্ভাগ্যজনক ফলাফলে, আপনি একটি নতুন সার্ভার তৈরি করতে পারেন এবং যেকোনো তারিখের জন্য সাইটটি স্থাপন করতে পারেন। যদিও সর্বাধিক অনুরোধ করা কার্যকারিতা একটি নির্দিষ্ট তারিখের জন্য ফাইল অ্যাক্সেস করার ক্ষমতা হবে।

আপনি এই কৌশলটি যেকোন ভিডিএস বা ডেডিকেটেড সার্ভার এবং যেকোন ইঞ্জিনে সাইটগুলির সাথে ব্যবহার করতে পারেন, শুধুমাত্র 1C-বিট্রিক্স নয়। অপারেটিং সিস্টেমটি সেন্টোস বাদে অন্য হতে পারে, যেমন উবুন্টু বা ডেবিয়ান।

উত্স: www.habr.com