🥇Upoznavanje sa sustavom bakanja wal-g za PostgreSQL

WAL-G — jednostavan i učinkovit alat za izradu sigurnosnih kopija PostgreSQL u oblaku. Po svojoj osnovnoj funkcionalnosti, on je nasljednik popularnog alata WAL-E, ali prepisan na Go. Međutim, WAL-G ima jednu važnu novu značajku — delta kopije. Delta kopije WAL-G pohranjuju stranice datoteka koje su se promijenile od prethodne verzije sigurnosne kopije. WAL-G implementira prilično mnogo tehnologija za paralelno izvođenje sigurnosnih kopija. WAL-G radi znatno brže od WAL-E.

Detalje o radu wal-g možete pročitati u članku: Ubrzavanje sigurnosnih kopija. Predavanje iz Yandexa

S3 protokol pohrane postao je popularan za pohranu podataka. Jedna od prednosti S3 je mogućnost pristupa putem API-ja, što omogućava fleksibilnu interakciju s pohranom, uključujući javni pristup za čitanje, dok se informacije u pohrani ažuriraju samo od strane autoriziranih osoba.

Postoji nekoliko otvorenih, kao i privatnih implementacija pohrana koje rade prema S3 protokolu. Danas ćemo razmotriti popularno rješenje za organizaciju malih pohrana — Minio.

Za testiranje wal-g-a potrebna su jedan PostgreSQL poslužitelj, a Minio se koristi kao zamjena za S3.

Minio poslužitelj

Instalacija Minio

yum -y install yum-plugin-copr
yum copr enable -y lkiesow/minio
yum install -y minio

Uredite AccessKey i SecretKey u /etc/minio/minio.conf

vi /etc/minio/minio.conf

Ako ne biste koristili nginx ispred Minio, trebate promijeniti

--address 127.0.0.1:9000

--address 0.0.0.0:9000

Pokrećemo Minio

systemctl start minio

Prijavite se u web sučelje Minio http://ip-adresa-poslužitelja-minio:9000 i kreirajte bucket (na primjer, pg-backups).

Baze podataka

WAL-G u rpm paketu pravim ja (Anton Pacev). Github, Fedora COPR.

Ako nemate RPM-based sustav, koristite službenu upute za instalaciju.

Zajedno s binarnim wal-g-om u rpm paketu prisutni su skripti koje uvoze varijable iz datoteke /etc/wal-g.d/server-s3.conf.

backup-fetch.sh
backup-list.sh
backup-push.sh
wal-fetch.sh
wal-g-run.sh
wal-push.sh

Instaliramo wal-g.

yum -y install yum-plugin-copr
yum copr enable -y antonpatsev/wal-g
yum install -y wal-g

Provjeravamo verziju wal-g.

wal-g --version
wal-g verzija v0.2.14

Uređujemo /etc/wal-g.d/server-s3.conf prema vlastitim potrebama.

Datoteke konfiguracyje i datoteke podataka koje koristi klaster baze podataka tradicionalno se čuvaju zajedno u direktoriju podataka klastera, koji obično nazivamo PGDATA

#!/bin/bash

export PG_VER="9.6"

export WALE_S3_PREFIX="s3://pg-backups" # бакет, который мы создали в S3
export AWS_ACCESS_KEY_ID="xxxx" # AccessKey из /etc/minio/minio.conf 
export AWS_ENDPOINT="http://ip-адрес-сервера-minio:9000"
export AWS_S3_FORCE_PATH_STYLE="true"
export AWS_SECRET_ACCESS_KEY="yyyy" # SecretKey из /etc/minio/minio.conf

export PGDATA=/var/lib/pgsql/$PG_VER/data/
export PGHOST=/var/run/postgresql/.s.PGSQL.5432 # Сокет для подключения к PostgreSQL

export WALG_UPLOAD_CONCURRENCY=2 # Кол-во потоков для закачки 
export WALG_DOWNLOAD_CONCURRENCY=2 # Кол-во потоков для скачивания
export WALG_UPLOAD_DISK_CONCURRENCY=2 # Кол-во потоков на диске для закачки
export WALG_DELTA_MAX_STEPS=7
export WALG_COMPRESSION_METHOD=brotli # Какой метод сжатия использовать.

Pri postavljanju WAL-G određujete WALG_DELTA_MAX_STEPS — broj koraka do kojeg maksimalno može odstupati delta-bekap od osnovnog (base) bekapa, i navodite politiku delta-kopije. Ili pravite kopiju s posljednjom postojećom deltom, ili radite deltu od izvorne pune kopije. To je potrebno za slučaj da se u vašoj bazi podataka uvijek mijenja isti sastavni dio baze, iste podatke se neprestano mijenjaju.

Postavljamo bazu podataka.

yum install -y https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-latest.noarch.rpm
yum install -y postgresql96 postgresql96-server mc

Inicijaliziramo bazu podataka.

/usr/pgsql-9.6/bin/postgresql96-setup initdb
Initializing database ... OK

Ako testirate na 1 serveru, potrebno je prekonfigurirati parametar wal_level na archive za PostgreSQL verzije manje od 10 i na replica za PostgreSQL verzije 10 i starije.

wal_level = archive

Radit ćemo bekapiranje WAL arhiva svakih 60 sekundi koristeći sam PostgreSQL. Na proizvodnom okruženju imat ćete drugačiju vrijednost archive_timeout.

archive_mode = on
archive_command = '/usr/local/bin/wal-push.sh %p'
archive_timeout = 60 # Komanda archive_command će se izvoditi svake 60 sekundi.

Pokrećemo PostgreSQL

systemctl start postgresql-9.6

U odvojenoj konzoli pregledavamo PostgreSQL logove za eventualne greške: (postgresql-Wed.log promijenite u aktualni).

tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Ulazimo u psql.

su - postgres
psql

U psql kreiramo bazu podataka.

Kreiramo tablicu u bazi test1.

create database test1;

Prebacujemo se na bazu test.

postgres=# c test1;

Kreiramo tablicu indexing_table.

test1=# CREATE TABLE indexing_table(created_at TIMESTAMP WITH TIME ZONE DEFAULT NOW());

Dodavanje podataka.

Pokrećemo umetanje podataka. Čekamo 10-20 minuta.

#!/bin/bash
# postgres
while true; do
psql -U postgres -d test1 -c "INSERT INTO indexing_table(created_at) VALUES (CURRENT_TIMESTAMP);"
sleep 60;
done

Obavezno pravimo puni bekap.

su - postgres
/usr/local/bin/backup-push.sh

Pregledavamo zapise u tablici u bazi test1

select * from indexing_table;
2020-01-29 09:41:25.226198+
2020-01-29 09:42:25.336989+
2020-01-29 09:43:25.356069+
2020-01-29 09:44:25.37381+
2020-01-29 09:45:25.392944+
2020-01-29 09:46:25.412327+
2020-01-29 09:47:25.432564+
2020-01-29 09:48:25.451985+
2020-01-29 09:49:25.472653+
2020-01-29 09:50:25.491974+
2020-01-29 09:51:25.510178+

Redak je trenutno vrijeme.

Pregledavamo popis punih bekapa

/usr/local/bin/backup-list.sh

Testiranje vraćanja

Puno vraćanje s primjenom svih dostupnih WAL.

Zaustavljamo PostgreSQL.

Brišemo sve iz mape /var/lib/pgsql/9.6/data.

Pokrećemo skriptu /usr/local/bin/backup-fetch.sh kao korisnik postgres.

su - postgres
/usr/local/bin/backup-fetch.sh

Ekstrakcija bekapa je završena.

Dodajemo recovery.conf u mapu /var/lib/pgsql/9.6/data s sljedećim sadržajem.

restore_command = '/usr/local/bin/wal-fetch.sh "%f" "%p"'

Pokrećemo PostgreSQL. PostgreSQL će pokrenuti proces vraćanja iz arhivskih WAL, i tek tada će se baza otvoriti.

systemctl start postgresql-9.6
tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Vraćanje na određeno vrijeme.

Ako želimo vratiti bazu do određenog trenutka, u recovery.conf dodajemo parametar recovery_target_time — navodimo na koji trenutak da vratimo bazu.

restore_command = '\/usr\/local\/bin\/wal-fetch.sh "%f" "%p"'\nrecovery_target_time = '2020-01-29 09:46:25'

Nakon vraćanja gledamo na tablicu indexing_table.

 2020-01-29 09:41:25.226198+00
 2020-01-29 09:42:25.336989+00
 2020-01-29 09:43:25.356069+00
 2020-01-29 09:44:25.37381+00
 2020-01-29 09:45:25.392944+00

Pokrećemo PostgreSQL. PostgreSQL će pokrenuti proces vraćanja iz arhivskih WAL, i tek tada će se baza otvoriti.

systemctl start postgresql-9.6
tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Testiranje

Generiramo 1GB bazu podataka kao što je opisano ovdje. https://gist.github.com/ololobus/5b25c432f208d7eb31051a5f238dffff

Zatražimo veličinu bucket-a nakon generiranja 1GB podataka.

postgres=# SELECT pg_size_pretty(pg_database_size('test1'));\npg_size_pretty\n----------------\n1003 MB

s4cmd — besplatni alat naredbenog retka za rad s podacima pohranjenim u Amazon S3. Alat je napisan na programskom jeziku python, i zahvaljujući tome može se koristiti u operativnim sustavima i Windows i Linux.

Instaliramo s4cmd.

pip install s4cmd

LZ4

s4cmd --endpoint-url=http:\/\/ip-adresa-servera-minio:9000 --access-key=xxxx --secret-key=yyyy du -r s3:\/\/pg-backups\n840540822       s3:\/\/pg-backups\/wal_005\/\n840 MB u lz4 formatu samo WAL logova\n\nCjelokupna sigurnosna kopija s lz4 - 1GB podataka\ntime backup_push.sh\nreal 0m18.582s\n\nVeličina S3 bucket-a nakon cjelokupne sigurnosne kopije\n\n581480085       s3:\/\/pg-backups\/basebackups_005\/\n842374424   s3:\/\/pg-backups\/wal_005\n581 MB zauzima cjelokupna sigurnosna kopija.

LZMA

Nakon generiranja 1GB podataka\n338413694       s3:\/\/pg-backups\/wal_005\/\n338 MB logova u lzma formatu\n\nVrijeme generiranja cjelokupne sigurnosne kopije\ntime backup_push.sh\nreal    5m25.054s\n\nVeličina bucket-a u S3\n270310495       s3:\/\/pg-backups\/basebackups_005\/\n433485092   s3:\/\/pg-backups\/wal_005\/\n\n270 MB zauzima cjelokupna sigurnosna kopija u lzma formatu.

Brotli

Nakon generiranja 1GB podataka\n459229886       s3:\/\/pg-backups\/wal_005\/\n459 MB logova u brotli formatu\n\nVrijeme generiranja cjelokupne sigurnosne kopije\nreal    0m23.408s\n\nVeličina bucket-a u S3\n312960942       s3:\/\/pg-backups\/basebackups_005\/\n459309262   s3:\/\/pg-backups\/wal_005\/\n\n312 MB zauzima cjelokupna sigurnosna kopija u brotli formatu.

Usporedba rezultata na grafu.