🥇Spoznajte wal-g sistem za varnostno kopiranje PostgreSQL

WAL-G — enostavno in učinkovito orodje za varnostno kopiranje PostgreSQL v oblake. Po svoji osnovni funkcionalnosti je to dedič priljubljenega orodja WAL-E, le prepisano v Go. Vendar pa ima WAL-G eno pomembno novo funkcijo — delta kopije. Delta kopije WAL-G hrani strani datotek, ki so se spremenile od prejšnje različice varnostne kopije. WAL-G implementira precej tehnologij za paralelizacijo varnostnih kopij. WAL-G deluje veliko hitreje kot WAL-E.

Podrobnosti o delovanju wal-g lahko preberete v članku: Pospešujemo varnostno kopiranje. Predavanje Yandexa

Protokol za shranjevanje S3 je postal priljubljen za shranjevanje podatkov. Ena od prednosti S3 je možnost dostopa prek API, kar omogoča fleksibilno interakcijo s shrambo, vključno z javnim dostopom za branje, medtem ko se informacije v shrambi posodabljajo samo z autorizacijami.

Obstaja več odprtih in zasebnih implementacij shrambe, ki delujejo po protokolu S3. Danes bomo obravnavali priljubljeno rešitev za organizacijo manjših shrambe — Minio.

Za testiranje wal-g zadostuje en strežnik PostgreSQL, Minio pa se uporablja kot nadomestilo za S3.

Strežnik Minio

Namestitev Minio

yum -y install yum-plugin-copr
yum copr enable -y lkiesow/minio
yum install -y minio

Spremenite AccessKey in SecretKey v /etc/minio/minio.conf

vi /etc/minio/minio.conf

Če ne nameravate uporabljati nginx pred Minio, morate spremeniti

--address 127.0.0.1:9000

--address 0.0.0.0:9000

Zagnamo Minio

systemctl start minio

Prijavite se v spletni vmesnik Minio http://ip-naslov-strežnika-minio:9000 in ustvarite buket (npr. pg-backups).

Strežnik DB

WAL-G v rpm sestavljam jaz (Anton Pacev). Github, Fedora COPR.

Tisti, ki nimate sistema, ki temelji na RPM, uporabite uradne navodilo navodila za namestitev.

Skupaj z binarno datoteko wal-g v rpm so prisotni skripti, ki uvozijo spremenljivke iz datoteke /etc/wal-g.d/server-s3.conf.

backup-fetch.sh
backup-list.sh
backup-push.sh
wal-fetch.sh
wal-g-run.sh
wal-push.sh

Namestimo wal-g.

yum -y install yum-plugin-copr
yum copr enable -y antonpatsev/wal-g
yum install -y wal-g

Preverimo različico wal-g.

wal-g --version
wal-g version v0.2.14

Uredimo /etc/wal-g.d/server-s3.conf po svojih potrebah.

Konfiguracijske datoteke in datoteke podatkov, ki jih uporablja klaster baze podatkov, se tradicionalno shranjujejo skupaj v podatkovnem imeniku klasterja, ki ga običajno imenujejo PGDATA

#!/bin/bash

export PG_VER="9.6"

export WALE_S3_PREFIX="s3://pg-backups" # бакет, который мы создали в S3
export AWS_ACCESS_KEY_ID="xxxx" # AccessKey из /etc/minio/minio.conf 
export AWS_ENDPOINT="http://ip-адрес-сервера-minio:9000"
export AWS_S3_FORCE_PATH_STYLE="true"
export AWS_SECRET_ACCESS_KEY="yyyy" # SecretKey из /etc/minio/minio.conf

export PGDATA=/var/lib/pgsql/$PG_VER/data/
export PGHOST=/var/run/postgresql/.s.PGSQL.5432 # Сокет для подключения к PostgreSQL

export WALG_UPLOAD_CONCURRENCY=2 # Кол-во потоков для закачки 
export WALG_DOWNLOAD_CONCURRENCY=2 # Кол-во потоков для скачивания
export WALG_UPLOAD_DISK_CONCURRENCY=2 # Кол-во потоков на диске для закачки
export WALG_DELTA_MAX_STEPS=7
export WALG_COMPRESSION_METHOD=brotli # Какой метод сжатия использовать.

Pri nastavitvi WAL-G določite WALG_DELTA_MAX_STEPS — število korakov, na katere je delta varnostna kopija lahko oddaljena od osnovne varnostne kopije, hkrati pa določite politiko delta kopiranja. Lahko opravite kopiranje z zadnjo obstoječo delto ali pa ustvarite delto iz prvotne polne varnostne kopije. To je potrebno, kadar se v vaši bazi podatkov vedno spreminja istovrstna sestavina DB, ti isti podatki se nenehno spreminjajo.

Namestimo BD.

yum install -y https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-latest.noarch.rpm
yum install -y postgresql96 postgresql96-server mc

Inicializiramo bazo.

/usr/pgsql-9.6/bin/postgresql96-setup initdb
Initializing database ... OK

Če testirate na enem strežniku, je potrebno nastaviti parameter wal_level na archive za PostgreSQL različice pod 10, in replica za PostgreSQL 10 in novejše različice.

wal_level = archive

Izvedimo varnostno kopiranje WAL arhivov vsake 60 sekund z uporabo samega PostgreSQL. Na produkciji boste imeli drugo vrednost archive_timeout.

archive_mode = on
archive_command = '/usr/local/bin/wal-push.sh %p'
archive_timeout = 60 # Komanda archive_command se bo izvajala vsake 60 sekund.

Začnemo PostgreSQL.

systemctl start postgresql-9.6

V ločenem konzoli preverite dnevnike PostgreSQL glede napak: (postgresql-Wed.log spremenite na trenutni).

tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Prijavite se v psql.

su - postgres
psql

V psql ustvarimo bazo.

Ustvarimo tabelo v bazi test1.

create database test1;

Preklopimo na bazo test.

postgres=# c test1;

Ustvarimo tabelo indexing_table.

test1=# CREATE TABLE indexing_table(created_at TIMESTAMP WITH TIME ZONE DEFAULT NOW());

Dodajanje podatkov.

Zaženite vstavljanje podatkov. Počakajte 10-20 minut.

#!/bin/bash
# postgres
while true; do
psql -U postgres -d test1 -c "INSERT INTO indexing_table(created_at) VALUES (CURRENT_TIMESTAMP);"
sleep 60;
done

Obvezno naredite polno varnostno kopijo.

su - postgres
/usr/local/bin/backup-push.sh

Preverimo zapise v tabeli v bazi test1

select * from indexing_table;
2020-01-29 09:41:25.226198+
2020-01-29 09:42:25.336989+
2020-01-29 09:43:25.356069+
2020-01-29 09:44:25.37381+
2020-01-29 09:45:25.392944+
2020-01-29 09:46:25.412327+
2020-01-29 09:47:25.432564+
2020-01-29 09:48:25.451985+
2020-01-29 09:49:25.472653+
2020-01-29 09:50:25.491974+
2020-01-29 09:51:25.510178+

Vrstica je trenutno čas.

Preverimo seznam polnih varnostnih kopij.

/usr/local/bin/backup-list.sh

Testiranje obnove.

Popolna obnova z vračanjem vseh dostopnih WAL.

Ustavite PostgreSQL.

Izbrišite vse iz mape /var/lib/pgsql/9.6/data.

Zaženite skripto /usr/local/bin/backup-fetch.sh kot uporabnik postgres.

su - postgres
/usr/local/bin/backup-fetch.sh

Ekstrakcija varnostne kopije je zaključena.

Dodajamo recovery.conf v mapo /var/lib/pgsql/9.6/data z naslednjo vsebino.

restore_command = '/usr/local/bin/wal-fetch.sh "%f" "%p"'

Začnemo PostgreSQL. PostgreSQL bo zagnal proces obnove iz arhivskih WAL, in šele nato se bo baza odprla.

systemctl start postgresql-9.6
tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Obnova na določen čas.

Če želimo obnoviti bazo do določene minute, dodamo parameter recovery_target_time v recovery.conf — navede, na katero časovno točko želimo obnoviti bazo.

restore_command = 'usr/local/bin/wal-fetch.sh "%f" "%p"'
recovery_target_time = '2020-01-29 09:46:25'

Po obnovitvi si ogledamo tabelo indexing_table.

 2020-01-29 09:41:25.226198+00
 2020-01-29 09:42:25.336989+00
 2020-01-29 09:43:25.356069+00
 2020-01-29 09:44:25.37381+00
 2020-01-29 09:45:25.392944+00

Začnemo PostgreSQL. PostgreSQL bo zagnal proces obnove iz arhivskih WAL, in šele nato se bo baza odprla.

systemctl start postgresql-9.6
tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Testiranje

Generiramo 1GB bazo podatkov, kot je opisano tukaj. https://gist.github.com/ololobus/5b25c432f208d7eb31051a5f238dffff

Zahtevamo velikost vedra po generiranju 1GB podatkov.

postgres=# SELECT pg_size_pretty(pg_database_size('test1'));
pg_size_pretty
----------------
1003 MB

s4cmd — brezplačno orodje s ukazno vrstico za delo s podatki, shranjenimi v Amazon S3. Orodje je napisano v programskem jeziku Python, zato ga je mogoče uporabljati tako v operacijskih sistemih Windows kot Linux.

Namestimo s4cmd.

pip install s4cmd

LZ4

s4cmd --endpoint-url=http://ip-naslov-serviserja-minio:9000 --access-key=xxxx --secret-key=yyyy du -r s3://pg-backups
840540822       s3://pg-backups/wal_005/
840 MB v formatu lz4 le WAL logov

Poln backup z lz4 - 1GB podatkov
time backup_push.sh
real 0m18.582s

Velikost S3 vedra po polnem backupu

581480085       s3://pg-backups/basebackups_005/
842374424   s3://pg-backups/wal_005
581 MB zaseda poln backup

LZMA

Po generiranju 1GB podatkov
338413694       s3://pg-backups/wal_005/
338 MB logov v formatu lzma

Čas generiranja polnega backupu
time backup_push.sh
real    5m25.054s

Velikost vedra v S3
270310495       s3://pg-backups/basebackups_005/
433485092   s3://pg-backups/wal_005/

270 MB zaseda poln backup v formatu lzma

Brotli

Po generiranju 1GB podatkov
459229886       s3://pg-backups/wal_005/
459 MB logov v formatu brotli

Čas generiranja polnega backupu
real    0m23.408s

Velikost vedra v S3
312960942       s3://pg-backups/basebackups_005/
459309262   s3://pg-backups/wal_005/

312 MB zaseda poln backup v formatu brotli

Primerjava rezultatov na grafu.