🥇 Introduktion til wal-g backup-systemet for PostgreSQL

WAL-G — et enkelt og effektivt værktøj til sikkerhedskopiering af PostgreSQL til skyen. I sin grundlæggende funktionalitet er det en efterfølger til det populære værktøj WAL-E, men skrevet om i Go. Men i WAL-G er der en vigtig ny funktion — deltakopier. Deltakopier WAL-G opbevarer datablade, der er ændret siden den forrige sikkerhedskopi. WAL-G implementerer mange teknologier til parallellisering af sikkerhedskopier. WAL-G fungerer betydeligt hurtigere end WAL-E.

Detaljer om, hvordan wal-g fungerer, kan læses i artiklen: Acceleration af sikkerhedskopiering. Yandex-forelæsning

S3-lagringsprotokollen er blevet populær til datalagring. En af fordelene ved S3 er muligheden for adgang gennem API, hvilket muliggør fleksibel interaktion med lageret, herunder offentlig læseadgang, mens opdatering af information i lageret kun udføres af autoriserede personer.

Der findes både åbne og private implementeringer af lager, der fungerer efter S3-protokollen. I dag vil vi se på en populær løsning til oprettelse af små lagre — Minio.

Til testning af wal-g er én PostgreSQL-server tilstrækkelig, og Minio bruges som erstatning for S3.

Minio-server

Installation af Minio

yum -y install yum-plugin-copr
yum copr enable -y lkiesow/minio
yum install -y minio

Rediger AccessKey og SecretKey i /etc/minio/minio.conf

vi /etc/minio/minio.conf

Hvis du ikke bruger nginx foran Minio, skal du ændre

--address 127.0.0.1:9000

--address 0.0.0.0:9000

Starter Minio

systemctl start minio

Går til Minio webgrænsefladen http://ip-adresse-for-minio-server:9000 og opretter en bucket (for eksempel pg-backups).

Database-server

Jeg bygger WAL-G i rpm (Anton Patsev). Github, Fedora COPR.

For dem uden RPM-baseret system, brug den officielle instruktionen installationsvejledning.

Sammen med binæren wal-g i rpm inkluderer der scripts, som importerer variabler fra filen /etc/wal-g.d/server-s3.conf.

backup-fetch.sh
backup-list.sh
backup-push.sh
wal-fetch.sh
wal-g-run.sh
wal-push.sh

Installerer wal-g.

yum -y install yum-plugin-copr
yum copr enable -y antonpatsev/wal-g
yum install -y wal-g

Tjekker versionen af wal-g.

wal-g --version
wal-g version v0.2.14

Redigerer /etc/wal-g.d/server-s3.conf efter egne behov.

Konfigurationsfiler og datafiler, der bruges af databaseklusteret, opbevares traditionelt sammen i datakatalogen for klusteret, som normalt kaldes PGDATA

#!/bin/bash

export PG_VER="9.6"

export WALE_S3_PREFIX="s3://pg-backups" # бакет, который мы создали в S3
export AWS_ACCESS_KEY_ID="xxxx" # AccessKey из /etc/minio/minio.conf 
export AWS_ENDPOINT="http://ip-адрес-сервера-minio:9000"
export AWS_S3_FORCE_PATH_STYLE="true"
export AWS_SECRET_ACCESS_KEY="yyyy" # SecretKey из /etc/minio/minio.conf

export PGDATA=/var/lib/pgsql/$PG_VER/data/
export PGHOST=/var/run/postgresql/.s.PGSQL.5432 # Сокет для подключения к PostgreSQL

export WALG_UPLOAD_CONCURRENCY=2 # Кол-во потоков для закачки 
export WALG_DOWNLOAD_CONCURRENCY=2 # Кол-во потоков для скачивания
export WALG_UPLOAD_DISK_CONCURRENCY=2 # Кол-во потоков на диске для закачки
export WALG_DELTA_MAX_STEPS=7
export WALG_COMPRESSION_METHOD=brotli # Какой метод сжатия использовать.

Når du konfigurerer WAL-G, angiver du WALG_DELTA_MAX_STEPS — det maksimale antal trin, som deltabackupen kan være fra base-backuppen, samt du angiver politikken for deltacoppen. Du laver enten en kopi fra den sidst eksisterende delta, eller du laver en delta fra den oprindelige fulde backup. Dette er nødvendigt i tilfælde af, at der konstant ændres de samme komponenter i din database med de samme data.

Installerer DB.

yum install -y https://download.postgresql.org/pub/repos/yum/reporpms/EL-7-x86_64/pgdg-redhat-repo-latest.noarch.rpm
yum install -y postgresql96 postgresql96-server mc

Initialiserer DB.

/usr/pgsql-9.6/bin/postgresql96-setup initdb
Initializing database ... OK

Hvis du tester på 1 server, skal du justere parameteren wal_level til archive for PostgreSQL versioner mindre end 10, og replica for PostgreSQL version 10 og ældre.

wal_level = archive

Lad os lave backup af WAL-arkiverne hvert 60. sekund ved hjælp af PostgreSQL. I produktionen vil du have en anden værdi for archive_timeout.

archive_mode = on
archive_command = '/usr/local/bin/wal-push.sh %p'
archive_timeout = 60 # Kommandoen archive_command udføres hver 60. sekund.

Starter PostgreSQL

systemctl start postgresql-9.6

I et separat terminalvindue ser vi PostgreSQL-logfilerne efter fejl: (postgresql-Wed.log ændres til den aktuelle).

tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Logger ind i psql.

su - postgres
psql

Opretter DB i psql.

Opretter en tabel i DB test1.

create database test1;

Skifter til DB test.

postgres=# c test1;

Opretter tabellen indexing_table.

test1=# CREATE TABLE indexing_table(created_at TIMESTAMP WITH TIME ZONE DEFAULT NOW());

Tilføjelse af data.

Starter dataindsættelse. Venter 10-20 minutter.

#!/bin/bash
# postgres
while true; do
psql -U postgres -d test1 -c "INSERT INTO indexing_table(created_at) VALUES (CURRENT_TIMESTAMP);"
sleep 60;
done

Sørg for at lave en fuld backup.

su - postgres
/usr/local/bin/backup-push.sh

Ser posterne i tabellen i DB test1

select * from indexing_table;
2020-01-29 09:41:25.226198+
2020-01-29 09:42:25.336989+
2020-01-29 09:43:25.356069+
2020-01-29 09:44:25.37381+
2020-01-29 09:45:25.392944+
2020-01-29 09:46:25.412327+
2020-01-29 09:47:25.432564+
2020-01-29 09:48:25.451985+
2020-01-29 09:49:25.472653+
2020-01-29 09:50:25.491974+
2020-01-29 09:51:25.510178+

Linjen repræsenterer det nuværende tidspunkt.

Ser listen over fulde backuper

/usr/local/bin/backup-list.sh

Test af gendannelse

Fuld gendannelse med anvendelse af alle tilgængelige WAL.

Stopper PostgreSQL.

Sletter alt fra mappen /var/lib/pgsql/9.6/data.

Starter skriptet /usr/local/bin/backup-fetch.sh som bruger postgres.

su - postgres
/usr/local/bin/backup-fetch.sh

Backupudtrækning er fuldført.

Tilføjer recovery.conf til mappen /var/lib/pgsql/9.6/data med følgende indhold.

restore_command = '/usr/local/bin/wal-fetch.sh "%f" "%p"'

Starter PostgreSQL. PostgreSQL vil starte recovery-processen fra de arkiverede WAL, og kun derefter åbnes databasen.

systemctl start postgresql-9.6
tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Gendannelse på et bestemt tidspunkt.

Hvis vi vil gendanne databasen til et bestemt tidspunkt, tilføjer vi parameteren recovery_target_time i recovery.conf — vi angiver, hvornår databasen skal gendannes.

restore_command = '\/usr\/local\/bin\/wal-fetch.sh "%f" "%p"'
recovery_target_time = '2020-01-29 09:46:25'

Efter gendannelsen ser vi på tabellen indexing_table.

 2020-01-29 09:41:25.226198+00
 2020-01-29 09:42:25.336989+00
 2020-01-29 09:43:25.356069+00
 2020-01-29 09:44:25.37381+00
 2020-01-29 09:45:25.392944+00

Starter PostgreSQL. PostgreSQL vil starte recovery-processen fra de arkiverede WAL, og kun derefter åbnes databasen.

systemctl start postgresql-9.6
tail -fn100 /var/lib/pgsql/9.6/data/pg_log/postgresql-Wed.log

Testning

Vi genererer en 1GB database som beskrevet her. https://gist.github.com/ololobus/5b25c432f208d7eb31051a5f238dffff

Vi anmoder om størrelsen på bucket'en efter generering af 1GB data.

postgres=# SELECT pg_size_pretty(pg_database_size('test1'));
pg_size_pretty
----------------
1003 MB

s4cmd — et gratis kommandolinjeværktøj til at arbejde med data placeret i Amazon S3-lagring. Værktøjet er skrevet i programmeringssproget python, og kan derfor bruges i både Windows og Linux operativsystemer.

Installerer s4cmd.

pip install s4cmd

LZ4

s4cmd --endpoint-url=http:\/\/ip-adresse-på-server-minio:9000 --access-key=xxxx --secret-key=yyyy du -r s3:\/\/pg-backups
840540822       s3:\/\/pg-backups\/wal_005\/\n840 MB i lz4-format kun til WAL-logs

Fuld backup med lz4 - 1GB data
time backup_push.sh
real 0m18.582s

Størrelsen på S3-bucket'en efter fuld backup

581480085       s3:\/\/pg-backups\/basebackups_005\/\n842374424   s3:\/\/pg-backups\/wal_005\n581 MB fylder fuld backup

LZMA

Efter generering af 1GB data
338413694       s3:\/\/pg-backups\/wal_005\/\n338 MB logs i lzma-format

Tid til at generere fuld backup
time backup_push.sh
real    5m25.054s

Størrelsen på bucket'en i S3
270310495       s3:\/\/pg-backups\/basebackups_005\/\n433485092   s3:\/\/pg-backups\/wal_005\/\n
270 MB fylder fuld backup i lzma-format

Brotli

Efter generering af 1GB data
459229886       s3:\/\/pg-backups\/wal_005\/\n459 MB logs i brotli-format

Tid til at generere fuld backup
real    0m23.408s

Størrelsen på bucket'en i S3
312960942       s3:\/\/pg-backups\/basebackups_005\/\n459309262   s3:\/\/pg-backups\/wal_005\/\n
312 MB fylder fuld backup i brotli-format

Sammenligning af resultaterne i grafen.