Et ass just geschitt, datt zu där Zäit wou de Problem gestallt gouf, ech net genuch Erfahrung hat fir dës Léisung eleng z'entwéckelen an ze starten. An dunn hunn ech ugefaang ze googlen.

Ech weess net wat de Fang ass, awer fir déi villste Kéier sinn ech konfrontéiert mat der Tatsaach, datt och wann ech alles Schrëtt fir Schrëtt maachen wéi am Tutorial, datselwecht Ëmfeld virbereet wéi den Auteur, da funktionnéiert ni näischt. Ech hu keng Ahnung wat d'Saach ass, awer wann ech dëst erëm begéint hunn, hunn ech decidéiert datt ech meng eegen Tutorial schreiwen wann alles funktionnéiert. Een deen definitiv funktionnéiert.

Guiden um Internet

Et geschitt just datt den Internet net ënner Mangel u verschidde Guiden, Tutorials, Schrëtt-fir-Schrëtt an dergläiche leiden. Et ass just geschitt datt ech d'Aufgab krut eng Léisung z'entwéckelen fir bequem e Failover PostgreSQL Cluster z'organiséieren an ze bauen, d'Haaptfuerderunge fir déi Streaming Replikatioun vum Master Server op all Repliken an automatesch Dispositioun vun enger Reserve am Fall vun engem Master Server waren Echec.

Op dëser Etapp gouf de Stack vun benotzt Technologien bestëmmt:

PostgreSQL als DBMS
Patroni als Cluster Léisung
etcd als verdeelt Stockage fir Patroni
HAproxy fir en eenzegen Entréepunkt fir Uwendungen ze organiséieren déi d'Datebank benotzen

Kader

Fir Är Opmierksamkeet - bauen en héich verfügbare PostgreSQL Cluster mat Patroni, etcd, HAProxy.

Все операции выполнялись на виртуальных машинах с установленной ОС Debian 10.

usw

Ech recommandéieren net etcd op déiselwecht Maschinnen z'installéieren wou Patroni a Postgresql lokaliséiert sinn, well Diskload ass ganz wichteg fir etcd. Awer fir pädagogesch Zwecker wäerte mir dat maachen.
Loosst eis etcd installéieren.

#!/bin/bash
apt-get update
apt-get install etcd

Füügt Inhalt un /etc/default/etcd Datei

[Member]

ETCD_NAME=datanode1 # Hostnumm vun Ärer Maschinn
ETCD_DATA_DIR="/var/lib/etcd/default.etcd"

ALL IP ADRESSER SULL GËTT SINN. LISTER PEER, CLIENT etc SOLLT OP IP ADRESS VUM HOST gesat ginn

ETCD_LISTEN_PEER_URLS="http://192.168.0.143:2380» # Adress vun Ärem Auto
ETCD_LISTEN_CLIENT_URLS="http://192.168.0.143:2379,http://127.0.0.1:2379» # Adress vun Ärem Auto

[cluster]

ETCD_INITIAL_ADVERTISE_PEER_URLS="http://192.168.0.143:2380» # Adress vun Ärem Auto
ETCD_INITIAL_CLUSTER=»datanode1=http://192.168.0.143:2380,datanode2=http://192.168.0.144:2380,datanode3=http://192.168.0.145:2380» # Adressen vun alle Maschinnen am etcd Cluster
ETCD_INITIAL_CLUSTER_STATE="nei"
ETCD_INITIAL_CLUSTER_TOKEN="etcd-cluster-1"
ETCD_ADVERTISE_CLIENT_URLS="http://192.168.0.143:2379» # Adress vun Ärem Auto

Run de Kommando

systemctl restart etcd

PostgreSQL 9.6 + Patronen

Dat éischt wat Dir maache musst ass dräi virtuelle Maschinnen opzestellen fir déi néideg Software op hinnen z'installéieren. Nodeems Dir d'Maschinnen installéiert hutt, wann Dir mäi Tutorial befollegt, kënnt Dir dësen einfache Skript lafen deen (bal) alles fir Iech mécht. Leeft als Root.

Maacht weg datt de Skript PostgreSQL Versioun 9.6 benotzt, dëst ass wéinst den internen Ufuerderunge vun eiser Firma. D'Léisung ass net op aner Versioune vu PostgreSQL getest ginn.

#!/bin/bash
apt-get install gnupg -y
echo "deb http://apt.postgresql.org/pub/repos/apt/ buster-pgdg main" >> /etc/apt/sources.list
wget --quiet -O - https://www.postgresql.org/media/keys/ACCC4CF8.asc | apt-key add -
apt-get update
apt-get install postgresql-9.6 python3-pip python3-dev libpq-dev -y
systemctl stop postgresql
pip3 install --upgrade pip
pip install psycopg2
pip install patroni[etcd]
echo "
[Unit]
Description=Runners to orchestrate a high-availability PostgreSQL
After=syslog.target network.target

[Service]
Type=simple

User=postgres
Group=postgres

ExecStart=/usr/local/bin/patroni /etc/patroni.yml

KillMode=process

TimeoutSec=30

Restart=no

[Install]
WantedBy=multi-user.targ
" > /etc/systemd/system/patroni.service
mkdir -p /data/patroni
chown postgres:postgres /data/patroni
chmod 700 /data/patroniпо
touch /etc/patroni.yml

Als nächst, an der Datei /etc/patroni.yml, déi Dir just erstallt hutt, musst Dir déi folgend Inhalter placéieren, natierlech d'IP Adressen op alle Plazen op d'Adressen änneren, déi Dir benotzt.
Opgepasst op d'Kommentaren an dësem Yaml. Ännert d'Adressen op Är eegen op all Maschinn am Stärekoup.

/etc/patroni.yml

scope: pgsql # должно быть одинаковым на всех нодах
namespace: /cluster/ # должно быть одинаковым на всех нодах
name: postgres1 # должно быть разным на всех нодах

restapi:
    listen: 192.168.0.143:8008 # адрес той ноды, в которой находится этот файл
    connect_address: 192.168.0.143:8008 # адрес той ноды, в которой находится этот файл

etcd:
    hosts: 192.168.0.143:2379,192.168.0.144:2379,192.168.0.145:2379 # перечислите здесь все ваши ноды, в случае если вы устанавливаете etcd на них же

# this section (bootstrap) will be written into Etcd:/<namespace>/<scope>/config after initializing new cluster
# and all other cluster members will use it as a `global configuration`
bootstrap:
    dcs:
        ttl: 100
        loop_wait: 10
        retry_timeout: 10
        maximum_lag_on_failover: 1048576
        postgresql:
            use_pg_rewind: true
            use_slots: true
            parameters:
                    wal_level: replica
                    hot_standby: "on"
                    wal_keep_segments: 5120
                    max_wal_senders: 5
                    max_replication_slots: 5
                    checkpoint_timeout: 30

    initdb:
    - encoding: UTF8
    - data-checksums
    - locale: en_US.UTF8
    # init pg_hba.conf должен содержать адреса ВСЕХ машин, используемых в кластере
    pg_hba:
    - host replication postgres ::1/128 md5
    - host replication postgres 127.0.0.1/8 md5
    - host replication postgres 192.168.0.143/24 md5
    - host replication postgres 192.168.0.144/24 md5
    - host replication postgres 192.168.0.145/24 md5
    - host all all 0.0.0.0/0 md5

    users:
        admin:
            password: admin
            options:
                - createrole
                - createdb

postgresql:
    listen: 192.168.0.143:5432 # адрес той ноды, в которой находится этот файл
    connect_address: 192.168.0.143:5432 # адрес той ноды, в которой находится этот файл
    data_dir: /data/patroni # эту директорию создаст скрипт, описанный выше и установит нужные права
    bin_dir:  /usr/lib/postgresql/9.6/bin # укажите путь до вашей директории с postgresql
    pgpass: /tmp/pgpass
    authentication:
        replication:
            username: postgres
            password: postgres
        superuser:
            username: postgres
            password: postgres
    create_replica_methods:
        basebackup:
            checkpoint: 'fast'
    parameters:
        unix_socket_directories: '.'

tags:
    nofailover: false
    noloadbalance: false
    clonefrom: false
    nosync: false

De Skript muss op all dräi Maschinnen vum Cluster lafen, an déi uewe genannte Konfiguratioun muss och an der Datei /etc/patroni.yml op all Maschinnen gesat ginn.

Wann Dir dës Operatiounen op all Maschinnen am Cluster ofgeschloss hutt, fuert de folgende Kommando op eng vun hinnen

systemctl start patroni
systemctl start postgresql

Waart ongeféier 30 Sekonnen, da lafen dëse Kommando op déi verbleiwen Maschinnen am Cluster.

HAproxy

Mir benotzen déi wonnerbar HAproxy fir en eenzegen Entrée ze bidden. De Master-Server wäert ëmmer op der Adress vun der Maschinn verfügbar sinn, op där HAproxy ofgesat ass.

Fir d'Maschinn net mat HAproxy zu engem eenzege Punkt vum Versoen ze maachen, wäerte mir et an engem Docker Container lancéieren an Zukunft kann et an de K8's Cluster lancéiert ginn an eise Failover Cluster nach méi zouverlässeg maachen.

Erstellt e Verzeichnis wou Dir zwee Dateien späichere kënnt - Dockerfile an haproxy.cfg. Gitt dohinner.

dockerfile

FROM ubuntu:latest

RUN apt-get update 
    && apt-get install -y haproxy rsyslog 
    && rm -rf /var/lib/apt/lists/*

RUN mkdir /run/haproxy

COPY haproxy.cfg /etc/haproxy/haproxy.cfg

CMD haproxy -f /etc/haproxy/haproxy.cfg && tail -F /var/log/haproxy.log

Opgepasst, déi lescht dräi Zeilen vun der haproxy.cfg Datei sollten d'Adressen vun Äre Maschinnen opzielen. HAproxy kontaktéiert Patroni, an den HTTP-Header gëtt de Master-Server ëmmer 200 zréck, an d'Replika gëtt ëmmer 503 zréck.

haproxy.cfg

global
    maxconn 100

defaults
    log global
    mode tcp
    retries 2
    timeout client 30m
    timeout connect 4s
    timeout server 30m
    timeout check 5s

listen stats
    mode http
    bind *:7000
    stats enable
    stats uri /

listen postgres
    bind *:5000
    option httpchk
    http-check expect status 200
    default-server inter 3s fall 3 rise 2 on-marked-down shutdown-sessions
    server postgresql1 192.168.0.143:5432 maxconn 100 check port 8008
    server postgresql2 192.168.0.144:5432 maxconn 100 check port 8008
    server postgresql3 192.168.0.145:5432 maxconn 100 check port 8008

Am Verzeechnes ze sinn, an deem béid vun eise Dateien "léien", loosst eis sequenziell d'Befehle ausféieren fir de Container ze packen, souwéi et lancéiere mat der Forwardung vun den néidege Ports:

docker build -t my-haproxy .
docker run -d -p5000:5000 -p7000:7000 my-haproxy

Elo, andeems Dir d'Adress vun Ärer Maschinn mat HAproxy am Browser opmaacht an den Hafen 7000 spezifizéiert, gesitt Dir Statistiken iwwer Äre Cluster.

De Server deen de Master ass wäert am UP Staat sinn, an d'Repliken wäerten am DOWN Staat sinn. Dëst ass normal, tatsächlech funktionnéieren se, awer se erschéngen esou well se 503 fir Ufroe vun HAproxy zréckginn. Dëst erlaabt eis ëmmer genee ze wëssen wéi eng vun den dräi Serveren den aktuelle Master ass.

Konklusioun

Du bass wonnerschéin! An nëmmen 30 Minutten hutt Dir en exzellente Feeler-tolerant an héich performant Datebankcluster mat Streaming Replikatioun an automateschen Réckgang ofgesat. Wann Dir plangt dës Léisung ze benotzen, kuckt weg mat offiziell Patroni Dokumentatioun, a besonnesch mat sengem Deel betreffend de patronictl Utility, deen e prakteschen Zougang fir d'Gestioun vun Ärem Cluster ubitt.

Gratulatioun!

Source: will.com