ProHoster > Blog > Идораи > Сохтани кластери хеле дастрас PostgreSQL бо истифода аз Patroni, etcd, HAProxy

Сохтани кластери хеле дастрас PostgreSQL бо истифода аз Patroni, etcd, HAProxy

Ҳамин тавр рӯй дод, ки дар вақти ба миён омадани мушкилот ман таҷрибаи кофӣ надоштам, ки танҳо ин ҳалли худро таҳия ва оғоз кунам. Ва он гоҳ ман Google-ро оғоз кардам.

Ман намедонам, ки сайд чист, аммо бори дувум ман бо он вохӯрдам, ки ҳатто агар ман ҳама чизро қадам ба қадам тавре ки дар дарсӣ иҷро кунам, ҳамон муҳитро бо муаллиф омода созам, пас ҳеҷ чиз кор намекунад. Ман намедонам, ки чӣ шуд, аммо вақте ки ман бори дигар ба ин дучор шудам, ман қарор додам, ки вақте ки ҳама чиз хуб мешавад, дарси шахсии худро менависам. Яке, ки бешубҳа кор хоҳад кард.

Роҳнамо дар Интернет

Ҳамин тавр мешавад, ки Интернет аз нарасидани дастурҳои гуногун, дастурҳои дарсӣ, қадам ба қадам ва монанди инҳо азоб намекашад. Ҳамин тавр рӯй дод, ки ман вазифадор шудам, ки ҳалли ба осонӣ ташкил ва сохтани кластери бебозгашти PostgreSQL-ро таҳия кунам, ки талаботҳои асосии он ҷараён додани репликатсия аз сервери Мастер ба ҳама репликаҳо ва таъмини автоматии захира дар ҳолати сервери Мастер буданд. ноком.

Дар ин марҳила, маҷмӯи технологияҳои истифодашуда муайян карда шуд:

  • PostgreSQL ҳамчун DBMS
  • Патрони ҳамчун ҳалли кластерӣ
  • etcd ҳамчун анбори тақсимшуда барои Patroni
  • HAproxy барои ташкили як нуқтаи вуруд барои барномаҳо бо истифода аз пойгоҳи додаҳо

параметр

Ба таваҷҷӯҳи шумо - сохтани кластери хеле дастраси PostgreSQL бо истифода аз Patroni, etcd, HAProxy.

Ҳама амалиётҳо дар мошинҳои виртуалӣ бо OS Debian 10 насб карда шуданд.

ва ғайра

Ман тавсия намедиҳам, ки etcd -ро дар ҳамон мошинҳое, ки patroni ва postgresql ҷойгиранд, насб кунед, зеро бори диск барои ғайра муҳим аст. Аммо барои мақсадҳои таълимӣ, мо ин корро хоҳем кард.
Биёед ва ғайраро насб кунем.

#!/bin/bash
apt-get update
apt-get install etcd

Ба файли /etc/default/etcd мундариҷа илова кунед

[узв]

ETCD_NAME=datanode1 # номи мизбони мошини шумо
ETCD_DATA_DIR ="/var/lib/etcd/default.etcd"

ҲАМАИ АДРЕСИ IP БОЯД ЭЪТИБОР БОШАД. БОЯД БА IP АДРЕСИ ХОСТ ТАЪИЗ ДОДА ШАВАД.

ETCD_LISTEN_PEER_URLS="http://192.168.0.143:2380» # суроғаи мошини шумо
ETCD_LISTEN_CLIENT_URLS="http://192.168.0.143:2379,http://127.0.0.1:2379» # суроғаи мошини шумо

[кластер]

ETCD_INITIAL_ADVERTISE_PEER_URLS="http://192.168.0.143:2380» # суроғаи мошини шумо
ETCD_INITIAL_CLUSTER=»datanode1=http://192.168.0.143:2380,datanode2=http://192.168.0.144:2380,datanode3=http://192.168.0.145:2380» # суроғаҳои ҳамаи мошинҳо дар кластери etcd
ETCD_INITIAL_CLUSTER_STATE="нав"
ETCD_INITIAL_CLUSTER_TOKEN="etcd-cluster-1"
ETCD_ADVERTISE_CLIENT_URLS="http://192.168.0.143:2379» # суроғаи мошини шумо

Фармонро иҷро кунед

systemctl restart etcd

PostgreSQL 9.6 + муштарӣ

Аввалин чизе, ки ба шумо лозим аст, насб кардани се мошини виртуалӣ барои насб кардани нармафзори зарурӣ дар онҳо аст. Пас аз насб кардани мошинҳо, агар шумо дастури маро риоя кунед, шумо метавонед ин скрипти оддиеро иҷро кунед, ки (қариб) ҳама чизро барои шумо иҷро мекунад. Ҳамчун реша кор мекунад.

Лутфан таваҷҷӯҳ намоед, ки скрипт версияи PostgreSQL 9.6-ро истифода мебарад, ки ин ба талаботи дохилии ширкати мо вобаста аст. Ҳал дар дигар версияҳои PostgreSQL озмуда нашудааст.

#!/bin/bash
apt-get install gnupg -y
echo "deb http://apt.postgresql.org/pub/repos/apt/ buster-pgdg main" >> /etc/apt/sources.list
wget --quiet -O - https://www.postgresql.org/media/keys/ACCC4CF8.asc | apt-key add -
apt-get update
apt-get install postgresql-9.6 python3-pip python3-dev libpq-dev -y
systemctl stop postgresql
pip3 install --upgrade pip
pip install psycopg2
pip install patroni[etcd]
echo "
[Unit]
Description=Runners to orchestrate a high-availability PostgreSQL
After=syslog.target network.target

[Service]
Type=simple

User=postgres
Group=postgres

ExecStart=/usr/local/bin/patroni /etc/patroni.yml

KillMode=process

TimeoutSec=30

Restart=no

[Install]
WantedBy=multi-user.targ
" > /etc/systemd/system/patroni.service
mkdir -p /data/patroni
chown postgres:postgres /data/patroni
chmod 700 /data/patroniпо
touch /etc/patroni.yml

Баъдан, дар файли /etc/patroni.yml, ки шумо нав сохтаед, шумо бояд мундариҷаи зеринро ҷойгир кунед, албатта суроғаҳои IP-ро дар ҳама ҷойҳо ба суроғаҳое, ки шумо истифода мебаред, иваз кунед.
Ба шарҳҳо дар ин ямл диққат диҳед. Дар ҳар як мошини кластер суроғаҳоро ба худатон иваз кунед.

/etc/patroni.yml

scope: pgsql # должно быть одинаковым на всех нодах
namespace: /cluster/ # должно быть одинаковым на всех нодах
name: postgres1 # должно быть разным на всех нодах

restapi:
    listen: 192.168.0.143:8008 # адрес той ноды, в которой находится этот файл
    connect_address: 192.168.0.143:8008 # адрес той ноды, в которой находится этот файл

etcd:
    hosts: 192.168.0.143:2379,192.168.0.144:2379,192.168.0.145:2379 # перечислите здесь все ваши ноды, в случае если вы устанавливаете etcd на них же

# this section (bootstrap) will be written into Etcd:/<namespace>/<scope>/config after initializing new cluster
# and all other cluster members will use it as a `global configuration`
bootstrap:
    dcs:
        ttl: 100
        loop_wait: 10
        retry_timeout: 10
        maximum_lag_on_failover: 1048576
        postgresql:
            use_pg_rewind: true
            use_slots: true
            parameters:
                    wal_level: replica
                    hot_standby: "on"
                    wal_keep_segments: 5120
                    max_wal_senders: 5
                    max_replication_slots: 5
                    checkpoint_timeout: 30

    initdb:
    - encoding: UTF8
    - data-checksums
    - locale: en_US.UTF8
    # init pg_hba.conf должен содержать адреса ВСЕХ машин, используемых в кластере
    pg_hba:
    - host replication postgres ::1/128 md5
    - host replication postgres 127.0.0.1/8 md5
    - host replication postgres 192.168.0.143/24 md5
    - host replication postgres 192.168.0.144/24 md5
    - host replication postgres 192.168.0.145/24 md5
    - host all all 0.0.0.0/0 md5

    users:
        admin:
            password: admin
            options:
                - createrole
                - createdb

postgresql:
    listen: 192.168.0.143:5432 # адрес той ноды, в которой находится этот файл
    connect_address: 192.168.0.143:5432 # адрес той ноды, в которой находится этот файл
    data_dir: /data/patroni # эту директорию создаст скрипт, описанный выше и установит нужные права
    bin_dir:  /usr/lib/postgresql/9.6/bin # укажите путь до вашей директории с postgresql
    pgpass: /tmp/pgpass
    authentication:
        replication:
            username: postgres
            password: postgres
        superuser:
            username: postgres
            password: postgres
    create_replica_methods:
        basebackup:
            checkpoint: 'fast'
    parameters:
        unix_socket_directories: '.'

tags:
    nofailover: false
    noloadbalance: false
    clonefrom: false
    nosync: false

Скрипт бояд дар ҳар се мошини кластер иҷро карда шавад ва конфигуратсияи дар боло зикршуда низ бояд дар файли /etc/patroni.yml дар ҳама мошинҳо ҷойгир карда шавад.

Пас аз он ки шумо ин амалҳоро дар ҳама мошинҳои кластер анҷом додед, фармони зеринро дар яке аз онҳо иҷро кунед

systemctl start patroni
systemctl start postgresql

Тақрибан 30 сония интизор шавед, пас ин фармонро дар мошинҳои боқимондаи кластер иҷро кунед.

HAproxy

Мо HAproxy-и олиҷанобро барои таъмини як нуқтаи вуруд истифода мебарем. Сервери асосӣ ҳамеша дар суроғаи мошине, ки дар он HAproxy ҷойгир шудааст, дастрас хоҳад буд.

Барои он ки мошин бо HAproxy ба як нуқтаи нокомӣ табдил наёбад, мо онро дар як контейнери Docker ба кор меандозем; дар оянда он метавонад ба кластери K8 оғоз карда шавад ва кластери нокомии моро боз ҳам боэътимодтар кунад.

Феҳрист эҷод кунед, ки дар он шумо метавонед ду файлро нигоҳ доред - Dockerfile ва haproxy.cfg. Ба он равед.

файли докер

FROM ubuntu:latest

RUN apt-get update 
    && apt-get install -y haproxy rsyslog 
    && rm -rf /var/lib/apt/lists/*

RUN mkdir /run/haproxy

COPY haproxy.cfg /etc/haproxy/haproxy.cfg

CMD haproxy -f /etc/haproxy/haproxy.cfg && tail -F /var/log/haproxy.log

Эҳтиёт бошед, се сатри охири файли haproxy.cfg бояд суроғаҳои мошинҳои шуморо номбар кунад. HAproxy бо Patroni тамос хоҳад гирифт, дар сарлавҳаҳои HTTP сервери асосӣ ҳамеша 200-ро бармегардонад ва реплика ҳамеша 503-ро бармегардонад.

haproxy.cfg

global
    maxconn 100

defaults
    log global
    mode tcp
    retries 2
    timeout client 30m
    timeout connect 4s
    timeout server 30m
    timeout check 5s

listen stats
    mode http
    bind *:7000
    stats enable
    stats uri /

listen postgres
    bind *:5000
    option httpchk
    http-check expect status 200
    default-server inter 3s fall 3 rise 2 on-marked-down shutdown-sessions
    server postgresql1 192.168.0.143:5432 maxconn 100 check port 8008
    server postgresql2 192.168.0.144:5432 maxconn 100 check port 8008
    server postgresql3 192.168.0.145:5432 maxconn 100 check port 8008

Мо дар директорияе ҳастем, ки дар он ҳарду файли мо "дурӯғ" ҳастанд, биёед фармонҳои бастабандии контейнерро пайдарпай иҷро кунем ва инчунин онро бо интиқоли портҳои зарурӣ оғоз кунем:

docker build -t my-haproxy .
docker run -d -p5000:5000 -p7000:7000 my-haproxy

Ҳоло, бо кушодани суроғаи мошини худ бо HAproxy дар браузер ва муайян кардани порти 7000, шумо оморро дар кластери худ хоҳед дид.

Сервере, ки устод аст, дар ҳолати UP ва репликаҳо дар ҳолати ПОЁН хоҳанд буд. Ин муқаррарӣ аст, дар асл онҳо кор мекунанд, аммо ин тавр нишон дода мешаванд, зеро онҳо 503-ро барои дархостҳои HAproxy бармегардонанд. Ин ба мо имкон медиҳад, ки ҳамеша дақиқ донем, ки кадоме аз се сервер устоди ҷорӣ аст.

хулоса

Шумо зебоед! Ҳамагӣ дар 30 дақиқа шумо як кластери аълои ба хатогиҳо тобовар ва баландсифати махзани маълумотро бо такрори ҷараён ва бозгашти худкор ҷойгир кардед. Агар шумо нақшаи истифодаи ин ҳалли худро дошта бошед, санҷед бо ҳуҷҷатҳои расмии Patroni, ва махсусан бо қисми он дар бораи утилитаи patronictl, ки дастрасии қулайро барои идоракунии кластери шумо таъмин мекунад.

Табрикот!

Манбаъ: will.com

Илова Эзоҳ