🥇 Enkelt rpm-lager ved hjelp av Inotify og webdav

I dette innlegget vil vi se på rpm-artefaktlagringen ved å bruke et enkelt skript med inotify + createrepo. Opplasting av artefakter utføres via webdav ved bruk av apache httpd. Hvorfor apache httpd vil bli skrevet mot slutten av innlegget.

Så løsningen må oppfylle følgende krav for å organisere kun RPM-lagring:

Gratis
Tilgjengelighet av pakken i depotet noen sekunder etter opplasting til artefaktlageret.
Enkel å installere og vedlikeholde
Evne til å gjøre høy tilgjengelighet

Hvorfor ikke SonaType Nexus eller Pulp:
Oppbevaring i SonaType Nexus eller Pulp mange typer artefakter fører til det faktum at SonaType Nexus eller Pulp bli et enkelt feilpunkt.
Høy tilgjengelighet i SonaType Nexus er betalt.
Pulp Virker for meg som en altfor komplisert løsning.
Artefakter i SonaType Nexus lagres i blob. Hvis det er et plutselig strømbrudd, vil du ikke kunne gjenopprette bloben hvis du ikke har en backup. Vi hadde denne feilen: ERROR [ForkJoinPool.commonPool-worker-2] *SYSTEM [com.orientechnologies.orient.core.storage](http://com.orientechnologies.orient.core.storage/).fs.OFileClassic - $ANSI{green {db=security}} Error during data read for file 'privilege_5.pcl' 1-th attempt [java.io](http://java.io/).IOException: Bad address. Blob ble aldri gjenopprettet.

Kildekode

→ Kildekoden er lokalisert her

Hovedskriptet ser slik ut:

#!/bin/bash

source /etc/inotify-createrepo.conf
LOGFILE=/var/log/inotify-createrepo.log

function monitoring() {
    inotifywait -e close_write,delete -msrq --exclude ".repodata|.olddata|repodata" "${REPO}" | while read events 
    do
      echo $events >> $LOGFILE
      touch /tmp/need_create
    done
}

function run_createrepo() {
  while true; do
    if [ -f /tmp/need_create ];
    then
      rm -f /tmp/need_create
      echo "start createrepo $(date --rfc-3339=seconds)"
      /usr/bin/createrepo --update "${REPO}"
      echo "finish createrepo $(date --rfc-3339=seconds)"
    fi
    sleep 1
  done
}

echo "Start filesystem monitoring: Directory is $REPO, monitor logfile is $LOGFILE"
monitoring >> $LOGFILE &
run_createrepo >> $LOGFILE &

Installasjon

Inotify-createrepo fungerer bare på CentOS 7 eller høyere. Kunne ikke få det til å fungere på CentOS 6.

yum -y install yum-plugin-copr
yum copr enable antonpatsev/inotify-createrepo
yum -y install inotify-createrepo
systemctl start inotify-createrepo

Konfigurasjon

Som standard overvåker inotify-createrepo katalogen /var/www/repos/rpm-repo/.

Du kan endre denne katalogen i filen /etc/inotify-createrepo.conf.

Bruk

Når du legger til en fil i en katalog /var/www/repos/rpm-repo/ inotifywait vil opprette filen /tmp/need_create. Run_createrepo-funksjonen kjører i en endeløs loop og overvåker filen /tmp/need_create. Hvis filen eksisterer, kjører den createrepo --update.

En oppføring vil vises i filen:

/var/www/repos/rpm-repo/ CREATE nginx-1.16.1-1.el7.ngx.x86_64.rpm
start createrepo 2020-03-02 09:46:21+03:00
Spawning worker 0 with 1 pkgs
Spawning worker 1 with 0 pkgs
Spawning worker 2 with 0 pkgs
Spawning worker 3 with 0 pkgs
Workers Finished
Saving Primary metadata
Saving file lists metadata
Saving other metadata
Generating sqlite DBs
Sqlite DBs complete
finish createrepo 2020-03-02 09:46:22+03:00

Evne til å gjøre høy tilgjengelighet

For å gjøre høy tilgjengelighet ut av en eksisterende løsning, tror jeg du kan bruke 2 servere, Keepalved for HA og Lsyncd for å synkronisere artefakter. Lsyncd - en demon som overvåker endringer i en lokal katalog, samler dem, og etter en viss tid begynner rsync å synkronisere dem. Detaljer og oppsett er beskrevet i innlegget "Rask synkronisering av en milliard filer".

WebDav

Du kan laste opp filer på flere måter: SSH, NFS, WebDav. WebDav ser ut til å være et moderne og enkelt alternativ.

For WebDav vil vi bruke Apache httpd. Hvorfor Apache httpd i 2020 og ikke nginx?

Jeg vil gjerne bruke automatiserte verktøy for å bygge Nginx + moduler (for eksempel Webdav).

Det er et prosjekt for å bygge Nginx + moduler - Nginx-bygger. Hvis du bruker nginx + wevdav for å laste opp filer, trenger du en modul nginx-dav-ext-modul. Når du prøver å bygge og bruke Nginx med nginx-dav-ext-modul ved hjelp av Nginx-bygger vi får en feil Brukes av http_dav_module i stedet for nginx-dav-ext-module. Den samme feilen ble stengt om sommeren nginx: [emerg] ukjent direktiv dav_methods.

Jeg har laget en Pull-forespørsel Legg til check git_url for embedded, refactored —with-{}_module и hvis modul == "http_dav_module" legge til --med. Men de ble ikke akseptert.

Konfigurer webdav.conf

DavLockDB /var/www/html/DavLock
<VirtualHost localhost:80>
    ServerAdmin webmaster@localhost
    DocumentRoot /var/www/html
    ErrorLog /var/log/httpd/error.log
    CustomLog /var/log/httpd/access.log combined

    Alias /rpm /var/www/repos/rpm-repo
    <Directory /var/www/repos/rpm-repo>
        DAV On
        Options Indexes FollowSymlinks SymLinksifOwnerMatch IncludesNOEXEC
        IndexOptions NameWidth=* DescriptionWidth=*
        AllowOverride none
        Require all granted
    </Directory>
</VirtualHost>

Jeg tror du kan gjøre resten av Apache httpd-oppsettet selv.

Nginx før Apache httpd

I motsetning til Apache, bruker Nginx en hendelsesbasert forespørselsbehandlingsmodell, som krever bare én HTTP-serverprosess for et hvilket som helst antall klienter. Du kan bruke nginx og redusere belastningen på serveren.

Konfigurer nginx-front.conf. Jeg tror du kan gjøre resten av nginx-oppsettet selv.

upstream nginx_front {
    server localhost:80;
}

server {
    listen 443 ssl;
    server_name ваш-виртуальных-хост;
    access_log /var/log/nginx/nginx-front-access.log main;
    error_log /var/log/nginx/nginx-front.conf-error.log warn;

    location / {
        proxy_pass http://nginx_front;
    }
}

Laster opp filer via WebDav

Lasting av rpm er veldig enkelt.

curl -T ./nginx-1.16.1-1.el7.ngx.x86_64.rpm https://ваш-виртуальный-хост/rpm/

Kilde: www.habr.com

Enkelt rpm-lager ved hjelp av Inotify og webdav