🥇Rrepo rpm i thjeshtë duke përdorur Inotify dhe webdav

Në këtë postim do të shqyrtojmë ruajtjen e artefakteve rpm nëpërmjet një skripti të thjeshtë me inotify + createrepo. Ngarkimi i artefakteve bëhet përmes webdav duke përdorur apache httpd. Pse apache httpd do të shkruhet më afër fundin e postimit.

Pra, zgjidhja duhet të përmbushë këto kërkesa për të organizuar vetëm një depè RPM:

Falas
Disponueshmëria e paketës në depo brenda disa sekondave pas ngarkimit në ruajtjen e artefakteve.
E thjeshtë për instalim dhe mirëmbajtje
Mundësia për të arritur disponueshmëri të lartë (high availability)
Pse jo SonaType Nexus ose Pulp:
Ruajtja e SonaType Nexus ose Pulp multe lloje artefaktesh çon deri në faktin që SonaType Nexus ose Pulp janë një pikë e vetme dështimi.
Disponueshmëria e lartë (high availability) në SonaType Nexus është me pagesë.
Pulp më duket si një zgjidhje e tepruar.
Artefaktet në SonaType Nexus ruhen në blob. Në rast të ndërprerjes së papritur të energjisë, nuk do të jeni në gjendje të riktheni blob-in nëse nuk keni një kopje rezervë. Kemi pasur një gabim të tillë: ERROR [ForkJoinPool.commonPool-worker-2] *SYSTEM [com.orientechnologies.orient.core.storage](http://com.orientechnologies.orient.core.storage/).fs.OFileClassic - $ANSI{green {db=security}} Gabim gjatë leximit të të dhënave për skedarin 'privilege_5.pcl' për herë të parë [java.io](http://java.io/).IOException: Adresë e keqe. Blob-i nuk u rikthye.

Kod i burimit

→ Kodi burimor ndodhet këtu

Skripti kryesor duket kështu:

#!/bin/bash

source /etc/inotify-createrepo.conf
LOGFILE=/var/log/inotify-createrepo.log

function monitoring() {
    inotifywait -e close_write,delete -msrq --exclude ".repodata|.olddata|repodata" "${REPO}" | while read events 
    do
      echo $events >> $LOGFILE
      touch /tmp/need_create
    done
}

function run_createrepo() {
  while true; do
    if [ -f /tmp/need_create ];
    then
      rm -f /tmp/need_create
      echo "start createrepo $(date --rfc-3339=seconds)"
      /usr/bin/createrepo --update "${REPO}"
      echo "finish createrepo $(date --rfc-3339=seconds)"
    fi
    sleep 1
  done
}

echo "Start filesystem monitoring: Directory is $REPO, monitor logfile is $LOGFILE"
monitoring >> $LOGFILE &
run_createrepo >> $LOGFILE &

Instalimi

Inotify-createrepo funksionon vetëm në CentOS 7 ose më lart. Në CentOS 6 nuk arrita ta bëj të funksionojë.

yum -y install yum-plugin-copr
yum copr enable antonpatsev/inotify-createrepo
yum -y install inotify-createrepo
systemctl start inotify-createrepo

Konfigurimi

Sipas parazgjedhjes, inotify-createrepo monitoron direktorinë /var/www/repos/rpm-repo/.

Të ndryshohet kjo direktorë mund të bëhet në skedarin /etc/inotify-createrepo.conf.

Përdorimi

Kur çdo skedar shtohet në direktorinë /var/www/repos/rpm-repo/ inotifywait do të krijojë skedarin /tmp/need_create. Funksioni run_createrepo fillon në një cikël të pafund dhe monitoron skedarin /tmp/need_create. Nëse skedari ekziston, atëherë aktivizohet createrepo --update.

Në skedar do të ketë një hyrje:

/var/www/repos/rpm-repo/ CREATE nginx-1.16.1-1.el7.ngx.x86_64.rpm
start createrepo 2020-03-02 09:46:21+03:00
Spawning worker 0 with 1 pkgs
Spawning worker 1 with 0 pkgs
Spawning worker 2 with 0 pkgs
Spawning worker 3 with 0 pkgs
Workers Finished
Saving Primary metadata
Saving file lists metadata
Saving other metadata
Generating sqlite DBs
Sqlite DBs complete
finish createrepo 2020-03-02 09:46:22+03:00

Mundësia për të arritur disponueshmëri të lartë (high availability)

Për të arritur disponueshmëri të lartë (high availability) nga zgjidhja e ekzistueshme, mendoj se mund të përdorim 2 serverë, Keepalived për HA dhe Lsyncd për sinkronizimin e artefakteve. Lsyncd — një demon që monitoron ndryshimet në direktorinë lokale, i agregon ato, dhe pas një kohe të caktuar aktivizon rsync për sinkronizimin e tyre. Detajet dhe konfigurimi janë përshkruar në postimin "Sinkronizimi i shpejtë i një miliard skeda".

WebDav

Mund të ngarkoni skedarët në disa mënyra: SSH, NFS, WebDav. WebDav duket si një opsion modern dhe i thjeshtë.

Për WebDav do të përdorim Apache httpd. Pse Apache httpd në vitin 2020 dhe jo nginx?

Dëshiroj të përdor mjete automatizimi për ndërtimin e Nginx + module (për shembull, Webdav).

Ka një projekt për ndërtimin e Nginx + module — Nginx-builder. Nëse përdorim nginx + wevdav për ngarkimin e skedarëve, nevojitet moduli nginx-dav-ext-module. Në përpjekjen për ta ndërtuar dhe përdorur Nginx me nginx-dav-ext-module me ndihmën e Nginx-builder do të marrim një gabim Përdoret nga http_dav_module në vend të nginx-dav-ext-module.Një gabim i tillë ishte mbyllur verën e kaluar nginx: [emerg] direktiva e panjohur dav_methods.

Kam bërë një Pull request Shto kontrolle për git_url për të zhytur, refaktorizuar —me {}_modul dhe nëse moduli është "http_dav_module" shto —me. Por ata nuk e pranuan.

Konfigurimi webdav.conf

DavLockDB /var/www/html/DavLock

    ServerAdmin webmaster@localhost
    DocumentRoot /var/www/html
    ErrorLog /var/log/httpd/error.log
    CustomLog /var/log/httpd/access.log combined

    Alias /rpm /var/www/repos/rpm-repo
    
        DAV On
        Options Indexes FollowSymlinks SymLinksifOwnerMatch IncludesNOEXEC
        IndexOptions NameWidth=* DescriptionWidth=*
        AllowOverride none
        Require all granted

Mendoj se do të bëni konfigurimin e mbetur të Apache httpd vetë.

Nginx para Apache httpd

Ndryshe nga Apache, Nginx përdor modelin e ngjarjeve për përpunimin e kërkesave, duke lejuar që për çdo numër klientësh të nevojitet vetëm një proces HTTP-server. Mund të përdorni nginx dhe të zvogëloni ngarkesën në server.

Konfigurimi nginx-front.conf. Mendoj se do të bëni konfigurimin e mbetur të nginx vetë.

upstream nginx_front {
    server localhost:80;
}

server {
    listen 443 ssl;
    server_name ваш-виртуальных-хост;
    access_log /var/log/nginx/nginx-front-access.log main;
    error_log /var/log/nginx/nginx-front.conf-error.log warn;

    location / {
        proxy_pass http://nginx_front;
    }
}

Ngarkimi i skedarëve përmes WebDav

Ngarkimi i rpm është shumë i thjeshtë.

curl -T ./nginx-1.16.1-1.el7.ngx.x86_64.rpm https://ваш-виртуальный-хост/rpm/

Burimi: habr.com

Një repository i thjeshtë rpm duke përdorur Inotify dhe webdav