Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Kohë më ka marrë të shkruaj për mënyrën se si i ruaj dosjet e mia, si bëj backup, por asnjëherë nuk kam arritur. Së fundmi, u shfaq një artikull, disi të ngjashëm me timin, por me një qasje tjetër.
Artikulli vetë.

Kam për shumë vite që përpiqem të gjej metodën ideale për ruajtjen e dosjeve. Mendoj se e kam gjetur, por gjithmonë ka diçka që mund të përmirësohet, nëse keni ndonjë mendim se si mund ta bëjë më mirë, do t’i lexoj me kënaqësi.

Do ta filloj duke thënë disa fjalë për veten, unë merrem me zhvillimin e uebit dhe në kohën time të lirë bëj fotografi. Prandaj, duhet të ruaj projektet e punës dhe ato personale, fotografitë, videot dhe dosje të tjera.

Kam diku rreth 680 GB dosjesh, prej të cilave rreth 90% janë fotografi dhe videot.

Rrethina e dosjeve në magazinat e mia:

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Këtu është një skemë e përafërt se si dhe ku ruhen të gjitha dosjet e mia.

Tani më në detaje.

Siç shihet, zemra e gjithë sistemit është NAS-i im, konkretisht Synology DS214, një nga NAS-at më të thjeshtë nga kompania Synology, megjithatë ai përballon gjithçka që më nevojitet.

Dropbox

Për makina punuese kam një MacBook Pro 13, të vitit 2015. Kam aty 512GB, por natyrisht nuk e mbaj çdo dosje, ruaj vetëm atë që është e nevojshme për momentin. Të gjitha dosjet dhe dosjet e mia personale i sinkronizoj me Dropbox-in, e di se nuk është shumë e besueshme, por ai kryen vetëm funksionin e sinkronizimit. Dhe e bën këtë më mirë se gjithçka që kam provuar, përveç të famshmëve dhe disa jo aq të njohur.

Synology gjithashtu ka cloud-in e saj, mund ta aktivizosh në NAS-in tënd, disa herë kam provuar të kaloj nga Dropbox në Synology Cloud Station, por gjithmonë kishte probleme me sinkronizimin, gjithmonë ndodhnin disa gabime, ose nuk e sinkronizonte të gjithë.

Të gjitha dosjet e rëndësishme ruhen në dosjen Dropbox, ndonjëherë ruaj diçka në desktop, që të mos humbas ndonjë gjë kam bërë një simlink në dosjen Dropbox me ndihmën e programit MacDropAny.
Dosja Download nuk sinkronizohet fare, por aty nuk ka asgjë të rëndësishme, vetëm dosje përkohësisht. Nëse shkarkoj diçka të rëndësishme, atëherë e kopjoj në dosjen përkatëse në Dropbox.

Aventurat e mia me DropboxNjëherë shumë kohë më parë, diku në 2013-2014, ruaja të gjitha dosjet në Dropbox dhe vetëm në të, nuk kishte asnjë backup. Atëherë nuk kisha 1TB, pra nuk paguaja për të, kisha diku rreth 25GB, që i fitova duke ftuar miq ose nëpërmjet detyrave të tjera.

Në një mëngjes të bukur, aktivizova kompjuterin tim dhe të gjitha skedarët e mi kishin zhdukur, gjithashtu mora një email nga Dropbox ku ata kërkonin falje dhe thonin se skedarët e mi ishin humbur për shkak të tyre. Ata më dhanë një lidhje përmes të cilës mund të riktheja skedarët e mi, por natyrisht asgjë nuk u rikthye. Megjithatë, ata më dhuruan një vit 1Tb, pas së cilës u bëra klient i tyre, pavarësisht se sa e çuditshme tingëllon kjo, por asnjëherë nuk i kam besuar.

Siç kam shkruar më parë, nuk arrita të gjej ndonjë shërbim më të përshtatshëm për mua, së pari ende nuk kishte probleme me sinkronizimin, së dyti shumë shërbime funksionojnë vetëm me Dropbox.

Git

Skedarët e punës ruhen në serverin e punës, projektet personale në GitLab, këtu është gjithçka e thjeshtë.

Time Machine

Gjithashtu bëj backup të gjithë sistemit, duke përjashtuar folderin Dropbox dhe Downloads natyrisht, për të mos zënë kot hapësirë. Backup-in e sistemit e bëj përmes Time Machine, një mjet i shkëlqyer që më ka ndihmuar shumë herë. E bëj në të njëjtin NAS, për fat të mirë ka një funksion të tillë. Mund ta bësh edhe në një HDD të jashtëm, sigurisht, por kjo nuk është aq e përshtatshme. Duhet ta lidhësh çdo herë hard diskun e jashtëm dhe të aktivizosh vetë Time Machine. Për shkak të lenies, shpesh bëja backup në intervale disa javore. Në server, ndodhet automatikisht një backup, as nuk e vë re kur ndodh. Punoj nga shtëpia, kështu që gjithmonë kam një kopje të freskët rezervë të gjithë sistemit tim. Bëhen kopje disa herë në ditë, nuk e kam llogaritur sa herë dhe sa shpesh.

NAS

Këtu ndodh gjithë magia.

Synology ka një mjet të shkëlqyer, quhet Cloud Sync, mendoj se është e dukshme se çfarë bën.

Ai mund të sinkronizojë shumë sisteme të cloud-it midis vete, nëse jam më i saktë të sinkronizojë skedarët nga serveri NAS me cloud të tjera. Mendoj se ekziston një përmbledhje e këtij programi në internet. Nuk do të futem në detaje. Më mirë do ta përshkruaj si e përdor.

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Në server kam një folder që quhet Dropbox, është një kopje e llogarisë time në Dropbox, sinkronizimi i të gjitha këtyre merret nga Cloud Sync. Nëse ndodhi diçka me skedarët në Dropbox, do të ndodhë edhe në server, nuk ka rëndësi, fshirje - krijim. Në thelb, një sinkronizim klasik.

Yandex Disk

Pastaj, të gjitha këto skedarë i dërgoj në Yandex Disk-in tim, e përdor atë si një disk backup të bërë vetë, domethënë i dërgoj skedarët atje por nuk fshij asgjë nga aty, kështu që krijohet një grumbull skedarësh, por ka ndihmuar disa herë.

Google Drive

At that place, I only send the "Photos" folder, also in synchronization mode; I do this only for convenient viewing of photos on Google Photos, with the ability to delete photos from there, and they are deleted everywhere (except for Yandex Disk, of course). I will write about photos below; a separate article can be written about it.

HyperBackup

But all this is not very reliable; if a file is accidentally deleted, it will be deleted everywhere and can be considered lost. Of course, it can be restored from Yandex Disk, but first of all, a backup in one place is not very reliable in itself, and Yandex Disk is not the service you can trust 100%, although I have never had issues with it.

Therefore, I always tried to store files elsewhere, already with a proper backup system.

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Synology also has a tool for this, called HyperBackup; it backs up files either to other Synology servers or to some cloud solutions from third-party providers.
It can also back up to external drives connected to NAS devices; that's what I did until recently. But this is also not reliable; for example, if there's a fire, it's the end for both the server and the HDD.

Synology C2

Here we smoothly approach another service, from Synology itself. It has its clouds for storing backups. It is specifically designed for HyperBackup; it backs up there every day, but this is already a well-thought-out backup with file versions, a timeline, and even clients for Windows and macOS.

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

That's it for file storage; I hope my files remain safe.

Now let's move on to sorting files.

Regular files, books, document scans, and other less important files I sort manually into folders like everyone else. Usually, there aren't many of them, and I open them rarely.

The most challenging part is sorting photos and videos; I have a lot of them.

I take from several dozen to several hundred photos a month. I shoot with a DSLR, a drone, and sometimes with my phone. The photos can be personal or for stock. I also sometimes shoot home videos (not what you might think, just family videos, often with my daughter). They also need to be stored and sorted in a way that doesn’t create a mess.

I have a folder in the same Dropbox called Sort Images, with subfolders where all photos and videos go; from there, they are taken and sorted where needed.

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Sortimi ndodh në serverin NAS, aty punojnë skriptet bash që aktivizohen automatikisht çdo ditë dhe kryejnë punën e tyre. NAS-i është përgjegjës për aktivizimin e tyre, ai ka një planifikues detyrash që mban përgjegjësi për aktivizimin e të gjithë skripteve dhe detyrave të tjera. Mund të konfiguroni se sa shpesh dhe kur do të aktivizohen detyrat, një cron me një ndërfaqe nëse është më e lehtë.

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Për secilën dosje ka skriptin e saj. Tani më konkretisht për dosjet:

Drone — këtu përfshihen fotografitë nga droni që kam bërë për qëllime personale. Fillimisht, unë përpunoj të gjitha fotografitë në Lightroom, pastaj bëj eksportimin JPG në këtë dosje. Nga aty ato kalojnë në një dosje tjetër Dropbox, "Photo".

Aty ka një dosje "Drone" dhe aty ato klasifikohen sipas viteve dhe muajve. Skriptet krijojnë automatikisht dosjet e nevojshme dhe rinovojnë fotografitë sipas modelit tim, zakonisht kjo është data dhe ora e marrjes së fotografive, po ashtu shtoj në fund një numër rastësor, për të mos pasur skedarë me të njëjtin emër. Nuk e njoh arsyen pse për këto qëllime nuk përshtatej caktimi i sekondave në emrin e skedarit.

Дерево имеет такой вид: Photo/Drone/2019/05 — May/01 — May — 2019_19.25.53_37.jpg

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Video Droni — për momentin nuk po xhiroj videon me dronin, duhet të mësoj shumë dhe nuk kam kohë për këtë tani, por e kam krijuar dosjen.

Operacionet e Imazheve — këtu brenda ka dy dosje, kur skedarët ndodhen aty, ata thjesht kompresohen në anën maksimale deri në 2000px për publikim në internet ose bëhet fliptirimi i fotografive, kjo tashmë nuk më nevojitet, por për momentin nuk e kam fshirë dosjen.

Panorama — këtu përfshihen siç e mendoni panoramat, i ruaj veçmas sepse është një lloj specifik fotografie, zakonisht i bëj me dronin. Unë bëj dhe panoramat normale, por gjithashtu bëj panoramat 360 dhe ndonjëherë sfira, ky lloj panoramash siç janë planet e vogla, gjithashtu i bëj me dronin. Nga kjo dosje, të gjitha fotografitë kalojnë gjithashtu në Photo/Panoramas/2019/01 — May — 2019_19.25.53_37.jpg. Këtu nuk bëj klasifikim sipas muajve sepse nuk ka kaq shumë panorama.

Fotografi Personale — Këtu sillen fotografitë që bëj me aparatin refleks, zakonisht janë fotografi familjare ose udhëtime, në përgjithësi fotografi që bëhen për kujtim dhe për veten. Po ashtu, fotografitë e papërpunuara i përpunoj në Lightroom dhe pastaj i eksportoj këtu.

Отсюда они попадают сюда: Photo/2019/05 — May/01 — May — 2019_19.25.53_37.jpg

Nëse ndonjëherë kam filmuar ndonjë përgjumje ose diçka tjetër që do ishte më mirë ta ruaja veçmas, në dosjen 2019 krijoj një dosje me emrin e përgjumjes dhe e kopjoj fotografinë atje me duar.

RAW — këtu përfshihen burimet e fotove. Unë gjithmonë fotografoj në RAW, të gjitha fotot i ruaj në JPG, por herë pas here dëshiroj të ruaj edhe skedarët RAW, ndonjëherë dëshiroj të përpunoj ndonjë kadër ndryshe. Zakonisht kjo është natyra dhe atje shkojnë vetëm kadrot më të mira, jo të gjitha pa përjashtim.

Fotografi Stok — këtu i hedh fotot për stok, që i bëj ose me kamerë ose me dron. Sortimi është i njëjtë si te fotot e tjera, thjesht në një dosje të veçantë.

Në direktorinë kryesore të Dropbox, ka një dosje Camera Uploads, kjo është dosja defaut në të cilën aplikacioni mobil Dropbox hedh të gjitha fotot dhe videot. Të gjitha fotot e gruas nga telefoni hedhën në këtë mënyrë. Edhe unë hedh të gjitha fotot dhe videot e mia nga telefoni këtu dhe nga aty i sortoj në një dosje të veçantë. Por unë e bëj këtë ndryshe, në një mënyrë më të përshtatshme për mua. Ka një program për Android, FolderSync, që lejon marrjen e të gjitha fotove nga celulari, t'i ngarkosh në Dropbox dhe pastaj t'i fshish nga telefoni. Ka shumë përpilime, e rekomandoj. Në këtë dosje shkojnë gjithashtu videot nga telefoni, ato gjithashtu sortohen si të gjitha fotot, sipas viteve dhe muajve.

Të gjithë skriptet i kam mbledhur vetë nga udhëzime të ndryshme në internet, nuk kam gjetur ndonjë zgjidhje të gatshme. Unë në përgjithësi nuk di asgjë për skriptet e bash-it, ndoshta ka ndonjë gabim ose gjëra që mund të ishin bërë më mirë, por më e rëndësishmja — për mua, ato përballen me punën e tyre dhe bëjnë atë që më nevojitet.

Skriptet i kam ngarkuar në GitHub: https://github.com/pelinoleg/bash-scripts

Më parë për sortingun e fotove dhe videove kam përdorur Hazel në Mac OS, atje gjithçka është më e lehtë, të gjitha detyrat krijohen vizualisht, nuk është e nevojshme të shkruash kod, por këtu ka dy disavantazhe. Së pari, duhet të mbash të gjitha dosjet në kompjuter që gjithçka të funksionojë mirë dhe së dyti, nëse ndonjëherë kaloj në Windows ose Linux, atëherë atje nuk ka programe të tillë. Kam provuar të gjej alternativë, por të gjitha ishin të padobishme. Zgjidhja me skriptet në server është një zgjidhje më universale.

Të gjitha skriptet janë konfiguruar për t'u ekzekutuar njëherë në ditë, zakonisht natën. Por nëse nuk ka kohë për të pritur dhe duhet të ekzekutoj një skript tani, ka dy zgjidhje, të lidhem përmes SSH me serverin dhe të ekzekutoj skriptin e nevojshëm ose të hyj në administratën dhe gjithashtu ta nis manualisht skriptin e nevojshëm. Të gjitha këto më duken të palakmueshme, prandaj kam gjetur një zgjidhje të tretë. Ka një program për Android, që mund të dërgojë komandat ssh. Kam krijuar disa komanda, për secilën ka një buton dhe tani, nëse duhet të rendit p.sh. fotot që kam bërë me dronin, thjesht shtyp një buton dhe skripti aktivizohet. Programi quhet SSHing, ka edhe të tjera të ngjashme, por për mua kjo është më e përshtatshme.

Ruajtja dhe renditja automatike e fotove dhe skedarëve të tjerë. Punë me file storage të bazuar në NAS Synology

Po ashtu kam disa faqe të mia, ato janë më shumë për show, pak njerëz hyjnë atje, por megjithatë bënë backup nuk dëmton. Faqet i mbaj në DigitalOcean, ku kam instaluar panelin aaPanel. Aty ka mundësi për të bërë kopje rezervë të të gjitha skedarëve dhe të gjitha bazave të të dhënave, por në të njëjtin disk.

Të mbash backup në të njëjtin disk nuk është e arsyeshme, prandaj gjithashtu kaloj nëpërmjet skriptit bash dhe kopjoj gjithçka në serverin tim, duke e arkivuar gjithçka në një arkiv me datën në emër.

Shpresoj që ndihmat e mia të jenë të dobishme për dikë, të cilat kam përdorur dhe me të cilat kam ndarë.

Sipas artikullit, më pëlqen automatizimi dhe mundohem të automatizoj çdo gjë që është e mundur, nuk kam përshkruar shumë gjëra nga aspekti i automatizimit, sepse ato janë tema dhe artikuj të tjerë.

Burimi: habr.com

Blini hosting të besueshëm për faqe interneti me mbrojtje nga DDoS, serverë VPS VDS 🔥 Blini hosting të besueshëm për faqe interneti me mbrojtje nga DDoS, serverë VPS VDS | ProHoster