Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Jag har länge velat skriva om hur jag lagrar mina filer och hur jag gör säkerhetskopior, men jag kom aldrig till det. Nyligen dök det upp en artikel här, lite lik min men med ett annat tillvägagångssätt.
Själva artikeln.

Jag har försökt hitta den perfekta metoden för att lagra filer i många år nu. Jag tror att jag hittade det, men det finns alltid något att förbättra, om du har några idéer om hur man kan göra det bättre, läser jag det gärna.

Jag börjar med att berätta några ord om mig själv, jag håller på med webbutveckling och fotar på fritiden. Därav slutsatsen att jag behöver lagra arbete och personliga projekt, foton, videor och andra filer.

Jag har cirka 680 GB filer, varav 90 procent är foton och videor.

Cirkulation av filer i mina lagringar:

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Här är ett ungefärligt diagram över hur och var alla mina filer lagras.

Nu mer.

Som ni ser är hjärtat i allt min NAS, nämligen Synology DS214, en av de enklaste NAS:erna från Synology, men den klarar allt jag behöver.

dropbox

Min arbetsmaskin är en macbook pro 13, 2015. Jag har 512GB där, men alla filer får såklart inte plats, jag lagrar bara det som behövs för tillfället. Jag synkroniserar alla mina personliga filer och mappar med Dropbox, jag vet att det inte är särskilt tillförlitligt, men det utför bara synkroniseringsfunktionen. Och han gör det bäst, åtminstone av vad jag har provat. Och jag provade alla kända och inte så kända moln.

Synology har också ett eget moln, du kan distribuera det på din NAS, jag försökte flera gånger att byta från Dropbox till Synology Cloud Station, men det var alltid problem med synkroniseringen, det var alltid några fel eller så synkroniserade jag inte allt.

Alla viktiga filer lagras i Dropbox-mappen, ibland sparar jag något på skrivbordet, för att inte förlora något gjorde jag en symbollänk till Dropbox-mappen med programmet MacDropAny.
Min nedladdningsmapp är inte synkroniserad på något sätt, men det finns inget viktigt där, bara temporära filer. Om jag laddar ner något viktigt kopierar jag det till lämplig mapp i Dropbox.

Mina äventyr med DropboxEn gång i tiden, någonstans under 2013-2014, lagrade jag alla mina filer i Dropbox och bara där fanns det inga säkerhetskopior. Sedan hade jag inte 1Tb, det vill säga jag betalade inte för det, jag hade ungefär 25Gb, som jag tjänade genom att bjuda in vänner eller andra uppgifter.

En vacker morgon slog jag på datorn och alla mina filer försvann, jag fick även ett brev från Dropbox där de ber om ursäkt och att mina filer försvann genom deras fel. De gav mig en länk där jag kunde återställa mina filer, men naturligtvis återställdes ingenting. För detta gav de mig 1Tb i ett år, varefter jag blev deras klient, hur konstigt det än kan låta, men jag litade aldrig på dem.

Som jag skrev ovan kunde jag inte hitta ett moln som var mer lämpligt för mig, för det första fanns det inga synkroniseringsproblem ännu, och för det andra fungerar många olika tjänster bara med Dropbox.

Arbetsfiler lagras på arbetsservern, personliga projekt lagras på GitLab, allt är enkelt här.

Time Machine

Jag gör också en säkerhetskopia av hela systemet, exklusive Dropbox och nedladdningsmappen så klart, för att inte ta upp plats förgäves. Jag säkerhetskopierar systemet med Time Machine, ett utmärkt verktyg som har hjälpt mig mer än en gång. Jag gör det på samma NAS, som tur är har den en sådan funktion. Du kan naturligtvis göra det på en extern hårddisk, men det är inte lika bekvämt. Varje gång du behöver ansluta en extern enhet och starta Time Machine själv. På grund av lättja gjorde jag ofta sådana säkerhetskopior en gång varannan vecka. Han gör automatiskt säkerhetskopior till servern, jag märker inte ens när han gör det. Jag jobbar hemifrån, så jag har alltid en ny säkerhetskopia av hela mitt system. En kopia görs flera gånger om dagen, jag räknade inte hur många gånger och hur ofta.

NAS

Det är här all magi händer.

Synology har ett utmärkt verktyg, det heter Cloud Sync, jag tror från namnet att det är tydligt vad det gör.

Den kan synkronisera många molnsystem med varandra, eller mer exakt, synkronisera filer från en NAS-server med andra moln. Jag tror att det finns en recension av det här programmet online. Jag går inte in på detaljer. Jag skulle bättre beskriva hur jag använder den.

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

På servern har jag en diskmapp som heter Dropbox, det är en kopia av mitt Dropbox-konto, Cloud Sync ansvarar för att synkronisera allt detta. Om något hände med filerna i Dropbox kommer det att hända på servern, det spelar ingen roll om det tas bort eller skapas. I allmänhet klassisk synkronisering.

Yandex disk

Därefter slänger jag alla dessa filer på min Yandex-skiva, jag använder den som en hemmagjord backup-skiva, det vill säga jag slänger filerna dit men tar inte bort något därifrån, det visar sig vara en sådan dump av filer, men det hjälpte ett par gånger.

Google Drive

Dit skickar jag bara mappen "Foton", även i synkroniseringsläge, jag gör detta endast för bekväm visning av foton i Google Foton och med möjligheten att ta bort foton därifrån och de raderas överallt (förutom Yandex-skivan förstås). Jag kommer att skriva om bilden nedan; du kan till och med skriva en separat artikel där.

HyperBackup

Men allt detta är inte särskilt tillförlitligt; om du av misstag raderar en fil kommer den att raderas överallt och du kan anse den som förlorad. Du kan naturligtvis återställa från Yandex-disken, men för det första är en säkerhetskopia på ett ställe inte särskilt tillförlitlig i sig, och Yandex-disken i sig är inte en tjänst som du kan vara 100% säker på, även om det aldrig har funnits någon problem med det.

Därför försökte jag alltid lagra filer någon annanstans, med ett vanligt backupsystem.

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Synology har också ett verktyg för detta, det kallas HyperBackup, det säkerhetskopierar filer antingen till andra Synology-servrar eller till vissa molnlösningar från tredjepartstillverkare.
Den kan också göra säkerhetskopior till externa enheter som är anslutna till en NAS, vilket jag gjorde tills nyligen. Men detta är inte heller tillförlitligt, till exempel om det är en brand, då slutet av både servern och hårddisken.

Synology C2

Här närmar vi oss gradvis en annan tjänst, denna gång från Synology själv. Den har sina egna moln för att lagra säkerhetskopior. Den är designad speciellt för HyperBackup, han gör säkerhetskopior där varje dag, men det här är en genomtänkt säkerhetskopia, det finns filversioner, en tidslinje och till och med klienter för Windows och mac os.

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Det är allt för fillagring, jag hoppas att mina filer är säkra.

Låt oss nu gå vidare till att sortera filerna.

Jag sorterar vanliga filer, böcker, skanningar av dokument och andra oviktiga filer i mappar för hand, precis som allt annat. Vanligtvis är det inte många av dem och jag öppnar dem sällan.

Det svåraste är att sortera bilder och filmer, jag har många av dem.

Jag tar från flera dussin till flera hundra bilder i månaden. Jag fotar med en DSLR, en drönare och ibland på min telefon. Foton kan vara personliga eller för lager. Jag filmar också ibland hemmavideor (inte vad man kan tro, bara familjevideor, ofta med min dotter). Det måste också på något sätt lagras och sorteras så att det inte blir en enda röra.

Jag har en mapp i samma Dropbox som heter Sortera bilder, det finns undermappar där alla bilder och filmer går, därifrån tas de och sorteras där det behövs.

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Sortering sker på NAS-servern, det körs bash-skript där som automatiskt startas en gång om dagen och gör sitt jobb. NAS är också ansvarig för att starta dem; det finns en uppgiftsschemaläggare som ansvarar för att starta alla skript och andra uppgifter. Du kan konfigurera hur ofta och när uppgifter ska lanseras, cron med ett gränssnitt om det är enklare.

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Varje mapp har sitt eget skript. Nu mer om mappar:

Drönare — här är bilder från en drönare som jag tog för personliga ändamål. Först bearbetar jag alla bilder i Lightroom, exporterar sedan JPG till den här mappen. Därifrån hamnar de i en annan Dropbox-mapp, "Foto".

Det finns en mapp "Drone" och där är de redan sorterade efter år och månad. Skripten skapar själva de nödvändiga mapparna och döper själva om bilderna enligt min mall, vanligtvis är detta datum och tidpunkt då bilden togs, jag lägger även till ett slumptal i slutet så att filer med samma namn inte dyker upp. Jag kommer inte ihåg varför inställning av sekunder i filnamnet inte var lämplig för dessa ändamål.

Trädet ser ut så här: Foto/Drone/2019/05 — Maj/01 — Maj — 2019_19.25.53_37.jpg

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Drönare video — Jag spelar inte in video med en drönare än, det finns mycket att lära, jag har inte tid med det nu, men jag har redan skapat en mapp.

Bildoperationer — det finns två mappar inuti, när filer hittas där komprimeras de helt enkelt antingen på den maximala sidan till 2000px för publicering på Internet, eller så vänds bilderna, jag behöver inte detta längre, men jag har inte tagit bort mapp ännu.

panoramabilder — det är här panoramabilder kommer in, som du kanske kan gissa, jag lagrar dem separat eftersom det här är en specifik typ av foto, jag brukar ta dem med en drönare. Jag gör också vanliga panoramabilder, men jag gör också 360 panoramabilder och ibland sfärer, den här typen av panorama som små planeter, jag gör det också med en drönare. Från denna mapp går alla bilder även till Foto/Panoramas/2019/01 - Maj - 2019_19.25.53_37.jpg. Här sorterar jag inte efter månad eftersom det inte finns så många panoramabilder.

Personligt Foto — Här är bilderna som jag tar med en DSLR, vanligtvis är det familjefoton eller resor i allmänhet, bilder som är tagna för minnet och för mig själv. Jag bearbetar även råfoton i Lightroom och exporterar dem sedan hit.

Härifrån kommer de hit: Foto/2019/05 — Maj/01 — Maj — 2019_19.25.53_37.jpg

Om jag fotograferade någon form av firande eller något annat som bättre skulle sparas separat, så skapar jag i 2019 års folder en mapp med namnet på firandet och kopierar bilden dit manuellt.

RAW — här är fotokällorna. Jag fotar alltid i RAW, jag lagrar alla bilder i JPG, men ibland vill jag lagra RAW-filer också, ibland vill jag bearbeta en ram på ett annat sätt. Vanligtvis är detta naturen och bara de bästa skotten kommer dit, inte alla i rad.

Arkivfoto — här laddar jag upp bilder för stockbilder, som jag tar antingen på en DSLR eller på en drönare. Sortering är samma som på andra bilder, bara i sin egen separata mapp.

I rotkatalogen för Dropbox finns det en mapp för kamerauppladdningar, detta är standardmappen till vilken Dropbox-mobilapplikationen laddar upp alla foton och videor. Alla bilder på frun från telefonen släpps på detta sätt. Jag laddar också upp alla mina bilder och filmer från min telefon här och därifrån sorterar jag dem i en separat mapp. Men jag gör det på ett annat sätt, mer bekvämt för mig. Det finns ett sådant program för Android, FolderSync, det låter dig ta alla bilder från din mobiltelefon, ladda upp dem till Dropbox och sedan radera dem från telefonen. Det finns många inställningar, jag rekommenderar det. Videor från din telefon hamnar också i den här mappen; de sorteras också som alla bilder, efter år och månad.

Jag samlade själv alla skript från olika instruktioner på Internet, jag hittade inga färdiga lösningar. Jag kan ingenting alls om bash-skript, kanske finns det några fel eller vissa saker kan göras bättre, men det viktigaste för mig är att de gör sitt jobb och gör det jag behöver.

Skripten laddades upp till GitHub: https://github.com/pelinoleg/bash-scripts

Tidigare, för att sortera foton och videor, använde jag Hazel under mac os, allt är lättare där, alla uppgifter skapas visuellt, det finns ingen anledning att skriva kod, men det finns två nackdelar. För det första måste du behålla alla mappar på datorn så att allt fungerar bra, och för det andra, om jag plötsligt byter till Windows eller Linux så finns det inga sådana program där. Jag försökte leta efter ett alternativ men de var alla till ingen nytta. En lösning med skript på servern är en mer universell lösning.

Alla skript är konfigurerade att köras en gång om dagen, vanligtvis på natten. Men om du inte har tid att vänta och du på något sätt behöver köra det nödvändiga skriptet nu, finns det två lösningar: anslut via SSH till servern och kör det nödvändiga skriptet, eller gå till adminpanelen och kör även det nödvändiga manuellt manus. Allt detta verkar obekvämt för mig, så jag hittade en tredje lösning. Det finns ett program för Android som kan skicka ssh-kommandon. Jag skapade flera kommandon, var och en har sin egen knapp, och om jag nu behöver sortera, till exempel bilder som jag tagit från en drönare, så trycker jag bara på en knapp och skriptet körs. Programmet heter SSHing, det finns andra liknande, men för mig är detta det bekvämaste.

Lagring och automatisk sortering av foton och andra filer. Arbeta med fillagring baserad på NAS Synology

Jag har också flera av mina egna sajter, de är mer för visning, nästan ingen går dit, men ändå skadar det inte att göra en backup. Jag kör mina webbplatser på DigitalOcean, där jag installerade panelen aaPanel. Där går det att göra säkerhetskopior av alla filer och alla databaser, men på samma disk.

Att lagra en säkerhetskopia på samma disk är inte fallet, så jag använder också ett bash-script för att gå dit och kopiera allt till min server, arkivera allt i ett arkiv med datum i namnet.

Jag hoppas åtminstone någon kommer att bli hjälpt av de metoder som jag använder och som jag delat med mig av.

Som framgår av artikeln älskar jag automation och försöker automatisera allt som är möjligt, jag beskrev inte många saker ur automationssynpunkt, eftersom det redan är andra ämnen och andra artiklar.

Källa: will.com

Lägg en kommentar