Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Matagal ko nang gustong magsulat tungkol sa kung paano ko iniimbak ang aking mga file at kung paano ako gumagawa ng mga backup, ngunit hindi ko ito nakuha. Kamakailan ay lumitaw ang isang artikulo dito, medyo katulad ng sa akin ngunit may ibang diskarte.
Ang artikulo mismo.

Sinusubukan kong hanapin ang perpektong paraan para sa pag-iimbak ng mga file sa loob ng maraming taon na ngayon. Sa palagay ko ay natagpuan ko ito, ngunit palaging may dapat pagbutihin, kung mayroon kang anumang mga ideya kung paano ito gagawing mas mahusay, ikalulugod kong basahin ito.

Magsisimula ako sa pagsasabi sa iyo ng ilang salita tungkol sa aking sarili, gumagawa ako ng web development at kumukuha ng mga litrato sa aking libreng oras. Kaya ang konklusyon na kailangan kong mag-imbak ng trabaho at mga personal na proyekto, larawan, video at iba pang mga file.

Mayroon akong humigit-kumulang 680 GB ng mga file, 90 porsiyento nito ay mga larawan at video.

Ang sirkulasyon ng mga file sa aking mga imbakan:

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Narito ang isang tinatayang diagram ng kung paano at saan nakaimbak ang lahat ng aking mga file.

Ngayon higit pa.

Tulad ng nakikita mo, ang puso ng lahat ay ang aking NAS, lalo na ang Synology DS214, isa sa pinakasimpleng NAS mula sa Synology, gayunpaman, nakaya nito ang lahat ng kailangan ko.

Dropbox

Ang aking work machine ay isang macbook pro 13, 2015. Mayroon akong 512GB doon, ngunit siyempre hindi lahat ng mga file ay kasya, iniimbak ko lamang ang kailangan sa ngayon. Sini-synchronize ko ang lahat ng aking mga personal na file at folder sa Dropbox, alam kong hindi ito masyadong maaasahan, ngunit gumaganap lamang ito ng function ng pag-synchronize. At ginagawa niya ito nang pinakamahusay, hindi bababa sa kung ano ang sinubukan ko. At sinubukan ko ang lahat ng sikat at hindi gaanong sikat na ulap.

Ang Synology ay mayroon ding sariling ulap, maaari mong i-deploy ito sa iyong NAS, sinubukan kong lumipat mula sa Dropbox patungo sa Synology Cloud Station, ngunit palaging may mga problema sa pag-synchronize, palaging may ilang mga error, o hindi ko na-synchronize ang lahat.

Ang lahat ng mahahalagang file ay naka-imbak sa folder ng Dropbox, kung minsan ay nagse-save ako ng isang bagay sa aking desktop, upang hindi mawala ang isang bagay, gumawa ako ng symlink sa folder ng Dropbox gamit ang MacDropAny program.
Ang folder ng Aking Pag-download ay hindi naka-synchronize sa anumang paraan, ngunit walang mahalaga doon, mga pansamantalang file lamang. Kung magda-download ako ng mahalagang bagay, kinokopya ko ito sa naaangkop na folder sa Dropbox.

Aking mga pakikipagsapalaran sa DropboxNoong unang panahon, sa isang lugar noong 2013-2014, inimbak ko ang lahat ng aking mga file sa Dropbox at doon lamang, walang mga backup. Tapos wala akong 1Tb, ibig sabihin, hindi ko binayaran, may mga 25Gb ako, na kinita ko sa pag-imbita ng mga kaibigan o iba pang gawain.

Isang magandang umaga binuksan ko ang computer at nawala lahat ng file ko, nakatanggap din ako ng sulat mula sa Dropbox kung saan humingi sila ng tawad at nawala ang mga file ko dahil sa kanilang kasalanan. Binigyan nila ako ng isang link kung saan maaari kong ibalik ang aking mga file, ngunit siyempre walang naibalik. Dahil dito, binigyan nila ako ng 1Tb sa loob ng isang taon, pagkatapos ay naging kliyente nila ako, gaano man ito kakaiba, ngunit hindi ako nagtiwala sa kanila.

Tulad ng isinulat ko sa itaas, hindi ako makahanap ng cloud na mas angkop para sa akin, una, wala pang mga problema sa pag-synchronize, at pangalawa, maraming iba't ibang serbisyo ang gumagana lamang sa Dropbox.

pumunta

Ang mga file ng trabaho ay naka-imbak sa server ng trabaho, ang mga personal na proyekto ay naka-imbak sa GitLab, ang lahat ay simple dito.

Time Machine

Gumagawa din ako ng backup ng buong system, hindi kasama ang Dropbox at mga Download folder siyempre, upang hindi kumonsumo ng espasyo nang walang kabuluhan. Bina-backup ko ang system gamit ang Time Machine, isang mahusay na tool na nakatulong sa akin nang higit sa isang beses. Ginagawa ko ito sa parehong NAS, sa kabutihang palad mayroon itong ganoong function. Magagawa mo ito sa isang panlabas na HDD, siyempre, ngunit hindi ito maginhawa. Sa bawat oras na kailangan mong ikonekta ang isang panlabas na drive at ilunsad ang Time Machine mismo. Dahil sa katamaran, madalas akong gumawa ng ganitong mga backup minsan bawat ilang linggo. Awtomatiko siyang gumagawa ng mga backup sa server, hindi ko napapansin kapag ginagawa niya ito. Nagtatrabaho ako mula sa bahay, kaya palagi akong may bagong backup ng aking buong system. Ang isang kopya ay ginawa ng ilang beses sa isang araw, hindi ko binilang kung gaano karaming beses at kung gaano kadalas.

NAS

Dito nangyayari ang lahat ng mahika.

Ang Synology ay may mahusay na tool, ito ay tinatawag na Cloud Sync, sa tingin ko mula sa pangalan ay malinaw kung ano ang ginagawa nito.

Maaari nitong i-synchronize ang maraming cloud system sa isa't isa, o mas tiyak, i-synchronize ang mga file mula sa isang NAS server sa iba pang cloud. Sa tingin ko mayroong isang pagsusuri sa programang ito online. Hindi ko na iisa-isahin. Mas mabuting ilarawan ko kung paano ko ito ginagamit.

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Sa server mayroon akong isang folder ng disk na tinatawag na Dropbox, ito ay isang kopya ng aking Dropbox account, ang Cloud Sync ay responsable para sa pag-synchronize ng lahat ng ito. Kung may nangyari sa mga file sa Dropbox, ito ay mangyayari sa server, hindi mahalaga kung ito ay tinanggal o nilikha. Sa pangkalahatan, klasikong pag-synchronize.

Yandex disk

Susunod, itinatapon ko ang lahat ng mga file na ito sa aking Yandex disk, ginagamit ko ito bilang isang homemade backup disk, iyon ay, itinatapon ko ang mga file doon ngunit huwag tanggalin ang anumang bagay mula doon, ito ay lumalabas na isang dump ng mga file, ngunit nakatulong ito ng ilang beses.

Google Drive

Doon ay ipinapadala ko lamang ang folder na "Mga Larawan", pati na rin sa mode ng pag-synchronize, ginagawa ko lamang ito para sa maginhawang pagtingin sa mga larawan sa Google Photos at may kakayahang magtanggal ng mga larawan mula doon at tinanggal sila kahit saan (maliban sa Yandex disk siyempre). Isusulat ko ang tungkol sa larawan sa ibaba; maaari ka ring magsulat ng isang hiwalay na artikulo doon.

HyperBackup

Ngunit ang lahat ng ito ay hindi masyadong maaasahan; kung hindi mo sinasadyang tanggalin ang isang file, tatanggalin ito sa lahat ng dako at maaari mong isaalang-alang na nawala ito. Maaari mong, siyempre, ibalik mula sa Yandex disk, ngunit una, ang isang backup sa isang lugar ay hindi masyadong maaasahan sa sarili nito, at ang Yandex disk mismo ay hindi isang serbisyo kung saan maaari kang maging 100% kumpiyansa, kahit na wala pang nangyari. mga problema dito.

Samakatuwid, palagi kong sinubukang mag-imbak ng mga file sa ibang lugar, na may normal na backup system.

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Ang Synology ay mayroon ding tool para dito, tinatawag itong HyperBackup, bina-back up nito ang mga file alinman sa iba pang mga server ng Synology o sa ilang mga solusyon sa ulap mula sa mga tagagawa ng third-party.
Maaari rin itong gumawa ng mga backup sa mga panlabas na drive na konektado sa isang NAS, na kung ano ang ginawa ko hanggang kamakailan. Ngunit hindi rin ito maaasahan, halimbawa, kung may sunog, pagkatapos ay ang dulo ng parehong server at ang HDD.

Synology C2

Dito kami ay unti-unting lumalapit sa isa pang serbisyo, sa pagkakataong ito mula sa Synology mismo. Mayroon itong sariling mga ulap para sa pag-iimbak ng mga backup. Ito ay partikular na idinisenyo para sa HyperBackup, gumagawa siya ng mga backup doon araw-araw, ngunit ito ay isang pinag-isipang backup, may mga bersyon ng file, isang timeline, at kahit na mga kliyente para sa Windows at mac os.

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Iyon lang para sa pag-iimbak ng mga file, sana ay ligtas ang aking mga file.

Ngayon ay magpatuloy tayo sa pag-uuri ng mga file.

Inaayos ko ang mga ordinaryong file, libro, pag-scan ng mga dokumento at iba pang hindi mahalagang file sa mga folder sa pamamagitan ng kamay, tulad ng lahat ng iba pa. Kadalasan ay hindi marami ang mga ito at bihira ko itong buksan.

Ang pinakamahirap na bagay ay ang pag-uuri ng mga larawan at video, marami ako nito.

Kumuha ako mula sa ilang dosena hanggang ilang daang mga larawan sa isang buwan. Nag-shoot ako gamit ang isang DSLR, isang drone at minsan sa aking telepono. Ang mga larawan ay maaaring personal o para sa stock. Minsan din akong kumukuha ng mga video sa bahay (hindi kung ano ang iniisip mo, mga video lang ng pamilya, madalas kasama ang aking anak na babae). Kailangan din itong maimbak at ayusin kahit papaano para hindi maging gulo.

Mayroon akong isang folder sa parehong Dropbox na tinatawag na Sort Images, may mga subfolder kung saan napupunta ang lahat ng mga larawan at video, mula doon sila ay kinuha at pinagsunod-sunod kung saan kinakailangan.

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Nagaganap ang pag-uuri sa NAS server, may mga bash script na tumatakbo doon na awtomatikong inilulunsad isang beses sa isang araw at ginagawa ang kanilang trabaho. Ang NAS ay responsable din sa paglulunsad ng mga ito; mayroong isang task scheduler na responsable para sa paglulunsad ng lahat ng mga script at iba pang mga gawain. Maaari mong i-configure kung gaano kadalas at kailan ilulunsad ang mga gawain, i-cron na may interface kung mas simple ito.

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Ang bawat folder ay may sariling script. Ngayon higit pa tungkol sa mga folder:

ugong β€” narito ang mga larawan mula sa isang drone na kinuha ko para sa personal na layunin. Una kong pinoproseso ang lahat ng mga larawan sa lightroom, pagkatapos ay ini-export ko ang mga JPG sa folder na ito. Mula doon napupunta sila sa isa pang folder ng Dropbox, "Larawan".

May isang folder na "Drone" at doon sila ay nakaayos na ayon sa taon at buwan. Ang mga script mismo ang lumikha ng mga kinakailangang folder at palitan ang pangalan ng mga larawan ayon sa aking template, kadalasan ito ang petsa at oras na kinuha ang larawan, nagdaragdag din ako ng isang random na numero sa dulo upang ang mga file na may parehong pangalan ay hindi lumitaw. Hindi ko maalala kung bakit hindi angkop ang pagtatakda ng mga segundo sa pangalan ng file para sa mga layuning ito.

Ganito ang hitsura ng puno: Photo/Drone/2019/05 β€” May/01 β€” May β€” 2019_19.25.53_37.jpg

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

Video ng drone β€” Hindi pa ako kumukuha ng video gamit ang drone, maraming dapat matutunan, wala akong oras para dito ngayon, ngunit nakagawa na ako ng folder.

Mga Pagpapatakbo ng Larawan β€” May dalawang folder sa loob, kapag nakita ang mga file doon, sila ay simpleng i-compress sa maximum na bahagi sa 2000px para sa publikasyon sa Internet, o mga imahe ay binaligtad, hindi ko na kailangan ito, ngunit hindi ko pa nabubura ang folder.

Panorama β€” dito pumapasok ang mga panorama, gaya ng maaari mong hulaan, iniimbak ko ang mga ito nang hiwalay dahil ito ay isang partikular na uri ng larawan, karaniwan kong kinukuha ang mga ito gamit ang drone. Gumagawa din ako ng mga regular na panorama, ngunit gumagawa din ako ng 360 panorama at kung minsan ay mga sphere, ang ganitong uri ng mga panorama tulad ng maliliit na planeta, ginagawa ko rin ito gamit ang isang drone. Mula sa folder na ito, mapupunta rin ang lahat ng larawan sa Photo/Panoramas/2019/01 - May - 2019_19.25.53_37.jpg. Dito hindi ako nag-uuri ayon sa buwan dahil wala masyadong panorama.

Personal na Larawan β€” Narito ang mga larawang kinunan ko gamit ang isang DSLR, kadalasan ito ay mga larawan ng pamilya o paglalakbay, sa pangkalahatan, mga larawan na kinunan para sa memorya at para sa aking sarili. Pinoproseso ko rin ang mga hilaw na larawan sa Lightroom at pagkatapos ay ine-export ang mga ito dito.

Mula dito sila nakarating dito: Larawan/2019/05 β€” Mayo/01 β€” Mayo β€” 2019_19.25.53_37.jpg

Kung nakuhanan ko ng litrato ang ilang uri ng pagdiriwang o iba pa na mas mahusay na maiimbak nang hiwalay, pagkatapos ay sa 2019 folder lumikha ako ng isang folder na may pangalan ng pagdiriwang at manu-manong kopyahin ang larawan doon.

RAW β€” narito ang mga mapagkukunan ng larawan. Palagi akong nag-shoot sa RAW, iniimbak ko ang lahat ng mga larawan sa JPG, ngunit kung minsan gusto ko ring mag-imbak ng mga file na RAW, minsan gusto kong magproseso ng isang frame sa ibang paraan. Kadalasan ito ay likas na katangian at tanging ang pinakamahusay na mga kuha lamang ang makakarating doon, hindi lahat sa isang hilera.

Stock Photo β€” dito ako nag-a-upload ng mga larawan para sa mga stock na larawan, na kinukunan ko sa DSLR o sa drone. Ang pag-uuri ay kapareho ng sa ibang mga larawan, sa sarili nitong hiwalay na folder.

Sa root directory ng Dropbox, mayroong folder ng Camera Uploads, ito ang default na folder kung saan ina-upload ng Dropbox mobile application ang lahat ng larawan at video. Ang lahat ng mga larawan ng asawa mula sa telepono ay nahuhulog sa ganitong paraan. Ina-upload ko rin ang lahat ng aking mga larawan at video mula sa aking telepono dito at mula doon ay pinag-uuri ko ang mga ito sa isang hiwalay na folder. Ngunit ginagawa ko ito sa ibang paraan, mas maginhawa para sa akin. Mayroong tulad ng isang programa para sa Android, FolderSync, pinapayagan ka nitong kunin ang lahat ng mga larawan mula sa iyong mobile phone, i-upload ang mga ito sa Dropbox at pagkatapos ay tanggalin ang mga ito mula sa telepono. Mayroong maraming mga setting, inirerekomenda ko ito. Ang mga video mula sa iyong telepono ay napupunta rin sa folder na ito; pinagbukod-bukod din ang mga ito tulad ng lahat ng larawan, ayon sa taon at buwan.

Kinokolekta ko ang lahat ng mga script sa aking sarili mula sa iba't ibang mga tagubilin sa Internet; wala akong nakitang anumang mga handa na solusyon. Wala akong alam sa lahat tungkol sa mga script ng bash, marahil ay may ilang mga error o ilang mga bagay na maaaring gawin nang mas mahusay, ngunit ang pinakamahalagang bagay para sa akin ay ginagawa nila ang kanilang trabaho at ginagawa ang kailangan ko.

Ang mga script ay na-upload sa GitHub: https://github.com/pelinoleg/bash-scripts

Dati, upang pag-uri-uriin ang mga larawan at video, ginamit ko si Hazel sa ilalim ng mac os, mas madali ang lahat doon, ang lahat ng mga gawain ay nilikha nang biswal, hindi na kailangang magsulat ng code, ngunit mayroong dalawang disadvantages. Una, kailangan mong panatilihin ang lahat ng mga folder sa computer upang ang lahat ay gumagana nang maayos, at pangalawa, kung bigla akong lumipat sa Windows o Linux, walang ganoong mga programa doon. Sinubukan kong maghanap ng alternatibo ngunit lahat sila ay walang pakinabang. Ang isang solusyon na may mga script sa server ay isang mas unibersal na solusyon.

Ang lahat ng mga script ay naka-configure upang maisakatuparan isang beses sa isang araw, kadalasan sa gabi. Ngunit kung wala kang oras upang maghintay at kailangan mong isagawa ang kinakailangang script ngayon, mayroong dalawang solusyon: kumonekta sa pamamagitan ng SSH sa server at isagawa ang kinakailangang script, o pumunta sa admin panel at manu-manong patakbuhin ang kinakailangan iskrip. Ang lahat ng ito ay tila hindi maginhawa sa akin, kaya nakakita ako ng pangatlong solusyon. Mayroong isang programa para sa Android na maaaring magpadala ng mga ssh command. Gumawa ako ng ilang mga utos, bawat isa ay may sariling pindutan, at ngayon kung kailangan kong pag-uri-uriin, halimbawa, ang mga larawan na kinuha ko mula sa isang drone, pagkatapos ay pinindot ko lang ang isang pindutan at tumatakbo ang script. Ang programa ay tinatawag na SSHing, mayroong iba pang katulad, ngunit para sa akin ito ang pinaka maginhawa.

Imbakan at awtomatikong pag-uuri ng mga larawan at iba pang mga file. Paggawa gamit ang imbakan ng file batay sa Synology NAS

I also have several of my own sites, they are more for show, halos walang pumupunta doon, but still it doesn't hurt to do a backup. Pinapatakbo ko ang aking mga site sa DigitalOcean, kung saan na-install ko ang panel ng aaPanel. Doon posible na gumawa ng mga backup na kopya ng lahat ng mga file at lahat ng mga database, ngunit sa parehong disk.

Ang pag-iimbak ng backup sa parehong disk ay hindi ang kaso, kaya gumagamit din ako ng isang bash script upang pumunta doon at kopyahin ang lahat sa aking server, i-archive ang lahat sa isang archive na may petsa sa pangalan.

Sana kahit papaano ay may matulungan sa mga pamamaraan na ginagamit ko at kung saan ko ibinahagi.

Tulad ng makikita mula sa artikulo, gustung-gusto ko ang automation at subukang i-automate ang lahat ng posible, hindi ko inilarawan ang maraming bagay mula sa punto ng view ng automation, dahil ito ay iba pang mga paksa at iba pang mga artikulo.

Pinagmulan: www.habr.com

Magdagdag ng komento