V predchádzajúcej článku Povedali sme vám o nových funkciách v januárovom aktualizácii Update 4 pre Veeam Backup & Replication 9.5 (VBR), kde sme úmyselne nespomenuli zálohy na magnetické pásky. Rozprávanie o tejto oblasti si zaslúži samostatný článok, pretože nových funkcií bolo naozaj veľa.

– Chlapci z QA, napíšete článok?
– Prečo nie!

Páskové úložiská v XXI. storočí

Ukladanie dát na magnetické pásky (kazety, „pásky“, ako ich nazývame v R&D) sa neobmedzuje na minulosť počítača ZX-Spectrum, ktorého hra sa mohla načítavať do operačnej pamäte 48 kb z magnetofónovej kazety niekoľko minút. Za štvrť storočia sa rýchlosti a kapacity kaziet zvýšili o 6-7 poriadkov. To nie je celkom presné porovnanie a podľa Mooreovho zákona štandard LTO nestíha. Napriek tomu moderné technológie umožňujú zapísať na kilometrovú pásku jednej kazety 12 terabajtov dát (až 30 terabajtov v kompresnom režime), takže úložisko za 160 dolárov predbehne konkurenciu v cene dlhodobého uchovávania veľkého objemu dát, aj so zohľadnením investícií do zariadení na zápis/čítanie. Dátami na takýchto kazetách sú spoľahlivo uchovávané 15-30 rokov.

Pozrime sa na to z iného pohľadu. V posledných časoch ransomvér dosiahol nový level. Môže čakať na svoj čas v infraštruktúre veľkej spoločnosti týždne a mesiace, a s príchodom novej zraniteľnosti nultého dňa - zničiť (nie bez pomoci človeka, veď ide o veľké peniaze) nielen všetky dáta, ale aj všetky zálohy, ku ktorým sa dá len dostať. Tu je čerstvý príklad, kedy musela spoločnosť zaplatiť výkupné. Takzvané air gap, t. j. fyzicky izolované od infraštruktúry zálohy sa stali v podstate jediným spoľahlivým záchranárom pred takýmito situáciami. Magnetická páska je tu jedným z nadčasových riešení.

Ale jedna špecifikácia a technologické železá a baryo-ferritové novinky od popredných výrobcov (IBM, HPE, Oracle, Dell) nestačia na spoľahlivú ochranu dát, potrebný je dobrý softvér. U nás vo Veeam je celý tím, ktorý sa zaoberá páskovými zálohami, približne 10 ľudí denne analyzuje, plánuje, skúma, vyvíja a testuje. Výsledky tejto práce ste mohli vidieť v predchádzajúcich článkoch (raz, dva). Čo sa však urobilo za posledný rok?

Glosár

Stojí před volbou mezi svobodou ohledně rodného jazyka a složitými formálně nečitelnostmi. Preferuji první možnost, proto se předem omlouvám, pokud někomu žargónové výrazy ze seznamu níže budou působit rušivě. Zde si také v krátkosti připomeneme, co znamená ten či onen termín.

Koriérům VBR tuto část lze přeskočitJob – job – úloha zálohování. Vlastně, celý VBR je postaven na jobech. Kromě zálohy a replikace to může být i kopírování na magnetickou pásku (backup to tape job, tape job). Upozorním, že obnova ze zálohy (restore) je také job, ale v tomto článku pod tímto slovem budeme chápat právě zálohu.

Storage – storage – historicky zavedený název. Jsou to soubory v repozitári (repository – úložiště), které obsahují zálohy – úplné a inkrementální. V jednom storage může být jak jedna, tak i několik virtuálních strojů.

Řetězec – chain – sekvence propojených storage. Pro obnovení dat z n-tého inkrementálního storage jsou potřeba všechny předchozí od (n-1)-tého až po 1. a úplné storage, na které odkazuje první inkrementální.

Source, Target – source, target. Source – výchozí entita, kterou zpracovává job. V případě záloh/replik je to obvykle virtuální stroj v hypervizoru. V případě tape job je source samotná zálohovací úloha (no nebo soubory v případě file to tape job). Target pro zálohovací job je repozitář, kde se zálohy ukládají. Pro tape job je to však media pool.

Media pool – media pool – pool informačních nosičů, v našem případě – kazet. Logický kontejner, vytvářený uživateli a obsahující kazety jedné nebo několika knihoven. Takže tape job vždy má media pool jako target, tedy data nejsou zapisována na nějakou konkrétní kazetu a ne na jakoukoli kazetu v knihovně, ale na určitý jejich soubor. Media pool má nastavení doby uchovávání dat, po jejímž uplynutí může být kazeta přepsána. Uživatel může vytvářet běžné (standard) a GFS pooly. Každý z těchto typů může být ještě WORM a non-WORM, o tom níže.

Media set – media set – súbor kaziet v mediálnom poole, na ktoré sú nepretržite zapisované zálohy/súbory. Pre GFS pooly mediálnych súborov sú kazety viazané aj na interval (napríklad ročný – yearly), kazety sa rotujú iba v rámci svojho intervalu.

Disk, menič – prvky tape knižnice. Disk číta a prekrúca kazetu, menič – je robot, ktorý presúva kazety medzi slotmi na úschovu, slotmi na vykládku a diskom. Existujú aj samostatné disky (standalone – samostatný), úlohu meniča tu plní človek. Pre disk je nevyhnutné správne nainštalovaný ovládač výrobcu na stroji so systémom Windows, ku ktorému je pripojená knižnica; s meničom môžeme pracovať aj bez ovládačov, cez native SCSI.

Najímanie na kazetu. Chránený poskytovateľ – chránení klienti

Ihneď vytiahneme trumfy na stôl. Najväčšia funkcia našej aktualizácie, určená pre cloudových poskytovateľov, ktorí vo svojej infraštruktúre využívajú VBR. Vývoj sa začal už pred dvoma rokmi. Čoskoro sme si uvedomili, že sa s tak závažnou úlohou nebudeme schopní vyrovnať do najbližšieho vydania, vzali sme si krátku pauzu a nakoniec sme funkciu vydali v aktualizácii 9.5 Update 4.

Ak to zhrnieme, teraz majú poskytovatelia možnosť kopírovať zálohy svojich klientov na kazety pomocou tape job v GFS poole. To poskytovateľom – a to sú veľmi dôležité a cenné osoby pre naše srdce a obchodné oddelenie – dáva dve možnosti:

• ochrániť svojich klientov (nájmiteľov, tenant – nájomca) pred stratou dát v dôsledku náhodného vymazania alebo infraštruktúrnych problémov („povodeň v serverovni“);
• poskytnúť nájomcom doplnkovú službu obnovy dát zo starej rezervnej kópie, ktorá už bola dávno odstránená z cloudového úložiska v súlade s politikou uchovávania dát, ale na kazetách stále zostala.

Z pohľadu marketingu je táto funkčnosť veľmi „atraktívna“, z našich pohľadov – nemenej zložitá na realizáciu.

Vývoj

Hlavný vzniknutý problém – šifrovanie dát. Väčšina cloudových záloh je šifrovaná, štatistika hovorí o ⅔ z celkového počtu. Pre nás bolo toto číslo prekvapením, predpokladali sme, že sa šifruje takmer všetko, ale nie – mnohí klienti sa zjavne bezvýhradne dôverujú svojim poskytovateľom.

Paradigma je jednoduchá: poskytovateľ by nemal byť schopný dešifrovať dáta svojich nájomníkov. V rámci novej funkcie je však potrebné na strane poskytovateľa otvorenie úložísk s zálohami. Je to potrebné na presúvanie blokov dát, napríklad na vytvorenie virtuálnej úplnej zálohy. Hlavné je, že to treba robiť nezávisle od nájomníka, keď potrebné kľúče nie sú prenášané na stranu poskytovateľa počas vykonávania úlohy.

Riešenie tohto problému, ktoré sa, mimochodom, používa aj v inej veľmi dôležitej funkcii vydaného doplnku – Kapacitná vrstva – spočíva v pridávaní ďalšieho šifrovacieho kľúča. Archívny kľúč (Archive key) je uložený v databáze poskytovateľa v zašifrovanej forme. Podľa prefíkaného schémy je možné na strane poskytovateľa s jeho pomocou otvoriť úložisko, presúvať a prešifrovávať bloky dát medzi úložiskami (predsa každé má svoj kľúč), ale nie je možné dešifrovať samotné dáta.

Prefíkaná schéma (pracovná verzia)

Dodám, že všetci inžinieri v R&D veľmi obľubujú šifrovanie v našom produkte, pravda, nikto nevie vo všetkých detailoch, ako to funguje. (Tu bola aj vtipná poznámka „a prečo to vôbec funguje“, ale tú nepotvrdili redaktori.)

Testovanie

Na funkciu bolo zaznamenaných stovky chýb. Najzložitejšie oblasti – šifrovanie, používateľské rozhranie, problémy pri obnove.

Z hľadiska testovania bola náročná veľká variabilita, „kombinatorika“ druhov a typov nájomníckych úloh a repozitárov – myslím tým ako zdroj, tak aj cieľ pri obnove záloh do infraštruktúry. To sa všetko pretína s logikou v rámci modelu GFS (vrátane novej – paralelismus a denné mediálne sady, o tom nižšie), a aj všeobecne na nezvyčajnú špecifiku cloudové preteky. Nezabudnite ho obohatiť šifrovaním. Ak sa udržujeme pri metafore, dostatočne sme sa najedli tohto jedla – ale ochutnali sme ho zo všetkých strán.

Úryvok testovacieho plánu

Výsledkom

Podrobný popis nájdete v užívateľskej príručke (zatiaľ v anglickom jazyku): záloha, obnova. Zastavím sa pri hlavných bodoch.

Zálohovanie

Poskytovateľ pridáva nájomníkov do úloh s GFS-poolom ako cieľ. Pri dostupnosti cloudovej licencie je na druhej strane sprievodcu k dispozícii možnosť NájomníciMôžete pridať všetkých tenantov naraz alebo jednotlivo, alebo si môžete vybrať len konkrétnu kvótu (ale nie subkvótu) jednotlivého tenant. Nesmieme zmiešavať tenantské zálohy a bežné lokálne zálohy v jednej úlohe.

Ostatné nastavenia sú takmer úplne identické s bežnou úlohou v GFS-pôle.

Obnovenie dát je možné buď na strane poskytovateľa, alebo na strane samotného tenant.

Obnovenie na strane poskytovateľa

Prebieha prostredníctvom nového wizardu. Tu sa dá prekonať až po jednotlivú úlohu; obnovuje sa celá reťazec, ktorý bol v úložisku v určitý deň.

Existujú tri možnosti obnovy:

1. Do pôvodnej lokácie. V tomto prípade sa originálna záloha, ak existuje, odstráni; úlohy tenant sa automaticky prekonfigurujú na obnovenú reťazec. Predpokladá sa, že takáto obnova bude pre klienta úplne nepostrehnuteľná, iba na krátku chvíľu bude odpojený od cloudového úložiska.
2. Do novej kvóty/úložiska. Poskytovateľ môže na tento účel napríklad vytvoriť osobný dočasný účet, ktorý neskôr odstráni. Záloha sa objaví v infraštruktúre tenant po synchronizácii s databázou poskytovateľa.
3. Jednoducho na disk servera Linux alebo Windows, registrovaného v infraštruktúre poskytovateľa. Potom možno túto reťazec zapísať na USB kľúč a odoslať tenant.

Obnovenie na strane tenant

Táto možnosť predpokladá, že klient má vlastnú tape-infrastruktúru a veľký objem dát na obnovu. Kazetu so zapísanými zálohami môže poskytovateľ fyzicky poslať zákazníkovi kuriérskou službou, ten ju katalogizuje na svojom vybavení, dešifruje kazety a zálohy a pracuje s rezervnými kópiami tak, ako by ich sám zapísal na pásku. Takýto hack, aby sa nemuselo sťahovať terabajty po WAN.

Rozsiahle vylepšenia GFS-pôla

GFS-mediálne pôly sa objavili vo VBR pred dvoma rokmi, vo verzii 9.5. V novom aktualizovaní, tak v súvislosti s uvedením funkcie Tenant to tape, ako aj na žiadosť používateľov, sme túto funkčnosť dobre vylepšili.

Denné mediálne sady

Objavil sa nový denný (denný) mediálny set. Teraz je možné ukladať zálohy v GFS-pu hodnoty za každý deň, a to nielen úplné, ale aj inkrementálne. Tie zaberajú podstatne menej miesta, a to je urobené za účelom šetrenia páskou. Predpokladá sa, že tieto kazety sú stále rotované v knižnici a nie sú odvážané na vzdialené ukladanie. Pre reštauráciu z inkrementálneho bodu budú potrebné kazety jedného zo starších mediálnych setov (týždenného, mesačného, kvartálneho alebo ročného). Aktivácia denného mediálneho setu bez aktivácie týždenného nie je možná, aby sa v mnohých prípadoch vyžadovali na obnovenie z inkrementálnej kópie práve týždenné kazety. Tie sú buď vždy v knižnici, alebo sú uložené na menej vzdialenom sklade.

Logika fungovania tape-jobov v GFS-mediálnom pu nie je najjednoduchšia, technickí spisovatelia by to potvrdili. Ak to zhrnieme, bez podrobností, potom do týždenných a starších mediálnych setov sú kopírované iba úplné zálohy (vrátane virtuálnych úplných záloh), po jednom na každé dátum, a do denného – všetky zálohy nachádzajúce sa v úložisku za aktuálny deň, pretože zálohovacia úloha môže byť spustená častejšie než raz za deň.

Paralelizmus, čas spustenia a čakanie v GFS-pu

Teraz je možné paralelné zapisovanie viacerých reťazcov alebo úloh na viacerých diskoch knižnice aj v GFS-mediálnych puoch (predtým iba v normálnych). Aktivuje sa v kroku Options mediálneho pu.

Dôležité upresnenie: rovnaký súbor sa vždy zapisuje v jednom vlákne, preto v prípade viacerých veľkých virtuálnych strojov sa odporúča aktivovať nastavenie per-VM na úložiská, aby záloha pozostávala z niekoľkých reťazcov.

Okrem toho je teraz možné vybrať čas spustenia samotnej GFS-úlohy. Mnohým používateľom sa nepáčil štart o polnoci a následné čakanie takmer celý deň, kým sa zdrojová úloha dokončí. Teraz je možné toto časové nastavenie, napríklad, nastaviť na neskorý večer, keď už je čo kopírovať na pásku. Navyše, na základe požiadaviek používateľov sme do rozšírených nastavení pridali možnosť, ktorú bolo možné aktivovať iba pomocou registračného kľúča. Stačí vybrať Spracovať najnovší obnovovací bod namiesto čakania – a na kazetu sa kopíruje to, čo je v repozitári v okamihu spustenia tape jobu (bod zo včera, napríklad), na očakávania nie sú vôbec.

Vylepšená práca s viacerými knižnicami

Reč bude o situácii, keď je do jedného mediálneho poolu pridaných viac ako jedna knižnica. S týmto sme pracovali aj predtým, ale občas prichádzali klienti s sťažnosťami na nie celkom predvídateľné správanie.

Bolo

Napríklad, spustil sa tape job, ktorý zabral dve jednotky v prvej knižnici, ale nastavenia paralelizmu umožňujú použiť až 4 jednotky. Má sa tento job prepínať na druhú knižnicu mediálneho poolu a využiť ju tiež, alebo by to bol nadbytočný prísun zdrojov?

Ďalší prípad. Boli zvolené možnosti prepínania na základe podmienky "nie sú dostupné kazety", v prvej knižnici je len jedna kazeta, ale na ňu sa potenciálne zmestia všetky dáta. Avšak nastavenia umožňujú zapisovať paralelne na dve kazety. Má byť v tomto prípade zapojená druhá knižnica?

Rozhodli sme sa upraviť túto oblasť tak, aby sa správanie dalo nastaviť explicitne.

Stalo

Knižnice v mediálnom poole majú role – aktívna a pasívna. A samotný mediálny pool má dva režimy: chybovzdorný, alebo failover (prepinanie) a paralelný zápis (paralleling). Teraz je možné nakonfigurovať mediálny pool rôznymi spôsobmi v závislosti od požiadaviek.

• Ak máte niekoľko rovnoprávnych knižníc a potrebujete paralelizovať zápis do nich – zapnite režim paralelného zápisu, pričom všetkým knižniciam musíte prideliť aktívne role. V tomto prípade budú nové kazety a jednotky zapojené okamžite, akonáhle vznikne potreba, nezávisle od toho, v ktorej knižnici sa nachádzajú. Priorita tu aj tak existuje – najprv sa budeme snažiť nájsť zdroje v knižnici, ktorá je vyššie v zozname.
• Ak však máte jednu hlavnú knižnicu a jednu staršiu alebo standalone jednotku na zálohu, zapnite režim failover, umiestnite hlavnú knižnicu navrch zoznamu a zvoľte pasívnu rolu pre záložné zariadenia. Prepínanie na takéto zariadenie sa bude diať len vtedy, keď to bude naozaj potrebné, aby job vôbec nejako fungoval. Takáto situácia sa bude považovať za mimoriadnu, o čom bude zaslané oznámenie na e-mail.

Existuje složitější situace, kterou zatím nepodporujeme – několik aktivních knihoven v přítomnosti pasivních. Zpětná vazba ukáže, zda je potřeba pro takové konfigurace a zda je nutné tuto funkci v budoucnu „dotočit“. Standardní praxe.

Podpora WORM

WORM – Write Once Read Many – kazety, které nelze smazat ani přepsat na úrovni hardwaru, možné je pouze přidávat data. Jejich povinné používání je regulováno pravidly některých organizací, například pracujících v oblasti medicíny. Hlavní problém s těmito kazetami byl dříve ten, že VBR při inventarizaci alebo katalogizaci zapisoval titulek, který již nelze smazat, a tape jobs selhávaly s chybou při takovém pokusu.

V aktualizaci 9.5 Update 4 byla zavedena plná podpora takových kazet. Byly přidány WORM mediální pooly, normální a GFS, do kterých lze umístit pouze kazety tohoto typu.

Nové kazety mají modrou, „zmrazenou“ ikonu. Z pohledu uživatele je práce s WORM kazetami stejná jako s běžnými.

„Wormovost“ kazet je zpočátku určena podle přípony čárového kódu, pokud je však čárový kód běžný nebo nečitelný, informace poskytuje ovladač při prvním vložení kazety. Umístit WORM kazety do běžného mediálního poolu a zapisovat na ně nebude možné. Zábavné je, že už se našli uživatelé, kteří nalepovali WORM čárové kódy na běžné kazety a byli překvapeni změnami ve své infrastruktuře po aktualizaci.

Čip kazety

Současně s zavedením nepřepisovatelných kazet začali pracovat s čipem.Standardní atributy v čipu dříve nebyly používány, nyní do některých z nich zapisujeme a čteme, ale nepovažujeme je za hlavní zdroj dat. Hlavním vodítkem zůstává stále titulek kazety. Toto rozhodnutí se ukázalo jako správné: po měsíci po vydání vidíme, jak „zoo“ hardwaru uživatelů přináší překvapení v práci s čipem.

Zálohování NDMP svazků na pásku

Na závěr – o nejžádanější funkci podle počtu recenzí této aktualizace. Stalo se dostupným zálohování NDMP svazků na kazety. Do infrastruktury VBR je nutné přidat NDMP server, po ktorom bude možné v súbore tape-job vybrať objemy z tohto hostiteľa. Ukladajú sa na kazety vo forme súborov so špeciálnym atribútom, aby sa odlíšili od obyčajných pri katalogizácii.

V prvej implementácii sú isté obmedzenia: nepodporujú sa rozšírenia (extensions), navyše je možné vykonávať zálohu a obnovenie len celého objemu, nie jednotlivých súborov. Záloha funguje cez dump (v prípade NetApp – ufsdump), tu sú určité špecifiká: maximálny počet inkrementálnych bodov je 9, po ktorých sa núti kompletná záloha.

Na záver

Toto boli len najväčšie novinky v oblasti zálohovania na magnetické pásky vo VBR 9.5 Update 4. Ostatné zmeny uvediem v zozname:

• možnosť zadať poradie súborových prác a súborov v tape-joboch;
• bola pridaná úloha Tape Operator (užívateľ môže robiť všetko, okrem obnovenia z pásky – na to je tu Restore Operator);
• pridané plnohodnotné include/exclude masky v súborovom tape-job-e (okrem NDMP);
• vylepšené obnovenie v súborovom tape-job-e (adresár sa obnovuje s tými súbormi, ktoré tam boli v okamihu zálohy, a nie so všetkými, ktoré tam niekedy boli za celú históriu jej záloh – veľmi žiadaná funkcia, mimochodom);
• zvýšená rýchlosť obnovenia veľmi veľkého počtu súborov z kaziet;
• vylepšený algoritmus výberu nasledujúcej kazety na zápis, najmä pri rovnakých podmienkach zohľadňujeme objem zapísaných/čítaných dát počas celého jej života a berieme najčerstvejšiu;
• zlepšená stabilita produktu.

Užitočné odkazy

Pre rozmanitosť uvádzam niekoľko odkazov aj na ruské zdroje:

• Odkaz na stiahnutie bezplatnej skúšobnej verzie VBR 9.5 Update 4
• Článok na Habr „Užitočné tipy na archiváciu záloh Veeam na magnetické pásky“
• Článok na Habr „7 užitočných tipov na ochranu záloh pred ransomvérovými vírusmi“
• Sekcia používateľskej príručky týkajúca sa pások (v angličtine)
• A vrátili sme sa na predchádzajúce miesto s prehľadovými videami „Ako to funguje“ (pravda, zatiaľ v angličtine) – môže sa pozrieť tu. O páskach sa hovorí na snímkach 95 – 102.

Zdroj: habr.com