Upozornění: Poznámka má zábavný charakter. Obsahuje málo užitečných informací. Byla napsána „pro sebe“.
Lyrické úvod
Odpadkový prostor naší organizace běží na virtuálním stroji VMware ESXi 6 pod Windows Server 2016. A to není jen tak obyčejný odpad. Je to server pro výměnu souborů mezi strukturálními jednotkami: zde probíhá spolupráce, projektová dokumentace a složky ze síťových skenerů. V podstatě tu je celá výrobní činnost.
A tato nádrž celého výrobního života začala zamrzat. Přičemž host se mohl tichoučku zaseknout sám, aniž by ovlivnil ostatní. Mohl zamrznout s sebou celý host a tím pádem i všechny ostatní hostitelské stroje. Mohl zamrznout sám a zastavit klientské služby vSphere: to znamená, že procesy ostatních hostitelů byly aktivní, stroje fungovaly a odpovídaly, ale ten odpadkový prostor nefungoval a vSphere Client se k hostiteli nepřipojoval. Celkově nebylo možné identifikovat žádný systém selhání. Záseky se mohly vyskytovat během dne při nízké zátěži. Mohly se vyskytnout v noci při nulové zátěži. Mohly se vyskytnout v noci během diferenčního zálohování a při střední zátěži. Mohly se objevit o víkendech během úplného zálohování a při vysoké zátěži. A bylo patrné jasné zhoršení situace. Nejdříve to bylo jednou za rok, poté jednou za půl roku. Na konci mé trpělivosti – dvakrát týdně.
Podezříval jsem operační paměť. Ale zastavit odpadový prostor ani o víkendech a spustit Memtest mi nedovolili. Čekali jsme na květnové svátky. V květnových svátcích jsem spustil Memtest a… žádné chyby nebyly nalezeny.
Byl jsem užasnutý a rozhodl jsem se jít na dovolenou. Během mé dovolené neměl odpadkový prostor ani jedno zamrznutí. A když jsem se v pondělí vrátil do práce – odpadkový prostor zamrzl. Přežil úplné zálohování a přesně po jeho ukončení zamrzl. Takové vřelé uvítání z dovolené mě vedlo k rozhodnutí fyzicky přenést disky s hostitelským strojem na jiný hostitel.
Ačkoli je dávno známo, že první den po dovolené by se nemělo dělat nic vážného, ačkoli jsem se celou cestu do práce snažil nenavazovat práci, mé rozhořčení nad dalším zamrznutím mi vyhnalo z hlavy jakoukoliv přípravu i předsevzetí...
Fyzické disky byly přesunuty na jiný hostitel. Připojení za běhu. V nastavení úložišť na kartě Drives objevují se disky. Na kartě Datastores úložiště na těchto discích — nejsou. Obnovit — se neobjevují. No a samozřejmě, první impuls — Přidat úložiště. Průvodce přidáváním říká, že to podporuje. Samozřejmě podporuje i VMFS. O tom jsem nepochyboval. Rychlý pohled na zprávy průvodce na každém kroku: Další, Další, Další, Dokončit. Pohled se ani vzdáleně nezaměřil na malý žlutý kruh s vykřičníkem ve spodní části okna jednoho z kroků průvodce.
Po dokončení průvodce se nová Datastore objevila v seznamu… a s ní i Datastores z ostatních fyzických disků.
Přecházím k navigaci po právě přidané Datastore a ona… je prázdná. Samozřejmě, opět jsem padl do úžasu. 8 ráno na hodinách, prvních 15 minut v práci po dovolené, dokonce ani cukr v kávě jsem ještě nemíchal. A teď tohle. První myšlenka byla — ne ten disk jsem vytáhl z "domovského" hostitele. Podíval jsem se, zda požadovaná Datastore existuje v "domovském" hostiteli: ne, neexistuje. Druhá myšlenka byla: „sakra!“. Nejsem si jistý, ale zdá se mi, že třetí, čtvrtá a minimálně pátá myšlenka byla stejná.
Abych rozptýlil pochybnosti, rychle jsem nainstaloval nový ESXi, vzal levý disk a, když jsem už četl, prošel jsem kroky průvodce. Ano. Při přidávání Datastore pomocí průvodce dojde k ztrátě všech dat na disku bez možnosti vrátit operaci a obnovit data. Později jsem si přečetl na jednom z fór hodnocení takového designu průvodce: shitsome crap. A s tím jsem naprosto souhlasil.
Od šesté myšlenky — myšlenky začaly plynout v konstruktivnějším směru. Dobře. Inicializace trvá jen několik sekund i pro 3Tb disk. Znamená to, že je to vysokonárovňové formátování. Znamená to, že byla pouze přepsána tabulka oddílů. Znamená to, že data jsou stále tam. Znamená to, že teď hledáme nějaký unformat a voila.
Spouštím stroj z bootovacího obrazu Strelec… A zjišťuji, že programy na obnovu oddílů neznají nic kromě VMFS. Například rozdělení oddílů Synology znají, ale VMFS — ne.
Přehled programů není povzbudivý: v nejlepším případě GetDataBack a R.Saver najdou NTFS oddíly s živou strukturou adresářů a živými názvy souborů. Ale to mě neuspokojuje. Potřebuji dva vmdk soubory: s diskem systému a diskem souborů z koše.
A nyní chápu, že pravděpodobně budu muset nainstalovat Windows a obnovit se z файлового bэckupу. A zároveň si vzpomínám, že jsem tam měl kořen DFS. A také zcela šílený systém uživatelských práv k adresářům oddělení. Není to možnost. Jedinou přijatelnou variantou v čase je obnovení stavu systému a disku s daty a všemi právy.
Znovu googlení, fóra, KB a znovu pláč Jarošlavny: VMware ESXi nepředpokládá mechanismus obnovy dat. Všechny diskuze mají dva závěry: někdo se obnovil díky poměrně drahému DiskInternals VMFS Recovery nebo někomu pomohl aktivně propagující své služby specialista na vmfs-tools a dd. Varianta s nákupem licence DiskInternals VMFS Recovery za 700 $ — není možnost. Přístup třetí osoby z „území potenciálního protivníka“ k firemním datům — také není možnost. Naštěstí bylo na internetu nalezeno, že VMFS oddíly umí číst také UFS Explorer.
DiskInternals VMFS Recovery
Byla stažena a nainstalována zkušební verze. Program úspěšně rozpoznal prázdný VMFS oddíl:
V režimu Undelete (Fast Scan) také našel a poškozený Datastore s adresáři virtuálních strojů s disky uvnitř:
Náhled ukázal, že soubory jsou živé:
Připojení oddílu do systému bylo úspěšné, ale z neznámého důvodu ve všech třech adresářích byla stejná virtuální mašinka. Samozřejmě, podle zákona schválnosti — ne ta, která je potřeba.
Tři řádky hanbyPokusem o bezostyšné kradení softwaru skončila neúspěchem. Ale podařilo se mi skopírovat UFS Explorer.
K vynášení softwaru mám krajně negativní postoj. V žádném případě nenavrhuji používat prostředky obcházení ochrany před nelegálním používáním.
Byl jsem v katastrofální situaci a nijak jsem se netěšil z těch opatření, ke kterým jsem musel přistoupit.
UFS Explorer
Skenování disku ukázalo přítomnost 7 uzlů. Počet uzlů „úžasně“ odpovídal počtu *-flat.vmdk souborů, nalezených při VMFS Recovery:
Porovnání velikosti souborů a velikostí uzlů také ukázalo shodu do posledního bytu. Zároveň byla obnovena jména *-flat.vmdk souborů a, odpovídajícím způsobem, jejich příslušnost k virtuálním strojům.
Vmdk disky z pohledu ESXi se skládají ze dvou souborů: je to soubor s daty (-flat.vmdk) a soubor „fyzického“ rozložení disku (.vmdk). Pokud se soubor *-flat.vmdk nahraje z místního stroje do Datastore, ESXi ho neuzná jako platný soubor disku. V databázi znalostí VMware je článek o tom, jak ručně vytvořit soubor deskriptoru disku: , ale já to nemusel dělat, jednoduše jsem zkopíroval obsah příslušných souborů z oblasti náhledu souboru v DiskInternals VMFS Recovery:
Po 4 hodinách extrakce 2,5 TB uzlu z UFS Exploreru a 20 hodinách nahrávání do Datastore hypervizora byly ztracené disky připojeny k čerstvě vytvořené virtuální mašině. Disky se zprovoznily. Ztráty dat nebyly zaznamenány.
Zdroj: habr.com
