Podrobně argumentujeme, co dělá OceanStor Dorado 18000 V6 skutečně hi-endovým systémem pro ukládání dat s solidním zázemím na následující roky. Zároveň rozptylujeme běžné obavy ohledně All-Flash úložišť a ukazujeme, jak Huawei z nich vytěží maximum: end-to-end NVMe, dodatečné cache na SCM a celou řadu dalších řešení.
Nová datová krajina — nové ukládání dat
Intenzivní práce s daty roste ve všech odvětvích. Bankovnictví je tomu nejviditelnějším příkladem. V posledních několika letech se počet bankovních transakcí zvýšil více než desetinásobně. Jak ukazuje , pouze v Rusku se v období od 2010 do 2018 zvýšil počet bezhotovostních transakcí prostřednictvím plastových karet více než třicetkrát — z 5,8 na 172 na osobu za rok. Důvodem je především triumf mikroplateb: většina z nás si zvykla na online bankovnictví, a banka je nyní vždy po ruce — v telefonu.
IT infrastruktura úvěrové instituce musí být připravena na tuto výzvu. A to je skutečně výzva. Kromě jiného, pokud dříve bylo pro banku dostačující zajistit dostupnost dat pouze během pracovních hodin, nyní je to 24/7. Ještě nedávno byla latence 5 ms považována za přijatelnou normu a co nyní? Nyní je i 1 ms přehnané. Pro moderní systém pro ukládání dat je cílová hodnota 0,5 ms.
Totéž platí pro spolehlivost: v 2010s se vytvořilo empirické pochopení, že je postačující dosáhnout úrovně „pěti devítek“ — 99,999%. Pravda, toto chápání už zestaralo. V roce 2020 je pro podniky zcela normální požadovat 99,9999% pro úložiště a 99,99999% pro architektonické řešení jako celek. A to rozhodně není rozmar, ale naléhavá potřeba: buď není časový slot na údržbu infrastruktury, nebo je to velmi krátké.
Pro lepší přehled je pohodlné promítnout tyto ukazatele na rovinu peněz. Nejjednodušeji na příkladu finančních institucí. Na výše uvedeném diagramu je uvedeno, kolik peněz vydělává každá z deseti největších světových bank za hodinu. U samotné Průmyslové a obchodní banky Číny to činí neuvěřitelných 5 milionů dolarů. Přesně tolik stojí hodinový prosto IT infrastruktury největší úvěrové organizace v ČLR (přičemž do kalkulace byla zahrnuta pouze ušlá ziskovost!). Při tomto úhlu pohledu je jasné, že snížení prostoje a zvýšení spolehlivosti není racionálně obhajitelné jen v řádu procent — dokonce i v dílčích procentech. To nejen z hlediska zvýšení konkurenceschopnosti, ale i jednoduše pro udržení tržní pozice.
Podobné změny se dějí i v jiných odvětvích. Například v letecké dopravě: před pandemií letecká doprava rok od roku stále více rostla a mnozí ji začali používat téměř jako taxi. Co se týče spotřebitelských vzorců, ve společnosti se usadila zvyková praxe dokonalé dostupnosti služeb: při příletu na letiště potřebujeme připojení k Wi-Fi, přístup k platebním službám, mapě oblasti atd. Jak je důsledkem, zátěž na infrastrukturu a služby v veřejných prostorách vzrostla mnohonásobně. A ty přístupy k její, infrastruktury, budování, které jsme považovali za přijatelné ještě před rokem, se rychle stávají zastaralými.
Není příliš brzy na přechod na All-Flash?
Pro řešení úkolů, o kterých jsme hovořili výše, z pohledu výkonu AFA — all-flash array, tedy plně postavené na flashových systémech, jsou naprosto perfektní. Snad jen do nedávna existovaly pochybnosti o tom, zda jsou srovnatelné s těmi, které jsou postaveny na základě HDD a hybridními. Nakonec má pevná flash paměť takový ukazatel, jako je průměrná doba mezi poruchami, nebo MTBF (mean time between failures). Degradace buněk v důsledku operací čtení a zápisu, bohužel, je realita.
Takže perspektivy All-Flash zatemňoval otázka, jak zabránit ztrátě dat v případě, že SSD přestane fungovat. Zálohování je obvyklá možnost, ovšem doba obnovení by byla nepřijatelně dlouhá podle současných požadavků. Další možností je zavést druhou úroveň ukládání na rotačních discích, avšak při takovém schématu se ztrácí část výhod "čistě flashových" systémů.
Čísla však hovoří jinak: statistiky gigantů digitální ekonomiky, včetně Googlu, v posledních letech ukazují, že flash je mnohem spolehlivější než pevné disky. A to jak na krátkém, tak na dlouhém období: průměrně uplyne od čtyř do šesti let, než dojde k selhání flashových zařízení. Co se týče spolehlivosti uchovávání dat, nijak se neliší od zařízení na rotačních magnetických discích, dokonce je i převyšují.
Dalším tradičním argumentem ve prospěch rotačních disků je jejich cenová dostupnost. Není pochyb o tom, že náklady na uchovávání terabajtu na pevném disku jsou stále relativně nízké. A pokud se zaměříme pouze na náklady na zařízení, uchovávat terabajt na rotačním disku je levnější než na SSD. Nicméně v rámci finančního plánování je důležité, jak byla konkrétní zařízení zakoupena, ale také jaká je celková cena vlastnictví během dlouhého období — od tří do sedmi let.
Z tohoto úhlu pohledu je situace zcela jiná. I když opomineme deduplikační a kompresní metody, které se obvykle používají na flashových polí a činí jejich provoz ekonomičtější, zůstávají takové charakteristiky jako prostor, který zařízení zabírá v racku, tepelná produkce, a spotřeba energie. A v těchto aspektech flash vyhrává nad svými předchůdci. V důsledku toho je TCO úložišť na flashi s ohledem na všechny parametry často téměř dvakrát nižší než u systémů na rotačních discích nebo hybridních řešení.
Podle zpráv agentury ESG mohou systémy pro ukládání dat All-Flash Dorado V6 skutečně snížit celkové náklady na vlastnictví až o 78 % během pěti let, a to díky efektivní deduplikaci a kompresi a také díky nízké spotřebě energie a tepelné produkci. Německá analytická firma DCIG také doporučuje jejich použití jako optimální z pohledu TCO ze všech dostupných možností na dnešním trhu.
Použití pevných disků SSD umožňuje šetřit cenný prostor, snižuje počet poruch, zkracuje dobu údržby řešení a snižuje spotřebu energie a tepelné vyzařování SDD. A ukazuje se, že AFA je z ekonomického hlediska minimálně srovnatelné s tradičními poli na rotačních discích, často je však překonává.
Royal Flash od Huawei
Mezi našimi All-Flash úložišti zaujímá přední místo hi-end systém OceanStor Dorado 18000 V6. A nejen mezi našimi: v celém odvětví drží rekord v rychlosti – až 20 milionů IPOS v maximální konfiguraci. Kromě toho je nesmírně spolehlivé: i když najednou odejdou dva kontrolery, nebo až sedm kontrolerů jeden po druhém, nebo rovnou celý engine – data zůstanou v bezpečí. Významné výhody „osmnáctitisícového“ modelu přináší zabudovaná AI, včetně flexibility v řízení vnitřních procesů. Podívejme se, jak toho všeho je dosaženo.
V značné míře má společnost Huawei výhodu, protože je jediným výrobcem úložných systémů na trhu, který je vyrábí kompletně sám. Máme vlastní schémata, vlastní mikrokód a vlastní servisní podporu.
Kontroler v systémech OceanStor Dorado je postaven na procesoru vlastní konstrukce a výroby Huawei – Kunpeng 920. Obsahuje modul pro správu Intelligent Baseboard Management Controller (iBMC), také náš. AI čipy, konkrétně Ascend 310, které optimalizují predikce poruch a poskytují doporučení pro nastavení, jsou také od Huaweie, stejně jako vklady pro připojení – modul Smart I/O. Nakonec jsou také kontrolery v pevných discích navrženy a vyrobeny našimi silami. To všechno dalo základ pro vytvoření komplexně vyváženého a vysoce výkonného řešení.
V uplynulém roce jsme realizovali projekt zavedení našeho nejmodernějšího úložného systému v jednom z velkých ruských bank. V důsledku toho více než 40 jednotek OceanStor Dorado 18000 V6 v metro klastru vykazuje stabilní výkonnost: z každého systému se podařilo dosáhnout více než milionu IOPS, a to i s ohledem na zpoždění způsobené vzdáleností.
End-to-end NVMe
Nejnovější systémy ukládání dat Huawei podporují end-to-end NVMe, což je důvod, proč se na to zaměřujeme. Tradičně používané protokoly přístupu k úložištím byly vyvinuty v dávné éře IT: na jejich základě jsou SCSI příkazy (ahoj, 80. léta!), které s sebou nesou spoustu funkcí pro zajištění zpětné kompatibility. Ať už vezmete jakýkoli způsob přístupu, protokolový overhead je v takovém případě obrovský. V důsledku toho mají úložiště, která využívají SCSI protokoly, zpoždění vstupu a výstupu, které nemůže být nižší než 0,4–0,5 ms. Na druhé straně, protokol vytvořený pro práci s flash pamětí a zbavený záchytných mechanismů pro onen proslulý zpětný kompatibilitu, NVMe — Non-Volatile Memory Express — snižuje latenci na 0,1 ms, přičemž to neplatí jen pro úložiště, ale pro celý stack, od hostitele po úložiště. Není divu, že NVMe stojí v čele trendů vývoje úložišť dat v dohledné budoucnosti. Sázíme na NVMe a postupně se od SCSI odkláníme. Všechny dnes vyráběné úložné systémy Huawei, včetně řady Dorado, podporují NVMe (i když jako end-to-end je implementováno pouze u pokročilých modelů série Dorado V6).
FlashLink: hrst technologií
Základní technologie pro celou řadu OceanStor Dorado je FlashLink. Přesněji, je to termín, který spojuje soubor technologií, které slouží k zajištění vysokého výkonu a spolehlivosti. Sem patří technologie deduplikace a komprese, fungování systému distribuce dat RAID 2.0+, oddělení „studených“ a „horkých“ dat, celo-stripe sekvenční zápis dat (náhodné zápisy, s novými a změněnými daty, se agregují do velkého balíku a zapisují se sekvenčně, což zvyšuje rychlost čtení a zápisu).
Kromě toho FlashLink zahrnuje dvě důležité složky — Wear Leveling a Global Garbage Collection. Na nich se zastavíme podrobněji.
V podstatě každé SSD je miniaturizované úložiště s velkým počtem bloků a řadičem, který zajišťuje dostupnost dat. Dostupnost je zajištěna také tím, že data z "poškozených" buněk jsou přesunuta do "nepoškozených". Tím se zaručuje, že je možné je přečíst. Existují různé algoritmy pro takový přesun. Obecně se řadič snaží vyvážit opotřebení všech buněk úložiště. Tento přístup má jednu nevýhodu. Když dochází k přesunu dat uvnitř SSD, počet prováděných vstupně-výstupních operací výrazně klesá. V současnosti je to nevyhnutelné zlo.
Pokud má systém mnoho SSD, na grafu jeho výkonu se vytváří "zubnatá čára" s ostrými vzestupy a poklesy. Problém je v tom, že jeden z jednotek v poli může kdykoliv spustit migraci dat, zatímco celkový výkon se odečítá najednou ze všech SSD v poli. Inženýři Huawei však vymysleli, jak se vyhnout vzniku "zubnaté čáry".
Naštěstí jsou jak řadiče v úložištích, tak řadič úložiště, a mikrokód u Huawei "domácí", tyto procesy v OceanStor Dorado 18000 V6 se spouští centrálně, synchronně na všech jednotkách pole. A to na příkaz řadiče úložiště, přesně kdy není velké zatížení vstupem a výstupem.
Čip umělé inteligence se také podílí na výběru správného okamžiku pro přesun dat: na základě statistik požadavků za posledních několik měsíců je schopen s vysokou pravděpodobností předpovědět, zda se v blízké době očekává aktivní vstup a výstup, a pokud je odpověď negativní a zatížení systému je v aktuálním okamžiku malé, řadič příkazuje všem jednotkám: kdo potřebuje Wear Leveling, provést to najednou a synchronně.
Kromě toho řadič systému vidí, co se děje v každé buňce úložiště, na rozdíl od úložišť konkurenčních výrobců: ti jsou nuceni nakupovat SSD od třetích stran, což znamená, že detailní úroveň na úrovni buněk není těmto řadičům k dispozici.
V důsledku toho má OceanStor Dorado 18000 V6 velmi krátké období ztráty výkonu při operaci Wear Leveling, která probíhá většinou, když jiným procesům nebrání. To zajišťuje vysokou stabilitu výkonu na trvalé bázi.
Z čeho se skládá spolehlivost OceanStor Dorado 18000 V6
V moderních systémech pro ukládání dat se rozlišují čtyři úrovně spolehlivosti:
- hardwarová, na úrovni úložiště;
- architektonická, na úrovni vybavení;
- architektonická spolu s softwarovou částí;
- celková, která se vztahuje na řešení jako celek.
Jelikož, jak jsme již zmínili, všechny součásti Syntetického úložiště navrhuje a vyrábí naše společnost sama, zajišťujeme spolehlivost na každé z těchto čtyřech úrovní, s možností podrobně sledovat, co se na které z nich děje v daném okamžiku.
Spolehlivost úložišť je zaručena především dříve popsanými metodami Wear Leveling a Global Garbage Collection. Když SSD vypadá pro systém jako černá skříňka, nemá tušení, jak konkrétně se v něm opotřebovávají buňky. Pro OceanStor Dorado 18000 V6 jsou úložiště transparentní, což umožňuje rovnoměrné vyvážení mezi všemi jednotkami pole. Tak se výrazně prodlužuje životnost SSD a zajišťuje se vysoká úroveň spolehlivosti jejich fungování.
Na spolehlivost úložiště také ovlivňují další redundantní buňky v něm. Kromě jednoduché rezervy se v Syntetickém úložišti používají takzvané DIF-buňky, kde jsou uloženy kontrolní součty, stejně jako další kódy, které chrání každý blok před jednotkovou chybou, kromě ochrany na úrovni RAID pole.
Základem spolehlivosti architektury je řešení SmartMatrix. Stručně řečeno, jedná se o čtyři kontroléry, které se nacházejí na pasivním backplane jako součást jednoho motoru (engine). Dva takové motory — tedy s osmi kontroléry — se připojují k společným policím s úložišti. Díky SmartMatrix, i když přestane fungovat sedm kontrolérů z osmi, zůstane přístup ke všem datům jak pro čtení, tak pro zápis. A při ztrátě šesti kontrolérů z osmi bude možné i nadále provádět operace cachování.
Vstupně-výstupní desky na tom samém pasivním backplane jsou dostupné všem kontrolérům, jak pro frontend, tak pro backend. Při tomto způsobu připojení full-mesh zůstává přístup k úložištím zachován, bez ohledu na to, co selže.
O spolehlivosti architektury má smysl hovořit především v kontextu různých poruch, proti kterým je systém úložiště schopen poskytnout ochranu.
Úložiště přežije bez ztrát situaci, pokud „vypadnou“ dva kontroléry, a to i současně. Tato odolnost je dosažena tím, že každý blok cache má vždy minimálně dvě kopie na různých kontrolérech, což celkem znamená, že existuje ve třech kopiích. Přičemž alespoň jedna se nachází na jiném enginu. Takže i když celý engine - se všemi čtyřmi kontroléry - přestane fungovat, je zaručeno zachování všech informací, které byly v cache paměti, protože minimálně v jednom kontroléru ze zbývajícího enginu bude cache duplikována. Nakonec, při sériovém připojení lze ztratit až sedm kontrolérů, a to i při jejich selhání dvou po dvou, - a přitom bude opět zachován veškerý vstup-výstup a všechna data z cache paměti.
Při porovnání s úložišti třídy hi-end jiných výrobců je vidět, že pouze Huawei zajišťuje úplnou ochranu dat a jejich plnou dostupnost i po selhání dvou kontrolérů nebo celého enginu. Většina dodavatelů používá schéma s tzv. kontrolérskými páry, k nimž jsou připojeny disky. Bohužel, v takové konfiguraci se při selhání dvou kontrolérů zvyšuje riziko ztráty přístupu k disku pro vstup-výstup.
Bohužel, selhání jednotlivé součásti není objektivně vyloučeno. V takovém případě výkon na nějakou dobu poklesne: je třeba, aby se přestavěly cesty a obnovil přístup k operacím vstupu a výstupu týkajících se těch bloků, které buď přišly k zápisu, ale ještě nebyly zapsány, nebo byly požadovány k přečtení. U OceanStor Dorado 18000 V6 je průměrná doba přestavby přibližně jedna sekunda — výrazně méně než u nejbližšího konkurenta v oboru (4 sekundy). Toho je dosaženo díky pasivnímu backplane: když kontroler selže, ostatní ihned vidí jeho vstup a výstup, a konkrétně, který blok dat nebyl doplněn; nakonec nejbližší kontroler převzetí procesu. Odtud i možnost obnovit výkon doslova za sekundu. Je třeba dodat, že interval je stabilní: jedna sekunda na jeden kontroler, jedna sekunda na druhý atd.
V pasivním backplane OceanStor Dorado 18000 V6 jsou všechny desky dostupné všem kontrolerům bez jakékoli dodatečné adresace. A to znamená, že jakýkoli kontroler může převzít vstup a výstup přes jakýkoli port. Ať už vstup a výstup přichází na jakýkoli frontendový port, kontroler je připraven jej zpracovat. Odtud — minimální počet interních přenosů a znatelné zjednodušení zatěžování.
Zatěžování frontendu se provádí pomocí multipathing ovladače, a navíc se provádí vyvažování uvnitř samotného systému, protože všechny kontrolery vidí všechny porty vstupů a výstupů.
Tradičně jsou všechna pole Huawei konstruována tak, že nemají žádný jediný bod selhání. Systém umožňuje zaměnění „za chodu“, bez restartu, všech jeho komponent: kontrolerů, napájecích modulů, modulů chlazení, desek vstupů a výstupů atd.
Kromě toho zvyšuje spolehlivost systému jako celku také technologie RAID-TP. To je název RAID skupiny, která umožňuje ochranu na případ současného selhání až tří disků. A přitom rekonstrukce na 1 TB stabilně zabere méně než 30 minut. Nejlepší zaznamenaný výsledek je osmkrát rychlejší než při stejném objemu dat na plotnovém disku. Takto je možné používat extrémně kapacitní disky, například o velikosti 7,68 nebo dokonce 15 TB, a nebát se o spolehlivost systému.
Je důležité, že rebuild se provádí nikoli na spare drive, ale na spare space — rezervní kapacitě. V každém úložném zařízení je vyhrazeno místo, které se používá pro obnovu dat po selhání. Tímto způsobem se obnova neprovádí podle schématu "mnoho v jeden", ale podle schématu "mnoho v mnoho", díky čemuž se podaří výrazně zrychlit proces. A dokud je k dispozici volná kapacita, může obnova pokračovat.
Je také důležité zmínit spolehlivost řešení z několika úložišť — v metro-klastru, nebo podle terminologie Huawei, HyperMetro. Takové schémata jsou podporována v celém modelovém řadu našich systémů pro ukládání dat a umožňují práci jak s filesovým, tak s blokovým přístupem. Přičemž na blokovém funguje jak přes Fibre Channel, tak přes Ethernet (včetně iSCSI).
V podstatě se jedná o obousměrnou replikaci z jednoho úložného zařízení na jiné, při které je replikovanému LUN přiřazen stejný LUN-ID, jaký má hlavní. Tato technologie funguje především díky konzistenci cache z obou různých systémů. Takže pro hosta je naprosto jedno, z které strany se nachází: zde i tam vidí stejný logický disk. V důsledku toho nic nebrání rozšíření clustera s vysokou dostupností, který je rozložen na dvě lokality.
Pro kvórum se využívá fyzický nebo virtuální Linux stroj. Ten může být umístěn na třetí lokalitě a požadavky na jeho zdroje nejsou velké. Běžný scénář je pronajmout virtuální lokalitu výhradně pro umístění kvórumové VM.
Technologie umožňuje také rozšíření: dvě úložiště — v metro-klastru, další lokalita — s asynchronní replikací.
Historicky má mnoho zákazníků vytvořen „zoo skladování“: hromadu úložišť od různých výrobců, různých modelů, různých generací, s různou funkčností. Spolu s tím je počet hostitelů značný a často jsou virtualizovaní. V takových podmínkách je jednou z prioritních úloh správy rychle, jednotně a pohodlně poskytovat logické disky pro hostitele, ideálně tak, aby se nezkoumalo, kde se tyto disky fyzicky nacházejí. Na to je určeno naše softwarové řešení OceanStor DJ, které umí unifikovaně řídit různá úložiště dat a poskytovat služby bez vazby na konkrétní model úložiště.
Stejné a AI
Jak už bylo řečeno, v OceanStor Dorado 18000 V6 jsou integrovány procesory s algoritmy umělé inteligence — Ascend. Používají se jednak pro predikci poruch, a jednak pro vytváření doporučení k nastavení, což také zvyšuje výkon a spolehlivost úložiště.
Horizont predikcí — dva měsíce: AI strojní učení předpokládá, co s vysokou pravděpodobností nastane během této doby, zda není načase provést rozšíření, změnit přístupové politiky atd. Doporučení jsou vydávána předem, což umožňuje včas naplánovat okna pro údržbu systému.
Další krok v rozvoji AI od Huawei předpokládá jeho zavedení na globální úroveň. V průběhu servisního údržby — řešení poruch nebo doporučení — Huawei agreguje informace z logovacích systémů ze všech úložišť našich klientů. Na základě shromážděných údajů se provádí analýza již proběhlých nebo potenciálně možných poruch a formulují se globální doporučení — vycházející nikoli z fungování jednoho konkrétního úložiště nebo dokonce desítky, ale z toho, co se děje a dělo s tisíci takovými zařízeními. Výběr je obrovský a na jeho základě se algoritmy AI začínají učit velmi rychle, což vede k významnému zvýšení přesnosti predikcí.
Kompatibilita
V letech 2019–2020 se objevilo mnoho spekulací ohledně interakce našeho zařízení s produkty VMware. Abychom je definitivně utnuli, zodpovědně prohlašujeme: VMware je partner Huawei. Byly provedeny všechny možné testy kompatibility našeho hardwaru s jejím softwarem, a nakonec jsou na stránkách VMware v seznamu kompatibility hardwaru uvedeny dostupné jednotky úložiště naší výroby bez jakýchkoliv výhrad. Jinými slovy, s programovým prostředím VMware lze používat úložiště Huawei, včetně Dorado V6, s plnou podporou.
To samé platí o naší spolupráci s Brocade. Pokračujeme ve spolupráci a provádíme testy kompatibility našich produktů – a na základě jejích výsledků s plnou jistotou tvrdíme, že naše systémy úložiště dat jsou plně kompatibilní s nejnovějšími FC přepínači Brocade.
Co dál?
Pokračujeme v rozvoji a zdokonalování našich procesorů: stávají se rychlejšími, spolehlivějšími a zvyšuje se jejich výkon. Zlepšujeme i AI čipy — na jejich základě se mj. vyrábějí moduly, které zrychlují deduplikaci a kompresi. Ti, kteří mají přístup k našemu konfigurátoru, si mohli všimnout, že v modelech Dorado V6 jsou tyto karty již dostupné k objednání.
Také se posouváme směrem k dodatečnému ukládání do paměti třídy Storage Class Memory — energeticky nezávislé paměti se zvlášť nízkou latencí, okolo deseti mikrosekund při čtení. Kromě všeho navíc SCM přináší nárůst výkonu, především při práci s big data a při řešení OLTP úloh. Po nadcházející aktualizaci by měly být SCM karty dostupné k objednání.
A samozřejmě, funkcionalita přístupu k souborům se bude rozšiřovat v celém modelovém řadu úložišť dat Huawei — sledujte naše aktualizace.
Zdroj: habr.com
