Detailně argumentujeme tím, co dělá z OceanStor Dorado 18000 V6 skutečně špičkový úložný systém se slušnou rezervou na příští roky. Zároveň rozptýlíme běžné obavy z All-Flash úložiště a ukážeme, jak z nich Huawei vyždímá maximum: end-to-end NVMe, dodatečné ukládání do mezipaměti na SCM a spoustu dalších řešení.
Nové datové prostředí – nové datové úložiště
Datová náročnost je na vzestupu napříč všemi odvětvími. A bankovní sektor je toho jasným příkladem. Za posledních několik let se počet bankovních transakcí zvýšil více než desetkrát. Jak ukazuje , pouze v Rusku v období 2010 až 2018 vykázal počet bezhotovostních transakcí pomocí plastových karet více než třicetinásobný nárůst – z 5,8 na 172 na osobu a rok. Za prvé, triumf mikroplateb: většina z nás se stala spřízněnou s online bankovnictvím a banka je nyní na dosah ruky - na telefonu.
IT infrastruktura úvěrové instituce musí být na takovou výzvu připravena. A to je opravdu výzva. Mimo jiné, pokud dříve banka potřebovala zajistit dostupnost dat pouze v provozní době, nyní je to 24/7. Donedávna bylo 5 ms považováno za přijatelnou míru latence, tak co? Nyní je i 1 ms přehnaná. Pro moderní úložný systém je cílem 0,5 ms.
Totéž se spolehlivostí: v roce 2010 se vytvořilo empirické chápání, že stačí dostat její úroveň na „pět desítek“ - 99,999%. Pravda, toto chápání se stalo zastaralým. V roce 2020 je naprosto normální, že podnik vyžaduje 99,9999 % na úložiště a 99,99999 % na celkovou architekturu. A to vůbec není rozmar, ale naléhavá potřeba: buď neexistuje žádné časové okno pro údržbu infrastruktury, nebo je malá.
Pro názornost je vhodné promítnout tyto ukazatele do roviny peněz. Nejjednodušší způsob je na příkladu finančních institucí. Výše uvedený graf ukazuje, kolik vydělá každá z 10 nejlepších světových bank za hodinu. Jen pro Čínskou průmyslovou a obchodní banku to není méně než 5 milionů USD. Přesně tolik bude stát hodina odstávky IT infrastruktury největší úvěrové organizace v Číně (a v úvahu se berou pouze ušlé zisky výpočet!). Z tohoto pohledu je zřejmé, že snížení prostojů a zvýšení spolehlivosti nejen o pár procent, ale dokonce o zlomky procenta, jsou zcela racionálně opodstatněné. Nejen z důvodu zvýšení konkurenceschopnosti, ale jednoduše z důvodu udržení pozice na trhu.
Srovnatelné změny probíhají i v jiných odvětvích. Například v letecké dopravě: před pandemií letecká doprava rok od roku jen nabírala na síle a mnozí ji začali využívat téměř jako taxi. Pokud jde o spotřebitelské vzorce, ve společnosti se zakořenil zvyk totální dostupnosti služeb: po příletu na letiště se potřebujeme připojit k Wi-Fi, přístup k platebním službám, přístup k mapě oblasti atd. Jako ve výsledku se mnohonásobně zvýšilo zatížení infrastruktury a služeb ve veřejném prostoru. A ty přístupy k její infrastruktuře, výstavbě, které jsme ještě před rokem považovali za přijatelné, rychle zastarávají.
Je příliš brzy na přechod na All-Flash?
K vyřešení výše zmíněných problémů se z hlediska výkonu nejlépe hodí AFA – all-flash pole, tedy pole kompletně postavená na flashi. Ledaže by donedávna panovaly pochybnosti, zda jsou ve spolehlivosti srovnatelné s těmi sestavenými na bázi HDD a hybridních. Koneckonců, polovodičová flash paměť má metriku zvanou střední doba mezi poruchami nebo MTBF (střední doba mezi poruchami). Degradace buněk v důsledku I/O operací je bohužel samozřejmostí.
Vyhlídky All-Flash tedy zastínila otázka, jak zabránit ztrátě dat v případě, že SSD zavelí k dlouhému životu. Zálohování je známá možnost, jen doba obnovy by byla na základě moderních požadavků nepřijatelně dlouhá. Dalším východiskem je nastavení druhé úrovně úložiště na vřetenových discích, nicméně s takovým schématem se některé výhody „striktně flashového“ systému ztrácejí.
Čísla však říkají něco jiného: statistiky gigantů digitální ekonomiky včetně Googlu v posledních letech ukazují, že flash je několikanásobně spolehlivější než pevné disky. Navíc v krátkém i dlouhém období: než flash disky selžou, uplynou v průměru čtyři až šest let. Z hlediska spolehlivosti ukládání dat nejsou v žádném případě horší než mechaniky na vřetenových magnetických discích, ba dokonce je nepředčí.
Dalším tradičním argumentem ve prospěch vřetenových pohonů je jejich cenová dostupnost. Náklady na uložení terabajtu na pevný disk jsou bezpochyby stále relativně nízké. A pokud vezmete v úvahu pouze náklady na vybavení, je levnější ponechat terabajt na vřetenovém disku než na SSD. V rámci finančního plánování však nezáleží jen na tom, za kolik bylo konkrétní zařízení zakoupeno, ale také jaké jsou celkové náklady na jeho dlouhodobé vlastnictví – od tří do sedmi let.
Z tohoto úhlu je to úplně jiné. I když pomineme deduplikaci a kompresi, které se na flashových polích zpravidla používají a jejich provoz je ekonomicky výhodnější, zůstávají zde takové vlastnosti, jako je prostor v racku zabraný médii, odvod tepla a spotřeba energie. A splachovač podle nich předčí své předchůdce. Ve výsledku je TCO flashových úložných systémů při zohlednění všech parametrů často téměř poloviční než v případě polí na vřetenových pohonech nebo hybridech.
Podle zpráv ESG mohou úložné systémy Dorado V6 All-Flash dosáhnout snížení nákladů na vlastnictví až o 78 % během pětiletého intervalu, včetně účinné deduplikace a komprese a díky nízké spotřebě energie a odvodu tepla. Německá analytická společnost DCIG je také doporučuje k použití jako nejlepší z hlediska TCO, které jsou dnes k dispozici.
Použití SSD disků umožňuje ušetřit využitelný prostor, snížit počet poruch, zkrátit dobu údržby řešení, snížit spotřebu energie a odvod tepla úložných systémů. A ukazuje se, že AFA je minimálně ekonomicky srovnatelná s tradičními poli na vřetenových pohonech a často je i předčí.
Huawei Royal Flush
Mezi našimi All-Flash úložišti patří přední místo hi-end systému OceanStor Dorado 18000 V6. A nejen mezi našimi: obecně v oboru drží rychlostní rekord – až 20 milionů IPOS v maximální konfiguraci. Navíc je extrémně spolehlivý: i když létají dva ovladače najednou, nebo až sedm ovladačů za sebou nebo celý motor najednou, data přežijí. Značné výhody „osmnácttisícovky“ dává AI, která je do ní zapojena, včetně flexibility při řízení interních procesů. Podívejme se, jak je toho dosaženo.
Huawei má z velké části náskok, protože je jediným výrobcem na trhu, který si úložné systémy vyrábí sám – kompletně a kompletně. Máme vlastní obvody, vlastní mikrokód, vlastní službu.
Ovladač v systémech OceanStor Dorado je postaven na procesoru vlastní konstrukce a výroby Huawei - Kunpeng 920. Využívá řídicí modul Intelligent Baseboard Management Controller (iBMC), také náš. Čipy AI, konkrétně Ascend 310, které optimalizují předpovědi selhání a dávají doporučení pro nastavení, jsou také Huawei, stejně jako I/O desky – modul Smart I/O. A konečně, řadiče v SSD jsou navrženy a vyrobeny námi. To vše poskytlo základ pro vytvoření integrálně vyváženého a vysoce výkonného řešení.
V průběhu minulého roku jsme realizovali projekt zavedení tohoto našeho nejmodernějšího úložného systému v jedné z největších ruských bank. Výsledkem je, že více než 40 jednotek OceanStor Dorado 18000 V6 v clusteru metra vykazuje stabilní výkon: z každého systému lze odebrat více než milion IOPS, a to zohledňuje zpoždění kvůli vzdálenosti.
End-to-End NVMe
Nejnovější úložné systémy Huawei podporují end-to-end NVMe, což z nějakého důvodu zdůrazňujeme. Tradičně používané protokoly pro přístup k jednotkám byly vyvinuty v prastarém IT starověku: jsou založeny na příkazech SCSI (ahoj, 1980. léta!), které využívají spoustu funkcí, aby byla zajištěna zpětná kompatibilita. Ať už zvolíte jakýkoli způsob přístupu, režie protokolu je v tomto případě kolosální. V důsledku toho u úložišť, která používají protokoly vázané na SCSI, nemůže být I/O zpoždění nižší než 0,4–0,5 ms. NVMe – Non-Volatile Memory Express – protokol navržený pro práci s flash pamětí a osvobozený od berliček kvůli pověstné zpětné kompatibilitě – snižuje latenci na 0,1 ms, navíc ne na úložném systému, ale na celý zásobník, od hostitele po disky. Není divu, že NVMe je v souladu s trendy vývoje datových úložišť v dohledné budoucnosti. Spoléhali jsme také na NVMe – a postupně se vzdalujeme od SCSI. Všechny dnes vyráběné úložné systémy Huawei, včetně řady Dorado, podporují NVMe (jako end-to-end je však implementován pouze na pokročilých modelech řady Dorado V6).
FlashLink: Hrst technologií
Základní technologií pro celou řadu OceanStor Dorado je FlashLink. Přesněji se jedná o pojem, který v sobě spojuje ucelený soubor technologií, které slouží k zajištění vysokého výkonu a spolehlivosti. To zahrnuje technologie deduplikace a komprese, fungování systému distribuce dat RAID 2.0+, oddělení „studených“ a „horkých“ dat, sekvenční záznam dat v celém pruhu (náhodné zápisy s novými a změněnými daty jsou agregovány do velký zásobník a zápis sekvenčně, což zvyšuje rychlost čtení a zápisu).
FlashLink mimo jiné obsahuje dvě důležité součásti – Wear Leveling a Global Garbage Collection. Měly by být řešeny samostatně.
Ve skutečnosti je každý disk SSD miniaturní úložný systém s velkým počtem bloků a řadičem, který zajišťuje dostupnost dat. A je poskytován mimo jiné i díky tomu, že se data z „zabitých“ buněk přenesou do „nezabitých“. Tím je zajištěno, že je lze číst. Pro takový přenos existují různé algoritmy. V obecném případě se regulátor snaží vyrovnat opotřebení všech akumulačních buněk. Tento přístup má nevýhodu. Když jsou data přesouvána uvnitř SSD, počet I/O operací, které provádí, se dramaticky snižuje. Zatím je to nutné zlo.
Pokud je tedy v systému mnoho SSD, na grafu výkonu se objeví „pila“ s prudkými vzestupy a pády. Problém je v tom, že jeden disk z fondu může kdykoli zahájit migraci dat a celkový výkon je současně odebrán ze všech SSD v poli. Inženýři Huawei ale přišli na to, jak se „pile“ vyhnout.
Naštěstí jsou jak řadiče v jednotkách, tak řadič úložiště a firmware Huawei „nativní“, tyto procesy v OceanStor Dorado 18000 V6 jsou spouštěny centrálně, synchronně na všech discích v poli. Navíc na příkaz řadiče úložiště a přesně tehdy, když nedochází k žádné velké I/O zátěži.
Čip umělé inteligence se také podílí na výběru správného okamžiku pro přenos dat: na základě statistiky zásahů za několik předchozích měsíců je schopen s největší pravděpodobností předvídat, zda v blízké budoucnosti očekávat aktivní I/O a je-li odpověď záporná a zatížení systému v aktuálním okamžiku je malé, pak řídicí jednotka řídí všechny jednotky: ti, kteří potřebují Wear Leveling, by to měli udělat najednou a synchronně.
Systémový řadič navíc vidí, co se děje v každé buňce disku, na rozdíl od úložných systémů konkurenčních výrobců: jsou nuceni kupovat polovodičová média od dodavatelů třetích stran, a proto nejsou detaily na úrovni buňky dostupné. řadiče takových úložišť.
Výsledkem je, že OceanStor Dorado 18000 V6 má velmi krátkou dobu snížení výkonu při operaci Wear Leveling a provádí se hlavně tehdy, když nenarušuje žádné jiné procesy. To poskytuje trvale vysoký stabilní výkon.
Co dělá OceanStor Dorado 18000 V6 spolehlivým
V moderních systémech pro ukládání dat existují čtyři úrovně spolehlivosti:
- hardware na úrovni disku;
- architektonické, na úrovni vybavení;
- architektonická spolu se softwarovou částí;
- kumulativní, vztahující se k řešení jako celku.
Vzhledem k tomu, jak si vzpomínáme, naše společnost navrhuje a vyrábí všechny komponenty úložného systému sama, zajišťujeme spolehlivost na každé ze čtyř úrovní s možností důkladně sledovat, co se na které z nich právě děje.
Spolehlivost pohonů je zaručena především dříve popsaným Wear Leveling a Global Garbage Collection. Když SSD vypadá systému jako černá skříňka, netuší, jak přesně se v něm buňky opotřebovávají. U OceanStor Dorado 18000 V6 jsou disky průhledné, což umožňuje rovnoměrné vyvážení napříč všemi disky v poli. Ukazuje se tedy, že výrazně prodlužuje životnost SSD a zajišťuje vysokou úroveň spolehlivosti jejich provozu.
Spolehlivost disku je také ovlivněna dalšími redundantními buňkami v něm. A spolu s jednoduchou rezervou využívá úložný systém kromě ochrany na úrovni pole RAID také takzvané DIF buňky, které obsahují kontrolní součty a také dodatečné kódy k ochraně každého bloku před jedinou chybou.
Klíčem ke spolehlivosti architektury je řešení SmartMatrix. Ve zkratce se jedná o čtyři ovladače, které sedí na pasivní backplane jako součást jednoho motoru (motoru). Dva z těchto motorů - respektive s osmi ovladači - jsou napojeny na společné police s pohony. Díky SmartMatrix, i když sedm z osmi ovladačů přestane fungovat, přístup ke všem datům, jak pro čtení, tak pro zápis, zůstane zachován. A se ztrátou šesti z osmi řadičů bude dokonce možné pokračovat v operacích ukládání do mezipaměti.
I/O desky na stejné pasivní backplane jsou dostupné všem řadičům, jak na předním, tak na zadním konci. S takovým schématem připojení s plnou sítí je přístup k jednotkám vždy zachován bez ohledu na to, co selže.
Nejvhodnější je mluvit o spolehlivosti architektury v kontextu poruchových režimů, před kterými je úložný systém schopen chránit.
Úložiště přežije situaci beze ztrát, pokud „spadnou“ dva ovladače, a to i současně. Taková stabilita je dosažena díky skutečnosti, že každý blok mezipaměti má jistě dvě další kopie na různých řadičích, to znamená, že celkem existuje ve třech kopiích. A minimálně jeden je na jiném motoru. I když tedy přestane fungovat celý engine – se všemi čtyřmi jeho řadiči – je zaručeno, že všechny informace, které byly v cache paměti, budou uloženy, protože cache bude duplikována alespoň v jednom řadiči ze zbývajícího enginu. Konečně, se sériovým připojením můžete ztratit až sedm řadičů, a to i když jsou eliminovány v blocích po dvou, - a opět budou zachovány všechny I/O a všechna data z mezipaměti.
Při srovnání s hi-end úložištěm jiných výrobců je vidět, že pouze Huawei poskytuje plnou ochranu dat a plnou dostupnost i po smrti dvou ovladačů nebo celého enginu. Většina prodejců používá schéma s tzv. páry ovladačů, ke kterým jsou připojeny pohony. Bohužel v této konfiguraci, pokud selžou dva řadiče, existuje riziko ztráty I/O přístupu k jednotce.
Bohužel, selhání jediného komponentu není objektivně vyloučeno. V tomto případě výkon na nějakou dobu poklesne: je nutné, aby byly cesty znovu vytvořeny a aby byl obnoven přístup k I/O operacím s ohledem na ty bloky, které buď přišly k zápisu, ale ještě nebyly zapsány, nebo byly požádány o být přečten. OceanStor Dorado 18000 V6 má průměrnou dobu přestavby přibližně jednu sekundu, což je výrazně méně než nejbližší analog v oboru (4 s). Toho je dosaženo díky stejné pasivní propojovací desce: když regulátor selže, ostatní okamžitě vidí jeho vstup/výstup a zejména do kterého datového bloku nebyl zapsán; v důsledku toho proces zachytí nejbližší regulátor. Proto schopnost obnovit výkon během jediné sekundy. Musím dodat, že interval je stabilní: sekunda pro jeden ovladač, sekunda pro jiný atd.
V pasivní backplane OceanStor Dorado 18000 V6 jsou všechny desky dostupné všem kontrolérům bez jakéhokoli dalšího adresování. To znamená, že jakýkoli řadič je schopen přijímat I/O na jakémkoli portu. Bez ohledu na vstup/výstup frontend portu bude řadič připraven jej zpracovat. Tedy - minimální počet interních převodů a citelné zjednodušení bilancování.
Vyvažování frontendu se provádí pomocí ovladače multipathing a další vyvažování se provádí v rámci samotného systému, protože všechny řadiče vidí všechny I/O porty.
Tradičně jsou všechna pole Huawei navržena tak, že nemají jediný bod selhání. Hot swapping, bez restartování systému, se hodí pro všechny jeho součásti: řadiče, napájecí moduly, chladicí moduly, I/O desky atd.
Zvyšuje spolehlivost systému jako celku a technologie, jako je RAID-TP. Toto je název skupiny RAID, která umožňuje pojistit se proti současnému selhání až tří disků. A přestavba 1 TB trvá trvale méně než 30 minut. Nejlepší zaznamenaný výsledek je osmkrát rychlejší než při stejném množství dat na pohonu vřetena. Je tedy možné používat extrémně prostorné disky, řekněme 7,68 nebo dokonce 15 TB, a nestarat se o spolehlivost systému.
Je důležité, aby se přestavba neprováděla v náhradní jednotce, ale v náhradním prostoru - rezervní kapacitě. Každý disk má vyhrazený prostor pro obnovu dat po selhání. Obnova se tedy neprovádí podle schématu „mnoho k jednomu“, ale podle schématu „mnoho k mnoha“, díky čemuž je možné proces výrazně urychlit. A dokud je volná kapacita, obnova může pokračovat.
Za zmínku stojí i spolehlivost řešení z více úložišť – v clusteru metra, neboli v terminologii Huawei HyperMetro. Tato schémata jsou podporována v celé modelové řadě našich systémů pro ukládání dat a umožňují přístup k souborům i blokům. Navíc na prvním bloku funguje jak přes Fibre Channel, tak přes Ethernet (včetně iSCSI).
V podstatě mluvíme o obousměrné replikaci z jednoho úložného systému do druhého, kdy replikované LUN je přiděleno stejné LUN-ID jako hlavní. Technologie funguje především díky konzistenci keší ze dvou různých systémů. Pro hostitele tedy nezáleží na tom, na které straně je: tu i tam vidí stejnou logickou jednotku. V důsledku toho vám nic nebrání v nasazení clusteru s podporou převzetí služeb při selhání zahrnujícího dvě lokality.
Pro kvorum se používá fyzický nebo virtuální počítač Linux. Může být umístěn na třetím místě a požadavky na jeho zdroje jsou malé. Běžným scénářem je pronájem virtuálního webu výhradně pro hostování virtuálního počítače s kvorem.
Technologie také umožňuje rozšíření: dvě úložiště – v clusteru metra, další místo – s asynchronní replikací.
Historicky mnoho zákazníků vytvořilo „skladovací zoo“: hromadu úložných systémů od různých výrobců, různých modelů, různých generací, s různou funkčností. Počet hostitelů však může být působivý a často jsou virtualizováni. Za takových okolností je jednou z priorit administrace rychlé, jednotné a pohodlné poskytování logických disků hostitelům, nejlépe způsobem, který nezasahuje do toho, kde jsou tyto disky fyzicky umístěny. K tomu je určeno naše softwarové řešení OceanStor DJ, které dokáže jednomyslně spravovat různé úložné systémy a poskytovat z nich služby, aniž by bylo vázáno na konkrétní model úložiště.
Stejná AI
Jak již bylo zmíněno, OceanStor Dorado 18000 V6 má vestavěné procesory s algoritmy umělé inteligence – Ascend. Používají se za prvé k předvídání poruch a za druhé k vytváření doporučení pro ladění, což také zvyšuje výkon a spolehlivost úložiště.
Horizont predikce je dva měsíce: Mašinérie umělé inteligence předpokládá, co se s vysokou pravděpodobností během této doby stane, zda je čas na expanzi, změnu přístupových politik atd. Doporučení jsou vydávána s předstihem, což umožňuje plánovat okna pro údržbu systému dopředu času.
Další fází vývoje umělé inteligence od společnosti Huawei je přivést ji na globální úroveň. V průběhu servisní údržby – převzetí služeb při selhání nebo doporučení – Huawei agreguje informace z logovacích systémů ze všech úložišť našich zákazníků. Na základě shromážděných informací je provedena analýza vzniklých nebo potenciálních poruch a jsou vydána globální doporučení – nikoli na základě fungování jednoho konkrétního úložného systému nebo dokonce tuctu, ale na základě toho, co se děje a stalo s tisíci takových zařízení. Vzorek je obrovský a na jeho základě se algoritmy AI začínají učit extrémně rychle, a proto se přesnost předpovědí výrazně zvyšuje.
Kompatibilita
V letech 2019–2020 bylo mnoho narážek na interakci našeho zařízení s produkty VMware. Abychom je konečně zastavili, zodpovědně prohlašujeme: VMware je partnerem Huawei. Byly provedeny všechny myslitelné testy kompatibility našeho hardwaru s jeho softwarem a výsledkem je, že na webu VMware jsou v listu kompatibility hardwaru uvedeny aktuálně dostupné úložné systémy naší výroby bez jakýchkoli výhrad. Jinými slovy, se softwarovým prostředím VMware můžete úložiště Huawei včetně Dorado V6 využívat s plnou podporou.
Totéž platí pro naši spolupráci s Brocade. Pokračujeme v interakci a testování našich produktů z hlediska kompatibility a můžeme s jistotou prohlásit, že naše úložné systémy jsou plně kompatibilní s nejnovějšími přepínači Brocade FC.
Co bude dál?
Pokračujeme ve vývoji a zdokonalování našich procesorů: stávají se rychlejšími, spolehlivějšími, jejich výkon roste. Vylepšujeme také AI čipy – na jejich základě se vyrábí i moduly, které urychlují deduplikaci a kompresi. Ti, kteří mají přístup k našemu konfigurátoru, si mohli všimnout, že tyto karty jsou již k dispozici k objednání v modelech Dorado V6.
Směřujeme také k dalšímu ukládání do mezipaměti na Storage Class Memory – energeticky nezávislé paměti s obzvláště nízkou latencí, asi deset mikrosekund na čtení. SCM mimo jiné zvyšuje výkon, především při práci s velkými daty a při řešení úloh OLTP. Po příští aktualizaci by měly být karty SCM dostupné k objednání.
A samozřejmě se funkce přístupu k souborům rozšíří napříč celou řadou datových úložišť Huawei – sledujte naše aktualizace.
Zdroj: www.habr.com