Dnes si povieme o tom, ako lepšie ukladať dáta vo svete, kde siete piatej generácie, genómové skenery a bezpilotné automobily generujú za deň viac údajov, než celé ľudstvo vytvorilo od priemyselnej revolúcie.
Náš svet generuje čoraz viac informácií. Niektorá z nich je dočasná a stráca sa rovnako rýchlo, ako sa zhromažďuje. Iné údaje by sa mali uchovávať dlhšie, a niektoré sú určené „na veky“ — aspoň tak to vyzerá z pohľadu súčasnosti. Toky informácií sa hromadia v dátových centrách takou rýchlosťou, že akýkoľvek nový prístup, akákoľvek technológia určená na uspokojenie tohto nekonečného „popytu“, rýchlo zastaráva.
40 rokov vývoja distribuovaných úložných systémov
Prvé sieťové úložiská v nám známej podobe sa objavili v 80. rokoch. Mnohí z vás sa stretli s NFS (Network File System), AFS (Andrew File System) alebo Coda. Po desaťročí sa móda a technológie zmenili, a distribuované súborové systémy ustúpili miestnym úložným systémom založeným na GPFS (General Parallel File System), CFS (Clustered File Systems) a StorNext. Ako základ sa používali blokové úložiská klasickej architektúry, na ktorých sa pomocou softvérovej vrstvy vytvoril jeden súborový systém. Tieto a podobné riešenia sa stále používajú, zaujímajú svoju niku a sú poptávané.
Na prelome milénia sa paradigma distribuovaných úložísk trochu zmenila a na popredné pozície sa dostali systémy s architektúrou SN (Shared-Nothing). Prešlo sa od klastrového ukladania k ukladaniu na samostatných uzloch, ktoré sú zvyčajne klasickými servermi zabezpečujúcimi spoľahlivé úložné softvéry; na takýchto princípoch sú postavené napríklad HDFS (Hadoop Distributed File System) a GFS (Global File System).
Kým sa priblížil rok 2010, koncepty zakorenené v distribuovaných systémoch ukladania sa čoraz častejšie premietali do plnohodnotných komerčných produktov, ako sú VMware vSAN, Dell EMC Isilon a náš . Za týmito platformami už nestojí len komunita nadšencov, ale konkrétni dodávatelia, ktorí zodpovedajú za funkčnosť, podporu, servis a zaručujú ďalší rozvoj produktu. Takéto riešenia sú najžiadanejšie v niekoľkých oblastiach.
Prevádzkovatelia komunikácie
Jednými z najstarších užívateľov distribuovaných systémov ukladania sú operátori telekomunikačných služieb. Na schéme je zobrazené, ktoré skupiny aplikácií produkujú hlavný objem dát. OSS (Systémy podpory operácií), MSS (Systémy podpory manažmentu) a BSS (Systémy podpory podnikania) predstavujú tri vzájomne sa doplňujúce softvérové vrstvy potrebné na poskytovanie služieb predplatiteľom, finančné vykazovanie providerovi a prevádzkovú podporu inžinierom operátora.
Často sú dáta týchto vrstiev medzi sebou silne premiešané, a aby sa predišlo hromadeniu zbytočných kópií, používajú sa práve distribuované úložiská, ktoré akumulujú celý objem informácií prichádzajúcich z fungujúcej siete. Úložiská sa zlúčia do spoločného poolu, ku ktorému sa obracajú všetky služby.
Naše výpočty ukazujú, že prechod z klasických úložných systémov na blokové môže ušetriť až 70% rozpočtu len tým, že sa upustí od vyhradených úložných systémov triedy hi-end a použijú sa bežné servery klasickej architektúry (zvyčajne x86), pracujúce v spojení so špecializovaným softvérom. Mobilní operátori už pomerne dávno začali tieto riešenia nakupovať vo veľkých objemoch. Mimochodom, ruskí operátori používajú takéto produkty od Huawei už viac ako šesť rokov.
Áno, niektoré úlohy s pomocou distribuovaných systémov sa nedajú splniť. Napríklad pri zvýšených požiadavkách na výkon alebo kompatibilitu so starými protokolmi. Ale najmenej 70% dát, ktoré operátor spracováva, sa celkom dá umiestniť do distribuovaného poolu.
Bankový sektor
V každej banke existuje množstvo rôznorodých IT systémov, počnúc spracovaním a končiac automatizovaným bankovým systémom. Táto infraštruktúra tiež pracuje s obrovským objemom informácií, pričom väčšina úloh si nevyžaduje zvýšený výkon a spoľahlivosť systémov ukladania, ako napríklad vývoj, testovanie, automatizácia kancelárskych procesov a podobne. Použitie klasických úložných systémov je tu možné, ale s každým rokom je to čoraz menej výhodné. Okrem toho v tomto prípade chýba flexibilita využívania zdrojov úložného systému, ktorého výkon sa počíta na základe vrcholového zaťaženia.
Pri používaní distribuovaných systémov ukladania môžu byť ich uzly, ktoré sú vlastne bežné servery, kedykoľvek konvertované, napríklad na serverovú farmu a použité ako výpočtová platforma.
Jazera dát
Na schéme vyššie je uvedený zoznam typických používateľov služieb . Môžu to byť služby elektronickej vlády (napríklad «Štátne služby»), ktoré prešli digitalizáciou podniku, finančné štruktúry a iné. Všetci potrebujú pracovať s veľkými objemami heterogénnych informácií.
Prevádzka klasických úložísk dát na riešenie takýchto úloh nie je efektívna, pretože je potrebný a vysoko výkonný prístup k blokovým databázam, ako aj bežný prístup k knižniciam skenovaných dokumentov uložených vo forme objektov. Sem môže byť pripojený napríklad systém objednávok cez webový portál. Aby sa to všetko realizovalo na platforme klasického úložiska dát, bude potrebný veľký súbor hardvéru na rôzne úlohy. Jedna horizontálna univerzálna systém ukladania môže pokryť všetky predtým uvedené úlohy: stačí vytvoriť v nej niekoľko zoskupení s rôznymi charakteristikami ukladania.
Generátory novej informácie
Množstvo informácií uložených vo svete rastie približne o 30 % ročne. To sú dobré správy pre dodávateľov systémov ukladania, ale čo je a bude hlavným zdrojom týchto údajov?
Pred desiatimi rokmi sa takými generátormi stali sociálne siete, čo si vyžiadalo vytvorenie veľkého množstva nových algoritmov, hardvérových riešení atď. Teraz sa vyzdvihujú tri hlavné faktory rastu objemov ukladania. Prvý je cloud computing. V súčasnosti približne 70 % spoločností tak alebo onak využíva cloudové služby. Môžu to byť elektronické poštové systémy, zálohy a iné virtualizované entity.
Druhým faktorom sa stávajú siete piatej generácie. To sú nové rýchlosti a nové objemy prenosu dát. Podľa našich predpovedí široké rozšírenie 5G povedie k poklesu dopytu po pamäťových kartách. Koľko pamäte by nebolo v telefóne, vždy sa minie, a pri existencii v zariadení 100-megabitového kanála nie je potrebné uchovávať fotografie lokálne.
K tretej skupine dôvodov, prečo rastie dopyt po systémoch ukladania, patrí prudký rozvoj umelej inteligencie, prechod na analýzu veľkých dát a trend na všeobecnú automatizáciu všetkého, čo len ide.
Špecifickosť „nového toku“ spočíva v jeho . Musíme uchovávať tieto dáta, bez toho, aby sme určovali ich formát. Ten je potrebný len pri následnom čítaní. Napríklad, banka, ktorá hodnotí vašu schopnosť získať úver, bude posudzovať vaše fotografie zverejnené na sociálnych sieťach, aby určila, ako často navštevujete more a reštaurácie, a zároveň bude analyzovať dostupné výpisy z vašich zdravotných dokumentov. Tieto dáta sú z jednej strany komplexné, a z druhej strany, postrádajú jednotnosť.
Oceán neštruktúrovaných dát
Aké problémy so sebou prináša objav „nových dát“? Najväčším z nich je samozrejme samotný objem informácií a výpočtové doby ich uchovávania. Moderné autonómne vozidlo bez vodiča každý deň generuje až 60 TB dát zo všetkých svojich senzorov a mechanizmov. Na vývoj nových algoritmov pohybu je potrebné tieto informácie spracovať v priebehu tých istých 24 hodín, inak sa začnú hromadiť. Musia sa pritom ukladať veľmi dlho — desiatky rokov. Iba tak bude možné v budúcnosti robiť závery na základe rozsiahlych analytických súborov.
Jedno zariadenie na dešifrovanie genetických sekvencií produkuje približne 6 TB denne. A dáta zozbierané jeho pomocou si v zásade ani nepredpokladajú vymazanie, to znamená, že hypoteticky by mali byť uchovávané navždy.
Nakoniec, rovnaké siete piatej generácie. Okrem samotnej prenášanej informácie predstavuje taká sieť aj obrovský generátor dát: záznamy akcií, záznamy hovorov, medzioperatívne výsledky interakcií a iné.
To všetko si vyžaduje vytvorenie nových prístupov a algoritmov na ukladanie a spracovanie informácií. A takéto prístupy sa objavujú.
Technológie novej éry
Môžeme vyčleniť tri skupiny riešení, ktoré sú navrhnuté na zvládnutie nových požiadaviek na systémy ukladania informácií: zavedenie umelej inteligencie, technická evolúcia dátových nosičov a inovácie v oblasti systémovej architektúry. Začneme s AI.
V nových riešeniach Huawei sa umelá inteligencia už používa na úrovni samotného úložiska, ktoré je vybavené AI procesorom, čo umožňuje systému samostatne analyzovať svoj stav a predpovedať poruchy. Ak sa úložné systémy pripoja k servisnému cloudu s významnými výpočtovými schopnosťami, umelá inteligencia dokáže spracovať viac informácií a zvýšiť presnosť svojich hypotéz.
Okrem porúch dokáže takáto umelá inteligencia predpovedať budúcu špičkovú záťaž a čas, ktorý zostáva do vyčerpania kapacity. To umožňuje optimalizovať výkon a škálovať systém ešte pred príchodom akýchkoľvek nežiaducich udalostí.
Teraz k evolúcii úložných médií. Prvé flash pamäte boli vyrobené technológiou SLC (Single-Level Cell). Zariadenia založené na tejto technológii boli rýchle, spoľahlivé, stabilné, ale mali malú kapacitu a boli veľmi drahé. Zvýšenie objemu a zníženie ceny sa podarilo dosiahnuť prostredníctvom určitých technických ústupkov, ktoré znížili rýchlosť, spoľahlivosť a životnosť úložísk. Napriek tomu trend neovplyvnil samotné úložné systémy, ktoré sa vďaka rôznym architektonickým vynálezom stali celkovo výkonnejšími a spoľahlivejšími.
Ale prečo boli potrebné úložné systémy triedy All-Flash? Nebolo by stačilo jednoducho vymeniť staré HDD v už prevádzkovanom systéme za nové SSD toho istého formátu? Potrebovali sa, aby sa efektívne využili všetky zdroje nových pevné diskov, čo v starých systémoch nebolo proste možné.
Spoločnosť Huawei napríklad na vyriešenie tejto úlohy vyvinula rad technológií, jednou z ktorých je , ktorá umožnila maximálne optimalizovať interakcie „disk – kontrolér“.
Inteligentná identifikácia umožnila rozdeliť dáta na niekoľko prúdov a vysporiadať sa s množstvom nežiaducich javov, ako je (write amplification). Spolu s tým nové algoritmy obnovy, konkrétne , zvýšili rýchlosť rebuildovania, skrátili jeho čas na úplne nepatrné hodnoty.
Porucha, preplnenosť, „garbage collection“ - tieto faktory už taktiež nemajú vplyv na výkon úložného systému vďaka špeciálnemu vylepšeniu kontrolérov.
A okrem toho sa blokové úložiská pripravujú na privítanie . Pripomeňme, že klasická schéma organizácie prístupu k dátam fungovala takto: procesor sa obracal na RAID ovládač cez zbernicu PCI Express. Ten potom interagoval s mechanickými diskami pomocou SCSI alebo SAS. Použitím NVMe na backendu sa celý proces výrazne zrýchlil, avšak mal jednu nevýhodu: úložiská museli mať priame pripojenie k procesoru, aby zabezpečili priamy prístup do pamäte.
Nasledujúcou fázou vývoja technológie, ktorú aktuálne sledujeme, je nasadenie NVMe-oF (NVMe over Fabrics). Pokiaľ ide o blokové technológie Huawei, už teraz podporujú FC-NVMe (NVMe over Fibre Channel), a NVMe over RoCE (RDMA over Converged Ethernet) je na dosah. Testovacie modely sú plne funkčné, oficiálnej prezentácie sa dočkáme za niekoľko mesiacov. Všimnime si, že toto všetko sa objaví aj v distribuovaných systémoch, kde bude „Ethernet bez strát“ veľmi žiadaný.
Ďalším spôsobom optimalizácie prevádzky distribuovaných úložísk je úplný vstup do zrkadlenia dát. Riešenia Huawei už viac nepoužívajú n kópií, ako v tradičnom RAID 1, a úplne prechádzajú na mechanizmus (Erasure coding). Špeciálny matematický balík s určitou periodicitou vypočítava kontrolné bloky, ktoré umožňujú obnoviť medzičasy v prípade ich straty.
Mechanizmy deduplikácie a kompresie sa stávajú povinnými. Ak sme v klasických SCSI obmedzení počtom procesorov inštalovaných v ovládačoch, tak v distribuovaných horizontálne škálovateľných úložných systémoch každý uzol obsahuje všetko potrebné: disky, pamäť, procesory a interkonekt. Tieto zdroje sú dostatočné na to, aby deduplikácia a kompresia mali minimálny vplyv na výkon.
A o hardvérových metódach optimalizácie. Tu sa podarilo znížiť záťaž na centrálnych procesoroch pomocou dodatočných dedikovaných čipov (alebo dedikovaných blokov v samotnom procesore), ktoré zohrávajú úlohu (TCP/IP Offload Engine) alebo preberajú matematické úlohy EC, deduplikáciu a kompresiu.
Nové prístupy k uchovávaniu dát sa manifestujú v dezeragovanej (distribuovanej) architektúre. V systémoch centralizovaného ukladania existuje továreň serverov pripojená prostredníctvom Fibre Channel k s veľkým množstvom polí. Nevýhodami takého prístupu sú ťažkosti so škálovaním a zabezpečením garantovanej úrovne služby (čo sa týka výkonu alebo latencie). Hyperkonvergované systémy používajú rovnaké hostiteľské systémy — ako na ukladanie, tak aj na spracovanie informácií. To poskytuje takmer neobmedzené možnosti škálovania, ale prináša vysoké náklady na udržanie integrity dát.
Na rozdiel od oboch vyššie uvedených, dezeragovaná architektúra predpokladá rozdelenie systému na výpočtovú továreň a horizontálny systém ukladania. To zabezpečuje výhody oboch architektúr a umožňuje prakticky neobmedzené škálovanie iba toho prvku, ktorého výkon chýba.
Od integrácie po konvergenciu
Klasickou úlohou, ktorej relevantnosť v posledných 15 rokoch iba narastala, je potreba súčasne zabezpečiť blokové ukladanie, súborový prístup, prístup k objektom, prevádzku farmy pre veľké dáta a pod. Čerešničkou na torte môže byť napríklad systém zálohovania na magnetickú pásku.
V prvom kroku sa podarilo unifikovať iba správu týchto služieb. Rôznorodé systémy ukladania dát boli viazané na nejaký špeciálny softvér, prostredníctvom ktorého správca rozdeľoval zdroje z dostupných fondov. Ale pretože hardvérovo boli tieto fondy rôzne, migrácia záťaže medzi nimi bola nemožná. Na vyššej úrovni integrácie sa spojenie uskutočnilo na úrovni brány. Pri existencii spoločného súborového prístupu ho bolo možné poskytovať prostredníctvom rôznych protokolov.
Najvyspelejšia z dostupných metód konvergencie predpokladá vytvorenie univerzálneho hybridného systému. Taký, akým by sa mala stať naša . Univerzálny prístup využíva tie isté hardvérové zdroje, logicky rozdelené na rôzne pooly, ale umožňuje migráciu záťaže. To všetko je možné uskutočniť prostredníctvom jedinej správy riadiacej konzoly. Takto sa nám podarilo realizovať koncept „jedno DC — jeden SDD“.
Náklady na uchovávanie informácií v súčasnosti určujú mnohé architektonické rozhodnutia. A hoci je možné ich bez obáv položiť na prvé miesto, dnes diskutujeme o „živom“ uložení s aktívnym prístupom, takže výkon je tiež potrebné zohľadniť. Ďalšou dôležitou vlastnosťou distribuovaných systémov novej generácie je unifikácia. Napokon, nikto nechce mať niekoľko roztrhnutých systémov riadených z rôznych konzol. Všetky tieto vlastnosti sa zišli v novej sérii produktov Huawei. .
Masívne SDD novej generácie
OceanStor Pacific spĺňa požiadavky na spoľahlivosť na úrovni „šiestich deviatok“ (99,9999%) a môže sa použiť na vytvorenie dátového centra triedy HyperMetro. Pri vzdialenosti medzi dvoma dátovými centrami do 100 km systémy vykazujú pridanú latenciu na úrovni 2 ms, čo umožňuje vytvárať na ich základe akékoľvek katastrofeodolné riešenia, vrátane tých s kvórum servermi.
Produkty novej série preukazujú univerzálnosť s protokolmi. Už teraz OceanStor 100D podporuje blokový prístup, objektový prístup a prístup Hadoop. Čoskoro bude implementovaný aj súborový prístup. Nie je potrebné uchovávať niekoľko kópií dát, ak je možné ich poskytovať prostredníctvom rôznych protokolov.
Na prvý pohľad, akú súvislosť má koncepcia „sieť bez strát“ so SDD? Ako to funguje, distribuované úložné systémy sú konštruované na základe rýchlej siete, ktorá podporuje príslušné algoritmy a mechanizmus RoCE. Dodatočne zvýšiť rýchlosť siete a znížiť latenciu pomáha systém umelej inteligencie, ktorý podporujú naše prepínače. . Zisk výkonu SDD pri aktivácii AI Fabric môže dosiahnuť 20%.
Aký je teda nový uzol distribuovanej SDD OceanStor Pacific? Riešenie formátu 5U obsahuje 120 úložných zariadení a môže nahradiť tri klasické uzly, čo poskytuje viac ako dvojnásobnú úsporu priestoru v racku. Vďaka zrušeniu uchovávania kópií sa účinnosť úložných zariadení výrazne zvyšuje (až o +92%).
Sme zvyknutí, že softvérovo definované úložné systémy sú špeciálny softvér inštalovaný na klasickom serveri. Ale teraz, aby sa dosiahli optimálne parametre, toto architektonické riešenie vyžaduje aj špeciálne uzly. Tieto uzly zahŕňajú dva servery založené na procesoroch ARM, ktoré spravujú zásobník trojdielnych úložných zariadení.
Tieto servery sú málo vhodné pre hyperkonvergentné riešenia. Po prvé, aplikácií pre ARM je relatívne málo a po druhé, je ťažké udržať vyváženie zaťaženia. Navrhujeme prejsť na oddelené ukladanie: výpočtový klaster, zastúpený klasickými alebo rackovými servermi, funguje samostatne, ale pripojuje sa k úložným uzlom OceanStor Pacific, ktoré tiež plnia svoje priame úlohy. A to sa ospravedlňuje.
Ako príklad si vezmime klasické riešenie pre ukladanie veľkých dát s hyperkonvergentným systémom, ktoré zaberá 15 serverových stojanov. Ak rozložíme zaťaženie medzi samostatné výpočtové servery a úložné uzly OceanStor Pacific, oddelené navzájom, počet potrebných stojanov sa zníži na polovicu! To znižuje náklady na prevádzku dátového centra a zmenšuje celkové náklady na vlastníctvo. V svete, kde sa objem uložených informácií zvyšuje o 30 % ročne, sa s takýmito výhodami neplytvá.
***
Viac informácií o riešeniach Huawei a scénároch ich použitia môžete získať na našom alebo kontaktovaním priamo zástupcov spoločnosti.
Zdroj: habr.com
