Vi diskuterer i detaljer, hvad der gør OceanStor Dorado 18000 V6 til et virkelig avanceret opbevaringssystem med en anstændig reserve til de kommende år. Samtidig fjerner vi almindelig frygt for All-Flash-lagring og viser, hvordan Huawei presser mest muligt ud af dem: end-to-end NVMe, yderligere caching på SCM og en hel masse andre løsninger.
Nyt datalandskab - ny datalagring
Dataintensiteten er stigende i alle brancher. Og banksektoren er en klar illustration af dette. I løbet af de seneste år er antallet af bankforretninger steget mere end ti gange. Som viser , kun i Rusland i perioden fra 2010 til 2018 viste antallet af ikke-kontante transaktioner ved hjælp af plastikkort mere end en tredivedobling - fra 5,8 til 172 per person om året. Først og fremmest mikrobetalingernes triumf: De fleste af os er blevet relateret til netbank, og banken er nu lige ved hånden - på telefonen.
Et kreditinstituts it-infrastruktur skal være klar til en sådan udfordring. Og det er virkelig en udfordring. Blandt andet, hvis banken tidligere kun skulle sikre tilgængeligheden af data i åbningstiden, er den nu 24/7. Indtil for nylig blev 5 ms betragtet som en acceptabel latenshastighed, hvad så? Nu er selv 1 ms overkill. For et moderne lagersystem er målet 0,5 ms.
Det samme med pålidelighed: i 2010'erne blev der dannet en empirisk forståelse af, at det er nok at bringe dets niveau til "fem tiere" - 99,999%. Sandt nok er denne forståelse blevet forældet. I 2020 er det helt normalt, at en virksomhed kræver 99,9999% til opbevaring og 99,99999% for den overordnede arkitektur. Og dette er slet ikke et indfald, men et presserende behov: enten er der ikke noget tidsvindue til vedligeholdelse af infrastrukturen, eller også er det lille.
For klarhedens skyld er det praktisk at projicere disse indikatorer på pengeplanet. Den nemmeste måde er på eksemplet med finansielle institutioner. Diagrammet ovenfor viser, hvor meget hver af verdens top 10 banker tjener i timen. Alene for Industrial and Commercial Bank of China er det ikke mindre end 5 millioner dollars. Det er præcis, hvor meget en times nedetid af IT-infrastrukturen i den største kreditorganisation i Kina vil koste (og kun tabt fortjeneste tages i betragtning i regnestykket!). Fra dette perspektiv er det klart, at reduktionen af nedetid og stigningen i pålidelighed, ikke kun med nogle få procent, men endda med brøkdele af en procent, er fuldstændig rationelt begrundet. Ikke kun af hensyn til øget konkurrenceevne, men blot for at bevare markedspositionerne.
Der sker sammenlignelige ændringer i andre brancher. For eksempel inden for lufttransport: Før pandemien tog flyrejser kun fart fra år til år, og mange begyndte at bruge det næsten som en taxa. Hvad angår forbrugermønstre, har vanen med total tilgængelighed af tjenester slået rod i samfundet: Ved ankomst til lufthavnen skal vi oprette forbindelse til Wi-Fi, adgang til betalingstjenester, adgang til et kort over området osv. Som en Resultatet blev, at belastningen på infrastruktur og tjenester i det offentlige rum steg mange gange. Og disse tilgange til dens infrastruktur, byggeri, som vi anså for acceptable selv for et år siden, er hurtigt ved at blive forældede.
Er det for tidligt at skifte til All-Flash?
For at løse de ovenfor nævnte problemer, med hensyn til ydeevne, er AFA - all-flash arrays, det vil sige arrays fuldstændig bygget på flash - den bedste pasform. Medmindre der indtil for nylig var tvivl om, hvorvidt de er sammenlignelige i pålidelighed med dem, der er samlet på basis af HDD'er og hybride. Når alt kommer til alt, har solid-state flash-hukommelse en metrik kaldet middeltid mellem fejl eller MTBF (middeltid mellem fejl). Nedbrydning af celler på grund af I/O-operationer, desværre, er givet.
Så udsigterne for All-Flash blev overskygget af spørgsmålet om, hvordan man forhindrer tab af data i tilfælde af, at SSD'en beordrer til at leve i lang tid. Sikkerhedskopiering er en velkendt mulighed, kun genoprettelsestiden ville være uacceptabelt lang baseret på moderne krav. En anden udvej er at oprette et andet lagerniveau på spindeldrev, men med en sådan ordning går nogle af fordelene ved et "strengt flash"-system tabt.
Tallene siger dog noget andet: Statistikken fra den digitale økonomis giganter, herunder Google, i de senere år viser, at flash er flere gange mere pålideligt end harddiske. Desuden både i en kort periode og i en lang periode: I gennemsnit går der fire til seks år, før flashdrev fejler. Med hensyn til datalagringspålidelighed er de på ingen måde ringere end drev på spindelmagnetiske diske eller overgår dem endda.
Et andet traditionelt argument til fordel for spindeldrev er deres overkommelighed. Uden tvivl er omkostningerne ved at gemme en terabyte på en harddisk stadig relativt lave. Og hvis du kun tager højde for udgifterne til udstyr, er det billigere at beholde en terabyte på et spindeldrev end på en SSD. Men i forbindelse med økonomisk planlægning betyder det ikke kun, hvor meget en bestemt enhed blev købt, men også hvad de samlede omkostninger er ved at eje den i lang tid - fra tre til syv år.
Fra denne vinkel er det helt anderledes. Selvom vi ignorerer deduplikering og komprimering, som som regel bruges på flash-arrays og gør deres drift mere økonomisk rentabel, er der stadig karakteristika som rackplads optaget af medier, varmeafledning og strømforbrug. Og ifølge dem udkonkurrerer flushen sine forgængere. Som følge heraf er TCO for flash-lagringssystemer, under hensyntagen til alle parametre, ofte næsten halvt så meget som i tilfælde af arrays på spindeldrev eller hybrider.
Ifølge ESG-rapporter kan Dorado V6 All-Flash-lagringssystemer opnå en reduktion af ejerskabsomkostninger på op til 78 % over et femårigt interval, herunder gennem effektiv deduplikering og komprimering, og på grund af lavt strømforbrug og varmeafledning. Det tyske analysefirma DCIG anbefaler dem også til brug som de bedste med hensyn til TCO, der findes i dag.
Brugen af solid state-drev gør det muligt at spare brugbar plads, reducere antallet af fejl, reducere tiden til løsningsvedligeholdelse, reducere strømforbrug og varmeafledning af lagersystemer. Og det viser sig, at AFA i det mindste økonomisk kan sammenlignes med traditionelle arrays på spindeldrev, og ofte endda overgår dem.
Royal Flush fra Huawei
Blandt vores All-Flash opbevaringsrum tilhører topplaceringen det hi-end-system OceanStor Dorado 18000 V6. Og ikke kun blandt vores: Generelt, i branchen, har den hastighedsrekorden - op til 20 millioner IPOS i den maksimale konfiguration. Derudover er den ekstremt pålidelig: Selv hvis to controllere flyver på én gang, eller op til syv controllere efter hinanden, eller en hel motor på én gang, vil dataene overleve. Betydelige fordele ved "atten tusindedelen" gives af AI'en, der er tilsluttet den, herunder fleksibiliteten til at styre interne processer. Lad os se, hvordan dette opnås.
Huawei har i høj grad et forspring, fordi det er den eneste producent på markedet, der selv laver lagersystemer – helt og holdent. Vi har vores eget kredsløb, vores egen mikrokode, vores egen service.
Controlleren i OceanStor Dorado-systemer er bygget på en processor af Huaweis eget design og produktion - Kunpeng 920. Den bruger Intelligent Baseboard Management Controller (iBMC) kontrolmodulet, også vores. AI-chips, nemlig Ascend 310, der optimerer fejlforudsigelser og giver anbefalinger til indstillinger, er også Huawei, samt I/O-kort - Smart I/O-modulet. Endelig er controllerne i SSD'erne designet og fremstillet af os. Alt dette gav grundlaget for at lave en integreret afbalanceret og højtydende løsning.
I løbet af det seneste år har vi implementeret et projekt for at introducere dette, vores mest top-end lagersystem, i en af de største russiske banker. Som et resultat viser mere end 40 OceanStor Dorado 18000 V6-enheder i metroklyngen stabil ydeevne: Mere end en million IOPS kan fjernes fra hvert system, og dette tager højde for forsinkelser på grund af afstand.
End-to-End NVMe
Huaweis seneste lagersystemer understøtter end-to-end NVMe, hvilket vi understreger af en grund. De traditionelt brugte protokoller til at få adgang til drev blev udviklet i den grå IT-antik: de er baseret på SCSI-kommandoer (hej, 1980'erne!), som trækker en masse funktioner for at sikre bagudkompatibilitet. Uanset hvilken adgangsmetode du bruger, er protokoloverheaden i dette tilfælde kolossal. Som følge heraf kan I/O-forsinkelsen ikke være lavere end 0,4-0,5 ms for lager, der bruger protokoller bundet til SCSI. Til gengæld er NVMe - Non-Volatile Memory Express - en protokol designet til at arbejde med flash-hukommelse og befriet for krykker af hensyn til den berygtede bagudkompatibilitet, og desuden ikke på lagersystemet, men på 0,1 ms. hele stakken, fra vært til drev. Ikke overraskende er NVMe i tråd med udviklingstendenser for datalagring i en overskuelig fremtid. Vi stolede også på NVMe – og bevæger os gradvist væk fra SCSI. Alle Huawei-lagringssystemer, der produceres i dag, inklusive Dorado-linjen, understøtter NVMe (som end-to-end er det dog kun implementeret på de avancerede modeller af Dorado V6-serien).
FlashLink: En håndfuld teknologier
Hjørnestensteknologien for hele OceanStor Dorado-linjen er FlashLink. Mere præcist er det et udtryk, der kombinerer et integreret sæt af teknologier, der tjener til at sikre høj ydeevne og pålidelighed. Dette omfatter deduplikerings- og komprimeringsteknologier, funktionen af RAID 2.0+ datadistributionssystemet, adskillelsen af "kolde" og "varme" data, fuld-stribe sekventiel dataoptagelse (tilfældige skrivninger, med nye og ændrede data, aggregeres i en stor stak og skrevet sekventielt, hvilket øger læse-skrivehastigheden).
FlashLink indeholder blandt andet to vigtige komponenter - Wear Leveling og Global Garbage Collection. De bør behandles separat.
Faktisk er ethvert solid state-drev et lagringssystem i miniature, med et stort antal blokke og en controller, der sikrer datatilgængelighed. Og det leveres blandt andet på grund af, at data fra de "dræbte" celler overføres til de "ikke dræbte". Dette sikrer, at de kan læses. Der er forskellige algoritmer til en sådan overførsel. I det generelle tilfælde forsøger controlleren at balancere sliddet på alle lagerceller. Denne tilgang har en ulempe. Når data flyttes inde i SSD'en, reduceres antallet af I/O-operationer, den udfører, drastisk. For nu er det et nødvendigt onde.
Hvis der er mange SSD'er i systemet, vises der således en "sav" på præstationsgrafen med skarpe op- og nedture. Problemet er, at et drev fra poolen kan starte datamigrering til enhver tid, og den overordnede ydeevne fjernes på samme tid fra alle SSD'er i arrayet. Men Huaweis ingeniører fandt ud af, hvordan de kunne undgå "saven".
Heldigvis er både controllerne i drevene og lagercontrolleren og Huaweis firmware "native", disse processer i OceanStor Dorado 18000 V6 lanceres centralt, synkront på alle drev i arrayet. Desuden på kommando af lagercontrolleren, og netop når der ikke er nogen tung I/O-belastning.
Den kunstige intelligens-chip er også involveret i at vælge det rigtige tidspunkt til at overføre data: baseret på statistikken over hits for de foregående par måneder er den i stand til med størst sandsynlighed at forudsige, om den kan forvente aktiv I/O i den nærmeste fremtid, og hvis svaret er negativt, og belastningen på systemet i øjeblikket er lille, så kommanderer controlleren alle drev: De, der har brug for Wear Leveling, skal gøre det på én gang og synkront.
Plus, systemcontrolleren ser, hvad der sker i hver celle på drevet, i modsætning til lagersystemerne fra konkurrerende producenter: de er tvunget til at købe solid-state-medier fra tredjepartsleverandører, hvilket er grunden til, at celleniveaudetaljer ikke er tilgængelige for kontrollerne af sådanne lagre.
Som følge heraf har OceanStor Dorado 18000 V6 en meget kort periode med forringelse af ydeevnen på slidudjævningsoperationen, og den udføres hovedsageligt, når den ikke forstyrrer andre processer. Dette giver høj stabil ydeevne på en løbende basis.
Hvad gør OceanStor Dorado 18000 V6 pålidelig
Der er fire niveauer af pålidelighed i moderne datalagringssystemer:
- hardware på drevniveau;
- arkitektonisk på udstyrsniveau;
- arkitektonisk sammen med softwaredelen;
- kumulativ, relateret til løsningen som helhed.
Da, vi husker, vores virksomhed designer og fremstiller alle komponenterne i selve lagersystemet, leverer vi pålidelighed på hvert af de fire niveauer, med mulighed for grundigt at overvåge, hvad der sker ved hvilken af dem i øjeblikket.
Drivernes pålidelighed garanteres primært af den tidligere beskrevne Wear Leveling og Global Garbage Collection. Når en SSD ligner en sort boks for systemet, har den ingen idé om præcis, hvordan cellerne slides i det. For OceanStor Dorado 18000 V6 er drevene transparente, hvilket gør det muligt at balancere jævnt på tværs af alle drevene i arrayet. Således viser det sig at forlænge SSD'ens levetid betydeligt og sikre et højt niveau af pålidelighed af deres drift.
Drevets pålidelighed påvirkes også af yderligere redundante celler i det. Og sammen med en simpel reserve bruger lagersystemet de såkaldte DIF-celler, som indeholder kontrolsummer, samt yderligere koder til at beskytte hver blok mod en enkelt fejl, foruden beskyttelse på RAID-array-niveau.
Nøglen til arkitektonisk pålidelighed er SmartMatrix-løsningen. Kort fortalt er der tale om fire controllere, der sidder på et passivt backplane som en del af én motor (motor). To af disse motorer - henholdsvis med otte controllere - er forbundet til fælles hylder med drev. Takket være SmartMatrix forbliver der adgang til alle data, både til læsning og skrivning, selvom syv ud af otte controllere ophører med at fungere. Og med tab af seks ud af otte controllere vil det endda være muligt at fortsætte caching-operationer.
I/O-kort på det samme passive backplane er tilgængelige for alle controllere, både på frontend og på backend. Med sådan et fuldmasket forbindelsesskema, uanset hvad der fejler, er adgangen til drevene altid bevaret.
Det er mest hensigtsmæssigt at tale om pålideligheden af en arkitektur i sammenhæng med de fejltilstande, som lagersystemet er i stand til at beskytte mod.
Lageret vil overleve situationen uden tab, hvis to controllere "falder af", inklusive på samme tid. En sådan stabilitet opnås på grund af det faktum, at enhver cacheblok helt sikkert har to kopier mere på forskellige controllere, det vil sige, at den i alt findes i tre kopier. Og mindst én er på en anden motor. Selvom hele motoren holder op med at virke - med alle fire controllere - er det således garanteret, at al den information, der var i cachehukommelsen, bliver gemt, fordi cachen bliver duplikeret i mindst én controller fra den resterende motor. Endelig kan du med en seriel forbindelse miste op til syv controllere, og selvom de er elimineret i blokke af to, - og igen vil alle I/O og alle data fra cachen blive bevaret.
Sammenlignet med hi-end-lagring fra andre producenter, kan det ses, at kun Huawei giver fuld databeskyttelse og fuld tilgængelighed, selv efter at to controllere eller hele motoren er død. De fleste leverandører bruger et skema med såkaldte controller-par, som drev er tilsluttet. Desværre, i denne konfiguration, hvis to controllere fejler, er der risiko for at miste I/O-adgang til drevet.
Desværre er fejl i en enkelt komponent ikke objektivt udelukket. I dette tilfælde vil ydeevnen falde i nogen tid: det er nødvendigt, at stierne genopbygges, og adgangen til I/O-operationer genoptages med hensyn til de blokke, der enten kom til at skrive, men endnu ikke er skrevet, eller som blev anmodet om at blive læst. OceanStor Dorado 18000 V6 har en gennemsnitlig genopbygningstid på cirka et sekund, betydeligt mindre end den nærmeste analog i branchen (4 s). Dette opnås takket være det samme passive backplane: når controlleren fejler, ser resten straks dens input/output, og især hvilken datablok der ikke er skrevet til; som følge heraf opfanger den nærmeste controller processen. Derfor evnen til at genoprette ydeevnen på blot et sekund. Jeg må tilføje, intervallet er stabilt: et sekund for en controller, et andet for en anden osv.
I OceanStor Dorado 18000 V6 passive backplane er alle boards tilgængelige for alle controllere uden yderligere adressering. Det betyder, at enhver controller er i stand til at opfange I/O på enhver port. Uanset hvilken frontend port I/O kommer ind i, vil controlleren være klar til at behandle den. Derfor - det mindste antal interne overførsler og en mærkbar forenkling af balanceringen.
Frontend-balancering udføres ved hjælp af multipathing-driveren, og yderligere balancering udføres i selve systemet, da alle controllere ser alle I/O-porte.
Traditionelt er alle Huawei-arrays designet på en sådan måde, at de ikke har et eneste fejlpunkt. Hot swapping, uden at genstarte systemet, egner sig til alle dets komponenter: controllere, strømmoduler, kølemoduler, I/O-kort osv.
Øger pålideligheden af systemet som helhed og teknologi såsom RAID-TP. Dette er navnet på en RAID-gruppe, som giver dig mulighed for at forsikre dig mod samtidige fejl på op til tre drev. Og en genopbygning på 1 TB tager konsekvent mindre end 30 minutter. Det bedst registrerede resultat er otte gange hurtigere end med den samme mængde data på spindeldrevet. Det er således muligt at bruge ekstremt rummelige drev, f.eks. 7,68 eller endda 15 TB, og ikke bekymre dig om systemets pålidelighed.
Det er vigtigt, at genopbygningen ikke udføres i et reservedrev, men i et ledigt rum - en reservekapacitet. Hvert drev har dedikeret plads, der bruges til datagendannelse efter en fejl. Gendannelsen udføres således ikke i henhold til "mange til en"-ordningen, men efter "mange til mange"-ordningen, på grund af hvilken det er muligt at fremskynde processen betydeligt. Og så længe der er ledig kapacitet, kan genopretningen fortsætte.
Vi bør også nævne pålideligheden af en løsning fra flere lagerpladser – i en metroklynge, eller, med Huaweis terminologi, HyperMetro. Sådanne ordninger understøttes på hele modeludvalget af vores datalagringssystemer og tillader både fil- og blokadgang. Desuden fungerer den på en blok en både via Fibre Channel og Ethernet (inklusive via iSCSI).
I bund og grund taler vi om tovejsreplikering fra et lagersystem til et andet, hvor det replikerede LUN får samme LUN-ID som det primære. Teknologien virker primært på grund af konsistensen af caches fra to forskellige systemer. For værten er det således ligegyldigt, hvilken side den er på: både her og der ser den det samme logiske drev. Som et resultat forhindrer intet dig i at implementere en failover-klynge, der spænder over to steder.
Til kvorum bruges en fysisk eller virtuel Linux-maskine. Det kan være placeret på det tredje sted, og kravene til dets ressourcer er små. Et almindeligt scenarie er at leje et virtuelt websted udelukkende til hosting af en kvorum VM.
Teknologien tillader også udvidelse: to lagerpladser - i en metroklynge, et ekstra sted - med asynkron replikering.
Historisk set har mange kunder dannet en "opbevaringszoo": en flok opbevaringssystemer fra forskellige producenter, forskellige modeller, forskellige generationer, med forskellig funktionalitet. Antallet af værter kan dog være imponerende, og ofte er de virtualiserede. Under sådanne omstændigheder er en af prioriteterne for administration hurtigt, ensartet og bekvemt at levere logiske diske til værter, fortrinsvis på en måde, der ikke dykker ned i, hvor disse diske fysisk er placeret. Det er det, vores OceanStor DJ-softwareløsning er designet til, som enstemmigt kan administrere forskellige lagringssystemer og levere tjenester fra dem uden at være bundet til en specifik lagringsmodel.
Samme AI
Som allerede nævnt har OceanStor Dorado 18000 V6 indbyggede processorer med kunstig intelligens algoritmer - Ascend. De bruges for det første til at forudsige fejl, og for det andet til at danne anbefalinger til tuning, hvilket også øger lagringens ydeevne og pålidelighed.
Forudsigelseshorisonten er to måneder: AI-maskineri antager, hvad der med stor sandsynlighed vil ske i løbet af denne tid, er det tid til at udvide, ændre adgangspolitikker osv. Anbefalinger udsendes på forhånd, hvilket giver dig mulighed for at planlægge systemvedligeholdelsesvinduer i forvejen .
Den næste fase af AI-udvikling fra Huawei er at bringe den til det globale niveau. I løbet af servicevedligeholdelse - failover eller anbefalinger - samler Huawei oplysninger fra logsystemer fra alle vores kunders lager. Baseret på den indsamlede information udføres en analyse af de opståede eller potentielle fejl, og der gives globale anbefalinger - ikke baseret på funktionen af et bestemt lagersystem eller endda et dusin, men på hvad der sker og er sket med tusindvis af sådanne enheder. Prøven er enorm, og baseret på den begynder AI-algoritmer at lære ekstremt hurtigt, hvilket er grunden til, at nøjagtigheden af forudsigelser øges markant.
Kompatibilitet
I 2019-2020 var der mange insinuationer om samspillet mellem vores udstyr og VMware-produkter. For endelig at stoppe dem, erklærer vi ansvarligt: VMware er partner med Huawei. Alle tænkelige tests blev udført for kompatibiliteten af vores hardware med dens software, og som følge heraf viser hardwarekompatibilitetsarket på VMware-webstedet de aktuelt tilgængelige lagersystemer i vores produktion uden forbehold. Med andre ord kan du med VMware-softwaremiljøet bruge Huawei-lagring, inklusive Dorado V6, med fuld support.
Det samme gælder vores samarbejde med Brocade. Vi fortsætter med at interagere og teste vores produkter for kompatibilitet og kan trygt konstatere, at vores lagersystemer er fuldt ud kompatible med de nyeste Brocade FC-switche.
Hvad er det næste?
Vi fortsætter med at udvikle og forbedre vores processorer: de bliver hurtigere, mere pålidelige, deres ydeevne vokser. Vi forbedrer også AI-chips – baseret på dem produceres der også moduler, der fremskynder deduplikering og komprimering. De, der har adgang til vores konfigurator, har måske bemærket, at disse kort allerede er tilgængelige for bestilling i Dorado V6-modeller.
Vi bevæger os også mod yderligere caching på Storage Class Memory - ikke-flygtig hukommelse med særlig lav latenstid, omkring ti mikrosekunder pr. læsning. SCM giver blandt andet et performance-boost, primært ved arbejde med big data og ved løsning af OLTP-opgaver. Efter næste opdatering skulle SCM-kort blive tilgængelige for bestilling.
Og selvfølgelig vil filadgangsfunktionaliteten blive udvidet på tværs af hele udvalget af Huawei-datalagring - følg med for vores opdateringer.
Kilde: www.habr.com