Vi diskuterer i detalj hva som gjør OceanStor Dorado 18000 V6 til et virkelig avansert lagringssystem med en anstendig reserve for de kommende årene. Samtidig fjerner vi vanlig frykt for All-Flash-lagring og viser hvordan Huawei skviser mest mulig ut av dem: ende-til-ende NVMe, ekstra caching på SCM og en hel haug med andre løsninger.
Nytt datalandskap – ny datalagring
Dataintensiteten er på vei opp i alle bransjer. Og banksektoren er en tydelig illustrasjon på dette. I løpet av de siste årene har antall banktransaksjoner økt mer enn ti ganger. Som viser , bare i Russland i perioden fra 2010 til 2018 viste antall ikke-kontante transaksjoner med plastkort mer enn en tretti ganger økning - fra 5,8 til 172 per person per år. Først av alt, triumfen av mikrobetalinger: de fleste av oss har blitt knyttet til nettbank, og banken er nå til fingerspissene – på telefonen.
IT-infrastrukturen til en kredittinstitusjon må være klar for en slik utfordring. Og dette er virkelig en utfordring. Blant annet, hvis banken tidligere trengte å sikre tilgjengeligheten av data kun i åpningstidene, er den nå 24/7. Inntil nylig ble 5 ms ansett som en akseptabel ventetid, så hva? Nå er til og med 1 ms overkill. For et moderne lagringssystem er målet 0,5 ms.
Det samme med pålitelighet: på 2010-tallet ble det dannet en empirisk forståelse av at det er nok til å bringe nivået til "fem tiere" - 99,999%. Riktignok har denne forståelsen blitt foreldet. I 2020 er det helt normalt for en virksomhet å kreve 99,9999 % for lagring og 99,99999 % for den generelle arkitekturen. Og dette er ikke et innfall i det hele tatt, men et presserende behov: enten er det ikke noe tidsvindu for vedlikehold av infrastruktur, eller så er det lite.
For klarhetens skyld er det praktisk å projisere disse indikatorene på pengeplanet. Den enkleste måten er på eksemplet med finansinstitusjoner. Diagrammet over viser hvor mye hver av verdens 10 beste banker tjener per time. For Industrial and Commercial Bank of China alene er dette ikke mindre enn $5 mill. Dette er nøyaktig hvor mye en times nedetid av IT-infrastrukturen til den største kredittorganisasjonen i Kina vil koste (og kun tapt fortjeneste er tatt med i regnestykket!). Fra dette perspektivet er det klart at reduksjonen i nedetid og økningen i pålitelighet, ikke bare med noen få prosent, men også med brøkdeler av prosent, er helt rasjonelt begrunnet. Ikke bare av hensyn til å øke konkurranseevnen, men rett og slett for å opprettholde markedsposisjoner.
Det skjer tilsvarende endringer i andre bransjer. For eksempel innen lufttransport: Før pandemien tok flyreiser bare fart fra år til år, og mange begynte å bruke det nesten som en taxi. Når det gjelder forbrukermønstre, har vanen med total tilgjengelighet av tjenester slått rot i samfunnet: ved ankomst til flyplassen må vi koble til Wi-Fi, tilgang til betalingstjenester, tilgang til kart over området osv. Som en Resultatet ble at belastningen på infrastruktur og tjenester i offentlige rom økte mange ganger. Og disse tilnærmingene til dens infrastruktur, konstruksjon, som vi anså som akseptable selv for et år siden, begynner raskt å bli foreldet.
Er det for tidlig å bytte til All-Flash?
For å løse problemene nevnt ovenfor, når det gjelder ytelse, passer AFA – all-flash arrays, det vil si arrays fullstendig bygget på flash – best. Med mindre det inntil nylig var tvil om de er sammenlignbare i pålitelighet med de som er satt sammen på grunnlag av HDD-er og hybrider. Tross alt har solid-state flash-minne en beregning som kalles gjennomsnittlig tid mellom feil, eller MTBF (middeltid mellom feil). Nedbrytning av celler på grunn av I/O-operasjoner, dessverre, er gitt.
Så utsiktene for All-Flash ble overskygget av spørsmålet om hvordan man kan forhindre tap av data i tilfelle SSD-en beordrer å leve i lang tid. Sikkerhetskopiering er et kjent alternativ, bare gjenopprettingstiden vil være uakseptabelt lang basert på moderne krav. En annen utvei er å sette opp et andre lagringsnivå på spindelstasjoner, men med et slikt opplegg går noen av fordelene med et "strengt flash"-system tapt.
Imidlertid sier tallene noe annet: Statistikken til gigantene i den digitale økonomien, inkludert Google, de siste årene viser at flash er flere ganger mer pålitelig enn harddisker. Dessuten, både på kort tid og i en lang periode: i gjennomsnitt går det fire til seks år før flash-stasjoner svikter. Når det gjelder pålitelighet av datalagring, er de på ingen måte dårligere enn stasjoner på spindelmagnetiske disker, eller overgår dem til og med.
Et annet tradisjonelt argument i favør av spindeldrev er deres rimelige priser. Uten tvil er kostnaden for å lagre en terabyte på en harddisk fortsatt relativt lav. Og hvis du bare tar hensyn til kostnadene for utstyr, er det billigere å beholde en terabyte på en spindelstasjon enn på en SSD. I sammenheng med økonomisk planlegging spiller det imidlertid ingen rolle hvor mye en bestemt enhet ble kjøpt, men også hva som er den totale kostnaden ved å eie den i lang tid - fra tre til syv år.
Fra denne vinkelen er det helt annerledes. Selv om vi ignorerer deduplisering og komprimering, som som regel brukes på flash-arrays og gjør driften mer økonomisk lønnsom, er det fortsatt slike egenskaper som rackplass okkupert av media, varmespredning og strømforbruk. Og ifølge dem overgår flushen sine forgjengere. Som et resultat er TCO for flash-lagringssystemer, tatt i betraktning alle parametere, ofte nesten halvparten så mye som for arrays på spindeldrev eller hybrider.
I følge ESG-rapporter kan Dorado V6 All-Flash-lagringssystemer oppnå en eierkostnadsreduksjon på opptil 78 % over et femårsintervall, inkludert gjennom effektiv deduplisering og komprimering, og på grunn av lavt strømforbruk og varmespredning. Det tyske analyseselskapet DCIG anbefaler dem også for bruk som de beste når det gjelder TCO tilgjengelig i dag.
Bruken av solid state-stasjoner gjør det mulig å spare brukbar plass, redusere antall feil, redusere tiden for vedlikehold av løsningen, redusere strømforbruk og varmespredning av lagringssystemer. Og det viser seg at AFA i det minste er økonomisk sammenlignbar med tradisjonelle arrays på spindeldrev, og ofte til og med overgår dem.
Huawei Royal Flush
Blant våre All-Flash-lagringer tilhører toppplassen det hi-end-systemet OceanStor Dorado 18000 V6. Og ikke bare blant våre: Generelt, i bransjen, har den hastighetsrekorden - opptil 20 millioner IPOS i maksimal konfigurasjon. I tillegg er den ekstremt pålitelig: selv om to kontrollere flyr samtidig, eller opptil syv kontrollere etter hverandre, eller en hel motor på en gang, vil dataene overleve. Betydelige fordeler med "attentusendelen" er gitt av AI-en som er koblet til den, inkludert fleksibiliteten i å administrere interne prosesser. La oss se hvordan dette oppnås.
I stor grad har Huawei et forsprang fordi det er den eneste produsenten på markedet som lager lagringssystemer selv – helt og fullt. Vi har våre egne kretser, vår egen mikrokode, vår egen tjeneste.
Kontrolleren i OceanStor Dorado-systemer er bygget på en prosessor av Huaweis egen design og produksjon – Kunpeng 920. Den bruker kontrollmodulen Intelligent Baseboard Management Controller (iBMC), også vår. AI-brikker, nemlig Ascend 310, som optimerer feilprediksjoner og gir anbefalinger for innstillinger, er også Huawei, samt I/O-kort – Smart I/O-modulen. Til slutt er kontrollerene i SSD-ene designet og produsert av oss. Alt dette ga grunnlaget for å lage en integrert balansert og høyytelsesløsning.
I løpet av det siste året har vi implementert et prosjekt for å introdusere dette, vårt mest avanserte lagringssystem, i en av de største russiske bankene. Som et resultat viser mer enn 40 OceanStor Dorado 18000 V6-enheter i metroklyngen stabil ytelse: mer enn en million IOPS kan fjernes fra hvert system, og dette tar hensyn til forsinkelser på grunn av avstand.
End-to-end NVMe
Huaweis nyeste lagringssystemer støtter ende-til-ende NVMe, noe vi understreker av en grunn. De tradisjonelt brukte protokollene for tilgang til stasjoner ble utviklet i gammel IT-antikk: de er basert på SCSI-kommandoer (hei, 1980-tallet!), som trekker mange funksjoner for å sikre bakoverkompatibilitet. Uansett hvilken tilgangsmetode du bruker, er protokolloverheaden i dette tilfellet kolossal. Som et resultat, for lagringer som bruker protokoller knyttet til SCSI, kan I/O-forsinkelsen ikke være lavere enn 0,4–0,5 ms. I sin tur er NVMe – Non-Volatile Memory Express – en protokoll designet for å fungere med flash-minne og frigjort fra krykker av hensyn til den beryktede bakoverkompatibiliteten, og senker ventetiden til 0,1 ms, dessuten ikke på lagringssystemet, men på hele stabelen, fra vert til stasjoner. Ikke overraskende er NVMe i tråd med utviklingstrender for datalagring i overskuelig fremtid. Vi stolte også på NVMe – og beveger oss gradvis bort fra SCSI. Alle Huawei-lagringssystemer som produseres i dag, inkludert Dorado-linjen, støtter NVMe (som en ende-til-ende er den imidlertid implementert bare på de avanserte modellene i Dorado V6-serien).
FlashLink: A Fistful of Technologies
Hjørnesteinsteknologien for hele OceanStor Dorado-linjen er FlashLink. Mer presist er det et begrep som kombinerer et integrert sett med teknologier som tjener til å sikre høy ytelse og pålitelighet. Dette inkluderer deduplisering og komprimeringsteknologi, funksjonen til RAID 2.0+ datadistribusjonssystemet, separering av "kalde" og "varme" data, full-stripe sekvensiell dataregistrering (tilfeldig skriving, med nye og endrede data, er aggregert til en stor stabel og skrevet sekvensielt, noe som øker hastigheten på lese-skriving).
FlashLink inkluderer blant annet to viktige komponenter – Wear Leveling og Global Garbage Collection. De bør behandles separat.
Faktisk er enhver solid state-stasjon et lagringssystem i miniatyr, med et stort antall blokker og en kontroller som sikrer datatilgjengelighet. Og det gis blant annet på grunn av at dataene fra de "drepte" cellene overføres til de "ikke drepte". Dette sikrer at de kan leses. Det finnes ulike algoritmer for en slik overføring. I det generelle tilfellet prøver kontrolleren å balansere slitasjen på alle lagringscellene. Denne tilnærmingen har en ulempe. Når data flyttes inne i SSD-en, reduseres antallet I/O-operasjoner den utfører dramatisk. Foreløpig er det et nødvendig onde.
Derfor, hvis det er mange SSD-er i systemet, vises en "sag" på ytelsesgrafen, med skarpe opp- og nedturer. Problemet er at én stasjon fra bassenget kan starte datamigrering når som helst, og den generelle ytelsen fjernes samtidig fra alle SSD-er i arrayet. Men Huawei-ingeniører fant ut hvordan de kunne unngå "sagen".
Heldigvis er både kontrollerne i stasjonene og lagringskontrolleren, og fastvaren til Huawei "native", disse prosessene i OceanStor Dorado 18000 V6 lanseres sentralt, synkront på alle stasjoner i arrayet. Dessuten, på kommando av lagringskontrolleren, og nøyaktig når det ikke er noen tung I/O-belastning.
Den kunstige intelligensbrikken er også involvert i å velge riktig øyeblikk for å overføre data: basert på statistikken over treff for de foregående månedene, er den i stand til å forutsi med høyest sannsynlighet om den kan forvente aktiv I/O i nær fremtid, og hvis svaret er negativt, og belastningen på systemet for øyeblikket er liten, så kommanderer kontrolleren alle stasjoner: de som trenger Wear Leveling bør gjøre det på en gang og synkront.
I tillegg ser systemkontrolleren hva som skjer i hver celle på stasjonen, i motsetning til lagringssystemene til konkurrerende produsenter: de er tvunget til å kjøpe solid-state media fra tredjepartsleverandører, og det er grunnen til at cellenivådetaljer ikke er tilgjengelig for kontrollørene for slike lager.
Som et resultat har OceanStor Dorado 18000 V6 en svært kort periode med ytelsesforringelse på slitasjeutjevningsoperasjonen, og den utføres hovedsakelig når den ikke forstyrrer noen andre prosesser. Dette gir høy stabil ytelse på løpende basis.
Hva gjør OceanStor Dorado 18000 V6 pålitelig
Det er fire nivåer av pålitelighet i moderne datalagringssystemer:
- maskinvare, på stasjonsnivå;
- arkitektonisk, på utstyrsnivå;
- arkitektonisk sammen med programvaredelen;
- kumulativ, knyttet til løsningen som helhet.
Siden, vi husker, selskapet vårt designer og produserer alle komponentene i selve lagringssystemet, gir vi pålitelighet på hvert av de fire nivåene, med muligheten til å overvåke grundig hva som skjer på hvilken av dem for øyeblikket.
Påliteligheten til stasjonene garanteres først og fremst av den tidligere beskrevne slitasjeutjevningen og Global Garbage Collection. Når en SSD ser ut som en svart boks for systemet, har den ingen anelse om nøyaktig hvordan cellene slites ut i den. For OceanStor Dorado 18000 V6 er stasjonene transparente, noe som gjør det mulig å balansere jevnt over alle stasjonene i arrayet. Dermed viser det seg å forlenge levetiden til SSD-en betydelig og sikre et høyt nivå av pålitelighet av driften.
Også påliteligheten til stasjonen påvirkes av ekstra redundante celler i den. Og sammen med en enkel reserve, bruker lagringssystemet de såkalte DIF-cellene, som inneholder kontrollsummer, samt tilleggskoder for å beskytte hver blokk mot en enkelt feil, i tillegg til beskyttelse på RAID-arraynivå.
Nøkkelen til arkitektonisk pålitelighet er SmartMatrix-løsningen. Kort fortalt er dette fire kontrollere som sitter på et passivt bakplan som en del av én motor (motor). To av disse motorene – henholdsvis med åtte kontrollere – er koblet til felles hyller med drev. Takket være SmartMatrix, selv om syv av åtte kontrollere slutter å fungere, vil tilgang til alle data, både for lesing og skriving, forbli. Og med tap av seks av åtte kontrollere, vil det til og med være mulig å fortsette caching-operasjoner.
I/O-kort på samme passive bakplan er tilgjengelige for alle kontrollere, både på frontend og på backend. Med et slikt tilkoblingsskjema med full mesh, uansett hva som feiler, er tilgangen til stasjonene alltid bevart.
Det er mest hensiktsmessig å snakke om påliteligheten til en arkitektur i sammenheng med feilmodusene som lagringssystemet er i stand til å beskytte mot.
Lagringen vil overleve situasjonen uten tap hvis to kontrollere "faller av", inkludert samtidig. Slik stabilitet oppnås på grunn av det faktum at enhver cache-blokk sikkert har to kopier til på forskjellige kontrollere, det vil si at den totalt eksisterer i tre kopier. Og minst en er på en annen motor. Dermed, selv om hele motoren slutter å fungere - med alle fire kontrollerene - er det garantert at all informasjonen som var i cache-minnet vil bli lagret, fordi cachen vil bli duplisert i minst én kontroller fra den gjenværende motoren. Til slutt, med en seriell tilkobling, kan du miste opptil syv kontrollere, og selv om de blir eliminert i blokker på to, - og igjen, vil all I/O og alle data fra cachen bli bevart.
Sammenlignet med hi-end-lagring fra andre produsenter, kan det sees at bare Huawei gir full databeskyttelse og full tilgjengelighet selv etter at to kontrollere eller hele motoren er død. De fleste leverandører bruker et opplegg med såkalte kontrollerpar som stasjoner er koblet til. Dessverre, i denne konfigurasjonen, hvis to kontrollere svikter, er det en risiko for å miste I/O-tilgang til stasjonen.
Dessverre, svikt i en enkelt komponent er ikke objektivt utelukket. I dette tilfellet vil ytelsen synke en stund: det er nødvendig at banene bygges opp igjen og tilgang på I/O-operasjoner gjenopptas med hensyn til de blokkene som enten kom til å skrive, men som ennå ikke er skrevet, eller som ble bedt om å bli lest. OceanStor Dorado 18000 V6 har en gjennomsnittlig gjenoppbyggingstid på omtrent ett sekund, betydelig mindre enn den nærmeste analogen i bransjen (4 s). Dette oppnås takket være det samme passive bakplanet: når kontrolleren svikter, ser resten umiddelbart dens inngang / utgang, og spesielt hvilken datablokk som ikke er skrevet til; som et resultat, tar den nærmeste kontrolløren opp prosessen. Derav muligheten til å gjenopprette ytelsen på bare et sekund. Jeg må legge til, intervallet er stabilt: et sekund for en kontroller, et sekund for en annen, etc.
I det passive bakplanet OceanStor Dorado 18000 V6 er alle kort tilgjengelige for alle kontrollere uten ytterligere adressering. Dette betyr at en hvilken som helst kontroller er i stand til å plukke opp I/O på hvilken som helst port. Uansett hvilken frontend-port I/O kommer inn i, vil kontrolleren være klar til å behandle den. Derfor - minimum antall interne overføringer og en merkbar forenkling av balansering.
Frontend-balansering utføres ved hjelp av multipathing-driveren, og ytterligere balansering utføres i selve systemet, siden alle kontrollere ser alle I/O-porter.
Tradisjonelt er alle Huawei-arrays utformet på en slik måte at de ikke har et eneste feilpunkt. Hot swapping, uten å starte systemet på nytt, egner seg til alle komponentene: kontrollere, strømmoduler, kjølemoduler, I/O-kort, etc.
Øker påliteligheten til systemet som helhet og teknologi som RAID-TP. Dette er navnet på en RAID-gruppe, som lar deg forsikre deg mot samtidig feil på opptil tre stasjoner. Og en 1 TB ombygging tar konsekvent mindre enn 30 minutter. Det beste registrerte resultatet er åtte ganger raskere enn med samme mengde data på spindeldrevet. Dermed er det mulig å bruke ekstremt romslige stasjoner, for eksempel 7,68 eller til og med 15 TB, og ikke bekymre deg for påliteligheten til systemet.
Det er viktig at ombyggingen ikke utføres i en reservestasjon, men i en ledig plass - en reservekapasitet. Hver stasjon har dedikert plass som brukes til datagjenoppretting etter en feil. Dermed utføres gjenopprettingen ikke i henhold til "mange til en" -ordningen, men i henhold til "mange til mange" -ordningen, på grunn av dette er det mulig å fremskynde prosessen betydelig. Og så lenge det er ledig kapasitet, kan utvinningen fortsette.
Vi bør også nevne påliteligheten til en løsning fra flere lager – i en metroklynge, eller, med Huaweis terminologi, HyperMetro. Slike ordninger støttes på hele modellutvalget til våre datalagringssystemer og tillater både fil- og blokktilgang. Dessuten, på en blokk én, fungerer den både via Fibre Channel og Ethernet (inkludert via iSCSI).
I hovedsak snakker vi om toveis replikering fra ett lagringssystem til et annet, der den replikerte LUN-en får samme LUN-ID som den viktigste. Teknologien fungerer først og fremst på grunn av konsistensen av cacher fra to forskjellige systemer. For verten spiller det derfor ingen rolle hvilken side den er på: både her og der ser den den samme logiske stasjonen. Som et resultat hindrer ingenting deg i å distribuere en failover-klynge som spenner over to nettsteder.
For quorum brukes en fysisk eller virtuell Linux-maskin. Den kan ligge på det tredje stedet, og kravene til ressursene er små. Et vanlig scenario er å leie et virtuelt nettsted eksklusivt for å være vert for en quorum VM.
Teknologien tillater også utvidelse: to lagringer - i en metroklynge, et ekstra nettsted - med asynkron replikering.
Historisk sett har mange kunder dannet en "lagringszoo": en haug med lagringssystemer fra forskjellige produsenter, forskjellige modeller, forskjellige generasjoner, med ulik funksjonalitet. Imidlertid kan antallet verter være imponerende, og ofte er de virtualiserte. Under slike omstendigheter er en av prioriteringene for administrasjonen å raskt, jevnt og bekvemt gi logiske disker til verter, fortrinnsvis på en måte som ikke går inn i hvor disse diskene fysisk befinner seg. Det er det vår OceanStor DJ-programvareløsning er designet for, som enstemmig kan administrere ulike lagringssystemer og levere tjenester fra dem uten å være bundet til en spesifikk lagringsmodell.
Samme AI
Som allerede nevnt har OceanStor Dorado 18000 V6 innebygde prosessorer med kunstig intelligens-algoritmer - Ascend. De brukes for det første til å forutsi feil, og for det andre for å danne anbefalinger for tuning, som også øker ytelsen og påliteligheten til lagringen.
Forutsigelseshorisonten er to måneder: AI-maskineri antar hva som vil skje med høy sannsynlighet i løpet av denne tiden, om det er på tide å utvide, endre tilgangspolicyer osv. Anbefalinger utstedes på forhånd, som lar deg planlegge vinduer for systemvedlikehold fremover av tid.
Den neste fasen av AI-utviklingen fra Huawei er å bringe den til det globale nivået. I løpet av servicevedlikehold - failover eller anbefalinger - samler Huawei informasjon fra loggingssystemer fra alle våre kunders lagringer. Basert på den innsamlede informasjonen blir det utført en analyse av de oppståtte eller potensielle feilene, og globale anbefalinger blir gitt - ikke basert på funksjonen til ett spesifikt lagringssystem eller til og med et dusin, men på hva som skjer og har skjedd med tusenvis av slike enheter. Utvalget er enormt, og basert på det begynner AI-algoritmer å lære ekstremt raskt, og det er grunnen til at nøyaktigheten av spådommer øker betydelig.
Kompatibilitet
I 2019-2020 var det mange insinuasjoner om samspillet mellom utstyret vårt og VMware-produkter. For å endelig stoppe dem, erklærer vi ansvarlig: VMware er en partner av Huawei. Alle tenkelige tester ble utført for kompatibiliteten til maskinvaren vår med programvaren, og som et resultat, på VMware-nettstedet, viser maskinvarekompatibilitetsarket de tilgjengelige lagringssystemene for produksjonen vår uten forbehold. Med andre ord, med VMware-programvaremiljøet kan du bruke Huawei-lagring, inkludert Dorado V6, med full støtte.
Det samme gjelder vårt samarbeid med Brocade. Vi fortsetter å samhandle og teste produktene våre for kompatibilitet og kan trygt si at lagringssystemene våre er fullt kompatible med de nyeste Brocade FC-svitsjene.
Hva blir det neste?
Vi fortsetter å utvikle og forbedre prosessorene våre: de blir raskere, mer pålitelige, ytelsen øker. Vi forbedrer også AI-brikker – basert på dem produseres det også moduler som øker hastigheten på deduplisering og komprimering. De som har tilgang til vår konfigurator har kanskje lagt merke til at disse kortene allerede er tilgjengelige for bestilling i Dorado V6-modeller.
Vi beveger oss også mot ytterligere caching på Storage Class Memory - ikke-flyktig minne med spesielt lav latens, omtrent ti mikrosekunder per lesing. SCM gir blant annet et ytelsesløft, først og fremst ved arbeid med big data og ved løsning av OLTP-oppgaver. Etter neste oppdatering skal SCM-kort bli tilgjengelige for bestilling.
Og selvfølgelig vil filtilgangsfunksjonaliteten bli utvidet over hele spekteret av Huawei-datalagring - følg med for oppdateringene våre.
Kilde: www.habr.com