Hej alla. Som vi lovat fördjupar vi Habr-läsarna i detaljerna kring produktionen av ryska hårdvaruplattformar för Aerodisk Vostok-lagringssystem på Elbrus-processorer. I den här artikeln kommer vi att beskriva steg för steg produktionen av Yakhont-UVM E124-plattformen, som effektivt rymmer 5 skivor i 124 enheter, kan arbeta vid en temperatur på +30 grader Celsius, och samtidigt inte bara fungerar, utan fungerar väl.
Vi anordnar också ett webbseminarium den 05.06.2020/XNUMX/XNUMX, där vi kommer att prata i detalj om de tekniska nyanserna i produktionen av Vostok-lagringssystem och svara på eventuella frågor. Du kan anmäla dig till webinariet via länken:
Så, låt oss gå!
Innan jag dyker in i den process som organiseras nu, lite historisk bakgrund från två år sedan. När utvecklingen av plattformarna som beskrivs i den här artikeln började var förutsättningarna för deras produktion milt sagt obefintliga. Det finns skäl till detta, de är kända för alla: massproduktion (nämligen produktion, inte omlimning av klistermärken) av serverplattformar i Ryssland saknades som klass. Det fanns separata fabriker som kunde tillverka enskilda komponenter, men på ett mycket begränsat sätt och ofta baserade på föråldrad teknik. Därför var vi tvungna att börja praktiskt taget "från grunden" och samtidigt höja produktionen av serverlösningar i Ryssland till en kvalitativt ny nivå.
Så processen för varje produktion börjar med ett behov, som sedan omvandlas till allmänna krav. Sådana krav bildas initialt av utvecklarna av NORSI-TRANS i Nizhny Novgorod. Kraven tas naturligtvis inte ur luften, utan från kundernas behov. Detta är ännu inte en teknisk uppgift, som det av misstag kan verka. I stadiet av allmänna krav är det omöjligt att göra en fullfjädrad teknisk specifikation, eftersom det finns för många okända villkor för produktion.
Utveckling av en målmodell: från idé till genomförande
Efter att de allmänna kraven har utformats börjar valet av elementbasen. Av historisk information följer att elementbasen inte existerar, det vill säga den måste skapas.
För att göra detta sammanställs ett pilotprov från det som finns tillgängligt på den öppna marknaden, vilket åtminstone liknar målet. Därefter utförs standardtester av detta prov för att bestämma dess prestanda. Om allt är bra är nästa steg att utveckla målmodellen (2D och 3D).
Sedan börjar sökandet efter ryska företag som är redo att börja produktionen av denna pilot.Utvecklarna utför nödvändiga ändringar av var och en av produktens delar, baserat på kapaciteten hos ett visst företag.
Under designprocessen utförs nödvändiga ändringar av vart och ett av produktelementen. Till exempel, när man arbetade med prototypen, användes klassiska 12G SAS-expanderar med ett stort antal ledningar (mycket stort, med tanke på antalet diskar). Det är inte billigt, det är obekvämt för just den här plattformen, och dessutom är fiendens expanderare främmande. Men detta är en tillfällig lösning för att testa provet som helhet och gå vidare till nästa steg. Det är dock inte lämpligt att använda SAS expanders för den slutliga versionen på en specifik serverplattform.
Vi behöver inte fiendens expanders, vi kommer att göra vårt eget backplane med blackjack och sh...
Med hänsyn till framtida planer för produktionsvolymer (tusentals servrar) beslutades att för denna produkt (och naturligtvis för efterföljande) utveckla vårt eget SAS-bakplan, som är mycket mer funktionellt än en expander i förhållande till denna lösning . Designen och programmeringen av bakplanet utförs av samma team av utvecklare, och produktionen av korten utförs vid Microlit-fabriken i Moskva-regionen (vi lovar en separat artikel om denna anläggning och hur moderkort för Elbrus-processorer är tryckt där).
Här är förresten dess första prototyp, nu ser den helt annorlunda ut.
Och här programmerar de det
Ett intressant faktum: när utvecklingen av bakplanet började, och designerna vände sig till utvecklaren av SAS3-chippet för en referenskortdesign, visade det sig att inte ett enda företag i Europa visste hur man utvecklade sina egna bakplan. Tidigare fanns det ett Fujitsu-Siemens joint venture, men efter att Siemens Nixdorf Informations systeme AG lämnade joint venturet och den fullständiga nedläggningen av dataavdelningen på Siemens gick kompetensen på detta område i Europa förlorad.
Därför tog chiputvecklaren till en början inte omedelbart utvecklingen av NORSI-TRANS på allvar, vilket orsakade förseningar i utvecklingen av den slutliga designen. Det är sant att senare, när allvaret i NORSI-TRANS-företagets avsikter och kompetens blev uppenbart, och bakplanet utvecklades och trycktes, förändrades hans inställning till det bättre.
Hur kyler man 124 diskar och en server i 5 enheter och håller sig vid liv?
Det var ett separat uppdrag med mat och kylning. Faktum är att, baserat på kraven, måste E124-plattformen fungera vid en temperatur på 30 grader Celsius, och där, under en minut, 124 väluppvärmda mekaniska skivor i 5 enheter och dessutom ett moderkort med en processor (dvs. detta är ingen dum JBOD, utan en fullfjädrad lagringssystemkontroller med diskar).
För kylning (förutom de små fläktarna inuti) bestämde vi så småningom att använda tre ganska stora fläktar på baksidan av fodralet, var och en kan hot-swap. För normal drift av systemet räcker två (temperaturen ändras inte alls), så att du säkert kan planera arbetet med att byta fläktar och inte tänka på temperaturen. Om du stänger av två fläktar (till exempel, enligt elakhetens lag, medan den ena byttes ut, gick den andra sönder), så kan systemet med en fläkt också fungera normalt, men temperaturen kommer att öka med 10-20% procent, vilket är acceptabelt förutsatt att minst en till fläkt snart installeras.
Fläktarna (som nästan allt annat) visade sig också vara unika. Anledningen till det unika var en kostnad. Under vissa förhållanden kan det hända att fläktarna, istället för att suga luft, blåser hela höljet från insidan, kan börja suga in det, och sedan "farväl", det vill säga att plattformen snabbt överhettas. Därför, för att förhindra ett sådant problem, gjordes ändringar i fläktdesignen och vi lade till vår egen "know-how" - en backventil. Denna backventil tillåter lugnt att luft sugs ut från plattformen, men blockerar samtidigt själva möjligheten att i alla fall suga tillbaka luft.
Vid pilotstadiet av kylsystemet var det många fel, olika delar av systemet överhettades och brändes, men i slutändan lyckades plattformsutvecklarna uppnå bättre kylning än till och med världsberömda konkurrenter.
"Dieten kan inte överträdas."
Det var en liknande historia med strömförsörjning, d.v.s. de gjordes specifikt för den här plattformen och anledningen är banal. Varje enhet är mycket pengar, vilket är anledningen till att en så supertät plattform utvecklades och, om jag inte har fel (rätta i kommentarerna om jag har fel), är detta ett världsrekord hittills, eftersom Det finns inga servrar eller JBODs med ett stort antal diskar för 5 enheter ännu.
Således, för att ge ström till plattformen och samtidigt organisera möjligheten att byta ut strömförsörjningen i normalt läge, måste den totala effekten för de aktiva enheterna vara 4 kilowatt (naturligtvis finns det inga sådana lösningar på marknaden), så de gjordes på beställning med lanseringen av en produktionslinje för massproduktion (Låt mig påminna er om att det finns planer på tusentals sådana servrar).
Som en av plattformens huvuddesigners uttryckte det, "Strömmarna här är som i en svetsmaskin - det här är inte särskilt roligt :-)"
Under konstruktionen var det även möjligt att driva strömförsörjningen inte bara på 220V, utan även på 48V, d.v.s. inom OPC-arkitektur, vilket nu är mycket viktigt för teleoperatörer och stora datacenter.
Som ett resultat upprepar lösningen med strömförsörjning lösningens logik med kylning, plattformen kan bekvämt fungera med två strömförsörjningar, vilket gör det möjligt att utföra utbytesarbeten som vanligt. Om det i händelse av en olycka bara finns en strömförsörjningsenhet kvar av tre, kommer den att kunna dra ut plattformens arbete vid toppbelastning, men det är naturligtvis omöjligt att lämna plattformen i denna form under en lång tid.
Metall och plast: allt är inte så enkelt, visar det sig.
Det finns många nyanser i plattformsutvecklingsprocessen. En liknande situation inträffade inte bara med elektroniska komponenter (stigare, bakplan, moderkort, etc.), utan också med vanlig metall och plast: till exempel med höljet, skenor och till och med skivvagnar.
Det verkar som att det inte borde finnas några problem med kroppen och andra mindre intelligenta delar av plattformen. Men i praktiken är allt annorlunda. När plattformsutvecklarna först kontaktade olika ryska fabriker med produktionsbehov visade det sig att de flesta av dem arbetade med ganska omoderna metoder, vilket i slutändan påverkade både kvaliteten och kvantiteten på produkterna.
De första resultaten av produktionen av ärenden blev en bekräftelse på detta. Felaktig geometri, grova svetsar, felaktiga hål och liknande kostnader gjorde produkten olämplig att använda.
De flesta av de fabriker som kunde göra servercase fungerade då (låt mig påminna dig om att med "då" menar vi för 2 år sedan) "på gammaldags sätt", det vill säga de producerade en massa designdokumentation, i enlighet med vilken operatören manuellt justerade driften av maskinerna, även ofta istället för nitar användes metallsvetsning. Som ett resultat bar den låga graden av automatisering, den mänskliga faktorn och överdriven byråkratisering av produktionen frukt. Det blev långt, dåligt och dyrt.
Vi måste hylla fabrikerna: många av dem har kraftigt moderniserat sin produktion sedan dess. Vi förbättrade svetskvaliteten, behärskade nitning och började också ofta använda datornumeriska styrmaskiner (CNC). Nu, istället för massor av dokument, laddas produktdata direkt från 3D- och 2D-modeller till CNC:n.
CNC reducerar maskinoperatörens inblandning i tillverkningsprocessen av produkten till ett minimum, så att den mänskliga faktorn inte längre stör livet. Operatörens huvudsakliga angelägenhet är främst de förberedande och slutliga operationerna: installation och borttagning av produkten, inställning av verktyg etc.
När nya delar dyker upp stannar inte produktionen längre, för att producera dem räcker det med att göra ändringar i CNC-mjukvaran. Därför har produktionstiden för delar till nya projekt på fabriker minskat från månader till veckor, vilket är goda nyheter. Och precisionen har förstås också ökat rejält.
Moderkort och processor: inga problem
Processorer och moderkort kommer som ett set från fabrik. Denna produktion är redan ganska väletablerad, så NORSI utför standard ingångskontroll och outputkontroll på nivå med färdiga plattformar.
Varje uppsättning moderkort och processor testas med programvara erhållen från MCST.
Vid vissa problem (tack och lov, det är väldigt få av dem med moderkortet och processorn) finns det en väl fungerande kedja av att returnera moduler till tillverkaren och byta ut dem.
Montering och slutkontroll
För att vår balalaika ska börja spela återstår bara att montera och testa den. Nu är produktionen igång, systemet monteras på ett standard sätt i Moskva.
Varje system kommer med start-SSD:er (för operativsystemet) och fulla spindlar (för framtida data).
Efter detta börjar inmatningstestning av både själva plattformen och de diskar som är installerade på den. För att göra detta laddas alla diskar i systemet med autotester i minst en timme.
Automatisk läsning och skrivning utförs på varje skiva och registrerar läshastigheten, skrivhastigheten och temperaturen för varje skiva. I normalt läge bör medeltemperaturen ligga runt 30-35 grader Celsius. Vid toppar kan varje enskild skiva "studsa" upp till 40 grader. Om temperaturen blir högre eller hastigheten sjunker under läs- och skrivtröskelvärdena, blir skivan röd och misslyckas med att avvisas. Komponenterna som klarat testerna paketeras för vidare användning.
Slutsats
Det finns en myt som aktivt stöds av olika siffror att "i Ryssland vet de inte hur man gör något annat än att pumpa olja." Tyvärr äter denna myt sig i huvudet på även respekterade och intelligenta människor.
Nyligen hände en anmärkningsvärd historia för en kollega till mig. Han körde från en av displayerna i Vostoks lagringssystem och detta lagringssystem låg i bagageutrymmet på hans bil (inte E124, naturligtvis, det är enklare). På vägen fångade han en av kundens representanter (en mycket viktig person, arbetar i en hög position i en av de statliga myndigheterna), och i bilen hade de ungefär följande konversation:
Min kollega: "Vi visade precis lagringssystemet på Elbrus, resultaten var bra, alla var nöjda, förresten, detta lagringssystem kommer också att vara användbart för din bransch"
Kund: "Jag vet att du har lagringssystem, men vilken typ av Elbrus pratar du om?"
Min kollega: "Tja... den ryska processorn Elbrus, de släppte nyligen 8, när det gäller prestanda för lagringssystem, vi gjorde därför en ny linje av lagringssystem på den, kallad Vostok"
Kund: "Elbrus är ett berg! Och säg inte sagor om den ryska processorn i det artiga samhället, allt detta görs bara för att absorbera budgetar, i verkligheten finns det ingenting och ingenting kommer att hända."
Min kollega: "I form av? Är det okej att just detta lagringssystem finns i min bagageutrymme? Låt oss sluta nu, jag ska visa dig!"
Kund: "Det är bra att lida av nonsens, låt oss gå vidare, det finns inga "ryska lagringssystem" - detta är i princip omöjligt"
I det ögonblicket ville den viktiga personen inte höra något mer om Elbrus. Naturligtvis, senare, när han klargjorde informationen, erkände han att han hade fel, men ända till slutet trodde han inte på sanningshalten i denna information.
Faktum är att efter Sovjetunionens kollaps slutade vårt land faktiskt i utvecklingen av mikroelektronikproduktion. Något exporterades och stals till förmån för transnationella företag, något stals av det lokala privatiseringsföretaget, något investerades förstås, men främst till förmån för samma transnationella företag. Trädet höggs ner, men roten fanns kvar.
Efter nästan 30 år av illusioner om ämnet "Västlandet kommer att hjälpa oss" har det blivit uppenbart för nästan alla att vi bara kan hjälpa oss själva, så vi måste återställa vår produktion inte bara inom mikroelektronikområdet, utan inom alla industrier .
För tillfället, i samband med en global pandemi i en situation där transnationella produktionskedjor faktiskt har stannat, står det redan klart att återupprättandet av lokal produktion inte längre är en utveckling av budgetar, utan ett villkor för Rysslands överlevnad som en självständig stat.
Därför kommer vi att fortsätta leta efter och använda rysk utrustning i livet och berätta om vad våra företag faktiskt gör, vilka problem de möter och vilka enorma ansträngningar de gör för att lösa dem.
Det är ganska svårt att prata om alla aspekter av produktion i en artikel, så som en bonus kommer vi att organisera en onlinediskussion i webinarformat om detta ämne. På detta webbseminarium kommer vi att prata i detalj och i levande färger om de tekniska aspekterna av produktionen av Yakhont-plattformar för Vostok-lagringssystem och kommer att svara på alla, även de mest knepiga, frågor online.
Vår samtalspartner kommer att vara en representant för plattformsutvecklaren, företaget NORSI-TRANS. Webinariet kommer att äga rum den 05.06.2020/XNUMX/XNUMX; de som vill delta kan registrera sig via länken: .
Tack alla, som alltid, vi ser fram emot konstruktiva kommentarer.
Källa: will.com