Ahojte všetci. Ako sme sľúbili, ponárame čitateľov Habr do detailov výroby ruských hardvérových platforiem pre úložné systémy Aerodisk Vostok na procesoroch Elbrus. V tomto článku popíšeme krok za krokom výrobu platformy Yakhont-UVM E124, ktorá efektívne pojme 5 diskov v 124 jednotkách, dokáže pracovať pri teplote +30 stupňov Celzia a zároveň nielen funguje, ale funguje dobre.
Dňa 05.06.2020 organizujeme aj webinár, kde sa podrobne porozprávame o technických nuansách výroby úložného systému Vostok a odpovieme na akékoľvek otázky. Na webinár sa môžete zaregistrovať pomocou odkazu:
Takže poďme!
Predtým, ako sa ponoríme do procesu, ktorý sa organizuje teraz, trochu historického pozadia spred dvoch rokov. V čase, keď sa začal vývoj platforiem opísaných v tomto článku, podmienky na ich výrobu, mierne povedané, neexistovali. Existujú na to dôvody, sú známe každému: hromadná výroba (konkrétne výroba, nie opätovné lepenie nálepiek) serverových platforiem v Rusku ako trieda chýbala. Existovali samostatné továrne, ktoré mohli vyrábať jednotlivé komponenty, ale veľmi obmedzene a často na základe zastaraných technológií. Preto sme museli začať prakticky „od nuly“ a zároveň pozdvihnúť výrobu serverových riešení v Rusku na kvalitatívne novú úroveň.
Proces akejkoľvek výroby teda začína potrebou, ktorá sa potom pretaví do všeobecných požiadaviek. Takéto požiadavky spočiatku tvoria vývojári NORSI-TRANS v Nižnom Novgorode. Požiadavky, samozrejme, nevychádzajú zo vzduchu, ale z potrieb zákazníkov. Toto ešte nie je technická úloha, ako sa môže mylne zdať. V štádiu všeobecných požiadaviek nie je možné vytvoriť plnohodnotnú technickú špecifikáciu, pretože existuje príliš veľa neznámych podmienok na výrobu.
Vývoj cieľového modelu: od nápadu po realizáciu
Po vytvorení všeobecných požiadaviek sa začína výber základne prvkov. Z historických informácií vyplýva, že základňa prvkov neexistuje, to znamená, že musí byť vytvorená.
Na tento účel sa z toho, čo je k dispozícii na voľnom trhu, zostaví pilotná vzorka, ktorá sa aspoň trochu podobá cieľovej vzorke. Ďalej sa vykonajú štandardné testy tejto vzorky, aby sa určila jej výkonnosť. Ak je všetko v poriadku, ďalším krokom je vývoj cieľového modelu (2D a 3D).
Potom sa začne hľadať ruské podniky, ktoré sú pripravené začať s výrobou tohto pilota.Vývojári vykonajú potrebné úpravy každého prvku produktu na základe možností konkrétneho podniku.
Počas procesu návrhu sa vykonajú potrebné úpravy každého prvku produktu. Napríklad pri práci s prototypom boli použité klasické 12G SAS expandéry s veľkým počtom vodičov (veľmi veľké, vzhľadom na počet diskov). Nie je to lacné, pre túto konkrétnu platformu je to nepohodlné a okrem toho sú nepriateľské expandéry cudzie. Toto je však dočasné riešenie na testovanie vzorky ako celku a prechod do ďalšej fázy. Nie je však vhodné používať expandéry SAS pre finálnu verziu na konkrétnej serverovej platforme.
Nepotrebujeme nepriateľské expandéry, vyrobíme si vlastný backplane s blackjackom a...
S prihliadnutím na budúce plány na objemy výroby (tisíce serverov) bolo rozhodnuté vyvinúť pre tento produkt (a samozrejme aj pre nasledujúce) vlastný backplane SAS, ktorý je vo vzťahu k tomuto riešeniu oveľa funkčnejší ako expandér. . Dizajn a programovanie základnej dosky vykonáva rovnaký tím vývojárov a výroba dosiek prebieha v závode Microlit v moskovskom regióne (sľubujeme samostatný článok o tomto závode a o tom, ako sú základné dosky pre procesory Elbrus tam vytlačené).
Mimochodom, tu je jeho prvý prototyp, teraz vyzerá úplne inak.
A tu to programujú
Zaujímavý fakt: keď sa začal vývoj backplane a dizajnéri sa obrátili na vývojára čipu SAS3 so žiadosťou o návrh referenčnej dosky, ukázalo sa, že ani jedna spoločnosť v Európe nevedela, ako vyvinúť svoje vlastné backplane. Predtým existoval spoločný podnik Fujitsu-Siemens, ale po odchode Siemens Nixdorf Information systeme AG zo spoločného podniku a úplnom zatvorení počítačového oddelenia v Siemense sa kompetencia v tejto oblasti v Európe stratila.
Vývojár čipu preto spočiatku nebral vývoj NORSI-TRANS vážne, čo spôsobilo oneskorenie vo vývoji konečného dizajnu. Pravda, neskôr, keď sa prejavila vážnosť zámerov a kompetencie firmy NORSI-TRANS a bola vyvinutá a vytlačená backplane, jeho postoj sa zmenil k lepšiemu.
Ako ochladiť 124 diskov a server v 5 jednotkách a zostať nažive?
Bol tam samostatný quest s jedlom a chladením. Faktom je, že na základe požiadaviek musí platforma E124 pracovať pri teplote 30 stupňov Celzia a tam je minútu 124 dobre vyhrievaných mechanických diskov v 5 jednotkách a navyše základná doska s procesorom (t.j. toto nie je hlúpy JBOD, ale plnohodnotný radič úložného systému s diskami).
Na chladenie (okrem malých ventilátorov vo vnútri) sme sa nakoniec rozhodli použiť tri pomerne veľké ventilátory v zadnej časti skrine, pričom každý z nich je vymeniteľný za chodu. Pre bežnú prevádzku systému stačia dva (teplota sa vôbec nemení), takže si môžete pokojne naplánovať prácu výmeny ventilátorov a nemyslieť na teplotu. Ak vypnete dva ventilátory (napríklad podľa zákona podlosti, keď sa jeden vymieňal, druhý sa pokazil), potom s jedným ventilátorom môže systém fungovať aj normálne, ale teplota sa zvýši o 10-20% percent, čo je prijateľné za predpokladu, že sa čoskoro nainštaluje aspoň jeden ďalší ventilátor.
Aj fanúšikovia (ako takmer všetko ostatné) sa ukázali ako jedineční. Dôvodom jedinečnosti bola jedna cena. Za určitých podmienok sa môže stať, že ventilátory namiesto nasávania vzduchu, prefukovania celého puzdra zvnútra, ho môžu začať nasávať a potom „zbohom“, teda platforma sa rýchlo prehreje. Preto, aby sme predišli takýmto problémom, boli vykonané zmeny v konštrukcii ventilátora a pridali sme vlastné „know-how“ - spätný ventil. Tento spätný ventil pokojne umožňuje odsávanie vzduchu z plošiny, no zároveň v každom prípade blokuje samotnú možnosť nasávania vzduchu späť.
V štádiu pilotovania chladiaceho systému došlo k mnohým poruchám, rôzne prvky systému sa prehriali a spálili, ale nakoniec sa vývojárom platformy podarilo dosiahnuť lepšie chladenie ako aj u svetoznámych konkurentov.
"Diéta nemôže byť porušená."
Podobný príbeh bol aj s napájacími zdrojmi, t.j. boli vyrobené špeciálne pre túto platformu a dôvod je banálny. Každá jednotka je veľa peňazí, a preto bola vyvinutá taká superhustá platforma a ak sa nemýlim (ak sa mýlim, opravte v komentároch), je to zatiaľ svetový rekord, pretože Zatiaľ neexistujú žiadne servery alebo JBOD s veľkým počtom diskov pre 5 jednotiek.
Na zabezpečenie napájania platformy a zároveň zorganizovanie možnosti výmeny napájacieho zdroja v normálnom režime teda musel byť celkový výkon aktívnych jednotiek 4 kilowatty (samozrejme, takéto riešenia na trhu), takže boli vyrobené na zákazku so spustením výrobnej linky pre sériovú výrobu (Pripomínam, že sa plánujú tisíce takýchto serverov).
Ako povedal jeden z hlavných dizajnérov platformy: „Prúdy sú tu ako vo zváračke – to nie je veľká zábava :-)“
Pri návrhu bolo tiež možné prevádzkovať zdroj nielen na 220V, ale aj na 48V, t.j. v architektúre OPC, ktorá je v súčasnosti veľmi dôležitá pre telekomunikačných operátorov a veľké dátové centrá.
Výsledkom je, že riešenie s napájaním opakuje logiku riešenia s chladením, platforma môže pohodlne fungovať s dvoma zdrojmi, čo umožňuje vykonávať výmenné práce ako obvykle. Ak v prípade nehody zostane z troch iba jeden napájací zdroj, bude schopný vytiahnuť prácu plošiny pri špičkovom zaťažení, ale, samozrejme, nie je možné ponechať plošinu v tejto podobe. na dlhú dobu.
Kov a plast: Ukazuje sa, že nie všetko je také jednoduché.
V procese vývoja platformy existuje veľa nuancií. Podobná situácia nastala nielen pri elektronických súčiastkach (stúpačky, backplane, základné dosky a pod.), ale aj pri bežných kovom a plastoch: napríklad pri skrinke, koľajničkách a dokonca aj pri vozíkoch na disky.
Zdalo by sa, že s karosériou a ďalšími menej inteligentnými prvkami platformy by nemali byť žiadne problémy. V praxi je však všetko inak. Keď vývojári platformy prvýkrát oslovili rôzne ruské továrne s výrobnými potrebami, ukázalo sa, že väčšina z nich pracovala skôr nemodernými metódami, čo v konečnom dôsledku ovplyvnilo kvalitu aj kvantitu produktov.
Potvrdením toho sa stali prvé výsledky výroby puzdier. Nesprávna geometria, hrubé zvary, nepresné otvory a podobné náklady spôsobili, že výrobok nie je vhodný na použitie.
Väčšina tovární, ktoré dokázali vyrobiť serverové skrine, vtedy fungovala (pripomínam, že „vtedy“ máme na mysli pred 2 rokmi) „staromódnym spôsobom“, to znamená, že vyrábali množstvo projektovej dokumentácie, podľa ktorej obsluha ručne nastavovala chod strojov, tiež sa často namiesto nitov používalo zváranie kovov. Nízka miera automatizácie, ľudský faktor a prílišná byrokratizácia výroby tak priniesli svoje ovocie. Ukázalo sa to dlhé, zlé a drahé.
Musíme vzdať hold továrňam: mnohé z nich odvtedy výrazne zmodernizovali svoju výrobu. Zlepšili sme kvalitu zvárania, zvládli nitovanie a tiež sme často začali používať stroje s počítačovým numerickým riadením (CNC). Teraz sa namiesto tony dokumentov načítavajú produktové dáta priamo z 3D a 2D modelov do CNC.
CNC znižuje zásahy obsluhy stroja do výrobného procesu produktu na minimum, takže ľudský faktor už nezasahuje do života. Hlavnou starosťou operátora sú najmä prípravné a záverečné operácie: inštalácia a demontáž produktu, nastavenie nástrojov atď.
Keď sa objavia nové diely, výroba sa už nezastaví, na ich výrobu stačí vykonať zmeny v CNC softvéri. V súlade s tým sa čas výroby dielov pre nové projekty v továrňach skrátil z mesiacov na týždne, čo je dobrá správa. A samozrejme sa výrazne zvýšila aj presnosť.
Základné dosky a procesor: žiadny problém
Procesory a základné dosky prichádzajú ako komplet z výroby. Táto výroba je už pomerne dobre zabehnutá, preto NORSI vykonáva štandardnú vstupnú kontrolu a výstupnú kontrolu na úrovni hotových plošín.
Každá súprava základnej dosky a procesora je testovaná pomocou softvéru získaného od MCST.
V prípade určitých problémov (chvalabohu, že ich je so základnou doskou a procesorom veľmi málo) funguje dobre fungujúci reťazec vrátenia modulov výrobcovi a ich výmeny.
Montáž a konečná kontrola
Aby naša balalajka mohla začať hrať, zostáva ju už len zložiť a otestovať. Teraz je výroba v prúde, systém sa montuje štandardným spôsobom v Moskve.
Každý systém je dodávaný so zavádzacími SSD (pre OS) a úplnými vretenami (pre budúce dáta).
Potom sa začne vstupné testovanie samotnej platformy a diskov nainštalovaných na nej. Za týmto účelom sa všetky disky v systéme načítajú automatickými testami aspoň na hodinu.
Na každom disku sa vykonáva automatické čítanie a zápis, pričom sa zaznamenáva rýchlosť čítania, rýchlosť zápisu a teplota každého disku. V normálnom režime by sa mala priemerná teplota pohybovať okolo 30-35 stupňov Celzia. V špičkách môže každý jednotlivý disk „odskočiť“ až o 40 stupňov. Ak sa teplota zvýši alebo rýchlosť klesne pod prahové hodnoty čítania a zápisu, disk sčervenie a nebude možné ho odmietnuť. Komponenty, ktoré prešli testami, sú zabalené na ďalšie použitie.
Záver
Existuje mýtus, ktorý aktívne podporujú rôzne postavy, že „v Rusku nevedia robiť nič iné ako pumpovať ropu“. Žiaľ, tento mýtus žerie hlavy aj váženým a inteligentným ľuďom.
Nedávno sa môjmu kolegovi stal pozoruhodný príbeh. Šoféroval z jedného z displejov úložného systému Vostok a tento úložný systém ležal v kufri jeho auta (samozrejme nie E124, je to jednoduchšie). Cestou zachytil jedného zo zástupcov zákazníka (veľmi dôležitá osoba, pracuje na vysokej pozícii v jednej z vládnych agentúr) a v aute mali približne takýto rozhovor:
Môj kolega: "Práve sme ukázali úložný systém na Elbrus, výsledky boli dobré, všetci boli spokojní, mimochodom, tento úložný systém bude užitočný aj pre váš priemysel."
Zákazník: "Viem, že máte úložné systémy, ale o akom druhu Elbrus hovoríte?"
Môj kolega: „No... ruský procesor Elbrus, nedávno vydali 8, pokiaľ ide o výkon pre úložné systémy, preto sme na ňom vytvorili nový rad úložných systémov s názvom Vostok“
Zákazník: „Elbrus je hora! A nehovorte rozprávky o ruskom procesore v zdvorilej spoločnosti, to všetko sa robí len preto, aby absorbovali rozpočty, v skutočnosti nič nie je a nič sa nestane."
Môj kolega: "V zmysle? Je v poriadku, že tento konkrétny úložný systém je v mojom kufri? Okamžite prestaňme, ukážem ti to!"
Zákazník: "Je dobré trpieť nezmyslami, poďme ďalej, neexistujú žiadne "ruské úložné systémy" - to je v podstate nemožné"
V tej chvíli dôležitá osoba nechcela o Elbrusovi nič viac počuť. Samozrejme, neskôr, keď informáciu spresnil, priznal, že sa mýlil, no aj tak až do úplného konca neveril v pravdivosť tejto informácie.
V skutočnosti sa naša krajina po rozpade ZSSR skutočne zastavila v rozvoji výroby mikroelektroniky. Niečo sa vyviezlo a rozkradlo v prospech nadnárodných korporácií, niečo ukradla miestna privatizačná spoločnosť, niečo, samozrejme, investovalo, ale hlavne v prospech tých istých nadnárodných korporácií. Strom bol vyrúbaný, ale koreň zostal.
Po takmer 30 rokoch ilúzií na tému „Západ nám pomôže“ je už asi každému jasné, že pomôcť si môžeme len sami, a preto musíme obnoviť výrobu nielen v oblasti mikroelektroniky, ale vo všetkých odvetviach. .
Momentálne, v kontexte globálnej pandémie v situácii, keď sa nadnárodné výrobné reťazce fakticky zastavili, sa už ukazuje, že obnovenie lokálnej výroby už nie je rozvoj rozpočtov, ale podmienka prežitia Ruska ako nezávislý štát.
Preto budeme naďalej hľadať a používať ruské vybavenie v živote a povieme vám o tom, čo naše spoločnosti skutočne robia, akým problémom čelia a aké obrovské úsilie vynakladajú na ich riešenie.
Porozprávať o všetkých aspektoch výroby v jednom článku je dosť ťažké, preto ako bonus zorganizujeme online diskusiu vo formáte webinára na túto tému. Na tomto webinári sa podrobne a v živých farbách porozprávame o technických aspektoch výroby platforiem Yakhont pre úložné systémy Vostok a online odpovieme na všetky, aj tie najzložitejšie otázky.
Našim partnerom bude zástupca vývojára platformy, spoločnosti NORSI-TRANS. Webinár sa bude konať 05.06.2020, záujemcovia sa môžu zaregistrovať prostredníctvom odkazu: .
Ďakujeme všetkým, ako vždy, tešíme sa na konštruktívne komentáre.
Zdroj: hab.com