Ahoj všichni. Jak jsme slíbili, ponořujeme čtenáře Habr do detailů výroby ruských hardwarových platforem pro úložné systémy Aerodisk Vostok na procesorech Elbrus. V tomto článku popíšeme krok za krokem výrobu platformy Yakhont-UVM E124, která efektivně pojme 5 disků v 124 jednotkách, dokáže pracovat při teplotě +30 stupňů Celsia a přitom nejen funguje, ale funguje studna.
Dne 05.06.2020 také pořádáme webinář, kde budeme podrobně hovořit o technických nuancích výroby úložného systému Vostok a zodpovíme případné dotazy. Na webinář se můžete registrovat pomocí odkazu:
Tak pojďme!
Než se ponoříme do procesu, který je nyní organizován, trochu historického pozadí před dvěma lety. V době, kdy začal vývoj platforem popsaných v tomto článku, nebyly podmínky pro jejich výrobu mírně řečeno žádné. Existují pro to důvody, jsou známy všem: hromadná výroba (jmenovitě výroba, nikoli přelepování nálepek) serverových platforem v Rusku jako třída chyběla. Existovaly samostatné továrny, které mohly vyrábět jednotlivé komponenty, ale velmi omezeným způsobem a často na základě zastaralých technologií. Museli jsme proto začít prakticky „od nuly“ a zároveň pozvednout výrobu serverových řešení v Rusku na kvalitativně novou úroveň.
Proces jakékoli výroby tedy začíná potřebou, která se pak transformuje do obecných požadavků. Takové požadavky jsou zpočátku tvořeny vývojáři NORSI-TRANS v Nižném Novgorodu. Požadavky samozřejmě nevycházejí ze vzduchu, ale z potřeb zákazníků. Nejedná se zatím o technický úkol, jak se může mylně zdát. Ve fázi obecných požadavků není možné vytvořit plnohodnotnou technickou specifikaci, protože existuje příliš mnoho neznámých podmínek pro výrobu.
Vývoj cílového modelu: od nápadu po realizaci
Po vytvoření obecných požadavků začíná výběr základny prvků. Z historických informací vyplývá, že základna prvků neexistuje, to znamená, že musí být vytvořena.
K tomu je sestaven pilotní vzorek z toho, co je k dispozici na volném trhu, který je alespoň trochu podobný cílovému. Dále se provedou standardní testy tohoto vzorku, aby se zjistila jeho výkonnost. Pokud je vše v pořádku, pak je dalším krokem vývoj cílového modelu (2D a 3D).
Poté se začne pátrat po ruských podnicích, které jsou připraveny zahájit výrobu tohoto pilotního dílu.Vývojáři provedou nezbytné úpravy každého z prvků produktu na základě možností konkrétního podniku.
Během procesu návrhu se provádějí nezbytné úpravy každého prvku produktu. Například při práci s prototypem byly použity klasické 12G SAS expandéry s velkým počtem drátů (velmi velké, vzhledem k počtu disků). Není to levné, pro tuto konkrétní platformu je to nepohodlné a kromě toho jsou nepřátelské expandéry cizí. Ale toto je dočasné řešení, abychom mohli otestovat vzorek jako celek a přejít k další fázi. Není však vhodné používat expandéry SAS pro finální verzi na konkrétní serverové platformě.
Nepotřebujeme nepřátelské expandéry, vyrobíme si vlastní backplane s blackjackem a...
S přihlédnutím k budoucím plánům na objemy výroby (tisíce serverů) bylo rozhodnuto vyvinout pro tento produkt (a samozřejmě i pro další) vlastní backplane SAS, který je ve vztahu k tomuto řešení mnohem funkčnější než expandér. . Návrh a programování backplane provádí stejný tým vývojářů a výroba desek probíhá v závodě Microlit v Moskevské oblasti (slibujeme samostatný článek o tomto závodě a o tom, jak jsou základní desky pro procesory Elbrus tam vytištěno).
Mimochodem, tady je jeho první prototyp, teď vypadá úplně jinak.
A tady to programují
Zajímavost: když začal vývoj backplane a designéři se obrátili na vývojáře čipu SAS3 s návrhem referenční desky, ukázalo se, že ani jedna společnost v Evropě neví, jak vyvinout vlastní backplane. Dříve existoval společný podnik Fujitsu-Siemens, ale poté, co společnost Siemens Nixdorf Informations systeme AG opustila společný podnik a úplné uzavření počítačového oddělení ve společnosti Siemens, došlo v Evropě ke ztrátě kompetence v této oblasti.
Vývojář čipu proto zpočátku nebral vývoj NORSI-TRANS vážně, což způsobilo zpoždění ve vývoji konečného návrhu. Pravda, později, když se projevila vážnost záměrů a kompetence firmy NORSI-TRANS a byla vyvinuta a vytištěna backplane, se jeho postoj změnil k lepšímu.
Jak ochladit 124 disků a server v 5 jednotkách a zůstat naživu?
Byl tam samostatný quest s jídlem a chlazením. Platforma E124 totiž musí na základě požadavků pracovat při teplotě 30 stupňů Celsia a tam minutu 124 dobře vyhřívaných mechanických disků v 5 jednotkách a navíc základní deska s procesorem (t.j. nejedná se o hloupý JBOD, ale o plnohodnotný řadič úložného systému s disky).
Pro chlazení (kromě malých ventilátorů uvnitř) jsme se nakonec rozhodli použít tři poměrně velké ventilátory v zadní části skříně, přičemž každý je vyměnitelný za provozu. Pro běžný provoz systému stačí dva (teplota se vůbec nemění), takže práci s výměnou ventilátorů můžete bezpečně plánovat a nemyslet na teplotu. Pokud vypnete dva ventilátory (například podle zákona podlosti, když se jeden vyměňoval, druhý praskl), pak s jedním ventilátorem může systém také normálně fungovat, ale teplota se zvýší o 10-20% procent, což je přijatelné za předpokladu, že bude brzy nainstalován alespoň jeden další ventilátor.
Fanoušci (jako skoro všechno) se také ukázali jako jedineční. Důvodem jedinečnosti byla jedna cena. Za určitých podmínek se může stát, že ventilátory místo nasávání vzduchu profukují celou skříň zevnitř, mohou jej začít nasávat a pak „sbohem“, tedy platforma se rychle přehřeje. Abychom tomuto problému předešli, byly provedeny změny v konstrukci ventilátoru a přidali jsme vlastní „know-how“ - zpětný ventil. Tento zpětný ventil klidně umožňuje odsávání vzduchu z plošiny, ale zároveň v každém případě blokuje samotnou možnost nasávání vzduchu zpět.
Ve fázi pilotování chladicího systému docházelo k mnoha poruchám, různé prvky systému se přehřívaly a spálily, ale nakonec se vývojářům platformy podařilo dosáhnout lepšího chlazení než i u světoznámých konkurentů.
"Dietu nelze porušit."
S napájecími zdroji to byl podobný příběh, tzn. byly vyrobeny speciálně pro tuto platformu a důvod je banální. Každá jednotka je hodně peněz, a proto byla vyvinuta taková superhustá platforma a pokud se nepletu (pokud se mýlím, opravte v komentářích), je to zatím světový rekord, protože Servery ani JBOD s velkým počtem disků pro 5 jednotek zatím neexistují.
Aby tedy bylo možné zajistit napájení platformy a zároveň uspořádat možnost výměny napájení v normálním režimu, musel být celkový výkon aktivních jednotek 4 kilowatty (samozřejmě žádná taková řešení na trhu), takže byly vyrobeny na zakázku se spuštěním výrobní linky pro sériovou výrobu (Připomínám, že jsou v plánu tisíce takových serverů).
Jak řekl jeden z hlavních designérů platformy: „Proudy jsou tady jako ve svářečce – to není moc legrace :-)“
Při návrhu bylo také možné provozovat zdroj nejen na 220V, ale i na 48V, tzn. v architektuře OPC, která je nyní velmi důležitá pro telekomunikační operátory a velká datová centra.
Řešení s napájením tak opakuje logiku řešení s chlazením, platforma může pohodlně fungovat se dvěma zdroji, což umožňuje provádět výměnné práce jako obvykle. Pokud v případě nehody zbude pouze jeden napájecí zdroj ze tří, bude schopen vysunout práci plošiny při špičkovém zatížení, ale samozřejmě není možné plošinu ponechat v této podobě na dlouhou dobu.
Kov a plast: ne všechno je tak jednoduché, jak se ukazuje.
V procesu vývoje platformy existuje mnoho nuancí. Podobná situace nastala nejen u elektronických součástek (náběžky, backplane, základní desky atd.), ale také u běžného kovu a plastu: například u skříně, kolejnic a dokonce i pojezdů disků.
Zdálo by se, že s karoserií a dalšími méně inteligentními prvky platformy by neměly být žádné problémy. V praxi je ale všechno jinak. Když vývojáři platformy poprvé oslovili různé ruské továrny s výrobními potřebami, ukázalo se, že většina z nich pracuje spíše nemoderními metodami, což v konečném důsledku ovlivnilo kvalitu i kvantitu produktů.
První výsledky výroby pouzder se toho staly potvrzením. Nesprávná geometrie, hrubé svary, nepřesné otvory a podobné náklady způsobily, že výrobek není vhodný k použití.
Většina továren, které dokázaly vyrobit serverové skříně, tehdy fungovala (připomínám, že „tehdy“ máme na mysli před 2 lety) „po staru“, to znamená, že vyrobily spoustu projektové dokumentace, podle níž obsluha ručně upravovala chod strojů, také se často místo nýtů používalo svařování kovů. Nízká míra automatizace, lidský faktor a přílišná byrokratizace výroby ve výsledku přinesla své ovoce. Ukázalo se to dlouhé, špatné a drahé.
Musíme vzdát hold továrnám: mnoho z nich od té doby výrazně zmodernizovalo svou výrobu. Zkvalitnili jsme svařování, zvládli nýtování a také jsme často začali používat stroje s počítačovým numerickým řízením (CNC). Nyní se místo tuny dokumentů načítají produktová data přímo z 3D a 2D modelů do CNC.
CNC omezuje zásahy obsluhy stroje do výrobního procesu produktu na minimum, takže lidský faktor již nezasahuje do života. Hlavní starostí operátora jsou především přípravné a závěrečné operace: instalace a demontáž výrobku, nastavení nářadí atd.
Když se objeví nové díly, výroba se již nezastaví, k jejich výrobě stačí provést změny v CNC softwaru. V souladu s tím se doba výroby dílů pro nové projekty v továrnách zkrátila z měsíců na týdny, což je dobrá zpráva. A samozřejmě se také výrazně zvýšila přesnost.
Základní desky a procesor: žádný problém
Procesory a základní desky jsou dodávány jako komplet z výroby. Tato výroba je již poměrně dobře zavedená, takže NORSI provádí standardní vstupní kontrolu a výstupní kontrolu na úrovni hotových plošin.
Každá sada základní desky a procesoru je testována pomocí softwaru získaného od MCST.
V případě určitých problémů (díky bohu jich je se základní deskou a procesorem velmi málo) funguje dobře fungující řetězec vracení modulů výrobci a jejich výměny.
Montáž a finální kontrola
Aby naše balalajka začala hrát, zbývá ji pouze sestavit a otestovat. Nyní běží výroba, systém se montuje standardním způsobem v Moskvě.
Každý systém je dodáván se zaváděcími SSD (pro OS) a plnými vřeteny (pro budoucí data).
Poté začne vstupní testování jak samotné platformy, tak i disků na ní nainstalovaných. K tomu jsou všechny disky v systému zatíženy automatickými testy po dobu alespoň jedné hodiny.
Na každém disku se provádí automatické čtení a zápis, přičemž se zaznamenává rychlost čtení, rychlost zápisu a teplota každého disku. V normálním režimu by se průměrná teplota měla pohybovat kolem 30-35 stupňů Celsia. Ve špičkách může každý jednotlivý disk „odskočit“ až o 40 stupňů. Pokud se teplota zvýší nebo rychlost klesne pod prahové hodnoty pro čtení a zápis, disk zčervená a nelze jej odmítnout. Komponenty, které prošly testy, jsou zabaleny pro další použití.
Závěr
Existuje mýtus, který aktivně podporují různé postavy, že „v Rusku nevědí, jak dělat nic jiného než pumpovat ropu“. Bohužel tento mýtus hlodá v hlavách i respektovaných a inteligentních lidí.
Nedávno se mému kolegovi stal pozoruhodný příběh. Jel z jednoho z displejů úložného systému Vostok a tento úložný systém ležel v kufru jeho auta (ne E124, samozřejmě, je to jednodušší). Cestou zajal jednoho ze zástupců zákazníka (velmi důležitá osoba, pracuje na vysoké pozici v jedné z vládních agentur) a v autě spolu vedli přibližně následující rozhovor:
Moje kolegyně: „Právě jsme ukázali úložný systém na Elbrusu, výsledky byly dobré, všichni byli spokojeni, mimochodem, tento úložný systém bude užitečný i pro váš průmysl“
Zákazník: "Vím, že máte úložné systémy, ale o jakém Elbrusu to mluvíte?"
Moje kolegyně: "No... ruský procesor Elbrus, nedávno vydali 8, pokud jde o výkon pro úložné systémy, vytvořili jsme na něm novou řadu úložných systémů s názvem Vostok."
Zákazník: „Elbrus je hora! A neříkejte pohádky o ruském zpracovateli ve zdvořilé společnosti, to vše se dělá jen proto, aby absorbovalo rozpočty, ve skutečnosti se nic neděje a nic se nestane."
Moje kolegyně: "Ve smyslu? Je v pořádku, že tento konkrétní úložný systém je v mém kufru? Okamžitě přestaňme, ukážu ti to!"
Zákazník: "Je dobré trpět nesmysly, pojďme dál, neexistují žádné "ruské úložné systémy" - to je v podstatě nemožné"
Důležitá osoba v tu chvíli nechtěla o Elbrusovi nic slyšet. Samozřejmě později, když informaci upřesnil, uznal, že se mýlil, ale přesto až do samého konce nevěřil ve pravdivost této informace.
Ve skutečnosti se naše země po rozpadu SSSR vlastně zastavila v rozvoji výroby mikroelektroniky. Něco se vyvezlo a rozkradlo ve prospěch nadnárodních korporací, něco ukradla místní privatizační společnost, něco se samozřejmě investovalo, ale hlavně ve prospěch stejných nadnárodních korporací. Strom byl poražen, ale kořen zůstal.
Po téměř 30 letech iluzí na téma „Západ nám pomůže“ je téměř každému jasné, že si můžeme pomoci jen sami, a proto je potřeba obnovit naši výrobu nejen v oblasti mikroelektroniky, ale ve všech průmyslových odvětvích. .
V tuto chvíli, v kontextu globální pandemie v situaci, kdy se nadnárodní produkční řetězce fakticky zastavily, se již ukazuje, že obnovení místní produkce již není vývojem rozpočtů, ale podmínkou přežití Ruska jako samostatný stát.
Proto budeme i nadále hledat a používat ruské vybavení v životě a povíme vám o tom, co naše společnosti skutečně dělají, jakým problémům čelí a jaké titánské úsilí vynakládají na jejich řešení.
Pohovořit o všech aspektech výroby v jednom článku je poměrně obtížné, proto jako bonus zorganizujeme online diskuzi ve formátu webináře na toto téma. Na tomto webináři si podrobně a v živých barvách povíme o technických aspektech výroby platforem Yakhont pro úložné systémy Vostok a online zodpovíme všechny, i ty nejsložitější otázky.
Naším partnerem bude zástupce vývojáře platformy, společnosti NORSI-TRANS. Webinář se bude konat 05.06.2020, zájemci se mohou registrovat přes odkaz: .
Všem děkujeme, jako vždy se těšíme na konstruktivní komentáře.
Zdroj: www.habr.com