Cześć wszystkim. Tak jak obiecaliśmy, przybliżamy czytelnikom Habr szczegóły produkcji rosyjskich platform sprzętowych dla systemów pamięci masowej Aerodisk Vostok na procesorach Elbrus. W tym artykule opiszemy krok po kroku produkcję platformy Yakhont-UVM E124, która efektywnie mieści 5 dyski w 124 jednostkach, może pracować w temperaturze +30 stopni Celsjusza, a jednocześnie nie tylko działa, ale działa Dobrze.
Organizujemy również webinar w dniu 05.06.2020, podczas którego szczegółowo omówimy niuanse techniczne produkcji systemów przechowywania Vostok oraz odpowiemy na wszelkie pytania. Na webinar możesz zarejestrować się pod linkiem:
Więc pójdziesz!
Zanim zagłębimy się w proces, który jest obecnie organizowany, kilka informacji historycznych sprzed dwóch lat. W momencie rozpoczęcia prac nad platformami opisanymi w tym artykule, warunki do ich produkcji, delikatnie mówiąc, nie istniały. Są ku temu powody, są one znane każdemu: masowa produkcja (czyli produkcja, a nie ponowne klejenie naklejek) platform serwerowych w Rosji była nieobecna jako klasa. Istniały odrębne fabryki, które mogły produkować poszczególne komponenty, ale w bardzo ograniczony sposób i często w oparciu o przestarzałe technologie. Dlatego musieliśmy zacząć praktycznie „od zera”, a jednocześnie podnieść produkcję rozwiązań serwerowych w Rosji na jakościowo nowy poziom.
Tak więc proces każdej produkcji zaczyna się od potrzeby, która następnie przekształca się w ogólne wymagania. Takie wymagania są początkowo formułowane przez twórców NORSI-TRANS w Niżnym Nowogrodzie. Wymagania oczywiście nie są wzięte z powietrza, ale z potrzeb klientów. Nie jest to jeszcze zadanie techniczne, jak mogłoby się błędnie wydawać. Na etapie wymagań ogólnych niemożliwe jest sporządzenie pełnej specyfikacji technicznej, ponieważ istnieje zbyt wiele nieznanych warunków produkcji.
Opracowanie docelowego modelu: od pomysłu do wdrożenia
Po ustaleniu ogólnych wymagań rozpoczyna się wybór podstawy elementu. Z informacji historycznych wynika, że baza elementów nie istnieje, czyli trzeba ją stworzyć.
W tym celu z tego, co jest dostępne na otwartym rynku, składa się próbkę pilotażową, która jest przynajmniej w pewnym stopniu podobna do docelowej. Następnie przeprowadzane są standardowe testy tej próbki w celu określenia jej wydajności. Jeżeli wszystko jest w porządku, kolejnym krokiem jest opracowanie modelu docelowego (2D i 3D).
Następnie rozpoczynają się poszukiwania rosyjskich przedsiębiorstw gotowych rozpocząć produkcję tego pilota, a programiści dokonują niezbędnych modyfikacji każdego z elementów produktu, w oparciu o możliwości konkretnego przedsiębiorstwa.
W procesie projektowania dokonywane są niezbędne modyfikacje każdego z elementów produktu. Przykładowo podczas pracy z prototypem wykorzystano klasyczne ekspandery 12G SAS z dużą liczbą przewodów (bardzo dużą, biorąc pod uwagę liczbę dysków). Nie jest to tanie, jest niewygodne dla tej konkretnej platformy, a poza tym ekspandery wroga są zagraniczne. Jest to jednak rozwiązanie tymczasowe, mające na celu zbadanie próbki jako całości i przejście do kolejnego etapu. Nie nadaje się jednak do stosowania ekspanderów SAS w wersji finalnej na konkretnej platformie serwerowej.
Nie potrzebujemy ekspanderów wroga, zrobimy własną płytę montażową z blackjackem i sh...
Biorąc pod uwagę przyszłe plany dotyczące wielkości produkcji (tysiące serwerów) zdecydowano się opracować dla tego produktu (i oczywiście dla kolejnych) własną płytę montażową SAS, która jest znacznie bardziej funkcjonalna niż ekspander w stosunku do tego rozwiązania . Projektowanie i programowanie płyty montażowej odbywa się przez ten sam zespół programistów, a produkcja płytek odbywa się w fabryce Microlit w regionie moskiewskim (obiecujemy osobny artykuł o tym zakładzie i o tym, jak powstają płyty główne dla procesorów Elbrus tam wydrukowane).
Swoją drogą, oto jego pierwszy prototyp, teraz wygląda zupełnie inaczej.
A tutaj to programują
Ciekawostka: kiedy rozpoczęły się prace nad płytą montażową, a projektanci zwrócili się do twórcy chipa SAS3 o projekt płytki referencyjnej, okazało się, że ani jedna firma w Europie nie wiedziała, jak opracować własne płyty montażowe. Wcześniej istniała spółka joint venture Fujitsu-Siemens, jednak po odejściu Siemens Nixdorf Informations systeme AG ze spółki joint venture i całkowitym zamknięciu działu komputerowego w firmie Siemens utracone zostały kompetencje w tym obszarze w Europie.
Dlatego twórca chipów początkowo nie potraktował poważnie rozwoju NORSI-TRANS, co spowodowało opóźnienia w opracowaniu ostatecznego projektu. To prawda, że później, gdy powaga intencji i kompetencji firmy NORSI-TRANS stała się oczywista, a także opracowano i wydrukowano płytę montażową, jego nastawienie zmieniło się na lepsze.
Jak schłodzić 124 dyski i serwer w 5 jednostkach i przeżyć?
Było osobne zadanie z jedzeniem i chłodzeniem. Faktem jest, że zgodnie z wymaganiami platforma E124 musi pracować w temperaturze 30 stopni Celsjusza, a tam na minutę 124 dobrze nagrzane dyski mechaniczne w 5 jednostkach i do tego płyta główna z procesorem (tj. to nie jest głupi JBOD, ale pełnoprawny kontroler systemu przechowywania danych z dyskami).
Do chłodzenia (z wyjątkiem małych wentylatorów znajdujących się wewnątrz) ostatecznie zdecydowaliśmy się zastosować trzy dość duże wentylatory z tyłu obudowy, z których każdy można wymieniać podczas pracy. Do normalnej pracy układu wystarczą dwa (temperatura w ogóle się nie zmienia), dzięki czemu można spokojnie zaplanować pracę przy wymianie wentylatorów i nie myśleć o temperaturze. Jeśli wyłączysz dwa wentylatory (np. zgodnie z prawem złośliwości, podczas wymiany jednego drugi się zepsuł), to przy jednym wentylatorze system również może działać normalnie, ale temperatura wzrośnie o 10-20% procent, co jest akceptowalne pod warunkiem, że wkrótce zostanie zamontowany co najmniej jeden wentylator więcej.
Fani (jak prawie wszystko) również okazali się wyjątkowi. Powodem wyjątkowości był jeden koszt. W pewnych warunkach może się zdarzyć, że wentylatory zamiast zasysać powietrze, wdmuchując całą obudowę od środka, zaczną je zasysać, a potem „do widzenia”, czyli platforma szybko się przegrzeje. Dlatego, aby zapobiec takiemu problemowi, wprowadzono zmiany w konstrukcji wentylatora i dodaliśmy własne „know-how” - zawór zwrotny. Zawór zwrotny ten spokojnie pozwala na odsysanie powietrza z platformy, ale jednocześnie blokuje samą możliwość zassania powietrza z powrotem.
Na etapie pilotażu układu chłodzenia doszło do wielu awarii, różne elementy układu przegrzały się i spaliły, ale ostatecznie twórcom platformy udało się uzyskać lepsze chłodzenie niż nawet światowej sławy konkurenci.
„Nie można naruszać diety”.
Podobnie było z zasilaczami, tj. zostały stworzone specjalnie dla tej platformy, a powód jest banalny. Każda jednostka to mnóstwo pieniędzy, dlatego opracowano tak super gęstą platformę i jeśli się nie mylę (poprawcie w komentarzach, jeśli się mylę), jest to jak dotąd rekord świata, ponieważ Nie ma jeszcze serwerów ani JBODów z dużą liczbą dysków na 5 jednostek.
Tym samym, aby zapewnić zasilanie platformy i jednocześnie zorganizować możliwość wymiany zasilacza w trybie normalnym, łączna moc jednostek aktywnych musiała wynosić 4 kW (oczywiście na rynku nie ma takich rozwiązań). rynku), więc powstały na zamówienie wraz z uruchomieniem linii produkcyjnej do masowej produkcji (przypomnę, że w planach są tysiące takich serwerów).
Jak ujął to jeden z głównych projektantów platformy: „Prądy są tu jak w spawarce - nie jest to zbyt zabawne :-)”
Podczas projektowania możliwa była także praca zasilacza nie tylko przy napięciu 220V, ale także przy napięciu 48V, tj. w architekturze OPC, co jest obecnie bardzo ważne dla operatorów telekomunikacyjnych i dużych centrów danych.
Dzięki temu rozwiązanie z zasilaczem powtarza logikę rozwiązania z chłodzeniem, platforma może komfortowo pracować z dwoma zasilaczami, co pozwala na normalne prowadzenie prac zastępczych. Jeśli w razie wypadku z trzech pozostanie tylko jeden zasilacz, będzie on w stanie wyrwać pracę platformy przy szczytowym obciążeniu, ale oczywiście nie ma możliwości opuszczenia platformy w tej formie przez długi czas.
Metal i plastik: okazuje się, że nie wszystko jest takie proste.
W procesie rozwoju platformy istnieje wiele niuansów. Podobna sytuacja miała miejsce nie tylko z komponentami elektronicznymi (podstawki, płyty montażowe, płyty główne itp.), ale także ze zwykłym metalem i plastikiem: na przykład z obudową, szynami, a nawet wózkami dyskowymi.
Wydawać by się mogło, że z korpusem i innymi mniej inteligentnymi elementami platformy nie powinno być problemów. Ale w praktyce wszystko jest inne. Kiedy twórcy platformy po raz pierwszy zwrócili się z potrzebami produkcyjnymi do różnych rosyjskich fabryk, okazało się, że większość z nich pracowała przy użyciu raczej nienowoczesnych metod, co ostatecznie odbiło się zarówno na jakości, jak i ilości produktów.
Potwierdzeniem tego były pierwsze wyniki produkcji łusek. Nieprawidłowa geometria, szorstkie spoiny, niedokładne otwory i podobne koszty spowodowały, że produkt nie nadawał się do użytku.
Większość fabryk zajmujących się produkcją obudów serwerowych działała wówczas (przypomnę, że przez „wtedy” mamy na myśli 2 lata temu) „po staroświecku”, czyli wyprodukowały całą masę dokumentacji projektowej, zgodnie z którą operator ręcznie dostosowywał pracę maszyn, często zamiast nitów stosowano spawanie metalu. W rezultacie niski stopień automatyzacji, czynnik ludzki i nadmierna biurokratyzacja produkcji zaowocowały. Okazało się długie, złe i drogie.
Musimy oddać hołd fabrykom: wiele z nich od tego czasu znacznie zmodernizowało swoją produkcję. Poprawiliśmy jakość spawania, opanowaliśmy nitowanie, a także często zaczęliśmy używać maszyn sterowanych numerycznie (CNC). Teraz zamiast tony dokumentów dane produktów są ładowane bezpośrednio z modeli 3D i 2D do CNC.
CNC ogranicza do minimum ingerencję operatora maszyny w proces wytwarzania produktu, dzięki czemu czynnik ludzki nie ingeruje już w życie. Operator zajmuje się głównie czynnościami przygotowawczymi i końcowymi: montażem i demontażem produktu, ustawieniem narzędzi itp.
Kiedy pojawiają się nowe części, produkcja nie zatrzymuje się, aby je wyprodukować, wystarczy dokonać zmian w oprogramowaniu CNC. W związku z tym czas produkcji części do nowych projektów w fabrykach został skrócony z miesięcy do tygodni, co jest dobrą wiadomością. I oczywiście znacznie wzrosła również dokładność.
Płyty główne i procesor: bez problemu
Procesory i płyty główne dostarczane są fabrycznie w zestawie. Produkcja ta jest już dość dobrze ugruntowana, dlatego NORSI prowadzi standardową kontrolę wejścia i wyjścia na poziomie gotowych platform.
Każdy zestaw płyty głównej i procesora jest testowany z oprogramowaniem uzyskanym od MCST.
W przypadku pewnych problemów (dzięki Bogu, jest ich bardzo mało z płytą główną i procesorem), istnieje dobrze funkcjonujący łańcuch zwrotu modułów do producenta i ich wymiany.
Montaż i kontrola końcowa
Aby nasza bałałajka zaczęła grać, pozostaje tylko złożyć ją i przetestować. Teraz produkcja trwa, system jest montowany w standardowy sposób w Moskwie.
Każdy system jest wyposażony w rozruchowe dyski SSD (na system operacyjny) i pełne wrzeciona (na przyszłe dane).
Następnie rozpoczynają się testy wejściowe zarówno samej platformy, jak i zainstalowanych na niej dysków. Aby to zrobić, wszystkie dyski w systemie są ładowane autotestami przez co najmniej godzinę.
Na każdym dysku odbywa się automatyczny odczyt i zapis, rejestrując prędkość odczytu, prędkość zapisu i temperaturę każdego dysku. W trybie normalnym średnia temperatura powinna wynosić około 30-35 stopni Celsjusza. W szczytach każdy pojedynczy dysk może „odbijać się” do 40 stopni. Jeśli temperatura wzrośnie lub prędkość spadnie poniżej progów odczytu i zapisu, dysk zmieni kolor na czerwony i nie zostanie odrzucony. Komponenty, które przeszły testy, są pakowane do dalszego wykorzystania.
wniosek
Istnieje mit aktywnie wspierany przez różne osobistości, że „w Rosji nie potrafią nic zrobić poza pompowaniem ropy”. Niestety mit ten wgryza się w głowy nawet szanowanym i inteligentnym ludziom.
Niedawno mojej koleżance przydarzyła się niezwykła historia. Jechał z jednego z wyświetlaczy systemu przechowywania Vostok i ten system przechowywania leżał w bagażniku jego samochodu (nie E124, oczywiście, jest to prostsze). Po drodze złapał jednego z przedstawicieli klienta (bardzo ważna osoba, pracuje na wysokim stanowisku w jednej z agencji rządowych), a w samochodzie odbyli mniej więcej następującą rozmowę:
Mój kolega: „Właśnie pokazaliśmy system magazynowania na Elbrusie, wyniki były dobre, wszyscy byli zadowoleni, przy okazji, ten system magazynowania przyda się również w Twojej branży.”
Klient: „Wiem, że macie systemy magazynowania, ale o jakim Elbrusie mowa?”
Mój kolega: „Cóż… rosyjski procesor Elbrus, niedawno wypuścili 8, pod względem wydajności systemów pamięci masowej, w związku z tym stworzyliśmy na nim nową linię systemów pamięci masowej o nazwie Vostok”
Klient: „Elbrus to góra! I nie opowiadajcie w uprzejmym towarzystwie bajek o rosyjskim procesorze, to wszystko jest robione po to, żeby zaabsorbować budżety, w rzeczywistości nie ma nic i nic się nie stanie.
Mój kolega: "Pod względem? Czy to w porządku, że ten konkretny system przechowywania znajduje się w moim bagażniku? Zatrzymajmy się teraz, pokażę ci!”
Klient: „Dobrze jest cierpieć z powodu bzdur, idźmy dalej, nie ma „rosyjskich systemów przechowywania” - to w zasadzie niemożliwe”
W tym momencie ta ważna osoba nie chciała już nic więcej słyszeć o Elbrusie. Oczywiście później, gdy uściślił informację, przyznał, że się mylił, ale mimo to do samego końca nie wierzył w prawdziwość tej informacji.
Tak naprawdę po rozpadzie ZSRR nasz kraj właściwie zatrzymał się w rozwoju produkcji mikroelektroniki. Coś wyeksportowano i skradziono na rzecz ponadnarodowych korporacji, coś ukradła lokalna spółka prywatyzacyjna, coś oczywiście zainwestowano, ale głównie na rzecz tych samych ponadnarodowych korporacji. Drzewo zostało wycięte, ale korzeń pozostał.
Po prawie 30 latach złudzeń w temacie „Zachód nam pomoże” niemal dla wszystkich stało się oczywiste, że możemy pomóc tylko sobie, dlatego musimy przywrócić naszą produkcję nie tylko w dziedzinie mikroelektroniki, ale we wszystkich gałęziach przemysłu .
W tej chwili, w kontekście globalnej pandemii, w sytuacji, w której faktycznie zatrzymały się ponadnarodowe łańcuchy produkcyjne, staje się już jasne, że przywrócenie lokalnej produkcji nie jest już rozwojem budżetów, ale warunkiem przetrwania Rosji jako niepodległe państwo.
Dlatego będziemy nadal szukać i wykorzystywać rosyjski sprzęt w życiu oraz opowiadać o tym, czym tak naprawdę zajmują się nasze firmy, z jakimi problemami się borykają i jakie gigantyczne wysiłki podejmują, aby je rozwiązać.
Dość trudno jest omówić wszystkie aspekty produkcji w jednym artykule, dlatego jako bonus zorganizujemy dyskusję online w formie webinaru na ten temat. Na tym webinarze szczegółowo i w żywych kolorach porozmawiamy o technicznych aspektach produkcji platform Yakhont dla systemów przechowywania Vostok oraz odpowiemy online na wszystkie, nawet najbardziej trudne pytania.
Naszym rozmówcą będzie przedstawiciel dewelopera platformy, firmy NORSI-TRANS. Webinarium odbędzie się 05.06.2020 r., osoby chcące wziąć w nim udział mogą zarejestrować się poprzez link: .
Dziękuję wszystkim. Jak zwykle czekamy na konstruktywne uwagi.
Źródło: www.habr.com