Zapowiedź procesora Cerebras ― Cerebras Wafer Scale Engine (WSE) lub silnika Cerebras w skali wafla krzemowego ― została zaprezentowana podczas corocznej konferencji Hot Chips 31. Patrząc na tego krzemowego giganta, nie można nie zdziwić się, że udało się go stworzyć w rzeczywistości. Zaskakuje odwaga pomysłu oraz praca inżynierów, którzy podjęli się zaprojektowania kryształu o powierzchni 46 225 milimetrów kwadratowych, o bokach 21,5 cm. W produkcji jednego procesora wykorzystuje się całą 300-milimetrową waflę. Przy najdrobniejszym błędzie wskaźnik wadliwości wynosi 100%, a cena tego przedsięwzięcia jest wręcz trudna do wyobrażenia.
Produkcją Cerebras WSE zajmuje się firma TSMC. Proces technologiczny to 16 nm FinFET. Ten tajwański producent również zasłużył na pomnik za stworzenie Cerebras. Produkcja takiego chipu wymagała najwyższego kunsztu i rozwiązania wielu problemów, ale było warto, zapewniają inżynierowie. Chip Cerebras to w zasadzie superkomputer w chipie o niesamowitej przepustowości, minimalnym zużyciu energii i fantastycznym równoległym przetwarzaniu. W tej chwili jest to idealne rozwiązanie dla uczenia maszynowego, które pozwoli badaczom rozpocząć rozwiązywanie niezwykle złożonych problemów.
Każdy kryształ Cerebras WSE zawiera 1,2 biliona tranzystorów, zorganizowanych w 400 000 rdzeni obliczeniowych zoptymalizowanych dla AI oraz 18 GB lokalnej pamięci rozproszonej SRAM. Wszystko to połączone jest siecią komórkową z łączną wydajnością 100 petabitów na sekundę. Przepustowość pamięci osiąga 9 PB/s. Hierarchia pamięci jest jednowarstwowa. Brak pamięci podręcznej, brak zakłóceń, minimalne opóźnienia. To idealna architektura do przyspieszania zadań związanych z AI. Surowe dane: w porównaniu do najnowocześniejszych rdzeni graficznych chip Cerebras zapewnia 3000 razy większą pamięć na chipie i 10 000 razy większą szybkość wymiany danych z pamięcią.
Rdzenie obliczeniowe Cerebras – SLAC (Sparcowe Rdzenie Algebraiczne) – są w pełni programowalne i mogą być optymalizowane do pracy z dowolnymi sieciami neuronowymi. Co więcej, architektura rdzeni pierwotnie filtruje dane przedstawiane zerami. Umożliwia to uwolnienie zasobów obliczeniowych od konieczności przeprowadzania zbędnych operacji mnożenia przez zero, co w przypadku obciążenia danymi rozrzedzonymi oznacza przyspieszenie obliczeń oraz maksymalną efektywność energetyczną. Tak więc procesor Cerebras okazuje się być setki, a nawet tysiące razy bardziej efektywny w uczeniu maszynowym pod względem wykorzystanej powierzchni kryształu i jego zużycia niż aktualne rozwiązania do AI i uczenia maszynowego.
Produkcja chipu o takim rozmiarze wielu unikalnych rozwiązań. Jego pakowanie do obudowy odbywało się niemal ręcznie. Pojawiły się problemy z doprowadzeniem zasilania do kryształu i jego chłodzeniem. Odpływ ciepła stał się możliwy jedynie poprzez ciecz i tylko z organizacją lokalnego doprowadzenia z pionową cyrkulacją. Niemniej jednak wszystkie problemy zostały rozwiązane i chip zaczął działać. Ciekawe będzie dowiedzieć się o jego praktycznym zastosowaniu.
Źródło: 3dnews.ru
