Oznámenie procesora Cerebras - Cerebras Wafer Scale Engine (WSE) alebo motor Cerebras na mieru kremíkových platní - na výročnej konferencii Hot Chips 31. Na tomto kremíkovom monštri prekvapuje nielen to, že ho dokázali vyrobiť. Prekvapuje odvaha myšlienky a práca vývojárov, ktorí sa odvážili navrhnúť čip s rozlohou 46 225 štvorcových milimetrov so stranami 21,5 cm. Na výrobu jedného procesora je potrebná celá 300 mm platňa. Pri najmenšej chybe je miera odpadu 100 %, a cenu otázky je ťažké si predstaviť.
Výrobu Cerebras WSE zabezpečuje spoločnosť TSMC. Technologický proces - 16 nm FinFET. Tento taiwanský výrobca si tiež zaslúži pamätník za výrobu Cerebras. Výroba takéhoto čipu si vyžiadala vysokú zručnosť a riešenie množstva problémov, no stálo to za to, uisťujú vývojári. Čip Cerebras je vlastne superpočítač na čipe s neuveriteľnou priepustnosťou, minimálnou spotrebou a fantastickým paralelizmom. V súčasnosti je to ideálne riešenie pre strojové učenie, ktoré umožní výskumníkom začať riešiť úlohy mimoriadnej zložitosti.
Každý čip Cerebras WSE obsahuje 1,2 bilióna tranzistorov organizovaných do 400 000 výpočtových jadier optimalizovaných pre AI a 18 GB lokálnej distribuovanej pamäte SRAM. To všetko je prepojené mriežkovou sieťou s celkovým výkonom 100 petabit za sekundu. Priepustnosť pamäte dosahuje 9 PB/s. Hierarchia pamäte je jednou úrovňová. Žiadna vyrovnávacia pamäť, žiadne prekrytie, minimálne oneskorenie prístupu. Toto je ideálna architektúra na urýchlenie úloh súvisiacich s AI. Holé číslice: v porovnaní s najmodernejšími grafickými jadrami čip Cerebras poskytuje 3000-krát väčší objem pamäte na čipe a 10 000-krát väčšiu rýchlosť výmeny s pamäťou.
Výpočtové jadra Cerebras – SLAC (Sparsové lineárne algebraické jadrá) – sú plne programovateľné a môžu byť optimalizované pre prácu s akýmikoľvek neurónovými sieťami. Navyše, architektúra jadier pôvodne filtruje dáta predstavené nulami. To uvoľňuje výpočtové zdroje od potreby vykonávať prázdne operácie násobenia nulou, čo pre záťaž so sparse dátami znamená zrýchlenie výpočtov a maximálnu energetickú efektívnosť. Tak sa procesor Cerebras ukazuje byť stovky alebo dokonca tisíce ráz efektívnejší pre strojové učenie v termínoch využitej plochy kryštálu a jeho spotreby ako aktuálne riešenia pre AI a strojové učenie.
Vyrobenie čipu takýchto rozmerov množstvo jedinečných riešení. Dokonca musel byť zabalený do puzdra takmer ručne. Vyskytli sa problémy s dodávkou energie do kryštálu a jeho chladením. Odtok tepla bol možný len kvapalinou a len s organizovaním zónového podávania s vertikálnou cirkuláciou. Napriek tomu sa všetky problémy vyriešili a čip bol uvedený do chodu. Bude zaujímavé zistiť jeho praktické využitie.
Zdroj: 3dnews.ru
