Oznámení o procesoru Cerebras ― Cerebras Wafer Scale Engine (WSE) nebo Cerebras wafer scale engine ― jako součást výroční konference Hot Chips 31. Při pohledu na toto křemíkové monstrum není překvapivé ani to, že ho mohli vypustit do těla. Překvapivá je odvaha designu a práce vývojářů, kteří riskovali vývoj krystalu o ploše 46 225 čtverečních milimetrů se stranami 21,5 cm, na výrobu jednoho procesoru je potřeba celý 300mm wafer. Při sebemenší chybě je míra závad 100% a náklady na vydání je těžké si vůbec představit.
Cerebras WSE vyrábí TSMC. Technologický proces: 16 nm FinFET. Tento tchajwanský výrobce si také zaslouží pomník za vydání Cerebras. Výroba takového čipu vyžadovala nejvyšší zručnost a řešení spousty problémů, ale stálo to za to, ujišťují vývojáři. Čip Cerebras je v podstatě superpočítač na čipu s neuvěřitelnou propustností, minimální spotřebou energie a fantastickým paralelismem. Toto je nyní ideální řešení strojového učení, které umožní výzkumníkům začít řešit problémy extrémně složité.
Každá matrice Cerebras WSE obsahuje 1,2 bilionu tranzistorů uspořádaných do 400 000 výpočetních jader optimalizovaných pro umělou inteligenci a 18 GB místní distribuované paměti SRAM. To vše je propojeno mesh sítí s celkovou propustností 100 petabitů za vteřinu. Šířka pásma paměti dosahuje 9 PB/s. Hierarchie paměti je jednoúrovňová. Neexistuje žádná vyrovnávací paměť, žádné překrývání a minimální zpoždění přístupu. Je to ideální architektura pro urychlení úkolů souvisejících s AI. Čistá čísla: ve srovnání s nejmodernějšími grafickými jádry poskytuje čip Cerebras 3000 10krát více paměti na čipu a 000 XNUMXkrát vyšší rychlost přenosu paměti.
Výpočetní jádra Cerebras – SLAC (Sparse Linear Algebra Cores) – jsou plně programovatelná a lze je optimalizovat pro práci s libovolnými neuronovými sítěmi. Kromě toho architektura jádra ze své podstaty filtruje data reprezentovaná nulami. Tím se uvolňují výpočetní zdroje od nutnosti provádět nečinné násobení nulovými operacemi, což pro řídké datové zatížení znamená rychlejší výpočty a extrémní energetickou účinnost. Procesor Cerebras se tedy ukazuje jako stokrát nebo dokonce tisíckrát efektivnější pro strojové učení z hlediska plochy čipu a spotřeby než současná řešení pro AI a strojové učení.
Výroba čipu podobné velikosti spoustu unikátních řešení. Dokonce se do pouzdra muselo balit téměř ručně. Byly problémy s napájením krystalu a jeho chlazením. Odvod tepla byl možný pouze s kapalinou a pouze s organizací zónového zásobování s vertikální cirkulací. Všechny problémy se však vyřešily a čip fungoval. Bude zajímavé dozvědět se o jeho praktické aplikaci.
Zdroj: 3dnews.ru