A Cerebras processzor bejelentése – Cerebras Wafer Scale Engine (WSE) vagy a Cerebras lapkájának motorja – a Hot Chips 31 éves konferencián. Ez a szilícium szörnyeteg nemcsak annak a csodája, hogy fizikai valóságra tudták váltani, hanem a merész koncepció és a fejlesztők bátorsága is, akik kockáztattak egy 46 225 négyzetmilliméteres területű lapka megtervezésével, amelynek oldala 21,5 cm. Egyetlen processzor elkészítése során egy teljes 300 mm-es lapkát használnak fel. A legkisebb hiba esetén a selejt aránya 100%, és az árát nehéz elképzelni.

A Cerebras WSE gyártását a TSMC végzi. A gyártási folyamat – 16 nm FinFET. Ez a tajvani gyártó egy szobrot is érdemel a Cerebras kifejlesztéséért. Az ilyen chip előállítása a legmagasabb szintű mesterséget és számos probléma megoldását igényelte, de megérte, állítják a fejlesztők. A Cerebras chip lényegében egy szupercomputer egy chipben, hihetetlen sávszélességgel, minimális fogyasztással és fantasztikus párhuzamossággal. Jelenleg ez a gépi tanulás ideális megoldása, amely lehetővé teszi a kutatók számára, hogy rendkívül bonyolult problémákat oldjanak meg.

Minden Cerebras WSE chip 1,2 trilliárd tranzisztort tartalmaz, amelyek 400 000, AI-optimalizált számítási magra és 18 GB helyi elosztott SRAM memóriára vannak szervezve. Mindez egy cellás hálózattal kapcsolódik, amelynek összteljesítménye 100 petabit/másodperc. A memória sávszélessége eléri a 9 PByte/s-t. A memória hierarchiája egyszintű. Nincs cache memória, nincs átfedés, a hozzáférési késleltetés minimális. Ez az ideális architektúra az AI-hoz kapcsolódó feladatok gyorsítására. Csak számokban: a legmodernebb grafikus magokhoz viszonyítva a Cerebras chip 3000-szer nagyobb memóriát biztosít a chipen, és 10 000-szer nagyobb sebességgel kommunikál a memóriával.

A Cerebras számítási magjai – SLAC (Sparse Linear Algebra Cores) – teljesen programozhatóak, és bármilyen neurális hálózattal való működésre optimalizálhatók. Ráadásul a magok architektúrája eredendően kiszűri a nullával reprezentált adatokat. Ez felszabadítja a számítási erőforrásokat a nulla szorzásának szükségtelen művelete alól, ami a ritka adatokkal végzett terhelés esetén a számítások felgyorsulását és maximális energiahatékonyságot jelenti. Így a Cerebras processzor száz vagy akár ezer alkalommal hatékonyabb a gépi tanulásban a felhasznált kristályterület és energiafogyasztás szempontjából, mint a jelenlegi AI és gépi tanulási megoldások.

Egy ilyen méretű chip előállítása A csomagolása szinte kézi munkát igényelt. Problémák merültek fel a chip táplálásával és hűtésével kapcsolatban. A hőelvezetés csak folyadékkal volt lehetséges, és csak zónás elosztással, függőleges keringéssel. Ennek ellenére minden probléma megoldódott, és a chip működőképes lett. Érdekes lesz látni, hogyan használják majd a gyakorlatban.

Forrás: 3dnews.ru
