PaziÅojums par Cerebras procesoru ā Cerebras Wafer Scale Engine (WSE) vai Cerebras vafeļu skalas dzinÄju ā kÄ daļa no ikgadÄjÄs konferences Hot Chips 31. Skatoties uz Å”o silÄ«cija briesmoni, pÄrsteidzoÅ”i nav pat fakts, ka viÅi varÄtu to atbrÄ«vot miesÄ. PÄrsteidza dizaina drosme un izstrÄdÄtÄju darbs, kuri riskÄja izveidot kristÄlu 46 225 kvadrÄtmilimetru platÄ«bÄ ar 21,5 cm malÄm. Viena procesora izgatavoÅ”anai nepiecieÅ”ama vesela 300 mm vafele. Ar mazÄko kļūdu defektu lÄ«menis ir 100%, un problÄmas izmaksas ir pat grÅ«ti iedomÄties.
Cerebras WSE ražo TSMC. TehnoloÄ£iskais process: 16 nm FinFET. Å is TaivÄnas ražotÄjs arÄ« ir pelnÄ«jis pieminekli par Cerebras atbrÄ«voÅ”anu. Å Ädas mikroshÄmas izgatavoÅ”ana prasÄ«ja visaugstÄkÄs prasmes un daudzu problÄmu risinÄÅ”anu, taÄu tas bija tÄ vÄrts, apliecina izstrÄdÄtÄji. Cerebras mikroshÄma bÅ«tÄ«bÄ ir mikroshÄmas superdators ar neticamu caurlaidspÄju, minimÄlu enerÄ£ijas patÄriÅu un fantastisku paralÄlismu. Tagad tas ir ideÄls maŔīnmÄcÄ«Å”anÄs risinÄjums, kas ļaus pÄtniekiem sÄkt risinÄt ÄrkÄrtÄ«gi sarežģītas problÄmas.
KatrÄ Cerebras WSE formÄ ir 1,2 triljoni tranzistoru, kas ir sakÄrtoti 400 000 AI optimizÄtos skaitļoÅ”anas kodolos un 18 GB vietÄjÄ izplatÄ«tÄ SRAM. Tas viss ir savienots ar tÄ«kla tÄ«klu ar kopÄjo caurlaidspÄju 100 petabiti sekundÄ. AtmiÅas joslas platums sasniedz 9 PB/s. AtmiÅas hierarhija ir viena lÄ«meÅa. Nav keÅ”atmiÅas, nav pÄrklÄÅ”anÄs un minimÄlas piekļuves aizkaves. TÄ ir ideÄla arhitektÅ«ra, lai paÄtrinÄtu ar AI saistÄ«tus uzdevumus. Pliki skaitļi: salÄ«dzinot ar modernÄkajiem grafikas kodoliem, Cerebras mikroshÄma nodroÅ”ina 3000 reižu lielÄku atmiÅu mikroshÄmÄ un 10 000 reižu lielÄku atmiÅas pÄrsÅ«tÄ«Å”anas Ätrumu.
SmadzeÅu skaitļoÅ”anas kodoli - SLAC (Sparse Linear Algebra Cores) - ir pilnÄ«bÄ programmÄjami un var tikt optimizÄti darbam ar jebkuriem neironu tÄ«kliem. TurklÄt kodola arhitektÅ«ra pÄc bÅ«tÄ«bas filtrÄ datus, kas attÄloti ar nullÄm. Tas atbrÄ«vo skaitļoÅ”anas resursus no nepiecieÅ”amÄ«bas veikt dÄ«kstÄves reizinÄÅ”anu ar nulli, kas mazai datu ielÄdei nozÄ«mÄ ÄtrÄkus aprÄÄ·inus un ÄrkÄrtÄju energoefektivitÄti. TÄdÄjÄdi Cerebras procesors izrÄdÄs simtiem vai pat tÅ«kstoÅ”iem reižu efektÄ«vÄks maŔīnmÄcÄ«bÄ mikroshÄmas platÄ«bas un patÄriÅa ziÅÄ nekÄ paÅ”reizÄjie AI un maŔīnmÄcÄ«bas risinÄjumi.
LÄ«dzÄ«ga izmÄra mikroshÄmas izgatavoÅ”ana daudz unikÄlu risinÄjumu. Tas pat bija jÄiepako korpusÄ gandrÄ«z ar roku. Bija problÄmas ar strÄvas padevi kristÄlam un tÄ dzesÄÅ”anu. Siltuma noÅemÅ”ana kļuva iespÄjama tikai ar Ŕķidrumu un tikai ar zonÄlÄs piegÄdes organizÄÅ”anu ar vertikÄlu cirkulÄciju. TomÄr visas problÄmas tika atrisinÄtas, un mikroshÄma iznÄca darboties. BÅ«s interesanti uzzinÄt par tÄ praktisko pielietojumu.
Avots: 3dnews.ru