Anunțul procesorului Cerebras - Cerebras Wafer Scale Engine (WSE) sau motorul Cerebras de dimensiunea unei plăci de siliciu - în cadrul conferinței anuale Hot Chips 31. Privind această monstra de siliciu, nu surprinde doar că a fost realizat. Ceea ce surprinde este curajul viziunii și munca dezvoltatorilor care au riscat să dezvolte un cristal cu o suprafață de 46.225 de milimetri pătrați, având laturile de 21,5 cm. Fabricarea unui singur procesor necesită o întreagă placă de 300 mm. În cazul celor mai mici erori, rata de defectare ajunge la 100%, iar prețul este greu de imaginat.
Producția Cerebras WSE este realizată de compania TSMC. Procesul tehnologic - 16 nm FinFET. Acest producător din Taiwan și-a câștigat, de asemenea, un monument pentru fabricarea Cerebras. Producția unui astfel de cip a necesitat măiestrie deosebită și soluționarea unei mulțimi de probleme, dar a meritat, susțin dezvoltatorii. Cipul Cerebras este practic un supercomputer pe un cip, cu o capacitate de procesare incredibilă, un consum minim de energie și un paralelism fantastic. În prezent, acesta este soluția ideală pentru învățarea automată, care va permite cercetătorilor să înceapă să abordeze probleme de o complexitate extremă.
Fiecare cristal Cerebras WSE conține 1,2 trilion de tranzistori, organizați în 400.000 de nuclee de calcul optimizate pentru IA și 18 GB de memorie locală distribuită SRAM. Toate acestea sunt conectate printr-o rețea de celule cu o performanță totală de 100 petabiți pe secundă. Lățimea de bandă a memoriei atinge 9 PB/s. Ierarhia memoriei este uniscuentă. Nu există memorie cache, nu există suprapuneri, iar întârzierile de acces sunt minime. Aceasta este arhitectura perfectă pentru accelerarea sarcinilor legate de IA. Numere goale: comparativ cu cele mai moderne nuclee grafice, cipul Cerebras oferă de 3000 de ori mai multă memorie pe cristal și de 10.000 de ori mai multă viteză de transfer cu memoria.
Sistemele de calcul Cerebras – SLAC (Sparse Linear Algebra Cores) – sunt complet programabile și pot fi optimizate pentru a lucra cu orice rețele neuronale. Mai mult, arhitectura nucleelor filtrează inițial datele prezentate sub formă de zerouri. Acest lucru eliberează resursele de calcul de necesitatea de a efectua operații inutile de înmulțire cu zero, ceea ce, pentru sarcinile cu date sparse, înseamnă accelerarea calculului și eficiență energetică maximă. Astfel, procesorul Cerebras se dovedește a fi de sute sau chiar mii de ori mai eficient pentru învățarea automată în termeni de suprafață utilizată a cristalului și consumului său, comparativ cu soluțiile actuale pentru IA și învățarea automată.
Fabricarea unui cip de această dimensiune o mulțime de soluții unice. A fost necesar să fie ambalat aproape manual. Au apărut probleme cu alimentarea cu energie a cristalului și cu răcirea acestuia. Dispersia căldurii a fost posibilă doar cu lichid și doar prin organizarea unei alimentări zonale cu circulație verticală. Cu toate acestea, toate problemele au fost rezolvate și cipul a ieșit funcțional. Va fi interesant să aflăm despre aplicarea sa practică.
Sursa: 3dnews.ru
