Cerebras protsessori kuulutus ― Cerebras Wafer Scale Engine (WSE) või Cerebrase silikoonplaadi suuruse mootori kuulutamine ― aastase Hot Chips 31 konverentsi raames. Vaadates seda silikoonmonstrumit, üllatab mitte niivõrd see, et nad suudavad seda reaalselt toota. Üllatab idee julgus ja arendajate vaev, kes riskisid töötada 46 225 ruutsentimeetri suuruse kristalli välja töötamisega, mille külgede pikkus on 21,5 cm. Ühe protsessori valmistamiseks kulub kogu 300 mm plaat. Isegi kõige väiksema vea korral on defekti tase 100%, ning küsimuse hind on isegi raske ette kujutada.
Cerebras WSE tootmisprotsessi juhib ettevõte TSMC. Tehnoloogia on 16 nm FinFET. See taivani tootja on samuti teeninud mälestusmärgi Cerebrase tootmise eest. Niisuguse kiibi valmistamine nõudis äärmist meisterlikkust ja hulga probleemide lahendamist, kuid nagu arendajad usuvad, oli see seda väärt. Cerebrase kiip on praktikas superarvuti kiibil, millel on uskumatud andmeedastuse võimed, minimaalne tarbimine ja fantastiline paralleelsus. Praegu on see ideaalne lahendus masinõppe jaoks, mis võimaldab teadlastel alustada äärmiselt keeruliste probleemide lahendamisega.
Iga Cerebras WSE kristall sisaldab 1,2 triljonit transistorit, mis on organiseeritud 400 000 AI-optimeeritud arvutustuuma ja 18 GB kohaliku jaotatud SRAM-mälu vahel. Kõik see on ühendatud rakustruktuuriga, mille kogutootlikkus on 100 petabit sekundis. Mälu läbilaskevõime ulatub 9 PB/s. Mälu hierarhia on ühekordne. Vahemälu puudub, kattuvusi ei ole, juurdepääsul on minimaalne latentsus. See on ideaalne arhitektuur AI-ülesannete kiirendamiseks. Tootlikud numbrid: võrreldes kõige kaasaegsemate graafikatuumadega pakub Cerebrase kiip 3000 korda suuremat mälu mahtu kristallil ja 10 000 korda suuremat mälu vahetuskiirust.
Cerebras'i arvutus tuumad — SLAC (Sparse Linear Algebra Cores) — on täielikult programmeeritavad ja neid saab optimeerida töötamiseks mis tahes närvivõrkudega. Veelgi enam, tuumade arhitektuur filtreerib algselt andmeid, mis on esitatud nullide kaudu. See vabastab arvutusressursid vajadusest teostada tulutuid nulliga korrutamise operatsioone, mis andmete koormuse osas tähendab arvutuste kiirusetõusu ja äärmist energiaefektiivsust. Seega on Cerebras'i protsessor sadade või isegi tuhandete kordade võrra tõhusam masinõppe osas, kui vaadata kristalli hõivatud pinda ja selle tarbimist, võrreldes tänapäevaste lahendustega AI ja masinõppe jaoks.
Sellise suurusega kiibi valmistamine palju unikaalseid lahendusi. Selle paigutamine korpusesse pidi olema peaaegu käsitsi teostatav. Ilmnesid probleemid, kuidas toita kristalli ja selle jahutada. Soojuse juhtimine oli võimalik ainult vedelikuga ning see nõudis piirkondlikku tarnimist koos vertikaalse tsirkulatsiooniga. Sellegipoolest saadi kõik probleemid lahendatud ja kiip töötas. Oleks huvitav teada selle praktilisest rakendusest.
Allikas: 3dnews.ru
