Kunngjøring av Cerebras-prosessoren ― Cerebras Wafer Scale Engine (WSE) eller Cerebras wafer scale engine ― som en del av den årlige Hot Chips 31-konferansen. Når man ser på dette silisiummonsteret, er det overraskende ikke engang det faktum at de kunne frigjøre det i kjøttet. Motet til designet og arbeidet til utviklerne som risikerte å utvikle en krystall med et areal på 46 225 kvadratmillimeter med sider på 21,5 cm er overraskende. Det trengs en hel 300 mm skive for å lage én prosessor. Med den minste feilen er feilraten 100%, og kostnadene for problemet er til og med vanskelig å forestille seg.
Cerebras WSE er produsert av TSMC. Teknologisk prosess: 16 nm FinFET. Denne taiwanske produsenten fortjener også et monument for utgivelsen av Cerebras. Produksjonen av en slik brikke krevde den høyeste ferdigheten og løste mange problemer, men det var verdt det, forsikrer utviklerne. Cerebras-brikken er i hovedsak en superdatamaskin på en brikke med utrolig gjennomstrømning, minimalt strømforbruk og fantastisk parallellitet. Dette er nå den ideelle maskinlæringsløsningen som vil tillate forskere å begynne å løse problemer med ekstrem kompleksitet.
Hver Cerebras WSE-dyse inneholder 1,2 billioner transistorer, organisert i 400 000 AI-optimaliserte datakjerner og 18 GB lokalt distribuert SRAM. Alt dette er forbundet med et mesh-nettverk med en total gjennomstrømning på 100 petabits per sekund. Minnebåndbredden når 9 PB/s. Minnehierarkiet er ett-nivå. Det er ikke noe hurtigbufferminne, ingen overlapping og minimale tilgangsforsinkelser. Det er en ideell arkitektur for å akselerere AI-relaterte oppgaver. Nakne tall: sammenlignet med de mest moderne grafikkkjernene gir Cerebras-brikken 3000 ganger mer minne på brikken og 10 ganger høyere minneoverføringshastighet.
Cerebras datakjerner - SLAC (Sparse Linear Algebra Cores) - er fullt programmerbare og kan optimaliseres for arbeid med alle nevrale nettverk. Dessuten filtrerer kjernearkitekturen iboende data representert med nuller. Dette frigjør dataressurser fra behovet for å utføre inaktiv multiplikasjon med null operasjoner, som for sparsom databelastning betyr raskere beregninger og ekstrem energieffektivitet. Dermed viser Cerebras-prosessoren seg å være hundrevis eller til og med tusenvis av ganger mer effektiv for maskinlæring når det gjelder brikkeareal og forbruk enn dagens løsninger for AI og maskinlæring.
Produserer en brikke av lignende størrelse mange unike løsninger. Den måtte til og med pakkes inn i kofferten nesten for hånd. Det var problemer med å levere strøm til krystallen og avkjøle den. Varmefjerning ble bare mulig med væske og bare med organisering av soneforsyning med vertikal sirkulasjon. Imidlertid ble alle problemene løst og brikken virket. Det vil være interessant å lære om dens praktiske anvendelse.
Kilde: 3dnews.ru