Tillkännagivande av processorn Cerebras ― Cerebras Wafer Scale Engine (WSE) eller Cerebras skala av kiselplatta ― i samband med den årliga konferensen Hot Chips 31. När man ser denna kiselmonster förbluffar det inte ens att den faktiskt har blivit utgiven. Det som förbluffar är djärvheten i konceptet och arbetet från utvecklarna, som har vågat utveckla en kristall med en yta av 46 225 kvadratmillimeter med sidor på 21,5 cm. Framställningen av en enda processor kräver en hel 300 mm platta. Vid minsta misstag är avfallsnivån 100 %, och priset på frågan är svårt att föreställa sig.
Utvecklingen av Cerebras WSE hanteras av företaget TSMC. Tillverkningsprocessen är 16 nm FinFET. Denna taiwanesiska tillverkare förtjänar också ett monument för att ha släppt Cerebras. Produktionen av en sådan chip krävde högsta hantverk och lösningar på massor av problem, men det var värt det, försäkrar utvecklarna. Cerebras-chippet är faktiskt en superdator på en chip med otrolig bandbredd, minimal förbrukning och fantastisk parallellism. I nuläget är detta en perfekt lösning för maskininlärning, som kommer att möjliggöra för forskare att börja lösa extremt komplexa uppgifter.
Varje Cerebras WSE-kristall innehåller 1,2 biljoner transistorer, organiserade i 400 000 AI-optimerade beräkningskärnor och 18 GB lokal distribuerad SRAM-minne. Allt är kopplat med en nätverksstruktur med en total prestanda på 100 petabit per sekund. Minnebandbredden når 9 PB/s. Minnehierarkin är enkelskiktad. Det finns ingen cache-minne, inga överlappningar, och fördröjningen är minimal. Detta är den perfekta arkitekturen för acceleration av AI-relaterade uppgifter. Bara siffror: i jämförelse med de mest moderna grafikkärnorna ger Cerebras-chippet 3000 gånger mer minne per kristall och 10 000 gånger snabbare minnesutbyte.
Cerebras beräkningskärnor – SLAC (Sparse Linear Algebra Cores) – är helt programmerbara och kan optimeras för alla typer av neurala nätverk. Dessutom filtrerar kärnarkitekturen ursprungligen data som innehåller nollor. Detta frigör beräkningsresurser från att utföra onödiga multiplikationer med noll, vilket i fallet med sporadiska data innebär en ökning av beräkningshastigheten och extrem energieffektivitet. Därmed visar sig Cerebras-processorn vara hundratals eller till och med tusentals gånger mer effektiv för maskininlärning i termer av den använda kiselarean och dess energiförbrukning jämfört med aktuella lösningar för AI och maskininlärning.
Tillverkningen av en chip av denna storlek en mängd unika lösningar. Den fick nästan packas för hand. Det uppstod problem med att förse kristallen med ström och kyla den. Värmeavledning blev möjlig först med hjälp av vätska, och endast med en zonerad tillförsel med vertikal cirkulation. Ändå löstes alla problem och chippet blev funktionellt. Det kommer att bli intressant att veta mer om dess praktiska tillämpning.
Källa: 3dnews.ru
