Aankondiging van de processor Cerebras ― Cerebras Wafer Scale Engine (WSE) of de Cerebras-siliconen schalemotor ― tijdens de jaarlijkse conferentie Hot Chips 31. Het is verbazingwekkend om naar deze siliciumreus te kijken, niet alleen omdat het gelukt is om het daadwerkelijk te produceren. Wat echt verrast, is de moed van het ontwerp en het werk van de ontwikkelaars, die het aandurfden om een chip met een oppervlakte van 46.225 vierkante millimeter en zijden van 21,5 cm te ontwikkelen. Voor de fabricage van één processor is een complete 300-mm siliconen wafer nodig. Bij de kleinste fout is het percentage defecten 100%, en de prijs voor deze uitdaging is vrijwel niet voor te stellen.
De productie van de Cerebras WSE wordt verzorgd door TSMC. De technologie is 16 nm FinFET. Deze Taiwanese fabrikant heeft ook een monument verdiend voor de productie van Cerebras. De fabricage van een dergelijke chip vereiste de hoogste vaardigheden en het oplossen van talloze problemen, maar het was de moeite waard, verzekeren de ontwikkelaars. De Cerebras-chip is in wezen een supercomputer op een chip met een ongelooflijke bandbreedte, een minimaal energieverbruik en fantastische parallelle verwerking. Momenteel is dit de ideale oplossing voor machine learning, die onderzoekers in staat zal stellen om uiterst complexe problemen op te lossen.
Elke Cerebras WSE-chip bevat 1,2 biljoen transistors, georganiseerd in 400.000 AI-geoptimaliseerde verwerkingskernen en 18 GB lokale gedistribueerde SRAM-geheugen. Dit alles is verbonden via een celnetwerk met een totale prestaties van 100 petabit per seconde. De geheugensnelheid is tot 9 PB/s. De geheugenhierarchie is eendaags. Er is geen cache-geheugen, geen overlapping, en de toegangslatentie is minimaal. Dit is de perfecte architectuur voor het versnellen van AI-gerelateerde taken. De cijfers zijn indrukwekkend: vergeleken met de modernste grafische kernen biedt de Cerebras-chip 3000 keer meer geheugen op de chip en 10.000 keer snellere geheugenuitwisseling.
De rekencores van Cerebras – SLAC (Sparse Linear Algebra Cores) – zijn volledig programmeerbaar en kunnen worden geoptimaliseerd voor gebruik met elke neurale netwerken. Bovendien filtert de architectuur van de cores gegevens die als nullen zijn gepresenteerd. Dit bevrijdt de rekenresources van de noodzaak om nutteloze vermenigvuldigingen met nul uit te voeren, wat voor een belasting met spaarzame gegevens betekent dat de berekeningen versneld worden en de energie-efficiëntie maximaal is. Hierdoor blijkt de Cerebras-processor honderden of zelfs duizenden keren efficiënter te zijn voor machine learning in termen van de betrokken kristaloppervlakte en het energieverbruik dan de huidige oplossingen voor AI en machine learning.
De fabricage van een chip van deze grootte een reeks unieke oplossingen. De verpakking moest bijna handmatig gebeuren. Er waren problemen met de stroomvoorziening naar de chip en de koeling. Warmteafvoer was alleen mogelijk via vloeistof en alleen met een zonesysteem voor verticale circulatie. Toch werden alle problemen opgelost en de chip werkte. Het zal interessant zijn om te zien hoe deze praktisch zal worden toegepast.
Bron: 3dnews.ru
