Ankündigung des Prozessors Cerebras – Cerebras Wafer Scale Engine (WSE) oder Cerebras-Motor im Wafermaßstab – im Rahmen der jährlichen Konferenz Hot Chips 31. Wenn man sich diesen Silizium-Riesen ansieht, erstaunt nicht einmal, dass es gelungen ist, ihn in der Realität zu produzieren. Es erstaunt der Mut der Idee und die Arbeit der Entwickler, die riskiert haben, einen Chip mit einer Fläche von 46.225 Quadratmillimetern und Seitenlängen von 21,5 cm zu entwickeln. Für die Herstellung eines Prozessors wird eine gesamte 300-mm-Scheibe benötigt. Bei dem geringsten Fehler liegt die Ausfallquote bei 100 %, und der Preis ist schwer vorstellbar.
Die Produktion des Cerebras WSE erfolgt durch die Firma TSMC. Der Fertigungsprozess beträgt 16 nm FinFET. Dieser taiwanesische Hersteller hat ebenfalls einen Platz in den Annalen für die Herstellung von Cerebras verdient. Die Produktion eines solchen Chips erforderte höchste Fertigungskunst und die Lösung zahlreicher Probleme, aber es hat sich gelohnt, versichern die Entwickler. Der Cerebras-Chip ist praktisch ein Supercomputer auf einem Chip mit unglaublicher Bandbreite, minimalem Verbrauch und fantastischem Parallelismus. Zurzeit ist es die ideale Lösung für maschinelles Lernen, die es Forschern ermöglicht, extrem komplexe Probleme zu lösen.
Jeder Chip des Cerebras WSE enthält 1,2 Billionen Transistoren, die in 400.000 KI-optimierten Recheneinheiten und 18 GB lokaler verteilte SRAM-Speicher organisiert sind. All dies ist durch ein Zellnetzwerk verbunden, das eine Gesamtleistung von 100 Petabit pro Sekunde bietet. Die Speicherdurchsatzrate erreicht 9 PB/s. Die Speichhierarchie ist einstufig. Es gibt keinen Cache, keine Überlagerungen, die Zugriffsverzögerungen sind minimal. Dies ist die ideale Architektur zur Beschleunigung von KI-bezogenen Aufgaben. Die nackten Zahlen: Im Vergleich zu den modernsten Grafikprozessoren bietet der Cerebras-Chip 3.000-mal mehr Speicher auf dem Chip und 10.000-mal schnelleren Speicherzugriff.
Die Rechenkernen von Cerebras – SLAC (Sparse Linear Algebra Cores) – sind vollständig programmierbar und können für alle Arten von neuronalen Netzwerken optimiert werden. Darüber hinaus filtert die Architektur der Kerne ursprünglich Daten, die durch Nullen dargestellt sind. Dies befreit die Rechenressourcen von der Notwendigkeit, nutzlose Multiplikationen mit Null durchzuführen, was für die Verarbeitung von spärlichen Daten eine Beschleunigung der Berechnungen und maximale Energieeffizienz bedeutet. Damit ist der Cerebras-Prozessor in Bezug auf die eingesetzte Kristallfläche und den Energieverbrauch Hunderte oder sogar Tausende von Malen effizienter für das maschinelle Lernen als die aktuellen Lösungen für KI und maschinelles Lernen.
Die Herstellung eines Chips dieser Größe eine Vielzahl einzigartiger Lösungen. Sogar die Verpackung in ein Gehäuse musste fast von Hand erfolgen. Es gab Probleme mit der Stromversorgung des Chips und seiner Kühlung. Die Wärmeabfuhr war nur mit Flüssigkeit und nur durch die Organisation einer zonalen Zufuhr mit vertikaler Zirkulation möglich. Dennoch wurden alle Probleme gelöst, und der Chip wurde funktionsfähig. Es wird interessant sein zu erfahren, wie er praktisch eingesetzt wird.
Quelle: 3dnews.ru
