Annuncio del processore Cerebras ― Cerebras Wafer Scale Engine (WSE) o motore Cerebras in scala wafer ― nell'ambito della conferenza annuale Hot Chips 31. Guardando questo mostro di silicio, sorprende non solo il fatto che sia stato realizzato. Sorprende il coraggio dell'idea e il lavoro degli sviluppatori che hanno osato progettare un chip di 46.225 millimetri quadrati con lati di 21,5 cm. La produzione di un singolo processore richiede un'intera wafer da 300 mm. Con il minimo errore, il tasso di difetti è del 100%, e il costo è difficile anche da immaginare.
La produzione del Cerebras WSE è gestita dalla TSMC. Il processo tecnologico è a 16 nm FinFET. Anche questo produttore taiwanese merita un monumento per aver prodotto Cerebras. La realizzazione di un chip simile ha richiesto abilità di alto livello e la risoluzione di molteplici problemi, ma ne è valsa la pena, assicurano gli sviluppatori. Il chip Cerebras è praticamente un supercomputer su un chip con un'incredibile capacità di trasmissione, minimo consumo e fantastico parallelismo. Al momento, è la soluzione ideale per il machine learning, che permetterà ai ricercatori di affrontare compiti di straordinaria complessità.
Ogni chip Cerebras WSE contiene 1,2 trilioni di transistor, organizzati in 400.000 nuclei di elaborazione ottimizzati per l'IA e 18 GB di memoria SRAM distribuita locale. Il tutto è connesso attraverso una rete a celle con una capacità complessiva di 100 petabit al secondo. La larghezza di banda della memoria raggiunge 9 PB/s. La gerarchia della memoria è monolivello. Non ci sono memorie cache, non ci sono sovrapposizioni, e i ritardi di accesso sono minimi. Questa è l'architettura ideale per accelerare le applicazioni legate all'IA. Dati concreti: in confronto ai più moderni nuclei grafici, il chip Cerebras offre 3000 volte maggiore capacità di memoria sul chip e 10.000 volte maggiore velocità di accesso alla memoria.
I nuclei di calcolo Cerebras ― SLAC (Sparse Linear Algebra Cores) ― sono completamente programmabili e possono essere ottimizzati per lavorare con qualsiasi rete neurale. Inoltre, l'architettura dei nuclei filtra inizialmente i dati rappresentati da zeri. Questo libera le risorse di calcolo dall'obbligo di eseguire operazioni di moltiplicazione per zero, il che per carichi di dati sparsi significa una maggiore velocità di calcolo e una massima efficienza energetica. In questo modo, il processore Cerebras si dimostra centinaia o addirittura migliaia di volte più efficiente per il machine learning in termini di area del cristallo utilizzata e di consumo rispetto alle attuali soluzioni per l'IA e il machine learning.
La produzione di un chip di dimensioni simili una moltitudine di soluzioni uniche. È stato necessario quasi assemblarlo manualmente. Ci sono stati problemi nell'alimentazione del cristallo e nel suo raffreddamento. Il raffreddamento è stato possibile solo con un liquido e con l'organizzazione di una distribuzione zonale con circolazione verticale. Tuttavia, tutti i problemi sono stati risolti e il chip è risultato funzionante. Sarà interessante conoscere il suo utilizzo pratico.
Fonte: 3dnews.ru
