Paziņojums par Cerebras procesoru — Cerebras Wafer Scale Engine (WSE) vai Cerebras vafeļu skalas dzinēju ― kā daļa no ikgadējās konferences Hot Chips 31. Skatoties uz šo silīcija briesmoni, pārsteidzoši nav pat fakts, ka viņi varētu to atbrīvot miesā. Pārsteidza dizaina drosme un izstrādātāju darbs, kuri riskēja izveidot kristālu 46 225 kvadrātmilimetru platībā ar 21,5 cm malām. Viena procesora izgatavošanai nepieciešama vesela 300 mm vafele. Ar mazāko kļūdu defektu līmenis ir 100%, un problēmas izmaksas ir pat grūti iedomāties.
Cerebras WSE ražo TSMC. Tehnoloģiskais process: 16 nm FinFET. Šis Taivānas ražotājs arī ir pelnījis pieminekli par Cerebras atbrīvošanu. Šādas mikroshēmas izgatavošana prasīja visaugstākās prasmes un daudzu problēmu risināšanu, taču tas bija tā vērts, apliecina izstrādātāji. Cerebras mikroshēma būtībā ir mikroshēmas superdators ar neticamu caurlaidspēju, minimālu enerģijas patēriņu un fantastisku paralēlismu. Tagad tas ir ideāls mašīnmācīšanās risinājums, kas ļaus pētniekiem sākt risināt ārkārtīgi sarežģītas problēmas.
Katrā Cerebras WSE formā ir 1,2 triljoni tranzistoru, kas ir sakārtoti 400 000 AI optimizētos skaitļošanas kodolos un 18 GB vietējā izplatītā SRAM. Tas viss ir savienots ar tīkla tīklu ar kopējo caurlaidspēju 100 petabiti sekundē. Atmiņas joslas platums sasniedz 9 PB/s. Atmiņas hierarhija ir viena līmeņa. Nav kešatmiņas, nav pārklāšanās un minimālas piekļuves aizkaves. Tā ir ideāla arhitektūra, lai paātrinātu ar AI saistītus uzdevumus. Pliki skaitļi: salīdzinot ar modernākajiem grafikas kodoliem, Cerebras mikroshēma nodrošina 3000 reižu lielāku atmiņu mikroshēmā un 10 000 reižu lielāku atmiņas pārsūtīšanas ātrumu.
Smadzeņu skaitļošanas kodoli - SLAC (Sparse Linear Algebra Cores) - ir pilnībā programmējami un var tikt optimizēti darbam ar jebkuriem neironu tīkliem. Turklāt kodola arhitektūra pēc būtības filtrē datus, kas attēloti ar nullēm. Tas atbrīvo skaitļošanas resursus no nepieciešamības veikt dīkstāves reizināšanu ar nulli, kas mazai datu ielādei nozīmē ātrākus aprēķinus un ārkārtēju energoefektivitāti. Tādējādi Cerebras procesors izrādās simtiem vai pat tūkstošiem reižu efektīvāks mašīnmācībā mikroshēmas platības un patēriņa ziņā nekā pašreizējie AI un mašīnmācības risinājumi.
Līdzīga izmēra mikroshēmas izgatavošana daudz unikālu risinājumu. Tas pat bija jāiepako korpusā gandrīz ar roku. Bija problēmas ar strāvas padevi kristālam un tā dzesēšanu. Siltuma noņemšana kļuva iespējama tikai ar šķidrumu un tikai ar zonālās piegādes organizēšanu ar vertikālu cirkulāciju. Tomēr visas problēmas tika atrisinātas, un mikroshēma iznāca darboties. Būs interesanti uzzināt par tā praktisko pielietojumu.
Avots: 3dnews.ru