Pengumuman prosesor Cerebras ― Cerebras Wafer Scale Engine (WSE) atau mesin skala wafer Cerebras ― sebagai bagian dari konferensi tahunan Hot Chips 31. Melihat monster silikon ini, yang mengejutkan bukanlah fakta bahwa mereka dapat melepaskannya secara langsung. Keberanian desain dan karya para pengembang yang mengambil risiko mengembangkan kristal dengan luas 46 milimeter persegi dengan sisi 225 cm sungguh mengejutkan.Dibutuhkan seluruh wafer 21,5 mm untuk membuat satu prosesor. Dengan kesalahan sekecil apa pun, tingkat kerusakannya adalah 300%, dan biaya masalah ini bahkan sulit dibayangkan.
Cerebras WSE diproduksi oleh TSMC. Proses teknologi: FinFET 16 nm. Pabrikan asal Taiwan ini pun layak mendapat monumen pelepasan Cerebras. Produksi chip semacam itu membutuhkan keterampilan tertinggi dan penyelesaian banyak masalah, tetapi itu sepadan, para pengembang meyakinkan. Chip Cerebras pada dasarnya adalah superkomputer dalam sebuah chip dengan throughput luar biasa, konsumsi daya minimal, dan paralelisme yang fantastis. Ini adalah solusi pembelajaran mesin ideal yang memungkinkan peneliti mulai memecahkan masalah dengan kompleksitas ekstrem.
Setiap die Cerebras WSE berisi 1,2 triliun transistor, disusun dalam 400 inti komputasi yang dioptimalkan AI dan 000 GB SRAM terdistribusi lokal. Semua ini dihubungkan oleh jaringan mesh dengan total throughput 18 petabit per detik. Bandwidth memori mencapai 100 PB/s. Hierarki memori adalah satu tingkat. Tidak ada memori cache, tidak ada tumpang tindih, dan penundaan akses minimal. Ini adalah arsitektur yang ideal untuk mempercepat tugas-tugas terkait AI. Angka telanjang: dibandingkan dengan inti grafis paling modern, chip Cerebras menyediakan memori on-chip 9 kali lebih banyak dan kecepatan transfer memori 3000 kali lebih banyak.
Inti komputasi Cerebras - SLAC (Sparse Linear Algebra Cores) - sepenuhnya dapat diprogram dan dioptimalkan untuk bekerja dengan jaringan saraf apa pun. Selain itu, arsitektur kernel secara inheren memfilter data yang diwakili oleh angka nol. Hal ini membebaskan sumber daya komputasi dari kebutuhan untuk melakukan operasi perkalian idle dengan nol, yang berarti penghitungan lebih cepat dan efisiensi energi yang ekstrem untuk beban data yang jarang. Dengan demikian, prosesor Cerebras ternyata ratusan atau bahkan ribuan kali lebih efisien untuk pembelajaran mesin dalam hal area chip dan konsumsi dibandingkan solusi AI dan pembelajaran mesin saat ini.
Memproduksi chip dengan ukuran yang sama banyak solusi unik. Bahkan harus dimasukkan ke dalam kotak hampir dengan tangan. Ada masalah dalam menyuplai daya ke kristal dan mendinginkannya. Penghapusan panas menjadi mungkin hanya dengan bantuan cairan dan hanya dengan pengaturan pasokan zonal dengan sirkulasi vertikal. Namun, semua masalah telah terpecahkan dan chip dapat berfungsi. Akan menarik untuk mempelajari penerapan praktisnya.
Sumber: 3dnews.ru