Google telah meluncurkan platform Coral NPU (Neural Processing Unit) sumber terbuka, yang menawarkan akselerator perangkat keras terbuka untuk model pembelajaran mesin dan perangkat lunak untuk digunakan dengan mesin AI standar. Coral dapat digunakan sebagai fondasi untuk menciptakan sistem-pada-chip (SoC) hemat energi yang cocok untuk digunakan dalam sistem IoT, komputasi tepi, dan papan pengumpulan data sensor, serta perangkat wearable konsumen berdaya sangat rendah seperti headphone, kacamata realitas tertambah, dan jam tangan pintar. Proyek ini dilisensikan di bawah lisensi Apache 2.0.
NPU Coral dirancang untuk menjalankan aplikasi AI yang selalu aktif pada perangkat portabel dengan konsumsi daya minimal. Implementasi dasar NPU Coral menghasilkan 512 miliar operasi per detik (GOPS) dengan konsumsi daya hanya beberapa miliwatt. NPU ini dirancang untuk modifikasi arsitektur yang fleksibel berdasarkan kebutuhan produsen SoC. Synaptics akan menjadi produsen pertama yang mulai memproduksi chip berbasis NPU Coral, setelah mengumumkan seri prosesor Astra SL2610 untuk perangkat IoT, yang mencakup subsistem NPU Torq berbasis arsitektur NPU Coral.
Aplikasi umum Coral NPU mencakup penggunaan AI untuk pemrosesan gambar dan audio, interaksi pengguna, dan kesadaran konteks. Misalnya, perangkat ini dapat menjalankan model bahasa berskala besar dan aplikasi untuk pengenalan wajah dan objek, pencarian visual, pengenalan suara, terjemahan langsung, transkripsi suara, ekstraksi kata kunci, kontrol gestur dan suara, serta aktivitas pengguna (berjalan, berlari, tidur) dan lingkungan (di dalam dan di luar ruangan).
NPU menggunakan arsitektur set instruksi RISC-V RV32IMF_Zve32x 32-bit, bus AXI4, dan alur pemrosesan instruksi empat tahap dengan pengiriman berurutan, penyelesaian tidak berurutan, pengiriman skalar empat aliran, dan pengiriman vektor dua aliran. Prosesor ini mendukung operasi SIMD untuk pemrosesan vektor 128-bit secara simultan dan dilengkapi dengan memori instruksi 8 KB dan memori data 32 KB.
NPU terdiri dari tiga komponen pemrosesan yang bekerja bersama:
- Inti skalar adalah antarmuka RISC-V ringan yang dapat diprogram C yang mengelola aliran data ke inti utama dan menggunakan model run-to-completion untuk menyediakan fungsionalitas CPU tradisional dan konsumsi daya yang sangat rendah.
- Koprosesor SIMD vektor yang mendukung ekstensi vektor pada set instruksi RISC-V (RVV v1.0) dan memungkinkan eksekusi simultan beberapa operasi pada sejumlah besar data.
- Koprosesor matriks yang secara efisien melakukan operasi perkalian-penambahan (MAC) dan dirancang untuk mempercepat operasi jaringan saraf dasar.
Seperangkat kompiler model AI (IREE dan TFLM), kompiler C, dan simulator telah disiapkan untuk para pengembang aplikasi. Kompilasi model yang digunakan dalam aplikasi AI berbasis kerangka kerja TensorFlow, JAX, dan PyTorch didukung. Model tersebut dikompilasi menjadi representasi perantara universal, yang kemudian dikonversi menggunakan LLVM ke dalam set instruksi RISC-V tingkat rendah yang didukung oleh Coral NPU.
Sumber: opennet.ru
