Google hà svelatu a piattaforma open-source Coral NPU (Neural Processing Unit), chì offre un acceleratore hardware apertu per i mudelli di apprendimentu automaticu è strumenti software per aduprà cù i motori IA standard. Coral pò esse adupratu cum'è basa per creà sistemi nantu à un chip (SoC) à risparmiu energeticu adatti per l'usu in sistemi IoT, edge computing è schede di raccolta dati di sensori, è ancu dispositivi indossabili di cunsumu à bassissima putenza cum'è cuffie, occhiali di realtà aumentata è smartwatch. U travagliu di u prugettu hè licenziatu sottu a licenza Apache 2.0.
L'NPU Coral hè cuncipitu per eseguisce applicazioni AI sempre attive nantu à dispositivi portatili cù un cunsumu energeticu minimu. L'implementazione di basa di Coral NPU furnisce 512 miliardi d'operazioni per seconda (GOPS) mentre cunsuma solu uni pochi di milliwatt di putenza. L'NPU hè cuncipitu per mudificazioni d'architettura flessibili basate nantu à i bisogni di i pruduttori di SoC. Synaptics serà u primu pruduttore à cumincià à pruduce chip basati nantu à l'NPU Coral, avendu annunziatu a serie di processori Astra SL2610 per i dispositivi IoT, chì include u sottosistema Torq NPU basatu nantu à l'architettura Coral NPU.
L'applicazioni tipiche di u Coral NPU includenu l'usu di l'IA per u trattamentu di l'imagine è di l'audio, l'interazzione di l'utente è a cuscenza di u cuntestu. Per esempiu, i dispusitivi ponu eseguisce grandi mudelli linguistichi è applicazioni per u ricunniscimentu faciale è di l'uggetti, a ricerca visuale, u ricunniscimentu vocale, a traduzzione in diretta, a trascrizione vocale, l'estrazione di parole chjave, u cuntrollu di gesti è voce, è l'attività di l'utente (camminà, corre, dorme) è l'ambiente (in interni, in esterni).
L'NPU utilizza l'architettura di u set d'istruzzioni RISC-V RV32IMF_Zve32x à 32 bit, un bus AXI4 è una pipeline di trasfurmazione d'istruzzioni à quattru tappe cù dispatch in ordine, cumpletamentu fora d'ordine, dispatch scalare à quattru flussi è dispatch vettoriale à dui flussi. U processore supporta l'operazioni SIMD per l'elaborazione simultanea di vettori à 128 bit è hè dotatu di 8 KB di memoria d'istruzzioni è 32 KB di memoria di dati.
L'NPU hè custituita da trè cumpunenti di trasfurmazione chì travaglianu inseme:
- U core scalare hè un frontend RISC-V ligeru è programmabile in C chì gestisce i flussi di dati versu i core principali è utilizza un mudellu run-to-completion per furnisce a funzionalità tradiziunale di a CPU è un cunsumu energeticu ultra bassu.
- Un coprocessore SIMD vettoriale chì supporta estensioni vettoriali à u set d'istruzzioni RISC-V (RVV v1.0) è permette l'esecuzione simultanea di parechje operazioni nantu à grandi quantità di dati.
- Un coprocessore di matrice chì esegue in modu efficiente operazioni di multiplicazione-addizione (MAC) è hè cuncipitu per accelerà l'operazioni di rete neurale di basa.
Un inseme di cumpilatori di mudelli IA (IREE è TFLM), un cumpilatore C è un simulatore sò stati preparati per i sviluppatori di applicazioni. A cumpilazione di mudelli utilizati in applicazioni IA basate nantu à i framework TensorFlow, JAX è PyTorch hè supportata. U mudellu hè cumpilatu in una rapprisentazione intermedia universale, chì hè poi cunvertita cù LLVM in l'inseme d'istruzzioni RISC-V di bassu livellu supportatu da a Coral NPU.
Source: opennet.ru
