Google har presenterat Coral NPU, en öppen plattform för att skapa AI-acceleratorer

Google har lanserat en öppen plattform, Coral NPU (Neural Processing Unit), som erbjuder en öppen hårdvaruaccelerator för maskininlärningsmodeller och programvaruverktyg för dess användning med standard AI-motorer. Coral kan användas som grund för att skapa energieffektiva system på chip (SoC), lämpliga för användning i internet of things-system, Edge-beräkningar och informationsinsamling från sensorer, samt i konsumentbärbara enheter med extremt låg energiförbrukning, såsom hörlurar, augmented reality-glasögon och smarta klockor. Projektets resultat sprids under Apache 2.0-licensen.

Coral NPU syftar till att köra ständigt aktiva AI-applikationer på bärbara enheter med minimal energiförbrukning. Den grundläggande implementeringen av Coral NPU ger en prestanda på 512 miljarder operationer per sekund (GOPS) vid en energiförbrukning på bara några milliwatt. NPU:n är utformad för flexibel modifiering av arkitekturen beroende på behov hos SoC-tillverkarna. Den första tillverkaren som börjar producera chip baserade på Coral NPU blir Synaptics, som har tillkännagett en serie processorer för internet of things-enheter, Astra SL2610, som inkluderar Torq NPU-subsystemet, baserat på Coral NPU-arkitekturen.

Bland typiska tillämpningar av Coral NPU nämns användning av AI för bild- och ljudbehandling, användarinteraktion och kontextuell medvetenhet. Till exempel kan enheter köra stora språkmodeller och applikationer för ansikts- och objektigenkänning, visuell sökning, taligenkänning, realtidsöversättning, taltranskribering, utvinning av nyckelord från tal, gest- och röstkommandohantering, samt aktivitetsdetektering (gång, löpning, sömn) och typ av omgivning (inomhus, utomhus).

NPU:n använder en 32-bitars RISC-V RV32IMF_Zve32x instruktionuppsättning, AXI4-buss, en fyrstegs instruktionspipeline med ordnad schemaläggning, oordnad instruktionsavslutning och fyra trådar för skalär samt två trådar för vektorschemaläggning. Processorn stöder SIMD-operationer för samtidig bearbetning av 128-bitars vektorer och är utrustad med 8 KB ITCM-minne för instruktioner och 32 KB DTCM-minne för data.

NPU inkluderar tre samverkande processor komponenter:

• Kärna för skalära beräkningar – en lättvikts programmerbar i C-front-end RISC-V, som styr datavströmmarna till de primära kärnorna och använder modellen 'exekvera till avslut' för att säkerställa funktionaliteten hos traditionella CPU:er med extremt låg energiförbrukning.
• Vektorsimuleringsprocessor (SIMD) som stöder vektorutvidgningar av instruktionerna RISC-V (RVV v1.0) och möjliggör samtidig utförning av flera operationer på stora datamängder.
• Matrisprocessorn som effektivt utför operationer för sammansatt multiplikation- och additionsoperationer (MAC) och är utformad för att påskynda grundläggande operationer för neurala nätverk.

För applikationsutvecklare har en uppsättning av AI-modellkompilatorer (IREE och TFLM), en C-programkompilator och simulatorsats förberetts. Kompilering av modeller som används i AI-applikationer baserat på ramverken TensorFlow, JAX och PyTorch stöds. Modellen kompileras till en universell mellanliggande representation som sedan konverteras till ett lågnivå RISC-V instruktioner med hjälp av LLVM, vilket stöds i Coral NPU.

Källa: opennet.ru