Společnost Google představila open-source platformu Coral NPU (Neural Processing Unit), která nabízí otevřený hardwarový akcelerátor pro modely strojového učení a softwarové nástroje pro její použití se standardními enginy umělé inteligence. Coral lze použít jako základ pro vytváření energeticky úsporných systémů na čipu (SoC) vhodných pro použití v systémech IoT, edge computingu a deskách pro sběr dat ze senzorů, stejně jako pro ultranízkoenergetická nositelná zařízení pro spotřebu, jako jsou sluchátka, brýle pro rozšířenou realitu a chytré hodinky. Práce projektu je licencována pod licencí Apache 2.0.
NPU Coral je navržen pro spouštění neustále zapnutých aplikací umělé inteligence na přenosných zařízeních s minimální spotřebou energie. Základní implementace NPU Coral dosahuje 512 miliard operací za sekundu (GOPS) při spotřebě jen několika miliwattů energie. NPU je navržen pro flexibilní úpravy architektury na základě potřeb výrobců SoC. Společnost Synaptics bude prvním výrobcem, který začne vyrábět čipy založené na NPU Coral, a to poté, co oznámila řadu procesorů Astra SL2610 pro zařízení IoT, která zahrnuje subsystém NPU Torq založený na architektuře NPU Coral.
Mezi typické aplikace Coral NPU patří využití umělé inteligence pro zpracování obrazu a zvuku, interakci s uživatelem a kontextové povědomí. Zařízení mohou například spouštět rozsáhlé jazykové modely a aplikace pro rozpoznávání obličejů a objektů, vizuální vyhledávání, rozpoznávání řeči, živý překlad, transkripci řeči, extrakci klíčových slov, ovládání gesty a hlasem a aktivitu uživatele (chůze, běh, spaní) a prostředí (uvnitř, venku).
NPU využívá 32bitovou architekturu instrukční sady RISC-V RV32IMF_Zve32x, sběrnici AXI4 a čtyřstupňový pipeline pro zpracování instrukcí s odesíláním v pořadí, dokončováním mimo pořadí, čtyřproudovým skalárním odesíláním a dvouproudovým vektorovým odesíláním. Procesor podporuje operace SIMD pro simultánní zpracování 128bitových vektorů a je vybaven 8 KB instrukční paměti a 32 KB datové paměti.
NPU se skládá ze tří výpočetních komponent, které spolupracují:
- Skalární jádro je lehké, v jazyce C programovatelné frontendové rozhraní RISC-V, které spravuje datové toky do hlavních jader a využívá model běhu po dokončení, který zajišťuje tradiční funkcionalitu CPU a ultranízkou spotřebu energie.
- Vektorový SIMD koprocesor, který podporuje vektorová rozšíření instrukční sady RISC-V (RVV v1.0) a umožňuje simultánní provádění více operací s velkým množstvím dat.
- Maticový koprocesor, který efektivně provádí operace násobení a sčítání (MAC) a je navržen tak, aby urychlil základní operace neuronových sítí.
Pro vývojáře aplikací byla připravena sada kompilátorů modelů umělé inteligence (IREE a TFLM), kompilátor jazyka C a simulátor. Podporována je kompilace modelů používaných v aplikacích umělé inteligence založených na frameworkech TensorFlow, JAX a PyTorch. Model je kompilován do univerzální mezilehlé reprezentace, která je následně pomocí LLVM převedena do nízkoúrovňové instrukční sady RISC-V podporované Coral NPU.
Zdroj: opennet.ru
