Společnost Google představila otevřenou platformu Coral NPU (Neural Processing Unit), která nabízí otevřený hardwarový akcelerátor modelů strojového učení a softwarové nástroje pro jeho využití s typickými AI enginy. Coral lze použít jako základ pro vytváření energeticky efektivních systémů na čipu (SoC), vhodných pro systémy internetu věcí, Edge výpočty a desky pro sběr dat ze senzorů, stejně jako v spotřebitelských nositelných zařízeních s ultra nízkou spotřebou energie, jako jsou sluchátka, brýle s rozšířenou realitou a chytré hodinky. Výstupy projektu jsou zveřejněny pod licencí Apache 2.0.
Coral NPU je zaměřena na provádění AI aplikací běžících na přenosných zařízeních s minimální spotřebou energie. Základní implementace Coral NPU poskytuje výkon 512 miliard operací za sekundu (GOPS) při spotřebě pouze několika miliwattů energie. NPU je navržena pro flexibilní modifikaci architektury podle potřeb výrobců SoC. Prvním výrobcem, který zahájí výrobu čipů na bázi Coral NPU, bude společnost Synaptics, která oznámila řadu procesorů pro zařízení internetu věcí Astra SL2610, včetně podsamostatního systému Torq NPU, který je realizován na základě architektury Coral NPU.
Mezi typickými aplikacemi Coral NPU se zmiňuje využití AI pro zpracování obrazů a zvuku, interakci s uživateli a zohlednění kontextu. Například na zařízeních mohou být spouštěny velké jazykové modely a aplikace pro rozpoznávání obličejů a objektů, vizuální vyhledávání, rozpoznávání řeči, živý překlad, transkripci řeči, identifikaci klíčových slov v řeči, ovládání gesty a hlasovými příkazy, určení aktivity uživatele (chůze, běh, spánek) a typu prostředí (doma, venku).
NPU využívá 32bitovou architekturu sady instrukcí RISC-V RV32IMF_Zve32x, sběrnici AXI4, čtyřstupňový konvejer zpracování instrukcí s uspořádaným dispatchingem, nepořádkovým dokončením provádění instrukcí, čtyřmi vlákny skalar a dvojitým vláknem vektorovým dispatchingem. Procesor podporuje SIMD operace pro současné zpracování 128bitových vektorů a je vybaven 8 KB ITCM pamětí pro instrukce a 32 KB DTCM pamětí pro data.
NPU zahrnuje tři spolupracující procesorové prvky:
- Jádro pro skalární výpočty je lehký front-end RISC-V programovatelný v jazyce C, který řídí tok dat k hlavním jádrům a používá model ‚provést až do dokončení‘ (run-to-completion) pro zajištění funkcionality tradičních CPU a extrémně nízké spotřeby energie.
- Vektorový SIMD koprocessor, který podporuje vektorová rozšíření instrukční sady RISC-V (RVV v1.0) a umožňuje současné provádění několika operací nad velkými objemy dat.
- Matricový koprocessor, který efektivně provádí operace smíšeného násobení a sčítání (MAC) a je navržen pro zrychlení základních operací neuronových sítí.
Pro vývojáře aplikací je připraven soubor kompilátorů AI modelů (IREE a TFLM), kompilátor programů v jazyce C a simulátor. Podporuje se kompilace modelů používaných v AI aplikacích na základě rámců TensorFlow, JAX a PyTorch. Model se kompiluje do univerzálního mezilehlého zobrazení, které je pak pomocí LLVM přeměněno na nízkoúrovňový instrukční set RISC-V podporovaný v Coral NPU.
Zdroj: opennet.ru
