Společnost Google představila otevřenou platformu Coral NPU (Neural Processing Unit), která nabízí otevřený hardwarový akcelerátor modelů strojového učení a softwarový nástroj pro její použití s běžnými AI motory. Coral lze použít jako základ pro vytváření energeticky efektivních systémů na čipu (SoC), které jsou vhodné pro systémy internetu věcí, Edge výpočty a desky pro sběr informací z senzorů, stejně jako v spotřebitelských nositelných zařízeních s extrémně nízkou spotřebou energie, například v sluchátkách, brýlích s rozšířenou realitou a chytrých hodinkách. Výstupy projektu jsou poskytovány pod licencí Apache 2.0.
Coral NPU cílí na provádění AI aplikací fungujících na portabilních zařízeních s minimální spotřebou energie. Základní implementace Coral NPU poskytuje výkon 512 miliard operací za sekundu (GOPS) při spotřebě pouze několika miliwattů energie. NPU je navržen pro flexibilní modifikaci architektury v závislosti na potřebách výrobců SoC. Prvním výrobcem, který zahájí výrobu čipů založených na Coral NPU, bude společnost Synaptics, která oznámila řadu procesorů pro zařízení internetu věcí Astra SL2610, zahrnující subsystém Torq NPU, implementovaný na základě architektury Coral NPU.
Mezi typické aplikace Coral NPU patří využití AI pro zpracování obrazů a zvuku, interakci s uživateli a zohlednění kontextu. Například na zařízeních mohou běžet velké jazykové modely a aplikace pro rozpoznávání obličejů a objektů, vizuální vyhledávání, rozpoznávání řeči, živý překlad, přepis řeči, vyhledávání klíčových slov v řeči, řízení gesty a hlasovými příkazy, určení aktivity uživatele (chůze, běh, spánek) a typu prostředí (doma, venku).
NPU využívá 32bitovou architekturu sady instrukcí RISC-V RV32IMF_Zve32x, sběrnici AXI4, čtyřstupňovou pipeline zpracování instrukcí se seřazeným zásobováním, neřazeným dokončením provádění instrukcí, čtyřpočetní skalarovou a dvoupoužitou vektorovou zásobou. Procesor podporuje SIMD operace pro současné zpracování 128bitových vektorů a je vybaven 8 KB ITCM paměti pro instrukce a 32 KB DTCM paměti pro data.
NPU pozostáva z troch spolupracujúcich procesorových komponentov:
- Jadro pre skalárne výpočty – ľahký programovateľný frontend RISC-V napísaný v jazyku C, ktorý riadi tok údajov k hlavným jadrom a využíva model „vykonávania až do dokončenia“ (run-to-completion) na zabezpečenie funkčnosti tradičných CPU a extrémne nízku spotrebu energie.
- Vektorový SIMD koprocesor, ktorý podporuje vektorové rozšírenia inštrukčnej sady RISC-V (RVV v1.0) a umožňuje súčasné vykonávanie viacerých operácií na veľkých objemoch údajov.
- Matrica koprocesor, ktorý efektívne vykonáva operácie zmiešaného násobenia-sčítania (MAC) a bol navrhnutý na urýchlenie základných operácií neurónových sietí.
Pre vývojárov aplikácií bol pripravený súbor kompilátorov AI modelov (IREE a TFLM), kompilátor programov v jazyku C a simulátor. Podporuje sa kompilácia modelov používaných v AI aplikáciách založených na rámcoch TensorFlow, JAX a PyTorch. Model sa kompiluje do univerzálneho medzičlánkového zobrazenia, ktoré je následne pomocou LLVM prevedené na nízkoúrovňový inštrukčný súbor RISC-V, podporovaný v Coral NPU.
Zdroj: opennet.ru
