A Google apresentou a plataforma aberta Coral NPU (Unidade de Processamento Neural), que oferece um acelerador de hardware aberto para modelos de aprendizado de máquina e uma ferramenta de software para sua utilização com motores de IA padrão. O Coral pode ser usado como a base para criar sistemas energeticamente eficientes em um único chip (SoC), adequados para uso em sistemas de Internet das Coisas, computação de borda e placas de coleta de dados de sensores, bem como em dispositivos vestíveis de consumo com consumo de energia ultra baixo, como fones de ouvido, óculos de realidade aumentada e smartwatch. Os desenvolvimentos do projeto estão sob licença Apache 2.0.
O Coral NPU é focado em executar aplicativos de IA que funcionam continuamente em dispositivos portáteis com consumo de energia mínimo. A implementação básica do Coral NPU oferece um desempenho de 512 bilhões de operações por segundo (GOPS) consumindo apenas alguns miliwatts de energia. O NPU foi projetado para uma modificação flexível da arquitetura dependendo das necessidades dos fabricantes de SoC. O primeiro fabricante a iniciar a produção de chips com base no Coral NPU será a Synaptics, que anunciou a linha de processadores para dispositivos de Internet das Coisas Astra SL2610, incluindo um subsistema Torq NPU, implementado com base na arquitetura Coral NPU.
Entre as aplicações padrão do Coral NPU, estão o uso de IA para processamento de imagens e som, interação com o usuário e consideração de contexto. Por exemplo, em dispositivos podem ser executados grandes modelos de linguagem e aplicativos para reconhecimento facial e de objetos, busca visual, reconhecimento de fala, tradução ao vivo, transcrição de fala, extração de palavras-chave de fala, controle por gestos e comandos de voz, detecção de atividade do usuário (andar, correr, dormir) e tipo de ambiente (em casa, ao ar livre).
O NPU utiliza uma arquitetura de conjunto de instruções RISC-V de 32 bits RV32IMF_Zve32x, barramento AXI4, um pipeline de processamento de instruções em quatro estágios com despacho ordenado, conclusão não ordenada da execução de instruções, dispatch escalar de quatro vias e duas vias vetorial. O processador suporta operações SIMD para processamento simultâneo de vetores de 128 bits e está equipado com 8 KB de memória ITCM para instruções e 32 KB de memória DTCM para dados.
O NPU inclui três componentes de processador que trabalham em conjunto:
- Um núcleo para cálculos escalares — um frontend RISC-V leve programável na linguagem C, que gerencia o fluxo de dados para os núcleos principais e utiliza o modelo de 'execução até a conclusão' para garantir a funcionalidade dos CPUs tradicionais e um consumo de energia extremamente baixo.
- Um coprocessador SIMD vetorial, que suporta as extensões vetoriais do conjunto de instruções RISC-V (RVV v1.0) e permite executar simultaneamente várias operações em grandes volumes de dados.
- Um coprocessador matricial, que executa eficientemente operações de multiplicação e adição conjugadas (MAC) e foi projetado para acelerar operações fundamentais em redes neurais.
Para desenvolvedores de aplicativos, foi preparado um conjunto de compiladores de modelos de IA (IREE e TFLM), um compilador de programas na linguagem C e um simulador. A compilação de modelos utilizados em aplicativos de IA baseados em frameworks TensorFlow, JAX e PyTorch é suportada. O modelo é compilado em uma representação intermediária universal, que é então convertida para um conjunto de instruções RISC-V de baixo nível suportado no Coral NPU, usando LLVM.
Fonte: opennet.ru
