Google представи Coral NPU, отворена платформа за създаване на AI ускорители

Компания Google представи открита платформа Coral NPU (Neural Processing Unit), предлагаща отворен хардуерен ускорител за модели на машинно обучение и софтуерни инструменти за използването му с типови AI двигатели. Coral може да се използва като основа за изграждане на енергийно ефективни системи на чип (SoC), пригодни за употреба в системи за интернет на нещата, Edge изчисления и платформи за събиране на информация от сензори, както и в потребителски носими устройства с изключително ниска консумация на енергия, като слушалки, очила за добавена реалност и смарт часовници. Направленията на проекта се разпространяват под лиценза Apache 2.0.

Coral NPU е насочен към изпълнение на постоянно работещи AI приложения на портативни устройства с минимално консумация на енергия. Основната реализация на Coral NPU осигурява производителност от 512 милиарда операции в секунда (GOPS) при потребление на едва няколко миливата енергия. NPU е проектиран за гъвкава модификация на архитектурата в зависимост от нуждите на производителите на SoC. Първият производител, който ще започне производството на чипове на базата на Coral NPU, ще бъде компанията Synaptics, която обяви серия процесори за устройства от интернет на нещата Astra SL2610, включваща подсистема Torq NPU, реализирана на базата на архитектурата Coral NPU.

Сред типичните приложения на Coral NPU се споменава използването на AI за обработка на изображения и звук, взаимодействие с потребителите и учёт на контекста. Например, на устройствата могат да се изпълняват големи езикови модели и приложения за разпознаване на лица и обекти, визуално търсене, разпознаване на реч, жив превод, транскрипция на реч, извличане на ключови думи от речта, управление с жестове и гласови команди, определяне на активността на потребителя (ходене, бягане, сън) и типа на околната среда (вкъщи, на улицата).

В NPU е интегрирана 32-битова архитектура на командния набор RISC-V RV32IMF_Zve32x, шина AXI4, четиристепенен конвейер за обработка на инструкции с подредена диспетчеризация, неупорядъчено завършване на изпълнението на инструкциите, четирипоточна скаларна и двупоточна векторна диспетчеризация. Процесорът поддържа SIMD операции за паралелна обработка на 128-битови вектори и е снабден с 8 KB ITCM памет за инструкции и 32 KB DTCM памет за данни.

NPU включва три взаимозависими процесорни компонента:

• Ядро за скалярни изчисления — леко програмируемо на езика C фронтенд RISC-V, което управлява данните към основните ядра и използва модела „изпълнение до завършване“ (run-to-completion) за осигуряване на функционалността на традиционните CPU и изключително ниско потребление на енергия.
• Векторен SIMD-съпродизайнер, който поддържа векторни разширения на инструкционния набор RISC-V (RVV v1.0) и позволява едновременно изпълнение на множество операции върху големи обеми данни.
• Матрицата на съпродизайнера, която ефективно извършва операции за комбинирано умножение-сложение (MAC) и е проектирана за ускоряване на основните операции на невронните мрежи.

За разработчиците на приложения е подготвен набор от компилатори за AI-модели (IREE и TFLM), компилатор за програми на езика C и симулатор. Поддържа се компилация на модели, използвани в AI-приложения на базата на фреймворкове TensorFlow, JAX и PyTorch. Моделът се компилира в универсално междинно представяне, което след това с помощта на LLVM се трансформира в нискоуровневен набор от инструкции RISC-V, поддържан в Coral NPU.

Източник: opennet.ru