Google представи Coral NPU, отворена платформа за създаване на AI ускорители

Компания Google представи открита платформа Coral NPU (Neural Processing Unit), предлагаща открит хардуер за ускоряване на модели на машинно обучение и софтуерни инструменти за използването ѝ с типични AI механизми. Coral може да се използва като основа за създаване на енергоефективни системи на чип (SoC), подходящи за интернет на нещата, Edge изчисления и платформи за събиране на данни от сензори, а също така в потребителски носими устройства с изключително ниска консумация на енергия, като слушалки, очила с разширена реалност и смарт часовници. Работите на проекта се разпространяват под лицензия Apache 2.0.

Coral NPU е насочен към изпълнение на приложения с AI на портативни устройства с минимално потребление на енергия. Основната реализация на Coral NPU осигурява производителност от 512 милиарда операции в секунда (GOPS) при потребление на само няколко миливата енергия. NPU е проектиран за гъвкаво модифициране на архитектурата в зависимост от нуждите на производителите на SoC. Първият производител, който започва производството на чипове базирани на Coral NPU, ще бъде компания Synaptics, която анонсира серия процесори за устройства на интернет на нещата Astra SL2610, включваща подсистема Torq NPU, реализирана на базата на архитектурата Coral NPU.

От типичните приложения на Coral NPU се споменава използването на AI за обработка на изображения и звук, взаимодействие с потребителя и отчитане на контекста. Например, на устройствата могат да се изпълняват големи езикови модели и приложения за разпознаване на лица и обекти, визуално търсене, разпознаване на реч, жив превод, транскрипция на реч, извличане на ключови думи от реч, управление с жестове и гласови команди, определяне на активността на потребителя (ходене, бягане, сън) и типа на околната среда (в дома, на улицата).

В NPU е внедрена 32-битова архитектура на командния набор RISC-V RV32IMF_Zve32x, шина AXI4, четиристепенен конвейер за обработка на инструкциите с подредено разпределение, неупорядочено завършване на изпълнението на инструкциите, четирипоточна скаларна и двупоточна векторна разпределение. Процесорът поддържа SIMD операции за паралелна обработка на 128-битови вектори и е оборудван с 8 KB ITCM памет за инструкции и 32 KB DTCM памет за данни.

NPU включва три съвместно работещи процесорни компонента:

• Ядро за скаларни изчисления — леко програмируемо на езика Си преден RISC-V, управляващо потоците данни към основните ядра и използващо модела „изпълнение до завършване“ (run-to-completion) за осигуряване на функционалността на традиционните СPU и изключително ниското потребление на енергия.
• Векторен SIMD-сопроцесор, който поддържа векторни разширения на набор от инструкции RISC-V (RVV v1.0) и позволява едновременно изпълнение на множество операции върху големи обеми данни.
• Матричен сопроцесор, ефективно изпълняващ операции на комбинирано умножение-сложение (MAC) и проектиран за ускоряване на основните операции на невронните мрежи.

За разработчиците на приложения е подготвен комплект компилатори за AI-модели (IREE и TFLM), компилатор за програми на езика Си и симулатор. Поддържа се компилация на модели, използвани в AI-приложения на базата на фреймворкове TensorFlow, JAX и PyTorch. Моделът се компилира в универсално средно представление, което след това с помощта на LLVM се трансформира в нискоуровнев набор от инструкции RISC-V, поддържан в Coral NPU.

Източник: opennet.ru