Kompania Google prezantoi platformën e hapur Coral NPU (Njësia e Procesimit Nervor), e cila ofron një accelerator të hapur harduerik për modele të mësimit të makinerive dhe një mjet programimi për ta përdorur atë me motorët standard të AI. Coral mund të përdoret si një bazë për krijimin e sistemeve energji-efikase në çip (SoC), të përshtatshme për përdorim në sistemet e internetit të gjërave, llogaritë Edge dhe pllakëzat e mbledhjes së informacionit nga sensorët, si dhe në aparatet e konsumit portativ me konsum të ulët energjie, të tilla si kufje, syze të realitetit të shtuar dhe orë inteligjente. Prodhimet e projektit shpërndahen nën licencën Apache 2.0.
Coral NPU ka për qëllim kryerjen në anën e azhurnimeve portative të aplikacioneve AI që funksionojnë vazhdimisht me konsum minimal energjie. Implementimi themelor i Coral NPU siguron një performancë prej 512 miliard operacioneve në sekondë (GOPS) duke konsumuar vetëm disa milivat energji. NPU është projektuar për modifikimin fleksibël të arkitekturës në varësi të nevojave të prodhuesve të SoC. Prodhuesi i parë që do të fillojë prodhimin e çipave të bazuar në Coral NPU do të jetë kompania Synaptics, e cila shpalli një linjë procesorësh për pajisjet e internetit të gjërave Astra SL2610, e cila përfshin një nën- sistem Torq NPU, e realizuar në bazë të arkitekturës Coral NPU.
Në aplikacionet tipike të Coral NPU përmendet angazhimi i AI për përpunimin e imazheve dhe tingujve, ndërveprimin me përdoruesin dhe llogaritjen e kontekstit. Për shembull, në pajisje mund të ekzekutohen modele të mëdha gjuhësore dhe aplikacione për njohjen e fytyrës dhe objekteve, kërkimin vizual, njohjen e zërit, përkthimin në kohë reale, transkripcionin e zërit, identifikimin e fjalëve kyç në fjalim, kontrollin me gjeste dhe komandat vokale, si dhe përcaktimin e aktivitetit të përdoruesit (këmbë, vrapim, gjumë) dhe llojit të ambientit (në shtëpi, jashtë).
NPU përfshin arkitekturën 32-bit të instrukcioneve RISC-V RV32IMF_Zve32x, autobusin AXI4, një konvejer me katër etapa për përpunimin e instrukcioneve me menaxhim të renditur, përfundim të paordruar të zbatimeve të instrukcioneve, menaxhim skalar me katër thjeshta dhe menaxhim vektorial me dy thjeshta. Procesori mbështet operacionet SIMD për përpunimin e përbashkët të vektorëve 128-bit dhe është i pajisur me 8 KB të memories ITCM për instrukcione dhe 32 KB për të dhëna DTCM.
NPU përfshin tri komponente procesorësh që punojnë së bashku:
- Nukleusi për llogaritjet skalari — një frontend i lehtë i programueshëm në gjuhën C, i RISC-V, që menaxhon rrjedhat e të dhënave drejt nyjeve kryesore dhe përdor modelin 'përfundim deri në përfundim' (run-to-completion) për të garantuar funksionalitetin tradicional të CPU-ve dhe konsum të ulët energjie.
- Koprosesori vektorial SIMD, që mbështet zgjerimet vektoriale të instrukcioneve RISC-V (RVV v1.0) dhe lejon ekzekutimin e disa operacioneve mbi sasi të mëdha të të dhënave në mënyrë të përbashkët.
- Koprosesori matricor, që ekzekuton në mënyrë efikase operacione të kombinuara të shumzimit-shtimit (MAC) dhe është projektuar për të përshpejtuar operacionet bazë të rrjeteve nervore.
Për zhvilluesit e aplikacioneve është përgatitur një paketë përkthyesish të modeleve AI (IREE dhe TFLM), përkthyes i programeve në gjuhën C dhe simulator. Mbështetet përkthimi i modeleve të përdorura në aplikacionet AI bazuar në korniza si TensorFlow, JAX dhe PyTorch. Modeli përkthehet në një përfaqësim të ndërmjetëm universal, i cili më pas me LLVM kthehet në një set të ulët instrukcionesh RISC-V, i mbështetur në Coral NPU.
Burimi: opennet.ru
