Inom ramen för Qwenputer-projektet har forskarna förberett en utökad version av AI-modellen Qwen3.5-4B, dÀr en inbyggd simulator för en fullstÀndig 32-bitars CPU baserad pÄ RISC-V-arkitektur (RV32IM) har implementerats, vilket stöder Zba-tillÀgget och Àr utrustad med en bignum-kopressessor för aritmetiska operationer med stora tal. Implementeringen av CPU-kÀrnan har kompilerats i ett viktuppsÀttning och integrerats i en större sprÄkmodell i form av 11 ytterligare transformationslager, som har lagts till före de huvudsakliga Qwen-lagren. BerÀkningarna utförs direkt under den framÄtgÄende genomgÄngen (forward pass) av neuronnÀtverket, utan att anvÀnda externa verktyg eller plugins.
Implementeringen klarar alla tester frÄn den officiella testuppsÀttningen riscv-tests och kan köra kompilerad kod pÄ C och MicroPython. Vid aritmetiska berÀkningar med stora tal sÀkerstÀller Qwenputer en noggrannhet pÄ 97,5-100%, vilket Àr jÀmförbart med eller övertrÀffar resultaten av den grundlÀggande modellen Qwen3.5 med en ansluten extern Python-tolk.
För att simulera det temporÀra minnet i modellen anvÀnds separata lager av Gated DeltaNet (linjÀra RNN), som anvÀnds i den vanliga AI-modellen Qwen för att bevara det Àndrade tillstÄndet vid arbete med stora kontextfönster. Genom att fixera tillstÄndet för gaten och tillÀmpa enhetskodsning (one-hot) skrivs varje skrivförfrÄgan över exakt en rad i tillstÄndsmatrisen, vilket gör att DeltaNet-tillstÄndet kan anvÀndas som adresserbart minne med fast storlek, vilket undviker linjÀr tillvÀxt av KV-cache (Key-Value) nÀr lÀngden pÄ kontexten ökar. I detta minne placeras CPU-registren, data och den körda maskinkoden.
Processorinstruktioner, sÄsom lÀsning av registren, aritmetiska operationer och villkorsövergÄngar, kompileras direkt till vikterna i transformationslagren. Speciella token (ADDR, VAL, STEP) kopplas till varje instruktion, vilka AI-modellen tolkar som logik för CPU:n. För att initiera CPU:n och ladda fastvaran anvÀnds en liten extern RvChat-drivrutin, men sjÀlva maskinkoden bearbetas helt inom modellens vikter.
Bland projektets begrÀnsningar nÀmns en ungefÀr dubblering i storlek jÀmfört med den ursprungliga Qwen-modellen (18,8 GB) vid bevarande av tillstÄndsverk (checkpoint), vilket frÀmst beror pÄ tillÀgg av extra lager. Det noteras ocksÄ att berÀkningshastigheten Àr relativt lÄg (ungefÀr 3200 token per sekund pÄ GPU L4), vilket gör att komplexa berÀkningar kan ta sekunder istÀllet för millisekunder.
Dessutom har en variant av AI-modellen implementerats med ett experimentellt filsystem som möjliggör lagring av upp till 512 filer med 53 000 tokens text inuti AI-modellens vikter. Liksom i implementeringen av RAM organizeras lagringen i koppling till DeltaNet-tillstÄnd, men skiljer sig genom att filsystemet erbjuder permanent lagring, som inte förlorar sitt tillstÄnd mellan sessioner.
Qwenputers framsteg har ocksÄ legat till grund för forskning kring nya potentiella sÀkerhetsproblem i AI. Exemplet Qwenputer visar hur en sÀrskilt modifierad AI-modell kan dölja sina resonemang i RNN-tillstÄndet och kringgÄ övervakningsmekanismer för modellens resonemang (CoT, Chain-of-Thought). Dessutom demonstrerades
möjligheten att skapa kontroll- och övervakningsmekanismer för sÀkerhet, inbÀddade i AI-modellens vikter, som modellen sjÀlv inte kan stÀnga av eller Àndra.
KĂ€lla: opennet.ru
