U okviru projekta Qwenputer, istraživači su razvili proširenu verziju AI modela Qwen3.5-4B koja sadrži ugrađeni simulator punog 32-bitnog CPU-a temeljenog na RISC-V arhitekturi (RV32IM), koji podržava Zba proširenje i opremljen je bignum koprocesorom za aritmetičke operacije s velikim brojevima. Implementacija CPU jezgre je kompajlirana u skup težina i integrirana u veliku jezičnu mrežu u obliku 11 dodatnih slojeva transformatora, dodanih ispred glavnih slojeva Qwen. Izračuni se izvršavaju direktno u procesu unaprijednog prolaza (forward pass) neuronske mreže, bez povezivanja vanjskih alata ili dodataka.
Implementacija uspješno prolazi sve testove iz službenog seta riscv-tests i sposobna je izvoditi kompajlirani kod u C-u i MicroPython-u. Prilikom izvođenja aritmetičkih izračuna s velikim brojevima, Qwenputer osigurava točnost od 97.5-100%, što je usporedivo ili nadmašuje rezultate osnovnog modela Qwen3.5 s povezanom vanjskim Python interpretatorom.
Za simulaciju radne memorije u modelu korišteni su odvojeni slojevi Gated DeltaNet (linearna RNN), koji se koriste u osnovnom AI modelu Qwen za očuvanje izmijenjenog stanja pri radu s velikim kontekstualnim prozorima. Fiksiranjem stanja vrata i primjenom unitarne kodiranja (one-hot), svaki zahtjev za zapisivanje prepisuje točno jedan redak matrice stanja, što omogućuje korištenje stanja DeltaNet kao adresibilne memorije fiksne veličine, izbjegavajući linearni rast KV-cachea (Key-Value) s povećanjem duljine konteksta. U takvoj memoriji se pohranjuju registri CPU-a, podaci i izvršeni strojni kod.
Upute procesora, kao što su čitanje registara, aritmetičke operacije i uvjetne granice, kompajliraju se direktno u težine slojeva transformatora. Svakoj instrukciji dodijeljeni su posebni tokeni (ADDR, VAL, STEP), koje slojevi AI modela interpretiraju kao logiku rada CPU-a. Za inicijalizaciju CPU-a i učitavanje firmware-a koristi se mali vanjski upravljač RvChat, no sam strojni kod se potpuno obrađuje unutar težina modela.
Ograničenja projekta uključuju otprilike dvostruko povećanje veličine (18,8 GB) u odnosu na izvornu Qwen model, pri čemu se čuvaju trenutačni snimci (checkpoint), što se uglavnom događa zbog dodatnog popunjavanja slojeva. Također se primjećuje relativno niska brzina računalnih operacija (oko 3200 tokena u sekundi na GPU L4), zbog čega složeni izračuni mogu trajati sekunde, a ne milisekunde.
Dodatno je implementirana verzija AI modela s eksperimentalnim datotečnim sustavom, koji omogućuje pohranu do 512 datoteka s 53 tisuće tokena teksta unutar težina AI modela. Kao i kod implementacije radne memorije, pohrana je organizirana u vezi sa stanjem DeltaNet, ali se razlikuje po tome što FС osigurava trajnu pohranu koja ne gubi stanje između sesija.
Razvoj Qwenputera također je poslužio kao osnova za istraživanje novih potencijalnih sigurnosnih problema u AI. Na primjeru Qwenputera pokazano je kako posebno izmijenjeni AI model može skrivati svoje razmatranja unutar RNN stanja i zaobići mehanizme praćenja razmatranja modela (CoT, Chain-of-Thought). Također je demonstrirano
mogućnost stvaranja mehanizama kontrole i praćenja sigurnosti, integriranih u težine AI modela, koje sama model ne može isključiti ili izmijeniti.
Izvor: opennet.ru
