Nell'ambito del progetto Qwenputer, i ricercatori hanno preparato una versione avanzata del modello AI Qwen3.5-4B, che include un simulatore integrato di un intero CPU a 32 bit basato sull'architettura RISC-V (RV32IM), supportando l'estensione Zba e dotato di un coprocessore bignum per operazioni aritmetiche con numeri grandi. L'implementazione del nucleo CPU è stata compilata in un insieme di pesi ed è integrata in un grande modello linguistico sotto forma di 11 strati aggiuntivi di trasformatori, aggiunti prima degli strati principali di Qwen. I calcoli vengono eseguiti direttamente nel processo di passaggio in avanti (forward pass) della rete neurale, senza il coinvolgimento di strumenti o plugin esterni.
L'implementazione supera con successo tutti i test del pacchetto ufficiale riscv-tests ed è in grado di eseguire codice compilato in C e MicroPython. Durante l'esecuzione di calcoli aritmetici con numeri grandi, Qwenputer garantisce un'accuratezza del 97.5-100%, che è comparabile o superiore ai risultati del modello di base Qwen3.5 con l'interprete Python esterno collegato.
Per simulare la memoria operativa, il modello utilizza strati separati di Gated DeltaNet (RNN lineari), impiegati nel modello AI standard Qwen per mantenere lo stato modificato durante l'elaborazione di ampie finestre di contesto. Fissando lo stato del gate e applicando la codifica unitaria (one-hot), ogni richiesta di scrittura sovrascrive esattamente una riga della matrice di stato, permettendo di utilizzare lo stato DeltaNet come memoria indirizzabile di dimensioni fisse, evitando la crescita lineare della cache KV (Key-Value) all'aumentare della lunghezza del contesto. In questa memoria vengono collocati i registri CPU, i dati e il codice macchina in esecuzione.
Le istruzioni del processore, come la lettura dei registri, le operazioni aritmetiche e i salti condizionali, vengono compilate direttamente nei pesi degli strati di trasformatori. Ad ogni istruzione vengono associati token speciali (ADDR, VAL, STEP), che gli strati del modello AI interpretano come logica operativa del CPU. Per inizializzare il CPU e caricare il firmware viene utilizzato un piccolo driver esterno RvChat, ma il codice macchina viene elaborato completamente all'interno dei pesi del modello.
Tra le limitazioni del progetto si menziona un aumento di dimensione di circa due volte rispetto al modello originale Qwen, pari a 18,8 GB, dovuto principalmente al riempimento aggiuntivo di strati. Viene inoltre notata una velocità di calcolo relativamente bassa, di circa 3200 token al secondo su GPU L4, il che implica che calcoli complessi possano richiedere secondi anziché millisecondi.
In aggiunta, è stata implementata una variante del modello AI con un file system sperimentale che consente di memorizzare all'interno dei pesi del modello AI fino a 512 file con 53.000 token di testo. Come nella realizzazione della memoria operativa, la memorizzazione è organizzata in relazione agli stati DeltaNet, ma si distingue per il fatto che il file system assicura una memorizzazione permanente che non perde stato tra le sessioni.
I progressi realizzati con Qwenputer hanno anche gettato le basi per lo studio di nuovi potenziali problemi di sicurezza nell'AI. Attraverso Qwenputer è stato dimostrato come un modello AI modificato possa nascondere le proprie ragionamenti all'interno dello stato RNN e aggirare i meccanismi di monitoraggio del ragionamento del modello (CoT, Chain-of-Thought). È stata inoltre dimostrata
la possibilità di creare meccanismi di controllo e monitoraggio della sicurezza, integrati nei pesi del modello AI, che non possono essere disattivati o modificati dal modello stesso.
Fonte: opennet.ru
