Qwenputer — AI-mudeli Qwen3.5 versioon, mis suudab simuleerida RISC-V CPU-d C ja MicroPython koodi täitmiseks.

Qwenputer projekti raames on teadlased valmistanud välja laiendatud versiooni AI mudelist Qwen3.5-4B, mis sisaldab integreeritud simulaatorit täisfunktsionaalsest 32-bitise CPU-st RISC-V (RV32IM) arhitektuuril, toetades Zba laiendust ja varustatud bignum kooprotsessoriga suurte arvutegevuste sooritamiseks. CPU tuuma teostamine on kompileeritud kaalude komplekti ja integreeritud suure keelemudeli osana koos 11 täiendava kihiga transformereid, mis on lisatud Qweni peamiste kihtide ette. Arvutused toimub otse tehisvõrgu esipassimisel, ilma välistööriistade või pistikprogrammide kaasamiseta.

Teostamine läbib edukalt kõik ametlikud tõestustestid riscv-tests ja suudab täita kompileeritud koodi C ja MicroPython keeles. Suurte numbrite aritmeetiliste arvutuste puhul tagab Qwenputer täpsuse 97.5-100%, mis on võrreldav või ületab baasmudeli Qwen3.5 tulemusi koos välise Python tõlgiga.

Mudla operatiivmälu simuleerimiseks kasutatakse eraldi Gated DeltaNet kihte (lineaarsed RNN), mis on rakendatud tavapärases AI mudelis Qwen, et säilitada muudetud olek suure konteksti akendega töötamisel. Olekute jäädmise ja ühtse kodeerimise (one-hot) fikseerimise abil kirjutab iga kirjutamise päring täpselt ühe matriitsi oleku read, mis võimaldab DeltaNet olekut kasutada fikseeritud suurusega adresseeritava mäluna, vältides KV-pohvli (Key-Value) lineaarset kasvu konteksti pikkuse suurendamisel. Sellises mälus paiknevad CPU registrid, andmed ja täidetav masina kood.

Protsessori juhised, nagu registrite lugemine, aritmeetilised operatsioonid ja tingimuslikud üleminekud, kompileeritakse otse transformeri kihtide kaaludesse. Iga juhisega vastanduvad spetsiifilised tokkenid (ADDR, VAL, STEP), mida AI mudeli kihid tõlgendavad kui CPU töö loogikat. CPU initsialiseerimiseks ja püsivara laadimiseks kasutatakse väikest välisest RvChat draiverit, kuid masinkood töödeldakse täielikult mudeli kaaludes.

Projektist tulenev piirang, et võrreldes algse Qwen mudeliga suureneb suurus peaaegu kaks korda (18,8 GB), mis on peamiselt tingitud täiendavate kihtide lisamisest. Samuti märgitakse, et arvutuskiirus on suhteliselt madal (umbes 3200 tokenit sekundis GPU L4-l), mistõttu keerulised arvutused võivad võtta sekundeid, mitte millisekundeid.

Täiendavalt on rakendatud AI mudeli variant eksperimentaalse failisüsteemiga, mis võimaldab salvestada AI-mudeli kaalude sees kuni 512 faili, millel on 53 tuhat tokenit teksti. Nagu ka operatiivmälu rakendusel, on salvestamine seotud DeltaNet'i seisunditega, kuid erineb sellest, et failisüsteem tagab püsiva salvestamise, mis ei kaota olekut seansside vahel.

Qwenputeri arendused on samuti aluseks uuringutele uute võimalike turvaprobleemide osas AI valdkonnas. Qwenputeri näite põhjal on näidatud, kuidas spetsiaalselt modifitseeritud AI mudel võib varjata oma arutlusi RNN olekus ja ümbritseda mudeli arutluste jälgimise mehhanisme (CoT, Chain-of-Thought). Samuti on demonstreeritud
võimet luua turvameetmete kontrolli ja jälgimise mehhanisme, mis on integreeritud AI mudeli kaaludesse, mida mudel ise ei saa keelata ega muuta.

Allikas: opennet.ru