Qwenputer projekta ietvaros pÄtnieki izstrÄdÄja paplaÅ”inÄtu Qwen3.5-4B mÄkslÄ«gÄ intelekta modeļa versiju, kas ievieÅ” iegultu pilnvÄrtÄ«ga 32 bitu centrÄlÄ procesora simulatoru, kura pamatÄ ir RISC-V arhitektÅ«ra (RV32IM), kas atbalsta Zba paplaÅ”inÄjumu un ir aprÄ«kots ar bignum lÄ«dzprocesoru lielu skaitļu aritmÄtikai. CentrÄlÄ procesora kodola ievieÅ”ana tiek kompilÄta svaru kopÄ un integrÄta plaÅ”ÄkÄ valodas modelÄ« kÄ 11 papildu transformatoru slÄÅi, kas pievienoti pirms galvenajiem Qwen slÄÅiem. AprÄÄ·ini tiek veikti tieÅ”i neironu tÄ«kla tieÅ”Äs pÄrraides laikÄ, bez nepiecieÅ”amÄ«bas pÄc ÄrÄjiem rÄ«kiem vai spraudÅiem.
ImplementÄcija veiksmÄ«gi nokÄrto visus oficiÄlÄs riscv-tests komplekta testus un spÄj izpildÄ«t kompilÄtu C un MicroPython kodu. Veicot aritmÄtiskos aprÄÄ·inus ar lieliem skaitļiem, Qwenputer sasniedz 97.5ā100% precizitÄti, kas ir salÄ«dzinÄma ar vai labÄka par Qwen3.5 bÄzes modeli ar ÄrÄju Python interpretatoru.

Lai simulÄtu RAM, modelis izmanto atseviŔķus vÄrtÄtus DeltaNet slÄÅus (lineÄrus RNN), kas tiek izmantoti standarta Qwen AI modelÄ«, lai saglabÄtu modificÄto stÄvokli, strÄdÄjot ar lieliem konteksta logiem. BloÄ·Äjot vÄrtu stÄvokli un izmantojot vienreizÄju kodÄÅ”anu, katrs rakstīŔanas pieprasÄ«jums pÄrraksta tieÅ”i vienu stÄvokļa matricas rindu, ļaujot DeltaNet stÄvokli izmantot kÄ fiksÄta izmÄra adresÄjamu atmiÅu, izvairoties no atslÄgas-vÄrtÄ«bas (KV) keÅ”atmiÅas lineÄras pieauguma, palielinoties konteksta garumam. Å Ä« atmiÅa satur CPU reÄ£istrus, datus un izpildÄmo maŔīnas kodu.

Procesora instrukcijas, piemÄram, reÄ£istru lasīŔana, aritmÄtiskÄs operÄcijas un nosacÄ«tie lÄcieni, tiek tieÅ”i apkopotas transformatora slÄÅa svaros. Katra instrukcija ir saistÄ«ta ar Ä«paÅ”iem marÄ·ieriem (ADDR, VAL, STEP), kurus mÄkslÄ«gÄ intelekta modeļa slÄÅi interpretÄ kÄ centrÄlÄ procesora loÄ£iku. Neliels ÄrÄjs draiveris RvChat tiek izmantots centrÄlÄ procesora inicializÄÅ”anai un programmaparatÅ«ras ielÄdei, bet pats maŔīnas kods tiek pilnÄ«bÄ apstrÄdÄts modeļa svaru ietvaros.
Projekta ierobežojumi ietver aptuveni divkÄrÅ”u izmÄra palielinÄjumu (18.8 GB) salÄ«dzinÄjumÄ ar sÄkotnÄjo Qwen modeli, saglabÄjot stÄvokļa ŔķÄles (kontrolpunktus), galvenokÄrt papildu slÄÅu pievienoÅ”anas dÄļ. Tiek atzÄ«mÄts arÄ« relatÄ«vi zems skaitļoÅ”anas Ätrums (aptuveni 3200 žetoni sekundÄ uz L4 GPU), kas nozÄ«mÄ, ka sarežģīti aprÄÄ·ini var aizÅemt sekundes, nevis milisekundes.
TurklÄt tika ieviests mÄkslÄ«gÄ intelekta modeļa variants ar eksperimentÄlu failu sistÄmu, kas ļauj uzglabÄt lÄ«dz 512 failiem ar 53 000 teksta žetoniem mÄkslÄ«gÄ intelekta modeļa svaru ietvaros. TÄpat kÄ RAM ievieÅ”anÄ, krÄtuve ir organizÄta, pamatojoties uz DeltaNet stÄvokļiem, taÄu atŔķiras ar to, ka failu sistÄma (FS) nodroÅ”ina pastÄvÄ«gu krÄtuvi, kas nezaudÄ stÄvokli starp sesijÄm.
Qwenputer darbs arÄ« veidoja pamatu pÄtÄ«jumiem par jaunÄm potenciÄlÄm droŔības problÄmÄm mÄkslÄ«gajÄ intelektÄ. Izmantojot Qwenputer kÄ piemÄru, tika demonstrÄts, kÄ Ä«paÅ”i modificÄts mÄkslÄ«gÄ intelekta modelis var slÄpt savu sprieÅ”anu RNN stÄvoklÄ« un apiet modeļa sprieÅ”anas uzraudzÄ«bas mehÄnismus (CoT, Chain-of-Thought). Tika demonstrÄts arÄ«
spÄja izveidot droŔības kontroles un uzraudzÄ«bas mehÄnismus, kas iebÅ«vÄti AI modeļa svaros, kurus pats modelis nevar atspÄjot vai modificÄt.
Avots: opennet.ru
