Qwenputer ir Qwen3.5 mākslīgā intelekta modeļa pārskatīta versija, kas spēj simulēt RISC-V centrālo procesoru, lai palaistu C un MicroPython kodu.

Qwenputer projekta ietvaros pētnieki izstrādāja paplaÅ”inātu Qwen3.5-4B mākslÄ«gā intelekta modeļa versiju, kas ievieÅ” iegultu pilnvērtÄ«ga 32 bitu centrālā procesora simulatoru, kura pamatā ir RISC-V arhitektÅ«ra (RV32IM), kas atbalsta Zba paplaÅ”inājumu un ir aprÄ«kots ar bignum lÄ«dzprocesoru lielu skaitļu aritmētikai. Centrālā procesora kodola ievieÅ”ana tiek kompilēta svaru kopā un integrēta plaŔākā valodas modelÄ« kā 11 papildu transformatoru slāņi, kas pievienoti pirms galvenajiem Qwen slāņiem. Aprēķini tiek veikti tieÅ”i neironu tÄ«kla tieŔās pārraides laikā, bez nepiecieÅ”amÄ«bas pēc ārējiem rÄ«kiem vai spraudņiem.

Implementācija veiksmÄ«gi nokārto visus oficiālās riscv-tests komplekta testus un spēj izpildÄ«t kompilētu C un MicroPython kodu. Veicot aritmētiskos aprēķinus ar lieliem skaitļiem, Qwenputer sasniedz 97.5–100% precizitāti, kas ir salÄ«dzināma ar vai labāka par Qwen3.5 bāzes modeli ar ārēju Python interpretatoru.

Lai simulētu RAM, modelis izmanto atseviŔķus vārtētus DeltaNet slāņus (lineārus RNN), kas tiek izmantoti standarta Qwen AI modelÄ«, lai saglabātu modificēto stāvokli, strādājot ar lieliem konteksta logiem. Bloķējot vārtu stāvokli un izmantojot vienreizēju kodēŔanu, katrs rakstīŔanas pieprasÄ«jums pārraksta tieÅ”i vienu stāvokļa matricas rindu, ļaujot DeltaNet stāvokli izmantot kā fiksēta izmēra adresējamu atmiņu, izvairoties no atslēgas-vērtÄ«bas (KV) keÅ”atmiņas lineāras pieauguma, palielinoties konteksta garumam. Å Ä« atmiņa satur CPU reÄ£istrus, datus un izpildāmo maŔīnas kodu.

Procesora instrukcijas, piemēram, reÄ£istru lasīŔana, aritmētiskās operācijas un nosacÄ«tie lēcieni, tiek tieÅ”i apkopotas transformatora slāņa svaros. Katra instrukcija ir saistÄ«ta ar Ä«paÅ”iem marÄ·ieriem (ADDR, VAL, STEP), kurus mākslÄ«gā intelekta modeļa slāņi interpretē kā centrālā procesora loÄ£iku. Neliels ārējs draiveris RvChat tiek izmantots centrālā procesora inicializēŔanai un programmaparatÅ«ras ielādei, bet pats maŔīnas kods tiek pilnÄ«bā apstrādāts modeļa svaru ietvaros.

Projekta ierobežojumi ietver aptuveni divkārÅ”u izmēra palielinājumu (18.8 GB) salÄ«dzinājumā ar sākotnējo Qwen modeli, saglabājot stāvokļa Ŕķēles (kontrolpunktus), galvenokārt papildu slāņu pievienoÅ”anas dēļ. Tiek atzÄ«mēts arÄ« relatÄ«vi zems skaitļoÅ”anas ātrums (aptuveni 3200 žetoni sekundē uz L4 GPU), kas nozÄ«mē, ka sarežģīti aprēķini var aizņemt sekundes, nevis milisekundes.

Turklāt tika ieviests mākslÄ«gā intelekta modeļa variants ar eksperimentālu failu sistēmu, kas ļauj uzglabāt lÄ«dz 512 failiem ar 53 000 teksta žetoniem mākslÄ«gā intelekta modeļa svaru ietvaros. Tāpat kā RAM ievieÅ”anā, krātuve ir organizēta, pamatojoties uz DeltaNet stāvokļiem, taču atŔķiras ar to, ka failu sistēma (FS) nodroÅ”ina pastāvÄ«gu krātuvi, kas nezaudē stāvokli starp sesijām.

Qwenputer darbs arÄ« veidoja pamatu pētÄ«jumiem par jaunām potenciālām droŔības problēmām mākslÄ«gajā intelektā. Izmantojot Qwenputer kā piemēru, tika demonstrēts, kā Ä«paÅ”i modificēts mākslÄ«gā intelekta modelis var slēpt savu sprieÅ”anu RNN stāvoklÄ« un apiet modeļa sprieÅ”anas uzraudzÄ«bas mehānismus (CoT, Chain-of-Thought). Tika demonstrēts arÄ«
spēja izveidot droŔības kontroles un uzraudzÄ«bas mehānismus, kas iebÅ«vēti AI modeļa svaros, kurus pats modelis nevar atspējot vai modificēt.

Avots: opennet.ru

Iegādājieties uzticamu mitināŔanu vietnēm ar DDoS aizsardzÄ«bu, VPS VDS serveriem šŸ”„ Iegādājieties uzticamu tÄ«mekļa vietņu mitināŔanu ar DDoS aizsardzÄ«bu, VPS VDS serveriem | ProHoster