Qwenputer loyihasining bir qismi sifatida tadqiqotchilar Qwen3.5-4B AI modelining kengaytirilgan versiyasini ishlab chiqdilar, u RISC-V arxitekturasiga (RV32IM) asoslangan to'liq 32-bitli protsessorning o'rnatilgan simulyatorini amalga oshiradi, Zba kengaytmasini qo'llab-quvvatlaydi va katta sonli arifmetika uchun bignum koprotsessor bilan jihozlangan. CPU yadrosi implementatsiyasi og'irliklar to'plamiga kompilyatsiya qilinadi va asosiy Qwen qatlamlaridan oldin qo'shilgan 11 ta qo'shimcha transformator qatlami sifatida kattaroq til modeliga birlashtiriladi. Hisoblashlar tashqi vositalar yoki plaginlarga ehtiyoj sezmasdan, neyron tarmog'ining oldinga o'tishi paytida to'g'ridan-to'g'ri amalga oshiriladi.
Ushbu dastur rasmiy riscv-tests to'plamidagi barcha sinovlardan muvaffaqiyatli o'tdi va kompilyatsiya qilingan C va MicroPython kodini bajarishga qodir. Katta sonlar bilan arifmetik hisob-kitoblarni bajarishda Qwenputer 97.5-100% aniqlikka erishadi, bu tashqi Python tarjimoni bilan bazaviy Qwen3.5 modeliga o'xshash yoki undan yaxshiroq.
RAMni simulyatsiya qilish uchun model alohida Gated DeltaNet qatlamlaridan (chiziqli RNN) foydalanadi, ular katta kontekst oynalari bilan ishlashda o'zgartirilgan holatni saqlab qolish uchun standart Qwen AI modelida qo'llaniladi. Darvoza holatini qulflash va bir martalik kodlashdan foydalanish orqali har bir yozish so'rovi holat matritsasining aniq bitta qatorini ustiga yozadi, bu esa DeltaNet holatini belgilangan o'lchamdagi adreslanadigan xotira sifatida ishlatishga imkon beradi va kontekst uzunligi oshgani sayin Kalit-Qiymat (KV) keshining chiziqli o'sishini oldini oladi. Ushbu xotira protsessor registrlari, ma'lumotlar va bajariladigan mashina kodini sig'dira oladi.
Registrlarni o'qish, arifmetik amallar va shartli sakrashlar kabi protsessor ko'rsatmalari to'g'ridan-to'g'ri transformator qatlami og'irliklariga kompilyatsiya qilinadi. Har bir ko'rsatma maxsus tokenlar (ADDR, VAL, STEP) bilan bog'liq bo'lib, ularni AI model qatlamlari protsessor mantig'i sifatida talqin qiladi. Kichik tashqi drayver, RvChat, protsessorni ishga tushirish va dasturiy ta'minotni yuklash uchun ishlatiladi, ammo mashina kodi o'zi butunlay model og'irliklari doirasida qayta ishlanadi.
Loyihaning cheklovlari orasida holat bo'laklarini (nazorat nuqtalarini) saqlashda asl Qwen modeliga nisbatan hajmining taxminan ikki baravar oshishi (18.8 GB), asosan qo'shimcha qatlamlarning qo'shimcha to'ldirilishi tufayli mavjud. Nisbatan past hisoblash tezligi ham qayd etilgan (L4 GPUda taxminan 3200 token/sekund), ya'ni murakkab hisob-kitoblar millisekundlar o'rniga soniyalarni olishi mumkin.
Bundan tashqari, AI modelining bir varianti eksperimental fayl tizimi bilan amalga oshirildi, bu AI modelining og'irliklari doirasida 53 000 ta matn tokenlari bilan 512 tagacha faylni saqlash imkonini beradi. RAMni amalga oshirishda bo'lgani kabi, saqlash DeltaNet holatlari asosida tashkil etilgan, ammo FS sessiyalar orasida holatni yo'qotmaydigan doimiy saqlashni ta'minlashi bilan farq qiladi.
Qwenputerning ishi, shuningdek, sun'iy intellektdagi yangi potentsial xavfsizlik muammolarini tadqiq qilish uchun asos bo'ldi. Qwenputer misolida maxsus o'zgartirilgan sun'iy intellekt modeli o'z mulohazalarini RNN holatida qanday yashirishi va model mulohazalarini monitoring qilish mexanizmlarini (CoT, Chain-of-Thought) chetlab o'tishi ko'rsatildi. Shuningdek, u ko'rsatildi.
AI modelining og'irliklariga o'rnatilgan xavfsizlikni boshqarish va monitoring mexanizmlarini yaratish qobiliyati, ularni modelning o'zi o'chira olmaydi yoki o'zgartira olmaydi.
Manba: opennet.ru
