Qwenputer layihəsinin bir hissəsi olaraq, tədqiqatçılar, RISC-V arxitekturasına (RV32IM) əsaslanan, Zba genişləndirməsini dəstəkləyən və böyük ədəd hesablamaları üçün bignum koprosessoru ilə təchiz olunmuş tam hüquqlu 32 bitlik CPU-nun daxili simulyatorunu tətbiq edən Qwen3.5-4B süni intellekt modelinin genişləndirilmiş versiyasını hazırladılar. CPU nüvəsinin tətbiqi bir sıra çəkilərə yığılır və əsas Qwen təbəqələrindən əvvəl əlavə edilmiş 11 əlavə transformator təbəqəsi kimi daha böyük bir dil modelinə inteqrasiya olunur. Hesablamalar xarici alətlərə və ya plaginlərə ehtiyac olmadan birbaşa neyron şəbəkəsinin irəli keçməsi zamanı aparılır.
Tətbiq rəsmi riscv-tests dəstindəki bütün testlərdən uğurla keçib və kompilyasiya edilmiş C və MicroPython kodlarını yerinə yetirə bilir. Böyük ədədlərlə hesablamalar apararkən, Qwenputer 97.5-100% dəqiqliyə nail olur ki, bu da xarici Python interpretatoru olan baza Qwen3.5 modelinə bənzər və ya ondan daha yaxşı göstəricidir.
RAM-ı simulyasiya etmək üçün model, böyük kontekst pəncərələri ilə işləyərkən dəyişdirilmiş vəziyyəti qorumaq üçün standart Qwen AI modelində istifadə olunan ayrıca Gated DeltaNet təbəqələrindən (xətti RNN-lər) istifadə edir. Gate vəziyyətini kilidləməklə və birdəfəlik kodlaşdırmadan istifadə etməklə, hər bir yazma tələbi vəziyyət matrisinin tam bir sətrini yazır və bu da DeltaNet vəziyyətinin sabit ölçülü ünvanlanan yaddaş kimi istifadəsinə imkan verir və kontekst uzunluğu artdıqca Açar Dəyər (KV) keşinin xətti böyüməsinin qarşısını alır. Bu yaddaş CPU registrlərini, məlumatları və icra edilə bilən maşın kodunu yerləşdirir.
Registr oxunuşu, hesab əməliyyatları və şərti atlamalar kimi prosessor təlimatları birbaşa transformator təbəqəsinin çəkilərinə kompilyasiya edilir. Hər bir təlimat süni intellekt model təbəqələrinin CPU məntiqi kimi şərh etdiyi xüsusi tokenlərlə (ADDR, VAL, STEP) əlaqələndirilir. CPU-nu işə salmaq və proqram təminatını yükləmək üçün kiçik bir xarici drayver, RvChat istifadə olunur, lakin maşın kodu özü tamamilə model çəkiləri daxilində işlənir.
Layihənin məhdudiyyətlərinə, əsasən əlavə təbəqələrin əlavə doldurulması səbəbindən vəziyyət dilimlərini (yoxlama nöqtələrini) qoruyarkən orijinal Qwen modelinə nisbətən ölçüdə təxminən ikiqat artım (18.8 GB) daxildir. Nisbətən aşağı hesablama sürəti də qeyd olunur (L4 GPU-da saniyədə təxminən 3200 token), yəni mürəkkəb hesablamalar millisaniyə əvəzinə saniyələr çəkə bilər.
Bundan əlavə, süni intellekt modelinin bir variantı eksperimental fayl sistemi ilə tətbiq edildi və bu da süni intellekt modelinin çəkiləri daxilində 53 mətn tokeni ilə 512-yə qədər faylın saxlanmasına imkan verdi. RAM tətbiqində olduğu kimi, saxlama DeltaNet vəziyyətlərinə əsasən təşkil edilir, lakin FS sessiyalar arasında vəziyyəti itirməyən davamlı saxlama təmin etməsi ilə fərqlənir.
Qwenputerin işi həmçinin süni intellektdə yeni potensial təhlükəsizlik problemlərinin araşdırılması üçün əsas təşkil etmişdir. Qwenputer nümunəsi kimi istifadə edilərək, xüsusi olaraq modifikasiya edilmiş süni intellekt modelinin öz mülahizələrini RNN vəziyyətində necə gizlədə və model mülahizələrinin monitorinq mexanizmlərini (CoT, Zəncir-of-Thought) necə kənara qoya biləcəyi nümayiş etdirilmişdir.
süni intellekt modelinin çəkilərinə daxil edilmiş təhlükəsizlik nəzarəti və monitorinq mexanizmləri yaratmaq imkanı, modelin özünün söndürə və ya dəyişdirə bilməməsi.
Mənbə: opennet.ru
