Qwenputer долбоорунун алкагында изилдөөчүлөр Qwen3.5-4B AI моделинин кеңейтилген версиясын иштеп чыгышты, ал RISC-V архитектурасына (RV32IM) негизделген толук кандуу 32-биттик CPUнун камтылган симуляторун ишке ашырат, Zba кеңейтүүсүн колдойт жана чоң сандагы арифметика үчүн bignum сопроцессору менен жабдылган. CPU ядросунун ишке ашырылышы салмактар топтомуна компиляцияланат жана негизги Qwen катмарларынан мурун кошулган трансформаторлордун 11 кошумча катмары катары чоңураак тил моделине интеграцияланган. Эсептөөлөр тышкы куралдарды же плагиндерди колдонбостон, нейрон тармагынын алдыга өтүшү учурунда түздөн-түз жүргүзүлөт.
Бул ишке ашыруу расмий riscv-tests топтомундагы бардык тесттерден ийгиликтүү өтүп, компиляцияланган C жана MicroPython кодун аткара алат. Чоң сандар менен арифметикалык эсептөөлөрдү жүргүзүүдө Qwenputer 97.5-100% тактыкка жетет, бул тышкы Python интерпретатору бар базалык Qwen3.5 моделине салыштырмалуу же андан жакшыраак.
RAM моделин симуляциялоо үчүн, модель чоң контексттик терезелер менен иштөөдө өзгөртүлгөн абалды сактоо үчүн стандарттуу Qwen AI моделинде колдонулган өзүнчө Gated DeltaNet катмарларын (сызыктуу RNN) колдонот. Дарбаза абалын кулпулоо жана бир жолу коддоону колдонуу менен, ар бир жазуу өтүнүчү абал матрицасынын так бир сабынын үстүнөн жазылат, бул DeltaNet абалын туруктуу өлчөмдөгү даректүү эс тутум катары колдонууга мүмкүндүк берет, контексттин узундугу көбөйгөн сайын Key-Value (KV) кэшинин сызыктуу өсүшүнө жол бербейт. Бул эс тутум CPU регистрлерин, маалыматтарды жана аткарылуучу машина кодун камтыйт.
Регистрлерди окуу, арифметикалык амалдар жана шарттуу секирүүлөр сыяктуу процессордун көрсөтмөлөрү түздөн-түз трансформатордун катмарынын салмактарына компиляцияланат. Ар бир көрсөтмө атайын токендер (ADDR, VAL, STEP) менен байланышкан, аларды AI моделинин катмарлары CPU логикасы катары чечмелейт. CPUну инициализациялоо жана микропрограмманы жүктөө үчүн кичинекей тышкы драйвер, RvChat, колдонулат, бирок машинанын коду өзү толугу менен моделдин салмактарынын чегинде иштетилет.
Долбоордун чектөөлөрүнө абал кесимдерин (текшерүү чекиттерин) сактоодо баштапкы Qwen моделине салыштырмалуу көлөмүнүн болжол менен эки эсеге көбөйүшү (18.8 ГБ) кирет, бул негизинен кошумча катмарлардын кошумча толтурулушуна байланыштуу. Эсептөө ылдамдыгынын салыштырмалуу төмөндүгү да белгиленет (L4 GPUда секундасына болжол менен 3200 токен), башкача айтканда, татаал эсептөөлөр миллисекунд эмес, секунддарды талап кылышы мүмкүн.
Мындан тышкары, AI моделинин бир варианты эксперименталдык файл системасы менен ишке ашырылган, ал AI моделинин салмагынын чегинде 53 000 тексттик токен менен 512ге чейин файлды сактоого мүмкүндүк берет. RAM ишке ашыруудагыдай эле, сактоо DeltaNet абалдарынын негизинде уюштурулат, бирок FS сеанстардын ортосунда абалын жоготпогон туруктуу сактоону камсыз кылгандыгы менен айырмаланат.
Квенпутердин эмгеги ошондой эле жасалма интеллекттеги жаңы потенциалдуу коопсуздук маселелерин изилдөө үчүн негиз түзгөн. Квенпутердин мисалында атайын өзгөртүлгөн жасалма интеллект модели өзүнүн ой жүгүртүүсүн RNN абалында кантип жашыра алары жана моделдин ой жүгүртүүсүн көзөмөлдөө механизмдерин (CoT, Chain-of-Thought) айланып өтө алары көрсөтүлдү. Ошондой эле көрсөтүлдү
моделдин өзү өчүрө же өзгөртө албаган AI моделинин салмагына орнотулган коопсуздукту көзөмөлдөө жана мониторинг механизмдерин түзүү мүмкүнчүлүгү.
Source: opennet.ru
