Qwenputer төслийн хүрээнд судлаачид Qwen3.5-4B хиймэл оюун ухааны загварын өргөтгөсөн хувилбарыг боловсруулсан бөгөөд энэ нь RISC-V архитектур (RV32IM) дээр суурилсан бүрэн хэмжээний 32 битийн CPU-ийн суулгагдсан симуляторыг хэрэгжүүлдэг, Zba өргөтгөлийг дэмждэг бөгөөд олон тооны арифметикийн bignum coprocessor-оор тоноглогдсон. CPU цөмийн хэрэгжилтийг жингийн багц болгон хөрвүүлж, үндсэн Qwen давхаргуудын өмнө 11 нэмэлт трансформаторын давхаргыг нэмж том хэлний загварт нэгтгэдэг. Тооцооллыг мэдрэлийн сүлжээний урагшлах явцад гадны хэрэгсэл эсвэл залгаас шаардлагагүйгээр шууд гүйцэтгэдэг.
Энэхүү хэрэгжилт нь албан ёсны riscv-tests багцын бүх тестийг амжилттай давсан бөгөөд хөрвүүлсэн C болон MicroPython кодыг гүйцэтгэх чадвартай. Том тоонуудтай арифметик тооцоолол хийх үед Qwenputer нь 97.5-100% нарийвчлалтай ажилладаг бөгөөд энэ нь гадаад Python хөрвүүлэгчтэй Qwen3.5 суурь загвартай харьцуулах боломжтой эсвэл түүнээс ч илүү юм.
RAM-г дуурайлган хийхийн тулд загвар нь тусдаа Gated DeltaNet давхаргуудыг (шугаман RNN) ашигладаг бөгөөд эдгээрийг том контекст цонхтой ажиллах үед өөрчлөгдсөн төлөвийг хадгалахын тулд стандарт Qwen AI загварт ашигладаг. Хаалганы төлөвийг түгжиж, нэг удаагийн халуун кодчилол ашигласнаар бичих хүсэлт бүр нь төлөвийн матрицын яг нэг мөрийг дарж бичдэг бөгөөд энэ нь DeltaNet төлөвийг тогтмол хэмжээтэй хаяглах боломжтой санах ой болгон ашиглах боломжийг олгодог бөгөөд контекстийн урт нэмэгдэхийн хэрээр Key-Value (KV) кэшийн шугаман өсөлтөөс зайлсхийдэг. Энэхүү санах ой нь CPU регистр, өгөгдөл болон гүйцэтгэгдэх машины кодыг багтаадаг.
Регистрийн уншилт, арифметик үйлдэл, нөхцөлт үсрэлт зэрэг процессорын заавруудыг трансформаторын давхаргын жинд шууд хөрвүүлдэг. Заавар бүр нь тусгай токенуудтай (ADDR, VAL, STEP) холбоотой бөгөөд хиймэл оюун ухааны загварын давхаргууд нь CPU логик гэж тайлбарладаг. CPU-г эхлүүлж, програм хангамжийг ачаалахад жижиг гадаад драйвер болох RvChat ашиглагддаг боловч машины кодыг өөрөө загварын жингийн хүрээнд бүхэлд нь боловсруулдаг.
Төслийн хязгаарлалтууд нь төлөвийн зүсмэлүүдийг (шалгах цэгүүд) хадгалах үед анхны Qwen загвартай харьцуулахад хэмжээ нь ойролцоогоор хоёр дахин нэмэгдсэн (18.8 GB) бөгөөд энэ нь голчлон нэмэлт давхаргуудын нэмэлт дүүргэлтээс шалтгаалж байна. Тооцооллын хурд харьцангуй бага байгааг тэмдэглэсэн (L4 GPU дээр секундэд ойролцоогоор 3200 токен), энэ нь нарийн төвөгтэй тооцоолол нь миллисекунд биш харин секунд шаардаж болно гэсэн үг юм.
Түүнчлэн, хиймэл оюун ухааны загварын нэг хувилбарыг туршилтын файлын системээр хэрэгжүүлсэн бөгөөд энэ нь хиймэл оюун ухааны загварын жингийн хүрээнд 53 текст токен бүхий 512 хүртэлх файлыг хадгалах боломжийг олгодог. RAM хэрэгжүүлэлтийн нэгэн адил хадгалалтыг DeltaNet төлөвүүд дээр үндэслэн зохион байгуулдаг боловч FS нь сессүүдийн хооронд төлөвөө алдахгүй тогтвортой хадгалалтаар хангадаг гэдгээрээ ялгаатай.
Квенпутерийн бүтээл нь хиймэл оюун ухаанд гарч болзошгүй шинэ аюулгүй байдлын асуудлуудыг судлах үндэс суурийг тавьсан. Квенпутерийг жишээ болгон ашиглан тусгайлан өөрчилсөн хиймэл оюун ухааны загвар нь RNN төлөвт өөрийн үндэслэлийг хэрхэн нууж, загварын үндэслэлийг хянах механизмыг (CoT, Chain-of-Thought) тойрч гарах боломжтойг харуулсан. Мөн үүнийг харуулсан.
загвар өөрөө идэвхгүй болгох эсвэл өөрчлөх боломжгүй хиймэл оюун ухааны загварын жинд суурилсан аюулгүй байдлын хяналт, хяналтын механизмыг бий болгох чадвар.
Эх сурвалж: opennet.ru
