Qwenputer նախագծի շրջանակներում հետազոտողները մշակել են Qwen3.5-4B արհեստական բանականության մոդելի ընդլայնված տարբերակը, որն իրականացնում է RISC-V ճարտարապետության (RV32IM) վրա հիմնված լիարժեք 32-բիթանոց պրոցեսորի ներկառուցված սիմուլյատոր, որը աջակցում է Zba ընդլայնմանը և հագեցած է bignum համապրոցեսորով՝ մեծ թվերի թվաբանության համար: Պրոցեսորի միջուկի իրականացումը կոմպիլացվում է կշիռների հավաքածուի մեջ և ինտեգրվում է ավելի մեծ լեզվական մոդելի մեջ՝ որպես տրանսֆորմատորների 11 լրացուցիչ շերտեր, որոնք ավելացվում են Qwen-ի հիմնական շերտերից առաջ: Հաշվարկները կատարվում են անմիջապես նեյրոնային ցանցի առաջխաղացման ընթացքում՝ առանց արտաքին գործիքների կամ հավելվածների անհրաժեշտության:
Կիրառումը հաջողությամբ անցել է պաշտոնական riscv-tests փաթեթի բոլոր թեստերը և կարող է կատարել կոմպիլացված C և MicroPython կոդ: Մեծ թվերով թվաբանական հաշվարկներ կատարելիս Qwenputer-ը հասնում է 97.5-100% ճշգրտության, որը համեմատելի է կամ ավելի լավ, քան Qwen3.5 բազային մոդելը՝ արտաքին Python մեկնաբանիչով:
RAM-ը մոդելավորելու համար մոդելն օգտագործում է առանձին դարպասավորված DeltaNet շերտեր (գծային RNN), որոնք օգտագործվում են ստանդարտ Qwen AI մոդելում՝ մեծ համատեքստային պատուհանների հետ աշխատելիս փոփոխված վիճակը պահպանելու համար: Դարպասի վիճակը կողպելով և օգտագործելով մեկանգամյա կոդավորում, յուրաքանչյուր գրառման հարցում վերագրում է վիճակի մատրիցի ճիշտ մեկ տող, թույլ տալով DeltaNet վիճակը օգտագործել որպես ֆիքսված չափի հասցեական հիշողություն, խուսափելով Key-Value (KV) քեշի գծային աճից՝ համատեքստի երկարության մեծացմանը զուգընթաց: Այս հիշողությունը տեղավորում է CPU գրանցամատյաններ, տվյալներ և կատարվող մեքենայի կոդ:
Պրոցեսորի հրահանգները, ինչպիսիք են գրանցամատյանի ընթերցումը, թվաբանական գործողությունները և պայմանական ցատկերը, կոմպիլացվում են անմիջապես տրանսֆորմատորի շերտի կշիռների մեջ: Յուրաքանչյուր հրահանգ կապված է հատուկ տոկենների հետ (ADDR, VAL, STEP), որոնք արհեստական բանականության մոդելի շերտերը մեկնաբանում են որպես CPU տրամաբանություն: Փոքրիկ արտաքին դրայվերը՝ RvChat-ը, օգտագործվում է CPU-ն նախնականացնելու և firmware-ը բեռնելու համար, բայց մեքենայի կոդն ինքնին ամբողջությամբ մշակվում է մոդելի կշիռների շրջանակներում:
Նախագծի սահմանափակումներից են չափի մոտավորապես կրկնակի աճը (18.8 ԳԲ)՝ համեմատած Քվենի սկզբնական մոդելի հետ՝ վիճակի շերտերը (ստուգիչ կետերը) պահպանելիս, հիմնականում լրացուցիչ շերտերի լրացուցիչ լրացման պատճառով: Նկատվում է նաև համեմատաբար ցածր հաշվարկային արագություն (մոտավորապես 3200 տոկեն վայրկյանում L4 GPU-ի վրա), ինչը նշանակում է, որ բարդ հաշվարկները կարող են տևել վայրկյաններ, այլ ոչ թե միլիվայրկյաններ:
Բացի այդ, արհեստական բանականության մոդելի մի տարբերակ ներդրվել է փորձարարական ֆայլային համակարգով, որը թույլ է տալիս պահպանել մինչև 512 ֆայլ՝ 53 տեքստային տոկեններով արհեստական բանականության մոդելի կշիռների սահմաններում: Ինչպես RAM իրականացման դեպքում, պահեստավորումը կազմակերպվում է DeltaNet վիճակների հիման վրա, բայց տարբերվում է նրանով, որ FS-ն ապահովում է մշտական պահեստավորում, որը չի կորցնում վիճակը սեսիաների միջև:
Քվենպուտերի աշխատանքը նաև հիմք հանդիսացավ արհեստական բանականության ոլորտում նոր հնարավոր անվտանգության խնդիրների հետազոտության համար: Քվենպուտերի օրինակով ցույց տրվեց, թե ինչպես կարող է հատուկ ձևափոխված արհեստական բանականության մոդելը թաքցնել իր դատողությունը RNN վիճակում և շրջանցել մոդելի դատողության մոնիթորինգի մեխանիզմները (CoT, մտքի շղթա): Այն նաև ցույց տրվեց:
Արհեստական բանականության մոդելի կշիռներում ներկառուցված անվտանգության վերահսկողության և մոնիթորինգի մեխանիզմներ ստեղծելու ունակություն, որոնք մոդելն ինքը չի կարող անջատել կամ փոփոխել։
Source: opennet.ru
