Qwenputer არის Qwen3.5 ხელოვნური ინტელექტის მოდელის განახლებული ვერსია, რომელსაც შეუძლია RISC-V CPU-ს სიმულირება C და MicroPython კოდის გასაშვებად.

Qwenputer პროექტის ფარგლებში, მკვლევარებმა შეიმუშავეს Qwen3.5-4B ხელოვნური ინტელექტის მოდელის გაფართოებული ვერსია, რომელიც ახორციელებს RISC-V არქიტექტურის (RV32IM) საფუძველზე შექმნილი სრულფასოვანი 32-ბიტიანი პროცესორის ჩაშენებულ სიმულატორს, რომელიც მხარს უჭერს Zba გაფართოებას და აღჭურვილია დიდი რიცხვების არითმეტიკისთვის განკუთვნილი bignum კოპროცესორით. პროცესორის ბირთვის იმპლემენტაცია კომპილირებულია წონების ნაკრებად და ინტეგრირებულია უფრო დიდ ენობრივ მოდელში, როგორც ტრანსფორმატორების 11 დამატებითი ფენა, რომლებიც ემატება Qwen-ის ძირითად ფენებს. გამოთვლები სრულდება უშუალოდ ნეირონული ქსელის პირდაპირი გავლის დროს, გარე ხელსაწყოების ან დანამატების საჭიროების გარეშე.

იმპლემენტაცია წარმატებით გადის ოფიციალურ riscv-tests პაკეტში არსებულ ყველა ტესტს და შეუძლია კომპილირებული C და MicroPython კოდის შესრულება. დიდი რიცხვებით არითმეტიკული გამოთვლების შესრულებისას, Qwenputer აღწევს 97.5-100%-იან სიზუსტეს, რაც შედარებადია ან უკეთესია, ვიდრე საბაზისო Qwen3.5 მოდელი გარე Python ინტერპრეტატორის გამოყენებით.

ოპერატიული მეხსიერების სიმულირებისთვის, მოდელი იყენებს ცალკეულ Gated DeltaNet ფენებს (წრფივი RNNs), რომლებიც გამოიყენება სტანდარტულ Qwen AI მოდელში, რათა შეინარჩუნოს შეცვლილი მდგომარეობა დიდ კონტექსტურ ფანჯრებთან მუშაობისას. კარიბჭის მდგომარეობის დაბლოკვით და ერთიანი კოდირების გამოყენებით, თითოეული ჩაწერის მოთხოვნა ცვლის მდგომარეობის მატრიცის ზუსტად ერთ რიგს, რაც საშუალებას იძლევა DeltaNet მდგომარეობის გამოყენების, როგორც ფიქსირებული ზომის მისამართებადი მეხსიერების, თავიდან აცილების მიზნით Key-Value (KV) ქეშის წრფივი ზრდა კონტექსტის სიგრძის ზრდასთან ერთად. ეს მეხსიერება იტევს CPU რეგისტრებს, მონაცემებს და შესრულებად მანქანურ კოდს.

პროცესორის ინსტრუქციები, როგორიცაა რეგისტრის წაკითხვა, არითმეტიკული ოპერაციები და პირობითი ნახტომები, პირდაპირ ტრანსფორმატორის ფენის წონებშია კომპილირებული. თითოეული ინსტრუქცია დაკავშირებულია სპეციალურ ტოკენებთან (ADDR, VAL, STEP), რომლებსაც ხელოვნური ინტელექტის მოდელის ფენები CPU ლოგიკად განმარტავენ. მცირე გარე დრაივერი, RvChat, გამოიყენება CPU-ს ინიციალიზაციისა და firmware-ის ჩასატვირთად, მაგრამ თავად მანქანის კოდი მთლიანად მოდელის წონებში მუშავდება.

პროექტის შეზღუდვებს შორისაა ზომის დაახლოებით ორჯერ გაზრდა (18.8 GB) ორიგინალ Qwen მოდელთან შედარებით, მდგომარეობის ნაჭრების (საკონტროლო წერტილების) შენარჩუნებისას, რაც ძირითადად დამატებითი ფენების დამატებითი შევსების გამო ხდება. ასევე აღინიშნება შედარებით დაბალი გამოთვლის სიჩქარე (დაახლოებით 3200 ტოკენი წამში L4 GPU-ზე), რაც იმას ნიშნავს, რომ რთულ გამოთვლებს შეიძლება წამები დასჭირდეს მილიწამების ნაცვლად.

გარდა ამისა, ხელოვნური ინტელექტის მოდელის ვარიანტი ექსპერიმენტული ფაილური სისტემით იქნა დანერგილი, რომელიც ხელოვნური ინტელექტის მოდელის წონებში 53 ტექსტური ტოკენით 512 ფაილის შენახვის საშუალებას იძლევა. ოპერატიული მეხსიერების იმპლემენტაციის მსგავსად, შენახვა DeltaNet-ის მდგომარეობების მიხედვით არის ორგანიზებული, მაგრამ განსხვავდება იმით, რომ FS უზრუნველყოფს მუდმივ შენახვას, რომელიც სესიებს შორის მდგომარეობას არ კარგავს.

კვენპუტერის ნაშრომმა ასევე საფუძველი ჩაუყარა ხელოვნურ ინტელექტში უსაფრთხოების ახალი პოტენციური პრობლემების კვლევას. კვენპუტერის მაგალითის გამოყენებით, ნაჩვენები იყო, თუ როგორ შეუძლია სპეციალურად მოდიფიცირებულ ხელოვნურ ინტელექტს დამალოს თავისი მსჯელობა RNN მდგომარეობაში და გვერდი აუაროს მოდელის მსჯელობის მონიტორინგის მექანიზმებს (CoT, Chain-of-Thought). ასევე ნაჩვენები იყო
ხელოვნური ინტელექტის მოდელის წონაში ჩაშენებული უსაფრთხოების კონტროლისა და მონიტორინგის მექანიზმების შექმნის შესაძლებლობა, რომელთა გამორთვა ან შეცვლა თავად მოდელს არ შეუძლია.

წყარო: opennet.ru