Qwenputer হলো Qwen3.5 এআই মডেলের একটি সংশোধিত সংস্করণ, যা C এবং MicroPython কোড চালানোর জন্য একটি RISC-V সিপিইউ অনুকরণ করতে সক্ষম।

Qwenputer প্রকল্পের অংশ হিসেবে, গবেষকরা Qwen3.5-4B এআই মডেলের একটি বর্ধিত সংস্করণ তৈরি করেছেন, যা RISC-V আর্কিটেকচারের (RV32IM) উপর ভিত্তি করে একটি পূর্ণাঙ্গ ৩২-বিট সিপিইউ-এর এমবেডেড সিমুলেটর বাস্তবায়ন করে। এটি Zba এক্সটেনশন সমর্থন করে এবং বড় সংখ্যার গাণিতিক কাজের জন্য একটি bignum কোপ্রসেসর দিয়ে সজ্জিত। সিপিইউ কার্নেল ইমপ্লিমেন্টেশনটি এক সেট ওয়েট-এ কম্পাইল করা হয় এবং মূল Qwen লেয়ারগুলোর আগে যুক্ত হওয়া ১১টি অতিরিক্ত ট্রান্সফরমার লেয়ার হিসেবে একটি বৃহত্তর ল্যাঙ্গুয়েজ মডেলে একীভূত করা হয়। নিউরাল নেটওয়ার্কের ফরোয়ার্ড পাসের সময় সরাসরি গণনাগুলো সম্পন্ন করা হয়, যার জন্য কোনো বাহ্যিক টুল বা প্লাগইনের প্রয়োজন হয় না।

এই ইমপ্লিমেন্টেশনটি অফিসিয়াল riscv-tests স্যুটের সমস্ত পরীক্ষা সফলভাবে পাস করেছে এবং কম্পাইল করা C ও MicroPython কোড এক্সিকিউট করতে সক্ষম। বড় সংখ্যার গাণিতিক গণনা করার সময়, Qwenputer ৯৭.৫-১০০% নির্ভুলতা অর্জন করে, যা একটি এক্সটার্নাল পাইথন ইন্টারপ্রেটার সহ বেসলাইন Qwen3.5 মডেলের সমতুল্য বা তার চেয়েও ভালো।

র‍্যাম অনুকরণ করার জন্য, মডেলটি পৃথক গেটেড ডেল্টানেট লেয়ার (লিনিয়ার আরএনএন) ব্যবহার করে, যা স্ট্যান্ডার্ড কুইন এআই মডেলে বড় কনটেক্সট উইন্ডো নিয়ে কাজ করার সময় পরিবর্তিত স্টেট সংরক্ষণ করতে ব্যবহৃত হয়। গেট স্টেট লক করে এবং ওয়ান-হট এনকোডিং ব্যবহার করার মাধ্যমে, প্রতিটি রাইট রিকোয়েস্ট স্টেট ম্যাট্রিক্সের ঠিক একটি সারি ওভাররাইট করে, যা ডেল্টানেট স্টেটকে একটি নির্দিষ্ট আকারের অ্যাড্রেসেবল মেমরি হিসেবে ব্যবহার করার সুযোগ দেয় এবং কনটেক্সটের দৈর্ঘ্য বাড়ার সাথে সাথে কী-ভ্যালু (কেভি) ক্যাশের রৈখিক বৃদ্ধি এড়ায়। এই মেমরি সিপিইউ রেজিস্টার, ডেটা এবং এক্সিকিউটেবল মেশিন কোড ধারণ করে।

প্রসেসরের নির্দেশাবলী, যেমন রেজিস্টার রিডিং, গাণিতিক অপারেশন এবং শর্তসাপেক্ষ জাম্প, সরাসরি ট্রান্সফরমার লেয়ারের ওয়েট-এর মধ্যে কম্পাইল করা হয়। প্রতিটি নির্দেশ বিশেষ টোকেনের (ADDR, VAL, STEP) সাথে যুক্ত থাকে, যেগুলোকে এআই মডেল লেয়ারগুলো সিপিইউ লজিক হিসেবে ব্যাখ্যা করে। সিপিইউ চালু করতে এবং ফার্মওয়্যার লোড করতে RvChat নামক একটি ছোট বাহ্যিক ড্রাইভার ব্যবহার করা হয়, কিন্তু মেশিন কোডটি সম্পূর্ণরূপে মডেল ওয়েট-এর মধ্যেই প্রসেস করা হয়।

স্টেট স্লাইস (চেকপয়েন্ট) সংরক্ষণের ক্ষেত্রে, মূল Qwen মডেলের তুলনায় এই প্রজেক্টের আকারের প্রায় দ্বিগুণ বৃদ্ধি (১৮.৮ জিবি) এর অন্যতম সীমাবদ্ধতা। এর প্রধান কারণ হলো অতিরিক্ত লেয়ারগুলোর বাড়তি প্যাডিং। এছাড়াও এর গণনার গতি তুলনামূলকভাবে কম (একটি L4 GPU-তে প্রতি সেকেন্ডে প্রায় ৩,২০০ টোকেন), যার ফলে জটিল গণনা করতে মিলিসেকেন্ডের পরিবর্তে সেকেন্ড লেগে যেতে পারে।

এছাড়াও, এআই মডেলটির একটি সংস্করণ একটি পরীক্ষামূলক ফাইল সিস্টেমের মাধ্যমে প্রয়োগ করা হয়েছিল, যা এআই মডেলের ওয়েট-এর মধ্যে ৫৩,০০০ টেক্সট টোকেন সহ ৫১২টি পর্যন্ত ফাইল সংরক্ষণের সুযোগ দেয়। র‍্যাম ইমপ্লিমেন্টেশনের মতোই, স্টোরেজটি ডেল্টানেট স্টেট-এর উপর ভিত্তি করে সাজানো হয়, কিন্তু পার্থক্য হলো এই যে, এফএস এমন একটি পারসিস্টেন্ট স্টোরেজ প্রদান করে যা সেশনগুলোর মধ্যে তার স্টেট হারায় না।

Qwenputer-এর কাজ AI-তে নতুন সম্ভাব্য নিরাপত্তা সমস্যা নিয়ে গবেষণার ভিত্তিও তৈরি করেছিল। Qwenputer-কে উদাহরণ হিসেবে ব্যবহার করে দেখানো হয়েছিল যে, কীভাবে একটি বিশেষভাবে পরিবর্তিত AI মডেল তার যুক্তিকে একটি RNN স্টেটের মধ্যে লুকিয়ে রাখতে পারে এবং মডেলের যুক্তি পর্যবেক্ষণ ব্যবস্থা (CoT, Chain-of-Thought) এড়িয়ে যেতে পারে। এটিও দেখানো হয়েছিল যে
এআই মডেলের ওয়েট-এর মধ্যে এমন নিরাপত্তা নিয়ন্ত্রণ ও পর্যবেক্ষণ ব্যবস্থা তৈরি করার ক্ষমতা, যা মডেলটি নিজে নিষ্ক্রিয় বা পরিবর্তন করতে পারে না।

উত্স: opennet.ru