V rámci projektu Qwenputer výzkumníci připravili rozšířenou variantu AI modelu Qwen3.5-4B, ve které je implementován vestavěný simulátor plnohodnotného 32bitového CPU na bázi architektury RISC-V (RV32IM), podporujícího rozšíření Zba a vybaveného koprocesorem bignum pro aritmetické operace s velkými čísly. Implementace jádra CPU byla zkompilována do sady vah a integrována do velkého jazykového modelu jako 11 dodatečných vrstev transformátorů, které byly přidány před hlavními vrstvami Qwen. Výpočty se provádějí přímo v procesu přímého průchodu (forward pass) neuronové sítě, bez připojení externích nástrojů nebo pluginů.
Implementace úspěšně prošla všemi testy z oficiální sady testů riscv-tests a je schopná vykonávat zkompilovaný kód na C a MicroPython. Při provádění aritmetických výpočtů s velkými čísly Qwenputer zajišťuje přesnost 97,5–100 %, což je srovnatelné nebo překračuje výsledky základního modelu Qwen3.5 s připojeným externím interpretem Python.
Pro simulaci operační paměti v modelu jsou využívány samostatné vrstvy Gated DeltaNet (lineární RNN), které se používají v běžném AI modelu Qwen pro uchování změněného stavu při práci s velkými kontextovými okny. Fixací stavu brány a aplikací unitarizovaného kódování (one-hot) každý požadavek na zápis přepisuje přesně jeden řádek matice stavu, což umožňuje používat stav DeltaNet jako adresovatelnou paměť pevné velikosti a vyhnout se lineárnímu růstu KV cache (Key-Value) při zvyšování délky kontextu. V takové paměti jsou umístěny registry CPU, data a vykonávaný strojový kód.
Instrukce procesoru, jako je čtení registrů, aritmetické operace a podmínkové přechody, jsou kompilovány přímo do vah vrstev transformátoru. Každé instrukci jsou přiřazeny speciální tokeny (ADDR, VAL, STEP), které vrstvy AI modelu interpretují jako logiku práce CPU. K inicializaci CPU a načtení firmwaru se používá malý externí ovladač RvChat, ale samotný strojový kód je zpracováván plně uvnitř vah modelu.
Mezi omezeními projektu se zmiňuje přibližně dvojnásobné zvýšení velikosti (18,8 GB) ve srovnání se základním modelem Qwen při uchovávání stavových snímků (checkpoint), což vyplývá především z dodatečného vyplnění dalších vrstev. Také se uvádí relativně nízká rychlost výpočtů (přibližně 3200 tokenů za sekundu na GPU L4), kvůli čemuž mohou složité výpočty trvat sekundy, nikoli milisekundy.
Dále byl realizován variant AI-modelu s experimentálním souborovým systémem, který umožňuje uchovávat uvnitř vah AI-modelu až 512 souborů s 53 tisíci tokeny textu. Stejně jako v implementaci operační paměti je uchovávání organizováno vázaně na stavy DeltaNet, ale liší se tím, že FS zajišťuje trvalé uložení, které neztrácí stav mezi relacemi.
Vývoj Qwenputer také posloužil jako základ pro zkoumání nových potenciálních bezpečnostních problémů v AI. Na příkladu Qwenputer je ukázáno, jak speciálně modifikovaný AI-model může skrývat své úvahy ve stavu RNN a obcházet mechanismy monitorování úvah modelu (CoT, Chain-of-Thought). Také byla demonstrována
možnost vytváření mechanismů kontroly a monitorování bezpečnosti, zabudovaných do vah AI-modelu, které sama model nemůže vypnout nebo změnit.
Zdroj: opennet.ru
