🥇AMD GAIA 0.20.0

Nova izdanja AMD GAIA 0.20.0 — odprt okvir za zagon lokalnih AI-agentov na PC-jih z strojno pospešitvijo AMD Ryzen AI. Projekt je na voljo pod licenco MIT, podpira Windows in Linux, namestitev pa je na voljo preko paketa amd-gaia. Sam tag v0.20.0 je bil objavljen 3. junija, vendar je v novičarsko datoteko prišel 4–5. junija.

Glavna sprememba različice je normalna izbira izvedbene naprave za vsakega agenta. Pred tem je GAIA privzeto uporabljala GPU preko backend-a na osnovi llama.cpp in ni omogočila enostavnega načina za premik specifičnega agenta na CPU ali energetsko učinkoviti Ryzen AI NPU. V GAIA 0.20.0 lahko agenti napovejo podprte naprave, uporabnik pa izbira CPU, GPU ali NPU preko Agent UI ali CLI-flag-a —device {cpu,gpu,npu}. GPU ostaja privzeta možnost, profil gaia init —profile npu pa prevzame zaznavanje NPU, namestitev FLM-backenda in nalaganje modela.

Spremembe v izdaji:

Izbira CPU/GPU/NPU za posamezne agente. Omogoča zagon zahtevnih scenarijev na GPU, manj zahtevnih ali ozadja pa na NPU ali CPU. Za lastnike Ryzen AI je to še posebej pomembno: NPU se lahko uporablja za lokalno izhodno obdelavo z manjšim porabo energije, ne da bi zasedel grafični jedro.
Agent Hub TUI. Ob zagonu gaia brez argumentov se zdaj odpre terminalni center za upravljanje agentov. Preko njega lahko pregledate, iščete, zagnate in administrirate agente brez grafičnega vmesnika. Razvijalci navajajo velikost samostojnega binarja okoli 21 MB in zagon v manj kot 200 ms.
Bolj stroga kontrola MCP-orodij. Za MCP-povezovalnike je bila dodana druga raven upravljanja — activations. Zdaj izdani agentu povezovalnik ne mora samodejno dodati vseh svojih orodij v prompt: orodja postanejo vidna šele po izrecnem vključitvi za par "povezovalnik — agent". To zmanjšuje hrup v promptu in pomaga manjšim modelom natančneje izbrati potrebne akcije.
Pospešeno obravnavanje e-pošte. Email-agent je prejel sedem novih batch-orodij za masovno organizacijo prihodnjih. Po podatkih razvijalcev se je tipičen scenarij skrčil približno s 13 LLM-pobud na 2–3 korake, čas obdelave — s 488 sekund na 30–60 sekund, poraba tokenov pa približno s 12 tisoč na 1,2 tisoč.
RAG po PowerPoint-datotekah. GAIA zdaj neposredno indeksira .pptx: besedilo, tabele, opombe predavatelja in vdelane slike prek VLM-analize. Prej so morali uporabniki najprej shraniti predstavitve v PDF.
Okrepitev varnosti in vzdržljivosti prvega zagona. V različici je bil zaprt obvod zaščite pred zapisovanjem prek simbolnih povezav v Pythonu 3.10/3.11, razširjena so bila omejevanja zapisovanja še za štiri datotečne instrumente, prav tako je bila popravljena napaka pri diagnostiki poškodovanega modela, zaradi katere je lahko prišlo do ponovnega nalaganja približno 25 GB podatkov.

GAIA se razvija kot lokalna alternativa oblačnim AI-storitvam: podatki ostanejo na uporabnikovi napravi, izvajanje pa se lahko prenaša med CPU, GPU in NPU glede na nalogo. Za AMD je to tudi prikaz praktične uporabe Ryzen AI ne samo kot trženjske enote v procesorju, temveč tudi kot ločenega računalniškega sistema za lokalne agente.

Izvor: linux.org.ru