AMD GAIA 0.20.0

Utgåvan offentliggjord AMD GAIA 0.20.0 — en öppen plattform för att köra lokala AI-agenter på PC med hårdvaruaccelerering av AMD Ryzen AI. Projektet distribueras under licens MIT, stödjer Windows och Linux, och installationen är tillgänglig via paketet amd-gaia. Denna version v0.20.0 publicerades den 3 juni, men nådde nyhetsflödet den 4–5 juni.

Det huvudsakliga förändringen i versionen är ett korrekt val av exekveringsenhet för varje agent. Tidigare använde GAIA som standard GPU via en backend baserad på llama.cpp och gav ingen bekväm metod för att växla en specifik agent till CPU eller energieffektiv Ryzen AI NPU. I GAIA 0.20.0 kan agenter deklarera stödja enheter, och användaren väljer CPU, GPU eller NPU genom Agent UI eller CLI-flaggan —device {cpu,gpu,npu}. GPU förblir standardalternativ, och profilen gaia init —profile npu tar hand om upptäckten av NPU, installationen av FLM-backend och inläsningen av modellen.

Ändringar i versionen:

• Val av CPU/GPU/NPU för individuella agenter. Möjliggör att köra tunga scenarier på GPU, medan mindre krävande eller bakgrundsuppgifter körs på NPU eller CPU. För ägare av Ryzen AI är detta särskilt viktigt: NPU kan användas för lokal utmatning med lägre energiförbrukning, utan att belasta grafikkärnan.

• Agent Hub TUI. När gaia startas utan argument öppnas nu en terminalhanteringscentral för agenter. Genom den kan man visa, söka, köra och administrera agenter utan grafiskt gränssnitt. Utvecklarna anger storleken på den fristående binären till cirka 21 MB och starttiden till mindre än 200 ms.

• Striktare kontroll över MCP-verktyg. För MCP-kontakter har en andra kontrollnivå — activations — lagts till. Nu behöver en koppling som tilldelats en agent inte automatiskt lägga till alla sina verktyg i prompten: verktygen blir synliga först efter uttrycklig aktivering för par «koppling — agent». Detta minskar bruset i prompten och hjälper mindre modeller att mer exakt välja de nödvändiga åtgärderna.

• Accelererad e-postbehandling. E-postagenten har fått sju nya batch-verktyg för massorganisation av inkommande mail. Enligt utvecklarna har det typiska scenariot minskat från cirka 13 LLM-förfrågningar till 2–3 steg, behandlingstiden har sjunkit från 488 sekunder till 30–60 sekunder, och tokenförbrukningen har minskat från cirka 12 000 till 1 200.

• RAG för PowerPoint-filer. GAIA indikerar nu direkt .pptx: text, tabeller, talarnoteringar och inbäddade bilder genom VLM-analys. Tidigare fick användaren spara presentationer som PDF först.

• Ökande säkerhet och stabilitet vid första lansering. I releasen har åtgärden för att kringgå skrivskydd genom symboliska länkar i Python 3.10/3.11 stängts, skrivbegränsningarna har utvidgats med fyra filverktyg till, och ett fel för diagnostisering av korrumperade modeller som ledde till att cirka 25 GB data kunde startas om har åtgärdats.

GAIA utvecklas som ett lokalt alternativ till molnbaserade AI-tjänster: data förblir på användarens maskin, och körningen kan överföras mellan CPU, GPU och NPU beroende på uppgiften. För AMD är detta också en demonstration av den praktiska användningen av Ryzen AI, inte bara som en marknadsföringsblock i processorn, utan även som en separat beräkningsenhet för lokala agenter.

Källa: linux.org.ru