AMD GAIA 0.20.0

Väljaanne on avaldatud AMD GAIA 0.20.0 — avatud raamistiku PC lokaalsete AI-agentide käivitamiseks AMD Ryzen AId kiirendamisega. Projekti levitatakse litsentsi alusel MIT, toetab Windowsi ja Linuxit ning installatsioon on saadaval paketi amd-gaia kaudu. Versioon v0.20.0 avaldati 3. juunil, kuid uudistevoogusse jõudis väljaanne 4–5. juunil.

Peamine muudatus versioonis on korrektne teostuse valiku tegemine iga agendi jaoks. Varasemalt kasutas GAIA vaikimisi GPU-d llama.cpp baasil olevate backendide kaudu ja ei pakkunud mugavat võimalust spetsiifilise agendi jaoks CPU-le või energiatõhusale Ryzen AI NPU-le üle minna. GAIA 0.20.0-s saavad agentid kuulutada toetatud seadmeid ning kasutaja valib CPU, GPU või NPU läbi Agent UI või CLI-lipiku —device {cpu,gpu,npu}. GPU jääb vaikimisi valikuks ning profiil gaia init —profile npu vastutab NPU avastamise, FLM-backendi seadistamise ja mudeli laadimise eest.

Väljalaskemuutused:

• CPU/GPU/NPU valik individuaalsetele agentidele. Võimaldab käivitada keerulisi stsenaariume GPU-l, samas kui vähem nõudlikud või taustal toimivad stsenaariumid saavad töötada NPU-l või CPU-l. Ryzen AI omanikele on see eriti oluline: NPU-d saab kasutada kohaliku väljundi jaoks madalama energiatarbimisega, ilma et see võtaks videodünaamikat.

• Agent Hub TUI. Kui gaia käivitatakse ilma argumendita, avatakse nüüd terminali agentide halduse keskus. Selle kaudu saab sirvida, otsida, käivitada ja hallata agente ilma graafilise liideta. Arendajad ütlevad, et iseseisva binaari suurus on umbes 21 MB ja käivitamine vähem kui 200 ms.

• Tõhusam kontroll MCP-tööriistade üle. MCP-ühenduste jaoks on lisatud teine juhtimistase — activations. Nüüd ei pea agendile antud ühendaja automaatselt kõiki oma tööriistu prompti lisama: tööriistad muutuvad nähtavaks ainult pärast selget lubamist paarile "ühendaja — agent". See vähendab müra promptis ja aitab väikestel mudelitel täpsemalt vajalikke toiminguid valida.

• Kiirendatud postitöötlus. Email-agent sai seitse uut partiitööriista sisendite masstalitamiseks. Arendajate andmetel on tüüpiline stsenaarium lühenenud umbes 13 LLM-päringult 2–3 sammule, töötlemisaeg on vähenenud 488 sekundilt 30–60 sekundile, ja tokenite tarbimine umbes 12 000-lt 1,2 tuhandele.

• RAG PowerPointi failide puhul. GAIA indekseerib nüüd otse .pptx: tekste, tabeleid, esitluste märkmeid ja sisseehitatud pilte VLM-analüüsi kaudu. Varem pidi kasutaja esmalt salvestama esitused PDF-formaadis.

• Esimese käivitamise turvalisuse ja stabiilsuse suurendamine. Väljaanne sulgeb võimaluse kirjutamiskaitse ümbersaatmiseks sümboolsete linkide kaudu Pythonis 3.10/3.11, pikendades kirjutamispiiranguid veel nelja failitöötlustööriista jaoks, samuti on parandatud vigane diagonaali mudel, mille tõttu võis alata ümberlaadimine ligikaudu 25 GB andmetest.

GAIA areneb kohalikuks alternatiiviks pilve AI-teenustele: andmed jäävad kasutaja masinasse ja täitmine saab sõltuvalt ülesandest üle kanda CPU, GPU ja NPU vahel. AMD jaoks on see ka Ryzen AI praktilise rakenduse demonstreerimine mitte ainult turunduse blokina protsessoris, vaid ka eraldiseisva arvutusseadmestikuna kohalike agentide jaoks.

Allikas: linux.org.ru