AMD GAIA 0.20.0

Väljaanne avalikustatud AMD GAIA 0.20.0 — avatud raamistiku, mis võimaldab käivitada kohalikke AI-agente AMD Ryzen AI riistvarakiirusel PC-s. Projekt on vabastatud litsentsi alusel MIT, toetab Windowsit ja Linuxit, installimine toimub paketi amd-gaia kaudu. Tagi v0.20.0 avaldas 3. juunil, kuid uudiste kanalisse jõudis see 4.–5. juunil.

Versiooni peamine muudatus on seadme valimise normaalsus iga agendi jaoks. Varem kasutas GAIA vaikimisi GPU-d llama.cpp baasil oleva tagala kaudu ega pakkunud mugavat viisi konkreetse agendi lülitamiseks CPU-le või energiasäästlikule Ryzen AI NPU-le. GAIA 0.20.0-s saavad agendid kuulutada toetatud seadmeid ning kasutaja valib CPU, GPU või NPU kaudu Agent UI või CLI-lippu —device {cpu,gpu,npu}. GPU jääb vaikimisi valikuks, samas kui profiil gaia init —profile npu tegeleb NPU avastamise, FLM-taga ja mudeli laadimisega.

Väljalasu muudatused:

• CPU/GPU/NPU valik individuaalsetele agentidele. Kohandab, et võimaldada nõudlike stsenaariumide käivitamist GPU-l, samas kui vähem nõudlikud või taustal olevad - NPU või CPU-l. Ryzen AI omanike jaoks on see eriti oluline: NPU-d saab kasutada kohaliku väljundi jaoks väiksema energiatarbimisega, ilma et see hõivaks graafikatuuma.

• Agent Hub TUI. Gaia käivitamisel ilma argumentideta avatakse nüüd agentide halduskeskus. Selle kaudu saab vaadata, otsida, käivitada ja hallata agente ilma graafilise liidese abita. Arendajad märgivad, et standalone binaari suurus on umbes 21 MB ja käivitamine toimub vähem kui 200 ms.

• Tingimusteta suurem kontroll MCP-tööriistade üle. MCP-ühendajatele on lisatud teine juhtimistase — activations. Nüüd ei pea välja antud agenti ühendaja automaatselt lisama kõiki oma tööriistu prompti: tööriistad muutuvad nähtavaks alles pärast selget aktiveerimist ühendaja-agent paari jaoks. See vähendab promptis müra ja aitab väiksematel mudelitel täpsemalt valida vajalikke toiminguid.

• E-kirjade töötlemine on kiirem. E-kirjaagent sai seitse uut batch-tööriista sissetuleku massiliseks korraldamiseks. Arendajate andmetel on tüüpiline stsenaarium lühenenud umbes 13 LLM-päringult 2–3 sammule, töötlemisaeg on vähenenud 488 sekundilt 30–60 sekundile ning tokenite kulu on vähenenud umbes 12 000-lt 1 200-le.

• RAG PowerPoint-failide kohta. GAIA indekseerib nüüd otse .pptx: tekste, tabeleid, esitleja märkmeid ja sisseehitatud pilte VLM-analüüsi kaudu. Varem pidid kasutajad esitama esitlusfailid esmalt PDF-formaadis.

• Esimese käivitamise turvalisuse ja vastupidavuse suurendamine. Väljalaskes on suletud kirjutuskaitse ümbersõit sümboolsed lingid Python 3.10/3.11-s, kirjutamise piirangud on laiendatud veel nelja failitööriista võrra ning parandatud on rikutud modelleerimise veadiagnoosi, mille tõttu võis alata ligikaudu 25 GB andmete taaskäivitamine.

GAIA arendab end kohaliku alternatiivina pilve AI-teenustele: andmed jäävad kasutaja masinasse ja täitmine võib olla sõltuvalt ülesandest viidud CPU-t, GPU-t ja NPU-t. AMD jaoks näitab see ka Ryzen AI praktilist rakendust mitte ainult turundusbloki juba protsessoris, vaid ka eraldi arvutusseadmest kohalikele agentidele.

Allikas: linux.org.ru