Megjelent a kiadás AMD GAIA 0.20.0 — nyílt keretrendszer a helyi AI-ügynökök futtatásához AMD Ryzen AI hardveres gyorsítással rendelkező PC-ken. A projekt licenc alapján terjeszthető MIT, támogatja a Windows és Linux rendszereket, az telepítés pedig az amd-gaia csomagon keresztül elérhető. A v0.20.0 verzió június 3-án került kiadásra, de a hírcsatornába június 4-én–5-én került fel.
A verzió fő változása a megfelelő végrehajtási eszköz kiválasztása minden ügynök számára. Korábban a GAIA alapértelmezés szerint GPU-t használt a llama.cpp alapú háttéren, és nem adott kényelmes lehetőséget arra, hogy egy adott ügynököt CPU-ra vagy energiatakarékos Ryzen AI NPU-ra váltson. A GAIA 0.20.0-ban az ügynökök kihirdethetik a támogatott eszközöket, és a felhasználó a CPU, GPU vagy NPU közül választhat az Ügynök UI-n keresztül vagy a CLI-zászló —device {cpu,gpu,npu} segítségével. A GPU marad az alapértelmezett opció, míg a gaia init —profile npu profil automatikusan érzékeli az NPU-t, telepíti a FLM-háttért és betölti a modellt.
A kiadás változásai:
CPU/GPU/NPU kiválasztása a különböző ügynököknél. Lehetővé teszi a nehéz forgatókönyvek GPU-n történő futtatását, míg a kevésbé igényes vagy háttérfeladatok NPU-ra vagy CPU-ra kerülnek. Ryzen AI tulajdonosok számára különösen fontos: az NPU helyi kimenetként használható alacsonyabb energiafogyasztással, anélkül hogy a grafikus magot terhelné.
Agent Hub TUI. Most, amikor a gaia-t argumentumok nélkül indítják, megnyílik az ügynökök terminál vezérlő központja. Itt megtekinthetők, kereshetők, indíthatók és adminisztrálhatók az ügynökök grafikus felület nélkül. A fejlesztők szerint a standalone bináris mérete körülbelül 21 MB, és a betöltés kevesebb mint 200 ms-ot vesz igénybe.
Szigorúbb MCP-eszközellenőrzés. Az MCP-kapcsolók számára egy második vezérlési szint került bevezetésre — aktivációk. Mostantól a kiadott ügynök nem kötelezően adja hozzá az összes eszközét a promptban: az eszközök csak a "kapcsoló — ügynök" párnak történő kifejezett engedélyezése után válnak láthatóvá. Ez csökkenti a zajt a promptban, és segít a kisebb modelleknek pontosabban kiválasztani a szükséges lépéseket.
Gyorsított levéltípus feldolgozás. Az Email-ügynök hét új batch-eszközt kapott a bejövők tömeges szervezéséhez. A fejlesztők szerint a tipikus forgatókönyv körülbelül 13 LLM-lekérdezésről 2–3 lépésre csökkent, a feldolgozási idő 488 másodpercről 30–60 másodpercre csökkent, és a tokenfelhasználás körülbelül 12 ezerről 1,2 ezerre csökkent.
RAG PowerPoint-fájlokhoz. A GAIA mostantól közvetlenül indexeli a .pptx fájlokat: a szöveget, táblázatokat, előadó jegyzeteit és beágyazott képeit VLM-elemzésen keresztül. Korábban a felhasználónak először PDF-fájlba kellett mentenie a prezentációkat.
A biztonság és a stabilitás fokozása az első indítás során. A kiadásban lezárult az írásvédelmi védelem megkerülése szimbolikus hivatkozásokon keresztül a Python 3.10/3.11 verziókban, négy további fájlkezelő írási korlátozása is kibővült, továbbá javították a sérült modell diagnosztikai hibáját, amely miatt körülbelül 25 GB adat másodlagos töltése indulhatott el.
A GAIA helyi alternatívaként fejlődik felhőalapú AI-szolgáltatásokhoz: az adatok a felhasználó gépén maradnak, a végrehajtás pedig a feladattól függően áttolható a CPU, GPU és NPU között. Az AMD esetében ez nemcsak a Ryzen AI gyakorlati alkalmazásának bemutatója, hanem egy külön számítási eszköz a helyi ügynökök számára is.
Forrás: linux.org.ru
