AMD GAIA 0.20.0

Bol známe vydanie AMD GAIA 0.20.0 — otvoreného rámca na spustenie lokálnych AI agentov na PC s hardvérovým urýchlením AMD Ryzen AI. Projekt je distribuovaný pod licenciou MIT, podporuje Windows a Linux, a inštalácia je dostupná prostredníctvom balíka amd-gaia. Samotná verzia v0.20.0 bola zverejnená 3. júna, ale do spravodajskej služby sa dostala 4–5. júna.

Hlavná zmena verzie je normálny výber vykonávacieho zariadenia pre každého agenta. Predtým GAIA predvolene používala GPU cez backend založený na llama.cpp a nenabízala pohodlný spôsob, ako prepínať konkrétnych agentov na CPU alebo energeticky efektívny Ryzen AI NPU. V GAIA 0.20.0 môžu agenti deklarovať podporované zariadenia a používateľ vyberá CPU, GPU alebo NPU prostredníctvom Agent UI alebo CLI-flag —device {cpu,gpu,npu}. GPU zostáva predvolenou možnosťou, zatiaľ čo profil gaia init —profile npu preberá zistenie NPU, nastavenie FLM-backendu a načítanie modelu.

Zmeny v vydaní:

  • Výber CPU/GPU/NPU pre jednotlivých agentov. Umožňuje spúšťať náročné scenáre na GPU, zatiaľ čo menej náročné alebo pozadové — na NPU alebo CPU. Pre vlastníkov Ryzen AI je to obzvlášť dôležité: NPU sa dá využiť na lokálny výstup s nižšou spotrebou energie, bez zaberania grafického jadra.

  • Agent Hub TUI. Pri spustení gaia bez argumentov sa teraz otvára terminálové centrum správy agentov. Skrz neho je možné prehliadať, vyhľadávať, spúšťať a spravovať agentov bez grafického rozhrania. Vývojári uvádzajú veľkosť samostatného binárneho súboru približne 21 MB a spustenie za menej ako 200 ms.

  • Prísnejšia kontrola MCP nástrojov. Pre MCP konektory bol pridaný druhý stupeň kontroly — activations. Teraz vydaný konektor agentovi nemusí automaticky pridávať všetky svoje nástroje do promptu: nástroje sa stávajú viditeľnými len po výslovnom zapnutí pre pár "konektor — agent". To znižuje šum v promptoch a pomáha malým modelom presnejšie vyberať potrebné akcie.

  • Zrýchlené spracovanie pošty. Email agent získal sedem nových batch nástrojov na hromadnú organizáciu prichádzajúcej pošty. Podľa údajov od vývojárov sa typický scenár skrátil z približne 13 LLM požiadaviek na 2–3 kroky, čas spracovania z 488 sekúnd na 30–60 sekúnd a spotreba tokenov z približne 12 tisíc na 1,2 tisíc.

  • RAG podľa PowerPoint súborov. GAIA teraz priamo indexuje .pptx: texty, tabuľky, poznámky prednášajúceho a zabudované obrázky prostredníctvom analýzy VLM. Predtým sa používateľovi odporúčalo najprv uložiť prezentácie do PDF.

  • Zosilnenie bezpečnosti a odolnosti pri prvom spustení. V novej verzii je uzavreté obídenie ochrany proti zápisu cez symbolické odkazy v Pythone 3.10/3.11, rozšírené obmedzenia zápisu ešte o štyri nástroje na manipuláciu s súbormi a rovnako bola opravená chyba diagnostiky poškodeného modelu, ktorá mohla spustiť opätovné načítanie približne 25 GB dát.

GAIA sa rozvíja ako lokálna alternatíva cloudovým AI službám: dáta zostávajú na zariadení používateľa a vykonávanie sa môže presúvať medzi CPU, GPU a NPU v závislosti od úlohy. Pre AMD je to ešte aj ukážka praktického využitia Ryzen AI nielen ako marketingového bloku v procesore, ale aj ako samostatného výpočtového zariadenia pre lokálnych agentov.

Zdroj: linux.org.ru

Kúpte si spoľahlivý hosting pre webové stránky s ochranou proti DDoS, VPS VDS servery 🔥 Kúpte si spoľahlivý hosting pre webové stránky s ochranou proti DDoS, VPS VDS servery | ProHoster