AMD GAIA 0.20.0

Publicatie van een uitgave AMD GAIA 0.20.0 — open source framework voor het uitvoeren van lokale AI-agenten op PC's met hardwareversnelling van AMD Ryzen AI. Het project wordt verspreid onder een licentie MIT, ondersteunt Windows en Linux, en de installatie is beschikbaar via het pakket amd-gaia. De tag v0.20.0 werd op 3 juni gepubliceerd, maar kwam op 4-5 juni in de nieuwsfeed van de release.

De belangrijkste verandering in deze versie is de normale keuze voor de uitvoeringsapparaat voor elke agent. Eerder gebruikte GAIA standaard de GPU via een backend op basis van llama.cpp en bood geen handige manier om een specifieke agent naar CPU of energiezuinige Ryzen AI NPU te schakelen. In GAIA 0.20.0 kunnen agenten ondersteunde apparaten aangeven, en de gebruiker kan CPU, GPU of NPU selecteren via de Agent UI of CLI-vlag —device {cpu,gpu,npu}. GPU blijft de standaardoptie, en het profiel gaia init —profile npu zorgt voor de detectie van NPU, installatie van de FLM-backend en het laden van het model.

Wijzigingen in de release:

  • Keuze tussen CPU/GPU/NPU voor afzonderlijke agenten. Stelt in staat om zware scenario's op de GPU uit te voeren, terwijl minder veeleisende of achtergrondtaken op de NPU of CPU draaien. Voor eigenaren van Ryzen AI is dit van bijzonder belang: de NPU kan worden gebruikt voor lokaal afspelen met een lager energieverbruik, zonder de videochip te belasten.

  • Agent Hub TUI. Bij het starten van gaia zonder argumenten opent nu het terminalmanagementcentrum voor agenten. Hier kunnen agenten worden bekeken, gezocht, gestart en beheerd zonder grafische interface. De ontwikkelaars geven de grootte van de standalone-binaire aan op ongeveer 21 MB en een opstarttijd van minder dan 200 ms.

  • Strengere controle van MCP-tools. Voor MCP-connectors is een tweede niveau van beheer toegevoegd — activaties. De aan de agent toegewezen connector hoeft nu niet automatisch al zijn tools in de prompt toe te voegen: tools worden pas zichtbaar na expliciete inschakeling voor het paar "connector — agent". Dit vermindert de ruis in de prompt en helpt kleine modellen om de juiste acties nauwkeuriger te kiezen.

  • Versnelde verwerking van e-mail. De e-mailagent heeft zeven nieuwe batch-instrumenten ontvangen voor het massaal organiseren van binnenkomende e-mail. Volgens de ontwikkelaars is het typische scenario verkort van ongeveer 13 LLM-verzoeken naar 2-3 stappen, de verwerkingstijd van 488 seconden naar 30-60 seconden en het tokenverbruik van ongeveer 12.000 naar 1.200.

  • RAG op PowerPoint-bestanden. GAIA indexeert nu direct .pptx: tekst, tabellen, presentatienotities en ingesloten afbeeldingen via VLM-analyse. Voorheen werd de gebruiker gevraagd om presentaties eerst als PDF op te slaan.

  • Versterking van de beveiliging en stabiliteit van de eerste lancering. In deze release is de omweg rond de schrijfbeveiliging via symbolische links in Python 3.10/3.11 verholpen, zijn de schrijfbeperkingen voor vier extra bestandstools uitgebreid en is een fout in de diagnostiek van beschadigde modellen verholpen, waardoor ongeveer 25 GB aan gegevens opnieuw kon worden geladen.

GAIA ontwikkelt zich als een lokale alternatief voor cloud AI-diensten: gegevens blijven op de machine van de gebruiker, en de uitvoering kan worden overgezet tussen CPU, GPU en NPU afhankelijk van de taak. Voor AMD is het ook een demonstratie van de praktische toepassing van Ryzen AI, niet alleen als marketingonderdeel in de processor, maar tevens als afzonderlijke rekensoftware voor lokale agenten.

Bron: linux.org.ru

Koop betrouwbare webhosting met bescherming tegen DDoS, VPS VDS servers 🔥 Koop betrouwbare webhosting met bescherming tegen DDoS, VPS VDS servers | ProHoster