AMD GAIA 0.20.0

A apărut o nouă versiune AMD GAIA 0.20.0 — un cadru deschis pentru lansarea agenților AI locali pe PC-uri cu accelerare hardware AMD Ryzen AI. Proiectul este distribuit sub licența MIT, suportă Windows și Linux, iar instalarea este disponibilă prin pachetul amd-gaia. Tagul v0.20.0 a fost publicat pe 3 iunie, dar a ajuns în fluxul de știri pe 4–5 iunie.

Principalul schimbare a versiunii este alegerea corectă a dispozitivului de execuție pentru fiecare agent. Anterior, GAIA utiliza implicit GPU printr-un backend bazat pe llama.cpp și nu oferea o modalitate convenabilă de a schimba un agent specific pe CPU sau NPU eficient din punct de vedere energetic. În GAIA 0.20.0, agenții pot declara dispozitivele acceptate, iar utilizatorul poate alege între CPU, GPU sau NPU prin Agent UI sau prin flag-ul CLI —device {cpu,gpu,npu}. GPU rămâne opțiunea implicită, iar profilul gaia init —profile npu se ocupă cu descoperirea NPU, instalarea backend-ului FLM și încărcarea modelului.

Schimbări în versiune:

  • Selectarea CPU/GPU/NPU pentru agenți individuali. Permite rularea scenariilor intensive pe GPU, iar cele mai puțin exigente sau de fundal pe NPU sau CPU. Pentru deținătorii de Ryzen AI, acest lucru este deosebit de important: NPU poate fi folosit pentru ieșiri locale cu un consum de energie mai mic, fără a ocupa unitatea grafică.

  • Agent Hub TUI. Când se lansează gaia fără argumente, se deschide acum un centru de management al agenților în terminal. Prin acesta, se pot vizualiza, căuta, lansa și administra agenți fără interfață grafică. Dezvoltatorii indică dimensiunea binarului standalone de aproximativ 21 MB și o pornire de mai puțin de 200 ms.

  • Control mai strict al instrumentelor MCP. Pentru conectorii MCP a fost adăugat un al doilea nivel de control — activations. Acum, conectorul atribuit unui agent nu trebuie în mod automat să adauge toate instrumentele sale în prompt: instrumentele devin vizibile numai după activarea explicită pentru perechea «conector — agent». Acest lucru reduce zgomotul în prompt și ajută modelele mici să aleagă acțiunile corecte.

  • Prelucrare accelerată a mesajelor. Agentul de email a primit șapte noi instrumente batch pentru organizarea în masă a mesajelor primite. Potrivit dezvoltatorilor, scenariul tipic a fost redus de aproximativ la 13 cereri LLM la 2–3 pași, timpul de procesare a fost redus de la 488 secunde la 30–60 secunde, iar consumul de tokeni a scăzut de la aproximativ 12.000 la 1.200.

  • RAG pentru fișiere PowerPoint. GAIA acum indexează direct .pptx: text, tabele, note de prezentare și imagini încorporate prin analiza VLM. În trecut, utilizatorul era îndemnat să salveze prezentările în PDF mai întâi.

  • Îmbunătățirea securității și stabilității primei lansări. În acest release a fost închisă ocolirea protecției împotriva scrierii prin legături simbolice în Python 3.10/3.11, s-au extins restricțiile de scriere pentru încă patru instrumente de fișier, iar o eroare de diagnosticare a unui model corupt a fost corectată, ceea ce ar putea duce la repornirea a aproximativ 25 GB de date.

GAIA se dezvoltă ca o alternativă locală la serviciile AI în cloud: datele rămân pe mașina utilizatorului, iar execuția poate fi transferată între CPU, GPU și NPU în funcție de sarcină. Pentru AMD, aceasta este de asemenea o demonstrare a aplicării practice a Ryzen AI nu doar ca un bloc de marketing în procesor, ci și ca un dispozitiv de calcul separat pentru agenții locali.

Sursa: linux.org.ru

Cumpără un hosting fiabil pentru site-uri cu protecție DDoS, servere VPS VDS 🔥 Cumpără un hosting fiabil pentru site-uri cu protecție DDoS, servere VPS VDS | ProHoster