Lançimi i versionit AMD GAIA 0.20.0 â njĂ« framework i hapur pĂ«r tĂ« nisur agjentĂ«t lokalĂ« AI nĂ« PC me pĂ«rshpejtim tĂ« hardware-it AMD Ryzen AI. Projekti shpĂ«rndahet nĂ«n licencĂ«n MIT, mbĂ«shtet Windows dhe Linux, dhe instalimi Ă«shtĂ« i disponueshĂ«m pĂ«rmes paketĂ«s amd-gaia. Versioni v0.20.0 u publikua mĂ« 3 qershor, por nĂ« kanalin e lajmeve doli mĂ« 4â5 qershor.
Ndryshimi kryesor i versionit Ă«shtĂ« pĂ«rzgjedhja e duhur e pajisjes sĂ« ekzekutimit pĂ«r çdo agjent. MĂ« parĂ«, GAIA pĂ«rdorte GPU nĂ« parazgjedhje pĂ«rmes backend-it tĂ« bazuar nĂ« llama.cpp dhe nuk jepte njĂ« mĂ«nyrĂ« tĂ« lehtĂ« pĂ«r tĂ« kaluar njĂ« agjent specifik nĂ« CPU ose NPU tĂ« efikasitetit tĂ« energjisĂ« Ryzen AI. NĂ« GAIA 0.20.0, agjentĂ«t mund tĂ« shpallin pajisjet e mbĂ«shtetura, ndĂ«rsa pĂ«rdoruesi zgjedh CPU, GPU ose NPU pĂ«rmes Agent UI ose CLI-flagon âdevice {cpu,gpu,npu}. GPU mbetet opsioni i parazgjedhur, dhe profili gaia init âprofile npu merr pĂ«rsipĂ«r zbulimin e NPU-sĂ«, vendosjen e FLM-backend dhe ngarkimin e modelit.
Ndryshimet në lëshim:
Zgjedhja e CPU/GPU/NPU pĂ«r agjentĂ«t e veçantĂ«. Lejon ekzekutimin e skenarĂ«ve tĂ« rĂ«ndĂ« nĂ« GPU, ndĂ«rsa ata mĂ« pak kĂ«rkues ose nĂ« sfond â nĂ« NPU ose CPU. PĂ«r pronarĂ«t e Ryzen AI, kjo Ă«shtĂ« veçanĂ«risht e rĂ«ndĂ«sishme: NPU mund tĂ« pĂ«rdoret pĂ«r dalje lokale me konsum mĂ« tĂ« ulĂ«t tĂ« energjisĂ«, pa zĂ«nĂ« bĂ«rthamĂ«n grafike.
Agent Hub TUI. Kur niveli i operimit në gaia startohet pa argumente, tani hapet qendra e komandës për agjentët. Përmes saj mund të shikoni, kërkoni, nisni dhe administroni agjentët pa ndërfaqe grafike. Zhvilluesit shpallin dimensionin e binarit standalone rreth 21 MB dhe një nisje më pak se 200 ms.
Kontroll mĂ« i rreptĂ« mbi mjetet MCP. PĂ«r lidhĂ«sit MCP Ă«shtĂ« shtuar njĂ« nivel i dytĂ« kontrolli â aktivizimet. Tani lidhĂ«si i dhĂ«nĂ« agjentit nuk Ă«shtĂ« automatikisht i detyruar tĂ« shtojĂ« tĂ« gjitha mjetet e tij nĂ« prompt: mjetet bĂ«hen tĂ« dukshme vetĂ«m pas aktivizimit tĂ« qartĂ« pĂ«r çiftin 'lidhĂ«s â agjent'. Kjo zvogĂ«lon zhurmĂ«n nĂ« prompt dhe ndihmon modelet e vogla tĂ« ndajnĂ« mĂ« saktĂ« veprimet qĂ« kĂ«rkohen.
PĂ«rpunim i pĂ«rshpejtuar i postĂ«s. Agjenti Email ka marrĂ« shtatĂ« mjete tĂ« reja batch pĂ«r organizimin masiv tĂ« hyrjeve. Sipas tĂ« dhĂ«nave tĂ« zhvilluesve, skenari tipik Ă«shtĂ« shkurtuar nga rreth 13 kĂ«rkesa LLM nĂ« 2â3 hapa, koha e pĂ«rpunimit â nga 488 sekonda nĂ« 30â60 sekonda, dhe shpenzimi i tokeneve â nga rreth 12 mijĂ« nĂ« 1.2 mijĂ«.
RAG për skedarët PowerPoint. GAIA tani indekson direkt nga .pptx: teksti, tabelat, shënimet e prezantuesit dhe imazhet e integruara përmes analizës VLM. Më parë, përdoruesi duhej ta ruante prezantimin në PDF së pari.
Rritja e sigurisë dhe qëndrueshmërisë së lançimit të parë. Në versionin e ri, është mbyllur shkelja e mbrojtjes nga shkrimi përmes lidhjeve simbolike në Python 3.10/3.11, janë zgjeruar kufizimet e shkrimit për katër mjete të tjera skedarësh, dhe është rregulluar një gabim diagnoze për modelin e dëmtuar, i cili mund të kishte shkaktuar një ri-ngarkim të rreth 25 GB të dhënash.
GAIA po zhvillohet si një alternativë lokale ndaj shërbimeve AI në re: të dhënat mbeten në makinën e përdoruesit, dhe ekzekutimi mund të transferohet midis CPU, GPU dhe NPU në varësi të detyrës. Për AMD, kjo është gjithashtu një demonstrim i aplikimit praktik të Ryzen AI, jo vetëm si një bllok marketingu në procesor, por edhe si një aparat llogaritës të veçantë për agjentët lokal.
Burimi: linux.org.ru
