U publikua versioni AMD GAIA 0.20.0 â njĂ« framework tĂ« hapur pĂ«r tĂ« nisur agjentĂ« lokalĂ« AI nĂ« PC me pĂ«rshpejtim harduerik AMD Ryzen AI. Projekti shpĂ«rndahet nĂ«n licencĂ«n MIT, mbĂ«shtet Windows dhe Linux, dhe instalimi Ă«shtĂ« nĂ« dispozicion pĂ«rmes paketĂ«s amd-gaia. Etiketa vetĂ« v0.20.0 u publikua mĂ« 3 qershor, por nĂ« lajmet e fundit dolĂ«n mĂ« 4â5 qershor.
Ndryshimi kryesor i versionit Ă«shtĂ« zgjedhja e duhur e pajisjes sĂ« ekzekutimit pĂ«r çdo agjent. MĂ« parĂ«, GAIA pĂ«rdorte GPU si opsion default pĂ«rmes backend-it tĂ« bazuar nĂ« llama.cpp dhe nuk ofronte njĂ« mĂ«nyrĂ« tĂ« rehatshme pĂ«r tĂ« kaluar njĂ« agjent konkret nĂ« CPU ose nĂ« NPU mĂ« efikase energjetikisht tĂ« Ryzen AI. NĂ« GAIA 0.20.0, agjentĂ«t mund tĂ« shpallin pajisjet e mbĂ«shtetura, dhe pĂ«rdoruesi zgjidh CPU, GPU ose NPU pĂ«rmes UI tĂ« Agjentit ose flag-ut CLI âdevice {cpu,gpu,npu}. GPU mbetet opsioni default, dhe profili gaia init âprofile npu merr pĂ«rsipĂ«r zbulimin e NPU-sĂ«, instalimin e FLM-backend dhe ngarkimin e modelit.
Ndryshimet në lëshim:
Zgjedhja e CPU/GPU/NPU për agjentë të veçantë. Lejon ekzekutimin e skenarëve të ngarkuar në GPU, ndërsa ato më pak kërkuese ose të prapme në NPU ose CPU. Për pronarët e Ryzen AI, kjo është veçanërisht e rëndësishme: NPU mund të përdoret për daljen lokale me konsum më të ulët të energjisë, pa zënë bërthamën grafike.
Agent Hub TUI. Kur haia startohet pa argumente, tani hapet një qendër menaxhimi të agjentëve në terminal. Përmes saj mund të shikoni, kërkoni, filloni dhe administroni agjentët pa një ndërfaqe grafike. Zhvilluesit tregojnë se madhësia e binarit standalone është rreth 21 MB dhe fillimi në më pak se 200 ms.
Kontroll mĂ« tĂ« rreptĂ« tĂ« MCP-tools. PĂ«r MCP-connectorĂ«t Ă«shtĂ« shtuar njĂ« nivel i dytĂ« kontrolli â activations. Tani, connector-i i dhĂ«nĂ« agjentit nuk Ă«shtĂ« i detyruar tĂ« shtojĂ« automatikisht tĂ« gjitha mjetet e tij nĂ« prompt: mjetet bĂ«hen tĂ« dukshme vetĂ«m pas aktivizimit tĂ« qartĂ« pĂ«r çiftin âconnector â agjentâ. Kjo redukton zhurmĂ«n nĂ« prompt dhe ndihmon modelet e vogla tĂ« zgjedhin mĂ« saktĂ« veprimet e nevojshme.
PĂ«rpunim i pĂ«rshpejtuar i postĂ«s. Agjenti Email mori shtatĂ« mjete tĂ« reja batch pĂ«r organizimin masiv tĂ« atyre qĂ« hyjnĂ«. Sipas zhvilluesve, skenari tipik u reduktua nga rreth 13 kĂ«rkesa LLM nĂ« 2â3 hapa, koha e pĂ«rpunimit â nga 488 sekonda nĂ« 30â60 sekonda, dhe shpenzimi i tokeneve â nga rreth 12 mijĂ« nĂ« 1.2 mijĂ«.
RAG për skedarët PowerPoint. GAIA tani indekson drejtpërdrejt .pptx: tekstin, tabelat, shënimet e folësve dhe pamjet e integrate përmes analizës VLM. Më parë, përdoruesit duhet të ruanin prezantimet fillimisht në PDF.
Shtimi i sigurisë dhe qëndrueshmërisë së lançimit të parë. Në versionin e ri është mbyllur shfrytëzimi i mbrojtjes nga shkruaj nëpërmjet lidhjeve simbolike në Python 3.10/3.11, janë zgjeruar kufizimet e shkruaj për katër mjete të tjera skedarësh, si dhe është rregulluar një gabim diagnozimi të modelit të dëmtuar, për shkak të të cilit mund të inicihej një ribotim i rreth 25 GB të dhënash.
GAIA po zhvillohet si një alternativë lokale ndaj shërbimeve AI në cloud: të dhënat mbeten në makinë të përdoruesit, ndërsa ekzekutimi mund të transferohet midis CPU, GPU dhe NPU në varësi të detyrës. Për AMD, kjo është gjithashtu një demostrim i aplikimit praktik të Ryzen AI, jo vetëm si një bllok marketingu në procesor, por edhe si një pajisje të veçantë llogaritëse për agjentët lokal.
Burimi: linux.org.ru
