Uusim lipulaev mobiilne protsessor AMD Ryzen AI Max+ 395 seeriast Strix Halo pakub kuni 12 korda suuremat jõudlust erinevate suurte keelemudelite tehisintellekti töötlemisel võrreldes Intel Lunar Lake kiipidega. Sellest teatas AMD oma ametlikus blogis, jagades vastavaid diagramme.
16 Zen 5 töötlemiseks mõeldud tuumade, 40 RDNA 3.5 graafikabloki ning 50 TOPS (triljonit operatsiooni sekundis) tootlikkusega NPU XDNA 2 abil tagab protsessor Ryzen AI Max+ 395 teatud LLM stsenaariumites kuni 12,2 korda suurema jõudluse võrreldes Intel Core Ultra 258V-ga. Oluline on meenutada, et Intel Lunar Lake kiibil on vaid neli P-tuumat ja neli E-tuumat, kokku poole vähem kui Ryzen AI Max+ 395-l. Siiski on jõudluse erinevus platvormide vahel tunduvalt suurem kui kaks korda.
Ryzen AI Max+ 395 kiibi eelised muutuvad veelgi silmatorkavamaks keelemudelite keerukuse suurenedes. Suurim jõudluse erinevus platvormide vahel on nähtav LLM-ide töötlemisel, kus on 14 miljardit parameetrit ja on vajalik rohkem RAM-i. Meenutame, et Lunar Lake on hübriidprotsessor, millel on kuni 32 GB integreeritud RAM-i.
LM Studio testides, kasutades seadet Asus ROG Flow Z13 64 GB ühtse mäluga, näitas Ryzen AI Max+ 395 protsessori sisseehitatud Radeon 8060S graafika 2,2 korda suuremat tokenite läbilaskevõimet kui Intel Arc 140V erinevates AI mudelites. Time-to-First-Token testides (keelemudelite jõudlusmeetod, mis näitab, kui kaua kulub küsimuse esitamisest esimese vastuse tokeni genereerimiseni) näitas AMD kiip neli korda suuremat eelise konkurendi ees mudelites nagu Llama 3.2 3B Instruct ning suurendas vahet 9,1 korda mudelites, mis toetavad 7–8 miljardi parameetriga, näiteks DeepSeek R1 Distill.
AMD protsessor on eriti edukas multimodaalses nägemustöös, töötledes keerulisi visuaalseid sisendeid kuni 7 korda kiiremini IBM Granite Vision 3.2 3B-s ja 6 korda kiiremini Google Gemma 3 12B-s võrreldes Intel kiibiga. AMD platvormi tugi tehnoloogiale Variable Graphics Memory võimaldab eraldada kuni 96 GB mälu VRAM-ina süsteemidest, millel on kuni 128 GB ühtset mälu, mis omakorda võimaldab käitada kaasaegseid keelemudeleid nagu Google Gemma 3 27B Vision.
AMD protsessori jõudluse eelised on nähtavad ka praktilistes AI-rakendustes, nagu meditsiiniliste piltide analüüs ja kodeerimise abistamine kõrge täpsusega 6-bitise kvantimise abil mudelis DeepSeek R1 Distill Qwen 32B.
Allikad:
Allikas: 3dnews.ru
