Az AMD legújabb zászlóshajó mobilprocesszora, a Ryzen AI Max+ 395 a Strix Halo családból akár 12-szer nagyobb teljesítményt biztosít különféle nagy nyelvi modellek AI-jával való munka során, mint az Intel Lunar Lake chipek. Erről számolt be az AMD a hivatalos blogjában, megosztva a megfelelő diagramokat.
A 16 Zen 5 számítási mag, 40 RDNA 3.5 grafikus blokkok, valamint az 50 TOPS (trillió művelet másodpercenként) teljesítményű NPU XDNA 2 révén a Ryzen AI Max+ 395 akár 12,2-szer nagyobb teljesítményt nyújt bizonyos LLM forgatókönyvekben, mint az Intel Core Ultra 258V. Érdemes megjegyezni, hogy az Intel Lunar Lake chipje mindössze négy P-magot és négy E-magot tartalmaz, ami összességében fele annyi, mint a Ryzen AI Max+ 395 esetében. Azonban a két platform közötti teljesítménykülönbség sokkal kifejezettebb, mint kétszeres.
A Ryzen AI Max+ 395 chip előnye még nyilvánvalóbbá válik a nyelvi modellek bonyolultságának növekedésével. A legnagyobb teljesítménykülönbség a platformok között akkor látható, amikor 14 milliárd paraméterrel rendelkező LLM-ekkel dolgoznak, ahol több RAM-ra van szükség. Emlékeztetőül, a Lunar Lake hibrid processzorokkal rendelkezik, amelyek akár 32 GB beépített RAM-ot is kínálnak.
A LM Studio tesztjeiben, az Asus ROG Flow Z13 64 GB egységes memóriájával használva, a Ryzen AI Max+ 395 processzor beépített Radeon 8060S grafikus chipje 2,2-szer nagyobb token átvitel sebességet mutatott, mint az Intel Arc 140V grafikus chipje különböző AI modellekben. Az Time-to-First-Token tesztekben (nyelvi modellek teljesítményének mérése, amely megmutatja, mennyi idő telik el a kérdés elküldésétől az első token generálásáig) az AMD chipje négyszeres előnyt mutatott a versenytárshoz képest olyan modellekben, mint a Llama 3.2 3B Instruct, és a különbség 7–8 milliárd paramétert támogató modellekben, például a DeepSeek R1 Distill esetében 9,1-szeresre nőtt.
Az AMD processzor különösen sikeres a multimodális látás feladatokban, ahol az IBM Granite Vision 3.2 3B esetében akár 7-szer, a Google Gemma 3 12B esetében pedig 6-szor gyorsabban dolgozta fel a bonyolult vizuális bemeneteket az Intel chiphez képest. Az AMD platformja által támogatott Variable Graphics Memory technológia lehetővé teszi, hogy legfeljebb 96 GB memóriát VRAM-ként allokáljanak az 128 GB egységes memóriával rendelkező rendszerekből, ami lehetővé teszi modern nyelvi modellek, mint a Google Gemma 3 27B Vision telepítését.
Az AMD processzor teljesítményének előnyei a versenytárssal szemben a gyakorlati MI-alkalmazásokban is láthatók, például orvosi képek elemzésénél és a kódolás megkönnyítésénél a pontos 6 bites kvantálással a DeepSeek R1 Distill Qwen 32B modellen.
Források:
Forrás: 3dnews.ru
