Nejnovější vlajkový mobilní procesor AMD Ryzen AI Max+ 395 rodiny Strix Halo poskytuje až 12krát vyšší výkon při práci s různými velkými jazykovými modely AI než čipy Intel Lunar Lake. O tom informovala společnost AMD na svém oficiálním blogu, sdíleje odpovídající diagramy.
Díky 16 výpočetním jádrům Zen 5, 40 grafickým blokům RDNA 3.5 a NPU XDNA 2 s výkonem 50 TOPS (bilion operací za sekundu) zajišťuje procesor Ryzen AI Max+ 395 až 12,2krát vyšší výkon v některých scénářích LLM než Intel Core Ultra 258V. Je třeba připomenout, že čip Intel Lunar Lake obsahuje pouze čtyři P-jádra a čtyři E-jádra, což je celkem o polovinu méně než u Ryzen AI Max+ 395. Rozdíl v výkonu mezi platformami je však mnohem výraznější než dvakrát.
Výhoda čipu Ryzen AI Max+ 395 se stává ještě patrnější se zvyšující se složitostí jazykových modelů. Největší rozdíl v výkonu mezi platformami je vidět při práci s LLM s 14 miliardami parametrů, kde je potřeba více operační paměti. Připomeňme, že Lunar Lake představují hybridní procesory vybavené až 32 GB vestavěné RAM.
V testech LM Studio, které používalo zařízení Asus ROG Flow Z13 s 64 GB unifikované paměti, integrovaná grafika Radeon 8060S procesoru Ryzen AI Max+ 395 vykázala 2,2krát vyšší propustnost tokenů než grafika Intel Arc 140V v různých AI modelech. V testech Time-to-First-Token (metrika výkonu jazykových modelů, která ukazuje, jak dlouho trvá od odeslání dotazu po vygenerování prvního tokenu odpovědi) čip AMD prokázal čtyřnásobnou výhodu nad konkurencí v takových modelech jako Llama 3.2 3B Instruct a zvýšil náskok až na 9,1krát v modelech, které podporují 7–8 miliard parametrů, například DeepSeek R1 Distill.
Procesor AMD se zejména dařil v úlohách multimodálního vidění, kde zpracovával složité vizuální vstupy až 7krát rychleji v IBM Granite Vision 3.2 3B a 6krát rychleji v Google Gemma 3 12B ve srovnání s čipem Intel. Podpora technologie Variable Graphics Memory platformou AMD umožňuje přidělit až 96 GB paměti jako VRAM z systémů s unifikovanou pamětí o objemu až 128 GB, což zase umožňuje nasazení moderních jazykových modelů, jako je Google Gemma 3 27B Vision.
Výhody výkonu procesoru AMD nad konkurencí jsou viditelné i v praktických AI aplikacích, jako je analýza lékařských obrazů a pomoc s kódováním pomocí vysoce přesného 6bitového kvantování v modelu DeepSeek R1 Distill Qwen 32B.
Zdroje:
Zdroj: 3dnews.ru
