Najnovší vlajkový mobilný procesor AMD Ryzen AI Max+ 395 zo série Strix Halo poskytuje až 12-krát vyšší výkon pri práci s rôznymi veľkými jazykovými modelmi AI ako čipy Intel Lunar Lake. O tom informovala spoločnosť AMD vo svojom oficiálnom blogu a zdieľala príslušné diagramy.
Vďaka 16 výpočtovým jadrom Zen 5, 40 grafickým blokom RDNA 3.5 a NPU XDNA 2 s výkonom 50 TOPS (trilión operácií za sekundu) poskytuje procesor Ryzen AI Max+ 395 až 12,2-krát vyšší výkon v určitých scenároch LLM ako Intel Core Ultra 258V. Je dôležité pripomenúť, že čip Intel Lunar Lake obsahuje len štyri P-jadrá a štyri E-jadrá, čo je celkovo polovica oproti Ryzen AI Max+ 395. Avšak rozdiel vo výkone medzi platformami je oveľa výraznejší než dvojnásobný.
Výhoda čipu Ryzen AI Max+ 395 je ešte zreteľnejšia so zvyšovaním zložitosti jazykových modelov. Najväčší rozdiel vo výkone medzi platformami je viditeľný pri práci s LLM s 14 miliardami parametrov, kde je potrebné viac operačnej pamäte. Pripomeňme, že Lunar Lake predstavuje hybridné procesory vybavené až 32 GB integrovanou RAM.
V testoch LM Studio s použitím zariadenia Asus ROG Flow Z13 s 64 GB unifikovanej pamäte preukázala integrovaná grafika Radeon 8060S procesora Ryzen AI Max+ 395 2,2-krát vyššiu priepustnosť tokenov než grafika Intel Arc 140V v rôznych AI modeloch. V testoch Time-to-First-Token (metrika výkonnosti jazykových modelov, ktorá ukazuje, koľko času uplynie od odoslania požiadavky po vygenerovanie prvého tokenu odpovede) čip AMD preukázal štvornásobné prevahu nad konkurentom v modeloch ako Llama 3.2 3B Instruct a zvýšil náskok na 9,1-krát v modeloch, ktoré podporujú 7–8 miliárd parametrov, ako napríklad DeepSeek R1 Distill.
Procesor AMD sa obzvlášť presadil v úlohách multimodálneho videnia, kde spracovával zložité vizuálne vstupy až 7-krát rýchlejšie v IBM Granite Vision 3.2 3B a 6-krát rýchlejšie v Google Gemma 3 12B v porovnaní s čipom Intel. Podpora technológie Variable Graphics Memory týkajúcej sa platformy AMD umožňuje priradiť až 96 GB pamäte ako VRAM z systémov s unifikovanou pamäťou s objemom až 128 GB, čo zase umožňuje nasadenie moderných jazykových modelov, ako sú Google Gemma 3 27B Vision.
Výhody výkonu procesora AMD nad konkurenciou sú viditeľné aj v praktických aplikáciách AI, ako sú analýza lekárskych snímok a pomoc s kódovaním pomocou vysokopresného 6-bitového kvantovania v modeli DeepSeek R1 Distill Qwen 32B.
Zdroje:
Zdroj: 3dnews.ru
