L'ultimu prucessore mobile AMD Ryzen AI Max+ 395 Strix Halo di punta offre prestazioni finu à 12 volte più veloci nantu à una varietà di grandi mudelli di lingua AI cà i chip Intel Lunar Lake. Circa questu AMD nant'à u so blog ufficiale, sparte i diagrammi pertinenti.
Cù 16 core di calculu Zen 5, 40 GPU RDNA 3.5, è una NPU XDNA 2 cù prestazioni di 50 TOPS (trilioni di operazioni per secondu), u Ryzen AI Max+ 395 offre prestazioni finu à 12,2 volte più veloci in certi scenari LLM cà l'Intel Core Ultra 258V. Hè vale a ricurdà chì u chip Intel Lunar Lake hà solu quattru P-cores è quattru E-cores, chì hè a mità di quant'è u Ryzen AI Max + 395. In ogni casu, a diferenza di rendiment trà e plataforme hè assai più di duie volte più grande.
U vantaghju di u chip Ryzen AI Max + 395 diventa ancu più notu cum'è a cumplessità di mudelli di lingua aumenta. A più grande differenza di prestazione trà e piattaforme hè vista quandu eseguisce LLM cù 14 miliardi di parametri, chì esige più RAM. Ricurdemu chì Lunar Lake hè un processore hibridu equipatu di finu à 32 GB di RAM di bordu.
In i testi di LM Studio utilizendu un Asus ROG Flow Z13 cù 64 GB di memoria unificata, a grafica Radeon 8060S integrata di Ryzen AI Max+ 395 hà furnitu 2,2x u token throughput di a grafica Intel Arc 140V in una varietà di mudelli AI. In i testi Time-to-First-Token (una metrica di prestazione di u mudellu di lingua chì misura u tempu chì ci vole da mandà una dumanda à generà u primu token in una risposta), u chip AMD hà dimustratu un vantaghju quadruplice annantu à u so cuncurrente in mudelli cum'è Llama 3.2 3B Instruct, è hà aumentatu u vantaghju à 9,1x in mudelli chì supportanu 7-8 billion Distieps.
U processore AMD hà particularmente eccellenti in i travaglii di visione multimodale, induve hà processatu inputs visuali cumplessi finu à 7x più veloce in IBM Granite Vision 3.2 3B è 6x più veloce in Google Gemma 3 12B cumparatu cù u chip Intel. U supportu di a piattaforma AMD per a tecnulugia Variable Graphics Memory permette à 96GB di memoria per esse attribuita cum'è VRAM da sistemi cù finu à 128GB di memoria unificata, chì permette l'implementazione di mudelli di lingua moderna cum'è Gemma 3 27B Vision di Google.
I vantaghji di prestazione di u processore AMD nantu à u so cuncurrente sò ancu visibili in l'applicazioni AI pratiche, cum'è l'analisi di l'imaghjini medichi è l'assistenza di codificazione cù quantizazione di 6-bit d'alta precisione in u DeepSeek R1 Distill Qwen 32B.
Sources:
Source: 3dnews.ru
