Den nyeste flagskibs mobile processor AMD Ryzen AI Max+ 395 fra Strix Halo-familien leverer op til 12 gange højere ydeevne i arbejdet med forskellige store sprogmodeller af AI end Intel Lunar Lake-chips. Dette meddeler AMD Med 16 Zen 5-beregningskerner, 40 RDNA 3.5-grafikblokke samt NPU XDNA 2 med en ydeevne på 50 TOPS (billioner operationer pr. sekund) sikrer Ryzen AI Max+ 395 op til 12,2 gange højere ydeevne i specifikke LLM-scenarier sammenlignet med Intel Core Ultra 258V. Det skal bemærkes, at Intel Lunar Lake-chippen kun har fire P-kerner og fire E-kerner, hvilket er halvdelen af, hvad Ryzen AI Max+ 395 har. Dog er forskellen i ydeevne mellem platformene meget mere udtalt end blot det dobbelte.
Fordelen ved Ryzen AI Max+ 395 bliver endnu mere tydelig, når kompleksiteten af sprogmodellerne stiger. Den største ydeevneforskelle mellem platformene ses, når man arbejder med LLM med 14 milliarder parametre, hvor der kræves mere RAM. Bemærk, at Lunar Lake er hybride processorer udstyret med op til 32 GB on-board RAM.
I LM Studio-tests med en Asus ROG Flow Z13 enhed med 64 GB samlet hukommelse viste de indbyggede Radeon 8060S-grafikprocessorer i Ryzen AI Max+ 395 en 2,2 gange højere gennemstrømning af tokens sammenlignet med Intel Arc 140V i forskellige AI-modeller. I Time-to-First-Token-tests (metrik for ydeevne i sprogmodeller, der viser tiden fra anmodning til generering af det første responstoken) viste AMD-chippen et fire gange forspring over konkurrenten i modeller som Llama 3.2 3B Instruct og øgede afstanden til 9,1 gange i modeller, der understøtter 7-8 milliarder parametre, som f.eks. DeepSeek R1 Distill.
I LM Studio-tests med en Asus ROG Flow Z13 med 64 GB samlet hukommelse viste den indbyggede Radeon 8060S grafik fra Ryzen AI Max+ 395 en 2,2 gange større token-båndbredde end Intel Arc 140V-grafik i forskellige AI-modeller. I Time-to-First-Token-testene (et performance-metric for sprogmodeller, der viser, hvor lang tid der går fra anmodningen sendes til det første tokens svar genereres) viste AMD-chippen en firedoblet fordel over konkurrenten i modeller som Llama 3.2 3B Instruct og udvidede føringen til 9,1 gange i modeller, der understøtter 7–8 milliarder parametre, som DeepSeek R1 Distill.
AMD's processor has especially excelled in multimodal vision tasks, processing complex visual inputs up to 7 times faster in IBM Granite Vision 3.2 3B and 6 times faster in Google Gemma 3 12B compared to Intel's chip. The support for Variable Graphics Memory technology by the AMD platform allows allocating up to 96 GB of memory as VRAM from systems with unified memory of up to 128 GB, which in turn facilitates the deployment of modern language models like Google Gemma 3 27B Vision.
The performance advantages of AMD's processor over its competitor are also evident in practical AI applications, such as medical image analysis and coding assistance using high-precision 6-bit quantization in the DeepSeek R1 Distill Qwen 32B model.
Kilder:
Kilde: 3dnews.ru
