De nieuwste vlaggenschip mobiel processor AMD Ryzen AI Max+ 395 van de Strix Halo-serie biedt tot 12 keer hogere prestaties bij het werken met verschillende grote AI-taalmodellen dan de Intel Lunar Lake-chips. Dit heeft AMD gedeeld op zijn officiƫle blog, vergezeld van relevante diagrammen.
Dankzij 16 Zen 5-rekenkernen, 40 RDNA 3.5 grafische eenheden en een NPU XDNA 2 met een prestatie van 50 TOPS (triljard operaties per seconde), biedt de Ryzen AI Max+ 395 tot 12,2 keer hogere prestaties in bepaalde LLM-scenario's dan de Intel Core Ultra 258V. Ter herinnering, de Intel Lunar Lake-chip bevat slechts vier P-kernen en vier E-kernen, wat in totaal de helft is van de Ryzen AI Max+ 395. Echter, het prestatieverschil tussen de platforms is veel groter dan twee keer.
Het voordeel van de Ryzen AI Max+ 395-chip wordt nog duidelijker naarmate de complexiteit van de taalmodellen toeneemt. Het grootste prestatieverschil tussen de platforms is zichtbaar bij het werken met LLM's met 14 miljard parameters, waar meer werkgeheugen nodig is. Lunar Lake zijn hybride processors die tot 32 GB aan boordgeheugen hebben.
In de LM Studio-tests met het apparaat Asus ROG Flow Z13 met 64 GB unifieerbaar geheugen, toonde de geĆÆntegreerde Radeon 8060S grafiek van de Ryzen AI Max+ 395 een 2,2 keer hogere doorvoer van tokens dan de Intel Arc 140V grafiek in verschillende AI-modellen. In de Time-to-First-Token-tests (een prestatie-metriek voor taalmodellen die aangeeft hoe lang het duurt vanaf het indienen van een verzoek tot het genereren van de eerste token van de reactie) toonde de AMD-chip een vier keer voordeel ten opzichte van de concurrent in modellen zoals Llama 3.2 3B Instruct en vergrootte het voordeel tot 9,1 keer in modellen die 7ā8 miljard parameters ondersteunen, zoals DeepSeek R1 Distill.
De AMD-processor presteerde bijzonder goed in multimodale visie-taken, waarbij complexe visuele input tot 7 keer sneller werd verwerkt in IBM Granite Vision 3.2 3B en 6 keer sneller in Google Gemma 3 12B in vergelijking met de Intel-chip. De ondersteuning van AMD voor de technologie Variable Graphics Memory maakt het mogelijk om tot 96 GB geheugen als VRAM toe te wijzen vanuit systemen met een unifieerbaar geheugen van maximaal 128 GB, wat op zijn beurt de implementatie van moderne taalmodellen zoals Google Gemma 3 27B Vision mogelijk maakt.
De voordelen van de AMD-processorprestaties ten opzichte van de concurrent zijn ook zichtbaar in praktische AI-toepassingen, zoals de analyse van medische beelden en hulp bij codering met behulp van zeer nauwkeurige 6-bits kwantisatie in het DeepSeek R1 Distill Qwen 32B-model.
Bronnen:
Bron: 3dnews.ru
