Der neueste Flaggschiff-Mobilprozessor AMD Ryzen AI Max+ 395 der Strix Halo-Serie bietet bis zu 12-mal höhere Leistung bei der Arbeit mit verschiedenen großen KI-Sprachmodellen als die Intel Lunar Lake-Chips. Dies berichtet AMD in ihrem offiziellen Blog und teilt entsprechende Diagramme mit.
Dank der 16 Zen 5-Rechenkerne, 40 RDNA 3.5-Grafikblöcken und dem NPU XDNA 2 mit einer Leistung von 50 TOPS (Billionen Operationen pro Sekunde) bietet der Prozessor Ryzen AI Max+ 395 bis zu 12,2-mal höhere Performance in bestimmten LLM-Szenarien als der Intel Core Ultra 258V. Es sei daran erinnert, dass der Intel Lunar Lake-Chip nur über vier P-Kerne und vier E-Kerne verfügt, was insgesamt halb so viel ist wie beim Ryzen AI Max+ 395. Die Leistungsdifferenz zwischen den Plattformen ist jedoch viel deutlicher als nur das Doppelte.
Der Vorteil des Ryzen AI Max+ 395 wird mit der steigenden Komplexität von Sprachmodellen noch deutlicher. Der größte Leistungsunterschied zwischen den Plattformen zeigt sich bei der Arbeit mit LLMs mit 14 Milliarden Parametern, wo mehr Arbeitsspeicher benötigt wird. Lunar Lake sind Hybridprozessoren, die mit bis zu 32 GB integriertem RAM ausgestattet sind.
In den Tests von LM Studio mit dem Asus ROG Flow Z13 mit 64 GB einheitlichem Speicher zeigte die integrierte Grafik Radeon 8060S des Ryzen AI Max+ 395 eine 2,2-fache Token-Durchsatzrate im Vergleich zur Intel Arc 140V-Grafik in verschiedenen KI-Modellen. Bei den Tests zur Time-to-First-Token (eine Leistungskennzahl für Sprachmodelle, die zeigt, wie viel Zeit vom Senden der Anfrage bis zur Generierung des ersten Antworttokens vergeht) zeigte der AMD-Chip einen vierfachen Vorteil gegenüber dem Konkurrenten in Modellen wie Llama 3.2 3B Instruct und erhöhte den Abstand auf 9,1-fach in Modellen, die 7–8 Milliarden Parameter unterstützen, wie zum Beispiel DeepSeek R1 Distill.
Der AMD-Prozessor hat besonders bei multimodalen Vision-Aufgaben überzeugt und verarbeitet komplexe visuelle Eingabedaten bis zu 7 Mal schneller in IBM Granite Vision 3.2 3B und bis zu 6 Mal schneller in Google Gemma 3 12B im Vergleich zum Intel-Chip. Die Unterstützung der AMD-Plattform für die Technologie Variable Graphics Memory ermöglicht die Zuweisung von bis zu 96 GB Speicher als VRAM aus Systemen mit einem einheitlichen Speicher von bis zu 128 GB, was die Bereitstellung moderner Sprachmodelle wie Google Gemma 3 27B Vision ermöglicht.
Die Leistungsvorteile des AMD-Prozessors gegenüber dem Wettbewerb sind auch in praktischen KI-Anwendungen sichtbar, wie zum Beispiel bei der Analyse medizinischer Bilder und der Unterstützung beim Codieren durch hochpräzises 6-Bit-Quantisieren in der DeepSeek R1 Distill Qwen 32B Modell.
Quellen:
Quelle: 3dnews.ru
