Der neueste Flaggschiff-Mobile-Prozessor AMD Ryzen AI Max+ 395 der Strix Halo-Serie bietet eine bis zu 12-mal höhere Leistung bei der Arbeit mit verschiedenen großen KI-Sprachmodellen im Vergleich zu Intel Lunar Lake-Chips. Dies berichtet AMD in seinem offiziellen Blog und teilt entsprechende Diagramme mit.
Dank 16 Zen 5-Compute-Kernen, 40 RDNA 3.5-Grafikblöcken sowie einem NPU XDNA 2 mit einer Leistung von 50 TOPS (Billionen Operationen pro Sekunde) bietet der Ryzen AI Max+ 395 bis zu 12,2-mal besseres Verhalten in bestimmten LLM-Szenarien verglichen mit Intel Core Ultra 258V. Es sei daran erinnert, dass der Intel Lunar Lake-Chip nur vier P-Kerne und vier E-Kerne enthält, also insgesamt nur halb so viele wie der Ryzen AI Max+ 395. Allerdings ist der Leistungsunterschied zwischen den Plattformen viel ausgeprägter als das zweifach.
Der Vorteil des Ryzen AI Max+ 395 wird bei zunehmender Komplexität der Sprachmodelle noch deutlicher. Der größte Leistungsunterschied zwischen den Plattformen tritt bei der Arbeit mit LLMs mit 14 Milliarden Parametern auf, wo mehr Arbeitsspeicher erforderlich ist. Es sei daran erinnert, dass Lunar Lake hybride Prozessoren mit bis zu 32 GB integriertem RAM sind.
In den LM Studio-Tests mit dem Asus ROG Flow Z13, ausgestattet mit 64 GB Unified Memory, zeigte die integrierte Radeon 8060S-Grafik des Ryzen AI Max+ 395 eine 2,2-mal höhere Token-Durchsatzrate als die Intel Arc 140V-Grafik in verschiedenen KI-Modellen. In den Time-to-First-Token-Tests (eine Leistungsmetrik von Sprachmodellen, die zeigt, wie lange es dauert, vom Absenden einer Anfrage bis zur Generierung des ersten Antworttokens) demonstrierte der AMD-Chip einen vierfachen Vorteil gegenüber dem Mitbewerber in Modellen wie Llama 3.2 3B Instruct und erhöhte den Abstand auf das 9,1-fache in Modellen mit 7-8 Milliarden Parametern, wie dem DeepSeek R1 Distill.
Der AMD-Prozessor hat besonders gut bei Aufgaben der multimodalen Sichtweise abgeschnitten, wo er komplexe visuelle Eingabedaten bis zu siebenmal schneller in IBM Granite Vision 3.2 3B und sechsmal schneller in Google Gemma 3 12B im Vergleich zum Intel-Chip verarbeitet hat. Die Unterstützung der AMD-Plattform für die Technologie der variablen Grafikspeicher ermöglicht es, bis zu 96 GB RAM als VRAM aus Systemen mit bis zu 128 GB Unified Memory zuzuweisen, was wiederum die Bereitstellung moderner Sprachmodelle wie Google Gemma 3 27B Vision ermöglicht.
Die Vorteile der AMD-Prozessorleistung gegenüber der Konkurrenz sind auch in praktischen KI-Anwendungen sichtbar, wie der Analyse medizinischer Bilder und der Unterstützung beim Codieren durch hochpräzises 6-Bit-Quantisieren im Modell DeepSeek R1 Distill Qwen 32B.
Quellen:
Quelle: 3dnews.ru
