Der neueste mobile Flaggschiff-Prozessor AMD Ryzen AI Max+ 395 Strix Halo bietet bei einer Vielzahl großer KI-Sprachmodelle eine bis zu 12-mal schnellere Leistung als Intel Lunar Lake-Chips. Über diese AMD auf seinem offiziellen Blog und teilt die relevanten Diagramme.
Mit 16 Zen 5-Rechenkernen, 40 RDNA 3.5-GPUs und einer XDNA 2-NPU mit 50 TOPS (Billionen Operationen pro Sekunde) Leistung liefert der Ryzen AI Max+ 395 in bestimmten LLM-Szenarien eine bis zu 12,2-mal schnellere Leistung als der Intel Core Ultra 258V. Es sei daran erinnert, dass der Intel Lunar Lake-Chip nur über vier P-Kerne und vier E-Kerne verfügt, also halb so viele wie der Ryzen AI Max+ 395. Der Leistungsunterschied zwischen den Plattformen ist jedoch weit mehr als doppelt so groß.
Der Vorteil des Ryzen AI Max+ 395-Chips wird umso deutlicher, je komplexer die Sprachmodelle werden. Der größte Leistungsunterschied zwischen den Plattformen zeigt sich beim Ausführen von LLM mit 14 Milliarden Parametern, was mehr RAM erfordert. Zur Erinnerung: Lunar Lake ist ein Hybridprozessor, der mit bis zu 32 GB On-Board-RAM ausgestattet ist.
In LM Studio-Tests mit einem Asus ROG Flow Z13 mit 64 GB einheitlichem Speicher lieferte die integrierte Radeon 8060S-Grafik des Ryzen AI Max+ 395 bei einer Vielzahl von KI-Modellen den 2,2-fachen Token-Durchsatz der Arc 140V-Grafik von Intel. Bei Time-to-First-Token-Tests (einer Leistungsmetrik für Sprachmodelle, die misst, wie lange es vom Senden einer Anfrage bis zum Generieren des ersten Tokens in einer Antwort dauert) zeigte der Chip von AMD bei Modellen wie Llama 3.2 3B Instruct einen vierfachen Vorteil gegenüber seinem Konkurrenten und erhöhte den Vorsprung bei Modellen, die 9,1 bis 7 Milliarden Parameter unterstützen, wie etwa DeepSeek R8 Distill, auf das 1-Fache.
Der AMD-Prozessor zeichnete sich insbesondere bei multimodalen Bildverarbeitungsaufgaben aus, wo er im Vergleich zum Intel-Chip komplexe visuelle Eingaben bis zu 7-mal schneller in IBM Granite Vision 3.2 3B und 6-mal schneller in Google Gemma 3 12B verarbeitete. Die Plattformunterstützung von AMD für die Variable Graphics Memory-Technologie ermöglicht die Zuweisung von bis zu 96 GB Speicher als VRAM von Systemen mit bis zu 128 GB einheitlichem Speicher und ermöglicht so die Bereitstellung moderner Sprachmodelle wie Gemma 3 27B Vision von Google.
Auch in praktischen KI-Anwendungen, wie etwa der medizinischen Bildanalyse und der Kodierunterstützung mit hochpräziser 6-Bit-Quantisierung im DeepSeek R1 Distill Qwen 32B, zeigen sich die Leistungsvorteile des AMD-Prozessors gegenüber der Konkurrenz.
Quellen:
Source: 3dnews.ru
