Cel mai recent procesor mobil flagship AMD Ryzen AI Max+ 395 din familia Strix Halo oferă o performanță de până la 12 ori mai mare în utilizarea diferitelor modele mari de limbaj AI comparativ cu cipurile Intel Lunar Lake, conform celor de la AMD. în blogul lor oficial, împărtășind diagrame corespunzătoare.

Datorită celor 16 nuclee de calcul Zen 5, 40 de unități grafice RDNA 3.5, precum și NPU XDNA 2 cu o performanță de 50 TOPS (trilioane de operații pe secundă), procesorul Ryzen AI Max+ 395 asigură o viteză de până la 12,2 ori mai mare în anumite scenarii LLM decât Intel Core Ultra 258V. Merită menționat că cipul Intel Lunar Lake are doar patru nuclee P și patru nuclee E, ceea ce reprezintă cu 50% mai puțin decât Ryzen AI Max+ 395. Totuși, diferența de performanță între platforme este mult mai pronunțată decât dublă.

Avantajul cipului Ryzen AI Max+ 395 devine și mai evident pe măsură ce complexitatea modelelor de limbaj crește. Cea mai mare diferență de performanță între platforme se observă în lucrul cu LLM-uri cu 14 miliarde de parametri, unde este necesară mai multă memorie RAM. Reamintim că Lunar Lake reprezintă procesoare hibride, echipate cu până la 32 GB de RAM integrată.

În testele LM Studio folosind dispozitivul Asus ROG Flow Z13 cu 64 GB de memorie unificată, grafica încorporată Radeon 8060S a procesorului Ryzen AI Max+ 395 a demonstrat o capacitate de procesare a token-urilor cu 2,2 ori mai mare decât grafica Intel Arc 140V în diverse modele AI. În testele Time-to-First-Token (metrica de performanță a modelului de limbaj care măsoară cât de mult timp trece de la trimiterea solicitată până la generarea primului token de răspuns), cipul AMD a demonstrat un avantaj de patru ori față de competitorul său în modele precum Llama 3.2 3B Instruct și a crescut diferența până la 9,1 ori în modelele care susțin 7-8 miliarde de parametri, cum ar fi DeepSeek R1 Distill.

Procesorul AMD s-a descurcat deosebit de bine în sarcinile de viziune multimodală, procesând date vizuale complexe de până la 7 ori mai repede în IBM Granite Vision 3.2 3B și de 6 ori mai repede în Google Gemma 3 12B comparativ cu cipul Intel. Suportul platformei AMD pentru tehnologia Variable Graphics Memory permite alocarea de până la 96 GB de memorie ca VRAM din sisteme cu memorie unificată de până la 128 GB, ceea ce, la rândul său, permite implementarea modelelor moderne de limbaj, cum ar fi Google Gemma 3 27B Vision.
Avantajele performanței procesorului AMD în raport cu competitorul sunt vizibile și în aplicațiile practice de IA, cum ar fi analiza imaginilor medicale și asistența în codificare prin cuantizarea de 6 biți de mare precizie în modelul DeepSeek R1 Distill Qwen 32B.
Surse:
Sursa: 3dnews.ru
