Najnoviji vodeći mobilni procesor AMD Ryzen AI Max+ 395 Strix Halo pruža do 12 puta bržu izvedbu na raznim velikim modelima jezika umjetne inteligencije od Intel Lunar Lake čipova. O ovom AMD-u na svom službenom blogu, dijeleći relevantne dijagrame.
Sa 16 Zen 5 računalnih jezgri, 40 RDNA 3.5 GPU-ova i XDNA 2 NPU s 50 TOPS (trilijuna operacija u sekundi) performansi, Ryzen AI Max+ 395 pruža do 12,2x brže performanse u određenim LLM scenarijima od Intel Core Ultra 258V. Vrijedno je podsjetiti da Intel Lunar Lake čip ima samo četiri P-jezgre i četiri E-jezgre, što je upola manje od Ryzen AI Max+ 395. Međutim, razlika u performansama između platformi je više nego dva puta veća.
Prednost Ryzen AI Max+ 395 čipa postaje još uočljivija kako se složenost jezičnih modela povećava. Najveća razlika u performansama između platformi vidljiva je pri pokretanju LLM-a s 14 milijardi parametara, što zahtijeva više RAM-a. Podsjetimo, Lunar Lake je hibridni procesor opremljen s do 32 GB ugrađene RAM memorije.
U LM Studio testovima koristeći Asus ROG Flow Z13 sa 64 GB objedinjene memorije, Ryzen AI Max+ 8060 integrirana Radeon 395S grafika isporučila je 2,2x veću propusnost od Intelove Arc 140V grafike na raznim AI modelima. U testovima Time-to-First-Token (metrika performansi jezičnog modela koja mjeri koliko je vremena potrebno od slanja zahtjeva do generiranja prvog tokena u odgovoru), AMD-ov čip pokazao je četverostruku prednost nad svojim konkurentom u modelima kao što je Llama 3.2 3B Instruct, te je povećao vodstvo na 9,1x u modelima koji podržavaju 7-8 milijardi parametara, kao što je DeepSeek R1 Distill.
AMD procesor posebno se istaknuo u zadacima multimodalnog vida, gdje je obrađivao složene vizualne ulaze do 7x brže u IBM Granite Vision 3.2 3B i 6x brže u Google Gemma 3 12B u usporedbi s Intelovim čipom. Podrška platforme AMD-a za tehnologiju varijabilne grafičke memorije dopušta do 96 GB memorije koja se može dodijeliti kao VRAM iz sustava s do 128 GB objedinjene memorije, omogućujući implementaciju modernih jezičnih modela kao što je Googleov Gemma 3 27B Vision.
Prednosti performansi AMD procesora u odnosu na njegovog konkurenta također su vidljive u praktičnim AI aplikacijama, kao što su analiza medicinske slike i pomoć kodiranja s visokopreciznom 6-bitnom kvantizacijom u DeepSeek R1 Distill Qwen 32B.
Izvori:
Izvor: 3dnews.ru
