Най-новият флагмански мобилен процесор AMD Ryzen AI Max+ 395 от семейството Strix Halo предлага до 12 пъти по-висока производителност при работа с различни големи езикови модели на ИИ в сравнение с чиповете Intel Lunar Lake. Това съобщава AMD в своя официален блог, споделяйки съответните диаграми.
С 16 изчислителни ядра Zen 5, 40 графични блока RDNA 3.5 и NPU XDNA 2 с производителност 50 TOPS (трлн. операции в секунда), процесорът Ryzen AI Max+ 395 осигурява до 12,2 пъти по-висока производителност в определени сценарии LLM в сравнение с Intel Core Ultra 258V. Напомняме, че чипът Intel Lunar Lake разполага само с четири P-ядра и четири E-ядра, което общо е наполовина по-малко от Ryzen AI Max+ 395. Въпреки това разликата в производителността между платформите е много по-изразена, отколкото два пъти.
Предимството на чипа Ryzen AI Max+ 395 става още по-забележимо с увеличаването на сложността на езиковите модели. Най-голямата разлика в производителността между платформите се наблюдава при работа с LLM с 14 млрд. параметри, където е необходима повече оперативна памет. Напомняме, че Lunar Lake представлява хибридни процесори, снабдени с до 32 ГБ вградена RAM.
В тестовете на LM Studio с използването на устройството Asus ROG Flow Z13 с 64 ГБ унифицирана памет, вградената графика Radeon 8060S на процесора Ryzen AI Max+ 395 показа 2,2 пъти по-висока пропускателна способност на токените в сравнение с графиката Intel Arc 140V в различни AI модели. В тестовете Time-to-First-Token (метрика за производителност на езикови модели, която показва колко време отнема от изпращането на заявката до генерирането на първия токен отговор), чипът AMD демонстрира четирикратно предимство над конкурента в такива модели, като Llama 3.2 3B Instruct, и увеличи разликата до 9,1 пъти в модели, поддържащи 7–8 млрд. параметри, например DeepSeek R1 Distill.
Процесорът AMD особено се справя добре в задачите на мултимодалното зрение, където обработва сложни визуални входни данни до 7 пъти по-бързо в IBM Granite Vision 3.2 3B и 6 пъти по-бързо в Google Gemma 3 12B в сравнение с чипа Intel. Поддръжката на платформата AMD на технологията Variable Graphics Memory позволява отделянето на до 96 ГБ памет като VRAM от системи с унифицирана памет с обем до 128 ГБ, което от своя страна позволява разгръщането на съвременни езикови модели, като Google Gemma 3 27B Vision.
Предимствата на производителността на процесора AMD спрямо конкурентите са видими и в практическите ИИ приложения, като анализ на медицински изображения и помощ при кодиране с висока прецизност с 6-битово квантоване в модела DeepSeek R1 Distill Qwen 32B.
Източници:
Източник: 3dnews.ru
