Najnowocześniejszy flagowy mobilny procesor AMD Ryzen AI Max+ 395 z rodziny Strix Halo zapewnia do 12 razy wyższą wydajność w pracy z różnymi dużymi modelami językowymi AI w porównaniu do chipów Intel Lunar Lake. O tym poinformowało AMD na swoim oficjalnym blogu, dzieląc się odpowiednimi wykresami.
Dzięki 16 rdzeniom obliczeniowym Zen 5, 40 blokom graficznym RDNA 3.5 oraz NPU XDNA 2 o wydajności 50 TOPS (trylionów operacji na sekundę), procesor Ryzen AI Max+ 395 zapewnia do 12,2 razy wyższą efektywność w określonych scenariuszach LLM niż Intel Core Ultra 258V. Warto przypomnieć, że chip Intel Lunar Lake ma tylko cztery rdzenie P i cztery rdzenie E, co w sumie jest o połowę mniej niż w Ryzen AI Max+ 395. Jednak różnica w wydajności między platformami jest znacznie większa niż dwukrotność.
Zaletą chipu Ryzen AI Max+ 395 staje się jeszcze bardziej widoczna przy wzroście złożoności modeli językowych. Największa różnica w wydajności między platformami jest widoczna podczas pracy z LLM z 14 miliardami parametrów, gdzie wymagane jest więcej pamięci operacyjnej. Przypomnijmy, że Lunar Lake to hybrydowe procesory wyposażone w maksymalnie 32 GB pamięci RAM.
W testach LM Studio na urządzeniu Asus ROG Flow Z13 z 64 GB pamięci zintegrowanej zintegrowana grafika Radeon 8060S procesora Ryzen AI Max+ 395 wykazała 2,2 razy większą przepustowość tokenów niż grafika Intel Arc 140V w różnych modelach AI. W testach Time-to-First-Token (metryka wydajności modeli językowych, która pokazuje, ile czasu mija od wysłania zapytania do generacji pierwszego tokena odpowiedzi) chip AMD wykazał czterokrotną przewagę nad konkurencją w takich modelach jak Llama 3.2 3B Instruct, a różnica wzrosła do 9,1 razy w modelach obsługujących 7-8 miliardów parametrów, takich jak DeepSeek R1 Distill.
Procesor AMD szczególnie wyróżniał się w zadaniach dotyczących multimodalnego widzenia, gdzie przetwarzał złożone dane wizualne do 7 razy szybciej w IBM Granite Vision 3.2 3B i 6 razy szybciej w Google Gemma 3 12B w porównaniu z chipem Intel. Obsługa przez platformę AMD technologii Variable Graphics Memory pozwala na przydzielanie do 96 GB pamięci jako VRAM z systemów z pamięcią zintegrowaną o pojemności do 128 GB, co z kolei umożliwia uruchamianie nowoczesnych modeli językowych, takich jak Google Gemma 3 27B Vision.
Zalety wydajności procesora AMD są widoczne także w praktycznych aplikacjach sztucznej inteligencji, takich jak analiza obrazów medycznych i wsparcie w kodowaniu za pomocą wysokiej precyzji 6-bitowego kwantowania w modelu DeepSeek R1 Distill Qwen 32B.
Źródła:
Źródło: 3dnews.ru
