Mesa 25.3 底層程式碼庫包含一些改進,這些改進顯著提升了 Llama.cpp 引擎在搭載 AMD GPU 和 Mesa RADV 驅動程式的系統上使用 Vulkan 後端執行大型語言模型時的效能。在某些 llama-bench 測試中,優化的 RADV 驅動程式在快速處理(「pp」測試)方面比 AMDVLK 驅動程式和 ROCm 堆疊快 31%,在令牌產生(「tg」測試)方面比 AMDVLK 驅動程式和 ROCm 堆疊快 4%。這些優化由 Valve 的 Rhys Perry 完成,他參與了 Vulkan RADV 驅動程式和 ACO 著色器編譯器的開發。
來源: opennet.ru