Valve 開發人員已優化 RADV 驅動程式以使其與 Llama.cpp 相容。

Mesa 25.3 底層程式碼庫包含一些改進,這些改進顯著提升了 Llama.cpp 引擎在搭載 AMD GPU 和 Mesa RADV 驅動程式的系統上使用 Vulkan 後端執行大型語言模型時的效能。在某些 llama-bench 測試中,優化的 RADV 驅動程式在快速處理(「pp」測試)方面比 AMDVLK 驅動程式和 ROCm 堆疊快 31%,在令牌產生(「tg」測試)方面比 AMDVLK 驅動程式和 ROCm 堆疊快 4%。這些優化由 Valve 的 Rhys Perry 完成,他參與了 Vulkan RADV 驅動程式和 ACO 著色器編譯器的開發。

來源: opennet.ru

為具有 DDoS 保護、VPS VDS 服務器的站點購買可靠的主機 🔥 購買具備 DDoS 防護的可靠網站寄存服務,包括 VPS 和 VDS 伺服器 | ProHoster