Un desenvolupador de Valve ha optimitzat el controlador RADV perquè funcioni amb Llama.cpp.
La base de codi subjacent a Mesa 25.3 inclou canvis que milloren significativament el rendiment del motor Llama.cpp per executar models de llenguatge grans quan s'utilitza el backend Vulkan en sistemes amb GPU AMD i el controlador Mesa RADV. El controlador RADV optimitzat és un 31% més ràpid que el controlador AMDVLK i la pila ROCm en algunes proves de llama-bench a l'hora de processar sol·licituds (les proves "pp" són […]
