ከሜሳ 25.3 ስር ያለው ኮድ ቤዝ የVulkan backend በ AMD GPUs እና Mesa RADV ሾፌር ሲጠቀሙ ትልልቅ የቋንቋ ሞዴሎችን ለማስፈጸም የLlama.cpp ሞተርን አፈጻጸም በእጅጉ የሚያሻሽሉ ለውጦችን ያካትታል። የተመቻቸ RADV አሽከርካሪ ከ AMDVLK ሾፌር እና ከ ROCm ቁልል በአንዳንድ ላማ-ቤንች ሙከራዎች ፈጣን ሂደት (የ"pp" ሙከራዎች) እና ቶከን ትውልድ ("tg" ሙከራዎች) 4% ፈጣን ነው። እነዚህ ማሻሻያዎች የተከናወኑት በVulkan RADV ሾፌር እና በ ACO ሻደር ኮምፕሌተር ልማት ውስጥ በተሳተፈው Rhys Perry of Valve ነው።
ምንጭ: opennet.ru
