د موزیلا پراختیا کونکو د لاما فایل لومړۍ نسخه خپره کړې، چې د لویو ماشین زده کړې ژبې ماډلونو (LLM) چلولو لپاره د یونیورسل اجرایوي وړتیاو رامینځته کولو لپاره یوه اسانتیا ده. د لاما فایل په کارولو سره، تاسو کولی شئ د ماشین زده کړې ماډل پیرامیټرو سره د GGUF فایل واخلئ او دا په اجرایوي وړ کې بدل کړئ چې کولی شي په شپږو مختلفو عملیاتي سیسټمونو کې د AMD64 او ARM64 پروسیسرونو سره په هارډویر کې چلیږي. دا وسیله په C/C++ کې لیکل شوې او د اپاچي 2.0 جواز لاندې ویشل شوې ده.
د ماډلونو د اجرا کولو لپاره، د llama.cpp چوکاټ کارول کیږي، کوم چې د LLaMA ماډل په C/C++ کې پلي کوي. دا چوکاټ د APE (په حقیقت کې د پورټ ایبل اجرایوي) بڼه کې په یو نړیوال اجرایوي فایل کې تالیف شوی، کوم چې د ماډل فایل سره یوځای شوی. تالیف شوی کوډ د معیاري کاسموپولیټان C کتابتون سره تړلی دی، کوم چې د غوښتنلیک اسمبلۍ جوړولو ته اجازه ورکوي چې په Linux, FreeBSD, macOS، اوپن بي ایس ډي، نیټ بي ایس ډي او Windowsدا کوډ د AMD64 او ARM64 معمارۍ لپاره په نسخو کې ساتل شوی، او د NVIDIA GPUs ته د محاسبې د بارولو لپاره اجزا هم پکې شامل دي (CUDA کارول کیږي).
سرچینه: opennet.ru
