Ndị mmepe si Mozilla gosipụtara ntọhapụ mbụ nke akụrụngwa llamafile, nke na-enye gị ohere ịmepụta faịlụ executable zuru ụwa ọnụ maka ịgba ọsọ ụdị asụsụ mmụta nnukwu igwe (LLM). Iji llamafile, ị nwere ike were faịlụ paramita ihe mmụta igwe na usoro GGUF wee gbanwee ya ka ọ bụrụ faịlụ nwere ike ịrụ ọrụ nke nwere ike ịgba ọsọ na sistemụ arụmọrụ isii dị iche iche na AMD64 na ngwa ARM64. Edere ngwa ngwa ahụ na C/C++ wee kesaa ya n'okpuru ikike Apache 2.0.
Iji mezuo ụdị ndị ahụ, a na-eji usoro llama.cpp mee ihe na mmejuputa ụdị LLAMA na C / C ++, nke a na-ejikọta na faịlụ zuru ụwa ọnụ na APE (N'ezie Portable Executable), jikọtara ya na faịlụ nlereanya. Ejikọtara koodu a chịkọtara na ọbá akwụkwọ Cosmopolitan C ọkọlọtọ, na-eme ka o kwe omume ịmepụta ngwa na-arụ ọrụ na Linux, FreeBSD, macOS, OpenBSD, NetBSD na Windows. A na-echekwa koodu ahụ na ụdị maka AMD64 na ARM64 architectures, yana gụnyekwara akụrụngwa maka ịgbakọ mgbako na NVIDIA GPUs (iji CUDA).
isi: opennet.ru
