{"id":111878,"date":"2023-11-30T21:10:14","date_gmt":"2023-11-30T19:10:14","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/pervyj-vypusk-instrumenta-llamafile-ot-mozilla"},"modified":"2023-11-30T21:10:14","modified_gmt":"2023-11-30T19:10:14","slug":"pervyj-vypusk-instrumenta-llamafile-ot-mozilla","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/news\/pervyj-vypusk-instrumenta-llamafile-ot-mozilla","title":{"rendered":"Il primo rilascio dello strumento llamafile di Mozilla","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Gli sviluppatori di Mozilla hanno presentato il primo rilascio dell'utilit\u00e0 llamafile, che consente di creare file eseguibili universali per l'esecuzione di grandi modelli di linguaggio di apprendimento automatico (LLM). Con llamafile \u00e8 possibile prendere un file con i parametri del modello di apprendimento automatico nel formato GGUF e convertirlo in un file eseguibile in grado di essere eseguito su sei diversi sistemi operativi su hardware con processori AMD64 e ARM64. L'utensile \u00e8 scritto in C\/C++ e distribuito sotto licenza Apache 2.0. <\/p>\n
Per l'esecuzione dei modelli \u00e8 utilizzato il framework llama.cpp con l'implementazione del modello LLaMA in C\/C++, che viene compilato in un file eseguibile universale nel formato APE (Actually Portable Executable), unito al file del modello. Il codice compilato \u00e8 collegato alla libreria standard C Cosmopolitan, che consente di creare build di applicazioni in grado di essere eseguite su Linux, FreeBSD, macOS, OpenBSD, NetBSD e Windows. Il codice \u00e8 disponibile in versioni per le architetture AMD64 e ARM64 e include anche componenti per l'elaborazione su GPU NVIDIA (utilizza CUDA). \n Fonte: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"