{"id":111878,"date":"2023-11-30T21:10:14","date_gmt":"2023-11-30T19:10:14","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/pervyj-vypusk-instrumenta-llamafile-ot-mozilla"},"modified":"2023-11-30T21:10:14","modified_gmt":"2023-11-30T19:10:14","slug":"pervyj-vypusk-instrumenta-llamafile-ot-mozilla","status":"publish","type":"post","link":"https:\/\/prohoster.info\/es\/blog\/news\/pervyj-vypusk-instrumenta-llamafile-ot-mozilla","title":{"rendered":"Primera versi\u00f3n de la herramienta llamafile de Mozilla","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Los desarrolladores de Mozilla han presentado la primera versi\u00f3n de la herramienta llamafile, que permite crear archivos ejecutables universales para ejecutar grandes modelos de lenguaje de aprendizaje autom\u00e1tico (LLM). Con llamafile, puedes tomar un archivo con los par\u00e1metros del modelo de aprendizaje autom\u00e1tico en formato GGUF y convertirlo en un archivo ejecutable que se puede ejecutar en seis sistemas operativos diferentes en hardware con procesadores AMD64 y ARM64. La herramienta est\u00e1 escrita en C\/C++ y se distribuye bajo la licencia Apache 2.0. <\/p>\n
Para la ejecuci\u00f3n de los modelos se utiliza el marco llama.cpp con la implementaci\u00f3n del modelo LLaMA en C\/C++, que se compila en un archivo ejecutable universal en formato APE (Actually Portable Executable), que se combina con el archivo del modelo. El c\u00f3digo compilado se vincula con la biblioteca est\u00e1ndar de C Cosmopolitan, que permite crear compilaciones de aplicaciones que se ejecutan en Linux, FreeBSD, macOS, OpenBSD, NetBSD y Windows. El c\u00f3digo se guarda en versiones para arquitecturas AMD64 y ARM64, e incluye componentes para realizar c\u00e1lculos en GPU NVIDIA (utiliza CUDA). \n Fuente: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"