{"id":111878,"date":"2023-11-30T21:10:14","date_gmt":"2023-11-30T19:10:14","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/pervyj-vypusk-instrumenta-llamafile-ot-mozilla"},"modified":"2023-11-30T21:10:14","modified_gmt":"2023-11-30T19:10:14","slug":"pervyj-vypusk-instrumenta-llamafile-ot-mozilla","status":"publish","type":"post","link":"https:\/\/prohoster.info\/fr\/blog\/news\/pervyj-vypusk-instrumenta-llamafile-ot-mozilla","title":{"rendered":"Premi\u00e8re version de l'outil llamafile de Mozilla","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"
Les d\u00e9veloppeurs de Mozilla ont pr\u00e9sent\u00e9 la premi\u00e8re version de l'outil llamafile, qui permet de cr\u00e9er des fichiers ex\u00e9cutables universels pour ex\u00e9cuter de grands mod\u00e8les de langage d'apprentissage automatique (LLM). Avec llamafile, vous pouvez prendre un fichier avec les param\u00e8tres d'un mod\u00e8le d'apprentissage automatique au format GGUF et le convertir en un fichier ex\u00e9cutable pouvant fonctionner sur six syst\u00e8mes d'exploitation diff\u00e9rents sur du mat\u00e9riel avec des processeurs AMD64 et ARM64. L'outil est \u00e9crit en C\/C++ et est distribu\u00e9 sous la licence Apache 2.0. <\/p>\n
Pour ex\u00e9cuter les mod\u00e8les, le cadre llama.cpp impl\u00e9mente le mod\u00e8le LLaMA en C\/C++, qui est compil\u00e9 en un fichier ex\u00e9cutable universel au format APE (Actually Portable Executable), coupl\u00e9 avec le fichier du mod\u00e8le. Le code compil\u00e9 se lie \u00e0 la biblioth\u00e8que standard C Cosmopolitan, permettant de cr\u00e9er des assemblies d'applications ex\u00e9cutables sous Linux, FreeBSD, macOS, OpenBSD, NetBSD et Windows. Le code est conserv\u00e9 dans des variantes pour les architectures AMD64 et ARM64, et inclut \u00e9galement des composants pour le calcul sur les GPU NVIDIA (utilisant CUDA). \n Source : opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"