{"id":182824,"date":"2026-08-11T04:54:15","date_gmt":"2026-08-11T02:54:15","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3"},"modified":"2026-08-12T18:21:41","modified_gmt":"2026-08-12T16:21:41","slug":"yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","status":"publish","type":"post","link":"https:\/\/prohoster.info\/fr\/blog\/news\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","title":{"rendered":"Un mod\u00e8le linguistique de 28,9 millions de param\u00e8tres fonctionne sur l'ESP32-S3","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

<\/i><\/a>
\nLe d\u00e9veloppeur Viatcheslav Serbov, utilisant le pseudonyme slvDev, a d\u00e9montr\u00e9<\/a> une g\u00e9n\u00e9ration de texte enti\u00e8rement locale sur le microcontr\u00f4leur ESP32-S3. Le mod\u00e8le linguistique qu'il a cr\u00e9\u00e9 contient 28,9 millions de param\u00e8tres et produit environ 9,9 jetons par seconde, sans faire appel \u00e0 un serveur ou \u00e0 d'autres ressources de calcul externes. Les histoires courtes g\u00e9n\u00e9r\u00e9es sont affich\u00e9es sur un \u00e9cran OLED connect\u00e9.<\/p>\n

 <\/p>\n

Projet esp32-ai<\/a> a \u00e9t\u00e9 test\u00e9 sur le module ESP32-S3 N16R8, qui dispose de 512 Ko de SRAM int\u00e9gr\u00e9e, de 8 Mo de PSRAM et de 16 Mo de m\u00e9moire flash. Le mod\u00e8le quantifi\u00e9 \u00e0 quatre bits occupe 14,9 Mo. Le code source de l'environnement d'ex\u00e9cution en C, les outils d'entra\u00eenement et de quantification du mod\u00e8le, le firmware, les tests et les sc\u00e9narios de chargement sur la carte sont publi\u00e9s dans le r\u00e9f\u00e9rentiel.<\/p>\n

 <\/p>\n

Les 28,9 millions de param\u00e8tres d\u00e9clar\u00e9s ne doivent pas \u00eatre directement compar\u00e9s avec le nombre de param\u00e8tres des LLM de bureau classiques. Selon le rapport d\u00e9taill\u00e9 du d\u00e9veloppeur<\/a>, le mod\u00e8le se compose d'un noyau de calcul dense d'environ 559 000 param\u00e8tres, d'une couche de sortie de 3,1 millions de param\u00e8tres et d'une table de repr\u00e9sentations vectorielles par couche d'environ 25 millions de param\u00e8tres. C'est cette derni\u00e8re qui fournit la majeure partie de la taille formelle du mod\u00e8le, mais elle n'est pas enti\u00e8rement trait\u00e9e lors de la g\u00e9n\u00e9ration de chaque jeton.<\/p>\n

 <\/p>\n

Pour le d\u00e9ploiement du mod\u00e8le, trois niveaux de m\u00e9moire sont utilis\u00e9s. Les donn\u00e9es les plus fr\u00e9quemment utilis\u00e9es sont stock\u00e9es dans la SRAM interne, la couche de sortie, le cache KV et les tampons temporaires dans la PSRAM, tandis que la table de 25 millions reste en m\u00e9moire flash et est accessible par mappage dans l'espace d'adresses. Pour chaque jeton, environ six lignes, totalisant environ 450 octets, sont lues.<\/p>\n

 <\/p>\n

Ce dispositif est bas\u00e9 sur la technologie Per-Layer Embeddings, appliqu\u00e9e par Google dans Gemma 3n. Selon la documentation de Google<\/a>, les param\u00e8tres PLE peuvent \u00eatre stock\u00e9s en dehors de la m\u00e9moire de travail du mod\u00e8le et ajout\u00e9s au processus de sortie \u00e0 mesure que chaque couche est trait\u00e9e. Dans esp32-ai, cette approche a \u00e9t\u00e9 transf\u00e9r\u00e9e \u00e0 la hi\u00e9rarchie de m\u00e9moire du microcontr\u00f4leur, o\u00f9 la SRAM rapide est particuli\u00e8rement limit\u00e9e.<\/p>\n

 <\/p>\n

La premi\u00e8re version correcte de l'environnement d'ex\u00e9cution \u00e9crit en C ne produisait que 0,57 jeton par seconde. Apr\u00e8s avoir plac\u00e9 la couche de sortie dans la PSRAM, en passant \u00e0 des activations de huit bits, en r\u00e9partissant les calculs entre deux c\u0153urs Xtensa LX7 et d'autres optimisations, la latence a \u00e9t\u00e9 r\u00e9duite \u00e0 94,9 ms par \u00e9tape du mod\u00e8le. La vitesse mesur\u00e9e finale a atteint 9,88 jetons par seconde, en tenant compte de l'ensemble du processus de g\u00e9n\u00e9ration. La principale limitation est maintenant la bande passante de la PSRAM lors de la lecture de la couche de sortie.<\/p>\n

 <\/p>\n

Le mod\u00e8le a \u00e9t\u00e9 entra\u00een\u00e9 sur un ensemble de donn\u00e9es synth\u00e9tiques TinyStories<\/a>, constitu\u00e9 de r\u00e9cits simples en anglais avec un vocabulaire limit\u00e9. Il est donc capable de poursuivre des phrases et d'inventer de petites histoires coh\u00e9rentes, mais n'est pas con\u00e7u pour r\u00e9pondre \u00e0 des questions, ex\u00e9cuter des instructions, programmer ou reproduire des connaissances factuelles. Le d\u00e9veloppeur consid\u00e8re le travail avant tout comme une d\u00e9monstration d'un placement efficace du mod\u00e8le dans la m\u00e9moire d'un microcontr\u00f4leur, et non comme un chatbot autonome pr\u00eat \u00e0 l'emploi.<\/p>\n

 <\/p>\n

Dans la documentation actuelle, l'auteur souligne s\u00e9par\u00e9ment que esp32-ai est un d\u00e9veloppement ind\u00e9pendant. Les projets llama2.c<\/a> d'Andrei Karpathy et un pr\u00e9c\u00e9dent lancement d'un mod\u00e8le de 260 000 param\u00e8tres sur l'ESP32-S3 ne sont mentionn\u00e9s que comme des rep\u00e8res et des exemples de travaux ant\u00e9rieurs : le code, les points de contr\u00f4le et la m\u00e9thodologie ne sont pas directement emprunt\u00e9s \u00e0 ceux-ci. Le code source de esp32-ai est distribu\u00e9 sous licence MIT<\/a>.<\/p>\n

 <\/p>\n

Source : linux.org.ru<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a \u0412\u044f\u0447\u0435\u0441\u043b\u0430\u0432 \u0421\u0435\u0440\u0431\u043e\u0432, \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u044e\u0449\u0438\u0439 \u043f\u043e\u0434 \u043f\u0441\u0435\u0432\u0434\u043e\u043d\u0438\u043c\u043e\u043c slvDev, \u043f\u0440\u043e\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043b \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0430 \u043c\u0438\u043a\u0440\u043e\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u043b\u0435\u0440\u0435 ESP32-S3. \u0421\u043e\u0437\u0434\u0430\u043d\u043d\u0430\u044f \u0438\u043c \u044f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 28,9 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438 \u0432\u044b\u0434\u0430\u0451\u0442 \u043e\u043a\u043e\u043b\u043e 9,9 \u0442\u043e\u043a\u0435\u043d\u0430 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u043d\u0435 \u043e\u0431\u0440\u0430\u0449\u0430\u044f\u0441\u044c \u043a \u0441\u0435\u0440\u0432\u0435\u0440\u0443 \u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u0438\u043c \u0432\u043d\u0435\u0448\u043d\u0438\u043c \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c. \u0421\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b \u0432\u044b\u0432\u043e\u0434\u044f\u0442\u0441\u044f \u043d\u0430 \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0451\u043d\u043d\u044b\u0439 OLED-\u0434\u0438\u0441\u043f\u043b\u0435\u0439.   \u041f\u0440\u043e\u0435\u043a\u0442 esp32-ai \u0438\u0441\u043f\u044b\u0442\u0430\u043d \u043d\u0430 \u043c\u043e\u0434\u0443\u043b\u0435 ESP32-S3 N16R8, \u0440\u0430\u0441\u043f\u043e\u043b\u0430\u0433\u0430\u044e\u0449\u0435\u043c […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":9,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-182824","post","type-post","status-publish","format-standard","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47Le mod\u00e8le linguistique avec 28,9 millions de param\u00e8tres fonctionne sur l'ESP32-S3 | ProHoster","description":".","canonical_url":"https:\/\/prohoster.info\/fr\/blog\/news\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"fr_FR","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u042f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0441 28,9 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0437\u0430\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u043d\u0430 ESP32-S3 | ProHoster","og:description":".","og:url":"https:\/\/prohoster.info\/fr\/blog\/news\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2026-08-11T02:54:15+00:00","article:modified_time":"2026-08-12T16:21:41+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"182824","title":null,"description":null,"keywords":null,"keyphrases":{"focus":[],"additional":[]},"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":"default","schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":null,"breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2026-08-11 06:43:49","updated":"2026-08-11 06:43:49","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/182824","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/comments?post=182824"}],"version-history":[{"count":1,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/182824\/revisions"}],"predecessor-version":[{"id":182897,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/posts\/182824\/revisions\/182897"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/media?parent=182824"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/categories?post=182824"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/fr\/wp-json\/wp\/v2\/tags?post=182824"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}