{"id":182824,"date":"2026-08-11T04:54:15","date_gmt":"2026-08-11T02:54:15","guid":{"rendered":"https:\/\/prohoster.info\/blog\/novosti-interneta\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3"},"modified":"2026-08-12T18:21:41","modified_gmt":"2026-08-12T16:21:41","slug":"yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","status":"publish","type":"post","link":"https:\/\/prohoster.info\/es\/blog\/news\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","title":{"rendered":"Un modelo de lenguaje con 28,9 millones de par\u00e1metros funcion\u00f3 en ESP32-S3","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

<\/i><\/a>
\nEl desarrollador Viacheslav Serbov, que utiliza el seud\u00f3nimo slvDev, demostr\u00f3<\/a> ha creado una generaci\u00f3n de texto completamente local en el microcontrolador ESP32-S3. El modelo de lenguaje que ha desarrollado contiene 28,9 millones de par\u00e1metros y produce alrededor de 9,9 tokens por segundo, sin necesidad de conectarse a un servidor o a otros recursos de computaci\u00f3n externos. Las historias cortas generadas se muestran en una pantalla OLED conectada.<\/p>\n

 <\/p>\n

Proyecto esp32-ai<\/a> ha sido probado en el m\u00f3dulo ESP32-S3 N16R8, que cuenta con 512 KB de SRAM integrada, 8 MB de PSRAM y 16 MB de memoria flash. El modelo cuantificado a cuatro bits ocupa 14,9 MB. En el repositorio se publica el c\u00f3digo fuente del entorno de ejecuci\u00f3n en C, herramientas de entrenamiento y cuantificaci\u00f3n del modelo, el firmware, pruebas y scripts para su carga en la placa.<\/p>\n

 <\/p>\n

Los 28,9 millones de par\u00e1metros declarados no deben compararse directamente con la cantidad de par\u00e1metros de los LLM de escritorio convencionales. Seg\u00fan el informe detallado del desarrollador<\/a>, el modelo consiste en un n\u00facleo computacional denso de aproximadamente 559 mil par\u00e1metros, una capa de salida de 3,1 millones de par\u00e1metros y una tabla de representaciones vectoriales por capa de aproximadamente 25 millones de par\u00e1metros. Es esta \u00faltima la que proporciona la mayor parte del tama\u00f1o formal del modelo, pero no se procesa en su totalidad durante la generaci\u00f3n de cada token.<\/p>\n

 <\/p>\n

La modelaci\u00f3n utiliza tres niveles de memoria. Los datos m\u00e1s frecuentemente utilizados se encuentran en la SRAM interna, la capa de salida, el cach\u00e9 KV y los b\u00faferes temporales est\u00e1n en PSRAM, mientras que la tabla de 25 millones de par\u00e1metros permanece en la memoria flash y se accede a trav\u00e9s de un mapeo en el espacio de direcciones. Para cada token, solo se leen alrededor de seis l\u00edneas con un volumen total de aproximadamente 450 bytes.<\/p>\n

 <\/p>\n

Este dispositivo se basa en la tecnolog\u00eda Per-Layer Embeddings, utilizada por Google en Gemma 3n. Seg\u00fan la documentaci\u00f3n de Google<\/a>, los par\u00e1metros PLE pueden almacenarse fuera de la memoria de trabajo del modelo y a\u00f1adirse al proceso de salida a medida que se procesan capas individuales. En esp32-ai, este enfoque se ha trasladado a la jerarqu\u00eda de memoria del microcontrolador, donde la SRAM r\u00e1pida es especialmente limitada.<\/p>\n

 <\/p>\n

La primera versi\u00f3n correcta del entorno de ejecuci\u00f3n escrito en C solo generaba 0,57 tokens por segundo. Despu\u00e9s de colocar la capa de salida en PSRAM, cambiar a activaciones de 8 bits, distribuir c\u00e1lculos entre dos n\u00facleos Xtensa LX7 y otras optimizaciones, la latencia se redujo a 94,9 ms por paso del modelo. La velocidad final medida alcanz\u00f3 9,88 tokens por segundo teniendo en cuenta todo el proceso de generaci\u00f3n. El principal l\u00edmite ahora es el ancho de banda de PSRAM al leer la capa de salida.<\/p>\n

 <\/p>\n

El modelo ha sido entrenado en un conjunto de datos sint\u00e9ticos TinyStories<\/a>, compuesto por narraciones simples en ingl\u00e9s con un vocabulario limitado. Por lo tanto, puede continuar frases y crear peque\u00f1as historias coherentes, pero no est\u00e1 dise\u00f1ado para responder preguntas, seguir instrucciones, programar o reproducir conocimientos f\u00e1cticos. El desarrollador considera el trabajo principalmente como una demostraci\u00f3n de la efectiva colocaci\u00f3n del modelo en la memoria del microcontrolador, y no como un chatbot aut\u00f3nomo listo para usar.<\/p>\n

 <\/p>\n

En la documentaci\u00f3n actual, el autor enfatiza que esp32-ai es un desarrollo independiente. Los proyectos llama2.c<\/a> de Andrei Karpathy y el lanzamiento anterior de un modelo de 260,000 par\u00e1metros en el ESP32-S3 se mencionan solo como hitos y ejemplos de trabajos anteriores: el c\u00f3digo, los puntos de control y el m\u00e9todo no fueron tomados directamente de ellos. El c\u00f3digo fuente de esp32-ai se distribuye bajo la licencia MIT<\/a>.<\/p>\n

 <\/p>\n

Fuente: linux.org.ru<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

\u0420\u0430\u0437\u0440\u0430\u0431\u043e\u0442\u0447\u0438\u043a \u0412\u044f\u0447\u0435\u0441\u043b\u0430\u0432 \u0421\u0435\u0440\u0431\u043e\u0432, \u0432\u044b\u0441\u0442\u0443\u043f\u0430\u044e\u0449\u0438\u0439 \u043f\u043e\u0434 \u043f\u0441\u0435\u0432\u0434\u043e\u043d\u0438\u043c\u043e\u043c slvDev, \u043f\u0440\u043e\u0434\u0435\u043c\u043e\u043d\u0441\u0442\u0440\u0438\u0440\u043e\u0432\u0430\u043b \u043f\u043e\u043b\u043d\u043e\u0441\u0442\u044c\u044e \u043b\u043e\u043a\u0430\u043b\u044c\u043d\u0443\u044e \u0433\u0435\u043d\u0435\u0440\u0430\u0446\u0438\u044e \u0442\u0435\u043a\u0441\u0442\u0430 \u043d\u0430 \u043c\u0438\u043a\u0440\u043e\u043a\u043e\u043d\u0442\u0440\u043e\u043b\u043b\u0435\u0440\u0435 ESP32-S3. \u0421\u043e\u0437\u0434\u0430\u043d\u043d\u0430\u044f \u0438\u043c \u044f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0441\u043e\u0434\u0435\u0440\u0436\u0438\u0442 28,9 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0438 \u0432\u044b\u0434\u0430\u0451\u0442 \u043e\u043a\u043e\u043b\u043e 9,9 \u0442\u043e\u043a\u0435\u043d\u0430 \u0432 \u0441\u0435\u043a\u0443\u043d\u0434\u0443, \u043d\u0435 \u043e\u0431\u0440\u0430\u0449\u0430\u044f\u0441\u044c \u043a \u0441\u0435\u0440\u0432\u0435\u0440\u0443 \u0438\u043b\u0438 \u0434\u0440\u0443\u0433\u0438\u043c \u0432\u043d\u0435\u0448\u043d\u0438\u043c \u0432\u044b\u0447\u0438\u0441\u043b\u0438\u0442\u0435\u043b\u044c\u043d\u044b\u043c \u0440\u0435\u0441\u0443\u0440\u0441\u0430\u043c. \u0421\u0433\u0435\u043d\u0435\u0440\u0438\u0440\u043e\u0432\u0430\u043d\u043d\u044b\u0435 \u043a\u043e\u0440\u043e\u0442\u043a\u0438\u0435 \u0440\u0430\u0441\u0441\u043a\u0430\u0437\u044b \u0432\u044b\u0432\u043e\u0434\u044f\u0442\u0441\u044f \u043d\u0430 \u043f\u043e\u0434\u043a\u043b\u044e\u0447\u0451\u043d\u043d\u044b\u0439 OLED-\u0434\u0438\u0441\u043f\u043b\u0435\u0439.   \u041f\u0440\u043e\u0435\u043a\u0442 esp32-ai \u0438\u0441\u043f\u044b\u0442\u0430\u043d \u043d\u0430 \u043c\u043e\u0434\u0443\u043b\u0435 ESP32-S3 N16R8, \u0440\u0430\u0441\u043f\u043e\u043b\u0430\u0433\u0430\u044e\u0449\u0435\u043c […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":9,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-182824","post","type-post","status-publish","format-standard","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47El modelo de lenguaje con 28,9 millones de par\u00e1metros funciona en el ESP32-S3 | ProHoster","description":".","canonical_url":"https:\/\/prohoster.info\/es\/blog\/news\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"es_ES","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u042f\u0437\u044b\u043a\u043e\u0432\u0430\u044f \u043c\u043e\u0434\u0435\u043b\u044c \u0441 28,9 \u043c\u043b\u043d \u043f\u0430\u0440\u0430\u043c\u0435\u0442\u0440\u043e\u0432 \u0437\u0430\u0440\u0430\u0431\u043e\u0442\u0430\u043b\u0430 \u043d\u0430 ESP32-S3 | ProHoster","og:description":".","og:url":"https:\/\/prohoster.info\/es\/blog\/news\/yazykovaya-model-s-289-mln-parametrov-zarabotala-na-esp32-s3","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2026-08-11T02:54:15+00:00","article:modified_time":"2026-08-12T16:21:41+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"182824","title":null,"description":null,"keywords":null,"keyphrases":{"focus":[],"additional":[]},"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":"default","schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":null,"breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2026-08-11 06:43:49","updated":"2026-08-11 06:43:49","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts\/182824","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/comments?post=182824"}],"version-history":[{"count":1,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts\/182824\/revisions"}],"predecessor-version":[{"id":182897,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts\/182824\/revisions\/182897"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/media?parent=182824"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/categories?post=182824"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/tags?post=182824"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}