Un modelo de lenguaje con 28,9 millones de parámetros funcionó en ESP32-S3
El desarrollador Vyacheslav Serbov, que opera bajo el seudónimo slvDev, demostró la generación local completa de texto en el microcontrolador ESP32-S3. El modelo de lenguaje que creó contiene 28,9 millones de parámetros y emite aproximadamente 9,9 tokens por segundo, sin recurrir a un servidor u otros recursos computacionales externos. Los cuentos cortos generados se despliegan en una pantalla OLED conectada. El proyecto esp32-ai fue probado en el módulo ESP32-S3 N16R8, que cuenta con […]
