Na ESP32-S3 bol spustený jazykový model s 28,9 miliónmi parametrov.
Vývojár Vyacheslav Serbov, ktorý používa pseudonym slvDev, predviedol plne lokálne generovanie textu na mikrokontroléri ESP32-S3. Jazykový model, ktorý vytvoril, obsahuje 28,9 milióna parametrov a produkuje približne 9,9 tokenov za sekundu bez prístupu k serveru alebo iným externým výpočtovým zdrojom. Vygenerované krátke príbehy sa zobrazujú na pripojenom OLED displeji. Projekt esp32-ai bol testovaný na module ESP32-S3 N16R8, ktorý […]
