Jezik model s 28,9 milijuna parametara radi na ESP32-S3
Programer Viačeslav Serbov, poznat pod pseudonimom slvDev, demonstrirao je potpuno lokalnu generaciju teksta na mikrokontroleru ESP32-S3. Njegov je jezik model sadrži 28,9 milijuna parametara i generira oko 9,9 tokena u sekundi, bez oslanjanja na poslužitelj ili druge vanjske računalne resurse. Generirane kratke priče prikazuju se na povezanom OLED ekranu. Projekt esp32-ai testiran je na modulu ESP32-S3 N16R8, koji ima […]
