A 28,9 millió paraméterrel rendelkező nyelvi modell működésbe lépett az ESP32-S3-on
A fejlesztő, Vjacseszlav Serbov, aki slvDev álnéven tevékenykedik, bemutatta az ESP32-S3 mikrovezérlőn történő teljesen helyi szöveggenerálást. Az általa létrehozott nyelvi modell 28,9 millió paramétert tartalmaz és körülbelül 9,9 tokent generál másodpercenként, anélkül hogy kapcsolatba lépne szerverrel vagy más külső számítási erőforrással. A generált rövid történetek egy csatlakoztatott OLED-képernyőre kerülnek. A projekt az ESP32-S3 N16R8 modulon lett tesztelve, amely […]
