Google har publicerat en ny familj av stora språkliga modeller Gemma 4, baserade på Gemini 3-modellen. Gemma 4 distribueras under Apache-licens i varianter med 2,3, 4,5, 25,2 och 30,7 miljarder parametrar (E2B, E4B, 31B och 26B A4B). E2B- och E4B-varianterna är lämpliga för användning på mobila enheter, Internet of Things (IoT)-system och Raspberry Pi-kort, medan de andra varianterna är användbara på datorer med konsument-GPU:er. Den modellens kontextstorlek är 128 000 tokens för E2B- och E4B-modellerna, och 256 000 tokens för 31B och 26B A4B-modellerna.
Modellerna är flerspråkiga och multimodala: de stöder 35 språk direkt (mer än 140 språk användes vid träningen), och kan bearbeta text och bilder (E2B- och E4B-modellerna stöder dessutom ljudbearbetning). 26B A4B-modellen bygger på MoE-arkitektur (Mixture-of-Experts), där modellen delas upp i en serie expert-nätverk (vid svarsgenerering kan endast 3,8 miljarder parametrar användas, men hastigheten är avsevärt högre än klassiska stora modeller), medan övriga varianter använder en klassisk monolitisk arkitektur.
Modellerna stöder resonemang och anpassningsbara tankesätt, och de har en systemroll (System Role) för att bearbeta instruktioner (regler, begränsningar) separat från data. Modellerna kan användas för att skriva kod, känna igen objekt på bilder, göra frame-by-frame analys av video, bearbeta dokument och PDF-filer, utföra optisk teckenigenkänning (OCR) för tryckt och handskriven text, känna igen tal och översätta mellan språk. Det är möjligt att använda dem som autonoma agenter som interagerar med olika verktyg och API:er.
I de flesta tester överträffade modellerna i Gemma 4-serien modellen Gemma 3 med 27 miljarder parametrar avsevärt. Det stöds användning av Gemma 4 med verktyg och bibliotek som LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM och NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix och Keras.
Källa: opennet.ru
