Tvrtka Google objavila je novu obitelj velikih jezičnih modela Gemma 4, temeljenih na tehnologijama modela Gemini 3. Gemma 4 dostupna je pod Apache licencom u varijantama sa 2.3, 4.5, 25.2 i 30.7 milijardi parametara (E2B, E4B, 31B i 26B A4B). Varijante E2B i E4B prikladne su za korištenje na mobilnim uređajima, sustavima interneta stvari (IoT) i pločama kao što su Raspberry Pi, dok su ostale varijante prikladne za primjenu na radnim stanicama i sustavima s potrošačkim GPU-ima. Veličina modela kontekstualnog uzorka iznosi 128 tisuća tokena za modele E2B i E4B, te 256 tisuća tokena za modele 31B i 26B A4B.
Modeli su višejezični i multimodalni: izravno podržavaju 35 jezika (više od 140 jezika korišteno je za obuku), a ulaz može obraditi tekst i slike (modeli E2B i E4B dodatno podržavaju obradu zvuka). Model 26B A4B temelji se na MoE arhitekturi (Mixture-of-Experts), gdje je model podijeljen u niz stručnih mreža (prilikom generiranja odgovora može se koristiti samo 3.8 milijardi parametara, no brzina je znatno veća od klasičnih velikih modela), dok ostale varijante koriste klasičnu monolitnu arhitekturu.
Modeli podržavaju razmišljanja i prilagodljive načine razmišljanja, podržavaju sustavsku ulogu (System Role) za obradu instrukcija (pravila, ograničenja) odvojeno od podataka. Modeli se mogu koristiti za pisanje koda, prepoznavanje objekata na slikama, analizu videa u kadrovima, obrada dokumenata i PDF-a, optičko prepoznavanje tiskanog i rukopisnog teksta (OCR), prepoznavanje govora i prijevod između jezika. Moguće je korištenje kao autonomnih agenata koji komuniciraju s različitim alatima i API-jem.
U većini testova modeli serije Gemma 4 značajno su nadmašili model Gemma 3 s 27 milijardi parametara. Podržano je korištenje Gemma 4 s alatima i bibliotekama kao što su LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM i NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix i Keras.
Izvor: opennet.ru
