Google ha pubblicato una nuova famiglia di grandi modelli linguistici Gemma 4, basati sulla tecnologia del modello Gemini 3. Gemma 4 è distribuito con licenza Apache nelle versioni con 2,3, 4,5, 25,2 e 30,7 miliardi di parametri (E2B, E4B, 31B e 26B A4B). Le versioni E2B e E4B sono adatte per l'uso su dispositivi mobili, sistemi di Internet delle Cose (IoT) e schede tipo Raspberry Pi, mentre le altre versioni sono idonee per l'uso su workstation e sistemi con GPU consumer. La dimensione del contesto considerato dal modello è di 128 mila token per i modelli E2B e E4B e 256 mila token per i modelli 31B e 26B A4B.
I modelli sono multilingue e multimodali: supportano nativamente 35 lingue (durante l'addestramento sono state utilizzate più di 140 lingue), e possono elaborare testo e immagini (i modelli E2B e E4B supportano anche l'elaborazione del suono). Il modello 26B A4B si basa sull'architettura MoE (Mixture-of-Experts), in cui il modello è suddiviso in una serie di reti esperte (nella generazione della risposta possono essere utilizzati solo 3,8 miliardi di parametri, ma la velocità è notevolmente superiore a quella dei classici grandi modelli), mentre le altre versioni utilizzano un'architettura monolitica classica.
I modelli supportano il ragionamento e modalità di pensiero configurabili, supportano il ruolo di sistema (System Role) per l'elaborazione delle istruzioni (regole, vincoli) separatamente dai dati. I modelli possono essere utilizzati per scrivere codice, riconoscere oggetti nelle immagini, analizzare video fotogramma per fotogramma, elaborare documenti e PDF, riconoscimento ottico di caratteri stampati e manoscritti (OCR), riconoscimento vocale e traduzione tra lingue. È possibile utilizzarli come agenti autonomi, interagenti con vari strumenti e API.
Nella maggior parte dei test, i modelli della serie Gemma 4 hanno superato di gran lunga il modello Gemma 3 con 27 miliardi di parametri. È supportato l'uso di Gemma 4 con strumenti e librerie come LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM e NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix e Keras.
Fonte: opennet.ru
