Compania Google a lansat o nouă familie de modele mari de limbaj Gemma 4, bazate pe tehnologia modelului Gemini 3. Gemma 4 este disponibilă sub licența Apache în variante de 2,3, 4,5, 25,2 și 30,7 miliarde de parametri (E2B, E4B, 31B și 26B A4B). Variantele E2B și E4B sunt potrivite pentru utilizarea pe dispozitive mobile, sisteme de Internet of Things (IoT) și plăci de tip Raspberry Pi, iar celelalte variante sunt adecvate pentru utilizarea pe stații de lucru și sisteme cu GPU-uri consumator. Dimensiunea contextului considerat de model este de 128 de mii de tokeni pentru modelele E2B și E4B și 256 de mii de tokeni pentru modelele 31B și 26B A4B.
Modelele sunt multilingve și multimodale: din cutie, suportă 35 de limbi (la antrenament au fost utilizate peste 140 de limbi), iar la intrare pot procesa text și imagini (modelele E2B și E4B suportă suplimentar procesarea sunetului). Modelul 26B A4B se bazează pe arhitectura MoE (Mixture-of-Experts), în care modelul este împărțit într-o serie de rețele expert (în generarea răspunsului pot fi utilizate doar 3,8 miliarde de parametri, dar viteza este semnificativ mai mare comparativ cu modelele mari clasice), iar celelalte variante utilizează o arhitectură clasică monolitică.
Modelele susțin raționamente și moduri de gândire personalizabile, susțin rolul sistemului (System Role) pentru a procesa instrucțiuni (reguli, restricții) separat de date. Modelele pot fi utilizate pentru scrierea de cod, recunoașterea obiectelor în imagini, analiza video pe cadre, parsing de documente și PDF-uri, recunoaștere optică a textului tipărit și scris (OCR), recunoașterea vorbirii și traducerea între limbi. Este posibil să fie utilizate ca agenți autonomi, interacționând cu diverse instrumente și API-uri.
În majoritatea testelor, modelele din seria Gemma 4 au depășit semnificativ modelul Gemma 3 cu 27 de miliarde de parametri. Se suportă utilizarea Gemma 4 cu instrumentele și bibliotecile LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM și NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix și Keras.
Sursa: opennet.ro
