Společnost Google zveřejnila novou rodinu velkých jazykových modelů Gemma 4, založenou na technologiích modelu Gemini 3. Gemma 4 je distribuována pod licencí Apache ve variantách s 2,3, 4,5, 25,2 a 30,7 miliardami parametrů (E2B, E4B, 31B a 26B A4B). Varianty E2B a E4B jsou vhodné pro používání na mobilních zařízeních, systémech internetu věcí (IoT) a deskách typu Raspberry Pi, zatímco ostatní varianty jsou určeny pro aplikace na pracovní stanice a systémy s spotřebitelskými GPU. Velikost kontextu, který model zohledňuje, je 128 tisíc tokenů pro modely E2B a E4B a 256 tisíc tokenů pro modely 31B a 26B A4B.
Modely jsou vícejazyčné a multimodální: z krabice podporují 35 jazyků (při trénování bylo použito více než 140 jazyků), a na vstupu mohou zpracovávat text a obrázky (modely E2B a E4B navíc podporují zpracování zvuku). Model 26B A4B je postaven na architektuře MoE (Mixture-of-Experts), kdy je model rozdělen na sérii expertních sítí (při generování odpovědi může být použito pouze 3,8 miliardy parametrů, avšak rychlost je výrazně vyšší než u klasických velkých modelů), zatímco ostatní varianty používají klasickou monolitickou architekturu.
Modely podporují uvažování a přizpůsobitelné režimy myšlení, podporují systémovou roli (System Role) pro zpracování instrukcí (pravidel, omezení) odděleně od dat. Modely mohou být použity k psaní kódu, rozpoznávání objektů na obrázcích, snímkování videa, analyzování dokumentů a PDF, optickému rozpoznávání tištěného a psaného textu (OCR), rozpoznávání řeči a překladu mezi jazyky. Mohou být použity jako autonomní agenti, kteří interagují s různými nástroji a API.
Ve většině testů modely série Gemma 4 významně překonaly model Gemma 3 s 27 miliardami parametrů. Podporováno je používání Gemma 4 s nástroji a knihovnami LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM a NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix a Keras.
Zdroj: opennet.ru
