Google imechapisha familia mpya ya mifumo mikubwa ya lugha, Gemma 4, kulingana na mfumo wa Gemini 3. Gemma 4 inasambazwa chini ya Leseni ya Apache katika aina tofauti zenye vigezo bilioni 2.3, 4.5, 25.2, na 30.7 (E2B, E4B, 31B, na 26B A4B). Aina za E2B na E4B zinafaa kutumika kwenye vifaa vya mkononi, mifumo ya Internet of Things (IoT), na bodi zinazofanana na Raspberry Pi, huku aina zingine zinafaa kutumika kwenye vituo vya kazi na mifumo yenye GPU za watumiaji. Ukubwa wa muktadha unaozingatiwa na mfumo ni tokeni 128 kwa mifumo ya E2B na E4B, na tokeni 256 kwa mifumo ya 31B na 26B A4B.
Mifumo hii ina lugha nyingi na ina moduli nyingi: lugha 35 zinaungwa mkono kutoka nje ya boksi (zaidi ya lugha 140 zilitumika wakati wa mafunzo), na maandishi na picha zinaweza kusindika kama ingizo (mifumo ya E2B na E4B pia inasaidia usindikaji wa sauti). Mifumo ya 26B A4B inategemea usanifu wa Mchanganyiko wa Wataalamu (MoE), ambapo mfumo umegawanywa katika mfululizo wa mitandao ya wataalamu (uzalishaji wa majibu unaweza kutumia vigezo bilioni 3.8 pekee, lakini kasi ni kubwa zaidi kuliko ile ya mfumo mkubwa wa kawaida), huku aina zingine zikitumia usanifu wa monolithic wa kawaida.
Mifumo hii inasaidia njia za kufikiri na za kujadili zinazoweza kubadilishwa, na inasaidia Jukumu la Mfumo kwa ajili ya usindikaji maagizo (sheria, vikwazo) tofauti na data. Mifumo hii inaweza kutumika kwa kuandika msimbo, kutambua vitu katika picha, uchambuzi wa video wa fremu kwa fremu, kuchanganua hati na PDF, utambuzi wa herufi za macho (OCR) wa maandishi yaliyochapishwa na kuandikwa kwa mkono, utambuzi wa usemi, na tafsiri kati ya lugha. Pia zinaweza kutumika kama mawakala huru wanaoingiliana na zana na API mbalimbali.
Katika majaribio mengi, mifumo ya Gemma 4 ilifanya vyema zaidi kuliko mfumo wa Gemma 3 wenye vigezo bilioni 27. Gemma 4 inasaidia LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM na NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix, na Keras.
Chanzo: opennet.ru
