Google Gemini 3 моделине негизделген Gemma 4 аттуу ири масштабдуу тил моделдеринин жаңы үй-бүлөсүн жарыялады. Gemma 4 Apache лицензиясы боюнча 2.3, 4.5, 25.2 жана 30.7 миллиард параметрлери бар варианттарда (E2B, E4B, 31B жана 26B A4B) таратылат. E2B жана E4B варианттары мобилдик түзмөктөрдө, Internet of Things (IoT) системаларында жана Raspberry Pi сыяктуу платаларда колдонууга ылайыктуу, ал эми башка варианттар жумушчу станцияларда жана керектөөчүлөрдүн GPU'лары бар системаларда колдонууга ылайыктуу. Модель тарабынан каралган контексттик өлчөм E2B жана E4B моделдери үчүн 128 000 токенди, ал эми 31B жана 26B A4B моделдери үчүн 256 000 токенди түзөт.
Моделдер көп тилдүү жана көп модалдуу: 35 тил дароо колдоого алынат (окутуу учурунда 140тан ашык тил колдонулган), ал эми текст жана сүрөттөр киргизүү катары иштетилиши мүмкүн (E2B жана E4B моделдери кошумча түрдө аудио иштетүүнү колдойт). 26B A4B модели Mixture-of-Experts (MoE) архитектурасына негизделген, анда модель бир катар эксперттик тармактарга бөлүнгөн (жоопторду түзүү 3.8 миллиард параметрди гана колдоно алат, бирок ылдамдыгы классикалык чоң моделдерге караганда бир топ жогору), ал эми башка варианттар классикалык монолиттик архитектураны колдонушат.
Моделдер ой жүгүртүүнү жана ыңгайлаштырылуучу талкуулоо режимдерин колдойт жана көрсөтмөлөрдү (эрежелерди, чектөөлөрдү) маалыматтардан өзүнчө иштетүү үчүн Системалык ролду колдойт. Моделдер код жазуу, сүрөттөрдөгү объекттерди таануу, кадр боюнча видео талдоо, документтерди жана PDF файлдарын талдоо, басылган жана кол менен жазылган тексттерди оптикалык символдорду таануу (OCR), сөздү таануу жана тилдердин ортосунда которуу үчүн колдонулушу мүмкүн. Аларды ошондой эле ар кандай куралдар жана APIлер менен өз ара аракеттенүүчү автономдуу агенттер катары колдонсо болот.
Көпчүлүк сыноолордо Gemma 4 моделдери 27 миллиард параметрлүү Gemma 3 моделинен бир топ ашып түштү. Gemma 4 LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM жана NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix жана Keras программаларын колдойт.
Source: opennet.ru
