Google пусна отворена AI-модел Gemma 4, изградена на технологии Gemini 3

Компания Google публикува ново семейство големи езикови модели Gemma 4, базирани на технологиите на модела Gemini 3. Gemma 4 се разпространява под лицензия Apache в варианти с 2.3, 4.5, 25.2 и 30.7 милиарда параметри (E2B, E4B, 31B и 26B A4B). Вариантите E2B и E4B са подходящи за използване на мобилни устройства, системи за интернет на нещата (IoT) и платки тип Raspberry Pi, докато останалите варианти са подходящи за приложение на работни станции и системи с потребителски GPU. Размерът на контекста, който моделът взима предвид, е 128 хиляди токена за моделите E2B и E4B, и 256 хиляди токена за моделите 31B и 26B A4B.

Многоезични и мултимодални модели: в кутията се поддържат 35 езика (повече от 140 езика са използвани за обучението), а на входа могат да се обработват текст и изображения (моделите E2B и E4B допълнително поддържат обработка на звук). Моделът 26B A4B е основан на архитектурата MoE (Mixture-of-Experts), при която моделът е разделен на серия експертни мрежи (по време на генериране на отговори могат да се използват само 3.8 млрд параметри, но скоростта е значително по-висока от класическите големи модели), докато останалите варианти използват класическа монолитна архитектура.

Моделите поддържат разсъждения и настраиваеми режими на мислене, поддържат системна роля (System Role) за обработка на инструкции (правила, ограничения) отделно от данните. Моделите могат да се използват за писане на код, разпознаване на обекти в изображения, кадърно анализиране на видео, анализ на документи и PDF, оптично разпознаване на печатен и ръкописен текст (OCR), разпознаване на реч и превод между езици. Възможно е използването им като автономни агенти, взаимодействащи с различни инструменти и API.

В повечето тестове моделите от серията Gemma 4 значително надхвърлят модела Gemma 3 с 27 милиарда параметри. Поддържа се използването на Gemma 4 с инструментите и библиотеките LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM и NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix и Keras.

Източник: opennet.ru