🥇Google пусна модела с изкуствен интелект с отворен код Gemma 4, изграден върху технологиите на Gemini 3

Google публикува ново семейство от широкомащабни езикови модели, Gemma 4, базирани на модела Gemini 3. Gemma 4 се разпространява под лиценза Apache във варианти с 2.3, 4.5, 25.2 и 30.7 милиарда параметъра (E2B, E4B, 31B и 26B A4B). Вариантите E2B и E4B са подходящи за използване на мобилни устройства, системи от Интернет на нещата (IoT) и платки, подобни на Raspberry Pi, докато останалите варианти са подходящи за използване на работни станции и системи с потребителски графични процесори. Размерът на контекста, разглеждан от модела, е 128 000 токена за моделите E2B и E4B и 256 000 токена за моделите 31B и 26B A4B.

Моделите са многоезични и мултимодални: 35 езика се поддържат „от кутията“ (над 140 езика са използвани по време на обучението), а текст и изображения могат да се обработват като вход (моделите E2B и E4B допълнително поддържат обработка на аудио). Моделът 26B A4B е базиран на архитектурата Mixture-of-Experts (MoE), в която моделът е разделен на серия от експертни мрежи (генерирането на отговори може да използва само 3.8 милиарда параметъра, но скоростта е значително по-висока от тази на класическите големи модели), докато другите варианти използват класическа монолитна архитектура.

Моделите поддържат режими на разсъждение и персонализиране на обсъждането, както и системна роля за обработка на инструкции (правила, ограничения) отделно от данните. Моделите могат да се използват за писане на код, разпознаване на обекти в изображения, анализ на видео кадър по кадър, синтактичен анализ на документи и PDF файлове, оптично разпознаване на символи (OCR) на печатен и ръкописен текст, разпознаване на реч и превод между езици. Те могат да се използват и като автономни агенти, взаимодействащи с различни инструменти и API.

В повечето тестове, моделите Gemma 4 значително превъзхождаха модела Gemma 3 с 27 милиарда параметъра. Gemma 4 поддържа LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM и NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix и Keras.