Google представи AI модела Gemma, основан на технологии, общи с чат-бота Gemini

Компания Google обяви за публикуването на голям езиков модел за машинно обучение Gemma, построен с използване на технологии, приложени за изграждане на модела чат-бот Gemini, който се опитва да конкурира с ChatGPT. Моделът е наличен в четири варианта, обхващащи 2 и 7 милиарда параметри, в основен и оптимизиран за диалогови системи представяния. Вариантите с 2 милиарда параметри са подходящи за използване в потребителски приложения и за тяхната обработка е достатъчен CPU. Вариантите с 7 милиарда параметри изискват по-мощно оборудване и наличие на GPU или TPU.

Сред областите на приложение на модела Gemma се наричат създаване на диалогови системи и виртуални асистенти, генериране на текст, формулиране на отговори на въпроси, зададени на естествен език, кратко изложение и обобщение на съдържанието, обясняване на същността на концепции и термини, коригиране на грешки в текста, помощ в изучаването на езици. Поддържа се създаването на различни видове текстови данни, включително стихотворения, код на програмни езици, преработка на произведения с други думи, формулиране на писма по шаблон. В този процес моделът има относително малък размер, което позволява да се използва на собствено оборудване с ограничени ресурси, например, на обикновени лаптопи и компютри.

Лицензът за модела разрешава безплатно използване и разпространение не само в изследователски и персонални проекти, но и в търговски продукти. Също така е разрешено създаването и публикуването на изменени варианти на модела. При това условията за ползване забраняват използването на модела за извършване на злонамерени действия и предписват, когато е възможно, да се използва в своите продукти най-свежата версия на Gemma.

Поддръжката на работа с моделите Gemma вече е добавена в инструментария Transformers и в Responsible Generative AI Toolkit. За оптимизация на модела може да се използва фреймворкът Keras и бекенди за TensorFlow, JAX и PyTorch. Осигурена е възможност за използване на Gemma с фреймворковете MaxText, NVIDIA NeMo и TensorRT-LLM.

Размерът на контекста, който моделът Gemma взема предвид, е 8 хиляди токена (броят токени, които моделът може да обработи и запомни при генерирането на текст). За сравнение, размерът на контекста при моделите Gemini и GPT-4 е 32 хиляди токена, а при модела GPT-4 Turbo — 128 хиляди. Моделът поддържа само английски език. По производителност моделът Gemma-7B леко изостава от модела LLama 2 70B Chat и леко изпреварва моделите DeciLM-7B, PHI-2 (2.7B) и Mistral-7B-v0.1. В сравнение Google моделът Gemma-7B леко изпреварва LLama 2 7B/13B и Mistral-7B.

Източник: opennet.ru