Google откри AI-модел Gemma, базиран на технологии, общи с чат-бота Gemini

Компания Google обяви за публикуването на голям езиков модел за машинно обучение Gemma, създаден с помощта на технологии, използвани за изграждането на модела на чатбота Gemini, който се опитва да конкурира ChatGPT. Моделът е наличен в четири варианта, обхващащи 2 и 7 милиарда параметри, в основен и оптимизиран за диалогови системи версии. Вариантите с 2 милиарда параметри са подходящи за употреба в потребителски приложения и тяхната обработка е достатъчна с CPU. Вариантите с 7 милиарда параметри изискват по-мощно оборудване и наличие на GPU или TPU.

Сред области на приложение на модела Gemma са създаването на диалогови системи и виртуални асистенти, генерация на текст, формулиране на отговори на зададени на естествен език въпроси, резюмиране и обобщаване на съдържание, обяснение на същността на концепции и термини, коригиране на грешки в текста, помощ при изучаване на езици. Поддържа се създаването на различни видове текстови данни, включително стихотворения, код на програмиращи езици, преработка на произведения с други думи, формулиране на писма по шаблон. В същото време моделът има относително малък размер, позволяващ употребата му на собственото оборудване с ограничени ресурси, например, на обикновени лаптопи и настолни компютри.

Лицензът на модела позволява безплатно използване и разпространение не само в изследователски и лични проекти, но и в търговски продукти. Също така е разрешено създаването и публикуването на модифицирани версии на модела. При това условията за употреба забраняват използването на модела за извършване на вредни действия и предписват, ако е възможно, да се използва най-новата версия на Gemma в собствените продукти.

Поддръжката на работа с моделите Gemma вече е добавена в инструментариума Transformers и в Responsible Generative AI Toolkit. За оптимизация на модела може да се използва фреймуъркът Keras и бекендове за TensorFlow, JAX и PyTorch. Осигурена е и възможността за използване на Gemma с фреймуърците MaxText, NVIDIA NeMo и TensorRT-LLM.

Размер учитываемого моделью Gemma контекста составляет 8 тысяч токенов (число токенов, которые модель может обработать и запомнить при генерации текста). Для сравнения размер контекста у моделей Gemini и GPT-4 составляет 32 тысячи токенов, а у модели GPT-4 Turbo — 128 тысяч. Моделью поддерживается только английский язык. По производительности модель Gemma-7B немного уступает модели LLama 2 70B Chat и немного опережает модели DeciLM-7B, PHI-2 (2.7B) и Mistral-7B-v0.1. В сравнении Google модель Gemma-7B немного опережает LLama 2 7B/13B и Mistral-7B.

Източник: opennet.ru