Google откри модела Gemma AI, базиран на технологии, общи за чатбота Gemini

Google обяви публикуването на Gemma, голям езиков модел за машинно обучение, изграден с помощта на технологии, използвани за изграждане на модела на чатбот Gemini, който се опитва да се конкурира с ChatGPT. Моделът се предлага в четири варианта, покриващи 2 и 7 милиарда параметри, в основен и диалогово оптимизиран изглед. Опциите с 2 милиарда параметри са подходящи за използване в потребителски приложения и имат достатъчно CPU, за да ги обработват. Опциите със 7 милиарда параметри изискват по-мощен хардуер и GPU или TPU.

Сред областите на приложение на модела Gemma са създаване на диалогови системи и виртуални асистенти, генериране на текст, генериране на отговори на въпроси, зададени на естествен език, резюме и обобщение на съдържанието, обяснение на същността на понятията и термините, коригиране на грешки в текста помощ при изучаване на езици. Той поддържа създаването на различни типове текстови данни, включително поезия, код на езици за програмиране, пренаписване на произведения с други думи и генериране на писма с помощта на шаблон. В същото време моделът има относително малък размер, което му позволява да се използва на вашето собствено оборудване с ограничени ресурси, например на обикновени лаптопи и компютри.

Моделът на лиценза позволява безплатно използване и разпространение не само в изследователски и лични проекти, но и в търговски продукти. Разрешено е също създаването и публикуването на модифицирани версии на модела. В същото време условията за ползване забраняват използването на модела за извършване на злонамерени действия и изискват, когато е възможно, да използвате най-новата версия на Gemma във вашите продукти.

Поддръжката за работа с Gemma модели вече е добавена към Transformers toolkit и Responsible Generative AI Toolkit. За да оптимизирате модела, можете да използвате Keras framework и backend за TensorFlow, JAX и PyTorch. Също така е възможно да се използва Gemma с рамките MaxText, NVIDIA NeMo и TensorRT-LLM.

Размерът на контекста, взет предвид от модела Gemma, е 8 хиляди токена (броят токени, които моделът може да обработи и запомни при генериране на текст). За сравнение, размерът на контекста за моделите Gemini и GPT-4 е 32 хиляди токена, а за модела GPT-4 Turbo е 128 хиляди. Моделът поддържа само английски език. По отношение на производителността моделът Gemma-7B е малко по-нисък от модела LLama 2 70B Chat и малко по-напред от моделите DeciLM-7B, PHI-2 (2.7B) и Mistral-7B-v0.1. В сравнението на Google моделът Gemma-7B е малко по-напред от LLama 2 7B/13B и Mistral-7B.

Източник: opennet.ru