Google je najavio objavu Gemme, velikog modela strojnog učenja izgrađenog korištenjem tehnologija korištenih za izgradnju Gemini chatbot modela, koji ima za cilj konkurirati ChatGPT-u. Model je dostupan u četiri varijante, koje pokrivaju 2 i 7 milijardi parametara, u osnovnim i konverzacijski optimiziranim prikazima. Varijante s 2 milijarde parametara prikladne su za upotrebu u potrošačkim aplikacijama i mogu se obraditi pomoću CPU-a. Varijante sa 7 milijardi parametara zahtijevaju snažniji hardver i GPU ili TPU.
Primjene Gemma modela uključuju stvaranje dijaloških sustava i virtualnih asistenata, generiranje teksta, generiranje odgovora na pitanja postavljena prirodnim jezikom, sažimanje i kraće sažimanje sadržaja, objašnjavanje koncepata i pojmova, ispravljanje pogrešaka u tekstu i pomoć pri učenju jezika. Podržava stvaranje različitih vrsta tekstualnih podataka, uključujući poeziju, programski kod, prepisivanje djela i generiranje e-pošte iz predložaka. Štoviše, model je relativno kompaktan, što omogućuje njegovu upotrebu na hardveru s ograničenim resursima, kao što su standardna prijenosna i osobna računala.
Licenca modela dopušta slobodnu upotrebu i distribuciju ne samo u istraživačkim i osobnim projektima, već i u komercijalnim proizvodima. Dopušteno je i stvaranje i objavljivanje modificiranih verzija modela. Međutim, uvjeti korištenja zabranjuju upotrebu modela u zlonamjerne svrhe i zahtijevaju, kad god je to moguće, korištenje najnovije verzije Gemme u vašim proizvodima.
Podrška za Gemma modele već je dodana u Transformers toolkit i Responsible Generative AI Toolkit. Optimizacija modela može se postići korištenjem Keras okvira i pozadinskih sustava za TensorFlow, JAX i PyTorch. Gemma se također može koristiti s MaxText, NVIDIA NeMo i TensorRT-LLM okvirima.
Veličina konteksta koju uzima u obzir Gemma model je 8000 tokena (broj tokena koje model može obraditi i zapamtiti prilikom generiranja teksta). Za usporedbu, veličina konteksta modela Gemini i GPT-4 je 32 000 tokena, a modela GPT-4 Turbo je 128 000. Model podržava samo engleski jezik. Što se tiče performansi, model Gemma-7B je neznatno inferiorniji od modela LLama 2 70B Chat i neznatno ispred modela DeciLM-7B, PHI-2 (2.7B) i Mistral-7B-v0.1. U Googleovoj usporedbi, model Gemma-7B neznatno nadmašuje LLama 2 7B/13B i Mistral-7B.
Izvor: opennet.ru
