Google imetangaza kuchapishwa kwa Gemma, muundo mkubwa wa lugha ya mashine ya kujifunzia uliojengwa kwa kutumia teknolojia zinazotumiwa kuunda muundo wa gumzo wa Gemini, ambao unajaribu kushindana na ChatGPT. Muundo huo unapatikana katika vibadala vinne, vinavyojumuisha vigezo bilioni 2 na 7, katika maoni ya kimsingi na yaliyoboreshwa kwenye mazungumzo. Chaguo zilizo na vigezo bilioni 2 zinafaa kwa matumizi katika programu za watumiaji na zina CPU ya kutosha kuzichakata. Chaguo zilizo na vigezo bilioni 7 zinahitaji maunzi yenye nguvu zaidi na GPU au TPU.
Miongoni mwa maeneo ya matumizi ya mfano wa Gemma ni uundaji wa mifumo ya mazungumzo na wasaidizi wa kawaida, kizazi cha maandishi, kizazi cha majibu ya maswali yaliyoulizwa kwa lugha ya asili, muhtasari na jumla ya yaliyomo, maelezo ya kiini cha dhana na masharti, urekebishaji wa makosa. katika maandishi, usaidizi katika kujifunza lugha. Inasaidia uundaji wa aina mbalimbali za data ya maandishi, ikiwa ni pamoja na mashairi, msimbo katika lugha za programu, kuandika upya kazi kwa maneno mengine, na kuzalisha barua kwa kutumia kiolezo. Kwa kuongeza, mfano huo una ukubwa mdogo, unaoruhusu kutumika kwenye vifaa vyako mwenyewe na rasilimali ndogo, kwa mfano, kwenye kompyuta za kawaida na PC.
Leseni ya mfano inaruhusu matumizi ya bure na usambazaji sio tu katika utafiti na miradi ya kibinafsi, lakini pia katika bidhaa za kibiashara. Uundaji na uchapishaji wa matoleo yaliyobadilishwa ya mfano pia inaruhusiwa. Wakati huo huo, sheria na masharti ya matumizi yanakataza matumizi ya modeli kufanya vitendo hasidi na kuhitaji, wakati wowote inapowezekana, kutumia toleo la hivi karibuni la Gemma katika bidhaa zako.
Usaidizi wa kufanya kazi na miundo ya Gemma tayari umeongezwa kwenye zana ya zana za Transfoma na Zana ya AI ya Kuzalisha Responsible Generative. Ili kuboresha modeli, unaweza kutumia mfumo wa Keras na viambajengo vya nyuma vya TensorFlow, JAX na PyTorch. Inawezekana pia kutumia Gemma na mifumo ya MaxText, NVIDIA NeMo na TensorRT-LLM.
Ukubwa wa muktadha unaozingatiwa na mfano wa Gemma ni ishara elfu 8 (idadi ya ishara ambazo mtindo unaweza kusindika na kukumbuka wakati wa kutengeneza maandishi). Kwa kulinganisha, ukubwa wa muktadha wa mifano ya Gemini na GPT-4 ni ishara elfu 32, na kwa mfano wa GPT-4 Turbo ni 128. Mfano huo unaauni Kiingereza pekee. Kwa upande wa utendakazi, modeli ya Gemma-7B ni duni kidogo kwa modeli ya LLama 2 70B Chat na mbele kidogo ya mifano ya DeciLM-7B, PHI-2 (2.7B) na Mistral-7B-v0.1. Katika ulinganisho wa Google, mfano wa Gemma-7B uko mbele kidogo ya Llama 2 7B/13B na Mistral-7B.
Chanzo: opennet.ru
