Google Şirkəti Gemma 2 2B — kompakt, lakin güclü süni intellekt dil modeli (LLM), bu, özünün əhəmiyyətli dərəcədə kiçik ölçüsünə baxmayaraq, sahə liderlərinə rəqib ola bilər. Sadəcə 2,6 milyard parametrdən ibarət olan yeni dil modeli, OpenAI GPT-3.5 və Mistral AI Mixtral 8x7B kimi daha böyük analoqların göstəricilərindən geri qalmır.
LMSYS Chatbot Arena-da, süni intellekt modellərinin müqayisəli test və qiymətləndirilməsinə həsr olunmuş populyar onlayn platformada, Gemma 2 2B 1130 bala sahib oldu. Bu nəticə GPT-3.5-Turbo-0613 (1117 bal) və Mixtral-8x7B (1114 bal) modellərini bir qədər üstələyir — bu modellər isə on dəfədən çox parametra malikdir.
Google bildirir ki, Gemma 2 2B, MMLU (Massive Multitask Language Understanding) testində 56,1 bal, MBPP (Mostly Basic Python Programming) testində isə 36,6 bal əldə edib ki, bu da əvvəlki versiya ilə müqayisədə əhəmiyyətli bir irəliləyişdir.
Gemma 2 2B, daha böyük dil modellərinin kompaktlardan daha yaxşı işlədiyi fikrinə meydan oxuyur. Gemma 2 2B-nin performansı göstərir ki, mürəkkəb öyrənmə metodları, arxitekturadakı səmərəlilik və yüksək keyfiyyətli məlumat dəstləri, parametr sayındakı çatışmazlığı kompensasiya edə bilər. Gemma 2 2B-nin inkişafı, eyni zamanda, AI modellərinin sıkıştırma və distilasyon metodlarının artan əhəmiyyətini vurğulayır. Daha böyük modellərdən məlumatları daha kiçik modellərə effektiv şəkildə kompilyasiya etmə qabiliyyəti, performansdan ödün vermədən daha əlverişli AI alətləri yaratma imkanlarını açır.
Google, Gemma 2 2B-ni 2 trilyon token içərisində olan böyük bir məlumat dəstində öyrədib, TPU v5e özəl AI sürücüləri əsasında sistemlərdən istifadə edir. Çoxsaylı dilləri dəstəkləməsi onun qlobal tətbiqlərdə potensialını artırır. Gemma 2 2B modeli açıq mənbədir. Tədqiqatçılar və inkişaf etdiricilər bu modeli əldə edə bilərlər. . Eyni zamanda, o, müxtəlif çərçivələri, o cümlədən dəstəkləyir. və .
Mənbə:
Mənbə: 3dnews.ru
