A Google vállalat A Gemma 2 2B egy kompakt, de erőteljes mesterséges intelligencia (LLM) nyelvi modell, amely a jelentős méretével szemben is versenyképes az iparág vezetőivel. Az új nyelvi modell, amely mindössze 2,6 milliárd paramétert tartalmaz, olyan teljesítményt nyújt, mint sokkal nagyobb megfelelői, beleértve az OpenAI GPT-3.5-öt és a Mistral AI Mixtral 8x7B-t.
Az LMSYS Chatbot Arena tesztjén, amely egy népszerű online platform az AI modellek teljesítményének összehasonlítására és értékelésére, a Gemma 2 2B 1130 pontot ért el. Ez az eredmény kissé felülmúlja a GPT-3.5-Turbo-0613 (1117 pont) és a Mixtral-8x7B (1114 pont) eredményeit, amelyek tízszer annyi paraméterrel rendelkeznek.
A Google tájékoztatása szerint a Gemma 2 2B szintén 56,1 pontot ért el az MMLU (Massive Multitask Language Understanding) teszten, és 36,6 pontot a MBPP (Mostly Basic Python Programming) teszten, ami jelentős javulást mutat a korábbi verzióhoz képest.
A Gemma 2 2B megkérdőjelezi azt a széles körben elterjedt véleményt, hogy a nagyobb nyelvi modellek kezdetben jobban teljesítenek, mint a kompaktak. A Gemma 2 2B teljesítménye azt mutatja, hogy a bonyolult tanulási módszerek, az architektúra hatékonysága és a magas minőségű adathalmozók kompenzálhatják a paraméterek számának hiányát. A Gemma 2 2B fejlesztése hangsúlyozza a mesterséges intelligencia modellek tömörítésére és desztillálására kidolgozott módszerek növekvő fontosságát is. A nagyobb modellekből a kisebbekbe történő információhatékony átírás lehetősége hozzáférhetőbb AI eszközök létrehozásának lehetőségét nyújtja anélkül, hogy feláldoznák a teljesítményüket.
A Google a Gemma 2 2B-t 2 billió tokenből álló hatalmas adathalmazon képezte, saját TPU v5e AI gyorsítókra épülő rendszerek felhasználásával. A többnyelvű támogatás szélesíti globális alkalmazásokhoz való felhasználását. A Gemma 2 2B nyílt forráskódú modell. A kutatók és fejlesztők hozzáférhetnek a modellekhez a következő platformon . Továbbá, különböző keretrendszereket is támogat, beleértve a és .
Forrás:
Forrás: 3dnews.ru
