Google Gemma 2 2B — kompaktne, kuid võimekas tehisintellekti keeltemudel (LLM), mis suudab konkureerida valdkonna liidritega, vaatamata oma oluliselt väiksemale suurusele. Uus keelemudel, mis sisaldab vaid 2,6 miljardit parameetrit, näitab tulemuslikkust, mis ei jää alla palju suurematele, sealhulgas OpenAI GPT-3.5 ja Mistral AI Mixtral 8x7B.
LMSYS Chatbot Arenas, populaarses veebiplatvormis tehisintellekti mudelite võrdlemiseks ja hindamiseks, saavutas Gemma 2 2B 1130 punkti. See tulemus ületab veidi GPT-3.5-Turbo-0613 (1117 punkti) ja Mixtral-8x7B (1114 punkti) tulemusi – mudelid, millel on kümme korda rohkem parameetreid.
Google teatab, et Gemma 2 2B saavutas ka 56,1 punkti MMLU (Massive Multitask Language Understanding) testis ja 36,6 punkti MBPP (Mostly Basic Python Programming) testis, mis on märkimisväärne edusamm võrreldes eelmine versiooniga.
Gemma 2 2B seab kahtluse alla levinud arvamuse, et suuremad keelemudelid töötavad algselt paremini kui kompaktsemad. Gemma 2 2B tulemuslikkus näitab, et keerulised õppimismeetodid, arhitektuuri efektiivsus ja kvaliteetsed andmekogud võivad kompenseerida parameetrite arvu puudujääki. Gemma 2 2B arendus rõhutab ka mudelite AI kokkusurumise ja destilleerimise meetodite kasvavat tähtsust. Võime tõhusalt koondada teavet suurematest mudelitest väiksematesse avab võimalusi rohkema juurdepääsetavuse tagamiseks AI tööriistade loomisel, ilma et ohverdaks nende tulemuslikkust.
Google koolitas Gemma 2 2B suurel andmekogumil, mis koosneb 2 triljonist tokenist, kasutades oma patenteeritud AI-kiirendite TPU v5e süsteeme. Mitmekeelsuse tugi laiendab selle potentsiaali rakendamiseks ülemaailmsetes projektides. Mudel Gemma 2 2B on avatud lähtekoodiga. Uurijad ja arendajad saavad mudelile ligipääsu platvormi kaudu . See toetab ka erinevaid raamistikke, sealhulgas ja .
Allikas:
Allikas: 3dnews.ru
