Google'i ettevĂ”te Gemma 2 2B â kompaktne, kuid vĂ”imas tehisintellekti keelemudel (LLM), mis suudab silma paista tööstuse juhtidega, hoolimata oma oluliselt vĂ€iksemast suurusest. Uus keelemudel, mis sisaldab vaid 2,6 miljardit parameetrit, nĂ€itab jĂ”udlust, mis ei jÀÀ alla palju suurematele analoogidele, sealhulgas OpenAI GPT-3.5 ja Mistral AI Mixtral 8x7B.
LMSYS Chatbot Arena testis, populaarne veebiplatvorm tehisintellekti mudelite vĂ”rdlemiseks ja kvaliteedi hindamiseks, saavutas Gemma 2 2B 1130 punkti. See tulemus on veidi parem kui GPT-3.5-Turbo-0613 (1117 punkti) ja Mixtral-8x7B (1114 punkti) â mudelid, millel on kĂŒmme korda rohkem parameetreid.
Google teatab, et Gemma 2 2B saavutas samuti 56,1 punkti MMLU (Massive Multitask Language Understanding) testis ja 36,6 punkti MBPP (Mostly Basic Python Programming) testis, mis on mÀrk mÀrkimisvÀÀrsest tÀiustamisest vÔrreldes eelneva versiooniga.
Gemma 2 2B seab kahtluse alla levinud arvamuse, et suuremad keelemudelid töötavad algselt paremini kui kompaktsed. Gemma 2 2B jÔudlus nÀitab, et keerukad Ôpimeetodid, arhitektuuri efektiivsus ja kvaliteetsed andmestikud vÔivad kompenseerida parameetrite arvu puudujÀÀki. Gemma 2 2B arendamine rÔhutab ka mudelite AI kokkusurumise ja destilleerimise meetodite kasvavat tÀhtsust. VÔime tÔhusalt koondada teavet suurematest mudelitest vÀiksematesse avab vÔimalusi luua kergesti ligipÀÀsetavamaid AI tööriistu ilma jÔudlust ohverdamata.
Google koolitas Gemma 2 2B tohutu 2 triljoni tokeni andmestiku abil, kasutades oma patenteeritud AI kiipide TPU v5e sĂŒsteeme. Mitme keele tugi laiendab tema potentsiaali globaalsetes rakendustes. Model Gemma 2 2B on avatud lĂ€htekoodiga. Uurijad ja arendajad saavad mudelile juurde pÀÀseda platvormi kaudu . Ta toetab ka erinevaid raamistikke, sealhulgas ja .
Allikas:
Allikas: 3dnews.ru
