Kompania Google Gemma 2 2B â njĂ« model i hapur gjuhĂ«sor inteligjence artificiale (LLM), i cili Ă«shtĂ« kompakt, por me fuqishĂ«m, dhe mund t'i rivalizojĂ« liderĂ«t e industrisĂ«, pĂ«rkundĂ«r sizĂ«s sĂ« saj shumĂ« mĂ« tĂ« vogĂ«l. Ky model gjuhĂ«sor, me vetĂ«m 2.6 miliard parametra, tregon performancĂ« tĂ« ngjashme me shumĂ« mĂ« tĂ« mĂ«dhenj, pĂ«rfshirĂ« OpenAI GPT-3.5 dhe Mistral AI Mixtral 8x7B.
NĂ« testin LMSYS Chatbot Arena, njĂ« platformĂ« online e njohur pĂ«r testimin dhe vlerĂ«simin e modeleve tĂ« inteligjencĂ«s artificiale, Gemma 2 2B arriti 1130 pikĂ«. Ky rezultat Ă«shtĂ« paksa mĂ« i lartĂ« se ai i GPT-3.5-Turbo-0613 (1117 pikĂ«) dhe Mixtral-8x7B (1114 pikĂ«) â modele qĂ« kanĂ« dhjetĂ« herĂ« mĂ« shumĂ« parametra.
Google njofton se Gemma 2 2B gjithashtu arriti 56.1 pikë në testin MMLU (Massive Multitask Language Understanding) dhe 36.6 pikë në testin MBPP (Mostly Basic Python Programming), duke shënuar një përmirësim të dukshëm në krahasim me versionin paraardhës.
Gemma 2 2B sfidon mendimin e zakonshëm që modelet më të mëdha punojnë më mirë në fillim se ato kompakte. Performanca e Gemma 2 2B tregon se metodat komplekse të mësimit, efikasiteti i arkitekturës dhe setet e dhënash të cilësisë së lartë mund të kompensojnë mungesën e numrit të parametrave. Zhvillimi i Gemma 2 2B gjithashtu thekson rëndësinë në rritje të metodave të kompresimit dhe distilimit të modeleve të AI. Mundësia për të përmbledhur informacionin nga modelet më të mëdha në ato më të vogla hap mundësi për krijimin e mjeteve të inteligjencës artificiale më të arritshme, pa sakrifikuar performancën e tyre.
Google e ka trajnuar Gemma 2 2B në një set të madh të dhënash prej 2 trilion tokenesh, duke përdorur sisteme të bazuara në akseleratorët e saj TPU v5e. Mbështetja për disa gjuhë zgjeron mundësitë e saj për përdorim në aplikacione globale. Modeli Gemma 2 2B ka burim të hapur. Hulumtuesit dhe zhvilluesit mund të kenë qasje në modelin përmes platformës . Ai gjithashtu mbështet korniza të ndryshme, duke përfshirë dhe .
Burimi:
Burimi: 3dnews.ru
