Google Gemma 2 2B – ein kompaktes, aber leistungsstarkes KI-Sprachmodell (LLM), das den Branchenführern Konkurrenz machen kann, obwohl es wesentlich kleiner ist. Das neue Sprachmodell mit nur 2,6 Milliarden Parametern zeigt eine Leistung, die mit der deutlich größerer Modelle wie OpenAI GPT-3.5 und Mistral AI Mixtral 8x7B vergleichbar ist.
Im LMSYS Chatbot Arena-Test, einer beliebten Online-Plattform für den Vergleich und die Bewertung von KI-Modellen, erzielte Gemma 2 2B 1130 Punkte. Dieses Ergebnis übertrifft leicht die Ergebnisse von GPT-3.5-Turbo-0613 (1117 Punkte) und Mixtral-8x7B (1114 Punkte) – Modelle mit zehnmal so vielen Parametern.
Google berichtet, dass Gemma 2 2B ebenfalls 56,1 Punkte im MMLU-Test (Massive Multitask Language Understanding) und 36,6 Punkte im MBPP-Test (Mostly Basic Python Programming) erzielt hat, was eine erhebliche Verbesserung im Vergleich zur vorherigen Version darstellt.
Gemma 2 2B stellt die weit verbreitete Annahme in Frage, dass größere Sprachmodelle von vornherein besser funktionieren als kompakte. Die Leistung von Gemma 2 2B zeigt, dass komplexe Lernmethoden, die Effizienz der Architektur und hochwertige Datensätze die Anzahl der Parameter ausgleichen können. Die Entwicklung von Gemma 2 2B hebt auch die wachsende Bedeutung von Komprimierungs- und Destillationsmethoden für KI-Modelle hervor. Die Fähigkeit, Informationen aus größeren Modellen effizient in kleinere zu kompilieren, eröffnet Möglichkeiten zur Schaffung zugänglicherer KI-Tools, ohne dabei deren Leistung zu opfern.
Google hat Gemma 2 2B auf einem riesigen Datensatz von 2 Billionen Tokens trainiert, unter Verwendung von Systemen, die auf ihren speziellen KI-Beschleunigern TPU v5e basieren. Die Unterstützung mehrerer Sprachen erweitert ihr Potenzial für globale Anwendungen. Das Modell Gemma 2 2B hat offenen Quellcode. Forscher und Entwickler können auf das Modell über die Plattform . Es unterstützt auch verschiedene Frameworks, darunter und .
Quelle:
Quelle: 3dnews.ru
