Google telah mengumumkan publikasi Gemma, model bahasa pembelajaran mesin besar yang dibuat menggunakan teknologi yang digunakan untuk membangun model chatbot Gemini, yang berupaya bersaing dengan ChatGPT. Model ini tersedia dalam empat varian, mencakup 2 dan 7 miliar parameter, dalam tampilan dasar dan tampilan yang dioptimalkan untuk dialog. Opsi dengan 2 miliar parameter cocok untuk digunakan dalam aplikasi konsumen dan memiliki cukup CPU untuk memprosesnya. Opsi dengan 7 miliar parameter memerlukan perangkat keras yang lebih kuat dan GPU atau TPU.
Di antara bidang penerapan model Gemma adalah pembuatan sistem dialog dan asisten virtual, pembuatan teks, pembuatan jawaban atas pertanyaan yang diajukan dalam bahasa alami, ringkasan dan generalisasi konten, penjelasan esensi konsep dan istilah, koreksi kesalahan. dalam teks, bantuan dalam belajar bahasa. Ini mendukung pembuatan berbagai jenis data teks, termasuk puisi, kode dalam bahasa pemrograman, menulis ulang karya dengan kata lain, dan menghasilkan huruf menggunakan templat. Apalagi modelnya memiliki ukuran yang relatif kecil sehingga memungkinkan untuk digunakan pada peralatan Anda sendiri dengan sumber daya terbatas, misalnya pada laptop dan PC biasa.
Lisensi model memungkinkan penggunaan dan distribusi gratis tidak hanya dalam penelitian dan proyek pribadi, tetapi juga dalam produk komersial. Pembuatan dan publikasi versi model yang dimodifikasi juga diperbolehkan. Pada saat yang sama, ketentuan penggunaan melarang penggunaan model untuk melakukan tindakan jahat dan mengharuskan, bila memungkinkan, untuk menggunakan Gemma versi terbaru di produk Anda.
Dukungan untuk bekerja dengan model Gemma telah ditambahkan ke toolkit Transformers dan Toolkit AI Generatif yang Bertanggung Jawab. Untuk mengoptimalkan model, Anda dapat menggunakan framework Keras dan backend untuk TensorFlow, JAX, dan PyTorch. Gemma juga dapat digunakan dengan kerangka kerja MaxText, NVIDIA NeMo, dan TensorRT-LLM.
Ukuran konteks yang diperhitungkan oleh model Gemma adalah 8 ribu token (jumlah token yang dapat diproses dan diingat oleh model saat menghasilkan teks). Sebagai perbandingan, ukuran konteks untuk model Gemini dan GPT-4 adalah 32 ribu token, dan untuk model GPT-4 Turbo adalah 128 ribu. Model ini hanya mendukung bahasa Inggris. Dari segi performa, model Gemma-7B sedikit kalah dengan model LLama 2 70B Chat dan sedikit mengungguli model DeciLM-7B, PHI-2 (2.7B) dan Mistral-7B-v0.1. Dalam perbandingan Google, model Gemma-7B sedikit lebih unggul dari LLama 2 7B/13B dan Mistral-7B.
Sumber: opennet.ru
