L'azienda Google ha annunciato la pubblicazione di un grande modello di linguaggio per il machine learning, Gemma, costruito utilizzando tecnologie impiegate per sviluppare il modello del chatbot Gemini, intento a competere con ChatGPT. Il modello è disponibile in quattro varianti, coprendo 2 e 7 miliardi di parametri, in versioni base e ottimizzate per i sistemi di dialogo. Le varianti con 2 miliardi di parametri sono adatte per l'uso in applicazioni per consumatori e possono essere elaborate utilizzando solo CPU. Le varianti con 7 miliardi di parametri richiedono hardware più potente e la presenza di GPU o TPU.
Tra i campi di applicazione del modello Gemma si citano la creazione di sistemi di dialogo e assistenti virtuali, generazione di testi, formulazione di risposte a domande poste in linguaggio naturale, sintesi e riassunto di contenuti, spiegazione del significato di concetti e termini, correzione di errori nel testo, aiuto nell'apprendimento delle lingue. È supportata la creazione di vari tipi di dati testuali, inclusi poesie, codice in linguaggi di programmazione, riscrittura di opere con parole diverse, e formulazione di lettere seguendo un template. Inoltre, il modello ha dimensioni relativamente contenute, permettendo l'uso su hardware personale con risorse limitate, ad esempio su normali laptop e PC.
La licenza sul modello consente l'uso e la distribuzione gratuiti non solo in progetti di ricerca e personali, ma anche in prodotti commerciali. È inoltre consentita la creazione e pubblicazione di varianti modificate del modello. Tuttavia, le condizioni d'uso vietano di impiegare il modello per compiere azioni dannose e prescrivono di utilizzare, per quanto possibile, la versione più aggiornata di Gemma nei propri prodotti.
Il supporto per lavorare con i modelli Gemma è già stato aggiunto agli strumenti di Transformers e al Responsible Generative AI Toolkit. Per ottimizzare il modello, è possibile utilizzare il framework Keras e i backend per TensorFlow, JAX e PyTorch. È anche garantita la possibilità di usare Gemma con i framework MaxText, NVIDIA NeMo e TensorRT-LLM.
La dimensione del contesto considerato dal modello Gemma è di 8.000 token (il numero di token che il modello può elaborare e memorizzare durante la generazione del testo). A titolo di confronto, la dimensione del contesto dei modelli Gemini e GPT-4 è di 32.000 token, mentre il modello GPT-4 Turbo supporta 128.000 token. Il modello supporta solo la lingua inglese. In termini di prestazioni, il modello Gemma-7B è leggermente inferiore al modello LLama 2 70B Chat e leggermente superiore ai modelli DeciLM-7B, PHI-2 (2.7B) e Mistral-7B-v0.1. Rispetto a Google, il modello Gemma-7B supera leggermente LLama 2 7B/13B e Mistral-7B.
Fonte: opennet.ru
