Google ha annunciato la pubblicazione di un ampio modello linguistico di apprendimento automatico, Gemma, costruito utilizzando tecnologie impiegate per il modello del chatbot Gemini, che cerca di competere con ChatGPT. Il modello è disponibile in quattro varianti, coprendo 2 e 7 miliardi di parametri, nelle versioni base e ottimizzate per i sistemi di dialogo. Le varianti con 2 miliardi di parametri sono adatte per l'uso in applicazioni consumer e possono essere gestite sufficientemente da una CPU. Le varianti con 7 miliardi di parametri richiedono hardware più potente e l'uso di GPU o TPU.
Tra i settori di applicazione del modello Gemma si trovano la creazione di sistemi di dialogo e assistenti virtuali, la generazione di testi, la formazione di risposte a domande formulate in linguaggio naturale, il riassunto e la sintesi dei contenuti, la spiegazione dei concetti e dei termini, la correzione degli errori nel testo, e l'assistenza nell'apprendimento delle lingue. È supportata la creazione di vari tipi di dati testuali, tra cui poesie, codice in linguaggi di programmazione, riscrittura di opere con parole diverse, e la formazione di lettere secondo un modello. Il modello ha dimensioni relativamente contenute, permettendo di utilizzarlo su apparecchiature con risorse limitate, come normali laptop e PC.
La licenza del modello consente l'uso e la distribuzione gratuiti non solo in progetti di ricerca e personali, ma anche in prodotti commerciali. È inoltre consentita la creazione e pubblicazione di varianti modificate del modello. Tuttavia, le condizioni d'uso vietano l'applicazione del modello per scopi dannosi e prescrivono di utilizzare, per quanto possibile, la versione più aggiornata di Gemma nei propri prodotti.
Il supporto per i modelli Gemma è già stato integrato negli strumenti di Transformers e nel Responsible Generative AI Toolkit. Per ottimizzare il modello, si può utilizzare il framework Keras e i backend per TensorFlow, JAX e PyTorch. È inoltre possibile utilizzare Gemma con i framework MaxText, NVIDIA NeMo e TensorRT-LLM.
La dimensione del contesto considerato dal modello Gemma è di 8.000 token (il numero di token che il modello può elaborare e memorizzare durante la generazione del testo). A titolo di confronto, la dimensione del contesto per i modelli Gemini e GPT-4 è di 32.000 token, mentre per il modello GPT-4 Turbo è di 128.000. Il modello supporta solo la lingua inglese. In termini di prestazioni, il modello Gemma-7B è leggermente inferiore al modello LLama 2 70B Chat e leggermente superiore ai modelli DeciLM-7B, PHI-2 (2.7B) e Mistral-7B-v0.1. Rispetto a Google, il modello Gemma-7B è leggermente migliore di LLama 2 7B/13B e Mistral-7B.
Fonte: opennet.ru
