🥇 गूगल ने जेमिनी 3 तकनीकों पर आधारित ओपन सोर्स एआई मॉडल जेम्मा 4 जारी किया है

गूगल ने जेमिनी 3 मॉडल पर आधारित बड़े पैमाने पर भाषा मॉडल की एक नई श्रृंखला, जेम्मा 4, प्रकाशित की है। जेम्मा 4 को अपाचे लाइसेंस के तहत 2.3, 4.5, 25.2 और 30.7 बिलियन पैरामीटर (E2B, E4B, 31B और 26B A4B) वाले वेरिएंट में वितरित किया गया है। E2B और E4B वेरिएंट मोबाइल उपकरणों, इंटरनेट ऑफ थिंग्स (IoT) सिस्टम और रास्पबेरी पाई जैसे बोर्ड पर उपयोग के लिए उपयुक्त हैं, जबकि अन्य वेरिएंट वर्कस्टेशन और उपभोक्ता जीपीयू वाले सिस्टम पर उपयोग के लिए उपयुक्त हैं। मॉडल द्वारा विचार किया गया संदर्भ आकार E2B और E4B मॉडल के लिए 128 टोकन और 31B और 26B A4B मॉडल के लिए 256 टोकन है।

ये मॉडल बहुभाषी और बहुविध हैं: इनमें 35 भाषाओं का समर्थन पहले से ही मौजूद है (प्रशिक्षण के दौरान 140 से अधिक भाषाओं का उपयोग किया गया था), और टेक्स्ट और छवियों को इनपुट के रूप में संसाधित किया जा सकता है (E2B और E4B मॉडल ऑडियो प्रोसेसिंग का भी समर्थन करते हैं)। 26B A4B मॉडल मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) आर्किटेक्चर पर आधारित है, जिसमें मॉडल को विशेषज्ञ नेटवर्क की एक श्रृंखला में विभाजित किया गया है (प्रतिक्रिया उत्पन्न करने के लिए केवल 3.8 बिलियन पैरामीटर का उपयोग किया जा सकता है, लेकिन गति क्लासिक बड़े मॉडलों की तुलना में काफी अधिक है), जबकि अन्य वेरिएंट क्लासिक मोनोलिथिक आर्किटेक्चर का उपयोग करते हैं।

ये मॉडल तर्क क्षमता और अनुकूलन योग्य विचार-विमर्श मोड का समर्थन करते हैं, और डेटा से अलग निर्देशों (नियम, प्रतिबंध) को संसाधित करने के लिए एक सिस्टम भूमिका का समर्थन करते हैं। इन मॉडलों का उपयोग कोड लिखने, छवियों में वस्तुओं को पहचानने, फ्रेम-दर-फ्रेम वीडियो विश्लेषण, दस्तावेज़ों और पीडीएफ़ को पार्स करने, मुद्रित और हस्तलिखित पाठ की ऑप्टिकल कैरेक्टर रिकग्निशन (ओसीआर), वाक् पहचान और भाषाओं के बीच अनुवाद के लिए किया जा सकता है। इनका उपयोग विभिन्न उपकरणों और एपीआई के साथ परस्पर क्रिया करने वाले स्वायत्त एजेंटों के रूप में भी किया जा सकता है।

अधिकांश परीक्षणों में, जेम्मा 4 मॉडल ने 27 अरब पैरामीटर वाले जेम्मा 3 मॉडल से कहीं बेहतर प्रदर्शन किया। जेम्मा 4, LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM और NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix और Keras को सपोर्ट करता है।