গুগল জেমিনি ৩ প্রযুক্তির ওপর ভিত্তি করে নির্মিত ওপেন সোর্স জেমা ৪ এআই মডেলটি প্রকাশ করেছে।

গুগল জেমিনি ৩ মডেলের উপর ভিত্তি করে জেমা ৪ নামে বৃহৎ আকারের ল্যাঙ্গুয়েজ মডেলের একটি নতুন পরিবার প্রকাশ করেছে। জেমা ৪ অ্যাপাচি লাইসেন্সের অধীনে ২.৩, ৪.৫, ২৫.২, এবং ৩০.৭ বিলিয়ন প্যারামিটার (E2B, E4B, 31B, এবং 26B A4B) যুক্ত ভ্যারিয়েন্টে বিতরণ করা হয়। E2B এবং E4B ভ্যারিয়েন্টগুলো মোবাইল ডিভাইস, ইন্টারনেট অফ থিংস (IoT) সিস্টেম এবং রাস্পবেরি পাই-এর মতো বোর্ডে ব্যবহারের জন্য উপযুক্ত, অন্যদিকে অন্যান্য ভ্যারিয়েন্টগুলো ওয়ার্কস্টেশন এবং কনজিউমার জিপিইউ যুক্ত সিস্টেমে ব্যবহারের জন্য উপযুক্ত। এই মডেল দ্বারা বিবেচিত কনটেক্সট সাইজ হলো E2B এবং E4B মডেলের জন্য ১২৮,০০০ টোকেন এবং 31B ও 26B A4B মডেলের জন্য ২৫৬,০০০ টোকেন।

মডেলগুলো বহুভাষিক এবং মাল্টিমোডাল: এতে সরাসরি ৩৫টি ভাষা সমর্থিত (প্রশিক্ষণের সময় ১৪০টিরও বেশি ভাষা ব্যবহৃত হয়েছিল), এবং ইনপুট হিসেবে টেক্সট ও ছবি প্রসেস করা যায় (E2B এবং E4B মডেলগুলো অতিরিক্তভাবে অডিও প্রসেসিং সমর্থন করে)। 26B A4B মডেলটি মিক্সচার-অফ-এক্সপার্টস (MoE) আর্কিটেকচারের উপর ভিত্তি করে তৈরি, যেখানে মডেলটিকে একাধিক এক্সপার্ট নেটওয়ার্কে বিভক্ত করা হয় (রেসপন্স জেনারেশনের জন্য মাত্র ৩.৮ বিলিয়ন প্যারামিটার ব্যবহার করা গেলেও, এর গতি ক্লাসিক্যাল বড় মডেলগুলোর তুলনায় উল্লেখযোগ্যভাবে বেশি), অন্যদিকে অন্যান্য ভ্যারিয়েন্টগুলো একটি ক্লাসিক্যাল মনোলিথিক আর্কিটেকচার ব্যবহার করে।

এই মডেলগুলো যুক্তি ও স্বনির্ধারণযোগ্য বিচার-বিবেচনা মোড সমর্থন করে এবং ডেটা থেকে আলাদাভাবে নির্দেশাবলী (নিয়ম, সীমাবদ্ধতা) প্রক্রিয়াকরণের জন্য একটি সিস্টেম রোল সমর্থন করে। এই মডেলগুলো কোড লেখা, ছবিতে বস্তু শনাক্তকরণ, ফ্রেম-বাই-ফ্রেম ভিডিও বিশ্লেষণ, ডকুমেন্ট ও পিডিএফ পার্সিং, মুদ্রিত ও হাতে লেখা পাঠ্যের অপটিক্যাল ক্যারেক্টার রিকগনিশন (OCR), স্পিচ রিকগনিশন এবং বিভিন্ন ভাষার মধ্যে অনুবাদের জন্য ব্যবহার করা যেতে পারে। এছাড়াও, এগুলো বিভিন্ন টুল এবং এপিআই-এর সাথে মিথস্ক্রিয়াকারী স্বায়ত্তশাসিত এজেন্ট হিসেবেও ব্যবহার করা যায়।

অধিকাংশ পরীক্ষায়, জেমা ৪ মডেলগুলো ২৭-বিলিয়ন-প্যারামিটার বিশিষ্ট জেমা ৩ মডেলকে উল্লেখযোগ্যভাবে ছাড়িয়ে গেছে। জেমা ৪, LiteRT-LM, vLLM, llama.cpp, MLX, Ollama, NVIDIA NIM ও NeMo, LM Studio, Unsloth, SGLang, Cactus, Basetan, MaxText, Tunix, এবং Keras সমর্থন করে।

উত্স: opennet.ru