জিনা এমবেডিংয়ের জন্য ওপেন সোর্স কোড, পাঠ্যের অর্থের ভেক্টর উপস্থাপনার একটি মডেল

জিনা Apache 2.0 লাইসেন্সের অধীনে ভেক্টর টেক্সট উপস্থাপনার জন্য একটি মেশিন লার্নিং মডেল, jina-embeddings-v2 ওপেন-সোর্স করেছে। মডেলটি আপনাকে 8192টি অক্ষর পর্যন্ত স্বেচ্ছাচারী পাঠ্যকে বাস্তব সংখ্যার একটি ছোট অনুক্রমে রূপান্তর করতে দেয় যা একটি ভেক্টর গঠন করে যা উত্স পাঠ্যের সাথে তুলনা করা হয় এবং এর শব্দার্থবিদ্যা (অর্থ) পুনরুত্পাদন করে। জিনা এমবেডিং হল প্রথম ওপেন মেশিন লার্নিং মডেল যেটি ওপেনএআই প্রজেক্টের (টেক্সট-এমবেডিং-এডা-০০২) মালিকানাধীন টেক্সট ভেক্টরাইজেশন মডেলের মতো একই পারফরম্যান্স ছিল, যা 002 টোকেন পর্যন্ত টেক্সট প্রসেস করতেও সক্ষম।

উৎস টেক্সটের শব্দার্থিক সম্পর্ক নির্ধারণ করতে দুটি উৎপন্ন ভেক্টরের মধ্যে দূরত্ব ব্যবহার করা যেতে পারে। অনুশীলনে, উত্পন্ন ভেক্টরগুলি পাঠ্যের সাদৃশ্য বিশ্লেষণ করতে, বিষয়ের সাথে সম্পর্কিত উপকরণগুলির জন্য একটি অনুসন্ধান সংগঠিত করতে ব্যবহার করা যেতে পারে (অর্থবোধক নৈকট্য দ্বারা র‌্যাঙ্কিং ফলাফল), অর্থ অনুসারে গোষ্ঠী পাঠ, সুপারিশ তৈরি করতে (অনুরূপ পাঠ্য স্ট্রিংগুলির একটি তালিকা অফার করে), অসঙ্গতিগুলি সনাক্ত করুন, চুরির ঘটনা সনাক্ত করুন এবং পরীক্ষাগুলিকে শ্রেণিবদ্ধ করুন। ব্যবহারের ক্ষেত্রে উদাহরণগুলির মধ্যে রয়েছে আইনি নথি বিশ্লেষণের জন্য, ব্যবসায়িক বিশ্লেষণের জন্য, বৈজ্ঞানিক নিবন্ধগুলি প্রক্রিয়াকরণের জন্য চিকিৎসা গবেষণায়, সাহিত্য সমালোচনায়, আর্থিক প্রতিবেদন পার্স করার জন্য এবং চ্যাটবট প্রক্রিয়াকরণ জটিল সমস্যাগুলির গুণমান উন্নত করার জন্য মডেলের ব্যবহার।

জিনা-এম্বেডিং মডেলের দুটি সংস্করণ ডাউনলোডের জন্য উপলব্ধ (বেসিক - 0.27 GB এবং হ্রাস - 0.07 GB), ইংরেজিতে 400 মিলিয়ন জোড়া পাঠ্য অনুক্রমের উপর প্রশিক্ষিত, জ্ঞানের বিভিন্ন ক্ষেত্র কভার করে। প্রশিক্ষণের সময়, 512 টোকেনের আকার সহ সিকোয়েন্সগুলি ব্যবহার করা হয়েছিল, যা 8192 আকারে ALiBi (লিনিয়ার বায়েসের সাথে মনোযোগ দিন) পদ্ধতি ব্যবহার করে এক্সট্রাপোলেট করা হয়েছিল।

মৌলিক মডেলটিতে 137 মিলিয়ন প্যারামিটার রয়েছে এবং এটি একটি GPU সহ স্থির সিস্টেমে ব্যবহারের জন্য ডিজাইন করা হয়েছে। হ্রাসকৃত মডেলটিতে 33 মিলিয়ন প্যারামিটার রয়েছে, কম নির্ভুলতা প্রদান করে এবং অল্প পরিমাণ মেমরি সহ মোবাইল ডিভাইস এবং সিস্টেমে ব্যবহারের লক্ষ্যে। অদূর ভবিষ্যতে তারা একটি বড় মডেল প্রকাশ করার পরিকল্পনা করেছে যা 435 মিলিয়ন প্যারামিটার কভার করবে। মডেলটির একটি বহুভাষিক সংস্করণও বিকাশের মধ্যে রয়েছে, বর্তমানে জার্মান এবং স্প্যানিশ সমর্থনের উপর দৃষ্টি নিবদ্ধ করছে। এলএলএম টুলকিটের মাধ্যমে জিনা-এম্বেডিং মডেল ব্যবহার করার জন্য আলাদাভাবে একটি প্লাগইন প্রস্তুত করা হয়েছে।

উত্স: opennet.ru