جينا اوپن سورس ڪيو آهي مشين لرننگ ماڊل ویکٹر ٽيڪسٽ جي نمائندگي لاءِ، جينا-ايمبيڊنگ-v2.0، Apache 2 لائسنس تحت. ماڊل توهان کي صوابديدي متن کي تبديل ڪرڻ جي اجازت ڏئي ٿو، بشمول 8192 اکرن تائين، حقيقي انگن جي هڪ ننڍڙي تسلسل ۾، جيڪو هڪ ویکٹر ٺاهي ٿو جيڪو ماخذ جي متن سان مقابلو ڪري ٿو ۽ ان جي سيمينٽڪس (معني) کي ٻيهر ٺاهي ٿو. جينا ايمبيڊنگ پهريون اوپن مشين لرننگ ماڊل هو جنهن جي ساڳي ڪارڪردگي هئي جيئن OpenAI پروجيڪٽ (text-embedding-ada-002) جي ملڪيت واري ٽيڪسٽ ویکٹرائيزيشن ماڊل، 8192 ٽوڪن تائين ٽيڪسٽ پروسيسنگ ڪرڻ جي قابل پڻ.
ٻن پيدا ٿيل ویکٹر جي وچ ۾ فاصلو ماخذ نصوص جي لفظي تعلق کي طئي ڪرڻ لاء استعمال ڪري سگهجي ٿو. عملي طور تي، ٺاهيل ویکٹر استعمال ڪري سگھجن ٿا نصوص جي هڪجهڙائي جو تجزيو ڪرڻ لاءِ، موضوع سان لاڳاپيل مواد جي ڳولا کي منظم ڪرڻ (سيمينٽڪ قربت جي لحاظ کان نتيجن جي درجه بندي)، معنيٰ جي لحاظ کان گروپ متن، سفارشون تيار ڪرڻ (ساڳئي متن جي تارن جي فهرست پيش ڪريو)، بي ضابطگين کي سڃاڻڻ، چوري جو پتو لڳائڻ ۽ ٽيسٽ کي درجه بندي ڪرڻ. استعمال جي علائقن جا مثال شامل آهن ماڊل جو استعمال قانوني دستاويزن جي تجزيي لاءِ، ڪاروباري تجزيي لاءِ، طبي تحقيق ۾ سائنسي مضمونن جي پروسيسنگ لاءِ، ادبي تنقيد ۾، مالي رپورٽن کي پارس ڪرڻ ۽ پيچيده مسئلن جي چيٽ بٽ پروسيسنگ جي معيار کي بهتر ڪرڻ لاءِ.
جينا-ايمبيڊنگ ماڊل جا ٻه نسخا ڊائون لوڊ لاءِ موجود آهن (بنيادي - 0.27 GB ۽ گھٽجي - 0.07 GB)، انگريزي ۾ 400 ملين جوڑوں جي متن جي ترتيبن تي تربيت ڪئي وئي، علم جي مختلف شعبن کي ڍڪيندي. ٽريننگ دوران، 512 ٽوڪن جي سائيز سان ترتيبون استعمال ڪيون ويون، جن کي 8192 جي ماپ تائين وڌايو ويو ALiBi (Linear Biases سان ڌيان) جي طريقي سان.
بنيادي ماڊل ۾ 137 ملين پيٽرولر شامل آهن ۽ هڪ GPU سان اسٽيشنري سسٽم تي استعمال لاء ٺهيل آهي. گھٽيل ماڊل ۾ 33 ملين پيٽرولر شامل آهن، گهٽ درستگي مهيا ڪن ٿا ۽ مقصد موبائل ڊوائيسز ۽ سسٽم تي استعمال ڪرڻ جو مقصد آهي ياداشت جي ننڍڙي مقدار سان. ويجهي مستقبل ۾ اهي پڻ هڪ وڏو ماڊل شايع ڪرڻ جو منصوبو آهي جيڪو 435 ملين پيٽرولر کي ڍڪيندو. ماڊل جو هڪ گهڻ لساني نسخو پڻ ترقي ۾ آهي، في الحال جرمن ۽ اسپيني جي حمايت تي ڌيان ڏئي رهيو آهي. LLM ٽول ڪٽ ذريعي جينا-ايمبيڊنگ ماڊل استعمال ڪرڻ لاءِ الڳ الڳ پلگ ان تيار ڪيو ويو آهي.
جو ذريعو: opennet.ru