🥇जिना इम्बेडिङ कोड खुला छ, पाठको अर्थको भेक्टर प्रतिनिधित्वको लागि मोडेल

जिनाले Apache 2.0 लाइसेन्स अन्तर्गत भेक्टर पाठ प्रतिनिधित्व, jina-embeddings-v2 को लागि एउटा मेसिन लर्निङ मोडेल ओपन सोर्स गरेको छ। मोडेलले तपाईंलाई 8192 वर्णहरू सम्मको स्वेच्छाचारी पाठलाई वास्तविक संख्याहरूको सानो अनुक्रममा रूपान्तरण गर्न अनुमति दिन्छ जुन एक भेक्टर बनाउँछ जुन स्रोत पाठसँग तुलना गरिन्छ र यसको अर्थशास्त्र (अर्थ) पुन: उत्पादन गर्दछ। Jina Embedding पहिलो ओपन मेसिन लर्निङ मोडेल थियो जसले OpenAI परियोजना (टेक्स्ट-इम्बेडिङ-एडा-००२) को स्वामित्व पाठ भेक्टोराइजेशन मोडेलको समान कार्यसम्पादन गरेको थियो, जसले 002 टोकनहरू सम्म पाठ प्रशोधन गर्न सक्षम थियो।

दुई उत्पन्न भेक्टरहरू बीचको दूरी स्रोत पाठहरूको सिमेन्टिक सम्बन्ध निर्धारण गर्न प्रयोग गर्न सकिन्छ। अभ्यासमा, उत्पन्न भेक्टरहरू पाठहरूको समानता विश्लेषण गर्न, विषयसँग सम्बन्धित सामग्रीहरूको लागि खोजी गर्न प्रयोग गर्न सकिन्छ (सिमान्टिक निकटताद्वारा परिणामहरू क्रमबद्ध गर्न), अर्थद्वारा समूह पाठहरू, सिफारिसहरू उत्पन्न गर्न (समान पाठ स्ट्रिङहरूको सूची प्रस्ताव गर्नुहोस्), विसंगतिहरू पहिचान गर्नुहोस्, साहित्यिक चोरी पत्ता लगाउनुहोस् र परीक्षणहरू वर्गीकृत गर्नुहोस्। प्रयोगका क्षेत्रहरूका उदाहरणहरूमा कानूनी कागजातहरूको विश्लेषणको लागि, व्यवसायिक विश्लेषणका लागि, वैज्ञानिक लेखहरू प्रशोधन गर्नको लागि चिकित्सा अनुसन्धानमा, साहित्यिक आलोचनामा, वित्तीय रिपोर्टहरू पार्स गर्न र जटिल मुद्दाहरूको च्याटबट प्रशोधनको गुणस्तर सुधार गर्न मोडेलको प्रयोग समावेश छ।

Jina-Embeddings मोडेलका दुई संस्करणहरू डाउनलोडका लागि उपलब्ध छन् (आधारभूत - 0.27 GB र घटाइएको - 0.07 GB), अंग्रेजीमा 400 मिलियन जोडी पाठ अनुक्रमहरूमा प्रशिक्षित, ज्ञानका विभिन्न क्षेत्रहरू समेटिएको। प्रशिक्षणको क्रममा, 512 टोकनहरूको साइजका अनुक्रमहरू प्रयोग गरियो, जसलाई 8192 को आकारमा ALiBi (रेखीय पूर्वाग्रहहरूसँग ध्यान दिनुहोस्) विधि प्रयोग गरी एक्स्ट्रापोलेट गरिएको थियो।

आधारभूत मोडेलमा 137 मिलियन प्यारामिटरहरू समावेश छन् र GPU को साथ स्थिर प्रणालीहरूमा प्रयोगको लागि डिजाइन गरिएको छ। घटाइएको मोडेलले 33 मिलियन प्यारामिटरहरू समावेश गर्दछ, कम सटीकता प्रदान गर्दछ र मोबाइल उपकरणहरू र प्रणालीहरूमा थोरै मेमोरीको साथ प्रयोग गर्ने लक्ष्य राखिएको छ। निकट भविष्यमा तिनीहरूले 435 मिलियन प्यारामिटरहरू कभर गर्ने ठूलो मोडेल पनि प्रकाशित गर्ने योजना बनाएका छन्। मोडेलको एक बहुभाषी संस्करण पनि विकासमा छ, वर्तमानमा जर्मन र स्पेनिश को समर्थन मा ध्यान केन्द्रित। LLM टूलकिट मार्फत जिना-एम्बेडिङ मोडेल प्रयोग गर्नको लागि छुट्टै प्लगइन तयार गरिएको छ।

स्रोत: opennet.ru

Jina Embedding को लागि खुला स्रोत कोड, पाठ अर्थ को भेक्टर प्रतिनिधित्व को लागी एक मोडेल

एक टिप्पणी थप्न Отменить ответ