OpenChatKit, च्याटबटहरू सिर्जना गर्नको लागि एक टुलकिट, प्रकाशित गरिएको छ

OpenChatKit खुला स्रोत टूलकिट प्रस्तुत गरिएको छ, विशेष र सामान्य प्रयोगको लागि च्याटबटहरूको सिर्जनालाई सरल बनाउने उद्देश्यले। प्रणालीलाई प्रश्नहरूको उत्तर दिने, बहु-चरण संवादहरू सञ्चालन गर्ने, संक्षेपीकरण गर्ने, जानकारी निकाल्ने, र पाठ वर्गीकरण गर्ने जस्ता कार्यहरू गर्न अनुकूल छ। कोड Python मा लेखिएको छ र Apache 2.0 लाइसेन्स अन्तर्गत वितरित छ। यस परियोजनामा ​​एक तयार मोडेल, तपाइँको मोडेल को प्रशिक्षण को लागी कोड, मोडेल को नतिजाहरु को परीक्षण को लागी उपयोगिताहरु, बाह्य सूचकांक को सन्दर्भ संग मोडेल को पूरक को लागी उपकरणहरु र तपाइँको आफ्नै समस्याहरु को हल गर्न को लागी आधार मोडेल को अनुकूलित गर्न को लागी शामिल छ।

यो बोट आधारभूत मेसिन लर्निङ मोडेल (GPT-NeoXT-Chat-Base-20B) मा आधारित छ, जुन भाषा मोडेलको प्रयोग गरी 20 बिलियन प्यारामिटरहरू कभर गरी बनाइएको छ र कुराकानीत्मक सञ्चारको लागि अनुकूलित छ। मोडेललाई तालिम दिन, LAION, Together र Ontocord.ai परियोजना संग्रहहरूबाट प्राप्त डाटा प्रयोग गरियो।

अवस्थित ज्ञान आधार विस्तार गर्न, बाह्य भण्डारहरू, API र अन्य स्रोतहरूबाट थप जानकारी प्राप्त गर्न सक्ने प्रणाली प्रस्ताव गरिएको छ। उदाहरणका लागि, विकिपिडिया र समाचार फिडहरूबाट डाटा प्रयोग गरेर जानकारी अद्यावधिक गर्न सम्भव छ। एक वैकल्पिक मध्यस्थता मोडेल उपलब्ध छ, 6 बिलियन प्यारामिटरहरूमा प्रशिक्षित र GPT-JT मोडेलमा आधारित, अनुपयुक्त प्रश्नहरू फिल्टर गर्न वा विशेष शीर्षकहरूमा छलफलहरू सीमित गर्न।

अलग रूपमा, हामी ChatLLaMA परियोजनालाई उल्लेख गर्न सक्छौं, जसले ChatGPT जस्तै बुद्धिमानी सहायकहरू सिर्जना गर्न पुस्तकालय प्रदान गर्दछ। यो परियोजना तपाईंको आफ्नै उपकरणमा चल्ने सम्भावना र ज्ञानको साँघुरो क्षेत्रहरू (उदाहरणका लागि, चिकित्सा, कानून, खेलहरू, वैज्ञानिक अनुसन्धान, आदि) लाई कभर गर्न डिजाइन गरिएको व्यक्तिगत समाधानहरू सिर्जना गर्ने सम्भावनालाई ध्यानमा राखेर विकास गरिएको छ। ChatLLaMA कोड GPLv3 अन्तर्गत इजाजतपत्र दिइएको छ।

परियोजनाले मेटाद्वारा प्रस्तावित LLaMA (ठूलो भाषा मोडेल मेटा एआई) वास्तुकलामा आधारित मोडेलहरूको प्रयोगलाई समर्थन गर्दछ। पूर्ण LLaMA मोडेलले 65 बिलियन प्यारामिटरहरू कभर गर्दछ, तर ChatLLaMA को लागि 7 र 13 बिलियन प्यारामिटरहरू वा GPTJ (6 बिलियन), GPTNeoX (1.3 बिलियन), 20BOPT (13 बिलियन), BLOOM (7.1 बिलियन) र विकल्पहरू प्रयोग गर्न सिफारिस गरिन्छ। Galactica (6.7 बिलियन) मोडेलहरू)। प्रारम्भमा, LLaMA मोडेलहरू विशेष अनुरोधमा अनुसन्धानकर्ताहरूलाई मात्र आपूर्ति गरिन्थ्यो, तर टोरेन्टहरू डेटा वितरण गर्न प्रयोग भएको हुनाले, उत्साहीहरूले एउटा स्क्रिप्ट तयार गरे जसले कसैलाई पनि मोडेल डाउनलोड गर्न अनुमति दियो।

स्रोत: opennet.ru