ਪ੍ਰਕਾਸ਼ਿਤ OpenChatKit, ਚੈਟਬੋਟਸ ਬਣਾਉਣ ਲਈ ਇੱਕ ਟੂਲਕਿੱਟ

OpenChatKit ਓਪਨ ਟੂਲਕਿੱਟ ਪੇਸ਼ ਕੀਤੀ ਗਈ ਹੈ, ਜਿਸਦਾ ਉਦੇਸ਼ ਵਿਸ਼ੇਸ਼ ਅਤੇ ਆਮ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਚੈਟਬੋਟਸ ਦੀ ਰਚਨਾ ਨੂੰ ਸਰਲ ਬਣਾਉਣਾ ਹੈ। ਸਿਸਟਮ ਨੂੰ ਪ੍ਰਸ਼ਨਾਂ ਦੇ ਉੱਤਰ ਦੇਣ, ਬਹੁ-ਪੜਾਵੀ ਸੰਵਾਦਾਂ ਦਾ ਸੰਚਾਲਨ, ਸੰਖੇਪ ਜਾਣਕਾਰੀ, ਜਾਣਕਾਰੀ ਕੱਢਣ, ਟੈਕਸਟ ਵਰਗੀਕਰਣ ਵਰਗੇ ਕਾਰਜਾਂ ਨੂੰ ਕਰਨ ਲਈ ਅਨੁਕੂਲਿਤ ਕੀਤਾ ਗਿਆ ਹੈ। ਕੋਡ ਪਾਈਥਨ ਵਿੱਚ ਲਿਖਿਆ ਗਿਆ ਹੈ ਅਤੇ ਅਪਾਚੇ 2.0 ਲਾਇਸੰਸ ਦੇ ਅਧੀਨ ਵੰਡਿਆ ਗਿਆ ਹੈ। ਪ੍ਰੋਜੈਕਟ ਵਿੱਚ ਇੱਕ ਤਿਆਰ ਮਾਡਲ, ਤੁਹਾਡੇ ਮਾਡਲ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਕੋਡ, ਮਾਡਲ ਦੇ ਨਤੀਜਿਆਂ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਉਪਯੋਗਤਾਵਾਂ, ਇੱਕ ਬਾਹਰੀ ਸੂਚਕਾਂਕ ਤੋਂ ਸੰਦਰਭ ਦੇ ਨਾਲ ਮਾਡਲ ਨੂੰ ਪੂਰਕ ਕਰਨ ਲਈ ਔਜ਼ਾਰ ਅਤੇ ਤੁਹਾਡੀਆਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਬੇਸ ਮਾਡਲ ਨੂੰ ਅਨੁਕੂਲ ਬਣਾਉਣਾ ਸ਼ਾਮਲ ਹੈ।

ਬੋਟ ਇੱਕ ਬੇਸਿਕ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਮਾਡਲ (GPT-NeoXT-Chat-Base-20B) 'ਤੇ ਆਧਾਰਿਤ ਹੈ, ਜੋ ਲਗਭਗ 20 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਕਵਰ ਕਰਨ ਵਾਲੇ ਇੱਕ ਭਾਸ਼ਾ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਬਣਾਇਆ ਗਿਆ ਹੈ ਅਤੇ ਸੰਵਾਦ ਸੰਚਾਰ ਲਈ ਅਨੁਕੂਲ ਬਣਾਇਆ ਗਿਆ ਹੈ। ਮਾਡਲ ਨੂੰ LAION, Together ਅਤੇ Ontocord.ai ਪ੍ਰੋਜੈਕਟਾਂ ਦੇ ਸੰਗ੍ਰਹਿ ਤੋਂ ਪ੍ਰਾਪਤ ਡੇਟਾ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ।

ਮੌਜੂਦਾ ਗਿਆਨ ਅਧਾਰ ਨੂੰ ਵਧਾਉਣ ਲਈ, ਇੱਕ ਸਿਸਟਮ ਪ੍ਰਸਤਾਵਿਤ ਹੈ ਜੋ ਬਾਹਰੀ ਰਿਪੋਜ਼ਟਰੀਆਂ, API ਅਤੇ ਹੋਰ ਸਰੋਤਾਂ ਤੋਂ ਵਾਧੂ ਜਾਣਕਾਰੀ ਕੱਢਣ ਦੇ ਸਮਰੱਥ ਹੈ। ਉਦਾਹਰਨ ਲਈ, ਵਿਕੀਪੀਡੀਆ ਅਤੇ ਨਿਊਜ਼ ਫੀਡਸ ਤੋਂ ਡੇਟਾ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਜਾਣਕਾਰੀ ਨੂੰ ਅਪਡੇਟ ਕਰਨਾ ਸੰਭਵ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਇੱਕ ਸੰਚਾਲਨ ਮਾਡਲ ਉਪਲਬਧ ਹੈ, ਜੋ GPT-JT ਮਾਡਲ ਦੇ ਆਧਾਰ 'ਤੇ 6 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਨਾਲ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਹੈ, ਅਤੇ ਅਣਉਚਿਤ ਸਵਾਲਾਂ ਨੂੰ ਫਿਲਟਰ ਕਰਨ ਜਾਂ ਕੁਝ ਵਿਸ਼ਿਆਂ ਤੱਕ ਚਰਚਾਵਾਂ ਨੂੰ ਸੀਮਤ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ।

ਵੱਖਰੇ ਤੌਰ 'ਤੇ, ਅਸੀਂ ChatLLaMA ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਨੋਟ ਕਰ ਸਕਦੇ ਹਾਂ, ਜੋ ChatGPT ਦੇ ਸਮਾਨ ਬੁੱਧੀਮਾਨ ਸਹਾਇਕ ਬਣਾਉਣ ਲਈ ਇੱਕ ਲਾਇਬ੍ਰੇਰੀ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ। ਪ੍ਰੋਜੈਕਟ ਆਪਣੇ ਖੁਦ ਦੇ ਸਾਜ਼ੋ-ਸਾਮਾਨ 'ਤੇ ਚੱਲਣ ਅਤੇ ਗਿਆਨ ਦੇ ਤੰਗ ਖੇਤਰਾਂ (ਉਦਾਹਰਨ ਲਈ, ਦਵਾਈ, ਕਾਨੂੰਨ, ਖੇਡਾਂ, ਵਿਗਿਆਨਕ ਖੋਜ, ਆਦਿ) ਨੂੰ ਕਵਰ ਕਰਨ ਲਈ ਬਣਾਏ ਗਏ ਵਿਅਕਤੀਗਤ ਹੱਲ ਤਿਆਰ ਕਰਨ ਦੀ ਸੰਭਾਵਨਾ ਦੀ ਨਜ਼ਰ ਨਾਲ ਵਿਕਾਸ ਕਰ ਰਿਹਾ ਹੈ। ChatLLaMA ਕੋਡ GPLv3 ਦੇ ਅਧੀਨ ਲਾਇਸੰਸਸ਼ੁਦਾ ਹੈ।

ਪ੍ਰੋਜੈਕਟ ਮੈਟਾ ਦੁਆਰਾ ਪ੍ਰਸਤਾਵਿਤ LLaMA (ਵੱਡੀ ਭਾਸ਼ਾ ਮਾਡਲ ਮੇਟਾ ਏਆਈ) ਆਰਕੀਟੈਕਚਰ ਦੇ ਅਧਾਰ ਤੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ। ਪੂਰਾ LLaMA ਮਾਡਲ 65 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ, ਪਰ ChatLLaMA ਲਈ 7 ਅਤੇ 13 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਜਾਂ GPTJ (6 ਬਿਲੀਅਨ), GPTNeoX (1.3 ਬਿਲੀਅਨ), 20BOPT (13 ਬਿਲੀਅਨ), BLOOM (7.1 ਬਿਲੀਅਨ) ਵਾਲੇ ਰੂਪਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਸਿਫਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਅਤੇ ਗਲੈਕਟਿਕਾ (6.7 ਬਿਲੀਅਨ) ਮਾਡਲ)। ਸ਼ੁਰੂ ਵਿੱਚ, LLaMA ਮਾਡਲਾਂ ਨੂੰ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਵਿਸ਼ੇਸ਼ ਬੇਨਤੀ 'ਤੇ ਹੀ ਸਪਲਾਈ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਪਰ ਕਿਉਂਕਿ ਟੋਰੈਂਟਸ ਦੀ ਵਰਤੋਂ ਡੇਟਾ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ ਕੀਤੀ ਜਾਂਦੀ ਸੀ, ਉਤਸ਼ਾਹੀਆਂ ਨੇ ਇੱਕ ਸਕ੍ਰਿਪਟ ਤਿਆਰ ਕੀਤੀ ਹੈ ਜੋ ਕਿਸੇ ਨੂੰ ਵੀ ਮਾਡਲ ਨੂੰ ਡਾਊਨਲੋਡ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੀ ਹੈ।

ਸਰੋਤ: opennet.ru