Ko te kete taputapu puna tuwhera OpenChatKit e whakaatuhia ana, e whai ana ki te whakangawari i te hanga o nga chatbots mo te whakamahi motuhake me te whakamahi whanui. Ka urutauhia te punaha ki te mahi i nga mahi penei i te whakautu patai, te whakahaere i nga korerorero maha-waahanga, te whakarapopototanga, te tango korero, me te whakarōpū i nga tuhinga. Ka tuhia te waehere ki te Python ka tohatohahia i raro i te raihana Apache 2.0. Kei roto i te kaupapa he tauira kua oti te hanga, he waehere mo te whakangungu i to tauira, he taputapu mo te whakamatautau i nga hua o te tauira, he taputapu mo te taapiri i te tauira me te horopaki mai i te taurangi o waho me te urutau i te tauira turanga hei whakaoti i o raru.
Ko te karetao kei runga i te tauira ako miihini taketake (GPT-NeoXT-Chat-Base-20B), i hangaia ma te whakamahi i te tauira reo e hipoki ana i te 20 piriona tawhā me te arotau mo te whakawhitiwhiti korero. Hei whakangungu i te tauira, i whakamahia nga raraunga mai i nga kohinga kaupapa LAION, Together me Ontocord.ai.
Hei whakawhanui i te turanga matauranga o naianei, ka whakaarohia he punaha ka taea te tiki atu korero mai i nga putunga o waho, API me etahi atu puna. Hei tauira, ka taea te whakahou i nga korero ma te whakamahi i nga raraunga mai i Wikipedia me nga purongo korero. Kei te waatea he tauira whakaōrite, kua whakangungua i runga i te 6 piriona tawhā me te whakatau i te tauira GPT-JT, ki te tātari i nga paatai e kore e tika, ki te whakaiti ranei i nga korerorero ki nga kaupapa motuhake.
Ka wehea, ka taea e taatau te whakahua i te kaupapa ChatLLaMA, e tuku ana i te whare pukapuka mo te hanga kaiawhina mohio rite ki a ChatGPT. Kei te whanakehia te kaupapa me te titiro ki te kaha ki te whakahaere i runga i o taputapu ake me te hanga otinga whaiaro i hangaia hei kapi i nga waahi whaiti o te matauranga (hei tauira, rongoa, ture, keemu, rangahau pūtaiao, aha atu). Kua raihanatia te waehere ChatLLaMA i raro i te GPLv3.
E tautoko ana te kaupapa i te whakamahinga o nga tauira i runga i te hoahoanga LLaMA (Large Language Model Meta AI) i whakaarohia e Meta. Ko te tauira LLaMA katoa e kapi ana i te 65 piriona tawhā, engari mo ChatLLaMA e taunaki ana kia whakamahia nga whiringa me te 7 me te 13 piriona tawhā ranei te GPTJ (6 piriona), GPTNeoX (1.3 piriona), 20BOPT (13 piriona), BLOOM (7.1 piriona) me Galactica (6.7 piriona) tauira ). I te tuatahi, i tukuna nga tauira LLaMA ki nga kairangahau anake i runga i te tono motuhake, engari i te mea i whakamahia nga awa hei tuku raraunga, ka whakareri te hunga kaingākau i tetahi tuhinga ka taea e te tangata te tango i te tauira.
Source: opennet.ru