Tshaj tawm OpenChatKit, cov cuab yeej siv los tsim chatbots

OpenChatKit cov cuab yeej qhib tau nthuav tawm, tsom rau kev yooj yim ntawm kev tsim cov chatbots rau kev siv tshwj xeeb thiab dav siv. Lub kaw lus tau hloov kho los ua cov haujlwm xws li teb cov lus nug, ua ntau theem kev sib tham, sib sau ua ke, rho tawm cov ntaub ntawv, thiab faib cov ntawv nyeem. Cov cai tau sau hauv Python thiab muab faib raws li Apache 2.0 daim ntawv tso cai. Lub phiaj xwm muaj xws li cov qauv npaj txhij, cov cai rau kev cob qhia koj tus qauv, kev siv hluav taws xob rau kev sim cov txiaj ntsig ntawm cov qauv, cov cuab yeej rau kev ntxiv cov qauv nrog cov ntsiab lus los ntawm kev ntsuas sab nraud thiab hloov cov qauv hauv paus los daws koj cov teeb meem.

Lub bot yog ua raws li tus qauv kev kawm tshuab (GPT-NeoXT-Chat-Base-20B), tsim los siv cov qauv lus uas npog txog 20 billion tsis thiab ua kom zoo rau kev sib tham sib tham. Txhawm rau cob qhia tus qauv, cov ntaub ntawv tau txais los ntawm LAION, Ua Ke thiab Ontocord.ai qhov project collections tau siv.

Txhawm rau nthuav dav cov kev paub uas twb muaj lawm, lub kaw lus tau npaj siab tuaj yeem khaws cov ntaub ntawv ntxiv los ntawm cov chaw cia sab nraud, APIs thiab lwm qhov chaw. Piv txwv li, nws tuaj yeem hloov kho cov ntaub ntawv siv cov ntaub ntawv los ntawm Wikipedia thiab xov xwm pub. Ib qho qauv kev xaiv xaiv tau muaj, kawm txog 6 billion qhov tsis muaj thiab raws li tus qauv GPT-JT, txhawm rau lim tawm cov lus nug tsis tsim nyog lossis txwv kev sib tham rau cov ncauj lus tshwj xeeb.

Cais, peb tuaj yeem hais txog qhov project ChatLLaMA, uas muaj lub tsev qiv ntawv rau kev tsim cov pab cuam ntse zoo ib yam li ChatGPT. Txoj haujlwm no tau tsim nrog lub qhov muag kom muaj peev xwm khiav ntawm koj tus kheej cov cuab yeej thiab tsim cov kev daws teeb meem ntawm tus kheej tsim los npog thaj chaw nqaim ntawm kev paub (piv txwv li, tshuaj, kev cai lij choj, kev ua si, kev tshawb fawb tshawb fawb, thiab lwm yam). Tus lej ChatLLaMA tau tso cai raws li GPLv3.

Lub phiaj xwm txhawb nqa kev siv cov qauv raws li LLaMA (Large Language Model Meta AI) architecture npaj los ntawm Meta. Tus qauv LLaMA tag nrho npog 65 billion tsis, tab sis rau ChatLLaMA nws raug nquahu kom siv cov kev xaiv nrog 7 thiab 13 billion tsis tau lossis GPTJ (6 billion), GPTNeoX (1.3 billion), 20BOPT (13 billion), BLOOM (7.1 billion) thiab Galactica (6.7 billion) qauv ). Thaum xub thawj, LLaMA cov qauv tau muab rau cov kws tshawb fawb nkaus xwb raws li qhov kev thov tshwj xeeb, tab sis txij li torrents tau siv los xa cov ntaub ntawv, cov neeg txhawb nqa tau npaj tsab ntawv uas tso cai rau leej twg rub tawm cov qauv.

Tau qhov twg los: opennet.ru

Ntxiv ib saib