Tutvustatakse avatud t\u00f6\u00f6riistu OpenChatKit, mille eesm\u00e4rk on lihtsustada vestlusrobotite loomist spetsialiseeritud ja \u00fcldiseks kasutamiseks. S\u00fcsteem on kohandatud selliste \u00fclesannete t\u00e4itmiseks, nagu k\u00fcsimustele vastamine, mitmeastmeliste dialoogide juhtimine, kokkuv\u00f5tete tegemine, teabe eraldamine ja teksti klassifitseerimine. Kood on kirjutatud keeles Python ja levitatakse litsentsi Apache 2.0 alusel. Projekti koosseisu kuulub valmis mudel, kood oma mudeli treenimiseks, t\u00f6\u00f6riistad mudeli tulemuste testimiseks, vahendid mudeli t\u00e4iustamiseks konteksti v\u00e4lisest indeksist ja baasmudeli kohandamiseks oma \u00fclesannete lahendamiseks. <\/p>\n
Boti aluseks pakutakse masin\u00f5ppe baasmudelit (GPT-NeoXT-Chat-Base-20B), mis on loodud keelemudeli abil, millel on umbes 20 miljardit parameetrit ja mis on optimeeritud vestluseks. Mudeli koolitamiseks on kasutatud andmeid, mis on saadud projektide LAION, Together ja Ontocord.ai kogudest. <\/p>\n
Olemasoleva teadmistebaasi laiendamiseks pakutakse s\u00fcsteemi, mis suudab v\u00e4liste registrite, API-de ja teiste allikate kaudu t\u00e4iendavat teavet koguda. N\u00e4iteks on v\u00f5imalik teavet ajakohastada, kasutades andmeid Wikipediast ja uudistevoogudest. Lisaks on saadaval mudel modereerimiseks, mis on treenitud 6 miljardi parameetri abil, p\u00f5hinedes mudelil GPT-JT, ja on m\u00f5eldud sobimatute k\u00fcsimuste filtreerimiseks v\u00f5i arutelude piiramise jaoks teatud teemades. <\/p>\n
Erakordselt tasub mainida ChatLLaMA projekti, mis pakub raamatukogu intelligentsete abistajate loomiseks, sarnaste ChatGPT-le. Projekt areneb silmas pidades v\u00f5imalust t\u00f6\u00f6tada enda riistvaral ja luua kohandatud lahendusi, mis on suunatud kitsaste teadmiste valdkondade h\u00f5lmamisele (n\u00e4iteks meditsiin, \u00f5igusteadus, m\u00e4ngud, teadusuuringud jne). ChatLLaMA kood on saadaval GPLv3 litsentsi all. <\/p>\n
Projekt toetab LLaMA (Large Language Model Meta AI) arhitektuuril baseeruvate mudelite kasutamist, mille pakub v\u00e4lja ettev\u00f5te Meta. T\u00e4ielik LLaMA mudel katab 65 miljardit parameetrit, kuid ChatLLaMA puhul soovitatakse kasutada 7 ja 13 miljardi parameetriga variante v\u00f5i mudeleid GPTJ (6 miljardi), GPTNeoX (1.3 miljardit), 20BOPT (13 miljardit), BLOOM (7.1 miljardit) ja Galactica (6.7 miljardit). Alguses tarnitakse LLaMA mudeleid ainult teadlastele erilise taotlemise kaudu, kuid kuna andmete edastamiseks kasutati torrent'e, on entusiastid valmistanud skripti, mis v\u00f5imaldab mudeli alla laadida igal soovijal. \n Allikas: opennet.ru<\/a> <\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"