рдкреНрд░рдХрд╛рд╢рд┐рдд OpenChatKit, рдЪреЕрдЯрдмреЙрдЯреНрд╕ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рдЯреВрд▓рдХрд┐рдЯ

OpenChatKit рдУрдкрди рд╕реЛрд░реНрд╕ рдЯреВрд▓рдХрд┐рдЯ рд╕рд╛рджрд░ рдХреЗрд▓реЗ рдЖрд╣реЗ, рдЬреНрдпрд╛рдЪрд╛ рдЙрджреНрджреЗрд╢ рд╡рд┐рд╢реЗрд╖ рдЖрдгрд┐ рд╕рд╛рдорд╛рдиреНрдп рд╡рд╛рдкрд░рд╛рд╕рд╛рдареА рдЪреЕрдЯрдмреЙрдЯреНрд╕рдЪреА рдирд┐рд░реНрдорд┐рддреА рд╕реБрд▓рдн рдХрд░рдгреЗ рдЖрд╣реЗ. рдкреНрд░рд╢реНрдирд╛рдВрдЪреА рдЙрддреНрддрд░реЗ рджреЗрдгреЗ, рдмрд╣реБ-рд╕реНрдЯреЗрдЬ рд╕рдВрд╡рд╛рдж рдЖрдпреЛрдЬрд┐рдд рдХрд░рдгреЗ, рд╕рд╛рд░рд╛рдВрд╢ рдХрд░рдгреЗ, рдорд╛рд╣рд┐рддреА рдХрд╛рдврдгреЗ рдЖрдгрд┐ рдордЬрдХреВрд░рд╛рдЪреЗ рд╡рд░реНрдЧреАрдХрд░рдг рдХрд░рдгреЗ рдпрд╛рд╕рд╛рд░рдЦреА рдХрд╛рд░реНрдпреЗ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рд╕рд┐рд╕реНрдЯрдо рдЕрдиреБрдХреВрд▓ рдЖрд╣реЗ. рдХреЛрдб Python рдордзреНрдпреЗ рд▓рд┐рд╣рд┐рд▓реЗрд▓рд╛ рдЖрд╣реЗ рдЖрдгрд┐ Apache 2.0 рд▓рд╛рдпрд╕рдиреНрд╕ рдЕрдВрддрд░реНрдЧрдд рд╡рд┐рддрд░рд┐рдд рдХреЗрд▓рд╛ рдЖрд╣реЗ. рдпрд╛ рдкреНрд░рдХрд▓реНрдкрд╛рдд рддрдпрд╛рд░ рдореЙрдбреЗрд▓, рддреБрдордЪреНрдпрд╛ рдореЙрдбреЗрд▓рд▓рд╛ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреЗрдгреНрдпрд╛рд╕рд╛рдареА рдХреЛрдб, рдореЙрдбреЗрд▓рдЪреНрдпрд╛ рдкрд░рд┐рдгрд╛рдорд╛рдВрдЪреА рдЪрд╛рдЪрдгреА рдШреЗрдгреНрдпрд╛рд╕рд╛рдареА рдЙрдкрдпреБрдХреНрддрддрд╛, рдмрд╛рд╣реНрдп рдирд┐рд░реНрджреЗрд╢рд╛рдВрдХрд╛рдЪреНрдпрд╛ рд╕рдВрджрд░реНрднрд╛рд╕рд╣ рдореЙрдбреЗрд▓рд▓рд╛ рдкреВрд░рдХ рдЕрд╢реА рд╕рд╛рдзрдиреЗ рдЖрдгрд┐ рддреБрдордЪреНрдпрд╛ рд╕реНрд╡рддрдГрдЪреНрдпрд╛ рд╕рдорд╕реНрдпрд╛ рд╕реЛрдбрд╡рдгреНрдпрд╛рд╕рд╛рдареА рдмреЗрд╕ рдореЙрдбреЗрд▓рдЪреЗ рд░реБрдкрд╛рдВрддрд░ рдХрд░рдгреЗ рд╕рдорд╛рд╡рд┐рд╖реНрдЯ рдЖрд╣реЗ.

рдмреЙрдЯ рдмреЗрд╕рд┐рдХ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдореЙрдбреЗрд▓ (GPT-NeoXT-Chat-Base-20B) рд╡рд░ рдЖрдзрд╛рд░рд┐рдд рдЖрд╣реЗ, рдЬреЗ рд╕реБрдорд╛рд░реЗ 20 рдЕрдмреНрдЬ рдкреЕрд░рд╛рдореАрдЯрд░реНрд╕ рдХрд╡реНрд╣рд░ рдХрд░рдгрд╛рд░реЗ рднрд╛рд╖рд╛ рдореЙрдбреЗрд▓ рд╡рд╛рдкрд░реВрди рддрдпрд╛рд░ рдХреЗрд▓реЗ рдЖрд╣реЗ рдЖрдгрд┐ рд╕рдВрднрд╛рд╖рдгрд╛рддреНрдордХ рд╕рдВрдкреНрд░реЗрд╖рдгрд╛рд╕рд╛рдареА рдЕрдиреБрдХреВрд▓ рдЖрд╣реЗ. рдореЙрдбреЗрд▓рд▓рд╛ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА, LAION, Together рдЖрдгрд┐ Ontocord.ai рдкреНрд░рдХрд▓реНрдк рд╕рдВрдХрд▓рдирд╛рддреВрди рдорд┐рд│рд╛рд▓реЗрд▓рд╛ рдбреЗрдЯрд╛ рд╡рд╛рдкрд░рд▓рд╛ рдЧреЗрд▓рд╛.

рд╡рд┐рджреНрдпрдорд╛рди рдЬреНрдЮрд╛рдирд╛рдЪрд╛ рдЖрдзрд╛рд░ рд╡рд╛рдврд╡рдгреНрдпрд╛рд╕рд╛рдареА, рдПрдХ рдкреНрд░рдгрд╛рд▓реА рдкреНрд░рд╕реНрддрд╛рд╡рд┐рдд рдЖрд╣реЗ рдЬреА рдмрд╛рд╣реНрдп рднрд╛рдВрдбрд╛рд░, API рдЖрдгрд┐ рдЗрддрд░ рд╕реНрддреНрд░реЛрддрд╛рдВрдХрдбреВрди рдЕрддрд┐рд░рд┐рдХреНрдд рдорд╛рд╣рд┐рддреА рдкреБрдирд░реНрдкреНрд░рд╛рдкреНрдд рдХрд░реВ рд╢рдХрддреЗ. рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, рд╡рд┐рдХрд┐рдкреАрдбрд┐рдпрд╛ рдЖрдгрд┐ рдиреНрдпреВрдЬ рдлреАрдбрдордзреАрд▓ рдбреЗрдЯрд╛ рд╡рд╛рдкрд░реВрди рдорд╛рд╣рд┐рддреА рдЕрдкрдбреЗрдЯ рдХрд░рдгреЗ рд╢рдХреНрдп рдЖрд╣реЗ. рдПрдХ рдкрд░реНрдпрд╛рдпреА рдореЙрдбрд░реЗрд╢рди рдореЙрдбреЗрд▓ рдЙрдкрд▓рдмреНрдз рдЖрд╣реЗ, рдЬреЗ 6 рдмрд┐рд▓рд┐рдпрди рдкреЕрд░рд╛рдореАрдЯрд░реНрд╕рд╡рд░ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдЖрд╣реЗ рдЖрдгрд┐ GPT-JT рдореЙрдбреЗрд▓рд╡рд░ рдЖрдзрд╛рд░рд┐рдд рдЖрд╣реЗ, рдЕрдпреЛрдЧреНрдп рдкреНрд░рд╢реНрди рдлрд┐рд▓реНрдЯрд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рдХрд┐рдВрд╡рд╛ рд╡рд┐рд╢рд┐рд╖реНрдЯ рд╡рд┐рд╖рдпрд╛рдВрд╡рд░ рдЪрд░реНрдЪрд╛ рдорд░реНрдпрд╛рджрд┐рдд рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА.

рд╕реНрд╡рддрдВрддреНрд░рдкрдгреЗ, рдЖрдореНрд╣реА ChatLLaMA рдкреНрд░рдХрд▓реНрдкрд╛рдЪрд╛ рдЙрд▓реНрд▓реЗрдЦ рдХрд░реВ рд╢рдХрддреЛ, рдЬреЛ ChatGPT рдкреНрд░рдорд╛рдгреЗрдЪ рдмреБрджреНрдзрд┐рдорд╛рди рд╕рд╣рд╛рдпреНрдпрдХ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рд▓рд╛рдпрдмреНрд░рд░реА рдСрдлрд░ рдХрд░рддреЛ. рд╣рд╛ рдкреНрд░рдХрд▓реНрдк рддреБрдордЪреНрдпрд╛ рд╕реНрд╡рдд:рдЪреНрдпрд╛ рдЙрдкрдХрд░рдгрд╛рдВрд╡рд░ рдЪрд╛рд▓рдгреНрдпрд╛рдЪреНрдпрд╛ рдЖрдгрд┐ рдЬреНрдЮрд╛рдирд╛рдЪреНрдпрд╛ рдЕрд░реБрдВрдж рдХреНрд╖реЗрддреНрд░рд╛рдВрдирд╛ (рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, рдФрд╖рдз, рдХрд╛рдпрджрд╛, рдЦреЗрд│, рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рд╕рдВрд╢реЛрдзрди рдЗ.) рдХрд╡реНрд╣рд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рдбрд┐рдЭрд╛рдЗрди рдХреЗрд▓реЗрд▓реЗ рд╡реИрдпрдХреНрддрд┐рдХ рд╕рдорд╛рдзрд╛рди рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рдЪреНрдпрд╛ рд╢рдХреНрдпрддреЗрд╡рд░ рд▓рдХреНрд╖ рдареЗрд╡реВрди рд╡рд┐рдХрд╕рд┐рдд рдХреЗрд▓реЗ рдЬрд╛рдд рдЖрд╣реЗ. ChatLLaMA рдХреЛрдб GPLv3 рдЕрдВрддрд░реНрдЧрдд рдкрд░рд╡рд╛рдирд╛рдХреГрдд рдЖрд╣реЗ.

рдкреНрд░рдХрд▓реНрдк рдореЗрдЯрд╛ рджреНрд╡рд╛рд░реЗ рдкреНрд░рд╕реНрддрд╛рд╡рд┐рдд LLaMA (рд▓рд╛рд░реНрдЬ рд▓рдБрдЧреНрд╡реЗрдЬ рдореЙрдбреЗрд▓ рдореЗрдЯрд╛ рдПрдЖрдп) рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░рд╡рд░ рдЖрдзрд╛рд░рд┐рдд рдореЙрдбреЗрд▓реНрд╕рдЪреНрдпрд╛ рд╡рд╛рдкрд░рд╛рд╕ рд╕рдорд░реНрдерди рджреЗрддреЛ. рд╕рдВрдкреВрд░реНрдг LLaMA рдореЙрдбреЗрд▓рдордзреНрдпреЗ 65 рдЕрдмреНрдЬ рдкреЕрд░рд╛рдореАрдЯрд░реНрд╕ рд╕рдорд╛рд╡рд┐рд╖реНрдЯ рдЖрд╣реЗрдд, рдкрд░рдВрддреБ ChatLLaMA рд╕рд╛рдареА 7 рдЖрдгрд┐ 13 рдЕрдмреНрдЬ рдкреЕрд░рд╛рдореАрдЯрд░реНрд╕ рдХрд┐рдВрд╡рд╛ GPTJ (6 рдЕрдмреНрдЬ), GPTNeoX (1.3 рдЕрдмреНрдЬ), 20BOPT (13 рдЕрдмреНрдЬ), BLOOM (7.1 рдЕрдмреНрдЬ) рдЖрдгрд┐ рдкрд░реНрдпрд╛рдп рд╡рд╛рдкрд░рдгреНрдпрд╛рдЪреА рд╢рд┐рдлрд╛рд░рд╕ рдХреЗрд▓реА рдЬрд╛рддреЗ. рдЧреЕрд▓реЕрдХреНрдЯрд┐рдХрд╛ (6.7 рдЕрдмреНрдЬ) рдореЙрдбреЗрд▓). рд╕реБрд░реБрд╡рд╛рддреАрд▓рд╛, LLaMA рдореЙрдбреЗрд▓ рдХреЗрд╡рд│ рд╡рд┐рд╢реЗрд╖ рд╡рд┐рдирдВрддреАрдиреБрд╕рд╛рд░ рд╕рдВрд╢реЛрдзрдХрд╛рдВрдирд╛ рдкреБрд░рд╡рд▓реЗ рдЬрд╛рдд рд╣реЛрддреЗ, рдкрд░рдВрддреБ рдбреЗрдЯрд╛ рд╡рд┐рддрд░реАрдд рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рдЯреЙрд░рдВрдЯрдЪрд╛ рд╡рд╛рдкрд░ рдХреЗрд▓рд╛ рдЬрд╛рдд рдЕрд╕рд▓реНрдпрд╛рдиреЗ, рдЙрддреНрд╕рд╛рд╣реА рд▓реЛрдХрд╛рдВрдиреА рдПрдХ рд╕реНрдХреНрд░рд┐рдкреНрдЯ рддрдпрд╛рд░ рдХреЗрд▓реА рдЬреНрдпрд╛рдиреЗ рдХреЛрдгрд╛рд▓рд╛рд╣реА рдореЙрдбреЗрд▓ рдбрд╛рдЙрдирд▓реЛрдб рдХрд░рдгреНрдпрд╛рдЪреА рдкрд░рд╡рд╛рдирдЧреА рджрд┐рд▓реА.

рд╕реНрддреНрд░реЛрдд: opennet.ru

рдПрдХ рдЯрд┐рдкреНрдкрдгреА рдЬреЛрдбрд╛