OpenNMT 2.28.0 рдорд╢реАрди рднрд╛рд╖рд╛рдВрддрд░ рдкреНрд░рдгрд╛рд▓реАрдЪреЗ рдкреНрд░рдХрд╛рд╢рди

рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдкрджреНрдзрддреА рд╡рд╛рдкрд░рдгрд╛рд▒реНрдпрд╛ OpenNMT 0.28.0 (рдУрдкрди рдиреНрдпреВрд░рд▓ рдорд╢реАрди рдЯреНрд░рд╛рдиреНрд╕рд▓реЗрд╢рди) рдорд╢реАрди рдЯреНрд░рд╛рдиреНрд╕рд▓реЗрд╢рди рд╕рд┐рд╕реНрдЯрдордЪреЗ рдкреНрд░рдХрд╛рд╢рди рдкреНрд░рдХрд╛рд╢рд┐рдд рдХрд░рдгреНрдпрд╛рдд рдЖрд▓реЗ рдЖрд╣реЗ. рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА, рдкреНрд░рдХрд▓реНрдк рдЯреЗрдиреНрд╕рд░рдлреНрд▓реЛ рдбреАрдк рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рд▓рд╛рдпрдмреНрд░рд░реАрдЪреНрдпрд╛ рдХреНрд╖рдорддрд╛рдВрдЪрд╛ рд╡рд╛рдкрд░ рдХрд░рддреЛ. OpenNMT рдкреНрд░рдХрд▓реНрдкрд╛рджреНрд╡рд╛рд░реЗ рд╡рд┐рдХрд╕рд┐рдд рдХреЗрд▓реЗрд▓реНрдпрд╛ рдореЙрдбреНрдпреВрд▓реНрд╕рдЪрд╛ рдХреЛрдб Python рдордзреНрдпреЗ рд▓рд┐рд╣рд┐рд▓рд╛ рдЬрд╛рддреЛ рдЖрдгрд┐ MIT рдкрд░рд╡рд╛рдиреНрдпрд╛рдЕрдВрддрд░реНрдЧрдд рд╡рд┐рддрд░рд┐рдд рдХреЗрд▓рд╛ рдЬрд╛рддреЛ. рд░реЗрдбреАрдореЗрдб рдореЙрдбреЗрд▓реНрд╕ рдЗрдВрдЧреНрд░рдЬреА, рдЬрд░реНрдорди рдЖрдгрд┐ рдХреЕрдЯрд▓рд╛рди рднрд╛рд╖рд╛рдВрд╕рд╛рдареА рддрдпрд╛рд░ рдХреЗрд▓реЗ рдЬрд╛рддрд╛рдд; рдЗрддрд░ рднрд╛рд╖рд╛рдВрд╕рд╛рдареА, рддреБрдореНрд╣реА рд╕реНрд╡рддрдВрддреНрд░рдкрдгреЗ OPUS рдкреНрд░рдХрд▓реНрдкрд╛рддреАрд▓ рдбреЗрдЯрд╛ рд╕реЗрдЯрд╡рд░ рдЖрдзрд╛рд░рд┐рдд рдореЙрдбреЗрд▓ рддрдпрд╛рд░ рдХрд░реВ рд╢рдХрддрд╛ (рдкреНрд░рд╢рд┐рдХреНрд╖рдгрд╛рд╕рд╛рдареА, рджреЛрди рдлрд╛рдпрд▓реА рд╕рд┐рд╕реНрдЯрдордордзреНрдпреЗ рд╣рд╕реНрддрд╛рдВрддрд░рд┐рдд рдХреЗрд▓реНрдпрд╛ рдЬрд╛рддрд╛рдд - рдПрдХ рдордзреНрдпреЗ рд╡рд╛рдХреНрдпрд╛рдВрд╕рд╣ рд╕реНрддреНрд░реЛрдд рднрд╛рд╖рд╛, рдЖрдгрд┐ рджреБрд╕рд░реА рд▓рдХреНрд╖реНрдп рднрд╛рд╖реЗрдд рдпрд╛ рд╡рд╛рдХреНрдпрд╛рдВрдЪреНрдпрд╛ рдЙрдЪреНрдЪ-рдЧреБрдгрд╡рддреНрддреЗрдЪреНрдпрд╛ рднрд╛рд╖рд╛рдВрддрд░рд╛рд╕рд╣).

рд╣рд╛ рдкреНрд░рдХрд▓реНрдк SYSTRAN, рдорд╢реАрди рдЯреНрд░рд╛рдиреНрд╕рд▓реЗрд╢рди рдЯреВрд▓реНрд╕ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рдд рддрдЬреНрдЮ рдЕрд╕рд▓реЗрд▓реА рдХрдВрдкрдиреА рдЖрдгрд┐ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рд╕рд┐рд╕реНрдЯрдорд╕рд╛рдареА рдорд╛рдирд╡реА рднрд╛рд╖рд╛ рдореЙрдбреЗрд▓ рд╡рд┐рдХрд╕рд┐рдд рдХрд░рдгрд╛рд░реНтАНрдпрд╛ рд╣рд╛рд░реНрд╡рд░реНрдб рд╕рдВрд╢реЛрдзрдХрд╛рдВрдЪрд╛ рдПрдХ рдЧрдЯ рдпрд╛рдВрдЪреНрдпрд╛ рд╕рд╣рднрд╛рдЧрд╛рдиреЗ рд╡рд┐рдХрд╕рд┐рдд рдХреЗрд▓рд╛ рдЬрд╛рдд рдЖрд╣реЗ. рд╡рд╛рдкрд░рдХрд░реНрддрд╛ рдЗрдВрдЯрд░рдлреЗрд╕ рд╢рдХреНрдп рддрд┐рддрдХрд╛ рд╕рд░рд▓реАрдХреГрдд рдЖрд╣реЗ рдЖрдгрд┐ рднрд╛рд╖рд╛рдВрддрд░ рдкрд░рд┐рдгрд╛рдо рдЬрддрди рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рдХреЗрд╡рд│ рдордЬрдХреВрд░рд╛рд╕рд╣ рдЗрдирдкреБрдЯ рдлрд╛рдЗрд▓ рдЖрдгрд┐ рдлрд╛рдЗрд▓ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдХрд░рдгреЗ рдЖрд╡рд╢реНрдпрдХ рдЖрд╣реЗ. рд╡рд┐рд╕реНрддрд╛рд░ рдкреНрд░рдгрд╛рд▓реА OpenNMT рд╡рд░ рдЖрдзрд╛рд░рд┐рдд рдЕрддрд┐рд░рд┐рдХреНрдд рдХрд╛рд░реНрдпрдХреНрд╖рдорддрд╛ рд▓рд╛рдЧреВ рдХрд░рдгреЗ рд╢рдХреНрдп рдХрд░рддреЗ, рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, рд╕реНрд╡рдпрдВ-рд╕рд╛рд░рд╛рдВрд╢, рдордЬрдХреВрд░ рд╡рд░реНрдЧреАрдХрд░рдг рдЖрдгрд┐ рдЙрдкрд╢реАрд░реНрд╖рдХ рдирд┐рд░реНрдорд┐рддреА.

TensorFlow рдЪрд╛ рд╡рд╛рдкрд░ рддреБрдореНрд╣рд╛рд▓рд╛ GPU рдЪреА рдХреНрд╖рдорддрд╛ рд╡рд╛рдкрд░рдгреНрдпрд╛рдЪреА рдкрд░рд╡рд╛рдирдЧреА рджреЗрддреЛ (рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХрд▓рд╛ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреЗрдгреНрдпрд╛рдЪреА рдкреНрд░рдХреНрд░рд┐рдпрд╛ рд╡реЗрдЧрд╡рд╛рди рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА. рдЙрддреНрдкрд╛рджрдирд╛рдЪреЗ рд╡рд┐рддрд░рдг рд╕реБрд▓рдн рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА, рдкреНрд░рдХрд▓реНрдк C++ - CTranslate2 рдордзреНрдпреЗ рдЕрдиреБрд╡рд╛рджрдХрд╛рдЪреА рд╕реНрд╡рдпрдВрдкреВрд░реНрдг рдЖрд╡реГрддреНрддреА рджреЗрдЦреАрд▓ рд╡рд┐рдХрд╕рд┐рдд рдХрд░рдд рдЖрд╣реЗ. , рдЬреЗ рдЕрддрд┐рд░рд┐рдХреНрдд рдЕрд╡рд▓рдВрдмрдирд╛рдВрдЪрд╛ рд╕рдВрджрд░реНрдн рди рдШреЗрддрд╛ рдкреВрд░реНрд╡-рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдореЙрдбреЗрд▓ рд╡рд╛рдкрд░рддреЗ.

рдирд╡реАрди рдЖрд╡реГрддреНрддреА рдкреНрд░рд╛рд░рдВрднрд┐рдХ_рд╢рд┐рдХреНрд╖рдг_рджрд░ рдкреЕрд░рд╛рдореАрдЯрд░ рдЬреЛрдбрддреЗ рдЖрдгрд┐ рдЯреНрд░рд╛рдиреНрд╕рдлреЙрд░реНрдорд░ рдореЙрдбреЗрд▓ рдЬрдирд░реЗрдЯрд░ рдХреЙрдиреНрдлрд┐рдЧрд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рдЕрдиреЗрдХ рдирд╡реАрди рдпреБрдХреНрддрд┐рд╡рд╛рдж (mha_bias рдЖрдгрд┐ output_layer_bias) рд▓рд╛рдЧреВ рдХрд░рддреЗ. рдЙрд░реНрд╡рд░рд┐рдд рджреЛрд╖ рдирд┐рд░рд╛рдХрд░рдгреЗ рджреНрд╡рд╛рд░реЗ рдЪрд┐рдиреНрд╣рд╛рдВрдХрд┐рдд рдХреЗрд▓реЗ рдЖрд╣реЗ.

рд╕реНрддреНрд░реЛрдд: opennet.ru

рдПрдХ рдЯрд┐рдкреНрдкрдгреА рдЬреЛрдбрд╛