Ko te tukunga o te punaha whakamaori miihini OpenNMT 0.28.0 (Open Neural Machine Translation), e whakamahi ana i nga tikanga ako miihini, kua whakaputaina. Hei hanga i te whatunga neural, ka whakamahia e te kaupapa nga kaha o te whare pukapuka ako miihini hohonu a TensorFlow. Ko te waehere o nga waahanga i whakawhanakehia e te kaupapa OpenNMT ka tuhia ki te Python ka tohatohahia i raro i te raihana MIT. Kua rite nga tauira kua rite mo te reo Ingarihi, Tiamana me Catalan mo etahi atu reo, ka taea e koe te hanga takitahi i tetahi tauira i runga i te huinga raraunga mai i te kaupapa OPUS (mo te whakangungu, e rua nga konae ka whakawhiti ki te punaha - kotahi me nga rerenga korero i roto i te kaupapa OPUS; te reo taketake, me te tuarua me te whakamaoritanga kounga teitei o enei rerenga korero ki roto i te reo whainga ).
Kei te whanakehia te kaupapa me te whai waahi a SYSTRAN, he kamupene motuhake ki te hanga taputapu whakamaori miihini, me tetahi roopu o nga kairangahau Harvard e whakawhanake ana i nga tauira reo tangata mo nga punaha ako miihini. Ko te atanga kaiwhakamahi he mea ngawari ake ka taea, me tohu noa he konae whakauru me te tuhinga me te konae hei tiaki i te hua whakamaoritanga. Ma te punaha toronga ka taea te whakatinana i etahi atu mahi i runga i te OpenNMT, hei tauira, te whakarapopototanga-aunoa, te whakarōpūtanga tuhinga me te whakaputa taitararoto.
Ma te whakamahi i te TensorFlow ka taea e koe te whakamahi i nga kaha o te GPU (ki te tere ake i te mahi whakangungu i te whatunga neural. Hei whakangawari i te tohatoha o te hua, kei te whakawhanake ano te kaupapa i te waahanga whaiaro o te kaiwhakamaori i roto i te C++ - CTranslate2 , e whakamahi ana i nga tauira kua oti te whakangungu me te kore korero ki etahi atu taapiri.
Ka taapirihia e te putanga hou te tawhā initial_learning_rate me te whakatinana i etahi tohenga hou (mha_bias me output_layer_bias) ki te whirihora i te kaihanga tauira Transformer. Ko te toenga e tohuhia ana e nga whakatikatika iro.
Source: opennet.ru