Hoʻokuʻu ʻia o OpenNMT 2.28.0 ʻōnaehana unuhi mīkini

Ua paʻi ʻia ka hoʻokuʻu ʻana o ka ʻōnaehana unuhi mīkini OpenNMT 0.28.0 (Open Neural Machine Translation), e hoʻohana ana i nā ʻano aʻo mīkini. No ke kūkulu ʻana i kahi pūnaewele neural, hoʻohana ka papahana i nā hiki o ka TensorFlow deep machine learning library. Ua kākau ʻia ke code o nā modules i kūkulu ʻia e ka papahana OpenNMT ma Python a hāʻawi ʻia ma lalo o ka laikini MIT. Hoʻomākaukau ʻia nā hiʻohiʻona mākaukau no ka ʻōlelo Pelekania, Kelemānia a me Catalan; no nā ʻōlelo ʻē aʻe, hiki iā ʻoe ke hana kūʻokoʻa i kahi hoʻohālike e pili ana i kahi hoʻonohonoho ʻikepili mai ka papahana OPUS (no ka hoʻomaʻamaʻa ʻana, ua hoʻoili ʻia nā faila ʻelua i ka ʻōnaehana - hoʻokahi me nā huaʻōlelo ma ka ʻōlelo kumu, a ʻo ka lua me ka unuhi kiʻekiʻe o kēia mau ʻōlelo i loko o ka ʻōlelo i manaʻo ʻia ).

Hoʻomohala ʻia ka papahana me ke komo ʻana o SYSTRAN, kahi hui kūikawā i ka hana ʻana i nā mea unuhi mīkini, a me kahi hui o nā mea noiʻi Harvard e hoʻomohala ana i nā kumu hoʻohālike ʻōlelo kanaka no nā ʻōnaehana aʻo mīkini. Ua maʻalahi ka mea hoʻohana e like me ka hiki a koi wale i ka wehewehe ʻana i kahi faila hoʻokomo me ka kikokikona a me kahi faila e mālama ai i ka hopena unuhi. Hiki i ka ʻōnaehana hoʻonui ke hoʻokō i nā hana hou aʻe e pili ana i OpenNMT, no ka laʻana, ka hōʻuluʻulu ʻokoʻa, ka hoʻokaʻawale ʻana i nā kikokikona a me ka hanauna subtitle.

ʻO ka hoʻohana ʻana iā TensorFlow hiki iā ʻoe ke hoʻohana i nā mana o ka GPU (e wikiwiki i ke kaʻina hana o ke aʻo ʻana i kahi pūnaewele neural. , e hoʻohana ana i nā hiʻohiʻona i hoʻomaʻamaʻa mua ʻia me ka ʻole e pili ana i nā hilinaʻi hou.

Hoʻohui ka mana hou i ka ʻāpana initial_learning_rate a hoʻokō i kekahi mau manaʻo hoʻopaʻapaʻa hou (mha_bias a me output_layer_bias) e hoʻonohonoho i ka mīkini hoʻohālike Transformer. Hōʻailona ʻia ke koena e ka hoʻoponopono bug.

Source: opennet.ru

Pākuʻi i ka manaʻo hoʻopuka