ืคืจืกืื ืืขืจืืช ืืชืจืืื ืืืืื ื OpenNMT 0.28.0 (Open Neural Machine Translation), ืืืฉืชืืฉืช ืืฉืืืืช ืืืืืช ืืืื ื, ืคืืจืกืื. ืืื ืืื ืืช ืจืฉืช ืขืฆืืืช, ืืคืจืืืงื ืืฉืชืืฉ ืืืืืืืช ืฉื ืกืคืจืืืช ืืืืืช ืืืื ื ืขืืืงื ืฉื TensorFlow. ืืงืื ืฉื ืืืืืืืื ืฉืคืืชืื ืขื ืืื ืคืจืืืงื OpenNMT ืืชืื ื-Python ืืืืคืฅ ืชืืช ืจืืฉืืื MIT. ืืืืืื ืืืื ืื ืืืื ืื ืืฉืคืืช ืื ืืืืช, ืืจืื ืืช ืืงืืืื ืืช; ืืฉืคืืช ืืืจืืช, ื ืืชื ืืืฆืืจ ืืืืคื ืขืฆืืื ืืืื ืืืืืกืก ืขื ืกื ื ืชืื ืื ืืคืจืืืงื OPUS (ืืืืจืื ืืืขืืจืื ืืืขืจืืช ืฉื ื ืงืืฆืื - ืืื ืขื ืืฉืคืืื ื- ืฉืคืช ืืืงืืจ, ืืืฉื ืืื ืขื ืชืจืืื ืืืืืชื ืฉื ืืฉืคืืื ืืื ืืฉืคืช ืืืขื).
ืืคืจืืืงื ืืคืืชื ืืืฉืชืชืคืืช SYSTRAN, ืืืจื ืืืชืืื ืืืฆืืจืช ืืื ืชืจืืื ืืืื ื, ืืงืืืฆืช ืืืงืจื ืืจืืืืจื ืืืคืชืืื ืืืืืื ืฉื ืฉืคืืช ืื ืืฉืืืช ืืืขืจืืืช ืืืืืช ืืืื ื. ืืืฉืง ืืืฉืชืืฉ ืคืฉืื ืืื ืืืคืฉืจ ืืืืจืฉ ืจืง ืฆืืื ืงืืืฅ ืงืื ืขื ืืงืกื ืืงืืืฅ ืืฉืืืจืช ืชืืฆืืช ืืชืจืืื. ืืขืจืืช ืืืจืืื ืืืคืฉืจืช ืืืืฉื ืคืื ืงืฆืืื ืืืืช ื ืืกืคืช ืืืืืกืกืช ืขื OpenNMT, ืืืฉื, ืกืืืื ืืืืืืื, ืกืืืื ืืงืกื ืืืคืงืช ืืชืืืืืช.
ืืฉืืืืฉ ื-TensorFlow ืืืคืฉืจ ืืืฉืชืืฉ ืืืืืืืช ืฉื ื-GPU (ืืื ืืืืืฅ ืืช ืชืืืื ืืืืืื ืฉื ืจืฉืช ืขืฆืืืช. ืืื ืืคืฉื ืืช ืืคืฆืช ืืืืฆืจ, ืืคืจืืืงื ืืคืชื ืื ืืจืกื ืขืฆืืืืช ืฉื ืืืชืจืื ื-C++ - CTranslate2 , ืืืฉืชืืฉืช ืืืืืืื ืฉืืืืฉืจื ืืจืืฉ ืืื ืืชืืืืกืืช ืืชืืืช ื ืืกืคืืช.
ืืืจืกื ืืืืฉื ืืืกืืคื ืืช ืืคืจืืืจ initial_learning_rate ืืืืืฉืืช ืืกืคืจ ืืจืืืื ืืื ืืืฉืื (mha_bias ื-out_layer_bias) ืืื ืืืืืืจ ืืช ืืืืื ืืืื ื-Transformer. ืืฉืืจ ืืกืืื ืขื ืืื ืชืืงืื ื ืืืืื.
ืืงืืจ: OpenNet.ru