Facebook αž…αŸαž‰αž•αŸ’αžŸαžΆαž™αž‚αŸ†αžšαžΌαž”αž€αž”αŸ’αžšαŸ‚αžαžΆαž˜αž˜αŸ‰αžΆαžŸαŸŠαžΈαž“αžŠαŸ‚αž›αž‚αžΆαŸ†αž‘αŸ’αžš 200 αž—αžΆαžŸαžΆ

Facebook (αž αžΆαž˜αž”αŸ’αžšαžΆαž˜αž€αŸ’αž“αž»αž„αžŸαž αž–αŸαž“αŸ’αž’αžšαž»αžŸαŸ’αžŸαŸŠαžΈ) αž”αžΆαž“αž•αŸ’αžŸαž–αŸ’αžœαž•αŸ’αžŸαžΆαž™αž–αžΈαž€αžΆαžšαž’αž—αž·αžœαžŒαŸ’αžαž“αŸαž“αŸƒαž‚αž˜αŸ’αžšαŸ„αž„ NLLB (No Language Left Behind) αžŠαŸ‚αž›αž˜αžΆαž“αž”αŸ†αžŽαž„αž”αž„αŸ’αž€αžΎαžαž‚αŸ†αžšαžΌαž˜αŸ‰αžΆαžŸαŸŠαžΈαž“αžšαŸ€αž“αž‡αžΆαžŸαž€αž›αžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αž’αžαŸ’αžαž”αž‘αžŠαŸ„αž™αž•αŸ’αž‘αžΆαž›αŸ‹αž–αžΈαž—αžΆαžŸαžΆαž˜αž½αž™αž‘αŸ…αž—αžΆαžŸαžΆαž˜αž½αž™αž‘αŸ€αž αžŠαŸ„αž™αžšαŸ†αž›αž„αž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αž€αž˜αŸ’αžšαž·αžαž˜αž’αŸ’αž™αž˜αž‘αŸ…αž‡αžΆαž—αžΆαžŸαžΆαž’αž„αŸ‹αž‚αŸ’αž›αŸαžŸαŸ” αž‚αŸ†αžšαžΌαžŠαŸ‚αž›αž”αžΆαž“αžŸαŸ’αž“αžΎαž‘αžΎαž„αž‚αŸ’αžšαž”αžŠαžŽαŸ’αžαž”αŸ‹αž‡αžΆαž„ 200 αž—αžΆαžŸαžΆ αžšαž½αž˜αž‘αžΆαŸ†αž„αž—αžΆαžŸαžΆαžŠαŸαž€αž˜αŸ’αžšαžšαž”αžŸαŸ‹αž”αŸ’αžšαž‡αžΆαž‡αž“αž’αžΆαž αŸ’αžœαŸ’αžšαž·αž€ αž“αž·αž„αž’αžΌαžŸαŸ’αžαŸ’αžšαžΆαž›αžΈαŸ” αž‚αŸ„αž›αžŠαŸ…αž…αž»αž„αž€αŸ’αžšαŸ„αž™αž“αŸƒαž‚αž˜αŸ’αžšαŸ„αž„αž‚αžΊαž•αŸ’αžαž›αŸ‹αž˜αž’αŸ’αž™αŸ„αž”αžΆαž™αž‘αŸ†αž“αžΆαž€αŸ‹αž‘αŸ†αž“αž„αžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž˜αž“αž»αžŸαŸ’αžŸαž‚αŸ’αžšαž”αŸ‹αžšαžΌαž” αžŠαŸ„αž™αž˜αž·αž“αž‚αž·αžαž–αžΈαž—αžΆαžŸαžΆαžŠαŸ‚αž›αž–αž½αž€αž‚αŸαž“αž·αž™αžΆαž™αž“αŸ„αŸ‡αž‘αŸαŸ”

αž˜αŸ‰αžΌαžŠαŸ‚αž›αž“αŸαŸ‡αžαŸ’αžšαžΌαžœαž”αžΆαž“αž•αŸ’αžαž›αŸ‹αž’αžΆαž‡αŸ’αž‰αžΆαž”αŸαžŽαŸ’αžŽαž€αŸ’αžšαŸ„αž˜αž’αžΆαž‡αŸ’αž‰αžΆαž”αŸαžŽαŸ’αžŽ Creative Commons BY-NC 4.0 αžŠαŸ‚αž›αž’αž“αž»αž‰αŸ’αž‰αžΆαžαž±αŸ’αž™αž…αž˜αŸ’αž›αž„ αž€αžΆαžšαž…αŸ‚αž€αž…αžΆαž™αž‘αžΎαž„αžœαž·αž‰ αž€αžΆαžšαž”αŸ’αžŠαžΌαžšαžαžΆαž˜αž”αŸ†αžŽαž„ αž“αž·αž„αž€αžΆαžšαž„αžΆαžšαžŠαŸαžšαžΈαžœαŸ αžŠαŸ„αž™αž•αŸ’αžαž›αŸ‹αž‡αžΌαž“αž’αŸ’αž“αž€αž•αŸ’αžαž›αŸ‹αž‚αž»αžŽαž›αž€αŸ’αžαžŽαŸˆ αžšαž€αŸ’αžŸαžΆαž’αžΆαž‡αŸ’αž‰αžΆαž”αŸαžŽαŸ’αžŽ αž“αž·αž„αž”αŸ’αžšαžΎαž”αŸ’αžšαžΆαžŸαŸ‹αžœαžΆαžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž‚αŸ„αž›αž”αŸ†αžŽαž„αž˜αž·αž“αž˜αŸ‚αž“αž–αžΆαžŽαž·αž‡αŸ’αž‡αž€αž˜αŸ’αž˜αžαŸ‚αž”αŸ‰αž»αžŽαŸ’αžŽαŸ„αŸ‡αŸ” αž§αž”αž€αžšαžŽαŸαžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž’αŸ’αžœαžΎαž€αžΆαžšαž‡αžΆαž˜αž½αž™αž˜αŸ‰αžΌαžŠαŸ‚αž›αžαŸ’αžšαžΌαžœαž”αžΆαž“αž•αŸ’αžαž›αŸ‹αž‡αžΌαž“αž€αŸ’αžšαŸ„αž˜αž’αžΆαž‡αŸ’αž‰αžΆαž”αŸαžŽαŸ’αžŽ MIT αŸ” αžŠαžΎαž˜αŸ’αž”αžΈαž‡αŸ†αžšαž»αž‰αž€αžΆαžšαž’αž—αž·αžœαžŒαŸ’αžαž“αŸαžŠαŸ„αž™αž”αŸ’αžšαžΎαž‚αŸ†αžšαžΌ NLLB αžœαžΆαžαŸ’αžšαžΌαžœαž”αžΆαž“αž‚αŸαžŸαž˜αŸ’αžšαŸαž…αž…αž·αžαŸ’αžαž”αŸ‚αž„αž…αŸ‚αž€ 200 αž–αžΆαž“αŸ‹αžŠαž»αž›αŸ’αž›αžΆαžšαžŠαžΎαž˜αŸ’αž”αžΈαž•αŸ’αžαž›αŸ‹αž‡αŸ†αž“αž½αž™αžŠαž›αŸ‹αž’αŸ’αž“αž€αžŸαŸ’αžšαžΆαžœαž‡αŸ’αžšαžΆαžœαŸ”

αžŠαžΎαž˜αŸ’αž”αžΈαžŸαž˜αŸ’αžšαž½αž›αžŠαž›αŸ‹αž€αžΆαžšαž”αž„αŸ’αž€αžΎαžαž‚αž˜αŸ’αžšαŸ„αž„αžŠαŸ„αž™αž”αŸ’αžšαžΎαž‚αŸ†αžšαžΌαžŠαŸ‚αž›αž”αžΆαž“αžŸαŸ’αž“αžΎαž‘αžΎαž„ αž€αžΌαžŠαž“αŸƒαž€αž˜αŸ’αž˜αžœαž·αž’αžΈαžŠαŸ‚αž›αž”αŸ’αžšαžΎαžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž€αžΆαžšαž’αŸ’αžœαžΎαžαŸαžŸαŸ’αž αž“αž·αž„αžœαžΆαž™αžαž˜αŸ’αž›αŸƒαž‚αž»αžŽαž—αžΆαž–αž“αŸƒαž‚αŸ†αžšαžΌ (FLORES-200, NLLB-MD, Toxicity-200) αž€αžΌαžŠαžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž‚αŸ†αžšαžΌαž”αžŽαŸ’αžαž»αŸ‡αž”αžŽαŸ’αžαžΆαž› αž“αž·αž„αž§αž”αž€αžšαžŽαŸαž”αŸ†αž›αŸ‚αž„αž€αžΌαžŠαžŠαŸ„αž™αž•αŸ’αž’αŸ‚αž€αž›αžΎαž”αžŽαŸ’αžŽαžΆαž›αŸαž™ LASER3 ( Language-Agnostic SEntence) αž‡αžΆαž”αŸ’αžšαž—αž–αž”αžΎαž€αž…αŸ†αž αž”αž“αŸ’αžαŸ‚αž˜αŸ” αžαŸ†αžŽαžΆαž„)αŸ” αž˜αŸ‰αžΌαžŠαŸ‚αž›αž…αž»αž„αž€αŸ’αžšαŸ„αž™αžαŸ’αžšαžΌαžœαž”αžΆαž“αž•αŸ’αžαž›αŸ‹αž‡αžΌαž“αž‡αžΆαž–αžΈαžšαž€αŸ†αžŽαŸ‚ - αž–αŸαž‰αž“αž·αž„αžαŸ’αž›αžΈαŸ” αž€αŸ†αžŽαŸ‚αžαŸ’αž›αžΈαŸ— αžαŸ’αžšαžΌαžœαž€αžΆαžšαž’αž“αž’αžΆαž“αžαž·αž…αž‡αžΆαž„αž˜αž»αž“ αž“αž·αž„αžŸαž˜αžšαž˜αŸ’αž™αžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž€αžΆαžšαž’αŸ’αžœαžΎαžαŸαžŸαŸ’αž αž“αž·αž„αž”αŸ’αžšαžΎαž”αŸ’αžšαžΆαžŸαŸ‹αž€αŸ’αž“αž»αž„αž‚αž˜αŸ’αžšαŸ„αž„αžŸαŸ’αžšαžΆαžœαž‡αŸ’αžšαžΆαžœαŸ”

αž˜αž·αž“αžŠαžΌαž…αž”αŸ’αžšαž–αŸαž“αŸ’αž’αž”αž€αž”αŸ’αžšαŸ‚αž•αŸ’αžŸαŸαž„αž‘αŸ€αžαžŠαŸ‚αž›αž˜αžΆαž“αž˜αžΌαž›αžŠαŸ’αž‹αžΆαž“αž›αžΎαž”αŸ’αžšαž–αŸαž“αŸ’αž’αžšαŸ€αž“αž˜αŸ‰αžΆαžŸαŸŠαžΈαž“ αžŠαŸ†αžŽαŸ„αŸ‡αžŸαŸ’αžšαžΆαž™αžšαž”αžŸαŸ‹ Facebook αž‚αžΊαž‚αž½αžšαž±αŸ’αž™αž€αžαŸ‹αžŸαž˜αŸ’αž‚αžΆαž›αŸ‹αžŠαŸ‚αž›αžœαžΆαž•αŸ’αžαž›αŸ‹αž“αžΌαžœαž‚αŸ†αžšαžΌαž‘αžΌαž‘αŸ…αž˜αž½αž™αžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž‚αŸ’αžšαž”αŸ‹ 200 αž—αžΆαžŸαžΆ αž‚αŸ’αžšαž”αžŠαžŽαŸ’αžαž”αŸ‹αž‚αŸ’αžšαž”αŸ‹αž—αžΆαžŸαžΆ αž“αž·αž„αž˜αž·αž“αžαž˜αŸ’αžšαžΌαžœαž±αŸ’αž™αž˜αžΆαž“αž€αžΆαžšαž”αŸ’αžšαžΎαž”αŸ’αžšαžΆαžŸαŸ‹αž‚αŸ†αžšαžΌαžŠαžΆαž…αŸ‹αžŠαŸ„αž™αž‘αŸ‚αž€αžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž—αžΆαžŸαžΆαž“αžΈαž˜αž½αž™αŸ—αŸ” αž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αžαŸ’αžšαžΌαžœαž”αžΆαž“αž’αž“αž»αžœαžαŸ’αžαžŠαŸ„αž™αž•αŸ’αž‘αžΆαž›αŸ‹αž–αžΈαž—αžΆαžŸαžΆαž”αŸ’αžšαž—αž–αž‘αŸ…αž—αžΆαžŸαžΆαž‚αŸ„αž›αžŠαŸ… αžŠαŸ„αž™αž˜αž·αž“αž˜αžΆαž“αž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αž€αž˜αŸ’αžšαž·αžαž˜αž’αŸ’αž™αž˜αž‘αŸ…αž‡αžΆαž—αžΆαžŸαžΆαž’αž„αŸ‹αž‚αŸ’αž›αŸαžŸαž‘αŸαŸ” αžŠαžΎαž˜αŸ’αž”αžΈαž”αž„αŸ’αž€αžΎαžαž”αŸ’αžšαž–αŸαž“αŸ’αž’αž”αž€αž”αŸ’αžšαŸ‚αž‡αžΆαžŸαž€αž› αž‚αŸ†αžšαžΌ LID (αž€αžΆαžšαž€αŸ†αžŽαžαŸ‹αž’αžαŸ’αžαžŸαž‰αŸ’αž‰αžΆαžŽαž—αžΆαžŸαžΆ) αžαŸ’αžšαžΌαžœαž”αžΆαž“αžŸαŸ’αž“αžΎαž”αž“αŸ’αžαŸ‚αž˜ αžŠαŸ‚αž›αž’αŸ’αžœαžΎαž±αŸ’αž™αžœαžΆαž’αžΆαž…αž€αŸ†αžŽαžαŸ‹αž—αžΆαžŸαžΆαžŠαŸ‚αž›αž”αžΆαž“αž”αŸ’αžšαžΎαŸ” αž‘αžΆαŸ†αž„αž“αŸ„αŸ‡αŸ” αž”αŸ’αžšαž–αŸαž“αŸ’αž’αž’αžΆαž…αž‘αž‘αž½αž›αžŸαŸ’αž‚αžΆαž›αŸ‹αžŠαŸ„αž™αžŸαŸ’αžœαŸαž™αž”αŸ’αžšαžœαžαŸ’αžαž·αž“αžΌαžœαž—αžΆαžŸαžΆαžŽαžΆαž˜αž½αž™αžŠαŸ‚αž›αž–αŸαžαŸŒαž˜αžΆαž“αžαŸ’αžšαžΌαžœαž”αžΆαž“αž•αŸ’αžαž›αŸ‹ αž“αž·αž„αž”αž€αž”αŸ’αžšαŸ‚αžœαžΆαž‡αžΆαž—αžΆαžŸαžΆαžšαž”αžŸαŸ‹αž’αŸ’αž“αž€αž”αŸ’αžšαžΎαž”αŸ’αžšαžΆαžŸαŸ‹αŸ”

αž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αžαŸ’αžšαžΌαžœαž”αžΆαž“αž‚αžΆαŸ†αž‘αŸ’αžšαž€αŸ’αž“αž»αž„αž‘αž·αžŸαžŠαŸ…αžŽαžΆαž˜αž½αž™ αžšαžœαžΆαž„αž—αžΆαžŸαžΆαžŽαžΆαž˜αž½αž™αž€αŸ’αž“αž»αž„αž…αŸ†αžŽαŸ„αž˜ 200 αž—αžΆαžŸαžΆαžŠαŸ‚αž›αž”αžΆαž“αž‚αžΆαŸ†αž‘αŸ’αžšαŸ” αžŠαžΎαž˜αŸ’αž”αžΈαž”αž‰αŸ’αž‡αžΆαž€αŸ‹αž–αžΈαž‚αž»αžŽαž—αžΆαž–αž“αŸƒαž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αžšαžœαžΆαž„αž—αžΆαžŸαžΆαžŽαžΆαž˜αž½αž™ αžŸαŸ†αžŽαž»αŸ†αžαŸαžŸαŸ’αžαž―αž€αžŸαžΆαžšαž™αŸ„αž„ FLORES-200 αžαŸ’αžšαžΌαžœαž”αžΆαž“αžšαŸ€αž”αž…αŸ† αžŠαŸ‚αž›αž”αž„αŸ’αž αžΆαž‰αžαžΆ αž‚αŸ†αžšαžΌ NLLB-200 αž‘αžΆαž€αŸ‹αž‘αž„αž“αžΉαž„αž‚αž»αžŽαž—αžΆαž–αž“αŸƒαž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αž‚αžΊαž‡αžΆαž˜αž’αŸ’αž™αž˜ 44% αž”αŸ’αžšαžŸαžΎαžšαž‡αžΆαž„αž”αŸ’αžšαž–αŸαž“αŸ’αž’αžŸαŸ’αžšαžΆαžœαž‡αŸ’αžšαžΆαžœαžŠαŸ‚αž›αž•αŸ’αž’αŸ‚αž€αž›αžΎαž˜αŸ‰αžΆαžŸαŸŠαžΈαž“αžŠαŸ‚αž›αž”αžΆαž“αžŸαŸ’αž“αžΎαž–αžΈαž˜αž»αž“αž“αŸ…αž–αŸαž›αž”αŸ’αžšαžΎαŸ” αžšαž„αŸ’αžœαžΆαžŸαŸ‹ BLEU αž”αŸ’αžšαŸ€αž”αž’αŸ€αž”αž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αž˜αŸ‰αžΆαžŸαŸŠαžΈαž“αž‡αžΆαž˜αž½αž™αž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αž˜αž“αž»αžŸαŸ’αžŸαžŸαŸ’αžαž„αŸ‹αžŠαžΆαžšαŸ” αžŸαž˜αŸ’αžšαžΆαž”αŸ‹αž—αžΆαžŸαžΆαž’αžΆαž αŸ’αžšαŸ’αžœαž·αž€αžŠαŸαž€αž˜αŸ’αžš αž“αž·αž„αž‚αŸ’αžšαžΆαž˜αž—αžΆαžŸαžΆαž₯αžŽαŸ’αžŒαžΆ αž§αžαŸ’αžαž˜αž—αžΆαž–αž“αŸƒαž‚αž»αžŽαž—αžΆαž–αžˆαžΆαž“αžŠαž›αŸ‹ 70% αŸ” αžœαžΆαž’αžΆαž…αž’αŸ’αžœαžΎαž‘αŸ…αž”αžΆαž“αžŠαžΎαž˜αŸ’αž”αžΈαžœαžΆαž™αžαž˜αŸ’αž›αŸƒαžŠαŸ„αž™αž˜αžΎαž›αžƒαžΎαž‰αž“αžΌαžœαž‚αž»αžŽαž—αžΆαž–αž“αŸƒαž€αžΆαžšαž”αž€αž”αŸ’αžšαŸ‚αž“αŸ…αž›αžΎαž‚αŸαž αž‘αŸ†αž–αŸαžšαžŸαžΆαž€αž›αŸ’αž”αž„αžŠαŸ‚αž›αž”αžΆαž“αžšαŸ€αž”αž…αŸ†αž‡αžΆαž–αž·αžŸαŸαžŸαŸ”

αž”αŸ’αžšαž—αž–: opennet.ru

αž”αž“αŸ’αžαŸ‚αž˜αž˜αžαž·αž™αŸ„αž”αž›αŸ‹