OpenNMT 2.28.0 ๊ธฐ๊ณ„๋ฒˆ์—ญ ์‹œ์Šคํ…œ ์ถœ์‹œ

๋จธ์‹  ๋Ÿฌ๋‹ ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•˜๋Š” OpenNMT 0.28.0(Open Neural Machine Translation) ๊ธฐ๊ณ„ ๋ฒˆ์—ญ ์‹œ์Šคํ…œ์ด ์ถœ์‹œ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ์ด ํ”„๋กœ์ ํŠธ๋Š” ์‹ ๊ฒฝ๋ง์„ ๊ตฌ์ถ•ํ•˜๊ธฐ ์œ„ํ•ด TensorFlow ๋”ฅ ๋จธ์‹  ๋Ÿฌ๋‹ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ์˜ ๊ธฐ๋Šฅ์„ ํ™œ์šฉํ•ฉ๋‹ˆ๋‹ค. OpenNMT ํ”„๋กœ์ ํŠธ์—์„œ ๊ฐœ๋ฐœํ•œ ๋ชจ๋“ˆ์˜ ์ฝ”๋“œ๋Š” Python์œผ๋กœ ์ž‘์„ฑ๋˜์—ˆ์œผ๋ฉฐ MIT ๋ผ์ด์„ ์Šค์— ๋”ฐ๋ผ ๋ฐฐํฌ๋ฉ๋‹ˆ๋‹ค. ์˜์–ด, ๋…์ผ์–ด, ์นดํƒˆ๋ฃจ๋ƒ์–ด ๋ชจ๋ธ์€ ๊ธฐ์„ฑ ๋ชจ๋ธ์ด ์ค€๋น„๋˜์–ด ์žˆ์œผ๋ฉฐ, ๋‹ค๋ฅธ ์–ธ์–ด์˜ ๊ฒฝ์šฐ OPUS ํ”„๋กœ์ ํŠธ์˜ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ๋ชจ๋ธ์„ ์ง์ ‘ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. (ํ•™์Šต์„ ์œ„ํ•ด ๋‘ ๊ฐœ์˜ ํŒŒ์ผ์ด ์‹œ์Šคํ…œ์— ์ „์†ก๋ฉ๋‹ˆ๋‹ค. ํ•˜๋‚˜๋Š” ์›๋ณธ ์–ธ์–ด ๋ฌธ์žฅ์ด๊ณ , ๋‹ค๋ฅธ ํ•˜๋‚˜๋Š” ์›๋ณธ ์–ธ์–ด ๋ฌธ์žฅ์„ ๋Œ€์ƒ ์–ธ์–ด๋กœ ๊ณ ํ’ˆ์งˆ๋กœ ๋ฒˆ์—ญํ•œ ํŒŒ์ผ์ž…๋‹ˆ๋‹ค.)

์ด ํ”„๋กœ์ ํŠธ๋Š” ๊ธฐ๊ณ„ ๋ฒˆ์—ญ ๋„๊ตฌ ๊ฐœ๋ฐœ ์ „๋ฌธ ๊ธฐ์—…์ธ SYSTRAN๊ณผ ๊ธฐ๊ณ„ ํ•™์Šต ์‹œ์Šคํ…œ์„ ์œ„ํ•œ ์ธ๊ฐ„ ์–ธ์–ด ๋ชจ๋ธ์„ ๊ฐœ๋ฐœํ•˜๋Š” ํ•˜๋ฒ„๋“œ ์—ฐ๊ตฌ์ง„์˜ ์ฐธ์—ฌ๋กœ ๊ฐœ๋ฐœ๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์‚ฌ์šฉ์ž ์ธํ„ฐํŽ˜์ด์Šค๋Š” ์ตœ๋Œ€ํ•œ ๋‹จ์ˆœํ•˜๋ฉฐ, ํ…์ŠคํŠธ๊ฐ€ ํฌํ•จ๋œ ์ž…๋ ฅ ํŒŒ์ผ๊ณผ ๋ฒˆ์—ญ ๊ฒฐ๊ณผ ์ €์žฅ ํŒŒ์ผ๋งŒ ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค. ์ด ํ™•์žฅ ์‹œ์Šคํ…œ์„ ํ†ตํ•ด ์ž๋™ ์ฐธ์กฐ, ํ…์ŠคํŠธ ๋ถ„๋ฅ˜, ์ž๋ง‰ ์ƒ์„ฑ๊ณผ ๊ฐ™์€ OpenNMT ๊ธฐ๋ฐ˜ ์ถ”๊ฐ€ ๊ธฐ๋Šฅ์„ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

TensorFlow๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด GPU ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•˜์—ฌ ์‹ ๊ฒฝ๋ง ํ•™์Šต ํ”„๋กœ์„ธ์Šค๋ฅผ ๊ฐ€์†ํ™”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ œํ’ˆ ๋ฐฐํฌ๋ฅผ ๋‹จ์ˆœํ™”ํ•˜๊ธฐ ์œ„ํ•ด ์ด ํ”„๋กœ์ ํŠธ์—์„œ๋Š” C++ ์–ธ์–ด๋กœ ๋œ ๋…๋ฆฝํ˜• ๋ฒˆ์—ญ๊ธฐ ๋ฒ„์ „์ธ CTranslate2๋„ ๊ฐœ๋ฐœํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ฒ„์ „์€ ์ถ”๊ฐ€ ์ข…์†์„ฑ์— ๊ตฌ์• ๋ฐ›์ง€ ์•Š๊ณ  ์‚ฌ์ „ ํ•™์Šต๋œ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•ฉ๋‹ˆ๋‹ค.

์ƒˆ ๋ฒ„์ „์—์„œ๋Š” initial_learning_rate ๋งค๊ฐœ๋ณ€์ˆ˜๊ฐ€ ์ถ”๊ฐ€๋˜๊ณ , Transformer ๋ชจ๋ธ ์ƒ์„ฑ๊ธฐ ๊ตฌ์„ฑ์„ ์œ„ํ•œ ์—ฌ๋Ÿฌ ์ƒˆ๋กœ์šด ์ธ์ˆ˜(mha_bias ๋ฐ output_layer_bias)๊ฐ€ ๊ตฌํ˜„๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ๊ทธ ์™ธ์—๋Š” ๋ฒ„๊ทธ ์ˆ˜์ •์ด ์ด๋ฃจ์–ด์กŒ์Šต๋‹ˆ๋‹ค.

์ถœ์ฒ˜ : opennet.ru

DDoS ๋ณดํ˜ธ, VPS VDS ์„œ๋ฒ„๊ฐ€ ์žˆ๋Š” ์‚ฌ์ดํŠธ๋ฅผ ์œ„ํ•œ ์•ˆ์ •์ ์ธ ํ˜ธ์ŠคํŒ… ๊ตฌ์ž… ๐Ÿ”ฅ DDoS ๊ณต๊ฒฉ ๋ฐฉ์ง€ ๊ธฐ๋Šฅ์ด ํƒ‘์žฌ๋œ ์•ˆ์ •์ ์ธ ์›น์‚ฌ์ดํŠธ ํ˜ธ์ŠคํŒ…, VPS ๋ฐ VDS ์„œ๋ฒ„๋ฅผ ๊ตฌ๋งคํ•˜์„ธ์š” | ProHoster