์ฐ๋ฆฌ๋ ํด๋๋ค!
"์ด ๊ณผ์ ์ ๋ชฉ์ ์ ๊ธฐ์ ์ ์ธ ๋ฏธ๋๋ฅผ ์ค๋นํ๋ ๊ฒ์ ๋๋ค."
์๋
ํ์ธ์, ํ๋ธ๋ฅด๋. ๋ฉ์ง ๊ธ ๊ธฐ์ตํด์ฃผ์ธ์
๊ทธ๋์ ํด๋ฐ(์, ์, ์์ฒด ๋ชจ๋ํฐ๋ง ๋ฐ ์์ฒด ์์
์ด ์ฑ ์ ๋จ์ง IT์ ๊ดํ ์ฑ ์ด ์๋๋ผ, ์์ฒญ๋๊ฒ ๋ฉ์ง ์ฌ๋๋ค์ ์ฌ๊ณ ๋ฐฉ์์ ๊ดํ ์ฑ ์ ๋๋ค. โ๊ทธ๊ฒ์ ๋จ์ง ๊ธ์ ์ ์ธ ์ฌ๊ณ ์ ํฅ์์ด ์๋๋๋ค. ๊ทธ๊ฒ์ ํ๋ฅญํ ์ผ์ ํ ๊ฐ๋ฅ์ฑ์ ๋์ด๋ ์กฐ๊ฑด์ ์ค๋ช ํฉ๋๋ค.โ
๋ฒ์ญ์ ํด์ฃผ์ Andrey Pakhomov์๊ฒ ๊ฐ์ฌ๋๋ฆฝ๋๋ค.
์ ๋ณด ์ด๋ก ์ 1940๋
๋ ํ๋ฐ C. E. Shannon์ ์ํด ๊ฐ๋ฐ๋์์ต๋๋ค. ๋ฒจ ์ฐ๊ตฌ์ ๊ฒฝ์์ง์ ์ด๋ฅผ '์ปค๋ฎค๋์ผ์ด์
์ด๋ก '์ด๋ผ๊ณ ๋ถ๋ฅด๊ฒ ๋ค๊ณ ์ฃผ์ฅํ๋๋ฐ, ๊ทธ ์ด์ ๋... ์ด๊ฒ์ด ํจ์ฌ ๋ ์ ํํ ์ด๋ฆ์ด๋ค. ๋น์ฐํ ์ด์ ๋ก "์ ๋ณด ์ด๋ก "์ด๋ผ๋ ์ด๋ฆ์ ๋์ค์๊ฒ ํจ์ฌ ๋ ํฐ ์ํฅ์ ๋ฏธ์น๊ธฐ ๋๋ฌธ์ Shannon์ด ๊ทธ๊ฒ์ ์ ํํ ์ด์ ์ด๋ฉฐ ์ค๋๋ ๊น์ง ์ฐ๋ฆฌ๊ฐ ์๊ณ ์๋ ์ด๋ฆ์
๋๋ค. ์ด๋ฆ ์์ฒด๋ ์ด๋ก ์ด ์ ๋ณด๋ฅผ ๋ค๋ฃฌ๋ค๋ ๊ฒ์ ์์ํ๋ฉฐ, ์ด๋ ์ฐ๋ฆฌ๊ฐ ์ ๋ณด ์๋๋ก ๋ ๊น์ด ๋ค์ด๊ฐ์๋ก ์ค์ํด์ง๋๋ค. ์ด ์ฅ์์๋ ์ด ์ด๋ก ์ ๋ช ๊ฐ์ง ์ฃผ์ ๊ฒฐ๋ก ์ ๋ค๋ฃฐ ๊ฒ์
๋๋ค. ์๊ฒฉํ์ง๋ ์์ง๋ง ์ด ์ด๋ก ์ ์ผ๋ถ ๊ฐ๋ณ ์กฐํญ์ ๋ํ ์ง๊ด์ ์ธ ์ฆ๊ฑฐ๋ฅผ ์ ๊ณตํ์ฌ "์ ๋ณด ์ด๋ก "์ด ์ค์ ๋ก ๋ฌด์์ธ์ง ์ดํดํ๊ณ ์ ์ฉํ ์ ์์ต๋๋ค. ๊ทธ๋ฆฌ๊ณ ๊ทธ๋ ์ง ์์ ๊ณณ์ .
๋จผ์ , '์ ๋ณด'๋ ๋ฌด์์ผ๊น์? Shannon์ ์ ๋ณด๋ฅผ ๋ถํ์ค์ฑ๊ณผ ๋์ผ์ํฉ๋๋ค. ๊ทธ๋ ํ๋ฅ ์ด p์ธ ์ฌ๊ฑด์ด ๋ฐ์ํ ๋ ๋ฐ๋ ์ ๋ณด๋ฅผ ์ ๋์ ์ผ๋ก ์ธก์ ํ๋ ๋ฐฉ๋ฒ์ผ๋ก ์ฌ๊ฑด ํ๋ฅ ์ ์์ ๋ก๊ทธ๋ฅผ ์ ํํ์ต๋๋ค. ์๋ฅผ ๋ค์ด, ๋ก์ค์ค์ ค๋ ์ค์ ๋ ์จ๊ฐ ์๊ฐ๊ฐ ๋๋ค๊ณ ๋งํ๋ฉด p๋ 1์ ๊ฐ๊น์์ ์ค์ ๋ก ๋ง์ ์ ๋ณด๋ฅผ ์ ๊ณตํ์ง ์์ต๋๋ค. ํ์ง๋ง 1์์ ๋ชฌํฐ๋ ์ด์ ๋น๊ฐ ๋ด๋ฆฐ๋ค๊ณ ๋งํ๋ฉด ๋ฉ์์ง์ ๋ถํ์ค์ฑ์ด ์์ ๊ฒ์ด๊ณ ๋ ๋ง์ ์ ๋ณด๊ฐ ํฌํจ๋ ๊ฒ์
๋๋ค. ๋ก๊ทธ 0 = XNUMX์ด๋ฏ๋ก ์ ๋ขฐํ ์ ์๋ ์ด๋ฒคํธ์๋ ์ ๋ณด๊ฐ ํฌํจ๋์ด ์์ง ์์ต๋๋ค.
์ด์ ๋ํด ์ข ๋ ์์ธํ ์ดํด๋ณด๊ฒ ์ต๋๋ค. Shannon์ ์ ๋ณด์ ์ ๋์ ์ธก์ ์ด ์ฌ๊ฑด p ํ๋ฅ ์ ์ฐ์ ํจ์์ฌ์ผ ํ๋ฉฐ ๋ ๋ฆฝ์ ์ธ ์ฌ๊ฑด์ ๊ฒฝ์ฐ ์ถ๊ฐ์ ์ด์ด์ผ ํ๋ค๊ณ ๋ฏฟ์์ต๋๋ค. ๋ ๊ฐ์ ๋ ๋ฆฝ์ ์ธ ์ฌ๊ฑด์ ๋ฐ์ ๊ฒฐ๊ณผ๋ก ์ป์ ์ ๋ณด์ ์์ ๋ค์๊ณผ ๊ฐ์์ผ ํฉ๋๋ค. ๊ณต๋ ์ด๋ฒคํธ ๋ฐ์์ ๊ฒฐ๊ณผ๋ก ์ป์ ์ ๋ณด์ ์. ์๋ฅผ ๋ค์ด, ์ฃผ์ฌ์ ๊ตด๋ฆผ๊ณผ ๋์ ๊ตด๋ฆผ์ ๊ฒฐ๊ณผ๋ ์ผ๋ฐ์ ์ผ๋ก ๋ ๋ฆฝ์ ์ธ ์ด๋ฒคํธ๋ก ์ฒ๋ฆฌ๋ฉ๋๋ค. ์์ ๋ด์ฉ์ ์ํ์ ์ธ์ด๋ก ๋ฒ์ญํด ๋ณด๊ฒ ์ต๋๋ค. I(p)๊ฐ ํ๋ฅ p์ธ ์ฌ๊ฑด์ ํฌํจ๋ ์ ๋ณด์ ์์ด๋ผ๋ฉด ํ๋ฅ p1์ ๋ ๋ ๋ฆฝ ์ฌ๊ฑด x์ ํ๋ฅ p2์ y๋ก ๊ตฌ์ฑ๋ ๊ฒฐํฉ ์ฌ๊ฑด์ ๋ํด ๋ค์์ ์ป์ต๋๋ค.
(x์ y๋ ๋
๋ฆฝ ์ฌ๊ฑด์
๋๋ค)
์ด๊ฒ์ ๋ชจ๋ p1๊ณผ p2์ ๋ํด ์ ์ฉ๋๋ ํจ์ํ Cauchy ๋ฐฉ์ ์์ ๋๋ค. ์ด ํจ์ ๋ฐฉ์ ์์ ํ๊ธฐ ์ํด ๋ค์์ ๊ฐ์ ํฉ๋๋ค.
p1 = p2 = p,
์ด๊ฒ์ ์ค๋ค
p1 = p2์ด๊ณ p2 = p์ด๋ฉด
๋ฑ. ์ง์์ ๋ํ ํ์ค ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์ฌ ์ด ํ๋ก์ธ์ค๋ฅผ ํ์ฅํ๋ฉด ๋ชจ๋ ์ ๋ฆฌ์ m/n์ ๋ํด ๋ค์์ด ์ฐธ์
๋๋ค.
์ ๋ณด ์ธก๋์ ์ฐ์์ฑ์ ๊ฐ์ ํ๋ฉด ๋ก๊ทธ ํจ์๊ฐ ์ฝ์ ํจ์ ๋ฐฉ์ ์์ ์ ์ผํ ์ฐ์ ํด๋ฒ์ด๋ผ๋ ๊ฒฐ๋ก ์ด ๋์ต๋๋ค.
์ ๋ณด ์ด๋ก ์์๋ ๋์ ๋ฐ์ด 2์ธ ๊ฒ์ด ์ผ๋ฐ์ ์ด๋ฏ๋ก ์ด์ง ์ ํ์๋ ์ ํํ 1๋นํธ์ ์ ๋ณด๊ฐ ํฌํจ๋ฉ๋๋ค. ๋ฐ๋ผ์ ์ ๋ณด๋ ๋ค์ ๊ณต์์ผ๋ก ์ธก์ ๋ฉ๋๋ค.
์ ์ ๋ฉ์ถ๊ณ ์์์ ๋ฌด์จ ์ผ์ด ์ผ์ด๋ฌ๋์ง ์ดํดํด ๋ด
์๋ค. ์ฐ์ , ์ฐ๋ฆฌ๋ '์ ๋ณด'์ ๊ฐ๋
์ ์ ์ํ์ง ์๊ณ ๋จ์ํ ์ ๋ณด์ ์ ๋์ ์ธก์ ๊ณต์์ ์ ์ํ์ต๋๋ค.
๋์งธ, ์ด ์ธก์ ๊ฐ์ ๋ถํ์ค์ฑ์ด ์์ผ๋ฉฐ, ์ ํ ์์คํ , ๋ผ๋์ค, ํ ๋ ๋น์ , ์ปดํจํฐ ๋ฑ๊ณผ ๊ฐ์ ๊ธฐ๊ณ์๋ ํฉ๋ฆฌ์ ์ผ๋ก ์ ํฉํ์ง๋ง ์ ๋ณด์ ๋ํ ์ ์์ ์ธ ์ธ๊ฐ ํ๋๋ฅผ ๋ฐ์ํ์ง ์์ต๋๋ค.
์ ์งธ, ์ด๊ฒ์ ์๋์ ์ธ ์ฒ๋์ด๋ฉฐ ์ง์์ ํ์ฌ ์ํ์ ๋ฐ๋ผ ๋ค๋ฆ ๋๋ค. ๋์ ์์ฑ๊ธฐ์์ "๋์" ์คํธ๋ฆผ์ ๋ณด๋ฉด ๋ค์ ์ซ์๊ฐ ๋ถํ์คํ๋ค๊ณ ๊ฐ์ ํ์ง๋ง, "๋์" ๊ณ์ฐ ๊ณต์์ ์๊ณ ์์ผ๋ฉด ๋ค์ ์ซ์๊ฐ ์๋ ค์ง๋ฏ๋ก ์ ์ ์์ต๋๋ค. ์ ๋ณด๋ฅผ ๋ด๊ณ ์์ต๋๋ค.
๋ฐ๋ผ์ Shannon์ ์ ๋ณด ์ ์๋ ๋ง์ ๊ฒฝ์ฐ ๊ธฐ๊ณ์ ์ ํฉํ์ง๋ง, ๋จ์ด์ ๋ํ ์ธ๊ฐ์ ์ดํด์๋ ์ ํฉํ์ง ์์ ๊ฒ ๊ฐ์ต๋๋ค. '์ ๋ณด์ด๋ก '์ด '์์ฌ์ํต์ด๋ก '์ผ๋ก ๋ถ๋ ค์ผ ํ ์ด์ ๊ฐ ์ฌ๊ธฐ์ ์๋ค. ๊ทธ๋ฌ๋ ์ ์(์ด๋ก ์ ์ด๊ธฐ ์ธ๊ธฐ๋ฅผ ๋ถ์ฌํ๊ณ ์ฌ์ ํ ์ฌ๋๋ค์ด ์ด ์ด๋ก ์ด "์ ๋ณด"๋ฅผ ๋ค๋ฃฌ๋ค๊ณ ์๊ฐํ๊ฒ ๋ง๋๋ ์ ์)๋ฅผ ๋ณ๊ฒฝํ๊ธฐ์๋ ๋๋ฌด ๋ฆ์์ต๋๋ค. Shannon์ ์ ๋ณด ์ ์๊ฐ ์ผ๋ฐ์ ์ผ๋ก ์ฌ์ฉ๋๋ ์๋ฏธ์ ์ผ๋ง๋ ๋ฉ๋ฆฌ ๋จ์ด์ ธ ์๋์ง ๋ช ํํ๊ฒ ์ดํดํฉ๋๋ค. Shannon์ ์ ๋ณด๋ ์์ ํ ๋ค๋ฅธ ๊ฒ, ์ฆ ๋ถํ์ค์ฑ์ ๋ค๋ฃจ๊ณ ์์ต๋๋ค.
์ฉ์ด๋ฅผ ์ ์ํ ๋ ๊ณ ๋ คํด์ผ ํ ์ฌํญ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค. Shannon์ ์ ๋ณด ์ ์์ ๊ฐ์ด ์ ์๋ ์ ์๋ ๊ทํ์ ์๋ ์์ด๋์ด์ ์ด๋ป๊ฒ ์ผ์นํ๋ฉฐ, ์ด๋ป๊ฒ ๋ค๋ฅธ๊ฐ์? ๊ฐ๋ ์ ๋ํ ์ด์ ๋น์ ์ ์ ํํ๊ฒ ๋ฐ์ํ๋ ์ฉ์ด๋ ๊ฑฐ์ ์์ง๋ง ๊ถ๊ทน์ ์ผ๋ก ๊ฐ๋ ์ ์๋ฏธ๋ฅผ ๋ฐ์ํ๋ ๊ฒ์ ์ฌ์ฉ๋๋ ์ฉ์ด์ด๋ฏ๋ก ๋ช ํํ ์ ์๋ฅผ ํตํด ๋ฌด์ธ๊ฐ๋ฅผ ํ์ํํ๋ฉด ํญ์ ์ฝ๊ฐ์ ์์์ด ๋ฐ์ํฉ๋๋ค.
์ํ๋ฒณ์ด ๊ธฐํธ q์ ํ๋ฅ pi๋ก ๊ตฌ์ฑ๋ ์์คํ ์ ์๊ฐํด ๋ณด์ธ์. ์ด ๊ฒฝ์ฐ ํ๊ท ์ ๋ณด๋ ์์คํ ์์ (์์ ๊ฐ)์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
์ด๋ฅผ ํ๋ฅ ๋ถํฌ {pi}๋ฅผ ๊ฐ๋ ์์คํ
์ ์ํธ๋กํผ๋ผ๊ณ ํฉ๋๋ค. ์ฐ๋ฆฌ๋ ์ด์ญํ๊ณผ ํต๊ณ์ญํ์์ ๋์ผํ ์ํ์ ํํ๊ฐ ๋ํ๋๊ธฐ ๋๋ฌธ์ "์ํธ๋กํผ"๋ผ๋ ์ฉ์ด๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ด๊ฒ์ด ๋ฐ๋ก "์ํธ๋กํผ"๋ผ๋ ์ฉ์ด๊ฐ ๊ทธ ์์ฒด๋ก ์ด๋ค ์ค์ํ ์์ฐ๋ผ๋ฅผ ์์ฑํ๋ ์ด์ ์ธ๋ฐ, ์ด๋ ๊ถ๊ทน์ ์ผ๋ก ์ ๋นํ๋์ง ์์ต๋๋ค. ๋์ผํ ์ํ์ ํ๊ธฐ๋ฒ์ด ๋์ผํ ๊ธฐํธ ํด์์ ์๋ฏธํ์ง๋ ์์ต๋๋ค!
ํ๋ฅ ๋ถํฌ์ ์ํธ๋กํผ๋ ์ฝ๋ฉ ์ด๋ก ์์ ์ค์ํ ์ญํ ์ ํฉ๋๋ค. ๋ ๊ฐ์ง ์๋ก ๋ค๋ฅธ ํ๋ฅ ๋ถํฌ pi์ qi์ ๋ํ Gibbs ๋ถ๋ฑ์์ ์ด ์ด๋ก ์ ์ค์ํ ๊ฒฐ๊ณผ ์ค ํ๋์ ๋๋ค. ๊ทธ๋์ ์ฐ๋ฆฌ๋ ๊ทธ๊ฒ์ ์ฆ๋ช ํด์ผ ํฉ๋๋ค.
์ฆ๋ช
์ ๋ช
๋ฐฑํ ๊ทธ๋ํ์ธ ๊ทธ๋ฆผ 13์ ๊ธฐ์ดํฉ๋๋ค. XNUMX.I๋ ๋ค์์ ๋ณด์ฌ์ค๋ค.
x = 1์ธ ๊ฒฝ์ฐ์๋ง ๋๋ฑ์ฑ์ด ๋ฌ์ฑ๋ฉ๋๋ค. ์ผ์ชฝ๋ถํฐ ํฉ๊ณ์ ๊ฐ ํญ์ ๋ถํ๋ฑ์ ์ ์ฉํด ๋ณด๊ฒ ์ต๋๋ค.
ํต์ ์์คํ
์ ์ํ๋ฒณ์ด q๊ฐ์ ๊ธฐํธ๋ก ๊ตฌ์ฑ๋ ๊ฒฝ์ฐ ๊ฐ ๊ธฐํธ์ ์ ์ก ํ๋ฅ qi = 1/q๋ฅผ ์ทจํ๊ณ q๋ฅผ ๋์ฒดํ๋ฉด ๊น์ค ๋ถ๋ฑ์์ผ๋ก๋ถํฐ ์ป์ต๋๋ค.
๊ทธ๋ฆผ 13.I
์ด๋ ๋ชจ๋ q๊ฐ์ ์ฌ๋ณผ์ ์ ์กํ ํ๋ฅ ์ด ๋์ผํ๊ณ -1/q์ ๊ฐ์ผ๋ฉด ์ต๋ ์ํธ๋กํผ๋ lnq์ ๊ฐ๊ณ , ๊ทธ๋ ์ง ์์ผ๋ฉด ๋ถํ๋ฑ์ด ์ ์ง๋จ์ ์๋ฏธํฉ๋๋ค.
๊ณ ์ ํ๊ฒ ๋์ฝ๋ฉ ๊ฐ๋ฅํ ์ฝ๋์ ๊ฒฝ์ฐ Kraft ๋ถ๋ฑ์์ ๊ฐ์ต๋๋ค.
์ด์ ์์ฌ ํ๋ฅ ์ ์ ์ํ๋ฉด
๋ฌผ๋ก ์ด๋์ผ? = 1, ์ด๋ Gibbs ๋ถ๋ฑ์์ ๋ฐ๋ฅธ ๊ฒ์
๋๋ค.
๊ทธ๋ฆฌ๊ณ ์ฝ๊ฐ์ ๋์ํ์ ์ ์ฉํ๋ฉด(K โค 1์ด๋ผ๋ ๊ฒ์ ๊ธฐ์ตํ์ฌ ๋์ ํญ์ ์ญ์ ํ๊ณ ๋์ค์ ๋ถ๋ฑ์์ ๊ฐํํ ์ ์์) ๋ค์์ ์ป์ต๋๋ค.
์ฌ๊ธฐ์ L์ ํ๊ท ์ฝ๋ ๊ธธ์ด์
๋๋ค.
๋ฐ๋ผ์ ์ํธ๋กํผ๋ ํ๊ท ์ฝ๋์๋ ๊ธธ์ด L์ ๊ฐ๋ ๋ฌธ์๋ณ ๊ธฐํธ ์ฝ๋์ ๋ํ ์ต์ ํ๊ณ์ ๋๋ค. ์ด๋ ๊ฐ์ญ ์๋ ์ฑ๋์ ๋ํ Shannon์ ์ ๋ฆฌ์ ๋๋ค.
์ด์ ์ ๋ณด๊ฐ ๋ ๋ฆฝ์ ์ธ ๋นํธ ์คํธ๋ฆผ์ผ๋ก ์ ์ก๋๊ณ ์ก์์ด ์กด์ฌํ๋ ํต์ ์์คํ ์ ํ๊ณ์ ๋ํ ์ฃผ์ ์ ๋ฆฌ๋ฅผ ๊ณ ๋ คํ์ญ์์ค. ํ ๋นํธ๊ฐ ์ฌ๋ฐ๋ฅด๊ฒ ์ ์ก๋ ํ๋ฅ ์ P > 1/2์ด๊ณ , ์ ์ก ์ค์ ๋นํธ ๊ฐ์ด ๋ฐ์ ๋ (์ค๋ฅ๊ฐ ๋ฐ์ํ ) ํ๋ฅ ์ Q = 1 - P์ ๊ฐ๋ค๊ณ ์ดํด๋ฉ๋๋ค. ํธ์์, ์ค๋ฅ๋ ๋ ๋ฆฝ์ ์ด๊ณ ์ค๋ฅ ํ๋ฅ ์ ์ ์ก๋ ๊ฐ ๋นํธ์ ๋ํด ๋์ผํ๋ค๊ณ ๊ฐ์ ํฉ๋๋ค. ์ฆ, ํต์ ์ฑ๋์ "๋ฐฑ์ ์ก์"์ด ์์ต๋๋ค.
ํ๋์ ๋ฉ์์ง๋ก ์ธ์ฝ๋ฉ๋ n ๋นํธ์ ๊ธด ์คํธ๋ฆผ์ ๊ฐ๋ ๋ฐฉ์์ XNUMX๋นํธ ์ฝ๋์ n ์ฐจ์ ํ์ฅ์ ๋๋ค. n์ ๊ฐ์ ๋์ค์ ๊ฒฐ์ ํ๊ฒ ์ต๋๋ค. n์ฐจ์ ๊ณต๊ฐ์ ํ ์ ์ผ๋ก n๋นํธ๋ก ๊ตฌ์ฑ๋ ๋ฉ์์ง๋ฅผ ์๊ฐํด ๋ณด์ธ์. n์ฐจ์ ๊ณต๊ฐ์ด ์๊ธฐ ๋๋ฌธ์ - ๋จ์ํ๋ฅผ ์ํด ๊ฐ ๋ฉ์์ง๊ฐ ๋์ผํ ๋ฐ์ ํ๋ฅ ์ ๊ฐ๋๋ค๊ณ ๊ฐ์ ํฉ๋๋ค. M๊ฐ์ ๊ฐ๋ฅํ ๋ฉ์์ง๊ฐ ์์ต๋๋ค(M์ ๋์ค์ ์ ์๋จ). ๋ฐ๋ผ์ ๋ฉ์์ง๊ฐ ์ ์ก๋ ํ๋ฅ ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
(๋ณด๋ด๋ ์ฌ๋)
์ผ์ 13.II
๋ค์์ผ๋ก ์ฑ๋ ์ฉ๋์ ๋ํ ์์ด๋์ด๋ฅผ ๊ณ ๋ คํ์ญ์์ค. ์์ธํ ์ค๋ช ํ์ง ์๊ณ ์ฑ๋ ์ฉ๋์ ๊ฐ์ฅ ํจ์จ์ ์ธ ์ฝ๋ฉ ์ฌ์ฉ์ ๊ณ ๋ คํ์ฌ ํต์ ์ฑ๋์ ํตํด ์์ ์ ์ผ๋ก ์ ์กํ ์ ์๋ ์ต๋ ์ ๋ณด๋์ผ๋ก ์ ์๋ฉ๋๋ค. ํต์ ์ฑ๋์ ํตํด ์ฉ๋๋ณด๋ค ๋ ๋ง์ ์ ๋ณด๊ฐ ์ ์ก๋ ์ ์๋ค๋ ๋ฐ๋ ์ด๋ก ์ ์ฌ์ง๊ฐ ์์ต๋๋ค. ์ด๋ ์ด์ง ๋์นญ ์ฑ๋(์ฐ๋ฆฌ์ ๊ฒฝ์ฐ์ ์ฌ์ฉํจ)์ ๋ํด ์ ์ฆ๋ ์ ์์ต๋๋ค. ๋นํธ๋ฅผ ์ ์กํ ๋ ์ฑ๋ ์ฉ๋์ ๋ค์๊ณผ ๊ฐ์ด ์ง์ ๋ฉ๋๋ค.
์ฌ๊ธฐ์ ์ด์ ๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก P๋ ์ ์ก๋ ๋นํธ์ ์ค๋ฅ๊ฐ ์์ ํ๋ฅ ์
๋๋ค. n๊ฐ์ ๋
๋ฆฝ์ ์ธ ๋นํธ๋ฅผ ๋ณด๋ผ ๋ ์ฑ๋ ์ฉ๋์ ๋ค์๊ณผ ๊ฐ์ด ์ฃผ์ด์ง๋ค.
์ฑ๋ ์ฉ๋์ ๊ฐ๊น์์ง๋ฉด ๊ฐ ์ฌ๋ณผ ai, i = 1, ..., M์ ๋ํด ๊ฑฐ์ ์ด ์ ๋ ์์ ์ ๋ณด๋ฅผ ๋ณด๋ด์ผ ํฉ๋๋ค. ๊ฐ ์ฌ๋ณผ ai์ ๋ฐ์ ํ๋ฅ ์ด 1/M์์ ๊ณ ๋ คํ๋ฉด, ์ฐ๋ฆฌ๋ ์ป๋๋ค
M๊ฐ์ ๋์ผํ ๊ฐ๋ฅ์ฑ์ด ์๋ ๋ฉ์์ง ai ์ค ํ๋๋ฅผ ๋ณด๋ผ ๋ ์ฐ๋ฆฌ๋ ๋ค์๊ณผ ๊ฐ์ ๊ฒฐ๊ณผ๋ฅผ ์ป์ต๋๋ค.
n ๋นํธ๊ฐ ์ ์ก๋๋ฉด nQ ์ค๋ฅ๊ฐ ๋ฐ์ํ ๊ฒ์ผ๋ก ์์๋ฉ๋๋ค. ์ค์ ๋ก n๋นํธ๋ก ๊ตฌ์ฑ๋ ๋ฉ์์ง์ ๊ฒฝ์ฐ ์์ ๋ ๋ฉ์์ง์๋ ๋๋ต nQ๊ฐ์ ์ค๋ฅ๊ฐ ์์ต๋๋ค. n์ด ํฐ ๊ฒฝ์ฐ ์๋ ๋ณ๋(๋ณ๋ = ๋ถํฌ ํญ, )
n์ด ์ฆ๊ฐํจ์ ๋ฐ๋ผ ์ค๋ฅ ์์ ๋ถํฌ๊ฐ ์ ์ ์ข์์ง๋๋ค.
๊ทธ๋์ ์ก์ ๊ธฐ ์ธก์์ ๋ฉ์์ง ai๋ฅผ ๋ฐ์ ๊ทธ ์ฃผ์์ ๋ฐ๊ฒฝ์ด ์๋ ๊ตฌ๋ฅผ ๊ทธ๋ฆฝ๋๋ค.
์ด๋ ์์๋๋ ์ค๋ฅ ์ Q๋ณด๋ค e2๋งํผ ์ฝ๊ฐ ๋ ํฝ๋๋ค(๊ทธ๋ฆผ 13.II). n์ด ์ถฉ๋ถํ ํฌ๋ฉด ์ด ์์ญ์ ๋์ด ํ์ฅ๋๋ ์์ ์ ์ธก์ ๋ฉ์์ง ํฌ์ธํธ bj๊ฐ ๋ํ๋ ํ๋ฅ ์ด ์์๋ก ์์ต๋๋ค. ์ก์ ๊ธฐ์ ๊ด์ ์์ ๋ณธ ์ํฉ์ ์ค์ผ์นํด ๋ณด๊ฒ ์ต๋๋ค. ์ ์ก๋ ๋ฉ์์ง ai์์ ์์ ๋ ๋ฉ์์ง bj๊น์ง์ ๋ฐ๊ฒฝ์ด ์์ผ๋ฉฐ ์ค๋ฅ ํ๋ฅ ์ ์ ๊ท ๋ถํฌ์ ๋์ผ(๋๋ ๊ฑฐ์ ๋์ผ)ํ์ฌ ์ต๋๊ฐ์ ๋๋ฌํฉ๋๋ค. nQ์. ์ฃผ์ด์ง e2์ ๋ํด n์ด ๋๋ฌด ์ปค์ ๊ฒฐ๊ณผ ์ bj๊ฐ ๋ด ๊ตฌ ์ธ๋ถ์ ์์ ํ๋ฅ ์ ์ํ๋ ๋งํผ ์์ต๋๋ค.
์ด์ ๋น์ ์ธก์์๋ ๋์ผํ ์ํฉ์ ์ดํด๋ณด๊ฒ ์ต๋๋ค(๊ทธ๋ฆผ 13.III). ์์ ์ธก์๋ n์ฐจ์ ๊ณต๊ฐ์ ์์ ์ง์ bj ์ฃผ์์ ๋์ผํ ๋ฐ๊ฒฝ r์ ๊ตฌ S(r)๊ฐ ์์ต๋๋ค. ๋ฐ๋ผ์ ์์ ๋ ๋ฉ์์ง bj๊ฐ ๋ด ๊ตฌ ์์ ์์ผ๋ฉด ๋ด๊ฐ ๋ณด๋ธ ๋ฉ์์ง ai๋ ๋น์ ์ ์์ ์์ต๋๋ค. ๊ตฌ์ฒด.
์ค๋ฅ๋ ์ด๋ป๊ฒ ๋ฐ์ํ ์ ์๋์? ์๋ ํ์ ์ค๋ช ๋ ๊ฒฝ์ฐ์ ์ค๋ฅ๊ฐ ๋ฐ์ํ ์ ์์ต๋๋ค.
๊ทธ๋ฆผ 13.III
์ฌ๊ธฐ์ ์ฐ๋ฆฌ๋ ์์ ๋ ์ง์ ์ ์ค์ฌ์ผ๋ก ๊ตฌ์ถ๋ ๊ตฌ์ ์ ์ก ๊ฐ๋ฅํ ์ธ์ฝ๋ฉ๋์ง ์์ ๋ฉ์์ง์ ํด๋นํ๋ ์ง์ ์ด ํ๋ ์ด์ ์๋ ๊ฒฝ์ฐ ์ด๋ฌํ ๋ฉ์์ง ์ค ์ด๋ ๊ฒ์ด ์ ์ก๋์๋์ง ํ์ธํ ์ ์๊ธฐ ๋๋ฌธ์ ์ ์ก ์ค์ ์ค๋ฅ๊ฐ ๋ฐ์ํ์์ ์ ์ ์์ต๋๋ค. ์ ์ก๋ ๋ฉ์์ง๋ ํด๋น ๋ฉ์์ง์ ํด๋นํ๋ ์ ์ด ๊ตฌ์ ์๊ณ , ์ฃผ์ด์ง ์ฝ๋์์ ๋์ผํ ๊ตฌ์ ์๋ ๋ค๋ฅธ ์ ์ด ์๋ ๊ฒฝ์ฐ์๋ง ์ค๋ฅ๊ฐ ์์ต๋๋ค.
๋ฉ์์ง ai๊ฐ ์ ์ก๋ ๊ฒฝ์ฐ ์ค๋ฅ Pe์ ํ๋ฅ ์ ๋ํ ์ํ ๋ฐฉ์ ์์ด ์์ต๋๋ค.
์ฐ๋ฆฌ๋ ๋ ๋ฒ์งธ ํญ์ ์ฒซ ๋ฒ์งธ ์์๋ฅผ 1๋ก ์ทจํ์ฌ ๋ฒ๋ฆด ์ ์์ต๋๋ค. ๋ฐ๋ผ์ ์ฐ๋ฆฌ๋ ๋ถ๋ฑ์์ ์ป์ต๋๋ค.
๋ฌผ๋ก ,
๊ทธ๋ฌ๋ฏ๋ก
์ค๋ฅธ์ชฝ ๋ง์ง๋ง ํญ์ ๋ค์ ์ ์ฉ
n์ ์ถฉ๋ถํ ํฌ๊ฒ ์ทจํ๋ฉด ์ฒซ ๋ฒ์งธ ํญ์ ์ํ๋ ๋งํผ ์๊ฒ, ์ฆ ์ด๋ค ์ d๋ณด๋ค ์๊ฒ ์ทจํ ์ ์์ต๋๋ค. ๊ทธ๋ฌ๋ฏ๋ก ์ฐ๋ฆฌ๋
์ด์ n ๋นํธ๋ก ๊ตฌ์ฑ๋ M๊ฐ์ ๋ฉ์์ง๋ฅผ ์ธ์ฝ๋ฉํ๊ธฐ ์ํด ๊ฐ๋จํ ๋์ฒด ์ฝ๋๋ฅผ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ์ดํด๋ณด๊ฒ ์ต๋๋ค. ์ฝ๋๋ฅผ ๊ตฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ์ ํํ ์์ง ๋ชปํ ์ฑ(์ค๋ฅ ์์ ์ฝ๋๋ ์์ง ๊ฐ๋ฐ๋์ง ์์์) Shannon์ ๋ฌด์์ ์ฝ๋ฉ์ ์ ํํ์ต๋๋ค. ๋ฉ์์ง์ n ๋นํธ ๊ฐ๊ฐ์ ๋ํด ๋์ ์ ๋ค์ง๊ณ M ๋ฉ์์ง์ ๋ํด ์ด ๊ณผ์ ์ ๋ฐ๋ณตํฉ๋๋ค. ์ ์ฒด์ ์ผ๋ก nM๊ฐ์ ๋์ ๋ค์ง๊ธฐ๊ฐ ์ด๋ฃจ์ด์ ธ์ผ ๊ฐ๋ฅํ๋ฏ๋ก
๋์ผํ ํ๋ฅ ์ด ยฝnM์ธ ์ฝ๋ ์ฌ์ . ๋ฌผ๋ก , ์ฝ๋๋ถ์ ์์ฑํ๋ ๋ฌด์์ ๊ณผ์ ์ ์ค๋ณต๋ ๊ฐ๋ฅ์ฑ์ด ์์ ๋ฟ๋ง ์๋๋ผ, ์ฝ๋ ํฌ์ธํธ๊ฐ ์๋ก ๊ฐ๊น์์ ์ค๋ฅ์ ์์ธ์ด ๋ ๊ฐ๋ฅ์ฑ์ด ์์์ ์๋ฏธํฉ๋๋ค. ์ด๊ฒ์ด ์ ํ๋ ์์ ์ค๋ฅ ์์ค๋ณด๋ค ๋ ํฐ ํ๋ฅ ๋ก ๋ฐ์ํ์ง ์์ผ๋ฉด ์ฃผ์ด์ง n์ด ์ถฉ๋ถํ ํฌ๋ค๋ ๊ฒ์ ์ฆ๋ช
ํด์ผ ํฉ๋๋ค.
์ค์ํ ์ ์ Shannon์ด ๊ฐ๋ฅํ ๋ชจ๋ ์ฝ๋๋ถ์ ํ๊ท ํ์ฌ ํ๊ท ์ค๋ฅ๋ฅผ ์ฐพ์๋ค๋ ๊ฒ์
๋๋ค! ๊ฐ๋ฅํ ๋ชจ๋ ๋ฌด์์ ์ฝ๋๋ถ ์ธํธ์ ๋ํ ํ๊ท ๊ฐ์ ๋ํ๋ด๊ธฐ ์ํด Av[.] ๊ธฐํธ๋ฅผ ์ฌ์ฉํ ๊ฒ์
๋๋ค. ๋ฌผ๋ก ์์ d์ ๋ํ ํ๊ท ์ ์์๋ฅผ ์ ๊ณตํฉ๋๋ค. ์๋ํ๋ฉด ํ๊ท ์ ๊ตฌํ๋ ๊ฒฝ์ฐ ๊ฐ ํญ์ ํฉ๊ณ์์ ๋ค๋ฅธ ๋ชจ๋ ํญ๊ณผ ๋์ผํ๊ธฐ ๋๋ฌธ์
๋๋ค.
์ฆ๊ฐํ ์ ์์(Mโ1์ด M์ผ๋ก ์ด๋)
ํน์ ๋ฉ์์ง์ ๋ํด ๋ชจ๋ ์ฝ๋๋ถ์ ๊ฑธ์ณ ํ๊ท ์ ๊ณ์ฐํ ๋ ์ธ์ฝ๋ฉ์ ๊ฐ๋ฅํ ๋ชจ๋ ๊ฐ์ ํตํด ์คํ๋๋ฏ๋ก ์ ์ด ๊ตฌ์ ์์ ํ๊ท ํ๋ฅ ์ ๊ตฌ์ ๋ถํผ์ ์ ์ฒด ๊ณต๊ฐ ๋ถํผ์ ๋น์จ์
๋๋ค. ๊ตฌ์ ๋ถํผ๋
์ฌ๊ธฐ์ s=Q+e2 <1/2์ด๊ณ ns๋ ์ ์์ฌ์ผ ํฉ๋๋ค.
์ค๋ฅธ์ชฝ์ ๋ง์ง๋ง ํญ์ ์ด ํฉ์์ ๊ฐ์ฅ ํฐ ํญ์ ๋๋ค. ๋จผ์ ๊ณ์น์ ๋ํ ์คํธ๋ง ๊ณต์์ ์ฌ์ฉํ์ฌ ๊ทธ ๊ฐ์ ์ถ์ ํด ๋ณด๊ฒ ์ต๋๋ค. ๊ทธ๋ฐ ๋ค์ ์์ ์๋ ํญ์ ๊ฐ์ํ๋ ๊ณ์๋ฅผ ์ดํด๋ณด๊ฒ ์ต๋๋ค. ์ด ๊ณ์๋ ์ผ์ชฝ์ผ๋ก ์ด๋ํ ๋ ์ฆ๊ฐํ๋ฏ๋ก ๋ค์์ ์ํํ ์ ์์ต๋๋ค. (1) ํฉ์ ๊ฐ์ ๋ค์๊ณผ ๊ฐ์ ๊ธฐํ ์์ด์ ํฉ์ผ๋ก ์ ํํฉ๋๋ค. ์ด ์ด๊ธฐ ๊ณ์, (2) ns ํญ์์ ๋ฌดํ ์์ ํญ์ผ๋ก ๊ธฐํ ์์ด์ ํ์ฅํ๊ณ , (3) ๋ฌดํ ๊ธฐํ ์์ด์ ํฉ์ ๊ณ์ฐํ๊ณ (ํ์ค ๋์ํ, ์ค์ํ์ง ์์) ์ต์ข ์ ์ผ๋ก ์ ํ ๊ฐ์ ์ป์ต๋๋ค(์ถฉ๋ถํ ํฐ ๊ฒฝ์ฐ). N):
์ํธ๋กํผ H(s)๊ฐ ์ดํญ ํญ๋ฑ์์ ์ด๋ป๊ฒ ๋ํ๋๋์ง ํ์ธํ์ธ์. ํ
์ผ๋ฌ ๊ธ์ ์ ๊ฐ H(s)=H(Q+e2)๋ XNUMX์ฐจ ๋ํจ์๋ง ๊ณ ๋ คํ๊ณ ๋ค๋ฅธ ๋ชจ๋ ๊ฐ์ ๋ฌด์ํ์ฌ ์ป์ ์ถ์ ์น๋ฅผ ์ ๊ณตํฉ๋๋ค. ์ด์ ์ต์ข
ํํ์ ์ ๋ฆฌํด๋ณด์:
์ด๋์์
์ฐ๋ฆฌ๊ฐ ํด์ผ ํ ์ผ์ e2 < e3์ด ๋๋๋ก e1๋ฅผ ์ ํํ๋ ๊ฒ๋ฟ์
๋๋ค. ๊ทธ๋ฐ ๋ค์ n์ด ์ถฉ๋ถํ ํฐ ํ ๋ง์ง๋ง ํญ์ ์์๋ก ์์์ง ๊ฒ์
๋๋ค. ๊ฒฐ๊ณผ์ ์ผ๋ก ํ๊ท PE ์ค๋ฅ๋ ์์๋ก C์ ๊ฐ๊น์ด ์ฑ๋ ์ฉ๋์ ์ฌ์ฉํ์ฌ ์ํ๋ ๋งํผ ์๊ฒ ์ป์ ์ ์์ต๋๋ค.
๋ชจ๋ ์ฝ๋์ ํ๊ท ์ ์ค๋ฅ๊ฐ ์ถฉ๋ถํ ์๋ค๋ฉด ์ ์ด๋ ํ๋์ ์ฝ๋๊ฐ ์ ํฉํด์ผ ํ๋ฏ๋ก ์ ์ด๋ ํ๋์ ์ ํฉํ ์ฝ๋ฉ ์์คํ
์ด ์์ต๋๋ค. ์ด๊ฒ์ Shannon์ด ์ป์ ์ค์ํ ๊ฒฐ๊ณผ์
๋๋ค. "๋
ธ์ด์ฆ ์ฑ๋์ ๋ํ Shannon์ ์ ๋ฆฌ"์
๋๋ค. ๊ทธ๋ฌ๋ ๊ทธ๊ฐ ์ ๊ฐ ์ฌ์ฉํ ๋จ์ํ ์ด์ง ๋์นญ ์ฑ๋๋ณด๋ค ํจ์ฌ ๋ ์ผ๋ฐ์ ์ธ ๊ฒฝ์ฐ์ ๋ํด ์ด๊ฒ์ ์ฆ๋ช
ํ๋ค๋ ์ ์ ์ ์ํด์ผ ํฉ๋๋ค. ์ผ๋ฐ์ ์ธ ๊ฒฝ์ฐ ์ํ์ ๊ณ์ฐ์ ํจ์ฌ ๋ ๋ณต์กํ์ง๋ง ์์ด๋์ด๋ ํฌ๊ฒ ๋ค๋ฅด์ง ์์ผ๋ฏ๋ก ํน์ ์ฌ๋ก์ ์๋ฅผ ์ฌ์ฉํ๋ฉด ์ ๋ฆฌ์ ์ง์ ํ ์๋ฏธ๋ฅผ ๋ฐํ ์ ์์ต๋๋ค.
๊ฒฐ๊ณผ๋ฅผ ๋นํํด๋ณด์. ์ฐ๋ฆฌ๋ "์ถฉ๋ถํ ํฐ n์ ๋ํด"๋ฅผ ๋ฐ๋ณตํด์ ๋ฐ๋ณตํ์ต๋๋ค. ๊ทธ๋ฐ๋ฐ n์ ์ผ๋ง๋ ํฝ๋๊น? ์ฑ๋ ์ฉ๋์ ๊ทผ์ ํ๊ณ ์ฌ๋ฐ๋ฅธ ๋ฐ์ดํฐ ์ ์ก์ ํ์ธํ๋ ค๋ ๊ฒฝ์ฐ ๋งค์ฐ ํฐ ๊ท๋ชจ์ ๋๋ค! ์ค์ ๋ก ํฌ๊ธฐ๊ฐ ๋๋ฌด ์ปค์ ๋์ค์ ์ธ์ฝ๋ฉํ ๋งํผ ์ถฉ๋ถํ ๋นํธ์ ๋ฉ์์ง๋ฅผ ์ถ์ ํ๋ ค๋ฉด ๋งค์ฐ ์ค๋ ์๊ฐ์ ๊ธฐ๋ค๋ ค์ผ ํฉ๋๋ค. ์ด ๊ฒฝ์ฐ, ๋๋ค ์ฝ๋ ์ฌ์ ์ ํฌ๊ธฐ๋ ์์ฒญ๋๊ฒ ํด ๊ฒ์ ๋๋ค(๊ฒฐ๊ตญ, n๊ณผ M์ด ๋งค์ฐ ํฌ๋ค๋ ์ฌ์ค์๋ ๋ถ๊ตฌํ๊ณ ์ด๋ฌํ ์ฌ์ ์ ๋ชจ๋ Mn ๋นํธ์ ์ ์ฒด ๋ชฉ๋ก๋ณด๋ค ์งง์ ํ์์ผ๋ก ํ์๋ ์ ์์ต๋๋ค)!
์ค๋ฅ ์ ์ ์ฝ๋๋ ์ฝ๋๋ถ ์์ฒด๋ฅผ ํผํ๊ณ ๋์ ์ผ๋ฐ ๊ณ์ฐ์ ์ฌ์ฉํ๊ธฐ ๋๋ฌธ์ ๋งค์ฐ ๊ธด ๋ฉ์์ง๋ฅผ ๊ธฐ๋ค๋ฆฐ ๋ค์ ๋งค์ฐ ํฐ ์ฝ๋๋ถ์ ํตํด ์ด๋ฅผ ์ธ์ฝ๋ฉ ๋ฐ ๋์ฝ๋ฉํ๋ ๊ฒ์ ๋ฐฉ์งํฉ๋๋ค. ๋จ์ํ ์ด๋ก ์ผ๋ก ๋ณด๋ฉด ์ด๋ฌํ ์ฝ๋๋ ์ฑ๋ ์ฉ๋์ ์ ๊ทผํ๋ ๋ฅ๋ ฅ์ ์๊ณ ์ฌ์ ํ ์๋นํ ๋ฎ์ ์ค๋ฅ์จ์ ์ ์งํ๋ ๊ฒฝํฅ์ด ์์ง๋ง, ์ฝ๋๊ฐ ๋ง์ ์์ ์ค๋ฅ๋ฅผ ์์ ํ๋ฉด ์ข์ ์ฑ๋ฅ์ ๋ฐํํฉ๋๋ค. ์ฆ, ์ค๋ฅ ์์ ์ ์ํด ์ผ๋ถ ์ฑ๋ ์ฉ๋์ ํ ๋นํ๋ฉด ๋๋ถ๋ถ์ ๊ฒฝ์ฐ ์ค๋ฅ ์์ ๊ธฐ๋ฅ์ ์ฌ์ฉํด์ผ ํฉ๋๋ค. ์ฆ, ์ ์ก๋ ๊ฐ ๋ฉ์์ง์์ ๋ง์ ์์ ์ค๋ฅ๋ฅผ ์์ ํด์ผ ํฉ๋๋ค. ๊ทธ๋ ์ง ์์ผ๋ฉด ์ด ์ฉ๋์ ๋ญ๋นํ๊ฒ ๋ฉ๋๋ค.
๋์์, ์์์ ์ฆ๋ช ๋ ์ ๋ฆฌ๋ ์ฌ์ ํ ์๋ฏธ๊ฐ ์์ต๋๋ค! ์ด๋ ํจ์จ์ ์ธ ์ ์ก ์์คํ ์ด ๋งค์ฐ ๊ธด ๋นํธ ๋ฌธ์์ด์ ๋ํด ์๋ฆฌํ ์ธ์ฝ๋ฉ ๋ฐฉ์์ ์ฌ์ฉํด์ผ ํจ์ ๋ณด์ฌ์ค๋๋ค. ์๋ฅผ ๋ค์ด ์ธ๋ถ ํ์ฑ ๋๋จธ๋ก ๋ ์๊ฐ ์์ฑ์ด ์์ต๋๋ค. ์ง๊ตฌ์ ํ์์์ ๋ฉ์ด์ง์ ๋ฐ๋ผ ๋ฐ์ดํฐ ๋ธ๋ก์์ ์ ์ ๋ ๋ง์ ์ค๋ฅ๋ฅผ ์์ ํด์ผ ํฉ๋๋ค. ์ผ๋ถ ์์ฑ์ ์ฝ 5W๋ฅผ ์ ๊ณตํ๋ ํ์ ์ ์งํ์ ์ฌ์ฉํ๊ณ ๋ค๋ฅธ ์์ฑ์ ๊ฑฐ์ ๋์ผํ ์ ๋ ฅ์ ์ ๊ณตํ๋ ์์๋ ฅ ๋ฐ์ ์๋ฅผ ์ฌ์ฉํฉ๋๋ค. ์ ์ ๊ณต๊ธ ์ฅ์น์ ๋ฎ์ ์ ๋ ฅ, ์ง๊ตฌ์์ ์์ ํฌ๊ธฐ์ ์ก์ ๊ธฐ ์ ์ ๋ฐ ์ ํ๋ ํฌ๊ธฐ์ ์์ ๊ธฐ ์ ์, ์ ํธ๊ฐ ์ด๋ํด์ผ ํ๋ ์์ฒญ๋ ๊ฑฐ๋ฆฌ ๋ฑ ์ด ๋ชจ๋ ๊ฒ์๋ ๋์ ์์ค์ ์ค๋ฅ ์์ ๊ธฐ๋ฅ์ด ์๋ ์ฝ๋๋ฅผ ์ฌ์ฉํด์ผ ํฉ๋๋ค. ํจ๊ณผ์ ์ธ ์์ฌ์ํต ์์คํ .
์์ ์ฆ๋ช ์์ ์ฌ์ฉํ n์ฐจ์ ๊ณต๊ฐ์ผ๋ก ๋์๊ฐ ๋ณด๊ฒ ์ต๋๋ค. ์ด์ ๋ํด ๋ ผ์ํ๋ฉด์ ์ฐ๋ฆฌ๋ ๊ตฌ์ ๊ฑฐ์ ์ ์ฒด ๋ถํผ๊ฐ ์ธ๋ถ ํ๋ฉด ๊ทผ์ฒ์ ์ง์ค๋์ด ์์์ ๋ณด์ฌ์ฃผ์์ต๋๋ค. ๋ฐ๋ผ์ ์ ์ก๋ ์ ํธ๋ ์๋์ ์ผ๋ก ์์ ํฌ๊ธฐ์๋ ๋ถ๊ตฌํ๊ณ ์์ ๋ ์ ํธ๋ฅผ ์ค์ฌ์ผ๋ก ๋ง๋ค์ด์ง ๊ตฌ์ ํ๋ฉด ๊ทผ์ฒ์ ์์นํ ๊ฒ์ด ๊ฑฐ์ ํ์คํฉ๋๋ค. ๊ทธ๋ฌํ ๊ตฌ์ ์์ ๋ฐ๊ฒฝ. ๋ฐ๋ผ์, ์์ ๋ ์ ํธ๊ฐ ์์๋ก ๋ง์ ์์ ์ค๋ฅ nQ๋ฅผ ์์ ํ ํ ์์๋ก ์ค๋ฅ๊ฐ ์๋ ์ ํธ์ ๊ฐ๊น์ด ๊ฒ์ผ๋ก ๋ํ๋๋ ๊ฒ์ ๋๋ผ์ด ์ผ์ด ์๋๋๋ค. ์์ ๋ ผ์ํ ๋งํฌ ์ฉ๋์ ์ด๋ฌํ ํ์์ ์ดํดํ๋ ์ด์ ์ ๋๋ค. ์ค๋ฅ ์์ ํด๋ฐ ์ฝ๋๋ฅผ ์ํด ๊ตฌ์ฑ๋ ์ ์ฌํ ์์ญ์ ์๋ก ๊ฒน์น์ง ์์ต๋๋ค. n์ฐจ์ ๊ณต๊ฐ์์ ๊ฑฐ์ ์ง๊ตํ๋ ๋ง์ ์ฐจ์์ ๊ณต๊ฐ์ M๊ฐ์ ๊ตฌ๋ฅผ ๊ฑฐ์ ๊ฒน์น์ง ์๊ฒ ๋ง์ถ ์ ์๋ ์ด์ ๋ฅผ ๋ณด์ฌ์ค๋๋ค. ๋์ฝ๋ฉํ๋ ๋์ ์์์ ์ค๋ฅ๋ง ๋ฐ์์ํฌ ์ ์๋ ์๊ณ ์์์ ์์ ๊ฒน์นจ์ ํ์ฉํ๋ฉด ๊ณต๊ฐ์์ ์กฐ๋ฐํ๊ฒ ๋ฐฐ์น๋ ๊ตฌ๋ฅผ ์ป์ ์ ์์ต๋๋ค. Hamming์ ํน์ ์์ค์ ์ค๋ฅ ์์ ์ ๋ณด์ฅํฉ๋๋ค. Shannon์ ์ค๋ฅ ๊ฐ๋ฅ์ฑ์ด ๋ฎ์ง๋ง ๋์์ Hamming ์ฝ๋๊ฐ ์ํํ ์ ์๋ ํต์ ์ฑ๋ ์ฉ๋์ ์์๋ก ์ค์ ์ฒ๋ฆฌ๋์ ์ ์งํฉ๋๋ค.
์ ๋ณด ์ด๋ก ์ ํจ์จ์ ์ธ ์์คํ ์ ์ค๊ณํ๋ ๋ฐฉ๋ฒ์ ์๋ ค์ฃผ์ง๋ ์์ง๋ง ํจ์จ์ ์ธ ์ปค๋ฎค๋์ผ์ด์ ์์คํ ์ ํฅํ ๊ธธ์ ์ ์ํฉ๋๋ค. ์ด๋ ๊ธฐ๊ณ ๊ฐ ํต์ ์์คํ ์ ๊ตฌ์ถํ๋ ๋ฐ ์ ์ฉํ ๋๊ตฌ์ด์ง๋ง ์์ ์ธ๊ธํ๋ฏ์ด ์ธ๊ฐ์ด ์๋ก ํต์ ํ๋ ๋ฐฉ์๊ณผ๋ ๊ฑฐ์ ๊ด๋ จ์ด ์์ต๋๋ค. ์๋ฌผํ์ ์ ์ ์ด ๊ธฐ์ ์ ์์ฌ์ํต ์์คํ ๊ณผ ์ด๋ ์ ๋ ์ ์ฌํ์ง๋ ์ ํ ์๋ ค์ง์ง ์์์ผ๋ฏ๋ก ํ์ฌ ์ ๋ณด ์ด๋ก ์ด ์ ์ ์์ ์ด๋ป๊ฒ ์ ์ฉ๋๋์ง๋ ๋ช ํํ์ง ์์ต๋๋ค. ์ฐ๋ฆฌ๋ ์๋ํ ์๋ฐ์ ์์ผ๋ฉฐ, ๋ง์ฝ ์ฑ๊ณต์ด ์ฐ๋ฆฌ์๊ฒ ์ด ํ์์ ๊ธฐ๊ณ์ ๊ฐ์ ์ฑ๊ฒฉ์ ๋ณด์ฌ์ค๋ค๋ฉด, ์คํจ๋ ์ ๋ณด์ ์ฑ๊ฒฉ์ ๋ค๋ฅธ ์ค์ํ ์ธก๋ฉด์ ๊ฐ๋ฆฌํฌ ๊ฒ์ ๋๋ค.
๋๋ฌด ๋ง์ด ๋ฒ์ด๋์ง ๋ง์. ์ฐ๋ฆฌ๋ ๋ชจ๋ ์๋ ์ ์๊ฐ ์ด๋ ์ ๋ ์ฐ๋ฆฌ ์๋ ๋ฏฟ์์ ๋ณธ์ง์ ํํํด์ผ ํ์ง๋ง ์ด๋ ์ ๋ ์๊ณก์ด ํน์ง์ด๋ฏ๋ก ์ ์ฉํ ์ ์๋ค๋ ๊ฒ์ ์ดํด๋ณด์์ต๋๋ค. ๊ถ๊ทน์ ์ผ๋ก ์ฐ๋ฆฌ๊ฐ ์ฌ์ฉํ๋ ์ ์๊ฐ ์ค์ ๋ก ๋ณธ์ง์ ์ ์ํ๋ค๋ ๊ฒ์ด ์ ํต์ ์ผ๋ก ๋ฐ์๋ค์ฌ์ง๊ณ ์์ต๋๋ค. ๊ทธ๋ฌ๋ ์ด๋ ์ฌ๋ฌผ์ ์ฒ๋ฆฌํ๋ ๋ฐฉ๋ฒ๋ง ์๋ ค์ค ๋ฟ, ์ฐ๋ฆฌ์๊ฒ ์ด๋ค ์๋ฏธ๋ ์ ๋ฌํ์ง ์์ต๋๋ค. ์ํ๊ณ์์ ๋งค์ฐ ์ ํธ๋๋ ๊ฐ์ ์ ์ ๊ทผ ๋ฐฉ์์ ์ค์ ๋ก๋ ๋ถ์กฑํ ์ ์ด ๋ง์ต๋๋ค.
์ด์ ์ฐ๋ฆฌ๋ ์ ์๊ฐ ์ํ๋ ๋งํผ ์ํ์ ์ด์ด์ ์คํด์ ์์ง๊ฐ ์๋ IQ ํ ์คํธ์ ์๋ฅผ ์ดํด๋ณด๊ฒ ์ต๋๋ค. ์ง๋ฅ์ ์ธก์ ํ๊ธฐ ์ํ ํ ์คํธ๊ฐ ๋ง๋ค์ด์ก์ต๋๋ค. ๊ทธ๋ฐ ๋ค์ ๊ฐ๋ฅํ ์ผ๊ด๋๊ฒ ์์ ๋ ๋ค์ ๊ฒ์๋๊ณ ๊ฐ๋จํ ๋ฐฉ๋ฒ์ผ๋ก ์ธก์ ๋ "์ง๋ฅ"์ด ์ ๊ท ๋ถํฌ(๋ฌผ๋ก ๊ต์ ๊ณก์ ์์)๋ก ๋ํ๋๋๋ก ๊ต์ ๋ฉ๋๋ค. ๋ชจ๋ ์ ์๋ ์ฒ์ ์ ์๋์์ ๋๋ฟ๋ง ์๋๋ผ ํจ์ฌ ๋์ค์ ๋์ถ๋ ๊ฒฐ๋ก ์ ์ฌ์ฉ๋ ๋์๋ ์ฌ๊ฒํ ๋์ด์ผ ํฉ๋๋ค. ํด๊ฒฐ๋๋ ๋ฌธ์ ์ ๋ํ ์ ์ ๊ฒฝ๊ณ๋ ์ด๋ ์ ๋๊น์ง ์ ์ ํ๊ฐ? ํ ์ค์ ์์ ์ฃผ์ด์ง ์ ์๊ฐ ์ ํ ๋ค๋ฅธ ์ค์ ์ ์ ์ฉ๋๋ ๊ฒฝ์ฐ๋ ์ผ๋ง๋ ์์ฃผ ๋ฐ์ํฉ๋๊น? ์ด๋ฐ ์ผ์ด ๊ฝค ์์ฃผ ๋ฐ์ํฉ๋๋ค! ์ด๋ฉด์ ํ์ฐ์ ์ผ๋ก ์ ํ๊ฒ ๋๋ ์ธ๋ฌธํ์์๋ ์ด๋ฐ ์ผ์ด ๋ ์์ฃผ ์ผ์ด๋๋ค.
๋ฐ๋ผ์ ์ ๋ณด ์ด๋ก ์ ์ ์ํ๋ ๋ชฉ์ ์ค ํ๋๋ ๊ทธ ์ ์ฉ์ฑ์ ์ ์ฆํ๋ ๊ฒ ์ธ์๋ ์ด๋ฌํ ์ํ์ ๊ฒฝ๊ณ ํ๊ฑฐ๋ ์ํ๋ ๊ฒฐ๊ณผ๋ฅผ ์ป๊ธฐ ์ํด ์ด๋ฅผ ์ฌ์ฉํ๋ ๋ฐฉ๋ฒ์ ์ ํํ ๋ณด์ฌ์ฃผ๋ ๊ฒ์ด์์ต๋๋ค. ์ด๊ธฐ ์ ์๋ ๋ณด์ด๋ ๊ฒ๋ณด๋ค ํจ์ฌ ๋ ํฐ ๋ฒ์์์ ๊ฒฐ๊ตญ ๋ฐ๊ฒฌํ ๋ด์ฉ์ ๊ฒฐ์ ํ๋ค๋ ์ฌ์ค์ด ์ค๋ซ๋์ ์๋ ค์ ธ ์์ต๋๋ค. ์ด๊ธฐ ์ ์์๋ ์๋ก์ด ์ํฉ๋ฟ๋ง ์๋๋ผ ์ค๋ซ๋์ ์์ ํด์จ ์์ญ์์๋ ๋ง์ ์ฃผ์๊ฐ ํ์ํฉ๋๋ค. ์ด๋ฅผ ํตํด ์ป์ ๊ฒฐ๊ณผ๊ฐ ์ด๋ ์ ๋ ๋์ด๋ฐ๋ณต์ด๊ณ ์ ์ฉํ์ง ์์์ง ์ดํดํ ์ ์์ต๋๋ค.
Eddington์ ์ ๋ช ํ ์ด์ผ๊ธฐ๋ ๊ทธ๋ฌผ๋ก ๋ฐ๋ค์์ ๊ณ ๊ธฐ๋ฅผ ์ก์ ์ฌ๋๋ค์ ๋ํด ์ด์ผ๊ธฐํฉ๋๋ค. ๊ทธ๋ค์ด ์ก์ ๋ฌผ๊ณ ๊ธฐ์ ํฌ๊ธฐ๋ฅผ ์ฐ๊ตฌํ ํ, ๋ฐ๋ค์์ ๋ฐ๊ฒฌ๋๋ ๋ฌผ๊ณ ๊ธฐ์ ์ต์ ํฌ๊ธฐ๋ฅผ ๊ฒฐ์ ํ์ต๋๋ค! ๊ทธ๋ค์ ๊ฒฐ๋ก ์ ํ์ค์ด ์๋๋ผ ์ฌ์ฉ๋ ๋๊ตฌ์ ์ํด ๋์ถ๋์์ต๋๋ค.
๊ณ์ ๋ ...
์ฑ ์ ๋ฒ์ญ, ๋ ์ด์์, ์ถํ์ ๋์์ ์ฃผ๊ณ ์ถ์ ์ฌ๋ - ๊ฐ์ธ ๋ฉ์์ง๋ ์ด๋ฉ์ผ์ ๋ณด๋ด์ฃผ์ธ์. [์ด๋ฉ์ผ ๋ณดํธ]
๊ทธ๊ฑด ๊ทธ๋ ๊ณ , ์ฐ๋ฆฌ๋ ๋ ๋ค๋ฅธ ๋ฉ์ง ์ฑ
์ ๋ฒ์ญ๋ ์์ํ์ต๋๋ค.
์ฐ๋ฆฌ๋ ํนํ ์ฐพ๊ณ ์์ต๋๋ค ๋ฒ์ญ์ ๋์์ค ์ฌ๋๋ค
์ฑ
์ ๋ด์ฉ๊ณผ ๋ฒ์ญ๋ ์ฅ
- ๊ณผํ ๋ฐ ๊ณตํ ๊ธฐ์ ์๊ฐ: ํ์ต ํ์ต(28๋
1995์ XNUMX์ผ)
๋ฒ์ญ: 1์ฅ - "๋์งํธ(์ด์ฐ) ํ๋ช
์ ๊ธฐ์ด"(30๋
1995์ XNUMX์ผ)
2์ฅ. ๋์งํธ(์ด์ฐ) ํ๋ช ์ ๊ธฐ๋ณธ - "์ปดํจํฐ์ ์ญ์ฌ - ํ๋์จ์ด" (31๋
1995์ XNUMX์ผ)
3์ฅ. ์ปดํจํฐ์ ์ญ์ฌ - ํ๋์จ์ด - "์ปดํจํฐ์ ์ญ์ฌ - ์ํํธ์จ์ด" (4๋
1995์ XNUMX์ผ)
4์ฅ. ์ปดํจํฐ์ ์ญ์ฌ - ์ํํธ์จ์ด - "์ปดํจํฐ์ ์ญ์ฌ - ์์ฉ"(6๋
1995์ XNUMX์ผ)
5์ฅ: ์ปดํจํฐ์ ์ญ์ฌ - ์ค์ ์์ฉ - "์ธ๊ณต ์ง๋ฅ - 7๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
์ 6์ฅ. ์ธ๊ณต์ง๋ฅ - 1 - "์ธ๊ณต ์ง๋ฅ - 11๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
7์ฅ. ์ธ๊ณต์ง๋ฅ-II - "์ธ๊ณต์ง๋ฅ III" (13๋
1995์ XNUMX์ผ)
8์ฅ. ์ธ๊ณต์ง๋ฅ-III - "n์ฐจ์ ๊ณต๊ฐ"(14๋
1995์ XNUMX์ผ)
9์ฅ. N์ฐจ์ ๊ณต๊ฐ - "์ฝ๋ฉ ์ด๋ก - ์ ๋ณด ํํ, 18๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
10์ฅ. ์ฝ๋ฉ ์ด๋ก - I - "์ฝ๋ฉ ์ด๋ก - ์ ๋ณด ํํ, 20๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
11์ฅ. ์ฝ๋ฉ ์ด๋ก - II - "์ค๋ฅ ์์ ์ฝ๋"(21๋
1995์ XNUMX์ผ)
12์ฅ. ์ค๋ฅ ์์ ์ฝ๋ - "์ ๋ณด ์ด๋ก "(25๋
1995์ XNUMX์ผ)
13์ฅ. ์ ๋ณด์ด๋ก - "๋์งํธ ํํฐ, 27๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
14์ฅ. ๋์งํธ ํํฐ - 1 - "๋์งํธ ํํฐ, 28๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
15์ฅ. ๋์งํธ ํํฐ - 2 - "๋์งํธ ํํฐ, ํํธ III"(2๋
1995์ XNUMX์ผ)
16์ฅ. ๋์งํธ ํํฐ - 3 - "๋์งํธ ํํฐ, ํํธ IV"(4๋
1995์ XNUMX์ผ)
17์ฅ. ๋์งํธ ํํฐ - IV - "์๋ฎฌ๋ ์ด์
5๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
18์ฅ. ๋ชจ๋ธ๋ง - I - "์๋ฎฌ๋ ์ด์
9๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
19์ฅ. ๋ชจ๋ธ๋ง - II - "์๋ฎฌ๋ ์ด์
, 11๋ถ"(1995๋
XNUMX์ XNUMX์ผ)
20์ฅ. ๋ชจ๋ธ๋ง - III - "๊ด์ฌ์ "(12๋
1995์ XNUMX์ผ)
21์ฅ. ๊ด์ฌ์ - "์ปดํจํฐ ์ง์ ๊ต์ก"(16๋
1995์ XNUMX์ผ)
22์ฅ: ์ปดํจํฐ ๋ณด์กฐ ์์ (CAI) - "์ํ" (18๋
1995์ XNUMX์ผ)
์ 23์ฅ. ์ํ - "์์ ์ญํ"(19๋
1995์ XNUMX์ผ)
24์ฅ. ์์์ญํ - "์ฐฝ์์ฑ"(23๋
1995์ XNUMX์ผ). ๋ฒ์ญ:
25์ฅ. ์ฐฝ์์ฑ - "์ ๋ฌธ๊ฐ"(25๋
1995์ XNUMX์ผ)
26์ฅ. ์ ๋ฌธ๊ฐ - "์ ๋ขฐํ ์ ์๋ ๋ฐ์ดํฐ"(26๋
1995์ XNUMX์ผ)
27์ฅ. ์ ๋ขฐํ ์ ์๋ ๋ฐ์ดํฐ - "์์คํ
๊ณตํ" (30๋
1995์ XNUMX์ผ)
28์ฅ. ์์คํ ๊ณตํ - "์ธก์ ํ ๋๋ก ์ป์ ์ ์์ต๋๋ค"(1๋
1995์ XNUMX์ผ)
์ 29์ฅ ์ธก์ ํ ๋๋ก ์ป๋๋ค -
"์ฐ๋ฆฌ๊ฐ ์๋ ๊ฒ์ ์ด๋ป๊ฒ ์๋๊ฐ" (6 ์ 2, 1995) 10๋ถ ๋จ์๋ก ๋ฒ์ญํ๊ธฐ - ํด๋ฐ, โ๋น์ ๊ณผ ๋น์ ์ ์ฐ๊ตฌโ(6๋
1995์ XNUMX์ผ).
๋ฒ์ญ: ๋น์ ๊ณผ ๋น์ ์ ์ผ
์ฑ ์ ๋ฒ์ญ, ๋ ์ด์์, ์ถํ์ ๋์์ ์ฃผ๊ณ ์ถ์ ์ฌ๋ - ๊ฐ์ธ ๋ฉ์์ง๋ ์ด๋ฉ์ผ์ ๋ณด๋ด์ฃผ์ธ์. [์ด๋ฉ์ผ ๋ณดํธ]
์ถ์ฒ : habr.com