ሪቻርድ ሃሚንግ: ምዕራፍ 13. የመረጃ ጽንሰ-ሐሳብ

አደረግነው!

"የዚህ ኮርስ አላማ ለወደፊት ቴክኒካልዎ ማዘጋጀት ነው።"

ሰላም ሀብር አስደናቂውን መጣጥፍ አስታውስ "አንተ እና ስራህ" (+219፣ 2588 ዕልባቶች፣ 429 ሺ አነበበ)?

ስለዚህ ሃሚንግ (አዎ፣ አዎ፣ ራስን መከታተል እና ራስን ማስተካከል የሃሚንግ ኮዶች) አንድ ሙሉ አለ። አንድ መጽሐፍ፣ በንግግሮቹ ላይ በመመስረት ተፃፈ። ሰውዬው ሃሳቡን ስለሚናገር እንተረጉማለን.

ይህ መጽሐፍ ስለ IT ብቻ ሳይሆን በሚያስደንቅ ሁኔታ ጥሩ ሰዎች የአስተሳሰብ ዘይቤን የሚገልጽ መጽሐፍ ነው። "አዎንታዊ አስተሳሰብን ማጎልበት ብቻ አይደለም; ታላቅ ሥራ የመሥራት እድሎችን የሚጨምሩ ሁኔታዎችን ይገልጻል።

ለትርጉሙ አንድሬ ፓኮሞቭ አመሰግናለሁ።

የኢንፎርሜሽን ቲዎሪ የተገነባው በ 1940 ዎቹ መገባደጃ ላይ በሲ ኢ ሻነን ነው። የቤል ላብስ ማኔጅመንት “ኮሙኒኬሽን ቲዎሪ” ብሎ እንዲጠራው አጥብቆ ተናግሯል ምክንያቱም... ይህ በጣም ትክክለኛ ስም ነው። ግልጽ በሆኑ ምክንያቶች, "ኢንፎርሜሽን ቲዎሪ" የሚለው ስም በህዝቡ ላይ የበለጠ ተፅእኖ አለው, ለዚህም ነው ሻነን የመረጠው, እና እስከ ዛሬ ድረስ የምናውቀው ስም ነው. ስሙ ራሱ ንድፈ ሃሳቡ ከመረጃ ጋር እንደሚያያዝ ይጠቁማል፣ ይህም ወደ የመረጃ ዘመን በጥልቀት ስንሄድ አስፈላጊ ያደርገዋል። በዚህ ፅንሰ-ሀሳብ ውስጥ ብዙ ዋና ድምዳሜዎችን እዳስሳለሁ ፣ ጥብቅ አይደለም ፣ ግን የዚህ ፅንሰ-ሀሳብ አንዳንድ የግለሰብ አቅርቦቶችን የሚታወቅ ማስረጃን አቀርባለሁ ፣ ስለሆነም “የመረጃ ፅንሰ-ሀሳብ” በእውነቱ ምን እንደሆነ እንዲረዱ ፣ የት እንደሚተገበሩ እና የት አይደለም.

በመጀመሪያ ደረጃ "መረጃ" ምንድን ነው? ሻነን መረጃን ከእርግጠኝነት ጋር ያመሳስለዋል። ፕሮባቢሊቲ ፒ ያለው ክስተት ሲከሰት የሚቀበሉትን መረጃ በቁጥር ለመለካት የክስተቱን እድል አሉታዊ ሎጋሪዝም መረጠ። ለምሳሌ የሎስ አንጀለስ የአየር ሁኔታ ጭጋጋማ መሆኑን ብነግራችሁ p ወደ 1 ቅርብ ነው ይህም ብዙ መረጃ አይሰጠንም። ነገር ግን በሰኔ ወር በሞንቴሬይ ዝናብ ይዘንባል ካልኩ በመልእክቱ ላይ እርግጠኛ አለመሆን እና ተጨማሪ መረጃ ይይዛል። ከሎግ 1 = 0 ጀምሮ አስተማማኝ ክስተት ምንም አይነት መረጃ አልያዘም።

ይህንን በዝርዝር እንመልከተው። ሻነን የመረጃ አሃዛዊ ልኬት የአንድ ክስተት ዕድል ቀጣይነት ያለው ተግባር መሆን እንዳለበት ያምን ነበር ፣ እና ለገለልተኛ ክስተቶች ተጨማሪ መሆን አለበት - በሁለት ገለልተኛ ክስተቶች መከሰት ምክንያት የተገኘው የመረጃ መጠን ከ በጋራ ክስተት መከሰት ምክንያት የተገኘው መረጃ መጠን. ለምሳሌ፣ የዳይስ ጥቅል እና የሳንቲም ጥቅል ውጤት አብዛኛውን ጊዜ እንደ ገለልተኛ ክስተቶች ይቆጠራሉ። ከላይ ያለውን ወደ ሂሳብ ቋንቋ እንተርጉም። እኔ (p) ፕሮባቢሊቲ p ጋር አንድ ክስተት ውስጥ ያለውን መረጃ መጠን ከሆነ, ከዚያም የጋራ ክስተት ሁለት ነጻ ክስተቶች x ፕሮባቢሊቲ p1 እና y ከ ፕሮባቢሊቲ p2 ጋር እናገኛለን.

(x እና y ገለልተኛ ክስተቶች ናቸው)

ይህ ተግባራዊ Cauchy እኩልታ ነው፣ ​​ለሁሉም p1 እና p2 እውነት። ይህንን ተግባራዊ እኩልታ ለመፍታት, ያንን ያስቡ

p1 = p2 = p,

ይህ ይሰጣል

p1 = p2 እና p2 = p ከሆነ

ወዘተ. ይህንን ሂደት ለገለፃዎች መደበኛውን ዘዴ በመጠቀም ማራዘም ፣ ለሁሉም ምክንያታዊ ቁጥሮች m / n የሚከተለው እውነት ነው።

ከታሰበው የመረጃ ልኬት ቀጣይነት፣ የሎጋሪዝም ተግባር ለተግባራዊው የካውቺ እኩልታ ብቸኛው ቀጣይ መፍትሄ መሆኑን ይከተላል።

በመረጃ ንድፈ ሃሳብ የሎጋሪዝም መሰረትን 2 አድርጎ መውሰድ የተለመደ ነው, ስለዚህ የሁለትዮሽ ምርጫ በትክክል 1 ቢት መረጃ ይዟል. ስለዚህ መረጃ የሚለካው በቀመር ነው።

እስቲ ቆም ብለን ከላይ የሆነውን እንረዳ። በመጀመሪያ ደረጃ “መረጃ” የሚለውን ፅንሰ-ሃሳብ አልገለፅንም ፣ ቀመሩን ለቁጥራዊ መለኪያው በቀላሉ ገለፅነው።

በሁለተኛ ደረጃ, ይህ ልኬት በእርግጠኝነት የማይታወቅ ነው, እና ምንም እንኳን ለማሽን ተስማሚ ቢሆንም - ለምሳሌ የስልክ ስርዓቶች, ሬዲዮ, ቴሌቪዥን, ኮምፒተሮች, ወዘተ.

በሶስተኛ ደረጃ, ይህ አንጻራዊ መለኪያ ነው, በእውቀትዎ ወቅታዊ ሁኔታ ላይ የተመሰረተ ነው. በዘፈቀደ ቁጥር ጄኔሬተር የ"የነሲብ ቁጥሮች" ዥረት ከተመለከቱ, እያንዳንዱ ቀጣይ ቁጥር እርግጠኛ አይደለም ብለው ያስባሉ, ነገር ግን "የዘፈቀደ ቁጥሮችን" ለማስላት ቀመር ካወቁ, ቀጣዩ ቁጥር ይታወቃል, እና ስለዚህ አይሆንም. መረጃ ይዟል።

ስለዚህ የሻነን የመረጃ ፍቺ በብዙ ጉዳዮች ላይ ለማሽን ተስማሚ ነው፣ ነገር ግን የሰው ልጅ የቃሉን ግንዛቤ የሚያሟላ አይመስልም። ለዚህም ነው “የመረጃ ንድፈ ሃሳብ” “የመግባቢያ ቲዎሪ” መባል የነበረበት። ሆኖም ፣ ትርጉሞቹን ለመለወጥ በጣም ዘግይቷል (ይህ ጽንሰ-ሀሳብ የመጀመሪያ ተወዳጅነቱን የሰጠው እና አሁንም ሰዎች ይህ ፅንሰ-ሀሳብ ከ “መረጃ” ጋር እንደሚገናኝ እንዲያስቡ ያደርጋቸዋል) ስለዚህ ከእነሱ ጋር መኖር አለብን ፣ ግን በተመሳሳይ ጊዜ ያስፈልግዎታል የሻነን የመረጃ ፍቺ በተለምዶ ከሚጠቀመው ትርጉሙ ምን ያህል የራቀ እንደሆነ በግልፅ ተረዳ። የሻነን መረጃ ፍጹም የተለየ ነገርን ማለትም እርግጠኛ አለመሆንን ይመለከታል።

የትኛውንም የቃላት አገባብ ሲያቀርቡ ሊታሰብበት የሚገባ ነገር አለ። እንደ ሻነን የመረጃ ፍቺ ያለ የታቀደ ፍቺ እንዴት ከዋናው ሃሳብዎ ጋር ይስማማል እና ምን ያህል የተለየ ነው? የቀደመውን የፅንሰ ሀሳብን እይታ በትክክል የሚያንፀባርቅ ቃል የለም ማለት ይቻላል ፣ ግን በመጨረሻ ፣ የፅንሰ-ሀሳቡን ትርጉም የሚያንፀባርቅ የተጠቀሙበት ቃላቶች ናቸው ፣ ስለሆነም አንድን ነገር በግልፅ ትርጓሜዎች መደበኛ ማድረግ ሁል ጊዜ አንዳንድ ጫጫታዎችን ያስተዋውቃል።

ፊደሉ ምልክቶችን ያቀፈበትን ስርዓት አስቡበት q with probabilities pi. በዚህ ጉዳይ ላይ አማካይ የመረጃ መጠን በስርዓቱ ውስጥ (የሚጠበቀው ዋጋ) እኩል ነው-

ይህ የስርጭት ፕሮባቢሊቲ ስርጭት {pi} ያለው ኢንትሮፒ ይባላል። በቴርሞዳይናሚክስ እና በስታቲስቲክስ ሜካኒክስ ውስጥ ተመሳሳይ የሂሳብ ቅርጽ ስለሚታይ "ኤንትሮፒ" የሚለውን ቃል እንጠቀማለን. ለዚህም ነው "ኢንትሮፒ" የሚለው ቃል በራሱ ዙሪያ አስፈላጊ የሆነ ኦውራ የሚፈጥር ሲሆን ይህም በመጨረሻ ትክክል አይደለም. ተመሳሳዩ የሒሳብ አጻጻፍ ዘይቤ አንድ ዓይነት የምልክት ትርጓሜዎችን አያመለክትም!

የፕሮባቢሊቲ ስርጭቱ ኢንትሮፒ በኮዲንግ ቲዎሪ ውስጥ ትልቅ ሚና ይጫወታል። የጊብስ ልዩነት ለሁለት የተለያዩ ፕሮባቢሊቲ ማከፋፈያዎች pi እና qi የዚህ ፅንሰ-ሀሳብ አስፈላጊ ውጤቶች አንዱ ነው። ስለዚህ ያንን ማረጋገጥ አለብን

ማስረጃው ግልጽ በሆነ ግራፍ ላይ የተመሰረተ ነው, ምስል. 13.I, ይህም የሚያሳየው

እና እኩልነት የሚገኘው x = 1 ነው. በእያንዳንዱ የድምር ቃል ላይ እኩል አለመሆንን ከግራ በኩል እንተገብረው፡-

የግንኙነት ስርዓት ፊደላት q ምልክቶችን ያቀፈ ከሆነ ፣እዚያም የእያንዳንዱን ምልክት qi = 1/q የመተላለፍ እድልን ወስደን qን በመተካት ከጊብስ አለመመጣጠን እናገኛለን።

ምስል 13.I

ይህ ማለት ሁሉንም q ምልክቶችን የማስተላለፍ እድሉ ተመሳሳይ እና እኩል ከሆነ - 1 / q ፣ ከፍተኛው entropy ከ ln q ጋር እኩል ነው ፣ ካልሆነ ግን እኩልነት ይይዛል።

በልዩ ሁኔታ ሊፈታ የሚችል ኮድ ከሆነ፣ የ Kraft አለመመጣጠን አለን።

አሁን የውሸት ፕሮባቢሊቲዎችን ከገለጽን።

በእርግጥ የት = 1፣ ከጊብስ እኩልነት የሚከተል፣

እና ትንሽ አልጀብራን ይተግብሩ (ይህን K ≤ 1 አስታውስ፣ ስለዚህ የሎጋሪዝምን ቃል መጣል እንችላለን፣ እና ምናልባትም በኋላ ላይ ያለውን ልዩነት ያጠናክራል)።

የት L አማካይ ኮድ ርዝመት ነው.

ስለዚህ ኢንትሮፒ ለማንኛውም የቁምፊ-በ-ምልክት ኮድ ከአማካኝ የኮድ ቃል ርዝመት ጋር ዝቅተኛው ገደብ ነው L. ይህ የሻነን ንድፈ ሃሳብ ከመጠላለፍ-ነጻ ቻናል ነው።

አሁን መረጃ እንደ ገለልተኛ ቢት እና ጫጫታ ዥረት ስለሚተላለፍ የግንኙነት ስርዓቶች ውስንነት ዋናውን ንድፈ ሀሳብ አስቡበት። የአንድ ቢት ትክክለኛ የመተላለፍ እድሉ P > 1/2 እንደሆነ ተረድቷል ፣ እና በሚተላለፍበት ጊዜ የቢት እሴቱ የመገለባበጥ እድሉ (ስህተት ይፈጠራል) ከ Q = 1 - P ጋር እኩል ነው። ስህተቶቹ ገለልተኛ ናቸው ብለው ያስቡ እና ለእያንዳንዱ የተላከ ቢት የስህተት እድሉ ተመሳሳይ ነው - ማለትም በመገናኛ ቻናል ውስጥ “ነጭ ድምጽ” አለ።

ረጅም የ n ቢት ዥረት ወደ አንድ መልእክት የገባንበት መንገድ የአንድ ቢት ኮድ n - ልኬት ቅጥያ ነው። በኋላ ላይ የ n ዋጋን እንወስናለን. n-bitsን የያዘ መልእክት በ n-ልኬት ቦታ ላይ እንደ ነጥብ አስቡበት። n-ልኬት ቦታ ስላለን - እና ለቀላልነት እያንዳንዱ መልእክት ተመሳሳይ የመከሰት እድል እንዳለው እንገምታለን - M ሊሆኑ የሚችሉ መልእክቶች አሉ (ኤም በኋላም ይገለጻል) ፣ ስለሆነም የተላከ መልእክት የመሆን እድሉ

(ላኪ)
የጊዜ ሰሌዳ 13.II

በመቀጠል, የቻናል አቅምን ሀሳብ ግምት ውስጥ ያስገቡ. ወደ ዝርዝር ጉዳዮች ሳንገባ፣ የቻናል አቅም እጅግ በጣም ቀልጣፋ ኮድ አጠቃቀሙን ከግምት ውስጥ በማስገባት በመገናኛ ቻናል ላይ በአስተማማኝ ሁኔታ ሊተላለፍ የሚችል ከፍተኛው የመረጃ መጠን ተብሎ ይገለጻል። ከአቅም በላይ መረጃ በመገናኛ ቻናል ሊተላለፍ ይችላል የሚል ክርክር የለም። ይህ ለሁለትዮሽ ሲሜትሪክ ሰርጥ (በእኛ ጉዳይ ላይ የምንጠቀመው) ሊረጋገጥ ይችላል. የሰርጡ አቅም፣ ቢት ሲላክ፣ እንደ ይገለጻል።

የት ፣ ልክ እንደበፊቱ ፣ ፒ በማንኛውም የተላከ ቢት ውስጥ ምንም ስህተት የመኖር እድሉ ነው። n ገለልተኛ ቢት ሲላክ የሰርጡ አቅም የሚሰጠው በ

ወደ ቻናሉ አቅም ቅርብ ከሆንን ለእያንዳንዱ ምልክት አይ = 1 ፣ ... ፣ M. የእያንዳንዱን ምልክት አኢ የመከሰት እድሉ 1 / M መሆኑን ከግምት በማስገባት ለእያንዳንዱ ምልክት ይህንን መጠን ማለት ይቻላል መላክ አለብን። እናገኛለን

እኩል ሊሆኑ የሚችሉ መልዕክቶችን ስንልክ አለን።

n ቢት ሲላክ፣ nQ ስህተቶች እንደሚፈጠሩ እንጠብቃለን። በተግባር፣ n-bitsን ላካተተ መልእክት፣ በተቀበለው መልእክት ውስጥ በግምት nQ ስህተቶች ይኖሩናል። ለትልቅ n፣ አንጻራዊ ልዩነት (ልዩነት = የስርጭት ስፋት፣)
n ሲጨምር የስህተቶች ብዛት ስርጭት እየጠበበ ይሄዳል።

ስለዚህ፣ ከማስተላለፊያው ጎን፣ ለመላክ እና በዙሪያው ሉል በሬዲየስ ለመሳል መልእክቱን እወስዳለሁ

ከተጠበቀው የስህተቶች ብዛት ከ e2 ጋር እኩል በሆነ መጠን በትንሹ የሚበልጥ (ምስል 13.II)። n በቂ ከሆነ፣ ከዚህ ሉል በላይ የሚዘልቅ የመልእክት ነጥብ bj በተቀባዩ በኩል የመታየት በዘፈቀደ ትንሽ የመሆን እድሉ አለ። ሁኔታውን ከማስተላለፊያው አንፃር እንዳየሁት እንየው፡- ከተላለፈው መልእክት ai ወደ የተቀበለው መልእክት bj ከመደበኛው ስርጭት ጋር እኩል የሆነ (ወይም ከሞላ ጎደል) ጋር እኩል የሆነ ራዲየስ አለን ፣ ከፍተኛ ደረጃ ላይ ደርሷል። የ nQ. ለማንኛውም e2 ፣ በጣም ትልቅ የሆነ n አለ ፣ ውጤቱም bj ከእኔ ሉል ውጭ የመሆን እድሉ የፈለጋችሁትን ያህል ትንሽ ነው።

አሁን ከጎንዎ ተመሳሳይ ሁኔታን እንይ (ምስል 13.III). በተቀባዩ በኩል በ n-dimensional space ውስጥ በተቀበለው ነጥብ bj ዙሪያ ተመሳሳይ ራዲየስ ያለው ሉል S(r) አለ ፣ እንደዚህ ያለ የተቀበለው መልእክት bj በእኔ ሉል ውስጥ ከሆነ በእኔ የተላከው መልእክት በእርስዎ ውስጥ ነው ። ሉል.

ስህተት እንዴት ሊከሰት ይችላል? ስህተቱ ከዚህ በታች ባለው ሠንጠረዥ ውስጥ በተገለጹት ጉዳዮች ላይ ሊከሰት ይችላል-

ምስል 13.III

እዚህ ላይ በተቀበለው ነጥብ ዙሪያ በተሰራው ሉል ውስጥ ቢያንስ አንድ ተጨማሪ ነጥብ ካለ ከተላከ ያልተመዘገበ መልእክት ጋር የሚዛመድ ከሆነ ፣ከእነዚህ መልዕክቶች ውስጥ የትኛው እንደተላለፈ ማወቅ ስላልቻልክ በስርጭት ጊዜ ስህተት ተከስቷል። የተላከው መልእክት ከስህተት የጸዳው ከእሱ ጋር የሚዛመደው ነጥብ በሉል ውስጥ ከሆነ ብቻ ነው, እና በተሰጠው ኮድ ውስጥ በተመሳሳይ ሉል ውስጥ ያሉ ሌሎች ነጥቦች ከሌሉ ብቻ ነው.

መልእክት ai ከተላከ የስህተት ዕድል Pee የሂሳብ እኩልታ አለን።

በሁለተኛው ቃል ውስጥ የመጀመሪያውን ምክንያት መጣል እንችላለን, እንደ 1. ስለዚህ እኩልነት እናገኛለን

በእርግጥ ፣

በዚህም ምክንያት

በቀኝ በኩል ላለው የመጨረሻ ቃል እንደገና ያመልክቱ

በቂ n ትልቅ መውሰድ, የመጀመሪያው ቃል የተፈለገውን ያህል ትንሽ ሊወሰድ ይችላል, አንዳንድ ቁጥር መ ከ ያነሰ ይላሉ. ስለዚህም አለን።

አሁን n ቢት ያካተቱ ኤም መልእክቶችን ለመቀየሪያ ቀላል የመተኪያ ኮድ እንዴት መገንባት እንደምንችል እንመልከት። ኮድ በትክክል እንዴት እንደሚሠራ ምንም ሳያውቅ (ስህተት የሚስተካከሉ ኮዶች ገና አልተፈለሰፉም ነበር)፣ ሻነን የዘፈቀደ ኮድ ማድረግን መረጠ። በመልእክቱ ውስጥ ላለው እያንዳንዱ n ቢት ሳንቲም ገልብጥ እና ለኤም መልእክቶች ሂደቱን መድገም። በጠቅላላው, nM ሳንቲም መገልበጥ ያስፈልጋል, ስለዚህ ይቻላል

ተመሳሳይ ዕድል ½nM ያላቸው የኮድ መዝገበ ቃላት። እርግጥ ነው, ኮድ ደብተር የመፍጠር የዘፈቀደ ሂደት ማለት የተባዙ, እንዲሁም እርስ በእርሳቸው የሚቀራረቡ እና ሊሆኑ የሚችሉ ስህተቶች ምንጭ የሚሆኑ የኮድ ነጥቦች እድል አለ ማለት ነው. አንድ ሰው ይህ ከየትኛውም ትንሽ ከተመረጠው የስህተት ደረጃ በሚበልጥ እድል ካልተከሰተ የተሰጠው n በቂ መሆኑን ማረጋገጥ አለበት።
ወሳኙ ነጥብ ሻነን አማካዩን ስህተት ለማግኘት ሁሉንም የኮድ ደብተሮች አማካኝ አድርጓል! በሁሉም ሊሆኑ በሚችሉ የዘፈቀደ የኮድ ደብተሮች መካከል ያለውን አማካይ ዋጋ ለማመልከት Av[.] የሚለውን ምልክት እንጠቀማለን። በቋሚ መ ላይ አማካኝ ማለት ቋሚ ይሰጣል ምክንያቱም እያንዳንዱ ቃል በአማካይ ከጠቅላላው ቃል ጋር ተመሳሳይ ነው ፣

ሊጨምር የሚችለው (M-1 ወደ M ይሄዳል)

ለማንኛውም መልእክት፣ በሁሉም የኮድ ደብተሮች ላይ አማካኝ ሲደረግ ኢንኮዲንግ ሁሉንም ሊሆኑ የሚችሉ እሴቶችን ያልፋል፣ ስለዚህ አንድ ነጥብ በሉል ውስጥ ያለው አማካይ እድል የሉሉ መጠን ከጠቅላላው የቦታ መጠን ሬሾ ነው። የሉል መጠን ነው

የት s=Q+e2 <1/2 እና ns ኢንቲጀር መሆን አለባቸው።

በስተቀኝ ያለው የመጨረሻው ቃል በዚህ ድምር ትልቁ ነው። በመጀመሪያ፣ ለፋብሪካዎች ስተርሊንግ ፎርሙላ በመጠቀም ዋጋውን እንገምት። ከዚያም ፊት ለፊት ያለውን የቃሉን መጠን መቀነስ እንመለከታለን፣ ወደ ግራ ስንሄድ ይህ ጥምርታ እንደሚጨምር እና ስለዚህ፡ (1) የድምሩ ዋጋን ከጂኦሜትሪክ ግስጋሴ ድምር ጋር መገደብ እንችላለን። ይህ የመነሻ መጠን፣ (2) የጂኦሜትሪክ ግስጋሴውን ከኤን ኤስ ቃላት ወደ ማለቂያ ወደሌለው የቃላቶች ብዛት ማስፋት፣ (3) ማለቂያ የሌለውን የጂኦሜትሪክ እድገት ድምርን አስል (መደበኛ አልጀብራ፣ ምንም ወሳኝ ነገር የለም) እና በመጨረሻም የሚገድበው እሴት ያግኙ (በበቂ ትልቅ ለሆነ n):

ኢንትሮፒ ኤች(ዎች) በሁለትዮሽ ማንነት ውስጥ እንዴት እንደታየ ልብ ይበሉ። የቴይለር ተከታታይ ማስፋፊያ H(s)=H(Q+e2)የመጀመሪያውን ተዋፅኦን ብቻ ከግምት ውስጥ በማስገባት የተገኘውን ግምት እንደሚሰጥ እና ሌሎችን ሁሉ ችላ ማለት መሆኑን ልብ ይበሉ። አሁን የመጨረሻውን አገላለጽ አንድ ላይ እናስቀምጥ፡-

የት

እኛ ማድረግ ያለብን e2ን መምረጥ ብቻ ነው e3 <e1, እና ከዚያ የመጨረሻው ቃል በዘፈቀደ ትንሽ ይሆናል, n በቂ እስከሆነ ድረስ. ስለሆነም አማካኝ የ PE ስህተት ከሰርጡ አቅም በዘፈቀደ ወደ ሐ ሲጠጋ የተፈለገውን ያህል ሊገኝ ይችላል።
የሁሉም ኮዶች አማካኝ ትንሽ በቂ ስህተት ካለው፣ ቢያንስ አንድ ኮድ ተስማሚ መሆን አለበት፣ ስለዚህ ቢያንስ አንድ ተስማሚ የኮድ አሰራር ስርዓት አለ። ይህ በሻነን የተገኘ ጠቃሚ ውጤት ነው - "የሻኖን ቲዎሪ ለጩኸት ቻናል" ምንም እንኳን እኔ ከተጠቀምኩበት ቀላል ሁለትዮሽ ሲምሜትሪክ ቻናል ይልቅ ይህንን ለአጠቃላይ ጉዳይ እንዳረጋገጠ ልብ ሊባል ይገባል። ለአጠቃላይ ሁኔታ, የሂሳብ ስሌቶች በጣም የተወሳሰቡ ናቸው, ግን ሀሳቦቹ በጣም የተለያዩ አይደሉም, በጣም ብዙ ጊዜ, የአንድ የተወሰነ ጉዳይ ምሳሌ በመጠቀም, የንድፈ ሃሳቡን ትክክለኛ ትርጉም ማሳየት ይችላሉ.

ውጤቱን እንነቅፈው። ደጋግመን ደጋግመናል፡ “ለበቂ ትልቅ n። ግን n ምን ያህል ትልቅ ነው? በጣም ፣ በጣም ትልቅ ከሆነ ለሁለቱም ወደ ቻናሉ አቅም ቅርብ ለመሆን እና ትክክለኛውን የውሂብ ማስተላለፍን እርግጠኛ ይሁኑ! በጣም ትልቅ፣ በእውነቱ፣ በኋላ ላይ ለማመሳጠር በቂ የሆነ ትንሽ መልእክት ለመሰብሰብ በጣም ረጅም ጊዜ መጠበቅ አለብዎት። በዚህ አጋጣሚ የነሲብ ኮድ መዝገበ ቃላት መጠኑ በቀላሉ ግዙፍ ይሆናል (ከሁሉም በኋላ, n እና M በጣም ትልቅ ቢሆኑም, እንዲህ ዓይነቱ መዝገበ-ቃላት ከሁሉም Mn ቢት ሙሉ ዝርዝር ባጭሩ ሊወከል አይችልም)!

የስህተት ማረም ኮዶች በጣም ረጅም መልእክት ከመጠበቅ እና በመቀጠል በጣም ትልቅ በሆኑ የኮድ ደብተሮች ውስጥ ኮድ ማድረጉ እና ዲኮዲንግ ከማድረግ ይቆጠባሉ ምክንያቱም የኮድ ደብተሮችን ራሳቸው ስለሚያስወግዱ እና በምትኩ ተራ ስሌት ስለሚጠቀሙ ነው። በቀላል ጽንሰ-ሀሳብ ፣ እንደዚህ ያሉ ኮዶች የሰርጡን አቅም የመቅረብ ችሎታን ያጣሉ እና አሁንም ዝቅተኛ የስህተት ደረጃን ይይዛሉ ፣ ግን ኮዱ ብዙ ቁጥር ያላቸውን ስህተቶች ሲያስተካክል በጥሩ ሁኔታ ይሰራሉ። በሌላ አገላለጽ አንዳንድ የሰርጥ አቅምን ለስህተት እርማት ከመደብክ ብዙ ጊዜ የስህተት እርማት ችሎታን መጠቀም አለብህ ማለትም በተላከ መልእክት ውስጥ ብዙ ቁጥር ያላቸው ስህተቶች መታረም አለባቸው አለበለዚያ ይህንን አቅም ታባክናለህ።

በተመሳሳይ ጊዜ, ከላይ የተረጋገጠው ቲዎሪ አሁንም ትርጉም የለሽ አይደለም! ቀልጣፋ የማስተላለፊያ ስርዓቶች በጣም ረጅም ቢት ሕብረቁምፊዎች ብልህ የመቀየሪያ ዘዴዎችን መጠቀም እንዳለባቸው ያሳያል። ለምሳሌ ከውጪው ፕላኔቶች በላይ የበረሩ ሳተላይቶች; ከምድር እና ከፀሐይ ርቀው በሚሄዱበት ጊዜ በመረጃ ማገጃው ውስጥ ብዙ ስህተቶችን ለማረም ይገደዳሉ-አንዳንድ ሳተላይቶች የፀሐይ ፓነሎችን ይጠቀማሉ ፣ ይህም 5 ዋ ያህል ይሰጣል ፣ ሌሎች ደግሞ ተመሳሳይ ኃይልን የሚያቀርቡ የኑክሌር ኃይልን ይጠቀማሉ። የኃይል አቅርቦቱ ዝቅተኛ ኃይል፣ የማስተላለፊያ ሳህኖች አነስተኛ መጠን እና በምድር ላይ ያሉ የመቀበያ ምግቦች ውስንነት ፣ ምልክቱ መጓዝ ያለበት ትልቅ ርቀት - ይህ ሁሉ ለመገንባት ከፍተኛ የስህተት እርማት ያላቸውን ኮዶች መጠቀምን ይጠይቃል ። ውጤታማ የግንኙነት ስርዓት.

ከላይ ባለው ማስረጃ ላይ ወደ ተጠቀምንበት n-dimensional space እንመለስ። በመወያየት ላይ, እኛ ማለት ይቻላል መላውን የሉል መጠን ወደ ውጭው ወለል አጠገብ ያተኮረ መሆኑን አሳይቷል - በመሆኑም, የተላከው ምልክት በአንጻራዊ ሁኔታ ሲታይ እንኳን በተቀበለው ምልክት ዙሪያ የተገነባው የሉል ወለል አጠገብ እንደሚገኝ እርግጠኛ ነው. የእንደዚህ አይነት ሉል ትንሽ ራዲየስ. ስለዚህ, የተቀበለው ምልክት በዘፈቀደ ብዙ ቁጥር ያላቸውን ስህተቶች ካረመ በኋላ, nQ, ስህተት ከሌለው ምልክት ጋር በዘፈቀደ መቅረብ አያስገርምም. ቀደም ሲል የተነጋገርነው የግንኙነት አቅም ይህንን ክስተት ለመረዳት ቁልፍ ነው. ለስህተት ማስተካከያ የሃሚንግ ኮዶች የተገነቡ ተመሳሳይ ሉሎች እርስ በርስ እንደማይደራረቡ ልብ ይበሉ። በ n-dimensional space ውስጥ ያሉ ብዙ ቁጥር ያላቸው ወደ ኦርቶጎን የሚጠጉ ልኬቶች ለምን M ሉሎችን በትንሽ መደራረብ በጠፈር ውስጥ እንደምናስማማ ያሳያል። ትንሽ በዘፈቀደ ትንሽ መደራረብ ከፈቀድን ፣ ይህም በዲኮዲንግ ወቅት አነስተኛ ቁጥር ያላቸውን ስህተቶች ብቻ ሊያመጣ ይችላል ፣ በቦታ ውስጥ ጥቅጥቅ ያሉ የሉል ምደባዎችን ማግኘት እንችላለን ። ሃሚንግ በተወሰነ ደረጃ የስህተት እርማትን ዋስትና ሰጥቷል, ሻነን - ዝቅተኛ የስህተት እድል, ግን በተመሳሳይ ጊዜ ትክክለኛውን የውጤት መጠን ወደ የመገናኛ ቻናል አቅም ቅርበት ማቆየት, የሃሚንግ ኮዶች ሊያደርጉ አይችሉም.

የኢንፎርሜሽን ቲዎሪ እንዴት ቀልጣፋ ሥርዓት መንደፍ እንዳለብን አይነግረንም፣ ነገር ግን ወደ ቀልጣፋ የግንኙነት ሥርዓቶች መንገዱን ይጠቁማል። ከማሽን ወደ ማሽን የመገናኛ ዘዴዎችን ለመገንባት ጠቃሚ መሳሪያ ነው, ነገር ግን ቀደም ሲል እንደተገለፀው, ሰዎች እርስ በርስ እንዴት እንደሚግባቡ ብዙም ጠቀሜታ የለውም. የባዮሎጂካል ውርስ ምን ያህል እንደ ቴክኒካል የመገናኛ ዘዴዎች የማይታወቅ ነው, ስለዚህ የመረጃ ንድፈ ሃሳብ በጂኖች ላይ እንዴት እንደሚተገበር በአሁኑ ጊዜ ግልጽ አይደለም. ከመሞከር ውጪ ምንም አማራጭ የለንም እና ስኬት የዚህን ክስተት ማሽን መሰል ባህሪ ካሳየን ውድቀት ወደ ሌሎች የመረጃ ባህሪይ ገፅታዎች ይጠቁማል።

አብዝተን አንቆፈር። ሁሉም ኦሪጅናል ትርጉሞች ይብዛም ይነስም የቀደሙ እምነቶቻችንን ምንነት መግለጽ እንዳለባቸው አይተናል ነገር ግን በተወሰነ ደረጃ የተዛባ ባህሪ ያላቸው ናቸው ስለዚህም ተፈጻሚነት የላቸውም። በመጨረሻ የምንጠቀመው ፍቺ ምንነቱን እንደሚገልፅ በባህላዊ መንገድ ተቀባይነት አለው። ነገር ግን ይህ እንዴት ነገሮችን እንደምናስተናግድ ብቻ ይነግረናል እና በምንም መንገድ ለእኛ ምንም ትርጉም አይሰጠንም። በሒሳብ ክበቦች ውስጥ በጣም የተወደደው የድህረ-ገጽታ አቀራረብ በተግባር ብዙ የሚፈለጉትን ይተዋል ።

አሁን የ IQ ሙከራዎችን ምሳሌ እንመለከታለን ፍቺው እርስዎ የፈለጋችሁትን ያህል ክብ የሆነ እና በዚህም ምክንያት አሳሳች ነው። የማሰብ ችሎታን የሚለካ ፈተና ይፈጠራል። ከዚያም በተቻለ መጠን ወጥነት ያለው እንዲሆን ይከለሳል፣ ከዚያም ታትሞ በቀላሉ ተስተካክሎ የሚለካው “የማሰብ ችሎታ” በመደበኛነት እንዲሰራጭ (በእርግጥ በካሊብሬሽን ከርቭ ላይ) ይሆናል። ሁሉም ትርጓሜዎች ለመጀመሪያ ጊዜ ሲቀርቡ ብቻ ሳይሆን ብዙ ቆይተው በተደረጉት መደምደሚያዎች ውስጥ ጥቅም ላይ ሲውሉ እንደገና መፈተሽ አለባቸው. ለችግሩ መፍትሄ ምን ያህል የትርጓሜ ድንበሮች ተስማሚ ናቸው? በአንድ ቅንብር ውስጥ የተሰጡ ትርጓሜዎች በተለያዩ መቼቶች ውስጥ ምን ያህል ጊዜ ተግባራዊ ይሆናሉ? ይህ በጣም ብዙ ጊዜ ይከሰታል! በህይወትዎ ውስጥ በሚያጋጥሙዎት በሰው ልጆች ውስጥ ፣ ይህ ብዙ ጊዜ ይከሰታል።

ስለሆነም የዚህ የመረጃ ንድፈ ሐሳብ አቀራረብ አንዱ ዓላማ ጠቃሚነቱን ከማሳየት በተጨማሪ ይህን አደጋ ለማስጠንቀቅ ወይም የሚፈለገውን ውጤት ለማግኘት በትክክል እንዴት እንደሚጠቀሙበት ለማሳየት ነው። የመነሻ ትርጓሜዎች በመጨረሻው ላይ የሚያገኙትን የሚወስኑት ከሚመስለው እጅግ የላቀ እንደሆነ ከረዥም ጊዜ ጀምሮ ተስተውሏል። የመጀመሪያ ትርጓሜዎች በማንኛውም አዲስ ሁኔታ ላይ ብቻ ሳይሆን ለረጅም ጊዜ ሲሰሩ በነበሩባቸው ቦታዎች ላይ ከእርስዎ ብዙ ትኩረት ይፈልጋሉ. ይህ የተገኘው ውጤት ምን ያህል ታውቶሎጂ እንደሆነ እና ጠቃሚ ነገር እንዳልሆነ እንዲረዱ ያስችልዎታል.

የኤዲንግተን ዝነኛ ታሪክ በባህር ውስጥ ዓሣ በማጥመድ መረብ ስለያዙ ሰዎች ይናገራል። የተያዙትን ዓሦች መጠን ካጠኑ በኋላ በባሕር ውስጥ የሚገኘውን አነስተኛውን ዓሣ ወሰኑ! የእነሱ መደምደሚያ በእውነታው ሳይሆን በተጠቀመው መሳሪያ ነው.

ይቀጥላል…

በመጽሐፉ ትርጉም, አቀማመጥ እና ህትመት ላይ ማን መርዳት ይፈልጋል - በግል መልእክት ወይም ኢሜል ይጻፉ [ኢሜል የተጠበቀ]

በነገራችን ላይ ሌላ አሪፍ መጽሃፍ መተርጎም ጀምረናል - "የህልም ማሽን: የኮምፒተር አብዮት ታሪክ")

በተለይ እየፈለግን ነው። ለመተርጎም የሚረዱ ጉርሻ ምዕራፍ, ይህም በቪዲዮ ላይ ብቻ ነው. (ለ 10 ደቂቃዎች ማስተላለፍ, የመጀመሪያዎቹ 20 ቀድሞውኑ ተወስደዋል)

የመጽሐፉ ይዘት እና የተተረጎሙ ምዕራፎችመቅድም

1. የሳይንስ እና የምህንድስና ጥበብ መግቢያ፡ መማር መማር (መጋቢት 28፣ 1995) ትርጉም፡ ምዕራፍ 1
2. "የዲጂታል (ዲክሪት) አብዮት መሠረቶች" (መጋቢት 30, 1995) ምዕራፍ 2. የዲጂታል (የተለየ) አብዮት መሰረታዊ ነገሮች
3. "የኮምፒዩተሮች ታሪክ - ሃርድዌር" (መጋቢት 31, 1995) ምዕራፍ 3. የኮምፒተሮች ታሪክ - ሃርድዌር
4. "የኮምፒዩተሮች ታሪክ - ሶፍትዌር" (ኤፕሪል 4, 1995) ምዕራፍ 4. የኮምፒተሮች ታሪክ - ሶፍትዌር
5. "የኮምፒዩተሮች ታሪክ - አፕሊኬሽኖች" (ኤፕሪል 6, 1995) ምዕራፍ 5: የኮምፒዩተሮች ታሪክ - ተግባራዊ መተግበሪያዎች
6. "አርቴፊሻል ኢንተለጀንስ - ክፍል አንድ" (ሚያዝያ 7, 1995) ምዕራፍ 6. አርቲፊሻል ኢንተለጀንስ - 1
7. "አርቴፊሻል ኢንተለጀንስ - ክፍል II" (ኤፕሪል 11, 1995) ምዕራፍ 7. አርቲፊሻል ኢንተለጀንስ - II
8. "አርቴፊሻል ኢንተለጀንስ III" (ኤፕሪል 13, 1995) ምዕራፍ 8. አርቲፊሻል ኢንተለጀንስ-III
9. "n-Dimensional Space" (ኤፕሪል 14, 1995) ምዕራፍ 9. N-ልኬት ቦታ
10. "የኮዲንግ ቲዎሪ - የመረጃ ውክልና ክፍል አንድ" (ሚያዝያ 18, 1995) ምዕራፍ 10. የኮዲንግ ቲዎሪ - I
11. "የኮዲንግ ቲዎሪ - የመረጃ ውክልና, ክፍል II" (ሚያዝያ 20, 1995) ምዕራፍ 11. የኮዲንግ ቲዎሪ - II
12. "የማስተካከያ ኮዶች" (ኤፕሪል 21, 1995) ምዕራፍ 12. የስህተት ማስተካከያ ኮዶች
13. "የመረጃ ቲዎሪ" (ኤፕሪል 25, 1995) ምዕራፍ 13. የመረጃ ጽንሰ-ሐሳብ
14. "ዲጂታል ማጣሪያዎች፣ ክፍል አንድ" (ሚያዝያ 27፣ 1995) ምዕራፍ 14. ዲጂታል ማጣሪያዎች - 1
15. "ዲጂታል ማጣሪያዎች, ክፍል II" (ኤፕሪል 28, 1995) ምዕራፍ 15. ዲጂታል ማጣሪያዎች - 2
16. "ዲጂታል ማጣሪያዎች፣ ክፍል III" (ግንቦት 2፣ 1995) ምዕራፍ 16. ዲጂታል ማጣሪያዎች - 3
17. "ዲጂታል ማጣሪያዎች፣ ክፍል IV" (ግንቦት 4፣ 1995) ምዕራፍ 17. ዲጂታል ማጣሪያዎች - IV
18. “ማስመሰል፣ ክፍል አንድ” (ግንቦት 5 ቀን 1995) ምዕራፍ 18. ሞዴሊንግ - I
19. “ማስመሰል፣ ክፍል II” (ግንቦት 9 ቀን 1995) ምዕራፍ 19. ሞዴሊንግ - II
20. “ማስመሰል፣ ክፍል III” (ግንቦት 11 ቀን 1995) ምዕራፍ 20. ሞዴሊንግ - III
21. "ፋይበር ኦፕቲክስ" (ግንቦት 12, 1995) ምዕራፍ 21. ፋይበር ኦፕቲክስ
22. "በኮምፒዩተር የታገዘ መመሪያ" (ግንቦት 16, 1995) ምዕራፍ 22፡ በኮምፒውተር የታገዘ መመሪያ (CAI)
23. "ሒሳብ" (ግንቦት 18, 1995) ምዕራፍ 23. ሂሳብ
24. "ኳንተም ሜካኒክስ" (ግንቦት 19 ቀን 1995) ምዕራፍ 24. የኳንተም ሜካኒክስ
25. "ፈጠራ" (ግንቦት 23 ቀን 1995) ትርጉም፡- ምዕራፍ 25. ፈጠራ
26. "ባለሙያዎች" (ግንቦት 25, 1995) ምዕራፍ 26. ባለሙያዎች
27. "የማይታመን ውሂብ" (ግንቦት 26, 1995) ምዕራፍ 27. የማይታመን ውሂብ
28. "የስርዓት ምህንድስና" (ግንቦት 30, 1995) ምዕራፍ 28. ሲስተምስ ምህንድስና
29. "የምትለካውን ታገኛለህ" (ሰኔ 1, 1995) ምዕራፍ 29፡ የምትለካውን ታገኛለህ
30. "የምናውቀውን እንዴት እናውቃለን" (ሰኔ 2, 1995) በ 10 ደቂቃ ቁርጥራጮች ውስጥ መተርጎም
31. ሃሚንግ፣ “አንተ እና ምርምርህ” (ሰኔ 6፣ 1995)። ትርጉም፡ አንተ እና ስራህ

በመጽሐፉ ትርጉም, አቀማመጥ እና ህትመት ላይ ማን መርዳት ይፈልጋል - በግል መልእክት ወይም ኢሜል ይጻፉ [ኢሜል የተጠበቀ]

ምንጭ: hab.com