Peb tau ua!
"Lub hom phiaj ntawm chav kawm no yog los npaj koj rau koj qhov kev paub yav tom ntej."
Nyob zoo, Habr. Nco ntsoov tsab xov xwm txaus ntshai (+ 219, 2588 bookmarks, 429k nyeem)?
Yog li Hamming (yog, yog, saib xyuas tus kheej thiab kho tus kheej ) muaj tag nrho , sau raws li nws cov lus qhuab qhia. Peb txhais nws, vim tus txiv neej hais nws lub siab.
Qhov no yog ib phau ntawv tsis yog hais txog IT, nws yog ib phau ntawv hais txog kev xav ntawm cov neeg zoo kawg nkaus. βNws tsis yog tsuas yog txhawb kev xav zoo xwb; nws piav txog cov xwm txheej uas ua rau kom muaj feem ua tau haujlwm zoo. "
Ua tsaug rau Andrey Pakhomov rau kev txhais lus.
Cov Ntaub Ntawv Kev Xav tau tsim los ntawm C. E. Shannon thaum xyoo 1940s. Tswb Labs tswj hwm hais tias nws hu nws "Kev Sib Txuas Lus" vim tias ... qhov no yog lub npe tiag tiag. Rau qhov laj thawj pom tseeb, lub npe "Information Theory" muaj kev cuam tshuam ntau dua rau pej xeem, uas yog vim li cas Shannon tau xaiv nws, thiab nws yog lub npe peb paub txog niaj hnub no. Lub npe nws tus kheej qhia tias txoj kev xav cuam tshuam nrog cov ntaub ntawv, uas ua rau nws tseem ceeb thaum peb txav mus tob rau hauv cov ntaub ntawv hnub nyoog. Nyob rau hauv tshooj no, kuv yuav kov rau ntau lub ntsiab lus xaus los ntawm qhov kev xav no, kuv yuav muab tsis nruj, tab sis cov pov thawj intuitive ntawm qee tus neeg cov kev cai ntawm txoj kev xav no, kom koj nkag siab tias "Cov Ntaub Ntawv Txoj Cai" yog dab tsi, qhov twg koj tuaj yeem siv nws. thiab tsis nyob qhov twg.
Ua ntej tshaj, "cov ntaub ntawv" yog dab tsi? Shannon sib npaug cov ntaub ntawv nrog tsis paub tseeb. Nws xaiv qhov tsis zoo logarithm ntawm qhov tshwm sim ntawm qhov tshwm sim raws li qhov ntsuas ntau ntawm cov ntaub ntawv koj tau txais thaum muaj xwm txheej nrog qhov tshwm sim p tshwm sim. Piv txwv li, yog kuv qhia rau koj tias huab cua hauv Los Angeles yog pos huab, ces p yog ze rau 1, uas yeej tsis qhia peb ntau. Tab sis yog tias kuv hais tias nws los nag hauv Monterey thaum Lub Rau Hli, yuav muaj qhov tsis paub meej hauv cov lus thiab nws yuav muaj cov ntaub ntawv ntxiv. Ib qho kev tshwm sim txhim khu kev qha tsis muaj cov ntaub ntawv, txij li lub log 1 = 0.
Cia peb saib qhov no hauv kev nthuav dav ntxiv. Shannon ntseeg hais tias qhov kev ntsuas ntau ntawm cov ntaub ntawv yuav tsum yog qhov ua haujlwm tas li ntawm qhov tshwm sim ntawm qhov tshwm sim p, thiab rau cov xwm txheej ywj pheej nws yuav tsum tau ntxiv - cov ntaub ntawv tau txais los ntawm qhov tshwm sim ntawm ob qhov xwm txheej ywj pheej yuav tsum sib npaug rau tus nqi ntawm cov ntaub ntawv tau txais los ntawm qhov tshwm sim ntawm kev sib koom ua ke. Piv txwv li, qhov tshwm sim ntawm ib tug dice yob thiab ib lub npib yob feem ntau yog kho raws li cov xwm txheej ywj pheej. Cia peb txhais cov lus saum toj no rau hauv cov lus ntawm lej. Yog tias kuv (p) yog tus lej ntawm cov ntaub ntawv muaj nyob rau hauv ib qho kev tshwm sim nrog qhov tshwm sim p, tom qab ntawd rau qhov kev tshwm sim sib koom ua ke ntawm ob qhov xwm txheej ywj pheej x nrog qhov tshwm sim p1 thiab y nrog qhov tshwm sim p2 peb tau txais
(x thiab y yog cov xwm txheej ywj pheej)
Qhov no yog qhov ua haujlwm Cauchy sib npaug, muaj tseeb rau txhua tus p1 thiab p2. Yuav kom daws tau qhov kev sib npaug ua haujlwm, xav tias
p1 = np2 = p,
qhov no muab
Yog tias p1 = p2 thiab p2 = p ces
lwm. Txuas ntxiv cov txheej txheem no siv tus qauv txheej txheem rau exponentials, rau txhua tus lej rational m/n cov hauv qab no yog qhov tseeb
Los ntawm qhov kev xav txuas ntxiv ntawm cov ntaub ntawv ntsuas, nws ua raws li qhov kev ua haujlwm ntawm logarithmic tsuas yog kev daws teeb meem txuas ntxiv mus rau qhov ua haujlwm Cauchy kab zauv.
Nyob rau hauv cov ntaub ntawv txoj kev xav, nws yog ib txwm coj lub logarithm puag yuav 2, yog li ib tug binary xaiv muaj raws nraim 1 ntsis ntawm cov ntaub ntawv. Yog li ntawd, cov ntaub ntawv yog ntsuas los ntawm cov qauv
Cia peb nres thiab nkag siab tias muaj dab tsi tshwm sim saum toj no. Ua ntej tshaj plaws, peb tsis tau txhais lub tswvyim ntawm "cov ntaub ntawv"; peb tsuas yog txhais cov qauv rau nws qhov kev ntsuas ntau.
Qhov thib ob, qhov kev ntsuas no yog qhov tsis paub meej, thiab txawm hais tias nws tsim nyog rau cov tshuab - piv txwv li, xov tooj, xov tooj cua, TV, khoos phis tawj, thiab lwm yam - nws tsis cuam tshuam rau tib neeg tus cwj pwm ntawm cov ntaub ntawv.
Thib peb, qhov no yog qhov ntsuas txheeb ze, nws nyob ntawm lub xeev tam sim no ntawm koj qhov kev paub. Yog tias koj saib ntawm cov kwj ntawm "cov lej tsis sib xws" los ntawm lub tshuab hluav taws xob random, koj xav tias txhua tus lej tom ntej no tsis paub meej, tab sis yog tias koj paub cov qauv rau kev suav "cov lej lej", tus lej tom ntej yuav raug paub, thiab yog li ntawd yuav tsis muaj cov ntaub ntawv.
Yog li Shannon lub ntsiab lus ntawm cov ntaub ntawv yog tsim nyog rau cov cav tov nyob rau hauv ntau rooj plaub, tab sis zoo li tsis haum rau tib neeg kev nkag siab ntawm lo lus. Nws yog vim li no tias "Information Theory" yuav tsum tau hu ua "Kev Sib Txuas Lus Theory." Txawm li cas los xij, nws lig dhau lawm los hloov cov ntsiab lus (uas tau muab txoj kev xav rau nws thawj qhov chaw, thiab tseem ua rau tib neeg xav tias qhov kev xav no cuam tshuam nrog "cov ntaub ntawv"), yog li peb yuav tsum nyob nrog lawv, tab sis tib lub sijhawm koj yuav tsum kom paub meej tias Shannon lub ntsiab lus ntawm cov ntaub ntawv yog nyob deb npaum li cas los ntawm nws cov ntsiab lus siv. Shannon cov ntaub ntawv hais txog ib yam dab tsi txawv kiag li, uas yog qhov tsis paub tseeb.
Nov yog qee yam uas yuav tsum tau xav txog thaum koj tshaj tawm cov lus siv. Lub tswv yim txhais li cas, xws li Shannon lub ntsiab lus ntawm cov ntaub ntawv, pom zoo nrog koj lub tswv yim qub thiab nws txawv li cas? Yuav luag tsis muaj lub ntsiab lus uas qhia meej txog koj lub zeem muag yav dhau los ntawm lub tswv yim, tab sis thaum kawg, nws yog cov lus siv uas qhia txog lub ntsiab lus ntawm lub tswv yim, yog li kev tsim ib yam dab tsi los ntawm cov ntsiab lus meej ib txwm qhia qee lub suab nrov.
Xav txog qhov system uas nws cov tsiaj ntawv muaj cov cim q nrog qhov tshwm sim pi. Hauv qhov no nruab nrab cov ntaub ntawv hauv qhov system (nws tus nqi xav tau) yog sib npaug rau:
Qhov no yog hu ua entropy ntawm qhov system nrog qhov tshwm sim faib {pi}. Peb siv lo lus "entropy" vim hais tias tib daim ntawv lej tshwm nyob rau hauv thermodynamics thiab statistical mechanics. Qhov no yog vim li cas lo lus "entropy" tsim ib qho aura ntawm qhov tseem ceeb nyob ib ncig ntawm nws tus kheej, uas yog qhov kawg tsis ncaj ncees. Tib daim ntawv lej ntawm cov ntawv sau tsis txhais tau tib yam kev txhais cov cim!
Lub entropy ntawm qhov yuav tshwm sim faib ua lub luag haujlwm tseem ceeb hauv coding txoj kev xav. Gibbs qhov tsis sib xws rau ob qhov sib txawv ntawm qhov sib txawv pi thiab qi yog ib qho tseem ceeb ntawm qhov kev xav no. Yog li peb yuav tsum ua pov thawj tias
Cov ntaub ntawv pov thawj yog nyob ntawm daim duab pom tseeb, Fig. 13.I, uas qhia tau tias
thiab kev sib npaug tsuas yog ua tiav thaum x = 1. Cia peb siv qhov tsis sib xws rau txhua lub sijhawm ntawm cov lej ntawm sab laug:
Yog tias cov tsiaj ntawv ntawm kev sib txuas lus muaj cov cim q, ces noj qhov tshwm sim ntawm kev sib kis ntawm txhua lub cim qi = 1 / q thiab hloov q, peb tau txais los ntawm Gibbs qhov tsis sib xws.
Daim duab 13.I
Qhov no txhais tau hais tias yog qhov tshwm sim ntawm kev xa tawm tag nrho cov cim q yog tib yam thiab sib npaug rau - 1 / q, ces qhov siab tshaj plaws entropy yog sib npaug rau ln q, txwv tsis pub qhov tsis sib xws tuav.
Nyob rau hauv cov ntaub ntawv ntawm ib tug uniquely decodeable code, peb muaj Kraft qhov tsis sib xws
Tam sim no yog tias peb txhais pseudo-probabilities
qhov twg = 1, uas ua raws li Gibbs 'kev tsis sib xws,
thiab siv me ntsis algebra (nco ntsoov tias K β€ 1, yog li peb tuaj yeem tso lub sij hawm logarithmic, thiab tej zaum ntxiv dag zog rau qhov tsis sib xws tom qab), peb tau txais
qhov twg L yog qhov nruab nrab code ntev.
Yog li, entropy yog qhov tsawg kawg nkaus khi rau txhua tus cim-los ntawm cov cim code nrog qhov nruab nrab codeword ntev L. Qhov no yog Shannon's theorem rau kev cuam tshuam-dawb channel.
Tam sim no xav txog lub ntsiab theorem txog cov kev txwv ntawm kev sib txuas lus uas cov ntaub ntawv raug xa mus raws li cov kwj ntawm cov khoom ywj pheej thiab suab nrov tam sim no. Nws tau nkag siab tias qhov tshwm sim ntawm qhov raug xa mus ntawm ib qho me ntsis yog P> 1/2, thiab qhov tshwm sim uas tus nqi me ntsis yuav hloov pauv thaum lub sij hawm xa mus (qhov yuam kev yuav tshwm sim) yog sib npaug rau Q = 1 - P. Rau kev yooj yim, peb xav tias qhov tsis raug yog kev ywj pheej thiab qhov tshwm sim ntawm qhov yuam kev yog tib yam rau txhua qhov xa me ntsis - uas yog, muaj "lub suab nrov" hauv kev sib txuas lus.
Txoj kev uas peb muaj ib tug ntev kwj ntawm n cov khoom encoded rau hauv ib cov lus yog lub n - seem txuas ntxiv ntawm ib-ntsis code. Peb yuav txiav txim siab tus nqi ntawm n tom qab. Xav txog cov lus uas muaj n-ntsis ua ib qho chaw hauv n-dimensional qhov chaw. Txij li thaum peb muaj qhov chaw n-dimensional - thiab rau qhov yooj yim peb yuav xav tias txhua cov lus muaj qhov tshwm sim zoo ib yam - muaj cov lus M tau (M kuj tseem yuav txhais tau tom qab), yog li qhov tshwm sim ntawm cov lus xa tuaj yog
(tus xa)
Teem caij 13.II
Tom ntej no, xav txog lub tswv yim ntawm lub peev xwm channel. Yog tsis mus rau hauv cov ntsiab lus, channel peev xwm txhais tau tias yog qhov siab tshaj plaws ntawm cov ntaub ntawv uas tuaj yeem tso siab tau los ntawm kev sib txuas lus channel, suav nrog kev siv cov coding zoo tshaj plaws. Tsis muaj kev sib cav hais tias cov ntaub ntawv ntau ntxiv tuaj yeem kis tau los ntawm kev sib txuas lus ntau dua li nws lub peev xwm. Qhov no tuaj yeem ua pov thawj rau binary symmetric channel (uas peb siv hauv peb rooj plaub). Lub peev xwm channel, thaum xa cov khoom, tau teev tseg raws li
qhov twg, zoo li ua ntej, P yog qhov tshwm sim tsis muaj qhov yuam kev hauv ib qho kev xa me ntsis. Thaum xa n cov khoom ywj pheej, lub peev xwm channel tau muab los ntawm
Yog tias peb nyob ze rau lub peev xwm channel, ces peb yuav tsum xa yuav luag cov ntaub ntawv no rau txhua tus cim ai, i = 1, ..., M. Xav tias qhov tshwm sim ntawm qhov tshwm sim ntawm txhua lub cim ai yog 1 / M, peb tau
thaum peb xa ib qho ntawm M sib npaug tej zaum cov lus ai, peb muaj
Thaum n cov khoom xa tuaj, peb cia siab tias nQ yuam kev tshwm sim. Hauv kev xyaum, rau cov lus uas muaj n-ntsis, peb yuav muaj kwv yees li nQ yuam kev hauv cov lus tau txais. Rau loj n, txheeb ze variation (variation = faib dav, )
qhov kev faib tawm ntawm tus lej ntawm qhov yuam kev yuav ua rau nqaim zuj zus raws li n nce.
Yog li, los ntawm sab transmitter, kuv coj cov lus ai xa thiab kos ib puag ncig nws nrog lub vojvoog.
uas yog me ntsis loj dua los ntawm tus nqi sib npaug rau e2 tshaj li qhov xav tau ntawm qhov yuam kev Q, (Daim duab 13.II). Yog tias n loj txaus, ces muaj qhov tshwm sim me me ntawm cov lus taw tes bj tshwm rau ntawm tus txais sab nraud uas txuas mus dhau qhov no. Cia peb kos cov xwm txheej raws li kuv pom los ntawm qhov pom ntawm lub transmitter: peb muaj ib qho radii los ntawm cov lus xa mus rau cov lus tau txais bj nrog qhov tshwm sim ntawm qhov yuam kev sib npaug (lossis yuav luag sib npaug) rau qhov kev faib tawm ib txwm, ncav cuag qhov siab tshaj plaws. hauv nQ. Rau ib qho muab e2, muaj n loj heev uas qhov tshwm sim ntawm qhov tshwm sim bj nyob sab nraum kuv tus kheej yog me me li koj nyiam.
Tam sim no cia saib tib qhov xwm txheej ntawm koj sab (Fig. 13.III). Ntawm lub receiver sab muaj ib tug kheej kheej S(r) ntawm tib lub vojvoog r nyob ib ncig ntawm qhov tau txais point bj nyob rau hauv n-dimensional qhov chaw, xws li hais tias yog hais tias tus tau txais cov lus bj nyob rau hauv kuv tus kheej, ces cov lus ai xa los ntawm kuv nyob rau hauv koj. kheej kheej.
Yuav ua li cas yuam kev? Qhov yuam kev tuaj yeem tshwm sim hauv cov xwm txheej tau piav qhia hauv cov lus hauv qab no:
Bab 13.III
Ntawm no peb pom tias yog nyob rau hauv lub kheej kheej tsim nyob ib ncig ntawm qhov tau txais cov ntsiab lus tsawg kawg yog ib qho ntxiv rau qhov tau xa tsis tau cov lus, ces qhov yuam kev tshwm sim thaum kis tau tus mob, vim koj tsis tuaj yeem txiav txim siab qhov twg ntawm cov lus no tau xa mus. Cov lus xa tuaj tsis muaj qhov yuam kev nkaus xwb yog tias cov ntsiab lus sib txuas rau nws yog nyob rau hauv lub kheej kheej, thiab tsis muaj lwm cov ntsiab lus ua tau nyob rau hauv cov cai muab uas nyob rau hauv tib lub sphere.
Peb muaj ib tug lej sib npaug rau qhov tshwm sim ntawm kev ua yuam kev Pe yog tias xa xov ai
Peb tuaj yeem muab pov tseg thawj qhov hauv lub sijhawm thib ob, noj nws li 1. Yog li peb tau txais qhov tsis sib xws
Hais meej,
li no
rov thov dua rau lub sijhawm kawg ntawm sab xis
Noj n loj txaus, thawj lub sij hawm yuav muab tau raws li me me raws li xav tau, hais tsawg tshaj li ib co naj npawb d. Yog li ntawd peb muaj
Tam sim no cia peb saib yuav ua li cas peb tuaj yeem tsim qhov kev hloov pauv yooj yim rau encode M cov lus uas muaj n-ntsis. Tsis muaj lub tswv yim yuav ua li cas thiaj tsim tau ib tus lej (kev ua yuam kev-kho cov lej tseem tsis tau tsim), Shannon xaiv random coding. Hloov ib npib rau txhua qhov n khoom hauv cov lus thiab rov ua cov txheej txheem rau M lus. Nyob rau hauv tag nrho, nM npib flips yuav tsum tau ua, yog li nws yog ua tau
code dictionaries muaj tib qhov tshwm sim Β½nM. Ntawm chav kawm, cov txheej txheem random ntawm kev tsim ib phau ntawv code txhais tau hais tias muaj peev xwm ntawm duplicates, nrog rau cov ntsiab lus code uas yuav nyob ze rau ib leeg thiab yog li ntawd yuav yog qhov ua yuam kev. Ib qho yuav tsum ua pov thawj tias yog tias qhov no tsis tshwm sim nrog qhov tshwm sim ntau dua li qhov kev xaiv me me, ces qhov muab n yog loj txaus.
Lub ntsiab lus tseem ceeb yog Shannon nruab nrab tag nrho cov codebooks kom pom qhov yuam kev nruab nrab! Peb yuav siv lub cim Av[.] los qhia txog tus nqi nruab nrab ntawm cov txheej txheem ntawm txhua qhov ua tau random codebooks. Qhov nruab nrab ntawm qhov tsis tu ncua d, ntawm chav kawm, muab qhov tsis tu ncua, txij li qhov nruab nrab txhua lub sijhawm yog tib yam li txhua lwm lub sijhawm hauv cov lej,
uas tuaj yeem nce ntxiv (M-1 mus rau M)
Rau ib qho lus muab, thaum nruab nrab ntawm tag nrho cov codebooks, tus encoding sau los ntawm tag nrho cov txiaj ntsig tau, yog li qhov nruab nrab qhov tshwm sim uas ib qho taw tes nyob rau hauv ib qho chaw yog qhov piv ntawm qhov ntim ntawm lub kheej kheej rau tag nrho qhov ntim ntawm qhov chaw. Qhov ntim ntawm tus kheej kheej yog
qhov twg s=Q+e2 <1/2 thiab ns yuav tsum yog tus lej.
Lub sijhawm kawg ntawm sab xis yog qhov loj tshaj plaws hauv cov lej no. Ua ntej, cia peb kwv yees nws tus nqi siv cov qauv Stirling rau factorials. Tom qab ntawd peb yuav saib qhov txo qis coefficient ntawm lub sij hawm nyob rau hauv pem hauv ntej ntawm nws, nco ntsoov tias qhov coefficient no nce thaum peb txav mus rau sab laug, thiab yog li peb tuaj yeem: (1) txwv tus nqi ntawm cov lej mus rau qhov sib npaug ntawm cov duab geometric. thawj coefficient no, (2) nthuav cov geometric progression los ntawm ns cov nqe lus mus rau ib tug infinite cov nqe lus, (3) xam cov sum ntawm ib tug infinite geometric kev vam meej (tus qauv algebra, tsis muaj dab tsi tseem ceeb) thiab thaum kawg tau lub limiting tus nqi (rau ib tug txaus loj txaus n):
Daim ntawv ceeb toom yuav ua li cas cov entropy H(s) tshwm nyob rau hauv binomial tus kheej. Nco ntsoov tias Taylor series nthuav dav H(s) = H(Q + e2) muab qhov kwv yees tau txais los ntawm tus account tsuas yog thawj qhov sib piv thiab tsis quav ntsej tag nrho lwm tus. Tam sim no cia peb muab cov lus kawg ua ke:
qhov twg
Txhua yam peb yuav tsum ua yog xaiv e2 xws li e3 <e1, thiab tom qab ntawd lub sijhawm kawg yuav yog qhov me me, tsuav yog n loj txaus. Yog li ntawd, qhov nruab nrab PE yuam kev tuaj yeem tau txais me me raws li qhov xav tau nrog lub peev xwm channel arbitrarily ze rau C.
Yog tias qhov nruab nrab ntawm tag nrho cov lej muaj qhov yuam kev me me, ces tsawg kawg ib tus lej yuav tsum tsim nyog, yog li muaj tsawg kawg yog ib qho tsim nyog coding system. Qhov no yog ib qho tseem ceeb tshwm sim tau los ntawm Shannon - "Shannon's theorem rau lub suab nrov channel", txawm hais tias nws yuav tsum tau muab sau tseg tias nws tau ua pov thawj qhov no rau ib tug ntau ntawm cov ntaub ntawv ntau dua rau cov yooj yim binary symmetric channel uas kuv siv. Rau cov ntaub ntawv dav dav, kev suav lej yog qhov nyuaj dua, tab sis cov tswv yim tsis sib txawv, yog li feem ntau, siv cov piv txwv ntawm ib qho xwm txheej, koj tuaj yeem qhia qhov tseeb ntawm lub theorem.
Cia peb thuam qhov tshwm sim. Peb tau rov hais dua: "Rau qhov loj txaus n." Tab sis loj npaum li cas n? Heev, loj heev yog tias koj xav tau ob qho tib si ze rau lub peev xwm channel thiab nco ntsoov qhov tseeb ntawm cov ntaub ntawv hloov chaw! Loj heev, qhov tseeb, uas koj yuav tau tos ntev heev los sau cov lus ntawm cov khoom txaus los encode nws tom qab. Nyob rau hauv cov ntaub ntawv no, qhov luaj li cas ntawm random code phau ntawv txhais lus yuav tsuas loj loj (tom qab tag nrho, xws li ib tug phau ntawv txhais lus yuav tsis tuaj yeem sawv cev rau hauv daim ntawv luv dua ib daim ntawv teev tag nrho Mn khoom, txawm tias qhov tseeb tias n thiab M loj heev)!
Kev kho cov lej yuam kev zam kom tsis txhob tos cov lus ntev heev thiab tom qab ntawd encoding thiab txiav txim siab los ntawm cov phau ntawv loj heev vim lawv zam cov phau ntawv code lawv tus kheej thiab siv cov kev suav zoo tib yam. Hauv txoj kev xav yooj yim, cov lej zoo li no yuav plam lub peev xwm los mus rau hauv lub peev xwm ntawm cov channel thiab tseem muaj qhov ua yuam kev tsawg, tab sis thaum tus lej kho ntau qhov yuam kev, lawv ua tau zoo. Hauv lwm lo lus, yog tias koj faib qee lub peev xwm rau kev kho qhov yuam kev, ces koj yuav tsum siv qhov kev ua yuam kev kho lub peev xwm feem ntau, piv txwv li, ntau qhov yuam kev yuav tsum raug kho hauv txhua cov lus xa, txwv tsis pub koj nkim lub peev xwm no.
Nyob rau tib lub sijhawm, theorem ua pov thawj saum toj no tseem tsis muaj qab hau! Nws qhia tau hais tias kev sib kis tau zoo yuav tsum siv cov txheej txheem encoding ntse rau cov hlua me ntsis ntev. Ib qho piv txwv yog satellites uas tau ya dhau lub ntiaj teb sab nraud; Thaum lawv txav deb ntawm lub ntiaj teb thiab lub hnub, lawv raug yuam kom kho ntau thiab ntau qhov yuam kev hauv cov ntaub ntawv thaiv: qee lub satellites siv lub hnub ci vaj huam sib luag, uas muab txog 5 W, lwm tus siv cov khoom siv hluav taws xob nuclear, uas muab txog tib lub zog. Lub zog qis ntawm cov khoom siv hluav taws xob, qhov loj me ntawm cov khoom siv hluav taws xob thiab qhov txwv loj ntawm cov khoom siv hauv lub ntiaj teb, qhov kev ncua deb ntawm lub teeb liab yuav tsum tau mus - tag nrho cov no yuav tsum tau siv cov lis dej num nrog rau qib siab ntawm kev ua yuam kev los tsim ib qho kev sib txuas lus zoo.
Cia peb rov qab mus rau qhov chaw n-dimensional peb siv hauv cov ntawv pov thawj saum toj no. Hauv kev sib tham txog nws, peb tau pom tias yuav luag tag nrho cov ntim ntawm lub kheej kheej yog nyob ze ntawm qhov chaw sab nrauv - yog li, nws yuav luag paub tseeb tias cov teeb liab xa mus yuav nyob ze ntawm qhov chaw ntawm lub kheej kheej ua nyob ib puag ncig lub teeb liab tau txais, txawm tias muaj qhov cuam tshuam. me me vojvoog ntawm xws li ib tug kheej kheej. Yog li ntawd, nws tsis yog qhov xav tsis thoob tias lub teeb liab tau txais, tom qab kho qhov yuam kev loj ntawm qhov tsis raug, nQ hloov mus rau qhov kev txiav txim siab ze ntawm lub teeb liab yam tsis muaj qhov yuam kev. Lub peev xwm txuas peb tau tham ua ntej yog tus yuam sij kom nkag siab qhov tshwm sim no. Nco ntsoov tias cov spheres zoo sib xws tsim rau kev ua yuam kev-kho Hamming cov lej tsis sib tshooj. Qhov loj ntawm ze li ntawm orthogonal qhov ntev hauv n-dimensional qhov chaw qhia tias vim li cas peb tuaj yeem haum M spheres hauv qhov chaw nrog me ntsis sib tshooj. Yog tias peb tso cai me me, sib tshooj me me, uas tuaj yeem ua rau tsuas yog qee qhov yuam kev thaum lub sij hawm txiav txim siab, peb tuaj yeem tau txais qhov chaw ntom ntom ntawm spheres hauv qhov chaw. Hamming tau lees paub qee theem ntawm kev kho qhov yuam kev, Shannon - qhov tsis tshua muaj qhov ua yuam kev, tab sis tib lub sijhawm tswj hwm qhov tseeb ntawm qhov kev txiav txim siab ze rau lub peev xwm ntawm kev sib txuas lus channel, uas Hamming cov lej ua tsis tau.
Cov ntaub ntawv txoj kev xav tsis qhia peb yuav ua li cas los tsim ib qho kev ua tau zoo, tab sis nws taw qhia txoj hauv kev rau kev sib txuas lus zoo. Nws yog ib qho cuab yeej tseem ceeb rau kev tsim tshuab-rau-machine kev sib txuas lus, tab sis, raws li tau hais ua ntej, nws tsis muaj feem cuam tshuam li cas tib neeg sib txuas lus. Qhov twg ntawm cov khoom qub txeeg qub teg zoo li cov txheej txheem kev sib txuas lus tsuas yog tsis paub, yog li tam sim no nws tsis paub meej tias cov ntaub ntawv kev tshawb xav siv rau cov noob li cas. Peb tsis muaj kev xaiv tab sis sim, thiab yog tias txoj kev vam meej qhia peb lub tshuab zoo li qhov tshwm sim ntawm qhov tshwm sim, qhov tsis ua haujlwm yuav taw qhia rau lwm yam tseem ceeb ntawm cov ntaub ntawv.
Cia peb tsis txhob digress ntau dhau. Peb tau pom tias tag nrho cov ntsiab lus tseem ceeb, ntau dua lossis tsawg dua, yuav tsum qhia qhov tseem ceeb ntawm peb cov kev ntseeg qub, tab sis lawv muaj qee qhov kev hloov pauv thiab yog li tsis siv tau. Nws yog ib txwm lees txais tias, thaum kawg, lub ntsiab lus peb siv tiag tiag txhais cov ntsiab lus; tab sis, qhov no tsuas yog qhia peb yuav ua li cas rau cov khoom thiab tsis muaj txoj hauv kev qhia lub ntsiab lus rau peb. Txoj hauv kev postulational mus kom ze, yog li nyiam nyob rau hauv kev ua lej, tawm ntau yam uas xav tau hauv kev xyaum.
Tam sim no peb yuav saib ib qho piv txwv ntawm kev xeem IQ qhov twg lub ntsiab lus yog ncig raws li koj nyiam nws ua thiab, yog li ntawd, ua yuam kev. Ib qho kev xeem yog tsim los ntsuas kev txawj ntse. Nws yog tom qab ntawd hloov kho kom nws zoo ib yam li qhov ua tau, thiab tom qab ntawd nws tau luam tawm thiab, nyob rau hauv ib txoj kev yooj yim, calibrated kom lub "kev txawj ntse" ntsuas tau hloov mus rau ib txwm faib (ntawm ib qho kev ntsuas nkhaus, tau kawg). Tag nrho cov ntsiab lus yuav tsum raug kuaj xyuas dua, tsis yog thaum lawv thawj zaug, tab sis kuj ntau tom qab, thaum lawv siv rau hauv cov lus xaus. Yuav ua li cas npaum li cas yog lub ntsiab lus ciam teb tsim nyog rau qhov teeb meem daws? Ntau npaum li cas cov lus txhais tau muab rau hauv ib qho chaw tuaj yeem siv rau hauv ntau qhov chaw sib txawv? Qhov no tshwm sim heev! Nyob rau hauv tib neeg, uas koj yuav inevitably ntsib hauv koj lub neej, qhov no tshwm sim ntau zaus.
Yog li, ib qho ntawm lub hom phiaj ntawm qhov kev nthuav qhia ntawm cov ntaub ntawv kev tshawb xav, ntxiv rau kev qhia nws cov txiaj ntsig, yog ceeb toom koj txog qhov txaus ntshai no, lossis qhia koj raws nraim yuav siv nws li cas kom tau txais cov txiaj ntsig xav tau. Nws tau ntev tau sau tseg tias thawj lub ntsiab lus txiav txim siab seb koj pom dab tsi thaum kawg, kom ntau dua qhov nws zoo li. Cov ntsiab lus pib xav tau kev saib xyuas ntau los ntawm koj, tsis yog hauv txhua qhov xwm txheej tshiab, tab sis kuj nyob rau thaj chaw uas koj tau ua haujlwm ntev. Qhov no yuav tso cai rau koj kom nkag siab txog qhov twg cov txiaj ntsig tau txais yog tautology thiab tsis muaj txiaj ntsig.
Zaj dab neeg nto moo ntawm Eddington qhia txog cov neeg uas nuv ntses hauv hiav txwv nrog lub vas. Tom qab kawm txog qhov loj ntawm cov ntses uas lawv ntes tau, lawv txiav txim siab qhov tsawg kawg nkaus ntawm cov ntses uas pom hauv hiav txwv! Lawv qhov kev txiav txim siab tau tsav los ntawm cov cuab yeej siv, tsis yog los ntawm kev muaj tiag.
Kom txuas ntxivβ¦
Leej twg xav pab nrog kev txhais lus, kev teeb tsa thiab kev tshaj tawm ntawm phau ntawv - sau ntawv hauv tus kheej lossis email [email tiv thaiv]
Los ntawm txoj kev, peb kuj tau tshaj tawm cov txhais lus ntawm lwm phau ntawv txias - )
Peb tab tom nrhiav tshwj xeeb cov uas yuav pab txhais . (hloov mus rau 10 feeb, thawj 20 tau raug coj mus)
Cov ntsiab lus ntawm phau ntawv thiab tshooj txhais
- Intro to The Art of Doing Science and Engineering: Kawm Kev Kawm (Lub Peb Hlis 28, 1995)
- "Foundations of the Digital (Discrete) Revolution" (Lub Peb Hlis 30, 1995)
- "History of Computers - Hardware" (Lub Peb Hlis 31, 1995)
- "History of Computers - Software" (Lub Plaub Hlis 4, 1995)
- "History of Computers - Applications" (Lub Plaub Hlis 6, 1995)
- "Artificial Intelligence - Part I" (Lub Plaub Hlis 7, 1995)
- "Artificial Intelligence - Part II" (Lub Plaub Hlis 11, 1995)
- "Artificial Intelligence III" (Lub Plaub Hlis 13, 1995)
- "n-Dimensional Space" (Lub Plaub Hlis 14, 1995)
- "Coding Theory - Kev Sawv Cev Ntawm Cov Ntaub Ntawv, Ntu I" (Lub Plaub Hlis 18, 1995)
- "Coding Theory - Kev Sawv Cev Ntawm Cov Ntaub Ntawv, Ntu II" (Lub Plaub Hlis 20, 1995)
- "Yam-Kho Codes" (Lub Plaub Hlis 21, 1995)
- "Information Theory" (Lub Plaub Hlis 25, 1995)
- "Digital Filters, Part I" (Lub Plaub Hlis 27, 1995)
- "Digital Filters, Part II" (Lub Plaub Hlis 28, 1995)
- "Digital Filters, Part III" (Tsib Hlis 2, 1995)
- "Digital Filters, Part IV" (Tsib Hlis 4, 1995)
- "Simulation, Part I" (Tsib Hlis 5, 1995)
- "Simulation, Part II" (Tsib Hlis 9, 1995)
- "Simulation, Ntu III" (Tsib Hlis 11, 1995)
- "Fiber Optics" (Tsib Hlis 12, 1995)
- "Computer Aided Instruction" (Tsib Hlis 16, 1995)
- "Mathematics" (Tsib Hlis 18, 1995)
- "Quantum Mechanics" (Tsib Hlis 19, 1995)
- "Creativity" (Tsib Hlis 23, 1995). Kev txhais lus:
- "Cov kws tshaj lij" (Tsib Hlis 25, 1995)
- "Cov ntaub ntawv tsis ntseeg" (Tsib Hlis 26, 1995)
- "Systems Engineering" (Tsib Hlis 30, 1995)
- βKoj Tau Txais Yam Koj Ntsuasβ (Lub Rau Hli 1, 1995)
- (Lub Xya hli ntuj 2, 1995) txhais ua 10 feeb chunks
- Hamming, βKoj thiab Koj Kev Tshawb Fawbβ (Lub Rau Hli 6, 1995).
Leej twg xav pab nrog kev txhais lus, kev teeb tsa thiab kev tshaj tawm ntawm phau ntawv - sau ntawv hauv tus kheej lossis email [email tiv thaiv]
Tau qhov twg los: www.hab.com