Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Avemu fattu!

"U scopu di stu cursu hè di preparà per u vostru futuru tecnicu".

Richard Hamming: Capitulu 13. Teoria di l'infurmazioneSalutami, Habr. Ricurdativi di l'articulu fantasticu "Tu è u vostru travagliu" (+219, 2588 marcati, 429k letture)?

Allora Hamming (sì, sì, autosurveglianza è autocorrezzione Codici Hamming) ci hè un sanu un libru, scrittu basatu annantu à e so lezioni. Traducemu, perchè l'omu parla a so mente.

Questu hè un libru micca solu nantu à IT, hè un libru nantu à u stilu di pensamentu di e persone incredibilmente cool. "Ùn hè micca solu un impulsu di pensamentu pusitivu; descrive e cundizioni chì aumentanu e probabilità di fà un grande travagliu ".

Grazie à Andrey Pakhomov per a traduzzione.

A Teoria di l'Informazione hè stata sviluppata da C.E. Shannon à a fini di l'anni 1940. A gestione di Bell Labs insistia chì ellu chjamava "Teoria di a Comunicazione" perchè ... questu hè un nome assai più precisu. Per ragioni evidenti, u nome "Teoria di l'infurmazione" hà un impattu assai più grande in u publicu, per quessa Shannon hà sceltu, è hè u nome chì sapemu finu à oghje. U nomu stessu suggerisce chì a teoria tratta di l'infurmazioni, chì a rende impurtante cum'è andemu più in l'età di l'infurmazioni. In questu capitulu, vi tocca à parechje cunclusioni principali di sta tiuria, daraghju micca una evidenza stretta, ma piuttostu intuitiva di alcune disposizioni individuali di sta tiuria, in modu chì capisce ciò chì "Teoria di l'infurmazione" hè in realtà, induve pudete applicà. è induve micca.

Prima di tuttu, chì hè "infurmazione"? Shannon equipara l'infurmazioni cù l'incertezza. Hà sceltu u logaritmu negativu di a probabilità di un avvenimentu cum'è una misura quantitativa di l'infurmazioni chì riceve quandu un avvenimentu cù probabilità p si trova. Per esempiu, s'ellu vi dicu chì u clima in Los Angeles hè nebbia, allora p hè vicinu à 1, chì veramente ùn ci dà micca assai infurmazione. Ma se dicu chì piove in Monterey in u ghjugnu, ci sarà incertezza in u missaghju è cuntene più infurmazione. Un avvenimentu affidabile ùn cuntene nisuna infurmazione, postu chì log 1 = 0.

Fighjemu questu in più detail. Shannon hà cridutu chì a misura quantitativa di l'infurmazioni deve esse una funzione cuntinuu di a probabilità di un avvenimentu p, è per l'avvenimenti indipendenti deve esse additivu - a quantità di informazioni ottenuta in u risultatu di l'occurrence di dui avvenimenti indipendenti deve esse uguali à u quantità di infurmazione ottenuta com'è u risultatu di l'occurrence di un avvenimentu cumuni. Per esempiu, u risultatu di un rollu di dadi è un rollu di munita sò generalmente trattati cum'è avvenimenti indipendenti. Traducemu quì sopra in a lingua di a matematica. Se I (p) hè a quantità di infurmazione cuntenuta in un avvenimentu cù probabilità p, allora per un avvenimentu cumunu custituitu di dui avvenimenti indipendenti x cù probabilità p1 è y cù probabilità p2 ottenemu

Richard Hamming: Capitulu 13. Teoria di l'infurmazione
(x è y sò avvenimenti indipendenti)

Questa hè l'equazione di Cauchy funzionale, vera per tutti p1 è p2. Per risolve sta equazione funziunale, assume chì

p1 = p2 = p,

questu dà

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Se p1 = p2 è p2 = p allora

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

ecc. Estendendu stu prucessu aduprendu u metudu standard per l'esponenziali, per tutti i numeri raziunali m/n hè vera.

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Da a cuntinuità assunta di a misura di l'infurmazioni, seguita chì a funzione logaritmica hè l'unica suluzione cuntinuu à l'equazioni funziunali di Cauchy.

In a teoria di l'infurmazioni, hè cumunu per piglià a basa di logaritmu per esse 2, cusì una scelta binaria cuntene esattamente 1 bit di infurmazione. Dunque, l'infurmazione hè misurata da a formula

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Facemu una pausa è capisce ciò chì hè accadutu sopra. Prima di tuttu, ùn avemu micca definitu u cuncettu di "infurmazione"; avemu solu definitu a formula per a so misura quantitativa.

Siconda, sta misura hè sottumessu à l'incertezza, è ancu s'ellu hè ragiunate adattatu per i machini - per esempiu, sistemi di telefuni, radiu, televisione, computer, etc. - ùn riflette micca l'attitudini umani normali versu l'infurmazioni.

In terzu, questu hè una misura relativa, dipende da u statu attuale di a vostra cunniscenza. Se guardate un flussu di "numeri aleatorii" da un generatore di numeri aleatorii, assume chì ogni numeru prossimu hè incertu, ma se cunnosci a formula per calculà "numeri aleatorii", u prossimu numeru serà cunnisciutu, è per quessa ùn sarà micca. cuntene infurmazione.

Allora a definizione di Shannon di l'infurmazioni hè apprupriata per i machini in parechji casi, ma ùn pare micca adatta à l'intelligenza umana di a parolla. Hè per quessa chì a "Teoria di l'Informazione" duveria esse chjamata "Teoria di a Comunicazione". In ogni casu, hè troppu tardu per cambià e definizione (chì hà datu à a tiuria a so popularità iniziale, è chì sempre facenu pensà à a ghjente chì sta tiuria tratta di "informazioni"), cusì avemu da campà cun elli, ma à u listessu tempu ci vole. capisce chjaramente quantu hè a definizione di l'infurmazione di Shannon da u so significatu cumunimenti utilizatu. L'infurmazione di Shannon tratta di qualcosa di completamente diversu, à dì l'incertezza.

Eccu qualcosa di pensà quandu prupone una terminologia. Cumu una definizione pruposta, cum'è a definizione di l'infurmazioni di Shannon, accunsenu cù a vostra idea originale è quantu hè diversa? Ùn ci hè quasi nisun termu chì riflette esattamente a vostra visione previa di un cuncettu, ma in fine, hè a terminologia utilizata chì riflette u significatu di u cuncettu, cusì formalizà qualcosa per una definizione chjara sempre introduce un pocu rumore.

Cunsiderate un sistema chì l'alfabetu hè custituitu di simboli q cù probabilità pi. In stu casu quantità media di informazioni in u sistema (u so valore previstu) hè uguali à:

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Questu hè chjamatu l'entropia di u sistema cù distribuzione di probabilità {pi}. Avemu aduprà u terminu "entropia" perchè a stessa forma matematica si prisenta in a termodinamica è a meccanica statistica. Hè per quessa chì u terminu "entropia" crea una certa aura d'impurtanza intornu à ellu stessu, chì ùn hè in ultimamente micca ghjustificatu. A stessa forma matematica di notazione ùn implica micca a listessa interpretazione di i simboli !

L'entropia di a distribuzione di probabilità ghjoca un rolu maiò in a teoria di codificazione. A inuguaglianza di Gibbs per duie distribuzioni di probabilità differenti pi è qi hè una di e cunsequenze impurtanti di sta tiuria. Dunque ci vole à pruvà

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

A prova hè basatu annantu à un gràficu evidenti, Fig. 13.I, chì mostra chì

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

è l'ugualità hè ottenuta solu quandu x = 1. Applichemu a inuguaglianza à ogni termini di a somma da u latu manca :

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Se l'alfabetu di un sistema di cumunicazione hè custituitu da q simboli, allora pigliate a probabilità di trasmissione di ogni simbulu qi = 1/q è sustituendu q, avemu da a inuguaglianza di Gibbs.

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Figura 13.I

Questu significa chì se a probabilità di trasmette tutti i simboli q hè uguali è uguali à - 1 / q, l'entropia massima hè uguale à ln q, altrimenti a inuguaglianza vale.

In u casu di un codice unicu decodificabile, avemu a inuguaglianza di Kraft

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Avà si definisce pseudo-prubabilità

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

induve di sicuru Richard Hamming: Capitulu 13. Teoria di l'infurmazione= 1, chì segue da l'ineguaglianza di Gibbs,

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

è applicà un pocu di algebra (ricurdate chì K ≤ 1, cusì pudemu abbandunà u termu logaritmicu, è forse rinfurzà a inuguaglianza dopu), avemu

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

induve L hè a lunghezza media di u codice.

Cusì, l'entropia hè u minimu minimu per qualsiasi codice carattere per simbulu cù una lunghezza media di codice L. Questu hè u teorema di Shannon per un canale senza interferenza.

Avà cunsiderà u teorema principali nantu à e limitazioni di i sistemi di cumunicazione in quale l'infurmazione hè trasmessa cum'è un flussu di bits indipendenti è u rumore hè presente. Hè capitu chì a probabilità di trasmissioni curretta di un bit hè P > 1/2, è a probabilità chì u valore di u bit serà invertitu durante a trasmissione (un errore accade) hè uguali à Q = 1 - P. Per comodità, avemu assume chì l'errori sò indipendenti è a probabilità di un errore hè a stessa per ogni bit mandatu - vale à dì, ci hè "rumore biancu" in u canali di cumunicazione.

A manera chì avemu un longu flussu di n bit codificati in un missaghju hè l'estensione n - dimensionale di u codice di un bit. Determineremu u valore di n dopu. Cunsiderate un messagiu custituitu di n-bits cum'è un puntu in u spaziu n-dimensionale. Siccomu avemu un spaziu n-dimensionale - è per simplicità assumeremu chì ogni missaghju hà a listessa probabilità d'occurrence - ci sò M messagi pussibuli (M serà ancu definitu dopu), dunque a probabilità di ogni missaghju mandatu hè

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Richard Hamming: Capitulu 13. Teoria di l'infurmazione
(mittente)
Schedule 13.II

Dopu, cunzidira l'idea di capacità di u canali. Senza entre in i dettagli, a capacità di u canali hè definita cum'è a quantità massima di informazioni chì ponu esse trasmesse in modu affidabile nantu à un canale di cumunicazione, tenendu in contu l'usu di a codificazione più efficaci. Ùn ci hè micca un argumentu chì più infurmazione pò esse trasmessa per un canale di cumunicazione cà a so capacità. Questu pò esse pruvucatu per un canali simmetricu binariu (chì avemu usatu in u nostru casu). A capacità di u canali, quandu invià bits, hè specificatu cum'è

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

induve, cum'è prima, P hè a probabilità di nisun errore in ogni bit mandatu. Quandu invià n bit indipendenti, a capacità di u canali hè datu da

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Sè simu vicinu à a capacità di u canali, allura duvemu mandà quasi sta quantità di infurmazione per ognunu di i simboli ai, i = 1, ..., M. Cunsiderendu chì a probabilità d'occurrence di ogni simbulu ai hè 1 / M, avemu

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

quandu avemu mandatu ogni di M ugguali prubabile missaghji ai, avemu

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Quandu n bits sò mandati, aspittemu nQ errori. In pratica, per un missaghju custituitu di n-bits, averemu circa nQ errori in u messagiu ricevutu. Per n grande, variazione relativa (variazione = larghezza di distribuzione, )
a distribuzione di u nùmeru d'errori diventerà sempre più stretta cum'è n cresce.

Allora, da u latu trasmettitore, pigliu u missaghju ai per mandà è disegnà una sfera intornu cù un raghju.

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

chì hè un pocu più grande da una quantità uguali à e2 chì u numeru previstu di errori Q, (Figura 13.II). Se n hè abbastanza grande, allora ci hè una probabilità arbitrariamente chjuca di un puntu di messagiu bj apparsu nantu à u latu di u receptore chì si estende oltre questa sfera. Scupritemu a situazione cum'è a vecu da u puntu di vista di u trasmettitore: avemu ogni radiu da u missaghju trasmessu ai à u missaghju ricevutu bj cù una probabilità d'errore uguale (o quasi uguale) à a distribuzione normale, righjunghjendu un massimu. di nQ. Per ogni e2 datu, ci hè un n cusì grande chì a probabilità di u puntu risultatu bj fora di a mo sfera hè chjuca quantu vulete.

Avà fighjemu a stessa situazione da u vostru latu (Fig. 13.III). À u latu di u ricevitore ci hè una sfera S (r) di u stessu raghju r intornu à u puntu ricevutu bj in u spaziu n-dimensionale, cusì chì se u missaghju ricevutu bj hè in a mo sfera, allora u missaghju ai mandatu da mè hè in u vostru. sfera.

Cumu pò accade un errore? L'errore pò accade in i casi descritti in a tabella sottu:

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Figura 13.III

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Quì vedemu chì se in l'esfera custruita intornu à u puntu ricivutu ci hè almenu un puntu più currispundenti à un missaghju micca codificatu mandatu pussibule, allora un errore hè accadutu durante a trasmissione, postu chì ùn pudete micca determinà quale di sti missaghji hè statu trasmessu. U missaghju mandatu hè senza errore solu s'ellu u puntu chì currisponde à questu hè in a sfera, è ùn ci sò micca altri punti pussibuli in u codice datu chì sò in a listessa sfera.

Avemu una equazzioni matematica per a probabilità di errore Pe se u messagiu ai hè statu mandatu

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Pudemu scaccià u primu fattore in u sicondu termini, pigliendu cum'è 1. Cusì avemu a inuguaglianza

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Ovviamente,

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

da quì

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

riapplicà à l'ultimu termini à a diritta

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Piglià n abbastanza grande, u primu termini pò esse pigliatu cum'è chjuca cum'è vulete, dì menu di qualchi numeru d. Dunque avemu

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Avà fighjemu cumu pudemu custruisce un còdice di sustituzzioni simplice per codificà i missaghji M custituiti da n bits. Ùn avè micca idea di cumu esattamente custruisce un codice (i codici di currezzione d'errore ùn sò micca stati inventati), Shannon hà sceltu una codificazione aleatoria. Flip una munita per ognunu di i n bits in u missaghju è ripetite u prucessu per i missaghji M. In totale, nM coin flips deve esse fattu, cusì hè pussibule

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

dizionari di codice chì anu a stessa probabilità ½ nM. Di sicuru, u prucessu aleatoriu di creà un librettu di codice significa chì ci hè una pussibilità di duplicati, è ancu punti di codice chì seranu vicinu à l'altri è dunque esse una fonte di probabili errori. Unu deve dimustrà chì s'ellu ùn succede micca cù una probabilità più grande di qualsiasi livellu d'errore sceltu, allura u n datu hè abbastanza grande.
U puntu cruciale hè chì Shannon hà fattu una media di tutti i libri di codice pussibuli per truvà l'errore mediu! Avemu aduprà u simbulu Av[.] per denotà u valore mediu nantu à l'inseme di tutti i libri di codice aleatoriu pussibuli. A media nantu à una constante d, naturalmente, dà una constante, postu chì per a media ogni termu hè u listessu cum'è ogni altru termu in a somma,

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

chì pò esse aumentatu (M-1 va à M)

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Per ogni missaghju, quandu a media di tutti i libri di codice, a codificazione passa per tutti i valori pussibuli, cusì a probabilità media chì un puntu hè in una sfera hè u rapportu di u voluminu di a sfera à u voluminu tutale di u spaziu. U voluminu di a sfera hè

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

induve s=Q+e2 <1/2 è ns deve esse un interu.

L'ultimu termini à a diritta hè u più grande in questa somma. Prima, stimu u so valore utilizendu a formula di Stirling per i fattoriali. Fighjemu dopu à u fattore decrescente di u terminu davanti à ellu, nutate chì stu fattore aumenta à u mumentu chì si move à manca, è cusì pudemu: (1) restringe u valore di a somma à a somma di a progressione geomètrica cù stu coefficientu iniziale, (2) espansione a progressione geomètrica da ns termini à un numeru infinitu di termini, (3) calculate a somma di una progressione geomètrica infinita (algebra standard, nunda di significativu) è infine ottene u valore limitante (per una quantità abbastanza grande). n):

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Avvisu cumu l'entropia H (s) apparsu in l'identità binomiale. Nota chì l'espansione di a serie di Taylor H(s)=H(Q+e2) dà una stima ottenuta tenendu in contu solu a prima derivata è ignurà tutte l'altri. Avà riunitemu l'espressione finale:

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

induve

Richard Hamming: Capitulu 13. Teoria di l'infurmazione

Tuttu ciò chì avemu da fà hè di sceglie e2 cusì chì e3 < e1, è tandu l'ultimu termini serà arbitrariamente chjucu, sempre chì n hè abbastanza grande. In cunseguenza, l'errore PE mediu pò esse ottenutu quant'è chjuchevule cù a capacità di u canali arbitrariamente vicinu à C.
Se a media di tutti i codici hà un errore abbastanza chjucu, almenu un codice deve esse adattatu, dunque ci hè almenu un sistema di codificazione adattatu. Questu hè un risultatu impurtante ottenutu da Shannon - "U teorema di Shannon per un canale rumoroso", anche si deve esse nutatu chì hà pruvatu questu per un casu assai più generale cà per u canali simmetricu binariu simplice chì aghju utilizatu. Per u casu generale, i calculi matematichi sò assai più cumplicati, ma l'idee ùn sò micca cusì diffirenti, cusì assai spessu, usendu l'esempiu di un casu particulari, pudete revelà u veru significatu di u teorema.

Critichemu u risultatu. Avemu ripetutu ripetutamente: "Per n abbastanza grande". Ma quantu hè grande n? Moltu, assai grande s'è vo vulete veramente esse sia vicinu à a capacità di u canali è esse sicuru di u trasferimentu di dati currettu! Cusì grande, in fattu, chì vi tuccherà à aspittà assai tempu per accumulà un missaghju di abbastanza bits per codificà dopu. In questu casu, a dimensione di u dizziunariu di codice aleatoriu serà simplicemente grande (dopu à tuttu, un tali dizziunariu ùn pò esse rapprisintatu in una forma più corta di una lista completa di tutti i bit Mn, malgradu u fattu chì n è M sò assai grande)!

I codici di correzzione d'errore evitanu d'aspittà un missaghju assai longu è poi codificà è decodificà per mezu di libri di codice assai grande perchè evitanu i libri di codici stessi è utilizanu u calculu ordinariu invece. In a teoria simplice, tali codici tendenu à perde a capacità di avvicinà a capacità di u canali è mantenenu sempre una rata d'errore bassu, ma quandu u codice corregge un gran numaru d'errori, facenu bè. In altri palori, s'è vo attribuite una certa capacità di canali à a correzione di l'errore, allora avete aduprà a capacità di correzione di l'errore a maiò parte di u tempu, vale à dì, un gran numaru d'errori deve esse currettu in ogni missaghju mandatu, altrimenti perdi sta capacità.

À u listessu tempu, u teorema dimustratu sopra ùn hè ancu senza significatu! Mostra chì i sistemi di trasmissione efficienti devenu aduprà schemi di codificazione intelligenti per stringhe di bit assai longu. Un esempiu hè i satelliti chì anu volatu oltre i pianeti esterni; Quandu si alluntananu più luntanu da a Terra è u Sole, sò custretti à curregà più è più errori in u bloccu di dati: certi satelliti utilizanu pannelli solari, chì furniscenu circa 5 W, altri utilizanu fonti di energia nucleari, chì furnisce circa a stessa putenza. . A bassa putenza di l'alimentazione elettrica, a piccula dimensione di i piatti trasmettitori è a dimensione limitata di i piatti di u receptore in a Terra, l'enormi distanza chì u signale deve viaghjà - tuttu questu richiede l'usu di codici cù un altu livellu di correzione d'errore per custruisce un sistema di cumunicazione efficace.

Riturnemu à u spaziu n-dimensionale chì avemu usatu in a prova sopra. In discussione, avemu dimustratu chì quasi tuttu u voluminu di a sfera hè cuncentrata vicinu à a superficia esterna - cusì, hè quasi sicuru chì u signale mandatu serà situatu vicinu à a superficia di a sfera custruita intornu à u signale ricevutu, ancu cù un signalu ricivutu relativamente. picculu raghju di una tale sfera. Per quessa, ùn hè micca surprisante chì u signale ricevutu, dopu à correggere un numeru arbitrariamente grande di errori, nQ, risulta arbitrariamente vicinu à un signalu senza errore. A capacità di ligame chì avemu discututu prima hè a chjave per capisce stu fenomenu. Nota chì e sfere simili custruite per i codici Hamming di correzione d'errore ùn si sovrapponenu micca. U gran numaru di dimensioni quasi ortogonali in u spaziu n-dimensionale mostra perchè pudemu mette M sfere in u spaziu cù pocu sovrapposizione. Se permettemu una piccula superposizione arbitrariamente chjuca, chì pò purtari à solu un picculu numaru d'errori durante a decodificazione, pudemu ottene una densità di sfere in u spaziu. Hamming guarantisci un certu livellu di currezzione di errore, Shannon - una prubabilità bassu di errore, ma à u listessu tempu mantene u throughput attuale arbitrariamente vicinu à a capacità di u canali di cumunicazione, chì i codici Hamming ùn ponu micca fà.

A teoria di l'infurmazione ùn ci dice micca cumu cuncepisce un sistema efficiente, ma indica a strada versu sistemi di cumunicazione efficienti. Hè un strumentu preziosu per a custruzzione di sistemi di cumunicazione machine-to-machine, ma, cum'è nutatu prima, hà pocu pertinenza à cumu l'omu cumunicanu cù l'altri. A misura in quale l'eredità biologica hè cum'è sistemi di cumunicazione tecnicu hè simplicemente scunnisciutu, per quessa, ùn hè micca chjaru cumu a teoria di l'infurmazioni s'applica à i geni. Ùn avemu micca solu di pruvà, è se u successu ci mostra a natura di macchina di stu fenomenu, allora u fallimentu indicà à altri aspetti significativi di a natura di l'infurmazioni.

Ùn andemu micca troppu. Avemu vistu chì tutte e difinizzioni urigginali, in una misura più o più menu, devenu esse l'essenza di e nostre credenze originali, ma sò carattarizati da un certu gradu di distorsioni è per quessa ùn sò micca applicabili. Hè tradiziunale accettatu chì, in ultimamente, a definizione chì usemu definisce veramente l'essenza; ma, questu solu ci dice cumu processà e cose è in nisun modu ùn ci trasmette alcun significatu. L'approcciu postulativu, cusì favuritu assai in i circles matematichi, lascia assai per esse desideratu in a pratica.

Avà fighjemu un esempiu di teste IQ induve a definizione hè circular cum'è ti piace à esse è, in u risultatu, inganna. Hè creatu un test chì deve misurà l'intelligenza. Hè tandu rivisatu per fà u più cunsistenti pussibule, è dopu hè publicatu è, in un metudu simplice, calibratu per chì l'« intelligenza » misurata risulti à esse distribuitu nurmalmente (nantu à una curva di calibrazione, sicuru). Tutte e difinizzioni deve esse verificatu, micca solu quandu sò pruposti prima, ma ancu assai più tardi, quandu sò usati in e cunclusioni tratte. Finu à chì puntu sò i limiti di definizione apprupriati per u prublema chì si risolve ? Quantu spessu e definizioni date in un paràmetru vene à esse applicate in paràmetri assai diffirenti? Questu succede abbastanza spessu! In l'umanità, chì inevitabbilmente incontru in a vostra vita, questu succede più spessu.

Cusì, unu di i scopi di sta presentazione di a teoria di l'infurmazione, in più di dimustrà a so utilità, era di avvistà di stu periculu, o di mustrà esattamente cumu aduprà per ottene u risultatu desideratu. Hè statu longu nutatu chì e definizioni iniziali determinanu ciò chì truvate à a fine, in una misura assai più grande di ciò chì pare. Definizioni iniziali necessanu assai attinzioni da voi, micca solu in ogni situazione nova, ma ancu in i zoni cù quale avete travagliatu per un bellu pezzu. Questu permetterà di capiscenu à chì puntu i risultati ottenuti sò una tautologia è micca qualcosa d'utile.

A famosa storia di Eddington conta di e persone chì pescavanu in mare cù una reta. Dopu avè studiatu a dimensione di i pesci chì anu pigliatu, anu determinatu a dimensione minima di pesci chì si trova in u mare! A so cunclusione hè stata guidata da l'instrumentu utilizatu, micca da a realità.

Per esse continuatu ...

Quale vole aiutà cù a traduzzione, u layout è a publicazione di u libru - scrivite in un missaghju persunale o email [email prutettu]

A propositu, avemu ancu lanciatu a traduzzione di un altru libru cool - "The Dream Machine: A Storia di a Rivuluzione Informatica")

Cerchemu soprattuttu quelli chì aiutanu à traduce capitulu bonus, chì hè solu in video. (trasferimentu per 10 minuti, i primi 20 sò digià pigliatu)

Cuntenutu di u libru è capituli traduttiPrélude

  1. Intro à l'Arte di fà Scienza è Ingegneria: Amparate à amparà (28 di marzu di u 1995) Traduzzione: Capitulu 1
  2. "Fundamenti di a Rivuluzione Digitale (Discreta)" (30 di marzu di u 1995) Capitulu 2. Fundamenti di a rivoluzione digitale (discreta).
  3. "Storia di l'urdinatori - Hardware" (31 di marzu di u 1995) Capitulu 3. Storia di l'urdinatori - Hardware
  4. "Storia di l'informatica - Software" (4 d'aprile 1995) Capitulu 4. Storia di l'urdinatori - Software
  5. "Storia di l'informatica - Applicazioni" (6 d'aprile 1995) Capitulu 5: Storia di l'urdinatori - Applicazioni pratiche
  6. "Intelligenza Artificiale - Parte I" (7 d'aprile 1995) Capitulu 6. Intelligenza Artificiale - 1
  7. "Intelligenza Artificiale - Part II" (11 d'aprile 1995) Capitulu 7. Intelligenza Artificiale - II
  8. "Intelligenza Artificiale III" (13 d'aprile di u 1995) Capitulu 8. Intelligenza Artificiale-III
  9. "N-Dimensional Space" (14 d'aprile di u 1995) Capitulu 9. Spaziu N-dimensionale
  10. "Teoria di codificazione - A Rappresentazione di l'Informazione, Parte I" (18 d'aprile 1995) Capitulu 10. Teoria di codificazione - I
  11. "Teoria di codificazione - A Rappresentazione di l'Informazione, Parte II" (20 d'aprile di u 1995) Capitulu 11. Teoria di codificazione - II
  12. "Codici di correzzione di errore" (21 d'aprile di u 1995) Capitulu 12. Errore Correction Codes
  13. "Teoria di l'infurmazione" (25 d'aprile di u 1995) Capitulu 13. Teoria di l'infurmazione
  14. "Digital Filters, Part I" (27 d'aprile di u 1995) Capitulu 14. Filtri Digitali - 1
  15. "Digital Filters, Part II" (28 d'aprile 1995) Capitulu 15. Filtri Digitali - 2
  16. "Filtri Digitali, Parte III" (2 di maghju di u 1995) Capitulu 16. Filtri Digitali - 3
  17. "Filtri Digitali, Part IV" (4 di maghju di u 1995) Capitulu 17. Filtri Digital - IV
  18. "Simulazione, Parte I" (5 di maghju 1995) Capitulu 18. Mudelle - I
  19. "Simulation, Part II" (9 di maghju 1995) Capitulu 19. Mudelle - II
  20. "Simulation, Part III" (11 di maghju di u 1995) Capitulu 20. Mudelle - III
  21. "Fibre Optics" (12 di maghju di u 1995) Capitulu 21. Fibra ottica
  22. "Instruzzione assistita per computer" (16 di maghju di u 1995) Capitulu 22: Instruction Assisted Computer (CAI)
  23. "Matematica" (18 di maghju di u 1995) Capitulu 23. Matematica
  24. "Quantum Mechanics" (19 di maghju di u 1995) Capitulu 24. Meccanica quantistica
  25. "Creatività" (23 di maghju di u 1995). Traduzzione: Capitulu 25. Creatività
  26. "Esperti" (25 di maghju di u 1995) Capitulu 26. Esperti
  27. "Dati Unreliable" (26 di maghju di u 1995) Capitulu 27. Dati unreliable
  28. "Ingegneria di i Sistemi" (30 di maghju di u 1995) Capitulu 28. Ingegneria di Sistemi
  29. "Ottieni ciò chì misura" (1 di ghjugnu 1995) Capitulu 29: Avete ciò chì misurate
  30. "Cumu sapemu ciò chì sapemu" (Ghjugnu 2, 1995) traduce in pezzi di 10 minuti
  31. Hamming, "Tu è a vostra ricerca" (6 di ghjugnu 1995). Traduzzione: Tu è u vostru travagliu

Quale vole aiutà cù a traduzzione, u layout è a publicazione di u libru - scrivite in un missaghju persunale o email [email prutettu]

Source: www.habr.com

Add a comment