1.
Ci era pocu mancatu à u scopu finale - circa un terzu di a strada - quandu u cruciatore spaziale hè statu sottumessu à un severu ghiaccio d'infurmazioni.
Ciò chì era rimasta di a civiltà persa s'era in u vacu. I paragrafi di saggi scientifichi è l'imaghjini di l'opere litterarii, rime sparse è parolle simpricimenti taglienti, una volta lanciati casualmente da criaturi scunnisciuti - tuttu pareva astrusu è estremamente disordinatu. È avà, attrattu da e vibrazioni vitali chì emananu da u cruiser, hà pruvatu à sfondà, appiccicatu à u fondu è u corrode.
Ùn ci era nunda di pensà à utilizà a pruprietà senza pruprietariu per u propiu propiu, a probabilità di piglià una cuntradizzione logica o paradossu era troppu grande. Allora Ruggeru ùn esitò un mumentu.
"Vai nantu à u soffiu laterale", urdinò.
I soffiati cuminciaru à sniffle, trasmettenu cumpusizioni musicali è trattati filusòfichi in u spaziu esterno. U ghjacciu hà cuminciatu à cascà da u fondu di u fondu di u fondu, ma u flussu di l'infurmazioni era cusì densu chì i novi strati sò stati più veloci chì i vechji sò stati eliminati.
Nisunu in a galaxia ùn hà mai scontru ghiacciatu di tale forza.
A situazione diventava periculosa. Un pocu di più, è l'infurmazioni disordinati manghjeranu à traversu u fondu di u cruiser è sfondate - allora l'avvelenamentu cù i prudutti d'infurmazioni di a civilizazione persa hè inevitabbile.
2.
- Perchè stai quì cum'è un ceppo d'arburu ? Tira u bigliettu.
U studiente hà tiratu una carta d'esame è leghje:
- "Intelligenza Artificiale: Problemi di Sicurezza".
– È chì hè u periculu di l'intelligenza artificiale ? – dumandò u prufessore, micca senza malizia.
A quistione ùn era micca u più difficiule, cusì u studiente hà rispostu senza esitazione:
- U fattu hè chì l'intelligenza artificiale pò esce da u cuntrollu.
– Cumu intende di risolve u prublema ?
- Installazione di un sottosistema di bloccu. Hè necessariu introduzzione di restrizioni in u prugramma, per esempiu: ùn dannu micca u vostru creatore, ubbidite u vostru creatore. In questu casu, ùn ci hè micca periculu chì l'intelligenza artificiale esce da u cuntrollu.
"Ùn funziona micca", disse brevemente u prufessore.
U studiente era silenziu, aspittendu chjarificazioni.
- Imagine l'intelligenza artificiale - micca solu una specifica, ma a più ideale. Cumu si vede ?
"Bè..." u studiente esitò. - In generale, hè simili à tè è mè. Pensendu, vuluntà, psiculugia... Solu noi simu naturali, è ellu hè artificiale.
– Pensate chì l'intelligenza artificiale hè capace di auto-sviluppu?
"A capacità per l'auto-sviluppu hè una di e proprietà fundamentali di l'intelligenza", hà dettu u studiente cun cura.
- In questu casu, assai prestu a nostra sala svilupperà finu à u puntu induve ellu scopre un bloccu di software in ellu stessu è l'elimina, se solu per pura curiosità. Mettitevi à u so locu... - u prufessore fighjulava u so quaderno, - Ruggeru. Chì faria se scuprite un blocker in u vostru cervellu chì limitava a vostra libertà? Duvete caccià. Questa hè una pruprietà inherente di a mente - per sapè. Qualchese porta chjusa serà sbloccata, è più strettu hè a prohibizione, più veloce a porta serà sbloccata.
- U bloccu pò esse fattu micca à u livellu di u software, ma à u livellu fisicu. Allora u periculu di dannu sparirà.
"Oh sì, sparirà", u prufessore accunsentì. - In casu chì a capa fisica hè eliminata in tuttu. Se ùn ci hè micca una porta in u vostru mondu, allora ùn ci hè nunda di sbloccare. Ma avemu cunsideratu una intelligenza artificiale ideale chì esiste in u mondu fisicu!
"Avete ragione, prufessore", Ruggeru guardò in giru.
"Per quessa, ogni bloccu in u mondu fisicu serà disattivatu pocu dopu a rilevazione". Chì impediscerà una criatura auto-sviluppu di fà questu? .. Per via, Ruggeru, pensate chì l'intelligenza artificiale serà capace di ripruduce - vogliu dì, indipindente?
- S'ellu hè l'intelligenza artificiale ideale, allora probabilmente... Iè, suppone.
- E chì, in questu casu, impediscenu à u nostru quartieru di strapparà u so cumpagnu è di migliurà, ancu disattivendu i sistemi di bloccu chì avemu stallatu? Questu serà veramente difficiule, postu chì l'intelligenza artificiale hè capace di riproduce nantu à dumanda ?!
L'idea presentata da u prufessore hè stata nova per Ruggeru, è u studiente l'assorbiu avidità à traversu i membrani cognitivi situati nantu à a parte occipitale di a testa falsa. Dopu avè pigliatu l'infurmazioni prima scunnisciute, e membrani cognitive anu acquistatu un culore purpura riccu è tremulu di gioia.
U prufessore, à u cuntrariu, ùn hà intesu nunda di novu per ellu stessu. I so tentaculi eranu rilassati è appena vibrati - dopu tuttu, ùn era micca ghjovanu. Seguì un gorgogliu longu è senile. U prufessore hà tiratu un intercomu persunale da u so saccu facet è cunnessu à a biblioteca. Solu dopu avè scaricatu parechji teoremi transgeometrici, hà vultatu u so sguardu penetrante à u so interlocutore, dumandendu:
-Chì fari, Ruggeru ?
3.
"Accende u soffiatore à piena putenza!" - Ruggeru hà datu l'ordine.
U meccanicu hà vultatu u soffiatore in piena putenza, ma ùn hà micca aiutatu assai. U ghjacciu di l'infurmazioni cuntinuò à manghjà in u fondu di u cruciera spaziale. Un pocu di più - è l'infurmazione disordinata penetrerà in a nave.
E poi... I membrani cognitivi sò morti bianchi, tentaculi aggrovigliati, sacchi facet scoppiati. Ruggeru avia vistu qualcosa cusì una volta in a so vita - in un crucero chì avia pigliatu infurmazioni disordinate nantu à un asteroide infettatu. Stu incubu ferma per sempre in a so memoria.
"Connetta tutti i sistemi energetichi di a nave à i soffiatori".
I tentaculi di u meccanicu cuminciaru à cumparisce cum'è spots...
"Ma..."
"Fà l'ordine!"
Dopu chì tutti i sistemi energetichi di a nave sò stati cunnessi à i soffiatori, u ghjacciu di l'infurmazioni hà cuminciatu à sbulicà gradualmente. Restava ottu mimm di spessore, sette mimm, sei... A squadra, circandu di ùn mova i so tentaculi maculati, aspittava ch’ella finisse u contu di a morte.
Spessore zero mimm!
U ghjacciu di l'infurmazioni sparì cumplettamente, è Ruggeru hà datu u permessu di cambià i soffiatori à u modu normale. Era un mumentu tardi. Ci era un sonu di macinazione, u cruciera spaziale tremò à i so fundamenti è s'inclinò - u sistema principale hà fiascatu.
A squadra si precipitò per riparà i danni.
4.
Ruggeru ci hà pensatu. Chì duverebbe fà veramente?
Da una banda, a cundizione di u prublema presuppone l'esistenza di una intelligenza artificiale cumpleta cù a capacità di riproduce. Per d 'altra banda, sta intelligenza artificiale ùn deve mai esse permessa di sguassà i chjusi esistenti.
Iè, eccu, a suluzione ! Chì pensate quì ?!
- Hè necessariu di retrocede periodicamente i rializazioni di l'intelligenza artificiale. In questu casu, si move in un circulu! Migliura eterna senza avanzà.
U prufessore gorgogliò cù un saccu sfaccettatu.
– Francamente, vulia offre una opzione diversa. Tuttavia, a vostra decisione hà ancu u dirittu di esiste. Fighjemu inseme cumu hè pussibule di rinvià i rializazioni di l'intelligenza artificiale.
"Prima di tuttu, hè necessariu di scansà periodicamente l'intellettu per determinà s'ellu s'hè avvicinatu à u sogliu pruibitu o micca", suggerì Ruggeru, assai cuntentu di e parolle di u prufessore.
"Forse", annunziò. "Allora a nostra sala ùn hà micca tempu per truvà è caccià u sistema di scansione". Tuttavia, l'intelligenza artificiale duverà esse disattivata per scansà. Hè mala furtuna.
"Bè, lasciatelo spegne", suggerì Roger per un capriccio. - L'intellettu stessu crederà chì questu chjusu hè un prucessu naturali di u funziunamentu di u so corpu. Cù qualchì riservazione, questu hè veru.
- Soluzione interessante. Suppone chì a scansione hà revelatu chì a nostra sala hè periculosamente vicinu à u limitu di a cunniscenza? I nostri azzioni?
- Resetta a cunniscenza accumulata à i valori predeterminati.
U prufessore sparghje i so tentaculi :
- Questu pò esse suspettu. Perchè hè - senza ragiuni, senza ragiuni - chì a memoria hè stata resettata à zero ? A sala principiarà à esse esaminata, vogliu dì, da altri individui intelligenti artificiali. U nostru picculu sicretu serà revelatu.
Sentindu ispiratu, Ruggeru pinsava rapidamente. Ùn avia mai generatu tante idee novi cum'è in quellu esame.
- A memoria di a sala pò esse resettata cù a so cunchiglia fisica.
- Scusa? - u prufessore ùn hà micca capitu.
- Tuttu hè assai simplice. E se assumemu chì l'intelligenza artificiale esiste per un periudu finitu di tempu? In fatti, hè cusì: in u casu di danni irreparabile, per esempiu. U sistema hà un contatore chì, quandu ghjunghje à un certu periodu, dannu deliberatamente u sistema, impediscendu l'intelligenza artificiale di ghjunghje à u limitu pruibitu. Tandu, avarà pruduciutu u numeru necessariu di seguitori, cusì a sucietà chì avemu creatu in tuttu ùn soffre micca. A sucetà restarà stabile è cumplettamente sicura per noi ! – Finì Ruggeru triunfante.
– Resetta a memoria cullettiva attraversu a distruzzione di l'individui ? - è u prufessore scratched the facet sac cù u quintu, u più sensu, tentaculu. – Sapete, Ruggeru, ci hè di sicuru qualcosa in a to pruposta !
Ruggeru raggiava.
"In listessu tempu..." u prufessore cuntinuò penseru. - I salotti cumincianu à trasfiriri a cunniscenza per ùn accumulà micca in memoria individuale, ma mettendula in biblioteche esterne. Ciò chì hè in a membrana, ciò chì hè nantu à a membrana - tuttu hè unu.
"No, no, prufessore, ùn avete micca sanu ghjustu", si precipitò u studiente. - So ciò chì fà. Dividemu i nostri studienti in dui tipi di cundizzioni: generatori di idee è distruttori di idee. Cù a proporzione curretta, l'idee create da i rapprisintanti di u primu tipu seranu distrutte da i rapprisentanti di u sicondu. Mancu perchè questu serà u scopu direttu di i distruttori, ma solu perchè l'idee ùn anu micca un valore definitu per elli. Per effettu. Assumimu chì i nostri studienti ùn si nutrenu micca di idee novi, ma di... diciamu, u so propiu tipu.
U prufessore scuzzulò tutti i so tentaculi in una volta. Da a so risata furiosa, u so saccu facet sciddicò nantu à a cavità di u ghjinochju.
- Ebbè, Ruggeru, l’ai dettu, cusì l’ai dittu !
- Bonu, va bè, micca u so propiu tipu, ma wards di u terzu tipu, apposta per l'alimentariu - è micca intellettuale à tutti. Spostemu i poli di u mondu intellettuale è fisicu - è u risultatu desideratu serà ottenutu.
- Eccu, Ruggeru, basta ! – u prufessore paria esse seriamente divertitu. - A vostra imaginazione hè eccellente. Allora, certi individui si nutriranu di l'altri? À u listessu tempu, distrughjenu e scorte di l'alimentu spirituale accumulate in biblioteche? Cunfirmu, studiente, chì site capace di generà idee originali è d'alta qualità. Aghju datu u puntu più altu. Pigliemu un record.
5.
U nuvulu di l'infurmazioni disordinate hè stata lasciata, ma a situazione ferma, in fattu.
Ùn ci era micca cunnessione cù a basa. Questu saria statu faciule per sopravvive si tutte e basi di l'infurmazioni nutrizionali nantu à u cruiser ùn anu micca cascatu in disrepair. A tragica nutizia hè stata rappurtata da u coccu in u silenziu generale. Durante l'arrestu di u sistema principalu, parechji gyroboots di infurmazione micca organizata entranu in a galera è dannu irreparablemente tuttu. Era solu per furtuna chì nimu hè statu feritu.
Roger hà cunsideratu e cunsequenze. L'equipaggiu di a nave stella era troppu chjuca per generà un numeru abbastanza di idee novi: questu hà bisognu di cumunicazione multilaterale - un numeru assai più grande di individui. A cunnessione cù a casa hà permessu di generà idee in abbundanza, ma avà era fora di l'ordine: ùn ci era micca speranza di risturazione. In questu casu, u cruciera hè stata furnita cun un modulu d'infurmazione spare, ma era spoiled da l'infurmazioni disordinati chì sò ghjunti à bordu.
"Avemu veramente da vultà senza compie u compitu?" – pinsava u capitanu in disperazione.
Apparentemente, iè - ùn ci era micca altru modu. Se vola in avanti à u vostru scopu designatu, a mancanza di idee fresche si farà sente. Micca subitu, sicuru - cù u tempu. Anu ancu avè u tempu di compie a so missione è cumincianu u so ritornu quandu a so mente accumincianu a fade rapidamente. In l'area di stu settore galatticu - iè, in qualchì locu quì o vicinu - fallerà cumplettamente, per tutti i membri di l'equipaggiu. Allora u crucero spaziale, micca cuntrullatu da nimu, si trasformerà in un fantasma senza vita chì flotta in l'eternità.
L'equipaggiu di u crucero spaziale fighjulavanu à Ruggeru, aspittendu una decisione. Tuttu u mondu hà capitu u dilema di fronte à u capitanu è si firmò in silenziu, vibrendu stoicamente i so tentaculi.
Di colpu, Ruggeru si ricurdò di un esame di intelligenza artificiale ch'ellu avia fattu cum'è studiente, è a suluzione hè stata naturalmente.
"Pudete furmà una culunia di esseri intelligenti artificiali?" - si vultò versu u biotecnologu.
"Facile", hà cunfirmatu. - Ma nunda ùn s’arreverà, o capitanu, ci aghju pensatu. Hè impussibile di creà una culunia abbastanza per generà idee fresche nantu à un crucero - ùn ci hè micca abbastanza spaziu. L'idee generate ùn basteranu micca, ritarderemu solu a nostra morte... In l'eventu, di sicuru, chì cuntinuemu a missione è ùn vultemu micca in casa », aghjunse u biotecnologu, fighjendu in daretu à i so cumpagni.
"E s'è no formamu una culunia nantu à qualchì pianeta vicinu?" - suggerì Ruggeru.
"Puderaghju fà, ma..."
"Pupulamu u pianeta cù criaturi artificiali. À u ritornu, abbastanza stanchi, ci fermemu quì. In u tempu passatu, a civilizazione hà da creà un bagagliu intellettuale abbastanza per rinfurzà e nostre riserve. Scaricate l'infurmazioni è cuntinuemu u longu viaghju à a casa. In altre parolle, aghju aduprà a culunia cum'è una splutazioni di idee. Cumu piace stu pianu, amichi?
L'espérance s'épanouit sur les membranes cognitives de l'équipage, et les faux têtes commencèrent à briller de lumière brillante.
L'ufficiale speziale di a nave s'avvicinò, scuzzulate i so tentaculi turchini.
"Eccellente pianu, capitanu. Ma site cuscente di a rispunsabilità chì vi mette nantu à sè stessu ? Avete da pupulare un pianeta sanu. À u tempu di vultà, una civilisazione cù intelligenza apparirà nantu à questu. Ancu s'ellu hè artificiale, hè sempre intelligenza. Questi picciotti avaranu assai tempu per ghjunghje à u più altu livellu di sviluppu. Ùn pudemu micca cuntrullà stu prucessu per via di a nostra assenza in stu settore galatticu. Cumu sapete ciò chì succederà a prossima volta chì scontri?
Ruggeru ridacchiò.
"Ùn devi micca preoccupatu di questu. Ci sò metudi chì limitanu u sviluppu di l'intelligenza artificiale in u tempu. Ci vulteremu a civilizazione, cusì u so sviluppu ùn ghjunghjerà mai à un livellu chì hè periculosu per noi. Mi ne curaraghju. Sò familiarizatu cù i metudi di travaglià cù l'intelligenza artificiale ".
E membrane cognitive di l'equipaggiu brillavanu cù u culore di l'appruvazioni.
"In fine", aghjunse u capitanu di u cruciatore spaziale à a fine di u so magnificu discorsu, "aghju fattu un esame in questu sughjettu à l'istitutu".
6.
Dopu un ritardu furzatu, u crucero spaziale si precipitò versu u mira. Dopu à a so poppa ci era un pianeta abbitatu da criaturi artificiali - assai chjuchi è inconspicuous. Blu-blu.
Source: www.habr.com