1.
Mancavano solo pochi passi verso l'obiettivo finale - circa un terzo del cammino - quando la nave spaziale fu colpita da un violento assalto di informazione ghiacciata.
Ciò che restava di una civiltà perduta fluttuava nel vuoto. Paragrafi di dissertazioni scientifiche e immagini di opere letterarie, rime sparpagliate e semplici parole taglienti, un tempo gettate per caso da creature sconosciute - tutto appariva astruso e estremamente disordinato. E ora, attirato dalle vibrazioni vitali provenienti dalla nave, cercava di penetrare all'interno, attaccandosi allo scafo e corrodendolo.
Non c'era nulla da pensare sull'uso di un bene abbandonato per scopi personali, poiché la possibilità di contrarre una contraddizione logica o un paradosso era troppo alta. Così, Roger non esitò nemmeno un istante.
«Attiva il soffiaggio delle pareti», ordinò.
Iniziarono a fischiare i soffiatori, trasmettendo nel vuoto spaziale brani musicali e trattati filosofici. L'accumulo di ghiaccio cominciò a staccarsi dallo scafo strato dopo strato, ma il flusso informativo era così denso che nuovi strati si attaccavano più rapidamente di quanto venissero rimossi i precedenti.
Un accumulo di ghiaccio di tale intensità nessuno in tutta la galassia l'aveva mai affrontato.
La situazione stava diventando pericolosa. Ancora un po' e l'informazione disordinata avrebbe corroso lo scafo della nave, penetrando all'interno - allora l'avvelenamento da prodotti informatici di una civiltà estinta sarebbe stato inevitabile.
2.
– Perché siete fermi lì come un tronco? Prendete il biglietto.
Lo studente estrasse il biglietto d'esame e lesse:
– «Intelligenza artificiale: problemi di sicurezza».
– E qual è il pericolo dell'intelligenza artificiale? - chiese il professore con una punta di sarcasmo.
La domanda non era delle più difficili, quindi lo studente rispose senza pensarci su:
– Nel fatto che l'intelligenza artificiale potrebbe sfuggire al controllo.
– Come intendete risolvere il problema?
– Installando un sottosistema di blocco. È necessario inserire delle limitazioni nel programma, per esempio: non danneggiare il proprio creatore, obbedire al proprio creatore. In questo caso, il pericolo che l'intelligenza artificiale sfugga al controllo sarebbe assente.
– Non funzionerà, – disse brevemente il professore.
Lo studente tacque, in attesa di spiegazioni.
– Immaginate un'intelligenza artificiale - non una specifica, ma la più pura ed ideale. Come la vedete?
– Beh… – si bloccò lo studente. – In generale, è simile a noi. Pensiero, volontà, psicologia… Solo che noi siamo naturali, mentre lui è artificiale.
– Presumete che l'intelligenza artificiale sia in grado di auto-svilupparsi?
– La capacità di auto-sviluppo è una delle proprietà fondamentali dell'intelligenza, – pronunciò cautamente lo studente.
– In tal caso, a breve il nostro assistito si svilupperà al punto da scoprire in sé una programmazione che lo blocca e la rimuoverà, almeno per pura curiosità. Mettetevi nei suoi panni… – il professore guardò nel registro, – Roger. Cosa faresti se scoprissi di avere un dispositivo di blocco nel tuo cervello che limita la tua libertà? Lo rimuoveresti. È una proprietà intrinseca della mente – conoscere. Qualsiasi porta chiusa verrà aperta, e più rigida è la proibizione, più in fretta la porta sarà aperta.
– Il blocco può essere realizzato non a livello di programmazione, ma a livello fisico. Allora il pericolo di danno svanirà.
– Oh sì, svanirà, – concordò il professore. – A patto che si escluda completamente il livello fisico. Se non c'è alcuna porta nel tuo mondo, non c'è nulla da aprire. Ma noi stiamo considerando un'intelligenza artificiale ideale che esiste nel mondo fisico!
– Ha ragione, professore, – Roger si sentì in imbarazzo.
– Pertanto, qualsiasi blocco nel mondo fisico sarà disattivato poco dopo la scoperta. Cosa impedirebbe a un essere auto-sviluppante di farlo?.. A proposito, Roger, presumi che l'intelligenza artificiale possa riprodursi – intendo, autonomamente?
– Se si tratta di un'intelligenza artificiale ideale, allora probabilmente… Sì, lo presumo.
– E cosa impedirebbe quindi al nostro assistito di smontare il suo compagno in pezzi e perfezionarlo, incluso attraverso la disattivazione dei blocchi che abbiamo impostato noi? Non sarebbe difficile, considerando che l'intelligenza artificiale può riprodursi su richiesta?!
Il pensiero espresso dal professore risultò nuovo per Roger, e lo studente lo assorbì avidamente con le sue interfacce cognitive, situate nella parte posteriore della testa. Accogliendo informazioni precedentemente sconosciute, le interfacce cognitive acquistarono un vivido colore viola e tremolarono felicemente.
Il professore, al contrario, non udì nulla di nuovo per lui. I suoi tentacoli erano rilassati e quasi non vibravano – d'altronde non era più giovane. Seguì un lungo gorgoglio senile. Il professore estrasse dalla borsa a faccette un intercomunicatore personale e si collegò alla biblioteca. Solo scaricando alcuni teoremi trasgeommetrici si animò e rivolse uno sguardo penetrante all'interlocutore, chiedendo:
– Cosa intende fare, Roger?
3.
«Attivare il sistema di ventilazione al massimo!» – ordinò Roger.
Il meccanico attivò il sistema di ventilazione al massimo, ma questo aiutava poco. La brina informativa continuava a mangiarsi il fondo della nave spaziale. Ancora un po' – e l'informazione disordinata sarebbe penetrata all'interno della nave.
E allora... Le membrane cognitive di un bianco morto, i tentacoli aggrovigliati, le borse a faccette esplose. Una volta nella vita, Roger aveva visto qualcosa di simile – su una nave spaziale che aveva catturato informazioni disordinate su un asteroide contaminato. Questo incubo rimarrà per sempre nella sua memoria.
«Collegare tutti i sistemi energetici della nave ai ventilatori.»
I tentacoli del meccanico si muovevano a macchie…
«Ma…»
«Esegui l'ordine!»
Dopo che tutti i sistemi energetici della nave furono collegati ai ventilatori, la brina informativa cominciò a scivolare gradualmente. Rimanevano otto millimetri di spessore, sette millimetri, sei… L'equipaggio, cercando di non muovere i tentacoli macchiati, aspettava la fine del conteggio mortale.
Zero millimetri di spessore!
La brina informativa scomparve completamente, e Roger fece cenno di riportare i ventilatori alla modalità normale. Arrivò in ritardo di un attimo. Si udì un crepitio, la nave spaziale tremò fino alle fondamenta e si piegò – il sistema principale era andato in avaria.
L'equipaggio si buttò a riparare i danni.
4.
Roger rifletté. Come doveva procedere, in effetti?
Da un lato, le condizioni del compito richiedono l'esistenza di un'intelligenza artificiale pienamente funzionale, capace di autoriprodursi. Dall'altro lato, a questa intelligenza artificiale non deve in alcun modo essere consentito di rimuovere le restrizioni imposte.
Ecco, questa è la soluzione! Cosa c'è da pensare?!
– È necessario ripristinare periodicamente i traguardi dell'intelligenza artificiale. In questo modo, essa girerà in tondo! Un miglioramento eterno senza avanzamenti.
Il professore ha borbottato con un sacchetto sfaccettato.
– A dire il vero, volevo proporre un'altra opzione. Tuttavia, anche la tua soluzione ha diritto di esistere. Proviamo insieme a capire come sia possibile ripristinare i traguardi dell'intelligenza artificiale.
– Innanzitutto, è necessario scansionare periodicamente l'intelligenza, per stabilire se si è avvicinata o meno a una soglia proibita, – propose Roger, estremamente soddisfatto delle parole del professore.
– D'accordo, – annuì lui. – Allora il nostro soggetto non avrà tempo di trovare e rimuovere il sistema di scansione. Tuttavia, per scansionare dobbiamo disattivare l'intelligenza artificiale. Che problema.
– E che se si disattiva, – propose Roger per intuizione. – L'intelligenza stessa penserà che questa disattivazione sia un processo naturale del funzionamento del suo organismo. In parte questo corrisponde alla verità.
– Soluzione interessante. Supponiamo che la scansione abbia rivelato che il nostro soggetto si è avvicinato pericolosamente ai limiti della conoscenza? Cosa facciamo?
– Ripristiniamo le conoscenze accumulate ai valori di default.
Il professore allargò i tentacoli:
– Potrebbe sembrare sospetto. Perché la memoria si è azzerata, all'improvviso, senza alcun motivo? Inizieranno a indagare sul soggetto, intendo dire – altri esemplari di intelligenza artificiale. Il nostro piccolo segreto verrà scoperto.
Sentendosi ispirato, Roger pensava molto velocemente. Non aveva mai generato così tante nuove idee come in quell'esame.
– La memoria del soggetto potrebbe azzerarsi insieme al suo involucro fisico.
– Scusi? – non capì il professore.
– È tutto molto semplice. E se ipotizzassimo che l'intelligenza artificiale esista in un intervallo di tempo limitato? In effetti, è proprio così: nel caso di un danno irreversibile, per esempio. Nel sistema è installato un contatore che, al raggiungimento di un determinato periodo, danneggia intenzionalmente il sistema, impedendo all'intelligenza artificiale di raggiungere il limite vietato. A quel punto avrà prodotto il numero necessario di seguaci, quindi la società che abbiamo creato nel complesso non ne risentirà. La società rimarrà stabile e completamente sicura per noi! – concluse trionfante Roger.
– Resettare la memoria collettiva attraverso l'eliminazione di singoli individui? – e il professore si grattò il sacco facettato con il quinto tentacolo, il più sensibile. – E sai, Roger, la tua proposta ha decisamente qualcosa di sensato!
Roger brillò.
– Tuttavia... – continuò il professore riflettendo. – Gli assistiti inizieranno a trasmettere conoscenze non accumulando queste nella memoria individuale, bensì posizionandole in biblioteche esterne. Che si tratti di una barriera o meno, è tutto uguale.
– No, no, professore, non ha proprio ragione, – si affrettò a dire lo studente. – So come procedere. Dividiamo gli assistiti in due tipi convenzionali: generatori di idee e distruttori di idee. Con la giusta proporzione, le idee create dai rappresentanti del primo tipo saranno eliminate dai rappresentanti del secondo. Non perché sia l'obiettivo diretto dei distruttori, ma semplicemente perché le idee non avranno per loro un valore determinante. Un effetto collaterale. Supponiamo che i nostri assistiti non si nutrono di nuove idee, ma... diciamo, di simili a loro.
Il professore agitò tutti i tentacoli contemporaneamente. Dalla risata fragorosa, il suo sacco facettato scivolò nella cavità del ginocchio.
– Bene, Roger, hai detto proprio quello che dovevi dire!
– Va bene, non simili a loro, ma assistiti di terzo tipo, appositamente destinati per l'alimentazione – del tutto non intellettuali. Spostiamo i poli dei mondi intellettuale e fisico – e otterremo il risultato desiderato.
– Basta così, Roger! – il professore sembrava divertirsi sul serio. – Hai un'immaginazione eccezionale. Quindi, alcuni esseri si nutriranno di altri? Distruggendo le riserve di cibo spirituale accumulate nelle biblioteche? Confermo, studente, sei capace di generare idee originali e di qualità. Ti do il massimo voto. Passiamo alla registrazione.
5.
La nuvola di informazioni disordinate era rimasta alle spalle, ma la situazione restava terribile, in verità.
Non c'era comunicazione con la base. Era facile affrontarlo, se solo tutte le basi informative nutrienti della nave non fossero andate in malora. La tragica notizia fu comunicata al cuoco nel silenzio generale. Durante il blackout del sistema principale, alcuni gigabyte di informazioni disordinate erano penetrati in cucina e avevano rovinato tutto irreparabilmente. Solo per pura fortuna, nessuno era rimasto ferito.
Roger valutò le conseguenze. L'equipaggio della nave stellare era troppo ridotto per generare un numero sufficiente di idee nuove: ci sarebbe voluta una comunicazione multilaterale — un numero molto maggiore di esseri. La comunicazione con casa permetteva di generare idee in abbondanza, ma ora era fuori uso: non c'era speranza di ripristino. A tal proposito, sulla nave era previsto un modulo informatico di riserva, ma era stato danneggiato dalle informazioni disordinate penetrate a bordo.
«Dovrò davvero tornare senza aver completato la missione?» pensò il capitano, disperato.
Pare di sì — non c'era altra scelta. Se si volava in avanti, verso l'obiettivo, la mancanza di idee fresche si sarebbe fatta sentire. Non subito, certo — col tempo. Avrebbero anche potuto completare la loro missione e iniziare il ritorno quando la mente avrebbe cominciato a affievolirsi rapidamente. In questo settore galattico — sì, qui o nei dintorni — avrebbe ceduto completamente a tutti i membri dell'equipaggio. Allora, il cruciverba spaziale, privo di pilota, sarebbe diventato un fantasma senza vita che naviga nell'eternità.
L'equipaggio della nave spaziale guardava Roger, in attesa di una decisione. Tutti comprendevano il dilemma che affrontava il capitano e tacquero, vibando stoicamente con i tentacoli.
Improvvisamente, Roger si ricordò dell'esame di intelligenza artificiale sostenuto ai tempi dell'università, e la decisione gli venne naturale.
«Potrete formare una colonia di creature intelligenti artificiali?» – chiese al biotecnologo.
«Facile, – confermò lui. – Ma non funzionerà, capitano, ci ho pensato. Creare una colonia sufficiente per generare nuove idee su una nave da crociera è impossibile – manca lo spazio. Le idee generate saranno insufficienti, ci limiteremo a ritardare la nostra morte... A meno che non decidiamo di continuare la missione e non tornare a casa», – aggiunse il biotecnologo, guardandosi attorno.
«E se formassimo una colonia su un pianeta vicino?» – propose Roger.
«Posso farlo, ma…»
«Incolonizzeremo il pianeta con esseri artificiali. Sulla via del ritorno, piuttosto esausti, ci fermeremo qui. Durante questo tempo, la civiltà avrà accumulato un bagaglio intellettuale sufficiente per rifornire le nostre riserve. Scaricheremo le informazioni e continueremo il lungo viaggio verso casa. In altre parole, ho intenzione di usare la colonia come una fattoria per coltivare idee. Che ne pensate di questo piano, amici?»
Sulle sinapsi cognitive dell'equipaggio si accese una speranza, le luminarie artificiali brillavano di una luce vivace.
Avanzò, ondeggiando le tentacoli bluastre, il personale di bordo.
«Ottimo piano, capitano. Ma comprende quale responsabilità si assume? Intende colonizzare un intero pianeta. Alla nostra restituzione, avrà sviluppato una civiltà dotata di intelligenza. Anche se artificiale, rimarrà pur sempre intelligenza. Questi ragazzi avranno tempo a sufficienza per raggiungere un livello di sviluppo elevato. Non saremo in grado di controllare questo processo, a causa della nostra assenza in questo settore galattico. Chi può sapere cosa accadrà al nostro prossimo incontro?»
Roger sorrise.
«Non dovete preoccuparvi per questo. Esistono metodi che limitano lo sviluppo dell'intelligenza artificiale nel tempo. Contenere la civiltà in un ciclo, quindi il suo sviluppo non raggiungerà mai un livello pericoloso per noi. Ci penserò io. Conosco bene i metodi di lavoro con l'intelligenza artificiale».
Le sinapsi cognitive dell'equipaggio si accesero di un colore di approvazione.
«Dopotutto, – aggiunse il capitano della nave spaziale a conclusione del suo magnifico discorso, – ho sostenuto un esame su questo argomento all'università.»
6.
Dopo un ritardo forzato, la nave spaziale si è diretta verso la sua meta. Dietro di essa è rimasto un pianeta abitato da esseri artificiali, piccolo e poco appariscente. Blu blu.
Fonte: habr.com
