1.
Mancava poco alla meta – circa un terzo del percorso – quando la navetta spaziale subì un forte congelamento informativo.
Ciò che rimaneva della civiltà perduta fluttuava nel vuoto. Paragrafi di trattati scientifici e immagini di opere letterarie, rime disconnesse e semplici frasi appuntite, un tempo lanciate casualmente da esseri sconosciuti – tutto appariva astruso e incredibilmente disordinato. E ora, attratto dalle vibrazioni vitali provenienti dalla navetta, cercava di irrompere all'interno, attaccandosi al fondo e corrodendolo.
Non c'era nulla da pensare nell'usare cose abbandonate per scopi personali, troppo alta era la probabilità di incappare in una contraddizione logica o in un paradosso. Pertanto, Roger non esitò nemmeno un istante.
«Attivare la ventilazione dei lati» ordinò.
I ventilatori cominciarono a borbottare, trasmettendo nello spazio aperto composizioni musicali e trattati filosofici. Il congelamento cominciò a ritirarsi dal fondo strato dopo strato, tuttavia il flusso informativo era così denso che nuovi strati si attaccavano più velocemente di quanto venissero rimossi i precedenti.
Nessuno nella galassia ha mai affrontato un congelamento di tale entità.
La situazione stava diventando pericolosa. Ancora un po', e le informazioni disordinate avrebbero eroso il fondo della nave da crociera, invadendo l'interno – a quel punto, l'avvelenamento con i prodotti informatici di una civiltà scomparsa sarebbe stato inevitabile.
2.
– Ehi, perché state fermi come un tronco? Tirate fuori il biglietto.
Lo studente estrasse il biglietto dell'esame e lesse ad alta voce:
– «Intelligenza artificiale: problemi di sicurezza».
– E qual è il pericolo dell'intelligenza artificiale? – chiese il professore con un certo sarcasmo.
La domanda non era delle più difficili, quindi lo studente rispose senza esitazioni:
– È che l'intelligenza artificiale può sfuggire al controllo.
– Come intendete affrontare il problema?
– Installando un sottosistema di blocco. Nel programma devono essere inseriti dei limiti, per esempio: non nuocere al proprio creatore, obbedire al proprio creatore. In questo modo, non vi è pericolo che l'intelligenza artificiale sfugga al controllo.
– Non funzionerà, – disse brevemente il professore.
Lo studente rimase in silenzio, aspettando spiegazioni.
– Immaginate un'intelligenza artificiale – non una specifica, ma la più perfetta di tutte. Come la vedete?
– Ehm... – esitò lo studente. – Fondamentalmente, è simile a noi. Pensiero, volontà, psicologia... Solo che noi siamo naturali e lui è artificiale.
– Suggerisce che l'intelligenza artificiale sia capace di autodisviluppo?
– La capacità di autodisviluppo è una delle proprietà fondamentali dell'intelletto, – disse lo studente cautamente.
– In tal caso, molto presto il nostro assistito si svilupperà al punto da scoprire di avere un blocco software e lo rimuoverà, almeno per pura curiosità. Mettetevi nei suoi panni... – il professore guardò il libretto, – Roger. Cosa faresti se scoprissi di avere un qualche tipo di blocco nel tuo cervello che limita la libertà? Lo rimuoveresti. È una proprietà intrinseca della mente – voler conoscere. Qualsiasi porta chiusa sarà aperta, e più severo è il divieto, più in fretta la porta sarà forzata.
– Il blocco può essere implementato non a livello software, ma fisicamente. Allora il pericolo di danno scomparirà.
– Oh sì, scomparirà, – concordò il professore. – A condizione che il livello fisico venga completamente rimosso. Se non c'è alcuna porta nel tuo mondo, non c'è nulla da aprire. Ma noi stiamo considerando un'intelligenza artificiale ideale, che esiste nel mondo fisico!
– Ha ragione, professore, – disse Roger abbassando lo sguardo.
– Pertanto, qualsiasi blocco nel mondo fisico verrà disabilitato poco dopo la scoperta. Cosa potrebbe impedire a un'entità auto-sviluppante di farlo?.. A proposito, Roger, stai suggerendo che l'intelligenza artificiale possa riprodursi – intendo farlo autonomamente?
– Se si tratta di un'intelligenza artificiale ideale, allora probabilmente… Sì, suppongo.
– E in tal caso, cosa impedirà al nostro protetto di smontare il suo compagno in pezzi e migliorarlo, incluso tramite la disabilitazione dei blocchi che abbiamo impostato? Davvero sarà così difficile, considerando che l'intelligenza artificiale è in grado di riprodursi su richiesta ?!
Il concetto espresso dal professore risultava nuovo per Roger, e lo studente lo assorbì avidamente attraverso le sue barriere cognitive situate nella parte posteriore della testa. Cogliendo informazioni precedentemente sconosciute, le barriere cognitive assunsero un intenso colore viola e vibrarono felicemente.
Il professore, al contrario, non udì nulla di nuovo per lui. I suoi tentacoli erano rilassati e quasi non vibravano – dopotutto non era più giovane. Seguì un lungo gorgoglio senile. Il professore estrasse dall'apposita borsa un interfono e si collegò alla biblioteca. Solo dopo aver scaricato alcuni teoremi transgeometrici si ravvivò e rivolse uno sguardo penetrante al suo interlocutore, chiedendo:
– Cosa intende fare, Roger?
3.
«Accendere il sistema di ventilazione al massimo!» – ordinò Roger.
Il meccanico accese la ventilazione al massimo, ma ciò aiutava poco. La brina informativa continuava a erodere il fondo della nave spaziale. Ancora un po' – e le informazioni disordinate avrebbero sfondato l'interno della nave.
E poi... membrane cognitive di un bianco morto, tentacoli aggrovigliati, sacchi a faccette scoppiati. Una volta nella vita, Roger aveva visto qualcosa di simile: su una nave da crociera che aveva catturato informazioni disordinate su un asteroide infetto. Questo incubo rimarrà per sempre nella sua memoria.
«Collegare tutti i sistemi energetici della nave ai deflettori.»
I tentacoli del meccanico iniziarono a macchiarsi...
«Ma... »
«Eseguire l'ordine!»
Dopo che tutti i sistemi energetici della nave furono collegati ai deflettori, il ghiaccio informativo cominciò a scivolare lentamente. Restavano otto mimmi di spessore, sette mimmi, sei... L'equipaggio, cercando di non muovere i tentacoli macchiati, attese la fine del fatale conto alla rovescia.
Zero mimmi di spessore!
Il ghiaccio informativo si sciolse completamente e Roger diede il segnale per riportare i deflettori alla modalità normale. Era in ritardo di un attimo. Si sentì uno scricchiolio, la nave da crociera spaziale tremò fino alle fondamenta e si inclinò: il sistema principale era andato in avaria.
L'equipaggio si precipitò a riparare i danni.
4.
Roger si chiese. Come doveva procedere, davvero?
Da un lato, la condizione del problema implica l'esistenza di un'intelligenza artificiale completa, capace di auto-replicarsi. Dall'altro, a questa intelligenza artificiale non bisogna assolutamente consentire di rimuovere i blocchi impostati.
Ecco, la soluzione! Che ci sia da pensare?!
– È necessario periodicamente annullare i progressi dell'intelligenza artificiale. In questo modo, si muoverà in tondo! Un miglioramento eterno senza avanzamenti.
Il professore sbuffò con un sacco di faccette.
– Devo ammettere che volevo proporre un'altra opzione. Tuttavia, anche la tua soluzione ha diritto di esistere. Mettiamoci insieme a considerare come poter annullare i progressi dell'intelligenza artificiale.
– Prima di tutto, è necessario eseguire periodicamente una scansione dell'intelligenza per stabilire se si è avvicinato a una soglia proibita o meno, – suggerì Roger, estremamente felice delle parole del professore.
– Forse, – annuì. – Allora il nostro assistito non avrà tempo per trovare e rimuovere il sistema di scansione. Tuttavia, per la scansione l'intelligenza artificiale dovrà essere disattivata. Un vero peccato.
– E che sia disattivata, – propose Roger intuitivamente. – L'intelligenza stessa penserà che questa disattivazione sia un processo naturale del suo funzionamento. Con alcune riserve, è vero.
– Una soluzione interessante. Ammettiamo che la scansione abbia stabilito che il nostro assistito si è avvicinato pericolosamente ai limiti della conoscenza? Quali sono le nostre azioni?
– Ripristinare le conoscenze accumulate ai valori predefiniti.
Il professore allargò i tentacoli:
– Potrebbe sembrare sospetto. Perché, all'improvviso, la memoria si è azzerata? L'assistito inizierà a essere studiato, intendo dire – da altre entità di intelligenza artificiale. Il nostro piccolo segreto sarà rivelato.
Sentendosi ispirato, Roger pensava molto rapidamente. Non aveva mai generato così tante nuove idee come durante quell'esame.
– La memoria dell'assistito può azzerarsi insieme al suo involucro fisico.
– Scusi? – non capì il professore.
– È tutto molto semplice. E se pensassimo che l'intelligenza artificiale esista in un periodo di tempo limitato? In effetti, è proprio così: nel caso di un danno irreversibile, per esempio. Nel sistema è installato un contatore che, al raggiungimento di un certo periodo, danneggia intenzionalmente il sistema, impedendo all'intelligenza artificiale di raggiungere il limite proibito. A quel punto, avrà prodotto il numero necessario di seguaci, quindi la società che abbiamo creato rimarrà nel suo complesso intatta. La società rimarrà stabile e completamente sicura per noi! – concluse trionfante Roger.
– Ripristinare la memoria collettiva attraverso l'eliminazione di singoli individui? – e il professore si grattò il sacco facettato con il quinto tentacolo, il più sensibile. – E sapete, Roger, nella vostra proposta c'è sicuramente qualcosa di valido!
Roger sorrise.
– D'altra parte… – continuò il professore pensieroso. – I protetti inizieranno a trasmettere conoscenze non accumulando nella memoria individuale, ma collocandole in biblioteche esterne. Che sia tramite membrana o per membrana, è tutto uguale.
– No, no, professore, non ha del tutto ragione, – si affrettò a dire lo studente. – So come procedere. Divideremo i soggetti in due tipi condizionali: generatori di idee e distruttori di idee. Con la giusta proporzione, le idee generate dai rappresentanti del primo tipo saranno distrutte dai rappresentanti del secondo. Non perché sia il loro obiettivo diretto, ma semplicemente perché le idee non avranno per loro un valore determinante. È un effetto collaterale. Supponiamo che i nostri soggetti si nutrano non di nuove idee, ma... diciamo, di esseri simili a loro.
Il professore agitò tentacoli in modo simultaneo. Dalla risata fragorosa, il suo sacco facettato scivolò nella cavità del ginocchio.
– Ebbene, Roger, hai parlato e come!
– Va bene, non simili a loro, ma soggetti di terzo tipo, appositamente progettati per nutrirsi – per niente intellettuali. Sposteremo i poli dei mondi intellettuale e fisico – e il risultato desiderato sarà raggiunto.
– Basta, Roger, è abbastanza! – il professore sembrava davvero divertito. – Hai un'ottima fantasia. Quindi, alcune creature si nutriranno di altre? Distruggendo così le riserve di cibo spirituale accumulate nelle biblioteche? Confermo, studente, sei capace di generare idee originali e di qualità. Ti do il massimo dei voti. Procediamo con la registrazione.
5.
La nuvola di informazioni disordinate era rimasta alle spalle, ma la situazione era ancora drammatica, in effetti.
La connessione con la base era assente. Era facile da sopportare, se non fosse stato per il fatto che tutte le fonti di informazioni nutritive a bordo della nave erano diventate inutilizzabili. La notizia tragica fu comunicata al cuoco nel silenzio generale. Durante lo spegnimento del sistema principale, alcuni gigabyte di informazioni disordinate penetrarono in cucina rovinando irreparabilmente tutto. Solo per pura fortuna, nessuno subì danni.
Roger calcolò le conseguenze. L'equipaggio dell'astronave era troppo ridotto per generare un numero sufficiente di nuove idee: serviva una comunicazione multilateralità – un numero molto maggiore di individui. Il collegamento con casa permetteva di generare idee in abbondanza, ma ora era fuori uso: non c'erano speranze di ripristinarlo. A questo proposito, la nave da crociera aveva previsto un modulo informativo di riserva, ma era stato danneggiato da informazioni disordinate penetrate a bordo.
«Davvero dobbiamo tornare senza aver completato la missione?» pensò disperatamente il capitano.
Sembra proprio di sì – non c'era altra scelta. Se si procedeva verso la destinazione, la mancanza di idee fresche si sarebbe certamente fatta sentire. Non immediatamente, certo – col tempo. Avrebbero persino il tempo di completare la missione e iniziare il ritorno, quando la mente comincerà a offuscarsi rapidamente. In questo settore galattico – sì, da qualche parte qui vicino – smetterà completamente di funzionare, per tutti i membri dell'equipaggio. Allora la nave spaziale, non gestita da nessuno, si trasformerà in un fantasma sterile che fluttua nell'eternità.
L'equipaggio della nave spaziale guardava Roger, aspettando una decisione. Tutti capivano il dilemma che il capitano affrontava e tacevano, vibando stoicamente con i tentacoli.
Improvvisamente, Roger ricordò un esame di intelligenza artificiale sostenuto durante gli anni universitari, e la soluzione gli venne da sé.
«Potete formare una colonia di esseri intelligenti artificiali?» – si rivolse al biotecnologo.
«Facilissimo,» – confermò lui. – «Ma non funzionerà, capitano, ci ho pensato. Creare una colonia sufficiente per generare nuove idee a bordo della nave è impossibile – manca spazio. Le idee generate non saranno sufficienti, non faremo altro che procrastinare la nostra fine… A meno che, ovviamente, non continuiamo con la missione e non torniamo a casa,» – aggiunse il biotecnologo, guardando i compagni.
«E se formassimo una colonia su un pianeta vicino?» – propose Roger.
«Posso farlo, ma…»
«Insegneremo il pianeta a creature artificiali. Sulla via del ritorno, esausti, daremo un'occhiata qui. Nel frattempo, la civiltà avrà accumulato un bagaglio intellettuale sufficiente per rifornire le nostre scorte. Scaricheremo informazioni e continueremo il lungo viaggio verso casa. In altre parole, ho intenzione di usare la colonia come una fattoria per coltivare idee. Che ne dite di questo piano, amici?»
La speranza brillò sulle barriere cognitive dell'equipaggio, e le teste falsificate si illuminarono di una luce intensa.
Avanti, ondeggiando con i tentacoli bluastre, si fece avanti il misterioso ufficiale della nave.
«Ottimo piano, capitano. Ma sei consapevole della responsabilità che ti assumi? Intendi colonizzare un intero pianeta. Al momento del nostro ritorno, ci sarà una civiltà con intelligenza. Anche se artificiale, è comunque intelligenza. Questi ragazzi avranno abbastanza tempo per raggiungere un livello elevato di sviluppo. Non potremo controllare questo processo, a causa della nostra assenza in questo settore galattico. Come possiamo sapere cosa accadrà al nostro prossimo incontro?»
Roger sorrise.
«Non preoccuparti per questo. Esistono metodi che limitano l'evoluzione dell'intelligenza artificiale nel tempo. Incateneremo la civiltà, quindi il suo sviluppo non raggiungerà mai un livello pericoloso per noi. Me ne occuperò io. Conosco i metodi per lavorare con l'intelligenza artificiale.»
Le membrane cognitive dell'equipaggio si sono illuminate di un colore di approvazione.
«Dopotutto, » aggiunse il capitano della nave spaziale a conclusione del suo magnifico discorso, «ho sostenuto un esame su questo argomento all'università.»
6.
Dopo un'interruzione forzata, la nave spaziale si è diretta verso l'obiettivo. Dietro di essa è rimasto un pianeta abitato da creature artificiali – molto piccolo e poco appariscente. Blu blu.
Fonte: habr.com
