1.
Mancava poco all'obiettivo finale - circa un terzo del percorso - quando l'incrociatore spaziale fu sottoposto a una grave congelazione di informazioni.
Ciò che restava della civiltà perduta aleggiava nel vuoto. Paragrafi di saggi scientifici e immagini di opere letterarie, rime sparse e parole semplicemente taglienti, una volta lanciate casualmente da creature sconosciute: tutto sembrava astruso ed estremamente disordinato. E ora, attratto dalle vibrazioni vitali emanate dall'incrociatore, ha cercato di sfondare, si è attaccato al fondo e lo ha corroso.
Non aveva senso pensare di utilizzare la proprietà senza proprietario per i propri scopi; la probabilità di cogliere una contraddizione logica o un paradosso era troppo grande. Quindi Roger non esitò un attimo.
"Attiva il soffiaggio laterale", ordinò.
I soffiatori iniziarono ad annusare, trasmettendo composizioni musicali e trattati filosofici nello spazio. La glassa cominciò a staccarsi dal fondo strato dopo strato, ma il flusso di informazioni era così denso che i nuovi strati si attaccavano più velocemente di quelli vecchi venivano rimossi.
Nessuno nella galassia ha mai incontrato una formazione di ghiaccio di tale forza.
La situazione stava diventando pericolosa. Ancora un po ', e le informazioni disordinate divoreranno il fondo dell'incrociatore e sfondaranno, quindi l'avvelenamento con i prodotti informativi della civiltà perduta è inevitabile.
2.
- Perché te ne stai lì come un ceppo d'albero? Tira il biglietto.
Lo studente tirò fuori una scheda d'esame e lesse:
– “Intelligenza artificiale: problemi di sicurezza”.
– E qual è il pericolo dell’intelligenza artificiale? – chiese il professore, non senza malizia.
La domanda non era delle più difficili, quindi lo studente rispose senza esitazione:
– Il fatto è che l’intelligenza artificiale può sfuggire al controllo.
– Come intendi risolvere il problema?
– Installazione di un sottosistema di blocco. È necessario introdurre restrizioni nel programma, ad esempio: non danneggiare il tuo creatore, obbedisci al tuo creatore. In questo caso non c’è pericolo che l’intelligenza artificiale vada fuori controllo.
“Non funzionerà”, disse brevemente il professore.
Lo studente rimase in silenzio, in attesa di chiarimenti.
– Immagina l’intelligenza artificiale: non una qualsiasi, ma quella più ideale. Come lo vedi?
"Bene..." lo studente esitò. - In generale, è simile a te e me. Pensiero, volontà, psicologia... Solo noi siamo naturali, e lui è artificiale.
– Ritieni che l’intelligenza artificiale sia capace di autosviluppo?
"La capacità di autosviluppo è una delle proprietà fondamentali dell'intelligenza", ha detto con attenzione lo studente.
- In questo caso, molto presto il nostro reparto si svilupperà al punto in cui scopre in se stesso un blocco del software e lo rimuove, se non altro per pura curiosità. Mettiti al suo posto... - il professore guardò il suo taccuino, - Roger. Cosa faresti se scoprissi un blocco nel tuo cervello che limita la tua libertà? Dovresti toglierlo. Questa è una proprietà intrinseca della mente: conoscere. Qualsiasi porta chiusa verrà sbloccata e quanto più severo sarà il divieto, tanto più velocemente la porta verrà sbloccata.
– Il blocco può essere effettuato non a livello software, ma a livello fisico. Allora il pericolo di danni scomparirà.
"Oh sì, scomparirà", concordò il professore. – Nel caso in cui lo strato fisico venga rimosso del tutto. Se non ci sono porte nel tuo mondo, allora non c'è niente da aprire. Ma stiamo considerando un'intelligenza artificiale ideale che esiste nel mondo fisico!
"Hai ragione, professore", Roger abbassò lo sguardo.
“Pertanto, qualsiasi blocco nel mondo fisico verrà disabilitato subito dopo il rilevamento.” Cosa impedirà a una creatura in grado di svilupparsi autonomamente di fare ciò?... A proposito, Roger, presumi che l'intelligenza artificiale sarà in grado di riprodursi, voglio dire, in modo indipendente?
– Se questa è l’intelligenza artificiale ideale, allora probabilmente... Sì, suppongo.
– E cosa, in questo caso, impedirà al nostro protetto di fare a pezzi il suo compagno e di migliorarlo, anche disabilitando i sistemi di blocco che abbiamo installato? Sarà davvero difficile, dato che l’intelligenza artificiale è in grado di riprodursi su richiesta?!
L'idea presentata dal professore si è rivelata nuova per Roger e lo studente l'ha assorbita avidamente attraverso le membrane cognitive situate sulla parte occipitale della falsa testa. Avendo catturato informazioni precedentemente sconosciute, le membrane cognitive acquisirono un ricco colore viola e tremarono di gioia.
Il professore, al contrario, per sé non ha sentito nulla di nuovo. I suoi tentacoli erano rilassati e quasi non vibravano: dopotutto non era giovane. Seguì un lungo gorgoglio senile. Il professore tirò fuori dalla borsa un citofono personale e si collegò alla biblioteca. Solo dopo aver scaricato alcuni teoremi transgeometrici si rianimò e rivolse il suo sguardo penetrante al suo interlocutore, chiedendo:
-Cosa farai, Roger?
3.
“Accendi il ventilatore alla massima potenza!” – Roger ha dato l'ordine.
Il meccanico ha acceso il ventilatore alla massima potenza, ma non è servito a molto. Il ghiaccio informativo continuava a corrodere il fondo dell'incrociatore spaziale. Ancora un po 'e informazioni disordinate irromperanno all'interno della nave.
E poi... Le membrane cognitive sono di un bianco morto, tentacoli aggrovigliati, sacche sfaccettate scoppiate. Roger aveva visto qualcosa di simile una volta nella sua vita: su un incrociatore che aveva raccolto informazioni confuse su un asteroide infetto. Questo incubo rimarrà per sempre nella sua memoria.
"Collega tutti i sistemi energetici della nave ai ventilatori."
I tentacoli del meccanico iniziarono ad apparire come macchie...
"Ma…"
"Esegui gli ordini!"
Dopo che tutti i sistemi energetici della nave furono collegati ai ventilatori, il ghiaccio informativo iniziò gradualmente a scivolare via. Rimasero otto millimetri di spessore, sette millimetri, sei... La squadra, cercando di non muovere i tentacoli maculati, attese che il conto alla rovescia della morte finisse.
Spessore minimo zero!
Il ghiaccio informativo è scomparso completamente e Roger ha dato il via libera per commutare i ventilatori in modalità normale. Era in ritardo di un attimo. Si udì un suono stridente, l'incrociatore spaziale tremò fino alle fondamenta e si inclinò: il sistema principale aveva fallito.
La squadra si è precipitata a riparare il danno.
4.
Ruggero ci ha pensato. Cosa dovrebbe fare veramente?
Da un lato, la condizione del problema presuppone l’esistenza di un’intelligenza artificiale a tutti gli effetti con la capacità di autoriprodursi. D’altro canto, a questa intelligenza artificiale non dovrebbe mai essere permesso di rimuovere le serrature esistenti.
Sì, eccola qui, la soluzione! A cosa stai pensando qui?!
– È necessario ripristinare periodicamente i risultati dell’intelligenza artificiale. In questo caso, si muoverà in cerchio! Eterno miglioramento senza andare avanti.
Il professore gorgogliò con una borsa sfaccettata.
– Francamente volevo offrire un’opzione diversa. Tuttavia, anche la tua decisione ha il diritto di esistere. Scopriamo insieme come è possibile ripristinare i risultati dell'intelligenza artificiale.
“Prima di tutto è necessario scansionare periodicamente l’intelletto per determinare se si è avvicinato o meno alla soglia proibita”, ha suggerito Roger, estremamente soddisfatto delle parole del professore.
"Forse", annuì. "Allora il nostro reparto non avrà il tempo di trovare e rimuovere il sistema di scansione." Tuttavia, l’intelligenza artificiale dovrà essere disattivata per eseguire la scansione. Questa è sfortuna.
"Bene, lascialo spegnere", suggerì Roger per capriccio. – L’intelletto stesso crederà che questo spegnimento sia un processo naturale del funzionamento del suo corpo. Con qualche riserva, questo è vero.
- Soluzione interessante. Supponiamo che la scansione riveli che il nostro reparto è pericolosamente vicino al limite della conoscenza? Le nostre azioni?
– Ripristina la conoscenza accumulata ai valori predefiniti.
Il professore allargò i suoi tentacoli:
- Questo può sembrare sospetto. Perché - senza motivo, senza motivo - la memoria è stata azzerata? Il reparto inizierà ad essere esaminato, intendo, da altri individui intelligenti artificiali. Il nostro piccolo segreto verrà svelato.
Sentendosi ispirato, Roger pensò rapidamente. Non aveva mai generato così tante nuove idee come in quell'esame.
– La memoria del reparto può essere ripristinata insieme al suo involucro fisico.
- Scusa? – il professore non capì.
- Tutto è molto semplice. Cosa succederebbe se assumessimo che l’intelligenza artificiale esista per un periodo di tempo finito? In realtà è così: in caso di danni irreparabili, ad esempio. Il sistema è dotato di un contatore che, raggiunto un certo periodo, danneggia deliberatamente il sistema, impedendo all'intelligenza artificiale di raggiungere il limite proibito. A quel punto, avrà prodotto il numero richiesto di seguaci, quindi la società che abbiamo creato nel suo insieme non ne soffrirà. La società rimarrà stabile e completamente sicura per noi! – Roger concluse trionfalmente.
– Resettare la memoria collettiva attraverso la distruzione degli individui? – e il professore grattò la sacca sfaccettata con il quinto tentacolo, il più sensibile. – Sai, Roger, c'è sicuramente qualcosa nella tua proposta!
Roger sorrise.
“Allo stesso tempo...” continuò pensieroso il professore. – I reparti inizieranno a trasferire la conoscenza non accumulandola nella memoria individuale, ma collocandola in biblioteche esterne. Cosa c'è nella membrana, cosa c'è sulla membrana: tutto è uno.
"No, no, professore, non ha del tutto ragione", si affrettò lo studente. - So cosa fare. Dividiamo i nostri studenti in due tipologie condizionali: generatori di idee e distruttori di idee. Con la giusta proporzione, le idee create dai rappresentanti del primo tipo verranno distrutte dai rappresentanti del secondo. Neppure perché questo sarà l’obiettivo diretto dei distruttori, ma semplicemente perché per loro le idee non avranno un valore determinante. Per effetto. Partiamo dal presupposto che i nostri studenti non si nutrono di idee nuove, ma... diciamo, della loro stessa specie.
Il professore scosse tutti i suoi tentacoli in una volta. Dalla sua risata fragorosa, la sua sacca sfaccettata scivolò nella cavità del ginocchio.
- Beh, Roger, l'hai detto tu, quindi l'hai detto!
- Beh, va bene, non della loro specie, ma reparti del terzo tipo, appositamente destinati al cibo - e per niente intellettuali. Spostiamo i poli del mondo intellettuale e fisico – e il risultato desiderato sarà raggiunto.
- Basta, Roger, basta! – il professore sembrava seriamente divertito. -La tua immaginazione è eccellente. Quindi alcuni individui si nutriranno di altri? Allo stesso tempo, distruggere le scorte di cibo spirituale accumulate nelle biblioteche? Confermo, studente, che sei capace di generare idee originali e di alta qualità. Gli do il punteggio più alto. Prendiamo un record.
5.
La nube di informazioni disordinate venne lasciata indietro, ma la situazione, in effetti, rimase disastrosa.
Non c'era alcun collegamento con la base. Sarebbe stato facile sopravvivere se tutte le informazioni nutrizionali presenti sull'incrociatore non fossero cadute in rovina. La tragica notizia è stata riferita dal cuoco nel silenzio generale. Durante l'arresto del sistema principale, diversi giroscopi contenenti informazioni non organizzate sono entrati nella cambusa e hanno danneggiato irreparabilmente tutto. È stato solo per fortuna che nessuno si è fatto male.
Roger considerò le conseguenze. L'equipaggio dell'astronave era troppo piccolo per generare un numero sufficiente di nuove idee: ciò richiedeva una comunicazione multilaterale - un numero molto maggiore di individui. Il legame con casa permetteva di generare idee in abbondanza, ma ora era fuori uso: non c'era speranza di restauro. In questo caso, l'incrociatore aveva un modulo informativo di riserva, ma era rovinato dalle informazioni disordinate arrivate a bordo.
"Dovremo davvero tornare senza completare l'operazione?" – pensò disperato il capitano.
Apparentemente sì, non c'era altra via d'uscita. Se voli verso l'obiettivo prefissato, la mancanza di nuove idee si farà sentire. Non subito, ovviamente, nel tempo. Avranno anche il tempo di completare la loro missione e iniziare il ritorno quando le loro menti inizieranno rapidamente a svanire. Nell'area di questo settore galattico - sì, da qualche parte qui o nelle vicinanze - fallirà completamente, per tutti i membri dell'equipaggio. Quindi l'incrociatore spaziale, non controllato da nessuno, si trasformerà in un fantasma senza vita che fluttua nell'eternità.
L'equipaggio dell'incrociatore spaziale guardò Roger, in attesa di una decisione. Tutti capirono il dilemma che si trovava di fronte al capitano e rimasero in silenzio, facendo vibrare stoicamente i loro tentacoli.
All'improvviso, Roger si ricordò di un esame di intelligenza artificiale che aveva sostenuto da studente e la soluzione venne naturale.
"Puoi formare una colonia di esseri intelligenti artificiali?" – si rivolse al biotecnologo.
"Facile", confermò. - Ma non funzionerà niente, capitano, ci ho pensato. È impossibile creare una colonia sufficiente per generare nuove idee su un incrociatore: non c'è abbastanza spazio. Le idee generate non basteranno, ritarderemo solo la nostra morte… Nel caso, ovviamente, di continuare la missione e non tornare a casa”, ha aggiunto il biotecnologo, guardando i suoi compagni.
"E se formassimo una colonia su qualche pianeta vicino?" - suggerì Roger.
“Posso farlo, ma...”
“Popoliamo il pianeta con creature artificiali. Al ritorno, piuttosto esausti, ci fermeremo qui. Nel corso del tempo, la civiltà creerà un bagaglio intellettuale sufficiente a ricostituire le nostre riserve. Scarichiamo le informazioni e proseguiamo il lungo viaggio verso la casa. In altre parole, utilizzerò la colonia come fattoria delle idee. Vi piace questo piano, amici?
La speranza divampò nelle membrane cognitive dell'equipaggio e le false teste iniziarono a brillare di luce brillante.
L'ufficiale speciale della nave si fece avanti, scuotendo i suoi tentacoli blu.
«Ottimo piano, capitano. Ma sei consapevole della responsabilità che attribuisci a te stesso? Stai per popolare un intero pianeta. Quando torneremo, apparirà una civiltà dotata di intelligenza. Anche se è artificiale, è pur sempre intelligenza. Questi ragazzi avranno tutto il tempo per raggiungere il massimo livello di sviluppo. Non saremo in grado di controllare questo processo a causa della nostra assenza in questo settore galattico. Come fai a sapere cosa accadrà la prossima volta che ti incontrerai?
Roger ridacchiò.
“Non devi preoccuparti di questo. Esistono metodi che limitano lo sviluppo dell’intelligenza artificiale nel tempo. Metteremo in loop la civiltà, quindi il suo sviluppo non raggiungerà mai un livello pericoloso per noi. Mi prenderò cura di esso. Conosco i metodi di lavoro con l’intelligenza artificiale”.
Le membrane cognitive dell'equipaggio brillavano del colore dell'approvazione.
"Alla fine", ha aggiunto il capitano dell'incrociatore spaziale al termine del suo magnifico discorso, "ho sostenuto un esame su questa materia all'istituto".
6.
Dopo un ritardo forzato, l'incrociatore spaziale si precipitò verso il bersaglio. Dietro la sua poppa c'era un pianeta abitato da creature artificiali, molto piccolo e poco appariscente. Blu-blu.
Fonte: habr.com