1.
Ja quedava poc per a l'objectiu final, aproximadament un terç del camí, quan el creuer espacial es va veure sotmès a una severa formació de gel d'informació.
El que quedava de la civilització perduda volava en el buit. Paràgrafs d'assajos científics i imatges d'obres literàries, rimes disperses i paraules senzillament agudes, una vegada llançades casualment per criatures desconegudes: tot semblava abstrus i extremadament desordenat. I ara, atret per les vibracions vitals que emanaven del creuer, va intentar trencar-se, enganxat al fons i el va corroir.
No tenia cap sentit pensar a utilitzar la propietat sense propietari per als propis propòsits; la probabilitat de captar una contradicció lògica o una paradoxa era massa gran. Així que en Roger no va dubtar ni un moment.
"Engegueu el bufat lateral", va ordenar.
Els bufadors van començar a bufar, emetent composicions musicals i tractats filosòfics a l'espai exterior. La gelada va començar a caure de la capa inferior capa per capa, però el flux d'informació era tan dens que les noves capes s'enganxaven més ràpidament que les antigues es van eliminar.
Ningú a la galàxia s'ha trobat mai amb una gelada d'aquesta força.
La situació s'estava tornant perillosa. Una mica més, i la informació desordenada es menjarà el fons del creuer i es trencarà; llavors l'enverinament amb els productes d'informació de la civilització perduda és inevitable.
2.
- Per què estàs allà com una soca d'arbre? Tira el bitllet.
L'estudiant va treure una targeta d'examen i va llegir:
– “Intel·ligència artificial: problemes de seguretat”.
– I quin és el perill de la intel·ligència artificial? – va preguntar el professor, no sense malícia.
La pregunta no era la més difícil, així que l'estudiant va respondre sense dubtar-ho:
– El cas és que la intel·ligència artificial es pot descontrolar.
– Com penseu resoldre el problema?
– Instal·lació d'un subsistema de bloqueig. Cal introduir restriccions al programa, per exemple: no fer mal al seu creador, obeir el seu creador. En aquest cas, no hi ha perill que la intel·ligència artificial es descontroli.
"No funcionarà", va dir breument el professor.
L'estudiant va callar, esperant un aclariment.
– Imagineu-vos la intel·ligència artificial, no una en concret, sinó la més ideal. Com ho veus?
"Bé..." va dubtar l'estudiant. - En general, és semblant a tu i a mi. Pensament, voluntat, psicologia... Només nosaltres som naturals, i ell és artificial.
– Suposes que la intel·ligència artificial és capaç d'autodesenvolupar-se?
"La capacitat d'autodesenvolupament és una de les propietats fonamentals de la intel·ligència", va dir acuradament l'estudiant.
- En aquest cas, molt aviat la nostra sala es desenvoluparà fins al punt que descobreix un bloqueig de programari en ell mateix i l'elimina, encara que només sigui per pura curiositat. Posa't al seu lloc... - el professor va mirar la seva llibreta, - Roger. Què faries si descobrís un bloquejador al teu cervell que limita la teva llibertat? T'ho hauries de treure. Aquesta és una propietat inherent de la ment: saber. Qualsevol porta bloquejada es desbloquejarà i com més estricta sigui la prohibició, més ràpid s'obrirà la porta.
– El bloqueig no es pot fer a nivell de programari, sinó a nivell físic. Aleshores el perill de dany desapareixerà.
"Oh, sí, desapareixerà", va acceptar el professor. – En cas que s'elimini completament la capa física. Si no hi ha cap porta al vostre món, no hi ha res per desbloquejar. Però estem considerant una intel·ligència artificial ideal que existeix al món físic!
"Tens raó, professor", en Roger va mirar cap avall.
"Per tant, qualsevol bloqueig al món físic es desactivarà poc després de la detecció". Què impedirà que una criatura que s'autodesenvolupi faci això?... Per cert, Roger, suposa que la intel·ligència artificial es podrà reproduir, vull dir, de manera independent?
– Si aquesta és la intel·ligència artificial ideal, probablement... Sí, suposo.
– I què, en aquest cas, impedirà que el nostre barri destrossi el seu company i el millori, fins i tot desactivant els sistemes de bloqueig que tenim instal·lats? Això serà realment difícil, atès que la intel·ligència artificial és capaç de reproduir-se sota demanda?!
La idea presentada pel professor va resultar nova per a Roger, i l'estudiant la va absorbir amb avidesa a través de les membranes cognitives situades a la part occipital del cap fals. Després d'haver captat informació desconeguda anteriorment, les membranes cognitives van adquirir un ric color porpra i van tremolar alegrement.
El professor, al contrari, no va sentir res de nou per ell mateix. Els seus tentacles estaven relaxats i gairebé no vibraven; després de tot, no era jove. Va seguir un gorgoteig llarg i senil. El professor va treure un intercomunicador personal de la seva bossa de facetes i es va connectar a la biblioteca. Només després de descarregar diversos teoremes transgeomètrics es va animar i va dirigir la seva mirada penetrant cap al seu interlocutor, preguntant-li:
-Què faràs, Roger?
3.
"Enceneu el ventilador a tota potència!" – En Roger va donar l'ordre.
El mecànic va encendre el bufador a plena potència, però no va ajudar gaire. El gel informatiu va continuar menjant-se a la part inferior del creuer espacial. Una mica més, i la informació desordenada s'obrirà a l'interior de la nau.
I després... Les membranes cognitives són de color blanc mort, tentacles embullats, sacs de facetes rebentats. En Roger havia vist alguna cosa com això una vegada a la seva vida: en un creuer que havia recollit informació desordenada sobre un asteroide infectat. Aquest malson quedarà per sempre en la seva memòria.
"Connecteu tots els sistemes d'energia de la nau als ventiladors".
Els tentacles del mecànic van començar a aparèixer com taques...
"Però..."
"Compleix les comandes!"
Després que tots els sistemes energètics del vaixell es connectessin als bufadors, el gel d'informació va començar a lliscar gradualment. Quedaven vuit mimms de gruix, set mimms, sis... L'equip, intentant no moure els seus tentacles tacats, va esperar que s'acabés el compte enrere de la mort.
Gruix zero mimm!
El gel d'informació va desaparèixer completament, i en Roger va donar el vistiplau per canviar els bufadors al mode normal. Va arribar un moment tard. Es va sentir un soroll, el creuer espacial va tremolar fins als seus fonaments i es va inclinar: el sistema principal havia fallat.
L'equip es va precipitar a reparar els danys.
4.
Roger ho va pensar. Què hauria de fer realment?
D'una banda, la condició del problema pressuposa l'existència d'una intel·ligència artificial de ple dret amb capacitat d'autoreproduir-se. D'altra banda, aquesta intel·ligència artificial no s'ha de permetre mai eliminar els panys existents.
Sí, aquí està, la solució! Què estàs pensant aquí?!
– Cal revertir periòdicament els èxits de la intel·ligència artificial. En aquest cas, es mourà en cercle! Millora eterna sense avançar.
El professor va gorgotejar amb una bossa facetada.
– Francament, volia oferir una opció diferent. Tanmateix, la vostra decisió també té dret a existir. Anem a descobrir junts com és possible retrocedir els èxits de la intel·ligència artificial.
"Primer de tot, cal escanejar periòdicament l'intel·lecte per determinar si s'ha acostat o no al llindar prohibit", va suggerir Roger, molt satisfet amb les paraules del professor.
"Potser", va assentir. "Llavors, la nostra sala no tindrà temps de trobar i eliminar el sistema d'escaneig". Tanmateix, la intel·ligència artificial s'haurà d'apagar per escanejar. Això és mala sort.
"Bé, deixeu-lo apagar", va suggerir en Roger per caprici. – El mateix intel·lecte creurà que aquesta parada és un procés natural del funcionament del seu cos. Amb algunes reserves, això és cert.
- Solució interessant. Suposem que l'exploració va revelar que la nostra sala està perillosament a prop del límit del coneixement? Les nostres accions?
– Restablir el coneixement acumulat als valors predeterminats.
El professor va estendre els seus tentacles:
- Això pot semblar sospitós. Per què, sense cap motiu, sense motiu, la memòria es va restablir a zero? La sala començarà a ser examinada, vull dir, per altres individus intel·ligents artificials. El nostre petit secret serà revelat.
Sentint-se inspirat, va pensar ràpidament en Roger. Mai havia generat tantes idees noves com en aquell examen.
– La memòria del pupil es pot restablir juntament amb la seva carcassa física.
- Ho sento? – el professor no ho va entendre.
- Tot és molt senzill. Què passa si suposem que la intel·ligència artificial existeix durant un període de temps finit? En realitat, és així: en el cas de danys irreparables, per exemple. El sistema disposa d'un comptador que, en arribar a un període determinat, danya deliberadament el sistema, evitant que la intel·ligència artificial arribi al límit prohibit. Aleshores, haurà produït el nombre de seguidors necessaris, de manera que la societat que hem creat en el seu conjunt no patirà. La societat es mantindrà estable i completament segura per a nosaltres! – va acabar en Roger triomfal.
– Restablir la memòria col·lectiva mitjançant la destrucció d'individus? – i el professor va esgarrapar el sac de facetes amb el cinquè, el més sensible, tentacle. – Ja saps, Roger, sens dubte hi ha alguna cosa a la teva proposta!
En Roger va radiar.
"Al mateix temps..." va continuar el professor pensatiu. – Els pupilos començaran a transferir coneixements no acumulant-los en la memòria individual, sinó col·locant-los en biblioteques externes. El que hi ha a la membrana, el que hi ha a la membrana: tot és un.
"No, no, professor, no tens tota la raó", es va afanyar l'estudiant. - Sé què fer. Dividim els nostres estudiants en dos tipus condicionals: generadors d'idees i destructors d'idees. Amb la proporció correcta, les idees creades pels representants del primer tipus seran destruïdes pels representants del segon. Ni tan sols perquè aquest sigui l'objectiu directe dels destructors, sinó simplement perquè les idees no tindran un valor definitori per a ells. Per efecte. Suposem que els nostres alumnes no s'alimenten d'idees noves, sinó... diguem, de la seva pròpia espècie.
El professor va sacsejar tots els seus tentacles alhora. A causa de la seva riallada bulliciosa, el seu sac de facetes va lliscar a la cavitat del genoll.
- Bé, Roger, ho has dit, doncs ho has dit!
- Bé, d'acord, no de la seva pròpia espècie, sinó de pupils del tercer tipus, especialment destinats a l'alimentació -i no intel·lectuals en absolut. Canviem els pols dels mons intel·lectual i físic, i s'aconseguirà el resultat desitjat.
- Ja està, Roger, n'hi ha prou! – el professor semblava estar seriosament divertit. -La teva imaginació és excel·lent. Aleshores, algunes persones s'alimentaran d'altres? Al mateix temps, destruir les existències d'aliments espirituals acumulades a les biblioteques? Confirmo, estudiant, que ets capaç de generar idees originals i de gran qualitat. Li dono la puntuació més alta. Fem un registre.
5.
El núvol d'informació desordenada va quedar enrere, però la situació continuava sent greu, de fet.
No hi havia cap connexió amb la base. Això hauria estat fàcil de sobreviure si totes les bases d'informació nutricional del creuer no haguessin caigut en mal estat. La tràgica notícia va ser comunicada pel cuiner en silenci general. Durant l'aturada del sistema principal, diversos gyroboots d'informació no organitzada van entrar a la galera i ho van fer malbé de manera irreparable. Va ser només per sort que ningú va resultar ferit.
En Roger va pensar en les conseqüències. La tripulació de la nau era massa petita per generar un nombre suficient de noves idees: això requeria una comunicació multilateral: un nombre molt més gran d'individus. La connexió amb la llar va permetre generar idees en abundància, però ara estava fora de servei: no hi havia esperança de restauració. En aquest cas, el creuer disposava d'un mòdul d'informació de recanvi, però s'havia fet malbé per la informació desordenada que havia arribat a bord.
"De veritat haurem de tornar sense completar la tasca?" – va pensar el capità desesperat.
Pel que sembla, sí, no hi havia cap altra sortida. Si voleu cap al vostre objectiu designat, la manca d'idees noves es farà sentir. No de seguida, és clar, amb el temps. Fins i tot tindran temps per completar la seva missió i començar el seu retorn quan les seves ments comencin a esvair-se ràpidament. A l'àrea d'aquest sector galàctic -sí, en algun lloc aquí o prop- fallarà completament, per a tots els membres de la tripulació. Aleshores, el creuer espacial, no controlat per ningú, es convertirà en un fantasma sense vida flotant cap a l'eternitat.
La tripulació del creuer espacial va mirar en Roger, esperant una decisió. Tothom va entendre el dilema que enfrontava el capità i va romandre en silenci, fent vibrar estoicament els seus tentacles.
De sobte, en Roger va recordar un examen d'intel·ligència artificial que havia fet quan era estudiant, i la solució va sorgir de manera natural.
"Pots formar una colònia d'éssers intel·ligents artificials?" – es va dirigir al biotecnòleg.
"Fàcil", va confirmar. - Però no sortirà res, capità, hi vaig pensar. És impossible crear una colònia suficient per generar idees noves en un creuer: no hi ha prou espai. Les idees generades no seran suficients, només retardarem la nostra mort... En el cas, és clar, de continuar la missió i no tornar a casa”, ha afegit el biotecnòleg mirant enrere els seus companys.
"I si formem una colònia en algun planeta proper?" - va suggerir en Roger.
"Puc fer-ho, però..."
“Poblem el planeta amb criatures artificials. A la tornada, bastant esgotats, passarem per aquí. Durant el temps passat, la civilització crearà un equipatge intel·lectual suficient per reposar les nostres reserves. Descarreguem la informació i continuem el llarg viatge fins a la casa. En altres paraules, faré servir la colònia com a granja d'idees. Com us sembla aquest pla, amics?
L'esperança va esclatar a les membranes cognitives de la tripulació i els caps falsos van començar a brillar amb llum brillant.
L'oficial especial del vaixell va fer un pas endavant, sacsejant els seus tentacles blaus.
“Excel·lent pla, capità. Però ets conscient de la responsabilitat que et poses? Estàs a punt de poblar un planeta sencer. Quan tornem, hi apareixerà una civilització amb intel·ligència. Encara que sigui artificial, no deixa de ser intel·ligència. Aquests nois tindran molt de temps per assolir el nivell més alt de desenvolupament. No podrem controlar aquest procés per la nostra absència en aquest sector galàctic. Com saps què passarà la propera vegada que et trobis?
Roger va riure.
"No t'has de preocupar per això. Hi ha mètodes que limiten el desenvolupament de la intel·ligència artificial al llarg del temps. Anirem a la civilització, de manera que el seu desenvolupament mai arribarà a un nivell perillós per a nosaltres. Me'n cuidaré. Estic familiaritzat amb els mètodes de treball amb intel·ligència artificial".
Les membranes cognitives de la tripulació brillaven amb el color de l'aprovació.
"Al final", va afegir el capità del creuer espacial al final del seu magnífic discurs, "he fet un examen d'aquesta assignatura a l'institut".
6.
Després d'un retard forçat, el creuer espacial es va precipitar cap a l'objectiu. Darrere de la seva popa hi havia un planeta habitat per criatures artificials, molt petites i discretes. Blau-blau.
Font: www.habr.com