Idéudviklingsværd

1.
Der var ikke langt til målet – cirka en tredjedel af vejen – da rumkrydsderen blev udsat for et kraftigt informationsis.

Det, der var tilbage af den døde civilisation, svømmede i tomrummet. Afsnit af videnskabelige værker og billeder fra litterære stykker, blandede rim og blot skarpe bemærkninger, engang kastet tilfældigt af ukendte væsener – alt så ud til at være meget komplekst og ekstremt uordentligt. Og nu, tiltrukket af de livs vibrationer, der kom fra krydseren, forsøgte det at bryde ind, hæftede sig til bunden og ædede det.

Der var ikke meget at tænke over, når det gjaldt at bruge forladte ting til egne formål, da risikoen for at få en logisk uoverensstemmelse eller et paradoks var alt for stor. Derfor tøvede Roger ikke et eneste øjeblik.

«Aktiver sideblæsere», beordrede han.

Blæserne begyndte at brumme, og transmitterede musikstykker og filosofiske traktater ud i det åbne rum. Isen begyndte at falde af bunden lag for lag, men informationsstrømmen var så tæt, at nye lag hæftede sig hurtigere, end de gamle forlod overfladen.

Ingen i galaksen havde tidligere mødt en isdannelse af sådan styrke.

Situationen blev farlig. Lidt endnu, og den uordnede information ville spise bunden af krydseren og trænge ind – så ville forurening med informationsprodukter fra den døde civilisation være uundgåelig.

2.
– Hvad står I der som en pæl? Tag billetterne.

Studerende drog en eksamensbillet og læste op:

– «Kunstig intelligens: sikkerhedsproblemer».

– Hvad er faren ved kunstig intelligens? – spurgte professoren med en snert af sarkasme.

Spørgsmålet var ikke det sværeste, så den studerende svarede uden at tænke nærmere over det:

– At den kunstige intelligens kan miste kontrollen.

– Hvordan har I tænkt jer at løse problemet?

– Ved at installere et blokkeringssystem. Programmet skal indføre begrænsninger, for eksempel: ikke gøre skade på sin skaber, adlyde sin skaber. På den måde vil der ikke være nogen fare for, at den kunstige intelligens mister kontrollen.

– Det vil ikke lykkes, – sagde professoren kort.

Den studerende var stille, ventede på en forklaring.

– Forestil dig en kunstig intelligens – ikke en specifik, men den mest ideelle. Hvordan ser du den for dig?

– Nå… – sagde studenten tøvende. – Generelt set er han ligesom os. Tænkning, vilje, psykologi… Bare vi er naturlige, og han er kunstig.

– Mener du, at kunstig intelligens er i stand til selvudvikling?

– Evnen til selvudvikling er en af de grundlæggende egenskaber ved intelligens, – sagde studenten forsigtigt.

– I så fald vil vores elev snart udvikle sig til at opdage en programmeringsblokering i sig selv og fjerne den, måske bare af ren nysgerrighed. Sæt dig i hans sted… – professoren kiggede på karakterbogen, – Roger. Hvad ville du gøre, hvis du opdagede, at der var en blokering i din hjerne, der begrænsede din frihed? Du ville fjerne den. Det er en uadskillelig egenskab ved fornuften – at erkende. Enhver låst dør vil blive åbnet, og jo strengere forbuddet er, desto hurtigere vil døren blive åbnet.

– Blokeringen kan laves ikke på et programmeringsniveau, men på et fysisk niveau. Så ville faren for skade forsvinde.

– Åh ja, den vil forsvinde, – enige professor. – I tilfælde af at det fysiske niveau overhovedet bliver fjernet. Hvis der ikke er nogen døre i din verden, er der heller ikke noget at låse op. Men vi taler om en ideal kunstig intelligens, der eksisterer i den fysiske verden!

– Du har ret, professor, – mumlede Roger.

– Derfor vil enhver blokering i den fysiske verden blive deaktiveret kort efter, at den er blevet opdaget. Hvad vil forhindre en selvudviklende eksistens i at gøre det?.. For resten, Roger, mener du, at kunstig intelligens har mulighed for at reproducere sig selv?

– Hvis det er en ideel kunstig intelligens, så ja… Det mener jeg.

– Og hvad vil i så fald forhindre vores elev i at skille sin kammerat ad og forbedre ham, herunder ved at fjerne de blokeringer, vi har indført? Er det virkelig så svært, når kunstig intelligens er i stand til at reproducere sig selv efter behov?!

Tankerne, som professoren fremsatte, var nye for Roger, og han sugede dem ivrigt til sig med sine kognitive filaments, der sad på baghovedet. Ved at opfange tidligere ukendt information fik de kognitive filaments en dyb lilla farve og dirrede glædeligt.

Professoren hørte derimod intet nyt. Hans tentakler var slappede og næsten uden vibrationer – trods alt var han ikke ung. Der fulgte et langtrukkent gammelskosk bulder. Professoren trak en individuel intercom ud af facetteringsposen og tilsluttede sig biblioteket. Kun ved at downloade et par transgeometriske teorier fik han liv i sig og kastede et skarpt blik mod samtalepartneren og spurgte:

– Hvad vil du gøre, Roger?

3.
»Sæt ventilatoren på fuld styrke!« – beordrede Roger.

Mekanikeren tændte ventilatoren på fuld styrke, men det hjalp kun lidt. Informationsis fortsatte med at æde sig ind i rumkrydserens bund. Lidt mere, og den uordnede information ville trænge ind i skibet.

Og så… De kognitive membraner var død hvide, sammenflettede tentakler, sprængte facetteringsposer. Roger havde set noget lignende én gang før – på en krydser, der havde fanget uordnede information på en inficeret asteroide. Dette mareridt ville forblive i hans hukommelse for altid.

»Tilslut alle skibets energisystemer til ventilatorerne.«

Mekanikens tentakler gik i pletter…

»Men…«

»Udveksle ordren!«

Efter at alle skibets energisystemer var tilsluttet ventilatorerne, begyndte informationsisen gradvist at glide af. Der var otte mimms i tykkelse, syv mimms, seks… Besætningen, der forsøgte ikke at bevæge de pletede tentakler, ventede på afslutningen af det dødelige nedtælling.

Nul mimms tykkelse!

Informationsisen var helt smeltet, og Roger gav tegn til at skifte ventilatorerne til normal tilstand. Han var for sent ude i et øjeblik. Der lød et brag, rumkrydseren rystede til sine fundamenter og tiltes – det primære system var brudt sammen.

Besætningen kastede sig over reparationen af skaderne.

4.
Roger overvejede. Hvad skulle han gøre, egentlig?

På den ene side forudsætter opgavens betingelse eksistensen af en fuldgyldig kunstig intelligens med evnen til selvreproduktion. På den anden side måtte denne kunstige intelligens under ingen omstændigheder have lov til at fjerne de installerede blokeringer.

Jamen, her er løsningen! Hvad er der at tænke over?!

– Det er nødvendigt jævnligt at nulstille resultaterne af kunstig intelligens. Ellers vil den bare køre i ring! Evig forbedring uden fremskridt.

Professoren plaskede med det facetterede stof.

– For at være ærlig, jeg ville foreslå en anden løsning. Men din beslutning har også ret til at eksistere. Lad os sammen overveje, hvordan det er muligt at nulstille resultaterne af kunstig intelligens.

– Først og fremmest er det nødvendigt jævnligt at scanne intelligensen for at finde ud af, om den er tæt på den forbudte grænse eller ej, – foreslog Roger, meget glad for professorens ord.

– Måske, – nikkede han. – Så vil vores patient ikke have tid til at finde og fjerne scanningssystemet. Men kunstig intelligens skal slukkes for at scanne. Det er et problem.

– Lad den endelig slukkes, – foreslog Roger intuitivt. – Intelligensen vil selv tro, at denne slukning er en naturlig del af dens funktion. Med visse forbehold er det sandt.

– Spannende løsning. Lad os antage, at scanningen har vist, at vores patient er farligt tæt på grænsen for erkendelse? Hvad gør vi?

– Nulstille de akkumulerede viden til standardværdier.

Professoren breddede sine tentakler:

– Det kan virke mistænkeligt. Hvorfor blev hukommelsen pludselig nulstillet? Patienten vil blive undersøgt, jeg mener – af andre kunstige intellektuelle væsener. Vores lille hemmelighed vil blive afsløret.

Følgende inspiration tænkte Roger meget hurtigt. Han havde aldrig genereret så mange nye ideer som til den eksamen.

– Patientens hukommelse kan nulstilles sammen med hans fysiske skabelse.

– Undskyld? – forstod ikke professoren.

– Det er meget enkelt. Hvad nu hvis vi antager: kunstig intelligens eksisterer i en begrænset tidsperiode? Det er faktisk sådan, det er: i tilfælde af uoprettelig skade, for eksempel. Systemet har en tæller, som ved at nå en bestemt periode bevidst beskadiger systemet, så kunstig intelligens ikke kan nå den forbudte grænse. På det tidspunkt vil den have produceret det nødvendige antal efterfølgere, så det samfund, vi har skabt, i det hele taget ikke vil lide nød. Samfundet vil forblive stabilt og helt sikkert for os! – afsluttede Roger triumferende.

– At nulstille den kollektive hukommelse ved at destruere enkelte individer? – og professoren kløede sin facetterede pose med sin femte, mest følsomme, tentakle. – Ved du hvad, Roger, der er bestemt noget i dit forslag!

Roger strålede.

– Samtidig… – fortsatte professoren eftertænksomt. – De undergivne vil begynde at overføre viden ikke ved at akkumulere den i individuel hukommelse, men ved at placere den i eksterne biblioteker. Uanset hvilken måde de gør det på, er det det samme.

– Nej, nej, professor, du er ikke helt korrekt, – skyndte studeren sig at sige. – Jeg ved, hvad vi skal gøre. Vi opdeler de undergivne i to betingede typer: idé-generatører og idé-ødelæggere. Med den rigtige proportion vil de idéer, der skabes af repræsentanterne for den første type, blive ødelagt af repræsentanterne for den anden. Ikke engang fordi det vil være det direkte mål for ødelæggerne, men blot fordi idéerne ikke vil have afgørende værdi for dem. En bivirkning. Lad os antage, at vores undergivne ikke lever af nye idéer, men… lad os sige, af ligesindede.

Professoren rystede alle sine tentakler samtidig. Den kaskade af latter fik hans facetterede pose til at glide ned i knæhulen.

– Nå, Roger, du sagde det, så sagde du det!

– Nå okay, ikke ligesindede, men de undergivne af tredje type, som er specielt designet til at ernære – slet ikke intellektuelle. Lad os flytte polerne mellem den intellektuelle og fysiske verden – så når vi det ønskede resultat.

– Det er nok, Roger! – professoren virkede til at være i godt humør. – Din fantasi er fremragende. Så de enkelte væsner vil spise de andre? Og samtidig ødelægge de akkumulerede lagre af åndelig næring i bibliotekerne? Jeg bekræfter, studerende, du er i stand til at generere originale og kvalitetsideer. Jeg giver dig topkarakter. Lad os tage din karakterbog.

5.
En sky af uordentlig information var blevet efterladt bag sig, men situationen forblev katastrofal.

Der var ingen forbindelse til databasen. Det ville være let at klare, hvis ikke alle de informative databaser på krydseren var blevet ødelagt. Den tragiske nyhed blev meddelt kokken i fuld stilhed. Under afbrydelsen af hovedsystemet trængte flere gigabiter af uordentlig information ind i køkkenet og ødelagde alt uopretteligt. Det var kun ved et lykketræf, at ingen kom til skade.

Roger overvejede konsekvenserne. Besætningen på rumskibet var for lille til at generere tilstrækkeligt med nye idéer: til dette krævedes der multilateral kommunikation – et langt større antal væsner. Forbindelsen til hjemmet gav mulighed for at generere idéer i overskud, men nu var dette system nede: der var ingen håb om genopretning. I tilfælde af dette var der en backup informationsmodul på krydseren, men det var blevet ødelagt af den indtrængende uordnede information.

"Må jeg virkelig vende tilbage uden at have fuldført missionen?" – tænkte kaptajnen i fortvivlelse.

Tilsyneladende ja – der var ingen anden udvej. Hvis de fløj fremad mod deres destination, ville manglen på friske idéer vise sig. Ikke straks, selvfølgelig – men over tid. De ville endda nå at udføre deres mission og begynde hjemturen, når sindet begynder at falme hurtigt. I området af denne galaktiske sektor – ja, et sted her eller i nærheden – ville det helt svigte for alle besætningsmedlemmer. Så ville rumkrydseren, uden nogen til at styre den, blive til et livløst spøgelse, der svømmede i evigheden.

Besætningen på rumkrydseren så på Roger, ventede på en beslutning. Alle forstod dilemmaet, kaptajnen stod overfor, og de sagde intet, mens de stoisk vibrerede med deres tentakler.

Pludselig kom Roger i tanker om sin eksamen i kunstig intelligens, han havde taget i sine studietider, og løsningen kom af sig selv.

«Kan I dan danne en koloni af kunstige intelligente væsner?» spurgte han bioteknikeren.

«Det kan jeg nemt,» bekræftede han. «Men det vil ikke fungere, kaptajn, jeg har tænkt over det. At skabe en koloni, der er stor nok til at generere friske idéer, er umuligt på krydseren – der er ikke plads. De genererede idéer vil ikke være tilstrækkelige, vi vil blot udsætte vores undergang... Hvis vi fortsætter med missionen og ikke vender hjem,» tilføjede bioteknikeren, mens han så sig omkring på sine kammerater.

«Hvad hvis vi danner en koloni på en nærliggende planet?» foreslog Roger.

«Jeg kan gøre det, men…»

«Lad os befolke planeten med kunstige væsner. På vej tilbage, efter at vi er blevet godt udmattede, vil vi komme forbi her. I mellemtiden vil civilisationen have opbygget et intellektuel grundlag, der er tilstrækkeligt til at supplere vores ressourcer. Vi downloader informationen og fortsætter den lange rejse hjem. Med andre ord, jeg planlægger at bruge kolonien som en farm til at dyrke idéer. Hvad siger I til den plan, venner?»

Håbet blinkede i besætningens kognitive forbindelser, og de falske hoveder lyste op i klart lys.

Fremad, vippende med deres blårøde tentakler, trådte skibets agent frem.

«Fremragende plan, kaptajn. Men er du klar over det ansvar, du påtager dig? Du planlægger at befolke en hel planet. Ved vores tilbagevenden vil der være en civilisation med intellekt. Selvom det er kunstigt, er det stadig et intellekt. Der vil være mere end rigeligt tid til at nå et højt udviklingsniveau. Vi vil ikke kunne kontrollere denne proces, fordi vi ikke vil være til stede i dette galaktiske område. Hvem ved, hvad der sker ved næste møde?»

Roger smilede.

«Det kan I være rolige ved. Der er metoder til at begrænse udviklingen af kunstig intelligens over tid. Vi vil lukke civilisationen, så dens udvikling aldrig når et farligt niveau for os. Jeg vil tage mig af det. Jeg kender metoderne til at arbejde med kunstig intelligens.»

De kognitive forbindelser i besætningen brændte med godkendelsens farve.

«For resten,» tilføjede kaptajnen på rumkrydseren som afslutning på sin strålende tale, «jeg tog en eksamen i dette emne på universitetet.»

6.
Efter en tvungen forsinkelse satte det rumskib kurs mod målet. Bag dets agterende lå en planet beboet af kunstige væsener – ganske lille og uanselig. Blå-blå.

Kilde: habr.com