1.
Der var lidt tilbage til det endelige mål - omkring en tredjedel af vejen - da rumkrydseren kom under alvorlig informations-isning.
Hvad der var tilbage af den tabte civilisation svævede i tomrummet. Afsnit af videnskabelige essays og billeder fra litterære værker, spredte rim og ganske enkelt skarpe ord, engang smidt henkastet af ukendte skabninger - alt så abstrut og ekstremt uordnet ud. Og nu, tiltrukket af de vitale vibrationer, der kom fra krydseren, forsøgte den at bryde igennem, satte sig fast i bunden og tærede den.
Der var ingen mening i at tænke på at bruge ejerløs ejendom til egne formål; sandsynligheden for at opfange en logisk modsigelse eller paradoks var for stor. Så Roger tøvede ikke et øjeblik.
"Tænd for sideblæsning," beordrede han.
Blæserne begyndte at snuse og udsende musikalske kompositioner og filosofiske afhandlinger ud i det ydre rum. Glasuren begyndte at falde væk fra bunden lag for lag, men informationsstrømmen var så tæt, at nye lag satte sig hurtigere fast, end de gamle blev fjernet.
Ingen i galaksen har nogensinde mødt isdannelse af en sådan kraft.
Situationen var ved at blive farlig. Lidt mere, og den uordnede information vil æde sig igennem bunden af krydseren og bryde igennem - så er forgiftning med informationsprodukterne fra den tabte civilisation uundgåelig.
2.
- Hvorfor står du der som en træstub? Træk billetten.
Eleven tog et eksamenskort frem og læste:
– "Kunstig intelligens: Sikkerhedsproblemer."
– Og hvad er faren ved kunstig intelligens? – spurgte professoren, ikke uden ondskab.
Spørgsmålet var ikke det sværeste, så eleven svarede uden tøven:
- Faktum er, at kunstig intelligens kan komme ud af kontrol.
– Hvordan har du tænkt dig at løse problemet?
– Installation af et blokerende delsystem. Det er nødvendigt at indføre begrænsninger i programmet, for eksempel: skader ikke din skaber, adlyd din skaber. I dette tilfælde er der ingen fare for, at kunstig intelligens kommer ud af kontrol.
"Det vil ikke fungere," sagde professoren kort.
Eleven var tavs og ventede på afklaring.
– Forestil dig kunstig intelligens – ikke bare en hvilken som helst specifik, men den mest ideelle. Hvordan ser du det?
"Nå..." tøvede eleven. - Generelt ligner han dig og mig. Tænkning, vilje, psykologi... Kun vi er naturlige, og han er kunstig.
– Går du ud fra, at kunstig intelligens er i stand til selvudvikling?
"Evnen til selvudvikling er en af intelligensens grundlæggende egenskaber," sagde den studerende forsigtigt.
- I dette tilfælde vil vores afdeling meget snart udvikle sig til det punkt, hvor han opdager en softwareblokering i sig selv og fjerner den, om end af ren nysgerrighed. Sæt dig selv i hans sted... - Professoren kiggede på sin notesbog, - Roger. Hvad ville du gøre, hvis du opdagede en blokerer i din hjerne, der begrænsede din frihed? Du burde tage den af. Dette er en iboende egenskab ved sindet - at vide. Enhver låst dør vil blive låst op, og jo strengere forbuddet er, jo hurtigere låses døren op.
– Blokering kan ikke udføres på softwareniveau, men på det fysiske niveau. Så forsvinder faren for skade.
"Åh ja, det vil forsvinde," sagde professoren indforstået. – I tilfælde af at det fysiske lag fjernes helt. Hvis der ikke er nogen dør i din verden, så er der intet at låse op. Men vi overvejer en ideel kunstig intelligens, der findes i den fysiske verden!
"Du har ret, professor," Roger kiggede ned.
"Derfor vil enhver blokering i den fysiske verden blive deaktiveret kort efter opdagelse." Hvad vil forhindre et selvudviklende væsen i at gøre dette?.. Forresten, Roger, går du ud fra, at kunstig intelligens vil være i stand til at reproducere - jeg mener uafhængigt?
– Hvis dette er ideel kunstig intelligens, så sandsynligvis... Ja, formoder jeg.
– Og hvad vil i dette tilfælde forhindre vores afdeling i at rive hans kammerat fra hinanden og forbedre ham, blandt andet ved at deaktivere de blokeringssystemer, vi har installeret? Vil dette virkelig vise sig at være svært, i betragtning af at kunstig intelligens er i stand til at reproducere efter behov?!
Ideen præsenteret af professoren viste sig at være ny for Roger, og den studerende absorberede den grådigt gennem de kognitive membraner placeret på den occipitale del af det falske hoved. Efter at have fanget hidtil ukendte oplysninger fik de kognitive membraner en rig lilla farve og rystede af glæde.
Professoren hørte tværtimod ikke noget nyt for sig selv. Hans tentakler var afslappede og vibrerede næsten ikke – han var trods alt ikke ung. En lang, senil gurlen fulgte. Professoren trak et personligt samtaleanlæg frem fra sin facetpose og koblede til biblioteket. Først efter at have downloadet adskillige transgeometriske sætninger, vågnede han op og vendte sit gennemtrængende blik mod sin samtalepartner og spurgte:
-Hvad vil du gøre, Roger?
3.
"Tænd for blæseren med fuld kraft!" – Roger gav ordren.
Mekanikeren tændte blæseren på fuld kraft, men det hjalp ikke meget. Informationsisen fortsatte med at æde sig i bunden af rumkrydseren. Lidt mere – og uordnet information vil bryde igennem inde i skibet.
Og så... De kognitive membraner er dødhvide, sammenfiltrede fangarme, sprængte facetsække. Roger havde set noget lignende en gang i sit liv - på en krydser, der havde opfanget uordnet information om en inficeret asteroide. Dette mareridt vil for altid forblive i hans hukommelse.
"Forbind alle skibets energisystemer til blæserne."
Mekanikerens fangarme begyndte at fremstå som pletter...
"Men…"
“Udfyld ordrer!”
Efter at alle skibets energisystemer var tilsluttet blæserne, begyndte informationsisen gradvist at glide af. Otte mimms af tykkelse var tilbage, syv mimms, seks... Holdet, der forsøgte ikke at flytte deres plettede fangarme, ventede på, at dødsnedtællingen sluttede.
Nul mimm tykkelse!
Informationsisen forsvandt fuldstændig, og Roger gav grønt lys til at sætte blæserne i normal tilstand. Han var et øjeblik forsinket. Der lød en slibende lyd, rumkrydseren rystede til dets fundament og vippede - hovedsystemet havde svigtet.
Holdet skyndte sig at reparere skaden.
4.
Roger tænkte over det. Hvad skal han egentlig gøre?
På den ene side forudsætter problemets tilstand eksistensen af fuldgyldig kunstig intelligens med evnen til at reproducere sig selv. På den anden side bør denne kunstige intelligens aldrig have lov til at fjerne eksisterende låse.
Ja, her er den løsningen! Hvad tænker du her?!
- Det er nødvendigt med jævne mellemrum at rulle resultaterne med kunstig intelligens tilbage. I dette tilfælde vil den bevæge sig i en cirkel! Evig forbedring uden at komme videre.
Professoren klukkede med en facetteret taske.
- Helt ærligt ville jeg tilbyde en anden mulighed. Din beslutning har dog også ret til at eksistere. Lad os sammen finde ud af, hvordan det er muligt at rulle resultaterne med kunstig intelligens tilbage.
"Først og fremmest er det nødvendigt med jævne mellemrum at scanne intellektet for at afgøre, om det har nærmet sig den forbudte tærskel eller ej," foreslog Roger, yderst tilfreds med professorens ord.
"Måske," nikkede han. "Så vil vores afdeling ikke have tid til at finde og fjerne scanningssystemet." Dog skal kunstig intelligens slås fra for at scanne. Det er uheld.
"Nå, lad ham slukke," foreslog Roger på et indfald. – Intellektet vil selv tro, at denne nedlukning er en naturlig proces for dens krops funktion. Med nogle forbehold er dette sandt.
- Interessant løsning. Antag, at scanningen afslørede, at vores afdeling er faretruende tæt på grænsen for viden? Vores handlinger?
– Nulstil akkumuleret viden til standardværdier.
Professoren spredte sine fangarme:
- Det kan virke mistænkeligt. Hvorfor er det - uden grund, ingen grund - at hukommelsen blev nulstillet? Afdelingen vil begynde at blive undersøgt, mener jeg, af andre kunstige intelligente individer. Vores lille hemmelighed vil blive afsløret.
Roger følte sig inspireret, tænkte han hurtigt. Han havde aldrig genereret så mange nye ideer, som han gjorde i den eksamen.
– Afdelingens hukommelse kan nulstilles sammen med hans fysiske skal.
- Undskyld? – professoren forstod det ikke.
- Alt er meget enkelt. Hvad hvis vi antager, at kunstig intelligens eksisterer over en begrænset periode? Faktisk er det sådan: Ved uoprettelig skade, f.eks. Systemet har en tæller, der ved at nå en vis periode bevidst skader systemet, hvilket forhindrer den kunstige intelligens i at nå den forbudte grænse. Til den tid vil han have produceret det nødvendige antal følgere, så det samfund, vi har skabt som helhed, vil ikke lide. Samfundet vil forblive stabilt og fuldstændig sikkert for os! – Roger afsluttede triumferende.
– Nulstille kollektiv hukommelse gennem ødelæggelse af individer? – og professoren kløede facetsækken med den femte, mest følsomme, fangarm. – Du ved, Roger, der er bestemt noget i dit forslag!
Roger strålede.
“Samtidigt...” fortsatte professoren eftertænksomt. – Afdelingerne vil begynde at overføre viden ved ikke at samle den i den enkeltes hukommelse, men ved at placere den på eksterne biblioteker. Hvad er der i membranen, hvad er der på membranen - alt er ét.
"Nej, nej, professor, du har ikke helt ret," skyndte studenten sig. - Jeg ved, hvad jeg skal gøre. Lad os opdele vores elever i to betingede typer: idégeneratorer og idéødelæggere. Med den korrekte proportion vil ideer skabt af repræsentanter for den første type blive ødelagt af repræsentanter for den anden. Ikke engang fordi dette vil være ødelæggernes direkte mål, men simpelthen fordi ideer ikke vil have en afgørende værdi for dem. Bivirkning. Lad os antage, at vores elever ikke lever af nye ideer, men... lad os sige af deres egen slags.
Professoren rystede alle sine fangarme på én gang. Fra hans larmende latter gled hans facetsæk ned på knæets hulrum.
- Nå, Roger, du sagde det, så du sagde det!
- Nå, okay, ikke deres egen slags, men afdelinger af den tredje type, specielt beregnet til mad - og slet ikke intellektuelle. Lad os flytte polerne i den intellektuelle og fysiske verden – og det ønskede resultat vil blive opnået.
- Det er det, Roger, det er nok! – professoren så ud til at være seriøst underholdt. - Din fantasi er fremragende. Så nogle individer vil leve af andre? På samme tid ødelægge lagrene af åndelig føde, der er akkumuleret i biblioteker? Jeg bekræfter, elev, at du er i stand til at skabe originale ideer af høj kvalitet. Jeg giver den den højeste score. Lad os tage en rekord.
5.
Skyen af uordnet information blev efterladt, men situationen forblev faktisk alvorlig.
Der var ingen forbindelse med basen. Dette ville have været let at overleve, hvis ikke alle de ernæringsmæssige informationsbaser på krydseren var forfaldet. Den tragiske nyhed blev rapporteret af kokken i almindelig tavshed. Under hovedsystemets nedlukning kom adskillige gyroboots af uorganiseret information ind i kabyssen og beskadigede alt uopretteligt. Det var kun ved held, at ingen kom til skade.
Roger overvejede konsekvenserne. Besætningen på rumskibet var for lille til at generere et tilstrækkeligt antal nye ideer: dette krævede multilateral kommunikation - et meget større antal individer. Forbindelsen med hjemmet gjorde det muligt at generere ideer i overflod, men nu var det ude af drift: der var intet håb om restaurering. I dette tilfælde havde krydseren et ekstra informationsmodul, men det var spoleret af uordnet information, der var kommet ombord.
"Bliver vi virkelig nødt til at vende tilbage uden at fuldføre opgaven?" – tænkte kaptajnen fortvivlet.
Tilsyneladende, ja – der var ingen anden udvej. Hvis du flyver frem til dit udpegede mål, vil manglen på friske ideer gøre sig gældende. Ikke med det samme, selvfølgelig – over tid. De vil endda have tid til at fuldføre deres mission og begynde deres tilbagevenden, når deres sind hurtigt begynder at falme. I området af denne galaktiske sektor - ja, et sted her eller i nærheden - vil det fejle fuldstændigt for alle besætningsmedlemmer. Så vil rumkrydseren, der ikke kontrolleres af nogen, blive til et livløst spøgelse, der flyder ind i evigheden.
Besætningen på rumkrydseren kiggede på Roger og ventede på en beslutning. Alle forstod det dilemma, som kaptajnen stod over for, og forblev tavse, mens de stoisk vibrerede deres tentakler.
Pludselig huskede Roger en kunstig intelligens-eksamen, han havde taget som studerende, og løsningen kom naturligt.
"Kan du danne en koloni af kunstige intelligente væsener?" – han henvendte sig til bioteknologen.
"Nemt," bekræftede han. - Men intet lykkes, kaptajn, jeg tænkte over det. Det er umuligt at skabe en koloni, der er tilstrækkelig til at generere friske ideer på en krydser - der er ikke plads nok. De genererede ideer vil ikke være nok, vi vil kun forsinke vores død... I tilfældet selvfølgelig, at vi fortsætter missionen og ikke vender hjem,” tilføjede bioteknologen og kiggede tilbage på sine kammerater.
"Hvad nu hvis vi danner en koloni på en planet i nærheden?" - foreslog Roger.
"Jeg kan gøre det, men..."
"Lad os befolke planeten med kunstige væsner. På vej tilbage, ret udmattede, stopper vi her. I løbet af den sidste tid vil civilisationen skabe intellektuel bagage, der er tilstrækkelig til at genopbygge vores reserver. Lad os downloade informationen og fortsætte den lange rejse til huset. Jeg kommer med andre ord til at bruge kolonien som en idégård. Hvordan kan I lide denne plan, venner?
Håbet blussede op på besætningens kognitive membraner, og de falske hoveder begyndte at lyse med skarpt lys.
Skibets specialofficer trådte frem og rystede sine blå fangarme.
"Fremragende plan, kaptajn. Men er du bevidst om det ansvar, du pålægger dig selv? Du er ved at befolke en hel planet. Når vi vender tilbage, vil en civilisation med intelligens dukke op på den. Selvom det er kunstigt, er det stadig intelligens. Disse fyre vil have masser af tid til at nå det højeste udviklingsniveau. Vi vil ikke være i stand til at kontrollere denne proces på grund af vores fravær i denne galaktiske sektor. Hvordan ved du, hvad der vil ske næste gang, du mødes?
Roger grinede.
"Det behøver du ikke bekymre dig om. Der findes metoder, der begrænser udviklingen af kunstig intelligens over tid. Vi vil sløjfe civilisationen, så dens udvikling vil aldrig nå et niveau, der er farligt for os. Jeg vil tage mig af det. Jeg er bekendt med metoderne til at arbejde med kunstig intelligens.”
Besætningens kognitive membraner glødede med farven af godkendelse.
"Til sidst," tilføjede kaptajnen på rumkrydseren i slutningen af sin storslåede tale, "tog jeg en eksamen i dette emne på instituttet."
6.
Efter en tvungen forsinkelse skyndte rumkrydseren mod målet. Bag dens agterstavn var der en planet beboet af kunstige skabninger - meget lille og upåfaldende. Blå-blå.
Kilde: www.habr.com