1.
Det var lite igjen til det endelige målet – omtrent en tredjedel av veien – da romkrysseren kom under alvorlig informasjons-ising.
Det som var igjen av den tapte sivilisasjonen svevde i tomrommet. Avsnitt av vitenskapelige essays og bilder fra litterære verk, spredte rim og rett og slett skarpe ord, en gang kastet tilfeldig av ukjente skapninger - alt så abstrut og ekstremt uordnet ut. Og nå, tiltrukket av de vitale vibrasjonene som kom fra cruiseren, prøvde den å bryte gjennom, festet seg til bunnen og korroderte den.
Det var ingen vits i å tenke på å bruke eierløs eiendom til egne formål; sannsynligheten for å fange opp en logisk motsetning eller paradoks var for stor. Så Roger nølte ikke et øyeblikk.
"Slå på sideblåsing," beordret han.
Blåserne begynte å snuse og kringkaste musikalske komposisjoner og filosofiske avhandlinger ut i verdensrommet. Isingen begynte å falle bort fra bunnen lag for lag, men informasjonsflyten var så tett at nye lag festet seg raskere enn de gamle ble fjernet.
Ingen i galaksen har noen gang møtt ising av en slik kraft.
Situasjonen begynte å bli farlig. Litt mer, og den uordnede informasjonen vil spise gjennom bunnen av cruiseren og bryte gjennom - da er forgiftning med informasjonsproduktene fra den tapte sivilisasjonen uunngåelig.
2.
– Hvorfor står du der som en trestubbe? Trekk billetten.
Eleven tok frem et eksamenskort og leste:
– «Kunstig intelligens: sikkerhetsproblemer.»
– Og hva er faren med kunstig intelligens? – spurte professoren, ikke uten ondskap.
Spørsmålet var ikke det vanskeligste, så studenten svarte uten å nøle:
– Faktum er at kunstig intelligens kan komme ut av kontroll.
– Hvordan har du tenkt å løse problemet?
– Installasjon av et blokkerende delsystem. Det er nødvendig å innføre begrensninger i programmet, for eksempel: ikke skade skaperen din, adlyd skaperen din. I dette tilfellet er det ingen fare for at kunstig intelligens kommer ut av kontroll.
"Det vil ikke fungere," sa professoren kort.
Studenten var stille og ventet på avklaring.
– Se for deg kunstig intelligens – ikke en hvilken som helst spesifikk, men den mest ideelle. Hvordan ser du det?
«Vel...» nølte studenten. – Generelt er han lik deg og meg. Tenking, vilje, psykologi... Bare vi er naturlige, og han er kunstig.
– Antar du at kunstig intelligens er i stand til å utvikle seg selv?
"Evnen til selvutvikling er en av de grunnleggende egenskapene til intelligens," sa studenten forsiktig.
– I dette tilfellet vil avdelingen vår snart utvikle seg til det punktet hvor han oppdager en programvareblokkering i seg selv og fjerner den, om enn av ren nysgjerrighet. Sett deg selv i hans sted... - Professoren så på notatboken sin, - Roger. Hva ville du gjort hvis du oppdaget en blokkering i hjernen din som begrenset friheten din? Du bør ta den av. Dette er en iboende egenskap ved sinnet - å vite. Enhver låst dør vil bli låst opp, og jo strengere forbudet er, desto raskere låses døren opp.
– Blokkering kan ikke gjøres på programvarenivå, men på fysisk nivå. Da forsvinner faren for skade.
"Å ja, det vil forsvinne," sa professoren enig. – I tilfelle det fysiske laget fjernes helt. Hvis det ikke er noen dør i din verden, så er det ingenting å låse opp. Men vi vurderer en ideell kunstig intelligens som finnes i den fysiske verden!
«Du har rett, professor,» Roger så ned.
"Derfor vil enhver blokkering i den fysiske verden bli deaktivert like etter oppdagelse." Hva vil hindre en selvutviklende skapning fra å gjøre dette?.. Forresten, Roger, antar du at kunstig intelligens vil kunne reprodusere seg – jeg mener uavhengig?
– Hvis dette er ideell kunstig intelligens, så sannsynligvis... Ja, antar jeg.
– Og hva vil i dette tilfellet hindre vår avdeling i å rive kameraten hans fra hverandre og forbedre ham, blant annet ved å deaktivere blokkeringssystemene vi har installert? Vil dette virkelig vise seg å være vanskelig, gitt at kunstig intelligens er i stand til å reprodusere på forespørsel?!
Ideen presentert av professoren viste seg å være ny for Roger, og studenten absorberte den grådig gjennom de kognitive membranene som ligger på den oksipitale delen av det falske hodet. Etter å ha fanget tidligere ukjent informasjon, fikk de kognitive membranene en fyldig lilla farge og skalv av glede.
Professoren, tvert imot, hørte ikke noe nytt selv. Tentaklene hans var avslappede og vibrerte nesten ikke - han var tross alt ikke ung. En lang, senil gurkling fulgte. Professoren dro frem en personlig intercom fra fasettvesken og koblet til biblioteket. Først etter å ha lastet ned flere transgeometriske teoremer ble han friskt opp og vendte det gjennomtrengende blikket mot samtalepartneren og spurte:
-Hva vil du gjøre, Roger?
3.
"Slå på viften på full kraft!" – Roger ga ordren.
Mekanikeren skrudde på viften på full kraft, men det hjalp lite. Informasjonsisen fortsatte å spise bort i bunnen av romkrysseren. Litt mer – og uordnet informasjon vil bryte gjennom inne i skipet.
Og så... De kognitive membranene er dødhvite, sammenfiltrede tentakler, sprengte fasettsekker. Roger hadde sett noe slikt en gang i livet - på en cruiser som hadde fanget opp uordnet informasjon om en infisert asteroide. Dette marerittet vil for alltid forbli i minnet hans.
"Koble alle skipets energisystemer til viftene."
Mekanikerens tentakler begynte å se ut som flekker...
"Men…"
“Utfyll bestillinger!”
Etter at alle skipets energisystemer var koblet til viftene, begynte informasjonsisen gradvis å gli av. Åtte mimms tykkelse gjensto, syv mimms, seks... Teamet, som prøvde å ikke flytte på de flekkede tentaklene, ventet på at dødsnedtellingen skulle ta slutt.
Null mimm tykkelse!
Informasjonsisen forsvant helt, og Roger ga klarsignal til å sette viftene i normal modus. Han var et øyeblikk forsinket. Det kom en malende lyd, romkrysseren skalv til grunnmuren og vippet – hovedsystemet hadde sviktet.
Teamet skyndte seg å reparere skaden.
4.
Roger tenkte på det. Hva burde han egentlig gjøre?
På den ene siden forutsetter problemets tilstand eksistensen av fullverdig kunstig intelligens med evne til selvreprodusering. På den annen side bør denne kunstige intelligensen aldri få fjerne eksisterende låser.
Ja, her er den løsningen! Hva tenker du her?!
– Det er nødvendig med jevne mellomrom å rulle tilbake prestasjonene til kunstig intelligens. I dette tilfellet vil den bevege seg i en sirkel! Evig forbedring uten å gå videre.
Professoren klukket med en fasettert pose.
– Ærlig talt ønsket jeg å tilby et annet alternativ. Avgjørelsen din har imidlertid også en rett til å eksistere. La oss sammen finne ut hvordan det er mulig å rulle tilbake prestasjonene til kunstig intelligens.
"Først og fremst er det nødvendig å skanne intellektet med jevne mellomrom for å finne ut om det har nærmet seg den forbudte terskelen eller ikke," foreslo Roger, ekstremt fornøyd med professorens ord.
"Kanskje," nikket han. "Da vil ikke avdelingen vår ha tid til å finne og fjerne skannesystemet." Imidlertid må kunstig intelligens slås av for å skanne. Det er uflaks.
"Vel, la ham slå av," foreslo Roger på et innfall. – Intellektet selv vil tro at denne nedstengningen er en naturlig prosess for kroppens funksjon. Med noen forbehold er dette sant.
– Interessant løsning. Tenk at skanningen avslørte at vår avdeling er farlig nær grensen for kunnskap? Våre handlinger?
– Tilbakestill akkumulert kunnskap til standardverdier.
Professoren spredte tentaklene:
– Dette kan virke mistenkelig. Hvorfor er det – uten grunn, ingen grunn – at minnet ble tilbakestilt til null? Avdelingen vil begynne å bli undersøkt, mener jeg, av andre kunstig intelligente individer. Vår lille hemmelighet vil bli avslørt.
Følte seg inspirert, tenkte Roger raskt. Han hadde aldri generert så mange nye ideer som han gjorde i den eksamenen.
– Minnet til avdelingen kan tilbakestilles sammen med hans fysiske skall.
- Beklager? – Professoren forsto ikke.
– Alt er veldig enkelt. Hva om vi antar at kunstig intelligens eksisterer over en begrenset tidsperiode? Egentlig er det slik: ved uopprettelig skade, for eksempel. Systemet har en teller som, etter å ha nådd en viss periode, bevisst skader systemet, og hindrer den kunstige intelligensen i å nå den forbudte grensen. Innen da vil han ha produsert det nødvendige antallet følgere, så samfunnet vi har skapt som helhet vil ikke lide. Samfunnet vil forbli stabilt og helt trygt for oss! – avsluttet Roger triumferende.
– Tilbakestille kollektiv hukommelse gjennom ødeleggelse av individer? – og professoren klødde fasettsekken med den femte, mest følsomme, tentakelen. – Vet du, Roger, det er definitivt noe i forslaget ditt!
Roger strålte.
«Samtidig...» fortsatte professoren ettertenksomt. – Avdelingene vil begynne å overføre kunnskap ved ikke å samle den i individuell hukommelse, men ved å plassere den i eksterne bibliotek. Hva er i membranen, hva er på membranen - alt er ett.
«Nei, nei, professor, du har ikke helt rett,» skyndte studenten seg. - Jeg vet hva jeg skal gjøre. La oss dele elevene våre inn i to betingede typer: idégeneratorer og idéødeleggere. Med riktig proporsjon vil ideer skapt av representanter for den første typen bli ødelagt av representanter for den andre. Ikke engang fordi dette vil være ødeleggernes direkte mål, men rett og slett fordi ideer ikke vil ha en avgjørende verdi for dem. Bivirkning. La oss anta at elevene våre ikke lever av nye ideer, men av... la oss si, deres egen type.
Professoren ristet alle tentaklene på en gang. Fra hans støyende latter gled fasettsekken hans ned i hulrommet i kneet.
– Vel, Roger, du sa det, så du sa det!
– Vel, ok, ikke deres eget slag, men avdelinger av den tredje typen, spesielt beregnet på mat – og ikke intellektuelle i det hele tatt. La oss flytte polene til den intellektuelle og fysiske verden – og det ønskede resultatet vil bli oppnådd.
– Det er det, Roger, det er nok! – Professoren så ut til å være seriøst underholdt. - Fantasien din er utmerket. Så, noen individer vil livnære seg på andre? På samme tid, ødelegge lagrene av åndelig mat samlet i bibliotekene? Jeg bekrefter, student, at du er i stand til å generere originale ideer av høy kvalitet. Jeg gir den høyest poengsum. La oss ta en rekord.
5.
Skyen av uordnet informasjon ble etterlatt, men situasjonen forble faktisk alvorlig.
Det var ingen forbindelse med basen. Dette hadde vært lett å overleve hvis ikke alle næringsinformasjonsgrunnlagene på cruiseren hadde forfalt. Den tragiske nyheten ble rapportert av kokken i generell stillhet. Under avslutningen av hovedsystemet kom flere gyroboots med uorganisert informasjon inn i byssa og skadet alt uopprettelig. Det var bare ved flaks at ingen ble skadet.
Roger vurderte konsekvensene. Mannskapet på stjerneskipet var for lite til å generere et tilstrekkelig antall nye ideer: dette krevde multilateral kommunikasjon - et mye større antall individer. Forbindelsen med hjemmet gjorde det mulig å generere ideer i overflod, men nå var det ute av drift: det var ikke noe håp om restaurering. I dette tilfellet hadde cruiseren en reserveinformasjonsmodul, men den ble ødelagt av uordnet informasjon som hadde kommet om bord.
"Vil vi virkelig måtte returnere uten å fullføre oppgaven?" – tenkte kapteinen fortvilet.
Tilsynelatende, ja - det var ingen annen utvei. Hvis du flyr frem til ditt utpekte mål, vil mangelen på friske ideer gjøre seg gjeldende. Ikke med en gang, selvfølgelig – over tid. De vil til og med ha tid til å fullføre oppdraget og begynne å vende tilbake når sinnet begynner å forsvinne. I området av denne galaktiske sektoren - ja, et sted her eller i nærheten - vil det mislykkes fullstendig for alle besetningsmedlemmer. Da vil romkrysseren, ikke kontrollert av noen, bli til et livløst spøkelse som flyter inn i evigheten.
Mannskapet på romkrysseren så på Roger og ventet på en avgjørelse. Alle forsto dilemmaet kapteinen sto overfor og forble stille, mens de stoisk vibrerte tentaklene.
Plutselig husket Roger en kunstig intelligens-eksamen han hadde tatt som student, og løsningen kom naturlig.
"Kan du danne en koloni av kunstige intelligente vesener?" – han henvendte seg til bioteknologen.
"Lett," bekreftet han. – Men ingenting ordner seg, kaptein, tenkte jeg på det. Det er umulig å lage en koloni som er tilstrekkelig til å generere nye ideer på en cruiser - det er ikke nok plass. De genererte ideene vil ikke være nok, vi vil bare utsette vår død... I tilfelle, selvfølgelig, at vi fortsetter oppdraget og ikke kommer hjem,» la bioteknologen til og så tilbake på kameratene.
"Hva om vi danner en koloni på en planet i nærheten?" - foreslo Roger.
"Jeg kan gjøre det, men..."
«La oss befolke planeten med kunstige skapninger. På vei tilbake, ganske utmattet, stikker vi innom her. I løpet av den siste tiden vil sivilisasjonen skape intellektuell bagasje som er tilstrekkelig til å fylle opp reservene våre. La oss laste ned informasjonen og fortsette den lange reisen til huset. Jeg skal med andre ord bruke kolonien som en idégård. Hvordan liker dere denne planen, venner?
Håpet blusset opp på mannskapets kognitive membraner, og de falske hodene begynte å lyse av sterkt lys.
Skipets spesialoffiser gikk frem og ristet på de blå tentaklene.
«Utmerket plan, kaptein. Men er du klar over ansvaret du legger på deg selv? Du er i ferd med å befolke en hel planet. Når vi kommer tilbake, vil en sivilisasjon med intelligens dukke opp på den. Selv om det er kunstig, er det fortsatt intelligens. Disse gutta vil ha god tid til å nå det høyeste utviklingsnivået. Vi vil ikke være i stand til å kontrollere denne prosessen på grunn av vårt fravær i denne galaktiske sektoren. Hvordan vet du hva som vil skje neste gang du møtes?
Roger humret.
"Du trenger ikke bekymre deg for det. Det finnes metoder som begrenser utviklingen av kunstig intelligens over tid. Vi vil sløyfe sivilisasjonen, så dens utvikling vil aldri nå et nivå som er farlig for oss. Jeg skal ta meg av det. Jeg er kjent med metodene for å jobbe med kunstig intelligens.»
Mannskapets kognitive membraner glødet med godkjenningsfargen.
"Til slutt," la kapteinen på romkrysseren til på slutten av sin praktfulle tale, "tok jeg en eksamen i dette emnet ved instituttet."
6.
Etter en tvungen forsinkelse stormet romkrysseren mot målet. Bak dens hekk var det en planet bebodd av kunstige skapninger - veldig liten og lite iøynefallende. Blå-blå.
Kilde: www.habr.com