1.
Det var lite kvar till det slutliga målet – ungefär en tredjedel av vägen – när rymdkryssaren hamnade under allvarlig informationsis.
Det som fanns kvar av den förlorade civilisationen svävade i tomrummet. Stycken av vetenskapliga essäer och bilder från litterära verk, spridda ramsor och helt enkelt skarpa ord, som en gång slentrianmässigt kastades av okända varelser - allt såg abstrut och extremt oordnat ut. Och nu, attraherad av de vitala vibrationerna som härrörde från kryssaren, försökte den bryta igenom, fastnade i botten och korroderade den.
Det var ingen idé att tänka på att använda ägarlös egendom för sina egna syften; sannolikheten att fånga upp en logisk motsägelse eller paradox var för stor. Så Roger tvekade inte ett ögonblick.
"Sätt på sidoblåsningen", beordrade han.
Blåsarna började sniffa och sände musikaliska kompositioner och filosofiska avhandlingar ut i rymden. Glasyren började falla bort från botten lager för lager, men informationsflödet var så tätt att nya lager fastnade snabbare än de gamla togs bort.
Ingen i galaxen har någonsin stött på isbildning av sådan kraft.
Situationen började bli farlig. Lite mer, och den oordnade informationen kommer att äta genom botten av kryssaren och slå igenom - då är förgiftning med informationsprodukterna från den förlorade civilisationen oundviklig.
2.
– Varför står du där som en stubbe? Dra biljetten.
Eleven tog fram ett provkort och läste:
– "Artificiell intelligens: säkerhetsproblem."
– Och vad är faran med artificiell intelligens? – frågade professorn, inte utan illvilja.
Frågan var inte den svåraste, så studenten svarade utan att tveka:
– Faktum är att artificiell intelligens kan komma utom kontroll.
– Hur tänker du lösa problemet?
– Installation av ett blockerande delsystem. Det är nödvändigt att införa begränsningar i programmet, till exempel: skada inte din skapare, följ din skapare. I det här fallet finns det ingen risk för att artificiell intelligens kommer utom kontroll.
"Det kommer inte att fungera," sa professorn kort.
Eleven var tyst och väntade på förtydligande.
– Föreställ dig artificiell intelligens – inte vilken som helst specifik, utan den mest idealiska. Hur ser du på det?
"Jaha..." tvekade studenten. – I allmänhet är han lik dig och mig. Tänkande, vilja, psykologi... Bara vi är naturliga, och han är konstgjord.
– Antar du att artificiell intelligens är kapabel till självutveckling?
"Förmågan till självutveckling är en av intelligensens grundläggande egenskaper", sa studenten försiktigt.
– I det här fallet kommer vår avdelning mycket snart att utvecklas till den grad att han upptäcker en programvarublockering i sig själv och tar bort den, om så bara av ren nyfikenhet. Sätt dig på hans plats... - Professorn tittade på sin anteckningsbok, - Roger. Vad skulle du göra om du upptäckte en blockerare i din hjärna som begränsade din frihet? Du borde ta av den. Detta är en inneboende egenskap hos sinnet - att veta. Alla låsta dörrar kommer att låsas upp, och ju strängare förbudet är, desto snabbare låses dörren upp.
– Blockering kan inte göras på mjukvarunivå, utan på fysisk nivå. Då försvinner faran för skada.
"Åh ja, det kommer att försvinna", instämde professorn. – Om det fysiska lagret tas bort helt. Om det inte finns någon dörr i din värld, så finns det inget att låsa upp. Men vi överväger en idealisk artificiell intelligens som finns i den fysiska världen!
"Du har rätt, professor," Roger tittade ner.
"Därför kommer alla blockeringar i den fysiska världen att inaktiveras snart efter upptäckt." Vad kommer att hindra en självutvecklande varelse från att göra detta?.. Förresten, Roger, antar du att artificiell intelligens kommer att kunna reproducera sig - jag menar, oberoende?
– Om detta är idealisk artificiell intelligens, då förmodligen... Ja, antar jag.
– Och vad kommer i det här fallet att hindra vår avdelning från att slita isär hans kamrat och förbättra honom, bland annat genom att inaktivera de blockeringssystem vi har installerat? Kommer detta verkligen att visa sig vara svårt med tanke på att artificiell intelligens kan reproducera sig på begäran?!
Idén som presenterades av professorn visade sig vara ny för Roger, och studenten absorberade den girigt genom de kognitiva membranen som finns på den occipitala delen av det falska huvudet. Efter att ha fångat tidigare okänd information, fick de kognitiva membranen en rik lila färg och darrade glatt.
Professorn, tvärtom, hörde inget nytt själv. Hans tentakler var avslappnade och vibrerade knappt - han var trots allt inte ung. Ett långt senilt gurgl följde. Professorn tog fram en personlig intercom ur sin facettväska och kopplade till biblioteket. Först efter att ha laddat ner flera transgeometriska satser piggnade han till och vände sin genomträngande blick mot sin samtalspartner och frågade:
-Vad ska du göra, Roger?
3.
"Sätt på fläkten med full effekt!" – Roger gav ordern.
Mekanikern slog på fläkten på full effekt, men det hjälpte inte mycket. Informationsisen fortsatte att äta bort på botten av rymdkryssaren. Lite mer – och oordnad information kommer att slå igenom inne i fartyget.
Och sedan... De kognitiva hinnorna är dödvita, trassliga tentakler, sprängda facettsäckar. Roger hade sett något liknande en gång i sitt liv - på en kryssare som hade plockat upp oordnad information om en infekterad asteroid. Denna mardröm kommer för alltid att finnas kvar i hans minne.
"Anslut alla fartygets energisystem till fläktarna."
Mekanikerns tentakler började se ut som fläckar...
"Men…"
“Uppfylla beställningar!”
Efter att alla fartygets energisystem var anslutna till fläktarna började informationsisen gradvis glida av. Åtta mimms tjocklek återstod, sju mimms, sex... Teamet, som försökte att inte flytta sina prickiga tentakler, väntade på att dödsnedräkningen skulle ta slut.
Noll mimm tjocklek!
Informationsisen försvann helt och Roger gav klartecken för att ställa om fläktarna till normalt läge. Han var ett ögonblick försenad. Det hördes ett malande ljud, rymdkryssaren darrade till grunden och lutade - huvudsystemet hade misslyckats.
Команда кинулась исправлять повреждения.
4.
Roger tänkte på det. Vad ska han göra egentligen?
Å ena sidan förutsätter problemets tillstånd att det finns fullfjädrad artificiell intelligens med förmåga att självreproducera sig. Å andra sidan ska denna artificiella intelligens aldrig få ta bort befintliga lås.
Ja, här är lösningen! Vad tänker du här?!
– Det är nödvändigt att med jämna mellanrum rulla tillbaka framgångarna med artificiell intelligens. I det här fallet kommer den att röra sig i en cirkel! Evig förbättring utan att gå framåt.
Professorn gurglade med en facetterad väska.
– Ärligt talat ville jag erbjuda ett annat alternativ. Men ditt beslut har också en existensrätt. Låt oss tillsammans ta reda på hur det är möjligt att rulla tillbaka framgångarna med artificiell intelligens.
"Först och främst är det nödvändigt att med jämna mellanrum skanna intellektet för att avgöra om det har närmat sig den förbjudna tröskeln eller inte", föreslog Roger, mycket nöjd med professorns ord.
"Kanske," nickade han. "Då kommer vår avdelning inte att ha tid att hitta och ta bort skanningssystemet." Artificiell intelligens måste dock stängas av för att skanna. Det är otur.
"Tja, låt honom stänga av," föreslog Roger på ett infall. – Intellektet själv kommer att tro att denna avstängning är en naturlig process för kroppens funktion. Med vissa reservationer är detta sant.
– Intressant lösning. Anta att skanningen avslöjade att vår avdelning är farligt nära kunskapsgränsen? Våra handlingar?
– Återställ ackumulerad kunskap till standardvärden.
Professorn spred sina tentakler:
– Det här kan verka misstänkt. Varför är det - utan anledning, utan anledning - som minnet nollställdes? Avdelningen kommer att börja undersökas, menar jag, av andra artificiella intelligenta individer. Vår lilla hemlighet kommer att avslöjas.
Kände sig inspirerad, tänkte Roger snabbt. Han hade aldrig skapat så många nya idéer som han gjorde i det provet.
– Minnet på avdelningen kan återställas tillsammans med hans fysiska skal.
- Förlåt? – professorn förstod inte.
– Allt är väldigt enkelt. Vad händer om vi antar att artificiell intelligens existerar under en begränsad tidsperiod? Egentligen är det så här: vid irreparabel skada, till exempel. Systemet har en räknare som, efter att ha uppnått en viss period, medvetet skadar systemet, vilket hindrar den artificiella intelligensen från att nå den förbjudna gränsen. Då kommer han att ha producerat det antal följare som krävs, så samhället vi har skapat som helhet kommer inte att lida. Samhället kommer att förbli stabilt och helt säkert för oss! – Roger avslutade triumferande.
– Återställa det kollektiva minnet genom att förstöra individer? – och professorn repade facettsäcken med den femte, känsligaste, tentakeln. – Du vet, Roger, det ligger definitivt något i ditt förslag!
Roger strålade.
"Samtidigt..." fortsatte professorn eftertänksamt. – Avdelningarna kommer att börja överföra kunskap genom att inte samla den i det individuella minnet, utan genom att placera den på externa bibliotek. Vad som finns i membranet, vad som finns på membranet - allt är ett.
"Nej, nej, professor, du har inte helt rätt", skyndade studenten. - Jag vet vad jag ska göra. Låt oss dela in våra elever i två villkorliga typer: idégeneratorer och idéförstörare. Med rätt proportion kommer idéer skapade av representanter för den första typen att förstöras av representanter för den andra. Inte ens för att detta kommer att vara förstörarnas direkta mål, utan helt enkelt för att idéer inte kommer att ha ett avgörande värde för dem. Bieffekt. Låt oss anta att våra elever inte livnär sig på nya idéer, utan... låt oss säga på sin egen sort.
Professorn skakade alla sina tentakler på en gång. Av hans bullrande skratt gled hans facettpåse ned i knähålan.
- Jo, Roger, du sa det, så du sa det!
– Nja, okej, inte deras egen sort, utan avdelningar av den tredje typen, speciellt avsedda för mat – och inte intellektuella alls. Låt oss flytta polerna för den intellektuella och fysiska världen – och det önskade resultatet kommer att uppnås.
– Det var det, Roger, det räcker! – Professorn verkade vara seriöst road. -Din fantasi är utmärkt. Så, kommer vissa individer att livnära sig på andra? Samtidigt, förstöra lagren av andlig föda som samlats på bibliotek? Jag bekräftar, student, att du är kapabel att generera originella och högkvalitativa idéer. Jag ger den högsta poängen. Låt oss ta ett rekord.
5.
Molnet av oordnad information lämnades kvar, men situationen förblev i själva verket svår.
Det fanns ingen koppling till basen. Detta hade varit lätt att överleva om inte alla näringsinformationsbaser på kryssaren hade förfallit. Den tragiska nyheten rapporterades av kocken i allmän tystnad. Under huvudsystemets avstängning kom flera gyroboots med oorganiserad information in i köket och skadade allting irreparabelt. Det var bara av tur som ingen kom till skada.
Roger funderade på konsekvenserna. Besättningen på rymdskeppet var för liten för att generera ett tillräckligt antal nya idéer: detta krävde multilateral kommunikation - ett mycket större antal individer. Sambandet med hemmet gjorde det möjligt att generera idéer i överflöd, men nu var det ur funktion: det fanns inget hopp om restaurering. I det här fallet hade kryssaren en reservinformationsmodul, men den var förstörd av oordnad information som hade kommit ombord.
"Kommer vi verkligen att behöva återvända utan att slutföra uppgiften?" – tänkte kaptenen förtvivlat.
Tydligen, ja - det fanns ingen annan utväg. Om du flyger fram till ditt utsedda mål kommer bristen på fräscha idéer att göra sig påmind. Inte direkt, förstås – med tiden. De kommer till och med att ha tid att slutföra sitt uppdrag och börja återvända när deras sinnen snabbt börjar blekna. I området för denna galaktiska sektor - ja, någonstans här eller i närheten - kommer det att misslyckas helt för alla besättningsmedlemmar. Då kommer rymdkryssaren, som inte kontrolleras av någon, att förvandlas till ett livlöst spöke som flyter in i evigheten.
Besättningen på rymdkryssaren tittade på Roger i väntan på ett beslut. Alla förstod dilemmat som stod inför kaptenen och förblev tysta och vibrerade stoiskt med sina tentakler.
Plötsligt kom Roger ihåg ett prov i artificiell intelligens han hade gjort som student, och lösningen kom naturligt.
"Kan du bilda en koloni av artificiella intelligenta varelser?" – han vände sig till bioteknologen.
"Lätt", bekräftade han. – Men inget löser sig, kapten, tänkte jag på det. Det är omöjligt att skapa en koloni som är tillräcklig för att generera nya idéer på en kryssare - det finns inte tillräckligt med utrymme. De genererade idéerna kommer inte att räcka, vi kommer bara att försena vår död... I händelse av att vi fortsätter uppdraget och inte återvänder hem, tillade bioteknologen och tittade tillbaka på sina kamrater.
"Tänk om vi bildar en koloni på någon närliggande planet?" - föreslog Roger.
"Jag kan göra det, men..."
"Låt oss befolka planeten med konstgjorda varelser. På vägen tillbaka, ganska utmattade, stannar vi till här. Under den senaste tiden kommer civilisationen att skapa intellektuellt bagage som är tillräckligt för att fylla på våra reserver. Låt oss ladda ner informationen och fortsätta den långa resan till huset. Jag ska med andra ord använda kolonin som idégård. Hur gillar ni den här planen, vänner?
Hoppet flammade upp på besättningens kognitiva membran och de falska huvudena började glöda av starkt ljus.
Fartygets specialofficer steg fram och skakade sina blå tentakler.
"Utmärkt plan, kapten. Men är du medveten om det ansvar du lägger på dig själv? Du är på väg att befolka en hel planet. När vi kommer tillbaka kommer en civilisation med intelligens att dyka upp på den. Även om det är konstgjort är det fortfarande intelligens. Dessa killar kommer att ha gott om tid att nå den högsta utvecklingsnivån. Vi kommer inte att kunna kontrollera denna process på grund av vår frånvaro i denna galaktiska sektor. Hur vet du vad som händer nästa gång du träffas?
Roger skrattade.
"Du behöver inte oroa dig för det. Det finns metoder som begränsar utvecklingen av artificiell intelligens över tid. Vi kommer att loopa civilisationen, så dess utveckling kommer aldrig att nå en nivå som är farlig för oss. Jag kommer ta hand om det. Jag är bekant med metoderna för att arbeta med artificiell intelligens.”
Besättningens kognitiva membran glödde med färgen av godkännande.
"Till slut," tillade kaptenen på rymdkryssaren i slutet av sitt magnifika tal, "jag tog en examen i detta ämne på institutet."
6.
Efter en påtvingad fördröjning rusade rymdkryssaren mot målet. Bakom dess akter fanns en planet bebodd av konstgjorda varelser - mycket liten och oansenlig. Blå-blå.
Källa: will.com