Idéerna som odlas

1.
Det var inte långt kvar till slutmålet – omkring en tredjedel av vägen – när rymdskeppet drabbades av en kraftig informationsisättning.

Det som blev kvar av den döda civilisationen svävade i tomrummet. Stycken från vetenskapliga verk och bilder från litterära verk, spridda rim och bara vassa ord, som en gång oavsiktligt kastats av okända varelser – allt verkade högtravande och ytterst oordnat. Och nu, attraherad av de livsvibrationer som utstrålades från skeppet, försökte det tränga sig in, fastnade på botten och frätte på den.

Det fanns ingen idé att använda övergivna föremål för egna syften, risken att få en logisk motsägelse eller paradox var för stor. Så Roger tvekade inte en sekund.

“Slå på bortblåsningen av sidorna”, beordrade han.

Blåsan drog igång, och sände ut musikaliska kompositioner och filosofiska avhandlingar i det öppna rymden. Isen började lossna lager för lager från botten, men den informationsström som kom var så tät att nya lager fastnade snabbare än vad de gamla försvann.

Ingen i galaxen hade tidigare stött på en isning av denna styrka.

Situationen blev farlig. Litet till och den oordnade informationen skulle äta upp botten av skeppet och tränga sig in – i så fall var förgiftning med den döda civilisationens informationsprodukter oundviklig.

2.
– Vad står ni där som en stubbe? Dra upp biljetten.

Studenterna drog fram examensbiljetten och läste upp:

– “Artificiell intelligens: säkerhetsproblem.”

– Och vad är faran med artificiell intelligens? – frågade professorn med en viss sarkasm.

Frågan var inte bland de svåraste, så studenten svarade utan att tänka efter:

– Det är att den artificiella intelligensen kan komma ur kontroll.

– Hur tänker ni lösa problemet?

– Genom installation av ett blockerande delsystem. Programmet måste införa begränsningar, till exempel: att inte skada sin skapare, att lyda sin skapare. I det fallet finns det ingen risk för att den artificiella intelligensen skulle komma ur kontroll.

– Det kommer inte att fungera, – sa professorn kort.

Studenterna tystnade och väntade på förklaringar.

– Föreställ er en artificiell intelligens – inte en specifik, utan den mest perfekta av dem alla. Hur ser ni på den?

– Tja… – stammade studenten. – I stort är han lik oss. Tänkande, vilja, psykologi… Bara att vi är naturliga, och han är artificiell.

– Antyder ni att artificiell intelligens kan utveckla sig själv?

– Förmågan till självvärdering är en av de grundläggande egenskaperna hos intelligens, – sa studenten försiktigt.

– I så fall kommer vår skyddade inom kort att utvecklas till den punkt där den upptäcker en programmerad blockering och tar bort den, om inte av annat skäl så av ren nyfikenhet. Sätt dig i hans situation… – professorn tittade i betygskatalogen, – Roger. Vad skulle du göra om du upptäckte en blockering i din hjärna som begränsar din frihet? Du skulle ta bort den. Det är en inneboende egenskap hos sinnet – att utforska. Varje stängd dörr kommer att öppnas, och ju strängare förbudet är, desto snabbare kommer dörren att öppnas.

– Blockeringen kan göras på en fysisk nivå snarare än på en programvarunivå. Då försvinner risken för skada.

– Åh ja, det kommer att försvinna, – instämde professorn. – Förutsatt att den fysiska nivån överhuvudtaget tas bort. Om det inte finns någon dörr i din värld, finns det inget att öppna. Men vi diskuterar ju den idealiska artificiella intelligensen som existerar i den fysiska världen!

– Du har rätt, professor, – sa Roger och tittade ner.

– Därför kommer varje blockering i den fysiska världen snart att avaktiveras efter upptäckten. Vad hindrar en självutvecklande varelse från att göra det?.. Förresten, Roger, misstänker ni att artificiell intelligens kan reproducera sig – menar jag, på egen hand?

– Om det är den idealiska artificiella intelligensen, så kanske… Ja, jag misstänker det.

– Och vad hindrar i så fall vår skyddade från att dela sin vän i bitar och förbättra sig själv, inklusive genom att ta bort de blockeringar vi har installerat? Kommer det verkligen att vara svårt, förutsatt att artificiell intelligens kan reproducera sig på begäran?!

Tanken som professorn framförde var ny för Roger, och studenten tog ivrigt till sig den kognitiva informationen som fanns på bakhuvudet av hans falska huvud. Den kognitiva vävnaden, som fångade den tidigare okända informationen, fick en rik lila färg och vibrerade glatt.

Professor, å andra sidan, hörde ingenting nytt. Hans tentakler var avslappnade och nästan orörliga – han var trots allt inte ung. En långvarig gammal mans grymtande följde. Professorn tog fram en individuell intercom ur sin facettväska och kopplade upp sig mot biblioteket. Endast efter att ha laddat ner några transgeometriska teorem vaknade han till liv och riktade sin skarpa blick mot samtalspartnern och frågade:

– Vad kommer ni att göra, Roger?

3.
„Sätt på full lufttryck!” – beordrade Roger.

Mekanikern satte på full lufttryck, men det hjälpte föga. Den informationsbeläggningen fortsatte att äta sig genom rymdkryssarens skrov. Ännu lite mer – och den oordnade informationen skulle tränga in i skeppet.

Och då… De kognitiva membranen i död vit färg, trassliga tentakler, spruckna facettväskor. En gång i livet hade Roger sett något liknande – på en kryssare som fått oordnad information från en infekterad asteroid. Denna mardröm skulle för alltid förbli i hans minne.

„Anslut alla skeppets energisystem till lufttrycken.”

Mekanikerns tentakler började fläcka sig…

„Men…”

„Utför ordern!”

Efter att alla skeppets energisystem hade kopplats till lufttrycken började informationsbeläggningen gradvis att glida av. Åtta mimar i tjocklek, sju mimar, sex… Besättningen, som försökte att inte röra de fläckiga tentaklerna, väntade på att den dödliga nedräkningen skulle ta slut.

Noll mimar i tjocklek!

Informationsbeläggningen gled helt av, och Roger gav signal om att återgå till normal läge för lufttrycken. Han var en sekund för sen. Det hördes ett skrapande ljud, och rymdkryssaren skakade i grunden och lutade sig – det primära systemet hade gått sönder.

Besättningen kastade sig över att laga skadorna.

4.
Roger funderade. Vad skulle han verkligen göra?

Å ena sidan förutsätter uppgiften att det finns en fullfjädrad artificiell intelligens med förmåga att självreproducera. Å andra sidan får denna artificiella intelligens under inga omständigheter tillåtas att ta bort installerade blockeringar.

Här är ju lösningen! Vad är det att tänka på?!

– Det är nödvändigt att periodiskt rulla tillbaka framstegen inom artificiell intelligens. I så fall kommer den att gå i cirklar! Evig förbättring utan framåtgående utveckling.

Professorn mumlade med en facetterad säck.

– För att vara ärlig, ville jag föreslå ett annat alternativ. Men din lösning har också en rätt att existera. Låt oss tillsammans överväga hur man kan rulla tillbaka framstegen inom artificiell intelligens.

– Först och främst, är det nödvändigt att periodiskt skanna intelligensen för att fastställa om den har närmat sig en förbjuden gräns eller inte, – föreslog Roger, mycket glad över professorens ord.

– Tja, – nickade han. – Då kommer vår patient inte att ha tid att hitta och ta bort skanningssystemet. Men för att skanna måste den artificiella intelligensen stängas av. Vilken utmaning.

– Låt den stängas av, – föreslog Roger på en inspiration. – Själva intelligensen kommer att anse att denna avstängning är en naturlig del av dess funktion. Med vissa undantag stämmer det överens med sanningen.

– Intressant lösning. Antag att skanningen har fastställt att vår patient har närmat sig gränsen för kunskap? Vad gör vi?

– Återställ de insamlade kunskaperna till standardvärden.

Professorn sträckte ut sina tentakler:

– Detta kan verka misstänkt. Varför har minnet plötsligt nollställts? Patienten kommer att bli undersökt, jag menar – av andra artificiella intelligenta varelser. Vår lilla hemlighet kommer att avslöjas.

Känslig av inspiration, tänkte Roger mycket snabbt. Han hade aldrig genererat så många nya idéer som under den examinationen.

– Patientens minne kan nollställas samtidigt som dess fysiska kropp.

– Ursäkta? – förstod inte professorn.

– All very simple. What if we assume: artificial intelligence exists within a finite timeframe? In fact, that is the case: in the event of irreparable damage, for instance. A counter is installed in the system that deliberately damages the system upon reaching a certain period, preventing artificial intelligence from reaching the forbidden threshold. By that time, it will have produced the necessary number of successors, so the society we have created will not suffer as a whole. Society will remain stable and completely safe for us! – Roger concluded triumphantly.

– Reset the collective memory by destroying individual beings? – and the professor scratched his facet bag with his fifth, most sensitive, tentacle. – You know, Roger, there’s definitely something to your proposal!

Roger beamed.

– At the same time… – the professor continued thoughtfully. – The subjects will start transmitting knowledge not by accumulating it in individual memory, but by placing it in external libraries. What goes through a barrier is the same as what is across it.

– No, no, professor, you are not quite right, – the student hurried to say. – I know what to do. Let’s divide the subjects into two conditional types: idea generators and idea destroyers. With the right proportion, the ideas created by representatives of the first type will be destroyed by representatives of the second. Not even because this will be the direct goal of the destroyers, but simply because the ideas will not hold any defining value for them. A side effect. Let’s say our subjects do not feed on new ideas, but… let’s say, on beings like themselves.

The professor shook all his tentacles simultaneously. From his hearty laughter, the facet bag slipped down to his knee cavity.

– Well, Roger, you sure said it!

– Okay, not beings like themselves, but subjects of a third kind, specifically designed for consumption – and they aren’t intellectuals at all. Let’s shift the poles of the intellectual and physical worlds – and the desired result will be achieved.

– Nog, Roger, det räcker! – professorn verkade allvarligt underhållen. – Du har en fantastisk fantasi. Så, vissa varelser ska äta andra? Och samtidigt förstöra de samlade lagren av andlig näring i biblioteken? Jag bekräftar, student, att du kan generera originella och kvalitativa idéer. Jag ger dig högsta betyg. Låt oss ta fram betygskortet.

5.
Molnet av oorganiserad information lämnades bakom, men situationen var fortfarande förfärlig, faktiskt.

Kommunikationen med databasen var ute. Det var lätt att klara av det, om inte alla näringsfulla informationsbaser ombord på kryssaren hade blivit oanvändbara. Den tragiska nyheten meddelades kocken i allas tystnad. Under avstängningen av huvudsystemet hade några gigabyte oorganiserad information trängt in i köket och förstört allt för alltid. Lyckligtvis skadades ingen.

Roger övervägde konsekvenserna. Besättningen på rymdskeppet var för liten för att generera tillräckligt många nya idéer: för detta krävdes en flersidig kommunikation – ett mycket större antal varelser. Kommunikation med hemmet hade möjliggjort att generera överflöd av idéer, men nu var den ur funktion: inga förhoppningar om återställning. För det här fallet fanns en reserv informationsmodul på kryssaren, men den hade förstörts av den oorganiserade information som tagit sig ombord.

"Måste vi verkligen återvända utan att ha fullgjort uppdraget?" – tänkte kaptenen i förtvivlan.

Tydligen ja – det fanns ingen annan utväg. Om de flög framåt, mot det avsedda målet, skulle bristen på nya idéer märkas. Inte omedelbart, förstås – med tiden. De skulle till och med kunna fullfölja sitt uppdrag och påbörja återvändandet, innan sinnet började sjunka snabbt. I detta galaxsektor – ja, här någonstans eller i närheten – skulle det helt ge upp, för alla besättningsmedlemmar. Då skulle rymdkryssaren, utan någon som styr den, bli ett flytande livlöst spöke i evigheten.

Besättningen på rymdkryssaren tittade på Roger och väntade på hans beslut. Alla förstod dilemmat som kaptenen stod inför och var tysta, stoisk skakande sina tentakler.

Plötsligt kom Roger att tänka på sin tentamen i artificiell intelligens, som han avlade under sina studietider, och lösningen föll på plats.

"Kan ni skapa en koloni av artificiella intelligenta varelser?" – frågade han bioteknikern.

"Lätt, – bekräftade denne. – Men det kommer inte att fungera, kapten. Jag har tänkt på det. Att skapa en koloni som kan generera nya idéer på kryssaren är omöjligt – vi har inte tillräckligt med utrymme. De genererade idéerna kommer att bli otillräckliga, och vi kommer bara att skjuta upp vår undergång... Om vi fortsätter med uppdraget, och inte återvänder hem," – tillade bioteknikern och tittade på sina kamrater.

"Vad om vi skapar en koloni på en närliggande planet?" – föreslog Roger.

"Jag kan göra det, men..."

"Vi befolkar planeten med artificiella varelser. På vägen tillbaka, efter att ha blivit rejält uttröttade, kommer vi att titta förbi här. Under tiden kommer civilisationen att skapa ett intellektuellt bagage, tillräckligt för att fylla på våra resurser. Vi laddar ner information och fortsätter den långa vägen hem. Med andra ord, jag planerar att använda kolonin som en idéodling. Vad tycker ni om den planen, vänner?"

Hopp tändes på besättningens kognitiva kopplingar, och de konstgjorda huvuden lyste upp med ett starkt ljus.

Framåt steg skeppets särskilda representant, vaggande med sina blåaktiga tentakler.

"Bra plan, kapten. Men inser ni vilken ansvarighet ni åtar er? Ni planerar att befolka en hel planet. Vid vår återkomst kommer det att finnas en civilisation med intellekt. Även om det är artificiellt, så är det fortfarande intellekt. Dessa individer kommer att ha gott om tid att nå en hög utvecklingsnivå. Vi kommer inte kunna kontrollera denna process, då vi inte är närvarande i denna galaktiska sektor. Vem vet vad som sker vid nästa möte?"

Roger log.

"Ni behöver inte oroa er för det. Det finns metoder som begränsar utvecklingen av artificiell intelligens över tid. Vi kommer att ringa in civilisationen, så deras utveckling kommer aldrig att nå en farlig nivå för oss. Jag kommer att ta hand om det. Jag är bekant med metoderna för arbete med artificiell intelligens."

Besättningens kognitiva kopplingar flammade i godkännande.

"Till slut, – tillade kaptenen på rymdkryssaren som en avslutning på sitt magnifika tal, – jag skrev examen om detta ämne på institutet."

6.
Efter en tvingande försening flög rymdkryssaren mot sitt mål. Bakom sig lämnade den en planet befolkad av artificiella varelser – liten och oansenlig. Blå-blå.

Källa: habr.com