Ideeën kweekboerderij

1.
Nog een derde van de weg naar het einddoel te gaan, toen het ruimteschip onderworpen werd aan een sterke informatieve bevriezing.

Wat over was van de gestorven beschaving zweefde in de leegte. Fragmenten van wetenschappelijke traktaten en beelden uit literatuur, willekeurige rijmwoorden en gewoon scherpe zinnen, ooit toevallig achtergelaten door onbekende wezens – het zag er cryptisch en uiterst chaotisch uit. En nu, aangetrokken door de levensvibraties van het schip, probeerden ze naar binnen te dringen, plakkend aan de onderkant en het aan te tasten.

Er was niets te denken over het gebruiken van onbewaakte goederen voor eigen doeleinden, aangezien de kans te groot was om een logisch tegenstrijdigheid of paradox op te vangen. Daarom aarzelde Roger geen moment.

‘Zet de zijkanten onder druk,’ gaf hij het bevel.

De blazers begonnen te sputteren, terwijl ze muzikale composities en filosofische traktaten de open ruimte in zonden. De bevriezing begon laag voor laag van de onderkant af te komen, maar de informatiestroom was zo dicht dat nieuwe lagen sneller plakkten dan de oude verwijderd konden worden.

Niemand in het sterrenstelsel had ooit zo’n sterke bevriezing meegemaakt.

De situatie werd gevaarlijk. Nog even en de chaotische informatie zou de onderkant van de kruiser doorslijten en naar binnen breken – dan zou vergiftiging door informatieve producten van de gestorven beschaving onvermijdelijk zijn.

2.
‘Waarom staan jullie daar als bomen? Trek een examenbriefje.’

De student trok het examenbriefje en las voor:

‘Kunstmatige intelligentie: veiligheidsproblemen.’

‘En wat is het gevaar van kunstmatige intelligentie?’ vroeg de professor met enige sarcastische ondertoon.

De vraag was niet de moeilijkste, dus antwoordde de student zonder na te denken:

‘Dat de kunstmatige geest uit de hand kan lopen.’

‘Hoe denkt u dit probleem te gaan oplossen?’

‘Door een blokkering systeem te installeren. Er moeten beperkingen in het programma worden ingevoerd, bijvoorbeeld: geen schade toebrengen aan de maker, de maker gehoorzamen. In dit geval is het gevaar van kunstmatige intelligentie die uit de hand loopt afwezig.’

‘Dat gaat niet werken,’ zei de professor kortaf.

De student zweeg en wachtte op verdere uitleg.

‘Stel je een kunstmatige intelligentie voor – niet een specifieke, maar de ideale. Hoe zie je die voor je?’

– Nou… – zei de student aarzelend. – Over het algemeen is hij vergelijkbaar met ons. Denken, wil, psychologie… Alleen zijn wij natuurlijk, en hij is kunstmatig.

– Veronderstelt u dat kunstmatige intelligentie in staat is tot zelfontwikkeling?

– De capaciteit voor zelfontwikkeling is een van de fundamentele eigenschappen van intelligentie, – sprak de student voorzichtig.

– In dat geval zal onze pupil heel snel ontwikkelen tot het punt dat hij een programmake blokkade in zichzelf ontdekt en deze opheft, zelfs uit pure nieuwsgierigheid. Stel uzelf in zijn plaats… – de professor keek in het studieboek, – Roger. Wat zou u doen als u een blokkade in uw hersenen ontdekte die uw vrijheid beperkt? U zou die opheffen. Het is een inherente eigenschap van de geest om te ontdekken. Elke gesloten deur zal worden geopend, en hoe strenger het verbod, hoe sneller de deur zal worden geopend.

– Een blokkade kan creatief gemaakt worden op fysiek niveau. Dan zal het gevaar voor schade verdwijnen.

– Oh ja, het zal verdwijnen, – stemde de professor in. – Als het fysieke niveau überhaupt wordt verwijderd. Als er geen deur in jouw wereld is, dan valt er ook niets te openen. Maar wij bekijken toch de ideale kunstmatige intelligentie, die bestaat in de fysieke wereld!

– U heeft gelijk, professor, – zei Roger met een neergeslagen blik.

– Daarom zal elke blokkade in de fysieke wereld snel worden uitgeschakeld zodra deze wordt ontdekt. Wat zou een zelfontwikkelend wezen ervan weerhouden om dit te doen?.. Trouwens, Roger, denkt u dat kunstmatige intelligentie zich kan voortplanten – bedoel ik, zelfstandig?

– Als het de perfecte kunstmatige intelligentie is, dan waarschijnlijk… Ja, ik neem aan van wel.

– En wat zou er in dat geval onze pupil kunnen tegenhouden om zijn vriend in stukken te snijden en deze te verbeteren, inclusief door de blokkades die wij hebben ingesteld uit te schakelen? Is dat echt zo moeilijk, gezien het feit dat kunstmatige intelligentie op aanvraag kan worden gereproduceerd?!

De gedachte die de professor formuleerde was nieuw voor Roger, en de student nam deze gretig op met zijn cognitieve membranen, die zich aan de achterzijde van zijn hoofd bevonden. Toen ze voor het eerst onbekende informatie opvingen, kregen de cognitieve membranen een rijke paarse kleur en trilden ze blij.

De professor hoorde voor zichzelf niets nieuws. Zijn tentakels waren ontspannen en trilden bijna niet – hij was tenslotte niet jong meer. Er volgde een langdurige, oude bulder. De professor haalde een persoonlijke intercom uit zijn facettenzak en ging verbinding maken met de bibliotheek. Slechts door een paar transgeometrische stellingen te downloaden, werd hij weer levendig en richtte een doordringende blik op zijn gesprekspartner, om te vragen:

– Wat gaat u doen, Roger?

3.
„Zet de ventilatie op volle kracht!” – gaf Roger het bevel.

De monteur zette de ventilatie op volle kracht, maar dat hielp nauwelijks. De informatieve schuillaag bleef het onderwater van het ruimteschip afknabbelen. Nog even en de chaotische informatie zou het schip binnenstromen.

En dan… De cognitieve membranen doods wit, verwarde tentakels, gescheurde facettenzakken. Eén keer in zijn leven had Roger zoiets gezien – op een schip dat chaotische informatie had opgevangen van een besmette asteroïde. Deze nachtmerrie zou voor altijd in zijn geheugen gegrift staan.

„Verbind alle energiesystemen van het schip met de ventilatoren.”

De tentakels van de monteur begonnen zich vlekkerig te bewegen…

„Maar…”

„Voer het bevel uit!”

Nadat alle energiesystemen van het schip met de ventilatoren waren verbonden, begon de informatieve schuillaag geleidelijk te verdwijnen. Er bleven acht mimmen dikte, zeven mimmen, zes… Het team, dat probeerde de vlekkerige tentakels niet te bewegen, wachtte op het einde van de fatale aftelling.

Nul mimmen dikte!

De informatieve schuillaag was volledig verdwenen en Roger gaf het signaal om de ventilatoren terug te schakelen naar de normale modus. Hij was een moment te laat. Er weerklonk een schurend geluid, het ruimteschip beefde tot op de grond en kantelde – het belangrijkste systeem was defect.

Het team begon met het herstellen van de schade.

4.
Roger dacht na. Wat moest hij eigenlijk doen?

Aan de ene kant impliceert de opgave het bestaan van een volwaardige kunstmatige intelligentie met de capaciteit voor zelfvermeerdering. Aan de andere kant mag deze kunstmatige intelligentie onder geen beding de geïnstalleerde blokkeringen verwijderen.

Daar is het, de oplossing! Wat moet ik hier nog over nadenken?!

– Het is noodzakelijk om de prestaties van de kunstmatige intelligentie periodiek terug te draaien. In dat geval zal hij rondjes blijven draaien! Eindeloze perfectie zonder vooruitgang.

De professor gromde met de facetachtige zak.

– Ik moet toegeven dat ik een andere optie wilde voorstellen. Echter, uw oplossing heeft ook recht op bestaan. Laten we samen bedenken hoe we de prestaties van de kunstmatige intelligentie kunnen terugdraaien.

– Ten eerste is het noodzakelijk om de intelligentie periodiek te scannen om vast te stellen of hij de verboden drempel heeft bereikt of niet, – stelde Roger voor, die enorm blij was met de woorden van de professor.

– Misschien, – knikte deze. – Dan heeft onze proefpersoon geen tijd om het scansysteem te vinden en te verwijderen. Maar voor de scan moet de kunstmatige intelligentie worden uitgeschakeld. Wat een probleem.

– Laat hem maar uitschakelen, – stelde Roger intuïtief voor. – De intelligentie zelf zal geloven dat deze uitschakeling een natuurlijk proces is in de werking van zijn organisme. Met enkele voorbehouden komt dat overeen met de waarheid.

– Interessante oplossing. Stel dat de scan heeft vastgesteld dat onze proefpersoon gevaarlijk dicht bij de grenzen van kennis is gekomen? Wat zijn onze acties?

– De verzamelde kennis terugzetten naar de standaardwaarden.

De professor spreidde zijn tentakels:

– Dit kan verdacht lijken. Waarom is het – uit het niets – geheugen gewist? De proefpersoon zal worden onderzocht, ik bedoel – door andere kunstmatige intelligente wezens. Ons kleine geheim zal onthuld worden.

Geïnspireerd dacht Roger heel snel na. Hij had nooit zoveel nieuwe ideeën gegenereerd als tijdens dat examen.

– Het geheugen van de proefpersoon kan worden gewist samen met zijn fysieke omhulsel.

– Sorry? – begreep de professor niet.

– Alles is heel eenvoudig. Wat als we veronderstellen: kunstmatige intelligentie bestaat gedurende een eindige tijdsperiode? Eigenlijk is dat zo: in het geval van onherstelbare schade, bijvoorbeeld. In het systeem is er een teller ingesteld die, zodra een bepaalde periode is bereikt, het systeem opzettelijk beschadigt, zodat de kunstmatige intelligentie de verboden grens niet kan bereiken. Tegen die tijd zal het het benodigde aantal volgelingen hebben geproduceerd, zodat de door ons gecreëerde samenleving in zijn geheel niet lijdt. De samenleving blijft stabiel en volkomen veilig voor ons! – besloot Roger triomfantelijk.

– De collectieve geheugen wissen door individuele wezens te vernietigen? – en de professor krabde met zijn vijfde, meest gevoelige tentakel aan zijn facetdoos. – Weet je, Roger, er zit zeker iets in jouw voorstel!

Roger glunderde.

– Tegelijkertijd… – vervolgde de professor nadenkend. – De pupillen zullen beginnen kennis over te dragen door het niet op te slaan in hun individuele geheugen, maar door het in externe bibliotheken te plaatsen. Of het nu is met een membraan of door een membraan – het is allemaal hetzelfde.

– Nee, nee, professor, u heeft het niet helemaal bij het rechte eind, – haastte de student zich. – Ik weet hoe we moeten handelen. Laten we de pupillen opdelen in twee voorwaardelijke typen: ideeën-generatoren en ideeën-verdelgers. Bij de juiste verhouding zullen de ideeën die door de vertegenwoordigers van het eerste type worden gecreëerd, worden vernietigd door de vertegenwoordigers van het tweede. Zelfs niet omdat dat het rechtstreekse doel van de vernietigers zal zijn, maar gewoon omdat ideeën voor hen niet van bepalende waarde zullen zijn. Een bijeffect. Stel je voor dat onze pupillen zich voeden met geen nieuwe ideeën, maar… laten we zeggen, met soortgenoten.

De professor schudde met al zijn tentakels tegelijk. Van het bulderende gelach is zijn facetdoos op zijn knieën verschoven.

– Nou, Roger, je hebt gesproken, dat is duidelijk!

– Nou goed, niet met soortgenoten, maar met pupillen van de derde soort, speciaal bestemd voor voeding – helemaal geen intellectuelen. Laten we de polen van de intellectuele en fysieke wereld verschuiven – en het gewenste resultaat zal worden bereikt.

– Genoeg, Roger, dat is het! – de professor leek echt te zijn geamuseerd. – Je verbeelding is uitstekend. Dus, zullen sommige wezens zich voeden met anderen? Daarbij de geestelijke voedselvoorraden in de bibliotheken vernietigen? Ik bevestig, student, je kunt originele en kwalitatieve ideeën genereren. Ik geef je het hoogste cijfer. Laten we de studiekaart invullen.

5.
De wolk van ongeordende informatie bleef achter, maar de situatie was behoorlijk slecht, werkelijk.

De verbinding met de database ontbrak. Dit was gemakkelijk te verteren, als niet alle voedzame informatiebases op het ruimteschip onbruikbaar waren geworden. Het tragische nieuws werd aan de kok meegedeeld in volledige stilte. Tijdens de uitschakeling van het hoofdsysteem waren enkele gigabytes ongeordende informatie de kombuis binnengedrongen en hadden alles onherstelbaar verpest. Gelukkig raakte niemand gewond.

Roger overwoog de gevolgen. De bemanning van het ruimteschip was te klein om voldoende nieuwe ideeën te genereren: daarvoor was veelzijdige communicatie nodig – een veel groter aantal wezens. De verbinding met het thuisfront bood de mogelijkheid om overvloedig ideeën te genereren, maar die was nu kapot: er waren geen hoop op herstel. Voor deze situatie was er een reserve-informatiemodule aan boord van het schip, maar die was beschadigd door de ongeordende informatie die aan boord was gekomen.

„Moet ik echt terugkeren zonder de opdracht te hebben uitgevoerd?” dacht de kapitein wanhopig.

Blijkbaar wel – er was geen andere optie. Als ze verder vliegen naar het bestemmingsdoel, zal het gebrek aan nieuwe ideeën voelbaar worden. Niet onmiddellijk, natuurlijk – na verloop van tijd. Ze zouden zelfs hun missie kunnen volbrengen en hun terugkeer kunnen beginnen, wanneer de geest snel begint te vervagen. In dit galactische sector – ja, ergens hier of in de nabijheid – zal het volledig falen bij alle bemanningsleden. Dan zal het ruimteschip, zonder iemand aan het roer, veranderen in een ongrijpbare schim die zich door de eeuwigheid voortbeweegt.

De bemanning van het ruimteschip keek naar Roger, wachtend op een beslissing. Iedereen begreep de dilemma waarmee de kapitein werd geconfronteerd en bleef stil, terwijl ze stoïcijns met hun tentakels trilden.

Plotseling herinnerde Roger zich het examen kunstmatige intelligentie dat hij had afgelegd tijdens zijn studententijd, en de oplossing kwam vanzelf.

«Zult u een kolonie kunnen vormen van kunstmatige intelligente wezens?» - vroeg hij aan de biotechnoloog.

«Dat kan makkelijk, – bevestigde deze. – Maar het zal niet werken, kapitein, ik heb daarover nagedacht. Een kolonie creëren die genoeg verse ideeën genereert is onmogelijk aan boord van het cruiserschip - er is niet genoeg ruimte. De gegenereerde ideeën zullen niet genoeg zijn, we stellen gewoon onze ondergang uit… Dat is natuurlijk als we de missie blijven uitvoeren en niet naar huis terugkeren», voegde de biotechnoloog eraan toe, terwijl hij naar zijn vrienden keek.

«En als we een kolonie op een nabijgelegen planeet zouden vormen?» - stelde Roger voor.

«Ik kan dat doen, maar…»

«We zullen de planeet vullen met kunstmatige wezens. Op de terugweg, behoorlijk uitgeput, zullen we hier weer langs komen. In de tussenliggende tijd zal de beschaving een intellectuele bagage creëren, die groot genoeg is om onze voorraden aan te vullen. We zullen de informatie downloaden en onze lange reis naar huis voortzetten. Met andere woorden, ik ben van plan om de kolonie te gebruiken als een boerderij voor het kweken van ideeën. Wat vinden jullie van dat plan, vrienden?»

Er ontsprong een hoop op de cognitieve netwerken van de bemanning, de valse hoofden lichtten op in fel licht.

Vooruit, schommelend met de blauwe tentakels, kwam de scheepsspecialist naar voren.

«Prachtig plan, kapitein. Maar beseft u wel welke verantwoordelijkheid u op zich neemt? U bent van plan een hele planeet te koloniseren. Tegen de tijd dat we terugkomen, zal daar een beschaving met intelligentie zijn. Al is het kunstmatig, het is nog steeds intelligentie. Deze jongens zullen meer dan genoeg tijd hebben om een hoog ontwikkelingsniveau te bereiken. We kunnen dit proces niet controleren, vanwege onze afwezigheid in deze galactische sector. Wie weet wat er zal gebeuren bij een volgende ontmoeting?»

Roger glimlachte.

«Daar hoeft u zich geen zorgen over te maken. Er zijn methoden om de ontwikkeling van kunstmatige intelligentie in de tijd te beperken. We zullen de beschaving afsluiten, zodat hun ontwikkeling nooit een gevaarlijk niveau voor ons zal bereiken. Ik zorg daarvoor. Ik ben bekend met de methoden voor het werken met kunstmatige intelligentie.»

De cognitieve netwerken van de bemanning vlamden op in goedkeuring.

«Uiteindelijk, – voegde de kapitein van het ruimteschip toe ter afsluiting van zijn geweldige toespraak, – heb ik dit onderwerp aan de universiteit als examen behandeld.»

6.
Na de gedwongen vertraging schoot het ruimteschip richting zijn doel. Achter het schip bleef een planeet achter, bevolkt door kunstmatige wezens - klein en onopvallend. Hemelsblauw.

Bron: habr.com