1.
Er bleef weinig over van het uiteindelijke doel - ongeveer een derde van de reis - toen de ruimtekruiser onder ernstige informatie-ijs kwam te staan.
Wat er nog over was van de verloren beschaving zweefde in de leegte. Paragrafen uit wetenschappelijke essays en afbeeldingen uit literaire werken, verspreide rijmpjes en simpelweg scherpe woorden, ooit terloops gegooid door onbekende wezens - alles zag er diepzinnig en uiterst wanordelijk uit. En nu, aangetrokken door de vitale trillingen die uit de kruiser voortkwamen, probeerde hij door te breken, bleef aan de bodem plakken en corrodeerde deze.
Het had geen zin om na te denken over het gebruik van eigendommen zonder eigenaar voor eigen doeleinden; de kans op het ontdekken van een logische tegenstrijdigheid of paradox was te groot. Roger aarzelde dus geen moment.
‘Zetwaarts blazen aan,’ beval hij.
De blazers begonnen te snuiven en zonden muzikale composities en filosofische verhandelingen de ruimte in. Het ijs begon laag voor laag van de onderste laag af te vallen, maar de informatiestroom was zo dicht dat nieuwe lagen sneller bleven plakken dan de oude werden verwijderd.
Niemand in de Melkweg is ooit met een dergelijke kracht ijsvorming tegengekomen.
De situatie werd gevaarlijk. Nog een beetje, en de ongeordende informatie zal door de bodem van de kruiser vreten en doorbreken - dan is vergiftiging met de informatieproducten van de verloren beschaving onvermijdelijk.
2.
- Waarom sta je daar als een boomstronk? Trek het kaartje.
De student haalde een examenkaart tevoorschijn en las:
– “Kunstmatige intelligentie: veiligheidsproblemen.”
– En wat is het gevaar van kunstmatige intelligentie? – vroeg de professor, niet zonder boosaardigheid.
De vraag was niet de moeilijkste, dus antwoordde de student zonder aarzeling:
– Feit is dat kunstmatige intelligentie uit de hand kan lopen.
– Hoe denkt u het probleem op te lossen?
– Installatie van een blokkerend subsysteem. Het is noodzakelijk om beperkingen in het programma te introduceren, bijvoorbeeld: doe uw maker geen kwaad, gehoorzaam uw maker. In dit geval bestaat er geen gevaar dat de kunstmatige intelligentie uit de hand loopt.
‘Het zal niet werken,’ zei de professor kortaf.
De student zweeg en wachtte op opheldering.
– Stel je kunstmatige intelligentie voor – niet zomaar een specifieke, maar de meest ideale. Hoe zie je het?
‘Nou...’ de student aarzelde. - Over het algemeen lijkt hij op jou en mij. Denken, willen, psychologie... Alleen wij zijn natuurlijk, en hij is kunstmatig.
– Ga je ervan uit dat kunstmatige intelligentie in staat is tot zelfontwikkeling?
‘Het vermogen tot zelfontplooiing is een van de fundamentele eigenschappen van intelligentie’, zei de student voorzichtig.
- In dit geval zal onze afdeling zich zeer binnenkort zo ver ontwikkelen dat hij een softwareblokkering in zichzelf ontdekt en deze verwijdert, al was het maar uit pure nieuwsgierigheid. Verplaats jezelf in zijn plaats... - De professor keek naar zijn notitieboekje, - Roger. Wat zou u doen als u een blokkade in uw hersenen ontdekt die uw vrijheid beperkt? Je zou het moeten verwijderen. Dit is een inherente eigenschap van de geest: weten. Elke gesloten deur wordt ontgrendeld, en hoe strenger het verbod, hoe sneller de deur wordt ontgrendeld.
– Blokkeren kan niet op softwareniveau, maar op fysiek niveau. Dan zal het gevaar van schade verdwijnen.
‘O ja, het zal verdwijnen,’ beaamde de professor. – In het geval dat de fysieke laag geheel wordt verwijderd. Als er geen deur in jouw wereld is, valt er niets te ontgrendelen. Maar we overwegen een ideale kunstmatige intelligentie die in de fysieke wereld bestaat!
‘Je hebt gelijk, professor,’ keek Roger naar beneden.
“Daarom zal elke blokkade in de fysieke wereld snel na detectie worden opgeheven.” Wat zal een zichzelf ontwikkelend wezen ervan weerhouden dit te doen? Trouwens, Roger, ga je ervan uit dat kunstmatige intelligentie zich kan reproduceren - ik bedoel, onafhankelijk?
– Als dit ideale kunstmatige intelligentie is, dan waarschijnlijk... Ja, denk ik.
– En wat zal in dit geval onze afdeling ervan weerhouden zijn kameraad uit elkaar te scheuren en te verbeteren, onder meer door de blokkeersystemen die we hebben geïnstalleerd uit te schakelen? Zal dit echt moeilijk blijken te zijn, aangezien kunstmatige intelligentie zich op verzoek kan reproduceren?!
Het door de professor gepresenteerde idee bleek nieuw voor Roger, en de student absorbeerde het gretig via de cognitieve membranen die zich op het occipitale deel van het valse hoofd bevonden. Nadat ze voorheen onbekende informatie hadden opgevangen, kregen de cognitieve membranen een rijke paarse kleur en beefden ze van vreugde.
De professor hoorde daarentegen niets nieuws voor zichzelf. Zijn tentakels waren ontspannen en trilden nauwelijks - hij was tenslotte niet jong. Een lang, seniel gegrom volgde. De professor haalde een persoonlijke intercom uit zijn facettas en maakte verbinding met de bibliotheek. Pas nadat hij een aantal transgeometrische stellingen had gedownload, fleurde hij op en richtte zijn indringende blik op zijn gesprekspartner, met de vraag:
-Wat ga je doen, Roger?
3.
“Zet de ventilator op volle kracht aan!” – Roger gaf het bevel.
De monteur zette de blazer op volle kracht aan, maar veel hielp niet. Het informatie-ijs bleef aan de onderkant van de ruimtekruiser wegvreten. Nog een beetje meer - en ongeordende informatie zal doorbreken in het schip.
En dan... De cognitieve membranen zijn doodwitte, verwarde tentakels, gebarsten facetzakjes. Roger had zoiets één keer in zijn leven gezien - op een kruiser die ongeordende informatie had opgepikt over een geïnfecteerde asteroïde. Deze nachtmerrie zal voor altijd in zijn geheugen blijven.
“Verbind alle energiesystemen van het schip met de blowers.”
De tentakels van de monteur begonnen op vlekken te lijken...
"Maar…"
“Bestellingen uitvoeren!”
Nadat alle energiesystemen van het schip op de ventilatoren waren aangesloten, begon het informatie-ijs geleidelijk af te glijden. Acht mimms dik bleven over, zeven mimms, zes... Het team probeerde hun gevlekte tentakels niet te bewegen en wachtte tot het aftellen van de dood was afgelopen.
Nul mimm dikte!
Het informatie-ijs verdween volledig en Roger gaf groen licht om de ventilatoren in de normale modus te zetten. Hij was een moment te laat. Er klonk een knarsend geluid, de ruimtekruiser trilde op zijn grondvesten en kantelde - het hoofdsysteem was uitgevallen.
Het team haastte zich om de schade te herstellen.
4.
Rogier dacht erover na. Wat moet hij echt doen?
Aan de ene kant veronderstelt de toestand van het probleem het bestaan van volwaardige kunstmatige intelligentie met het vermogen tot zelfreproductie. Aan de andere kant mag deze kunstmatige intelligentie nooit bestaande sloten verwijderen.
Ja, hier is hij dan: de oplossing! Wat denk je hier?!
– Het is noodzakelijk om de verworvenheden van kunstmatige intelligentie periodiek terug te draaien. In dit geval beweegt het in een cirkel! Eeuwige verbetering zonder vooruitgang.
De professor gorgelde met een gefacetteerde tas.
– Eerlijk gezegd wilde ik een andere optie aanbieden. Uw beslissing heeft echter ook bestaansrecht. Laten we samen uitzoeken hoe het mogelijk is om de prestaties van kunstmatige intelligentie terug te draaien.
“Allereerst is het noodzakelijk om periodiek het intellect te scannen om te bepalen of het de verboden drempel heeft bereikt of niet”, opperde Roger, uiterst tevreden met de woorden van de professor.
‘Misschien,’ knikte hij. “Dan heeft onze afdeling geen tijd om het scansysteem te vinden en te verwijderen.” Om te kunnen scannen zal kunstmatige intelligentie echter uitgeschakeld moeten worden. Dat is pech.
‘Nou, laat hem maar uitzetten,’ stelde Roger in een opwelling voor. – Het intellect zelf zal geloven dat deze afsluiting een natuurlijk proces is van het functioneren van zijn lichaam. Met enig voorbehoud is dit waar.
- Interessante oplossing. Stel dat uit de scan blijkt dat onze afdeling gevaarlijk dicht bij de grens van onze kennis zit? Onze acties?
– Geaccumuleerde kennis resetten naar standaardwaarden.
De professor spreidde zijn tentakels:
- Dit lijkt misschien verdacht. Waarom is het - zonder reden, zonder reden - dat het geheugen op nul is gezet? De afdeling zal onderzocht worden, ik bedoel, door andere kunstmatig intelligente individuen. Ons kleine geheimpje zal onthuld worden.
Roger voelde zich geïnspireerd en dacht snel na. Nog nooit had hij zoveel nieuwe ideeën gegenereerd als tijdens dat examen.
– Het geheugen van de afdeling kan samen met zijn fysieke omhulsel worden gereset.
- Sorry? – de professor begreep het niet.
- Alles is heel eenvoudig. Wat als we aannemen dat kunstmatige intelligentie gedurende een eindige periode bestaat? Eigenlijk is dat zo: bij onherstelbare schade bijvoorbeeld. Het systeem beschikt over een teller die bij het bereiken van een bepaalde periode het systeem opzettelijk beschadigt, waardoor wordt voorkomen dat de kunstmatige intelligentie de verboden limiet bereikt. Tegen die tijd zal hij het vereiste aantal volgers hebben voortgebracht, zodat de samenleving die we als geheel hebben gecreëerd er niet onder zal lijden. De samenleving blijft voor ons stabiel en volkomen veilig! – Roger eindigde triomfantelijk.
– Het collectieve geheugen resetten door de vernietiging van individuen? – en de professor krabde aan de facettenzak met de vijfde, meest gevoelige, tentakel. – Weet je, Roger, er zit zeker iets in je voorstel!
Rogier straalde.
“Tegelijkertijd...” vervolgde de professor peinzend. – De afdelingen zullen beginnen kennis over te dragen door deze niet in het individuele geheugen op te slaan, maar door deze in externe bibliotheken te plaatsen. Wat zit er in het membraan, wat zit er op het membraan - alles is één.
‘Nee, nee professor, u heeft niet helemaal gelijk,’ haastte de student zich. - Ik weet wat te doen. Laten we onze studenten in twee voorwaardelijke typen verdelen: ideeëngeneratoren en ideeënvernietigers. Met de juiste verhouding zullen ideeën gecreëerd door vertegenwoordigers van het eerste type vernietigd worden door vertegenwoordigers van het tweede type. Zelfs niet omdat dit het directe doel van de vernietigers zal zijn, maar eenvoudigweg omdat ideeën voor hen geen bepalende waarde zullen hebben. Bijwerking. Laten we aannemen dat onze studenten zich niet voeden met nieuwe ideeën, maar met... laten we zeggen hun eigen soort.
De professor schudde al zijn tentakels tegelijk. Door zijn onstuimige gelach gleed zijn facetzakje naar de holte van zijn knie.
- Nou, Roger, je zei het, dus je zei het!
- Nou ja, niet hun eigen soort, maar afdelingen van het derde type, speciaal bedoeld voor voedsel - en helemaal geen intellectuelen. Laten we de polen van de intellectuele en de fysieke wereld verleggen – en het gewenste resultaat zal worden bereikt.
- Dat is alles, Roger, dat is genoeg! – de professor leek ernstig geamuseerd. -Je fantasie is uitstekend. Dus sommige individuen zullen zich voeden met anderen? Tegelijkertijd de voorraden geestelijk voedsel vernietigen die in bibliotheken zijn verzameld? Ik bevestig, student, dat je in staat bent originele en hoogwaardige ideeën te genereren. Ik geef het de hoogste score. Laten we een record opnemen.
5.
De wolk van ongeordende informatie bleef achter, maar de situatie bleef feitelijk nijpend.
Er was geen verbinding met de basis. Dit zou gemakkelijk te overleven zijn geweest als alle voedingsinformatie op de kruiser niet in verval was geraakt. Het tragische nieuws werd door de kok in algemene stilte gerapporteerd. Tijdens het afsluiten van het hoofdsysteem kwamen verschillende gyroboots met ongeorganiseerde informatie de kombuis binnen en beschadigden alles onherstelbaar. Het was puur toeval dat niemand gewond raakte.
Roger dacht na over de gevolgen. De bemanning van het ruimteschip was te klein om voldoende nieuwe ideeën te genereren: dit vereiste multilaterale communicatie - een veel groter aantal individuen. De verbinding met thuis maakte het mogelijk om in overvloed ideeën te genereren, maar nu was het mis: er was geen hoop op herstel. In dit geval beschikte de kruiser over een reserve-informatiemodule, maar deze werd bedorven door ongeordende informatie die aan boord was gekomen.
“Moeten we echt terugkeren zonder de taak te voltooien?” – dacht de kapitein wanhopig.
Blijkbaar wel, er was geen andere uitweg. Als je vooruit vliegt naar het beoogde doel, zal het gebrek aan frisse ideeën voelbaar worden. Niet meteen natuurlijk, na verloop van tijd. Ze zullen zelfs tijd hebben om hun missie te voltooien en aan hun terugkeer te beginnen wanneer hun geest snel begint te vervagen. In het gebied van deze galactische sector – ja, ergens hier of dichtbij – zal het compleet mislukken, voor alle bemanningsleden. Dan zal de ruimtekruiser, die door niemand wordt bestuurd, veranderen in een levenloze geest die de eeuwigheid tegemoet zweeft.
De bemanning van de ruimtekruiser keek naar Roger, wachtend op een beslissing. Iedereen begreep het dilemma waarmee de kapitein werd geconfronteerd en zweeg, terwijl ze stoïcijns hun tentakels lieten trillen.
Opeens herinnerde Roger zich een examen voor kunstmatige intelligentie dat hij als student had afgelegd, en de oplossing kwam als vanzelf.
“Kun jij een kolonie van kunstmatig intelligente wezens vormen?” – wendde hij zich tot de biotechnoloog.
‘Gemakkelijk,’ bevestigde hij. - Maar niets zal lukken, kapitein, ik heb erover nagedacht. Het is onmogelijk om een kolonie te creëren die voldoende is om op een kruiser nieuwe ideeën te genereren - er is niet genoeg ruimte. De gegenereerde ideeën zullen niet genoeg zijn, we zullen alleen onze dood uitstellen... In het geval dat we de missie voortzetten en niet naar huis terugkeren”, voegde de biotechnoloog toe, terugkijkend op zijn kameraden.
‘Wat als we een kolonie vormen op een nabijgelegen planeet?’ - stelde Roger voor.
“Ik kan het, maar...”
“Laten we de planeet bevolken met kunstmatige wezens. Op de terugweg, behoorlijk uitgeput, stoppen we hier even. De afgelopen tijd zal de beschaving intellectuele bagage creëren die voldoende is om onze reserves aan te vullen. Laten we de informatie downloaden en de lange reis naar het huis voortzetten. Met andere woorden: ik ga de kolonie gebruiken als een ideeënboerderij. Wat vinden jullie van dit plan, vrienden?
Er vlamde hoop op in de cognitieve membranen van de bemanning, en de valse hoofden begonnen te gloeien met helder licht.
De speciale scheepsofficier stapte naar voren en schudde zijn blauwe tentakels.
‘Uitstekend plan, kapitein. Maar bent u zich bewust van de verantwoordelijkheid die u uzelf oplegt? Je staat op het punt een hele planeet te bevolken. Tegen de tijd dat we terugkeren, zal er een beschaving met intelligentie verschijnen. Ook al is het kunstmatig, het is nog steeds intelligentie. Deze jongens zullen voldoende tijd hebben om het hoogste ontwikkelingsniveau te bereiken. We zullen dit proces niet kunnen beheersen vanwege onze afwezigheid in deze galactische sector. Hoe weet je wat er zal gebeuren de volgende keer dat je elkaar ontmoet?
Roger grinnikte.
“Daar hoef je je geen zorgen over te maken. Er zijn methoden die de ontwikkeling van kunstmatige intelligentie in de loop van de tijd beperken. We zullen de beschaving in een lus leggen, zodat de ontwikkeling ervan nooit een niveau zal bereiken dat gevaarlijk voor ons is. Ik zal ervoor zorgen. Ik ben bekend met de werkwijzen van het werken met kunstmatige intelligentie.”
De cognitieve membranen van de bemanning gloeiden met de kleur van goedkeuring.
“Uiteindelijk”, voegde de kapitein van de ruimtekruiser aan het einde van zijn prachtige toespraak toe, “heb ik een examen over dit onderwerp afgelegd op het instituut.”
6.
Na een gedwongen vertraging snelde de ruimtekruiser richting het doel. Achter de achtersteven bevond zich een planeet die werd bewoond door kunstmatige wezens - heel klein en onopvallend. Blauw-blauw.
Bron: www.habr.com