1.
A végső célig már csak egy kis rész volt hátra – körülbelül egyharmad út – amikor a űrhajó nagyon erős információs jégverés alá került.
Ami a kihalt civilizációból megmaradt, a vákuumban lebegett. Tudományos értekezések bekezdései és irodalmi művek képei, szétforgácsolt rímpárok és egyszerűen csak éles megjegyzések, amelyeket egykor véletlenül ismeretlen lények dobtak el – mindez furcsán és rendkívül rendezetlenül nézett ki. Most pedig, vonzva a űrhajóból érkező életenergiáktól, próbált bejutni belülre, rátapadt az aljára és elkezdte azt marni.
Nem volt mivel gondolkodni, hogy a gazdátlan javakat saját céljaira felhasználja, túl nagy volt a valószínűsége a logikai ellentmondásnak vagy paradoxonnak. Ezért Roger egy pillanatig sem habozott.
„Kapcsoljátok be a légfúvókát”, – parancsolta.
A légfúvókák zümmögni kezdtek, zenei kompozíciókat és filozófiai értekezéseket sugározva az űrbe. A jégverés rétegről rétegre kezdett leválni az aljáról, de az információs áram annyira sűrű volt, hogy az új rétegek gyorsabban tapadtak rá, mint ahogyan a régiek eltávolodtak.
Ilyen erősségű jégveréssel még senki nem találkozott a galaxisban.
A helyzet veszélyessé vált. Még egy kicsit, és a rendezetlen információk átlyukasztják a űrhajó alját és bejutnak belülre – akkor elkerülhetetlen lesz a halott civilizáció termékeivel való mérgeződés.
2.
– Nos, miért állnak ott, mint egy farönk? Húzzák elő a vizsgalapot.
A diák előrántotta a vizsgalapot és felolvasta:
– „Mesterséges intelligencia: a biztonsági problémák”.
– Mi a veszélye a mesterséges intelligenciának? – kérdezte a professzor némi iróniával.
A kérdés nem volt a legnehezebb, ezért a diák gondolkodás nélkül válaszolt:
– Abban, hogy a mesterséges értelem kontroled alá kerülhet.
– Hogyan tervezik megoldani a problémát?
– Egy blokkoló alrendszer telepítésével. A programba korlátozásokat kell bevinni, például: nem ártani a teremtőjének, engedelmeskedni a teremtőjének. Ilyen esetben a mesterséges intelligência kontroll alá kerülésének veszélye megszűnik.
– Ez nem fog menni, – mondta a professzor röviden.
A diák hallgatott, várva a magyarázatokra.
– Képzeljék el a mesterséges intelligenciát – nem valamilyen konkrétat, hanem a legideálisabbat. Hogyan képzelik el?
– Nos… – habatkozott a diák. – Alapvetően hasonlít ránk. Gondolkodás, akarat, pszichológia... Csak mi természetesek vagyunk, ő pedig mesterséges.
– Arra gondol, hogy a mesterséges intelligencia képes önfejlődésre?
– Az önfejlesztés képessége az intelligencia egyik alapvető tulajdonsága, – mondta óvatosan a diák.
– Ebben az esetben nemsokára a gondozottunk eljut arra a pontra, hogy felfedezi magán egy programozási korlátot, és eltávolítja azt, legalább a tiszta kíváncsiságból. Tegye magát a helyébe… – a professzor a zárthelyit nézte, – Roger. Mit tenne, ha felfedezne egy blokkolót az agyában, ami korlátozza a szabadságát? Eltávolítaná. Az értelem elengedhetetlen tulajdonsága a tudás keresése. Bármely zárt ajtót kinyitnak, és minél szigorúbb a tilalom, annál gyorsabban nyílik ki az ajtó.
– A blokkolót nemcsak programozási, hanem fizikai szinten is el lehet végezni. Ekkor a kár veszélye eltűnik.
– Ó, igen, eltűnik, – egyetértett a professzor. – Abban az esetben, ha a fizikai szintet teljesen eltávolítják. Ha egy ajtó sincs a te világodban, akkor nincs mit kinyitni. De mi az ideális mesterséges intelligenciát vizsgáljuk, amely a fizikai világban létezik!
– Igaza van, professzor, – lehorgasztotta a fejét Roger.
– Ezért bármilyen blokkolás a fizikai világban gyorsan ki lesz kapcsolva, mi akadályozhatná meg az önfejlődő lényt ebben?... Egyébként, Roger, gondolja, hogy a mesterséges intelligenciának van reprodukciós képessége – arra gondolok, hogy önállóan?
– Ha ez egy ideális mesterséges intelligencia, akkor valószínűleg… Igen, úgy gondolom.
– És mi akadályozná meg a gondozottunkat abban, hogy darabokra szedje a társát, és továbbfejlessze, többek között az általunk beállított blokkolások eltávolításával? Igazán nehéznek tűnik, hogy a mesterséges intelligencia képes reprodukálni magát igény szerint?!
A professzor által közvetített gondolat új volt Roger számára, és a diák mohón felszívta azt a tarkója hátsó részén elhelyezkedő kognitív hártyáin keresztül. Miután új információt érzékelt, a kognitív hártyák gazdag lila színt nyertek és boldogan remegték.
A professzor számára semmi új nem hangzott el. Csápjai ellazultak és szinte nem rezegtek – végül is nem volt már fiatal. Hosszú öregkori gurgulázás következett. A professzor elővette a facettás táskából az egyedi interkomját, és csatlakozott a könyvtárhoz. Csak néhány transzgeometriai tétel letöltése után éledt fel, és rámeredt a beszélgetőpartnerére, kérdezve:
– Mit fog tenni, Roger?
3.
„Aktiválja a szellőztetést teljes sebességgel!” – parancsolta Roger.
A mechanikus aktiválta a szellőztetést teljes sebességgel, de ez alig segített. Az információs dér továbbra is megette a űrhajó alját. Még egy kicsit, és a rendezetlen információ be fog törni a hajóba.
És akkor… A halott fehérszínű kognitív membránok, összegabalyodott csápok, szétrepedt facettás zsákok. Roger életében egyszer látott ilyet – egy űrhajón, amely rendezetlen információt kapott egy fertőzött aszteroida során. Ez a rémálom örökre megmarad az emlékezetében.
„Csatlakoztassa az összes energetikai rendszert a szellőztetőkhöz.”
A mechanikus csápjai foltokban mozogtak...
„De…”
„Teljesítse a parancsot!”
Miután az összes energetikai rendszert csatlakoztatták a szellőztetőkhöz, az információs dér fokozatosan elkezdett lecsúszni. Nyolc mim vastagság maradt, hét mim, hat... A csapat, próbálva elkerülni a foltos csápjaik mozgását, várta a halálos visszaszámlálás végét.
Nulla mim vastagság!
Az információs dér teljesen eltűnt, és Roger intett, hogy váltson a szellőztetőkre normál üzemmódra. Egy pillanatra elkésett. Hangos csikorgás hallatszott, az űrhajó megremegett, és megdőlt – a főrendszer meghibásodott.
A csapat nekilátott a károk javításának.
4.
Roger úgy gondolkodott. Mit tegyen most igazából?
Egyrészt a feladatfeltétel teljes mesterséges intelligencia létezését feltételezi, amely képes az önmásolásra. Másrészt e mesterséges intelligencia számára semmiképpen sem szabad engedélyezni a telepített blokkok eltávolítását.
Itt van a megoldás! Mit gondolkodom ezen?!
– Időnként vissza kell vonni a mesterséges intelligencia eredményeit. Ekkor egy helyben fog járni! Az örök fejlődés előrehaladás nélkül.
A professzor buborékos zsákkal zümmögött.
– Bevallom, más lehetőséget akartam javasolni. Azonban a te megoldásodnak is megvan a joga a létezésre. Nézzük együtt, hogyan lehetne visszavonni a mesterséges intelligencia eredményeit.
– Mindenekelőtt időnként be kell scanálnunk az intelligenciát, hogy megállapítsuk, megközelítette-e a tilalmas küszöböt vagy sem – javasolta Roger, aki rendkívül boldog volt a professzor szavai miatt.
– Talán – bólintott. – Akkor a mi alanyunknak nem lesz ideje megtalálni és eltávolítani a szkennelő rendszert. Azonban a mesterséges intelligenciát le kell állítani a szkenneléshez. Ez probléma.
– Hát, hadd álljon le – javasolta Roger ösztönösen. – Maga az intelligencia azt fogja gondolni, hogy ez a leállás a működése természetes folyamata. Néhány fenntartással ez igaz.
– Érdekes megoldás. Tegyük fel, hogy a szkennelés megállapította, hogy alanyunk veszélyesen közel került a tudás határához? Mik a lépéseink?
– Vissza kell állítani a felhalmozott tudást az alapértelmezett értékekre.
A professzor kiterjesztette a karjait:
– Ez gyanúsnak tűnhet. Miért törlődött ki a memória – sehonnan, sehová? Az alanyt vizsgálni fogják, értem – más mesterséges intelligenciák. A mi kis titkunk lelepleződik.
Érezve az inspirációt, Roger nagyon gyorsan gondolkodott. Soha nem generált annyi új ötletet, mint azon a vizsgán.
– Az alany memóriája nullázódhat a fizikai burkával együtt.
– Elnézést? – nem értette a professzor.
– Minden nagyon egyszerű. Mi lenne, ha feltételeznénk: a mesterséges intelligencia létezik egy véges időszakban? Valójában így van: ha például helyrehozhatatlan kár keletkezik. A rendszerben van egy számláló, amely a megadott idő periódusának elérésekor szándékosan megrongálja a rendszert, megakadályozva, hogy a mesterséges intelligencia elérje a tilalmas határt. Addigra a szükséges számú követőt létrehoz, így az általunk létrehozott társadalom egésze nem szenved kárt. A társadalom stabil marad és teljesen biztonságos számunkra! – fejezte be diadallal Roger.
– A kollektív emlékezet nullázása egyes egyedek megsemmisítésével? – és a professzor az ötödik, legérzékenyebb csáppal megvakarta a facet bag-t. – Tudja, Roger, van valami a javaslatában!
Roger felderült.
– Ezzel együtt… – folytatta a professzor elgondolkodva. – A gondozottak úgy kezdenek tudást átadni, hogy nem halmozzák fel azt egyéni emlékezetükben, hanem külső könyvtárakban helyezik el. Ami a membránba, ami a membránon át – mindegy.
– Nem, nem, professzor, nem egészen érti – sietett a hallgató. – Tudom, mit kell tennünk. Osszuk a gondozottakat két feltételes típusra: ötletgeneráló és ötletmegsemmisítő. Helyes arány esetén az első típus képviselői által létrehozott ötletek a második képviselői által megsemmisülnek. Nem is azért, mert ez lenne a megsemmisítők közvetlen célja, hanem egyszerűen azért, mert az ötletek nem lesznek számukra meghatározó értékűek. Mellékhatás. Tegyük fel, hogy a gondozottaink nem új ötletekkel táplálkoznak, hanem… mondjuk, hasonlókkal.
A professzor egyszerre rázta meg az összes csápját. A facet bag-je a nevetgélő nevetéstől elmozdult a térdhajlatába.
– Nos, Roger, azt mondtad, amit mondtál!
– Nos jó, nem hasonlókkal, hanem harmadik típusú gondozottakkal, amelyeket kifejezetten táplálkozásra szántak – korántsem intellektuálisakkal. Áthelyezzük az intellektuális és a fizikai világ pólusait – és elérjük a kívánt eredményt.
– Minden rendben van, Roger, ennyi elég! – a professzor láthatóan nem viccelődött. – Kiváló a fantáziája. Szóval egyesek másokkal táplálkoznak? Eközben elpusztítják a könyvtárakban felhalmozott szellemi táplálékot? Megerősítem, diák, képes olyan eredeti és minőségi ötleteket generálni. A legmagasabb osztályzatot adom. Jöjjenek a jegyzetfüzetek.
5.
A rendezetlen információ felhője mögött maradt, de a helyzet továbbra is tragikus volt valójában.
A kapcsolat a bázissal megszűnt. Ezt könnyen elviselhették volna, ha az összes tápláló információs bázis a cirkálón nem járt volna katasztrofális állapotban. A tragikus hírt a szakácsnak közölték, mindannyian csendben. A főrendszer leállásának idején néhány gidabájt rendezetlen információ behatolt a konyhába, és helyrehozhatatlanul tönkretett mindent. Csak a szerencsének köszönhetően senki nem sérült meg.
Roger felmérte a következményeket. A csillaghajó legénysége túl kicsi volt ahhoz, hogy elegendő új ötletet generáljon: ehhez sokoldalú kommunikációra volt szükség – sokkal több lényre. A hazai kapcsolatok bőséges ötleteket generálhattak, de most megszűntek: a helyreállításra nem volt remény. Erre az esetre a cirkálón egy tartalék infomodul állt rendelkezésre, de azt elrontotta a fedélzetre bejutott rendezetlen információ.
– Nem kellene visszatérni, anélkül hogy teljesítenénk a feladatot? – gondolta kétségbeesetten a kapitány.
Úgy tűnik, igen – más lehetőség nem volt. Ha előre repülnek a kitűzött cél felé, a friss ötletek hiánya éreztetni fogja hatását. Nem azonnal, természetesen – idővel. Még annyira el tudják végezni a küldetésüket, és elkezdhetnek visszatérni, amikor az elme gyorsan kezd elhomályosodni. Ennek a galaktikus szektornak a közelében – igen, valahol itt vagy a közelben – teljesen leáll, minden legénységi tag esetében. Akkor a űrcirkáló, amit senki nem irányít, örökre egy lélektelen szellemné válik.
A űrcirkáló legénysége Rogerre nézett, várva a döntését. Mindenki értette a kapitány előtt álló dilemmát, és hallgattak, sztoikus módon rezgő csápokkal.
Hirtelen Roger eszébe jutott a mesterséges intelligencia vizsgája, amelyet diákévei alatt tett, és a megoldás magától érkezett.
„Lehetőségünk van mesterséges intelligenciákkal kolóniát létrehozni?” – fordult a biotechnológushoz.
„Egyszerűen – válaszolta ő. – De nem fog működni, kapitány, ezen már gondolkodtam. Kolóniát létrehozni, amely elég friss ötletet generálna, egy cirkáló fedélzetén lehetetlen – nem elég a hely. A generált ötletek nem lesznek elegendőek, csak halogatni fogjuk a pusztulásunkat… Abban az esetben, ha természetesen folytatjuk a küldetést, és nem térünk haza” – tette hozzá a biotechnológus, miközben a társaira nézett.
„Mi lenne, ha egy közeli bolygón alakítanánk ki kolóniát?” – javasolta Roger.
„Meg tudom csinálni, de…”
„Befoglalnánk a bolygót mesterséges lényekkel. Visszafelé, alaposan kimerülve, megállnánk itt. A múlt idő alatt a civilizáció elegendő intellektuális tőkét hoz létre, hogy feltöltsük a készleteinket. Letöltjük az információt, és folytatjuk hosszú utunkat haza. Más szóval, a kolóniát ötletek termesztésére fogom használni. Mit szóltok ehhez a tervhez, barátaim?”
A személyzet kognitív kötelékein felcsillant a remény, a hamis fejek fényesen világítottak.
Előre lépett a hajó különleges embere, kékes tapogatóival lengetve.
„Kiváló terv, kapitány. De tudatában van annak a felelősségnek, amit magára vállal? Egy teljes bolygót kíván benépesíteni. Mire visszatérünk, civilizáció fog ott megjelenni intelligenciával. Akármilyen mesterséges is, akkor is intelligencia. Ezeknek a fiataloknak rengeteg idejük lesz, hogy a legmagasabb szintű fejlődést elérjék. Nem fogjuk tudni ellenőrizni ezt a folyamatot, mert nem leszünk jelen ebben a galaktikus szektorban. Ki tudja, mi fog történni a következő találkozáskor?”
Roger elmosolyodott.
„Ezért ne aggódjon. Vannak módszerek, amelyek korlátozzák a mesterséges intelligencia fejlődését az idő során. Lezárjuk a civilizációt, így a fejlődése soha nem éri el a számunkra veszélyes szintet. Én gondoskodom erről. Ismerem a mesterséges intelligenciával végzett munkamódszereket.”
A személyzet kognitív kötelékei az elismerés színével lángra kaptak.
„Végül is” – tette hozzá a űrcirkáló kapitánya, befejezve csodálatos beszédét – „én ezt a témát vizsgáztam a főiskolán.”
6.
A kényszerű késlekedés után a űrhajó célja felé indult. A mögötte maradt bolygó, amely mesterséges lényekkel volt tele, nagyon kicsi és feltűnhetetlen volt. Kék-kék.
Forrás: habr.com
