1.
Már alig volt hátra a végső célig - körülbelül az út harmada -, amikor az űrcirkáló komoly információs jegesedésbe került.
Ami az elveszett civilizációból megmaradt, az az ürességben lebegett. Tudományos esszék bekezdései és irodalmi művek képei, szétszórt rímek és egyszerűen éles szavak, amelyeket egykor ismeretlen lények véletlenül dobtak ki – minden elgondolkodtatónak és rendkívül rendezetlennek tűnt. És most, a cirkálóból kiáramló életfontosságú rezgések vonzották, megpróbált áttörni, a fenékhez tapadt és korrodálta.
Nem volt értelme a gazdátlan ingatlan saját célokra történő felhasználásán gondolkodni, túl nagy a valószínűsége annak, hogy logikai ellentmondást vagy paradoxont fedezzünk fel. Így hát Roger egy pillanatig sem habozott.
– Kapcsolja be az oldalfúvást – parancsolta.
A fúvók szipogni kezdtek, zenei kompozíciókat és filozófiai értekezéseket sugároztak a világűrbe. Az alsó rétegről rétegről rétegre kezdett lehullani a jegesedés, de az információáramlás olyan sűrű volt, hogy az új rétegek gyorsabban leragadtak, mint a régiek.
A galaxisban még soha senki nem találkozott ilyen erejű jegesedéssel.
A helyzet veszélyessé vált. Még egy kicsit, és a rendezetlen információk átemésztik a cirkáló alját, és áttörnek - akkor elkerülhetetlen a mérgezés az elveszett civilizáció információs termékeivel.
2.
- Miért állsz ott, mint egy fatönk? Húzd meg a jegyet.
A diák elővett egy vizsgakártyát, és felolvasta:
– „Mesterséges intelligencia: biztonsági kérdések”.
– És milyen veszélyt rejt magában a mesterséges intelligencia? – kérdezte nem rosszindulat nélkül a professzor.
A kérdés nem volt a legnehezebb, így a hallgató habozás nélkül válaszolt:
– Az tény, hogy a mesterséges intelligencia kikerülhet az irányítás alól.
– Hogyan kívánja megoldani a problémát?
– Blokkoló alrendszer telepítése. Szükséges korlátozásokat bevezetni a programba, például: ne bántsd az alkotót, engedelmeskedj alkotódnak. Ebben az esetben nem áll fenn annak a veszélye, hogy a mesterséges intelligencia kicsúszik az irányítás alól.
– Nem fog működni – mondta röviden a professzor.
A diák elhallgatott, és várta a felvilágosítást.
– Képzeld el a mesterséges intelligenciát – nem akármilyen konkrétat, hanem a legideálisabbat. hogy látod?
– Hát… – habozott a diák. - Általában hasonlít rád és én. Gondolkodás, akarat, pszichológia... Csak mi vagyunk természetesek, ő pedig mesterséges.
– Feltételezi, hogy a mesterséges intelligencia képes önfejlesztésre?
„Az önfejlesztés képessége az intelligencia egyik alapvető tulajdonsága” – mondta óvatosan a diák.
- Ebben az esetben nagyon hamar odáig fog fejlődni a kórtermünk, hogy szoftverblokkolást fedez fel magában és megszünteti, már csak puszta kíváncsiságból is. Tedd magad a helyére... - a professzor a füzetébe nézett, - Roger. Mit tennél, ha felfedeznél egy blokkolót az agyadban, ami korlátozza a szabadságodat? Le kéne venni. Ez az elme eredendő tulajdonsága – tudni. Minden bezárt ajtó kinyit, és minél szigorúbb a tilalom, annál gyorsabban nyílik ki az ajtó.
– A blokkolás nem szoftveres, hanem fizikai szinten történhet. Ekkor megszűnik a kárveszély.
– Ó, igen, el fog tűnni – értett egyet a professzor. – Abban az esetben, ha a fizikai réteget teljesen eltávolítják. Ha nincs ajtó a világotokban, akkor nincs mit kinyitni. De egy ideális mesterséges intelligencián gondolkodunk, amely a fizikai világban létezik!
– Igaza van, professzor – nézett le Roger.
"Ezért a fizikai világ bármely blokkolása hamarosan az észlelés után megszűnik." Mi akadályoz meg ebben egy önfejlesztő lényt?.. Egyébként, Roger, azt feltételezed, hogy a mesterséges intelligencia képes lesz szaporodni - úgy értem, önállóan?
– Ha ez ideális mesterséges intelligencia, akkor valószínűleg... Igen, azt hiszem.
– És ebben az esetben mi akadályozza meg kórtermünket abban, hogy széttépje a bajtársát és javítsa rajta, többek között az általunk telepített blokkolórendszerek letiltásával? Ez tényleg nehéznek bizonyul, tekintve, hogy a mesterséges intelligencia igény szerint képes reprodukálni?!
A professzor által előadott ötlet Roger számára újszerűnek bizonyult, és a hallgató mohón szívta magába a hamis fej occipitalis részén található kognitív membránokon keresztül. A korábban ismeretlen információk megszerzése után a kognitív membránok gazdag lila színt kaptak, és örömmel remegtek.
A professzor éppen ellenkezőleg, semmi újat nem hallott a maga számára. Csápjai ellazultak és alig vibráltak – elvégre nem volt fiatal. Hosszú, szenilis gurgulázás következett. A professzor előhúzott egy személyes kaputelefont a táskájából, és csatlakozott a könyvtárhoz. Csak miután több transzgeometriai tételt letöltött, élénkült fel, és átható pillantását fordította beszélgetőpartnerére, és megkérdezte:
- Mit fogsz csinálni, Roger?
3.
"Kapcsold be a ventilátort teljes teljesítményre!" – adta ki a parancsot Roger.
A szerelő teljes erővel bekapcsolta a fúvót, de nem sokat segített. Az információs jég tovább emésztette az űrcirkáló alját. Még egy kicsit – és a zavaros információk áttörnek a hajó belsejében.
És akkor... A kognitív membránok holtfehérek, kusza csápok, szétrepedt fazettazsákok. Roger egyszer látott ilyesmit életében – egy cirkálón, amely rendezetlen információkat kapott egy fertőzött aszteroidáról. Ez a rémálom örökre az emlékezetében marad.
– Csatlakoztassa a hajó összes energiarendszerét a fúvókhoz.
A szerelő csápjai foltszerűen kezdtek megjelenni...
"De…"
"Teljesíteni a rendeléseket!"
Miután a hajó összes energiarendszerét csatlakoztatták a fúvókhoz, az információs jég fokozatosan lecsúszik. Nyolc mimm vastagság maradt, hét mimm, hat... A csapat igyekezett nem mozdítani foltos csápjait, megvárta a halálszámlálás végét.
Nulla mimm vastagság!
Az információs jég teljesen eltűnt, és Roger engedélyt adott, hogy normál üzemmódba kapcsolja a fúvókat. Egy pillanatot késett. Csikorgó hang hallatszott, az űrcirkáló az alapjaiig remegett és megbillent – a fő rendszer meghibásodott.
A csapat sietett a károk helyreállítására.
4.
Roger elgondolkodott. Tényleg mit csináljon?
A probléma feltétele egyrészt feltételezi a teljes értékű, önreprodukciós képességgel rendelkező mesterséges intelligencia meglétét. Másrészt ennek a mesterséges intelligenciának soha nem szabad megengedni, hogy eltávolítsa a meglévő zárakat.
Igen, itt a megoldás! mit gondolsz itt?!
– Időről időre vissza kell görgetni a mesterséges intelligencia vívmányait. Ebben az esetben körben fog mozogni! Örök fejlődés előrelépés nélkül.
A professzor gurgulázott egy csiszolt táskával.
– Őszintén szólva, más lehetőséget akartam kínálni. A döntésednek azonban létjogosultsága is van. Találjuk ki együtt, hogyan lehet visszaforgatni a mesterséges intelligencia vívmányait.
„Először is rendszeresen át kell vizsgálni az intellektust, hogy megállapítsuk, elérte-e a tiltott küszöböt vagy sem” – javasolta Roger, aki rendkívül elégedett volt a professzor szavaival.
– Talán – bólintott. – Akkor az osztályunknak nem lesz ideje megtalálni és eltávolítani a szkennelő rendszert. A mesterséges intelligenciát azonban ki kell kapcsolni a szkenneléshez. Ez balszerencse.
– Nos, hadd kapcsoljon ki – javasolta Roger szeszélyében. – Maga az értelem is elhiszi, hogy ez a leállás teste működésének természetes folyamata. Némi fenntartással ez igaz.
- Érdekes megoldás. Tegyük fel, hogy a vizsgálat során kiderült, hogy osztályunk veszélyesen közel van a tudás határához? A tetteink?
– A felhalmozott tudás visszaállítása az alapértelmezett értékekre.
A professzor széttárta csápjait:
- Ez gyanúsnak tűnhet. Miért van az, hogy - ok nélkül, ok nélkül - nullázták a memóriát? A kórtermet elkezdik vizsgálni, úgy értem, más mesterséges intelligens egyének. Kiderül kis titkunk.
Roger ihletettnek érezte magát, gondolta gyorsan. Soha nem generált annyi új ötletet, mint azon a vizsgán.
– A kórterem memóriája a fizikai héjával együtt visszaállítható.
- Sajnálom? – nem értette a professzor.
- Minden nagyon egyszerű. Mi van, ha feltételezzük, hogy a mesterséges intelligencia véges ideig létezik? Valójában ez így van: helyrehozhatatlan károk esetén pl. A rendszerben van egy számláló, amely egy bizonyos időtartam elérésekor szándékosan károsítja a rendszert, megakadályozva, hogy a mesterséges intelligencia elérje a tiltott határt. Addigra megtermeli a kellő számú követőt, így az általunk létrehozott társadalom egésze nem fog szenvedni. A társadalom stabil és teljesen biztonságos marad számunkra! – fejezte be Roger diadalmasan.
– Visszaállítja a kollektív emlékezetet az egyének megsemmisítésével? – és a professzor az ötödik, legérzékenyebb csápjával megvakarta a fazettazsákot. – Tudod, Roger, biztosan van valami a javaslatodban!
Roger sugárzott.
– Ugyanakkor... – folytatta elgondolkodva a professzor. – A kórtermek úgy kezdik meg az ismeretek átadását, hogy nem az egyéni memóriában halmozzák fel, hanem külső könyvtárakba helyezik el. Mi van a membránban, mi van a membránon – minden egy.
– Nem, nem, professzor, nincs teljesen igaza – sietett a diák. - Tudom mit kell tennem. Osztjuk tanulóinkat két feltételes típusra: ötletgenerátorokra és ötletrombolókra. A megfelelő arány mellett az első típus képviselői által létrehozott ötleteket a második típus képviselői megsemmisítik. Már csak azért sem, mert ez lesz a pusztítók közvetlen célja, hanem egyszerűen azért, mert az eszméknek nem lesz meghatározó értéke számukra. Mellékhatás. Tegyük fel, hogy diákjaink nem új ötletekből táplálkoznak, hanem... mondjuk a saját fajtájukból.
A professzor egyszerre megrázta az összes csápját. Heves nevetésétől a táskája a térde üregére csúszott.
- Nos, Roger, te mondtad, hát mondtad!
- Na jó, nem a saját fajtájuk, hanem a harmadik típusú, kifejezetten élelmezésre szánt kórtermek - és egyáltalán nem értelmiségiek. Toljuk el az intellektuális és a fizikai világ pólusait – és meglesz a kívánt eredmény.
- Ez az, Roger, elég volt! – a professzor láthatóan komolyan szórakozott. -Kiváló a képzelőereje. Tehát egyes egyének másokból táplálkoznak? Ugyanakkor a könyvtárakban felhalmozott szellemi táplálék készleteket semmisíteni? Megerősítem, diák, hogy képes vagy eredeti és minőségi ötleteket generálni. A legmagasabb pontszámot adom rá. Vegyünk egy rekordot.
5.
A rendezetlen információfelhő elmaradt, de a helyzet továbbra is szörnyű maradt.
Nem volt kapcsolat a bázissal. Ezt könnyű lett volna túlélni, ha a cirkálón lévő összes táplálkozási információs bázis nem romlik el. A tragikus hírt a szakács általános csendben közölte. A fő rendszerleállás során több gyroboot, rendezetlen információ jutott be a konyhába, és mindent helyrehozhatatlanul megrongált. Csak a szerencsének köszönhető, hogy senki sem sérült meg.
Roger mérlegelte a következményeket. A csillaghajó legénysége túl kicsi volt ahhoz, hogy elegendő számú új ötletet generáljon: ehhez többoldalú kommunikációra volt szükség – sokkal nagyobb számú személyre. Az otthonhoz fűződő kapcsolat bőséggel tette lehetővé az ötletek generálását, de ez most elromlott: nem volt remény a helyreállításra. Ebben az esetben a cirkálónak volt egy tartalék információs modulja, de azt elrontották a fedélzetre került zavaros információk.
– Valóban vissza kell térnünk a feladat elvégzése nélkül? – gondolta kétségbeesetten a kapitány.
Úgy tűnik, igen – nem volt más kiút. Ha előrerepül a kitűzött cél felé, érezhető lesz a friss ötletek hiánya. Persze nem azonnal – idővel. Még arra is lesz idejük, hogy teljesítsék küldetésüket, és megkezdjék a visszatérést, amikor elméjük gyorsan elhalványul. Ennek a galaktikus szektornak a területén - igen, valahol itt vagy a közelben - teljesen meghibásodik, a legénység minden tagja számára. Ekkor a senki által nem irányított űrcirkáló élettelen, az örökkévalóságba úszó kísértetté változik.
Az űrcirkáló legénysége Rogerre nézett, döntésre várva. Mindenki megértette a kapitány előtt álló dilemmát, és csendben maradt, sztoikusan rezgette a csápját.
Rogernek hirtelen eszébe jutott egy mesterséges intelligencia vizsgája, amelyet diákként tett le, és a megoldás magától jött.
– Képes vagy mesterséges intelligens lények kolóniáját alkotni? – fordult a biotechnológushoz.
– Egyszerű – erősítette meg. - De semmi sem fog sikerülni, kapitány, gondoltam rá. Lehetetlen olyan kolóniát létrehozni, amely elegendő ahhoz, hogy friss ötleteket generáljon egy cirkálón – nincs elég hely. A megszületett ötletek nem lesznek elég, csak halogatjuk a halálunkat... Abban az esetben persze, ha folytatjuk a küldetést, és nem térünk haza” – tette hozzá a biotechnológus, társaira visszatekintve.
– Mi van, ha kolóniát alkotunk valamelyik közeli bolygón? - javasolta Roger.
– Meg tudom csinálni, de…
„Népesítsük be a bolygót mesterséges lényekkel. Visszaúton eléggé kimerülten megállunk itt. Az elmúlt idők során a civilizáció olyan szellemi poggyászt hoz létre, amely elegendő tartalékaink feltöltéséhez. Töltsük le az információkat, és folytassuk a hosszú utat a házig. Más szóval, a telepet ötletfarmnak fogom használni. Hogy tetszik ez a terv, barátaim?
A remény fellángolt a legénység kognitív membránjain, és a hamis fejek erős fénnyel kezdtek izzani.
A hajó különleges tisztje előrelépett, megrázta kék csápjait.
– Kiváló terv, kapitány. De tisztában vagy azzal a felelősséggel, amit magadra hárítasz? Egy egész bolygót készülsz benépesíteni. Mire visszatérünk, megjelenik rajta egy intelligenciával rendelkező civilizáció. Még ha mesterséges is, akkor is intelligencia. Ezeknek a srácoknak bőven lesz idejük elérni a legmagasabb szintű fejlődést. Nem fogjuk tudni irányítani ezt a folyamatot, mert távol vagyunk ebben a galaktikus szektorban. Honnan tudod, hogy mi fog történni a következő találkozáskor?
Roger felnevetett.
„Nem kell emiatt aggódnod. Vannak olyan módszerek, amelyek idővel korlátozzák a mesterséges intelligencia fejlődését. A civilizációt hurkolni fogjuk, így a fejlődése soha nem éri el a számunkra veszélyes szintet. Gondoskodni fogok róla. Ismerem a mesterséges intelligenciával való munka módszereit.”
A legénység kognitív membránja a jóváhagyás színében izzott.
„Végül – tette hozzá az űrcirkáló kapitánya pompás beszéde végén –, ebből a tárgyból vizsgáztam az intézetben.
6.
Kénytelen késés után az űrcirkáló a cél felé rohant. A fara mögött volt egy bolygó, amelyet mesterséges lények laktak - nagyon kicsik és nem feltűnőek. Kék-kék.
Forrás: will.com