1.
Do cílové destinace zbývalo jen málo – asi třetina cesty – když kosmická loď byla vystavena silnému informačnímu zamrzání.
To, co zaniklé civilizace zbylo, viselo v prázdnotě. Odstavce vědeckých prací a obrazy z literárních děl, roztroušené rýmy a prostě ostré fráze, kdysi bezmyšlenkovitě hozené neznámými bytostmi – to vše vypadalo zauměle a krajně neuspořádaně. A teď, přitahované životními vibracemi vycházejícími z lodi, se snažilo proniknout dovnitř, nalepovalo se na dno a rozkládalo ho.
Nemělo smysl myslet na využití opuštěného majetku pro vlastní cíle, pravděpodobnost, že se nakazíte logickým rozpor nebo paradoxem, byla příliš vysoká. Proto Roger ani na okamžik neváhal.
„Zapněte odfuk“, nařídil.
Odfukovače zafuněly, přenášejíc do otevřeného vesmíru hudební skladby a filozofické traktáty. Zamrzání začalo opouštět dno vrstvičku po vrstvičce, ale informační tok byl tak hustý, že nové vrstvy se lepily rychleji, než byly ty staré odstraněny.
S tak silným zamrzáním se nikdo v galaxii dosud nesetkal.
Situace se stávala nebezpečnou. Ještě kousek a neuspořádané informace prožerou dno lodi a proniknou dovnitř – pak bude otrava informačními produkty zaniklé civilizace nevyhnutelná.
2.
– Proč stojíte jako pařez? Vytáhněte lístek.
Student vytáhl zkouškový lístek a přečetl:
– „Umělá inteligence: problémy bezpečnosti“.
– A v čem spočívá nebezpečnost umělé inteligence? – zeptal se profesor s jistým sarkasmem.
Otázka nebyla nejjednodušší, a tak student odpověděl bez přemýšlení:
– V tom, že umělá inteligence může uniknout kontrole.
– Jak plánujete problém řešit?
– Instalací blokující podsystému. Do programu je nutné zadat omezení, například: neškodit svému tvůrci, podřídit se svému tvůrci. V tomto případě hrozba úniku umělé inteligence z kontroly chybí.
– To nepůjde, – stručně řekl profesor.
Student mlčel, čekaje na vysvětlení.
– Představte si umělou inteligenci – ne nějakou konkrétní, ale tu nejideálnější. Jak ji vidíte?
– No… – student hesitated. – Overall, he is similar to us. Thinking, will, psychology… Only we are natural, and he is artificial.
– Do you suppose that artificial intelligence is capable of self-development?
– The ability for self-development is one of the core properties of intelligence, – the student said cautiously.
– In that case, very soon our subject will develop to the point where he will discover a software block within himself and remove it, if only out of pure curiosity. Put yourself in his place… – the professor glanced at the grade book, – Roger. What would you do if you discovered a blocker in your mind restricting your freedom? You would remove it. It is an inherent quality of the mind to know. Any locked door will be opened, and the stricter the prohibition, the faster the door will be opened.
– The block can be implemented not at the software level, but at the physical level. Then the danger of harm will disappear.
– Oh yes, it will disappear, – the professor agreed. – If the physical level is entirely removed. If there is no door in your world, then there is nothing to unlock. But we are considering an ideal artificial intelligence existing in the physical world!
– You are right, professor, – Roger lowered his gaze.
– Therefore, any block in the physical world will be disabled shortly after detection. What would prevent a self-developing being from doing this?.. By the way, Roger, do you suppose that artificial intelligence has the capability to reproduce – I mean, independently?
– If it is an ideal artificial intelligence, then probably… Yes, I suppose.
– And what would prevent our subject from disassembling his companion into parts and improving him, including by disabling the blocks we have set? Wouldn't that be difficult, considering that artificial intelligence is capable of reproducing on demand?!
The thought expressed by the professor was new to Roger, and the student eagerly absorbed it through the cognitive membranes located at the back of his false head. Detecting previously unknown information, the cognitive membranes acquired a rich purple hue and fluttered joyfully.
Profesor, naopak, neslyšel pro sebe nic nového. Jeho chapadla byla uvolněná a téměř nevibrovala – přece jen nebyl mladý. Následoval dlouhý stařecký bublání. Profesor vytáhl z facetikového pytlíku osobní interkom a připojil se k knihovně. Jen co stáhl několik transgeometrických vět, ožil a upřel pronikavý pohled na svého partnera, tázaje se:
– Co podniknete, Rogere?
3.
„Zvýšit výkon ventilace na plnou kapacitu!“ – vydal Roger příkaz.
Mechanik zapnul ventilaci na plnou kapacitu, ale to moc nepomáhalo. Informační námraza stále propojovala dno kosmického křižníku. Ještě chvíli – a neuspořádané informace proniknou dovnitř lodi.
A pak… Kognitivní blány mrtvé bílé barvy, zamotaná chapadla, prasklé facetikové pytlíky. Jednou v životě Roger takové něco viděl – na křižníku, který zachytil neuspořádané informace na nakaženém asteroidu. Tento noční můra mu zůstane v paměti navždy.
„Připojit všechny energetické systémy lodi k ventilátorům.“
Chapadla mechanika začala přecházet skvrnami…
„Ale…“
„Plnit příkaz!“
Poté, co byly všechny energetické systémy lodi připojeny k ventilátorům, informační námraza začala postupně sklouzávat. Zůstalo osm milimetrů tloušťky, sedm milimetrů, šest… Posádka, snažící se nehýbat skvrnitými chapadly, čekala na dokončení smrtícího odpočtu.
Nula milimetrů tloušťky!
Informační námraza zcela zmizela a Roger dal signál k přepnutí ventilátorů do normálního režimu. Přišel o okamžik. Ozval se skřípot, kosmický křižník se otřásl až do základů a naklonil se – hlavní systém selhal.
Posádka se vrhla na opravu škod.
4.
Roger přemýšlel. Co vlastně má udělat?
Na jedné straně úloha předpokládá existenci plnohodnotné umělé inteligence schopné sebe rozmnožování. Na druhé straně, této umělé inteligenci rozhodně nelze dovolit odstranění nastavených blokací.
Ale tady je to, řešení! O čem tu přemýšlet?!
Je třeba periodicky vracet pokroky umělé inteligence. V tomto případě se bude točit v kruhu! Nekonečné zdokonalování bez posunu vpřed.
Profesor zamumlal do fasetového pytlíku.
Musím přiznat, že jsem chtěl navrhnout jinou variantu. Ale vaše řešení má také právo na existenci. Pojďme si společně promyslet, jak by bylo možné vracet pokroky umělé inteligence.
Nejprve je třeba pravidelně skenovat inteligenci, abychom zjistili, zda se přiblížila k zakázanému prahu nebo ne, – navrhl Roger, nesmírně potěšený slovy profesora.
Možná, – přikývl ten. – Pak náš svěřenec nebude mít čas vyhledat a odstranit skenovací systém. Nicméně pro skenování je nutné umělou inteligenci vypnout. To je problém.
Ať se klidně vypne, – navrhl Roger intuitivně. – Sám si inteligence bude myslet, že toto vypnutí je přirozený proces fungování jejího organismu. S určitými výhradami to odpovídá pravdě.
Zajímavé řešení. Předpokládejme, že skenování ukázalo, že náš svěřenec nebezpečně přiblížil k hranici poznání? Jaké jsou naše kroky?
Snížit nahromaděné znalosti na výchozí hodnoty.
Profesor rozpažil chapadla:
To může vypadat podezřele. Proč se – z ničeho nic – paměť vymazala? Svěřence začnou zkoumat, míním – jiné umělé inteligentní bytosti. Naše malá tajemství budou odhalena.
Cítíc inspiraci, Roger myslel velmi rychle. Nikdy nevytvořil tolik nových nápadů, jako na té zkoušce.
Paměť svěřence se může vymazat společně s jeho fyzickou schránkou.
Omlouvám se? – nepochopil profesor.
– Všechno je velmi jednoduché. Co kdybychom předpokládali, že umělá inteligence existuje v konečném časovém úseku? Ve skutečnosti to tak je: například při nenávratném poškození. V systému je nastaven čítač, který po dosažení určitého období záměrně poškodí systém, aby umělé inteligenci nedovolil dostat se k zakázanému limitu. Do té doby vyrobí potřebný počet následovníků, takže naše vytvořená společnost obecně neutrpí. Společnost zůstane stabilní a pro nás zcela bezpečná! – zakončil s triumfem Roger.
– Zrušit kolektivní paměť zničením jednotlivých jedinců? – a profesor si poškrábal facetový pytel pátým, nejcitlivějším, chapadlem. – A víte, Rogere, ve vašem návrhu je určitě něco pravdy!
Roger se rozzářil.
– Společně s tím… – pokračoval profesor zamyšleně. – Klienti začnou předávat znalosti ne tím, že je budou kumulovat ve své individuální paměti, ale umístěním je do externích knihoven. Co na membráně, co přes membránu – to je jedno.
– Ne, ne, profesore, nemáte úplně pravdu, – spěchal student. – Vím, co udělat. Rozdělíme klienty na dva podmíněné typy: generátory nápadů a ničiteli nápadů. Při správném poměru těchto dvou typů budou nápady vytvářené zástupci prvního typu ničeny zástupci druhého. Ne proto, že to bude přímým cílem ničitelských, ale jednoduše proto, že nápady pro ně nebudou mít určující hodnotu. Vedlejší efekt. Předpokládejme, že naši klienti se neživí novými nápady, ale… řekněme, sobě podobnými.
Profesor zatřásl všemi chapadly najednou. Od hlasitého smíchu mu facetový pytel sjel do kolenní dutiny.
– No, Rogere, řekl jste to, tak jste to řekl!
– Dobře, ne sobě podobnými, ale klienty třetího typu, určenými výhradně k obživě – vůbec ne intelektuály. Posuneme pól intelektuálního a fyzického světa – a potřebný výsledek bude dosažen.
– Všechno, Rogere, stačilo! – profesor se zdál opravdu rozveselený. – Máte skvělou fantazii. Takže jedni jedinci budou živit druhé? Při tom zničí zásoby duchovní potravy, které máme v knihovnách? Potvrzuji, studente, jste schopen generovat originální a kvalitní myšlenky. Dávám vám nejlepší známku. Pojďme na zkoušku.
5.
Neuspořádaný mrak informací zůstal za nimi, ale situace byla hrozná, ve skutečnosti.
Spojení s databází bylo přerušeno. Bylo to snadné vydržet, kdyby všechny nutné informační databáze na křižníku nebyly zničeny. Tragické zprávy byly oznámeny kuchaři v celkovém tichu. Během výpadku hlavního systému proniklo několik gigabytů neuspořádaných informací do kuchyně a nenávratně všechno zničily. Pouze díky šťastné náhodě nikdo neutrpěl.
Roger zhodnotil následky. Posádka hvězdného plavidla byla příliš malá na to, aby generovala dostatek nových myšlenek: k tomu bylo zapotřebí vícerozměrné komunikace – mnohem více jedinců. Spojení s domovem by umožnilo generovat myšlenky v hojnosti, ale teď bylo mimo provoz: nebylo naděje na obnovení. Pro tento případ byl na křižníku připraven záložní infomodul, ale ten byl zničen neuspořádanými informacemi, které pronikly na palubu.
„Opravdu se budeme muset vrátit, aniž bychom splnili úkol?“ – pomyslel si kapitán v zoufalství.
Zdá se, že ano – jiná cesta nebyla. Pokud bychom letěli dál, k určenému cíli, nedostatek čerstvých myšlenek se brzy projeví. Ne hned, samozřejmě – časem. Dokonce stihnou splnit svou misi a začít se vracet, když rozum začne rychle mdlit. V oblasti tohoto galaktického sektoru – ano, někde tady nebo v blízkosti – selže úplně, u všech členů posádky. Tehdy se vesmírný křižník, neřízený nikým, promění v bezduchého ducha plujícího do věčnosti.
Posádka vesmírného křižníku se dívala na Rogera, čekajíc na rozhodnutí. Všichni chápali dilema, kterému kapitán čelil, a mlčeli, stoicky vibrujíc chapadly.
Náhle si Roger vzpomněl na zkoušku z umělé inteligence, kterou složil v dobách studentských, a řešení přišlo samo.
„Můžete vytvořit kolonii z umělých inteligentních bytostí?“ – obrátil se na biotechnologa.
„Snadno,“ – potvrdil. – „Ale nic z toho nebude, kapitáne, přemýšlel jsem o tom. Vytvořit kolonii dostatečnou k generování nových nápadů na křižníku není možné – chybí prostor. Generovaných nápadů bude málo, jen odložíme svou smrt... Samozřejmě za předpokladu, že budeme pokračovat v plnění mise a nevrátíme se domů,“ – dodal biotechnolog, dívaje se na své spolubojovníky.
„A co kdybychom vytvořili kolonii na nějaké blízké planetě?“ – navrhl Roger.
„Mohu to udělat, ale…“
„Osídlíme planetu umělými bytostmi. Na cestě zpět, značně vyčerpaní, se sem vrátíme. Během té doby civilizace vytvoří intelektuální bohatství, které nám doplní zásoby. Stáhneme informace a budeme pokračovat dlouhou cestou domů. Jinými slovy, chystám se použít kolonii jako farmu na pěstování nápadů. Co říkáte na tento plán, přátelé?“
Na kognitivních pletencích posádky vzplála naděje, falešné hlavy se rozsvítily jasným světlem.
Vpřed, kývaje namodralými chapadly, vystoupil lodní konkrétní důstojník.
„Skvělý plán, kapitáne. Ale uvědomujete si, jakou odpovědnost na sebe berete? Chystáte se osídlit celou planetu. Když se vrátíme, na ní se objeví civilizace s intelektem. I když umělým, stále to bude intelekt. Času k dosažení nejvyššího vývoje budou mít tito kluci dost. Nebudeme moci tento proces kontrolovat, kvůli naší nepřítomnosti v tomto galaktickém sektoru. Jak víte, co se stane při naší příští návštěvě?“
Roger se usmál.
„O to se nemusíte bát. Existují metody, které omezují vývoj umělé inteligence v čase. Uzavřeme civilizaci, takže její vývoj nikdy nedosáhne pro nás nebezpečné úrovně. Postarám se o to. Metody práce s umělou inteligencí znám.“
Kognitivní pletence posádky se rozhořely barvou schválení.
„Nakonec,“ – dodal kapitán kosmického křižníku na závěr své vynikající řeči, – „budu mít z toho předmět zkoušku na institutu.“
6.
Po nucené přestávce se kosmická loď vydala za cílem. Za její zádí zůstala planeta obydlená umělými bytostmi – velmi malá a nenápadná. Modro-modrá.
Zdroj: habr.com
