1.
Ke konečnému cíli – asi ve třetině cesty – zbývalo jen málo, když se vesmírný křižník dostal pod silnou informační námrazu.
To, co zbylo ze ztracené civilizace, se vznášelo v prázdnotě. Odstavce vědeckých esejů a obrázky z literárních děl, roztroušené rýmy a prostě ostrá slova, které kdysi náhodně házeli neznámí tvorové - všechno vypadalo nesrozumitelně a extrémně neuspořádaně. A nyní, přitahován životně důležitými vibracemi vycházejícími z křižníku, se pokusil prorazit, přilepil se ke dnu a zkorodoval ho.
Nemělo smysl uvažovat o využití majetku bez vlastníka pro vlastní účely, pravděpodobnost zachycení logického rozporu nebo paradoxu byla příliš velká. Roger tedy neváhal ani chvíli.
"Zapněte boční foukání," nařídil.
Dmychadla začala popotahovat a vysílat hudební skladby a filozofická pojednání do vesmíru. Námraza začala ze spodní vrstvy po vrstvě odpadávat, ale informační tok byl tak hustý, že nové vrstvy přilnuly rychleji, než byly odstraněny staré.
Nikdo v galaxii se nikdy nesetkal s námrazou takové síly.
Situace začínala být nebezpečná. Ještě trochu a neuspořádané informace prožerou dno křižníku a prorazí - pak je otrava informačními produkty ztracené civilizace nevyhnutelná.
2.
- Proč tam stojíš jako pařez? Vytáhněte lístek.
Student vytáhl zkušební kartu a přečetl:
- "Umělá inteligence: Bezpečnostní problémy."
– A jaké je nebezpečí umělé inteligence? “ zeptal se profesor, ne bez zloby.
Otázka nebyla nejtěžší, takže student bez váhání odpověděl:
– Faktem je, že umělá inteligence se může vymknout kontrole.
– Jak hodláte problém vyřešit?
– Instalace blokovacího subsystému. Do programu je nutné zavést omezení, např.: neubližujte svému stvořiteli, poslouchejte svého stvořitele. V tomto případě nehrozí, že by se umělá inteligence vymkla kontrole.
"To nepůjde," řekl krátce profesor.
Student mlčel a čekal na vysvětlení.
– Představte si umělou inteligenci – ne jen tak nějakou konkrétní, ale tu nejideálnější. jak to vidíš?
"No..." zaváhal student. - Obecně je podobný vám a mně. Myšlení, vůle, psychologie... Jen my jsme přirození a on umělý.
– Předpokládáte, že umělá inteligence je schopna seberozvoje?
"Schopnost seberozvoje je jednou ze základních vlastností inteligence," řekl student opatrně.
- V tomto případě se náš svěřenec velmi brzy vyvine do bodu, kdy v sobě objeví softwarovou blokádu a odstraní ji, byť jen z čisté zvědavosti. Vžijte se na jeho místo... - profesor se podíval do svého zápisníku, - Rogere. Co byste dělali, kdybyste ve svém mozku objevili blokátor, který by omezoval vaši svobodu? Měl bys to sundat. To je vrozená vlastnost mysli – vědět. Jakékoliv zamčené dveře se odemknou a čím přísnější zákaz, tím rychleji se dveře odemknou.
– Blokování nelze provést na softwarové úrovni, ale na fyzické úrovni. Pak nebezpečí poškození zmizí.
"Ach ano, zmizí," souhlasil profesor. – V případě, že je fyzická vrstva zcela odstraněna. Pokud ve vašem světě nejsou žádné dveře, pak není co odemykat. Ale uvažujeme o ideální umělé inteligenci, která existuje ve fyzickém světě!
"Máte pravdu, profesore," Roger sklopil zrak.
"Proto bude jakákoli blokáda ve fyzickém světě brzy po detekci deaktivována." Co v tom samovyvíjejícímu se tvorovi zabrání?... Mimochodem, Rogere, předpokládáte, že umělá inteligence se bude moci reprodukovat – myslím nezávisle?
– Pokud je toto ideální umělá inteligence, pak pravděpodobně... Ano, předpokládám.
– A co v tomto případě zabrání našemu svěřenci, aby svého druha roztrhal a vylepšil, včetně deaktivace blokovacích systémů, které jsme nainstalovali? Bude to opravdu těžké, vzhledem k tomu, že umělá inteligence je schopná reprodukce na požádání?!
Myšlenka předložená profesorem se pro Rogera ukázala jako nová a student ji chtivě vstřebal skrze kognitivní membrány umístěné na týlní části falešné hlavy. Po zachycení dříve neznámých informací získaly kognitivní membrány sytě fialovou barvu a radostně se chvěly.
Profesor naopak pro sebe nic nového neslyšel. Jeho chapadla byla uvolněná a téměř nevibrovala – koneckonců nebyl mladý. Následovalo dlouhé, senilní bublání. Profesor vytáhl ze své fazetové tašky osobní interkom a připojil se ke knihovně. Teprve po stažení několika transgeometrických teorémů se vzchopil a obrátil svůj pronikavý pohled na svého partnera a zeptal se:
-Co budeš dělat, Rogere?
3.
"Zapněte ventilátor na plný výkon!" – vydal rozkaz Roger.
Mechanik zapnul dmychadlo na plný výkon, ale moc to nepomohlo. Informační led dál rozežíral dno vesmírného křižníku. Ještě trochu – a uvnitř lodi proniknou neuspořádané informace.
A pak... Kognitivní membrány jsou mrtvě bílé, zamotaná chapadla, prasklé fasetové váčky. Roger něco takového viděl jednou v životě - na křižníku, který zachytil neuspořádané informace o infikovaném asteroidu. Tato noční můra zůstane navždy v jeho paměti.
"Připoj všechny energetické systémy lodi k ventilátorům."
Mechanikova chapadla se začala objevovat jako skvrny...
"Ale…"
“Plnit objednávky!”
Poté, co byly všechny energetické systémy lodi připojeny k dmychadlům, začal informační led postupně klouzat. Zůstalo osm mimmů tloušťky, sedm mimmů, šest... Tým se snažil nehýbat svými skvrnitými chapadly a čekal, až skončí odpočítávání smrti.
Tloušťka nula mimm!
Informační led úplně zmizel a Roger dal souhlas k přepnutí ventilátorů do normálního režimu. Měl chvíli zpoždění. Ozvalo se skřípění, vesmírný křižník se zachvěl v základech a naklonil se - hlavní systém selhal.
Tým spěchal opravit škody.
4.
Roger o tom přemýšlel. Co by měl skutečně dělat?
Na jedné straně podmínka problému předpokládá existenci plnohodnotné umělé inteligence se schopností sebereprodukce. Na druhou stranu by tato umělá inteligence neměla mít nikdy dovoleno odstranit stávající zámky.
Ano, tady to je, řešení! Na co tady myslíš?!
– Je nutné pravidelně vracet zpět úspěchy umělé inteligence. V tomto případě se bude pohybovat v kruhu! Věčné zlepšování bez pohybu vpřed.
Profesor zavrčel fazetovým pytlíkem.
– Upřímně řečeno, chtěl jsem nabídnout jinou možnost. Vaše rozhodnutí má však také právo na existenci. Pojďme společně přijít na to, jak je možné vrátit zpět úspěchy umělé inteligence.
"Nejprve je nutné pravidelně skenovat intelekt, abychom zjistili, zda se přiblížil k zakázané hranici, nebo ne," navrhl Roger, nesmírně potěšený profesorovými slovy.
"Možná," přikývl. "Pak naše oddělení nebude mít čas najít a odstranit skenovací systém." Pro skenování však bude nutné vypnout umělou inteligenci. To je smůla.
"No, nech ho vypnout," navrhl Roger z rozmaru. – Intelekt sám uvěří, že toto vypnutí je přirozeným procesem fungování jeho těla. S jistými výhradami je to pravda.
- Zajímavé řešení. Předpokládejme, že sken odhalil, že naše oddělení je nebezpečně blízko k hranici znalostí? Naše činy?
– Obnovte nashromážděné znalosti na výchozí hodnoty.
Profesor roztáhl chapadla:
- Může se to zdát podezřelé. Proč – bez důvodu, bez důvodu – byla paměť resetována na nulu? Oddělení začnou zkoumat, myslím, další uměle inteligentní jedinci. Naše malé tajemství bude odhaleno.
Roger se cítil inspirován, pomyslel si rychle. Nikdy nevygeneroval tolik nových nápadů jako při té zkoušce.
– Paměť chráněnce lze resetovat spolu s jeho fyzickou schránkou.
- Promiňte? “ nechápal profesor.
- Všechno je velmi jednoduché. Co když předpokládáme, že umělá inteligence existuje po omezenou dobu? Ve skutečnosti je to takto: například v případě neopravitelných škod. Systém má počítadlo, které po dosažení určité doby úmyslně poškodí systém a zabrání umělé inteligenci dosáhnout zakázaného limitu. Do té doby vyprodukuje požadovaný počet následovníků, takže společnost, kterou jsme vytvořili jako celek, neutrpí. Společnost pro nás zůstane stabilní a zcela bezpečná! – dokončil Roger vítězoslavně.
– Resetovat kolektivní paměť zničením jednotlivců? – a profesor poškrábal fasetový váček pátým, nejcitlivějším chapadlem. – Víš, Rogere, na tvém návrhu určitě něco je!
Roger zářil.
"Zároveň..." pokračoval zamyšleně profesor. – Oddělení začnou přenášet znalosti tak, že je nebudou hromadit v individuální paměti, ale umístí je do externích knihoven. Co je v membráně, co je na membráně - všechno je jedno.
"Ne, ne, pane profesore, nemáte tak úplně pravdu," spěchal student. - Vím, co mám dělat. Rozdělme naše studenty na dva konvenční typy: generátory nápadů a ničitelé nápadů. Při správném poměru budou myšlenky vytvořené zástupci prvního typu zničeny zástupci druhého. Ani ne proto, že to bude přímý cíl torpédoborců, ale prostě proto, že myšlenky pro ně nebudou mít určující hodnotu. Vedlejší účinek. Předpokládejme, že naši studenti se neživí novými nápady, ale... řekněme svým vlastním druhem.
Profesor zatřásl všemi chapadly najednou. Od jeho bouřlivého smíchu mu fasetový vak sklouzl do dutiny kolena.
- No, Rogere, řekl jsi to, tak jsi to řekl!
- Dobře, ne jejich vlastní, ale oddělení třetího typu, speciálně určená pro jídlo - a už vůbec ne intelektuálové. Posuňme póly intelektuálního a fyzického světa – a dosáhneme požadovaného výsledku.
- To je ono, Rogere, to stačí! – zdálo se, že se profesor vážně pobavil. -Vaše představivost je skvělá. Takže někteří jedinci se budou živit jinými? Zároveň zničit zásoby duchovní potravy nashromážděné v knihovnách? Potvrzuji, studente, že jsi schopen generovat originální a kvalitní nápady. Dávám tomu nejvyšší skóre. Vezměme si záznam.
5.
Oblak neuspořádaných informací zůstal pozadu, ale situace zůstala ve skutečnosti hrozivá.
Nebylo spojení se základnou. To by se dalo snadno přežít, kdyby všechny nutriční informační základny na křižníku nezchátraly. Tragickou zprávu oznámil kuchař ve všeobecném mlčení. Během hlavního vypnutí systému se do kuchyně dostalo několik gyrobotů neorganizovaných informací a vše nenávratně poškodilo. Jen díky štěstí se nikomu nic nestalo.
Roger zvažoval důsledky. Posádka hvězdné lodi byla příliš malá na to, aby vytvořila dostatečný počet nových nápadů: to vyžadovalo mnohostrannou komunikaci – mnohem větší počet jednotlivců. Spojení s domovem umožnilo generovat spoustu nápadů, ale nyní to bylo mimo provoz: nebyla žádná naděje na obnovu. V tomto případě měl křižník náhradní informační modul, ale byl zkažený neuspořádanými informacemi, které se dostaly na palubu.
"Opravdu se budeme muset vrátit, aniž bychom dokončili úkol?" “ pomyslel si kapitán zoufale.
Zřejmě ano – jiné východisko nebylo. Pokud poletíte kupředu k určenému cíli, nedostatek nových nápadů se projeví. Samozřejmě ne hned – časem. Budou mít dokonce čas dokončit svou misi a začít se vracet, když jejich mysl začne rychle mizet. V oblasti tohoto galaktického sektoru - ano, někde tady nebo poblíž - to selže úplně, pro všechny členy posádky. Pak se nikým neřízený vesmírný křižník promění v neživého ducha plovoucího do věčnosti.
Posádka vesmírného křižníku se podívala na Rogera a čekala na rozhodnutí. Všichni pochopili dilema, kterému kapitán čelí, a zůstali zticha, stoicky vibrujíce svými chapadly.
Najednou si Roger vzpomněl na zkoušku umělé inteligence, kterou absolvoval jako student, a řešení přišlo přirozeně.
"Dokážete vytvořit kolonii umělých inteligentních bytostí?" – obrátil se k biotechnologovi.
"Klidně," potvrdil. - Ale nic nevyjde, kapitáne, přemýšlel jsem o tom. Je nemožné vytvořit kolonii dostatečnou k vytvoření nových nápadů na křižníku - není tam dost místa. Vygenerované nápady nebudou stačit, jen oddálíme svou smrt... Samozřejmě v případě, že budeme pokračovat v misi a nevrátíme se domů,“ dodal biotechnolog a ohlédl se za svými spolubojovníky.
"Co když vytvoříme kolonii na nějaké blízké planetě?" - navrhl Roger.
"Dokážu to, ale..."
"Pojďme osídlit planetu umělými tvory." Na zpáteční cestě, pěkně vyčerpaní, se zde zastavíme. Během uplynulého času si civilizace vytvoří intelektuální zavazadlo dostatečné k doplnění našich rezerv. Pojďme si stáhnout informace a pokračovat v dlouhé cestě k domu. Jinými slovy, budu používat kolonii jako nápadovou farmu. Jak se vám líbí tento plán, přátelé?
Na kognitivních membránách posádky vzplála naděje a falešné hlavy začaly zářit jasným světlem.
Zvláštní důstojník lodi vykročil vpřed a zatřásl modrými chapadly.
"Skvělý plán, kapitáne." Jste si ale vědomi odpovědnosti, kterou na sebe kladete? Chystáte se zalidnit celou planetu. Než se vrátíme, objeví se na něm civilizace s inteligencí. I když je umělá, pořád je to inteligence. Tito kluci budou mít spoustu času na dosažení nejvyšší úrovně rozvoje. Tento proces nebudeme schopni kontrolovat kvůli naší nepřítomnosti v tomto galaktickém sektoru. Jak víte, co se stane, až se příště setkáte?
Roger se zasmál.
"Nemusíš si s tím dělat starosti. Existují metody, které časem omezují rozvoj umělé inteligence. Budeme zacyklit civilizaci, takže její vývoj nikdy nedosáhne úrovně, která je pro nás nebezpečná. Já se o to postarám. Znám metody práce s umělou inteligencí.“
Kognitivní membrány posádky zářily barvou souhlasu.
"Nakonec," dodal kapitán vesmírného křižníku na konci své velkolepé řeči, "složil jsem zkoušku z tohoto předmětu v ústavu."
6.
Po vynucené prodlevě se vesmírný křižník vrhl k cíli. Za jeho zádí se nacházela planeta obývaná umělými tvory – velmi malými a nenápadnými. Modro-modrá.
Zdroj: www.habr.com