1.
Do konečnej cieľovej destinácie zostávalo len málo – asi tretina cesty – keď sa vesmírny krížnik dostal pod silné informačné zamrznutie.
To, čo zostalo z mŕtvej civilizácie, sa vznášalo v prázdnote. Odseky vedeckých diel a obrazy z literárnych prác, roztrhnuté rýmy a len tak ostre slová, niekedy bezmyšlienkovite hodené neznámymi bytosťami – všetko vyzeralo nejasne a veľmi neusporiadane. A teraz, prilákané životnými vibráciami vychádzajúcimi z krížnika, sa snažilo preniknúť dnu, prilepovalo sa na dno a rozrývalo ho.
Nedalo sa ani pomyslieť, že by sa využívalo opustené blaho na vlastné ciele, riziko logického rozporu alebo paradoxu bolo príliš vysoké. Preto Roger ani na okamih nezaváhal.
„Aktivujte fúkanie bokov,“ nariadil.
Fúkače zašumeli, prenášajúc do otvoreného kozmu hudobné skladby a filozofické traktáty. Zamrznutie začalo ustupovať z dna vrstvu po vrstve, avšak informačný tok bol natoľko hustý, že nové vrstvy sa prilepili rýchlejšie, než sa predchádzajúce odstránili.
S takou silou zamrznutia sa nikto v galaxii ešte nestretol.
Situácia sa stávala nebezpečnou. Ešte chvíľu a neusporiadané informácie prejedli dno krížnika a prenikli dnu – potom by bolo otrávenie informačnými produktmi mŕtvej civilizácie nevyhnutné.
2.
– Čo tam stojíte ako pň? Berte lístok.
Študent vytiahol skúšobný lístok a prečítal:
– „Umelá inteligencia: problémy bezpečnosti.“
– A čo je nebezpečenstvo umelej inteligencie? – opýtal sa profesor s nádychom sarkazmu.
Otázka nebola najťažšia, a tak študent odpovedal bez váhania:
– V tom, že umelá inteligencia môže vypadnúť spod kontroly.
– Ako plánujete riešiť problém?
– Nainštalovaním blokovacího subsystému. Do programu je potrebné zaviesť obmedzenia, napríklad: nesmie ublížiť svojmu tvorcovi, musí sa podriadiť svojmu tvorcovi. V tomto prípade nebezpečenstvo, že by umelá inteligencia vypadla spod kontroly, chýba.
– Nevyjde to, – povedal profesor stručne.
Študent mlčal a čakal na vysvetlenie.
– Predstavte si umelú inteligenciu – nie nejakú konkrétnu, ale tú najideálnejšiu. Akú ju vidíte?
– Nu… – zaváhal študent. – V zásade je podobný nám. Myslenie, vôľa, psychológia… Iba my sme prirodzení a on je umelý.
– Predpokladáte, že umelá inteligencia je schopná samorozvoja?
– Schopnosť k samorozvoju je jednou zo zásadných vlastností inteligencie, – povedal študent opatrne.
– V takom prípade sa čoskoro náš zverec rozvinie do takej miery, že objaví v sebe programovú blokáciu a zruší ju, aspoň z čistej zvedavosti. Predstavte si jeho pozíciu… – profesor nahliadol do zošita, – Roger. Čo by ste urobili, keby ste objavili v svojom mozgu nejaký blokátor, ktorý obmedzuje vašu slobodu? Odstránili by ste ho. To je neodmysliteľná vlastnosť rozumu – poznávať. Každé zamknuté dvere budú odomknuté a čím prísnejší zákaz, tým rýchlejšie dvere otvoria.
– Blokáciu je možné urobiť nie na programovej, ale na fyzickej úrovni. Potom nebezpečenstvo škody zmizne.
– O áno, zmizne, – súhlasil profesor. – V prípade, ak by fyzickú úroveň vôbec odstránili. Ak neexistujú žiadne dvere vo vašom svete, niet čo odomykať. Ale my sa zaoberáme ideálnou umelou inteligenciou, ktorá existuje vo fyzickom svete!
– Máte pravdu, profesor, – Roger sklonil hlavu.
– Preto každá blokácia vo fyzickom svete bude čoskoro vypnutá po jej zistení. Čo bráni samorozvíjajúcej sa bytosti to urobiť?.. Mimochodom, Roger, predpokladáte, že umelá inteligencia má schopnosť rozmnožovať sa – myslím, samostatne?
– Ak je to ideálna umelá inteligencia, tak pravdepodobne… Áno, predpokladám.
– A čo potom bráni našemu zverencovi rozobrať svojho druha na kusy a vylepšiť ho, vrátane vypnutia blokácií, ktoré sme nastavili? Naozaj to bude ťažké, keď je umelá inteligencia schopná reprodukovať sa na požiadanie?!
Myšlienka, ktorú vyslovil profesor, bola pre Rogera nová a študent ju dychtivo absorboval svojimi kognitívnymi výčnelkami umiestnenými na zátylku. Po zachytení doteraz neznámej informácie získali kognitívne výčnelky sýto fialovú farbu a radostne sa zatriasli.
Profesor, naopak, nepočul pre seba nič nové. Jeho chapadlá boli uvoľnené a takmer nevibrovali – predsa len, nebol už mladý. Nasledoval dlhý starčekom bublanie. Profesor vytiahol z facétového vaku individuálny interkom a pripojil sa k knižnici. Iba po stiahnutí niekoľkých transgeometických teórií sa ožil a obrátil prenikavý pohľad na svojho súputníka, pýtajúc sa:
– Čo urobíte, Roger?
3.
„Zasnite činnosť na plný výkon!“ – vydal Roger rozkaz.
Mechanik zapol činnosť na plný výkon, ale to malo málo pomoci. Informačný nános stále prežíral dno kozmického krížnika. Ešte kúsok a neusporiadané informácie preniknú dnu do lode.
A vtedy… Kognitívne vrcholy mŕtvej bielej farby, zamiešané chapadlá, prasknuté facétové vaky. Raz v živote Roger videl niečo podobné – na krížniku, ktorý zachytil neusporiadané informácie na infikovanom asteroide. Táto nočná mora mu navždy zostane v pamäti.
„Pripojiť ku výfukovým ventilátorom všetky energetické systémy lode.“
Chapadlá mechanika začali meniť vzhľad…
„Ale…“
„Vykonajte rozkaz!“
Potom, čo boli ku výfukovým ventilátorom pripojené všetky energetické systémy lode, informačný nános sa postupne začal znižovať. Zostalo osem mimov hrúbky, sedem mimov, šesť… Tím, snažiac sa nehýbať škvrnitými chapadlami, očakával koniec smrteľného odpočítavania.
Nula mimov hrúbky!
Informačný nános sa úplne odstránil a Roger dal pokyn previesť výfukové ventilátory do normálneho režimu. Meškal na chvíľu. Zaznela hrmot, kozmický krížnik zažiratil až po základy a naklonil sa – hlavný systém zlyhal.
Tím sa vrhol na opravu poškodení.
4.
Roger sa zamyslel. Ako sa má skutočne rozhodnúť?
Na jednej strane, podmienka úlohy predpokladá existenciu plnohodnotnej umelej inteligencie, schopnej sa replikovať. Na druhej strane, tejto umelej inteligencii sa za žiadnych okolností nesmie povoliť odstránenie nastavených blokád.
A tu je to, riešenie! Čo tu ešte premýšľať?!
– Je potrebné pravidelne resetovať dosiahnuté úspechy umelej inteligencie. V takom prípade sa bude pohybovať v kruhu! Nekonečné zlepšovanie bez posunu dopredu.
Profesor zamrmlal s facetovým vakom.
– Musím priznať, že som chcel navrhnúť iný variant. No aj vaše riešenie má právo na existenciu. Poďme spoločne zvážiť, ako je možné resetovať úspechy umelej inteligencie.
– Predovšetkým je potrebné pravidelne skenovať inteligenciu, aby sme zistili, či sa priblížila k zakázanému prahu alebo nie, – navrhol Roger, nesmierne potešený slovami profesora.
– Možno, – prikývol ten. – Potom nebude mať náš „podobný“ čas nájsť a odstrániť systém skenovania. Ale na skenovanie bude potrebné umelú inteligenciu vypnúť. To je problém.
– Nech sa vypne, – spontánne navrhol Roger. – Samotná inteligencia si bude myslieť, že toto vypnutie je prirodzený proces fungovania jej organizmu. S niektorými výhradami to zodpovedá pravde.
– Zaujímavé riešenie. Predpokladajme, že skenovanie zistilo, že náš „podobný“ nebezpečne pristúpil k hranici poznania? Aké sú naše kroky?
– Resetovať nahromadené vedomosti na predvolené hodnoty.
Profesor rozprestrel chápadlá:
– Môže sa to zdať podozrivé. Prečo sa – z ničoho nič – pamäť vymazala? Našich „podobných“ začnú skúmať, chcem povedať – iné umele inteligentné bytosti. Naše malé tajomstvo bude odhalené.
Cítiac inšpiráciu, Roger myslel veľmi rýchlo. Nikdy negeneroval toľko nových nápadov, ako na tom skúškovom období.
– Pamäť „podobného“ sa môže vymazávať spolu s jeho fyzickou schránkou.
– Prepáčte? – profesor nerozumel.
– Všetko je veľmi jednoduché. Čo ak predpokladáme: umelá inteligencia existuje na konečnom časovom úseku? V skutočnosti to tak je: v prípade neobnoviteľného poškodenia, napríklad. V systéme je nainštalovaný čítač, ktorý po dosiahnutí určitého obdobia úmyselne poškodzuje systém a nedovoľuje umelej inteligencii dosiahnuť zakázanú hranicu. Do tej doby vyprodukuje potrebný počet nasledovníkov, takže spoločenstvo, ktoré sme vytvorili, celkovo neutrpí. Spoločnosť zostane stabilná a pre nás úplne bezpečná! – skončil s hrdosťou Roger.
– Obnovovať kolektívnu pamäť pomocou likvidácie jednotlivých jedincov? – a profesor si poškrabal facetový vak piatym, najcitlivejším, chapadlom. – A viete, Roger, vo vašom návrhu určite niečo je!
Roger zažiaril.
– Spolu s tým… – pokračoval profesor zamyslene. – Ochrancovia začnú prenášať poznatky nie prostredníctvom akumulácie v individuálnej pamäti, ale umiestnením do externých knižníc. Či už na membránu, alebo cez membránu – všetko je to jedno.
– Nie, nie, profesor, nemáte úplne pravdu, – ponáhľal sa študent. – Viem, čo robiť. Rozdelíme ochrancov do dvoch podmienených typov: generátorov myšlienok a ničiteľov myšlienok. Pri správnom pomere budú myšlienky vytvorené zástupcami prvého typu ničené zástupcami druhého. Nie preto, že by to bola priamy cieľ ničiteľov, ale jednoducho preto, že myšlienky pre nich nebudú mať určujúcu hodnotu. Nežiaduci vedľajší efekt. Predpokladajme, že naši ochrancovia sa živia nie novými myšlienkami, ale… povedzme, sebapotenciálmi.
Profesor zakrýval všetky chapadlá naraz. Od hlasného smiechu mu facetový vak skĺzol na kolennú jamku.
– Nuž, Roger, povedali ste čo ste mali, tak ste povedali!
– Dobre, nie sebapanom, ale ochrancami tretieho druhu, špeciálne určenými na výživu – rozhodne nie intelektuálmi. Posunieme póly intelektuálneho a fyzického sveta – a potrebný výsledok bude dosiahnutý.
– Dosť, Roger, dosť! – profesor sa zjavne naozaj dobre bavil. – Máte vynikajúcu predstavivosť. Teda niektoré jedince budú žiť na úkor iných? Pri tom zničia nazbierané v knižniciach zásoby duchovnej potravy? Potvrdzujem, študent, máte schopnosť generovať originálne a kvalitné nápady. Dávam vám najvyššie hodnotenie. Poďme na zápočtovú knižku.
5.
Oblak neusporiadanej informácie zostal za nimi, ale situácia bola stále zlátaný.
Spojenie s databázou chýbalo. To sa dalo ľahko prežiť, ak by všetky výživné informačné databázy na krížniku neprišli do nežiadúceho stavu. Tragickú správu oznámil kuchár za úplného ticha. Počas vypnutia hlavného systému sa do kuchyne dostalo niekoľko gigabajtov neusporiadanej informácie a nenapraviteľne všetko pokazili. Len vďaka šťastnej náhode nikto neutrpeli.
Roger zhodnotil následky. Posádka hviezdneho plavidla bola príliš malá na to, aby generovala dostatok nových nápadov: na to bolo potrebné viacstranné komunikovanie – omnoho viac jedincov. Spojenie s domácimi, umožňovalo generovať nápady nadbytočne, ale teraz bolo mimo prevádzky: nádeje na obnovenie neexistovali. Na tento prípad bol na krížniku predpokladaný záložný infomodul, ale bol poškodený preniknutou neusporiadanou informáciou.
„Naozaj budeme musieť odísť, aniž by sme dokončili úlohu?“ – pomyslel si kapitán v zúfalstve.
Zjavne áno – iná možnosť neexistovala. Ak by leteli dopredu, k stanovenému cieľu, nedostatok čerstvých nápadov sa čoskoro prejaví. Nie hneď, samozrejme – s časom. Dokonca stihnú splniť svoju misiu a začať návrat, keď myseľ začne rýchlo slabnúť. V oblasti tohto galaktického sektora – áno, niekde tu alebo v blízkosti – sa úplne odmietne u všetkých členov posádky. Vtedy sa kozmonautický krížnik, ktorý nikto neovláda, zmení na bezživotného ducha plávajúceho do večnosti.
Posádka kozmonautického krížnika sa pozerala na Rogera, očakávajúc rozhodnutie. Všetci rozumeli dileme, pred ktorou stál kapitán, a mlčali, stoicky vibrujúc s chapadlami.
Náhle si Roger spomenul na skúšku z umelej inteligencie, ktorú urobil počas štúdia, a riešenie prišlo samo.
„Môžete vytvoriť kolóniu z umelej inteligencie?“ – obrátil sa na biotechnológa.
„Ľahko,“ – potvrdil ten. – „Ale nič z toho nebude, kapitán, na to som myslel. Vytvoriť kolóniu dostatočnú na generovanie čerstvých myšlienok na krížniku je nemožné – chýba priestor. Generované myšlienky budú nedostatočné, len oddialime našu smrť... To samozrejme, ak budeme pokračovať v plnení misie a nevrátime sa domov,“ – dodal biotechnológ a obzrel sa na svojich druhov.
„A čo keby sme vytvorili kolóniu na nejakej blízkej planéte?“ – navrhol Roger.
„Môžem to urobiť, ale…“
„Osídlime planétu umelými bytosťami. Na ceste späť, značne unavení, sem zavítame. Po uplynutom čase civilizácia vytvorí intelektuálny balík dostatočný na doplnenie našich zásob. Stiahneme informácie a budeme pokračovať v dlhej ceste domov. Inými slovami, plánujem využiť kolóniu ako farmu na pestovanie myšlienok. Čo hovoríte na tento plán, priatelia?“
Na kognitívnych spojeniach posádky zažiarila nádej, syntetické hlavy sa rozsvietili jasným svetlom.
Vpred, hupsajúc so svojimi modrými chapadlami, vystúpil lodný osobit.
„Skvelý plán, kapitán. Ale uvedomujete si, akú zodpovednosť na seba preberáte? Chystáte sa osídliť celú planétu. Do času nášho návratu sa na nej objaví civilizácia s inteligenciou. Nech je umelá, je to aj tak inteligencia. Tieto bytosti budú mať dostatok času na dosiahnutie najvyššej úrovne vývoja. Nebudeme schopní kontrolovať tento proces, pretože v tejto galaktickej oblasti nebudeme prítomní. Ako vieme, čo sa stane pri našej ďalšej návšteve?“
Roger sa uškrnul.
„O to sa nemusíte obávať. Existujú metódy, ktoré obmedzujú vývoj umelej inteligencie v čase. Obmedzíme civilizáciu, takže jej vývoj nikdy nedosiahne pre nás nebezpečnú úroveň. Postarám sa o to. Metódy práce s umelou inteligenciou sú mi známe.“
Kognitívne spojenia posádky planuli farbou schválenia.
„Nakoniec,“ – dodal kapitán kozmického krížnika na záver svojej vynikajúcej reči, – „o tejto otázke som mal skúšku v inštitúte.“
6.
Po nútenom oneskorení sa vesmírny krížnik vybral k cieľu. Za ním zostala planéta, obývaná umelými bytosťami – celkom malá a nenápadná. Modrá-modrá.
Zdroj: habr.com
