1.
Do konečného cieľa - asi v tretine cesty - chýbalo málo, keď sa vesmírny krížnik dostal pod silnú informačnú námrazu.
To, čo zostalo zo stratenej civilizácie, sa vznášalo v prázdnote. Odseky vedeckých esejí a obrázky z literárnych diel, roztrúsené rýmy a jednoducho ostré slová, ktoré kedysi náhodne hádzali neznáme stvorenia – všetko vyzeralo nezrozumiteľne a mimoriadne neusporiadane. A teraz, priťahovaný životne dôležitými vibráciami vychádzajúcimi z krížnika, sa pokúsil preraziť, prilepil sa ku dnu a skorodoval ho.
Nemalo zmysel uvažovať o využívaní majetku bez vlastníka na vlastné účely, pravdepodobnosť zachytenia logického rozporu alebo paradoxu bola príliš veľká. Roger teda neváhal ani chvíľu.
"Zapnite bočné fúkanie," prikázal.
Dúchadlá začali šmýkať a vysielali do vesmíru hudobné skladby a filozofické traktáty. Námraza začala opadávať zo spodnej vrstvy po vrstve, no informačný tok bol taký hustý, že nové vrstvy sa lepili rýchlejšie, ako sa odstraňovali staré.
Nikto v galaxii sa ešte nestretol s námrazou takejto sily.
Situácia začínala byť nebezpečná. Trochu viac a neusporiadané informácie prežierajú dno krížnika a prerazia - potom je otrava informačnými produktmi stratenej civilizácie nevyhnutná.
2.
- Prečo tam stojíš ako peň? Vytiahnite lístok.
Študent vytiahol skúšobnú kartu a prečítal:
- "Umelá inteligencia: bezpečnostné problémy."
– A aké je nebezpečenstvo umelej inteligencie? – spýtal sa profesor nie bez zloby.
Otázka nebola najťažšia, preto študent bez váhania odpovedal:
– Faktom je, že umelá inteligencia sa môže vymknúť spod kontroly.
– Ako chcete problém vyriešiť?
– Inštalácia blokovacieho podsystému. Do programu je potrebné zaviesť obmedzenia, napr.: neubližujte svojmu tvorcovi, poslúchajte svojho tvorcu. V tomto prípade nehrozí, že by sa umelá inteligencia vymkla spod kontroly.
"To nebude fungovať," povedal profesor stručne.
Študent mlčal a čakal na vysvetlenie.
– Predstavte si umelú inteligenciu – nie hocijakú konkrétnu, ale tú najideálnejšiu. ako to vidíš ty?
"No..." zaváhal študent. - Vo všeobecnosti je podobný tebe a mne. Myslenie, vôľa, psychológia... Len my sme prirodzení a on umelý.
– Predpokladáte, že umelá inteligencia je schopná sebarozvoja?
"Schopnosť sebarozvoja je jednou zo základných vlastností inteligencie," povedal študent opatrne.
- V tomto prípade sa náš zverenec veľmi skoro vyvinie do bodu, keď v sebe objaví softvérovú blokádu a odstráni ju, hoci len z čistej zvedavosti. Postav sa na jeho miesto... - profesor pozrel do svojho zápisníka, - Roger. Čo by ste robili, keby ste vo svojom mozgu objavili blokátor, ktorý obmedzuje vašu slobodu? Mal by si to dať dole. Toto je prirodzená vlastnosť mysle – vedieť. Akékoľvek zamknuté dvere sa odomknú a čím prísnejší zákaz, tým rýchlejšie sa dvere odomknú.
– Blokovanie nie je možné vykonať na úrovni softvéru, ale na fyzickej úrovni. Potom nebezpečenstvo poškodenia zmizne.
„Áno, zmizne,“ súhlasil profesor. – V prípade, že sa fyzická vrstva úplne odstráni. Ak vo vašom svete nie sú žiadne dvere, potom nie je čo odomykať. Ale uvažujeme o ideálnej umelej inteligencii, ktorá existuje vo fyzickom svete!
"Máte pravdu, profesor," Roger sklopil zrak.
"Preto bude každá blokáda vo fyzickom svete deaktivovaná čoskoro po detekcii." Čo v tom zabráni samovyvíjajúcemu sa tvorovi?... Mimochodom, Roger, predpokladáš, že umelá inteligencia sa bude vedieť reprodukovať – myslím nezávisle?
– Ak je toto ideálna umelá inteligencia, potom pravdepodobne... Áno, predpokladám.
– A čo v tomto prípade zabráni nášmu zverencovi, aby svojho súdruha roztrhal a vylepšil, a to aj vypnutím blokovacích systémov, ktoré sme nainštalovali? Bude to naozaj ťažké vzhľadom na to, že umelá inteligencia je schopná reprodukovať sa na požiadanie?!
Myšlienka prezentovaná profesorom sa ukázala byť pre Rogera nová a študent ju hltavo absorboval cez kognitívne membrány umiestnené na okcipitálnej časti falošnej hlavy. Po zachytení predtým neznámych informácií získali kognitívne membrány bohatú fialovú farbu a radostne sa chveli.
Profesor, naopak, pre seba nič nové nepočul. Jeho chápadlá boli uvoľnené a takmer nevibrovali – napokon, nebol mladý. Nasledovalo dlhé senilné bublanie. Profesor vytiahol zo svojej fazetovej tašky osobný interkom a pripojil sa ku knižnici. Až po stiahnutí niekoľkých transgeometrických teorémov sa vzchopil a obrátil svoj prenikavý pohľad na svojho partnera s otázkou:
-Čo urobíš, Roger?
3.
"Zapnite ventilátor na plný výkon!" – vydal rozkaz Roger.
Mechanik zapol dúchadlo na plný výkon, ale veľmi to nepomohlo. Informačný ľad ďalej rozožieral dno vesmírneho krížnika. Trochu viac - a neusporiadané informácie prerazia vnútri lode.
A potom... Kognitívne membrány sú mŕtve biele, zamotané chápadlá, prasknuté fazetové vaky. Roger raz v živote niečo také videl – na krížniku, ktorý zachytil neusporiadané informácie o infikovanom asteroide. Táto nočná mora zostane navždy v jeho pamäti.
"Pripojte všetky energetické systémy lode k ventilátorom."
Mechanicove chápadlá sa začali objavovať ako škvrny...
"Ale…"
“Plniť objednávky!”
Keď boli všetky energetické systémy lode pripojené k ventilátorom, informačný ľad sa začal postupne zosúvať. Zostalo osem mimmov hrúbky, sedem mimmov, šesť... Tím, ktorý sa snažil nehýbať svojimi škvrnitými chápadlami, čakal, kým sa skončí odpočítavanie smrti.
Hrúbka nula mimm!
Informačný ľad úplne zmizol a Roger dal súhlas na prepnutie ventilátorov do normálneho režimu. Chvíľu meškal. Ozvalo sa škrípanie, vesmírny krížnik sa otriasol v základoch a naklonil sa – hlavný systém zlyhal.
Tím sa ponáhľal odstraňovať škody.
4.
Roger o tom premýšľal. Čo by mal naozaj robiť?
Podmienka problému na jednej strane predpokladá existenciu plnohodnotnej umelej inteligencie so schopnosťou sebareprodukcie. Na druhej strane, tejto umelej inteligencii by nikdy nemalo byť dovolené odstraňovať existujúce zámky.
Áno, tu to je, riešenie! Čo si tu vymýšľaš?!
– Je potrebné pravidelne vracať späť úspechy umelej inteligencie. V tomto prípade sa bude pohybovať v kruhu! Večné zlepšovanie bez pohybu vpred.
Profesor hrkol fazetovou taškou.
– Úprimne povedané, chcel som ponúknuť inú možnosť. Aj vaše rozhodnutie má však právo na existenciu. Poďme spolu prísť na to, ako je možné vrátiť späť úspechy umelej inteligencie.
„V prvom rade je potrebné pravidelne skenovať intelekt, aby sme zistili, či sa priblížil k zakázanému prahu alebo nie,“ navrhol Roger, ktorý bol s profesorovými slovami mimoriadne spokojný.
"Možno," prikývol. "Potom naše oddelenie nebude mať čas nájsť a odstrániť skenovací systém." Na skenovanie však bude musieť byť umelá inteligencia vypnutá. To je smola.
"No, nechaj ho vypnúť," navrhol Roger z rozmaru. – Intelekt sám uverí, že toto vypnutie je prirodzený proces fungovania jeho tela. S určitými výhradami je to pravda.
- Zaujímavé riešenie. Predpokladajme, že skenovanie odhalilo, že naše oddelenie je nebezpečne blízko k hranici poznania? Naše činy?
– Obnovte nahromadené znalosti na predvolené hodnoty.
Profesor roztiahol chápadlá:
- Môže sa to zdať podozrivé. Prečo – bez dôvodu, bez dôvodu – bola pamäť vynulovaná? Oddelenie začnú skúmať, myslím, iní ľudia s umelou inteligenciou. Naše malé tajomstvo bude odhalené.
Roger sa cítil inšpirovaný, rýchlo si pomyslel. Nikdy nevygeneroval toľko nových nápadov, ako na tej skúške.
– Pamäť oddelenia možno resetovať spolu s jeho fyzickým plášťom.
- Prepáč? – nechápal profesor.
- Všetko je veľmi jednoduché. Čo ak predpokladáme, že umelá inteligencia existuje počas obmedzeného časového obdobia? V skutočnosti je to takto: v prípade nenapraviteľných škôd napr. Systém má počítadlo, ktoré po dosiahnutí určitého obdobia úmyselne poškodí systém a zabráni umelej inteligencii dosiahnuť zakázanú hranicu. Dovtedy vyprodukuje požadovaný počet nasledovníkov, takže spoločnosť, ktorú sme vytvorili ako celok, neutrpí. Spoločnosť pre nás zostane stabilná a úplne bezpečná! – triumfálne zakončil Roger.
– Resetovať kolektívnu pamäť zničením jednotlivcov? – a profesor poškriabal fazetový vak piatym, najcitlivejším tykadlom. – Vieš, Roger, v tvojom návrhu určite niečo je!
Roger žiaril.
„Zároveň...“ pokračoval zamyslene profesor. – Oddelenia začnú prenášať poznatky tak, že ich nebudú hromadiť v individuálnej pamäti, ale umiestnením do externých knižníc. Čo je v membráne, čo je na membráne - všetko je jedno.
„Nie, nie, profesor, nemáte tak celkom pravdu,“ ponáhľal sa študent. - Viem, čo mám robiť. Rozdeľme našich študentov na dva podmienené typy: generátory nápadov a ničitelia nápadov. Pri správnom pomere budú nápady vytvorené zástupcami prvého typu zničené zástupcami druhého. Ani nie preto, že to bude priamy cieľ torpédoborcov, ale jednoducho preto, že nápady pre nich nebudú mať určujúcu hodnotu. Vedľajší účinok. Predpokladajme, že naši študenti sa nekŕmia novými nápadmi, ale... povedzme vlastným druhom.
Profesor zatriasol všetkými chápadlami naraz. Od jeho búrlivého smiechu mu fazetový vak skĺzol do dutiny kolena.
- No, Roger, povedal si to, tak si to povedal!
- No dobre, nie ich vlastný druh, ale oddelenia tretieho typu, špeciálne určené na jedlo - a už vôbec nie intelektuáli. Posuňme póly intelektuálneho a fyzického sveta – a dosiahneme požadovaný výsledok.
- To je ono, Roger, to stačí! – zdalo sa, že profesor sa vážne pobavil. - Vaša predstavivosť je skvelá. Takže niektorí jednotlivci sa budú živiť inými? Zároveň zničiť zásoby duchovnej potravy nahromadené v knižniciach? Potvrdzujem, študent, že si schopný generovať originálne a kvalitné nápady. Dávam tomu najvyššie skóre. Zoberme si záznam.
5.
Oblak neusporiadaných informácií zostal pozadu, ale situácia zostala v skutočnosti hrozivá.
Nebolo žiadne spojenie so základňou. To by sa dalo ľahko prežiť, keby všetky nutričné informačné základne na krížniku neschátrali. Tragickú správu oznámil kuchár vo všeobecnej tichosti. Počas hlavného odstavenia systému sa do kuchyne dostalo niekoľko gyrobotov neorganizovaných informácií a všetko nenávratne poškodili. Len vďaka šťastiu sa nikomu nič nestalo.
Roger zvažoval dôsledky. Posádka hviezdnej lode bola príliš malá na to, aby vytvorila dostatočný počet nových nápadov: to si vyžadovalo multilaterálnu komunikáciu – oveľa väčší počet jednotlivcov. Spojenie s domovom umožnilo generovať množstvo nápadov, ale teraz to bolo mimo prevádzky: nebola žiadna nádej na obnovu. V tomto prípade mal krížnik náhradný informačný modul, ale ten bol pokazený neusporiadanými informáciami, ktoré prišli na palubu.
"Naozaj sa budeme musieť vrátiť bez dokončenia úlohy?" – pomyslel si kapitán zúfalo.
Zrejme áno – iné východisko nebolo. Ak letíte vpred k stanovenému cieľu, nedostatok nových nápadov sa prejaví. Samozrejme, nie hneď – časom. Dokonca budú mať čas dokončiť svoju misiu a začať sa vracať, keď ich myseľ začne rýchlo miznúť. V oblasti tohto galaktického sektora - áno, niekde tu alebo blízko - to úplne zlyhá pre všetkých členov posádky. Potom sa nikým neriadený vesmírny krížnik zmení na neživého ducha plávajúceho do večnosti.
Posádka vesmírneho krížnika sa pozrela na Rogera a čakala na rozhodnutie. Všetci pochopili dilemu, pred ktorou stál kapitán, a zostali ticho, stoicky vibrujúc chápadlami.
Zrazu si Roger spomenul na skúšku umelej inteligencie, ktorú absolvoval ako študent, a riešenie prišlo prirodzene.
"Dokážete vytvoriť kolóniu umelých inteligentných bytostí?" – obrátil sa k biotechnológovi.
„Ľahko,“ potvrdil. - Ale nič nevyjde, kapitán, myslel som na to. Nie je možné vytvoriť dostatočnú kolóniu na vytvorenie nových nápadov na krížniku - nie je dostatok miesta. Vygenerované nápady nestačia, len oddialime svoju smrť... Samozrejme v prípade, že budeme pokračovať v misii a nevrátime sa domov,“ dodal biotechnológ a obzrel sa za svojimi súdruhmi.
"Čo ak vytvoríme kolóniu na nejakej blízkej planéte?" - navrhol Roger.
"Dokážem to, ale..."
"Poďme osídliť planétu umelými tvormi." Na ceste späť, dosť vyčerpaní, sa tu zastavíme. V minulosti civilizácia vytvorí intelektuálnu batožinu dostatočnú na doplnenie našich zásob. Stiahneme si informácie a pokračujeme v dlhej ceste do domu. Inými slovami, kolóniu použijem ako nápadovú farmu. Ako sa vám páči tento plán, priatelia?
Na kognitívnych membránach posádky vzplanula nádej a falošné hlavy začali žiariť jasným svetlom.
Špeciálny dôstojník lode vykročil vpred a potriasol modrými chápadlami.
"Skvelý plán, kapitán." Uvedomujete si však zodpovednosť, ktorú na seba kladiete? Chystáte sa zaľudniť celú planétu. Kým sa vrátime, objaví sa na ňom civilizácia s inteligenciou. Aj keď je to umelé, stále je to inteligencia. Títo chlapci budú mať dostatok času na dosiahnutie najvyššej úrovne rozvoja. Tento proces nebudeme môcť kontrolovať kvôli našej neprítomnosti v tomto galaktickom sektore. Ako viete, čo sa stane pri ďalšom stretnutí?
Roger sa zasmial.
"Toho sa nemusíš báť. Existujú metódy, ktoré časom obmedzujú rozvoj umelej inteligencie. Zacyklíme civilizáciu, takže jej vývoj nikdy nedosiahne úroveň, ktorá je pre nás nebezpečná. Postarám sa o to. Poznám metódy práce s umelou inteligenciou.“
Kognitívne membrány posádky žiarili farbou schválenia.
"Nakoniec," dodal kapitán vesmírneho krížnika na konci svojho veľkolepého prejavu, "sám som z tohto predmetu urobil skúšku v inštitúte."
6.
Po vynútenom oneskorení sa vesmírny krížnik ponáhľal k cieľu. Za jej kormou sa nachádzala planéta obývaná umelými tvormi – veľmi malými a nenápadnými. Modro-modrá.
Zdroj: hab.com