1.
Do končnega cilja je manjkalo le še približno tretjina poti, ko je vesoljska križarka prišla pod hudo informacijsko zaledenitev.
Kar je ostalo od izgubljene civilizacije, je lebdelo v praznini. Odstavki znanstvenih esejev in slike iz literarnih del, razpršene rime in preprosto ostre besede, ki so jih nekoč mimogrede vrgla neznana bitja - vse je bilo videti neumno in skrajno neurejeno. In zdaj, ki so ga pritegnile vitalne vibracije, ki so izhajale iz križarke, se je poskušala prebiti, se zataknila za dno in ga razjedla.
Ni bilo smisla razmišljati o uporabi brezlastniške lastnine za lastne namene, verjetnost, da bi naleteli na logično protislovje ali paradoks, je bila prevelika. Zato Roger ni okleval niti za trenutek.
"Vklopi stransko pihanje," je ukazal.
Začeli so puhali, ki so v vesolje oddajali glasbene skladbe in filozofske razprave. Zaledenitev je začela odpadati od spodnje plasti plast za plastjo, vendar je bil pretok informacij tako gost, da so se nove plasti prijele hitreje, kot so bile odstranjene stare.
Nihče v galaksiji se še ni srečal z zaledenitvijo takšne moči.
Položaj je postajal nevaren. Še malo in neurejene informacije bodo pojedle dno križarke in se prebile - potem je zastrupitev z informacijskimi produkti izgubljene civilizacije neizogibna.
2.
- Zakaj stojiš tam kot štor? Potegnite vstopnico.
Študent je izvlekel izpitno kartico in prebral:
– »Umetna inteligenca: varnostna vprašanja.«
– In kakšna je nevarnost umetne inteligence? – je ne brez zlobe vprašal profesor.
Vprašanje ni bilo najtežje, zato je dijak brez oklevanja odgovoril:
– Dejstvo je, da lahko umetna inteligenca uide izpod nadzora.
– Kako nameravate rešiti problem?
– Namestitev blokirnega podsistema. V program je treba vnesti omejitve, na primer: ne poškoduj svojega stvarnika, ubogaj svojega stvarnika. V tem primeru ni nevarnosti, da bi umetna inteligenca ušla izpod nadzora.
"Ne bo šlo," je na kratko rekel profesor.
Študent je molčal in čakal na pojasnilo.
– Predstavljajte si umetno inteligenco – ne katero koli specifično, ampak najbolj idealno. Kako to vidite?
"No ..." je študent okleval. - Na splošno je podoben tebi in meni. Razmišljanje, volja, psihologija ... Samo mi smo naravni, on pa je umeten.
– Ali domnevate, da je umetna inteligenca sposobna samorazvoja?
»Sposobnost samorazvoja je ena temeljnih lastnosti inteligence,« je previdno rekel študent.
- V tem primeru se bo naš varovanec zelo kmalu razvil do te mere, da bo v sebi odkril programsko blokado in jo odstranil, četudi le iz čiste radovednosti. Postavite se na njegovo mesto... - profesor je pogledal v svoj zvezek, - Roger. Kaj bi storili, če bi v svojih možganih odkrili blokator, ki bi omejeval vašo svobodo? Moral bi ga sleči. To je inherentna lastnost uma – vedeti. Vsaka zaklenjena vrata bodo odklenjena in strožja kot je prepoved, hitreje se bodo vrata odklenila.
– Blokiranje se lahko izvede ne na ravni programske opreme, temveč na fizični ravni. Potem bo nevarnost poškodb izginila.
»O ja, izginilo bo,« se je strinjal profesor. – V primeru, da je fizična plast v celoti odstranjena. Če v vašem svetu ni vrat, potem ni ničesar za odkleniti. Toda razmišljamo o idealni umetni inteligenci, ki obstaja v fizičnem svetu!
"Prav imate, profesor," je Roger pogledal navzdol.
"Zato bo vsaka blokada v fizičnem svetu onemogočena kmalu po odkritju." Kaj bo samorazvojnemu bitju preprečilo to?.. Mimogrede, Roger, ali domnevaš, da se bo umetna inteligenca lahko razmnoževala - mislim, neodvisno?
– Če je to idealna umetna inteligenca, potem verjetno ... Ja, menda.
– In kaj bo v tem primeru našemu oddelku preprečilo, da bi raztrgal svojega tovariša in ga izboljšal, vključno z onemogočanjem blokirnih sistemov, ki smo jih namestili? Se bo to res izkazalo za težko, glede na to, da je umetna inteligenca sposobna reproducirati na zahtevo?!
Ideja, ki jo je predstavil profesor, se je za Rogerja izkazala za novo in študent jo je pohlepno absorbiral skozi kognitivne membrane, ki se nahajajo na okcipitalnem delu lažne glave. Ko so ujeli prej neznane informacije, so kognitivne membrane pridobile bogato vijolično barvo in veselo trepetale.
Profesor, nasprotno, zase ni slišal nič novega. Njegove lovke so bile sproščene in so skoraj ne vibrirale – navsezadnje ni bil mlad. Sledilo je dolgo, senilno klokotanje. Profesor je iz torbe s faseto potegnil osebni domofon in se povezal s knjižnico. Šele po prenosu več transgeometričnih izrekov se je zbudil in svoj pronicljivi pogled usmeril v sogovornika ter vprašal:
-Kaj boš naredil, Roger?
3.
"Vklopite puhalo na polno moč!" – Roger je ukazal.
Mehanik je prižgal puhalo na polno, a ni kaj dosti pomagalo. Informacijski led je še naprej razjedal dno vesoljske križarke. Še malo - in neurejene informacije se bodo prebile v notranjost ladje.
In potem... Kognitivne membrane so mrtvo bele, zapletene lovke, počene fasetne vrečke. Roger je nekaj takega videl enkrat v življenju - na križarki, ki je pobrala neurejene informacije o okuženem asteroidu. Ta nočna mora mu bo za vedno ostala v spominu.
"Povežite vse energetske sisteme ladje s puhalom."
Mehanikove lovke so se začele pojavljati kot lise ...
"Ampak ..."
"Izpolni naročila!"
Ko so bili vsi energetski sistemi ladje povezani s puhalom, je začel informacijski led postopoma polzeti. Ostalo je osem milimetrov debeline, sedem milimetrov, šest ... Ekipa je poskušala ne premakniti pikčastih lovk in čakala, da se odštevanje smrti konča.
Nič mimm debeline!
Informacijski led je popolnoma izginil in Roger je dal zeleno luč za preklop puhal v normalni način. Zamujal je za trenutek. Zaslišalo se je škrtanje, vesoljska križarka se je stresla do temeljev in nagnila – glavni sistem je odpovedal.
Ekipa je hitela sanirati škodo.
4.
Roger je razmišljal o tem. Kaj naj res naredi?
Po eni strani pogoj problema predpostavlja obstoj polnopravne umetne inteligence s sposobnostjo samoreprodukcije. Po drugi strani pa tej umetni inteligenci nikoli ne bi smeli dovoliti, da odstrani obstoječe ključavnice.
Ja, tukaj je, rešitev! Kaj tu razmišljaš?!
– Treba je občasno vrniti dosežke umetne inteligence. V tem primeru se bo gibal v krogu! Večno izboljšanje brez napredovanja.
Profesor je grgotal s fasetirano vrečko.
– Odkrito povedano, hotel sem ponuditi drugačno možnost. Vendar ima tudi vaša odločitev pravico do obstoja. Ugotovimo skupaj, kako je mogoče zavrniti dosežke umetne inteligence.
»Najprej je treba občasno skenirati intelekt, da ugotovimo, ali se je približal prepovedanemu pragu ali ne,« je predlagal Roger, izjemno zadovoljen s profesorjevimi besedami.
"Morda," je prikimal. "Potem naš oddelek ne bo imel časa najti in odstraniti sistema za skeniranje." Za skeniranje pa bo treba umetno inteligenco izklopiti. To je smola.
»No, naj se izklopi,« je na muho predlagal Roger. – Intelekt bo sam verjel, da je ta izklop naraven proces delovanja njegovega telesa. Z nekaterimi zadržki je to res.
- Zanimiva rešitev. Recimo, da je pregled razkril, da je naš oddelek nevarno blizu meje znanja? Naša dejanja?
– Ponastavite zbrano znanje na privzete vrednosti.
Profesor je razširil lovke:
- To se morda zdi sumljivo. Zakaj je bil - brez razloga, brez razloga - pomnilnik ponastavljen na nič? Oddelek bodo začeli pregledovati, mislim, drugi umetni inteligentni posamezniki. Najina mala skrivnost bo razkrita.
Navdihnjen, je Roger hitro pomislil. Še nikoli ni ustvaril toliko novih idej kot na tem izpitu.
– Spomin varovanca je mogoče ponastaviti skupaj z njegovo fizično lupino.
- Oprostite? – ni razumel profesor.
- Vse je zelo preprosto. Kaj pa, če predpostavimo, da umetna inteligenca obstaja v določenem časovnem obdobju? Pravzaprav je tako: v primeru nepopravljive škode je npr. Sistem ima števec, ki po preteku določenega obdobja namenoma poškoduje sistem in preprečuje, da bi umetna inteligenca dosegla prepovedano mejo. Do takrat bo proizvedel potrebno število sledilcev, tako da družba, ki smo jo ustvarili kot celota, ne bo trpela. Družba bo ostala stabilna in za nas popolnoma varna! – je zmagoslavno končal Roger.
– Ponastaviti kolektivni spomin z uničenjem posameznikov? – in profesor je s peto, najobčutljivejšo lovko popraskal po fasetni vrečki. – Veš, Roger, zagotovo je nekaj v tvojem predlogu!
Roger je zažarel.
»Hkrati ...« je zamišljeno nadaljeval profesor. – Varovanci bodo znanje začeli prenašati tako, da ga ne bodo akumulirali v individualnem spominu, ampak ga bodo dali v zunanje knjižnice. Kar je v membrani, kar je na membrani – vse je eno.
»Ne, ne, profesor, nimate čisto prav,« je pohitel študent. - Vem, kaj naj naredim. Razdelimo naše študente na dva pogojna tipa: na generatorje idej in uničevalce idej. S pravilnim razmerjem bodo ideje, ki so jih ustvarili predstavniki prve vrste, uničili predstavniki druge. Niti ne zato, ker bo to neposredni cilj uničevalcev, ampak preprosto zato, ker ideje zanje ne bodo imele odločilne vrednosti. Stranski učinek. Predpostavimo, da se naši učenci ne hranijo z novimi idejami, ampak z ... recimo sebi podobnimi.
Profesor je naenkrat stresel vse lovke. Od njegovega bučnega smeha mu je fasetna vrečka zdrsnila na votlino kolena.
- No, Roger, rekel si, torej si rekel!
- No, v redu, ne svoje vrste, ampak oddelki tretje vrste, posebej namenjeni hrani - in sploh ne intelektualci. Zamenjajmo poli intelektualnega in fizičnega sveta – in želeni rezultat bo dosežen.
- Tako je, Roger, dovolj je! – je bilo videti, da se je profesor resno zabaval. -Tvoja domišljija je odlična. Torej se bodo nekateri posamezniki hranili z drugimi? Hkrati uničiti zaloge duhovne hrane, nakopičene v knjižnicah? Potrjujem, študent, da si sposoben generirati izvirne in kakovostne ideje. Dajem najvišjo oceno. Vzemimo zapis.
5.
Oblak neurejenih informacij je ostal zadaj, a situacija je v resnici ostala klavrna.
Povezave z bazo ni bilo. To bi bilo enostavno preživeti, če ne bi propadle vse baze podatkov o hranilni vrednosti na križarki. Tragično novico je kuharica sporočila v splošnem molku. Med zaustavitvijo glavnega sistema je v kuhinjo vstopilo več žirobootov neurejenih informacij in nepopravljivo poškodovalo vse. Le po sreči ni bil nihče poškodovan.
Roger je razmišljal o posledicah. Posadka zvezdne ladje je bila premajhna, da bi ustvarila zadostno število novih idej: to je zahtevalo večstransko komunikacijo - veliko večje število posameznikov. Povezava z domom je omogočala obilico idej, zdaj pa je bila porušena: upanja na obnovo ni bilo. V tem primeru je imela križarka rezervni informacijski modul, ki pa je bil pokvarjen zaradi neurejenih informacij, ki so prišle na krov.
"Ali se bomo res morali vrniti, ne da bi opravili nalogo?" – obupano je pomislil kapitan.
Očitno ja - ni bilo drugega izhoda. Če boste poleteli naprej do zastavljenega cilja, se bo poznalo pomanjkanje svežih idej. Seveda ne takoj – čez čas. Imeli bodo celo čas, da dokončajo svojo misijo in se začnejo vračati, ko bodo njihove misli hitro bledele. Na območju tega galaktičnega sektorja - da, nekje tukaj ali v bližini - bo popolnoma odpovedal, za vse člane posadke. Nato se bo vesoljska križarka, ki je ne bo nadzoroval nihče, spremenila v duha brez življenja, ki lebdi v večnost.
Posadka vesoljske križarke je pogledala Rogerja in čakala na odločitev. Vsi so razumeli dilemo kapitana in molčali ter stoično vibrirali s svojimi lovkami.
Nenadoma se je Roger spomnil izpita iz umetne inteligence, ki ga je opravljal kot študent, in rešitev je prišla sama po sebi.
"Ali lahko oblikujete kolonijo umetnih inteligentnih bitij?" – se je obrnil k biotehnologu.
"Enostavno," je potrdil. - Toda nič ne bo šlo, kapitan, pomislil sem na to. Na križarki je nemogoče ustvariti kolonijo, ki bi zadostovala za generiranje svežih idej - ni dovolj prostora. Ustvarjene ideje ne bodo dovolj, le odložili bomo svojo smrt ... V primeru seveda, da nadaljujemo misijo in se ne vrnemo domov,« je dodal biotehnolog in se ozrl na svoje tovariše.
"Kaj če bi ustanovili kolonijo na kakšnem bližnjem planetu?" - je predlagal Roger.
"Zmorem, ampak ..."
»Naselimo planet z umetnimi bitji. Nazaj grede se bomo precej izčrpani ustavili še tukaj. V preteklem času bo civilizacija ustvarila zadostno intelektualno prtljago za dopolnitev naših rezerv. Naložimo informacije in nadaljujemo dolgo pot do hiše. Z drugimi besedami, kolonijo bom uporabil kot idejno kmetijo. Kako vam je všeč ta načrt, prijatelji?
Na kognitivnih membranah posadke je vzplamtelo upanje in lažne glave so začele žareti z močno svetlobo.
Ladijski posebni častnik je stopil naprej in stresal svoje modre lovke.
»Odličen načrt, kapitan. Toda ali se zavedate odgovornosti, ki si jo nalagate? Naselili boste cel planet. Ko se bomo vrnili, se bo na njem pojavila civilizacija z inteligenco. Tudi če je umetna, je še vedno inteligenca. Ti fantje bodo imeli dovolj časa, da dosežejo najvišjo stopnjo razvoja. Tega procesa ne bomo mogli nadzorovati zaradi naše odsotnosti v tem galaktičnem sektorju. Kako veš, kaj se bo zgodilo naslednjič, ko se srečata?
Roger se je zasmejal.
»Za to vam ni treba skrbeti. Obstajajo metode, ki omejujejo razvoj umetne inteligence skozi čas. Civilizacijo bomo zapletli, zato njen razvoj nikoli ne bo dosegel za nas nevarne ravni. Jaz bom poskrbel za to. Seznanjen sem z metodami dela z umetno inteligenco.”
Kognitivne membrane posadke so žarele v barvi odobravanja.
"Na koncu," je dodal kapitan vesoljske križarke na koncu svojega veličastnega govora, "sem naredil izpit iz tega predmeta na inštitutu."
6.
Po prisilni zamudi je vesoljska križarka hitela proti cilju. Za njegovo krmo je bil planet, naseljen z umetnimi bitji - zelo majhnimi in neopaznimi. Modro-modra.
Vir: www.habr.com