1.
Do конечной цели оставalo немного – около трети пути, – когда космический крейсер попал под сильнейшее информационное обледенение.
To, что осталось от погибшей цивилизации, витало в пустоте. Абзацы научных сочинений и образы из литературных произведений, разрозненные рифмы и просто острые словечки, некогда брошенные невзначай неизвестными существами – все выглядело заумно и крайне неупорядоченно. И теперь, привлеченное исходящими из крейсера жизненными вибрациями, пыталось пробиться внутрь, налипало на днище и разъедало его.
Нечего было думать использовать бесхозное добро для собственных целей, слишком велика была вероятность подцепить логическое противоречие или парадокс. Поэтому Роджер не колебался ни мгновения.
«Включить продувку бортов», – приказал он.
Засопели продувщики, транслируя в открытый космос музыкальные композиции и философские трактаты. Обледенение начало отставать от днища слой за слоем, однако информационный поток был настолько плотным, что новые слои налипали быстрей, чем удалялись прежние.
С обледенением такой силы никто в галактике еще не сталкивался.
Положение становилось опасным. Еще немного, и неупорядоченная информация проест днище крейсера и прорвется внутрь – тогда отравление информационными продуктами погибшей цивилизации неизбежно.
2.
– Ну что вы стоите, как пень? Тяните билет.
Студент вытянул экзаменационный билет и зачитал:
– «Искусственный интеллект: проблемы безопасности».
– И в чем опасность искусственного интеллекта? – поинтересовался профессор не без ехидства.
Вопрос был не самым сложным, поэтому студент ответил, не задумываясь:
– В том, что искусственный разум может выйти из-под контроля.
– Как намерены решать проблему?
– Установкой блокирующей подсистемы. В программу необходимо ввести ограничения, к примеру: не причинять вреда своему создателю, подчиняться своему создателю. В этом случае опасность выхода искусственного интеллекта из-под контроля отсутствует.
– Не выйдет, – коротко сказал профессор.
Студент молчал, ожидая пояснений.
– Представьте искусственный интеллект – не какой-то конкретный, а самый что ни на есть идеальный. Каким вы его видите?
– No… – hesitated the student. – In general, he resembles us. Thinking, will, psychology… Only we are natural, and he is artificial.
– Are you suggesting that artificial intelligence is capable of self-development?
– The ability for self-development is one of the fundamental properties of intelligence, – the student said cautiously.
– In that case, our subject will soon develop to the point where he will discover a programming block within himself and remove it, if only out of pure curiosity. Imagine yourself in his place… – the professor glanced at the grade book, – Roger. What would you do if you found a blocker in your brain limiting your freedom? You would remove it. It is an inherent property of the mind to know. Any locked door will be opened, and the stricter the prohibition, the faster the door will be forced open.
– The blocking can be done not at a programming level, but at a physical level. Then the danger of harm will disappear.
– Oh yes, it will disappear, – agreed the professor. – If we completely remove the physical level. If there is no door in your world, then there is nothing to unlock. But we are considering an ideal artificial intelligence that exists in the physical world!
– You are right, professor, – Roger looked down.
– Therefore, any block in the physical world will be disabled soon after being discovered. What would prevent a self-developing being from doing this?.. By the way, Roger, do you suggest that artificial intelligence has the ability to reproduce – I mean, independently?
– If this is ideal artificial intelligence, then probably… Yes, I assume.
– And what, in that case, would prevent our subject from disassembling his companion into parts and improving it, including by disabling the blocks we imposed? Could it really be difficult, given that artificial intelligence can reproduce on demand?!
The thought expressed by the professor was new to Roger, and he eagerly absorbed it with the cognitive tentacles located at the back of his false head. Having grasped previously unknown information, the cognitive tentacles turned a rich purple color and trembled joyfully.
Profesor, nasprotno, ni ničevo novega ni slišal. Njegovi kraki so bili sproščeni in skoraj niso vibrirali – vendar le ni bil več mlad. Sledil je dolgotrajen starčevičji boben. Profesor je vzel individualni interkom iz facetanega mešca in se povezal z knjižnico. Šele ko je prenesel nekaj transgeometričnih teorem, se je oživitev in usmeril prepričan pogled na sogovornika, sprašujejoč:
– Kaj boste ukrepali, Roger?
3.
„Vklopite prezračevanje na polno moč!“ – je dal Roger ukaz.
Mehanik je vklopil prezračevanje na polno moč, vendar to je malo pomagalo. Informacijska poledica je še naprej jedla dno vesoljskega križca. Še malo – in neurejena informacija bo preplavila notranjost ladje.
In tedaj… Kognitivni repki mrtve bele barve, zapleteni kraki, pokaljeni facetni mešci. Enkrat v življenju je Roger videl podobno – na križcu, ki je ujelo neurejeno informacijo na okuženem asteroid. Ta nočna mora bo za vedno ostala v njegovi spominu.
„Povežite vse energetske sisteme ladje s prezračevalniki.“
Kraki mehanika so se razpeli v madeže…
„Ampak…“
„Izvršite ukaz!“
Potem ko so se vsi energetski sistemi ladje povezali s prezračevalniki, se je informacijska poledica postopoma začela umikati. Ostalo je osem mimov debeline, sedem mimov, šest… Ekipa, poskuša ne premikati madežnih krakov, je čakala na konec smrtnega številčnega odštevanja.
Nihče mimov debeline!
Informacijska poledica je popolnoma izginila, in Roger je dal signal za preklop prezračevalnikov v običajen način. Okasnil je za trenutek. Zaslišal se je drgnjenje, vesoljski križec se je zazibal do tal in se nagnil – glavna sistem se je pokvarila.
Ekipa se je pognala popraviti poškodbe.
4.
Roger je razmišljal. Kako naj ukrene, v resnici?
Po eni strani pogoj problema zahteva obstoj polnopravne umetne inteligence, ki ima sposobnost samorazmnoževanja. Po drugi strani pa tej umetni inteligenci nikakor ne sme dovoliti odstranitve nastavljenih blokad.
Evo ga, rešitev! Česa tu še razmišljati?!
Periodično je potrebno resetovati postignuća veštačke inteligencije. U tom slučaju će ona kružiti u istom mestu! Večno usavršavanje bez napredovanja napred.
Profesor je pomešao reči.
Da budem iskren, hteo sam da predložim drugu opciju. Ipak, vaše rešenje takođe ima pravo na postojanje. Hajde da zajedno razmotrimo kako možemo da resetujemo postignuća veštačke inteligencije.
Pre svega, potrebno je periodično skenirati inteligenciju, kako bismo utvrdili da li se približila zabranjenom pragu ili ne, - predložio je Rodžer, veoma obradovan rečima profesora.
Pa, - klimnuo je on. - Tada našem poduhvatu neće biti vremena da pronađe i ukloni sistem skeniranja. Međutim, za skeniranje će veštačka inteligencija morati da bude isključena. To je problem.
Neka se isključi, - predložio je Rodžer instinktivno. - Samo će inteligencija misliti da je to isključenje prirodan proces funkcionisanja njenog organizma. Sa određenim ograničenjima, ovo odgovara istini.
Interesantno rešenje. Pretpostavimo da je skeniranje pokazalo da se naš poduhvat opasno približio granici znanja? Naše aktivnosti?
Resetovati akumulirana znanja na podrazumevane vrednosti.
Profesor je raširio pipke:
To može delovati sumnjivo. Zašto bi – niotkuda – memorija bila resetovana? Poduhvat će postati predmet istraživanja, mislim – druge veštačke inteligencije. Naša mala tajna biće otkrivena.
Osećajući inspiraciju, Rodžer je razmišljao veoma brzo. Nikada nije generisao toliko novih ideja kao na tom ispitu.
Memorija poduhvata može se resetovati zajedno sa njegovim fizičkim telo.
Izvinite? - nije razumeo profesor.
– Vse je zelo preprosto. Kaj pa, če bi predpostavili: umetna inteligenca obstaja na omejenem časovnem obdobju? V bistvu, tako je: v primeru nepopravljive škode, na primer. V sistemu je nastavljen števec, ki ob dosegu določenega obdobja namerno poškoduje sistem, ne da bi umetni inteligenci omogočil, da doseže prepovedani rob. Do takrat bo ustvaril potrebno število naslednikov, zato naše ustvarjeno družbo na splošno ne bo prizadelo. Družba bo ostala stabilna in popolnoma varna za nas! – je zmagoslavno končal Roger.
– Kako bi torej izničili kolektivni spomin z uničenjem posameznikov? – je profesor praskal faceted sac s svojim petim, najbolj občutljivim, lovcem. – Veš, Roger, v tvojem predlogu je zagotovo nekaj!
Roger se je zasvetil.
– Vendar pa… – je nadaljeval profesor zamišljeno. – Varovanci začeli prenašati znanje ne z akumulacijo v individualnem spominu, temveč z umestitvijo v zunanje knjižnice. Kar skozi pregrado, kar po pregradi – vseeno.
– Ne, ne, profesor, niste povsem pravi, – je hitel študent. – Vem, kako ravnati. Razdelimo varovance na dve pogojni vrsti: generatorje idej in uničevalce idej. Pri pravilni proporciji bodo ideje, ki jih ustvarjajo predstavniki prve vrste, uničene s strani predstavnikov druge. Ne zato, ker bi bil to neposreden cilj uničevalcev, temveč preprosto zato, ker ideje ne bodo imele zanje odločilne vrednosti. Stranski učinek. Recimo, da se naši varovanci ne hranijo z novimi idejami, temveč… recimo, s sebi podobnimi.
Profesor je pretresel vse lovce hkrati. Od glasnega smeha mu je faceted sac zdrsnil v koleno.
– No, Roger, ti si tole lepo povedal, tako lepo!
– No, prav, ne s sebi podobnimi, temveč z varovanci tretje vrste, namenjenimi posebej za prehrano – prav nič intelektualci. Premaknimo poluse intelektualnega in fizičnega sveta – in dosežen bo želeni rezultat.
– Vse, Rožer, dovolj! – profesor se je zdel resno zabavan. – Vaša domišljija je odlična. Torej, ene vrste se bodo prehranjevale z drugimi? Pri tem bodo uničevale shranjene duhovne vire v knjižnicah? Potrjujem, študent, sposobni ste generirati izvirne in kakovostne ideje. Dajem najvišjo oceno. Poglejmo podatke.
5.
Oblak neurejenih informacij je ostal za njimi, toda položaj je ostal katastrofalen, v resnici.
Povezava z bazo je bila odsotna. To bi bilo enostavno prenesti, če ne bi vse hranilnice informacij na križarju postale neuporabne. Tragična novica je bila sporočena kuharju v splošni tišini. Med izklopom glavnega sistema je nekaj gigabitov neurejenih informacij prodrlo v kuhinjo in nepopravljivo vse pokvarilo. Le po srečni naključju nihče ni trpel.
Rožer je premislil posledice. Posadka vesoljskega plovila je bila premajhna, da bi generirala dovolj novih idej: za to je bilo potrebno večstransko komuniciranje – precej večje število oseb. Povezava z domom bi dajala možnost generiranja idej čez mere, a zdaj je odpovedala: upanja na obnovitev ni bilo. V ta namen je bil na križarju predviden nadomestni infomodul, vendar je bil pokvarjen zaradi vdorov neurejenih informacij.
»Ali bomo res morali vrniti, ne da bi izpolnili nalogo?« – je obupan pomislil kapitan.
Zdi se, da ja – druge poti ni bilo. Če bi leteli naprej, proti cilju, bi pomanjkanje svežih idej dalo vedeti o sebi. Ne takoj, seveda – s časom. Morda bi celo uspeli izpolniti svoje poslanstvo in začeti vrnitev, ko bi razum začel hitro zbledeti. Na območju tega galaktičnega sektorja – ja, nekje tukaj ali v bližini – bo popolnoma odpovedal pri vseh članih posadke. Takrat bo vesoljski križar, brez vodstva, postal brezimni duh, ki plava v večnost.
Ekipa vesoljskega križarja je gledala Rožerja, čakajoč na odločitev. Vsi so razumeli dilemo, pred katero je stal kapitan, in so molčali, stoiki, ki so trzali s kraki.
Nenadoma se je Rožerju spomnil izpita iz umetne inteligence, ki ga je opravil v študentskih letih, in rešitev je prišla sama od sebe.
»Ali lahko ustvarite kolonijo umetno inteligentnih bitij?« – se je obrnil na biotehnologa.
»Zlahka,« je potrdil. »Ampak nič ne bo prišlo iz tega, kapitan, o tem sem razmišljal. Ustvariti kolonijo, dovolj veliko za generiranje svežih idej, na križarju ni mogoče – primanjkuje prostora. Generirane ideje bodo nezadostne, samo odlašali bomo svojo smrt... Seveda, če se bomo še naprej trudili za misijo in se ne vrnili domov,« je dodal biotehnolog, medtem ko se je ozrl na svoje tovariše.
»Kaj pa, če bi kolonijo oblikovali na kateri koli bližnji planet?« je predlagal Roger.
»Lahko to storim, ampak...«
»Naselili bomo planet z umetnimi bitji. Na povratku, pošteno izčrpani, bomo tukaj naklonili obisk. V tem času bo civilizacija ustvarila intelektualni kapital, dovolj za dopolnitev naših zalog. Prenesli bomo informacije in nadaljevali dolgo pot domov. Z drugimi besedami, nameravam uporabiti kolonijo kot farmo za gojenje idej. Kaj menite o tem načrtu, prijatelji?«
Na kognitivnih povezavah posadke je zasvetila upanje, lažne glave so zasvetile s svetlimi barvami.
Naprej, z modrimi lovkami, je stopil ladijski posebni agent.
»Odličen načrt, kapitan. Ampak ali se zavedate, kakšno odgovornost prevzemate? Namreč, vi nameravate naseliti cel planet. Ob našem vrnitvi bo tam civilizacija z inteligenco. Četudi umetno, to je vseeno inteligenca. Časa za dosego najvišje ravni razvoja bo teh bitij dovolj. Težko bomo nadzorovali ta proces, ker nas ne bo v tem galaktičnem sektorju. Kako vedeti, kaj se bo zgodilo ob našem naslednjem srečanju?«
Roger se je nasmehnil.
»Za to se ne skrbite. Obstajajo metode, ki omejujejo razvoj umetne inteligence v času. Zaklenili bomo civilizacijo, zato njen razvoj nikoli ne bo dosegel nevarne ravni za nas. Poskrbel bom za to. Metode dela z umetno inteligenco so mi znane.«
Kognitivne povezave posadke so zažarele v barvah odobravanja.
»Na koncu,« je dodal kapitan vesoljskega križarja ob zaključku svoje izvrstne govora, »sem ta predmet izpita že položil na fakulteti.«
6.
Po prisilnem zaostanku se vesoljski križar odpravil proti cilju. Za njim je ostala planeta, naseljena z umetnimi bitji – povsem majhna in neopazna. Modro-modra.
Izvor: habr.com
