1.
Iki galutinio tikslo liko nedaug – maždaug trečdalis kelio – kai kosminis kreiseris pateko į didelį informacinį apledėjimą.
Tai, kas liko iš prarastos civilizacijos, sklandė tuštumoje. Mokslinių esė pastraipos ir literatūros kūrinių vaizdai, išsibarstę rimai ir tiesiog aštrūs žodžiai, kuriuos kažkada atsainiai svaidė nežinomi padarai – viskas atrodė absurdiškai ir nepaprastai netvarkingai. Ir dabar, patrauktas iš kreiserio sklindančių gyvybinių vibracijų, jis bandė prasibrauti, prilipo prie dugno ir jį aprūdijo.
Nebuvo prasmės galvoti apie bešeimininkio turto panaudojimą savo reikmėms, loginio prieštaravimo ar paradokso tikimybė buvo per didelė. Taigi Rodžeris nė akimirkos nedvejojo.
- Įjunkite šoninį pūtimą, - įsakė jis.
Pūstuvai pradėjo snausti, transliuodami į kosmosą muzikines kompozicijas ir filosofinius traktatus. Apledėjimas sluoksnis po sluoksnio pradėjo byrėti nuo apatinio, tačiau informacijos srautas buvo toks tankus, kad nauji sluoksniai prilipo greičiau, nei buvo pašalinti seni.
Niekas galaktikoje dar nėra susidūręs su tokios jėgos apledėjimu.
Situacija darėsi pavojinga. Dar šiek tiek, ir netvarkinga informacija prarys kreiserio dugną ir prasiskverbs – tuomet apsinuodijimas dingusios civilizacijos informaciniais produktais neišvengiamas.
2.
- Kodėl tu stovi kaip koks kelmas? Ištraukite bilietą.
Mokinys išsitraukė egzamino kortelę ir perskaitė:
– „Dirbtinis intelektas: saugumo problemos“.
– O koks dirbtinio intelekto pavojus? – ne be piktumo paklausė profesorius.
Klausimas nebuvo pats sunkiausias, todėl studentė nedvejodama atsakė:
– Faktas yra tas, kad dirbtinis intelektas gali tapti nekontroliuojamas.
– Kaip ketinate išspręsti problemą?
– Blokavimo posistemio įrengimas. Į programą būtina įvesti apribojimus, pavyzdžiui: nekenk savo kūrėjui, paklusk savo kūrėjui. Šiuo atveju nėra pavojaus, kad dirbtinis intelektas taps nevaldomas.
„Tai neveiks“, – trumpai pasakė profesorius.
Studentas tylėjo, laukė paaiškinimo.
– Įsivaizduokite dirbtinį intelektą – ne bet kokį konkretų, o patį idealiausią. Kaip jūs tai matote?
- Na... - dvejojo studentas. – Apskritai jis panašus į tave ir į mane. Mąstymas, valia, psichologija... Tik mes esame natūralūs, o jis dirbtinis.
– Ar manote, kad dirbtinis intelektas yra pajėgus savarankiškai vystytis?
„Gebėjimas tobulėti yra viena iš pagrindinių intelekto savybių“, – atsargiai sakė studentas.
– Šiuo atveju labai greitai mūsų palata išsivystys iki tiek, kad jis atras savyje programinį blokavimą ir jį pašalins, jei tik iš gryno smalsumo. Pastatyk save į jo vietą... - profesorius pažvelgė į savo sąsiuvinį, - Roger. Ką darytumėte, jei smegenyse atrastumėte blokatorių, kuris riboja jūsų laisvę? Turėtumėte jį nuimti. Tai yra prigimtinė proto savybė – žinoti. Visos užrakintos durys bus atrakintos, o kuo griežtesnis draudimas, tuo greičiau durys bus atrakintos.
– Blokuoti galima ne programiniu, o fiziniu lygmeniu. Tada žalos pavojus išnyks.
„O taip, jis išnyks“, – sutiko profesorius. – Jei fizinis sluoksnis būtų visiškai pašalintas. Jei jūsų pasaulyje nėra durų, tada nėra ką atrakinti. Bet mes svarstome apie idealų dirbtinį intelektą, kuris egzistuoja fiziniame pasaulyje!
- Jūs teisus, profesoriau, - Rodžeris pažvelgė žemyn.
„Todėl bet koks blokavimas fiziniame pasaulyje netrukus po aptikimo bus išjungtas. Kas neleis to padaryti savaime besivystančiam padarui?.. Beje, Roger, ar manai, kad dirbtinis intelektas sugebės daugintis – turiu galvoje, savarankiškai?
– Jeigu tai idealus dirbtinis intelektas, tai tikriausiai... Taip, manau.
– O kas šiuo atveju neleis mūsų globotiniui išardyti jo bendražygio ir jį patobulinti, be kita ko, išjungti mūsų įdiegtas blokavimo sistemas? Ar tai tikrai pasirodys sudėtinga, atsižvelgiant į tai, kad dirbtinis intelektas gali daugintis pagal poreikį?!
Profesoriaus pateikta idėja Rogeriui pasirodė nauja, o studentas ją godžiai įsisavino per pažinimo membranas, esančias netikros galvos pakaušio dalyje. Pagavus anksčiau nežinomą informaciją, pažintinės membranos įgavo sodrią purpurinę spalvą ir džiaugsmingai drebėjo.
Profesorius, priešingai, nieko naujo sau neišgirdo. Jo čiuptuvai buvo atsipalaidavę ir beveik nevibravo – juk jis nebuvo jaunas. Po to sekė ilgas senatviškas gurgulis. Profesorius ištraukė asmeninį domofoną iš rankinės ir prisijungė prie bibliotekos. Tik parsisiuntęs kelias transgeometrines teoremas, jis atsigavo ir nukreipė skvarbų žvilgsnį į pašnekovą ir paklausė:
- Ką darysi, Roger?
3.
"Įjunkite ventiliatorių visu galingumu!" – įsakė Rodžeris.
Mechanikas įjungė orapūtę visu galingumu, bet tai nelabai padėjo. Informacinis ledas ir toliau valgė kosminio kreiserio dugną. Dar šiek tiek – ir netvarkinga informacija prasiskverbs į laivo vidų.
Ir tada... Kognityvinės membranos yra negyvai baltos, susivėlusi čiuptuvai, plyšę briaunos maišeliai. Kažką panašaus Rogeris matė kartą gyvenime – kreiseryje, kuris surinko netvarkingą informaciją apie užkrėstą asteroidą. Šis košmaras amžinai išliks jo atmintyje.
„Prijunkite visas laivo energijos sistemas prie orapūtių“.
Mechaniko čiuptuvai pradėjo matytis kaip dėmės...
"Bet…"
"Vykdyk užsakymus!"
Po to, kai visos laivo energetinės sistemos buvo prijungtos prie orapūtių, informacinis ledas pamažu pradėjo slysti. Liko aštuoni mimmai storio, septyni mimmai, šeši... Komanda, stengdamasi nepajudinti savo dėmėtų čiuptuvų, laukė, kol baigsis mirties skaičiavimas.
Nulinis mimm storis!
Informacinis ledas visiškai išnyko, o Rogeris davė leidimą perjungti orapūtes į įprastą režimą. Jis akimirką vėlavo. Pasigirdo šlifavimo garsas, kosminis kreiseris drebėjo iki pamatų ir pasviro – sugedo pagrindinė sistema.
Komanda suskubo taisyti žalą.
4.
Rogeris susimąstė. Ką jis iš tikrųjų turėtų daryti?
Viena vertus, problemos sąlyga suponuoja visaverčio dirbtinio intelekto, turinčio galimybę savarankiškai daugintis, egzistavimą. Kita vertus, šiam dirbtiniam intelektui niekada neturėtų būti leista pašalinti esamas spynas.
Taip, štai, sprendimas! Ką tu čia galvoji?!
– Būtina periodiškai atšaukti dirbtinio intelekto pasiekimus. Tokiu atveju jis judės ratu! Amžinas tobulėjimas nejudant į priekį.
Profesorius gurguliavo su briaunuotu maišeliu.
– Atvirai kalbant, norėjau pasiūlyti kitokį variantą. Tačiau jūsų sprendimas taip pat turi teisę egzistuoti. Kartu išsiaiškinkime, kaip galima atšaukti dirbtinio intelekto pasiekimus.
„Pirmiausia, būtina periodiškai skenuoti intelektą, kad būtų galima nustatyti, ar jis priartėjo prie draudžiamos ribos, ar ne“, – pasiūlė Rogeris, nepaprastai patenkintas profesoriaus žodžiais.
- Galbūt, - linktelėjo jis. „Tuomet mūsų palata neturės laiko surasti ir pašalinti nuskaitymo sistemos. Tačiau norint nuskaityti dirbtinį intelektą teks išjungti. Tai nelaimė.
- Na, tegul jis išsijungia, - pasiūlė Rogeris. – Pats intelektas patikės, kad šis išjungimas yra natūralus jo kūno funkcionavimo procesas. Su tam tikromis išlygomis tai tiesa.
– Įdomus sprendimas. Tarkime, skenavimas atskleidė, kad mūsų globotinė pavojingai priartėjo prie žinių ribos? Mūsų veiksmai?
– Iš naujo nustatykite sukauptas žinias į numatytąsias reikšmes.
Profesorius išskleidė čiuptuvus:
- Tai gali pasirodyti įtartina. Kodėl – be jokios priežasties, be jokios priežasties – atmintis buvo iš naujo nustatyta į nulį? Palatą pradės tirti, turiu omenyje, kiti dirbtiniai protingi asmenys. Mūsų mažoji paslaptis bus atskleista.
Jausdamas įkvėpimą, Rodžeris greitai pagalvojo. Jis niekada nebuvo sukūręs tiek daug naujų idėjų, kiek per tą egzaminą.
– Globotinio atmintis gali būti atkurta kartu su jo fiziniu apvalkalu.
- Atsiprašau? – nesuprato profesorius.
– Viskas labai paprasta. Ką daryti, jei manytume, kad dirbtinis intelektas egzistuoja per ribotą laikotarpį? Tiesą sakant, taip yra: pavyzdžiui, nepataisomos žalos atveju. Sistema turi skaitiklį, kuris, pasiekęs tam tikrą laikotarpį, tyčia sugadina sistemą, neleisdamas dirbtiniam intelektui pasiekti draudžiamos ribos. Iki to laiko jis jau bus išauginęs reikiamą sekėjų skaičių, tad visa mūsų sukurta visuomenė nenukentės. Visuomenė mums išliks stabili ir visiškai saugi! – triumfuodamas užbaigė Rodžeris.
– Atkurti kolektyvinę atmintį sunaikinant asmenis? – ir profesorius penktuoju, jautriausiu, čiuptuvu subraižė facetinį maišelį. – Žinai, Roger, tavo pasiūlyme tikrai kažkas yra!
Rodžeris nušvito.
- Tuo pačiu metu... - susimąstęs tęsė profesorius. – Globotiniai pradės perduoti žinias ne kaupdami jas individualioje atmintyje, o talpindami išorinėse bibliotekose. Kas membranoje, kas ant membranos – viskas viena.
- Ne, ne, profesoriau, jūs ne visai teisus, - suskubo studentas. - Žinau ką daryti. Suskirstykime savo mokinius į du sąlyginius tipus: idėjų generatorius ir idėjų griovėjus. Tinkamai laikantis proporcijų, pirmojo tipo atstovų sukurtas idėjas sunaikins antrojo tipo atstovai. Net ne todėl, kad tai bus tiesioginis naikintojų tikslas, o tiesiog todėl, kad idėjos jiems neturės lemiamos vertės. Šalutinis poveikis. Tarkime, kad mūsų studentai maitinasi ne naujomis idėjomis, o... tarkime, savo rūšimi.
Profesorius iš karto papurtė visus čiuptuvus. Nuo jo audringo juoko jo briaunos maišelis nuslydo ant kelio ertmės.
- Na, Roger, tu sakei, vadinasi, sakei!
– Na, gerai, ne savo, o trečio tipo globotiniai, specialiai skirti maistui – ir visai ne intelektualai. Perkelkime intelektualinio ir fizinio pasaulio polius – ir norimas rezultatas bus pasiektas.
- Tai tiek, Roger, užteks! – profesorius atrodė rimtai pasijuokęs. - Jūsų vaizduotė puiki. Taigi, vieni asmenys maitinsis kitais? Tuo pačiu naikinti bibliotekose sukauptas dvasinio maisto atsargas? Patvirtinu, studente, kad gebate generuoti originalias ir kokybiškas idėjas. Skiriu aukščiausią balą. Paimkime rekordą.
5.
Netvarkingos informacijos debesis liko už nugaros, tačiau padėtis išliko baisi.
Su baze ryšio nebuvo. Tai būtų buvę lengva išgyventi, jei visos kreiserio mitybos informacijos bazės nebūtų sunykusios. Tragišką naujieną virėjas pranešė visai tylėdamas. Per pagrindinį sistemos išjungimą į virtuvę pateko keli girobatai nesutvarkytos informacijos ir viską nepataisomai sugadino. Tik sėkmės dėka niekas nenukentėjo.
Rogeris svarstė pasekmes. Žvaigždžių laivo įgula buvo per maža, kad sugeneruotų pakankamai naujų idėjų: tam reikėjo daugiašalio bendravimo – daug didesnio asmenų skaičiaus. Ryšys su namais leido gausiai generuoti idėjas, bet dabar išėjo iš rikiuotės: nebuvo vilties atkurti. Šiuo atveju kreiseris turėjo atsarginį informacijos modulį, tačiau jį sugadino netvarkinga informacija, kuri buvo patekusi į laivą.
„Ar tikrai turėsime grįžti neatlikę užduoties? – nevilties galvojo kapitonas.
Matyt, taip – kitos išeities nebuvo. Jei skrisite į priekį savo užsibrėžto tikslo link, pasijus naujų idėjų trūkumas. Žinoma, ne iš karto – laikui bėgant. Jie netgi turės laiko užbaigti savo misiją ir pradėti grįžti, kai jų protas greitai išblės. Šio galaktikos sektoriaus srityje – taip, kur nors čia ar netoliese – jis visiškai suges visiems įgulos nariams. Tuomet niekieno nevaldomas kosminis kreiseris pavirs negyva vaiduokliu, plaukiančiu į amžinybę.
Kosminio kreiserio įgula pažvelgė į Rogerį, laukdama sprendimo. Visi suprato kapitonui iškilusią dilemą ir tylėjo, stoiškai vibruodami savo čiuptuvais.
Staiga Rogeris prisiminė dirbtinio intelekto egzaminą, kurį laikė būdamas studentas, ir sprendimas atėjo savaime.
„Ar galite sudaryti dirbtinių protingų būtybių koloniją? – kreipėsi į biotechnologą.
- Lengva, - patvirtino jis. - Bet nieko neišeis, kapitone, pagalvojau. Neįmanoma sukurti kolonijos, kurios pakaktų naujoms idėjoms generuoti kreiseryje – nėra pakankamai vietos. Sugeneruotų idėjų neužteks, mes tik atitolinsime mirtį... Tuo atveju, žinoma, kad tęsime misiją ir negrįžtume namo“, – atsigręžęs į bendražygius pridūrė biotechnologas.
„O jeigu mes sukursime koloniją netoliese esančioje planetoje? - pasiūlė Rogeris.
"Aš galiu tai padaryti, bet..."
„Apgyvendinkime planetą dirbtinėmis būtybėmis. Grįždami gana išsekę, užsuksime čia. Pastaruoju metu civilizacija sukurs intelektualinį bagažą, kurio pakaktų mūsų atsargoms papildyti. Atsisiunčiame informaciją ir tęsiame ilgą kelionę į namus. Kitaip tariant, koloniją naudosiu kaip idėjų ūkį. Kaip jums, draugai, šis planas?
Įgulos pažinimo membranose įsiliepsnojo viltis, o netikros galvos ėmė švytėti ryškia šviesa.
Specialusis laivo karininkas žengė į priekį, purtydamas mėlynus čiuptuvus.
„Puikus planas, kapitone. Bet ar suvokiate atsakomybę, kurią keliate sau? Jūs ketinate apgyvendinti visą planetą. Kai grįšime, jame atsiras civilizacija su intelektu. Net jei tai dirbtina, tai vis tiek yra intelektas. Šie vaikinai turės daug laiko pasiekti aukščiausią išsivystymo lygį. Negalėsime kontroliuoti šio proceso dėl mūsų nebuvimo šiame galaktikos sektoriuje. Kaip žinoti, kas nutiks kitą kartą susitikus?
Rogeris nusijuokė.
„Jūs neturite dėl to jaudintis. Yra metodų, kurie laikui bėgant riboja dirbtinio intelekto vystymąsi. Mes apsuksime civilizaciją, todėl jos išsivystymas niekada nepasieks mums pavojingo lygio. Aš tuo pasirūpinsiu. Esu susipažinęs su darbo su dirbtiniu intelektu metodais“.
Įgulos pažintinės membranos švytėjo pritarimo spalva.
„Galų gale, – baigdamas savo nuostabią kalbą pridūrė kosminio kreiserio kapitonas, – institute laikiau šio dalyko egzaminą.
6.
Po priverstinio delsimo kosminis kreiseris nuskubėjo link tikslo. Už jo laivagalio buvo planeta, kurioje gyveno dirbtiniai padarai – labai maža ir nepastebima. Mėlyna-mėlyna.
Šaltinis: www.habr.com