Ideede kasvatusfarm

1.
Lõpp-sihtpunktini jäi veel natuke – umbes kolmandik teest –, kui kosmoselaev sattus tõsise infokülmumuse alla.

See, mis jäi maha hukkunud tsivilisatsioonist, hõljus tühjas. Teaduslike kirjutiste lõigud ja kirjandusteosed, killustatud riimid ja lihtsalt teravad sõnad, mis kunagi olid juhuslikult visatud tundmatute olendite poolt – kõik nägi välja arusaamatult ja äärmiselt korratult. Ja nüüd, meelitades laevast lähtuvaid elu vibratsioone, püüdis see tungida sisse, kleepus põhja külge ja sööbis seda.

Mõelda, et kasutad ühtki hüljatud vara oma eesmärkide nimel, polnud mõtet, tõenäosus loogilise vastuolu või paradoksi saamiseks oli liiga suur. Seetõttu ei kõhelnud Roger hetkekski.

„Käivitage bordide puhastus,” käskis ta.

Puhastajad hakkasid vilisema, edastades avatud kosmosesse muusikakompositsioone ja filosoofilisi traktaate. Külmumuse kiht hakkas põhjaga üksteise järel eemalduma, kuid informatsiooni voog oli nii tihe, et uued kihid kleepusid kiiremini, kui vanad eemaldusid.

Sellise jõhkruse tõttu pole keegi galaktikas seni kokku puutunud.

Olukord muutus ohtlikuks. Veel natuke ja järjestikune teave sööb üles kriiseri põhja ning tungib sisse – siis on hukatuslike tsivilisatsiooni informatsioonitoodete mürgistus vältimatu.

2.
– Miks te seisate nagu puu? Tõmmake pilet.

Üliõpilane võttis eksamipileti ja luges:

– «Tehisintellekt: ohutuse probleemid».

– Mis on tehisintellekti oht? – küsis professor, mitte ilma sarkasmita.

Küsimus polnud kõige keerulisem, seega vastas üliõpilane, mõtlemata:

– Oht seisneb selles, et tehisintellekt võib kontrolli alt välja minna.

– Kuidas kavatsete probleemi lahendada?

– Paigaldades blokeerimise alamsüsteemi. Programmi tuleb sisestada piirangud, näiteks: mitte kahjustada oma loojat, alluda oma loojale. Sel juhul on tehisintellekti kontrolli alt väljumise oht olematu.

– Ei toimi, – ütles professor lühidalt.

Üliõpilane vaikis, oodates selgitusi.

– Kujutage ette tehisintellekti – mitte mingisugust konkreetset, vaid täiesti ideaalset. Kuidas te seda ette kujutate?

– Noh… – piirdus üliõpilane. – Üldiselt on ta meiega sarnane. Mõtlemine, tahe, psühholoogia… Ainult meie oleme loomulikud, tema aga kunstlik.

– Kas te arvate, et tehisintellektil on enesearengu võime?

– Enesearengu võime on üks intelligentsuse peamisi omadusi, – ütles üliõpilane ettevaatlikult.

– Sel juhul areneb meie hoolitsetav peagi selliseks, et avastab endas programmeerimise blokeeringu ja tühistab selle, vähemalt puhta uudishimu tõttu. Asetage end tema olukorda… – professor vaatas oma raamatupidamisraamatusse, – Roger. Mida te teeksite, kui avastaksite oma ajus mingisuguse blokeerija, mis piirab vabadust? Te tühistaksite selle. See on mõistuse lahutamatu omadus – mõista. Iga suletud uks avatakse, ja mida rangem on keeld, seda kiiremini uks avatakse.

– Blokeeringut saab luua mitte programmeeritud, vaid füüsilisel tasemel. Siis kaob oht kahjustada.

– Jah, see kaob, – nõustus professor. – Tõsi, kui füüsiline tase üldse eemaldada. Kui su maailmas pole ühtegi ust, pole ka midagi, mida avada. Kuid me räägime ideaalsetest tehisintellekti süsteemidest, mis eksisteerivad füüsilises maailmas!

– Te olete õiged, professor, – ütles Roger pead nopides.

– Seetõttu lõpetatakse füüsilistes maailmades toimuv blokeerimine peagi pärast avastamist. Mis takistab iseenesest areneval olendil seda teha?.. Muide, Roger, kas te arvate, et tehisintellektil on võimalus paljuneda – mõtlen, iseseisvalt?

– Kui see on ideaalne tehisintellekt, siis võib-olla... Jah, arvan küll.

– Ja mis siis meie eksperimentaalsel isendil takistab oma kaaslast tükkideks lõikamast ja täiustamast, sealhulgas meie kehtestatud blokeeringute eemaldamise kaudu? Kas see ei oleks keeruline, arvestades, et tehisintellekt suudab nõudmisel paljuneda?!

Professorilt väljendatud mõte oli Rogerile uus ja tudeng imes selle endasse entusiastlikult, kasutades oma ajutagust kognitiivset piiri. Uue teabe tajumine tõi kognitiivsetesse piiridesse rikkaliku lilla tooni ja need rõõmsalt värisesid.

Professor seevastu ei kuulnud endale midagi uut. Tema tundlad olid lõdvad ja peaaegu ei vibreerinud – siiski, ta ei olnud enam noor. Järgmine oli pikk vanurite mulin. Professor tõmbas oma faassi kotist isikliku intercomi ja ühendas selle raamatukoguga. Vaid pärast mitme transgeomeetrilise teoreemi allalaadimist ärkas ta ellu ja suunas oma terava pilgu vestluskaaslasele, küsides:

– Mida te kavatsete teha, Roger?

3.
"Lülitage puhumine täisvõimsusele!" – käskis Roger.

Mehaanik lülitas puhumise täisvõimsusele, kuid see aitas vähe. Teabepaksus jätkas kosmoselaeva põhjale söövitamist. Veel natuke – ja korrastamata teave tungib laeva sisse.

Ja siis… Üksildased valged ajupoolkerad, segaduses tuntud tundlad, purunenud facet-kotid. Roger oli sellist asja elus üht korda näinud – kriiseril, mis oli haaranud segast teavet nakatunud asteroidilt. See õudus jääb igaveseks tema mällu.

„Ühendage kõik laeva energiasüsteemid ventilatsioonisüsteemiga.”

Mehaanikute tuntlad muutusid täpid…

„Aga… ”

„ Täitke käsu!”

Pärast seda, kui kõik laeva energiasüsteemid olid ühendatud ventilatsioonisüsteemiga, hakkas teabe jää järk-järgult sulama. Järele jäi kaheksa mimmi paksust, seitse mimmi, kuus… Meeskond, püüdes mitte liikuda plekiliste tundlitega, ootas surmaga lõppeva arvestuse lõppu.

Null mimmi paksust!

Teabe jää kadus täielikult, ja Roger andis märku, et transpordi ventilatsioonisüsteem lülitatakse tavarežiimile. Ta hilines hetkeks. Kostis kriuks, kosmosekriiser värises alustest ja kallutus – see põhiküsimus läks rikki.

Meeskond kiirus parandama kahjustusi.

4.
Roger mõtles. Kuidas tal tegelikult käituda?

Ühelt poolt eeldab ülesande tingimus tõeliselt iseseisva tehisintellekti olemasolu, mis suudab end ise kopeerida. Teiselt poolt ei tohi sellele tehisintellektile mingil juhul lubada seatud piirangute eemaldamist.

Vaata, lahendus on siin! Miks siin mõelda?!

– Tehisintellekti saavutusi tuleb aeg-ajalt tagasi kerida. Sel juhul liigub ta ringis! Igavene täiustamine ilma edasiviimiseta.

Professor rääkis segaselt sõnapesaga.

– Pean ütlema, et tahtsin pakkuda alternatiivi. Kuid teie lahendusel on samuti õigus olemasolu. Arvestame koos, kuidas on võimalik tehisintellekti saavutusi tagasi kerida.

– Kõigepealt tuleb tehisintellekti perioodiliselt skaneerida, et tuvastada, kas ta on lähenemas keelatud piirmärgile või mitte, - pakkus Roger, olles ülimalt rõõmus professori sõnadest.

– Tõepoolest, – noogutas ta. – Siis ei jää meie katsealusele aega skaneerimissüsteemi leidmiseks ja eemaldamiseks. Kuid skaneerimist saab teha ainult siis, kui kunstlik intelligentsus on välja lülitatud. Mis probleem see ikka on.

– Las siis lülitub välja, – pakkus Roger instinktiivselt. – Intelligentsus arvab, et see väljalülitamine on tema organismi loomulik toimimisprotsess. Teatud ettevaatusega on see tõele vastav.

– Huvitav lahendus. Oletame, et skaneerimine näitas, et meie katsealune on ohtlikult lähenenud teadmiste piirile? Mida me teeme?

– Kogutud teadmised tuleb lähtestada vaikeseisundisse.

Professor levitas oma tentakleid:

– See võib tunduda kahtlane. Miks peaks niisama mälu tühjaks saama? Katsealust hakatakse uurima, ma mõtlen – teised kunstlikud intelligentsused. Meie väike salapära paljastatakse.

Inspiratsiooni tundes mõtles Roger väga kiiresti. Ta ei olnud kunagi genereerinud nii palju uusi ideid kui selle eksami ajal.

– Katsealuse mälu võib tühjaks minna koos tema füüsilise kehaga.

– Kuidas palun? – ei saanud professor aru.

– Kõik on väga lihtne. Mis siis, kui oletame, et tehisintellekt eksisteerib piiratud ajavahemikus? Tegelikult on see nii: ühes olukorras, kui kahju on taastamatu, näiteks. Süsteemis on paigaldatud loendur, mis jõudes teatud ajavahemikuni, kahjustab süsteemi tahtlikult, takistades tehisintellektil jõudmast keelatud piirini. Sel ajaks on ta tootnud vajaliku arvu järglasi, nii et meie loodud ühiskond tervikuna ei kannata. Ühiskond jääb stabiilseks ja täiesti meie jaoks ohutuks! – lõpetas Roger pidulikult.

– Kollektiivse mälu tühistamine, hävitades üksikuid isendeid? – ja professor kraapisin oma fassaadi kotti viienda, kõige tundlikuma, kombitsaga. – Teate, Roger, teie ettepanekus on kindlasti midagi!

Roger säras.

– Samas… – jätkas professor mõtlikult. – Usaldusisikud hakkavad teadmisi edastama mitte individuaalses mälus kogunemise teel, vaid paigutades need välistesse raamatukogudesse. Mis tahes vahendiga, see on kõik sama.

– Ei, ei, professor, te eksite, – kiirustas üliõpilane. – Ma tean, kuidas käituda. Jagame oma õpilased kaheks tinglikuks tüübiks: ideede genereerijad ja ideede hävitajad. Õige proportsiooniga hävitavad teise tüübi esindajad ideed, mida loob esimese tüübi esindajad. Mitte seepärast, et see oleks hävitajate otsene eesmärk, vaid sest ideed ei oma neile mingit määravat väärtust. Külg efekt. Oletame, et meie õpilased toituvad mitte uutest ideedest, vaid… ütleme, oma sarnastest.

Professor raputas oma kõiki tundliku jäsemeid korraga. Tema naeruhäälest haaratud kott libises põlveõõnde.

– Noh, Roger, sa ütlesid seda küll!

– Hästi, mitte sarnastest, vaid kolmandast tüübist õpilastest, mis on spetsiaalselt ette nähtud toitmiseks - sugugi mitte intellektuaalid. Nihutame vaimse ja füüsilise maailma pooluseid - ja vajalik tulemus saavutatakse.

– Kõik, Roger, piisavalt! – professor, näib, et on tõsiselt naerma läinud. – Teie fantaasia on imeline. Nii et üks isenditest sööb teisi? Samuti hävitades raamatukogudes kogunenud vaimuhaiguste varud? Kinnitan, tudeng, et olete võimeline genereerima originaalseid ja kvaliteetseid ideid. Annan teile kõrgeima hinne. Tule, võtame õppimise registreerimise.

5.
Korrastamata teabe pilv jäi seljataha, kuid olukord jäi endiselt katastroofiliseks.

Ühendus andmebaasiga puudus. Seda oli lihtne taluda, kui kõik toitvad teabe alused kriuseris polnud rikkis. Tragiline uudis edastati kokale kõigi vaikimise saatel. Peamise süsteemi katkestamise ajal tungis kööki mitu gyrobaiti korrastamata teavet ja rikkusid kõik pöördumatult. Ainult õnneliku juhuse tõttu ei juhtunud kellelegi midagi.

Roger mõtles tagajärgedele. Kosmoselaeva meeskond oli liiga väike, et genereerida piisavalt uusi ideid: selleks oli vajalik mitmepoolne suhtlemine – palju suurem hulk isendeid. Side koduga andis võimaluse ideede generaatoriks, kuid praegu oli see külluses kaduma läinud: lootust taastamiseks ei olnud. Selleks oli kreiseril ette nähtud varu infomoodul, kuid see oli rikutud pardale tunginud segase teabe tõttu.

"Kas tõesti tuleb naasta, ilma ülesannet täitmata?" – mõtles kapten meeleheites.

Ilmselt jah – muud väljapääsu ei olnud. Kui lennata edasi määratud sihtkohta, annab värskete ideede puudus end varsti tunda. Mitte kohe, muidugi – aja jooksul. Nad jõuavad isegi oma missiooni täita ja alustada tagasiteed, kui vaim hakkab kiiresti tuhmuma. Selles galaktilises sektoris – jah, kusagil siin või läheduses – lõpetab see täielikult töö, kõigil meeskonnaliikmetel. Siis muutub kosmoselaev, mida keegi ei juhi, igavikku hõljuvaks elutuks kummituseks.

Kosmoselaeva meeskond vaatas Rogerit, oodates otsuse tegemist. Kõik mõistsid kapteni ees seisvat dilemma ja vaikisid, stoiliselt tentakuljude abil vibrates.

Äkki meenutas Roger kunstliku intellekti eksamit, mille ta oli ülikooliaastatel sooritanud, ning lahendus tuli iseenesest.

»Kas te suudate luua koloonia kunstlikest intelligentsetest olenditest?« küsis ta biotehnoloogilt.

»Lihtne,« kinnitas too. »Aga midagi head ei tule, kapten, ma olen sellele mõelnud. Luua koloonia, mis oleks piisav värskete ideede genereerimiseks, on raketis võimatu – ruumi on liiga vähe. Generatsioonide ideid ei piisa, me lükkame oma hukka vaid edasi... Kui me muidugi jätkame missiooni täitmist, mitte ei naase koju,« lisas biotehnoloog, vaadates kaaslaste poole.

»Aga kui luua koloonia mõnel lähedasel planeedil?« pakkus Roger.

»Mina saan seda teha, aga…«

«Koloniseerime planeedi tehisolenditega. Tagasiteel, korralikult kurnatuna, põikame siia sisse. Selle aja jooksul loob tsivilisatsioon intellektuaalse pagasi, mis on piisav meie varude täiendamiseks. Laadime teabe alla ja jätkame pikka teed koju. Teisisõnu, kavatseme kasutada kolooniat ideede kasvatamise farmina. Kuidas teile see plaan, sõbrad?»

Meeskonna kognitiivsetele tõketele süttis lootus, valepead valgusid kirkalt.

Edasi, siniste sõrmedega kõigutades, astus laeva eriline mees.

«See on suurepärane plaan, kapten. Kuid kas olete teadlik, millise vastutuse endale võtate? Te kavatsete koloniseerida terve planeedi. Aja jooksul meie naasemiseks tekib seal intellektuaalne tsivilisatsioon. Olgu see kunstlik, see on ikkagi intellekt. Neil on aega, et saavutada kõrgeim arengutase. Me ei suuda seda protsessi kontrollida, kuna meid ei ole antud galaktilises sektoris kohal. Kuidas me teame, mis järgmise kohtumise ajal juhtub?»

Roger muigas.

„Selle pärast ei pea te muretsema. On meetodeid, mis piiravad tehisintellekti arengut ajas. Me anname tsivilisatsioonile kestuse, nii et selle areng ei jõua kunagi meie jaoks ohtlikule tasemele. Ma hoolitsen selle eest. Tehisintellektiga töötamise meetodid on mulle tuttavad.“

Meeskonna kognitiivsed peeglid vilkused heakskiidu värviga.

„Lõppude lõpuks," lisas kosmoselaeva kapten oma suurepärase kõne lõpetuseks, „ma tegin selle teema eksami instituudis."

6.
Pärast sunnitud viivitust suundus kosmoselaev sihti. Selle sabas jäi planeet, mille olid asustanud kunstlikud olendid – üsna väike ja märkamatuks. Sinna-sinna.

Allikas: habr.com