Ideede kasvatamise farm

1.
Jõud saatuslikku sihti jääb veel vaid kolmandik teed, kui kosmoselaev sattus tugeva teabe jääkristalliseerumise alla.

See, mis alles jäi hukkunud tsivilisatsioonist, hõljus tühermaal. Teadusartiklite lõigud ja kirjandusteoste kujutlused, killustatud riimid ja lihtsalt teravad sõnad, kunagi juhuslikult visatud tundmatute olendite poolt – kõik nägi välja arusaamatu ja äärmiselt segamini. Nüüd, tõmmates kruiisilaeva elulisi vibratsioone, üritas see end sisse tungida, kleepus põhjale ja hakkas seda söövitama.

Ei olnud mõtet kasutada omanikuta vara oma huvides, liiga suur oli tõenäosus, et sured loogilise vastuolu või paradoksi tõttu. Seetõttu ei kõhelnud Roger hetkekski.

„Lülitage külgpuhtuse sisse,” käsutas ta.

Õhupuhastajad hakkasid jorisema, edastades avatud kosmoses muusikakoompositsioone ja filosoofilisi traktaate. Jääk hakkas kihiti lahti kiskuvalt, kuid teabevoog oli nii tihe, et uued kihid kleepusid kiiremini, kui vanad eemaldusid.

Sellise tugevusega jääkristalliseerumisega ei olnud keegi galaktikas varem silmitsi seisnud.

Olukord muutus ohtlikuks. Veel pisut ja segane teave hakkab laeva põhja sööma ja tungib sisse – siis on hukkumine hukkunud tsivilisatsiooni infoproductidega vältimatu.

2.
– Mida te seal seisate, nagu puu? Tõmmake eksamitöö.

Üliõpilane tõmbas eksamitöö ja kutsus välja:

– „Tehisintellekt: ohutusprobleemid.”

– Mis on tehisintellekti oht? – küsis professor pisut irooniaga.

Küsimus ei olnud kõige keerulisem, seega vastas üliõpilane mõtlemata:

– Et tehisintellekt võib kontrolli alt välja minna.

– Kuidas kavatsete probleemi lahendada?

– Paigaldades blokeerimise alamsüsteemi. Programm peab seadma piiranguid, näiteks: mitte kahjustada oma loojat, kuulata oma loojat. Sel juhul ei ole tehisintellekti kontrolli alt väljamineku ohtu.

– Ei õnnestu, – ütles professor lühidalt.

Üliõpilane vaikis, oodates selgitusi.

– Kujutage ette tehisintellekti – mitte mingit konkreetset, vaid täiesti ideaalset. Kuidas te seda näete?

– Noh… – segas üliõpilane. – Üldiselt sarnaneb ta meiega. Mõtlemine, tahtejõud, psühholoogia… Ainult meie oleme loomulikud, aga tema on kunstlik.

– Kas te arvate, et kunstlikul intellektil on enesearenguvõime?

– Enesearenguvõime on üks intelligentsi põhijooni, – ütles üliõpilane ettevaatlikult.

– Sellisel juhul arendab meie hoolealune peagi end nii kaugele, et avastab endal programmi blokeerimise ja eemaldab selle, vähemalt puhtast uudishimu pärast. Asetage end tema olukorda… – professor vaatas hindepäevikusse, – Roger. Mida teeksite, kui avastaksite oma ajus mingi blokeerija, mis piirab teie vabadust? Te eemaldaksite selle. See on arusaamise lahutamatu omadus – teada saada. Iga lukustatud uks avatakse, ja mida rangem on keeld, seda kiiremini uks avatakse.

– Blokeeringu saab teha mitte programmide, vaid füüsilise tasandi tasandil. Siis kaob oht kahjustada.

– Jah, see kaob, – nõustus professor. – Kui füüsiline tase üldse eemaldatakse. Kui su maailmas pole ühtegi ust, siis pole ka midagi avada. Kuid meie arutame ideaalset kunstlikku intellekti, mis eksisteerib füüsilises maailmas!

– Te olete õigus, professor, – ütles Roger kanaldes pilku.

– Seetõttu eemaldatakse iga blokeering füüsilises maailmas peagi pärast avastamist. Mis takistab eneseareneval olendil seda teha?.. Muide, Roger, kas te arvate, et kunstlikul intellektil on võimalus paljuneda – ma mõtlen, iseseisvalt?

– Kui see on ideaalne kunstlik intellekt, siis tõenäoliselt… Jah, arvan.

– Ja mis takistaks meie hoolealusel oma kaaslast tükkideks rebida ja parandada, sealhulgas meie kehtestatud blokeeringute eemaldamise teel? Kas see ei osutu keeruliseks, arvestades, et kunstlik intellekt on suuteline vajadusel paljunema?!

Professor tõstatatud mõte osutus Rogerile uued, ja üliõpilane imes seda ahnelt sisse, kognitiivsete emulsioonidega, mis asuvad tema peanaha taga. Varem teadmata teabe saamine, kognitiivsed emulsioonid muutusid küllastunud lillaks ja rõõmsalt värisesid.

Professor, vast, did not hear anything new for himself. His tentacles were relaxed and almost not vibrating – after all, he was not young. There followed a prolonged senile gurgle. The professor pulled an individual intercom from the facet bag and connected to the library. Only after downloading several transgeometric theorems did he come to life and turn his penetrating gaze onto the interlocutor, asking:

– What will you do, Roger?

3.
“Activate full power blowing!” – Roger gave the order.

The mechanic activated the blowing at full power, but it helped little. The informational rime continued to erode the bottom of the spacecraft. Another moment and the disordered information would burst into the ship.

And then… The cognitive membranes of dead white color, tangled tentacles, burst facet bags. Once in his life, Roger had seen something similar – on a cruiser that had caught disordered information from an infected asteroid. This nightmare would forever remain in his memory.

“Connect all energy systems of the ship to the blowers.”

The mechanic's tentacles began to splotch…

“But…”

“Execute the order!”

After all the energy systems of the ship were connected to the blowers, the informational rime began to gradually slide off. Eight mimms thick, seven mimms, six… The crew, trying not to move their splotchy tentacles, awaited the end of the deadly countdown.

Zero mimms thick!

The informational rime completely withdrew, and Roger signaled to switch the blowers to normal mode. He was a moment too late. There was a crunch, the spaceship shuddered to its foundation and tilted – the main system had failed.

The crew rushed to fix the damage.

4.
Roger pondered. What should he really do?

On one hand, the condition of the problem presupposes the existence of a full-fledged artificial intelligence capable of self-reproduction. On the other hand, this artificial intelligence must absolutely not be allowed to remove established locks.

Here it is, the solution! What to think about here?!

– Tehislikku intelligentsust tuleb aeg-ajalt tagasi kerida. Sel juhul liigub see ringiratast! Igavene täiustamine ilma edasiviimisega.

Professor nõjatas faasikoti peale.

– Pean tunnistama, et soovisin pakkuda teistsugust lahendust. Siiski on teie otsusel samuti õigus eksisteerida. Arutame koos, kuidas tehisintellekti saavutusi tagasi kerida.

– Kõigepealt tuleb intellekti perioodiliselt skaneerida, et määrata, kas see on keelatud piirile lähenenud või mitte, – pakkus Roger, kes oli professorilt saadud sõnumist selgelt rõõmus.

– Ilmselt, – noogutas professor. – Siis ei jää meie patsiendile aega skaneerimissüsteemi leidmiseks ja eemaldamiseks. Kuid tehisintellekti skaneerimiseks tuleb see välja lülitada. Mis probleem.

– Laske tal välja lülituda, – pakkus Roger instinktiivsetele ideedele. – Isegi intellekt arvab, et see väljalülitamine on tema organismi loomulik toimimisprotsess. Teatud ettevaatusabinõudega on see tõele vastav.

– Huvitav lahendus. Oletame, et skaneerimine on määranud, et meie patsient on ohtlikult lähenenud teadmiste piirile? Millised on meie tegevused?

– Kogutud teadmised tuleb nullida.

Professor laotas oma tundlad:

– See võib tunduda kahtlasena. Miks see – järsku – mälu nullitakse? Patsienti hakatakse uurima, ma mõtlen – teised tehislikud intelligentsused. Meie väike saladus avatakse.

Inspireerituna mõtles Roger väga kiiresti. Ta polnud kunagi genereerinud nii palju uusi ideid kui selle eksami ajal.

– Patsientide mälu võib nullida koos nende füüsilise kehaga.

– Vabandage? – ei saanud professor aru.

– Kõik on väga lihtne. Mis siis, kui eeldada, et tehisintellekt eksisteerib lõputu ajavahemiku jooksul? Tegelikult on see nii: näiteks, kui esineb taastamatuid kahjustusi. Süsteemis on paigaldatud loendur, mis teatud ajavahemiku saavutamisel kahjustab süsteemi meelega, takistades tehisintellekti pääsemast keelatud piirini. Sel ajal on ta tootnud vajaliku hulga järglasi, nii et meie loodud ühiskond tervikuna ei kannata. Ühiskond jääb stabiilseks ja meie jaoks täiesti ohutuks! – lõpetas Roger triumfeerivalt.

– Kollektiivset mälu tühistada, hävitades individuaalseid isikuid? – tõi professor välja oma viienda, kõige tundlikuma, tundraharu. – Ja tead, Roger, sinu ettepanekus on kindlasti midagi!

Roger säras.

– Samas… – jätkas professor mõtlikult. – Teenused hakkavad teadmisi edastama, mitte neid individuaalsesse mällu kogudes, vaid välistele raamatukogudele paigutades. Mis puutub perforeerimise, mis läbib perforeerimise – kõik on sama.

– Ei, ei, professor, te ei ole täiesti õiges, – kiirustas üliõpilane. – Ma tean, kuidas käituda. Jagame abistavad isikud kahte tingimuslikku tüüpi: ideede generaatorid ja ideede hävitajad. Õige proportsiooniga mõlema tüübi esindajate seas hävitatakse ideed, mida loovad esindajad, teise tüübi esindajate poolt. Isegi mitte sellepärast, et see oleks hävitajate otsene eesmärk, vaid lihtsalt seetõttu, et ideed ei omanda nende jaoks määravat väärtust. Kõrvalmõju. Oletame, et meie abistavad isikud toituvad mitte uutest ideedest, vaid… ütleme, endasarnastest.

Professor raputas kõiki oma tundrust samaaegselt. Karm hüüatus tõukis tema faasimikotist põlveõõnde.

– Noh, Roger, sa oled seda öelnud, nii et ütle edasi!

– Noh, hästi, mitte endasarnastest, vaid kolmanda tüübi abistavatest isikutest, mis on spetsiaalselt määratud toiteks – mitte intelligentsed inimesed. Liigutame intellektuaalse ja füüsilise maailma poolusi – ja vajaliku tulemuse saavutame.

– Kõik, Roger, piisab! – professor näis tõeliselt rõõmus. – Teie kujutlusvõime on suurepärane. Nii et mõned olendid söövad teisi? Sellega nad hävitavad vaimuvara, mis on raamatukogudes kogunenud? Kinnitan, tudeng, te suudate genereerida originaalseid ja kvaliteetseid ideid. Panen teile kõrgeima hinde. Laske minna arvestusraamatuga.

5.
Korrasolematute andmete pilv jäi seljataha, kuid olukord oli ikkagi tõsine.

Seos andmebaasiga puudus. Seda oleks olnud kerge taluda, kui kõik toitvad infobaasid kruiiseris poleks saanud kasutuskõlbmatuks. Tragöödiast teavitati kokka täielikus vaikuses. Peamise süsteemi väljalülitamisel tungis mõned girobaitid korrastamata informatsioonist kööki ja rikkus kõik pöördumatult ära. Ainult õnne läbi ei juhtunud kellelegi midagi.

Roger mõtles tagajärgedele. Kosmoselaeva meeskond oli liiga väike, et piisavalt uusi ideid genereerida: selleks oleks vajalik mitmekesine suhtlemine – tunduvalt rohkem olendeid. Suhtlus koduga oleks võimaldanud ideede ületegemise, kuid nüüd oli see häiritud: lootust taastumiseks ei olnud. Selleks juhtumiks oli kruiiseris ette nähtud varuinfomodul, kuid see oli rikutud ligi saanud häiritud informatsiooniga.

«Kas tõesti tuleb tagasi minna, ilma ülesannet täitmata?» – mõtles kapten meeleheitesse langetades.

Ilmselt jah – teist väljapääsu polnud. Kui lennata edasi, määratud sihtkohta, annab värskete ideede puudus end tõeliselt tunda. Mitte kohe, loomulikult – ajaga. Nad isegi jõuavad oma missiooni täita ja tagasiteele asuda, kui arusaam hakkab kiiresti hääbuma. Selle galaktilise sektori piirkonnas – jah, kusagil siin või lähedal – lakkab see täielikult töötamast kõigil meeskonna liikmetel. Siis muutub kosmoselaev, keda keegi ei juhi, igavesti ujuma liikuvaks elutuks vaimuks.

Kosmosekruiisijate meeskond vaatas Rogerile, oodates otsust. Kõik mõistsid kapteni ees seisis dilemma ja vaikisid, stoiliselt nende antennid vibreerides.

Äkki meenutas Rogerile tema ülikooli ajal sooritatud tehisintellekti eksam, ja lahendus tuli iseenesest.

„Kas te suudate luua koloonia kunstlikest intelligentsidest?“ – pöördus ta biotehnoloogi poole.

„Kergesti,“ kinnitas see. „Aga kapten, see ei õnnestu. Ma olen sellele mõelnud. Luua piisav koloonia värskete ideede genereerimiseks on kruiseris võimatu – ruum on hädavajalik. Generoitud ideede arv osutub ebapiisavaks, me lihtsalt edasilükkame oma surma... Muidugi, kui me jätkame missiooni täitmist, mitte ei naase koju,“ lisas biotehnoloog, vaadates kaaslaste poole.

„Aga ent kui luua koloonia mõnel naabertäheplaneedil?“ – pakkus Roger.

„Ma saan seda teha, aga…“

„Asustame planeedi kunstlike olenditega. Tagasiteel, olles üsna väsinud, tuleme siia tagasi. Selle aja jooksul on tsivilisatsioon loonud piisavalt intellektuaalset pagasit, et täiendada meie varusid. Laadime teavet ja jätkame pikka teed koju. Teisisõnu, ma kavatsen kasutada kolooniat kui ideede kasvatamise farmi. Kuidas teile selline plaan meeldib, sõbrad?“

Meeskonna kognitiivsetel sildadel süttis lootus, valepead särasid ereda valgusega.

Ees, sinakate tundlate raputades, astus laeva eriline.

„Suurepärane plaan, kapten. Aga kas mõistate, millise vastutuse te enda peale võtate? Te kavandate terve planeedi asustamist. Kui me tagasi jõuame, on seal tsivilisatsioon, millel on intellekt. Olgu see kunstlik, aga see on siiski intellekt. Neil on aega, et jõuda kõrge arengu tasemeni, millest piisab. Me ei suuda selle protsessi üle kontrolli hoida, kuna meid ei ole siin galaktilises sektoris. Kuidas me saame teada, mis juhtub järgmisel kohtumisel?“

Roger muigas.

„Selle pärast saate rahulik olla. On meetodeid, mis piiravad kunstliku intellekti arengut ajas. Me toimetame tsivilisatsiooni ringi, seega ei jõua see kunagi meid ohustava arengutasemeni. Ma hoolitsen selle eest. Kunstliku intellekti meetoditega olen tuttav.“

Meeskonna kognitiivsed sildad süttisid heakskiidu värviga.

„Lõppude lõpuks,“ lisas kosmosekruisi kapten oma suurepärase kõne lõpetuseks, „ma andsin selle teema kohta eksami ülikoolis.“

6.
Pärast sunnitud viivitust suundus kosmoselaev oma sihtmärgi poole. Selle järel jäi planeet, mis oli asustatud kunstlike olenditega - üsna väike ja silmapaistmatu. Sinine-sinine.

Allikas: habr.com