1.
Lõppeesmärgini oli jäänud vähe – umbes kolmandik teest –, kui kosmoseristleja sattus ränga infojää alla.
See, mis kadunud tsivilisatsioonist järele jäi, hõljus tühjuses. Teaduslike esseede lõigud ja kirjandusteoste pildid, hajutatud riimid ja lihtsalt teravad sõnad, mida tundmatud olendid juhuslikult visasid - kõik nägi välja ebamäärane ja äärmiselt korratu. Ja nüüd, olles meelitatud ristlejast lähtuvatest elutähtsatest vibratsioonidest, püüdis see läbi murda, jäi põhja külge kinni ja korrodeeris selle.
Peremeheta vara enda tarbeks kasutamiseks polnud mõtet mõelda, loogilise vastuolu või paradoksi tabamise tõenäosus oli liiga suur. Nii et Roger ei kõhelnud hetkekski.
"Lülita külgpuhumine sisse," käskis ta.
Puhurid hakkasid nuuskama, edastades kosmosesse muusikateoseid ja filosoofilisi traktaate. Alumiselt hakkas jäätumine kiht-kihi haaval eemalduma, kuid infovoog oli nii tihe, et uued kihid kleepusid kiiremini kui vanad.
Keegi galaktikas pole kunagi kohanud sellise jõuga jäätumist.
Olukord oli muutumas ohtlikuks. Natuke veel, ja segane info sööb ristleja põhja läbi ja murrab läbi – siis on mürgitamine kadunud tsivilisatsiooni infotoodetega vältimatu.
2.
- Miks sa seisad seal nagu känd? Tõmba pilet.
Õpilane tõmbas välja eksamikaardi ja luges:
– “Tehisintellekt: turvaprobleemid”.
– Ja mis on tehisintellekti oht? – küsis professor, mitte pahatahtlikult.
Küsimus polnud just kõige raskem, nii et õpilane vastas kõhklemata:
– Fakt on see, et tehisintellekt võib väljuda kontrolli alt.
– Kuidas kavatsete probleemi lahendada?
– Blokeeriva alamsüsteemi paigaldamine. Programmi on vaja kehtestada piirangud, näiteks: ärge kahjustage oma loojat, kuuletuge oma loojale. Sel juhul pole ohtu, et tehisintellekt kontrolli alt väljuks.
"See ei tööta," ütles professor lühidalt.
Õpilane vaikis ja ootas selgitust.
– Kujutage ette tehisintellekti – mitte ainult mis tahes konkreetset, vaid kõige ideaalsemat. Kuidas sa seda näed?
"Noh..." tudeng kõhkles. - Üldiselt on ta sinu ja minuga sarnane. Mõtlemine, tahe, psühholoogia... Ainult meie oleme loomulikud, tema aga tehislik.
– Kas arvate, et tehisintellekt on võimeline ennast arendama?
"Enesearengu võime on üks intelligentsuse põhiomadusi," ütles õpilane ettevaatlikult.
- Sel juhul areneb meie palat üsna pea selleni, et ta avastab endas tarkvarablokeeringu ja eemaldab selle, kas või puhtast uudishimust. Pane end tema asemele... - professor vaatas oma märkmikku, - Roger. Mida teeksite, kui avastaksite oma ajus blokaatori, mis piirab teie vabadust? Sa peaksid selle ära võtma. See on mõistuse loomuomane omadus – teada. Iga lukustatud uks läheb lukust lahti ja mida rangem keeld, seda kiiremini uks lukust lahti tehakse.
– Blokeerimist saab teha mitte tarkvara, vaid füüsilisel tasemel. Siis kaob kahjuoht.
"Oh jah, see kaob," nõustus professor. – Juhul kui füüsiline kiht üldse eemaldatakse. Kui teie maailmas pole ust, siis pole ka midagi avada. Kuid me kaalume ideaalset tehisintellekti, mis eksisteerib füüsilises maailmas!
„Teil on õigus, professor,” vaatas Roger alla.
"Seetõttu blokeeritakse kõik ummistused füüsilises maailmas varsti pärast tuvastamist." Mis takistab iseareneval olendil seda tegemast?.. Muide, Roger, kas sa eeldad, et tehisintellekt suudab paljuneda – ma mõtlen iseseisvalt?
– Kui see on ideaalne tehisintellekt, siis ilmselt... Jah, ma arvan.
– Ja mis sel juhul takistab meie hoolealusel oma seltsimeest lahti rebimast ja teda täiustamast, sealhulgas blokeerides meie paigaldatud blokeerimissüsteemid? Kas see osutub tõesti keeruliseks, arvestades, et tehisintellekt on võimeline nõudmisel paljunema?!
Professori esitatud idee osutus Rogeri jaoks uudseks ja üliõpilane neelas selle ahnelt läbi valepea kuklal asuvate kognitiivsete membraanide. Olles püüdnud varem tundmatut teavet, omandasid kognitiivsed membraanid rikkaliku lilla värvi ja värisesid rõõmsalt.
Professor, vastupidi, ei kuulnud enda jaoks midagi uut. Tema kombitsad olid lõdvestunud ja peaaegu ei vibreerinud – lõppude lõpuks polnud ta noor. Järgnes pikk, seniilne surina. Professor tõmbas oma fassaadikotist välja isikliku sisetelefoni ja ühendas raamatukoguga. Alles pärast mitme transgeomeetrilise teoreemi allalaadimist elavnes ta ja pööras läbitungiva pilgu vestluskaaslase poole, küsides:
- Mida sa teed, Roger?
3.
"Lülita puhur täisvõimsusel sisse!" – andis Roger käsu.
Mehaanik pani puhuri täisvõimsusel käima, aga sellest polnud suurt abi. Infojää söös jätkuvalt kosmoseristleja põhja. Natuke veel – ja segane info tungib laeva seest läbi.
Ja siis... Kognitiivsed membraanid on surnud valged, sassis kombitsad, lõhkenud tahulised kotid. Midagi sellist oli Roger elus korra näinud – ristlejal, mis oli nakatunud asteroidi kohta korratu teavet kogunud. See õudusunenägu jääb tema mällu igaveseks.
"Ühendage kõik laeva energiasüsteemid puhuritega."
Mehaaniku kombitsad hakkasid paistma nagu täpid...
"Aga…"
"Täida tellimusi!"
Pärast seda, kui kõik laeva energiasüsteemid olid puhuritega ühendatud, hakkas infojää tasapisi maha libisema. Jäi kaheksa mimmi paksust, seitse mimmi, kuus... Meeskond, püüdes oma täpilisi kombitsaid mitte liigutada, ootas surmaloenduse lõppu.
Null mimm paksus!
Infojää kadus täielikult ja Roger andis loa lülitada puhurid tavarežiimile. Ta jäi hetke hiljaks. Kõlas krigisev heli, kosmoseristleja värises vundamentideni ja kaldus – põhisüsteem oli üles öelnud.
Meeskond kiirustas kahjustusi parandama.
4.
Roger mõtles selle peale. Mida ta tegelikult tegema peaks?
Ühelt poolt eeldab probleemi seisund täisväärtusliku isepaljunemisvõimega tehisintellekti olemasolu. Teisest küljest ei tohiks see tehisintellekt kunagi lasta olemasolevaid lukke eemaldada.
Jah, siin see on, lahendus! Mida sa siin mõtled?!
– Tehisintellekti saavutusi tuleb perioodiliselt tagasi tõmmata. Sel juhul liigub see ringi! Igavene paranemine ilma edasi liikumata.
Professor urgitses lihvitud kotiga.
– Ausalt öeldes tahtsin pakkuda teistsugust võimalust. Kuid teie otsusel on ka õigus eksisteerida. Mõtleme koos välja, kuidas on võimalik tehisintellekti saavutusi tagasi tõmmata.
"Kõigepealt on vaja intellekti perioodiliselt skaneerida, et teha kindlaks, kas see on lähenenud keelatud piirile või mitte," soovitas Roger, olles professori sõnadega ülimalt rahul.
"Võib-olla," noogutas ta. "Siis pole meie palatil aega skaneerimissüsteemi üles leida ja eemaldada." Tehisintellekt tuleb aga skannimiseks välja lülitada. See on halb õnn.
"Noh, las ta lülitub välja," soovitas Roger kapriisil. – Intellekt ise usub, et see seiskamine on tema keha toimimise loomulik protsess. Mõne reservatsiooniga on see tõsi.
- Huvitav lahendus. Oletame, et skaneering paljastas, et meie hoolealune on ohtlikult lähedal teadmiste piirile? Meie tegevus?
– Lähtestage kogutud teadmised vaikeväärtustele.
Professor ajas kombitsad laiali:
- See võib tunduda kahtlane. Miks - ilma põhjuseta, ilma põhjuseta - mälu nulliti? Palatit hakatakse uurima, ma mõtlen, teised tehisintelligentsed isikud. Meie väike saladus avalikustatakse.
Tundes end inspireerituna, mõtles Roger kiiresti. Ta polnud kunagi genereerinud nii palju uusi ideid kui sellel eksamil.
– Hoolealuse mälu saab lähtestada koos tema füüsilise kestaga.
- Vabandust? – ei saanud professor aru.
- Kõik on väga lihtne. Mis siis, kui eeldame, et tehisintellekt eksisteerib piiratud aja jooksul? Tegelikult on see nii: näiteks korvamatu kahju korral. Süsteemil on loendur, mis teatud perioodi saabudes rikub teadlikult süsteemi, takistades tehisintellektil jõudmast keelatud piirini. Selleks ajaks on ta tootnud vajaliku arvu jälgijaid, nii et meie loodud ühiskond tervikuna ei kannata. Ühiskond jääb meile stabiilseks ja täiesti turvaliseks! – lõpetas Roger võidukalt.
– Lähtestada kollektiivne mälu üksikisikute hävitamise kaudu? – ja professor kraapis tahukotti viienda, kõige tundlikuma kombitsaga. – Tead, Roger, sinu ettepanekus on kindlasti midagi!
Roger säras.
"Samas..." jätkas professor mõtlikult. – hoolealused hakkavad teadmisi edasi andma nii, et nad ei kogu neid individuaalsesse mällu, vaid paigutavad välistesse raamatukogudesse. Mis on membraanis, mis on membraanil – kõik on üks.
"Ei, ei, professor, teil pole täiesti õigus," kiirustas õpilane. - Ma tean, mida teha. Jagame oma õpilased kahte tingimuslikku tüüpi: ideede generaatorid ja ideede hävitajad. Õige proportsiooni korral hävitavad esimese tüübi esindajate loodud ideed teise tüübi esindajad. Isegi mitte sellepärast, et see oleks hävitajate otsene eesmärk, vaid lihtsalt sellepärast, et ideedel pole nende jaoks määravat väärtust. Kõrvalmõju. Oletame, et meie õpilased ei toitu mitte uutest ideedest, vaid... ütleme, omasugustest.
Professor raputas korraga kõiki kombitsaid. Tema kärarikkast naerust libises ta tahvelkott põlveõõnde.
- Noh, Roger, sa ütlesid seda, nii et sa ütlesid seda!
- Noh, okei, mitte omasugused, vaid kolmandat tüüpi hoolealused, spetsiaalselt toiduks mõeldud - ja üldse mitte intellektuaalid. Nihutagem intellektuaalse ja füüsilise maailma pooluseid – ja soovitud tulemus on saavutatud.
- See on kõik, Roger, sellest piisab! – näis professor tõsiselt lõbustavat olevat. - Sinu kujutlusvõime on suurepärane. Niisiis, mõned inimesed toituvad teistest? Samal ajal hävitada raamatukogudesse kogunenud vaimutoidu varud? Kinnitan, üliõpilane, et oled võimeline genereerima originaalseid ja kvaliteetseid ideid. Annan sellele kõrgeima hinde. Võtame rekordi.
5.
Segatud infopilv jäi seljataha, kuid olukord jäi tegelikult kohutavaks.
Baasiga sidet polnud. Seda oleks olnud lihtne üle elada, kui kõik ristleja toitumisalased teabebaasid poleks lagunenud. Traagilisest uudisest teatas kokk üldises vaikuses. Süsteemi peamise seiskamise ajal sisenes kambüüsi mitu gürobooti korrastamata teavet ja rikkus kõik korvamatult. Ainult õnne tõttu keegi viga ei saanud.
Roger kaalus tagajärgi. Tähelaeva meeskond oli piisava hulga uute ideede genereerimiseks liiga väike: selleks oli vaja mitmepoolset suhtlust – palju suuremat hulka inimesi. Side koduga võimaldas ideid ohtralt genereerida, kuid nüüd oli see rivist väljas: taastamist polnud loota. Antud juhul oli ristlejal varuinfomoodul, kuid selle rikkus pardale tulnud segane info.
"Kas me tõesti peame naasma ilma ülesannet täitmata?" – mõtles kapten meeleheitel.
Ilmselt jah – muud väljapääsu polnud. Kui lendad edasi oma seatud eesmärgi poole, annab värskete ideede puudumine tunda. Muidugi mitte kohe – aja jooksul. Neil on isegi aega oma missioon lõpule viia ja alustada tagasipöördumist, kui nende mõistus hakkab kiiresti tuhmuma. Selle galaktikasektori piirkonnas - jah, kuskil siin või läheduses - see ebaõnnestub täielikult kõigi meeskonnaliikmete jaoks. Siis muutub kosmoseristleja, mida keegi ei kontrolli, elutuks kummituseks, mis hõljub igavikku.
Kosmoseristleja meeskond vaatas otsust oodates Rogerit. Kõik mõistsid kapteni ees seisvat dilemmat ja vaikisid, stoiliselt oma kombitsaid vibreerides.
Järsku meenus Rogerile tudengina sooritatud tehisintellekti eksam ja lahendus tuli iseenesest.
"Kas saate moodustada tehislike intelligentsete olendite koloonia?" – pöördus ta biotehnoloogi poole.
"Lihtne," kinnitas ta. - Aga miski ei õnnestu, kapten, ma mõtlesin sellele. Värskete ideede genereerimiseks ristlejal on võimatu luua kolooniat – ruumi napib. Tekkinud ideedest jääb väheks, vaid lükkame oma surma edasi... Juhul muidugi, kui jätkame missiooni ega naase koju,” lisas biotehnoloog kaaslastele tagasi vaadates.
"Mis siis, kui moodustame mõnel lähedalasuval planeedil koloonia?" - soovitas Roger.
"Ma saan hakkama, aga..."
"Asustame planeedi tehisolenditega. Tagasiteel, üsna kurnatuna, peatume siin. Viimase aja jooksul on tsivilisatsioon loonud intellektuaalset pagasit, mis on piisav meie reservide täiendamiseks. Laadime info alla ja jätkame pikka teekonda majani. Ehk siis ma hakkan kolooniat kasutama ideefarmina. Kuidas teile see plaan meeldib, sõbrad?
Meeskonna kognitiivsetel membraanidel süttis lootus ja valepead hakkasid eredas valguses hõõguma.
Laeva eriohvitser astus siniseid kombitsaid raputades ette.
„Suurepärane plaan, kapten. Kuid kas olete teadlik vastutusest, mille endale panete? Olete asustamas terve planeedi. Selleks ajaks, kui me tagasi jõuame, ilmub sellele intelligentsiga tsivilisatsioon. Isegi kui see on tehislik, on see ikkagi intelligentsus. Neil meestel on palju aega kõrgeima arengutaseme saavutamiseks. Me ei saa seda protsessi kontrollida, kuna me selles galaktilises sektoris ei ole. Kuidas sa tead, mis juhtub järgmisel korral, kui kohtute?
Roger naeratas.
"Sa ei pea selle pärast muretsema. On meetodeid, mis piiravad tehisintellekti arengut aja jooksul. Me teeme tsivilisatsiooni ringi, nii et selle areng ei jõua kunagi meile ohtlikule tasemele. Ma hoolitsen selle eest. Olen kursis tehisintellektiga töötamise meetoditega.
Meeskonna kognitiivsed membraanid särasid heakskiiduvärvis.
"Lõpuks," lisas kosmoseristleja kapten oma suurejoonelise kõne lõpus, "selles aines tegin ma instituudis eksami."
6.
Pärast sunnitud viivitust kihutas kosmoseristleja sihtmärgi poole. Selle ahtri taga oli planeet, kus asustasid tehisolendid – väga väike ja silmapaistmatu. Sinine-sinine.
Allikas: www.habr.com