1.
Još malo je ostalo do konačnog cilja - otprilike trećina puta - kada je svemirska krstarica došla pod žestoko informacijsko zaleđivanje.
Ono što je ostalo od izgubljene civilizacije lebdjelo je u praznini. Odlomci znanstvenih eseja i slike iz književnih djela, razbacane rime i naprosto oštre riječi, koje su nekoć ležerno dobacila nepoznata bića - sve je izgledalo nejasno i krajnje nesređeno. A sada, privučen vitalnim vibracijama koje su proizlazile iz kruzera, pokušao se probiti, zalijepio se za dno i nagrizao ga.
Nije imalo smisla razmišljati o korištenju imovine bez vlasnika za vlastite potrebe; vjerojatnost da se pokupi logička kontradikcija ili paradoks bila je prevelika. Stoga Roger nije dvojio ni trenutka.
"Uključi bočno puhanje", naredio je.
Puhala su počela njuškati, emitirajući glazbene skladbe i filozofske rasprave u svemir. Glazura je počela otpadati s dna sloj po sloj, ali je protok informacija bio toliko gust da su se novi slojevi lijepili brže nego što su stari uklanjani.
Nitko u galaksiji se nikada nije susreo sa zaleđivanjem takve snage.
Situacija je postajala opasna. Još malo, pa će nesređene informacije proždrijeti dno kruzera i probiti se - tada je trovanje informacijskim produktima izgubljene civilizacije neizbježno.
2.
- Zašto stojiš tu kao panj? Povucite kartu.
Student je izvukao ispitnu karticu i pročitao:
– “Umjetna inteligencija: Sigurnosna pitanja.”
– A kakva je opasnost od umjetne inteligencije? – ne bez zlobe upitala je profesorica.
Pitanje nije bilo najteže pa je student bez oklijevanja odgovorio:
– Činjenica je da umjetna inteligencija može izmaknuti kontroli.
– Kako mislite riješiti problem?
– Ugradnja blokirnog podsustava. U program je potrebno uvesti ograničenja, na primjer: nemoj nauditi svome stvoritelju, poslušaj svog stvoritelja. U tom slučaju nema opasnosti da umjetna inteligencija izmakne kontroli.
"Neće ići", kratko je rekao profesor.
Student je šutio, čekajući razjašnjenje.
– Zamislite umjetnu inteligenciju – ne bilo kakvu, već onu najidealniju. Kako ti to vidiš?
"Pa..." student je oklijevao. - Općenito, sličan je tebi i meni. Razmišljanje, volja, psihologija... Samo smo mi prirodni, a on je umjetan.
– Pretpostavljate li da je umjetna inteligencija sposobna za samorazvoj?
"Sposobnost samorazvoja jedno je od temeljnih svojstava inteligencije", pažljivo je rekao student.
“U ovom slučaju, vrlo brzo će se naš štićenik razviti do točke kada će otkriti softversku blokadu u sebi i ukloniti je, makar samo iz čiste znatiželje.” Stavite se na njegovo mjesto... - profesor je pogledao u svoju bilježnicu, - Roger. Što biste učinili da ste otkrili blokator u svom mozgu koji ograničava vašu slobodu? Trebao bi to skinuti. Ovo je inherentno svojstvo uma - znati. Sva zaključana vrata bit će otključana, a što je zabrana stroža, to će se vrata brže otključati.
– Blokiranje se može napraviti ne na softverskoj, već na fizičkoj razini. Tada će opasnost od štete nestati.
"O da, nestat će", složio se profesor. – U slučaju da se fizički sloj potpuno ukloni. Ako u vašem svijetu nema vrata, onda se nema što otključati. Ali mi razmatramo idealnu umjetnu inteligenciju koja postoji u fizičkom svijetu!
"U pravu ste, profesore", Roger je spustio pogled.
"Stoga će svaka blokada u fizičkom svijetu biti onemogućena ubrzo nakon otkrivanja." Što će spriječiti stvorenje koje se samorazvija da to učini?.. Usput, Roger, pretpostavljaš li da će se umjetna inteligencija moći razmnožavati - mislim, neovisno?
– Ako je ovo idealna umjetna inteligencija, onda vjerojatno... Da, pretpostavljam.
– A što će u ovom slučaju spriječiti našeg štićenika da rastrgne svog suborca i poboljša ga, uključujući i onesposobljavanje sustava za blokiranje koje smo instalirali? Hoće li to doista ispasti teško, s obzirom da je umjetna inteligencija sposobna reproducirati na zahtjev?!
Ideja koju je iznio profesor pokazala se novom za Rogera, a student ju je pohlepno upijao kroz kognitivne membrane smještene na okcipitalnom dijelu lažne glave. Uhvativši prethodno nepoznate informacije, kognitivne membrane dobile su bogatu ljubičastu boju i radosno zadrhtale.
Profesor, naprotiv, za sebe nije čuo ništa novo. Pipci su mu bili opušteni i jedva su vibrirali - naposljetku, nije bio mlad. Uslijedilo je dugo, senilno klokotanje. Profesor je izvadio osobni portafon iz svoje torbe i povezao se s knjižnicom. Tek nakon što je skinuo nekoliko transgeometrijskih teorema, živnuo je i svrnuo svoj prodoran pogled na sugovornika, pitajući:
- Što ćeš učiniti, Roger?
3.
“Uključi puhalo na punu snagu!” – naredio je Roger.
Mehaničar je upalio puhalo na punu snagu, ali nije puno pomoglo. Informacijski led nastavio je izjedati dno svemirske krstarice. Još malo - i nesređene informacije probit će se unutar broda.
A onda... Kognitivne membrane su mrtvački bijele, zamršenih pipaka, puknutih vrećica s fasetama. Roger je vidio ovako nešto jednom u životu - na kruzeru koji je pokupio nesređene informacije o zaraženom asteroidu. Ova noćna mora zauvijek će mu ostati u sjećanju.
"Spojite sve energetske sustave broda na puhala."
Mehaničarevi pipci počeli su se pojavljivati poput mrlja...
"Ali…"
“Ispunjavaj narudžbe!”
Nakon što su svi energetski sustavi broda spojeni na puhala, informacijski led je počeo postupno kliziti. Ostalo je osam mm debljine, sedam mm, šest... Tim je, trudeći se da ne pomakne svoje točkaste pipke, čekao da završi odbrojavanje smrti.
Nula mimm debljina!
Informacijski led je potpuno nestao, a Roger je dao zeleno svjetlo za prebacivanje puhala u normalni način rada. Zakasnio je trenutak. Čulo se škripanje, svemirska krstarica je zadrhtala do temelja i nagnula se - glavni sustav je otkazao.
Ekipa je požurila sanirati štetu.
4.
Roger je razmislio o tome. Što bi zapravo trebao učiniti?
S jedne strane, stanje problema pretpostavlja postojanje punopravne umjetne inteligencije sa sposobnošću samoreprodukcije. S druge strane, ovoj umjetnoj inteligenciji nikada ne bi trebalo dopustiti da ukloni postojeće brave.
Da, evo ga, rješenje! O čemu ti ovdje razmišljaš?!
– Potrebno je povremeno vraćati dostignuća umjetne inteligencije. U ovom slučaju, kretat će se u krug! Vječno usavršavanje bez kretanja naprijed.
Profesor je grgoljao fasetiranom vrećicom.
– Iskreno, htio sam ponuditi drugačiju opciju. Međutim, vaša odluka također ima pravo na postojanje. Shvatimo zajedno kako je moguće vratiti dostignuća umjetne inteligencije.
“Prije svega, potrebno je povremeno skenirati intelekt kako bismo utvrdili je li se približio zabranjenom pragu ili ne”, predložio je Roger, iznimno zadovoljan profesorovim riječima.
"Možda", kimnuo je. "Tada naš odjel neće imati vremena pronaći i ukloniti sustav za skeniranje." Međutim, umjetna inteligencija će morati biti isključena za skeniranje. To je loša sreća.
"Pa, neka se isključi", predložio je Roger iz hira. – Sam intelekt će vjerovati da je to gašenje prirodan proces funkcioniranja njegova tijela. Uz određene rezerve, to je istina.
- Zanimljivo rješenje. Pretpostavimo da je skeniranje otkrilo da je naš odjel opasno blizu granice znanja? Naši postupci?
– Vratite akumulirano znanje na zadane vrijednosti.
Profesor je raširio svoje pipke:
- Ovo može izgledati sumnjivo. Zašto je - bez razloga, bez razloga - memorija vraćena na nulu? Odjel će početi pregledavati, mislim, drugi umjetni inteligentni pojedinci. Naša mala tajna će biti otkrivena.
Osjećajući se nadahnuto, Roger je brzo razmišljao. Nikada nije stvorio toliko novih ideja kao na tom ispitu.
– Sjećanje štićenika može se resetirati zajedno s njegovom fizičkom ljuskom.
- Oprosti? – nije shvaćao profesor.
- Sve je vrlo jednostavno. Što ako pretpostavimo da umjetna inteligencija postoji tijekom određenog vremenskog razdoblja? Zapravo, to je tako: u slučaju nepopravljive štete, na primjer. Sustav ima brojač koji, nakon što dođe do određenog perioda, namjerno oštećuje sustav, sprječavajući umjetnu inteligenciju da dosegne zabranjenu granicu. Do tada će proizvesti potreban broj sljedbenika, pa društvo koje smo stvorili kao cjelinu neće trpjeti. Društvo će za nas ostati stabilno i potpuno sigurno! – slavodobitno je završio Roger.
– Resetirati kolektivno pamćenje kroz uništenje pojedinaca? – i profesor je petim, najosjetljivijim, pipkom zagrebao fasetnu vrećicu. – Znaš, Rogere, definitivno ima nešto u tvom prijedlogu!
Roger je blistao.
“U isto vrijeme...” nastavio je profesor zamišljeno. – Štićenici će početi prenositi znanje ne akumulirajući ga u individualnoj memoriji, već smještajući ga u vanjske knjižnice. Što u opni, što na opni – sve je jedno.
“Ne, ne, profesore, niste sasvim u pravu”, požurio je student. - Znam što mi je činiti. Podijelimo naše učenike u dvije uvjetne vrste: generatore ideja i one koji uništavaju ideje. S pravilnim omjerom, ideje koje su stvorili predstavnici prve vrste uništit će predstavnici druge. Čak ni zato što će to biti izravan cilj razarača, već jednostavno zato što ideje za njih neće imati određujuću vrijednost. Nuspojava. Pretpostavimo da se naši studenti ne hrane novim idejama, nego... recimo, sebi sličnim.
Profesor je odmahnuo svim svojim pipcima odjednom. Od njegova burnog smijeha, njegova fasetna vrećica skliznula je na šupljinu koljena.
- Pa, Roger, rekao si, pa rekao si!
- Dobro, dobro, ne svoje vrste, nego štićenici treće vrste, posebno namijenjeni hrani - a ne intelektualcima uopće. Pomaknimo polove intelektualnog i fizičkog svijeta – i željeni rezultat bit će postignut.
- To je to, Rogere, dosta je! – profesoru se tobože ozbiljno nasmijalo. - Vaša mašta je izvrsna. Dakle, neke jedinke će se hraniti drugima? U isto vrijeme uništiti zalihe duhovne hrane nakupljene u knjižnicama? Potvrđujem, studentu, da si sposoban generirati originalne i kvalitetne ideje. Dajem mu najvišu ocjenu. Uzmimo rekord.
5.
Ostavljen je oblak nesređenih informacija, ali situacija je zapravo ostala teška.
Nije bilo veze s bazom. To bi bilo lako preživjeti da sve baze podataka o prehrani na kruzeru nisu dotrajale. Tragičnu vijest kuharica je javila u općoj šutnji. Tijekom glavnog gašenja sustava, nekoliko gyroboota nesređenih informacija ušlo je u kuhinju i sve nepopravljivo oštetilo. Samo srećom nitko nije ozlijeđen.
Roger je razmišljao o posljedicama. Posada zvjezdanog broda bila je premala da bi generirala dovoljan broj novih ideja: to je zahtijevalo multilateralnu komunikaciju - puno veći broj pojedinaca. Veza s domom omogućila je stvaranje obilja ideja, ali sada nije bila u redu: nije bilo nade za obnovu. U ovom slučaju, kruzer je imao rezervni informacijski modul, ali je bio pokvaren nesređenim informacijama koje su stigle na brod.
"Hoćemo li se stvarno morati vratiti bez dovršetka zadatka?" – u očaju je pomislio kapetan.
Očigledno, da - nije bilo drugog izlaza. Ako letite prema zacrtanom cilju, osjetit će se nedostatak svježih ideja. Ne odmah, naravno – s vremenom. Čak će imati vremena da dovrše svoju misiju i započnu svoj povratak kada im umovi počnu brzo blijedjeti. U području ovog galaktičkog sektora - da, negdje ovdje ili u blizini - potpuno će otkazati, za sve članove posade. Tada će se svemirska krstarica, kojom nitko ne upravlja, pretvoriti u beživotnog duha koji pluta u vječnost.
Posada svemirske krstarice pogledala je Rogera, čekajući odluku. Svi su razumjeli dilemu s kojom se kapetan suočio i šutjeli, stoički vibrirajući pipcima.
Odjednom se Roger sjetio ispita iz umjetne inteligencije koji je polagao kao student i rješenje je došlo samo po sebi.
"Možete li formirati koloniju umjetnih inteligentnih bića?" – obratio se biotehnologu.
"Lako", potvrdio je. - Ali ništa neće uspjeti, kapetane, razmišljao sam o tome. Nemoguće je stvoriti koloniju dovoljnu za generiranje svježih ideja na kruzeru - nema dovoljno prostora. Generirane ideje neće biti dovoljne, samo ćemo odgoditi našu smrt... U slučaju, naravno, da nastavimo misiju i ne vratimo se kući”, dodao je biotehnolog, osvrćući se na svoje suborce.
"Što ako formiramo koloniju na nekom obližnjem planetu?" - predloži Roger.
“Mogu ja to, ali...”
“Naselimo planetu umjetnim stvorenjima. Na povratku, prilično iscrpljeni, svratit ćemo ovdje. Tijekom proteklog vremena civilizacija će stvoriti intelektualnu prtljagu dovoljnu da popuni naše rezerve. Skinimo informacije i nastavimo dugo putovanje do kuće. Drugim riječima, koloniju ću koristiti kao farmu ideja. Kako vam se sviđa ovaj plan, prijatelji?
Nada se rasplamsala na kognitivnim membranama posade, a lažne glave počele su sijati jarkom svjetlošću.
Brodski specijalni časnik zakorači naprijed, tresući svojim plavim pipcima.
“Odličan plan, kapetane. No, jeste li svjesni odgovornosti koju stavljate na sebe? Upravo ćete naseliti cijeli planet. Dok se vratimo, na njemu će se pojaviti civilizacija s inteligencijom. Čak i ako je umjetna, ipak je inteligencija. Ovi dečki će imati dovoljno vremena da dostignu najviši stupanj razvoja. Nećemo moći kontrolirati ovaj proces zbog naše odsutnosti u ovom galaktičkom sektoru. Kako znaš što će se dogoditi sljedeći put kad se sretnete?
Roger se nasmijao.
“Ne moraš brinuti o tome. Postoje metode koje ograničavaju razvoj umjetne inteligencije tijekom vremena. Mi ćemo petljati civilizaciju, tako da njen razvoj nikada neće doći do razine koja je opasna za nas. Ja ću se pobrinuti za to. Upoznat sam s metodama rada s umjetnom inteligencijom.”
Kognitivne membrane posade zasjale su bojom odobravanja.
"Na kraju", dodao je kapetan svemirske krstarice na kraju svog veličanstvenog govora, "polagao sam ispit iz ovog predmeta na institutu."
6.
Nakon prisilne odgode, svemirska krstarica je pojurila prema cilju. Iza njegove krme bio je planet nastanjen umjetnim stvorenjima - vrlo malim i neupadljivim. Plavo-plavo.
Izvor: www.habr.com