1.
Malo je preostalo do konačnog cilja - oko trećine puta - kada se svemirska krstarica našla pod jakim informativnim ledom.
Ono što je ostalo od izgubljene civilizacije lebdjelo je u praznini. Paragrafi naučnih eseja i slika iz književnih dela, razbacane rime i jednostavno oštre reči, koje su nekada slučajno dobacila nepoznata stvorenja - sve je izgledalo zamućeno i krajnje neuređeno. I sada, privučen vitalnim vibracijama koje su izbijale iz krstarice, pokušao je da se probije, zaglavio se za dno i korodirao ga.
Nije imalo smisla razmišljati o korištenju imovine bez vlasnika u vlastite svrhe; vjerojatnost da se otkrije logička kontradikcija ili paradoks bila je prevelika. Tako da Roger nije oklevao ni trenutka.
"Uključite duvanje sa strane", naredio je.
Puhači su počeli da šmrcavaju, emitujući muzičke kompozicije i filozofske rasprave u svemir. Glazura je počela opadati s donjeg sloja po sloju, ali je protok informacija bio toliko gust da su se novi slojevi zalijepili brže od starih uklonjeni.
Niko u galaksiji nikada nije naišao na zaleđivanje takve sile.
Situacija je postajala opasna. Još malo, i neuređene informacije će pojesti dno kruzera i probiti se - tada je trovanje informacijskim proizvodima izgubljene civilizacije neizbježno.
2.
- Zašto stojiš tu kao panj? Izvuci kartu.
Student je izvadio ispitni karton i pročitao:
– “Vještačka inteligencija: Bezbednosna pitanja.”
– A kakva je opasnost od vještačke inteligencije? – upitao je profesor, ne bez zlobe.
Pitanje nije bilo najteže, pa je student bez oklijevanja odgovorio:
– Činjenica je da umjetna inteligencija može izmaći kontroli.
– Kako nameravate da rešite problem?
– Instalacija podsistema za blokiranje. Neophodno je uvesti ograničenja u program, na primjer: ne nanosite štetu svom kreatoru, poslušajte svog kreatora. U ovom slučaju ne postoji opasnost da umjetna inteligencija izmakne kontroli.
„Neće ići“, kratko je rekao profesor.
Student je ćutao, čekajući pojašnjenje.
– Zamislite umjetnu inteligenciju – ne bilo kakvu specifičnu, već najidealniju. kako to vidite?
“Pa...” student je oklevao. - Generalno, on je sličan tebi i meni. Mišljenje, volja, psihologija... Samo mi smo prirodni, a on je veštački.
– Pretpostavljate li da je umjetna inteligencija sposobna za samorazvoj?
„Sposobnost samorazvoja jedno je od osnovnih svojstava inteligencije“, pažljivo je rekao student.
- U ovom slučaju, vrlo brzo će se naš štićenik razviti do te mere da otkrije softversku blokadu u sebi i otkloni je, makar i iz čiste radoznalosti. Stavite se na njegovo mesto... - profesor je pogledao u svoju svesku, - Roger. Šta biste učinili da u svom mozgu otkrijete blokator koji vam ograničava slobodu? Trebao bi ga skinuti. Ovo je svojstvo uma – da zna. Sva zaključana vrata će biti otključana, a što je zabrana stroža, to će se vrata brže otključati.
– Blokiranje se može izvršiti ne na softverskom, već na fizičkom nivou. Tada će opasnost od štete nestati.
„O, da, nestaće“, složio se profesor. – U slučaju da se fizički sloj potpuno ukloni. Ako nema vrata u vašem svetu, onda nema šta da se otključa. Ali mi razmatramo idealnu umjetnu inteligenciju koja postoji u fizičkom svijetu!
„U pravu ste, profesore“, spustio je pogled Rodžer.
“Stoga će svaka blokada u fizičkom svijetu biti onemogućena ubrzo nakon otkrivanja.” Šta će spriječiti stvorenje koje se samorazvija da to učini?.. Usput, Rogere, pretpostavljaš li da će vještačka inteligencija moći da se reprodukuje - mislim, nezavisno?
– Ako je ovo idealna veštačka inteligencija, onda verovatno... Da, pretpostavljam.
– A šta će u ovom slučaju spriječiti našeg štićenika da rastrgne svog saborca i poboljša ga, uključujući i onemogućavanje sistema blokiranja koje smo postavili? Hoće li se ovo zaista pokazati teškim, s obzirom na to da je umjetna inteligencija sposobna reproducirati na zahtjev?!
Ideja koju je iznio profesor pokazala se kao nova za Rodžera, a student ju je pohlepno upijao kroz kognitivne membrane smještene na okcipitalnom dijelu lažne glave. Uhvativši do sada nepoznate informacije, kognitivne membrane su dobile bogatu ljubičastu boju i radosno zadrhtale.
Profesor, naprotiv, za sebe nije čuo ništa novo. Njegovi pipci su bili opušteni i jedva da su vibrirali - uostalom, nije bio mlad. Usledilo je dugo, senilno klokotanje. Profesor je izvukao lični interfon iz svoje torbe i povezao se s bibliotekom. Tek nakon što je preuzeo nekoliko transgeometrijskih teorema, on se ohrabrio i uputio prodoran pogled na sagovornika, pitajući:
-Šta ćeš učiniti, Roger?
3.
“Uključite ventilator na punu snagu!” – Roger je naredio.
Mehaničar je upalio ventilator na punu snagu, ali nije puno pomoglo. Informativni led je nastavio da izjeda dno svemirske krstarice. Još malo - i neuređene informacije će se probiti unutar broda.
A onda... Kognitivne membrane su mrtvo bele, zamršeni pipci, puknute fasetne vrećice. Roger je jednom u životu vidio ovako nešto - na kruzeru koji je prikupljao neuređene informacije o zaraženom asteroidu. Ova noćna mora će mu zauvijek ostati u sjećanju.
"Poveži sve energetske sisteme broda na duvaljke."
Pipci mehaničara počeli su da se pojavljuju kao mrlje...
"Ali..."
“Ispunjavajte naređenja!”
Nakon što su svi energetski sistemi broda bili povezani na duvaljke, informacioni led je počeo postepeno da klizi. Ostalo je osam mimova debljine, sedam mimova, šest... Tim je, trudeći se da ne pomera svoje pegave pipke, čekao da se završi odbrojavanje smrti.
Zero mimm debljine!
Informacijski led je potpuno nestao, a Roger je dao zeleno svjetlo za prebacivanje duvaljki u normalan način rada. Zakasnio je na trenutak. Začuo se zvuk, svemirska krstarica je zadrhtala do temelja i nagnula se - glavni sistem je otkazao.
Tim je požurio da popravi štetu.
4.
Roger je razmislio o tome. Šta bi on zaista trebao učiniti?
S jedne strane, uvjet problema pretpostavlja postojanje punopravne umjetne inteligencije sa sposobnošću samoreprodukcije. S druge strane, ovoj vještačkoj inteligenciji nikada ne bi trebalo dozvoliti da ukloni postojeće brave.
Da, evo ga, rešenje! Šta ti misliš ovdje?!
– Neophodno je periodično vraćati dostignuća veštačke inteligencije. U ovom slučaju će se kretati u krug! Vječno usavršavanje bez kretanja naprijed.
Profesor je grkljao fasetiranom vrećicom.
– Iskreno, želeo sam da ponudim drugu opciju. Međutim, vaša odluka takođe ima pravo na postojanje. Hajde da zajedno shvatimo kako je moguće vratiti dostignuća umjetne inteligencije.
„Prije svega, potrebno je periodično skenirati intelekt kako bi se utvrdilo da li se približio zabranjenom pragu ili ne“, predložio je Roger, izuzetno zadovoljan riječima profesora.
"Možda", klimnuo je glavom. “Onda naše odjeljenje neće imati vremena da pronađe i ukloni sistem za skeniranje.” Međutim, umjetna inteligencija će morati biti isključena da bi se skeniralo. To je loša sreća.
"Pa, neka se isključi", predložio je Roger iz hira. – Sam intelekt će vjerovati da je ovo gašenje prirodni proces funkcionisanja njegovog tijela. Uz neke rezerve, to je tačno.
- Zanimljivo rešenje. Pretpostavimo da je skeniranje otkrilo da je naše odjeljenje opasno blizu granice znanja? Naše akcije?
– Vratite akumulirano znanje na zadane vrijednosti.
Profesor je raširio pipke:
- Ovo može izgledati sumnjivo. Zašto je – bez razloga, bez razloga – memorija vraćena na nulu? Odjeljenje će početi pregledavati, mislim, drugi umjetni inteligentni pojedinci. Naša mala tajna će biti otkrivena.
Osjećajući se nadahnuto, Roger je brzo pomislio. Nikada nije stvorio toliko novih ideja kao na tom ispitu.
– Memorija štićenika se može resetovati zajedno sa njegovom fizičkom ljuskom.
- Izvini? – nije razumeo profesor.
- Sve je vrlo jednostavno. Šta ako pretpostavimo da vještačka inteligencija postoji u ograničenom vremenskom periodu? Zapravo, to je tako: u slučaju nepopravljive štete, na primjer. Sistem ima brojač koji po isteku određenog perioda namjerno oštećuje sistem, sprječavajući umjetnu inteligenciju da dostigne zabranjenu granicu. Do tada će proizvesti potreban broj sljedbenika, tako da društvo koje smo stvorili u cjelini neće stradati. Društvo će ostati stabilno i potpuno sigurno za nas! – trijumfalno je završio Rodžer.
– Resetovanje kolektivnog pamćenja kroz uništavanje pojedinaca? – i profesor petim, najosetljivijim, pipkom počešao fasetnu vreću. – Znaš, Rodžer, sigurno ima nešto u tvom predlogu!
Roger je zablistao.
„U isto vreme...“ nastavi profesor zamišljeno. – Štićenici će početi da prenose znanje tako što ga ne akumuliraju u individualnoj memoriji, već tako što će ga smeštati u eksterne biblioteke. Šta je u membrani, šta je na membrani - sve je jedno.
„Ne, ne, profesore, niste sasvim u pravu“, požurio je student. - Znam šta da radim. Podijelimo naše učenike na dva uslovna tipa: generatore ideja i razarače ideja. Uz pravilnu proporciju, ideje koje stvaraju predstavnici prve vrste uništit će predstavnici druge. Čak ni zato što će to biti direktan cilj razarača, već jednostavno zato što ideje za njih neće imati odlučujuću vrijednost. Nus-efekat. Pretpostavimo da se naši studenti ne hrane novim idejama, već... recimo, svojom vrstom.
Profesor je odjednom protresao sve svoje pipke. Od njegovog gromoglasnog smijeha, njegova fasetna vreća skliznula je na šupljinu koljena.
- Pa, Rogere, rekao si, pa si rekao!
- Pa dobro, ne svoje vrste, nego štićenici trećeg tipa, posebno namenjeni za ishranu - i to nikako intelektualci. Pomjerimo polove intelektualnog i fizičkog svijeta – i željeni rezultat će biti postignut.
- To je to, Roger, dosta je! – izgledalo je da se profesor ozbiljno zabavlja. -Vaša mašta je odlična. Dakle, neki pojedinci će se hraniti drugima? U isto vrijeme uništiti zalihe duhovne hrane nakupljene u bibliotekama? Potvrđujem, studente, da ste sposobni generirati originalne i kvalitetne ideje. Dajem mu najvišu ocjenu. Hajde da snimamo.
5.
Oblak neuređenih informacija ostao je iza sebe, ali situacija je zapravo ostala strašna.
Nije bilo veze sa bazom. Ovo bi bilo lako preživjeti da sve baze podataka o ishrani na kruzeru nisu propale. Tragičnu vest je kuvarica prenela u opštoj tišini. Prilikom gašenja glavnog sistema, nekoliko girobotova neorganizovanih informacija ušlo je u kuhinju i sve nepopravljivo oštetilo. Samo srećom niko nije stradao.
Roger je razmislio o posljedicama. Posada zvjezdanog broda bila je premala da bi stvorila dovoljan broj novih ideja: to je zahtijevalo multilateralnu komunikaciju - mnogo veći broj pojedinaca. Veza s domom omogućila je generiranje ideja u izobilju, ali sada je bila van reda: nije bilo nade za obnovu. U ovom slučaju, krstarica je imala rezervni informacioni modul, ali je bio pokvaren neuređenim informacijama koje su stizale na brod.
„Hoćemo li se zaista morati vratiti bez dovršetka zadatka?“ – pomisli kapetan u očaju.
Očigledno da - nije bilo drugog izlaza. Ako letite naprijed ka zacrtanom cilju, osjetit će se nedostatak svježih ideja. Ne odmah, naravno – vremenom. Čak će imati vremena da završe svoju misiju i započnu povratak kada im umovi počnu brzo blijediti. U području ovog galaktičkog sektora - da, negdje ovdje ili u blizini - potpuno će propasti, za sve članove posade. Tada će se svemirska krstarica, koju niko ne kontroliše, pretvoriti u beživotnog duha koji lebdi u vječnost.
Posada svemirske krstarice je pogledala Rodžera, čekajući odluku. Svi su shvatili dilemu sa kojom se kapetan suočava i ćutali su, stoički vibrirajući pipcima.
Odjednom se Rodžer sjetio ispita iz umjetne inteligencije koji je polagao kao student, a rješenje je došlo prirodno.
“Možete li formirati koloniju umjetnih inteligentnih bića?” – okrenuo se biotehnologu.
"Polako", potvrdio je. - Ali ništa neće ići, kapetane, razmišljao sam o tome. Nemoguće je stvoriti koloniju dovoljnu za generiranje svježih ideja na kruzeru - nema dovoljno prostora. Generirane ideje neće biti dovoljne, samo ćemo odgoditi našu smrt... U slučaju, naravno, da nastavimo misiju i ne vratimo se kući”, dodao je biotehnolog osvrćući se na svoje saborce.
“Šta ako formiramo koloniju na nekoj obližnjoj planeti?” - predložio je Roger.
“Mogu ja to, ali...”
“Napunimo planetu umjetnim stvorenjima. Na povratku, prilično iscrpljeni, svratit ćemo ovdje. Tokom proteklog vremena, civilizacija će stvoriti intelektualni prtljag dovoljan da popuni naše rezerve. Preuzmimo informacije i nastavimo dugo putovanje do kuće. Drugim riječima, koristiću koloniju kao farmu ideja. Kako vam se sviđa ovaj plan, prijatelji?
Nada je planula na kognitivnim membranama posade, a lažne glave su počele da sijaju jarkom svetlošću.
Brodski specijalni oficir istupio je napred, tresući svojim plavim pipcima.
“Odličan plan, kapetane. Ali jeste li svjesni odgovornosti koju stavljate na sebe? Upravo ćete naseliti čitavu planetu. Dok se vratimo, na njemu će se pojaviti civilizacija sa inteligencijom. Čak i ako je umjetna, ipak je inteligencija. Ovi momci će imati dovoljno vremena da dostignu najviši nivo razvoja. Nećemo moći kontrolirati ovaj proces zbog našeg odsustva u ovom galaktičkom sektoru. Kako znate šta će se dogoditi sljedeći put kada se sretnete?
Roger se nasmijao.
„Ne morate da brinete o tome. Postoje metode koje vremenom ograničavaju razvoj umjetne inteligencije. Zapetljaćemo civilizaciju, tako da njen razvoj nikada neće dostići nivo koji je opasan za nas. Ja ću se pobrinuti za to. Upoznat sam sa metodama rada sa veštačkom inteligencijom.”
Kognitivne membrane posade blistale su bojom odobravanja.
“Na kraju,” dodao je kapetan svemirske krstarice na kraju svog veličanstvenog govora, “polagao sam ispit iz ovog predmeta u institutu.”
6.
Nakon prinudnog odlaganja, svemirska krstarica je pojurila prema meti. Iza njegove krme nalazila se planeta nastanjena vještačkim stvorenjima - vrlo malim i neupadljivim. Plavo-plavo.
izvor: www.habr.com