1.
Kaunti na lang ang natitira sa panghuling layunin - humigit-kumulang sa ikatlong bahagi ng daan - nang ang space cruiser ay sumailalim sa matinding information icing.
Ang natitira sa nawawalang sibilisasyon ay nag-hover sa kawalan. Mga talata ng mga siyentipikong sanaysay at mga imahe mula sa mga akdang pampanitikan, nakakalat na mga tula at simpleng matatalas na salita, na minsang ibinato ng hindi kilalang mga nilalang - ang lahat ay mukhang abstruso at labis na nagkakagulo. At ngayon, naaakit ng mahahalagang vibrations na nagmumula sa cruiser, sinubukan nitong masira, dumikit sa ilalim at kinaagnasan ito.
Walang punto sa pag-iisip tungkol sa paggamit ng walang-ari ng ari-arian para sa sariling layunin; ang posibilidad na makakuha ng isang lohikal na kontradiksyon o kabalintunaan ay masyadong malaki. Kaya't saglit na hindi nagdalawang isip si Roger.
"Turn on side blowing," utos niya.
Ang mga blower ay nagsimulang suminghot, nag-broadcast ng mga komposisyong musikal at mga pilosopiko na treatise sa kalawakan. Ang icing ay nagsimulang bumagsak mula sa ilalim na layer sa pamamagitan ng layer, ngunit ang daloy ng impormasyon ay napakasiksik na ang mga bagong layer ay natigil nang mas mabilis kaysa sa mga luma na naalis.
Walang sinuman sa kalawakan ang nakatagpo ng yelo ng gayong puwersa.
Nagiging mapanganib ang sitwasyon. Kaunti pa, at ang hindi maayos na impormasyon ay kakain sa ilalim ng cruiser at masira - pagkatapos ay ang pagkalason sa mga produkto ng impormasyon ng nawawalang sibilisasyon ay hindi maiiwasan.
2.
- Bakit ka nakatayo doon na parang tuod ng puno? Hilahin ang tiket.
Inilabas ng estudyante ang isang exam card at binasa:
– “Artificial Intelligence: Mga Isyu sa Seguridad.”
– At ano ang panganib ng artificial intelligence? – tanong ng propesor, hindi walang malisya.
Ang tanong ay hindi ang pinakamahirap, kaya't ang mag-aaral ay sumagot nang walang pag-aalinlangan:
– Ang katotohanan ay ang artificial intelligence ay maaaring mawala sa kontrol.
– Paano mo nilalayong lutasin ang problema?
– Pag-install ng isang blocking subsystem. Kinakailangang ipasok ang mga paghihigpit sa programa, halimbawa: huwag saktan ang iyong lumikha, sundin ang iyong lumikha. Sa kasong ito, walang panganib na mawalan ng kontrol ang artificial intelligence.
"Hindi ito gagana," maikling sabi ng propesor.
Natahimik ang estudyante, naghihintay ng paglilinaw.
– Isipin ang artificial intelligence – hindi lamang ang anumang partikular, ngunit ang pinaka-perpekto. Paano mo ito nakikita?
"Well..." nag-aalangan ang estudyante. - Sa pangkalahatan, siya ay katulad sa iyo at sa akin. Pag-iisip, kalooban, sikolohiya... Tayo lang ang natural, at siya ay artipisyal.
– Ipinapalagay mo ba na ang artificial intelligence ay may kakayahang mag-develop ng sarili?
"Ang kakayahan para sa pagpapaunlad ng sarili ay isa sa mga pangunahing katangian ng katalinuhan," maingat na sinabi ng estudyante.
- Sa kasong ito, sa lalong madaling panahon ang aming ward ay bubuo sa punto kung saan natuklasan niya ang isang pagbara ng software sa kanyang sarili at aalisin ito, kung dahil lamang sa kuryusidad. Ilagay ang iyong sarili sa kanyang lugar... - ang propesor ay tumingin sa kanyang notebook, - Roger. Ano ang gagawin mo kung natuklasan mo ang isang blocker sa iyong utak na naglilimita sa iyong kalayaan? Dapat mong alisin ito. Ito ay isang likas na pag-aari ng isip - upang malaman. Ang anumang naka-lock na pinto ay ia-unlock, at kung mas mahigpit ang pagbabawal, mas mabilis na mabubuksan ang pinto.
– Ang pagharang ay maaaring gawin hindi sa antas ng software, ngunit sa pisikal na antas. Pagkatapos ang panganib ng pinsala ay mawawala.
"Ay oo, mawawala ito," pagsang-ayon ng propesor. – Kung sakaling tuluyang maalis ang pisikal na layer. Kung walang pinto sa iyong mundo, kung gayon walang mabubuksan. Ngunit isinasaalang-alang namin ang isang perpektong artificial intelligence na umiiral sa pisikal na mundo!
"Tama ka, propesor," tumingin si Roger.
"Samakatuwid, ang anumang pagbara sa pisikal na mundo ay idi-disable sa lalong madaling panahon pagkatapos matukoy." Ano ang hahadlang sa isang self-developing creature na gawin ito?.. By the way, Roger, do you assume that artificial intelligence will be able to reproduce - I mean, independently?
– Kung ito ay perpektong artificial intelligence, malamang... Oo, sa palagay ko.
– At ano, sa kasong ito, ang hahadlang sa aming ward na masira ang kanyang kasama at mapabuti siya, kasama na ang hindi pagpapagana ng mga blocking system na na-install namin? Magiging mahirap ba talaga ito, dahil ang artificial intelligence ay may kakayahang magparami on demand?!
Ang ideya na ipinakita ng propesor ay naging bago para kay Roger, at ang mag-aaral ay matakaw na hinihigop ito sa pamamagitan ng mga cognitive membrane na matatagpuan sa occipital na bahagi ng maling ulo. Ang pagkakaroon ng nahuli na dating hindi kilalang impormasyon, ang mga cognitive membrane ay nakakuha ng isang rich purple na kulay at nanginginig nang masaya.
Ang propesor, sa kabaligtaran, ay walang narinig na bago para sa kanyang sarili. Ang kanyang mga galamay ay nakakarelaks at halos hindi nag-vibrate - pagkatapos ng lahat, siya ay hindi bata. Isang mahaba at nakakatandang gurgle ang sumunod. Inilabas ng propesor ang isang personal na intercom mula sa kanyang facet bag at ikinonekta sa library. Pagkatapos lamang mag-download ng ilang transgeometric theorems ay natuwa siya at ibinaling ang kanyang matalim na tingin sa kanyang kausap, nagtanong:
-Anong gagawin mo, Roger?
3.
"I-on ang blower nang buong lakas!" – Utos ni Roger.
Binuksan ng mekaniko ang blower nang buong lakas, ngunit hindi ito gaanong nakatulong. Ang impormasyon na yelo ay patuloy na kumakain sa ilalim ng space cruiser. Kaunti pa - at ang hindi maayos na impormasyon ay papasok sa loob ng barko.
At pagkatapos... Ang mga cognitive membrane ay patay na puti, gusot na mga galamay, mga burst facet sac. Si Roger ay nakakita ng ganito minsan sa kanyang buhay - sa isang cruiser na nakakuha ng hindi maayos na impormasyon sa isang nahawaang asteroid. Ang bangungot na ito ay mananatili magpakailanman sa kanyang alaala.
"Ikonekta ang lahat ng mga sistema ng enerhiya ng barko sa mga blower."
Ang mga galamay ng mekaniko ay nagsimulang lumitaw na parang mga batik...
"Ngunit…"
“Tuparin ang mga utos!”
Matapos ang lahat ng mga sistema ng enerhiya ng barko ay konektado sa mga blower, ang yelo ng impormasyon ay nagsimulang unti-unting dumausdos. Nananatili ang walong mimm na kapal, pitong mimm, anim... Ang koponan, na sinusubukang huwag ilipat ang kanilang mga batik-batik na galamay, ay naghintay na matapos ang death countdown.
Zero mimm kapal!
Ang impormasyon na yelo ay ganap na nawala, at si Roger ay nagbigay ng go-ahead upang ilipat ang mga blower sa normal na mode. Na-late siya sandali. Nagkaroon ng nakakagiling na tunog, ang space cruiser ay nanginginig sa mga pundasyon nito at tumagilid - ang pangunahing sistema ay nabigo.
Nagmadali ang koponan upang ayusin ang pinsala.
4.
Napaisip si Roger. Ano ba talaga ang dapat niyang gawin?
Sa isang banda, ang kondisyon ng problema ay nagpapahiwatig ng pagkakaroon ng ganap na artificial intelligence na may kakayahang magparami ng sarili. Sa kabilang banda, ang artipisyal na katalinuhan na ito ay hindi dapat pahintulutan na alisin ang mga kasalukuyang lock.
Oo, eto na, ang solusyon! Anong iniisip mo dito?!
– Kinakailangan na pana-panahong ibalik ang mga nagawa ng artificial intelligence. Sa kasong ito, lilipat ito sa isang bilog! Walang hanggang pagpapabuti nang hindi sumusulong.
Ang propesor gurgled sa isang faceted bag.
– Sa totoo lang, gusto kong mag-alok ng ibang opsyon. Gayunpaman, ang iyong desisyon ay mayroon ding karapatang umiral. Sabay-sabay nating alamin kung paano posible na ibalik ang mga nagawa ng artificial intelligence.
"Una sa lahat, kinakailangan na pana-panahong i-scan ang talino upang matukoy kung ito ay lumapit sa ipinagbabawal na limitasyon o hindi," iminungkahi ni Roger, na labis na nasisiyahan sa mga salita ng propesor.
"Siguro," tumango siya. "Kung gayon ang aming ward ay hindi magkakaroon ng oras upang mahanap at alisin ang sistema ng pag-scan." Gayunpaman, kailangang i-off ang artificial intelligence para mag-scan. Malas yun.
"Buweno, hayaan siyang mag-off," mungkahi ni Roger sa isang kapritso. – Ang talino mismo ay maniniwala na ang pagsasara na ito ay isang natural na proseso ng paggana ng katawan nito. Sa ilang reserbasyon, totoo ito.
- Kawili-wiling solusyon. Ipagpalagay na ang pag-scan ay nagsiwalat na ang aming ward ay mapanganib na malapit sa limitasyon ng kaalaman? Ang ating mga aksyon?
– I-reset ang naipon na kaalaman sa mga default na halaga.
Ipinakalat ng propesor ang kanyang mga galamay:
- Ito ay maaaring mukhang kahina-hinala. Bakit ito - nang walang dahilan, walang dahilan - na ang memorya ay na-reset sa zero? Ang ward ay magsisimulang suriin, ang ibig kong sabihin, ng iba pang mga artipisyal na matalinong indibidwal. Mabubunyag ang ating munting sikreto.
Nakaramdam ng inspirasyon, mabilis na nag-isip si Roger. Hindi pa siya nakabuo ng napakaraming bagong ideya gaya ng ginawa niya sa pagsusulit na iyon.
– Maaaring i-reset ang memorya ng ward kasama ng kanyang pisikal na shell.
- Sorry? – hindi naintindihan ng propesor.
- Ang lahat ay napaka-simple. Paano kung ipagpalagay natin na ang artificial intelligence ay umiiral sa isang takdang panahon? Sa totoo lang, ganito ito: sa kaso ng hindi na mababawi na pinsala, halimbawa. Ang system ay may counter na, kapag umabot sa isang tiyak na panahon, sadyang nakakasira sa system, na pumipigil sa artificial intelligence na maabot ang ipinagbabawal na limitasyon. Sa panahong iyon, makakagawa na siya ng kinakailangang bilang ng mga tagasunod, kaya hindi maghihirap ang lipunang nilikha natin sa kabuuan. Ang lipunan ay mananatiling matatag at ganap na ligtas para sa atin! – matagumpay na natapos ni Roger.
- I-reset ang kolektibong memorya sa pamamagitan ng pagkasira ng mga indibidwal? – at kinamot ng propesor ang facet sac gamit ang panglima, pinakasensitive, galamay. – Alam mo, Roger, tiyak na mayroong isang bagay sa iyong panukala!
Napasimangot si Roger.
“At the same time...” nag-iisip na pagpapatuloy ng propesor. – Ang mga ward ay magsisimulang maglipat ng kaalaman sa pamamagitan ng hindi pag-iipon nito sa indibidwal na memorya, ngunit sa pamamagitan ng paglalagay nito sa mga panlabas na aklatan. Kung ano ang nasa lamad, kung ano ang nasa lamad - lahat ay iisa.
"Hindi, hindi, propesor, hindi ka ganap na tama," nagmamadali ang estudyante. - Alam ko kung ano ang gagawin. Hatiin natin ang ating mga mag-aaral sa dalawang uri ng kondisyon: mga tagalikha ng ideya at mga tagasira ng ideya. Sa tamang proporsyon, ang mga ideyang nilikha ng mga kinatawan ng unang uri ay sisirain ng mga kinatawan ng pangalawa. Hindi man dahil ito ang magiging direktang layunin ng mga maninira, ngunit dahil lamang sa ang mga ideya ay walang tiyak na halaga para sa kanila. Sa pamamagitan ng epekto. Ipagpalagay natin na ang ating mga estudyante ay hindi kumakain ng mga bagong ideya, ngunit... sabihin natin, sa kanilang sariling uri.
Sabay-sabay na inalog ng propesor ang lahat ng galamay niya. Mula sa kanyang maingay na pagtawa, ang kanyang facet sac ay dumulas sa lukab ng kanyang tuhod.
- Well, Roger, sinabi mo ito, kaya sinabi mo ito!
- Well, okay, hindi ang kanilang sariling uri, ngunit ang mga ward ng ikatlong uri, espesyal na inilaan para sa pagkain - at hindi mga intelektwal sa lahat. Ilipat natin ang mga poste ng intelektwal at pisikal na mundo - at ang ninanais na resulta ay makakamit.
- Iyan na, Roger, tama na! – mukhang seryosong napatawa ang propesor. - Ang iyong imahinasyon ay mahusay. Kaya, ang ilang mga indibidwal ay magpapakain sa iba? Kasabay nito, sirain ang mga stock ng espirituwal na pagkain na naipon sa mga aklatan? Kinukumpirma ko, mag-aaral, na kaya mong bumuo ng orihinal at mataas na kalidad na mga ideya. Binibigyan ko ito ng pinakamataas na marka. Mag-record tayo.
5.
Ang ulap ng hindi maayos na impormasyon ay naiwan, ngunit ang sitwasyon ay nanatiling katakut-takot, sa katunayan.
Walang koneksyon sa base. Ito ay magiging madali upang mabuhay kung ang lahat ng mga nutritional base ng impormasyon sa cruiser ay hindi nahulog sa pagkasira. Ang trahedya na balita ay iniulat ng kusinero sa pangkalahatang katahimikan. Sa panahon ng pangunahing pag-shutdown ng system, maraming gyroboots ng hindi organisadong impormasyon ang pumasok sa galera at hindi na mababawi ang pinsala sa lahat. Sa swerte lang walang nasaktan.
Isinaalang-alang ni Roger ang mga kahihinatnan. Ang mga tripulante ng starship ay masyadong maliit upang makabuo ng sapat na bilang ng mga bagong ideya: nangangailangan ito ng multilateral na komunikasyon - isang mas malaking bilang ng mga indibidwal. Ang koneksyon sa tahanan ay naging posible upang makabuo ng mga ideya sa kasaganaan, ngunit ngayon ito ay wala sa kaayusan: walang pag-asa ng pagpapanumbalik. Sa kasong ito, ang cruiser ay may ekstrang module ng impormasyon, ngunit ito ay nasira ng hindi maayos na impormasyon na dumating sa board.
"Kailangan ba talaga nating bumalik nang hindi nakumpleto ang gawain?" – isip ng kapitan sa kawalan ng pag-asa.
Tila, oo - walang ibang paraan. Kung lilipad ka pasulong sa iyong itinalagang layunin, ang kakulangan ng mga sariwang ideya ay madarama mismo. Hindi kaagad, siyempre - sa paglipas ng panahon. Magkakaroon pa sila ng oras upang tapusin ang kanilang misyon at simulan ang kanilang pagbabalik kapag ang kanilang mga isip ay nagsimulang mabilis na maglaho. Sa lugar ng sektor ng galactic na ito - oo, sa isang lugar dito o malapit - ganap itong mabibigo, para sa lahat ng mga tripulante. Pagkatapos ang space cruiser, na hindi kontrolado ng sinuman, ay magiging isang walang buhay na multo na lumulutang sa kawalang-hanggan.
Tumingin ang crew ng space cruiser kay Roger, naghihintay ng desisyon. Naunawaan ng lahat ang dilemma na kinakaharap ng kapitan at nanatiling tahimik, tahimik na nanginginig ang kanilang mga galamay.
Biglang naalala ni Roger ang isang pagsusulit sa artificial intelligence na kinuha niya bilang isang mag-aaral, at ang solusyon ay natural na dumating.
"Maaari ka bang bumuo ng isang kolonya ng mga artipisyal na matalinong nilalang?" – bumaling siya sa biotechnologist.
“Easy,” pagkumpirma niya. - Ngunit walang mangyayari, kapitan, naisip ko ito. Imposibleng lumikha ng isang kolonya na sapat upang makabuo ng mga sariwang ideya sa isang cruiser - walang sapat na espasyo. The generated ideas will not be enough, we will only delay our death... In the event, of course, that we continue the mission at hindi na uuwi,” dagdag ng biotechnologist, na lumingon sa mga kasama.
"Paano kung bumuo tayo ng isang kolonya sa kalapit na planeta?" - mungkahi ni Roger.
"Kaya ko, pero..."
“Puriin natin ang planeta ng mga artipisyal na nilalang. On the way back, medyo pagod na, dito tayo titigil. Sa nakalipas na panahon, ang sibilisasyon ay lilikha ng intelektwal na bagahe na sapat upang mapunan ang ating mga reserba. I-download natin ang impormasyon at ipagpatuloy ang mahabang paglalakbay patungo sa bahay. Sa madaling salita, gagamitin ko ang kolonya bilang isang idea farm. Paano mo gusto ang planong ito, mga kaibigan?
Ang pag-asa ay sumiklab sa mga cognitive membrane ng crew, at ang mga huwad na ulo ay nagsimulang lumiwanag sa maliwanag na liwanag.
Ang espesyal na opisyal ng barko ay humakbang, inalog ang kanyang asul na galamay.
"Mahusay na plano, kapitan. Ngunit alam mo ba ang responsibilidad na ibinibigay mo sa iyong sarili? Malapit mo nang puntahan ang isang buong planeta. Sa oras na bumalik tayo, isang sibilisasyong may katalinuhan ang lilitaw dito. Kahit na ito ay artipisyal, ito ay katalinuhan pa rin. Ang mga taong ito ay magkakaroon ng maraming oras upang maabot ang pinakamataas na antas ng pag-unlad. Hindi namin makokontrol ang prosesong ito dahil sa aming kawalan sa galactic sector na ito. Paano mo malalaman kung ano ang mangyayari sa susunod na pagkikita mo?
Tumawa si Roger.
“Hindi mo kailangang alalahanin iyon. May mga pamamaraan na naglilimita sa pagbuo ng artificial intelligence sa paglipas ng panahon. Iikot natin ang sibilisasyon, kaya hinding-hindi aabot sa antas na mapanganib para sa atin ang pag-unlad nito. Ako na ang bahala. Pamilyar ako sa mga paraan ng pagtatrabaho sa artificial intelligence."
Ang mga cognitive membrane ng crew ay kumikinang sa kulay ng pag-apruba.
"Sa wakas," idinagdag ng kapitan ng space cruiser sa pagtatapos ng kanyang kahanga-hangang talumpati, "kumuha ako ng pagsusulit sa paksang ito sa institute."
6.
Pagkatapos ng sapilitang pagkaantala, ang space cruiser ay sumugod patungo sa target. Sa likod ng popa nito ay may isang planeta na pinaninirahan ng mga artipisyal na nilalang - napakaliit at hindi mahalata. Asul-asul.
Pinagmulan: www.habr.com