1.
Kishte mbetur pak deri në qëllimin përfundimtar - rreth një e treta e rrugës - kur kryqëzori hapësinor ra nën akull të ashpër informacioni.
Ajo që kishte mbetur nga qytetërimi i humbur rrinte pezull në boshllëk. Paragrafë esesh shkencore dhe imazhe nga vepra letrare, rima të shpërndara dhe fjalë thjesht të mprehta, të hedhura dikur rastësisht nga krijesa të panjohura - gjithçka dukej e çuditshme dhe jashtëzakonisht e çrregullt. Dhe tani, i tërhequr nga dridhjet jetike që dilnin nga kryqëzori, ai u përpoq të depërtonte, u mbërthye në fund dhe e gërryente atë.
Nuk kishte kuptim të mendohej për përdorimin e pronës pa pronar për qëllimet e dikujt; probabiliteti për të gjetur një kontradiktë ose paradoks logjik ishte shumë i madh. Kështu që Roger nuk hezitoi për asnjë moment.
"Kthehuni duke fryrë", urdhëroi ai.
Fryrësit filluan të nuhasin, duke transmetuar kompozime muzikore dhe traktate filozofike në hapësirën e jashtme. Kremi filloi të binte nga shtresa e poshtme, por fluksi i informacionit ishte aq i dendur sa shtresat e reja të mbërthyera më shpejt se të vjetrat u hoqën.
Askush në galaktikë nuk ka hasur ndonjëherë në akullim të një force të tillë.
Situata po bëhej e rrezikshme. Pak më shumë, dhe informacioni i çrregullt do të hajë nga fundi i kryqëzorit dhe do të depërtojë - atëherë helmimi me produktet e informacionit të qytetërimit të humbur është i pashmangshëm.
2.
- Pse po rri aty si trung peme? Tërhiq biletën.
Studenti nxori një kartë provimi dhe lexoi:
– “Inteligjenca Artificiale: Çështjet e Sigurisë”.
– Dhe cili është rreziku i inteligjencës artificiale? – pyeti profesori jo pa ligësi.
Pyetja nuk ishte më e vështira, kështu që studenti u përgjigj pa hezitim:
– Fakti është se inteligjenca artificiale mund të dalë jashtë kontrollit.
– Si keni ndërmend ta zgjidhni problemin?
– Instalimi i një nënsistemi bllokues. Është e nevojshme të futni kufizime në program, për shembull: mos e dëmtoni krijuesin tuaj, bindjuni krijuesit tuaj. Në këtë rast, nuk ka rrezik që inteligjenca artificiale të dalë jashtë kontrollit.
"Nuk do të funksionojë," tha shkurt profesori.
Studenti heshti, duke pritur për sqarim.
– Imagjinoni inteligjencën artificiale – jo çdo specifike, por më idealin. Si e shihni atë?
"Epo..." hezitoi studenti. - Në përgjithësi, ai është i ngjashëm me ju dhe mua. Mendimi, vullneti, psikologjia... Vetëm ne jemi të natyrshëm, e ai artificial.
– A supozoni se inteligjenca artificiale është e aftë të vetë-zhvillohet?
"Aftësia për vetë-zhvillim është një nga vetitë themelore të inteligjencës," tha studenti me kujdes.
- Në këtë rast, shumë shpejt reparti ynë do të zhvillohet deri në atë pikë sa të zbulojë një bllokim softueri tek vetja dhe ta largojë atë, qoftë edhe për kuriozitet të pastër. Vëre veten në vendin e tij... - shikoi profesori në fletoren e tij, - Roger. Çfarë do të bënit nëse do të zbulonit një bllokues në trurin tuaj që po kufizon lirinë tuaj? Ju duhet ta hiqni atë. Kjo është një pronë e qenësishme e mendjes - të dish. Çdo derë e mbyllur do të zhbllokohet dhe sa më i rreptë të jetë ndalimi, aq më shpejt do të zhbllokohet dera.
– Bllokimi mund të bëhet jo në nivel softuerik, por në nivel fizik. Atëherë rreziku i dëmtimit do të zhduket.
"Oh po, do të zhduket," pranoi profesori. – Në rast se shtresa fizike hiqet fare. Nëse nuk ka derë në botën tuaj, atëherë nuk ka asgjë për të hapur. Por ne po shqyrtojmë një inteligjencë artificiale ideale që ekziston në botën fizike!
"Ke të drejtë, profesor," Roger shikoi poshtë.
"Prandaj, çdo bllokim në botën fizike do të çaktivizohet menjëherë pas zbulimit." Çfarë do ta pengojë një krijesë vetë-zhvilluese që ta bëjë këtë?.. Meqë ra fjala, Roger, a supozon ti se inteligjenca artificiale do të jetë në gjendje të riprodhohet - dua të them, në mënyrë të pavarur?
– Nëse kjo është inteligjencë artificiale ideale, atëherë me siguri... Po, mendoj.
– Dhe çfarë do ta pengojë në këtë rast reparti ynë që ta shqyejë shokun dhe ta përmirësojë atë, duke përfshirë edhe çaktivizimin e sistemeve të bllokimit që kemi instaluar? A do të dalë vërtet e vështirë kjo, duke qenë se inteligjenca artificiale është e aftë të riprodhohet sipas kërkesës?!
Ideja e paraqitur nga profesori doli të ishte e re për Roger, dhe studenti e përthith me lakmi përmes membranave njohëse të vendosura në pjesën okupitale të kokës së rreme. Pasi kapën informacione të panjohura më parë, membranat njohëse fituan një ngjyrë vjollce të pasur dhe u drodhën me gëzim.
Profesori, përkundrazi, nuk dëgjoi asgjë të re për veten e tij. Tentakulat e tij ishin të relaksuar dhe pothuajse nuk dridheshin - në fund të fundit, ai nuk ishte i ri. Pasoi një gurgullimë e gjatë e senile. Profesori nxori një telefon celular nga çanta e tij dhe u lidh me bibliotekën. Vetëm pasi shkarkoi disa teorema transgjeometrike, ai u zgjua dhe e ktheu shikimin e tij depërtues nga bashkëbiseduesi i tij, duke pyetur:
- Çfarë do të bësh, Roger?
3.
"Ndizni ventilatorin me fuqi të plotë!" – urdhëroi Roger.
Mekaniku e ndezi fryrësin me fuqi të plotë, por nuk ndihmoi shumë. Akulli i informacionit vazhdoi të hante në fund të kryqëzorit hapësinor. Pak më shumë - dhe informacioni i çrregullt do të depërtojë brenda anijes.
Dhe pastaj... Membranat njohëse janë të bardha të ngordhura, tentakula të ngatërruara, qese të çara të fytyrës. Roger kishte parë diçka të tillë një herë në jetën e tij - në një kryqëzor që kishte marrë informacion të çrregullt mbi një asteroid të infektuar. Ky makth do të mbetet përgjithmonë në kujtesën e tij.
"Lidhni të gjitha sistemet energjetike të anijes me ventilatorët."
Tentakulat e mekanikut filluan të dukeshin si njolla...
"Por…"
"Përmbushni urdhrat!"
Pasi të gjitha sistemet energjetike të anijes u lidhën me ventilatorët, akulli i informacionit filloi të rrëshqasë gradualisht. Mbetën tetë mimm trashësi, shtatë mimm, gjashtë... Ekipi, duke u përpjekur të mos lëvizte tentakulat e tyre me pika, priti që të përfundonte numërimi mbrapsht i vdekjes.
Trashësia zero mimm!
Akulli i informacionit u zhduk plotësisht dhe Roger dha lejen për të kaluar ventilatorët në modalitetin normal. Ai ishte një moment vonë. Kishte një zhurmë bluarëse, kryqëzori hapësinor u drodh deri në themel dhe u anua - sistemi kryesor kishte dështuar.
Ekipi nxitoi për të riparuar dëmet.
4.
Roger mendoi për këtë. Çfarë duhet të bëjë ai në të vërtetë?
Nga njëra anë, gjendja e problemit presupozon ekzistencën e inteligjencës artificiale të plotë me aftësinë për t'u vetë-riprodhuar. Nga ana tjetër, kjo inteligjencë artificiale nuk duhet lejuar kurrë të heqë bravat ekzistuese.
Po, ja ku është, zgjidhja! Çfarë po mendoni këtu?!
– Është e nevojshme që periodikisht të rikthehen arritjet e inteligjencës artificiale. Në këtë rast, ajo do të lëvizë në një rreth! Përmirësim i përjetshëm pa ecur përpara.
Profesori gurgulloi me një çantë me fytyrë.
– Sinqerisht, doja të ofroja një opsion tjetër. Megjithatë, vendimi juaj gjithashtu ka të drejtë të ekzistojë. Le të kuptojmë së bashku se si është e mundur të rikthehen arritjet e inteligjencës artificiale.
"Para së gjithash, është e nevojshme të skanoni periodikisht intelektin për të përcaktuar nëse ai i është afruar pragut të ndaluar apo jo," sugjeroi Roger, jashtëzakonisht i kënaqur me fjalët e profesorit.
"Ndoshta," tundi ai me kokë. "Atëherë reparti ynë nuk do të ketë kohë për të gjetur dhe hequr sistemin e skanimit." Sidoqoftë, inteligjenca artificiale do të duhet të fiket për të skanuar. Ky është fat i keq.
"Epo, lëreni të fiket," sugjeroi Roger në një tekë. – Vetë intelekti do të besojë se kjo mbyllje është një proces i natyrshëm i funksionimit të trupit të tij. Me disa rezerva, kjo është e vërtetë.
- Zgjidhje interesante. Supozoni se skanimi zbuloi se reparti ynë është rrezikshëm afër kufirit të njohurive? Veprimet tona?
– Rivendosni njohuritë e grumbulluara në vlerat e paracaktuara.
Profesori shtriu tentakulat e tij:
- Kjo mund të duket e dyshimtë. Pse - pa asnjë arsye, asnjë arsye - kujtesa u rivendos në zero? Reparti do të fillojë të ekzaminohet, dua të them, nga individë të tjerë inteligjentë artificialë. Sekreti ynë i vogël do të zbulohet.
Duke u ndjerë i frymëzuar, Roger mendoi shpejt. Ai kurrë nuk kishte krijuar aq shumë ide të reja sa bëri në atë provim.
– Kujtesa e repartit mund të rivendoset së bashku me guaskën e tij fizike.
- Më fal? – nuk e kuptoi profesori.
- Gjithçka është shumë e thjeshtë. Po sikur të supozojmë se inteligjenca artificiale ekziston për një periudhë të caktuar kohe? Në fakt, kështu është: në rastin e dëmit të pariparueshëm, për shembull. Sistemi ka një numërues që, me arritjen e një periudhe të caktuar, dëmton qëllimisht sistemin, duke penguar që inteligjenca artificiale të arrijë kufirin e ndaluar. Deri atëherë, ai do të ketë prodhuar numrin e nevojshëm të ndjekësve, kështu që shoqëria që kemi krijuar në tërësi nuk do të vuajë. Shoqëria do të mbetet e qëndrueshme dhe plotësisht e sigurt për ne! – përfundoi triumfalisht Roger.
– Rivendosja e kujtesës kolektive përmes shkatërrimit të individëve? – dhe profesori gërvishti qesen e fytyrës me tentakulën e pestë, më të ndjeshme. – E di, Roger, ka patjetër diçka në propozimin tënd!
Roger rrezatoi.
“Në të njëjtën kohë...” vazhdoi i menduar profesori. – Repartet do të fillojnë të transferojnë njohuritë duke mos e grumbulluar në kujtesën individuale, por duke e vendosur në biblioteka të jashtme. Çfarë është në membranë, çfarë është në membranë - gjithçka është një.
"Jo, jo, profesor, nuk keni plotësisht të drejtë," nxitoi studenti. - Unë e di se çfarë të bëj. Le t'i ndajmë studentët tanë në dy lloje të kushtëzuara: gjenerues idesh dhe shkatërrues idesh. Me proporcionin e duhur, idetë e krijuara nga përfaqësuesit e llojit të parë do të shkatërrohen nga përfaqësuesit e të dytit. Jo edhe sepse ky do të jetë qëllimi i drejtpërdrejtë i shkatërruesve, por thjesht sepse idetë nuk do të kenë një vlerë përcaktuese për ta. Efekt anësor. Le të supozojmë se studentët tanë nuk ushqehen me ide të reja, por... le të themi, me llojin e tyre.
Profesori tundi të gjitha tentakulat menjëherë. Nga e qeshura e tij e zhurmshme, qeska e fytyrës i rrëshqiti në zgavrën e gjurit.
- Epo, Roger, e ke thënë, kështu e ke thënë!
- Epo, mirë, jo lloji i tyre, por repartet e llojit të tretë, të destinuara posaçërisht për ushqim - dhe aspak intelektualë. Le të zhvendosim polet e botës intelektuale dhe fizike - dhe rezultati i dëshiruar do të arrihet.
- Kaq, Roger, mjaft! – profesori dukej se u argëtua seriozisht. - Imagjinata juaj është e shkëlqyer. Pra, disa individë do të ushqehen me të tjerët? Në të njëjtën kohë, të shkatërrohen rezervat e ushqimit shpirtëror të grumbulluar në biblioteka? Ju konfirmoj, student, se jeni në gjendje të gjeneroni ide origjinale dhe cilësore. Unë i jap pikën më të lartë. Le të marrim një rekord.
5.
Reja e informacionit të çrregullt mbeti pas, por situata mbeti e tmerrshme, në fakt.
Nuk kishte asnjë lidhje me bazën. Kjo do të kishte qenë e lehtë për të mbijetuar nëse të gjitha bazat e informacionit ushqyes në kryqëzor nuk do të kishin rënë në gjendje të keqe. Lajmi tragjik u raportua nga kuzhinieri në heshtje të përgjithshme. Gjatë mbylljes së sistemit kryesor, disa xhiroboot me informacione të paorganizuara hynë në galerë dhe dëmtuan në mënyrë të pariparueshme gjithçka. Vetëm për fat nuk u lëndua askush.
Roger mori parasysh pasojat. Ekuipazhi i anijes ishte shumë i vogël për të gjeneruar një numër të mjaftueshëm idesh të reja: kjo kërkonte komunikim shumëpalësh - një numër shumë më i madh individësh. Lidhja me shtëpinë bëri të mundur gjenerimin e ideve me bollëk, por tani ishte jashtë funksionit: nuk kishte asnjë shpresë për restaurim. Në këtë rast, kryqëzori kishte një modul informacioni rezervë, por ai ishte i prishur nga informacionet e çrregullta që kishin ardhur në bord.
"A do të duhet vërtet të kthehemi pa e përfunduar detyrën?" – mendoi i dëshpëruar kapiteni.
Me sa duket, po - nuk kishte rrugëdalje tjetër. Nëse fluturoni përpara drejt qëllimit tuaj të caktuar, mungesa e ideve të reja do të ndihet. Jo menjëherë, natyrisht - me kalimin e kohës. Ata madje do të kenë kohë për të përfunduar misionin e tyre dhe për të filluar kthimin e tyre kur mendjet e tyre të fillojnë të zbehen shpejt. Në zonën e këtij sektori galaktik - po, diku këtu ose afër - do të dështojë plotësisht, për të gjithë anëtarët e ekuipazhit. Atëherë kryqëzori hapësinor, i pa kontrolluar nga askush, do të shndërrohet në një fantazmë të pajetë që lundron në përjetësi.
Ekuipazhi i kryqëzorit hapësinor shikoi Roger, duke pritur për një vendim. Të gjithë e kuptuan dilemën që kishte përballë kapitenit dhe heshtën, duke vibruar stoikisht tentakulat e tyre.
Papritur, Roger iu kujtua një provim i inteligjencës artificiale që kishte marrë si student dhe zgjidhja erdhi natyrshëm.
"A mund të formoni një koloni të qenieve inteligjente artificiale?" – iu drejtua bioteknologut.
"Lehtë," konfirmoi ai. - Por asgjë nuk do të funksionojë, kapiten, mendova për këtë. Është e pamundur të krijosh një koloni të mjaftueshme për të gjeneruar ide të reja në një kryqëzor - nuk ka hapësirë të mjaftueshme. Idetë e krijuara nuk do të mjaftojnë, vetëm do të vonojmë vdekjen... Sigurisht që në rast se do të vazhdojmë misionin dhe nuk do të kthehemi në shtëpi”, shtoi bioteknologu, duke parë shokët e tij.
“Po sikur të formojmë një koloni në ndonjë planet aty pranë?” - sugjeroi Roger.
"Unë mund ta bëj, por ..."
“Le ta popullojmë planetin me krijesa artificiale. Në rrugën e kthimit, goxha të rraskapitur, do të ndalemi këtu. Gjatë kohës së kaluar, qytetërimi do të krijojë bagazhe intelektuale të mjaftueshme për të rimbushur rezervat tona. Le të shkarkojmë informacionin dhe të vazhdojmë udhëtimin e gjatë për në shtëpi. Me fjalë të tjera, unë do ta përdor koloninë si një fermë idesh. Si ju pëlqen ky plan, miq?
Shpresa u ndez në membranat njohëse të ekuipazhit dhe kokat e rreme filluan të shkëlqejnë me dritë të ndritshme.
Oficeri special i anijes doli përpara, duke tundur tentakulat e tij blu.
“Plan i shkëlqyer, kapiten. Por a jeni të vetëdijshëm për përgjegjësinë që i vendosni vetes? Ju jeni gati të populloni një planet të tërë. Kur të kthehemi, një qytetërim me inteligjencë do të shfaqet në të. Edhe nëse është artificiale, është ende inteligjencë. Këta djem do të kenë mjaft kohë për të arritur nivelin më të lartë të zhvillimit. Ne nuk do të jemi në gjendje ta kontrollojmë këtë proces për shkak të mungesës sonë në këtë sektor galaktik. Si e dini se çfarë do të ndodhë herën tjetër që të takoheni?
Roger qeshi.
“Nuk duhet të shqetësoheni për këtë. Ka metoda që kufizojnë zhvillimin e inteligjencës artificiale me kalimin e kohës. Ne do të lakojmë qytetërimin, kështu që zhvillimi i tij nuk do të arrijë kurrë një nivel të rrezikshëm për ne. Unë do të kujdesem për të. Jam njohur me metodat e punës me inteligjencën artificiale.”
Membranat njohëse të ekuipazhit shkëlqenin me ngjyrën e miratimit.
"Në fund," shtoi kapiteni i kryqëzorit hapësinor në fund të fjalimit të tij madhështor, "Unë bëra një provim në këtë lëndë në institut."
6.
Pas një vonese të detyruar, kryqëzori hapësinor nxitoi drejt objektivit. Pas skajit të tij ishte një planet i banuar nga krijesa artificiale - shumë të vogla dhe që nuk binte në sy. Blu-blu.
Burimi: www.habr.com