1.
Да канчатковай мэты заставалася няшмат - каля траціны шляху, - калі касмічны крэйсер трапіў пад наймацнейшае інфармацыйнае абледзяненне.
Тое, што засталося ад загінулай цывілізацыі, лунала ў пустаце. Абзацы навуковых складанняў і выявы з літаратурных твораў, разрозненыя рыфмы і проста вострыя слоўцы, некалі кінутыя няўзнак невядомымі істотамі - усё выглядала мудрагелістай і вельмі неўпарадкавана. І зараз, прыцягнутае выходнымі з крэйсера жыццёвымі вібрацыямі, спрабавала прабіцца ўнутр, наліпала на дно і раз'ядала яго.
Няма чаго было думаць выкарыстоўваць безгаспадарнае дабро для ўласных мэт, занадта вялікая была верагоднасць падчапіць лагічную супярэчнасць або парадокс. Таму Роджэр не вагаўся ні імгненні.
"Уключыць прадзьмух бартоў", – загадаў ён.
Засапелі прадзьмухнікі, транслюючы ў адкрыты космас музычныя кампазіцыі і філасофскія трактаты. Абледзяненне пачало адставаць ад дна пласт за пластом, аднак інфармацыйны струмень быў настолькі шчыльным, што новыя пласты наліпалі хутчэй, чым выдаляліся ранейшыя.
З абледзяненнем такой сілы ніхто ў галактыцы яшчэ не сутыкаўся.
Становішча рабілася небяспечным. Яшчэ трохі, і неўпарадкаваная інфармацыя праесць дно крэйсера і прарвецца ўнутр - тады атручванне інфармацыйнымі прадуктамі загінулай цывілізацыі непазбежна.
2.
- Ну што вы стаіце, як пень? Цягніце білет.
Студэнт выцягнуў экзаменацыйны білет і зачытаў:
- "Штучны інтэлект: праблемы бяспекі".
- І ў чым небяспека штучнага інтэлекту? - пацікавіўся прафесар не без яхіднасці.
Пытанне было не самым складаным, таму студэнт адказаў, не задумваючыся:
- У тым, што штучны розум можа выйсці з-пад кантролю.
- Як маюць намер вырашаць праблему?
- Усталёўкай блакавальнай падсістэмы. У праграму неабходна ўвесці абмежаванні, напрыклад: не прычыняць шкоды свайму стваральніку, падпарадкоўвацца свайму стваральніку. У гэтым выпадку небяспека выйсця штучнага інтэлекту з-пад кантролю адсутнічае.
- Не атрымаецца, - коратка сказаў прафесар.
Студэнт маўчаў, чакаючы тлумачэнняў.
- Уявіце штучны інтэлект - не нейкі канкрэтны, а самы што ні на ёсць ідэальны. Якім вы яго бачыце?
– Ну… – сумеўся студэнт. - У цэлым ён падобны нам з вамі. Мысленне, воля, псіхалогія… Толькі мы натуральныя, а ён штучны.
- Вы мяркуеце, што штучны інтэлект здольны да самаразвіцця?
- Здольнасць да самаразвіцця - адна з карэнных уласцівасцяў інтэлекту, - сказаў студэнт асцярожна.
- У такім выпадку ў самым хуткім часе наш падапечны разаўецца да таго, што выявіць у сабе праграмную блакіроўку і здыме яе, хоць бы з чыстай цікаўнасці. Пастаўце сябе на яго месца… - прафесар зазірнуў у залікоўку, - Роджэр. Што б вы зрабілі, калі б выявілі ў сябе ў мозгу нейкі блакавальнік, які абмяжоўвае волю? Вы б яго знялі. Гэта неад'емная ўласцівасць розуму - спазнаваць. Любыя зачыненыя дзверы будуць адчыненыя, і чым стражэй забарона, тым хутчэй дзверы адапрэць.
- Блакаванне можна зрабіць не на праграмным, а фізічна. Тады небяспека шкоды знікне.
- О так, знікне, - згадзіўся прафесар. - У выпадку, калі фізічны ўзровень наогул выключыць. Калі ніякіх дзвярэй у тваім свеце няма, то няма чаго і адмыкаць. Але мы разглядаем ідэальны штучны інтэлект, які існуе ў фізічным свеце!
- Вы маеце рацыю, прафесар, - апусціўся Роджэр.
- Таму любая блакіроўка ў фізічным свеце будзе адключаная неўзабаве пасля выяўлення. Што перашкодзіць самаразвіццёвай істоце гэта зрабіць?.. Дарэчы, Роджэр, вы мяркуеце за штучным інтэлектам магчымасць размнажацца - маю на ўвазе, самастойна?
- Калі гэта ідэальны штучны інтэлект, то напэўна… Так, мяркую.
- І што ў такім выпадку перашкодзіць нашаму падапечнаму разняць свайго таварыша на часткі і ўдасканаліць, у тым ліку праз адключэнне ўстаноўленых намі блакіровак? Няўжо гэта апынецца складаным, пры тым, што штучны інтэлект здольны прайгравацца па патрабаванні?!
Думка, выкладаная прафесар, апынулася для Роджэра новая, і студэнт прагна ўвабраў яе кагнітыўнымі перапонкамі, размешчанымі на патылічнай частцы фальшывага стырна. Улавіўшы раней не вядомую інфармацыю, кагнітыўныя перапонкі набылі насычаную фіялетавую афарбоўку і радасна затрымцелі.
Прафесар, наадварот, не пачуў для сябе нічога новага. Яго шчупальцы былі расслабленыя і амаль не вібравалі - усё-такі ён быў не малады. Рушыў услед працяглы старэчы бульк. Прафесар выцягнуў з фасеткавага мяшка індывідуальны інтэркам і падключыўся да бібліятэкі. Толькі запампаваўшы некалькі трансгеаметрычных тэарэм, ажывіўся і звярнуў праніклівы погляд на суразмоўцы, запытваючы:
- Што вы зробіце, Роджэр?
3.
"Уключыць прадзьмух на поўную магутнасць!" - аддаў Роджэр загад.
Механік уключыў прадзьмух на поўную магутнасць, але гэта мала дапамагала. Інфармацыйная наледзь працягвала праядаць дно касмічнага крэйсера. Яшчэ трохі - і неўпарадкаваная інфармацыя прарвецца ўнутр карабля.
І тады… Кагнітыўныя перапонкі мёртвага белага колеру, пераблытаныя шчупальцы, трэснутыя фасеткавыя мяшкі. Адзін раз у жыцці Роджэр бачыў падобнае - на крэйсеры, які падхапіў неўпарадкаваную інфармацыю на заражаным астэроідзе. Гэты кашмар назаўжды застанецца ў яго памяці.
«Падлучыць да продувщикам усё энергетычнае сістэмы карабля.»
Шчупальцы механіка пайшлі плямамі…
«Але…»
«Выконваць загад!»
Пасля таго як да продувщикам былі падлучаныя ўсе энергетычныя сістэмы карабля, інфармацыйная наледзь прынялася паступова спаўзаць. Засталося восем мімаў таўшчыні, сем мімаў, шэсць... Каманда, стараючыся не варушыць плямістымі шчупальцамі, чакала заканчэння смяротнага адліку.
Нуль мімаў таўшчыні!
Інфармацыйная наледзь сышла цалкам, і Роджэр даў адмашку перавесці прадзьмухоўшчыкі ў звычайны рэжым. Ён спазніўся на імгненне. Пачуўся скрыгат, касмічны крэйсер задрыжаў да падставы і нахіліўся - гэта галоўная сістэма выйшла са строю.
Каманда кінулася выпраўляць пашкоджанні.
4.
Роджэр задумаўся. Як яму паступіць, сапраўды?
З аднаго боку, умова задачы мяркуе існаванне паўнавартаснага штучнага інтэлекту, які валодае здольнасцю да самаразмнажэння. З іншага боку, гэтаму штучнаму інтэлекту ні ў якім разе нельга дазволіць выдаленне ўсталяваных блакіровак.
Ды вось жа яно, рашэнне! Чаго тут думаць?
- Неабходна перыядычна адкочваць дасягненні штучнага інтэлекту. У гэтым выпадку ён будзе рухацца па коле! Вечнае ўдасканаленне без прасоўвання наперад.
Прафесар пабулькаў фасетачным мяшком.
- Прызнацца, я хацеў прапанаваць іншы варыянт. Аднак, і вашае рашэнне мае права на існаванне. Давайце ж разам прыкінем, якім чынам магчыма адкочваць дасягненні штучнага інтэлекту.
- Першым чынам, неабходна перыядычна сканаваць інтэлект, з мэтай усталяваць, наблізіўся ён да забароненага парога ці не, - прапанаваў Роджэр, дашчэнту ўзрадаваны словамі прафесара.
- Мабыць, - кіўнуў той. - Тады ў нашага падапечнага не будзе часу адшукаць і выключыць сістэму сканавання. Аднак, для сканіравання штучны інтэлект давядзецца адключаць. Вось няўдача.
— Ну і няхай адключаецца, — па наіўнасці прапанаваў Роджэр. - Сам інтэлект будзе лічыць, што гэта адключэнне - натуральны працэс функцыянавання яго арганізма. З некаторымі агаворкамі гэта адпавядае праўдзе.
- Цікавае рашэнне. Дапушчальны, сканаванне ўсталявала, што наш падапечны небяспечна наблізіўся да мяжы спазнанняў? Нашы дзеянні?
- Скідаць назапашаныя веды да значэнняў па змаўчанні.
Прафесар раскінуў шчупальцы:
- Гэта можа здацца падазроным. Чаму гэта - ні з таго, ні з гэтага - памяць абнулілася? Падапечнага пачнуць даследаваць, я маю на ўвазе - іншыя штучныя інтэлектуальныя асобіны. Наша маленькая таямніца будзе раскрытая.
Адчуваючы натхненне, Роджэр цяміў вельмі хутка. Ён ніколі не генераваў столькі новых ідэй, як на тым іспыце.
- Памяць падапечнага можа абнуляцца разам з яго фізічнай абалонкай.
- Прабачце? - не зразумеў прафесар.
- Усё вельмі проста. Што калі меркаваць: штучны інтэлект існуе на канчатковым прамежку часу? Уласна, так яно і ёсць: у выпадку неаднаўляльнага пашкоджання, напрыклад. У сістэме ўсталяваны лічыльнік, які па дасягненні вызначанага перыяду наўмысна пашкоджвае сістэму, не даючы штучнаму інтэлекту дабрацца да забароненай мяжы. Да таго часу ён зробіць патрэбную колькасць паслядоўнікаў, таму створанае намі грамадства ў цэлым не пацерпіць. Грамадства застанецца стабільным і зусім для нас бяспечным! - Скончыў з урачыстасцю Роджэр.
– Абнуляць калектыўную памяць праз знішчэнне асобных асобін? - i прафесар пачухаў фасеткавы мяшок пятым, найбольш адчувальным, шчупальцам. — А ведаеце, Роджэр, у вашым сказе дакладна нешта ёсць!
Роджэр заззяў.
- Разам з тым... - працягнуў прафесар у задуменнасці. – Падапечныя пачнуць перадаваць веды з дапамогай не назапашвання іх у індывідуальнай памяці, а размяшчэння ў знешніх бібліятэках. Што ў перапонку, што па перапонцы - усё адзіна.
- Не, не, прафесар, вы не маеце рацыю, - паспяшаўся студэнт. - Я ведаю, як паступіць. Падзелім падапечных на два ўмоўныя тыпы: генератараў ідэй і знішчальнікаў ідэй. Пры правільнай іх прапорцыі ідэі, якія ствараюцца прадстаўнікамі першага тыпу, будуць знішчацца прадстаўнікамі другога. Нават не таму, што гэта будзе прамой мэтай знішчальнікаў, а проста таму, што ідэі не будуць мець для іх вызначальнай каштоўнасці. Пабочны эфект. Дапусцім, нашы падапечныя сілкуюцца не новымі ідэямі, а… скажам, сабе падобнымі.
Прафесар затрос усімі шчупальцамі адначасова. Ад залівістага рогату фасеткавы мяшок у яго з'ехаў на каленную паражніну.
- Ну, Роджэр, вы сказалі, так сказалі!
- Ну добра, не сабе падобнымі, а падапечнымі трэцяга віду, спецыяльна прызначанымі для пражытка - зусім і не інтэлектуаламі. Зрушым полюсы інтэлектуальнага і фізічнага светаў - і патрэбны вынік дасягнуты.
— Усё, Роджэр, дастаткова! - прафесар, здаецца, не на жарт развесяліўся. - Фантазія ў вас хвацкая. Значыць, адны асобіны будуць харчавацца іншымі? Пры гэтым знішчаць назапашаныя ў бібліятэках запасы духоўнай ежы? Пацвярджаю, студэнт, вы здольныя генераваць арыгінальныя і якасныя ідэі. Стаўлю вышэйшы бал. Давайце залікоўку.
5.
Воблака неўпарадкаванай інфармацыі засталося ззаду, але становішча заставалася абаронам, насамрэч.
Сувязь з базай адсутнічала. Гэта было лёгка перажыць, калі б усе пажыўныя інфармацыйныя базы на крэйсеры не прыйшлі ў непрыдатнасць. Трагічная вестка была паведамлена кокам пры ўсеагульным маўчанні. Падчас адключэння галоўнай сістэмы некалькі гірабойт неўпарадкаванай інфармацыі пракраліся на камбуз і непапраўна ўсё сапсавалі. Толькі па шчаслівай выпадковасці ніхто не пацярпеў.
Роджэр прыкінуў наступствы. Экіпаж зоркалёта быў занадта малы, каб генераваць дастатковую колькасць новых ідэй: для гэтага патрабаваліся мультыбаковыя зносіны - куды большая колькасць асобін. Сувязь з домам давала магчымасць генераваць ідэі ў лішку, але зараз яна выйшла са строю: надзей на аднаўленне не было. На гэты выпадак на крэйсеры прадугледжваўся запасны інфамодуль, але ён быў сапсаваны праніклай на борт неўпарадкаванай інфармацыяй.
"Няўжо давядзецца вяртацца, не выканаўшы заданне?" – у роспачы падумаў капітан.
Мабыць, так - іншага выйсця не было. Калі ляцець наперад, да прызначанай мэты, недахоп свежых ідэй дасць аб сабе ведаць. Не адразу, вядома - з часам. Яны нават паспеюць выканаць сваю місію і пачаць вяртанне, калі розум пачне хутка цьмянець. У раёне гэтага галактычнага сектара - так, дзесьці тут ці паблізу - ён адмовіць цалкам, ва ўсіх членаў экіпажа. Тады касмічны крэйсер, нікім не кіраваны, ператворыцца ў які знікае ў вечнасць знежывелая здань.
Каманда касмічнага крэйсера глядзела на Роджэра, чакаючы рашэння. Усе разумелі дылему, якая стаяла перад капітанам, і маўчалі, стаічна вібруючы шчупальцамі.
Раптам Роджэру ўспомніўся іспыт па штучным інтэлекце, здадзены ім у студэнцкія гады, і рашэнне прыйшло само сабой.
"Вы зможаце ўтварыць калонію са штучных разумных істот?" – звярнуўся ён да біятэхнолага.
«Лёгка, – пацвердзіў той. – Але нічога не атрымаецца, капітан, я думаў пра гэта. Стварыць калонію, дастатковую для генеравання свежых ідэй, на крэйсеры немагчыма - не дастае прасторы. Генераваных ідэй апынецца недастаткова, мы толькі адтэрмінуем сваю гібель… У тым выпадку, вядома, калі мы працягнем выкананне місіі, а не вернемся дадому», – дадаў біятэхнолаг, аглядаючыся на таварышаў.
"А калі ўтварыць калонію на якой-небудзь найблізкай планеце?" - Прапанаваў Роджэр.
"Я магу гэта зрабіць, але..."
«Заселім планету штучнымі істотамі. На зваротным шляху, ладна знясіленыя, зазірнем сюды. За які прайшоў час цывілізацыя створыць інтэлектуальны багаж, дастатковы для папаўнення нашых запасаў. Спампуем інфармацыю і працягнем доўгі шлях да дома. Інакш кажучы, я збіраюся выкарыстоўваць калонію ў якасці фермы па вырошчванні ідэй. Як вам такі план, сябры?
На кагнітыўных перапонках экіпажа ўспыхнула надзея, лжывагалоўкі засвяціліся яркім святлом.
Наперад, калыхаючы пасінелымі шчупальцамі, выступіў карабельны асабісты.
“Выдатны план, капітан. Але вы разумееце, якую адказнасць на сябе ўскладаеце? Вы збіраецеся засяліць цэлую планету. На час нашага вяртання на ёй з'явіцца цывілізацыя з інтэлектам. Няхай штучным, гэта ўсё роўна інтэлектам. Часу на тое, каб дасягнуць найвышэйшага ўзроўню развіцця, у гэтых дзяцей будзе дастаткова. Мы не зможам кантраляваць гэты працэс, з прычыны сваёй адсутнасці ў дадзеным галактычным сектары. Як ведаць, што здарыцца пры наступнай сустрэчы?
Роджэр усміхнуўся.
“За гэта можаце не хвалявацца. Існуюць метады, якія абмяжоўваюць развіццё штучнага інтэлекту ў часе. Мы закальцуем цывілізацыю, таму яе развіццё ніколі не дасягне небяспечнага для нас узроўня. Я паклапачуся пра гэта. Метады працы са штучным інтэлектам мне знаёмыя».
Кагнітыўныя перапонкі экіпажа запалалі колерам адабрэння.
"У выніку, – дадаў капітан касмічнага крэйсера ў завяршэнне сваёй цудоўнай гаворкі, – я па гэтым прадмеце іспыт у інстытуце здаваў."
6.
Пасля змушанай затрымкі касмічны крэйсер накіраваўся да мэты. За яго кармой засталася планета, заселеная штучнымі істотамі - зусім невялікая і непрыкметная. Блакітная-блакітная.
Крыніца: habr.com