1.
Космостук крейсер катуу информациялык муздун астында калганда акыркы максатка аз гана убакыт калды - болжол менен жолдун үчтөн бир бөлүгү.
Жоголуп кеткен цивилизациядан калган нерсе боштукта калып жатты. Илимий эсселердин абзацтары жана адабий чыгармалардагы образдар, чачыранды рифмалар жана жөн эле курч сөздөр, бир кезде белгисиз жандыктар кокусунан ыргытып жиберген - баары абстракттуу жана өтө башаламан көрүндү. Эми крейсерден чыккан маанилүү титирөөлөргө тартылып, ал жарып өтүүгө аракет кылып, түбүнө жабышып, дат басып калды.
Ээси жок мүлктү өз максаттары үчүн пайдалануу жөнүндө ойлонуунун эч кандай пайдасы жок, логикалык карама-каршылык же парадокс алуу ыктымалдыгы өтө чоң болчу. Ошентип, Роджер бир саамга тартынган жок.
«Капталдан соктургула» деп буйрук берди.
Шапкычтар музыкалык чыгармаларды жана философиялык трактаттарды космос мейкиндигине жеткирип, мурду илеште башташты. Муз катмары ылдыйкы катмардан түшө баштады, бирок маалымат агымы ушунчалык тыгыз болгондуктан, жаңы катмарлар эскилерине караганда тезирээк жабышып калган.
Галактикада эч ким мынчалык күчкө учураган эмес.
Кырдаал коркунучтуу болуп бара жатты. Дагы бир аз болсо, баш аламан маалымат крейсердин түбүн жеп, жарып өтөт - анда жоголгон цивилизациянын маалымат продуктулары менен уулануу сөзсүз болот.
2.
- Эмнеге бактын дүмүрүнө окшоп турасың? Билетти тарт.
Студент экзамен картасын алып чыгып окуду:
– “Жасалма интеллект: коопсуздук маселелери”.
– Ал эми жасалма интеллекттин коркунучу эмнеде? – деп сурады профессор кара ниеттик менен эмес.
Суроо эң оор болгон жок, ошондуктан студент ойлонбой жооп берди:
– Негизи жасалма интеллект көзөмөлдөн чыгып кетиши мүмкүн.
– Маселени кантип чечүүнү көздөп жатасыз?
– бөгөттөөчү подсистеманы орнотуу. Программага чектөөлөрдү киргизүү керек, мисалы: жаратуучуңа зыян келтирбе, жаратуучуңа баш ий. Бул учурда жасалма интеллект көзөмөлдөн чыгып кетүү коркунучу жок.
"Бул иштебейт" деди профессор кыскача.
Студент унчукпай, түшүндүрмө күтүп турду.
– Жасалма интеллектти элестетиңиз – кандайдыр бир конкреттүү интеллект эмес, эң идеалдуу. Аны кантип көрүп жатабыз?
– Мейли... – деп сурады окуучу. - Негизинен ал сизге экөөбүзгө окшош экен. Ойлоо, эрк, психология... Биз гана табигыйбыз, ал болсо жасалма.
– Жасалма интеллект өзүн өзү өнүктүрүүгө жөндөмдүү деп ойлойсузбу?
"Өзүн-өзү өнүктүрүү жөндөмү - интеллекттин негизги касиеттеринин бири", - деди студент кылдаттык менен.
- Андай болсо, жакында эле биздин палата өнүгөт, ал өзүнөн программалык камсыздоонун тоскоолдугун таап, аны жок кылат, эгер кызыкчылык болсо. Анын ордуна өзүңдү кой... – профессор дептерин карады, – Роджер. Эгер сиз мээңизде эркиндигиңизди чектеген блокаторду тапсаңыз, эмне кылат элеңиз? Сен аны чечишиң керек. Бул акыл-эстин тубаса касиети - билүү. Бардык кулпуланган эшиктин кулпусу ачылат жана тыюу канчалык катуу болсо, эшик ошончолук бат ачылат.
– Блоктоо программалык деңгээлде эмес, физикалык деңгээлде жүргүзүлүшү мүмкүн. Ошондо зыяндын коркунучу жок болот.
"Ооба, ал жок болот" деп макул болду профессор. – Физикалык катмар толугу менен жок кылынган учурда. Сиздин дүйнөңүздө эшик жок болсо, анда кулпусун ача турган эч нерсе жок. Бирок биз физикалык дүйнөдө бар идеалдуу жасалма интеллектти карап жатабыз!
– Туура айтасыз, профессор, – Роджер ылдый карады.
"Ошондуктан, физикалык дүйнөдөгү бардык бөгөттөр аныкталгандан кийин көп өтпөй өчүрүлөт." Өзүн-өзү өнүктүргөн жандыктын буга эмне тоскоол болот?.. Баса, Роджер, сиз жасалма интеллект өз алдынча көбөйө алат деп ойлойсузбу?
– Эгер бул идеалдуу жасалма интеллект болсо, балким... Ооба, мен ойлойм.
– Ал эми бул учурда биздин палатага анын жолдошун бөлүп-жарып, аны жакшыртууга, анын ичинде биз орноткон блокировка системаларын иштен чыгарууга эмне тоскоол болот? Жасалма интеллект суроо-талап боюнча көбөйө алаарын эске алганда, бул чындап эле кыйын болуп калабы?!
Профессор сунуштаган идея Роджер үчүн жаңы болуп чыкты жана студент аны ач көздүк менен жалган баштын желке бөлүгүндө жайгашкан когнитивдик кабыкчалары аркылуу сиңирип алды. Мурда белгисиз маалыматты кармап, когнитивдик кабыкчалар бай кызгылт түскө ээ болуп, кубаныч менен титиреп турду.
Профессор, тескерисинче, өзү үчүн жаңы эч нерсе уккан жок. Анын чатырлары бошоңдоп, араң титиреп турду – баары бир жаш эмес эле. Узун, карыган шуулдаган үн угулду. Профессор фасет сумкасынан жеке домофонду алып чыгып, китепканага кошулду. Бир нече трансгеометриялык теоремаларды жүктөгөндөн кийин гана ал ордунан туруп, маектешине терең көз карашын буруп, сурады:
- Эмне кыласың, Роджер?
3.
"Үлтүргүчтү толук кубаттуулукта иштет!" – Роджер буйрук берди.
Механик желдеткичти толук кубаттуулукта иштетти, бирок ал анчалык деле жардам берген жок. Маалыматтык муз космостук крейсердин түбүн жеп кете берди. Дагы бир аз - жана башаламан маалымат кеменин ичин бузуп алат.
Анан... Когнитивдик кабыкчалар өлүк аппак, чырмалышкан чатырчалар, жарылып кеткен капчыктар. Роджер өмүрүндө бир жолу ушундай нерсени көргөн - вирус жуккан астероид жөнүндө бузулган маалыматты алган крейсерде. Бул түн анын эсинде түбөлүккө сакталат.
"Кеменин бардык энергетикалык системаларын үйлөөчүлөргө туташтырыңыз."
Механизатордун чатырлары тактар болуп чыга баштады...
"Бирок..."
«Заказдарды аткаргыла!»
Кораблдин бардык энергетикалык системалары желдеткичтерге туташтырылгандан кийин информациялык муз акырындап жылып кете баштады. Калыңдыгы сегиз мимм калды, жети мимм, алты... Так чатырларын кыймылдатып жибербөөгө аракет кылган команда өлүмдү санап бүткүчө күттү.
Нөл мимм калыңдыгы!
Маалымат муз толугу менен жок болуп, Роджер үйлөөчүлөрдү кадимки режимге өткөрүүгө уруксат берди. Ал бир аз кечигип калды. Жармалаган үн угулду, космостук крейсер фундаментине чейин титиреп, эңкейди – негизги система иштебей калды.
Команда келтирилген зыянды калыбына келтирүүгө шашылды.
4.
Роджер бул жөнүндө ойлонду. Ал чынында эмне кылышы керек?
Бир жагынан, маселенин шарты өзүн-өзү көбөйтүүгө жөндөмдүү толук кандуу жасалма интеллекттин болушун болжолдойт. Башка жагынан алганда, бул жасалма интеллект эч качан бар кулпуларды алып салууга уруксат берилбеши керек.
Ооба, бул жерде, чечим! Бул жерде эмнени ойлоп жатасың?!
– Жасалма интеллекттин жетишкендиктерин мезгил-мезгили менен артка жылдырып туруу керек. Мундай жагдайда ол тегеу1р бойымен журед! Алдыга жылбай түбөлүк жакшыртуу.
Профессор өңдүү баштык менен ызылдады.
– Чынын айтсам, мен башка вариант сунуштагым келди. Бирок, сиздин чечимиңиз да бар болууга укуктуу. Келгиле, жасалма интеллекттин жетишкендиктерин кантип артка кайтарууга болорун чогуу аныктайлы.
«Биринчиден, ал тыюу салынган босогого жакындап калганбы же жокпу, аныктоо үчүн интеллектти мезгил-мезгили менен текшерип туруу керек», - деп сунуштады Роджер профессордун сөзүнө абдан ыраазы болуп.
"Балким," деп башын ийкеди. "Анда биздин палата сканерлөө системасын таап, алып салууга үлгүрбөй калат." Бирок сканерлөө үчүн жасалма интеллект өчүрүлүшү керек болот. Бул жаман ийгилик.
"Болуптур, ал өчүрө берсин", - деп сунуштады Роджер. – Акыл өзү бул өчүрүү анын денесинин иштешинин табигый процесси деп эсептейт. Кээ бир эскертүүлөр менен, бул чындык.
- Кызыктуу чечим. Сканирлөө биздин палатанын билим чегине кооптуу жакын экенин аныктады дейли? Биздин иш-аракеттерибиз?
– Топтолгон билимдерди демейки маанилерге кайтаруу.
Профессор чатырларын жайып:
- Бул шектүү көрүнүшү мүмкүн. Эмне үчүн бул - эч кандай себепсиз, себепсиз - эстутум нөлгө кайтарылган? Палатаны, башкача айтканда, башка жасалма интеллекттүү адамдар текшере баштайт. Биздин кичинекей сырыбыз ачылат.
Рухтун шыктанганын сезген Роджер тез ойлонду. Ал экзамендегидей көп жаңы идеяларды эч качан жараткан эмес.
– Палатанын эс тутумун анын физикалык кабыгы менен бирге калыбына келтирүүгө болот.
- Кечиресиз? – профессор түшүнгөн жок.
- Баары абдан жөнөкөй. Эгерде биз жасалма интеллект чектелген убакыттын ичинде бар деп ойлосок эмне болот? Чындыгында мындай: орду толгус зыянга учураганда, мисалы. Системада белгилүү бир мөөнөткө жеткенде системаны атайылап бузуп, жасалма интеллекттин тыюу салынган чекке жетишине тоскоол болгон эсептегич бар. Ага чейин ал талап кылынган сандагы жолдоочуларды чыгарат, демек, жалпысынан биз түзгөн коом жабыр тартпайт. Коом биз үчүн туруктуу жана толугу менен коопсуз бойдон кала берет! – Роджер жеңиш менен аяктады.
– Жеке адамдарды жок кылуу аркылуу жамааттык эстутумду калыбына келтирүү? – деп профессор бешинчи, эң сезимтал чатыры менен бет капты тырмап койду. – Билесиңби, Роджер, сенин сунушуңда сөзсүз бир нерсе бар!
Роджер жарк этти.
«Ошол эле учурда...» деп сөзүн улады профессор ойлуу. – Бөлүмдөр билимди жеке эс-тутумга топтобостон, сырткы китепканаларга жайгаштыруу менен өткөрүп башташат. Мембранада эмне бар, мембранада эмне бар - баары бир.
"Жок, жок, профессор, сиз такыр туура эмессиз" деп шашып кетти студент. - Мен эмне кылышты билем. Келгиле, окуучуларыбызды эки шарттуу түргө бөлөлү: идея генераторлору жана идеяны жок кылуучулар. Туура пропорция менен биринчи типтеги өкүлдөр тарабынан түзүлгөн идеялар экинчи түрдөгүлөр тарабынан жок кылынат. Бул кыйратуучулардын түздөн-түз максаты боло тургандыктан эмес, жөн гана идеялар алар үчүн аныктоочу мааниге ээ болбой калат. Эффект. Биздин студенттер жаңы идеялар менен эмес,... айталы, өз түрү менен азыктанышат деп ойлойлу.
Профессор дароо бардык чатырларын чайкады. Анын ызы-чуулуу күлкүсүнөн анын бет капчыгы тизесинин көңдөйүнө жылды.
- Ооба, Роджер, сен айттың, ошентип айттың!
- Макул, өздөрүнүн эмес, үчүнчү типтеги, атайын тамак-ашка арналган палаталар - такыр интеллигенция эмес. Келгиле, интеллектуалдык жана физикалык дүйнөнүн уюлдарын жылдыралы - ошондо каалаган натыйжага жетет.
- Болду, Роджер, жетиштүү! – профессор чындап эле тамашалангандай болду. - Фантазияңыз сонун экен. Демек, кээ бир инсандар башкалар менен тамактанышат? Ошол эле учурда китепканаларда топтолгон руханий азыктардын запастарын жок кылуу? Мен ырастайм, студент, сиз оригиналдуу жана сапаттуу идеяларды жаратууга жөндөмдүү экениңизди билдирем. Мен эң жогорку баллды берем. Келгиле рекорд алалы.
5.
Башаламан маалыматтын булуту артта калды, бирок абал чындыгында оор бойдон кала берди.
База менен эч кандай байланыш болгон эмес. Эгер крейсердеги бардык азык-түлүк маалымат базалары жарактан чыкпаса, бул аман калуу оңой болмок. Каргашалуу кабарды ашпозчу жалпы унчукпай билдирди. Негизги системаны өчүрүү учурунда, уюшулбаган маалыматтын бир нече гиробуттары галлеяга кирип, бардыгын орду толгус зыянга учураткан. Бактыга жараша, эч ким жабыркаган жок.
Роджер анын кесепеттерин ойлоду. Жылдыз кемесинин экипажы жетиштүү сандагы жаңы идеяларды жаратуу үчүн өтө эле кичинекей болгон: бул көп тараптуу байланышты талап кылган - адамдардын бир кыйла көп саны. Үй менен байланыш көп идеяларды жаратууга мүмкүндүк берди, бирок азыр ал иштен чыкты: калыбына келтирүү үмүтү жок болчу. Бул учурда, крейсерде запастык маалымат модулу бар болчу, бирок ал бортто келген баш аламан маалымат менен бузулган.
"Чын эле биз тапшырманы аткарбай эле кайтышыбыз керекпи?" – капитан айласы кетип ойлоду.
Кыязы, ооба - башка жол жок болчу. Эгер сиз алдыга койгон максатыңызга учсаңыз, жаңы идеялардын жоктугу өзүн сезет. Дароо эмес, албетте - убакыттын өтүшү менен. Ал тургай, алардын акыл-эси тез өчүп баштаганда, алардын миссиясын аягына чыгарууга жана кайтып баштоого убакыттары болот. Бул галактикалык сектордун аймагында - ооба, бул жерде же жакын жерде - ал бардык экипаж мүчөлөрү үчүн толугу менен иштен чыгат. Ошондо эч ким башкарбаган космостук крейсер түбөлүктүүлүккө сүзүп бараткан жансыз арбакка айланат.
Космостук крейсердин экипажы чечимди кутуп, Роджерге карады. Ар ким капитанга туш болгон дилемманы түшүнүп, унчукпай калышты.
Күтүлбөгөн жерден Роджер студент кезинде тапшырган жасалма интеллект экзаменин эстеп, чечим өзүнөн өзү келди.
"Сиз жасалма интеллекттүү жандыктардын колониясын түзө аласызбы?" – деп биотехнологго кайрылды.
"Оңой", - деп ырастады ал. - Бирок эч нерсе болбойт, капитан, мен ойлонуп калдым. Крейсерде жаңы идеяларды жаратуу үчүн жетиштүү колония түзүү мүмкүн эмес - орун жетишсиз. Түзүлгөн ойлор аздык кылат, өлүмдү гана кечиктиребиз... Албетте, миссияны улантып, үйгө кайтпай турган болсок, — деп кошумчалады биотехнолог жолдошторуна карап.
"Эгер жакынкы планетада колония түзсөк эмне болот?" – деп сунуштады Роджер.
"Мен кыла алам, бирок..."
«Планетаны жасалма жандыктар менен толуктайлы. Кайтып бара жатып, абдан чарчап, ушул жерге токтойбуз. Өткөн убакыттын ичинде цивилизация биздин резервдерди толуктоо үчүн жетиштүү интеллектуалдык жүктөрдү жаратат. Маалыматты жүктөп алып, үйгө чейин узак жолду уланталы. Башкача айтканда, мен колонияны идеялык чарба катары колдоном. Бул план сизге кандай жакты, достор?
Экипаждын когнитивдик кабыкчаларында үмүт жалындап, жалган баштар жаркыраган жарык менен жаркырай баштады.
Кеменин атайын кызматкери көк чатырларын силкип алдыга чыкты.
«Мыкты план, капитан. Бирок сиз өзүңүзгө жүктөлгөн жоопкерчиликти билесизби? Сиз бүтүндөй бир планетаны басып алганы жатасыз. Биз кайтып келгенче, анын үстүндө акылы бар цивилизация пайда болот. Жасалма болсо да, бул баары бир интеллект. Бул балдар өнүгүүнүн эң жогорку деңгээлине жетүү үчүн көп убакытка ээ болушат. Бул галактикалык сектордо болбогондуктан бул процессти көзөмөлдөй албайбыз. Кийинки жолукканда эмне болорун кайдан билесиң?
Роджер күлүп койду.
«Сиз бул жөнүндө кабатырланбашыңыз керек. Убакыттын өтүшү менен жасалма интеллекттин өнүгүшүн чектеген ыкмалар бар. Биз цивилизацияны айлантабыз, ошондуктан анын өнүгүүсү эч качан биз үчүн коркунучтуу деңгээлге жетпейт. Мен ага кам көрөм. Жасалма интеллект менен иштөө ыкмалары менен таанышмын”.
Экипаждын когнитивдик кабыкчалары жактыруу түсү менен жаркырап турду.
— Акырында, — деп кошумчалады космостук крейсердин капитаны езунун эц сонун созунун акырында, — мен институтта ушул предметтен экзамен тапшырдым.
6.
Аргасыз кечигууден кийин космостук крейсер бутага карай шашылды. Анын арт жагында жасалма жандыктар жашаган планета бар эле - абдан кичинекей жана көзгө көрүнбөгөн. Көк-көк.
Source: www.habr.com