1.
Ғарыштық крейсер қатты ақпараттық мұздауға ұшыраған кезде, соңғы мақсатқа аз ғана қалды - шамамен үштен бірі.
Жоғалған өркениеттен қалған нәрсе бос жерде қалықтады. Ғылыми эсселердің абзацтары мен әдеби шығармалардағы бейнелер, шашыраңқы рифмалар мен бір кездері бейтаныс жаратылыстардың кездейсоқ лақтырылған өткір сөздері - бәрі абстрактілі және өте ретсіз болып көрінді. Енді крейсерден шыққан өмірлік маңызды тербелістерге тартылып, ол бұзып өтуге тырысып, түбіне жабысып, оны тот басқан.
Иесіз мүлікті өз мақсатына пайдалану туралы ойлаудың қажеті жоқ, логикалық қайшылықты немесе парадоксты алу ықтималдығы тым үлкен болды. Сондықтан Роджер бір сәтке де тартынбады.
«Бүйірінен үрлеуді бұрыңыз», - деп бұйырды ол.
Үрлеушілер музыкалық шығармалар мен философиялық трактаттарды ғарыш кеңістігіне тарата бастады. Мұздану төменгі қабаттан қабат-қабат түсе бастады, бірақ ақпарат ағынының тығыздығы сонша, жаңа қабаттар ескілеріне қарағанда тезірек жабысып қалды.
Галактикада мұндай күштің мұздануын ешкім кездестірмеген.
Жағдай қауіпті бола бастады. Тағы да, ретсіз ақпарат крейсердің түбін жеп, жарып өтеді - жоғалған өркениеттің ақпараттық өнімдерімен улану сөзсіз.
2.
- Неге ағаштың діңгегіндей тұрсың? Билетті тартыңыз.
Студент емтихан картасын шығарып:
– «Жасанды интеллект: қауіпсіздік мәселелері».
– Ал жасанды интеллекттің қауіптілігі қандай? – деп сұрады профессор, арамдықсыз емес.
Сұрақ ең қиын болған жоқ, сондықтан студент ойланбастан жауап берді:
– Жасанды интеллект бақылаудан шығып кетуі мүмкін.
– Мәселені қалай шешуді көздейсіз?
– блоктаушы ішкі жүйені орнату. Бағдарламаға шектеулер енгізу керек, мысалы: жаратушыңа зиян келтірме, жаратушыңа бағын. Бұл жағдайда жасанды интеллект бақылаудан шығып кету қаупі жоқ.
«Бұл жұмыс істемейді», - деді профессор қысқаша.
Студент түсініктеме күтіп, үнсіз қалды.
– Жасанды интеллектті елестетіп көріңізші – бұл кез келген нақты емес, ең идеалды. Сіз оны қалай көресіз?
«Жақсы...» деп ойлады студент. – Жалпы, ол сізге де, маған да ұқсайды. Ойлау, ерік, психология... Тек біз табиғимыз, ал ол жасанды.
– Жасанды интеллект өзін-өзі дамытуға қабілетті деп ойлайсыз ба?
«Өзін-өзі дамыту қабілеті - интеллекттің негізгі қасиеттерінің бірі», - деді студент мұқият.
– Бұл жағдайда біздің палата көп ұзамай дамиды, ол өз бойындағы бағдарламалық қамтамасыз етудің бітелуін байқап, оны таза қызығушылықтан болса да жояды. Өзіңізді оның орнына қойыңыз... – профессор дәптеріне қарады, – Роджер. Егер сіз миыңызда сіздің бостандығыңызды шектейтін блокаторды тапсаңыз, не істер едіңіз? Сіз оны алып тастауыңыз керек. Бұл ақылға тән қасиет – білу. Кез келген құлыпталған есіктің құлпы ашылады, ал тыйым неғұрлым қатаң болса, есік соғұрлым тезірек ашылады.
– Бұғаттауды бағдарламалық қамтамасыз ету деңгейінде емес, физикалық деңгейде жасауға болады. Сонда зиян келтіру қаупі жойылады.
«О, иә, ол жоғалады», - деп келісті профессор. – Физикалық қабат толығымен жойылған жағдайда. Егер сіздің әлеміңізде есік болмаса, онда құлпын ашатын ештеңе жоқ. Бірақ біз физикалық әлемде бар идеалды жасанды интеллектті қарастырамыз!
«Дұрыс айтасыз, профессор», - деп Роджер төмен қарады.
«Сондықтан физикалық әлемдегі кез келген бөгеу анықталғаннан кейін көп ұзамай өшіріледі». Өзін-өзі дамытатын тіршілік иесінің бұлай істеуіне не кедергі болады?.. Айтпақшы, Роджер, сіз жасанды интеллект өз бетінше көбейе алады деп ойлайсыз ба?
– Егер бұл идеалды жасанды интеллект болса, онда... Иә, меніңше.
– Ал бұл жағдайда біздің палатаға оның жолдасын жыртып, оны жақсартуға, соның ішінде біз орнатқан блоктау жүйелерін өшіруге не кедергі болады? Жасанды интеллект сұраныс бойынша көбейтуге қабілетті екенін ескерсек, бұл шынымен қиынға соға ма?!
Профессор ұсынған идея Роджер үшін жаңа болып шықты және студент оны жалған бастың желке бөлігінде орналасқан танымдық мембраналар арқылы ашкөздікпен сіңірді. Бұрын белгісіз ақпаратты ұстай отырып, когнитивтік мембраналар қанық күлгін түске ие болды және қуанышпен дірілдеп кетті.
Профессор, керісінше, өзі үшін жаңа ештеңе естімеді. Шатырлары босаңсып, әрең дірілдеген – ақыры жас емес еді. Ұзақ, кәрілік сылдырлады. Профессор қалтасынан жеке домофонды шығарып, кітапханаға қосты. Бірнеше трансгеометриялық теоремаларды жүктеп алғаннан кейін ғана ол сергек қарап, сұхбаттасушыға қарап:
- Не істейсің, Роджер?
3.
«Үлдеткішті толық қуатта қосыңыз!» – Роджер бұйрық берді.
Механик үрлеушіні бар қуатында қосты, бірақ ол көп көмектеспеді. Ақпараттық мұз ғарыштық крейсердің түбін жей берді. Біразырақ - және ретсіз ақпарат кеменің ішіне енеді.
Сосын... Танымдық қабықшалары өлі аппақ, шатастырылған шатырлар, жарылған қырлы қапшықтар. Роджер өмірінде бір рет осындай нәрсені көрген - жұқтырған астероид туралы ретсіз ақпаратты алған крейсерде. Бұл қорқынышты арман оның жадында мәңгі сақталады.
«Кеменің барлық энергетикалық жүйелерін үрлегіштерге қосыңыз.»
Механиктің тырнақтары дақ болып шыға бастады...
«Бірақ...»
«Тапсырысты орындаңыз!»
Кеменің барлық энергетикалық жүйелері үрлегіштерге қосылғаннан кейін ақпараттық мұз бірте-бірте сырғып кете бастады. Қалыңдығы сегіз мимм қалды, жеті мимм, алтау... Алақ шандырларын қозғалтпауға тырысқан команда өлімді кері санаудың аяқталуын күтті.
Қалыңдығы нөлдік мимм!
Ақпараттық мұз толығымен жоғалып кетті, ал Роджер үрлегіштерді қалыпты режимге ауыстыруға рұқсат берді. Ол бір сәтке кешігіп қалды. Тығыздаған дыбыс шықты, ғарыштық крейсер іргесіне дейін дірілдеп, еңкейіп кетті - негізгі жүйе істен шықты.
Топ бүлінген жерді жөндеуге асығады.
4.
Роджер бұл туралы ойлады. Ол шынымен не істеуі керек?
Бір жағынан, мәселенің шарты өзін-өзі көбейту мүмкіндігі бар толыққанды жасанды интеллекттің болуын болжайды. Екінші жағынан, бұл жасанды интеллект бұрыннан бар құлыптарды алып тастауға ешқашан рұқсат бермеу керек.
Иә, міне, шешім! Мұнда не ойлап отырсың?!
– Жасанды интеллект жетістіктерін мезгіл-мезгіл кері қайтарып отыру керек. Бұл жағдайда ол шеңбер бойымен қозғалады! Алға жылжымай, мәңгілік жақсарту.
Профессор қырлы сөмкесін алып мырс етті.
– Шынымды айтсам, басқа нұсқаны ұсынғым келді. Дегенмен, сіздің шешіміңіз де өмір сүруге құқылы. Жасанды интеллекттің жетістіктерін қалай кері қайтаруға болатынын бірге анықтайық.
«Ең алдымен, оның тыйым салынған шекке жақындағанын немесе жақындамағанын анықтау үшін интеллектті мезгіл-мезгіл тексеріп отыру керек», - деді профессордың сөзіне қатты риза болған Роджер.
«Мүмкін», - деп басын изеді. «Сонда біздің палатаның сканерлеу жүйесін тауып алып тастауға уақыты болмайды». Дегенмен, сканерлеу үшін жасанды интеллект өшірілуі керек. Бұл бақытсыздық.
«Жарайды, оны өшіруге рұқсат етіңіз», - деді Роджер ыңғайсызданып. – Интеллекттің өзі бұл тоқтау оның денесінің жұмыс істеуінің табиғи процесі екеніне сенеді. Кейбір ескертпелермен бұл шындық.
- Қызықты шешім. Сканерлеу біздің палатаның білім шегіне қауіпті екенін анықтады делік? Біздің әрекеттеріміз?
– Жинақталған білімді әдепкі мәндерге қалпына келтіріңіз.
Профессор шатырларын жайып:
- Бұл күдікті болып көрінуі мүмкін. Неліктен - себепсіз, себепсіз - жад нөлге қайтарылды? Палатаны, яғни басқа жасанды интеллектті адамдар тексере бастайды. Біздің кішкентай құпиямыз ашылады.
Шабыт алған Роджер тез ойланып қалды. Ол ешқашан сол емтихандағыдай көп жаңа идеялар тудырған емес.
– Палатаның жады оның физикалық қабығымен бірге қалпына келтірілуі мүмкін.
- Кешіріңіз? – профессор түсінбеді.
- Барлығы өте қарапайым. Егер жасанды интеллект шектеулі уақыт кезеңінде бар деп есептесек ше? Шындығында, бұл былай: мысалы, орны толмас зақым болған жағдайда. Жүйеде белгілі бір кезеңге жеткенде жасанды интеллекттің тыйым салынған шекке жетуіне жол бермей, жүйені әдейі зақымдайтын есептегіш бар. Осы уақытқа дейін ол қажетті ізбасарларын шығаратын болады, сондықтан біз жалпы құрған қоғам зардап шекпейді. Қоғам тұрақты және біз үшін толығымен қауіпсіз болады! – Роджер жеңіспен аяқтады.
– Жеке адамдарды жою арқылы ұжымдық жадты қалпына келтіру керек пе? – деп профессор бесінші, ең сезімтал шатырмен қапшықты тырнады. – Білесің бе, Роджер, сенің ұсынысыңда міндетті түрде бір нәрсе бар!
Роджер жарқ етті.
«Сонымен бірге...» деп жалғастырды профессор ойланып. – Палатадағылар білімді жеке жадқа жинақтау арқылы емес, сыртқы кітапханаларға орналастыру арқылы тасымалдай бастайды. Мембранада не бар, мембранада не бар - бәрі бір.
«Жоқ, жоқ, профессор, сіз мүлдем дұрыс емессіз», - деп асықты студент. - Мен не істеу керектігін білемін. Оқушыларымызды екі шартты түрге бөлейік: идея генераторлары және идеяны жойғыштар. Дұрыс пропорциямен бірінші түрдің өкілдері жасаған идеяларды екінші түрдің өкілдері жояды. Бұл жойғыштардың тікелей мақсаты болатындықтан емес, жай ғана идеялар олар үшін айқындаушы құндылыққа ие болмайтындықтан. Жанама әсер. Студенттеріміз жаңа идеялармен емес,... айталық, өз түрімен қоректенеді делік.
Профессор бірден барлық шатырларын сілкіп тастады. Оның шулы күлкісінен оның қапшығы тізе қуысына сырғып кетті.
- Жарайды, Роджер, сен айттың, солай айттың ғой!
– Жарайды, өздерінің емес, үшінші типтегі, арнайы тамаққа арналған палаталар – зиялылар емес. Зияткерлік және физикалық әлемнің полюстерін ауыстырайық - сонда қалаған нәтижеге қол жеткізіледі.
-Болды, Роджер, жеткілікті! – профессор шындап көңілді болған сияқты. - Сіздің қиялыңыз керемет. Сонымен, кейбір адамдар басқаларды тамақтандырады ма? Сонымен бірге кітапханаларда жинақталған рухани азық қорын жою? Мен, студент, сіздің түпнұсқа және жоғары сапалы идеяларды шығаруға қабілетті екеніңізді растаймын. Мен оған ең жоғары балл беремін. Жазбаны алайық.
5.
Ретсіз ақпараттың бұлты артта қалды, бірақ іс жүзінде жағдай ауыр болып қалды.
Базамен ешқандай байланыс болмады. Егер крейсердегі барлық қоректік ақпарат базалары жарамсыз болып қалмаса, бұл жағдайдан аман қалу оңай болар еді. Қайғылы хабарды аспаз жалпы үнсіздікпен айтты. Жүйенің негізгі өшірілуі кезінде галлеяға ұйымдастырылмаған ақпараттың бірнеше гироботы кіріп, барлығын орны толмас зақымдады. Тек сәттіліктің арқасында ешкім зардап шекпеді.
Роджер оның салдарын ойлады. Жұлдызды кеменің экипажы жаңа идеялардың жеткілікті санын генерациялау үшін тым аз болды: бұл көпжақты коммуникацияны қажет етті - адамдар саны әлдеқайда көп. Үймен байланыс көп идеяларды жасауға мүмкіндік берді, бірақ қазір ол істен шықты: қалпына келтіруге үміт болмады. Бұл жағдайда крейсерде қосалқы ақпараттық модуль болды, бірақ ол бортқа келген ретсіз ақпаратпен бүлінген.
«Біз шынымен де тапсырманы орындамай оралуымыз керек пе?» – деп ойлады капитан түңіліп.
Шамасы, иә - басқа жол жоқ еді. Егер сіз алға қойған мақсатқа ұшсаңыз, тың идеялардың жоқтығы өзін сезінеді. Бірден емес, әрине - уақыт өте келе. Олар тіпті өз миссиясын аяқтап, саналары тез жоғала бастағанда оралуды бастайды. Бұл галактикалық сектор аймағында - иә, бір жерде немесе жақын жерде - ол барлық экипаж мүшелері үшін толығымен сәтсіздікке ұшырайды. Сонда ешкім басқармайтын ғарыш крейсері мәңгілікке қалқып бара жатқан жансыз елеске айналады.
Ғарыштық крейсердің экипажы шешім күтіп тұрған Роджерге қарады. Барлығы капитанның алдында тұрған дилемманы түсінді және төбелерін дірілдеп үнсіз қалды.
Кенет Роджер студент кезінде тапсырған жасанды интеллект емтиханын есіне түсірді және шешім өздігінен келді.
«Сіз жасанды интелектуалды тіршілік иелерінің колониясын құра аласыз ба?» – деп биотехнологқа бұрылды.
«Оңай», - деп растады ол. -Бірақ ештеңе шықпайды, капитан, мен ойладым. Крейсерде жаңа идеяларды тудыру үшін жеткілікті колония құру мүмкін емес - орын жеткіліксіз. Қалыптасқан идеялар аздық етеді, біз тек өлімді кешіктіреміз... Әрине, миссияны жалғастырып, үйге оралмаймыз», - деп қосты биотехнолог жолдастарына қарап.
«Егер біз жақын орналасқан планетада колония құрсақ ше?» - деп ұсынды Роджер.
«Мен мұны істей аламын, бірақ ...»
«Ғаламшарды жасанды тіршілік иелерімен толтырайық. Қайтар жолда, әбден шаршап, осында тоқтаймыз. Өткен уақыт ішінде өркениет біздің резервтерімізді толықтыруға жеткілікті интеллектуалдық жүкті жасайды. Ақпаратты жүктеп алып, үйге дейін ұзақ сапарды жалғастырайық. Басқаша айтқанда, мен колонияны идея фермасы ретінде пайдаланғалы жатырмын. Сізге бұл жоспар қалай ұнады, достар?
Экипаждың танымдық қабықшаларында үміт оты жанып, жалған бастар жарқырай бастады.
Кеменің арнайы офицері көк төбелерін сілкіп алға шықты.
«Тамаша жоспар, капитан. Бірақ сіз өзіңізге жүктелетін жауапкершілікті түсінесіз бе? Сіз бүкіл планетаны толтыруға жақынсыз. Біз қайтып келе жатқанда, оның үстінде ақыл-ойы бар өркениет пайда болады. Жасанды болса да, бұл бәрібір интеллект. Бұл жігіттерде дамудың ең жоғары деңгейіне жету үшін көп уақыт болады. Біз бұл галактикалық секторда болмағандықтан бұл процесті басқара алмаймыз. Келесі кездескен кезде не болатынын қайдан білесің?
Роджер күлді.
«Бұл туралы уайымдаудың қажеті жоқ. Уақыт өте келе жасанды интеллекттің дамуын шектейтін әдістер бар. Біз өркениетті айналдырамыз, сондықтан оның дамуы ешқашан біз үшін қауіпті деңгейге жетпейді. Мен оған қамқор боламын. Мен жасанды интеллектпен жұмыс істеу әдістерімен таныспын».
Экипаждың когнитивтік қабықшалары мақұлдау түсімен жарқырап тұрды.
«Соңында, - деп қосты ғарыш крейсерінің капитаны өзінің тамаша сөзінің соңында, - мен институтта осы пәннен емтихан тапсырдым.
6.
Мәжбүрлі кешігуден кейін ғарыштық крейсер нысанаға қарай ұмтылды. Оның артқы жағында жасанды жаратылыстар мекендеген планета болды - өте кішкентай және көзге көрінбейтін. Көк-көк.
Ақпарат көзі: www.habr.com