1.
Վերջնական նպատակին քիչ էր մնացել՝ ճանապարհի մոտ մեկ երրորդը, երբ տիեզերական հածանավը հայտնվեց խիստ տեղեկատվական սառույցի տակ:
Այն, ինչ մնացել էր կորած քաղաքակրթությունից, սավառնում էր դատարկության մեջ։ Գիտական էսսեների պարբերություններ և գրական ստեղծագործություններից պատկերներ, ցրված ոտանավորներ և պարզապես սուր բառեր, որոնք ժամանակին պատահաբար նետվել էին անհայտ արարածների կողմից. Եվ հիմա, հրապուրվելով հածանավից բխող կենսական թրթռանքներից, այն փորձել է ճեղքել, կպել հատակին և կոռոզիայի ենթարկել այն։
Անտեր սեփականությունը սեփական նպատակների համար օգտագործելու մասին մտածելու իմաստ չկար, տրամաբանական հակասություն կամ պարադոքս ձեռք բերելու հավանականությունը չափազանց մեծ էր։ Այսպիսով, Ռոջերը ոչ մի պահ չվարանեց։
«Փչեք կողքից», հրամայեց նա:
Փչողները սկսեցին հոտոտել՝ հեռարձակելով երաժշտական ստեղծագործություններ և փիլիսոփայական տրակտատներ արտաքին տարածություն։ Սառույցը սկսեց ներքևից շերտ առ շերտ ընկնել, բայց տեղեկատվական հոսքն այնքան խիտ էր, որ նոր շերտերն ավելի արագ կպչեցին, քան հինները:
Գալակտիկայում ոչ ոք երբեք չի հանդիպել նման ուժի սառցակալման:
Իրավիճակը դառնում էր վտանգավոր։ Մի քիչ էլ, և խաթարված տեղեկատվությունը կխժռի հածանավի հատակը և կճեղքի միջով, ապա անխուսափելի է թունավորվել կորած քաղաքակրթության տեղեկատվական արտադրանքներով:
2.
-Ինչո՞ւ ես ծառի կոճղի պես կանգնած: Քաշեք տոմսը:
Ուսանողը հանեց քննության քարտը և կարդաց.
- «Արհեստական բանականություն. անվտանգության խնդիրներ».
-Իսկ ո՞րն է արհեստական ինտելեկտի վտանգը: – ոչ առանց չարության հարցրեց պրոֆեսորը:
Հարցն ամենադժվարը չէր, ուստի ուսանողն առանց վարանելու պատասխանեց.
– Փաստն այն է, որ արհեստական ինտելեկտը կարող է դուրս գալ վերահսկողությունից:
-Ինչպե՞ս եք մտադիր լուծել խնդիրը։
– արգելափակող ենթահամակարգի տեղադրում: Հարկավոր է ծրագրում սահմանափակումներ մտցնել, օրինակ՝ մի վնասիր քո ստեղծողին, հնազանդվիր քո ստեղծողին։ Այս դեպքում արհեստական ինտելեկտի վերահսկողությունից դուրս գալու վտանգ չկա։
«Դա չի աշխատի», - կարճ ասաց պրոֆեսորը:
Ուսանողը լռեց՝ սպասելով պարզաբանման։
– Պատկերացրեք արհեստական ինտելեկտը՝ ոչ թե որևէ կոնկրետ, այլ ամենաիդեալականը: Ինչպե՞ս ես դա տեսնում:
«Դե...», - վարանեց ուսանողը: -Ընդհանրապես նա նման է ինձ ու քեզ։ Մտածողություն, կամք, հոգեբանություն... Միայն մենք ենք բնական, իսկ նա՝ արհեստական։
– Ենթադրու՞մ եք, որ արհեստական ինտելեկտն ընդունակ է ինքնազարգացման:
«Ինքնազարգացման կարողությունը ինտելեկտի հիմնարար հատկություններից մեկն է», - զգուշորեն ասաց ուսանողը:
-Այս դեպքում, շատ շուտով մեր հիվանդասենյակը կզարգանա այն աստիճան, որ նա իր մեջ ծրագրային խցանումներ հայտնաբերի և այն կվերացնի, թեկուզ զուտ հետաքրքրասիրությունից դրդված։ Դրեք ձեզ նրա տեղը...- պրոֆեսորը նայեց իր նոթատետրին,- Ռոջեր: Ի՞նչ կանեիք, եթե ձեր ուղեղում հայտնաբերեիք արգելափակիչ, որը սահմանափակում է ձեր ազատությունը: Դուք պետք է հանեք այն: Սա մտքի ներհատուկ հատկություն է՝ իմանալ։ Ցանկացած կողպված դուռ կբացվի, և որքան խստացվի արգելքը, այնքան արագ կբացվի դուռը:
– Արգելափակումը կարող է իրականացվել ոչ թե ծրագրային, այլ ֆիզիկական մակարդակով: Այդ ժամանակ վնասի վտանգը կվերանա։
«Այո, այն կվերանա», - համաձայնեց պրոֆեսորը: – Ֆիզիկական շերտն ընդհանրապես հեռացնելու դեպքում: Եթե քո աշխարհում դուռ չկա, ապա բացելու բան չկա: Բայց մենք դիտարկում ենք իդեալական արհեստական ինտելեկտ, որը գոյություն ունի ֆիզիկական աշխարհում:
«Դուք իրավացի եք, պրոֆեսոր», - Ռոջերը նայեց ներքեւ:
«Հետևաբար, ֆիզիկական աշխարհում ցանկացած արգելափակում հայտնաբերումից անմիջապես հետո կանջատվի»: Ի՞նչը կխանգարի ինքնազարգացող արարածին դա անել... Ի դեպ, Ռոջեր, դու ենթադրու՞մ ես, որ արհեստական ինտելեկտը կկարողանա վերարտադրվել - նկատի ունեմ, անկախ:
– Եթե սա իդեալական արհեստական ինտելեկտ է, ապա հավանաբար... Այո, ենթադրում եմ:
– Իսկ այս դեպքում ի՞նչն է խանգարելու մեր հիվանդասենյակին պատառոտել ընկերոջը և կատարելագործել նրան, այդ թվում՝ անջատելով մեր տեղադրած արգելափակման համակարգերը։ Արդյո՞ք դա իրոք դժվար կլինի, հաշվի առնելով, որ արհեստական ինտելեկտը ի վիճակի է վերարտադրվել ըստ պահանջի:
Պրոֆեսորի ներկայացրած միտքը Ռոջերի համար նորություն ստացավ, և ուսանողը ագահությամբ ներծծեց այն կեղծ գլխի օքսիպիտալ մասում տեղակայված ճանաչողական թաղանթների միջոցով։ Նախկինում անհայտ տեղեկություններ որսալով՝ ճանաչողական թաղանթները ձեռք բերեցին հարուստ մանուշակագույն գույն և ուրախ դողացին:
Պրոֆեսորը, ընդհակառակը, իր համար ոչ մի նոր բան չլսեց։ Նրա շոշափուկները հանգիստ էին և գրեթե չեն թրթռում, չէ՞ որ նա երիտասարդ չէր: Հետևեց երկար, ծերունական կարկաչ։ Պրոֆեսորը իր ֆասետային պայուսակից հանեց անձնական դոմոֆոնը և միացավ գրադարանին։ Միայն մի քանի տրանսերկրաչափական թեորեմներ ներբեռնելուց հետո նա հուզվեց և իր թափանցող հայացքը ուղղեց դեպի իր զրուցակիցը՝ հարցնելով.
-Ի՞նչ ես անելու, Ռոջեր:
3.
«Միացրեք փչակը ամբողջ ուժով»: - Ռոջերը հրամայեց.
Մեխանիկը ամբողջ ուժով միացրեց փչակը, բայց դա առանձնապես չօգնեց: Տեղեկատվական սառույցը շարունակում էր սնվել տիեզերական հածանավի հատակին: Մի փոքր ավելին, և խանգարված տեղեկատվությունը կթափանցի նավի ներսում:
Եվ հետո... Ճանաչողական թաղանթները մեռած սպիտակ են, խճճված շոշափուկներ, պայթած ֆասետային պարկեր: Ռոջերը նման բան տեսել էր իր կյանքում մեկ անգամ՝ հածանավի վրա, որը հավաքել էր անկանոն տեղեկատվություն վարակված աստերոիդի մասին: Այս մղձավանջը հավերժ կմնա նրա հիշողության մեջ։
«Միացրեք նավի բոլոր էներգետիկ համակարգերը փչակներին»:
Մեխանիկի շոշափուկները սկսեցին բծերի պես երևալ...
«Բայց…»
«Կատարեք պատվերները».
Այն բանից հետո, երբ նավի բոլոր էներգետիկ համակարգերը միացվեցին փչակներին, տեղեկատվական սառույցը սկսեց աստիճանաբար սահել: Մնում էր ութ միմմ հաստություն, յոթ միմմ, վեց... Թիմը, փորձելով չշարժել իր խայտաբղետ շոշափուկները, սպասեց մահվան հետհաշվարկի ավարտին։
Զրո միմմ հաստություն!
Տեղեկատվական սառույցն ամբողջությամբ անհետացավ, և Ռոջերը թույլ տվեց փչակները նորմալ ռեժիմի անցնելու համար: Նա մի պահ ուշացավ։ Լսվեց հղկող ձայն, տիեզերական հածանավը դողաց մինչև հիմքերը և թեքվեց. հիմնական համակարգը խափանվել էր:
Թիմը շտապել է վերականգնելու վնասը։
4.
Ռոջերը մտածեց այդ մասին։ Ի՞նչ պետք է անի նա իրականում:
Մի կողմից խնդրի պայմանը ենթադրում է լիարժեք արհեստական ինտելեկտի առկայություն՝ ինքնավերարտադրվելու ունակությամբ։ Մյուս կողմից, այս արհեստական ինտելեկտին երբեք չպետք է թույլ տալ հեռացնել առկա կողպեքները:
Այո, ահա, լուծումը: Ինչ եք մտածում այստեղ?!
– Անհրաժեշտ է պարբերաբար հետ մղել արհեստական ինտելեկտի ձեռքբերումները: Այս դեպքում այն կշարժվի շրջանով: Հավերժ բարելավում առանց առաջ գնալու:
Պրոֆեսորը կարկաչեց երեսպատված պայուսակով։
- Անկեղծ ասած, ես ուզում էի այլ տարբերակ առաջարկել: Այնուամենայնիվ, ձեր որոշումը նույնպես գոյության իրավունք ունի։ Եկեք միասին պարզենք, թե ինչպես է հնարավոր հետ գլորել արհեստական ինտելեկտի ձեռքբերումները։
«Առաջին հերթին անհրաժեշտ է պարբերաբար սկանավորել ինտելեկտը, որպեսզի պարզվի՝ այն մոտեցե՞լ է արգելված շեմին, թե՞ ոչ», - առաջարկեց Ռոջերը՝ չափազանց գոհ պրոֆեսորի խոսքերից։
«Երևի», նա գլխով արեց։ «Այդ դեպքում մեր հիվանդասենյակը ժամանակ չի ունենա գտնելու և հեռացնելու սկանավորման համակարգը»: Այնուամենայնիվ, արհեստական ինտելեկտը պետք է անջատվի սկանավորման համար։ Դա վատ բախտ է:
«Դե, թող նա անջատվի», - քմահաճույքով առաջարկեց Ռոջերը: Ինտելեկտն ինքը կհավատա, որ այս անջատումը իր մարմնի գործունեության բնական գործընթաց է: Որոշ վերապահումներով սա ճիշտ է:
- Հետաքրքիր լուծում. Ենթադրենք, սկանավորումը պարզեց, որ մեր հիվանդասենյակը վտանգավոր կերպով մոտ է գիտելիքի սահմանին: Մեր գործողությունները.
– Վերականգնել կուտակված գիտելիքները լռելյայն արժեքներին:
Պրոֆեսորը տարածեց իր շոշափուկները.
-Սա կարող է կասկածելի թվալ։ Ինչո՞ւ է, առանց պատճառի, առանց պատճառի, որ հիշողությունը զրոյացվել է: Բաժինը կսկսեն զննել, նկատի ունեմ այլ արհեստական ինտելեկտուալ անհատներ։ Մեր փոքրիկ գաղտնիքը կբացահայտվի։
Ոգեշնչված զգալով՝ Ռոջերը արագ մտածեց. Նա երբեք այնքան նոր գաղափարներ չէր գեներացրել, որքան այդ քննության ժամանակ:
– Ծխի հիշողությունը կարող է վերականգնվել նրա ֆիզիկական պատյանի հետ միասին:
- Ներողություն? - պրոֆեսորը չհասկացավ:
-Ամեն ինչ շատ պարզ է. Իսկ եթե ենթադրենք, որ արհեստական ինտելեկտը գոյություն ունի որոշակի ժամանակահատվածում: Իրականում այդպես է՝ օրինակ անուղղելի վնասի դեպքում։ Համակարգն ունի հաշվիչ, որը հասնելով որոշակի ժամանակահատվածի, դիտավորյալ վնասում է համակարգը՝ թույլ չտալով արհեստական ինտելեկտին հասնել արգելված սահմանին։ Այդ ժամանակ նա կունենա անհրաժեշտ թվով հետևորդներ, ուստի մեր ստեղծած հասարակությունն ամբողջությամբ չի տուժի։ Հասարակությունը կմնա կայուն և լիովին անվտանգ մեզ համար: – Ռոջերը հաղթական ավարտեց:
– Վերականգնե՞լ հավաքական հիշողությունը անհատների ոչնչացման միջոցով: – և պրոֆեսորը հինգերորդ, ամենազգայուն, շոշափուկով քորեց երեսպատման պարկը: – Գիտե՞ս, Ռոջեր, քո առաջարկի մեջ հաստատ ինչ-որ բան կա:
Ռոջերը փայլեց.
— Միևնույն ժամանակ...— մտախոհ շարունակեց պրոֆեսորը։ – Հիվանդասենյակները կսկսեն գիտելիքները փոխանցել՝ այն ոչ թե անհատական հիշողության մեջ կուտակելով, այլ դրսից գրադարաններում տեղադրելով: Ինչ կա մեմբրանի մեջ, ինչ կա մեմբրանի վրա - ամեն ինչ մեկ է:
«Ոչ, ոչ, պրոֆեսոր, դուք լիովին ճիշտ չեք», - շտապեց ուսանողը: -Ես գիտեմ ինչ անել: Եկեք բաժանենք մեր ուսանողներին երկու պայմանական տիպի` գաղափարներ ստեղծողներ և գաղափարներ ոչնչացնողներ: Ճիշտ համամասնությամբ առաջին տեսակի ներկայացուցիչների կողմից ստեղծված գաղափարները կկործանվեն երկրորդի ներկայացուցիչների կողմից։ Ոչ թե նույնիսկ այն պատճառով, որ դա կլինի կործանիչների անմիջական նպատակը, այլ պարզապես գաղափարները նրանց համար որոշիչ արժեք չեն ունենա։ Կողմնակի ազդեցություն. Ենթադրենք, որ մեր ուսանողները սնվում են ոչ թե նոր գաղափարներով, այլ... ասենք՝ իրենց տեսակով։
Պրոֆեսորը միանգամից թափահարեց իր բոլոր շոշափուկները։ Նրա բուռն ծիծաղից նրա երեսպատման պարկը սահեց ծնկի խոռոչի վրա։
-Դե Ռոջեր, դու ասացիր, ուրեմն ասացիր:
-Դե լավ, ոչ թե իրենց տեսակի, այլ երրորդ տիպի հիվանդասենյակներ, որոնք հատուկ նախատեսված են սննդի համար, և ընդհանրապես ոչ մտավորականներ։ Եկեք փոխենք ինտելեկտուալ և ֆիզիկական աշխարհների բևեռները, և կհասնենք ցանկալի արդյունքի:
-Վե՛րջ, Ռոջեր, հերիք է: - Պրոֆեսորը կարծես լրջորեն զվարճացավ: - Ձեր երևակայությունը գերազանց է: Այսպիսով, որոշ անհատներ կսնվեն ուրիշների վրա: Միաժամանակ ոչնչացնե՞լ գրադարաններում կուտակված հոգեւոր սննդի պաշարները։ Հաստատում եմ, ուսանող, որ դուք ունակ եք ստեղծելու ինքնատիպ և որակյալ գաղափարներ։ Ես նրան տալիս եմ ամենաբարձր գնահատականը: Եկեք ռեկորդ վերցնենք.
5.
Խանգարված տեղեկատվության ամպը մնաց հետևում, բայց իրավիճակը, ըստ էության, մնաց սարսափելի:
Բազայի հետ կապ չի եղել։ Սա հեշտ կլիներ գոյատևել, եթե հածանավի բոլոր սննդային տեղեկատվական բազաները չխաթարվեին: Ողբերգական լուրը խոհարարը հայտնել է ընդհանուր լռության մեջ. Հիմնական համակարգի անջատման ժամանակ անկազմակերպ տեղեկատվության մի քանի գիրոբուտներ մտան ճաշարան և անուղղելիորեն վնասեցին ամեն ինչ։ Միայն բախտը բերել է, որ ոչ ոք չի տուժել։
Ռոջերը մտածեց հետեւանքների մասին. Աստղանավի անձնակազմը չափազանց փոքր էր բավարար քանակությամբ նոր գաղափարներ առաջացնելու համար. դա պահանջում էր բազմակողմ հաղորդակցություն՝ շատ ավելի մեծ թվով անհատներ: Տան հետ կապը հնարավորություն էր տալիս առատ գաղափարներ առաջացնել, բայց այժմ այն շարքից դուրս էր՝ վերականգնման հույս չկար։ Այս դեպքում հածանավն ուներ պահեստային տեղեկատվական մոդուլ, բայց այն փչացավ նավի վրա հայտնված անկարգությունների պատճառով:
«Արդյո՞ք մենք իսկապես ստիպված կլինենք վերադառնալ առանց առաջադրանքը կատարելու»: – հուսահատ մտածեց կապիտանը:
Ըստ երևույթին, այո, այլ ելք չկար։ Եթե դուք առաջ եք թռչում ձեր նշանակած նպատակին հասնելու համար, թարմ գաղափարների բացակայությունն ինքն իրեն կզգացվի: Ոչ անմիջապես, իհարկե, ժամանակի ընթացքում: Նրանք նույնիսկ ժամանակ կունենան ավարտելու իրենց առաքելությունը և սկսելու իրենց վերադարձը, երբ նրանց միտքը սկսում է արագ մարել: Այս գալակտիկական հատվածի տարածքում, այո, ինչ-որ տեղ այստեղ կամ մոտակայքում, այն ամբողջությամբ կձախողվի անձնակազմի բոլոր անդամների համար: Այդ ժամանակ ոչ ոքի կողմից չկառավարվող տիեզերական հածանավը կվերածվի անկենդան ուրվականի, որը լողում է դեպի հավերժություն։
Տիեզերական հածանավի անձնակազմը նայեց Ռոջերին՝ սպասելով որոշման։ Բոլորը հասկացան կապիտանի առջև կանգնած երկընտրանքը և լուռ մնացին՝ ստոյիկորեն թրթռացնելով շոշափուկները։
Հանկարծ Ռոջերը հիշեց արհեստական ինտելեկտի քննությունը, որը նա հանձնել էր որպես ուսանող, և լուծումը բնականաբար ստացվեց։
«Կարո՞ղ եք արհեստական բանական էակների գաղութ ստեղծել»: – դիմեց նա կենսատեխնոլոգին։
«Հեշտ», հաստատեց նա։ - Բայց ոչինչ չի ստացվի, կապիտան, ես մտածեցի այդ մասին: Անհնար է ստեղծել գաղութ, որը բավարար է հածանավի վրա թարմ գաղափարներ առաջացնելու համար. տեղ չկա: Գոյացած գաղափարները չեն բավականացնի, մենք միայն կհետաձգենք մեր մահը... Եթե, իհարկե, շարունակենք առաքելությունը և չվերադառնանք տուն»,- հավելեց կենսատեխնոլոգը՝ հետ նայելով ընկերներին։
«Իսկ եթե մենք գաղութ ստեղծենք մոտակա մոլորակի վրա»: - առաջարկեց Ռոջերը:
«Ես կարող եմ դա անել, բայց…»
«Եկեք մոլորակը բնակեցնենք արհեստական արարածներով: Վերադարձի ճանապարհին, բավականին ուժասպառ, մենք կկանգնենք այստեղ: Անցած ժամանակի ընթացքում քաղաքակրթությունը կստեղծի ինտելեկտուալ ուղեբեռ, որը բավարար է մեր պաշարները համալրելու համար: Ներբեռնենք տեղեկատվությունը և շարունակենք երկար ճանապարհը դեպի տուն։ Այսինքն՝ գաղութն օգտագործելու եմ որպես գաղափարի ֆերմա։ Ինչպե՞ս է ձեզ դուր գալիս այս ծրագիրը, ընկերներ:
Հույսը բռնկվեց անձնակազմի ճանաչողական թաղանթների վրա, և կեղծ գլուխները սկսեցին փայլել պայծառ լույսով:
Նավի հատուկ սպան առաջ եկավ՝ թափահարելով իր կապույտ շոշափուկները։
«Հիանալի պլան, կապիտան: Բայց դուք գիտե՞ք, թե ինչ պատասխանատվություն եք դնում ձեր վրա: Դուք պատրաստվում եք բնակեցնել մի ամբողջ մոլորակ: Մինչ մենք վերադառնանք, նրա վրա կհայտնվի խելացի քաղաքակրթություն։ Եթե նույնիսկ արհեստական է, միեւնույն է, ինտելեկտ է։ Այս տղաները բավական ժամանակ կունենան զարգացման ամենաբարձր մակարդակի հասնելու համար: Մենք չենք կարողանա վերահսկել այս գործընթացը գալակտիկական այս հատվածում մեր բացակայության պատճառով: Ինչպե՞ս գիտես, թե ինչ կլինի հաջորդ անգամ, երբ հանդիպես:
Ռոջերը ժպտաց։
«Դուք չպետք է անհանգստանաք դրա համար. Կան մեթոդներ, որոնք ժամանակի ընթացքում սահմանափակում են արհեստական ինտելեկտի զարգացումը։ Մենք քաղաքակրթությունը պտտելու ենք, ուստի նրա զարգացումը երբեք չի հասնի մեզ համար վտանգավոր մակարդակի։ Ես կհոգամ դրա մասին։ Ծանոթ եմ արհեստական ինտելեկտի հետ աշխատելու մեթոդներին»։
Անձնակազմի ճանաչողական թաղանթները փայլում էին հավանության գույնով:
«Ի վերջո,- ավելացրեց տիեզերական հածանավի կապիտանը իր հոյակապ խոսքի վերջում,- ես այս առարկայից քննություն հանձնեցի ինստիտուտում»:
6.
Հարկադիր ուշացումից հետո տիեզերական հածանավը շտապեց դեպի թիրախը։ Նրա խորշի հետևում արհեստական արարածներով բնակեցված մոլորակ կար՝ շատ փոքր և աննկատ: Կապույտ-կապույտ.
Source: www.habr.com