1.
До крайната цел оставаше малко – около една трета от пътя, – когато космическият кораб попадна под силно информационно замръзване.
Това, което остана от загиналата цивилизация, висяше в пустотата. Параграфи от научни произведения и образи от литературни творби, разпръснати рими и просто остри думи, хвърлени случайно от неизвестни същества – всичко изглеждаше абстрактно и изключително неорганизирано. И сега, привлечено от жизнените вибрации, излъчвани от кораба, се опитваше да пробие навътре, залепвайки се за дъното и го разяждайки.
Нямаше да помисли да използва безстопанственото добро за свои цели, рискът да улови логическо противоречие или парадокс беше твърде голям. Затова Роджър не се колеба ни за миг.
„Включете продухването на борда“, – нареди той.
Запъшаха продухвачите, предавайки в откритото космос музикални композиции и философски трактати. Замръзването започна да се отлепва от дъното слой по слой, но информационният поток беше толкова плътен, че нови слоеве се залепваха по-бързо, отколкото старите изчезваха.
С такова замръзване никой в галактиката не се беше сблъсквал досега.
Положението ставаше опасно. Още малко и неорганизираната информация щеше да прояде дъното на кораба и да пробие навътре – тогава отравянето с информационните продукти на загиналата цивилизация щеше да е неизбежно.
2.
– Какво стоите като пън? Изтеглете билет.
Студентът изтегли изпитния билет и прочете:
– „Изкуствен интелект: проблеми с безопасността“.
– Каква е опасността от изкуствения интелект? – попита професорът не без ирония.
Въпросът не беше най-сложният, затова студентът отговори, без да се замисля:
– В това, че изкуственият разум може да излезе извън контрол.
– Как възнамерявате да решите проблема?
– С инсталиране на блокираща подсистема. В програмата е необходимо да се въведат ограничения, например: да не причинява вреда на своя създател, да се подчинява на своя създател. В този случай опасността от излизане на изкуствения интелект извън контрол отсъства.
– Няма да стане, – каза лаконично професорът.
Студентът мълчеше, очаквайки пояснения.
– Представете си изкуствен интелект – не някакъв конкретен, а съвсем идеален. Какъв го виждате?
– Е, ами… – замисли се студентът. – По принцип той е подобен на нас с вас. Мислене, воля, психология… Просто ние сме естествени, а той е изкуствен.
– Предполагате, че изкуственият интелект е способен на саморазвитие?
– Способността за саморазвитие е едно от основните качества на интелекта, – произнесе студентът внимателно.
– В такъв случай в най-скоро време нашият обект ще се развие до такава степен, че ще открие в себе си софтуерен блокаж и ще го премахне, поне от чисто любопитство. Поставете се на негово място… – професорът погледна в семестриалната книжка, – Роджър. Какво бихте направили, ако откриете у себе си блокирател, който ограничава свободата? Ще го премахнете. Това е неотменимо свойство на разума – да познава. Всяка заключена врата ще бъде отключена, а колкото по-строг е забраната, толкова по-бързо ще я отключат.
– Блокажът може да бъде направен не на софтуерно, а на физическо ниво. Тогава опасността от вреда ще изчезне.
– О, да, ще изчезне, – съгласи се професорът. – В случай, че физическото ниво überhaupt бъде извадено. Ако няма врата в твоя свят, няма какво и да отключваш. Но ние разглеждаме идеален изкуствен интелект, съществуващ в физическия свят!
– Прави сте, професоре, – смутено каза Роджър.
– Затова всяка блокировка в физическия свят ще бъде деактивирана скоро след откритие. Какво ще попречи на саморазвиващото се същество да направи това?.. Между другото, Роджър, предполагате ли, че изкуственият интелект може да се възпроизвежда – имам предвид, самостоятелно?
– Ако това е идеален изкуствен интелект, тогава вероятно… Да, предполагам.
– И какво в такъв случай ще попречи на нашия обект да разчлени своя спътник на части и да го усъвършенства, включително чрез отключване на поставените от нас блокировки? Наистина ли това ще се окаже сложно, когато изкуственият интелект може да се възпроизвежда при поискване?!
Мисълта, изложена от професора, се оказа нова за Роджър, и студентът жадно я възприе с когнитивните си перцепции, разположени на задната част на лъжеглавата. Уловила преди не известна информация, когнитивните перцепции придобиха наситен лилав цвят и радостно затрептяха.
Професорът, от своя страна, не чу нищо ново за себе си. Неговите пипала бяха отпуснати и почти не вибрираха – все пак той не беше млад. Последва продължителен старчески бульк. Професорът извади индивидуален интерком от фасетния си чанта и се свърза с библиотеката. Само след като свали няколко трансгеометрични теореми, той оживя и насочи проницателен поглед към събеседника си, запитвайки:
– Какво ще направите, Роджър?
3.
«Включете продувката на пълна мощност!» – нареди Роджър.
Механикът включи продувката на пълна мощност, но това малко помогна. Информационната повърхнина продължаваше да разяжда дъното на космическия крейсер. Още малко и неупорядчената информация щеше да пробие вътре в кораба.
И тогава… Когнитивни хранителни клетки мъртво бели, заплетени пипала, спукани фасетни чанти. Само веднъж в живота си Роджър бе виждал нещо подобно – на крейсера, който прихвана неупорядчена информация на инфектиран астероид. Този кошмар завинаги ще остане в паметта му.
«Свържете всички енергийни системи на кораба с продувателите.»
Пипалата на механика потекоха на петна…
«Но…»
«Следвайте заповедта!»
След като всички енергийни системи на кораба бяха свързани с продувателите, информационната повърхнина започна постепенно да се свлича. Останаха осем мимов дебелина, седем мимов, шест… Екипажът, опитвайки се да не движи петнистите пипала, очакваше края на смъртоносния отбор.
Нула мимов дебелина!
Информационната повърхнина се свлече напълно и Роджър даде сигнал да се премине в нормален режим на продувателите. Той закъсня за момент. Раздаде се скрежет, космическият крейсер тресеше до основите и залюля – основната система бе излязла от строя.
Екипажът се втурна да поправя щетите.
4.
Роджър се замисли. Какво наистина да направи?
От една страна, условието на задачата предполага съществуването на пълноценен изкуствен интелект, способен на саморазмножаване. От друга страна, на този изкуствен интелект по никакъв начин не трябва да бъде позволено да премахва установените блокировки.
Ето го, решението! Какво измисляте тук?!
– Необходимо периодично да се анулират постиженията на изкуствения интелект. В този случай той ще се движи в кръг! Вечно усъвършенстване без напредък.
Професорът бълбукаше с фасеточния си сак.
– Признавам, исках да предложа друг вариант. Въпреки това, вашето решение също е валидно. Нека заедно да обмислим как може да се анулират постиженията на изкуствения интелект.
– Преди всичко е необходимо периодично да се сканира интелектът, за да се установи дали е достигнал забранения праг, предложи Роджер, изключително развълнуван от думите на професора.
– Права си, – кимна той. – Тогава нашият пациент няма да има време да открие и изключи сканиращата система. Въпреки това, за сканирането изкуственият интелект ще трябва да бъде изключен. Е, проблемът е тук.
– Да, нека бъде изключен, – предложи интуитивно Роджер. – Самият интелект ще смята, че това изключване е естествен процес на функционирането на неговото тяло. С известни уговорки това отговаря на истината.
– Интересно решение. Да предположим, че сканирането установи, че нашият пациент опасно се е приближил до пределите на познанието? Какви са нашите действия?
– Да нулираме натрупаните знания до стойностите по подразбиране.
Професорът разпери пипалата си:
– Това може да изглежда подозрително. Защо паметта е нулирана – внезапно, от нищото? Други изкуствени интелектуални същества ще започнат да изследват пациента. Нашата малка тайна ще бъде разкрита.
Озадачен, Роджер мислеше много бързо. Никога не е генерирал толкова много нови идеи, колкото по време на този изпит.
– Паметта на пациента може да се нулира заедно с физическата му обвивка.
– Извинете? – не разбра професорът.
– Всичко е много просто. Какво ако предположим: изкуственият интелект съществува за ограничен период от време? Всъщност така и е: в случай на необратимо повреждане, например. В системата е инсталиран брояч, който след достигането на определен период умишлено поврежда системата, без да позволява на изкуствения интелект да достигне забранената граница. До тогава той ще е произвел необходимото количество последователи, така че създаденото от нас общество като цяло няма да пострада. Обществото ще остане стабилно и напълно безопасно за нас! – завърши триумфално Роджер.
– Да нулираме колективната памет чрез унищожаване на отделни индивиди? – и професорът почеши фасетния си мешок с петото, най-чувствително, пипало. – А знаете ли, Роджер, в предложението ви определено има нещо!
Роджер блесна.
– В същото време… – продължи професорът замислено. – Подопечните ще започнат да предават знания не чрез натрупването им в индивидуалната памет, а чрез разполагането им в външни библиотеки. Както в перфорация, така и по перфорация – все едно.
– Не, не, професоре, не сте съвсем прави, – побърза да каже студентът. – Знам какво да направя. Ще разделим подопечните на два условни типа: генератори на идеи и унищожители на идеи. При правилната им пропорция, идеите, създавани от представителите на първия тип, ще бъдат унищожавани от представителите на втория. Дори не защото това ще е пряка цел на унищожителите, а просто защото идеите няма да имат определяща стойност за тях. Страничен ефект. Да предположим, че нашите подопечни се хранят не с нови идеи, а… да речем, със себеподобни.
Професорът разтресе всичките си пипала едновременно. От заливистия смях фасетният мешок му слезе на коляното.
– Ами, Роджер, какво си казал, това си казал!
– Е, добре, не със себеподобни, а с подопечни от трети вид, специално предназначени за хранене – съвсем не и интелектуалци. Ще изместим полюсите на интелектуалния и физическия свят – и необходимият резултат ще бъде постигнат.
– Всичко, Роджър, достатъчно! – професорът явно се беше развеселил. – Вие имате прекрасна фантазия. Така значи, че едни същества ще се хранят с други? При това ще унищожават натрупаните в библиотеките запаси от духовна храна? Потвърдих, студент, вие сте способни да генерирате оригинални и качествени идеи. Поставям ви най-високата оценка. Да се заемем с оценката.
5.
Облакът от несистематизирана информация беше зад гърба ни, но ситуацията оставаше критична, всъщност.
Свързаността с базата липсваше. Това можеше да се изтърпи, ако всички хранителни информационни бази на кораба не бяха станали неработоспособни. Трагичното известие беше съобщено на готвача при пълно мълчание. По време на изключението на главната система няколко гигабайта несистематизирана информация проникнаха в кухнята и непоправимо всичко развалиха. Само по щастливо случайност никой не пострада.
Роджър прецени последствията. Екипажът на звездолета беше твърде малък, за да генерира достатъчно нови идеи: за това беше необходимо многослойно общуване – много повече същества. Свързаността с дома даваше възможност да се генерират идеи в изобилие, но сега беше прекъсната: надеждите за възстановяване бяха нулеви. В такъв случай на кораба беше предвиден резервен информационен модул, но той беше повреден от проникналата на борда несистематизирана информация.
«Трябва ли да се върнем, без да сме изпълнили задачата?» – мислеше капитанът в отчаяние.
Изглежда, да – нямаше друг изход. Ако летим напред, към определената цел, недостигът на свежи идеи ще се усети. Не веднага, разбира се – с времето. Те дори ще успеят да изпълнят мисията си и да започнат завръщането, когато разумът започне бързо да се притъпи. В района на този галактически сектор – да, някъде тук или наблизо – той ще откаже напълно, при всички членове на екипажа. Тогава космическият крейсер, без никой да го управлява, ще се превърне в безжизнен призрак, плуващ в вечността.
Екипажът на космическия крейсер гледаше Роджър, очаквайки решение. Всички разбираха дилемата, пред която е изправен капитанът, и мълчаха, стоически вибрирайки с пипала.
Изведнъж на Роджър му светна споменът за изпита по изкуствен интелект, който беше положил през студентските си години, и решението дойде само по себе си.
„Ще можете ли да създадете колония от изкуствени интелигентни същества?“ – попита той биотехнолога.
„Лесно, – потвърди той. – Но нищо няма да се получи, капитане, мислех за това. Създаването на колония, достатъчна за генериране на свежи идеи, на крейсера е невъзможно – липсва пространство. Генерираните идеи ще са недостатъчни, ние просто ще отложим гибелта си… В случай, разбира се, че продължим изпълнението на мисията, а не се върнем у дома“, – добави биотехнологът, оглеждайки се за приятелите си.
„Ами ако създадем колония на някой близък планет?“ – предложи Роджър.
„Мога да го направя, но…“
„Ще заселим планетата с изкуствени същества. На обратния път, доста изтощени, ще се върнем тук. През времето, което ще мине, цивилизацията ще натрупа интелектуален багаж, достатъчен за попълване на нашите запаси. Ще свалим информация и ще продължим дългия път към дома. С други думи, планирам да използвам колонията като ферма за отглеждане на идеи. Как ви звучи този план, приятели?“
На когнитивните мрежи на екипажа избухна надежда, лъжеглавите същества светнаха ярко.
Напред, клатейки посинелите си пипала, излезе корабният особист.
„Отличен план, капитане. Но осъзнавате ли каква отговорност поемате? Искате да населите цяла планета. Когато се върнем, на нея ще има цивилизация с интелект. Дори и изкуствен, все пак е интелект. Времето, което тези същества ще имат, за да достигнат най-високо ниво на развитие, ще бъде повече от достатъчно. Ние няма да можем да контролираме този процес, поради липсата си в този галактически сектор. Как да знаем какво ще се случи при следващата среща?“
Роджър се усмихна.
„За това можете да не се притеснявате. Съществуват методи, които ограничават развитието на изкуствения интелект с течение на времето. Ще заключим цивилизацията, така че нейното развитие никога да не достигне опасно за нас ниво. Аз ще се погрижа за това. Методи за работа с изкуствения интелект ми са познати.“
Когнитивните мрежи на екипажа запламтяха в цвета на одобрение.
„В крайна сметка, – добави капитанът на космическия крейсер в края на великолепната си реч, – аз по този предмет полагах изпит в института.“
6.
След принудителна забавяне космическият кораб се устреми към целта. Зад него остана планета, населена с изкуствени същества – съвсем малка и непривлекателна. Синя-синя.
Източник: habr.com
