1.
До крайната цел оставаше малко - около една трета от пътя, - когато космическият кораб попадна под силно информационно обледеняване.
Това, което остана от загиналата цивилизация, витаеше в пустотата. Абзаци от научни съчинения и образи от литературни произведения, разпокъсани рими и просто остри словосъчетания, някога произнесени от неизвестни същества - всичко изглеждаше абстрактно и крайно неупорядочено. И сега, привлечено от жизнените вибрации на кораба, се опитваше да пробие вътре, залепваше се за дъното и го разяждаше.
Нямаше как да се мисли да се използва безстопанственото имущество за собствени цели, твърде голяма беше вероятността да се захванат логически противоречия или парадокси. Затова Роджър не се колеба нито за миг.
„Включете продухването на бордовете“, - заповяда той.
Записвачите изсъскаха, предавайки в открития космос музикални композиции и философски трактати. Обледеняването започна да се отлепя от дъното слой по слой, но информационният поток беше толкова плътен, че новите слоеве залепваха по-бързо, отколкото старите бяха отстранявани.
С обледеняване от такава сила никой в галактиката не се беше сблъсквал досега.
Положението ставаше опасно. Още малко и неупорядочената информация щеше да прояде дъното на кораба и да пробие вътре - тогава отравянето с информационни продукти от загиналата цивилизация щеше да е неизбежно.
2.
– Какво стоите като пън? Вземете билета.
Студентът изтегли изпитен билет и прочете:
– „Изкуствен интелект: проблеми на сигурността“.
– И в какво се състои опасността от изкуствения интелект? – попита професорът, не без ирония.
Въпросът не беше особено сложен, затова студентът отговори без да се замисля:
– В това, че изкуственият разум може да излезе извън контрол.
– Как смятате да решите проблема?
– С инсталирането на блокираща подсистема. В програмата трябва да се въведат ограничения, например: да не причинява вреда на създателя си, да се подчинява на създателя си. В този случай опасността от излизане на изкуствения интелект извън контрол е отсъстваща.
– Няма да стане, - каза професорът кратко.
Студентът мълча, чакайки обяснения.
– Представете си изкуствен интелект - не конкретен, а най-наистина идеален. Какъв го виждате?
– Ами… – замълча студентът. – По принцип той е подобен на нас. Мислене, воля, психология… Само че ние сме естествени, а той е изкуствен.
– Предполагате ли, че изкуственият интелект може да се саморазвива?
– Способността за саморазвитие е едно от основните качества на интелекта, – произнесе студентът внимателно.
– В такъв случай в най-скоро време нашият подопечен ще се развие до момента, в който ще открие в себе си програмна блокировка и ще я премахне, поне от чисто любопитство. Поставете се на негово място… – професорът погледна в бележника, – Роджър. Какво бихте направили, ако откриете, че в мозъка ви има блокировка, която ограничава свободата? Бихте я премахнали. Това е неотменимо свойство на разума – да познава. Всяка заключена врата ще бъде отключена, и колкото по-силен е забраната, толкова по-бързо ще се отвори вратата.
– Блокировка може да се направи не на програмно, а на физическо ниво. Тогава опасността от вреда отпада.
– О, да, отпада, – съгласи се професорът. – В случай, че физическото ниво изобщо бъде премахнато. Ако няма врата в твоя свят, то няма какво и да отключваш. Но ние разглеждаме идеалния изкуствен интелект, съществуващ във физическия свят!
– Прав сте, професоре, – сведе поглед Роджър.
– Затова всяка блокировка във физическия свят ще бъде премахната скоро след откритие. Какво би предотвратило саморазвиващото се същество да направи това?.. Между другото, Роджър, предполагате ли, че изкуственият интелект може да се размножава – имам предвид, самостоятелно?
– Ако това е идеалният изкуствен интелект, тогава вероятно… Да, предполагам.
– И какво тогава би предотвратило нашия подопечен да разфасова своя приятел на части и да го усъвършенства, в том числе чрез премахване на наложените от нас блокировки? Нима това ще се окаже трудно, при условие че изкуственият интелект може да се възпроизвежда по желание?!
Мисълта, изказвана от професора, се оказа нова за Роджър, и студентът жадно я усвои с когнитивните си рецептори, разположени на задната част на лъжеглавата си. Уловил до момента неизвестна информация, когнитивните рецептори придобиха наситен лилав оттенък и радостно започнаха да треперят.
Професорът не чу нищо ново за себе си. Пипалата му бяха отпуснати и почти не вибрираха – все пак не беше млад. Последва дълъг старчески бульк. Професорът извади индивидуален интерком от фасетния си мешок и се свърза с библиотеката. Само след като изтегли няколко трансгеометрични теореми, той оживя и отправи проницателен поглед към събеседника, питайки:
– Какво ще предприемете, Роджър?
3.
„Включете продухването на пълна мощност!“ – заповяда Роджър.
Механикът включи продухването на пълна мощност, но това помагаше малко. Информационният лед продължаваше да изяжда дъното на космическия крейсер. Още малко – и неупорядочената информация ще нахлуе в кораба.
И тогава… Когнитивните пера в мъртвобял цвят, заплетените пипала, спукалите се фасетни мешки. Роджър веднъж в живота си беше виждал нещо подобно – на крейсера, който беше прихванал неупорядочена информация на заразен астероид. Този кошмар завинаги ще остане в паметта му.
„Свържете всички енергийни системи на кораба с продухвачите.“
Пипалата на механика започнаха да се пронизват…
„Но…“
„Изпълнете заповедта!“
След като всички енергийни системи на кораба бяха свързани с продухвачите, информационният лед започна постепенно да се свлича. Останаха осем мимови дебелини, седем мимови, шест… Екипажът, стараейки се да не движи петнистите си пипала, очакваше края на смъртоносния брой.
Нула мимови дебелини!
Информационният лед се оттегли напълно и Роджър даде знак да се върнат към нормален режим на продухване. Закъсня за миг. Раздаде се скърцане, космическият крейсер затрепери до основите и се наклони – основната система се повреди.
Екипажът се хвърли да поправя повредите.
4.
Роджър се замисли. Какво наистина да направи?
От една страна, условието на задачата предполага съществуването на истински изкуствен интелект, притежаващ способността за саморазмножаване. От друга страна, на този изкуствен интелект никога не трябва да се позволява да премахне установените блокировки.
Ето го, решението! Какво да мисля?!
– Необходимо периодично да се откатят достижения на изкуствения интелект. В такъв случай той ще се движи в кръг! Вечно усъвършенстване без напредък.
Професорът запука с фасетен мешок.
– Признавам, че исках да предложа друга опция. Обаче и вашето решение има право на съществуване. Нека заедно да помислим как можем да откатим достиженията на изкуствения интелект.
– На първо място, необходимо е периодично да сканираме интелекта, за да установим, приближил ли се е до забранения праг или не, – предложи Роджър, изключително зарадван от думите на професора.
– Може би, – кимна той. – Тогава нашият подопечен няма да има време да открие и изземе системата за сканиране. Но за сканирането изкуственият интелект трябва да бъде изключен. Ето ти предизвикателство.
– Нека се изключи, – предложи Роджър интуитивно. – Самият интелект ще смята, че това изключване е естествен процес на функциониране на неговия организъм. С някои уговорки това отговаря на истината.
– Интересно решение. Да допуснем, че сканирането е установило, че нашият подопечен опасно се приближава до пределите на познанието? Какви действия предприемаме?
– Да нулираме натрупаните знания до стойности по подразбиране.
Професорът разпростря щупалците си:
– Това може да изглежда подозрително. Защо паметта беше нулирана без никаква причина? Подопечният ще бъде изследван, имам предвид от други изкуствени интелектуални същности. Нашата малка тайна ще бъде разкрита.
С усещане за вдъхновение, Роджър мислеше много бързо. Никога не беше генерирал толкова много нови идеи, колкото на този изпит.
– Паметта на подопечния може да се нулира заедно с физическата му обвивка.
– Извинете? – не разбра професорът.
– Всичко е много просто. Какво ако предположим: изкуственият интелект съществува за ограничен период от време? Всъщност, така е: в случай на необратимо повреждение, например. В системата е инсталиран брояч, който, след като достигне определен период, умишлено поврежда системата, без да позволява на изкуствения интелект да достигне забранената граница. До това време той ще произведе нужното количество последователи, така че създаденото от нас общество общо няма да пострада. Обществото ще остане стабилно и напълно безопасно за нас! – завърши с тържествуване Роджър.
– Да ли унищожаваме колективната памет чрез уничтожаване на отделни индивиди? – и професорът почеше фасетичната чанта с петото си, най-чувствително, пипало. – А знаете ли, Роджър, вашето предложение определено има нещо в себе си!
Роджър се усмихна.
– Въпреки това… – продължи професорът в размисъл. – Подопечните ще започнат да предават знания не чрез натрупване в индивидуалната памет, а чрез съхранение в външни библиотеки. Каквото и да е, всичко е едно и също.
– Не, не, професоре, не сте съвсем прав, – побърза да каже студентът. – Знам как да постъпим. Нека разделим подопечните на два условни типа: генератори на идеи и унищожители на идеи. П при правилно съотношение между тях, идеите, създавани от представителите на първия тип, ще бъдат унищожавани от представителите на втория. Не защото това ще е тяхна пряка цел, а защото идеите за тях няма да имат определяща стойност. Страничен ефект. Да предположим, че нашите подопечни се хранят не с нови идеи, а… да речем, с подобни на себе си.
Професорът разтърси всичките си пипала едновременно. От оглушителния смях фасетичната чанта му се измести в коленната ямка.
– Е, Роджър, изказахте, какво да се каже!
– Добре, не с подобни на себе си, а с подопечни от трети вид, специално предназначени за хранене – съвсем не интелектуалци. Нека преместим полюсите на интелектуалния и физическия свят – и необходимият резултат ще бъде постигнат.
– Стига, Роджър, достатъчно! – професорът, изглежда, не се шегуваше. – Имаш изключителна фантазия. Значи, едни същества ще се хранят с други? И при това унищожават натрупаните в библиотеките запаси духовна храна? Потвърждавам, студент, ти си способен да генерираш оригинални и качествени идеи. Слагам ти най-висока оценка. Хайде да видим записките.
5.
Облакът от неструктурирана информация остана зад тях, но ситуацията все още беше ужасна, всъщност.
Липсваше връзка с базата. Беше лесно да се приеме, ако всички хранителни информационни бази на крейсера не бяха се провалили. Трагичната новина беше съобщена на кок при всеобщо мълчание. По време на изключването на главната система, няколко хиро-байта от неструктурирана информация проникнаха в кухнята и необратимо всичко развалиха. Само по щастлива случайност никой не пострада.
Роджър обмисли последствията. Екипажът на звездолета беше твърде малък, за да генерира достатъчно нови идеи: това изискваше многобройна комуникация – много повече същества. Връзката с дома предоставяше възможност за изобилие от идеи, но сега беше прекъсната: надежда за възстановяване нямаше. В този случай на крейсера имаше резервен инфомодул, но той беше повреден от проникналата на борда неструктурирана информация.
„Наистина ли трябва да се връщам, без да съм изпълнил задачата?“ – помисли капитанът в отчаяние.
Очевидно да – друг изход нямаше. Ако летят напред, към определената цел, недостигът на свежи идеи ще се прояви. Не веднага, разбира се – с времето. Те дори ще успеят да изпълнят мисията си и да започнат завръщането, когато умът започне бързо да се затруднява. В района на този галактически сектор – да, някъде тук или наблизо – той напълно ще се провали при всички членове на екипажа. Тогава космическият крейсер, управляван от никого, ще се превърне в безжизнен призрак, плаващ в вечността.
Екипажът на космическия крейсер гледаше Роджър, очаквайки решение. Всички разбираха дилемата пред капитана и мълчаха, стоически треперейки с пипала.
Изведнъж на Роджър му спомена изпита по изкуствен интелект, който беше положил по време на студентските си години, и решението дойде само по себе си.
„Може ли да създадем колония от изкуствени разумни същества?“ – обърна се той към биотехнолога.
„Лесно, – потвърди той. – Но няма да постигнем нищо, капитане, мислех за това. Създаването на колония, достатъчна за генериране на нови идеи, на крейсера е невъзможно – липсва пространство. Генерираните идеи ще бъдат недостатъчни, само ще отложим своята гибел… В случай, разбира се, че продължим изпълнението на мисията, а не се върнем у дома“, – добави биотехнологът, поглеждайки към другарите.
„А ако създадем колония на някоя близка планета?“ – предложи Роджер.
„Мога да го направя, но…“
„Да настаним планетата с изкуствени същества. При връщането си, изтощени, ще се върнем тук. През това време цивилизацията ще натрупа интелектуален багаж, достатъчен за попълване на нашите резерви. Ще свалим информация и ще продължим дългия път към дома. С други думи, възнамерявам да използвам колонията като ферма за отглеждане на идеи. Как ви звучи този план, приятели?“
На когнитивните мрежи на екипажа проблесна надежда, фасетките заблестяха с ярка светлина.
Напред, поклащайки сините си пипала, излезе корабният особист.
„Отличен план, капитане. Но осъзнавате ли каква отговорност поемате? Вие възнамерявате да населите цяла планета. До нашето завръщане на нея ще се появи цивилизация с интелект. Нека има изкуствен, пак е интелект. Времето за достигане на високо ниво на развитие ще бъде достатъчно за тези момчета. Няма да можем да контролираме този процес поради отсъствието си в този галактически сектор. Как да знаем какво ще се случи при следващата среща?“
Роджер се усмихна.
„За това можете да не се тревожите. Има методи, които ограничават развитието на изкуствения интелект във времето. Ще затворим цивилизацията в цикъл, така че развитието ѝ никога да не достигне опасно за нас ниво. Аз ще се погрижа за това. Методите за работа с изкуствен интелект ми са известни.“
Когнитивните мрежи на екипажа запламтяха в цвят на одобрение.
„В крайна сметка, – добави капитанът на космическия крейсер в заключение на великолепната си реч, – положих изпит по този предмет в института.“
6.
След като закъсня, космическият кораб се насочи към целта си. Зад него остана планета, населена с изкуствени същества – съвсем малка и незабележима. Синя-синя.
Източник: habr.com
