1.
Оставаше малко до крайната цел - около една трета от пътя - когато космическият крайцер попадна под сериозно информационно обледеняване.
Това, което беше останало от изгубената цивилизация, витаеше в празнотата. Параграфи от научни есета и изображения от литературни произведения, разпръснати рими и просто остри думи, хвърлени някога случайно от неизвестни същества - всичко изглеждаше неясно и изключително неподредено. И сега, привлечен от жизнените вибрации, излъчвани от крайцера, той се опита да пробие, залепна за дъното и го корозира.
Нямаше смисъл да се мисли за използване на собственост без собственик за собствени цели; вероятността да се схване логическо противоречие или парадокс беше твърде голяма. Така че Роджър не се поколеба нито за миг.
„Включете странично обдухване“, нареди той.
Вентилаторите започнаха да подсмърчат, излъчвайки музикални композиции и философски трактати в открития космос. Айсингът започна да пада от дъното слой по слой, но информационният поток беше толкова плътен, че новите слоеве залепваха по-бързо, отколкото старите се премахваха.
Никой в галактиката не се е сблъсквал с обледеняване с такава сила.
Положението ставаше опасно. Още малко и неподредената информация ще изяде дъното на крайцера и ще пробие - тогава отравянето с информационните продукти на изгубената цивилизация е неизбежно.
2.
- Защо стоиш като пън? Изтеглете билета.
Студентът извади изпитна карта и прочете:
– „Изкуствен интелект: проблеми със сигурността.“
– А каква е опасността от изкуствения интелект? – не без злоба попита професорът.
Въпросът не беше от най-трудните, затова студентът отговори без колебание:
– Факт е, че изкуственият интелект може да излезе извън контрол.
– Как възнамерявате да решите проблема?
– Монтаж на блокираща подсистема. Необходимо е да се въведат ограничения в програмата, например: не наранявайте създателя си, подчинявайте се на създателя си. В този случай няма опасност изкуственият интелект да излезе извън контрол.
„Няма да работи“, каза кратко професорът.
Ученикът мълчеше в очакване на разяснение.
– Представете си изкуствен интелект – не какъв да е, а най-идеалният. Как го виждате?
— Ами... — поколеба се ученикът. - Като цяло той прилича на теб и мен. Мислене, воля, психология... Само ние сме естествени, а той е изкуствен.
– Предполагате ли, че изкуственият интелект е способен да се саморазвива?
„Способността за саморазвитие е едно от основните свойства на интелигентността“, каза внимателно студентът.
- В този случай много скоро нашият подопечен ще се развие дотам, че ще открие софтуерен блокаж в себе си и ще го премахне, макар и само от чисто любопитство. Поставете се на негово място... - професорът погледна бележника си, - Роджър. Какво бихте направили, ако откриете блокер в мозъка си, който ограничава свободата ви? Трябва да го свалиш. Това е присъщо свойство на ума – да знае. Всяка заключена врата ще бъде отключена и колкото по-строга е забраната, толкова по-бързо ще се отключи вратата.
– Блокирането може да стане не на софтуерно, а на физическо ниво. Тогава опасността от увреждане ще изчезне.
„О, да, ще изчезне“, съгласи се професорът. – В случай, че физическият слой се премахне напълно. Ако няма врата във вашия свят, значи няма какво да отключите. Но ние обмисляме идеален изкуствен интелект, който съществува във физическия свят!
„Прав сте, професоре“, Роджър погледна надолу.
„Следователно всяко блокиране във физическия свят ще бъде деактивирано скоро след откриването.“ Какво ще попречи на едно саморазвиващо се същество да направи това?.. Между другото, Роджър, предполагаш ли, че изкуственият интелект ще може да се възпроизвежда - искам да кажа, независимо?
– Ако това е идеалният изкуствен интелект, тогава вероятно... Да, предполагам.
– И какво в този случай ще попречи на нашето отделение да разкъса своя другар и да го подобри, включително чрез деактивиране на блокиращите системи, които сме инсталирали? Това наистина ли ще се окаже трудно, при положение, че изкуственият интелект е способен да възпроизвежда при поискване?!
Идеята, представена от професора, се оказа нова за Роджър и студентът я усвои алчно през когнитивните мембрани, разположени в тилната част на фалшивата глава. След като уловиха неизвестна досега информация, когнитивните мембрани придобиха наситен лилав цвят и трепнаха радостно.
Професорът, напротив, не чу нищо ново за себе си. Пипалата му бяха отпуснати и почти не вибрираха - все пак не беше млад. Последва дълго, старческо бълбукане. Професорът извади личен интерком от фасетната си чанта и се свърза с библиотеката. Едва след като изтегли няколко трансгеометрични теореми, той се оживи и обърна проницателния си поглед към събеседника си, като попита:
- Какво ще правиш, Роджър?
3.
„Включете вентилатора на пълна мощност!“ – даде заповед Роджър.
Механикът пусна духалката на пълна мощност, но не помогна много. Информационният лед продължи да разяжда дъното на космическия крайцер. Още малко - и неподредената информация ще пробие вътре в кораба.
И тогава... Когнитивните мембрани са мъртвешки бели, заплетени пипала, спукани фасетни торбички. Роджър беше виждал нещо подобно веднъж в живота си — на крайцер, който беше събрал неподредена информация за заразен астероид. Този кошмар ще остане завинаги в паметта му.
„Свържете всички енергийни системи на кораба към вентилаторите.“
Пипалата на механика започнаха да се появяват като петна...
"Но…"
„Изпълнявайте поръчките!“
След като всички енергийни системи на кораба бяха свързани към вентилаторите, информационният лед започна постепенно да се свлича. Оставаха осем милиметра дебелина, седем милимана, шест... Екипът, опитвайки се да не движи петнистите си пипала, изчака края на обратното броене на смъртта.
Нулева мим дебелина!
Информационният лед изчезна напълно и Роджър даде зелена светлина за превключване на вентилаторите в нормален режим. Той закъсня с миг. Чу се скърцащ звук, космическият крайцер се разтресе до основи и се наклони - основната система беше повредена.
Екипът се втурна да отстранява щетите.
4.
Роджър се замисли. Какво всъщност трябва да направи?
От една страна, условието на проблема предполага наличието на пълноценен изкуствен интелект с възможност за самовъзпроизвеждане. От друга страна, на този изкуствен интелект никога не трябва да се позволява да премахва съществуващи ключалки.
Да, ето го, решението! Какво си мислиш тук?!
– Необходимо е периодично да се връщат назад постиженията на изкуствения интелект. В този случай ще се движи в кръг! Вечно усъвършенстване без движение напред.
Професорът избълбука с фасетирана торба.
– Честно казано, исках да предложа различен вариант. Вашето решение обаче също има право на съществуване. Нека да разберем заедно как е възможно да върнем постиженията на изкуствения интелект.
„На първо място, необходимо е периодично да сканирате интелекта, за да определите дали е достигнал забранения праг или не“, предложи Роджър, изключително доволен от думите на професора.
— Може би — кимна той. „Тогава нашето отделение няма да има време да намери и премахне сканиращата система.“ Изкуственият интелект обаче ще трябва да бъде изключен, за да сканира. Това е лош късмет.
„Е, нека се изключи“, предложи Роджър на прищявка. – Самият интелект ще повярва, че това изключване е естествен процес на функциониране на тялото му. С известни резерви това е вярно.
- Интересно решение. Да предположим, че сканирането разкри, че нашето отделение е опасно близо до границата на познанието? Нашите действия?
– Нулирайте натрупаните знания до стойностите по подразбиране.
Професорът разпери пипала:
- Това може да изглежда подозрително. Защо - без причина, без причина - паметта беше нулирана? Отделението ще започне да се изследва, имам предвид, от други изкуствени интелигентни индивиди. Нашата малка тайна ще бъде разкрита.
Чувствайки се вдъхновен, Роджър се замисли бързо. Никога не беше генерирал толкова много нови идеи, както на този изпит.
– Паметта на отделението може да бъде нулирана заедно с неговата физическа обвивка.
- Съжалявам? – не разбра професорът.
- Всичко е много просто. Ами ако приемем, че изкуственият интелект съществува за краен период от време? Всъщност това е така: при непоправима повреда, например. Системата разполага с брояч, който при достигане на определен период умишлено поврежда системата, като не позволява на изкуствения интелект да достигне забранения лимит. Дотогава той ще е произвел необходимия брой последователи, така че обществото, което сме създали като цяло, няма да пострада. Обществото ще остане стабилно и напълно безопасно за нас! – триумфално завърши Роджър.
– Възстановяване на колективната памет чрез унищожаване на индивиди? – и професорът почеса фасетната торбичка с петото, най-чувствително, пипало. – Знаеш ли, Роджър, определено има нещо в предложението ти!
Роджър засия.
— В същото време... — продължи замислено професорът. – Подопечните ще започнат да предават знания, като не ги натрупват в индивидуална памет, а като ги поставят във външни библиотеки. Какво в мембраната, какво на мембраната - всичко е едно.
„Не, не, професоре, не сте съвсем прав“, побърза студентът. - Знам какво да правя. Нека разделим нашите ученици на два условни типа: генератори на идеи и разрушители на идеи. При правилното съотношение идеите, създадени от представители на първия тип, ще бъдат унищожени от представители на втория. Дори не защото това ще е пряката цел на разрушителите, а просто защото идеите няма да имат определяща стойност за тях. Страничен ефект. Да приемем, че нашите ученици се хранят не с нови идеи, а... да речем, със себеподобни.
Професорът разтърси едновременно всичките си пипала. От бурния му смях фасетният му сак се плъзна върху кухината на коляното му.
- Е, Роджър, ти го каза, значи го каза!
- Е, добре, не себеподобни, а отделения от трети тип, специално предназначени за храна - и изобщо не интелектуалци. Нека разместим полюсите на интелектуалния и физическия свят – и желаният резултат ще бъде постигнат.
- Това е, Роджър, стига! – професорът изглежда сериозно се развесели. - Въображението ви е отлично. Значи някои индивиди ще се хранят с други? В същото време да унищожите запасите от духовна храна, натрупани в библиотеките? Потвърждавам, студент, че сте в състояние да генерирате оригинални и висококачествени идеи. Давам му най-висока оценка. Да вземем запис.
5.
Облакът от неподредена информация беше изоставен, но ситуацията всъщност остана ужасна.
Нямаше връзка с базата. Това би било лесно за оцеляване, ако всички бази с хранителна информация на крайцера не бяха изпаднали в неизправност. Трагичната новина съобщи готвачката в общо мълчание. По време на спирането на основната система няколко гиробута с неорганизирана информация влязоха в кухнята и непоправимо повредиха всичко. Само за късмет нямаше пострадали.
Роджър обмисли последствията. Екипажът на космическия кораб беше твърде малък, за да генерира достатъчен брой нови идеи: това изискваше многостранна комуникация - много по-голям брой индивиди. Връзката с дома направи възможно генерирането на изобилие от идеи, но сега тя беше извън ред: нямаше надежда за възстановяване. В този случай крайцерът имаше резервен информационен модул, но той беше развален от неподредена информация, постъпила на борда.
„Наистина ли ще трябва да се върна, без да изпълня задачата?“ – отчаян си помисли капитанът.
Явно да - нямаше друг изход. Ако летите напред към набелязаната цел, липсата на свежи идеи ще се почувства. Не веднага, разбира се - след време. Те дори ще имат време да изпълнят мисията си и да започнат завръщането си, когато умовете им започнат бързо да избледняват. В района на този галактически сектор - да, някъде тук или наблизо - той ще се провали напълно, за всички членове на екипажа. Тогава космическият крайцер, който не се контролира от никого, ще се превърне в безжизнен призрак, носещ се във вечността.
Екипажът на космическия крайцер погледна Роджър в очакване на решение. Всички разбираха дилемата пред капитана и мълчаха, стоически вибрирайки с пипалата си.
Изведнъж Роджър си спомни изпит по изкуствен интелект, който беше държал като студент, и решението дойде естествено.
„Можете ли да създадете колония от изкуствени интелигентни същества?“ – обърна се той към биотехнолога.
— Лесно — потвърди той. - Но нищо няма да се получи, капитане, мислех за това. Невъзможно е да се създаде колония, достатъчна за генериране на свежи идеи на крайцер - няма достатъчно място. Генерираните идеи няма да са достатъчни, само ще забавим смъртта си... В случай, разбира се, продължим мисията и не се върнем у дома“, добави биотехнологът, поглеждайки назад към другарите си.
„Ами ако сформираме колония на някоя близка планета?“ - предложи Роджър.
„Мога да го направя, но...“
„Нека населим планетата с изкуствени създания. На връщане, доста изтощени, ще се отбием тук. През изминалото време цивилизацията ще създаде интелектуален багаж, достатъчен за попълване на резервите ни. Да изтеглим информацията и да продължим дългото пътуване до къщата. С други думи, ще използвам колонията като идейна ферма. Как ви харесва този план, приятели?
Надеждата пламна върху когнитивните мембрани на екипажа и фалшивите глави започнаха да светят с ярка светлина.
Специалният офицер на кораба пристъпи напред, разтърсвайки сините си пипала.
— Страхотен план, капитане. Но осъзнавате ли отговорността, която поемате върху себе си? На път сте да заселите цяла планета. Докато се върнем, на него ще се появи цивилизация с интелект. Дори да е изкуствен, пак е интелект. Тези момчета ще имат достатъчно време да достигнат най-високото ниво на развитие. Ние няма да можем да контролираме този процес поради отсъствието ни в този галактически сектор. Откъде знаеш какво ще се случи следващия път, когато се срещнете?
Роджър се засмя.
„Не е нужно да се тревожите за това. Има методи, които ограничават развитието на изкуствения интелект във времето. Ние ще зациклим цивилизацията, така че нейното развитие никога няма да достигне ниво, което е опасно за нас. Аз ще се погрижа. Запознат съм с методите за работа с изкуствения интелект.”
Когнитивните мембрани на екипажа блестяха с цвета на одобрение.
„В крайна сметка“, добави капитанът на космическия крайцер в края на великолепната си реч, „взех изпит по този предмет в института“.
6.
След принудително забавяне космическият крайцер се втурна към целта. Зад кърмата му имаше планета, обитавана от изкуствени създания - много малки и незабележими. Синьо-синьо.
Източник: www.habr.com