1.
До кінцевої мети залишалося небагато – близько третини шляху – коли космічний крейсер потрапив під сильне інформаційне зледеніння.
Те, що залишилося від загиблої цивілізації, витало в порожнечі. Абзаци наукових творів та образи з літературних творів, розрізнені рими та просто гострі слівця, колись кинуті ненароком невідомими істотами – все виглядало шалено і вкрай невпорядковано. І тепер, залучене життєвими вібраціями, що виходять з крейсера, намагалося пробитися всередину, налипало на днище і роз'їдало його.
Не було чого думати використовувати безгоспне добро для власних цілей, надто велика була ймовірність підчепити логічну суперечність чи парадокс. Тому Роджер не вагався жодної миті.
"Включити продування бортів", - наказав він.
Засопіли продувники, транслюючи у відкритий космос музичні композиції та філософські трактати. Зледеніння почало відставати від днища шар за шаром, проте інформаційний потік був настільки щільним, що нові шари налипали швидше, ніж видалялися колишні.
З зледенінням такої сили ніхто в галактиці ще не стикався.
Становище ставало небезпечним. Ще трохи, і невпорядкована інформація проїсть днище крейсера і прорветься усередину – тоді отруєння інформаційними продуктами загиблої цивілізації неминуче.
2.
- Ну, що ви стоїте, як пень? Тягніть квиток.
Студент витягнув екзаменаційний квиток та зачитав:
– «Штучний інтелект: проблеми безпеки».
– І в чому небезпека штучного інтелекту? – поцікавився професор не без єхидства.
Питання було не найскладнішим, тому студент відповів, не замислюючись:
– У тому, що штучний розум може вийти з-під контролю.
– Як маєте намір вирішувати проблему?
– Встановлення блокуючої підсистеми. У програму потрібно запровадити обмеження, наприклад: не завдавати шкоди своєму автору, підкорятися своєму автору. І тут небезпека виходу штучного інтелекту з-під контролю відсутня.
- Не вийде, - коротко сказав професор.
Студент мовчав, чекаючи на пояснення.
– Уявіть штучний інтелект – не якийсь конкретний, а найдосконаліший. Яким ви його бачите?
– Ну… – зам'явся студент. – Загалом він подібний до нас з вами. Мислення, воля, психологія… Тільки ми природні, а він штучний.
- Ви припускаєте, що штучний інтелект здатний до саморозвитку?
– Здатність до саморозвитку – одна з корінних властивостей інтелекту, – сказав студент обережно.
- У такому разі незабаром наш підопічний розвинеться до того, що виявить у собі програмне блокування і зніме його, хоча б з чистої цікавості. Поставте себе на його місце… – професор зазирнув у заліковку, – Роджер. Що б ви зробили, якби виявили в мозку якийсь блокувальник, який обмежує свободу? Ви його зняли б. Це невід'ємна властивість розуму – пізнавати. Будь-які замкнені двері будуть відчинені, і чим суворіша заборона, тим швидше двері відіпруть.
– Блокування можна зробити не на програмному, а фізично. Тоді небезпека шкоди зникне.
- Так, зникне, - погодився професор. – Якщо фізичний рівень взагалі вилучити. Якщо ніяких дверей у твоєму світі немає, то нема чого й відмикати. Але ми розглядаємо ідеальний штучний інтелект, що існує у фізичному світі!
- Ви маєте рацію, професоре, - похнюпився Роджер.
– Тому будь-яке блокування у фізичному світі буде відключено невдовзі після виявлення. Що завадить істоті, що саморозвивається, це зробити?.. До речі, Роджер, ви припускаєте за штучним інтелектом можливість розмножуватися - маю на увазі, самостійно?
– Якщо це ідеальний штучний інтелект, то, напевно… Так, припускаю.
– І що в такому разі завадить нашому підопічному роз'яти свого товариша на частини та вдосконалити, у тому числі через відключення встановлених нами блокувань? Невже це виявиться складним, при тому, що штучний інтелект здатний відтворюватися на вимогу?!
Думка, викладена професором, виявилася для Роджера нова, і студент жадібно ввібрав її когнітивними перетинками, розташованими на потиличній частині несправжнього вправи. Вловивши раніше не відому інформацію, когнітивні перетинки набули насиченого фіолетового забарвлення і радісно затремтіли.
Професор, навпаки, не почув нічого нового. Його щупальця були розслаблені і майже не вібрували – таки він був не молодий. Настав тривалий старечий бульк. Професор витяг із фасеткового мішка індивідуальний інтерком та підключився до бібліотеки. Лише скачавши кілька трансгеометричних теорем, пожвавився і звернув проникливий погляд на співрозмовника, запитуючи:
- Що ви зробите, Роджер?
3.
"Включити продування на повну потужність!" – наказав Роджер.
Механік увімкнув продування на повну потужність, але це мало допомагало. Інформаційна крижа продовжувала проїдати днище космічного крейсера. Ще трохи – і невпорядкована інформація прорветься усередину корабля.
І тоді… Когнітивні перетинки мертвого білого кольору, переплутані щупальці, фасеткові мішки, що лопнули. Одного разу в житті Роджер бачив подібне – на крейсері, який підхопив невпорядковану інформацію на зараженому астероїді. Цей кошмар назавжди залишиться у його пам'яті.
«Підключити до продувників всі енергетичні системи корабля.»
Щупальці механіка пішли плямами.
«Але…»
«Виконувати наказ!»
Після того, як до продувників були підключені всі енергетичні системи корабля, інформаційна льоду почала поступово сповзати. Залишилося вісім міммів товщини, сім міммів, шість… Команда, намагаючись не ворушити плямистими щупальцями, чекала на закінчення смертельного відліку.
Нуль міммів товщини!
Інформаційна льоду зійшла повністю, і Роджер дав відмах перевести продувники в звичайний режим. Він запізнився на мить. Пролунав скрегіт, космічний крейсер затремтів вщент і нахилився - це головна система вийшла з ладу.
Команда кинулася виправляти ушкодження.
4.
Роджер замислився. Як йому вчинити, справді?
З одного боку, умова завдання передбачає існування повноцінного штучного інтелекту, що має здатність до саморозмноження. З іншого боку, цьому штучному інтелекту в жодному разі не можна дозволити видалення встановлених блокувань.
Та ось воно, рішення! Чого тут думати?
– Необхідно періодично відкочувати здобутки штучного інтелекту. У цьому випадку він рухатиметься по колу! Вічне вдосконалення без поступу вперед.
Професор побулькав фасеточним мішком.
– Зізнаюся, я хотів запропонувати інший варіант. Однак і ваше рішення має право на існування. Давайте разом прикинемо, яким чином можна відкочувати досягнення штучного інтелекту.
- Насамперед, необхідно періодично сканувати інтелект, з метою встановити, чи наблизився він до забороненого порога чи ні, - запропонував Роджер, дуже втішений словами професора.
– Мабуть, – кивнув той. – Тоді у нашого підопічного не буде часу відшукати та вилучити систему сканування. Однак для сканування штучний інтелект доведеться відключати. Ось невдача.
- Ну і нехай відключається, - завзято запропонував Роджер. – Сам інтелект вважатиме, що це відключення – природний процес функціонування його організму. З деякими застереженнями це відповідає істині.
- Цікаве рішення. Допустимо, сканування встановило, що наш підопічний небезпечно наблизився до межі знань? Наші події?
– Скидати накопичені знання до значень за умовчанням.
Професор розкинув щупальця:
– Це може здатися підозрілим. Чому це – ні з того, ні з цього – пам'ять обнулилася? Підопічного почнуть досліджувати, я маю на увазі інші штучні інтелектуальні особини. Наша маленька таємниця буде розкрита.
Відчуваючи натхнення, Роджер розумів дуже швидко. Він ніколи не генерував стільки нових ідей, як на тому іспиті.
– Пам'ять підопічного може обнулятися разом із його фізичною оболонкою.
- Вибачте? – не зрозумів професор.
- Все дуже просто. Що, якщо припустити: штучний інтелект існує на кінцевому проміжку часу? Власне, так воно й є: у разі невідновного пошкодження, наприклад. У системі встановлено лічильник, який після досягнення певного періоду навмисно пошкоджує систему, не даючи штучному інтелекту дістатися забороненої межі. На той час він здійснить необхідну кількість послідовників, тому створене нами суспільство загалом не постраждає. Суспільство залишиться стабільним та абсолютно для нас безпечним! - Закінчив з торжеством Роджер.
– Обнулювати колективну пам'ять у вигляді знищення окремих особин? – і професор почухав фасетковий мішок п'ятим, найчутливішим, щупальцем. - А знаєте, Роджер, у вашому реченні точно щось є!
Роджер засяяв.
– Разом з тим… – продовжив професор у задумі. – Підопічні почнуть передавати знання за допомогою не накопичення їх у індивідуальній пам'яті, а розміщення у зовнішніх бібліотеках. Що на перетинку, що на перетинці – все одно.
- Ні, ні, професоре, ви не зовсім маєте рацію, - поквапився студент. – Я знаю, як вчинити. Розділимо підопічних на два умовні типи: генераторів ідей та знищувачів ідей. При правильній їх пропорції ідеї, створювані представниками першого типу, знищуватимуться представниками другого. Навіть не тому, що це буде пряма мета знищувачів, а просто тому, що ідеї не матимуть для них визначальної цінності. Побічний ефект. Припустимо, наші підопічні харчуються не новими ідеями, а… скажімо, подібними до себе.
Професор затряс усіма щупальцями одночасно. Від заливистого регота фасетковий мішок у нього з'їхав на колінну порожнину.
- Ну, Роджере, ви сказано, так сказано!
– Ну добре, не собі подібними, а підопічними третього виду, спеціально призначеними для харчування – зовсім і не інтелектуалами. Змістимо полюси інтелектуального та фізичного світів – і потрібний результат досягнуто.
- Все, Роджер, достатньо! - професор, здається, не на жарт розвеселився. – Фантазія у вас чудова. Значить, одні особини харчуватимуться іншими? При цьому знищувати накопичені у бібліотеках запаси духовної їжі? Підтверджую, студент, ви здатні генерувати оригінальні та якісні ідеї. Ставлю найвищий бал. Давайте заліковку.
5.
Хмара невпорядкованої інформації залишилася позаду, але становище залишалося охороною насправді.
Зв'язок із базою був відсутній. Це було легко пережити, якби всі поживні інформаційні бази на крейсері не стали непридатними. Трагічна звістка була повідомлена коком при загальному мовчанні. Під час відключення головної системи кілька гіробойтів невпорядкованої інформації проникли на камбуз і непоправно зіпсували всі. Лише завдяки щасливому випадку ніхто не постраждав.
Роджер прикинув наслідки. Екіпаж зорельоту був занадто малий, щоб генерувати достатню кількість нових ідей: для цього потрібно було багатостороннє спілкування – куди більше особин. Зв'язок з будинком давала можливість генерувати ідеї надміру, але зараз вона вийшла з ладу: надій на відновлення не було. На цей випадок на крейсері передбачався запасний інфомодуль, але він був зіпсований невпорядкованою інформацією, що проникла на борт.
"Невже доведеться повертатися, не виконавши завдання?" – у розпачі подумав капітан.
Мабуть, так – іншого виходу не було. Якщо летіти вперед, до призначеної мети, нестача свіжих ідей дасться взнаки. Не одразу, звичайно – згодом. Вони навіть встигнуть виконати свою місію і почати повернення, коли розум почне швидко тьмяніти. У районі цього галактичного сектора – так, десь тут чи поблизу – він відмовить повністю, у всіх членів екіпажу. Тоді космічний крейсер, ніким не керований, перетвориться на неживу привид, що пливе у вічність.
Команда космічного крейсера дивилася на Роджера, чекаючи на рішення. Усі розуміли дилему, що стояла перед капітаном, і мовчали, стоїчно вібруючи щупальцями.
Раптом Роджеру згадався іспит із штучного інтелекту, зданий ним у студентські роки, і рішення прийшло само собою.
«Ви зможете утворити колонію зі штучних розумних істот?» – звернувся він до біотехнолога.
«Легко, – підтвердив той. - Але нічого не вийде, капітане, я думав про це. Створити колонію, достатню для генерування нових ідей, на крейсері неможливо - не вистачає простору. Генерованих ідей виявиться недостатньо, ми лише відстрочимо свою загибель… У тому випадку, звичайно, якщо ми продовжимо виконання місії, а не повернемося додому», – додав біотехнолог, озираючись на товаришів.
«А якщо утворити колонію на якійсь найближчій планеті?» - Запропонував Роджер.
«Я можу це зробити, але…»
«Заселимо планету штучними істотами. На зворотному шляху, неабияк виснажені, заглянемо сюди. Минулого часу цивілізація створить інтелектуальний багаж, достатній для поповнення наших запасів. Скачаємо інформацію та продовжимо довгий шлях до будинку. Інакше кажучи, я збираюся використовувати колонію як ферму з вирощування ідей. Як вам такий план, друзі?
На когнітивних перетинках екіпажу спалахнула надія, неправдиві ловки засвітилися яскравим світлом.
Вперед, похитуючи щупальцями, виступив корабельний особист.
«Чудовий план, капітан. Але ви усвідомлюєте, яку відповідальність на себе покладаєте? Ви збираєтесь заселити цілу планету. На час нашого повернення на ній з'явиться цивілізація з інтелектом. Нехай штучним, це однаково інтелектом. Часу на те, щоб досягти найвищого рівня розвитку, у цих хлопців буде достатньо. Ми не зможемо контролювати цей процес через свою відсутність у даному галактичному секторі. Як знати, що станеться під час наступної зустрічі?»
Роджер посміхнувся.
«За це можете не хвилюватись. Існують методи, що обмежують розвиток штучного інтелекту у часі. Ми закільцюємо цивілізацію, тому її розвиток ніколи не досягне небезпечного для нас рівня. Я подбаю про це. Методи роботи зі штучним інтелектом мені знайомі».
Когнітивні перетинки екіпажу запалали кольором схвалення.
«Зрештою, – додав капітан космічного крейсера на завершення своєї чудової мови, – я з цього предмету іспит в інституті складав.»
6.
Після вимушеної затримки космічний крейсер попрямував до мети. За його кормою залишилася планета, заселена штучними істотами – зовсім невелика та непомітна. Синій-блакитний.
Джерело: habr.com