1.
Остана малку до конечната цел - околу една третина од патот - кога вселенскиот крстосувач се најде под силен информативен мраз.
Она што остана од изгубената цивилизација лебдеше во празнината. Параграфи научни есеи и слики од книжевни дела, расфрлани рими и едноставно остри зборови, некогаш случајно фрлени од непознати суштества - сè изгледаше апструзно и крајно нарушено. И сега, привлечен од виталните вибрации што произлегуваат од крстосувачот, тој се обиде да се пробие, се залепи на дното и го кородира.
Немаше смисла да се размислува за користење на имотот без сопственик за сопствени цели; веројатноста да се добие логична контрадикција или парадокс беше преголема. Така Роџер не се двоумеше ниту за момент.
„Свртете го страничното дување“, нареди тој.
Дневниците почнаа да шмркаат, емитувајќи музички композиции и филозофски трактати во вселената. Шлагот почна да се оддалечува од долниот слој по слој, но протокот на информации беше толку густ што новите слоеви заглавени побрзо од старите беа отстранети.
Никој во галаксијата досега не наишол на шлаг од таква сила.
Ситуацијата стануваше опасна. Уште малку, а нарушената информација ќе го изеде дното на крстосувачот и ќе се пробие - тогаш труењето со информативните производи на изгубената цивилизација е неизбежно.
2.
- Зошто стоиш таму како трупец? Повлечете го билетот.
Студентот извадил картон за испит и прочитал:
– „Вештачка интелигенција: безбедносни прашања“.
– А која е опасноста од вештачката интелигенција? – не без злоба праша професорот.
Прашањето не беше најтешко, па студентот без двоумење одговори:
– Факт е дека вештачката интелигенција може да излезе од контрола.
– Како мислите да го решите проблемот?
– Инсталација на блокирачки потсистем. Неопходно е да се воведат ограничувања во програмата, на пример: не му наштетувајте на вашиот творец, слушајте го вашиот творец. Во овој случај, нема опасност вештачката интелигенција да излезе од контрола.
„Нема да работи“, кратко рече професорот.
Студентот молчеше, чекајќи разјаснување.
– Замислете вештачка интелигенција – не која било конкретна, туку најидеална. Како го гледате?
„Па...“ се двоумеше студентот. - Во принцип, тој е сличен на тебе и на мене. Размислување, волја, психологија... Само ние сме природни, а тој вештачки.
– Дали претпоставувате дека вештачката интелигенција е способна за саморазвивање?
„Способноста за само-развој е едно од основните својства на интелигенцијата“, рече студентот внимателно.
- Во овој случај, многу брзо нашето одделение ќе се развие до тој степен што ќе открие софтверска блокада кај себе и ќе ја отстрани, макар и од чиста љубопитност. Ставете се на негово место... - професорот погледна во тетратката, - Роџер. Што би направиле ако откриете блокатор во вашиот мозок што ја ограничува вашата слобода? Треба да го извадите. Ова е вродено својство на умот - да знае. Секоја заклучена врата ќе биде отклучена, а колку е построга забраната, толку побрзо ќе се отклучи вратата.
– Блокирањето може да се направи не на софтверско ниво, туку на физичко ниво. Тогаш опасноста од штета ќе исчезне.
„О, да, ќе исчезне“, се согласи професорот. – Во случај физичкиот слој да биде целосно отстранет. Ако нема врата во вашиот свет, тогаш нема што да се отклучи. Но, размислуваме за идеална вештачка интелигенција која постои во физичкиот свет!
„Во право си, професоре“, Роџер го спушти погледот.
„Затоа, секоја блокада во физичкиот свет ќе биде оневозможена веднаш по откривањето“. Што ќе го спречи ова суштество кое се развива?.. Патем, Роџер, претпоставуваш ли дека вештачката интелигенција ќе може да се репродуцира - мислам, независно?
– Ако ова е идеална вештачка интелигенција, тогаш веројатно... Да, претпоставувам.
– А што, во овој случај, ќе го спречи нашето одделение да го растргне другарот и да го подобри, вклучително и со оневозможување на системите за блокирање што ги инсталиравме? Дали ова навистина ќе испадне тешко, со оглед на тоа што вештачката интелигенција е способна да се репродуцира по потреба?!
Идејата презентирана од професорот се покажа како нова за Роџер, а студентот лакомо ја впива низ когнитивните мембрани лоцирани на окципиталниот дел од лажната глава. Откако фатија претходно непознати информации, когнитивните мембрани добија богата виолетова боја и радосно трепеа.
Професорот, напротив, не слушнал ништо ново за себе. Неговите пипала беа опуштени и речиси не вибрираа - на крајот на краиштата, тој не беше млад. Следуваше долго, сенилно жуборење. Професорот извадил личен домофон од неговата чанта и се поврзал со библиотеката. Дури откако симна неколку трансгеометриски теореми, тој се разбранува и го сврте својот продорен поглед кон својот соговорник, прашувајќи:
-Што ќе правиш, Роџер?
3.
„Вклучете го вентилаторот со полна моќност! – нареди Роџер.
Механичарот го вклучи дувачот со полна моќност, но тоа не помогна многу. Информативниот мраз продолжи да јаде на дното на вселенскиот крстосувач. Уште малку - и нарушените информации ќе се пробијат во внатрешноста на бродот.
И тогаш... Когнитивните мембрани се мртви бели, заплеткани пипала, пукнати фасетни кеси. Роџер еднаш во животот видел вакво нешто - на крстосувач кој собрал неуредни информации за инфициран астероид. Овој кошмар засекогаш ќе остане во неговото сеќавање.
„Поврзете ги сите енергетски системи на бродот со дувачите“.
Пипалата на механичарот почнаа да се појавуваат како дамки...
„Но…“
„Исполнете ги нарачките!
Откако сите енергетски системи на бродот беа поврзани со дувачите, информативниот мраз почна постепено да се лизга. Осум мим дебелина останаа, седум мим, шест... Екипата, обидувајќи се да не ги помрдне дамките пипала, чекаше да заврши одбројувањето на смртта.
Нула мим дебелина!
Информативниот мраз целосно исчезна, а Роџер даде зелено светло да ги префрли дувачите во нормален режим. Тој задоцни момент. Се слушна звук на мелење, вселенскиот крстосувач трепереше до темел и се наведна - главниот систем откажа.
Екипата побрза да ја санира штетата.
4.
Роџер размислуваше за тоа. Што навистина треба да направи?
Од една страна, состојбата на проблемот претпоставува постоење на полноправна вештачка интелигенција со способност за само-репродукција. Од друга страна, на оваа вештачка интелигенција никогаш не треба да и се дозволи да ги отстрани постоечките брави.
Да, еве го, решението! Што мислиш овде?!
– Потребно е периодично да се враќаат назад достигнувањата на вештачката интелигенција. Во овој случај, ќе се движи во круг! Вечно подобрување без да одиме напред.
Професорот шумолеше со фацетирана чанта.
– Искрено, сакав да понудам друга опција. Сепак, вашата одлука исто така има право да постои. Ајде да сфатиме заедно како е можно да се вратат назад достигнувањата на вештачката интелигенција.
„Пред сè, неопходно е периодично да се скенира интелектот за да се утврди дали се приближил до забранетиот праг или не“, предложи Роџер, исклучително задоволен од зборовите на професорот.
„Можеби“, кимна со главата. „Тогаш нашето одделение нема да има време да го најде и отстрани системот за скенирање“. Сепак, вештачката интелигенција ќе мора да се исклучи за да се скенира. Тоа е лоша среќа.
„Па, нека се исклучи“, предложи Роџер на каприц. – Самиот интелект ќе верува дека ова исклучување е природен процес на функционирање на неговото тело. Со одредена резерва, ова е точно.
- Интересно решение. Да претпоставиме дека скенирањето откри дека нашето одделение е опасно блиску до границата на знаење? Нашите постапки?
– Ресетирајте го акумулираното знаење на стандардните вредности.
Професорот ги рашири пипалата:
- Ова може да изгледа сомнително. Зошто - без причина, без причина - меморијата е ресетирана на нула? Одделот ќе почне да го прегледуваат, мислам, од други вештачки интелигентни поединци. Нашата мала тајна ќе биде откриена.
Чувствувајќи се инспириран, Роџер брзо помисли. Никогаш не генерирал толку многу нови идеи како на тој испит.
– Сеќавањето на одделението може да се ресетира заедно со неговата физичка обвивка.
- Извини? – не разбра професорот.
- Сè е многу едноставно. Што ако претпоставиме дека вештачката интелигенција постои во одреден временски период? Всушност, вака е: во случај на непоправлива штета, на пример. Системот има бројач кој со достигнување на одреден период намерно го оштетува системот, спречувајќи ја вештачката интелигенција да ја достигне забранетата граница. Дотогаш тој ќе го произведе потребниот број следбеници, па општеството што го создадовме како целина нема да страда. Општеството ќе остане стабилно и целосно безбедно за нас! – триумфално заврши Роџер.
– Ресетирање на колективната меморија преку уништување на поединци? – и професорот ја изгреба фасетната кеса со петтото, најчувствително, пипало. – Знаеш, Роџер, дефинитивно има нешто во твојот предлог!
Роџер светна.
„Во исто време...“ продолжи замислено професорот. – Одделенијата ќе почнат да го пренесуваат знаењето со тоа што нема да го акумулираат во поединечна меморија, туку со негово сместување во надворешни библиотеки. Што има во мембраната, што е на мембраната - сè е едно.
„Не, не, професоре, не сте сосема во право“, побрза студентот. - Знам што да правам. Ајде да ги поделиме нашите студенти на два условни типа: генератори на идеи и уништувачи на идеи. Со правилна пропорција, идеите создадени од претставници од првиот тип ќе бидат уништени од претставници на вториот. Дури ни затоа што тоа ќе биде директна цел на уништувачите, туку едноставно затоа што идеите нема да имаат дефинирачка вредност за нив. Нус-ефект. Да претпоставиме дека нашите студенти не се хранат со нови идеи, туку... да речеме, од нивниот сопствен вид.
Професорот ги затресе сите пипала одеднаш. Од неговата бурна смеа, неговата фасетна кеса се лизна на шуплината на коленото.
- Па, Роџер, ти кажа, па рече!
- Па, во ред, не нивни, туку штитеници од трет тип, специјално наменети за храна - и воопшто не интелектуалци. Да ги поместиме половите на интелектуалниот и физичкиот свет - и ќе го постигнеме посакуваниот резултат.
- Тоа е тоа, Роџер, доста е! – се чинеше дека професорот сериозно се забавуваше. -Вашата имагинација е одлична. Значи, некои поединци ќе се хранат со други? Во исто време, да ги уништите резервите на духовна храна акумулирана во библиотеките? Потврдувам, студент, дека сте способни да генерирате оригинални и квалитетни идеи. Му давам највисока оценка. Ајде да земеме рекорд.
5.
Облакот од нарушени информации остана зад себе, но ситуацијата, всушност, остана страшна.
Немаше врска со базата. Ова ќе беше лесно да се преживее доколку сите бази на информации за исхраната на крстосувачот не беа занемарени. Трагичната вест готвачот ја пренесе во општ молк. За време на исклучувањето на главниот систем, неколку жиро чизми со неорганизирани информации влегоа во галијата и непоправливо оштетија сè. Само од среќа никој не беше повреден.
Роџер ги разгледа последиците. Екипажот на ѕвездениот брод беше премногу мал за да генерира доволен број нови идеи: за тоа беше потребна мултилатерална комуникација - многу поголем број на поединци. Врската со домот овозможи да се генерираат идеи во изобилство, но сега не беше во функција: немаше надеж за реставрација. Во овој случај, крстосувачот имаше резервен информативен модул, но беше расипан од нарушените информации што се појавија на бродот.
„Дали навистина ќе треба да се вратиме без да ја завршиме задачата? – очајно помисли капетанот.
Очигледно, да - немаше друг излез. Ако летате напред кон зацртаната цел, недостатокот на свежи идеи ќе се почувствува. Не веднаш, се разбира - со текот на времето. Тие дури ќе имаат време да ја завршат својата мисија и да започнат со враќањето кога нивните умови ќе почнат брзо да бледнеат. Во областа на овој галактички сектор - да, некаде овде или во близина - целосно ќе пропадне, за сите членови на екипажот. Тогаш вселенскиот крстосувач, кој не го контролира никој, ќе се претвори во безживотен дух кој лебди во вечноста.
Екипажот на вселенскиот крстосувач погледна во Роџер, чекајќи одлука. Сите ја разбраа дилемата пред капетанот и молчеа, стоички вибрирајќи ги пипалата.
Одеднаш, Роџер се сетил на испитот за вештачка интелигенција што го полагал како студент, а решението било природно.
„Дали можете да формирате колонија на вештачки интелигентни суштества? – му се обрати на биотехнологот.
„Лесно“, потврди тој. - Но, ништо нема да успее, капетане, размислував за тоа. Невозможно е да се создаде колонија доволна за да се генерираат свежи идеи на крстосувачот - нема доволно простор. Генерираните идеи нема да бидат доволни, само ќе ја одложиме нашата смрт... Се разбира, во случај да ја продолжиме мисијата и да не се вратиме дома“, додаде биотехнологот, гледајќи наназад кон своите другари.
„Што ако формираме колонија на некоја блиска планета? - предложи Роџер.
„Можам да го направам тоа, но...“
„Да ја населиме планетата со вештачки суштества. На враќање, прилично исцрпени, ќе застанеме овде. Во изминатото време, цивилизацијата ќе создаде интелектуален багаж доволен за да ги надополни нашите резерви. Да ги преземеме информациите и да го продолжиме долгото патување до куќата. Со други зборови, ќе ја користам колонијата како фарма за идеи. Како ви се допаѓа овој план, пријатели?
Надежта се разгоре на когнитивните мембрани на екипажот, а лажните глави почнаа да светат со силна светлина.
Специјалниот офицер на бродот зачекори напред, тресејќи ги сините пипала.
„Одличен план, капетане. Но, дали сте свесни за одговорноста што ја ставате на себе? Ќе населите цела планета. Додека да се вратиме, на неа ќе се појави цивилизација со интелигенција. Дури и да е вештачки, сепак е интелигенција. Овие момци ќе имаат доволно време да го достигнат највисокото ниво на развој. Нема да можеме да го контролираме овој процес поради нашето отсуство во овој галактички сектор. Како знаете што ќе се случи следниот пат кога ќе се сретнете?
Роџер се насмевна.
„Не треба да се грижите за тоа. Постојат методи кои го ограничуваат развојот на вештачката интелигенција со текот на времето. Ќе ја обоиме цивилизацијата, па нејзиниот развој никогаш нема да достигне ниво кое е опасно за нас. Јас ќе се грижам за тоа. Запознаен сум со методите на работа со вештачка интелигенција“.
Когнитивните мембрани на екипажот блескаа со боја на одобрување.
„На крајот“, додаде капетанот на вселенскиот крстосувач на крајот од неговиот прекрасен говор, „полагав испит по оваа тема во институтот“.
6.
По принудното одложување, вселенскиот крстосувач се упати кон целта. Зад нејзината крма имаше планета населена со вештачки суштества - многу мала и незабележлива. Сино-сина.
Извор: www.habr.com