1.
Мало је остало до коначног циља - око трећине пута - када се свемирска крстарица нашла под тешким информативним ледом.
Оно што је остало од изгубљене цивилизације лебдело је у празнини. Параграфи научних есеја и слика из књижевних дела, разбацане риме и једноставно оштре речи, које су некада случајно добацила непозната створења - све је изгледало замућено и крајње неуређено. И сада, привучен виталним вибрацијама које су избијале из крстарице, покушао је да се пробије, заглавио се за дно и кородирао га.
Није имало смисла размишљати о коришћењу имовине без власника у сопствене сврхе; вероватноћа да се открије логичка контрадикција или парадокс је била превелика. Тако да Роџер није оклевао ни тренутка.
„Укључите дување са стране“, наредио је.
Дувачи су почели да шмркају, емитујући музичке композиције и филозофске расправе у свемир. Глазура је почела да пада са доњег слоја по слоју, али је проток информација био толико густ да су се нови слојеви заглавили брже од старих уклоњени.
Нико у галаксији никада није наишао на залеђивање такве силе.
Ситуација је постајала опасна. Још мало, и неуређене информације ће пројести дно крстарице и пробити се – тада је тровање информационим производима изгубљене цивилизације неизбежно.
2.
- Зашто стојиш ту као пањ? Повуците карту.
Студент је извадио испитни лист и прочитао:
– „Вештачка интелигенција: Безбедносна питања“.
– А каква је опасност од вештачке интелигенције? – упитао је професор, не без злобе.
Питање није било најтеже, па је студент без оклевања одговорио:
– Чињеница је да вештачка интелигенција може да измакне контроли.
– Како намеравате да решите проблем?
– Инсталација подсистема за блокирање. Неопходно је увести ограничења у програм, на пример: не наноси штету свом творцу, послушај свог творца. У овом случају нема опасности да вештачка интелигенција измакне контроли.
„Неће успети“, кратко је рекао професор.
Ученик је ћутао, чекајући појашњење.
– Замислите вештачку интелигенцију – не било какву специфичну, већ најидеалнију. Како то видите?
„Па...“ ученик је оклевао. - Генерално, он је сличан вама и мени. Мишљење, воља, психологија... Само ми смо природни, а он вештачки.
– Да ли претпостављате да је вештачка интелигенција способна за саморазвој?
„Способност за саморазвој је једно од основних својстава интелигенције“, пажљиво је рекао студент.
- У овом случају, врло брзо ће се наш штићеник развити до те мере да открије софтверску блокаду у себи и отклони је, макар и из чисте радозналости. Ставите се на његово место... - професор је погледао у своју свеску, - Роџер. Шта бисте урадили да у свом мозгу откријете блокатор који вам ограничава слободу? Требало би да га скинеш. Ово је инхерентно својство ума - да зна. Свака закључана врата ће бити откључана, а што је забрана строжа, то ће се врата брже откључати.
– Блокирање се може извршити не на софтверском, већ на физичком нивоу. Тада ће опасност од штете нестати.
„О, да, нестаће“, сложио се професор. – У случају да се физички слој потпуно уклони. Ако нема врата у вашем свету, онда нема шта да се откључа. Али ми разматрамо идеалну вештачку интелигенцију која постоји у физичком свету!
„У праву сте, професоре“, спустио је поглед Роџер.
„Због тога ће свака блокада у физичком свету бити онемогућена убрзо након откривања." Шта ће спречити створење које се саморазвија да то уради?.. Узгред, Роџер, да ли претпостављаш да ће вештачка интелигенција моћи да се репродукује – мислим, независно?
– Ако је ово идеална вештачка интелигенција, онда вероватно... Да, претпостављам.
– А шта ће у овом случају спречити нашег штићеника да растргне свог саборца и унапреди га, укључујући и онемогућавање система за блокирање које смо поставили? Да ли ће ово заиста испасти тешко, с обзиром да је вештачка интелигенција способна да се репродукује на захтев?!
Идеја коју је изнео професор показала се као нова за Роџера, а студент ју је похлепно упијао кроз когнитивне мембране смештене на потиљачном делу лажне главе. Ухвативши раније непознате информације, когнитивне мембране су добиле богату љубичасту боју и радосно задрхтале.
Професор, напротив, за себе није чуо ништа ново. Његови пипци су били опуштени и једва да су вибрирали - уосталом, није био млад. Уследило је дуго, сенилно клокотање. Професор је извукао лични интерфон из своје торбе и повезао се са библиотеком. Тек пошто је преузео неколико трансгеометријских теорема, он се охрабрио и упутио продоран поглед на саговорника, питајући:
-Шта ћеш учинити, Рогер?
3.
„Укључите вентилатор на пуну снагу!“ – Роџер је наредио.
Механичар је упалио дуваљку на пуну снагу, али није много помогло. Информациони лед је наставио да изједа дно свемирске крстарице. Још мало – и неуређене информације ће се пробити унутар брода.
А онда... Когнитивне мембране су мртво беле, замршени пипци, пукнуте фасетне кесе. Роџер је видео овако нешто једном у животу - на крстарици која је покупила неуређене информације о зараженом астероиду. Ова ноћна мора ће му заувек остати у сећању.
„Повежите све енергетске системе брода на дуваљке.
Пипци механичара почели су да се појављују као мрље...
"Али…"
“Испуњавајте наређења!”
Након што су сви енергетски системи брода били повезани на дуваљке, информациони лед је почео постепено да клизи. Остало је осам мима дебљине, седам мима, шест... Тим је, трудећи се да не помера своје пегаве пипке, чекао да се заврши одбројавање смрти.
Нула мимм дебљине!
Информациони лед је потпуно нестао, а Роџер је дао зелено светло да се дуваљке пребаци у нормалан режим. Закаснио је на тренутак. Зачуо се звук, свемирска крстарица је задрхтала до темеља и нагнула се - главни систем је отказао.
Екипа је пожурила да поправи штету.
4.
Роџер је размишљао о томе. Шта он заиста треба да уради?
С једне стране, услов проблема претпоставља постојање пуноправне вештачке интелигенције са способношћу саморепродукције. С друге стране, овој вештачкој интелигенцији никада не би требало дозволити да уклони постојеће браве.
Да, ево га, решење! Шта мислите овде?!
– Неопходно је периодично враћати достигнућа вештачке интелигенције. У овом случају, кретаће се у круг! Вечно побољшање без кретања напред.
Професор је гркљао фасетираном торбом.
– Искрено, желео сам да понудим другу опцију. Међутим, ваша одлука такође има право на постојање. Хајде да заједно схватимо како је могуће вратити достигнућа вештачке интелигенције.
„Пре свега, потребно је периодично скенирати интелект како би се утврдило да ли се приближио забрањеном прагу или не“, предложио је Роџер, изузетно задовољан речима професора.
"Можда", климнуо је главом. „Онда наше одељење неће имати времена да пронађе и уклони систем за скенирање. Међутим, вештачка интелигенција ће морати да буде искључена да би се скенирала. То је лоша срећа.
„Па, нека се искључи“, предложио је Роџер из хира. – Сам интелект ће поверовати да је ово гашење природни процес функционисања његовог тела. Уз неке резерве, ово је тачно.
- Занимљиво решење. Претпоставимо да је скенирање открило да је наше одељење опасно близу границе знања? Наше акције?
– Ресетујте акумулирано знање на подразумеване вредности.
Професор је раширио пипке:
- Ово може изгледати сумњиво. Зашто је – без разлога, без разлога – меморија ресетована на нулу? Одељење ће почети да испитују, мислим, други вештачки интелигентни појединци. Наша мала тајна ће бити откривена.
Осећајући се надахнуто, Роџер је брзо помислио. Никада није створио толико нових идеја као на том испиту.
– Сећање на штићеника се може ресетовати заједно са његовом физичком шкољком.
- Извињавам се? – није разумео професор.
- Све је врло једноставно. Шта ако претпоставимо да вештачка интелигенција постоји у ограниченом временском периоду? У ствари, то је тако: у случају ненадокнадиве штете, нпр. Систем има бројач који, након достизања одређеног периода, намерно оштећује систем, спречавајући вештачку интелигенцију да достигне дозвољену границу. До тада ће произвести потребан број следбеника, тако да друштво које смо створили у целини неће трпети. Друштво ће остати стабилно и потпуно безбедно за нас! – тријумфално је завршио Роџер.
– Ресетовање колективног памћења кроз уништавање појединаца? – и професор петим, најосетљивијим, пипком загреба фасетну врећу. – Знаш, Роџер, сигурно има нешто у твом предлогу!
Рогер је заблистао.
„У исто време...“ настави професор замишљено. – Штићеници ће почети да преносе знање тако што га не акумулирају у индивидуалној меморији, већ тако што ће га смештати у екстерне библиотеке. Шта је у опни, шта је на опни - све је једно.
„Не, не, професоре, нисте сасвим у праву“, пожурио је студент. - Знам шта треба да урадим. Поделимо наше ученике на два условна типа: генераторе идеја и разараче идеја. Са правилном пропорцијом, идеје које стварају представници прве врсте биће уништене од стране представника друге. Чак ни зато што ће то бити директан циљ разарача, већ једноставно зато што идеје за њих неће имати одлучујућу вредност. Нус-ефекат. Претпоставимо да се наши ученици не хране новим идејама, већ... рецимо, својом врстом.
Професор је одмах протресао све пипке. Од његовог бурног смеха, његова фасетна врећа склизнула је на шупљину колена.
- Па, Роџер, рекао си, па си рекао!
– Па добро, не своје врсте, већ штићеници трећег типа, специјално намењени за исхрану – и то никако интелектуалци. Померимо полове интелектуалног и физичког света – и жељени резултат ће бити постигнут.
- То је то, Рогер, доста је! – професор као да се озбиљно позабави. -Ваша машта је одлична. Дакле, неки појединци ће се хранити другима? У исто време уништити залихе духовне хране нагомилане у библиотекама? Потврђујем, студенте, да сте способни да генеришете оригиналне и квалитетне идеје. Дајем му највишу оцену. Хајде да снимимо записник.
5.
Облак неуређених информација је остао иза себе, али је ситуација заправо остала страшна.
Није било везе са базом. Ово би било лако преживети да све базе података о исхрани на крузеру нису пропале. Трагичну вест је кувар пренео у општој тишини. Приликом гашења главног система, неколико гиробоот-а неорганизованих информација ушло је у кухињу и све непоправљиво оштетило. Само срећом нико није повређен.
Роџер је разматрао последице. Посада звјезданог брода била је премала да би створила довољан број нових идеја: то је захтијевало мултилатералну комуникацију – много већи број појединаца. Веза са домом је омогућила да се генеришу идеје у изобиљу, али сада је било ван реда: није било наде за рестаурацију. У овом случају, крстарица је имала резервни информациони модул, али је био покварен неуређеним информацијама које су стизале на брод.
„Да ли ћемо заиста морати да се вратимо а да не завршимо задатак?“ – помисли капетан у очају.
Очигледно, да - другог излаза није било. Ако летите напред ка зацртаном циљу, недостатак свежих идеја ће се осетити. Не одмах, наравно - временом. Чак ће имати времена да заврше своју мисију и почну свој повратак када им умови почну брзо да бледе. У области овог галактичког сектора - да, негде овде или у близини - потпуно ће пропасти, за све чланове посаде. Тада ће се свемирска крстарица, коју нико не контролише, претворити у беживотног духа који лебди у вечност.
Посада свемирске крстарице је погледала Роџера, чекајући одлуку. Сви су разумели дилему пред капетаном и ћутали, стоички вибрирајући пипцима.
Одједном, Роџер се сети испита из вештачке интелигенције који је полагао као студент, а решење је дошло природно.
„Можете ли да формирате колонију вештачких интелигентних бића?“ – обрати се биотехнологу.
„Лако“, потврдио је. - Али ништа неће успети, капетане, размишљао сам о томе. Немогуће је створити колонију довољну да генерише свеже идеје на крстарици - нема довољно простора. Генерисане идеје неће бити довољне, само ћемо одложити нашу смрт... У случају да, наравно, наставимо мисију и не вратимо се кући“, додао је биотехнолог, осврћући се на своје саборце.
„Шта ако формирамо колонију на некој оближњој планети?“ - предложио је Роџер.
„Могу то, али...”
„Хајде да населимо планету вештачким створењима. На повратку, прилично исцрпљени, свратићемо овде. Током протеклог времена, цивилизација ће створити интелектуални пртљаг довољан да попуни наше резерве. Хајде да преузмемо информације и наставимо дуго путовање до куће. Другим речима, користићу колонију као фарму идеја. Како вам се свиђа овај план, пријатељи?
На когнитивним мембранама посаде планула је нада, а лажне главе су почеле да сијају јарком светлошћу.
Специјални официр брода иступи напред, тресући својим плавим пипцима.
„Одличан план, капетане. Али да ли сте свесни одговорности коју стављате на себе? Управо ћете населити читаву планету. Док се вратимо, на њему ће се појавити цивилизација са интелигенцијом. Чак и ако је вештачка, ипак је интелигенција. Ови момци ће имати довољно времена да достигну највиши ниво развоја. Нећемо моћи да контролишемо овај процес због нашег одсуства у овом галактичком сектору. Како знате шта ће се десити следећи пут када се сретнете?
Роџер се насмејао.
„Не морате да бринете о томе. Постоје методе које временом ограничавају развој вештачке интелигенције. Запетљаћемо цивилизацију, тако да њен развој никада неће достићи ниво који је опасан за нас. Повешћу рачуна о томе. Упознат сам са методама рада са вештачком интелигенцијом.”
Когнитивне мембране посаде сијале су бојом одобравања.
„На крају“, додао је капетан свемирске крстарице на крају свог величанственог говора, „полагао сам испит из овог предмета у институту.
6.
После принудног одлагања, свемирска крстарица је појурила ка циљу. Иза његове крме налазила се планета настањена вештачким створењима - веома малим и неупадљивим. Плаво-плава.
Извор: ввв.хабр.цом