Възможно ли е да се програмира произволност?

Каква е разликата между човек и програма?

Невронните мрежи, които в момента съставляват почти цялата област на изкуствения интелект, могат да вземат предвид много повече фактори при вземането на решения, отколкото човек, да го правят по-бързо и в повечето случаи по-точно. Но програмите действат само по начина, по който са програмирани или обучени. Те могат да бъдат много сложни, да вземат предвид много фактори и да действат много вариативно. Но все пак не могат да заменят човека при вземането на решения. В какво се различава човекът от такава програма? Тук трябва да се отбележат 3 ключови разлики, от които произтичат всички останали:

1. Човекът притежава картина на света, която му позволява да допълва информацията с данни, които не са записани в програмата. Освен това, картината на света е структурно устроена така, че да ни позволи да имаме поне някакво представа за всичко. Дори ако това е нещо кръгло и свети в небето (НЛО). Обикновено за това се изграждат онтологии, но те не притежават такава пълнота, слабо предвиждат многозначността на понятията, тяхното взаимно влияние и все още са приложими само в строго ограничени теми.
2. Човекът разполага с логика, която взема предвид тази картина на света, и която наричаме здрав разум или common sense. Всяко твърдение притежава смисъл и взема предвид скритото недекларирано знание. Въпреки че законите на логиката са стотици години на възраст, никой все още не знае как функционира обичайната, не математическа, логика на разсъжденията. По същество, ние дори не знаем как да програмираме обикновените силогизми.
3. Произволност. Програмите не притежават произволност. Това вероятно е най-трудната от трите разлики. Какво наричаме произволност? Възможността да изградим ново поведение, различно от това, което сме изпълнявали при същите обстоятелства преди, или да изградим поведение в нови, непознати досега обстоятелства. Тоест, по същество, това е създаването на нова програма за поведение в движение без опити и грешки с оглед на новите, включително вътрешни, обстоятелства.

Произволността все още е неизследвана област за изследователите. Генетичните алгоритми, способни да генерират нова програма за поведение на интелигентни агенти, не са решение, тъй като те произвеждат решения не логично, а чрез "мутации", а решението се намира "случайно" в хода на селекцията на тези мутации, т.е. чрез проби и грешки. Човекът намира решение веднага, изграждайки го логично. Човекът може дори да обясни защо е избрал такова решение. Генетичният алгоритъм не притежава аргументи.

Известно е, че колкото по-високо е животното на еволюционната стълбица, толкова по-произволно може да бъде неговото поведение. Най-голяма произволност проявява именно човекът, тъй като той има способността да взима предвид не само външните обстоятелства и своите научени умения, но и скритите обстоятелства – лични мотиви, предадени преди информация, резултати от действия в подобни обстоятелства. Това значително увеличава вариативността на човешкото поведение и, по мое мнение, именно съзнанието играе роля в това. Но за това по-късно.

Съзнание и произволност

Какво общо има тук съзнанието? В психологията на поведението е известно, че обичайните действия извършваме автоматично, машинално, т.е. без участието на съзнанието. Това е забележителен факт, който означава, че съзнанието е свързано с формирането на ново поведение, свързано е с ориентировъчното поведение. Това също означава, че съзнанието се включва именно когато е необходимо да се промени обичайният модел на поведение, например, да се реагира на нови искания като се вземат предвид новите възможности. Някои учени, като Докинз или Мецингер, също посочиха, че съзнанието е свързано с наличието на образа на себе си у хората, че моделът на света включва и модела на самия субект. Как тогава трябва да изглежда самата система, която притежава такава произволност? Каква структура трябва да има, за да може да изградить ново поведение за решаване на задача в съответствие с новите обстоятелства?

За целта е нужно първо да си припомним и уточним някои известни факти. Всички животни, притежаващи нервна система, по един или друг начин съдържат в нея модел на средата, интегриран с арсенал от своите възможности за действие в нея. Тоест, това не е само модел на средата, както пишат някои учени, а модел на възможното поведение в определена ситуация. И в същото време, това е модел за предсказване на измененията в средата в отговор на действия на животното. Това не винаги се взима предвид от когнитивните учени, макар че на това директно указват откритията на огледалните неврони в премоторната кора, както и изследванията по активация на неврони при макаци в отговор на възприемането на банан, при които се активират не само области, свързани с банана в зрителната и временната кора, но и ръцете в соматосенсорната, защото моделът на банан е непосредствено свързан с ръката, тъй като маймуната се интересува само от онзи плод, който може да вземе и изяде. Просто забравяме, че нервната система се е появила не за отразяване на света от животните. Те не са софисти, те просто искат да ядат, следователно техният модел е в по-голяма степен модел на поведение, а не на отразяване на средата.

Тази модел вече притежава определена степен на произволност, която се изразява в вариативността на поведението при сходни обстоятелства. Тоест, животните имат определен арсенал от възможни действия, които могат да извършат в зависимост от ситуацията. Това могат да бъдат по-сложни времеви модели (условно-рефлексни), отколкото непосредствената реакция на събития. Но всъщност не е напълно произвольно поведение, което ни позволява да обучаваме животни, но не и хора.

И тук има важен аспект, който трябва да вземем предвид – колкото по-известни обстоятелствата, толкова по-малко вариативно е поведението, тъй като мозъкът има решение. Обратно, колкото по-нови са обстоятелствата, толкова повече опции за възможно поведение. И целият въпрос е в техния подбор и комбинация. Животните го правят, просто проявявайки целия арсенал от своите възможни действия, както показа в експериментите си още Скинър.

Не може да се каже, че произволното поведение е напълно ново; то се състои от преди усвоени поведенчески модели. Това е тяхната реконструкция, инициирана от нови обстоятелства, които не съвпадат напълно с онези обстоятелства, за които вече има готов модел. И в това точно се състои разделителната линия между произволното и машиналното поведение.

Моделиране на произволността

Създаването на програма за произвольно поведение, която може да взема предвид новите обстоятелства, би позволило да се направи универсална 'програма за всичко' (по аналогия с 'теорията на всичко'), поне за определени домейн задачи.

Какво може да направи поведението им по-произвольно, по-свободно? Проведените от мен експерименти показаха, че единственият изход е наличието на втори модел, който моделира първия и може да го сменя, т.е. да действа не с околната среда, както първият, а с първия модел, за да го променя.

Първият модел реагира на обстоятелствата в средата. И ако активираният от него модел се окаже нов, се задейства вторият модел, който е обучен да търси решения в първия модел, разпознавайки всички възможни варианти на поведение в новата среда. Напомням, че в новата среда се активират повече варианти на поведение, затова въпросът е именно в тяхното селектиране или комбиниране. Това се случва, защото, за разлика от познатата среда, в отговор на новите обстоятелства не се активира един модел на поведение, а веднага няколко.

Всеки път, когато мозъкът се сблъска с нещо ново, той осъществява не един, а два акта – разпознаване на ситуацията в първия модел и разпознаване на вече осъществени или възможни действия от втория модел. И именно в тази структура се проявяват много възможности, подобни на съзнанието.

1. Тази структура с двата акта позволява да бъдат взети предвид не само външни, но и вътрешни фактори – във втория модел могат да се запомнят и разпознаят резултатите от предишното действие, отдалечените мотиви на субекта и т.н.
2. Тази система може да изгражда ново поведение веднага, без дълго обучение, инициирано от средата, съгласно еволюционната теория. Например, вторият модел има възможността да трансферира решения от едни подмодели на първия модел към други негови части и много други възможности на метамодела.
3. Отличителна черта на съзнанието е наличието на знание за собствените действия, или автобиографичната памет, както е показано в статията (1). Предложената двуактна структура разполага точно с такава способност – вторият модел може да съхранява данни за действията на първия (никой модел не може да съхранява данни за собствените си действия, тъй като за това трябва да съдържа непротиворечиви модели на собствените си действия, а не реакциите на околната среда).

Но как точно се изгражда ново поведение в двуактната структура на съзнанието? Нямаме на разположение мозък и дори правдоподобен модел на него. Започнахме да експериментираме с глаголни рамки като прототипи на моделите, които се съдържат в нашия мозък. Рамката представлява набор от варианти на актантите на глагола за описание на ситуацията, а комбинацията от рамки може да служи за описание на сложно поведение. Рамките за описание на ситуации – това са рамките на първия модел, рамката за описание на собствените действиe в нея – е рамката на втория модел с глаголи на лични действия. Често ги смесваме, защото дори едно изречение е смесица от няколко акта на разпознаване и действие (речев акт). А самото изграждане на дълги речеви изрази е най-добрият пример за произволно поведение.

Когато първият модел на системата разпознае нов шаблон, на който липсва програмираният отговор, той активира втория модел. Вторият модел събира активираните рамки на първия и търси по-кратък път в графа на свързаните рамки, който най-добре „затваря“ шаблоните на новата ситуация чрез комбинация от рамки. Това е доста сложна операция и ние все още не сме постигнали резултат, който да претендира за званието „програма за всичко“, но първите успехи вдъхновяват.

Експерименталните изследвания на съзнанието чрез моделиране и сравняване на софтуерни решения с психологическите данни предоставят интересен материал за по-нататъшни изследвания и позволяват да се проверят някои трудно проверяеми в експерименти с хора хипотези. Може да се нарекат моделиращи експерименти. И това е само първият резултат в това направление на изследването.

Библиография

1. Двуактна структура на рефлексивното съзнание, А. Хомяков, Academia.edu, 2019.

Източник: habr.com