Jakie są różnice między człowiekiem a programem?
Sieci neuronowe, które w tej chwili stanowią praktycznie całą dziedzinę sztucznej inteligencji, mogą brać pod uwagę w podejmowaniu decyzji znacznie więcej czynników niż człowiek, robić to szybciej i w większości przypadków bardziej dokładnie. Jednak programy działają tylko w taki sposób, jak je zaprogramowano lub wytrenowano. Mogą być bardzo skomplikowane, uwzględniać wiele czynników i działać w sposób bardzo zróżnicowany. Niemniej jednak nie mogą zastąpić człowieka w podejmowaniu decyzji. Czym zatem różni się człowiek od takiego programu? Należy wskazać trzy kluczowe różnice, z których wynikają wszystkie inne:
- Człowiek ma obraz świata, który pozwala mu dopełniać informacje takimi danymi, które nie są zapisane w programie. Ponadto obraz świata jest strukturalnie zorganizowany w taki sposób, że pozwala nam mieć jakiekolwiek pojęcie o wszystkim. Nawet jeśli to coś okrągłego i świecącego na niebie (UFO). Zazwyczaj w tym celu buduje się ontologie, ale ontologie nie mają takiej pełni, słabo uwzględniają wieloznaczność pojęć, ich wzajemny wpływ i są na razie stosowane tylko w ściśle ograniczonych tematach.
- Człowiek posiada logikę, która uwzględnia ten obraz świata, co nazywamy zdrowym rozsądkiem lub common sense. Każde twierdzenie ma sens i uwzględnia ukryte, nieujawnione wiedzę. Mimo że prawa logiki mają setki lat, nikt do tej pory nie wie, jak funkcjonuje zwykła, nie matematyczna, logika rozumowania. W zasadzie nie wiemy, jak zaprogramować nawet zwykłe sylogizmy.
- Arbitralność. Programy nie mają arbitralności. To chyba najtrudniejsza z wszystkich trzech różnic. Co rozumiemy przez arbitralność? Możliwość wykształcenia nowego zachowania, różnego od tego, co robiliśmy w tych samych okolicznościach wcześniej, lub stworzenia zachowania w nowych, wcześniej nieznanych okolicznościach. Innymi słowy, jest to tworzenie na bieżąco nowego programu zachowania bez prób i błędów, z uwzględnieniem nowych, w tym wewnętrznych, okoliczności.
Losowość pozostaje nieodkrytym polem dla badaczy. Algorytmy genetyczne, które mogą stworzyć nowy program zachowań agentów inteligentnych, nie są rozwiązaniem, ponieważ generują wynik nie w sposób logiczny, a przez "mutacje", a rozwiązanie znajduje się "przypadkowo" w trakcie selekcji tych mutacji, tj. poprzez próby i błędy. Człowiek znajduje rozwiązanie od razu, budując je logicznie. Człowiek może nawet wyjaśnić, dlaczego wybrano dane rozwiązanie. Algorytm genetyczny nie dostarcza argumentów.
Wiadomo, że im wyżej zwierzę znajduje się na drabinie ewolucyjnej, tym bardziej losowe może być jego zachowanie. Największą losowość wykazuje właśnie człowiek, ponieważ ma zdolność uwzględniania nie tylko zewnętrznych okoliczności i swoich wyuczonych umiejętności, ale także ukrytych okoliczności – osobistych motywów, wcześniej przekazanych informacji oraz wyników działania w podobnych okolicznościach. To znacznie zwiększa zmienność zachowań człowieka i moim zdaniem jest to związane z samą świadomością. Ale o tym za chwilę.
Świadomość i losowość
Co ma wspólnego świadomość? W psychologii zachowań wiadomo, że rutynowe działania wykonujemy automatycznie, bezwiednie, czyli bez udziału świadomości. To interesujący fakt, który oznacza, że świadomość bierze udział w tworzeniu nowego zachowania, związana jest z orientacyjnym zachowaniem. Oznacza to również, że świadomość włącza się dokładnie wtedy, gdy konieczna jest zmiana rutynowego wzorca zachowania, na przykład w odpowiedzi na nowe zapytania z uwzględnieniem nowych możliwości. Niektórzy naukowcy, tacy jak Dawkins czy Metzinger, wskazywali, że świadomość jakoś wiąże się z posiadaniem przez ludzi obrazu siebie, że model świata obejmuje także model samego podmiotu. Jak więc powinna wyglądać sama system, który miałby taką losowość? Jaką strukturę powinna mieć, aby móc stworzyć nowe zachowanie w celu rozwiązania zadania w zgodności z nowymi okolicznościami?
Aby to zrobić, najpierw musimy przypomnieć sobie i sprecyzować pewne znane fakty. Wszystkie zwierzęta posiadające układ nerwowy w taki czy inny sposób zawierają w nim model środowiska, zintegrowany z arsenałem swoich możliwości działania w nim. To znaczy, że to nie tylko model środowiska, jak piszą niektórzy naukowcy, ale model możliwego zachowania w danej sytuacji. Jednocześnie jest to model przewidywania zmian w środowisku w odpowiedzi na jakiekolwiek działania zwierzęcia. Nie zawsze jest to brane pod uwagę przez naukowców zajmujących się kognicją, chociaż na to bezpośrednio wskazują odkryte neurony lustrzane w korze przedruchowej, a także badania aktywacji neuronów makaków, w odpowiedzi na percepcję banana, u których aktywują się nie tylko obszary związane z bananem w korze wzrokowej i skroniowej, ale także ręka w somatosensorycznej, ponieważ model banana jest bezpośrednio związany z ręką, ponieważ małpie interesuje tylko ten owoc, który może wziąć i zjeść. Po prostu zapominamy, że układ nerwowy nie powstał po to, by odzwierciedlać świat zwierząt. One nie są sofistami, one po prostu chcą jeść, dlatego ich model to w większym stopniu model zachowania, a nie odzwierciedlenia środowiska.
Taki model już ma określony stopień dobrowolności, który wyraża się w zmienności zachowania w podobnych okolicznościach. To znaczy, że zwierzęta mają pewien arsenał możliwych działań, które mogą podjąć w zależności od sytuacji. Mogą to być bardziej skomplikowane wzorce czasowe (warunkowo-odruchowe) niż bezpośrednia reakcja na wydarzenia. Niemniej jednak, to nadal nie jest całkowicie dobrowolne zachowanie, co pozwala nam tresować zwierzęta, ale nie ludzi.
I tutaj jest ważny czynnik, który musimy uwzględnić – im bardziej znane okoliczności się pojawiają, tym mniej jest wariantów zachowania, ponieważ mózg ma już rozwiązanie. I odwrotnie, im nowocześniejsze okoliczności, tym więcej możliwych zachowań. Cała kwestia polega na ich selekcji i kombinacji. Zwierzęta robią to, po prostu manifestując cały arsenał swoich możliwych działań, jak pokazał w swoich eksperymentach jeszcze Skinner.
Nie można powiedzieć, że losowe zachowanie jest całkowicie nowe, składa się ono z wcześniej wyuczonych wzorców zachowań. Jest to ich recombinacja, wywołana nowymi okolicznościami, które nie są w pełni zgodne z tymi okolicznościami, dla których już istnieje gotowy wzorzec. I właśnie w tym tkwi punkt rozdzielający losowe i maszynowe zachowanie.
Modelowanie losowości
Stworzenie programu losowego zachowania, który potrafiłby uwzględniać nowe okoliczności, pozwoliłoby stworzyć uniwersalny "program wszystkiego" (na wzór "teorii wszystkiego") przynajmniej dla określonego domeny zadania.
Co mogłoby sprawić, że ich zachowanie stałoby się bardziej losowe, swobodne? Przeprowadzone przeze mnie eksperymenty pokazały, że jedynym wyjściem jest posiadanie drugiego modelu, który modeluje pierwszy i może go zmieniać, to znaczy działać nie z otoczeniem jak pierwszy, ale z pierwszym modelem, aby go zmieniać.
Pierwszy model reaguje na okoliczności środowiska. I jeśli aktywowany przez niego wzorzec okazał się nowy, uruchamiany jest drugi model, który jest szkolony do poszukiwania rozwiązań w pierwszym modelu, rozpoznając wszystkie możliwe warianty zachowań w nowej sytuacji. Przypominam, że w nowej sytuacji aktywuje się więcej wariantów zachowań, więc chodzi właśnie o ich selekcję lub kombinację. Dzieje się tak dlatego, że w odróżnieniu od znanego otoczenia, w odpowiedzi na nowe okoliczności aktywuje się nie jeden wzorzec zachowania, a od razu kilka.
Za każdym razem, gdy mózg napotyka coś nowego, wykonuje nie jeden, ale dwa akty – rozpoznanie sytuacji w pierwszym modelu i rozpoznanie już zrealizowanych lub możliwych działań przez drugi model. I właśnie w tej strukturze ujawnia się wiele możliwości, podobnych do świadomości.
- Ta dwuaktowa struktura pozwala uwzględniać nie tylko czynniki zewnętrzne, ale i wewnętrzne – w drugim modelu mogą być zapamiętywane i rozpoznawane wyniki wcześniejszego działania, odległe motywy podmiotu itd.
- Taki system może budować nowe zachowanie od razu, bez długiego uczenia się, wywołanego przez środowisko zgodnie z teorią ewolucji. Na przykład drugi model ma możliwość transferu rozwiązań z jednych podmodeli pierwszego modelu na inne jego części i wiele innych możliwości metamodelu.
- Cechą wyróżniającą świadomość jest posiadanie wiedzy o swoim działaniu, czyli autobiograficznej pamięci, co zostało pokazane w artykule (1). Proponowana dwuczęściowa struktura ma właśnie tę zdolność – drugi model może przechowywać dane o działaniach pierwszego (żaden model nie może przechowywać danych o własnych działaniach, ponieważ w tym celu musiałby zawierać niesprzeczne modele swoich działań, a nie reakcje na środowisko).
Jak dokładnie odbywa się budowanie nowego zachowania w dwuczęściowej strukturze świadomości? Nie dysponujemy mózgiem ani jego wiarygodnym modelem. Zaczęliśmy eksperymentować z ramami czasownikowymi jako prototypami modeli, które znajdują się w naszym mózgu. Rama to zestaw wariantów aktantów czasownika do opisu sytuacji, a kombinacja ram może być używana do opisu złożonego zachowania. Ramy opisu sytuacji to ramy pierwszego modelu, a rama opisu swoich działań w niej to rama drugiego modelu z czasownikami osobistych działań. Często są one ze sobą zmieszane, ponieważ nawet jedno zdanie to mieszanka kilku aktów rozpoznania i działania (aktu mowy). A samo budowanie długich wypowiedzi to najlepszy przykład dowolnego zachowania.
Kiedy pierwszy model systemu rozpoznaje nowy wzór, na który nie ma zaprogramowanej odpowiedzi, aktywuje drugi model. Drugi model zbiera aktywowane ramy pierwszego i szuka krótszej ścieżki w grafie powiązanych ram, która najlepiej „zamyka” wzory nowej sytuacji kombinacją ram. To dość skomplikowana operacja i jeszcze nie osiągnęliśmy wyniku, który można by nazwać „programem wszystkiego”, ale pierwsze sukcesy są obiecujące.
Badania eksperymentalne świadomości poprzez modelowanie i porównanie rozwiązań programowych z danymi psychologicznymi dostarczają interesujących materiałów do dalszych badań i pozwalają zweryfikować niektóre hipotezy, które są słabo testowane w eksperymentach na ludziach. Można to nazwać eksperymentami modelującymi. I to dopiero pierwszy rezultat w tym kierunku badań.
Bibliografia
1. .
Źródło: habr.com
