Kan man programmere tilfeldighet?

Hva er forskjellen mellom mennesket og programmet

Neurale nettverk, som nå utgjør nesten hele området kunstig intelligens, kan ta hensyn til mange flere faktorer i beslutningsprosessen enn mennesket, gjøre det raskere og i de fleste tilfeller mer nøyaktig. Men programmer virker bare slik de er programmert eller trent. De kan være veldig komplekse, ta hensyn til mange faktorer og handle på variert måte. Men de kan fortsatt ikke erstatte mennesket i beslutningsprosessen. Hva skiller mennesket fra et slikt program? Her må vi merke oss tre nøkkelforskjeller, som alle andre forskjeller springer ut fra:

1. Mennesket har et verdensbilde, som gjør det mulig for det å supplere informasjonen med data som ikke er skrevet inn i programmet. I tillegg er verdensbildet strukturert slik at vi har en viss forståelse av det hele, selv om det kan være noe rundt og lysende på himmelen (UFO). Vanligvis bygger man ontologier for dette, men ontologier har ikke den samme fullstendigheten, tar dårlig hensyn til flertydighet av begreper, deres gjensidige påvirkning, og er så langt bare anvendelig innen strengt avgrensede temaer.
2. Mennesket har en logikk som tar hensyn til dette verdensbildet, som vi kaller sunn fornuft. Enhver uttalelse har betydning og tar hensyn til skjulte, ikke-deklarerte kunnskaper. Til tross for at logikkens lover har eksistert i mange hundre år, vet ingen fortsatt hvordan vanlig, ikke-matematisk, resonnement fungerer. Vi vet i grunnen ikke engang hvordan vi skal programmere enkle syllogismer.
3. Vilje til valgfrihet. Programmer har ikke vilje til valgfrihet. Dette er kanskje det vanskeligste av de tre forskjellene. Hva mener vi med valgfrihet? Muligheten til å skape en ny oppførsel, som er forskjellig fra det vi gjorde under de samme omstendighetene tidligere, eller å skape en oppførsel under nye, tidligere ukjente omstendigheter. Det vil si, i essens, å skape en ny atferdsprogram i sanntid uten prøving og feiling med hensyn til nye, inkludert interne, omstendigheter.

Tilfeldighet er fortsatt et uutforsket felt for forskere. Genetiske algoritmer, som kan generere nye atferdsprogrammer for intellektuelle agenter, gir ikke nødvendigvis gode resultater, da de produserer løsninger ikke logisk, men gjennom "mutasjoner", og løsningen finnes "tilfeldig" gjennom utvalg av disse mutasjonene, det vil si gjennom prøving og feiling. Mennesket finner løsningen med en gang, ved å bygge den logisk. Mennesket kan til og med forklare hvorfor en bestemt løsning ble valgt. En genetisk algoritme har ikke argumenter.

Det er kjent at jo høyere et dyr er på den evolusjonære stigen, desto mer tilfeldig kan atferden dets være. Og den største tilfeldigheten manifests spesielt hos mennesket, da mennesket har evnen til å ta hensyn til ikke bare ytre omstendigheter og sine innlærte ferdigheter, men også skjulte omstendigheter – personlige motiver, tidligere formidlet informasjon, og resultatene av handlingene under lignende omstendigheter. Dette øker sterkt variasjonen i menneskelig atferd, og etter min mening er det bevisstheten som har en rolle her. Men mer om det senere.

Bevissthet og tilfeldighet

Hva har bevissthet med dette å gjøre? Innen atferdspsykologi er det kjent at vi utfører vante handlinger automatisk, maskinelt, det vil si uten deltakelse av bevisstheten. Dette er et bemerkelsesverdig faktum, som indikerer at bevisstheten er involvert i skapelsen av ny atferd, knyttet til orienteringsatferd. Det betyr også at bevisstheten aktiveres nettopp når det er behov for å endre det vante atferdsmønsteret, for eksempel å reagere på nye forespørsel med tanke på nye muligheter. Noen forskere, som for eksempel Dawkins eller Metzinger, har også påpekt at bevisstheten har noe å gjøre med det å ha et selvbilde, hvor verdenerommet inkluderer modellen av subjektet selv. Hvordan bør da selve systemet se ut som ville ha en slik tilfeldighet? Hvilken struktur bør det ha for å kunne konstruere ny atferd for å løse en oppgave i samsvar med nye omstendigheter.

For this, we first need to recall and clarify some known facts. All animals with a nervous system, in one way or another, contain within it a model of the environment, integrated with a repertoire of their possible actions within it. This means it is not just a model of the environment, as some scholars suggest, but also a model of possible behavior in various situations. Simultaneously, it serves as a model for predicting changes in the environment in response to any actions of the animal. Cognitive scientists often overlook this, although it's directly indicated by the discovery of mirror neurons in the premotor cortex, as well as studies on the activation of neurons in macaques, which activate not only areas related to bananas in the visual and temporal cortex but also areas related to the hands in the somatosensory cortex, because the model of the banana is directly linked to the hand, as the monkey is only interested in the fruit it can grab and eat. We often forget that the nervous system did not arise to merely reflect the world for animals. They are not sophists; they simply want to eat, which means their model is much more about behavior than about reflecting the environment.

Such a model already possesses a certain degree of arbitrariness, expressed in the variability of behavior under similar circumstances. This means that animals have a certain repertoire of possible actions that they can perform depending on the situation. These actions can include more complex temporal patterns (classical conditioning) than direct reactions to events. Nevertheless, this is still not completely arbitrary behavior, which allows us to train animals but not humans.

Here, there is an important consideration we need to account for – the more familiar the circumstances, the less variable the behavior, as the brain has a solution prepared. Conversely, the newer the circumstances, the more options for possible behavior there are. The whole question lies in their selection and combination. Animals do this by simply displaying all the potential actions they can undertake, as demonstrated in his experiments by Skinner.

Det kan ikke sies at vilkårlig atferd er helt ny; den består av tidligere lærte atferdsmønstre. Dette er en rekombinasjon av dem utløst av nye omstendigheter som ikke helt samsvarer med de omstendighetene det allerede finnes et mønster for. Og nettopp her ligger skillet mellom vilkårlig og maskinell atferd.

Modellering av vilkårlighet

Å lage et program for vilkårlig atferd som kan ta hensyn til nye omstendigheter, ville gjort det mulig å skape et universelt «program for alt» (i likhet med «teorien om alt») i hvert fall for spesifikke domenet oppgaver.

Hva kan gjøre atferden deres mer vilkårlig, fri? Mine eksperimenter har vist at den eneste løsningen er å ha en andre modell som modellerer den første og kan endre den, det vil si handle ikke med omgivelsene som den første, men med den første modellen for å endre den.

Den første modellen reagerer på omgivelsenes omstendigheter. Og hvis et mønster aktivert av den viser seg å være nytt, kalles den andre modellen, som er lært til å lete etter løsninger i den første modellen, og gjenkjenner alle mulige atferdsmønstre i den nye situasjonen. Jeg minner om at i en ny situasjon aktiveres flere atferdsmønstre, så spørsmålet er nettopp om utvelgelsen eller kombinasjonen av dem. Dette skjer fordi, i motsetning til kjente omstendigheter, aktiveres ikke bare ett atferdsmønster i respons på nye omstendigheter, men flere samtidig.

Hver gang hjernen møter noe nytt, utfører den ikke én, men to handlinger – gjenkjenning av situasjonen i den første modellen og gjenkjenning av allerede utførte eller mulige handlinger i den andre modellen. Og nettopp i denne strukturen manifesteres mange muligheter som ligner på bevissthet.

1. Denne to-trinns strukturen gjør det mulig å ta hensyn til ikke bare eksterne, men også interne faktorer – i den andre modellen kan resultater fra forrige handling, fjerne motiver til subjektet osv. bli husket og gjenkjent.
2. Et slikt system kan bygge ny atferd umiddelbart, uten langvarig læring utløst av omgivelsene i henhold til evolusjonsteorien. For eksempel har den andre modellen muligheten til å overføre løsninger fra en delmodell av den første modellen til andre deler av den og mange andre muligheter innen metamodellen.
3. Det karakteristiske ved bevissthet er tilstedeværelsen av kunnskap om egen handling, eller autobiografisk hukommelse, som vist i artikkelen (1). Den foreslåtte totrinnsstrukturen besitter nettopp denne evnen – den andre modellen kan lagre data om handlingene til den første (ingen modell kan lagre data om egne handlinger, ettersom den må inneholde konsistente modeller av sine handlinger, ikke reaksjoner fra omgivelsene).

Men hvordan skjer egentlig oppbyggingen av ny atferd i totrinns bevissthetsstrukturen? Vi har verken en hjerne eller en troverdig modell av den. Vi har begynt å eksperimentere med verbale rammer som prototyper for modellene som finnes i hjernen vår. En ramme består av et sett med alternativer for aktantene i verbet for å beskrive en situasjon, og kombinasjoner av rammer kan brukes til å beskrive kompleks atferd. Rammer for å beskrive situasjoner er rammer fra den første modellen, mens rammen for å beskrive egne handlinger i den er rammen fra den andre modellen med verb for personlige handlinger. Disse to blandes ofte, fordi selv en setning er en blanding av flere handlinger av gjenkjenning og handling (talehandling). Og det å bygge lange språkuttrykk er et utmerket eksempel på vilkårlig atferd.

Når den første modellen i systemet gjenkjenner et nytt mønster som den ikke har et programmert svar på, aktiverer den den andre modellen. Den andre modellen samler de aktiverte rammene fra den første og leter etter en kortere vei i nettverket av relaterte rammer som best «lukker» mønstrene i den nye situasjonen med en kombinasjon av rammer. Dette er en ganske komplisert oppgave, og vi har ennå ikke oppnådd noe resultat som kan kalles et «program for alt», men tidlige suksesser er lovende.

Eksperimentelle studier av bevissthet gjennom modellering og sammenligning av programvareløsninger med data fra psykologi gir interessant materiale for videre forskning og lar oss teste noen hypoteser som er vanskeligere å verifisere i eksperimenter med mennesker. Dette kan omtales som modellerende eksperimenter. Og dette er bare det første resultatet innen dette forskningsfeltet.

Bibliografi

1. Totrinnsstrukturen i refleksiv bevissthet, A. Khomyakov, Academia.edu, 2019.

Kilde: habr.com