Hvad er forskellen mellem et menneske og et program
Neurale netværk, som i dag udgør størstedelen af området for kunstig intelligens, kan tage langt flere faktorer i betragtning ved beslutningstagning end mennesker, gøre det hurtigere og i de fleste tilfælde mere præcist. Men programmer fungerer kun som de er programmeret eller trænet til. De kan være meget komplekse, tage mange faktorer i betragtning og handle meget variabelt. Men de kan stadig ikke erstatte mennesker i beslutningstagning. Hvad adskiller et menneske fra et sådant program? Her er der tre centrale forskelle, som alle andre følger deraf:
- Mennesket har et verdensbillede, der gør det muligt at supplere informationen med data, som ikke er nedskrevet i programmet. Derudover er verdensbilledet struktureret på en måde, der giver os en overordnet forståelse af alt. Selv hvis det er noget rundt, der lyser i himlen (UFO). Normalt bygger man ontologier til dette, men ontologier har ikke denne fuldstændighed, tager dårligt højde for flertydighed af begreberne, deres indbyrdes indflydelse og kan indtil videre kun anvendes i strengt afgrænsede emner.
- Mennesket har en logik, der tager højde for dette verdensbillede, som vi kalder sund fornuft eller common sense. Enhver påstand har mening og tager højde for skjulte, ikke-deklarerede viden. Selvom logikkens love har eksisteret i mange hundrede år, ved ingen endnu, hvordan almindelig, ikke-matematisk ræsonnering fungerer. Vi ved i bund og grund ikke, hvordan man programmerer selv almindelige syllogismer.
- Vilje. Programmer har ikke vilje. Dette er måske den sværeste af de tre forskelle. Hvad kalder vi vilje? Muligheden for at skabe en ny adfærd, der adskiller sig fra det, vi tidligere har udført under de samme omstændigheder, eller for at skabe adfærd i nye, tidligere ukendte omstændigheder. Det vil sige, at det i bund og grund handler om at skabe en ny adfærdsprogram uden forsøg og fejl med hensyn til nye, herunder indre, omstændigheder.
Tilfældighed er stadig et uudforsket område for forskere. Genetiske algoritmer, der er i stand til at skabe et nyt adfærdsprogram for intelligente agenter, er ikke løsningen, da de genererer resultater på en ulogisk måde gennem 'mutationer', og løsningen findes 'tilfældigt' gennem udvælgelsen af disse mutationer, altså gennem trial and error. Mennesket finder løsningen straks ved logisk at opbygge den. Mennesket kan endda forklare, hvorfor en bestemt løsning blev valgt. Den genetiske algoritme har ikke argumenter.
Det er kendt, at jo højere et dyr er på den evolutionære stige, desto mere vilkårlig kan dets adfærd være. Og den største vilkårlighed viser sig netop hos mennesket, da mennesket har evnen til at tage hensyn til ikke kun de ydre omstændigheder og sine indlærte færdigheder, men også de skjulte omstændigheder – personlige motiver, tidligere oplysninger, resultater af handlinger under lignende omstændigheder. Dette øger i høj grad menneskets adfærdsmuligheder, som efter min mening er nært knyttet til bevidstheden. Men mere om det senere.
Bevidsthed og vilkårlighed
Hvad med bevidsthed? I adfærdspsykologi er det kendt, at vi udfører vante handlinger automatisk, maskinelt, altså uden bevidsthedens deltagelse. Dette er en bemærkelsesværdig kendsgerning, som betyder, at bevidstheden er involveret i skabelsen af ny adfærd, knyttet til orienteringsadfærd. Det betyder også, at bevidstheden aktiveres netop når der er behov for at ændre det sædvanlige adfærdsmønster, for eksempel som reaktion på nye krav med hensyntagen til nye muligheder. Nogle forskere, for eksempel Dawkins eller Metzinger, har også påpeget, at bevidstheden er på en eller anden måde relateret til menneskets selvbillede, som omverdenens model inkluderer modellen af subjektet selv. Hvordan bør systemet så se ud, som besidder sådan vilkårlighed? Hvilken struktur skal det have, for at det kan konstruere ny adfærd for at løse opgaver i overensstemmelse med nye omstændigheder?
For this, we first need to recall and clarify some known facts. All animals possessing a nervous system contain a model of their environment, integrated with a repertoire of possible actions within it. This means it's not only a model of the environment, as some scientists claim, but also a model of possible behavior in various situations. Simultaneously, it is a prediction model of changes in the environment in response to any actions taken by the animal. Cognitive scientists do not always take this into account, though it is directly indicated by the discovery of mirror neurons in the premotor cortex, as well as studies showing activation in macaques in response to perceiving a banana. In these cases, not only the areas responsible for the banana in the visual and temporal cortex activate, but also the hand in the somatosensory cortex, because the model of the banana is directly linked to the hand—since the monkey is only interested in the fruit that it can take and eat. We simply forget that the nervous system developed not to reflect the world for animals. They are not sophists; they just want to eat, which is why their model primarily represents behavior rather than the environment.
Such a model already has a certain degree of arbitrariness, which is expressed in variability of behavior in similar circumstances. This means that animals possess a repertoire of possible actions that they can perform depending on the situation. These may involve more complex temporal patterns (conditioned reflexes) than a direct reaction to events. However, it is still not completely arbitrary behavior, which allows us to train animals but not humans.
And there is an important consideration that we need to take into account – the more familiar the circumstances encountered, the less variable the behavior, as the brain has a solution. Conversely, the newer the circumstances, the more options for possible behavior there are. The whole question lies in their selection and combination. Animals do this by simply exhibiting their entire repertoire of possible actions, as demonstrated in his experiments by Skinner.
Det kan ikke siges, at vilkårlig adfærd er helt ny; den består af tidligere indlærte adfærdsmønstre. Det er en rekombination af disse mønstre, initieret af nye omstændigheder, som ikke helt svarer til dem, der allerede har et forberedt mønster. Og netop her ligger forskellen mellem vilkårlig og automatisk adfærd.
Modellering af vilkårlighed
At skabe et program for vilkårlig adfærd, der kan tage højde for nye omstændigheder, ville muliggøre at lave et universelt "program for alt" (i lighed med "teorien om alt"), i det mindste for bestemte domænet opgaver.
Hvad ville kunne gøre deres adfærd mere vilkårlig, frigjort? Mine gennemførte eksperimenter har vist, at den eneste løsning er at have en anden model, der modellerer den første og kan ændre den; det vil sige, at den ikke interagerer med miljøet som den første, men med den første model for at ændre den.
Den første model reagerer på miljøets omstændigheder. Og hvis det mønster, den aktiverer, viser sig at være nyt, aktiveres den anden model, som er trænet til at finde løsninger i den første model ved at genkende alle mulige adfærdsmuligheder i den nye situation. Jeg minder om, at i den nye situation aktiveres der flere adfærdsmuligheder, så spørgsmålet er netop deres selection eller kombination. Dette sker, fordi der, i modsætning til den velkendte situation, i respons til nye omstændigheder aktiveres ikke ét adfærdsmønster, men flere på én gang.
Hver gang hjernen møder noget nyt, udfører den ikke kun én, men to handlinger – genkendelse af situationen i den første model og genkendelse af allerede udførte eller mulige handlinger af den anden model. Og det er i denne struktur, at mange muligheder, der ligner bevidsthed, kommer til udtryk.
- Denne to-trins struktur tillader at tage højde for ikke kun eksterne, men også interne faktorer – i den anden model kan resultaterne af den forrige handling, fjerne motiver for subjektet osv. huskes og genkendes.
- Et sådant system kan skabe ny adfærd med det samme, uden lang tids læring, initieret af miljøet i henhold til evolutionsteorien. For eksempel har den anden model mulighed for at overføre løsninger fra nogle submodeller af den første model til andre dele af den, og mange andre muligheder i metamodellen.
- En særpræglighed ved bevidstheden er tilstedeværelsen af viden om sine handlinger, eller autobiografisk hukommelse, som vist i artikel (1). Den foreslåede to-trins struktur har netop denne evne – den anden model kan gemme data om handlingerne fra den første (ingen model kan gemme data om sine egne handlinger, da den skal indeholde konsistente modeller af sine handlinger, og ikke reaktioner fra miljøet).
Men hvordan opbygges der egentlig en ny adfærd i den to-trins bevidsthedsstruktur? Vi har ikke en hjerne til rådighed eller en engangslignende model af den. Vi begyndte at eksperimentere med verbale rammer som prototyper på de modeller, der findes i vores hjerne. En ramme repræsenterer et sæt af aktanter for verbet, der skal beskrive situationen, og en kombination af rammer kan bruges til at beskrive kompleks adfærd. Rammerne til beskrivelse af situationer – det er rammerne fra den første model, mens rammen til at beskrive sine egne handlinger i den – er rammen fra den anden model med personlige handlingsverber. Vi blander dem ofte, fordi selv en sætning er en blanding af flere handlinger med genkendelse og handling (talehandling). At konstruere lange talemæssige udtryk er det bedste eksempel på vilkårlig adfærd.
Når den første model i systemet genkender et nyt mønster, som den ikke har et programmeret svar på, aktiverer den den anden model. Den anden model samler de aktiverede rammer fra den første og søger en kortere vej i grafen af de sammenhængende rammer, som bedst 'forbinder' mønstrene fra den nye situation med en kombination af rammer. Dette er en ret kompliceret operation, og vi har endnu ikke opnået et resultat, der vil kunne kaldes et 'program for det hele', men de første fremskridt er opmuntrende.
Eksperimenterende undersøgelser af bevidsthed gennem modellering og sammenligning af softwareløsninger med data fra psykologi giver interessant materiale til videre forskning og muliggør test af nogle dårligt verificerede hypoteser i eksperimenter med mennesker. Dette kan betegnes som modellerende eksperimenter. Og dette er kun det første resultat i denne retning af undersøgelsen.
Bibliografi
1. .
Kilde: habr.com
