Quelle est la différence entre un humain et un programme
Les réseaux neuronaux, qui constituent pratiquement tout le domaine de l'intelligence artificielle aujourd'hui, peuvent prendre en compte beaucoup plus de facteurs dans la prise de décision qu'un humain, le faire plus rapidement et dans la plupart des cas plus précisément. Mais les programmes agissent uniquement comme ils ont été programmés ou entraînés. Ils peuvent être très complexes, prendre en compte de nombreux facteurs et agir de manière très variable. Mais ils ne peuvent tout de même pas remplacer l'humain dans la prise de décisions. Qu'est-ce qui distingue un humain d'un tel programme ? Il convient de noter trois différences clés, dont découlent toutes les autres :
- L'humain possède une vision du monde qui lui permet de compléter certaines informations par des données qui ne sont pas spécifiées dans le programme. De plus, cette vision est structurée de manière à ce que nous puissions avoir une certaine compréhension de tout. Même si c'est quelque chose de rond et brillant dans le ciel (OVNI). En général, on construit des ontologies pour cela, mais celles-ci manquent de complétude, tiennent mal compte de la polysemy des concepts, de leurs influences mutuelles et ne sont actuellement applicables que dans des domaines strictement limités.
- L'humain possède une logique qui prend en compte cette vision du monde, ce que nous appelons bon sens. Toute affirmation a un sens et prend en compte des connaissances cachées, non déclarées. Bien que les lois de la logique existent depuis plusieurs siècles, personne ne sait encore comment fonctionne la logique de raisonnement ordinaire, non mathématique. Nous ne savons fondamentalement pas comment programmer même des syllogismes simples.
- L'arbitraire. Les programmes ne possèdent pas d'arbitraire. C'est peut-être la plus complexe de toutes les trois différences. Que désignons-nous par arbitraire ? La possibilité de construire un nouveau comportement, différent de celui que nous avons effectué dans les mêmes circonstances auparavant, ou de construire un comportement dans de nouvelles situations, jamais rencontrées auparavant. En d'autres termes, il s'agit en essence de créer à la volée un nouveau programme de comportement sans essais ni erreurs, en tenant compte des nouvelles circonstances, y compris internes.
L'arbitraire reste un champ inexploré pour les chercheurs. Les algorithmes génétiques, capables de générer un nouveau programme de comportement pour des agents intelligents, ne constituent pas une solution, car ils produisent une solution non pas de manière logique, mais par le biais de « mutations », et la solution est trouvée « aléatoirement » au cours du processus de sélection de ces mutations, c'est-à-dire par essais et erreurs. L'homme trouve la solution immédiatement, en la construisant logiquement. Il peut même expliquer pourquoi une telle solution a été choisie. Un algorithme génétique ne possède pas d'arguments.
Il est connu que plus un animal est haut dans l'échelle évolutive, plus son comportement peut être arbitraire. Et c'est chez l'homme qu'on observe le plus d'arbitraire, car l'homme a la capacité de prendre en compte non seulement les circonstances extérieures et ses compétences acquises, mais aussi des circonstances cachées – des motifs personnels, des informations antérieures, et les résultats d'actions dans des circonstances similaires. Cela augmente considérablement la variabilité du comportement humain, et, à mon avis, c'est précisément la conscience qui contribue à cela. Mais nous en reparlerons un peu plus tard.
Conscience et arbitraire
Quel est alors le lien avec la conscience ? En psychologie du comportement, il est connu que nous effectuons des actions habituelles de manière automatique, machinale, c'est-à-dire sans l'implication de la conscience. C'est un fait remarquable, signifiant que la conscience est impliquée dans la création d'un nouveau comportement, liée au comportement orienté. Cela signifie également que la conscience s'active justement lorsqu'il est nécessaire de changer un schéma de comportement habituel, par exemple, de réagir à de nouvelles demandes en tenant compte de nouvelles possibilités. De plus, certains chercheurs, comme Dawkins ou Metzinger, ont indiqué que la conscience est d'une certaine façon liée à la possession par les humains d'une image de soi, que le modèle du monde inclut également le modèle du sujet lui-même. Comment alors devrait être le système qui posséderait une telle arbitraire ? Quelle structure devrait-il avoir pour pouvoir construire un nouveau comportement adapté à la résolution d'un problème en fonction des nouvelles circonstances ?
Pour cela, nous devons d'abord nous rappeler et préciser certains faits connus. Tous les animaux dotés d'un système nerveux contiennent d'une manière ou d'une autre un modèle de l'environnement, intégré avec un arsenal de leurs possibles actions en son sein. Cela signifie que ce n'est pas seulement un modèle de l'environnement, comme le disent certains chercheurs, mais un modèle de comportement possible dans une situation donnée. C'est également un modèle de prédiction des changements dans l'environnement en réponse à certaines actions de l'animal. Cela n'est pas toujours pris en compte par les scientifiques cognitifs, bien que cela soit indiqué par la découverte des neurones miroirs dans le cortex prémoteur, ainsi que par des études sur l'activation des neurones des macaques, en réponse à la perception d'une banane, où s'activent non seulement les zones de la banane dans le cortex visuel et temporal, mais aussi les mains dans le cortex somatosensoriel, car le modèle de la banane est directement lié à la main, puisque le singe est seulement intéressé par le fruit qu'il peut prendre et manger. Nous oublions simplement que le système nerveux n'est pas apparu pour refléter le monde animal. Ils ne sont pas des sophistes, ils veulent juste manger, donc leur modèle est essentiellement un modèle de comportement plutôt qu'un reflet de l'environnement.
Ce modèle possède déjà un certain degré d'arbitraire, qui se manifeste par la variabilité du comportement dans des circonstances similaires. Les animaux ont donc un certain arsenal d'actions possibles qu'ils peuvent réaliser en fonction de la situation. Ce peuvent être des schémas temporels plus complexes (conditionnés-réflexes) que la réaction directe aux événements. Mais ce n'est toujours pas un comportement complètement arbitraire, ce qui nous permet d'éduquer les animaux, mais pas les humains.
Et ici, il y a un fait important que nous devons prendre en compte : plus les circonstances sont connues, moins le comportement est variable, car le cerveau a une solution. À l'inverse, plus les circonstances sont nouvelles, plus il existe de variantes possibles de comportement. Et toute la question réside dans leur sélection et leur combinaison. Les animaux le font simplement en manifestant tout leur arsenal d'actions possibles, comme l'a démontré Skinner dans ses expériences.
On ne peut pas dire que le comportement aléatoire soit complètement nouveau, il consiste en des patterns de comportement auparavant acquis. C'est leur recombinaison, initiée par de nouvelles circonstances, qui ne correspondent pas complètement aux circonstances pour lesquelles il existe déjà un pattern préparé. Et c'est justement là qu'est le point de séparation entre le comportement aléatoire et le comportement machinal.
Modélisation de l'aléatoire
La création d'un programme de comportement aléatoire, capable de prendre en compte de nouvelles circonstances, permettrait de réaliser un programme universel « de tout » (à l'image de la « théorie du tout ») au moins pour des tâches spécifiques. de domaine tâches.
Qu'est-ce qui pourrait rendre leur comportement plus aléatoire, plus libre ? Les expériences que j'ai menées ont montré que la seule solution réside dans l'existence d'un second modèle, qui modélise le premier et peut le modifier, agissant non pas sur l'environnement comme le premier, mais sur le premier modèle, afin de le changer.
Le premier modèle réagit aux circonstances de l'environnement. Et si le pattern qu'il active s'avère nouveau, le second modèle est appelé, celui qui est formé pour rechercher des solutions dans le premier modèle, en reconnaissant toutes les options de comportement dans la nouvelle situation. Je rappelle que dans la nouvelle situation, davantage d'options de comportement sont activées, c'est donc une question de sélection ou de combinaison. Cela se produit parce qu'à la différence de la situation familière, en réponse à de nouvelles circonstances, non pas un seul pattern de comportement est activé, mais plusieurs.
Chaque fois que le cerveau rencontre quelque chose de nouveau, il effectue non pas un mais deux actes : la reconnaissance de la situation dans le premier modèle et la reconnaissance des actions déjà effectuées ou possibles par le second modèle. Et c'est dans cette structure que se manifestent de nombreuses possibilités, semblables à la conscience.
- Cette structure en deux actes permet de prendre en compte non seulement des facteurs externes, mais aussi internes : dans le second modèle, les résultats de l'action précédente, les motivations latentes du sujet, etc., peuvent être mémorisés et reconnus.
- Un tel système peut construire un nouveau comportement immédiatement, sans apprentissage prolongé initié par l'environnement, conformément à la théorie de l'évolution. Par exemple, le second modèle a la capacité de transférer des solutions d'un sous-modèle du premier modèle à d'autres parties de celui-ci et de nombreuses autres possibilités de métamodèle.
- Une caractéristique distinctive de la conscience est la présence d'une connaissance de ses propres actions, ou de la mémoire autobiographique, comme le montre l'article (1). La structure en deux étapes proposée a justement cette capacité : le deuxième modèle peut stocker des données sur les actions du premier (aucun modèle ne peut stocker des données sur ses propres actions, car pour cela il doit contenir des modèles cohérents de ses actions, et non des réactions de l'environnement).
Mais comment la construction d'un nouveau comportement se déroule-t-elle dans la structure en deux étapes de la conscience ? Nous n'avons pas à notre disposition de cerveau ni même de modèle plausible de celui-ci. Nous avons commencé à expérimenter avec des cadres verbaux en tant que prototypes de modèles présents dans notre cerveau. Un cadre représente un ensemble d'options d'actants du verbe pour décrire une situation, et la combinaison de cadres peut servir à décrire un comportement complexe. Les cadres de description de situations sont des cadres du premier modèle, le cadre de description de ses propres actions en lui est le cadre du deuxième modèle avec des verbes d'actions personnelles. Ils sont souvent mélangés, car même une seule phrase est un mélange de plusieurs actes de reconnaissance et d'action (acte de parole). Et la construction de longues expressions orales est le meilleur exemple de comportement arbitraire.
Lorsque le premier modèle du système reconnaît un nouveau schéma pour lequel il n'a pas de réponse programmée, il appelle le deuxième modèle. Le deuxième modèle rassemble les cadres activés du premier et cherche un chemin plus court dans le graphe des cadres connexes, qui « bouclera » les schémas de la nouvelle situation par une combinaison de cadres de la meilleure manière. C'est une opération assez complexe et nous n'avons pas encore atteint de résultats pouvant prétendre au titre de « programme de tout », mais les premiers succès sont prometteurs.
Les études expérimentales sur la conscience par la modélisation et la comparaison de solutions logicielles avec des données psychologiques offrent un matériel intéressant pour de futures recherches et permettent de vérifier certaines hypothèses peu testées dans des expériences sur des êtres humains. Cela peut être qualifié d'expériences de modélisation. Et c'est seulement le premier résultat dans ce domaine de recherche.
Bibliographie
1. .
Source : habr.com
