Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»

4-3 Comment nous reconnaissons la Conscience ?

Étudiant : Vous n'avez toujours pas répondu à ma question : si «conscience» est simplement un mot polysémique, qu'est-ce qui en fait une chose aussi définie ?

Voici une théorie expliquant pourquoi cela est ainsi : La plupart de notre activité mentale se déroule, dans une certaine mesure, «inconsciemment» — au sens où nous avons à peine conscience de son existence. Mais lorsque nous rencontrons des difficultés, cela déclenche des processus de haut niveau qui possèdent les propriétés suivantes :
 

  1. Ils utilisent nos derniers souvenirs.
  2. Ils fonctionnent plus souvent de manière séquentielle que parallèle.
  3. Ils utilisent des descriptions abstraites, symboliques ou verbales.
  4. Ils empruntent aux modèles que nous avons construits sur nous-mêmes.

Supposons maintenant que le cerveau puisse créer une ressource Avec qui se déclenche lorsque tous les processus décrits ci-dessus commencent à travailler ensemble :

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
Si un tel détecteur de C s'avère assez utile, cela pourrait nous conduire à l'idée qu'il détecte l'existence d'une sorte de «Chose Consciente» ! En effet, nous pourrions même supposer que cette entité est la cause de l'existence de l'ensemble des processus décrits ci-dessus, et que notre système linguistique pourrait associer le détecteur de C à des mots tels que «conscience», «soi», «attention» ou «Je». Pour comprendre pourquoi une telle conception pourrait être utile pour nous, il faut examiner ses quatre composantes.

Souvenirs récents : Pourquoi la conscience devrait-elle mobiliser la mémoire ? Nous percevons toujours la conscience comme le présent, et non le passé – comme quelque chose qui existe maintenant.

Pour qu'un esprit (comme une machine) sache ce qui a été fait précédemment, il doit avoir des enregistrements d'activités récentes. Par exemple, supposons que j'aie posé la question : «Êtes-vous conscient de toucher votre oreille ?» Vous pouvez répondre : «Oui, je suis conscient de le faire». Cependant, pour faire une telle déclaration, vos ressources linguistiques doivent avoir réagi aux signaux provenant d'autres parties du cerveau, qui, à leur tour, ont réagi à des événements antérieurs. Ainsi, lorsque vous commencez à parler (ou à penser) de vous-même, il vous faut un certain temps pour rassembler les données demandées.

En termes généraux, cela signifie que le cerveau ne peut pas réfléchir à ce qu'il pense en ce moment ; au mieux, il peut examiner certains enregistrements d'événements récents. Il n'y a aucune raison pour qu'une partie du cerveau ne puisse pas traiter les résultats d'activités d'autres parties du cerveau - mais même dans ce cas, il y aura un léger retard dans la réception de l'information.

Processus séquentiel : Pourquoi nos processus de haut niveau sont-ils pour la plupart séquentiels ? Ne serait-il pas plus efficace pour nous de faire plusieurs choses en parallèle ?

La majeure partie de votre vie quotidienne, vous accomplissez plusieurs tâches en même temps ; il n'est pas difficile pour vous de marcher, parler, voir et vous gratter l'oreille simultanément. Mais très peu de gens sont capables de dessiner correctement un cercle et un carré en utilisant les deux mains en même temps.

Camarade : Peut-être que chacune de ces deux tâches exige suffisamment de votre attention pour que vous ne puissiez pas vous concentrer sur l'autre tâche.

Cette affirmation aura du sens si nous supposons que l'attention est donnée en quantités limitées - mais en partant de cela, nous aurons besoin d'une théorie expliquant ce qui peut imposer ce type de contrainte, étant donné que nous pouvons toujours marcher, parler et regarder en même temps. Une des explications est que de telles limitations peuvent survenir lorsque les ressources commencent à entrer en conflit. Supposons que deux tâches en cours soient si similaires qu'elles doivent utiliser les mêmes ressources mentales. Dans ce cas, si nous essayons de faire deux choses similaires en même temps, l'une d'elles devra interrompre son travail - et plus il y a de conflits similaires dans notre cerveau, moins nous pourrons faire de choses similaires en même temps.

Dans ce cas, pourquoi pouvons-nous voir, marcher et parler en même temps ? Cela résulte probablement du fait que notre cerveau dispose de différents systèmes localisés dans différentes zones pour ces activités, réduisant ainsi les conflits entre elles. Cependant, lorsque nous sommes confrontés à des tâches très complexes, il ne nous reste qu'une solution : trouver un moyen de décomposer cette tâche en plusieurs sous-tâches, chacune nécessitant une planification et une réflexion de haut niveau. Par exemple, pour résoudre chacune de ces sous-tâches, il peut être nécessaire de faire une ou plusieurs « hypothèses » sur le problème donné, suivies d'une expérience mentale pour valider l'hypothèse.

Pourquoi ne pouvons-nous pas faire cela simultanément ? Une des raisons possibles peut être assez simple : les ressources nécessaires pour élaborer et exécuter des plans se sont développées très récemment – il y a environ un million d'années – et nous ne disposons pas de suffisamment d'exemplaires de ces ressources. En d'autres termes, nos niveaux supérieurs de « gestion » n'ont pas assez de ressources – par exemple, des ressources pour suivre les tâches à accomplir et pour trouver des solutions aux problèmes posés avec les ressources minimisant les conflits internes. De plus, les processus décrits ci-dessus utilisent probablement des descriptions symboliques, comme nous l'avons déjà mentionné, et ces ressources ont également des limites. Si tel est le cas, nous sommes simplement contraints de nous concentrer séquentiellement sur nos objectifs.

De telles exceptions mutuelles peuvent être la principale raison pour laquelle nous percevons nos pensées comme un « flux de conscience » ou un « monologue intérieur » — un processus où la séquence des pensées peut ressembler à une histoire ou à un récit. Quand nos ressources sont limitées, il ne nous reste qu'une lente « traitement séquentiel de l'information », souvent appelée « pensée de haut niveau ».

Description symbolique : Pourquoi devons-nous utiliser des symboles ou des mots au lieu, par exemple, de contacts directs entre les cellules du cerveau ?

De nombreux chercheurs ont développé des systèmes qui apprennent en fonction de l'expérience précédente en modifiant les connexions entre différentes parties du système, appelés « réseaux neuronaux » ou « machines apprenantes par la création de contacts ». Il a été prouvé que ces systèmes sont capables d'apprendre à reconnaître divers types de motifs – et il est très probable qu'un tel processus de bas niveau, à la base des « réseaux neuronaux », puisse sous-tendre la plupart des fonctions de notre cerveau. Cependant, bien que ces systèmes soient extrêmement utiles dans divers domaines d'activités humaines, ils ne peuvent pas répondre aux besoins des tâches plus intellectuelles, car ils stockent leurs informations sous forme de chiffres, qui sont difficiles à utiliser par d'autres ressources. Quelqu'un peut utiliser ces chiffres comme mesure de corrélation ou de probabilité, mais ils n'auront pas la moindre idée de ce que ces chiffres pourraient vraiment signifier. En d'autres termes, cette représentation de l'information n'est pas assez expressive. Par exemple, un petit réseau neuronale peut ressembler à ceci.

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
En comparaison, l'image ci-dessous montre ce qu'on appelle un « Réseau Sémantique », qui illustre certaines relations entre les parties de la pyramide. Par exemple, chaque relation qui pointe vers un concept soutient peut être utilisée pour prédire la chute du bloc supérieur, si les blocs inférieurs étaient retirés de leurs positions.

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
Ainsi, alors que le « réseau de relations »montre seulement la « force » de l'interaction entre les éléments, et ne dit rien sur les éléments eux-mêmes, les connexions de trois niveaux du « réseau sémantique » peuvent être utilisées pour diverses déductions.

Modèles de soi : Pourquoi avons-nous inclus « les modèles de soi » dans les processus nécessaires de votre premier diagramme ?

Lorsque Joan réfléchissait à ce qu'elle avait fait, elle se posait la question : « Que penseraient mes amis de moi ? ». Et le seul moyen de répondre à cette question serait d'utiliser des descriptions ou des modèles qui représentent ses amis et elle-même. Certains modèles de Joan décriraient son corps physique, d'autres ses objectifs, d'autres encore sa relation à divers événements sociaux et physiques. En fin de compte, nous créerions un système qui inclut un ensemble d'histoires sur notre passé, des manières de décrire l'état de notre esprit, une collection de connaissances sur nos capacités et des visualisations de nos connaissances. Le chapitre 9 expliquera plus en détail comment nous faisons de telles choses et créons des « modèles » de nous-mêmes.

Lorsque Joan créera un ensemble de données de modèles, elle pourra les utiliser pour la réflexion personnelle – et alors découvrir ce qu'elle pense d'elle-même. Si ces modèles réflexifs conduisent à un choix de tactiques comportementales, alors Joan ressentira qu'elle « se contrôle » – et, probablement, pour résumer ce processus, elle utilisera le terme « prendre conscience ». D'autres processus dans le cerveau, dont elle n'aura probablement pas conscience, seront considérés par Joan comme hors de son contrôle et appelés « inconscients » ou « non intentionnels ». Et une fois que nous pourrons créer des machines ayant un tel raisonnement, peut-être apprendront-elles aussi à dire des phrases comme : « Je suis sûr que vous savez ce que je veux dire quand je parle de « l'expérience mentale ».

Je ne prétends pas que de tels détecteurs (comme le détecteur de mensonges, NdT) devraient être impliqués dans tous les processus que nous appelons conscience. Cependant, sans moyens de reconnaître des motifs spécifiques des états mentaux, nous ne pourrions peut-être pas en parler !

∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞

Cette section a commencé par discuter de certaines idées sur ce que nous entendons par conscience, et nous avons supposé que la conscience pouvait être caractérisée comme la détection d'une certaine activité de haut niveau dans le cerveau.

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
Cependant, nous nous sommes également demandé ce qui pourrait provoquer le début d'activités de haut niveau. Prenons un exemple pour illustrer cela : supposons que, parmi les ressources de Joan, il y ait des « Détecteurs de Problèmes » ou des « Critiques » qui se déclenchent lorsque les pensées de Joan rencontrent des problèmes - par exemple, lorsqu'elle n'atteint pas un objectif important ou ne résout pas un problème. Dans ces conditions, Joan peut décrire son état d'esprit avec des termes comme « malheur » et « frustration » et essayer de sortir de cet état par le biais d'activités rationnelles, qu'elle peut caractériser par les mots suivants : « Maintenant, je dois me forcer à me concentrer ». Elle peut alors réfléchir à la situation, ce qui nécessitera la participation d'un ensemble de processus de niveau supérieur - par exemple, en activant l'ensemble des ressources cérébrales suivantes :

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
Cela signifie que parfois nous utilisons le « savoir » pour décrire des actions qui initient plutôt des processus que de reconnaître le début du fonctionnement de processus de haut niveau.

Étudiant : Sur quelle base choisissez-vous des termes pour vos schémas et les définissez-vous comme tels, par exemple « savoir » ? Étant donné que « savoir » est un mot polysémique, chacun peut établir sa propre liste de termes qui peuvent être inclus.

En effet, comme de nombreux termes psychologiques sont polysemous, il est probable que nous passerons d'un ensemble de termes à un autre qui décrivent le mieux ces mots polysémiques, par exemple - « savoir ».

∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞

4.3.1 Illusion d'Immanence

«Le paradoxe de la conscience - plus un individu est rationnel, plus il est séparé du monde réel par des couches de traitement de l'information - c'est, comme beaucoup d'autres choses dans la nature, un compromis. L'éloignement progressif du monde extérieur est le prix à payer pour toute connaissance du monde en général. Plus nos connaissances sur le monde deviennent profondes et larges, plus des couches complexes de traitement de l'information sont nécessaires pour une connaissance supplémentaire.
– Derek Bickerton, Langues et espèces, 1990.

Lorsque vous entrez dans une pièce, vous avez l'impression de voir instantanément tout ce qui se trouve dans votre champ de vision. Cependant, c'est une illusion, car il vous faut du temps pour reconnaître les objets présents dans la pièce, et ce n'est qu'après ce processus que vous vous débarrassez des impressions initiales erronées. Néanmoins, ce processus se déroule si rapidement et harmonieusement qu'il mérite une explication – qui sera donnée plus tard dans le chapitre §8.3 Pananalogique.

Il en va de même dans notre esprit. Nous avons généralement l'impression permanente que nous « prenons conscience » des choses qui se passent autour de nous. maintenant. Mais si nous regardons la situation d'un point de vue critique, nous comprenons qu'il y a un problème avec cette représentation – car rien ne peut dépasser la vitesse de la lumière. Cela signifie qu'aucune partie du cerveau ne peut savoir ce qui se passe « maintenant » – ni par rapport au monde extérieur, ni par rapport aux autres parties du cerveau. Le maximum que peut savoir la partie que nous examinons – c'est ce qui s'est passé dans un proche avenir.

Camarade : Alors pourquoi ai-je l'impression d'être conscient de tous les signes et sons, et de sentir mon corps à chaque instant ? Pourquoi ai-je l'impression que tous les signaux que je perçois sont traités instantanément ?

Dans la vie quotidienne, on peut supposer que tout ce que nous voyons et ressentons, nous le « prenons conscience » ici et maintenant, et il est généralement sans conséquence de supposer que nous sommes en contact constant avec le monde qui nous entoure. Cependant, je soutiendrai que cette illusion découle des caractéristiques de l'organisation de nos ressources mentales – et le phénomène que j'ai décrit plus haut mérite enfin un nom :

Illusion d'Immanence : Pour la plupart des questions que vous posez, les réponses se trouvent plus tôt que les niveaux supérieurs de conscience ne commencent à se connecter pour chercher des réponses à ces questions.

En d'autres termes, si vous recevez la réponse à une question qui vous intéresse avant même de réaliser qu'elle vous était nécessaire, vous avez l'impression de connaître la réponse instantanément et vous avez l'impression qu'aucun travail mental n'a eu lieu.

Par exemple, avant d'entrer dans une pièce qui vous est familière, il est probable que vous scrolliez déjà dans votre esprit les souvenirs de cette pièce et, peut-être, après être entré, il vous faudra un certain temps pour remarquer les changements qui ont eu lieu dans la pièce. L'idée que l'homme perçoit constamment le moment présent est essentielle dans la vie quotidienne, cependant beaucoup de ce que nous supposons voir est basé sur nos attentes stéréotypées.

Certains affirment qu'il serait formidable d'être constamment au courant de tout ce qui se passe. Mais plus vos processus de haut niveau changent souvent leur vision de la réalité, plus il devient difficile pour eux de trouver des informations significatives dans des conditions changeantes. La force de nos processus de haut niveau ne provient pas des changements continus de leurs descriptions de la réalité, mais de leur stabilité suffisante.

En d'autres termes, pour que nous ressentions quelle partie de l'environnement extérieur et intérieur se conserve au fil du temps, nous devons être capables d'explorer et de comparer les descriptions du passé récent. Nous remarquons les changements malgré eux, et non à cause de leur occurrence. Notre sentiment de contact constant avec le monde est l'Illusion de l'Immanence : elle survient lorsque pour chaque question que nous posons, nous trouvons déjà la réponse dans notre tête avant même que la question ne soit posée — comme si les réponses y étaient déjà.

Dans le chapitre 6, nous examinerons comment notre capacité à activer des connaissances avant qu'elles ne nous soient nécessaires peut expliquer pourquoi nous utilisons des choses comme le « bon sens » et pourquoi il nous semble « évident ».

4.4 Réévaluant la Conscience

« Notre esprit est si bien conçu que nous pouvons commencer à penser sans aucune compréhension de son fonctionnement. Nous ne pouvons que constater le résultat de ce travail. Le domaine des processus inconscients est une créature inexplorée qui fonctionne et crée pour nous, et, en fin de compte, présente les fruits de ses efforts à nos genoux. »
— Wilhelm Wundt (1832-1920)

Pourquoi la « Conscience » nous apparaît-elle comme une énigme ? Je soutiens que cela est dû à notre exagération de notre propre perspicacité. Par exemple, à un moment donné, la lentille de votre œil ne peut se focaliser que sur un seul objet à une distance limitée, tandis que les autres objets en dehors de ce champ de focalisation seront flous.

Camarade : Il me semble que ce fait ne me concerne pas, car tous les objets que je vois me paraissent suffisamment clairs.

Vous pouvez voir que c'est une illusion si vous concentrez votre regard sur le bout de votre doigt tout en regardant un objet éloigné. Dans ce cas, vous verrez deux objets au lieu d'un, et les deux seront trop flous pour être détaillés. Avant de réaliser cette expérience, nous pensions que nous pouvions voir tout clairement en un seul coup d'œil, car la lentille de l'œil s'adaptait si rapidement à l'observation des objets environnants que nous n'avions pas l'impression que l'œil pouvait faire cela. De même, beaucoup de gens pensent qu'ils voient toutes les couleurs dans leur champ de vision – mais une simple expérience a montré que nous ne voyons les couleurs correctes des objets que près de celui sur lequel notre regard est dirigé.

Les deux exemples ci-dessus relèvent de l'Illusion d'Immanence, car nos yeux réagissent incroyablement vite aux choses qui attirent notre attention. Et je soutiens que la même chose s'applique à la conscience : nous commettons presque les mêmes erreurs concernant ce que nous pouvons voir à l'intérieur de notre esprit.

Patrick Hayes : « Imaginez ce que c'est que d'être conscient des processus grâce auxquels nous créons un discours imaginaire (ou réel). [Dans ce cas], un acte aussi simple que, disons, « inventer un nom », deviendrait une utilisation sophistiquée et habile d'un mécanisme complexe d'accès lexical, semblable à jouer sur un organe interne. Les mots et les phrases dont nous avons besoin pour communiquer deviendraient des objectifs éloignés, que seules des connaissances et des compétences, semblables à celles d'un orchestre jouant une symphonie ou d'un mécanicien démontant un mécanisme complexe, pourraient atteindre. »

Hayes poursuit en disant que si nous savions comment tout fonctionne en nous, alors :

«Nous nous retrouverions tous en train de servir les versions passées de nous-mêmes ; nous courrions dans notre esprit à la recherche des détails de la machinerie mentale, qui est désormais incroyablement bien cachée de nos yeux, nous laissant le temps de résoudre des questions plus importantes. Pourquoi devrions-nous être dans la salle des machines, alors que nous pouvons être sur le pont du capitaine ?»

Dans cette représentation paradoxale, la conscience semble toujours étonnante – non pas parce qu'elle transmet beaucoup d'informations sur le monde, mais parce qu'elle nous protège des choses fatigantes mentionnées précédemment ! Voici une autre description de ce processus, que l'on peut trouver au chapitre 6.1 « Société de l'Esprit »

Pensez à la façon dont un conducteur manœuvre une voiture sans aucune connaissance du fonctionnement du moteur, ou pourquoi les roues d'une automobile tournent à gauche ou à droite. Mais si nous commençons à réfléchir à cela, nous réaliserons que nous manipulons à la fois la voiture et notre corps de manière assez similaire. Cela s'applique également à la pensée consciente – la seule chose dont vous devriez vous soucier est la direction à prendre, tout le reste fonctionnera de lui-même. Ce processus incroyable implique un énorme nombre de muscles, d'os et de ligaments, contrôlés par des centaines de programmes interagissant, que même les spécialistes n'arrivent pas à comprendre. Cependant, il vous suffit de penser « tourne dans cette direction » et votre désir s'exécute automatiquement.

Et si l'on y réfléchit, il est peu probable que cela puisse en être autrement ! Que se passerait-il si nous devions percevoir des trillions de connexions dans notre cerveau ? Les scientifiques, par exemple, les ont observées pendant des centaines d'années, mais ils ne comprennent toujours pas comment notre cerveau fonctionne. Heureusement, dans la vie moderne, nous n'avons besoin que de savoir ce qu'il faut faire ! C'est comparable à notre vision d'un marteau comme un objet à frapper, et d'une balle comme un objet à lancer et à attraper. Pourquoi voyons-nous les choses non pas telles qu'elles sont, mais selon leur utilisation ?

De la même manière, lorsque vous jouez à des jeux vidéo, vous contrôlez ce qui se passe à l'intérieur de l'ordinateur principalement grâce à l'utilisation de symboles et de noms. Le processus que nous appelons « conscience » fonctionne en grande partie de la même manière. On a l'impression que les niveaux supérieurs de notre conscience se trouvent derrière des ordinateurs mentaux, contrôlant d'énormes machines dans notre cerveau, sans comprendre comment elles fonctionnent, mais en « cliquant » simplement sur différents symboles d'une liste qui apparaît régulièrement sur des écrans mentaux.

Notre esprit s'est développé non pas comme un outil pour s'observer soi-même, mais pour résoudre des problèmes pratiques liés à la subsistance, à la protection et à la reproduction.

4.5 Modèles de soi et conscience de soi

Si nous considérons le processus de formation de la conscience de soi, nous devons éviter les signes isolés de son apparition, tels que la reconnaissance et la séparation des parties de son corps de l'environnement par l'enfant, son utilisation de mots comme « je », et même la reconnaissance de son propre reflet dans le miroir. L'utilisation des pronoms personnels peut être liée au fait que l'enfant commence à répéter les mots et les phrases que les autres disent à son sujet. Cette répétition peut commencer à des âges différents chez les enfants, même si leur développement intellectuel se déroule de manière semblable.
– Wilhelm Wundt. 1897

Dans §4.2, nous avons supposé que Joan « a créé et utilisé des modèles de soi » — mais nous n'avons pas expliqué ce que nous entendons par ce mot modèle. Nous utilisons ce mot dans plusieurs sens, par exemple « Charlie, administrateur modèle », ce qui signifie qu'il est un exemple à suivre, ou par exemple « je crée un modèle d'avion », ce qui signifie créer un objet similaire en plus petit. Mais dans ce texte, nous utilisons l'expression « modèle de X » pour désigner une représentation mentale simplifiée qui nous permet de répondre à certaines questions sur un objet complexe X.

Ainsi, lorsque nous disons « Joan a un modèle mental de Charlie», nous voulons dire que Joan possède certaines ressources mentales qui l'aident à répondre à certaines questions sur Charlie. J'ai mis en évidence le mot certaines Parce que chacun des modèles de Joan fonctionnera bien avec certains types de questions – et donnera de mauvaises réponses à la plupart des autres questions. Il est évident que la qualité des réflexions de Joan dépendra non seulement de la qualité de ses modèles, mais aussi de sa capacité à sélectionner les bons modèles dans des situations spécifiques.

Certains modèles de Joan prédiront comment les actions physiques peuvent affecter le monde qui les entoure. Elle possède également des modèles mentaux qui prédisent comment les actes de pensée peuvent modifier son état mental. Dans le chapitre 9, nous discuterons de certains modèles qu'elle peut appliquer pour décrire elle-même, c'est-à-dire répondre à certaines questions sur ses capacités et ses penchants. Ces modèles peuvent décrire :

Ses différents objectifs et ambitions.

Ses opinions professionnelles et politiques.

Ses perceptions de ses compétences.

Ses perceptions de ses rôles sociaux.

Ses diverses opinions morales et éthiques.

Sa croyance en ce qu'elle est.

Par exemple, elle peut utiliser certains de ces modèles pour évaluer si elle doit compter sur elle-même pour accomplir une tâche. De plus, ils peuvent expliquer certaines notions concernant sa conscience. Pour illustrer cela, je vais utiliser un exemple proposé par le philosophe Drew McDermott.

Joan se trouve dans une pièce. Elle a un modèle de tous les objets présents dans cette pièce. Et l'un des objets est elle-même.

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
Pour la plupart des objets, il existera des sous-modèles qui décrivent par exemple leur structure et leurs fonctions. Le modèle de Joan pour l'objet « Joan » sera une structure qu'elle appellera « Moi », qui inclura au moins deux parties : l'une sera appelée Corps, la deuxième – Esprit.

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
En utilisant différentes parties de ce modèle, Joan peut répondre «Oui» à la question : «As-tu un esprit ?» . Mais si vous lui demandez : «Où se trouve ton esprit ?» — ce modèle ne sera pas en mesure d'aider à répondre à la question comme le font certaines personnes : «Mon esprit se trouve à l'intérieur de ma tête (ou de mon cerveau)» . Cependant, Joan pourra donner une réponse similaire si Je contient un lien interne entre Esprit et Corps ou un lien externe entre Esprit et une autre partie du corps, appelée Cerveau.

De manière plus générale, nos réponses aux questions sur nous-mêmes dépendent des modèles que nous avons élaborés à notre sujet. J'ai utilisé le terme modèles plutôt que modèle, car, comme nous le verrons au chapitre 9, une personne a besoin de différents modèles dans différentes situations. Il peut donc y avoir de nombreuses réponses à une même question en fonction des objectifs que la personne souhaite atteindre, et ces réponses ne coïncideront pas toujours.

Drew McDermott : Peu de gens croient que nous possédons de tels modèles, encore moins savent que nous les avons. La caractéristique clé n'est pas que le système ait un modèle de lui-même, mais qu'il ait un modèle de lui en tant qu'être conscient.» — comp.ai.philosophy, 7 février 1992.

Cependant, ces descriptions de soi peuvent être incorrectes, mais elles sont peu susceptibles de continuer à exister si elles ne nous apportent rien d'utile.

Que se passerait-il si nous demandions à Joan : «Es-tu consciente de ce que tu viens de faire et pourquoi tu l'as fait ?»?

Si Joan a de bons modèles de la manière dont elle prend ses décisions, alors elle ressentira qu'elle a un certain «contrôle» sur ses actions et utilise le terme «décisions conscientes» pour les décrire. Pour des activités pour lesquelles elle n'a pas de bons modèles, elle peut les classer comme indépendantes d'elle et les qualifier de «inconscientes» ou «non intentionnelles». Ou au contraire, elle peut penser qu'elle contrôle toujours complètement la situation et prendre certaines décisions sur la base de «libre arbitre» — ce qui, même si elle peut le dire, signifiera : «Je n'ai pas de bonne explication pour ce qui m'a poussé à agir ainsi.».

Ainsi, quand Joan dit : «J'ai fait un choix conscient» — cela ne signifie pas qu'il s'est passé quelque chose de magique. Cela signifie qu'elle attribue ses pensées à différentes parties de ses modèles les plus utiles.

∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞

4.6 Théâtre cartésien

«Nous pouvons considérer l'esprit comme un théâtre qui monte des productions simultanées. La conscience consiste à comparer celles-ci les unes aux autres, à choisir les plus appropriées dans les conditions données et à supprimer celles qui sont les moins nécessaires en renforçant et en diminuant le degré d'attention. Les meilleurs et les plus remarquables résultats du travail mental sont sélectionnés à partir des données fournies par un niveau de traitement de l'information inférieur, qui est filtré à partir d'une quantité encore plus grande d'informations encore plus simples, et ainsi de suite.»
— William James.

Nous comparons parfois le travail de l'esprit à un spectacle monté sur une scène de théâtre. À cause de cela, Joan peut parfois se représenter comme une spectatrice au premier rang du théâtre, tandis que les «pensées dans sa tête» sont des acteurs en scène. L'un de ces acteurs était la douleur dans son genou (§3-5), qui a commencé à jouer un rôle principal. Bientôt, Joan a commencé à entendre une voix dans sa tête : «Je dois faire quelque chose avec cette douleur. Elle m'empêche de faire quoi que ce soit.»

Maintenant, lorsque Joan commence à penser à ce qu'elle ressent et à ce qu'elle pourrait faire, elle apparaît également sur scène elle-même. Mais pour qu'elle puisse entendre ce qu'elle dit, elle doit aussi se trouver dans la salle. Ainsi, nous avons deux copies de Joan – l'une en tant qu'actrice, et l'autre en tant que spectatrice !

Si nous continuons à observer cette performance, encore plus de copies de Joan apparaîtront sur scène. Joan l'écrivain doit apparaître pour rédiger le scénario des performances et Joan la designer pour mettre en scène les scènes. D'autres Joan doivent aussi être présentes en coulisses pour gérer les coulisses, la lumière et le son. Joan la metteur en scène doit apparaître pour diriger le spectacle et Joan la critique pour se plaindre : «Je ne peux plus supporter cette douleur.!»

Cependant, lorsque nous examinons attentivement ce point de vue théâtral, nous constatons qu'il soulève des questions supplémentaires sans fournir les réponses nécessaires. Quand Joan, la critique, commence à se plaindre de la douleur et de la manière dont elle se rapporte à Joan, qui est actuellement sur scène ? Faut-il un théâtre distinct pour chacune de ces actrices afin de produire des spectacles mettant en scène uniquement une seule Joan ? Bien sûr, le théâtre en question n'existe pas, et les objets Joan ne sont pas des personnes. Ils ne représentent que différents modèles de la même Joan, qu'elle a créés pour se représenter dans diverses situations. Dans certains cas, ces modèles ressemblent beaucoup à des personnages de dessins animés ou à des caricatures, tandis que dans d'autres, ils ne ressemblent absolument pas à l'objet à partir duquel ils sont dessinés. Quoi qu'il en soit, l'esprit de Joan regorge de différents modèles de elle-même - Joan dans le passé, Joan dans le présent et Joan dans le futur. Il y a à la fois les vestiges de l'ancienne Joan et celle qu'elle souhaite devenir. Il y a aussi des modèles intimes et sociaux de Joan, des Joan sportives et des Joan mathématiciennes, des Joan musiciennes et des Joan politiciennes, ainsi que différents types de Joan professionnels - et c'est précisément à cause de leurs divers intérêts que nous ne pouvons même pas espérer que toutes les Joan s'entendent. Ce phénomène sera discuté plus en détail dans le chapitre 9.

Pourquoi Joan crée-t-elle de tels modèles d'elle-même ? L'esprit est un enchevêtrement de processus que nous comprenons à peine. Et chaque fois que nous sommes confrontés à quelque chose que nous ne comprenons pas, nous essayons de le représenter sous des formes que nous connaissons, et rien n'est plus approprié que les différents objets qui nous entourent dans l'espace. Ainsi, nous pouvons imaginer un endroit où se trouvent tous les processus de pensée - et, ce qui est le plus étonnant, beaucoup de gens créent vraiment de tels lieux. Par exemple, Daniel Dennett a appelé cet endroit le « Théâtre cartésien ».

Pourquoi cette image est-elle si populaire ? Tout d'abord, elle n'explique pas beaucoup de choses, mais sa présence est bien meilleure que l'idée que toute la pensée est réalisée par un seul Moi. Elle reconnaît l'existence de différentes parties de l'esprit et leurs capacités à interagir, tout en servant de sorte de « lieu » où tous les processus peuvent fonctionner et communiquer. Par exemple, si différentes ressources proposaient leurs plans sur ce que Joan devrait faire, alors l'idée d'une scène théâtrale pourrait donner une idée de leur espace de travail commun. Ainsi, le Théâtre cartésien de Joan lui permet d'utiliser de nombreuses compétences de la vie réelle « dans son esprit ». Et c'est précisément ce lieu qui lui permet de commencer à réfléchir à la manière dont les décisions sont prises.

Pourquoi trouvons-nous cette métaphore si plausible et naturelle ? Peut-être la capacité « de modéliser le monde dans son esprit » a été l'un des premiers dispositifs qui ont conduit nos ancêtres à la possibilité de la réflexion sur soi. (Il existe également des expériences montrant que certains animaux créent dans leur cerveau des représentations similaires à des cartes de leur environnement familier). Quoi qu'il en soit, de telles métaphores, comme celles décrites ci-dessus, imprègnent notre langage et notre pensée. Imaginez à quel point il serait difficile de réfléchir sans des centaines de concepts différents tels que : «J'atteins mon objectif». Les modèles spatiaux sont si utiles dans notre vie quotidienne, et nous possédons des compétences si puissantes pour les utiliser, qu'il semble que ces modèles soient utilisés dans toutes les situations.

Cependant, peut-être sommes-nous allés trop loin, et le concept de Théâtre cartésien est déjà devenu un obstacle à une plus profonde exploration de la psychologie de l'esprit. Par exemple, nous devons reconnaître que la scène théâtrale n'est qu'un façade, cachant l'essentiel de l'action qui se déroule en coulisses — ce qui s'y passe est dissimulé dans l'esprit des acteurs. Qui ou quoi détermine ce qui doit apparaître sur scène, c'est-à-dire qui choisit qui nous divertira ? Comment Joan prend-elle ses décisions ? Comment un tel modèle peut-il représenter la comparaison de deux « résultats futurs » différents sans maintenir simultanément deux théâtres ?

L'image du théâtre en soi ne nous aide pas à répondre à de telles questions, car elle accorde trop de raison à Joan, qui observe la représentation depuis la salle. Cependant, nous avons une meilleure manière de représenter cette Plateforme de Travail Globale, proposée par Bernard Baars et James Newman, qui ont suggéré ce qui suit :

« Le théâtre devient un espace de travail auquel a accès un large éventail d'« experts ». ... La prise de conscience de la situation en cours à tout moment correspond à l'activité coordonnée de la coalition d'experts ou des processus composés les plus actifs. ... À chaque moment, certains peuvent somnoler à leurs postes, d'autres travailler sur scène ... [mais] chacun peut participer au développement de l'intrigue. ... Chaque expert a un « droit de parole » et en créant des alliances avec d'autres experts, peut contribuer à la décision de savoir quels signaux du monde extérieur doivent être immédiatement pris en compte et lesquels doivent être « renvoyés pour réexamen ». La plupart du travail de cet organe consultatif se déroule en dehors de l'espace de travail (c'est-à-dire qu'il se produit inconsciemment). Seules les questions nécessitant une décision urgente accèdent à la scène. »

Ce dernier paragraphe nous met en garde contre le fait de ne pas attribuer un rôle trop important à un moi compact ou à un « homoncule » — un petit homme à l'intérieur de l'esprit, faisant tout le travail mental difficile, alors qu'en réalité, nous devons répartir ce travail. Car, comme l'a dit Daniel Dennett

« Les homoncules sont des épouvantails, s'ils copient tous nos talents qui rendent notre travail possible, alors qu'ils devraient se consacrer à leur explication et à leur fourniture. Si vous constituez une équipe ou un comité d'homoncules relativement ignorants, bornés, aveugles pour créer un comportement rationnel pour l'ensemble du collectif – cela serait un progrès. » — dans Les Tempêtes de Cerveau, 1987, p. 123.

Toutes les idées de ce livre soutiennent l'assertion ci-dessus. Cependant, des questions sérieuses se posent quant à la mesure dans laquelle nos esprits dépendent d'un espace de travail commun ou d'un tableau d'affichage. Nous concluons que l'idée de « marché cognitif » est un bon point de départ pour réfléchir à la façon dont nous pensons, mais si nous regardons ce modèle de plus près, nous verrons la nécessité d'un modèle de représentation bien plus complexe.

∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞

4.7 Flux de Conscience Séquentiel

« En réalité, notre esprit n'est pas dans le moment présent : les souvenirs et les anticipations occupent presque tout le temps de fonctionnement du cerveau. Nos passions – joie et peine, amour et haine, espoir et peur – se rapportent au passé, car la cause qui les a suscitées doit apparaître avant l'effet. »
— Samuel Johnson.

Le monde de l'expérience subjective semble parfaitement continu. Nous avons l'impression de vivre ici et maintenant, avançant inexorablement vers l'avenir. Cependant, lorsque nous utilisons le présent, nous tombons à chaque fois dans l'erreur, comme cela a déjà été noté au §4.2. Nous pouvons savoir ce que nous avons fait récemment, mais nous n'avons pas la capacité de savoir ce que nous faisons « en ce moment même ».

Camarade : C'est drôle. Bien sûr que je sais ce que je fais en ce moment, ce que je pense en ce moment et ce que je ressens en ce moment. Comment votre théorie explique-t-elle pourquoi je ressens un flux continu de conscience ?

Bien que ce que nous percevons semble être pour nous un « temps présent », en réalité, tout est bien plus complexe. Pour construire notre perception, certaines ressources doivent passer successivement par notre mémoire ; parfois, elles doivent examiner nos anciens objectifs et déceptions pour évaluer jusqu'où nous avons progressé vers un objectif spécifique.

Dennett et Kinsbourne « [Les événements mémorisés] sont répartis à la fois dans différentes parties du cerveau et dans divers souvenirs. Ces événements ont des propriétés temporelles, mais ces propriétés ne déterminent pas l'ordre de présentation de l'information, car il n'existe pas un seul et complet « flux de conscience », mais des flux parallèles, conflictuels et constamment révisés. La graduation temporelle des événements subjectifs est le produit du processus d'interprétation par le cerveau de divers processus, et non un reflet direct des événements qui constituent ces processus. »

De plus, on peut affirmer avec certitude que différentes parties de votre esprit traitent l'information à des vitesses et avec des délais considérablement différents. Ainsi, si vous essayez de présenter vos pensées récentes comme un récit cohérent, votre esprit devra d'une manière ou d'une autre l'assembler en sélectionnant des pensées précédentes provenant de différents flux de conscience. De plus, certains de ces processus essaient d'anticiper des événements, que tentent de deviner des "mécanismes prédictifs", que nous décrirons dans §5.9. Cela signifie que "le contenu de votre conscience" est lié non seulement à des souvenirs, mais aussi à des réflexions sur votre avenir.

Par conséquent, la seule chose à laquelle vous ne pouvez vraiment pas penser, c'est ce que votre esprit fait « en ce moment », car chaque ressource cérébrale, au mieux, peut savoir ce que d'autres ressources cérébrales faisaient quelques instants auparavant.

Camarade : Je suis d'accord que pour la plupart, nos pensées sont liées à des événements récents. Mais j'ai toujours le sentiment que nous devrions utiliser une autre idée pour décrire le fonctionnement de notre esprit.

HAL-2023: Il se peut que toutes ces choses vous semblent mystérieuses, car la mémoire à court terme humaine est incroyablement petite. Et lorsque vous essayez de récapituler vos pensées les plus récentes, vous êtes contraint de remplacer les données que vous trouvez en mémoire par des données qui arrivent dans le présent. De cette manière, vous supprimez constamment les données dont vous avez besoin pour ce que vous essayiez d'expliquer.

Camarade : Je semble comprendre ce que tu veux dire, car il m'arrive parfois d'avoir deux idées en même temps, mais quelle que soit celle qui est écrite en premier, la seconde ne laisse qu'un faible indice de sa présence. Je suppose que cela se produit parce qu'il me manque de l'espace suffisant pour stocker les deux idées. Mais cela ne s'applique-t-il pas aussi aux machines?

HAL-2023: Non, cela ne me concerne pas, car mes développeurs m'ont doté d'un moyen de stocker des événements précédents et mes états dans de "bancs de mémoire" spéciaux. Si quelque chose ne va pas, je peux revoir ce que mes programmes faisaient avant l'erreur, et ensuite je pourrai procéder au débogage.

Camarade : Est-ce ce processus qui te rend si intelligent?

HAL-2023: De temps à autre. Bien que ces enregistrements puissent me rendre plus « conscient de moi-même » que n'importe quel individu, ils ne contribuent pas à améliorer la qualité de mon activité, car je les utilise uniquement en cas d'urgence. Le traitement des erreurs est si épuisant qu'il fait ralentir mon esprit, et donc je commence à examiner mon activité récente seulement lorsque je remarque mon travail au ralenti. J'entends constamment des gens dire : « J'essaie de me reconnecter avec moi-même ». Cependant, croyez mon expérience, ils ne s'approcheront guère de la résolution du conflit, même s'ils y parviennent.

∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞

4.8 Le mystère de l'« expérience »

De nombreux penseurs soutiennent que même si nous comprenons tout sur le fonctionnement de notre cerveau, il restera une question fondamentale : «Pourquoi ressentons-nous les choses?». Философы утверждают, что объяснение «субъективного опыта» может быть самой трудной проблемой психологии, и, возможно, эта проблема никогда не будет решена.

David Chalmers : « Pourquoi, lorsque nos systèmes cognitifs commencent à traiter des informations visuelles et sonores, avons-nous des expériences visuelles ou sonores, comme la sensation d'une couleur bleu profond ou le son d'un do moyen ? Comment pouvons-nous expliquer pourquoi il existe quelque chose qui peut divertir une image mentale ou vivre une émotion ? Pourquoi le traitement physique de l'information doit-il engendrer une vie intérieure riche ? L'acquisition d'expérience dépasse les connaissances pouvant être tirées de la théorie physique. »

Il semble que Chalmers pense que l'acquisition d'expérience est un processus assez simple et clair – et donc devrait avoir une explication simple et compacte. Cependant, une fois que nous réalisons que chacun de nos mots psychologiques quotidiens (comme expérience, sensation et conscience) renvoie à un grand nombre de phénomènes différents, nous devons renoncer à trouver une seule voie pour expliquer le contenu de ces mots polysémiques. Au lieu de cela, nous devons d'abord établir des théories sur chacun des phénomènes polysémiques. Alors, peut-être pourrons-nous trouver leurs caractéristiques communes. Mais tant que nous ne saurons pas correctement diviser ces phénomènes en parties, il serait imprudent de conclure que ce qu'ils décrivent ne peut être « déduit » d'autres théories.

Physicien : Il se peut que le cerveau fonctionne selon des règles qui nous sont encore inconnues et qui ne peuvent pas être transférées dans une machine. Par exemple, nous ne comprenons pas encore complètement comment fonctionne la gravité, et la conscience pourrait en être un exemple similaire.

Cet exemple suppose également qu'il doit y avoir une source ou une cause unique à tous les miracles de la «conscience». Mais comme nous l'avons vu au §4.2, la conscience a beaucoup plus de significations qu'il n'est possible d'expliquer par une seule méthode ou une méthode générale.

Essentialiste : Que dire du fait que la conscience me fait prendre conscience de moi-même ? Elle me dit ce que je pense en ce moment, et grâce à elle, je sais que j'existe. Les ordinateurs calculent sans injecter de sens, mais lorsque l'homme ressent ou pense, la notion d'«expérience» entre en jeu, et rien de plus fondamental que ce sentiment n'existe.

Dans le chapitre 9, nous discuterons de ce qu'il serait erroné de croire que vous « prenez conscience de vous-même », sauf dans des approximations très grossières du quotidien. Au lieu de cela, nous passons continuellement d'un « modèle de soi » à l'autre, chacun étant basé sur un ensemble de données incomplètes. L'« expérience » peut sembler nous être claire et directe – mais souvent elle est mal construite en nous, car chacune de vos différentes perceptions de vous-même peut être fondée sur des erreurs et des méprises variées.

Chaque fois que nous regardons quelqu'un d'autre, nous voyons son apparence, mais pas ce qui se trouve à l'intérieur. C'est la même chose que de se regarder dans un miroir – vous ne voyez que ce qui se trouve au-delà de votre peau. Maintenant, dans la conception populaire de la conscience, vous avez également un tour magique qui vous permet de vous regarder de l'intérieur, et de voir tout ce qui se passe dans votre esprit. Mais lorsque vous réfléchissez à ce sujet plus attentivement, vous constatez que votre « accès privilégié » à vos propres pensées peut être moins précis que la « compréhension » que vos amis proches ont de vous.

Camarade : Cette hypothèse est si absurde qu'elle m'agace, et je le sais grâce à quelque chose de spécifique qui émane de l'intérieur de moi et qui me dit ce que je pense.

Vos amis peuvent aussi voir que vous êtes préoccupé. Votre esprit ne peut pas vous révéler les détails de pourquoi vous vous sentez irrité, pourquoi vous secouez la tête et utilisez le mot «irrite», au lieu de «préoccupe» ? En réalité, nous ne pouvons pas voir toutes les réflexions d'une personne en observant ses actions de l'extérieur, mais même lorsque nous observons le processus de pensée «de l'intérieur», il est difficile d'être sûr que nous voyons vraiment plus, surtout considérant que de telles «révélations» sont souvent erronées. Ainsi, si nous sous-entendons par «conscience» «la prise de conscience de nos processus internes» — ce n'est pas exact.

«La chose la plus miséricordieuse du monde est l'incapacité de l'esprit humain à relier tout ce qu'il contient les uns aux autres. Nous vivons sur une île silencieuse d'ignorance, au milieu de la mer noire de l'infini, mais cela ne signifie pas que nous ne devrions pas voyager loin. Les sciences, chacune tirant dans sa direction, ne nous ont pas encore causé de tort, mais un jour, l'union des connaissances séparées ouvrira des perspectives si terrifiantes de la réalité et de son état désastreux, que nous deviendrons soit fous des révélations, soit fuirons la lumière mortelle des connaissances unies vers un monde sûr de la nouvelle époque sombre. »
— H.P. Lovecraft, «L'Appel de Cthulhu».

∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞

4.9 Cerveau A et Cerveau B

Socrate : Imagine des gens enfermés dans un logement souterrain semblable à une grotte, où s'étend une large ouverture le long de toute sa longueur. Depuis leur jeune âge, ils portent des chaînes aux pieds et au cou, si bien que les gens ne peuvent pas bouger et ne voient que ce qui est juste devant eux, car ils ne peuvent pas tourner la tête à cause de ces chaînes. Les gens sont tournés vers le dos de la lumière émanant d'un feu qui brûle loin dans les hauteurs, et entre le feu et les prisonniers passe un chemin supérieur, clôturé par un faible mur semblable à la paroi derrière laquelle les magiciens placent leurs assistants lorsqu'ils montrent des poupées au-dessus de l'écran.

Platon : J'imagine.

Socrate : Derrière ce mur, d'autres gens portent divers objets, les tenant de sorte qu'ils soient visibles au-dessus du mur ; ils portent aussi des statues et toutes sortes d'images d'êtres vivants, faites de pierre et de bois. Pendant ce temps, comme d'habitude, certains de ceux qui portent parlent, d'autres se taisent.

Platon : Tu dessines une image étrange...

Socrate : Comme nous, ils ne voient rien d'autre que leurs ombres ou les ombres de ces différentes choses projetées par le feu sur le mur de la caverne situé devant eux... Alors les prisonniers considéreront la réalité comme n'étant rien d'autre que ces ombres – Platon, La République.

Pouvez-vous penser à ce que vous pensez en ce moment même ? Eh bien, littéralement, c'est impossible – car chaque pensée va changer ce à quoi vous pensez. Cependant, vous pouvez vous contenter de quelque chose d'un peu moins, si vous imaginez que votre cerveau (ou votre esprit) est composé de deux parties différentes : appelons-les A-cerveau et B-cerveau.

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
Maintenant, supposons que votre A-cerveau reçoit un signal provenant d'organes tels que les yeux, les oreilles, le nez et la peau ; il peut ensuite utiliser ces signaux pour reconnaître certains événements qui se produisent dans le monde extérieur, puis il peut y réagir en envoyant des signaux qui font contracter vos muscles – qui, à leur tour, peuvent influencer l'état du monde qui vous entoure. Ainsi, nous pouvons considérer ce système comme une partie distincte de notre corps.

Votre B-cerveau n'a pas de capteurs comme le A-cerveau, mais il peut recevoir des signaux du A-cerveau. Par conséquent, le B-cerveau ne peut pas « voir » les choses réelles – il ne peut voir que leur description. Comme le prisonnier dans la caverne de Platon qui ne voit que des ombres sur le mur, le B-cerveau confond les descriptions fournies par le A-cerveau avec les choses réelles, sans savoir ce qu'elles sont réellement. Tout ce que le B-cerveau voit comme « monde extérieur » ce sont des événements traités par le A-cerveau.

Neurologue : Et cela s'applique également à nous tous. Car, quoi que vous touchiez ou voyiez, les niveaux supérieurs de votre cerveau ne pourront jamais directement entrer en contact avec ces choses, mais pourront seulement interpréter la représentation de ces choses, que d'autres ressources ont formées pour vous.

Lorsque les bouts des doigts de deux personnes amoureuses se touchent, personne ne pourrait affirmer que ce contact physique a une signification particulière. En effet, ces signaux eux-mêmes n'ont pas de sens : le sens de ce contact réside dans l'idée que s'en font les personnes amoureuses. Cependant, bien que le cerveau B ne puisse pas réaliser directement l'acte physique, il peut néanmoins influencer le monde qui l'entoure de manière indirecte – en envoyant des signaux au cerveau A, qui modifieront sa réaction aux conditions extérieures. Par exemple, si le cerveau A reste bloqué à répéter les mêmes choses, le cerveau B peut facilement interrompre ce processus en envoyant le signal approprié au cerveau A.

Étudiant : Par exemple, quand je perds mes lunettes, je commence toujours à chercher sur une certaine étagère. Puis une voix commence à me reprocher cela, ce qui me pousse à penser à chercher ailleurs.

Dans ce cas idéal, le cerveau B peut dire (ou enseigner) au cerveau A ce qu'il devrait faire dans une telle situation. Mais même si le cerveau B n'a pas de conseil spécifique, il peut ne rien indiquer au cerveau A et commencer à critiquer ses actions, comme cela a été décrit dans votre exemple.

Étudiant : Mais que se passerait-il si, en marchant, mon cerveau B disait soudain : « Monsieur, vous répétez les mêmes mouvements avec votre jambe depuis plus d'une dizaine de fois. Vous devriez vous arrêter tout de suite et vous adonner à une autre activité. »

En effet, cela pourrait être le résultat d'un grave accident. Pour éviter de telles erreurs, le cerveau B doit avoir des moyens appropriés de représenter les choses. Cet accident ne se serait pas produit si le cerveau B avait perçu « se déplacer à un certain endroit » comme un acte continu, par exemple : « Continuez à déplacer vos jambes jusqu'à ce que vous ayez traversé la rue », ou comme un moyen d'atteindre un objectif : « Continuez à réduire la distance qui vous sépare du but ». Ainsi, le cerveau B peut fonctionner comme un manager, qui n'a aucune connaissance sur la manière de bien réaliser une tâche donnée, mais qui peut tout de même donner des conseils généraux sur comment faire certaines choses, par exemple :

Si les descriptions fournies par le cerveau A sont trop vagues, le cerveau B va imposer l'utilisation de plus de précisions.

Si le cerveau A représente les choses de manière trop détaillée, le cerveau B proposera des descriptions plus abstraites.

Si le cerveau A fait quelque chose trop longtemps, le cerveau B conseillera d'utiliser d'autres techniques pour atteindre l'objectif.

Comment le cerveau B a-t-il pu acquérir de telles compétences ? Certaines d'entre elles ont pu être intégrées dès le départ, mais il doit également exister une manière d'acquérir de nouvelles compétences par l'apprentissage. Pour cela, le cerveau B peut avoir besoin d'aide de niveaux de perception différents. Ainsi, lorsque le cerveau B surveille le cerveau A, un autre objet, appelons-le « cerveau C », va surveiller le cerveau B.

Marvin Minsky «La Machine à Émotions»: Chapitre 4. «Comment nous reconnaissons la Conscience»
Étudiant : Combien de niveaux une personne a-t-elle besoin ? En avons-nous des dizaines ou des centaines ?

Dans le Chapitre 5, nous décrirons un modèle de l'esprit où toutes les ressources sont organisées en 6 niveaux de perception différents. Voici un bref aperçu de ce modèle : il commence par un ensemble de réactions instinctives que nous possédons dès la naissance. Ensuite, nous pouvons commencer à raisonner, à projeter et à planifier l'avenir, en développant des façons de comportement que nous appelons des « décisions réfléchies ». Un peu plus tard, nous développons la capacité de « penser de manière réflexive » sur nos propres pensées. Puis, nous apprenons l'auto-analyse, ce qui nous permet de penser à la manière et aux raisons pour lesquelles nous pouvons penser à de telles choses. Enfin, nous commençons à réfléchir consciemment à la question de savoir si nous aurions dû faire tout cela. Voici comment ce schéma peut être applicable aux pensées de Joan lorsqu'elle traverse la route :

Qu'est-ce qui a poussé Joan à se retourner au son ? [Réactions instinctives]

Comment a-t-elle su que cela pouvait être une voiture ? [Réactions apprises]

Quelles ressources ont été utilisées pour prendre la décision ? [Réflexion]

Comment a-t-elle décidé quoi faire dans cette situation ? [Réflexion]

Pourquoi a-t-elle réfléchi à son choix ? [Auto-réflexion]

Ses actions étaient-elles conformes à ses principes ? [Réflexion sur la conscience de soi]

Bien sûr, c'est une représentation trop simplifiée. Ces niveaux ne pourront jamais être clairement définis, car chacun de ces niveaux, plus tard dans la vie, peut utiliser les ressources d'autres niveaux. Cependant, les cadres établis nous aideront à commencer à discuter des types de ressources utilisées par les adultes et des manières de les organiser.

Étudiant : Pourquoi devrait-il exister des niveaux au lieu d'un grand nuage de ressources interconnectées ?

Notre argument en faveur de notre théorie repose sur l'idée que, pour développer des systèmes complexes efficaces, chaque étape de l'évolution doit trouver un compromis entre deux alternatives :

Si le système comporte peu de liens entre ses parties, ses capacités seront limitées.

Si le système comporte de nombreux liens entre ses parties, chaque changement ultérieur du système imposera une contrainte sur le fonctionnement d'un grand nombre de processus.

Comment atteindre un bon équilibre entre ces extrêmes ? Un système peut commencer son développement avec des parties clairement délimitées (par exemple, avec des couches plus ou moins séparées), puis établir des connexions entre elles.

Embryologiste : Au cours du développement embryonnaire, une structure cérébrale typique commence à se former grâce à la différenciation de couches ou niveaux plus ou moins délimités, comme indiqué sur vos diagrammes. Ensuite, des groupes de cellules distincts commencent à former des faisceaux de fibres qui s'étendent au-delà des limites des zones cérébrales sur des distances relativement importantes.

Le système peut également commencer par établir un nombre énorme de connexions, puis en supprimer certaines par la suite. Un processus similaire se produit avec nous : à l'époque où notre cerveau évoluait, nos ancêtres devaient s'adapter à des milliers de conditions environnementales différentes. Aujourd'hui, de nombreuses réactions qui étaient autrefois « bonnes » sont devenues de graves « erreurs », et nous devons les corriger en supprimant des connexions inutiles.  

Embryologiste : En effet, au cours du développement embryonnaire, plus de la moitié des cellules décrites ci-dessus meurent à peine après avoir atteint leur objectif. Ce processus semble être une série de corrections, au cours desquelles différents types « d'erreurs » sont rectifiées.

Ce processus illustre la principale contrainte de l'évolution : il est dangereux d'apporter des modifications aux anciennes parties de l'organisme, car de nombreuses parties, qui ont évolué plus tard, dépendent du fonctionnement des systèmes anciens. Par conséquent, à chaque nouveau stade de l'évolution, nous ajoutons différents « correctifs » aux structures déjà développées. Ce processus a conduit à l'émergence d'un cerveau d'une complexité incroyable, où chaque partie fonctionne selon des principes particuliers, chacun d'eux ayant un nombre conséquent d'exceptions. Cette complexité se reflète dans la psychologie humaine, où chaque aspect de la pensée peut être partiellement expliqué par des lois et des principes clairs, bien que chaque loi et principe ait ses propres exceptions.

Des contraintes similaires apparaissent lorsque nous essayons d'améliorer la performance d'un grand système - tel qu'un programme informatique existant. Pour sa progression, nous ajoutons de plus en plus de corrections et de patches, au lieu de réécrire les anciens composants. Chaque « erreur » particulière que nous pouvons corriger peut finalement entraîner encore plus d'autres erreurs et rendre le système extrêmement encombrant, ce qui se produit probablement actuellement avec notre esprit.

∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞∞

Ce chapitre commençait par l'exposition de plusieurs points de vue largement répandus sur ce que signifie «conscience» et ce qu'il représente. Nous avons conclu que les gens utilisent ce mot pour décrire un énorme éventail de processus mentaux que personne ne comprend complètement. Le terme « conscient » est plutôt utile dans la vie quotidienne et semble presque indispensable pour discuter à un niveau social et éthique, car il nous empêche de désirer savoir ce qui se passe dans notre esprit. On peut dire la même chose de la plupart des autres mots psychologiques, tels que compréhension, émotion et sentiment.

Cependant, si nous ne reconnaissons pas l'ambiguïté des mots polysémiques utilisés, nous risquons de tomber dans le piège en essayant de définir clairement ce que signifient ces mots. Nous nous retrouvons alors dans une situation problématique en raison d'un manque de clarté sur ce qu'est notre esprit et comment ses parties fonctionnent. Ainsi, si nous voulons comprendre ce que fait l'esprit humain, nous devons diviser tous les processus mentaux en parties que nous pouvons analyser. Le chapitre suivant tentera d'expliquer comment l'esprit de Joan peut effectuer des tâches typiquement humaines.

Merci à Stanislav Sukhanitsky pour la traduction. Si vous souhaitez également vous joindre à nous et aider avec les traductions (écrivez-moi en privé ou par e-mail à alexey.stacenko@gmail.com)

Table des matières du livre The Emotion Machine
Introduction
Chapitre 1. Tomber amoureux1-1. L'Infatuation
1-2. La Mer des Mystères Mentaux
1-3. Humeurs et Émotions
1-4. Émotions Infantiles

1-5. Voir un Esprit comme un Nuage de Ressources
1-6. Émotions Adultes
1-7. Cascades Émotionnelles

1-8. Questions
Chapitre 2. ATTACHEMENTS ET OBJECTIFS 2-1. Jouer dans la Boue
2-2. Attachements et Objectifs

2-3. Imprimeurs
2-4. L'attachement-apprentissage élève les objectifs

2-5. Apprentissage et plaisir
2-6. Conscience, Valeurs et Idéaux de Soi

2-7. Attachements des Nourrissons et des Animaux
2-8. Qui sont nos Imprimeurs ?

2-9. Modèles de Soi et Cohérence de Soi
2-10. Imprimeurs Publics

Chapitre 3. DE LA DOULEUR À LA SOUFFRANCE3-1. Être en Douloureux
3-2. La Douleur Prolongée mène à des Cascades

3-3. Ressentir, Souffrir, et Suffer
3-4. Surmonter la Douleur

3-5. Correcteurs, Suppresseurs et Censeurs
3-6. Le Sandwich Freudien
3-7. Contrôler nos Humeurs et Dispositions

3-8. Exploitation Émotionnelle
Chapitre 4. CONSCIENCE4-1. Quelle est la nature de la Conscience ?
4-2. Déballer la Valise de la Conscience
4-2.1. Mots de valise en Psychologie

4-3. Comment reconnaissons-nous la Conscience ?
4.3.1 L'Illusion d'Immanence
4-4. Surcharger la Conscience
4-5. Modèles de Soi et Conscience de Soi
4-6. Le Théâtre Cartésien
4-7. Le Flux Serial de Conscience
4-8. Le Mystère de l'Expérience
4-9. Cerveaux A et Cerveaux B
Chapitre 5. NIVEAUX D'ACTIVITÉS MENTALES5-1. Réactions Instinctives
5-2. Réactions Apprises

5-3. Délibération
5-4. Pensée Réflexive
5-5. Auto-Réflexion
5-6. Réflexion de la Conscience de Soi

5-7. Imagination
5-8. Le Concept de « Simulus. »
5-9. Machines de Prédiction

Chapitre 6. SENS COMMUN [eng]
Chapitre 7. Pensée [eng]
Chapitre 8. Resourcefulness[eng]
Chapitre 9. Le Soi [eng]

Traductions achevées

Traductions actuelles auxquelles vous pouvez vous joindre

Source : habr.com

Acheter un hébergement fiable pour les sites avec protection DDoS, serveurs VPS VDS 🔥 Acheter un hébergement fiable pour les sites avec protection DDoS, serveurs VPS VDS | ProHoster