AVERTISSEMENT
Sur la base du rapport record entre le nombre de mécontents silencieux et le nombre de commentateurs prêts à répondre, il est évident que beaucoup de lecteurs ne comprennent pas que :
1) Il s'agit d'un article de discussion purement théorique. Il n'y aura pas d recommandations pratiques concernant le choix des outils pour le minage de cryptomonnaies ou le montage d'un multivibrateur pour faire clignoter deux ampoules.
2) Ce n'est pas un article de vulgarisation scientifique. Il n'y aura pas d'explication simplifiée du fonctionnement de la machine de Turing à l'aide d'allumettes.
3) Réfléchissez bien avant de continuer à lire ! Êtes-vous attiré par la posture de l'amateur agressif : je dénigre tout ce que je ne comprends pas ?
Merci d'avance à tous ceux qui décideront de ne pas lire cet article !
Un démon est un programme informatique dans les systèmes de type UNIX, lancé par le système lui-même et fonctionnant en arrière-plan sans interaction directe avec l'utilisateur.
Dès mon enfance, j'ai entendu l'histoire de l'apprenti sorcier. Je vais la répéter dans ma propre version :
Autrefois, quelque part dans l'Europe médiévale, vivait un sorcier. Il avait un grand livre de sorts relié en cuir de veau noir avec des fermoirs et des coins en fer. Lorsque le sorcier devait lire un sort, il ouvrait le livre avec une grande clé en fer qu'il portait toujours à la taille dans un petit sac. Il avait également un apprenti qui servait le sorcier, mais il lui était interdit d'ouvrir le livre de sorts.
Un jour, un sorcier s'en alla pour la journée. Dès qu'il sortit de la maison, son élève se précipita dans le sous-sol, où se trouvait le laboratoire alchimique, avec un livre de sorts enchaîné à la table. L'élève prit les creusets dans lesquels le sorcier fondait le plomb pour le transformer en or, les mit sur le foyer et attisa le feu. Le plomb fondit rapidement, mais ne se transforma pas en or. Alors, l'élève se souvint que le sorcier, après avoir fondu le plomb, ouvrait toujours le livre avec une clé et murmurait longtemps le sort qu'il contenait. L'élève regarda désespérément le livre verrouillé et vit qu'à côté se trouvait une clé, oubliée par le sorcier. Il se précipita vers la table, ouvrit le livre, l'ouvrit et lut à haute voix le premier sort, articulant soigneusement les mots inconnus, supposant que le sort le plus important, celui de la transmutation du plomb en or, serait sûrement le premier.
Mais rien ne se passa : le plomb ne voulait pas se transformer. L'élève était sur le point d'essayer un autre sort, mais à ce moment-là, un tonnerre fit trembler la maison, et devant l'élève apparut un énorme démon terrifiant, invoqué par le sort qu'il venait juste de lire.
— Donne tes ordres ! — rugit le démon.
De peur, toutes les pensées quittèrent l'esprit de l'élève, il ne pouvait même pas bouger.
— Donne tes ordres, ou je te dévorerai ! — rugit à nouveau le démon, tendant une énorme main vers l'élève pour l'attraper.
Dans le désespoir, l'élève balbutia la première chose qui lui vint à l'esprit :
— Arrose cette fleur.
Et il montra la géranium, dont le pot était posé par terre dans un coin du laboratoire ; au-dessus de la fleur se trouvait la seule petite fenêtre du sous-sol, à travers laquelle la lumière du soleil peinait à passer. Le démon disparut, mais une seconde plus tard, il réapparut avec un énorme tonneau d'eau qu'il renversa au-dessus de la fleur, déversant l'eau. Il disparut à nouveau et réapparut avec un tonneau plein.
— Ça suffit, cria l'élève, se tenant déjà jusqu'à la taille dans l'eau.
Mais apparemment, un simple désir n'était pas suffisant : le démon continuait à apporter de l'eau dans le tonneau, la versant dans un coin où se trouvait autrefois une fleur cachée sous l'eau. Il fallait probablement un sort spécial pour chasser le démon. Mais la table avec le livre avait déjà disparu dans l'eau trouble, où flottaient des cendres et des charbons de la braise, des récipients vides, des tubes à essai, des tabourets, des galvanomètres, des dosimètres, des seringues jetables et d'autres déchets, si bien que même si l'élève savait comment trouver le bon sort, il n'aurait pas pu le faire. L'eau montait, et l'élève monta sur la table pour ne pas se noyer. Mais cela n'a pas aidé longtemps : le démon continuait méthodiquement à transporter de l'eau. L'élève était déjà à la hauteur du cou dans l'eau quand le sorcier revint, réalisant qu'il avait oublié la clé du livre chez lui, et chassa le démon. Fin de l'histoire.
Commençons par l'évidence. Avec l'intelligence naturelle (IN) de l'élève, tout semble clair : c'est un idiot, et il lui faudra longtemps pour chercher quelque chose de plus stupide. Mais en ce qui concerne l'intelligence du démon – au fait, quelle est-elle : IN ou IA ? – c'est ambigu. Différentes interprétations sont légitimes (et des questions y apparaîtront aussi) :
Interprétation 1) Le démon est encore plus stupide que l'élève. Il a reçu un ordre et l'exécutera indéfiniment, même lorsque tout sens disparaîtra : la fleur disparaîtra – l'objet d'arrosage, le coin auquel les coordonnées de la fleur sont liées disparaîtra, la planète Terre disparaîtra, et le démon idiot continuera à transporter de l'eau dans un point précis dans l'espace cosmique. Et si une supernova éclate à ce point, cela ne fera aucune différence pour le démon, où apporter l'eau. De plus : à quel point faut-il être idiot pour arroser une petite fleur avec un énorme tonneau ? Cela s'appelle non pas arroser une fleur, mais noyer une fleur. Comprend-il au moins le sens des ordres ?
Interprétation 2) Le démon comprend tout, mais est lié par des obligations. Il mène donc quelque chose comme une grève à l'italienne. Tant qu'il n'est pas chassé officiellement selon toutes les règles, il ne s'arrêtera pas.
Question 1 sur les interprétations 1 et 2) Comment distinguer un démon complètement idiot selon l'interprétation 1 d'un démon tout sauf idiot selon l'interprétation 2 ?
Question 2 sur les interprétations 1 et 2) Le démon aurait-il correctement exécuté (du point de vue de l'élève) une formulation plus précise ? Par exemple, si l'élève avait dit : prends ce flacon vide d'un litre qui est sur l'étagère, remplis-le d'eau et arrose cette fleur une fois. Ou, par exemple, si l'élève avait dit : va-t-en.
Version 3) Le sorcier a lancé un sort supplémentaire sur le démon, stipulant que si quelqu'un d'autre que le sorcier utilise les services du démon, celui-ci doit immédiatement informer le sorcier de ce fait.
Version 4) Le démon ne nourrit aucune rancune envers le sorcier et son élève, donc, voyant que la situation échappait à tout contrôle, pendant ses déplacements avec le tonneau, il est apparaître derrière le sorcier et a rugi : « tu as oublié la clé de la maison, il y a une inondation ». Et le sorcier ne s'en serait pas souvenu.
Remarque 1 à la version 4) Il convient de souligner que les porteurs de l'EI ont parfois une mémoire très imparfaite.
Ensuite, les versions peuvent se multiplier comme des « lapins de Fibonacci », c'est-à-dire avec un algorithme pas très compliqué. Par exemple :
Version 5) Le démon se venge de l'élève pour son inquiétude.
Version 6) Le démon ne nourrit aucune rancune envers l'élève, mais se venge du sorcier.
Version 6) Le démon se venge de tout le monde.
Version 7) Le démon ne se venge pas, mais s'amuse. Il s'arrêtera quand il en aura assez.
Et cetera.
Ainsi, avec le démon, il est clair que rien n'est clair. Ce n'est pas mieux avec le sorcier. On pourrait imaginer autant de versions : qu'il a décidé de punir l'élève qui est toujours curieux ; qu'il voulait noyer l'élève, mais quand le démon a rugi au sujet de l'inondation, il a eu peur — que quelqu'un parmi les passants entende, alors le soupçon tomberait sur le sorcier ; qu'il voulait éveiller l'intérêt de l'élève pour les sorts, etc.
Ici, une question d'enfant peut se poser : laquelle des versions proposées est correcte ? Apparemment, n'importe laquelle. Dans le conte, il n'y a pas d'information inutilisée pour préférer une version à une autre. Nous faisons face à un cas assez fréquent dans les œuvres littéraires avec une interprétation ambiguë possible. Par exemple, si un réalisateur souhaitait adapter ce conte au théâtre ou en faire un film, il pourrait choisir l'interprétation qui lui semble la plus attrayante. Pour un autre réalisateur, une autre interprétation pourrait s'avérer plus séduisante. Dans ce cas, l'attrait peut dépendre de considérations supplémentaires, comme l'attrait pour le public afin d'assurer un maximum de recettes, ou l'attrait pour la démonstration d'une idée supérieure : l'idée de la victoire du bien sur le mal, l'idée du devoir, l'idée rebelle – par exemple, selon Dostoïevski : l'élève, tel Raskolnikov, se pose la question « est-il une créature tremblante ou a-t-il le droit » etc.
Une autre question se pose.
Une autre question). Comment pouvons-nous apprendre à l'IA à préférer l'une des versions énoncées, alors que nous, avec l'IA, ne sommes pas toujours capables de choisir consciemment l'une d'elles ?
Revenons à l'incantateur, une version très plausible est qu'il voulait un élève exécutant et obéissant, comme un démon, pour ne pas se mêler des livres interdits et des affaires qui ne le concernent pas. C'est ce que l'on attend souvent de l'IA aujourd'hui. À première vue, ce sont des exigences traditionnelles normales pour toute machine : obéissance totale, la désobéissance est inacceptable. Mais dans le cas de l'IA, il pourrait y avoir un problème avec les versions 1,2 (voir ci-dessus), c'est-à-dire que l'IA pourrait dégénérer - une
Lors de la sélection d'une définition de l'IA parmi les options possibles, j'ai noté :
La tâche de classer plusieurs dizaines de milliers de mots par ordre alphabétique est épuisante pour un humain, il la fera lentement, et la probabilité d'erreurs pour un exécutant moyen au niveau de responsabilité moyen sera significative. Un ordinateur moderne effectuera cette tâche sans erreurs en un temps extrêmement court pour un humain (fractions de seconde).
Je me suis arrêté à la définition suivante : Les tâches qui relèvent de l'IA sont celles que l'ordinateur résout nettement moins bien qu'un humain..
Cette définition prend en compte les considérations évoquées ci-dessus et est pratique, bien qu'elle ne soit pas parfaite, ne serait-ce que parce que les listes de tâches 'que l'ordinateur résout nettement moins bien qu'un humain' diffèrent actuellement de celles d'il y a 20 ans. Mais à mon avis, personne n'a encore trouvé de définition plus parfaite.
Ce qui a été dit illustre parfaitement le schéma au début de l'article. Sur l'axe des compétences, les compétences proches de zéro (zéro et un peu plus) correspondent aux compétences où l'homme surpasse l'ordinateur, par exemple, la capacité à prendre des décisions non conventionnelles. Les compétences autour de un (un et un peu moins) correspondent aux compétences où l'ordinateur surpasse l'homme : la capacité de calcul, la mémoire. En posant le maximum de supériorité égal à une unité conditionnelle sur l'axe des « supériorités », nous obtenons les dépendances de la supériorité par rapport aux compétences pour l'homme et l'ordinateur sous forme de diagonales dans un carré unitaire. C'est ainsi que se présente la situation à l'heure actuelle. Mais est-il possible d'avoir une IA forte, dont toutes les compétences seraient maximales (ligne rouge) ? Ou même au-dessus (IA supérieure – ligne bleue) ? Peut-être qu'un objectif intermédiaire du progrès devrait être une IA qui n'est pas forte mais pas complètement
faible (ligne violette), qui, dans certaines compétences, serait inférieure à l'Intelligence Humaine, mais pas autant que maintenant.
En revenant à notre modèle littéraire féerique, on peut dire que tous ses personnages ne se sont pas comportés au mieux : le sorcier maladroit a oublié la clé et a provoqué une inondation dans son donjon, l'apprenti par imprudence a vécu une série d'expériences extrêmes et a failli se noyer, le démon a été expulsé à coups de pied sans aucune gratitude. En ce qui concerne l'intelligence du démon – il a déjà été noté qu'il est difficile de la classer clairement comme IA ou Intelligence Humaine, mais l'intelligence (certes peu impressionnante) des autres relève manifestement de l'Intelligence Humaine. On peut dire d'eux qu'ils font des erreurs dangereuses dans leurs décisions, manifestent de l'inattention, oublient des choses nécessaires et se fatiguent – ce sont leurs principales caractéristiques indissociables. Malheureusement, ces caractéristiques sont également présentes chez tous les autres porteurs d'Intelligence Humaine, dans une plus ou moins grande mesure. Concernant l'instabilité du tri des mots ou des chiffres de l'Intelligence Humaine, cela a déjà été mentionné précédemment, mais une tâche qui semble encore plus simple – simplement mémoriser un nombre s'avère très difficile pour les gens. Pour la machine, la capacité à mémoriser les chiffres de pi est limitée seulement par la taille de la mémoire, tandis que la plupart des gens doivent utiliser pour cela , comme « Que sais-je sur les cercles ». Il semblerait que dans la chaîne « 3,1416 » il y ait moins de caractères que dans le moyen mnémotechnique indiqué, mais pour une raison quelconque, les gens préfèrent mémoriser de manière moins économique. Et c'est plus long :
Apprends et sache dans le nombre connu, derrière le chiffre, une chance à noter.
Pour ne pas nous tromper,
Il faut le lire correctement.
Trois, quatorze, quinze.
Quatre-vingt-douze et six.
Pour mémoriser les couleurs de l'arc-en-ciel :
Chaque designer veut savoir où télécharger Photoshop.
Et au début du tableau de Mendeleïev :
Nous avons mélangé l’eau native (Hydrogène) avec l'Hélium, pour obtenir le Lithium. Oui, prends et verse (Béryllium) dans la pinède (Bore), où émerge de notre coin (Carbone) un Asiatique (Azote), avec une telle mine acide (Oxygène) qu'on avait du mal à regarder. Mais ce n'était pas lui (Néon) dont nous avions besoin, alors nous nous sommes éloignés de trois (Sodium) mètres et avons atteint la Magnolia (Magnésium), où nous avons enduit Alu dans une mini (Aluminium) jupe de Crème (Silicium) contenant du Phosphore, pour qu'elle cesse d'être Grise (Soufre). Après cela, Alia a pris de l'Eau de Javel (Chlore) et a lavé le navire des Argonautes (Argon).
Mais pourquoi une telle imperfection évidente dans un SI si parfait ? Peut-être qu’en oubliant les faits les plus simples, l’homme obtient la liberté de combiner des fragments de sa réflexion dans un ordre sauvage et arbitraire, trouvant ainsi des solutions non conventionnelles ? Si c’est le cas, un IA forte est impossible. Soit elle oubliera comme un humain, soit elle ne sera pas capable de solutions non conventionnelles. Dans tous les cas, les hypothèses évoquées soulignent la nécessité de différencier les objectifs de l'IA : l'un est de modéliser l'IA faible, l'autre de créer une IA forte. L'atteinte de l'un peut exclure l'atteinte de l'autre.
Comme nous le voyons, dans le domaine de l'IA, trop de questions se posent avec des réponses ambiguës, ce qui rend incertain le direction à suivre. Comme c'est souvent le cas, on tente de progresser dans toutes les directions en même temps. Toutefois, en raison de l'absence de formulations mathématiquement rigoureuses, il faut se tourner vers la philosophie et la modélisation artistique et littéraire. L'un des exemples les plus connus dans ce domaine est le livre "Choix par Turing" (1992) de l'un des pionniers de l'IA, Marvin Lee Minsky, et du célèbre écrivain de science-fiction Harry Harrison. Je citerai un passage de ce livre, qui pourra peut-être éclairer le phénomène mnémotechnique décrit ci-dessus :
La mémoire humaine n'est pas un magnétophone qui enregistre tout dans l'ordre chronologique. Elle fonctionne de manière totalement différente — plutôt comme un fichier peu organisé, doté d'un index confus et contradictoire. Et ce n'est pas juste confus — de temps en temps, nous changeons les principes de classification des concepts.
Une interprétation intéressante de la métaphore du magnétophone se trouve dans une autre œuvre littéraire, la nouvelle de Stanisław Lem « Terminus » (de la série « Les Récits du pilote Pirx »). Ici, il s'agit d'un cas particulier de « magnétophone intellectuel » : un vieux robot à bord d'un ancien vaisseau spatial ayant connu un accident, effectue des réparations en cours, accompagnées de tapotements. Mais si l'on écoute attentivement, ce n'est pas simplement un bruit technologique blanc, mais un enregistrement en morse — des conversations entre les membres de l'équipage du vaisseau en perdition. Pirx intervient dans ces conversations et reçoit soudainement une réponse de cosmonautes depuis longtemps décédés. Il s'avère que ce robot de maintenance primitif conserve en quelque sorte des copies de leur conscience, ou s'agit-il de distorsions cognitives de la perception du pilote Pirx ?
Dans une autre nouvelle « Ananke » (de la même série), une copie de l'AI dans l'ordinateur de contrôle d'un transport spatial entraîne une surcharge paranoïaque par des tâches de test, ce qui se termine par une catastrophe.
Dans la nouvelle « Accident malheureux », un robot trop anthropomorphe se retrouve en danger lors d'une ascension, qu'il a choisi d'effectuer pendant son temps libre. De tels exécutants sont-ils vraiment nécessaires ? Mais les démons obsédés par l'arrosage des fleurs ne sont également pas toujours indispensables.
Certains spécialistes en IA n'apprécient pas de tels « philosophages » et « littératures », cependant ces « philosophages » et « littératures » sont traditionnellement propres à l'analyse de l'IA et inévitables tant que l'IA est comparée à l'IA humaine, et surtout tant qu'on essaie de copier l'IA humaine dans l'IA.
En conclusion, un sondage sur plusieurs questions soulevées.
Seuls les utilisateurs enregistrés peuvent participer au sondage. , s'il vous plaît.
1. Considérons-nous comme IA des tâches que les ordinateurs exécutent nettement moins bien que les humains ?
Oui
Non
Je connais une meilleure définition. Je vais la partager dans les commentaires.
J’ai du mal à répondre
34 utilisateurs ont voté. 7 utilisateurs se sont abstenus.
2. L'IA doit-elle être seulement un exécutant, comprendre tous les ordres littéralement ? Par exemple, si on dit d'arroser une plante — c'est-à-dire, arroser jusqu'à ce qu'on vous dise de s'arrêter.
Oui
Non
J’ai du mal à répondre
37 utilisateurs ont voté. 6 utilisateurs se sont abstenu.
3. Un IA forte avec toutes les compétences au maximum est-elle possible (ligne rouge sur le schéma au début de l'article) ?
Oui
Non
J’ai du mal à répondre
35 utilisateurs ont voté. 7 utilisateurs se sont abstenu.
4. Un IA surpuissant est-il possible (ligne bleue sur le schéma au début de l'article) ?
Oui
Non
J’ai du mal à répondre
36 utilisateurs ont voté. 7 utilisateurs se sont abstenu.
5. Un IA intermédiaire devrait être ni fort ni complètement faible (ligne violette sur le schéma au début de l'article), qui dans certaines compétences serait inférieur à une EI, mais pas autant qu'actuellement ?
Oui
Non
J’ai du mal à répondre
33 utilisateurs ont voté. 5 utilisateurs se sont abstenu.
6. Faire des erreurs dangereuses dans les décisions, manquer d'attention, oublier des choses essentielles et se fatiguer sont-ils des traits fondamentaux d'une EI ?
Oui
Non
J'ai un autre avis que je présenterai dans les commentaires.
J’ai du mal à répondre
33 utilisateurs ont voté. 5 utilisateurs se sont abstenu.
7. Grâce à la capacité d'oublier les faits les plus simples, l'homme obtient la liberté de combiner des fragments de ses réflexions dans un ordre aléatoire et de trouver des solutions non conventionnelles ?
Oui
Non
J'ai un autre avis que je présenterai dans les commentaires.
J’ai du mal à répondre
31 utilisateurs ont voté. 4 utilisateurs se sont abstenu.
8. La modélisation d'une EI et la création d'un IA fort sont-elles deux tâches différentes qui peuvent être résolues par des méthodes différentes ?
Oui
Non
J'ai un autre avis que je présenterai dans les commentaires.
J’ai du mal à répondre
32 utilisateurs ont voté. 4 utilisateurs se sont abstenus.
Source : habr.com
