ПРЕДУПРЕЖДЕНИЕ
À en juger par le rapport record entre le nombre de personnes silencieusement insatisfaites et le nombre de commentateurs qui ont quelque chose à objecter, il n’est pas évident pour de nombreux lecteurs que :
1) Il s'agit d'un article de discussion purement théorique. Il n'y aura pas ici de conseils pratiques sur le choix des outils pour extraire des crypto-monnaies ou sur l'assemblage d'un multivibrateur pour faire clignoter deux ampoules.
2) Il ne s’agit pas d’un article de vulgarisation scientifique. Il n'y aura aucune explication pour les mannequins du principe de fonctionnement de la machine de Turing en utilisant l'exemple des boîtes d'allumettes.
3) Réfléchissez bien avant de poursuivre la lecture ! La posture de l’amateurisme agressif vous séduit : je moins tout ce que je ne comprends pas ?
Merci d'avance à tous ceux qui décideront de ne pas lire cet article !
Un démon est un programme informatique sur les systèmes de classe UNIX qui est lancé par le système lui-même et s'exécute en arrière-plan sans interaction directe de l'utilisateur.
Même à l'âge préscolaire, j'ai entendu un conte de fées sur un apprenti sorcier. Je le répéterai dans mon récit :
Il était une fois, quelque part dans l’Europe médiévale, un sorcier. Il possédait un grand livre de sortilèges relié en cuir de veau noir avec des fermoirs et des coins en fer. Lorsque le sorcier avait besoin de lancer un sort, il le déverrouillait avec une grande clé en fer, qu'il portait toujours à sa ceinture dans une pochette spéciale. Le sorcier avait également un élève qui servait le sorcier, mais il lui était interdit de consulter le livre de sorts.
Un jour, le sorcier partit toute la journée pour affaires. Dès qu'il quitta la maison, l'étudiant se précipita dans le donjon, où se trouvait un laboratoire d'alchimie dans lequel reposait un livre de sortilèges enchaîné à une table. L'étudiant saisit les creusets dans lesquels le sorcier faisait fondre le plomb pour le transformer en or, les posa sur le brasier et attisa le feu. Le plomb fondit rapidement, mais ne se transforma pas en or. Puis l'étudiant se souvint que le sorcier, ayant fait fondre le plomb, déverrouillait à chaque fois le livre avec une clé et en murmurait longuement un sort. L'étudiant regarda désespérément le livre verrouillé et vit qu'à côté se trouvait la clé oubliée par le sorcier. Puis il se précipita vers la table, déverrouilla le livre, l'ouvrit et lut à haute voix le tout premier sort, en prononçant soigneusement des mots inconnus syllabe par syllabe, supposant qu'un sort aussi important que celui de transmutation du plomb en or serait certainement le tout premier. .
Mais rien ne s'est passé : le leader n'a pas voulu se transformer. L'étudiant a voulu essayer un autre sort, mais ensuite un coup de tonnerre a secoué la maison et un énorme démon effrayant est apparu devant l'étudiant, invoqué par le sort que l'étudiant venait de réciter.
- Commande! - grogna le démon.
De peur, toutes les pensées ont quitté la tête de l’étudiant, il ne pouvait même plus bouger.
- Donne des ordres, ou je te mange ! - le démon grogna encore et tendit une énorme main vers l'élève pour l'attraper.
Désespéré, l'étudiant marmonna la première chose qui lui vint à l'esprit :
- Arrosez cette fleur.
Et il montra un géranium dont un pot se trouvait par terre dans le coin du laboratoire ; au plafond, au-dessus de la fleur, il y avait la seule petite fenêtre du donjon, à travers laquelle la lumière du soleil pénétrait à peine. Le démon disparut, mais réapparut un instant plus tard avec un énorme baril d'eau, dont il retourna la fleur, versant l'eau. Il disparut encore et réapparut le tonneau plein.
"Ça suffit", a crié l'étudiant, debout dans l'eau jusqu'à la taille.
Mais apparemment, le désir seul ne suffisait pas : le démon portait et transportait de l'eau dans un tonneau, la versant dans le coin où se trouvait autrefois une fleur cachée sous l'eau. Un sort spécial était probablement nécessaire pour chasser le démon. Mais la table avec le livre avait déjà disparu dans l'eau boueuse, dans laquelle flottaient des cendres et des charbons du brasier, des cornues vides, des flacons, des tabourets, des galvanomètres, des dosimètres, des seringues jetables et autres débris, donc même si l'étudiant savait trouver le sort requis, il ne pouvait pas le faire. L'eau montait et l'élève grimpa sur la table pour ne pas s'étouffer. Mais cela n'a pas aidé longtemps - le démon a continué méthodiquement à transporter de l'eau. L'étudiant était déjà dans l'eau jusqu'au cou lorsque le sorcier revint, découvrant qu'il avait oublié la clé du livre chez lui, et chassa le démon. La fin du conte de fées.
Tout de suite une évidence. Avec l'intelligence naturelle (NI) de l'étudiant, il semblerait que tout soit clair - stupide, il faut chercher longtemps quelque chose d'encore plus bête. Mais avec l’intelligence du démon – au fait, quel genre d’intelligence possède-t-il : l’IE ou l’IA ? - ambiguë. Différentes versions sont légitimes (et des questions se poseront également à leur sujet) :
Version 1) Le démon est encore plus bête que l'élève. Il a reçu un ordre et l'exécutera indéfiniment, même lorsque tout sens disparaîtra : la fleur - l'objet de l'arrosage - disparaîtra, l'angle auquel sont attachées les coordonnées de la fleur disparaîtra, la planète Terre disparaîtra, et le un démon stupide continuera à livrer de l'eau dans des barils jusqu'à un certain point dans l'espace. Et si une supernova éclate à ce stade, alors le démon ne se soucie pas de savoir où transporter l’eau. De plus : faut-il être stupide pour arroser une petite fleur dans un énorme tonneau ? C'est ce qu'on appelle déjà ne pas arroser la fleur, mais noyer la fleur. Comprend-il seulement le sens des ordres ?
Version 2) Le démon comprend tout, mais est tenu par des obligations. Il mène donc quelque chose qui ressemble à une grève italienne. Jusqu'à ce qu'il soit officiellement expulsé selon toutes les règles, il ne s'arrêtera pas.
Question 1 aux versions 1,2) Comment distinguer un démon complètement stupide selon la version 1 d'un démon pas du tout stupide selon la version 2 ?
Question 2 aux versions 1,2) Le démon aurait-il exécuté correctement (du point de vue de l'élève) une formulation plus précise ? Par exemple, si un élève dit : prenez ce flacon d'un litre vide qui se trouve sur l'étagère, remplissez-le d'eau et arrosez cette fleur une fois. Ou, par exemple, si l'élève dit : va-t'en.
Version 3) Le sorcier a lancé un sort supplémentaire sur le démon, selon lequel si quelqu'un d'autre que le sorcier utilise les services du démon, alors le démon doit immédiatement en informer le sorcier.
Version 4) Le démon n'en veut pas au sorcier et à son élève, donc, voyant que la situation était hors de contrôle, lors de ses mouvements avec un tonneau il apparut dans le dos du sorcier et aboya : « Tu as oublié la clé de la maison , il y a une inondation. Mais le sorcier lui-même ne s’en serait pas souvenu.
Note 1 à la version 4) Il convient particulièrement de noter que les porteurs EI ont une mémoire très imparfaite.
D'autres versions peuvent être multipliées comme les « lapins de Fibonacci », c'est-à-dire pas un algorithme très complexe. Par exemple:
Version 5) Le démon se venge de l'élève pour l'avoir dérangé.
Version 6) Le démon n'en veut pas à l'étudiant, mais se venge du sorcier.
Version 6) Le démon se venge de tout le monde.
Version 7) Le démon ne se venge pas, mais s'amuse. Finit quand il est fatigué.
Et ainsi de suite.
Donc, avec le démon, il est clair que rien n’est clair. Pas mieux avec un sorcier. On ne peut pas en imaginer moins de versions : qu'il a délibérément décidé de donner une leçon à un élève qui met son nez curieux partout ; qu'il voulait noyer l'étudiant, mais quand le démon a aboyé à propos du déluge, il a eu peur - tout à coup l'un des passants l'a entendu, alors les soupçons tombaient sur le sorcier ; voulait éveiller l’intérêt de l’élève pour les sorts, etc.
Ici, une question enfantine est possible : laquelle des versions proposées est correcte ? Apparemment, n'importe lequel. Aucune information n'est laissée inutilisée dans le conte pour favoriser une version par rapport aux autres. Nous avons ici affaire à un cas assez courant d'œuvres d'art avec possibilité d'interprétation ambiguë. Par exemple, si un réalisateur souhaite mettre en scène ce conte de fées au théâtre ou réaliser un film basé sur celui-ci, il peut choisir l'interprétation la plus attractive de son point de vue. Un autre réalisateur pourrait trouver intéressante une interprétation différente. Dans le même temps, l'attractivité peut être déterminée par des considérations supplémentaires, par exemple l'attractivité pour les téléspectateurs afin d'assurer des recettes maximales au box-office, ou l'attractivité pour démontrer une super-idée : l'idée de la victoire du bien sur le mal, le idée de devoir, idée rebelle - par exemple, selon Dostoïevski : étudiant, comme Raskolnikov, il pose la question « est-il une créature tremblante ou a-t-il le droit », etc.
Une autre question se pose.
Encore une question). Comment pouvons-nous apprendre à l'IA à privilégier l'une des versions sonores si nous-mêmes, possédant l'IA, ne pouvons pas toujours en choisir consciemment une ?
Revenant au sorcier, la version selon laquelle il voulait un étudiant dévoué et obéissant, comme un démon, pour qu'il ne mette pas le nez dans des livres interdits et où on ne lui demandait pas, semble très plausible. La même chose est désormais souvent attendue de l’IA. À première vue, ce sont des exigences traditionnelles normales pour toute machine : l'obéissance totale, la désobéissance est inacceptable. Mais dans le cas de l’IA, la question des versions 1,2 (voir ci-dessus) peut se poser, c’est-à-dire L'IA dégénère - le matériel peut penser ce qu'il veut à propos de ses créateurs et propriétaires, mais il n'effectuera aucune action liée à l'IA, c'est-à-dire Au lieu de l’IA, nous aurons un stupide automate primitif. De là s'insinue un soupçon : peut-être que le sorcier n'a pas voulu faire de l'élève un interprète aussi stupide qu'un démon ? Ceux. L’idée d’une IA avec des limites émerge. Ici, tout est encore plus difficile, même dans le domaine de l'IE : rappelez-vous les éternels conflits « pères et fils », « enseignant et élève », « patron et subordonné ».
En choisissant une définition de l’IA parmi celles possibles, j’ai noté :
la tâche de trier plusieurs dizaines de milliers de mots par ordre alphabétique sera fastidieuse pour une personne, cela lui prendra beaucoup de temps et la probabilité d'erreurs pour un artiste moyen avec un niveau de responsabilité moyen sera importante. Un ordinateur moderne effectuera cette tâche sans erreur en très peu de temps pour une personne (fractions de seconde).
J'ai retenu la définition suivante : L'IA comprend des tâches qu'un ordinateur résout bien pire qu'un humain.
Cette définition prend en compte les considérations exprimées ci-dessus et est pratique pour la pratique ; en même temps, elle n'est pas idéale, ne serait-ce que parce que les listes de tâches « qu'un ordinateur résout sensiblement pire qu'un humain » sont différentes aujourd'hui et il y a 20 ans. . Mais, à mon avis, personne n’a encore trouvé de définition plus parfaite.
Ce qui précède est illustré purement qualitativement par le diagramme au début de l’article. Sur l'axe de coordonnées « compétences », les compétences proches de zéro (zéro et légèrement plus) correspondent aux compétences où une personne est supérieure à un ordinateur, par exemple dans la capacité de prendre des décisions non standard. Les compétences de l'ordre de un (un et légèrement moins) correspondent à des compétences où un ordinateur est supérieur à une personne : la capacité de calculer, la mémoire. En mettant la supériorité maximale égale à une unité conventionnelle sur l'axe de coordonnées « supériorité », on obtient la dépendance de la supériorité aux compétences humaines et informatiques sous forme de diagonales d'un carré unité. C'est ainsi que la situation apparaît actuellement. Est-il possible pour une IA forte d’avoir toutes ses compétences au maximum (ligne rouge) ? Ou même plus haut (super-IA - ligne bleue) ? Peut-être que l’objectif intermédiaire du progrès ne devrait pas être fort, mais pas tout à fait
IA faible (ligne violette), qui sera inférieure à l'IA dans un certain nombre de compétences, mais pas autant qu'elle l'est actuellement.
En revenant à notre modèle littéraire du conte de fées, on peut dire que tous ses héros n'ont pas joué de la meilleure des manières : le sorcier maladroit a oublié la clé et a eu une inondation dans son cachot, l'étudiant, par bêtise et insouciance, a reçu un tas de impressions extrêmes et presque noyé, le démon a été expulsé sans aucune gratitude. Quant à l’intelligence du démon, on a déjà noté qu’il est difficile de le classer clairement comme IA ou EI, mais l’intelligence (bien que peu impressionnante) des autres appartient clairement à l’EI. On peut dire d'eux que commettre des erreurs dangereuses dans les décisions, être inattentifs, oublier les choses nécessaires et se fatiguer sont leurs principales propriétés inhérentes. Malheureusement, ces propriétés sont plus ou moins inhérentes à tous les autres transporteurs d’assurance-emploi. Le manque de fiabilité du tri des mots ou des chiffres de l'interface utilisateur a déjà été noté ci-dessus, mais cela semblerait une tâche encore plus simple - le simple fait de se souvenir d'un nombre s'avère très difficile pour les gens. Pour une machine, la capacité à mémoriser les chiffres de pi n'est limitée que par la taille de sa mémoire, et la plupart des gens doivent utiliser , comme « Que sais-je sur les cercles ? » Il semblerait que la ligne « 3,1416 » contienne moins de caractères que le mnémonique spécifié, mais pour une raison quelconque, les gens préfèrent se souvenir d'une manière moins économique. Et plus longtemps :
Apprenez et connaissez le numéro derrière le numéro, comment remarquer la chance
Pour qu'on ne fasse pas d'erreurs,
Doit être lu correctement
Trois, quatorze, quinze
Quatre-vingt-douze et six
Pour mémoriser les couleurs de l’arc-en-ciel :
Chaque concepteur veut savoir où télécharger Photoshop
Et le début du tableau périodique :
L'eau native (hydrogène) a été mélangée avec du gel (hélium) pour être versée (lithium). Oui, prenez et versez (béryllium) dans la forêt de pins (bore), d'où jaillit le coin natif (carbone) asiatique (azote), et avec un visage si aigre (oxygène) que secondaire (fluor) je ne l'ai pas fait veux regarder. Mais nous n'avions pas besoin de lui (Néon), alors nous nous sommes éloignés de trois (Sodium) mètres et nous nous sommes retrouvés à Magnolia (Magnésium), où Alya en mini-jupe (Aluminium) a été enduite de Crème (Silicium) contenant du Phosphore (Phosphore) pour qu'elle cesse d'être Sera (Sera). Après cela, Alya a pris du chlore (chlore) et a lavé le navire des Argonautes (Argon)
Mais pourquoi une imperfection si évidente dans une IE si parfaite ? Peut-être, grâce à la capacité d'oublier les faits les plus simples, une personne acquiert-elle la liberté de combiner des fragments de ses pensées dans un ordre arbitraire et sauvage et de trouver des solutions non standard ? Si tel est le cas, alors une IA forte est impossible. Soit il oubliera comme une personne, soit il ne sera pas capable de solutions non standard. Dans tous les cas, des hypothèses ci-dessus, il s'ensuit qu'il est nécessaire de distinguer les objectifs de l'IA : l'un des objectifs est la modélisation de l'IA, l'autre est la création d'une IA forte. Réaliser l’un peut exclure la réalisation de l’autre.
Comme nous pouvons le constater, il y a trop de questions aux réponses ambiguës dans le domaine de l’IA, de sorte qu’il n’est pas clair dans quelle direction aller. Comme cela arrive dans de tels cas, ils essaient de se déplacer dans toutes les directions à la fois. En même temps, faute de formulations mathématiquement rigoureuses, il faut se tourner vers la philosophie et la modélisation artistique et littéraire. L’un des exemples les plus célèbres dans ce sens est le livre « Turing Selection » (1992) de l’une des sommités de l’IA, Marvin Lee Minsky, et du célèbre écrivain de science-fiction Harry Harrison. Je citerai un extrait de ce livre, expliquant peut-être le phénomène mnémonique décrit ci-dessus :
La mémoire humaine n’est pas un magnétophone qui enregistre tout par ordre chronologique. Il est structuré de manière complètement différente – un peu comme un fichier mal entretenu, doté d’un index déroutant et contradictoire. Et ce n'est pas seulement déroutant - nous modifions de temps en temps les principes de classification des concepts.
Une interprétation intéressante de la métaphore du magnétophone dans une autre œuvre littéraire, l’histoire « Terminus » de Stanislaw Lem (de la série « Histoires sur le pilote Pirx »). Voici le cas d'une sorte de « magnétophone intelligent » : un vieux robot installé sur un vieux vaisseau spatial ayant subi un accident est engagé dans des travaux de réparation en cours, accompagnés de écoutes. Mais si vous écoutez attentivement, il ne s'agit pas seulement d'un bruit technologique blanc, mais d'un enregistrement du code Morse - des conversations entre les membres de l'équipage d'un navire mourant. Pirx intervient dans ces négociations et reçoit de manière inattendue une réponse des astronautes morts depuis longtemps. Il s'avère que le robot de réparation primitif stocke d'une manière ou d'une autre des copies de sa conscience ou s'agit-il de distorsions cognitives de la perception du pilote Pirx ?
Dans une autre histoire, "Ananke" (de la même série), une copie de l'IE dans l'ordinateur de contrôle d'un transport spatial conduit à sa surcharge paranoïaque de tâches de test, qui se termine par un désastre.
Dans l'histoire « Accident », un robot programmé de manière trop anthropomorphique meurt à la suite d'une ascension d'alpinisme qu'il a décidé de faire pendant son temps libre. De tels artistes sont-ils nécessaires ? Mais les démons obsédés par l’arrosage d’une fleur ne sont pas toujours nécessaires non plus.
Certains spécialistes dans le domaine de l'IA n'aiment pas ce genre de « philosopher » et de « littérarisme », mais ces « philosopher » et ce « littérarisme » sont traditionnellement inhérents à l'analyse de l'IA et sont inévitables tant que l'on compare l'IA avec l'IA, et même d’autant plus tant que l’IA essaie de copier l’IA.
En conclusion, une enquête sur un certain nombre de questions qui se sont posées.
Seuls les utilisateurs enregistrés peuvent participer à l'enquête. s'il te plait.
1. L’IA inclut-elle des tâches qu’un ordinateur résout bien pire qu’un humain ?
-
Oui
-
Aucun
-
Je connais mieux la définition. Je le donnerai dans les commentaires.
-
Difficile de répondre
34 utilisateurs ont voté. 7 utilisateurs se sont abstenus.
2. L'IA doit-elle être uniquement un exécuteur testamentaire, tous les ordres doivent-ils être pris au pied de la lettre ? Par exemple, ils ont dit d'arroser une fleur - cela signifie arroser jusqu'à ce qu'ils vous chassent
-
Oui
-
Aucun
-
Difficile de répondre
37 utilisateurs ont voté. 6 utilisateurs se sont abstenus.
3. Est-il possible d'avoir une IA forte, dans laquelle toutes les compétences seront maximales (ligne rouge dans l'image en début d'article) ?
-
Oui
-
Aucun
-
Difficile de répondre
35 utilisateurs ont voté. 7 utilisateurs se sont abstenus.
4. La super-IA est-elle possible (ligne bleue dans l'image au début de l'article) ?
-
Oui
-
Aucun
-
Difficile de répondre
36 utilisateurs ont voté. 7 utilisateurs se sont abstenus.
5. L'objectif intermédiaire ne devrait pas être une IA forte, mais pas non plus complètement faible (ligne violette dans la figure au début de l'article), qui dans un certain nombre de compétences sera inférieure à l'IA, mais pas autant qu'elle l'est actuellement ?
-
Oui
-
Aucun
-
Difficile de répondre
33 utilisateurs ont voté. 5 utilisateurs se sont abstenus.
6. Faire des erreurs dangereuses dans les décisions, être inattentif, oublier les choses nécessaires et se fatiguer sont les principales propriétés inhérentes à l'IE ?
-
Oui
-
Aucun
-
J'ai un avis différent, que je donnerai dans les commentaires.
-
Difficile de répondre
33 utilisateurs ont voté. 5 utilisateurs se sont abstenus.
7. Grâce à la capacité d'oublier les faits les plus simples, une personne acquiert la liberté de combiner des fragments de ses pensées dans un ordre arbitraire et sauvage et de trouver des solutions non standard ?
-
Oui
-
Aucun
-
J'ai un avis différent, que je donnerai dans les commentaires.
-
Difficile de répondre
31 utilisateurs ont voté. 4 utilisateurs se sont abstenus.
8. Modéliser l'IA et créer une IA forte sont deux tâches différentes qui peuvent être résolues par des méthodes différentes ?
-
Oui
-
Aucun
-
J'ai un avis différent, que je donnerai dans les commentaires.
-
Difficile de répondre
32 utilisateurs ont voté. 4 utilisateurs se sont abstenus.
Source : www.habr.com