Ce texte n'est pas le résultat d'une recherche scientifique, mais l'un des nombreux avis concernant notre développement technologique imminent. C'est également une invitation à la discussion.
Gary Marcus, professeur à l'Université de New York, est convaincu que l'apprentissage profond joue un rôle important dans le développement de l'IA. Mais il estime aussi qu'un excès d'enthousiasme pour cette méthode risque de la discréditer.
Dans son livre Rebooting AI: Building artificial intelligence we can trust Marcus, formé en neurologie et ayant construit sa carrière sur des recherches de pointe dans le domaine de l'IA, aborde les aspects techniques et éthiques. D'un point de vue technologique, l'apprentissage profond peut imiter avec succès les tâches de perception que notre cerveau réalise : par exemple, la reconnaissance d'images ou de la parole. Mais pour résoudre d'autres tâches, telles que la compréhension des conversations ou l'identification des relations de cause à effet, l'apprentissage profond n'est pas adapté. Pour créer des machines intelligentes plus avancées, capables de résoudre un éventail plus large de problèmes — souvent appelées intelligence artificielle générale — il est nécessaire de combiner l'apprentissage profond avec d'autres méthodes.
Si un système d'IA ne comprend réellement pas ses tâches ou le monde qui l'entoure, cela peut entraîner des conséquences dangereuses. Même les plus petites modifications inattendues dans l'environnement du système peuvent provoquer un comportement erroné. De nombreux exemples existent déjà : des détecteurs de langage inapproprié facilement trompés ; des systèmes de recherche d'emploi qui discriminent constamment ; des voitures autonomes qui ont des accidents et parfois tuent le conducteur ou un piéton. Créer une intelligence artificielle générale n'est pas simplement un problème de recherche intéressant, elle a de nombreuses applications pratiques.
Dans son livre, Marcus et son co-auteur Ernest Davis plaident pour une autre voie. Ils estiment que nous sommes encore loin de créer une IA générale, mais sont convaincus qu'il sera possible de l'atteindre tôt ou tard.
Pourquoi avons-nous besoin d'une IA générale ? Des versions spécialisées ont déjà été créées et apportent de nombreux avantages.
C'est vrai, et les avantages seront encore plus nombreux. Mais il existe de nombreuses tâches qu'une IA spécialisée ne peut tout simplement pas accomplir. Par exemple, la compréhension de la langue courante, l'assistance générale dans le monde virtuel ou un robot aidant à faire le ménage et à préparer des repas. Ces tâches dépassent les capacités de l'IA spécialisée. Une autre question pratique intéressante : peut-on créer une voiture autonome sûre avec une IA spécialisée ? L'expérience montre qu'une telle IA a encore beaucoup de problèmes de comportement dans des situations anormales, même en conduite, ce qui complique grandement la situation.
Je pense que nous aimerions tous avoir une IA capable de nous aider à faire de nouvelles découvertes majeures en médecine. Il n'est pas clair si les technologies actuelles pourront y parvenir, car la biologie est un domaine complexe. Il faut être prêt à lire de nombreux livres. Les scientifiques comprennent les relations de cause à effet dans l'interaction des réseaux et des molécules, peuvent élaborer des théories sur les planètes, et ainsi de suite. Cependant, avec l'IA spécialisée, nous ne pouvons pas créer de machines capables de telles découvertes. Avec une IA générale, nous pourrions révolutionner la science, la technologie et la médecine. À mon avis, il est très important de continuer à travailler sur la création d'une IA générale.
Avez-vous l'impression que par « général », vous désignez une IA forte ?
En parlant de « général », je veux dire que l'IA sera capable de réfléchir et de résoudre de nouvelles tâches en temps réel. Contrairement à des jeux comme le Go, où le problème n'a pas changé depuis 2000 ans.
Une IA générale doit être capable de prendre des décisions à la fois en politique et en médecine. C'est l'analogie de la capacité humaine ; toute personne sensée peut faire beaucoup de choses. Vous prenez des étudiants inexpérimentés et au bout de quelques jours, vous les faites travailler sur quasiment n'importe quelle tâche, allant d'un problème juridique à une question médicale. Cela est possible parce qu'ils ont une compréhension générale du monde et sont capables de lire, ce qui leur permet de contribuer à un très large éventail d'activités.
Le lien entre une telle intelligence et une forte intelligence réside dans le fait qu'une intelligence faible ne pourra probablement pas résoudre des tâches générales. Pour créer quelque chose de suffisamment fiable, capable d'opérer dans un monde en constante évolution, il vous faudra peut-être au moins vous rapprocher de l'intelligence générale.
Mais pour l'instant, nous en sommes très éloignés. AlphaGo peut jouer parfaitement sur un plateau de 19×19, mais il doit être réentraîné pour jouer sur un plateau rectangulaire. Prenez un système d'apprentissage profond moyen : il peut reconnaître un éléphant s'il est bien éclairé et que la texture de sa peau est visible. Mais si seul le silhouette de l'éléphant est visible, le système ne pourra sans doute pas le reconnaître.
Dans votre livre, vous mentionnez que l'apprentissage profond ne peut pas atteindre les capacités de l'AGI, car il ne peut pas comprendre en profondeur.
Dans la cognition, on parle de la formation de différents modèles cognitifs. Je suis assis dans ma chambre d'hôtel et je comprends qu'il y a un placard là-bas, un lit là, une télévision qui est accrochée de manière inhabituelle. Je connais tous ces objets, je ne me contente pas de les identifier. Je comprends également comment ils sont interconnectés. J'ai des idées sur le fonctionnement du monde qui m'entoure. Elles ne sont pas parfaites. Elles peuvent être erronées, mais elles sont assez bonnes. Et sur cette base, je tire de nombreuses conclusions qui guident mes actions quotidiennes.
L'autre extrême est quelque chose comme un système de jeu Atari, créé par DeepMind, où il se souvenait de ce qu'il devait faire lorsqu'il voyait des pixels à des endroits spécifiques de l'écran. Si vous obtenez suffisamment de données, il peut sembler que vous ayez une compréhension, mais en réalité, elle est très superficielle. La preuve en est que si vous déplacez des objets de trois pixels, l'IA joue beaucoup moins bien. Les changements la déstabilisent. C'est à l'opposé d'une compréhension profonde.
Pour résoudre ce problème, vous proposez de revenir à l'IA classique. Quels sont ses avantages que nous devrions chercher à exploiter ?
Il y a plusieurs avantages.
Tout d'abord, l'IA classique est en réalité un cadre pour créer des modèles cognitifs du monde, à partir desquels on peut ensuite tirer des conclusions.
Deuxièmement, l'IA classique est parfaitement compatible avec les règles. Actuellement, dans le domaine de l'apprentissage profond, il y a une tendance étrange où les spécialistes essaient d'éviter les règles. Ils veulent tout faire avec des réseaux de neurones et ne pas faire quoi que ce soit qui ressemble à de la programmation classique. Mais il y a des tâches qui ont été résolues tranquillement de cette manière, et personne ne s’en est soucié. Par exemple, le calcul d'itinéraires sur Google Maps.
En réalité, nous avons besoin des deux approches. L'apprentissage automatique permet d'apprendre efficacement à partir des données, mais il est très mauvais pour représenter l'abstraction qu'est un programme informatique. L'IA classique fonctionne bien avec les abstractions, mais elle doit être entièrement programmée à la main, et le monde a accumulé trop de connaissances pour tout programmer. Il est évident que nous devons combiner les deux approches.
Cela se rapporte à un chapitre où vous parlez de ce que nous pouvons apprendre du cerveau humain. Et avant tout, de la conception basée sur l'idée mentionnée ci-dessus, que notre conscience est composée de nombreux systèmes différents qui fonctionnent de différentes manières.
Je pense qu'il y a une autre façon d'expliquer cela : chaque système cognitif que nous avons résout réellement des tâches différentes. Des parties similaires de l'IA doivent être conçues pour résoudre différentes tâches qui présentent des caractéristiques variées.
Actuellement, nous essayons d'utiliser certaines technologies tout-en-un pour résoudre des tâches qui sont fondamentalement différentes les unes des autres. Comprendre une phrase n'est absolument pas la même chose que de reconnaître un objet. Pourtant, les gens tentent d'utiliser l'apprentissage profond dans les deux cas. D'un point de vue cognitif, ce sont des tâches qualitativement différentes. Je suis juste frappé par le peu de reconnaissance que la communauté de l'apprentissage profond accorde à l'IA classique. Pourquoi attendre l'apparition d'une panacée? Elle est inaccessibile, et des recherches infructueuses ne permettent pas de saisir toute la complexité de la création d'une IA.
Vous mentionnez également que les systèmes d'IA sont nécessaires pour comprendre les relations de cause à effet. Pensez-vous que l'apprentissage profond, l'IA classique ou quelque chose de complètement nouveau nous aidera en cela?
C'est encore un domaine pour lequel l'apprentissage profond n'est pas très adapté. Il n'explique pas les causes de certains événements, mais calcule la probabilité d'un événement dans des conditions données.
De quoi parlons-nous ? Vous regardez des scénarios et vous comprenez pourquoi cela se produit et ce qui pourrait se passer si certaines circonstances changent. Je peux regarder le support sur lequel est placé le téléviseur et imaginer que si je coupe une de ses pattes, le support basculera et le téléviseur tombera. C'est une relation de cause à effet.
L'IA classique nous offre à cet égard certains outils. Elle peut, par exemple, représenter ce qu'est le soutien et ce qu'est la chute. Mais je ne vais pas trop m'enthousiasmer. Le problème est que l'IA classique dépend en grande partie de la complétude des informations sur ce qui se passe, et j'ai tiré cette conclusion simplement en regardant le support. D'une certaine manière, je peux généraliser, représenter des parties du support qui ne me sont pas visibles. Nous n'avons pas encore d'outils pour réaliser cette propriété.
Vous parlez également de la connaissance innée des gens. Comment cela peut-il être réalisé dans l'IA ?
Au moment de notre naissance, notre cerveau constitue déjà un système soigneusement pensé. Il n'est pas figé ; la nature a créé un premier brouillon brut. Ensuite, l'apprentissage nous aide à revoir ce brouillon tout au long de notre vie.
Le brouillon brut du cerveau possède déjà certaines capacités. Un cabri de montagne, quelques heures après sa naissance, est déjà capable de descendre une pente sans se tromper. Il est évident qu'il a déjà une compréhension de l'espace tridimensionnel, de son corps et des relations entre eux. C'est un système assez complexe.
C'est en partie pour cette raison que je pense que nous avons besoin d'hybrides. Il est difficile d'imaginer comment créer un robot qui fonctionne bien dans le monde sans connaissances similaires, en partant de zéro et en apprenant à partir d'une longue expérience vaste.
En ce qui concerne les humains, notre connaissance innée provient de notre génome, qui a évolué pendant longtemps. Quant aux systèmes d'IA, nous devrons emprunter une autre voie. En partie, cela pourrait être des règles de construction de nos algorithmes. En partie, ce pourraient être des règles de création de structures de données manipulées par ces algorithmes. Et en partie, ce pourraient être des connaissances que nous allons directement intégrer dans les machines.
Il est intéressant que dans votre livre, vous introduisiez l'idée de confiance et de création de systèmes de confiance. Pourquoi avez-vous choisi ce critère ?
Je pense qu'aujourd'hui tout cela ressemble à un jeu de ballon. Il me semble que nous traversons un moment étrange de l'histoire, en grande partie en faisant confiance à des logiciels qui ne méritent pas cette confiance. Je pense que les inquiétudes qui nous sont propres aujourd'hui ne seront pas éternelles. Dans cent ans, l'IA justifiera notre confiance, et peut-être même avant.
Mais aujourd'hui, l'IA est dangereuse. Pas dans le sens où Elon Musk s'en inquiète, mais du fait que les systèmes d'entretien d'embauche discriminent les femmes, peu importe ce que font les programmeurs, car leurs outils sont trop simples.
Je souhaiterais que nous ayons une IA de meilleure qualité. Je ne veux pas qu'une « hiver de l'intelligence artificielle » commence, lorsque les gens réalisent que l'IA ne fonctionne pas et est simplement dangereuse, et ne souhaitent pas y remédier.
D'une certaine manière, votre livre semble vraiment très optimiste. Vous supposez qu'il est possible de construire une IA digne de confiance. Il suffit de regarder dans une autre direction.
C'est vrai, le livre est très pessimiste à court terme et très optimiste à long terme. Nous pensons que tous les problèmes que nous avons décrits peuvent être résolus si nous élargissons notre réflexion sur ce que devraient être les bonnes réponses. Et nous pensons que si cela se produit, le monde sera meilleur.
Source : habr.com
