<\/a><\/noindex>Dans son livre, Marcus et son co-auteur Ernest Davis plaident pour une autre voie. Ils estiment que nous sommes encore loin de cr\u00e9er une IA g\u00e9n\u00e9rale, mais sont convaincus qu'il sera possible de l'atteindre t\u00f4t ou tard.<\/p>\n
Pourquoi avons-nous besoin d'une IA g\u00e9n\u00e9rale ? Des versions sp\u00e9cialis\u00e9es ont d\u00e9j\u00e0 \u00e9t\u00e9 cr\u00e9\u00e9es et apportent de nombreux avantages.<\/b><\/p>\n
C'est vrai, et les avantages seront encore plus nombreux. Mais il existe de nombreuses t\u00e2ches qu'une IA sp\u00e9cialis\u00e9e ne peut tout simplement pas accomplir. Par exemple, la compr\u00e9hension de la langue courante, l'assistance g\u00e9n\u00e9rale dans le monde virtuel ou un robot aidant \u00e0 faire le m\u00e9nage et \u00e0 pr\u00e9parer des repas. Ces t\u00e2ches d\u00e9passent les capacit\u00e9s de l'IA sp\u00e9cialis\u00e9e. Une autre question pratique int\u00e9ressante : peut-on cr\u00e9er une voiture autonome s\u00fbre avec une IA sp\u00e9cialis\u00e9e ? L'exp\u00e9rience montre qu'une telle IA a encore beaucoup de probl\u00e8mes de comportement dans des situations anormales, m\u00eame en conduite, ce qui complique grandement la situation.<\/p>\n
Je pense que nous aimerions tous avoir une IA capable de nous aider \u00e0 faire de nouvelles d\u00e9couvertes majeures en m\u00e9decine. Il n'est pas clair si les technologies actuelles pourront y parvenir, car la biologie est un domaine complexe. Il faut \u00eatre pr\u00eat \u00e0 lire de nombreux livres. Les scientifiques comprennent les relations de cause \u00e0 effet dans l'interaction des r\u00e9seaux et des mol\u00e9cules, peuvent \u00e9laborer des th\u00e9ories sur les plan\u00e8tes, et ainsi de suite. Cependant, avec l'IA sp\u00e9cialis\u00e9e, nous ne pouvons pas cr\u00e9er de machines capables de telles d\u00e9couvertes. Avec une IA g\u00e9n\u00e9rale, nous pourrions r\u00e9volutionner la science, la technologie et la m\u00e9decine. \u00c0 mon avis, il est tr\u00e8s important de continuer \u00e0 travailler sur la cr\u00e9ation d'une IA g\u00e9n\u00e9rale.<\/p>\n
Avez-vous l'impression que par \u00ab g\u00e9n\u00e9ral \u00bb, vous d\u00e9signez une IA forte ?<\/b><\/p>\n
En parlant de \u00ab g\u00e9n\u00e9ral \u00bb, je veux dire que l'IA sera capable de r\u00e9fl\u00e9chir et de r\u00e9soudre de nouvelles t\u00e2ches en temps r\u00e9el. Contrairement \u00e0 des jeux comme le Go, o\u00f9 le probl\u00e8me n'a pas chang\u00e9 depuis 2000 ans.<\/p>\n
Une IA g\u00e9n\u00e9rale doit \u00eatre capable de prendre des d\u00e9cisions \u00e0 la fois en politique et en m\u00e9decine. C'est l'analogie de la capacit\u00e9 humaine ; toute personne sens\u00e9e peut faire beaucoup de choses. Vous prenez des \u00e9tudiants inexp\u00e9riment\u00e9s et au bout de quelques jours, vous les faites travailler sur quasiment n'importe quelle t\u00e2che, allant d'un probl\u00e8me juridique \u00e0 une question m\u00e9dicale. Cela est possible parce qu'ils ont une compr\u00e9hension g\u00e9n\u00e9rale du monde et sont capables de lire, ce qui leur permet de contribuer \u00e0 un tr\u00e8s large \u00e9ventail d'activit\u00e9s.<\/p>\n
Le lien entre une telle intelligence et une forte intelligence r\u00e9side dans le fait qu'une intelligence faible ne pourra probablement pas r\u00e9soudre des t\u00e2ches g\u00e9n\u00e9rales. Pour cr\u00e9er quelque chose de suffisamment fiable, capable d'op\u00e9rer dans un monde en constante \u00e9volution, il vous faudra peut-\u00eatre au moins vous rapprocher de l'intelligence g\u00e9n\u00e9rale.<\/p>\n
Mais pour l'instant, nous en sommes tr\u00e8s loin. AlphaGo peut jouer parfaitement sur un plateau de 19×19, mais il doit \u00eatre r\u00e9entra\u00een\u00e9 pour jouer sur un plateau rectangulaire. Ou prenez un syst\u00e8me d'apprentissage profond moyen : il peut reconna\u00eetre un \u00e9l\u00e9phant s'il est bien \u00e9clair\u00e9 et que la texture de sa peau est visible. Mais si seul le silhouette de l'\u00e9l\u00e9phant est visible, le syst\u00e8me ne pourra s\u00fbrement pas le reconna\u00eetre.<\/p>\n
Dans votre livre, vous mentionnez que l'apprentissage profond ne peut pas atteindre les capacit\u00e9s de l'AGI, car il ne peut pas comprendre en profondeur.<\/b><\/p>\n
Dans la cognition, on parle de la formation de diff\u00e9rents mod\u00e8les cognitifs. Je suis assis dans ma chambre d'h\u00f4tel et je comprends qu'il y a un placard l\u00e0-bas, un lit l\u00e0, une t\u00e9l\u00e9vision qui est accroch\u00e9e de mani\u00e8re inhabituelle. Je connais tous ces objets, je ne me contente pas de les identifier. Je comprends \u00e9galement comment ils sont interconnect\u00e9s. J'ai des id\u00e9es sur le fonctionnement du monde qui m'entoure. Elles ne sont pas parfaites. Elles peuvent \u00eatre erron\u00e9es, mais elles sont assez bonnes. Et sur cette base, je tire de nombreuses conclusions qui guident mes actions quotidiennes.<\/p>\n
L'autre extr\u00eame est quelque chose comme un syst\u00e8me de jeu Atari, cr\u00e9\u00e9 par DeepMind, o\u00f9 il se souvenait de ce qu'il devait faire lorsqu'il voyait des pixels \u00e0 des endroits sp\u00e9cifiques de l'\u00e9cran. Si vous obtenez suffisamment de donn\u00e9es, il peut sembler que vous ayez une compr\u00e9hension, mais en r\u00e9alit\u00e9, elle est tr\u00e8s superficielle. La preuve en est que si vous d\u00e9placez des objets de trois pixels, l'IA joue beaucoup moins bien. Les changements la d\u00e9stabilisent. C'est \u00e0 l'oppos\u00e9 d'une compr\u00e9hension profonde.<\/p>\n
Pour r\u00e9soudre ce probl\u00e8me, vous proposez de revenir \u00e0 l'IA classique. Quels sont ses avantages que nous devrions chercher \u00e0 exploiter ?<\/b><\/p>\n
Il y a plusieurs avantages. <\/p>\n
Tout d'abord, l'IA classique est en r\u00e9alit\u00e9 un cadre pour cr\u00e9er des mod\u00e8les cognitifs du monde, \u00e0 partir desquels on peut ensuite tirer des conclusions.<\/p>\n
Deuxi\u00e8mement, l'IA classique est parfaitement compatible avec les r\u00e8gles. Actuellement, dans le domaine de l'apprentissage profond, il y a une tendance \u00e9trange o\u00f9 les sp\u00e9cialistes essaient d'\u00e9viter les r\u00e8gles. Ils veulent tout faire avec des r\u00e9seaux de neurones et ne pas faire quoi que ce soit qui ressemble \u00e0 de la programmation classique. Mais il y a des t\u00e2ches qui ont \u00e9t\u00e9 r\u00e9solues tranquillement de cette mani\u00e8re, et personne ne s\u2019en est souci\u00e9. Par exemple, le calcul d'itin\u00e9raires sur Google Maps.<\/p>\n
En r\u00e9alit\u00e9, nous avons besoin des deux approches. L'apprentissage automatique permet d'apprendre efficacement \u00e0 partir des donn\u00e9es, mais il est tr\u00e8s mauvais pour repr\u00e9senter l'abstraction qu'est un programme informatique. L'IA classique fonctionne bien avec les abstractions, mais elle doit \u00eatre enti\u00e8rement programm\u00e9e \u00e0 la main, et le monde a accumul\u00e9 trop de connaissances pour tout programmer. Il est \u00e9vident que nous devons combiner les deux approches.<\/p>\n
Cela se rapporte \u00e0 un chapitre o\u00f9 vous parlez de ce que nous pouvons apprendre du cerveau humain. Et avant tout, de la conception bas\u00e9e sur l'id\u00e9e mentionn\u00e9e ci-dessus, que notre conscience est compos\u00e9e de nombreux syst\u00e8mes diff\u00e9rents qui fonctionnent de diff\u00e9rentes mani\u00e8res.<\/b><\/p>\n
Je pense qu'il y a une autre fa\u00e7on d'expliquer cela : chaque syst\u00e8me cognitif que nous avons r\u00e9sout r\u00e9ellement des t\u00e2ches diff\u00e9rentes. Des parties similaires de l'IA doivent \u00eatre con\u00e7ues pour r\u00e9soudre diff\u00e9rentes t\u00e2ches qui pr\u00e9sentent des caract\u00e9ristiques vari\u00e9es.<\/p>\n
Actuellement, nous essayons d'utiliser certaines technologies tout-en-un pour r\u00e9soudre des t\u00e2ches qui sont fondamentalement diff\u00e9rentes les unes des autres. Comprendre une phrase n'est absolument pas la m\u00eame chose que de reconna\u00eetre un objet. Pourtant, les gens tentent d'utiliser l'apprentissage profond dans les deux cas. D'un point de vue cognitif, ce sont des t\u00e2ches qualitativement diff\u00e9rentes. Je suis juste frapp\u00e9 par le peu de reconnaissance que la communaut\u00e9 de l'apprentissage profond accorde \u00e0 l'IA classique. Pourquoi attendre l'apparition d'une panac\u00e9e? Elle est inaccessibile, et des recherches infructueuses ne permettent pas de saisir toute la complexit\u00e9 de la cr\u00e9ation d'une IA.<\/p>\n
Vous mentionnez \u00e9galement que les syst\u00e8mes d'IA sont n\u00e9cessaires pour comprendre les relations de cause \u00e0 effet. Pensez-vous que l'apprentissage profond, l'IA classique ou quelque chose de compl\u00e8tement nouveau nous aidera en cela?<\/b><\/p>\n
C'est encore un domaine pour lequel l'apprentissage profond n'est pas tr\u00e8s adapt\u00e9. Il n'explique pas les causes de certains \u00e9v\u00e9nements, mais calcule la probabilit\u00e9 d'un \u00e9v\u00e9nement dans des conditions donn\u00e9es.<\/p>\n
De quoi parlons-nous ? Vous regardez des sc\u00e9narios et vous comprenez pourquoi cela se produit et ce qui pourrait se passer si certaines circonstances changent. Je peux regarder le support sur lequel est plac\u00e9 le t\u00e9l\u00e9viseur et imaginer que si je coupe une de ses pattes, le support basculera et le t\u00e9l\u00e9viseur tombera. C'est une relation de cause \u00e0 effet.<\/p>\n
L'IA classique nous offre \u00e0 cet \u00e9gard certains outils. Elle peut, par exemple, repr\u00e9senter ce qu'est le soutien et ce qu'est la chute. Mais je ne vais pas trop m'enthousiasmer. Le probl\u00e8me est que l'IA classique d\u00e9pend en grande partie de la compl\u00e9tude des informations sur ce qui se passe, et j'ai tir\u00e9 cette conclusion simplement en regardant le support. D'une certaine mani\u00e8re, je peux g\u00e9n\u00e9raliser, repr\u00e9senter des parties du support qui ne me sont pas visibles. Nous n'avons pas encore d'outils pour r\u00e9aliser cette propri\u00e9t\u00e9.<\/p>\n
Vous parlez \u00e9galement de la connaissance inn\u00e9e des gens. Comment cela peut-il \u00eatre r\u00e9alis\u00e9 dans l'IA ?<\/b><\/p>\n
Au moment de notre naissance, notre cerveau constitue d\u00e9j\u00e0 un syst\u00e8me soigneusement pens\u00e9. Il n'est pas fig\u00e9 ; la nature a cr\u00e9\u00e9 un premier brouillon brut. Ensuite, l'apprentissage nous aide \u00e0 revoir ce brouillon tout au long de notre vie.<\/p>\n
Le brouillon brut du cerveau poss\u00e8de d\u00e9j\u00e0 certaines capacit\u00e9s. Un cabri de montagne, quelques heures apr\u00e8s sa naissance, est d\u00e9j\u00e0 capable de descendre une pente sans se tromper. Il est \u00e9vident qu'il a d\u00e9j\u00e0 une compr\u00e9hension de l'espace tridimensionnel, de son corps et des relations entre eux. C'est un syst\u00e8me assez complexe.<\/p>\n
C'est en partie pour cette raison que je pense que nous avons besoin d'hybrides. Il est difficile d'imaginer comment cr\u00e9er un robot qui fonctionne bien dans le monde sans connaissances similaires, en partant de z\u00e9ro et en apprenant \u00e0 partir d'une longue exp\u00e9rience vaste.<\/p>\n
En ce qui concerne les humains, notre connaissance inn\u00e9e provient de notre g\u00e9nome, qui a \u00e9volu\u00e9 pendant longtemps. Quant aux syst\u00e8mes d'IA, nous devrons emprunter une autre voie. En partie, cela pourrait \u00eatre des r\u00e8gles de construction de nos algorithmes. En partie, ce pourraient \u00eatre des r\u00e8gles de cr\u00e9ation de structures de donn\u00e9es manipul\u00e9es par ces algorithmes. Et en partie, ce pourraient \u00eatre des connaissances que nous allons directement int\u00e9grer dans les machines.<\/p>\n
Il est int\u00e9ressant que dans votre livre, vous introduisiez l'id\u00e9e de confiance et de cr\u00e9ation de syst\u00e8mes de confiance. Pourquoi avez-vous choisi ce crit\u00e8re ?<\/b><\/p>\n
Je pense qu'aujourd'hui tout cela ressemble \u00e0 un jeu de ballon. Il me semble que nous traversons un moment \u00e9trange de l'histoire, en grande partie en faisant confiance \u00e0 des logiciels qui ne m\u00e9ritent pas cette confiance. Je pense que les inqui\u00e9tudes qui nous sont propres aujourd'hui ne seront pas \u00e9ternelles. Dans cent ans, l'IA justifiera notre confiance, et peut-\u00eatre m\u00eame avant.<\/p>\n
Mais aujourd'hui, l'IA est dangereuse. Pas dans le sens o\u00f9 Elon Musk s'en inqui\u00e8te, mais du fait que les syst\u00e8mes d'entretien d'embauche discriminent les femmes, peu importe ce que font les programmeurs, car leurs outils sont trop simples.<\/p>\n
Je souhaiterais que nous ayons une IA de meilleure qualit\u00e9. Je ne veux pas qu'une \u00ab hiver de l'intelligence artificielle \u00bb commence, lorsque les gens r\u00e9alisent que l'IA ne fonctionne pas et est simplement dangereuse, et ne souhaitent pas y rem\u00e9dier.<\/p>\n
D'une certaine mani\u00e8re, votre livre semble vraiment tr\u00e8s optimiste. Vous supposez qu'il est possible de construire une IA digne de confiance. Il suffit de regarder dans une autre direction.<\/b><\/p>\n
C'est vrai, le livre est tr\u00e8s pessimiste \u00e0 court terme et tr\u00e8s optimiste \u00e0 long terme. Nous pensons que tous les probl\u00e8mes que nous avons d\u00e9crits peuvent \u00eatre r\u00e9solus si nous \u00e9largissons notre r\u00e9flexion sur ce que devraient \u00eatre les bonnes r\u00e9ponses. Et nous pensons que si cela se produit, le monde sera meilleur.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Nous](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")