Je pense que le problème n’est pas que les machines remplaceront les humains sur leur lieu de travail, y compris dans le domaine intellectuel, ni que les ordinateurs semblent avoir pris les armes contre les personnes ayant fait des études supérieures et les comptes Twitter. La mise en œuvre de l’IA ne se fait pas rapidement, mais au contraire, elle est trop lente. Pourquoi? Parce qu’il s’agit d’un cycle normal de développement humain, et nous ne réalisons tout simplement pas que la destruction à laquelle nous assistons signifie l’introduction de nouvelles technologies qui, avant de créer de nouveaux emplois, détruisent les anciens.
Les technologies détruisent des industries obsolètes et en créent de nouvelles, c’est le processus de création, c’est le cycle de développement. Si vous essayez de prolonger l’agonie en insérant d’anciennes technologies dans le processus ou en créant des avantages pour des technologies obsolètes, vous ralentirez simplement le processus et le rendrez plus pénible. Cela arrivera de toute façon, mais le problème est que nous régulons le processus en créant des règles qui le ralentissent délibérément. Je pense qu’il s’agit d’un problème plus grave que ceux dont nous sommes plus clairement conscients. Il s’agit plutôt d’un problème psychologique où les gens se posent la question : « comment peut-on se sentir en sécurité dans une voiture autonome ? »
J'ai étudié l'histoire et j'ai appris qu'il y a cent ans, l'un des syndicats les plus puissants de New York était le syndicat des travailleurs des ascenseurs, qui regroupait 17 XNUMX travailleurs. D’ailleurs, à cette époque, il existait déjà une technologie qui permettait d’appuyer simplement sur un bouton et le tour était joué, mais les gens n’y faisaient pas confiance ! C'est juste horrible de devoir appuyer soi-même sur le bouton pour appeler l'ascenseur ! Savez-vous pourquoi ce syndicat est « mort » et pourquoi les gens ont commencé à utiliser eux-mêmes les boutons ? Car un jour, les ouvriers des ascenseurs ont décidé de se mettre en grève. Ils se sont mis en grève, puis les gens qui devaient grimper au sommet de l'Empire State Building ont risqué d'appuyer sur les boutons de leurs propres mains.
Rappelez-vous ce qu'ils disaient il y a 20-30 ans à propos de leurs enfants ou petits-enfants lorsqu'ils prenaient le volant d'une voiture : « c'est terrible, il suffit de regarder les statistiques, car les voitures sont l'une des principales causes de mortalité humaine, comment peuvent-elles risquer leurs vies?"
Donc, tout cela n’est que de la pure psychologie. Nous prêtons peu d’attention au nombre de personnes qui meurent dans des accidents de voiture, mais dès qu’une personne est tuée par une voiture autonome, l’événement devient disproportionné. Tout problème, toute erreur dans les technologies de l’intelligence artificielle est immédiatement signalé à la une des journaux. Mais regardez les statistiques, regardez le nombre d’incidents, et vous verrez qu’il ne s’agit que d’un infime pourcentage du nombre total d’accidents. Par conséquent, la communauté humaine ne gagnera que si elle peut avancer sans être paralysée par de telles peurs.
Un autre problème surgit lorsque nous parlons de fausses nouvelles ou de cybersécurité. Ce sont des sujets très politisés et je reçois beaucoup d’appels me demandant comment je gère les ennemis de l’IA. Par exemple, j'écris un blog régulier et mon nouvel article, qui sera publié dans quelques jours, parle de la haine et du fait que le salut contre la haine réside dans la connaissance, dans l'apprentissage. Il faut simplement comprendre que ce problème existait bien avant que toutes ces choses ne soient inventées, mais que son importance a maintenant augmenté grâce à Internet, qui touche des millions et des milliards de personnes.
Je pense que c'est en fait une bonne chose quand quelqu'un essaie d'arrêter le progrès en essayant d'interdire l'IA, et vous savez que cela ne fonctionnera pas parce que nous avons Poutine et d'autres méchants, où qu'ils soient, qui utilisent contre nous nos propres technologies créées en le monde libre. Je pense donc que nous devrions simplement l’accepter comme une évidence.
L’essence du problème réside uniquement en nous, et les réponses aux questions se trouvent en nous, dans notre propre force et dans notre propre confiance. Je soutiens que les machines intelligentes ne peuvent pas nous rendre « obsolètes ». Cependant, il ne faut pas oublier qu'il existe certaines restrictions concernant la coopération homme-machine et qu'il ne s'agit dans une large mesure que de rumeurs qui existaient auparavant. Comme toujours, il s’agit simplement de nouvelles opportunités qui détruisent l’ancien monde et en créent un nouveau, et plus nous avançons, mieux nous nous porterons.
De nos jours, cela ressemble davantage à une entrée dans le monde de la science-fiction. Le paradoxe est que si nous regardons 50 à 60 ans en arrière, nous verrons qu’à cette époque la science-fiction était absolument positive, c’était une utopie totale. Cependant, il y a eu ensuite une transition progressive de l’utopie à la dystopie, de telle sorte que nous ne voulons plus entendre parler de l’avenir de l’humanité.
Cela ne s'est pas produit du jour au lendemain. Il fut un temps où les gens pensaient que l’exploration spatiale était trop risquée. C'est en effet un gros risque, mais imaginez qu'en 1969, lorsque les Américains ont atterri sur la Lune, la puissance de calcul totale de la NASA était inférieure à la puissance de n'importe quel appareil informatique moderne qui tient dans votre poche. Cet appareil est mille fois plus puissant que le supercalculateur qui existait il y a 40 ans. Imaginez la puissance de calcul que vous avez dans votre poche ! Cependant, je ne suis pas sûr que l'Apple iPhone 7 ait la même puissance de calcul qu'Apollo 7, c'est-à-dire qu'il soit capable de produire le même effet.
Cependant, les machines nous ont permis de réaliser de nombreux progrès considérables dans l’exploration spatiale ou océanique, et nous devons comprendre que les ordinateurs nous donnent la possibilité de prendre de grands risques.
Je voudrais terminer mon discours sur une note positive. Cette diapositive ne montre-t-elle pas des images positives ? La photo en bas à droite n'est pas retouchée, j'ai en fait rencontré le Terminator en 2003.
Il aimait aussi les échecs depuis son enfance, mais il ne les étudiait pas spécifiquement, donc il perdit très vite. J’ai donc été très surpris lorsque 6 mois plus tard, il s’est présenté comme gouverneur de Californie et a gagné !
Pourquoi est-ce que je qualifie ces images de positives ? Car même si dans tous les épisodes sauf le premier, le vieil Arnold se tient toujours du côté des vainqueurs et ne se lasse jamais de se battre contre de nouvelles machines, c'est dans le premier épisode qu'on voit la combinaison dont je parlais - c'est quand un une personne plus une vieille machine et une interface parfaite battent la voiture la plus récente.
Vous direz peut-être : « oui, les machines sont plus fortes que les hommes car elles peuvent absolument tout calculer ! » Cependant, le fait n’est pas qu’ils puissent tout calculer. Par exemple, aux échecs, nous pouvons techniquement parler de l’infinité mathématique du nombre de coups possibles, égal à 1045, qui ne sont pas difficiles à calculer pour un ordinateur moderne. Cependant, ce qui est important dans le jeu, ce ne sont pas les calculs, mais le fait que l'ordinateur devance la personne, car il est toujours guidé par les règles. Et vous connaissez l’effet de ces règles et vous savez pourquoi l’ordinateur choisit le meilleur coup parmi une grande variété de coups possibles.
Mais si l’on se tourne vers la vraie vie, je ne suis pas sûr qu’un ordinateur puisse toujours être utile. Regardons la situation la plus typique : vous disposez d'un ordinateur qui surveille votre budget, vous êtes dans un magasin et êtes sur le point d'acheter un cadeau coûteux. L’ordinateur évalue l’achat et dit : « non, vous ne pouvez pas vous permettre cet article car vous dépasserez votre budget ». La machine a tout calculé, mais il y a une petite nuance : votre enfant se tient à côté de vous et ce cadeau est destiné à son anniversaire. Voyez-vous comment cela change les conditions du problème ? Cela change tout car l'enfant attend ce cadeau.
Je peux commencer à ajouter ces petites choses qui changent tout, mais je ne pense pas qu'elles puissent être incluses dans l'énoncé du problème et obtenir la bonne solution. Nous avons beaucoup de règles, mais nous devons quand même nous poser des questions car les choses changent. C’est ce qu’on peut appeler une situation ordinaire, mais si vous regardez ces films, vous pouvez dire que la situation montrée ici est plus dramatique et extraordinaire. Cette diapositive montre une image de l'épisode V de Star Wars : L'Empire contre-attaque.
Han Solo pilote le vaisseau directement à travers un champ d'astéroïdes et C-3PO panique, signalant que les chances de survivre au champ sont de 1 : 3122. Han Solo lui dit : "Ne me dis jamais quelles sont nos chances !" Ici, la question se pose : qui a le plus raison dans cette situation ?
La technologie représentée par C-3PO est tout à fait correcte, car les chances de survie tendent vers zéro. Il est possible que, du point de vue d'un robot, être capturé par les forces impériales soit un meilleur choix qu'un humain n'envisagerait même pas que de mourir dans un champ d'astéroïdes. Mais si l’ordinateur décide que se rendre à l’empire est la meilleure option, alors nous pouvons supposer que la personne n’a aucune option. Le plus important est que dans les deux cas, ordinaire et extraordinaire, nous avons la possibilité de prendre la décision finale, et pour prendre une telle décision, il faut encore un leadership humain.
Parfois, cela signifie que vous devez aller à l'encontre des recommandations de l'ordinateur. Le but du leadership humain n’est pas de connaître les probabilités, mais de poser les questions qui comptent vraiment, pas seulement aujourd’hui ou demain, mais aussi dans un avenir lointain. Ce processus peut être appelé « guidage humain » ou « intervention humaine », influençant sans l'aide de machines intelligentes. C’est ce que devrait être notre ligne de conduite au cours de ce siècle.
Les gens sont parfois surpris par mon optimisme à l’égard des machines intelligentes, compte tenu de mon expérience avec celles-ci, mais je suis vraiment optimiste. Et je suis sûr que vous êtes tous également optimistes quant à l’avenir de l’IA. Mais nous devons nous rappeler que nos technologies sont agnostiques. Ce n’est ni bon ni mauvais, mais peut être utilisé à la fois pour le bien et pour le mal. Les machines doivent devenir plus intelligentes et plus performantes. Et nous, les humains, devons faire ce que seuls les humains peuvent faire : rêver, rêver pleinement, et nous serons alors en mesure d'extraire tous les avantages qu'apportent ces nouveaux outils étonnants.
Comme prévu, il nous reste encore 10 minutes pour répondre aux questions.
Question : Pensez-vous qu'il serait possible de créer un système d'apprentissage automatique qui pourrait déterminer quels mouvements sont les plus cohérents avec le style de jeu humain ?
Kasparov : Tout d'abord, nous ne nous attendons pas à ce que l'ordinateur nous indique le premier coup et les 17505 9 coups restants. Je pense que nous devrions compter sur la machine pour fournir les meilleures recommandations pour des mouvements uniques. À propos, les joueurs de haut niveau utilisent les ordinateurs comme guide, les aidant à prendre la position la plus appropriée dans le jeu. Je le répète encore une fois : dans 10 cas sur XNUMX, l’évaluation de la situation par l’ordinateur est de loin supérieure à l’évaluation qu’une personne peut faire.
Question : Êtes-vous d’accord que la véritable intelligence requiert la liberté de choix, la liberté de prendre des décisions que seule une personne peut prendre ? Après tout, les logiciels Deep Blue et autres programmes informatiques sont écrits par des personnes, et lorsque vous perdez face à Deep Blue, vous ne perdez pas face à l'ordinateur, mais face aux programmeurs qui ont écrit le programme. Ma question est la suivante : y a-t-il un danger lié à toute forme d’intelligence artificielle tant que les ordinateurs ont la liberté de choix ?
Kasparov : ici je dois passer de la science à la philosophie. Tout est clair à propos de Deep Blue : c'est le résultat d'un énorme travail humain. Dans la plupart des cas, même dans le cas d’AlphaGo de Demis Hassabis, ce sont tous des produits de l’intelligence humaine. Je ne sais pas si les machines peuvent avoir la liberté de choix, mais je crois que quoi que nous fassions, si nous savons comment le faire, les machines le feront mieux. Cependant, lorsque nous faisons la plupart des choses, nous ne savons pas comment les faire de la meilleure façon, et nous ne pouvons donc souvent pas comprendre ce que nous allons réussir. En termes simples, nous avons un objectif, mais nous ne savons pas ce que c'est, et le rôle de la machine est de nous aider à atteindre cet objectif. Par conséquent, si nous parlons du libre choix des ordinateurs, cela devrait nous aider à nous lier à cet objectif. Je pense que c'est un avenir très lointain pour les ordinateurs.
Question : Que pensez-vous des caractéristiques humaines telles que le courage et la moralité, et des décisions que l'intelligence artificielle peut prendre sur cette base ? Par exemple, que devrait faire une voiture autonome : écraser un enfant ou éviter de le heurter en s'écrasant contre un rocher et en tuant son passager ?
Kasparov : Ce sont ce que les gens appellent des « sentiments », ils ne sont pas quantifiables car ils représentent tout un ensemble de caractéristiques humaines différentes. Si nous parlons de courage, cette caractéristique va toujours à l'encontre des chances de choisir l'option optimale. La bravoure, comme les autres émotions humaines, est par définition contraire à un calcul précis.
Question : Monsieur Kasparov, ma question ne concerne pas les ordinateurs : qu'y a-t-il dans votre flacon et puis-je l'essayer ?
Kasparov : que veux-tu dire ?
Animateur : Il demande ce qu'il y a dans votre poche !
Kasparov : dans ma poche ? "Stolichnaya" ! Ce n'est pas une publicité, si vous l'avez remarqué, je l'ai jetée.
Question : Selon vous, qui sera le prochain champion du monde d'échecs et le jeune joueur d'échecs chinois Wei Yi a-t-il une chance de détrôner Carelsen en tant que roi des échecs ?
Kasparov : Karelsen est le joueur numéro 1, ce n'est pas un champion du monde, mais simplement le meilleur joueur d'échecs du monde selon le classement. Il aura 27 ans cette année, il est donc encore jeune, mais pas très jeune par rapport aux standards d'aujourd'hui. Je pense que Wei Yi a 18 ou 19 ans maintenant. Magnus devance de jeunes joueurs comme les Américains Wesley So et Fabiano Kerouana, et Wei Yi pourrait potentiellement être son adversaire. Cependant, pour devenir champion du monde, il faut du talent ; il n’est pas nécessaire d’être jeune et énergique, juste un peu de chance. Donc, pour répondre à la question, je peux dire : oui, il a une chance de battre Magnus Carelsen.
Question : Lorsque vous avez parlé d’algorithmes déterministes et d’apprentissage automatique, vous avez évoqué la possibilité d’utiliser les machines comme outils pour compléter notre intelligence. Qu’en est-il de la possibilité de maximiser les ressources avant de créer une IA puissante, ou même de mettre un cerveau humain dans un ordinateur ?
Kasparov : Je n'ai pas honte d'admettre mon ignorance lorsque je ne suis pas sûr de ne pas pouvoir répondre correctement à une question. Je fais de mon mieux pour comprendre ce qu'est le cerveau humain, si nous le considérons séparément du corps humain, quelles fonctions il remplit. Car il est difficile d’imaginer comment le cerveau se comportera séparément du corps. Peut-être qu’une telle expérience pourrait être réalisée à l’avenir, mais je suis convaincu que la combinaison du cerveau humain, des sentiments et des émotions humains avec un ordinateur formera un « esprit » qui sera bien plus efficace qu’un cerveau extrait et congelé, utilisé comme un appareil rempli de neurones.
Question : Existe-t-il une approche fondamentale universelle au problème du remplacement des emplois humains par des ordinateurs ?
Kasparov : Je pense que c'est une question très importante, car il est clair que nous approchons du point où de nombreuses personnes pourraient se retrouver au chômage. C'est le paradoxe du progrès technologique : d'une part, nous disposons des dernières technologies qui offrent d'énormes avantages compétitifs à la jeune génération qui utilise ces appareils et ces technologies. D'autre part, nous avons des progrès en médecine et en alimentation saine, qui prolongent la vie humaine et donnent à une personne la possibilité de travailler pendant de nombreuses années. En ce sens, la génération des années 50, 60 ou même 40 ne peut rivaliser avec la jeunesse d’aujourd’hui. Il faut trouver une solution à cette situation paradoxale où le fossé entre les générations est si grand. L’expérience historique montre qu’un tel écart conduit toujours à une grande explosion. Je veux dire l'écart entre l'infrastructure sociale existante de la société et le progrès technologique.
C’est une question que les politiques préfèrent reporter aux prochaines élections. Personne ne veut en parler parce que c'est un sujet sensible. Il est très facile d’imprimer de l’argent et d’espérer que quelqu’un paiera pour cela un jour dans le futur. Il existe donc de nombreux paradoxes dans ce domaine, par exemple l'accumulation de dettes pour fournir des garanties sociales aux générations plus âgées dans l'espoir que le fardeau du remboursement de ces dettes retombera sur les épaules de la jeune génération. Il y a beaucoup de questions auxquelles je n’ai pas de réponse, et beaucoup de questions que je pourrais poser et pour lesquelles j’espère que l’IA pourra m’aider.
Il est regrettable que les politiciens tentent depuis des décennies d’ignorer les problèmes dont nous venons de discuter. Ils sont toujours prêts à faire des déclarations, ils ont toujours des projets, mais ils ne veulent pas comprendre à quel point il est contre-productif de garder le silence sur le problème du conflit entre la technologie et la société. Merci pour votre attention!
Merci de rester avec nous. Vous aimez nos articles ? Vous voulez voir du contenu plus intéressant ? Soutenez-nous en passant une commande ou en recommandant à vos amis, 30 % de réduction pour les utilisateurs Habr sur un analogue unique de serveurs d'entrée de gamme, que nous avons inventé pour vous : (disponible avec RAID1 et RAID10, jusqu'à 24 cœurs et jusqu'à 40 Go de DDR4).
Dell R730xd 2 fois moins cher ? Ici seulement aux Pays-Bas! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - à partir de 99$ ! En savoir plus
Source: habr.com