Creo que o problema non é que as máquinas substitúan aos humanos no seu lugar de traballo, incluso no ámbito intelectual, e non que os ordenadores parecen ter tomado as armas contra persoas con estudos superiores e contas de Twitter. A implementación da IA non está a suceder rapidamente, senón que, pola contra, é demasiado lenta. Por que? Porque este é un ciclo normal de desenvolvemento humano, e simplemente non nos damos conta de que a destrución que vemos supón a introdución de novas tecnoloxías que, antes de crear novos empregos, destrúen os vellos.
As tecnoloxías destrúen industrias obsoletas e crean outras novas, este é o proceso de creación, este é o ciclo de desenvolvemento. Se tentas prolongar a agonía inserindo tecnoloxías antigas no proceso ou creando algunhas vantaxes para tecnoloxías obsoletas, simplemente ralentizarás o proceso e facelo máis doloroso. Ocorrerá de todos os xeitos, pero o problema é que estamos a regular o proceso creando regras que o retarden deliberadamente. Creo que este é un problema máis grande que os que somos máis conscientes. Este é máis un problema psicolóxico no que a xente fai a pregunta: "como podes sentirte seguro mentres estás nun coche autónomo?"
Mirei na historia e souben que hai cen anos un dos sindicatos máis poderosos de Nova York era o sindicato dos ascensoristas, que unía a 17 mil traballadores. Por certo, daquela xa existía unha tecnoloxía na que só podías premer un botón e xa estabas, pero a xente non se fiaba del! É horrible ter que premer o botón para chamar ao ascensor! Sabes por que "morreu" este sindicato e a xente comezou a usar os botóns? Porque un día os traballadores do ascensor decidiron ir á folga. Fixeron folga, e entón as persoas que tiveron que subir ao alto do Empire State Building arriscáronse a premer os botóns coas súas propias mans.
Lembra o que dicían hai 20-30 anos dos fillos ou dos netos cando se puxían ao volante dun coche: “isto é terrible, basta con mirar as estatísticas, porque os coches son unha das principais causas de mortalidade humana, como poden arriscarse. as súas vidas?"
Entón, todo isto é pura psicoloxía. Prestamos pouca atención a cantas persoas morren en accidentes de tráfico, pero unha vez que unha persoa morre por un coche autónomo, o evento queda desproporcionado. Calquera fallo, calquera erro nas tecnoloxías de intelixencia artificial cóbrese inmediatamente nas primeiras páxinas dos xornais. Pero fíxate nas estatísticas, mira o número de incidentes, e verás cal é unha pequena porcentaxe do total de accidentes. Polo tanto, a comunidade humana gañará só se pode avanzar sen quedar paralizada por tales medos.
Outro problema xorde cando falamos de noticias falsas ou de ciberseguridade, son temas moi politizados e recibo moitas chamadas que me preguntan como trato cos que odian a IA. Por exemplo, escribo un blog habitual, e o meu novo post, que se publicará nun par de días, fala do odio e de que a salvación do odio está no coñecemento, na aprendizaxe. Só hai que entender que este problema existía moito antes de que todas estas cousas se inventasen, é que agora a súa importancia aumentou grazas a Internet, que chega a millóns e miles de millóns de persoas.
Creo que é realmente unha boa cousa que alguén intente deter o progreso intentando prohibir a IA, e xa sabes que iso non funcionará porque temos a Putin e outros malos, estean onde estean, que usan contra nós as nosas propias tecnoloxías creadas en o mundo libre. Entón creo que deberíamos aceptalo como un feito.
A esencia do problema está só dentro de nós, e as respostas ás preguntas están dentro de nós, na nosa propia forza e na nosa propia confianza. Eu argumento que as máquinas intelixentes non poden facernos "obsoletos". Non obstante, hai que lembrar que existen certas restricións en canto á cooperación humano-computadora, e en gran medida son só rumores que xa existiron antes. Como sempre, estas son simplemente novas oportunidades que destrúen o vello mundo e crean un novo, e canto máis avancemos, mellor estaremos.
Hoxe en día parécese máis a un paso ao mundo da ciencia ficción. O paradoxo é que se botamos a vista atrás 50-60 anos, veremos que naqueles tempos a ciencia ficción era absolutamente positiva, era unha utopía completa. Con todo, houbo unha transición gradual da utopía á distopía, de tal xeito que xa non queremos escoitar nada sobre o futuro da humanidade.
Isto non ocorreu dun día para outro. Houbo un tempo no que a xente decidiu que a exploración espacial era demasiado arriscada. Este é realmente un gran risco, pero imaxina que en 1969, cando os estadounidenses pousaron na Lúa, toda a potencia informática da NASA era inferior á potencia de calquera dispositivo informático moderno que cabe no teu peto. Este dispositivo é mil veces máis potente que o superordenador que existía hai 40 anos. Imaxina a potencia de computación que tes no teu peto! Non obstante, non estou seguro de que o Apple iPhone 7 teña a mesma potencia de cálculo que o Apollo 7, é dicir, sexa capaz de producir o mesmo efecto.
Porén, as máquinas proporcionáronnos moitos grandes avances na exploración espacial ou oceánica, e debemos entender que os ordenadores nos proporcionan a capacidade de asumir grandes riscos.
Gustaríame rematar a miña intervención cunha nota positiva. Esta diapositiva non mostra imaxes positivas? A foto da esquina inferior dereita non está Photoshop, realmente coñecín a Terminator en 2003.
Tamén lle gustaba o xadrez desde pequeno, pero non o estudou especificamente, polo que perdeu moi rápido. Entón quedei moi sorprendido cando 6 meses despois postulouse para gobernador de California e gañou!
Por que chamo positivas a estas imaxes? Porque aínda que en todos os episodios, excepto no primeiro, o vello Arnold sempre está ao lado dos vencedores e nunca se cansa de loitar contra novas máquinas, é no primeiro episodio no que vemos a combinación da que falaba: é cando un persoa máis unha máquina antiga máis unha interface perfecta derrota o coche máis novo.
Podes dicir: "si, as máquinas son máis fortes que as persoas porque poden calcular absolutamente todo!" Non obstante, a cuestión non é que poidan calculalo todo. Por exemplo, no xadrez podemos falar tecnicamente da infinidade matemática do número de movementos posibles, igual a 1045, que non son difíciles de calcular para ningún ordenador moderno. Non obstante, o importante no xogo non son os cálculos, senón o feito de que o ordenador está por diante da persoa, porque sempre está guiado polas regras. E coñeces o efecto destas regras e sabes por que o ordenador elixe o mellor movemento entre unha gran variedade de movementos posibles.
Pero se volvemos á vida real, non estou seguro de que un ordenador sempre poida ser útil. Vexamos a situación máis típica: tes un ordenador que supervisa o teu orzamento, estás nunha tenda e estás a piques de comprar un agasallo caro. O ordenador avalía a compra e di: "Non, non pode pagar este artigo porque excederá o orzamento". A máquina calculou todo, pero hai un pequeno matiz: o teu fillo está de pé xunto a ti e este agasallo está pensado para o seu aniversario. Ves como isto cambia as condicións do problema? Isto cambia todo porque o neno está esperando este agasallo.
Podo comezar a engadir estas pequenas cousas que o cambian todo, pero non creo que se poidan incluír na declaración do problema e obter a solución correcta. Temos moitas regras, pero aínda temos que facer preguntas porque as cousas cambian. Isto é o que se pode chamar unha situación normal, pero se miras estas películas, pódese dicir que a situación que aquí se mostra é máis dramática e extraordinaria. Esta diapositiva mostra un fotograma do Episodio V de Star Wars: The Empire Strikes Back.
Han Solo pilota a nave directamente a través dun campo de asteroides, e C-3PO entra en pánico, informando que a probabilidade de sobrevivir ao campo é de 1: 3122. Han Solo dille: "Non me digas nunca cales son as nosas posibilidades!" Aquí xorde a pregunta, quen ten máis razón nesta situación?
A tecnoloxía representada por C-3PO é absolutamente correcta, porque as posibilidades de supervivencia tende a cero. É posible que, desde a perspectiva dun robot, ser capturado polas forzas imperiais sexa unha mellor opción que un humano nin sequera consideraría que morrer nun campo de asteroides. Pero se o ordenador decide que entregarse ao imperio é a mellor opción, entón podemos supoñer que a persoa non ten opcións en absoluto. O moi importante é que nos dous casos, ordinarios e extraordinarios, temos a oportunidade de tomar a decisión final, e para tomar esa decisión aínda esixe un liderado humano.
Ás veces isto significa que tes que ir en contra das recomendacións do ordenador. O obxectivo do liderado humano non é coñecer as probabilidades, senón facer as preguntas que realmente importan, non só hoxe ou mañá, senón no futuro. Este proceso pódese chamar "orientación humana" ou "intervención humana", influíndo sen a axuda de máquinas intelixentes. Este é o que debe ser o noso curso neste século.
A xente ás veces sorprende o meu optimismo sobre as máquinas intelixentes, dada a miña experiencia con elas, pero realmente son optimista. E estou seguro de que todos vostedes son igualmente optimistas sobre o futuro da IA. Pero debemos lembrar que as nosas tecnoloxías son agnósticas. Non é nin bo nin malo, pero pódese usar tanto para o ben como para o mal. As máquinas deben facerse máis intelixentes e capaces. E nós, os humanos, debemos facer o que só os humanos poden facer: soñar, soñar ao máximo, e entón poderemos extraer todos os beneficios que traen estas novas ferramentas incribles.
Tal e como estaba previsto, aínda nos quedan 10 minutos para responder preguntas.
Pregunta: Cres que sería posible crear un sistema de aprendizaxe automática que poida determinar que movementos son máis consistentes co estilo de xogo humano?
Kasparov: En primeiro lugar, non esperamos que o ordenador nos diga o primeiro movemento e os 17505 movementos restantes. Creo que debemos confiar na máquina para ofrecer as mellores recomendacións para movementos únicos. Por certo, os xogadores de primeiro nivel utilizan os ordenadores como guía, axudándolles a tomar a posición máis adecuada no xogo. Repito unha vez máis: en 9 casos de cada 10, a avaliación da situación do ordenador é moi superior á que pode facer unha persoa.
Pregunta: Estás de acordo en que a verdadeira intelixencia require liberdade de elección, liberdade para tomar decisións que só unha persoa pode tomar? Despois de todo, o software Deep Blue e outros programas informáticos son escritos por persoas, e cando perdes contra Deep Blue, non perdes para o ordenador, senón para os programadores que escribiron o programa. A miña pregunta é: hai algún perigo de calquera tipo de intelixencia de máquina mentres os ordenadores teñan liberdade de elección?
Kasparov: aquí debo pasar da ciencia á filosofía. Todo está claro sobre Deep Blue: é o resultado dunha enorme cantidade de traballo humano. Na maioría dos casos, mesmo no caso do AlphaGo de Demis Hassabis, todos estes son produtos da intelixencia humana. Non sei se as máquinas poden ter liberdade de elección, pero creo que fagamos o que fagamos, se sabemos como facelo, as máquinas farano mellor. Non obstante, cando facemos a maioría das cousas, non sabemos como facelas da mellor maneira, polo que moitas veces non podemos entender o que imos ter éxito. En pocas palabras, temos un obxectivo, pero non sabemos cal é, e o papel da máquina é axudarnos a realizar ese obxectivo. Polo tanto, se falamos de libre elección de ordenadores, debería axudarnos a vincularnos a este obxectivo. Creo que este é un futuro moi afastado para os ordenadores.
Pregunta: Que opinas das características humanas como a coraxe e a moral, e as decisións que a intelixencia artificial pode tomar en base a elas? Por exemplo, que debería facer un coche autónomo: atropelar a un neno ou evitar golpealo chocando contra unha pedra e matando ao seu pasaxeiro?
Kasparov: Estes son os que a xente chama "sentimentos", non son cuantificables porque son un montón de características humanas diferentes. Se falamos de coraxe, esta característica sempre vai en contra das posibilidades de escoller a opción óptima. A valentía, como outras emocións humanas, é por definición contraria ao cálculo preciso.
Pregunta: Señor Kasparov, a miña pregunta non se refire aos ordenadores: que hai no seu frasco e podo probalo?
Kasparov: que queres dicir?
Anfitrión: El pregunta que ten no peto!
Kasparov: no meu peto? "Stolichnaya"! Este non é un anuncio, se te decataches, tireino.
Pregunta: Quen cres que será o próximo campión do mundo de xadrez e ten a oportunidade de destronar a Carelsen como rei do xadrez o mozo chinés Wei Yi?
Kasparov: Karelsen é o xogador número 1, non é un campión do mundo, senón simplemente o mellor xogador de xadrez do mundo segundo a clasificación. Este ano cumpre 27 anos, polo que aínda é novo, pero non moi novo para os estándares actuais. Creo que Wei Yi ten agora 18 ou 19 anos. Magnus está por diante de xogadores novos como os estadounidenses Wesley So e Fabiano Kerouana, e Wei Yi podería ser o seu rival. Non obstante, para converterse nun campión do mundo, necesitas talento, non tes que ser novo e enérxico, só tes un pouco de sorte. Entón, para responder á pregunta, podo dicir que si, ten a oportunidade de vencer a Magnus Carelsen.
Pregunta: Cando falaches de algoritmos deterministas e aprendizaxe automática, mencionaches a posibilidade de utilizar as máquinas como ferramentas para complementar a nosa intelixencia. Que pasa coa posibilidade de maximizar os recursos antes de crear unha IA poderosa ou incluso de poñer un cerebro humano nunha computadora?
Kasparov: Non me dá vergoña admitir a miña ignorancia cando non estou seguro de non poder responder correctamente a unha pregunta. Estou intentando entender o que é o cerebro humano, se o consideramos por separado do corpo humano, que funcións realiza. Porque é difícil imaxinar como se comportará o cerebro por separado do corpo. Quizais tal experimento se poida facer no futuro, pero estou seguro de que a combinación do cerebro humano, os sentimentos e as emocións humanas cun ordenador formará unha "mente" que será moito máis eficaz que un cerebro extraído e conxelado, usado. como un dispositivo cheo de neuronas.
Pregunta: Existe un enfoque básico universal para o problema de substituír os traballos humanos por ordenadores?
Kasparov: Creo que esta é unha pregunta moi importante, porque está claro que nos estamos achegando ao punto no que moitas persoas poden estar no paro. Este é o paradoxo do progreso tecnolóxico: por unha banda, temos as últimas tecnoloxías que proporcionan enormes vantaxes competitivas á xeración máis nova que se ocupa destes dispositivos e tecnoloxías. Por outra banda, temos avances na medicina e na nutrición saudable, que prolonga a vida humana e dá a unha persoa a capacidade de traballar durante moitos anos. Neste sentido, a xeración dos 50, 60 ou mesmo 40 non pode competir coa mocidade actual. Hai que buscar unha solución a esta situación paradoxal onde a brecha entre xeracións é tan ampla. A experiencia histórica di que tal fenda sempre leva a unha gran explosión. Refírome á brecha entre a infraestrutura social existente da sociedade e o progreso tecnolóxico.
Este é un tema que os políticos prefiren adiar ata as próximas eleccións. Ninguén quere falar diso porque é un tema delicado. É moi doado imprimir cartos e esperar que alguén o pague algún día no futuro. Por iso son moitos os paradoxos neste eido, por exemplo, a acumulación de débedas para ofrecer garantías sociais á xeración máis vella na expectativa de que a carga de saldar estas débedas recaia sobre os ombreiros da xeración máis nova. Hai moitas preguntas ás que non teño resposta e moitas preguntas que podería facer coas que espero que a IA poida axudarme.
É moi malo que desde hai décadas os políticos intenten ignorar os problemas que acabamos de comentar. Sempre están dispostos a facer declaracións, sempre teñen plans, pero non queren entender o contraproducente de calar sobre o problema do conflito entre tecnoloxía e sociedade. Grazas pola súa atención!
Grazas por estar connosco. Gústanche os nosos artigos? Queres ver máis contido interesante? Apóyanos facendo un pedido ou recomendando a amigos, Desconto do 30 % para os usuarios de Habr nun análogo único de servidores de nivel de entrada, que inventamos nós para ti: (dispoñible con RAID1 e RAID10, ata 24 núcleos e ata 40 GB DDR4).
Dell R730xd 2 veces máis barato? Só aquí nos Países Baixos! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - desde $ 99! Ler sobre
Fonte: www.habr.com