Creo que el problema no es que las máquinas reemplacen a los humanos en su lugar de trabajo, incluso en la esfera intelectual, ni que las computadoras parezcan haberse alzado en armas contra las personas con educación superior y cuentas de Twitter. La implementación de la IA no se está produciendo rápidamente, sino que, por el contrario, es demasiado lenta. ¿Por qué? Porque este es un ciclo normal del desarrollo humano, y simplemente no nos damos cuenta de que la destrucción que vemos significa la introducción de nueva tecnología que, antes de crear nuevos empleos, destruye los antiguos.
Las tecnologías destruyen industrias obsoletas y crean otras nuevas, este es el proceso de creación, este es el ciclo de desarrollo. Si intentas prolongar la agonía insertando tecnologías antiguas en el proceso o creando algunas ventajas para tecnologías obsoletas, simplemente ralentizarás el proceso y lo harás más doloroso. Sucederá de todos modos, pero el problema es que estamos regulando el proceso creando reglas que deliberadamente lo ralentizan. Creo que este es un problema mayor que aquellos de los que somos más claramente conscientes. Se trata más bien de un problema psicológico en el que la gente se pregunta: "¿cómo puedes sentirte seguro mientras conduces un coche autónomo?"
Miré la historia y descubrí que hace cien años uno de los sindicatos más poderosos de Nueva York era el sindicato de trabajadores de ascensores, que unía a 17 mil trabajadores. Por cierto, en esa época ya existía una tecnología que permitía simplemente presionar un botón y listo, ¡pero la gente no confiaba en ella! ¡Es simplemente horrible tener que presionar el botón usted mismo para llamar al ascensor! ¿Sabes por qué este sindicato “murió” y la gente empezó a utilizar los botones? Porque un día los ascensoristas decidieron hacer huelga. Se declararon en huelga y luego las personas que tenían que subir a lo alto del Empire State Building se arriesgaron a presionar los botones con sus propias manos.
Recuerde lo que decían hace 20-30 años sobre los hijos o nietos cuando se ponían al volante de un coche: “esto es terrible, basta con mirar las estadísticas, porque los coches son una de las principales causas de mortalidad humana, ¿cómo pueden correr el riesgo? ¿sus vidas?"
Entonces, todo esto es pura psicología. Prestamos poca atención a cuántas personas mueren en accidentes automovilísticos, pero una vez que una persona muere atropellada por un vehículo autónomo, el evento se vuelve desproporcionado. Cualquier fallo, cualquier error en las tecnologías de inteligencia artificial aparece inmediatamente en las portadas de los periódicos. Pero miren las estadísticas, miren el número de incidentes, y verán que es un pequeño porcentaje del número total de accidentes. Por lo tanto, la comunidad humana sólo ganará si puede avanzar sin verse paralizada por tales temores.
Otro problema surge cuando hablamos de noticias falsas o ciberseguridad, son temas muy politizados y recibo muchas llamadas preguntándome cómo trato con los que odian la IA. Por ejemplo, escribo un blog habitual y mi nueva entrada, que se publicará en un par de días, habla del odio y del hecho de que la salvación del odio está en el conocimiento, en el aprendizaje. Sólo tenemos que entender que este problema existía mucho antes de que se inventaran todas estas cosas, sólo que su importancia ahora ha aumentado gracias a Internet, que llega a millones y miles de millones de personas.
Creo que en realidad es algo bueno cuando alguien intenta detener el progreso intentando prohibir la IA, y sabes que eso no funcionará porque tenemos a Putin y otros tipos malos, dondequiera que estén, que utilizan contra nosotros nuestras propias tecnologías creadas en el mundo libre. Así que creo que deberíamos aceptarlo como un hecho.
La esencia del problema está sólo dentro de nosotros, y las respuestas a las preguntas están dentro de nosotros, en nuestra propia fuerza y nuestra propia confianza. Sostengo que las máquinas inteligentes no pueden hacernos “obsoletos”. Sin embargo, hay que recordar que existen ciertas restricciones con respecto a la cooperación entre humanos y computadoras y, en gran medida, estos son solo rumores que han existido antes. Como siempre, estas son simplemente nuevas oportunidades que destruyen el viejo mundo y crean uno nuevo, y cuanto más avancemos, mejor estaremos.
Hoy en día, lo que más se parece a un paso hacia el mundo de la ciencia ficción. La paradoja es que si miramos 50-60 años atrás, veremos que en aquellos días la ciencia ficción era absolutamente positiva, era una completa utopía. Sin embargo, luego se produjo una transición gradual de la utopía a la distopía, de tal manera que ya no queremos oír nada sobre el futuro de la humanidad.
Esto no sucedió de la noche a la mañana. Hubo un tiempo en el que la gente decidió que la exploración espacial era demasiado arriesgada. De hecho, esto es un gran riesgo, pero imaginemos que en 1969, cuando los estadounidenses aterrizaron en la luna, toda la potencia informática de la NASA era menor que la potencia de cualquier dispositivo informático moderno que quepa en su bolsillo. Este dispositivo es mil veces más potente que el superordenador que existía hace 40 años. ¡Imagínese la potencia informática que tiene en su bolsillo! Sin embargo, no estoy seguro de que el Apple iPhone 7 tenga la misma potencia informática que tenía el Apollo 7, es decir, que sea capaz de producir el mismo efecto.
Sin embargo, las máquinas nos han proporcionado grandes avances en la exploración espacial o oceánica, y debemos entender que las computadoras nos brindan la capacidad de asumir grandes riesgos.
Me gustaría terminar mi discurso con una nota positiva. ¿No muestra esta diapositiva imágenes positivas? La foto en la esquina inferior derecha no está retocada, de hecho conocí a Terminator en 2003.
También le encantaba el ajedrez desde pequeño, pero no lo estudiaba específicamente, por lo que perdía muy rápidamente. ¡Así que me sorprendió mucho cuando 6 meses después se postuló para gobernador de California y ganó!
¿Por qué llamo positivas a estas imágenes? Porque aunque en todos los episodios excepto en el primero, el viejo Arnold siempre está del lado de los ganadores y nunca se cansa de luchar contra nuevas máquinas, es en el primer episodio cuando vemos la combinación de la que hablaba: aquí es cuando Una persona más una máquina vieja más una interfaz perfecta derrotan al coche más nuevo.
Quizás digas: “¡sí, las máquinas son más fuertes que las personas porque pueden calcular absolutamente todo!” Sin embargo, la cuestión no es que puedan calcularlo todo. Por ejemplo, en ajedrez técnicamente podemos hablar de la infinidad matemática del número de movimientos posibles, igual a 1045, que no son difíciles de calcular para cualquier computadora moderna. Sin embargo, lo importante en el juego no son los cálculos, sino el hecho de que el ordenador esté por delante del hombre, porque siempre se guía por las reglas. Y usted conoce el efecto de estas reglas y sabe por qué la computadora elige el mejor movimiento entre una gran variedad de movimientos posibles.
Pero si pasamos a la vida real, no estoy seguro de que una computadora siempre pueda ser útil. Veamos la situación más típica: tienes una computadora que controla tu presupuesto, estás en una tienda y estás a punto de comprar un regalo caro. La computadora evalúa la compra y dice: "no, no puedes permitirte este artículo porque estarás por encima del presupuesto". La máquina lo ha calculado todo, pero hay un pequeño matiz: su hijo está a su lado y este regalo está destinado a su cumpleaños. ¿Ves cómo esto cambia las condiciones del problema? Esto cambia todo porque el niño está esperando este regalo.
Puedo empezar a agregar estas pequeñas cosas que lo cambian todo, pero no creo que puedan incluirse en el planteamiento del problema y obtener la solución correcta. Tenemos muchas reglas, pero todavía tenemos que hacer preguntas porque las cosas cambian. Esto es lo que se puede llamar una situación ordinaria, pero si miras estas películas, puedes decir que la situación que se muestra aquí es más dramática y extraordinaria. Esta diapositiva muestra una imagen fija del Episodio V de Star Wars: El Imperio Contraataca.
Han Solo pilota la nave directamente a través de un campo de asteroides, y C-3PO entra en pánico e informa que la probabilidad de sobrevivir al campo es de 1: 3122. Han Solo le dice: "¡Nunca me digas cuáles son nuestras posibilidades!" Aquí surge la pregunta, ¿quién tiene más razón en esta situación?
La tecnología representada por C-3PO tiene toda la razón, porque las posibilidades de supervivencia tienden a cero. Es posible que, desde la perspectiva de un robot, ser capturado por las fuerzas imperiales sea una mejor opción que un humano ni siquiera consideraría que morir en un campo de asteroides. Pero si la computadora decide que rendirse al imperio es la mejor opción, entonces podemos asumir que la persona no tiene ninguna opción. Lo muy importante es que en ambos casos, ordinario y extraordinario, tenemos la oportunidad de tomar la decisión final, y para tomar esa decisión aún se requiere liderazgo humano.
A veces esto significa que tienes que ir en contra de las recomendaciones de la computadora. El objetivo del liderazgo humano no es conocer las probabilidades, sino plantear las preguntas que realmente importan, no sólo hoy o mañana, sino en el futuro lejano. Este proceso puede denominarse "guía humana" o "intervención humana", que influye sin la ayuda de máquinas inteligentes. Este es el que debería ser nuestro rumbo en este siglo.
A veces la gente se sorprende de mi optimismo sobre las máquinas inteligentes, dada mi experiencia con ellas, pero realmente soy optimista. Y estoy seguro de que todos ustedes son igualmente optimistas sobre el futuro de la IA. Pero debemos recordar que nuestras tecnologías son agnósticas. No es ni bueno ni malo, pero puede usarse tanto para el bien como para el mal. Las máquinas deben volverse más inteligentes y más capaces. Y nosotros, los humanos, debemos hacer lo que sólo los humanos pueden hacer: soñar, soñar al máximo, y luego podremos extraer todos los beneficios que aportan estas nuevas e increíbles herramientas.
Como estaba previsto, todavía nos quedan 10 minutos para responder preguntas.
Pregunta: ¿Crees que sería posible crear un sistema de aprendizaje automático que pudiera determinar qué movimientos son más consistentes con el estilo de juego humano?
Kasparov: En primer lugar, no esperamos que la computadora nos diga el primer movimiento y los 17505 movimientos restantes. Creo que deberíamos confiar en la máquina para brindar las mejores recomendaciones para movimientos únicos. Por cierto, los jugadores de primer nivel utilizan los ordenadores como guía, ayudándoles a adoptar la posición más adecuada en el juego. Repito una vez más: en 9 de cada 10 casos, la evaluación de la situación por parte del ordenador es muy superior a la evaluación que puede hacer una persona.
Pregunta: ¿Está de acuerdo en que la verdadera inteligencia requiere libertad de elección, libertad para tomar decisiones que sólo una persona puede tomar? Después de todo, el software de Deep Blue y otros programas informáticos están escritos por personas, y cuando pierdes contra Deep Blue, no pierdes contra la computadora, sino contra los programadores que escribieron el programa. Mi pregunta es: ¿existe algún peligro por parte de algún tipo de inteligencia artificial mientras las computadoras tengan libertad de elección?
Kasparov: aquí debo pasar de la ciencia a la filosofía. Todo está claro sobre Deep Blue: es el resultado de una gran cantidad de trabajo humano. En la mayoría de los casos, incluso en el caso de AlphaGo de Demis Hassabis, todos estos son productos de la inteligencia humana. No sé si las máquinas pueden tener libertad de elección, pero creo que hagamos lo que hagamos, si sabemos cómo hacerlo, las máquinas lo harán mejor. Sin embargo, cuando hacemos la mayoría de las cosas, no sabemos cómo hacerlas de la mejor manera, por lo que muchas veces no podemos entender en qué vamos a lograr el éxito. En pocas palabras, tenemos un objetivo, pero no sabemos cuál es, y el papel de la máquina es ayudarnos a alcanzar ese objetivo. Por lo tanto, si hablamos de la libre elección de ordenadores, debería ayudarnos a unirnos a este objetivo. Creo que este es un futuro muy lejano para las computadoras.
Pregunta: ¿Qué opinas sobre las características humanas como el coraje y la moralidad, y las decisiones que la inteligencia artificial puede tomar en base a ellas? Por ejemplo, ¿qué debería hacer un coche autónomo: atropellar a un niño o evitar atropellarlo estrellándose contra una roca y matando a su pasajero?
Kasparov: Esto es lo que la gente llama “sentimientos”, no son cuantificables porque son un montón de características humanas diferentes. Si hablamos de coraje, esta característica siempre va en contra de las posibilidades de elegir la opción óptima. La valentía, como otras emociones humanas, es por definición contraria al cálculo preciso.
Pregunta: Señor Kasparov, mi pregunta no se refiere a las computadoras: ¿qué hay en su matraz? ¿Puedo probarlo?
Kasparov: ¿Qué quieres decir?
Anfitrión: ¡Pregunta qué hay en tu bolsillo!
Kasparov: ¿en mi bolsillo? "Stolichnaya"! Esto no es un anuncio, si te diste cuenta, lo tiré.
Pregunta: ¿Quién crees que será el próximo campeón mundial de ajedrez? ¿Tiene el joven ajedrecista chino Wei Yi la posibilidad de destronar a Carelsen como rey del ajedrez?
Kasparov: Karelsen es el jugador número 1, no es un campeón mundial, sino simplemente el mejor jugador de ajedrez del mundo según el ranking. Este año cumplirá 27 años, por lo que todavía es joven, pero no muy joven para los estándares actuales. Creo que Wei Yi tiene ahora 18 o 19 años. Magnus está por delante de jugadores jóvenes como los estadounidenses Wesley So y Fabiano Kerouana, y Wei Yi podría ser su oponente. Sin embargo, para convertirse en campeón del mundo se necesita talento, no es necesario ser joven y enérgico, sólo tener un poco de suerte. Entonces, para responder a la pregunta, puedo decir: sí, tiene posibilidades de vencer a Magnus Carelsen.
Pregunta: Cuando hablabas de algoritmos deterministas y aprendizaje automático, mencionaste la posibilidad de utilizar máquinas como herramientas para complementar nuestra inteligencia. ¿Qué pasa con la posibilidad de maximizar los recursos antes de crear una IA poderosa, o incluso de poner un cerebro humano en una computadora?
Kasparov: No me avergüenza admitir mi ignorancia cuando no estoy seguro de poder responder correctamente a una pregunta. Hago todo lo posible por comprender qué es el cerebro humano, si lo consideramos por separado del cuerpo humano, qué funciones realiza. Porque es difícil imaginar cómo se comportará el cerebro por separado del cuerpo. Tal vez se pueda hacer un experimento así en el futuro, pero estoy seguro de que la combinación del cerebro humano, los sentimientos y emociones humanos con una computadora formará una "mente" que será mucho más efectiva que un cerebro extraído y congelado, usado. como un dispositivo lleno de neuronas.
Pregunta: ¿Existe un enfoque básico universal al problema de reemplazar los trabajos humanos por computadoras?
Kasparov: Creo que ésta es una pregunta muy importante, porque está claro que nos acercamos al punto en el que muchas personas pueden quedarse desempleadas. Ésta es la paradoja del progreso tecnológico: por un lado, tenemos las últimas tecnologías que proporcionan enormes ventajas competitivas a la generación más joven que se ocupa de estos dispositivos y tecnologías. Por otro lado, tenemos avances en medicina y nutrición saludable, que prolongan la vida humana y brindan a la persona la capacidad de trabajar durante muchos años. En este sentido, la generación de los años 50, 60 o incluso 40 no puede competir con la juventud de hoy. Debemos encontrar una solución a esta situación paradójica en la que la brecha entre generaciones es tan amplia. La experiencia histórica dice que tal brecha siempre conduce a una gran explosión. Me refiero a la brecha entre la infraestructura social existente de la sociedad y el progreso tecnológico.
Se trata de una cuestión que los políticos prefieren posponer hasta las próximas elecciones. Nadie quiere hablar de ello porque es un tema delicado. Es muy fácil imprimir dinero y esperar que alguien pague por ello algún día en el futuro. Por lo tanto, hay muchas paradojas en esta área, por ejemplo, la acumulación de deudas para brindar garantías sociales a la generación mayor con la expectativa de que la carga de pagar estas deudas recaiga sobre los hombros de la generación más joven. Hay muchas preguntas para las que no tengo respuesta y muchas preguntas que podría hacer y espero que la IA pueda ayudarme.
Es muy malo que durante décadas los políticos hayan intentado ignorar los problemas que acabamos de discutir. Siempre están dispuestos a hacer declaraciones, siempre tienen planes, pero no quieren entender lo contraproducente de guardar silencio sobre el problema del conflicto entre tecnología y sociedad. ¡Gracias por su atención!
Gracias por estar con nosotros. ¿Te gustan nuestros artículos? ¿Quieres ver más contenido interesante? Apóyanos haciendo un pedido o recomendándonos a amigos, 30% de descuento para usuarios de Habr en un análogo único de servidores de nivel de entrada, que fue inventado por nosotros para usted: (disponible con RAID1 y RAID10, hasta 24 núcleos y hasta 40GB DDR4).
Dell R730xd 2 veces más barato? Solo aqui ¡en los Paises Bajos! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - ¡desde $99! Leer acerca de
Fuente: habr.com