Este texto no es el resultado de una investigación científica, sino una de las muchas opiniones sobre nuestro desarrollo tecnológico más inmediato. Y, además, una invitación a la discusión.
Gary Marcus, profesor de la Universidad de Nueva York, está convencido de que el aprendizaje profundo juega un papel importante en el desarrollo de la IA. Pero también considera que una obsesión excesiva con esta metodología puede llevar a su descrédito.
En su libro Rebooting AI: Building artificial intelligence we can trust Marcus, formado en neurología y que ha construido su carrera en investigaciones punteras en el ámbito de la IA, aborda los aspectos técnicos y éticos. Desde una perspectiva tecnológica, el aprendizaje profundo puede imitar con éxito la resolución de problemas de percepción que realiza nuestro cerebro: por ejemplo, el reconocimiento de imágenes o de voz. Pero para resolver otros problemas, como comprender conversaciones o determinar relaciones causales, el aprendizaje profundo no es adecuado. Para crear máquinas inteligentes más avanzadas, capaces de resolver una gama más amplia de tareas —a menudo llamadas inteligencia artificial general— es necesario combinar el aprendizaje profundo con otros métodos.
Si un sistema de IA realmente no comprende sus tareas o el mundo que lo rodea, esto puede llevar a consecuencias peligrosas. Incluso los cambios más pequeños e inesperados en el entorno del sistema pueden provocar un comportamiento erróneo. Ya ha habido numerosos ejemplos: detectores de expresiones inapropiadas que se pueden engañar fácilmente; sistemas de búsqueda de empleo que discriminan constantemente; coches autónomos que tienen accidentes y a veces matan al conductor o a un peatón. La creación de inteligencia artificial general no es solo un problema de investigación interesante, tiene muchas aplicaciones prácticas.
En su libro, Marcus y su coautor Ernest Davis abogan por otro enfoque. Ellos creen que aún estamos lejos de crear IA general, pero están seguros de que tarde o temprano será posible.
¿Para qué necesitamos IA general? Ya se han creado versiones especializadas que aportan mucho beneficio.
Cierto, y habrá aún más beneficios. Sin embargo, hay muchas tareas que una IA especializada simplemente no puede resolver. Por ejemplo, la comprensión del lenguaje cotidiano o la asistencia general en el mundo virtual, o un robot que ayude en la limpieza y la cocina. Estas tareas están más allá de las capacidades de la IA especializada. Otro interés práctico es: ¿es posible crear un automóvil autónomo seguro utilizando IA especializada? La experiencia muestra que dicha IA aún enfrenta muchos problemas con el comportamiento en situaciones anómalas, incluso al conducir, lo cual complica mucho la situación.
Creo que todos quisiéramos tener una IA que pueda ayudarnos a realizar nuevos descubrimientos a gran escala en medicina. No está claro si las tecnologías actuales son adecuadas para esto, ya que la biología es un campo complejo. Hay que estar dispuesto a leer muchos libros. Los científicos comprenden las relaciones de causa y efecto en la interacción de redes y moléculas, pueden desarrollar teorías sobre planetas, y así sucesivamente. Sin embargo, con la IA especializada no podemos crear máquinas capaces de tales descubrimientos. Con una IA general, podríamos realizar una revolución en la ciencia, la tecnología y la medicina. En mi opinión, es muy importante continuar trabajando en la creación de IA general.
Parece que con 'general' te refieres a una IA fuerte?
Al decir 'general', me refiero a que la IA podrá pensar en tiempo real y resolver nuevas tareas de manera autónoma. A diferencia de, digamos, el Go, en cuyo caso el problema no ha cambiado en los últimos 2000 años.
La IA general debe ser capaz de tomar decisiones tanto en política como en medicina. Esto es análogo a la capacidad humana; cualquier persona en plena facultad mental puede hacer muchas cosas. Tomas a estudiantes inexpertos y en unos días los haces trabajar prácticamente en cualquier cosa, desde una tarea legal hasta una médica. Esto se debe a que tienen una comprensión general del mundo y pueden leer, y por lo tanto pueden contribuir en una amplia gama de actividades.
La relación entre tal inteligencia y la fuerte radica en que es probable que la inteligencia débil no pueda resolver tareas generales. Para crear algo lo suficientemente fiable, capaz de afrontar un mundo en constante cambio, puede que necesites, como mínimo, aproximarte a la inteligencia general.
Pero ahora estamos muy lejos de eso. AlphaGo puede jugar perfectamente en un tablero de 19x19, pero necesita ser reentrenado para jugar en un tablero rectangular. O consideremos un sistema promedio de aprendizaje profundo: puede reconocer un elefante si está bien iluminado y se puede ver la textura de su piel. Pero si solo se ve la silueta del elefante, el sistema seguramente no podrá reconocerlo.
En su libro menciona que el aprendizaje profundo no puede alcanzar las capacidades de la inteligencia artificial general, ya que no puede lograr una comprensión profunda.
En la cognición se habla de la formación de diferentes modelos cognitivos. Estoy sentado en una habitación de hotel y entiendo que allí está el armario, allí está la cama, allí está el televisor, que está inusualmente suspendido. Conozco todos estos objetos, no solo los identifico. También entiendo cómo están interrelacionados. Tengo ideas sobre el funcionamiento del mundo que me rodea. No son perfectas. Pueden ser erróneas, pero son bastante buenas. Y sobre la base de ellas, hago muchas deducciones que guían mis acciones cotidianas.
La otra extrema es algo como un sistema de juego de Atari, creado por DeepMind, en el que recordaba qué hacer cuando veía píxeles en ubicaciones específicas en la pantalla. Si obtienes suficientes datos, puede parecer que tienes comprensión, pero en realidad es muy superficial. La prueba de esto es que si mueves objetos tres píxeles, la IA juega mucho peor. Los cambios la confunden. Esto es lo opuesto a una comprensión profunda.
Para abordar este problema, sugiere regresar a la IA clásica. ¿Cuáles son las ventajas que debemos esforzarnos por aprovechar?
Hay varias ventajas.
Primero, la IA clásica es realmente un marco para crear modelos cognitivos del mundo, sobre los cuales luego se pueden hacer inferencias.
En segundo lugar, la IA clásica es perfectamente compatible con las reglas. En la actualidad, en el ámbito del aprendizaje profundo, hay una extraña tendencia en la que los especialistas tratan de evitar las reglas. Quieren hacer todo con redes neuronales y no hacer nada que se parezca a la programación clásica. Pero hay tareas que han sido resueltas de manera fácil de este modo, y nadie ha prestado atención a ello. Por ejemplo, la construcción de rutas en Google Maps.
De hecho, necesitamos ambos enfoques. El aprendizaje automático nos permite aprender bien de los datos, pero ayuda muy poco en la representación de la abstracción que es un programa informático. La IA clásica funciona bien con abstracciones, pero debe ser programada completamente a mano, y en el mundo hay demasiado conocimiento acumulado para programarlo todo. Es evidente que necesitamos combinar ambos enfoques.
Esto está relacionado con el capítulo en el que hablas sobre lo que podemos aprender del cerebro humano. Y, sobre todo, la concepción basada en la idea mencionada anteriormente, que nuestra conciencia consiste en muchos sistemas diferentes que operan de maneras distintas.
Creo que hay otra manera de explicarlo: cada sistema cognitivo que poseemos realmente aborda diferentes tareas. Las partes similares de la IA deben ser diseñadas para abordar diferentes tareas que tienen características diversas.
En este momento, estamos intentando utilizar ciertas tecnologías todo-en-uno para resolver problemas que son radicalmente distintos entre sí. Entender una oración no es lo mismo que reconocer un objeto. Pero la gente intenta usar el aprendizaje profundo en ambos casos. Desde un punto de vista cognitivo, son tareas cualitativamente diferentes. Estoy simplemente asombrado de cuánto desprecia la comunidad de aprendizaje profundo la IA clásica. ¿Por qué esperar la aparición de una bala de plata? Es inalcanzable, y la búsqueda infructuosa no permite comprender toda la complejidad de la tarea de crear IA.
También mencionas que los sistemas de IA son necesarios para comprender las relaciones causa-efecto. ¿Crees que en esto nos ayudará el aprendizaje profundo, la IA clásica o algo completamente nuevo?
Este es otro campo para el que el aprendizaje profundo no es muy adecuado. No explica las causas de ciertos eventos, sino que calcula la probabilidad de un evento bajo ciertas condiciones.
¿De qué estamos hablando? Usted observa ciertos escenarios, y entiende por qué sucede eso y qué podría pasar si ciertas circunstancias cambian. Puedo mirar el soporte donde se encuentra un televisor y imaginar que si le corto una pata, el soporte volcará y el televisor caerá. Esa es la relación causa-efecto.
La IA clásica nos proporciona ciertas herramientas para esto. Puede, por ejemplo, representar lo que es el soporte y lo que es la caída. Pero no quiero exagerar. El problema es que la IA clásica depende en gran medida de la cantidad de información sobre lo que está ocurriendo, y yo he llegado a esta conclusión simplemente al observar el soporte. De algún modo, puedo generalizar, representar partes del soporte que no puedo ver. Actualmente no contamos con herramientas para implementar esta propiedad.
Además, mencionas que las personas tienen un conocimiento innato. ¿Cómo se puede implementar esto en la IA?
En el momento del nacimiento, nuestro cerebro ya es un sistema muy bien pensado. No está fijado, la naturaleza creó un primer borrador tosco. Luego, el aprendizaje nos ayuda a revisar este borrador a lo largo de toda nuestra vida.
El borrador tosco del cerebro ya posee ciertas capacidades. Una cabra montés recién nacida es capaz, pocas horas después, de descender sin error por la ladera de una montaña. Es evidente que ya tiene una comprensión del espacio tridimensional, de su cuerpo y la relación entre ellos. Es un sistema bastante complejo.
En parte, por eso creo que necesitamos híbridos. Es difícil imaginar cómo se puede crear un robot que funcione bien en el mundo sin conocimientos similares, comenzando desde cero y aprendiendo a partir de una larga y vasta experiencia.
En lo que respecta a los humanos, nuestro conocimiento innato proviene de nuestro genoma, que ha evolucionado durante mucho tiempo. Y con los sistemas de IA, tendremos que seguir un camino diferente. En parte, pueden ser reglas para construir nuestros algoritmos. En parte, pueden ser reglas para crear estructuras de datos que estos algoritmos manipulan. Y en parte, pueden ser conocimientos que introduciremos directamente en las máquinas.
Es interesante que en el libro llegas a la idea de confianza y a la creación de sistemas de confianza. ¿Por qué elegiste precisamente este criterio?
Creo que hoy todo esto representa un juego de pelota. Me parece que estamos viviendo un momento extraño en la historia, confiando en software que no es de fiar. Creo que nuestras preocupaciones actuales no serán eternas. Dentro de cien años, la IA justificará nuestra confianza, o tal vez antes.
Pero hoy en día la IA es peligrosa. No en el sentido en que la teme Elon Musk, sino porque los sistemas de entrevistas para la contratación discriminan a las mujeres, independientemente de lo que hagan los programadores, ya que sus herramientas son demasiado simples.
Me gustaría que tuviéramos una IA de mejor calidad. No quiero que comience un "invierno de la inteligencia artificial", cuando las personas se den cuenta de que la IA no funciona y es simplemente peligrosa, y no quieran solucionarlo.
En cierto sentido, su libro realmente parece muy optimista. Usted sugiere que se puede construir una IA confiable. Solo necesitamos mirar en otra dirección.
Es cierto, el libro es muy pesimista a corto plazo y muy optimista a largo plazo. Creemos que todos los problemas que hemos descrito pueden resolverse si se mira más ampliamente lo que deben ser las respuestas correctas. Y pensamos que si esto sucede, el mundo será mejor.
Fuente: habr.com
