<\/a><\/noindex>En su libro, Marcus y su coautor Ernest Davis abogan por otro enfoque. Ellos creen que a\u00fan estamos lejos de crear IA general, pero est\u00e1n seguros de que tarde o temprano ser\u00e1 posible.<\/p>\n
\u00bfPara qu\u00e9 necesitamos IA general? Ya se han creado versiones especializadas que aportan mucho beneficio.<\/b><\/p>\n
Cierto, y habr\u00e1 a\u00fan m\u00e1s beneficios. Sin embargo, hay muchas tareas que una IA especializada simplemente no puede resolver. Por ejemplo, la comprensi\u00f3n del lenguaje cotidiano o la asistencia general en el mundo virtual, o un robot que ayude en la limpieza y la cocina. Estas tareas est\u00e1n m\u00e1s all\u00e1 de las capacidades de la IA especializada. Otro inter\u00e9s pr\u00e1ctico es: \u00bfes posible crear un autom\u00f3vil aut\u00f3nomo seguro utilizando IA especializada? La experiencia muestra que dicha IA a\u00fan enfrenta muchos problemas con el comportamiento en situaciones an\u00f3malas, incluso al conducir, lo cual complica mucho la situaci\u00f3n.<\/p>\n
Creo que todos quisi\u00e9ramos tener una IA que pueda ayudarnos a realizar nuevos descubrimientos a gran escala en medicina. No est\u00e1 claro si las tecnolog\u00edas actuales son adecuadas para esto, ya que la biolog\u00eda es un campo complejo. Hay que estar dispuesto a leer muchos libros. Los cient\u00edficos comprenden las relaciones de causa y efecto en la interacci\u00f3n de redes y mol\u00e9culas, pueden desarrollar teor\u00edas sobre planetas, y as\u00ed sucesivamente. Sin embargo, con la IA especializada no podemos crear m\u00e1quinas capaces de tales descubrimientos. Con una IA general, podr\u00edamos realizar una revoluci\u00f3n en la ciencia, la tecnolog\u00eda y la medicina. En mi opini\u00f3n, es muy importante continuar trabajando en la creaci\u00f3n de IA general.<\/p>\n
Parece que con 'general' te refieres a una IA fuerte?<\/b><\/p>\n
Al decir 'general', me refiero a que la IA podr\u00e1 pensar en tiempo real y resolver nuevas tareas de manera aut\u00f3noma. A diferencia de, digamos, el Go, en cuyo caso el problema no ha cambiado en los \u00faltimos 2000 a\u00f1os.<\/p>\n
La IA general debe ser capaz de tomar decisiones tanto en pol\u00edtica como en medicina. Esto es an\u00e1logo a la capacidad humana; cualquier persona en plena facultad mental puede hacer muchas cosas. Tomas a estudiantes inexpertos y en unos d\u00edas los haces trabajar pr\u00e1cticamente en cualquier cosa, desde una tarea legal hasta una m\u00e9dica. Esto se debe a que tienen una comprensi\u00f3n general del mundo y pueden leer, y por lo tanto pueden contribuir en una amplia gama de actividades.<\/p>\n
La relaci\u00f3n entre tal inteligencia y la fuerte radica en que es probable que la inteligencia d\u00e9bil no pueda resolver tareas generales. Para crear algo lo suficientemente fiable, capaz de afrontar un mundo en constante cambio, puede que necesites, como m\u00ednimo, aproximarte a la inteligencia general.<\/p>\n
Pero ahora estamos muy lejos de eso. AlphaGo puede jugar perfectamente en un tablero de 19x19, pero necesita ser reentrenado para jugar en un tablero rectangular. O considere un sistema promedio de aprendizaje profundo: puede reconocer un elefante si est\u00e1 bien iluminado y se ve la textura de su piel. Pero si solo se ve el contorno del elefante, el sistema seguramente no podr\u00e1 reconocerlo.<\/p>\n
En su libro menciona que el aprendizaje profundo no puede alcanzar las capacidades de la inteligencia artificial general, ya que no puede lograr una comprensi\u00f3n profunda.<\/b><\/p>\n
En la cognici\u00f3n se habla de la formaci\u00f3n de diferentes modelos cognitivos. Estoy sentado en una habitaci\u00f3n de hotel y entiendo que all\u00ed est\u00e1 el armario, all\u00ed est\u00e1 la cama, all\u00ed est\u00e1 el televisor, que est\u00e1 inusualmente suspendido. Conozco todos estos objetos, no solo los identifico. Tambi\u00e9n entiendo c\u00f3mo est\u00e1n interrelacionados. Tengo ideas sobre el funcionamiento del mundo que me rodea. No son perfectas. Pueden ser err\u00f3neas, pero son bastante buenas. Y sobre la base de ellas, hago muchas deducciones que gu\u00edan mis acciones cotidianas.<\/p>\n
La otra extrema es algo como un sistema de juego de Atari, creado por DeepMind, en el que recordaba qu\u00e9 hacer cuando ve\u00eda p\u00edxeles en ubicaciones espec\u00edficas en la pantalla. Si obtienes suficientes datos, puede parecer que tienes comprensi\u00f3n, pero en realidad es muy superficial. La prueba de esto es que si mueves objetos tres p\u00edxeles, la IA juega mucho peor. Los cambios la confunden. Esto es lo opuesto a una comprensi\u00f3n profunda.<\/p>\n
Para abordar este problema, sugiere regresar a la IA cl\u00e1sica. \u00bfCu\u00e1les son las ventajas que debemos esforzarnos por aprovechar?<\/b><\/p>\n
Hay varias ventajas. <\/p>\n
Primero, la IA cl\u00e1sica es realmente un marco para crear modelos cognitivos del mundo, sobre los cuales luego se pueden hacer inferencias.<\/p>\n
En segundo lugar, la IA cl\u00e1sica es perfectamente compatible con las reglas. En la actualidad, en el \u00e1mbito del aprendizaje profundo, hay una extra\u00f1a tendencia en la que los especialistas tratan de evitar las reglas. Quieren hacer todo con redes neuronales y no hacer nada que se parezca a la programaci\u00f3n cl\u00e1sica. Pero hay tareas que han sido resueltas de manera f\u00e1cil de este modo, y nadie ha prestado atenci\u00f3n a ello. Por ejemplo, la construcci\u00f3n de rutas en Google Maps.<\/p>\n
De hecho, necesitamos ambos enfoques. El aprendizaje autom\u00e1tico nos permite aprender bien de los datos, pero ayuda muy poco en la representaci\u00f3n de la abstracci\u00f3n que es un programa inform\u00e1tico. La IA cl\u00e1sica funciona bien con abstracciones, pero debe ser programada completamente a mano, y en el mundo hay demasiado conocimiento acumulado para programarlo todo. Es evidente que necesitamos combinar ambos enfoques.<\/p>\n
Esto est\u00e1 relacionado con el cap\u00edtulo en el que hablas sobre lo que podemos aprender del cerebro humano. Y, sobre todo, la concepci\u00f3n basada en la idea mencionada anteriormente, que nuestra conciencia consiste en muchos sistemas diferentes que operan de maneras distintas.<\/b><\/p>\n
Creo que hay otra manera de explicarlo: cada sistema cognitivo que poseemos realmente aborda diferentes tareas. Las partes similares de la IA deben ser dise\u00f1adas para abordar diferentes tareas que tienen caracter\u00edsticas diversas.<\/p>\n
En este momento, estamos intentando utilizar ciertas tecnolog\u00edas todo-en-uno para resolver problemas que son radicalmente distintos entre s\u00ed. Entender una oraci\u00f3n no es lo mismo que reconocer un objeto. Pero la gente intenta usar el aprendizaje profundo en ambos casos. Desde un punto de vista cognitivo, son tareas cualitativamente diferentes. Estoy simplemente asombrado de cu\u00e1nto desprecia la comunidad de aprendizaje profundo la IA cl\u00e1sica. \u00bfPor qu\u00e9 esperar la aparici\u00f3n de una bala de plata? Es inalcanzable, y la b\u00fasqueda infructuosa no permite comprender toda la complejidad de la tarea de crear IA.<\/p>\n
Tambi\u00e9n mencionas que los sistemas de IA son necesarios para comprender las relaciones causa-efecto. \u00bfCrees que en esto nos ayudar\u00e1 el aprendizaje profundo, la IA cl\u00e1sica o algo completamente nuevo?<\/b><\/p>\n
Este es otro campo para el que el aprendizaje profundo no es muy adecuado. No explica las causas de ciertos eventos, sino que calcula la probabilidad de un evento bajo ciertas condiciones.<\/p>\n
\u00bfDe qu\u00e9 estamos hablando? Usted observa ciertos escenarios, y entiende por qu\u00e9 sucede eso y qu\u00e9 podr\u00eda pasar si ciertas circunstancias cambian. Puedo mirar el soporte donde se encuentra un televisor y imaginar que si le corto una pata, el soporte volcar\u00e1 y el televisor caer\u00e1. Esa es la relaci\u00f3n causa-efecto.<\/p>\n
La IA cl\u00e1sica nos proporciona ciertas herramientas para esto. Puede, por ejemplo, representar lo que es el soporte y lo que es la ca\u00edda. Pero no quiero exagerar. El problema es que la IA cl\u00e1sica depende en gran medida de la cantidad de informaci\u00f3n sobre lo que est\u00e1 ocurriendo, y yo he llegado a esta conclusi\u00f3n simplemente al observar el soporte. De alg\u00fan modo, puedo generalizar, representar partes del soporte que no puedo ver. Actualmente no contamos con herramientas para implementar esta propiedad.<\/p>\n
Adem\u00e1s, mencionas que las personas tienen un conocimiento innato. \u00bfC\u00f3mo se puede implementar esto en la IA?<\/b><\/p>\n
En el momento del nacimiento, nuestro cerebro ya es un sistema muy bien pensado. No est\u00e1 fijado, la naturaleza cre\u00f3 un primer borrador tosco. Luego, el aprendizaje nos ayuda a revisar este borrador a lo largo de toda nuestra vida.<\/p>\n
El borrador tosco del cerebro ya posee ciertas capacidades. Una cabra mont\u00e9s reci\u00e9n nacida es capaz, pocas horas despu\u00e9s, de descender sin error por la ladera de una monta\u00f1a. Es evidente que ya tiene una comprensi\u00f3n del espacio tridimensional, de su cuerpo y la relaci\u00f3n entre ellos. Es un sistema bastante complejo.<\/p>\n
En parte, por eso creo que necesitamos h\u00edbridos. Es dif\u00edcil imaginar c\u00f3mo se puede crear un robot que funcione bien en el mundo sin conocimientos similares, comenzando desde cero y aprendiendo a partir de una larga y vasta experiencia.<\/p>\n
En lo que respecta a los humanos, nuestro conocimiento innato proviene de nuestro genoma, que ha evolucionado durante mucho tiempo. Y con los sistemas de IA, tendremos que seguir un camino diferente. En parte, pueden ser reglas para construir nuestros algoritmos. En parte, pueden ser reglas para crear estructuras de datos que estos algoritmos manipulan. Y en parte, pueden ser conocimientos que introduciremos directamente en las m\u00e1quinas.<\/p>\n
Es interesante que en el libro llegas a la idea de confianza y a la creaci\u00f3n de sistemas de confianza. \u00bfPor qu\u00e9 elegiste precisamente este criterio?<\/b><\/p>\n
Creo que hoy todo esto representa un juego de pelota. Me parece que estamos viviendo un momento extra\u00f1o en la historia, confiando en software que no es de fiar. Creo que nuestras preocupaciones actuales no ser\u00e1n eternas. Dentro de cien a\u00f1os, la IA justificar\u00e1 nuestra confianza, o tal vez antes.<\/p>\n
Pero hoy en d\u00eda la IA es peligrosa. No en el sentido en que la teme Elon Musk, sino porque los sistemas de entrevistas para la contrataci\u00f3n discriminan a las mujeres, independientemente de lo que hagan los programadores, ya que sus herramientas son demasiado simples.<\/p>\n
Me gustar\u00eda que tuvi\u00e9ramos una IA de mejor calidad. No quiero que comience un \"invierno de la inteligencia artificial\", cuando las personas se den cuenta de que la IA no funciona y es simplemente peligrosa, y no quieran solucionarlo.<\/p>\n
En cierto sentido, su libro realmente parece muy optimista. Usted sugiere que se puede construir una IA confiable. Solo necesitamos mirar en otra direcci\u00f3n.<\/b><\/p>\n
Es cierto, el libro es muy pesimista a corto plazo y muy optimista a largo plazo. Creemos que todos los problemas que hemos descrito pueden resolverse si se mira m\u00e1s ampliamente lo que deben ser las respuestas correctas. Y pensamos que si esto sucede, el mundo ser\u00e1 mejor.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"No](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")