{"id":32781,"date":"2019-10-31T21:48:54","date_gmt":"2019-10-31T18:48:54","guid":{"rendered":"https:\/\/prohoster.info\/blog\/o-predvzyatosti-iskusstvennogo-intellekta\/"},"modified":"2019-10-31T21:48:54","modified_gmt":"2019-10-31T18:48:54","slug":"o-predvzyatosti-iskusstvennogo-intellekta","status":"publish","type":"post","link":"https:\/\/prohoster.info\/es\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","title":{"rendered":"Sobre el sesgo de la inteligencia artificial","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p><img decoding=\"async\" alt=\"Sobre el sesgo de la inteligencia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/05a731677e1231acceff953db8e1e26a.jpg\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<h2 id=\"tldr\">Resumen:<\/h2>\n<p><\/p>\n<ul>\n<li>El aprendizaje autom\u00e1tico busca patrones en los datos. Sin embargo, la inteligencia artificial puede ser \"sesgada\"; es decir, puede encontrar patrones incorrectos. Por ejemplo, un sistema de detecci\u00f3n de c\u00e1ncer de piel a partir de fotograf\u00edas puede poner especial atenci\u00f3n en im\u00e1genes tomadas en un consultorio m\u00e9dico. El aprendizaje autom\u00e1tico no puede <em>entender<\/em>: sus algoritmos solo identifican patrones en los n\u00fameros, y si los datos no son representativos, el resultado de su procesamiento tambi\u00e9n lo ser\u00e1. Detectar tales errores puede ser complicado debido a la propia mec\u00e1nica del aprendizaje autom\u00e1tico. <noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/li>\n<li>El \u00e1rea problem\u00e1tica m\u00e1s obvia y preocupante es la diversidad humana. Existen numerosas razones por las que los datos sobre personas pueden perder objetividad incluso en la fase de recolecci\u00f3n. Pero no hay que pensar que este problema afecta solo a las personas: surgen complicaciones similares al intentar detectar una inundaci\u00f3n en un almac\u00e9n o una turbina de gas averiada. Algunos sistemas pueden tener prejuicios sobre el color de piel, mientras que otros pueden tener inclinaciones negativas hacia los sensores Siemens. <\/li>\n<li>Estos problemas no son nuevos para el aprendizaje autom\u00e1tico, y no son exclusivos de este campo. Se realizan inferencias incorrectas en cualquier estructura compleja, y entender por qu\u00e9 se tom\u00f3 una decisi\u00f3n particular siempre es complicado. Es necesario abordar esto de manera integral: crear herramientas y procesos de verificaci\u00f3n, y educar a los usuarios para que no sigan ciegamente las recomendaciones de la IA. El aprendizaje autom\u00e1tico realmente hace algunas cosas mucho mejor que nosotros; por ejemplo, los perros son mucho m\u00e1s efectivos que los humanos en la detecci\u00f3n de drogas, lo cual no es justificaci\u00f3n para involucrarlos como testigos y emitir juicios basados en sus testimonios. Y, por cierto, los perros son mucho m\u00e1s inteligentes que cualquier sistema de aprendizaje autom\u00e1tico. <\/li>\n<\/ul>\n<p>El aprendizaje autom\u00e1tico es hoy en d\u00eda una de las tendencias tecnol\u00f3gicas fundamentales m\u00e1s importantes. Es una de las principales formas en que la tecnolog\u00eda cambiar\u00e1 el mundo en la pr\u00f3xima d\u00e9cada. Algunos aspectos de estos cambios generan preocupaci\u00f3n. Por ejemplo, el posible impacto del aprendizaje autom\u00e1tico en el mercado laboral, o su uso para fines poco \u00e9ticos (por ejemplo, por reg\u00edmenes autoritarios). Hay otro problema, que es el que aborda esta publicaci\u00f3n: <strong>sesgo de la inteligencia artificial<\/strong>. <\/p>\n<p><\/p>\n<p>No es una historia f\u00e1cil. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sobre el sesgo de la inteligencia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/d692fbfff47614758ab1d8e1516b2742.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>La IA de Google puede encontrar gatos. Esta noticia de 2012 fue algo especial en ese momento.<\/em><\/p>\n<p><\/p>\n<h2 id=\"chto-takoe-predvzyatost-ii\">\u00bfQu\u00e9 es el \u2018sesgo de IA\u2019?<\/h2>\n<p><\/p>\n<blockquote><p><em>Los \u2018datos en bruto\u2019 son, al mismo tiempo, un ox\u00edmoron y una mala idea; los datos deben ser bien preparados y cuidados.<\/em> \u2014Jeffrey Boker <\/p><\/blockquote>\n<p>Hasta alrededor de 2013, para crear un sistema que, digamos, reconociera gatos en fotograf\u00edas, necesitabas describir pasos l\u00f3gicos. C\u00f3mo encontrar \u00e1ngulos en la imagen, reconocer ojos, analizar texturas en busca de pelaje, contar patas, etc. Luego reunir todos los componentes, y descubrir que en realidad no funciona. Es como un caballo mec\u00e1nico: te\u00f3ricamente se puede hacer, pero en la pr\u00e1ctica es demasiado complicado de describir. Al final, tienes cientos (o incluso miles) de reglas escritas a mano. Y ning\u00fan modelo funcional. <\/p>\n<p><\/p>\n<p>Con la aparici\u00f3n del aprendizaje autom\u00e1tico, dejamos de utilizar reglas 'manuales' para reconocer un objeto u otro. En su lugar, tomamos mil ejemplos de 'esto', X, mil ejemplos de 'aquello', Y, y hacemos que la computadora construya un modelo basado en su an\u00e1lisis estad\u00edstico. Luego le damos a este modelo alg\u00fan ejemplo de datos, y con cierta precisi\u00f3n determina si se ajusta a uno de los conjuntos. El aprendizaje autom\u00e1tico genera un modelo basado en datos, en lugar de que un humano lo escriba. Los resultados son impresionantes, especialmente en el campo del reconocimiento de im\u00e1genes y patrones, y por eso toda la industria tecnol\u00f3gica est\u00e1 haciendo la transici\u00f3n al aprendizaje autom\u00e1tico (ML). <\/p>\n<p><\/p>\n<p>Pero no todo es tan simple. En el mundo real, tus miles de ejemplos X o Y tambi\u00e9n contienen A, B, J, L, O, R e incluso L. Pueden estar distribuidos de manera desigual, y algunos de ellos pueden aparecer con tanta frecuencia que el sistema les preste m\u00e1s atenci\u00f3n que a los objetos que te interesan.<\/p>\n<p><\/p>\n<p>\u00bfQu\u00e9 significa esto en la pr\u00e1ctica? Mi ejemplo favorito es cuando los sistemas de reconocimiento de im\u00e1genes <noindex><a rel=\"nofollow\" href=\"http:\/\/aiweirdness.com\/post\/171451900302\/do-neural-nets-dream-of-electric-sheep\">miran una colina cubierta de hierba y dicen: \u2018oveja\u2019<\/a><\/noindex>. Es obvio por qu\u00e9: la mayor parte de las fotograf\u00edas de ejemplo de 'ovejas' se toman en praderas, donde viven, y en estas im\u00e1genes la hierba ocupa mucho m\u00e1s espacio que los peque\u00f1os y blancos peluditos, y es precisamente la hierba la que el sistema considera m\u00e1s importante. <\/p>\n<p><\/p>\n<p>Hay ejemplos m\u00e1s serios. Uno reciente es un <noindex><a rel=\"nofollow\" href=\"https:\/\/www.medpagetoday.com\/dermatology\/generaldermatology\/70513\">iniciado hace varios a\u00f1os<\/a><\/noindex> sobre la detecci\u00f3n de c\u00e1ncer de piel en fotograf\u00edas. Result\u00f3 que los dermat\u00f3logos a menudo fotograf\u00edan una regla junto con las manifestaciones de c\u00e1ncer de piel para registrar el tama\u00f1o de las lesiones. En ejemplos de fotograf\u00edas de piel sana, no hay reglas. Para el sistema de IA, estas reglas (m\u00e1s bien, los p\u00edxeles que nosotros identificamos como 'regla') se convirtieron en una de las diferencias entre los conjuntos de ejemplos y, a veces, m\u00e1s importantes que una peque\u00f1a erupci\u00f3n en la piel. As\u00ed, el sistema dise\u00f1ado para reconocer el c\u00e1ncer de piel, a veces en lugar de ello, reconoc\u00eda reglas. <\/p>\n<p><\/p>\n<p>El punto clave aqu\u00ed es que el sistema no tiene comprensi\u00f3n sem\u00e1ntica de lo que est\u00e1 observando. Nosotros miramos un conjunto de p\u00edxeles y vemos en ellos una oveja, piel o reglas, mientras que el sistema solo ve una cadena num\u00e9rica. No percibe el espacio tridimensional, ni ve objetos, ni texturas, ni ovejas. Simplemente ve patrones en los datos. <\/p>\n<p><\/p>\n<p>La dificultad para diagnosticar tales problemas radica en que la red neuronal (modelo generado por su sistema de aprendizaje autom\u00e1tico) consiste en miles de cientos de miles de nodos. No hay una forma sencilla de mirar dentro del modelo y ver c\u00f3mo toma decisiones. Tener tal forma significar\u00eda que el proceso es lo suficientemente simple como para describir todas las reglas manualmente, sin utilizar aprendizaje autom\u00e1tico. La gente se preocupa de que el aprendizaje autom\u00e1tico se haya convertido en una especie de 'caja negra'. (Explicar\u00e9 m\u00e1s adelante por qu\u00e9 esta comparaci\u00f3n es un poco exagerada.) <\/p>\n<p><\/p>\n<p>Esto, en t\u00e9rminos generales, es el problema del sesgo de la inteligencia artificial o del aprendizaje autom\u00e1tico: un sistema para encontrar patrones en los datos puede encontrar patrones incorrectos, y puede que no te des cuenta de ello. Esta es una caracter\u00edstica fundamental de la tecnolog\u00eda, y es evidente para todos los que trabajan con ella en c\u00edrculos acad\u00e9micos y en grandes empresas tecnol\u00f3gicas. Pero sus consecuencias son complejas, y nuestras posibles soluciones a estas consecuencias tambi\u00e9n lo son. <\/p>\n<p><\/p>\n<p>Hablemos primero de las consecuencias. <\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sobre el sesgo de la inteligencia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/43748412bd82ae53a9c2e47afec9c655.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<em>La IA puede, de manera impl\u00edcita para nosotros, favorecer ciertas categor\u00edas de personas, bas\u00e1ndose en una gran cantidad de se\u00f1ales imperceptibles.<\/em><\/p>\n<p><\/p>\n<h2 id=\"scenarii-predvzyatosti-ii\">Escenarios de sesgo de IA.<\/h2>\n<p><\/p>\n<p>Lo m\u00e1s obvio y aterrador es que este problema puede manifestarse cuando se trata de la diversidad humana. Recientemente, <noindex><a rel=\"nofollow\" href=\"https:\/\/www.reuters.com\/article\/us-amazon-com-jobs-automation-insight\/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G\">ha surgido el rumor.<\/a><\/noindex>, que Amazon intent\u00f3 construir un sistema de aprendizaje autom\u00e1tico para la selecci\u00f3n inicial de candidatos para empleos. Dado que hay m\u00e1s hombres entre los empleados de Amazon, los ejemplos de \u00abcontrataci\u00f3n exitosa\u00bb tambi\u00e9n eran mayoritariamente masculinos, y en la selecci\u00f3n de curr\u00edculums proporcionada por el sistema, hab\u00eda m\u00e1s hombres. Amazon se dio cuenta de esto y decidi\u00f3 no lanzar el sistema a producci\u00f3n. <\/p>\n<p><\/p>\n<p>Lo m\u00e1s importante de este ejemplo es que, seg\u00fan se rumorea, el sistema prefer\u00eda a candidatos masculinos, a pesar de que el g\u00e9nero no estaba especificado en el curr\u00edculum.<strong> El sistema identificaba otros patrones en los ejemplos de \u00abcontrataci\u00f3n exitosa\u00bb: por ejemplo, las mujeres pod\u00edan usar palabras espec\u00edficas para describir sus logros, o tener pasatiempos particulares. Por supuesto, el sistema no sab\u00eda qu\u00e9 es el \u00abhockey\u00bb, qui\u00e9nes son \u00ablas personas\u00bb ni qu\u00e9 significa \u00ab\u00e9xito\u00bb, simplemente realizaba un an\u00e1lisis estad\u00edstico del texto.<\/strong> Sin embargo, los patrones que identific\u00f3 probablemente habr\u00edan pasado desapercibidos para un ser humano, y algunos de ellos (como que las personas de diferentes g\u00e9neros describen el \u00e9xito de forma diferente) probablemente nos resultar\u00eda dif\u00edcil detectar, incluso al observarlos. <\/p>\n<p><\/p>\n<p>A continuaci\u00f3n, las cosas se complican. Un sistema de aprendizaje autom\u00e1tico que detecta muy bien el c\u00e1ncer en piel clara puede funcionar peor con piel oscura, o viceversa. No necesariamente por sesgo, sino porque probablemente necesitar\u00edas construir un modelo separado para diferentes tipos de piel, eligiendo otras caracter\u00edsticas.<strong> Los sistemas de aprendizaje autom\u00e1tico no son intercambiables, incluso en un campo tan espec\u00edfico como el reconocimiento de im\u00e1genes.<\/strong> Necesitas ajustar el sistema, a veces simplemente a trav\u00e9s de prueba y error, para captar bien las caracter\u00edsticas de los datos que te interesan, hasta que alcances la precisi\u00f3n deseada. Pero puedes no darte cuenta de que el sistema es preciso en un 98% de los casos con un grupo y solo en un 91% (aunque esto sea m\u00e1s preciso que el an\u00e1lisis realizado por un humano) con otro. <\/p>\n<p><\/p>\n<p>Hasta ahora he utilizado principalmente ejemplos relacionados con personas y sus caracter\u00edsticas. Este tema es el que principalmente se centra la discusi\u00f3n sobre este problema. Pero es importante comprender que el sesgo hacia las personas es solo una parte del problema. Estaremos utilizando el aprendizaje autom\u00e1tico para muchas cosas, y el error de muestreo ser\u00e1 relevante para todas ellas. Por otro lado, si trabajas con personas, el sesgo de los datos puede no estar relacionado con ellas. <\/p>\n<p><\/p>\n<p>Para entender esto, volvamos al ejemplo del c\u00e1ncer de piel y consideremos tres posibles fallos del sistema. <\/p>\n<p><\/p>\n<ol>\n<li>Distribuci\u00f3n heterog\u00e9nea de personas: un n\u00famero desbalanceado de fotos de pieles de diferentes tonos, lo que lleva a resultados falsos positivos o negativos relacionados con la pigmentaci\u00f3n. <\/li>\n<li>Los datos con los que se entrena el sistema contienen caracter\u00edsticas comunes y distribuidas de manera no homog\u00e9nea, que no est\u00e1n relacionadas con las personas y carecen de valor diagn\u00f3stico: una regla en las fotos de manifestaciones de c\u00e1ncer de piel o hierba en las fotos de ovejas. En este caso, el resultado variar\u00e1 si en la imagen el sistema detecta p\u00edxeles de algo que el ojo humano identificar\u00eda como 'regla'. <\/li>\n<li>Los datos contienen caracter\u00edsticas externas que una persona no puede ver, incluso si las busca. <\/li>\n<\/ol>\n<p><\/p>\n<p>\u00bfQu\u00e9 significa esto? Sabemos a priori que los datos pueden representar de manera diferente a distintos grupos de personas, y al menos podemos planificar la b\u00fasqueda de tales excepciones. En otras palabras, hay muchas razones sociales para suponer que los datos sobre grupos de personas ya contienen alg\u00fan sesgo. Si miramos una foto con una regla, la veremos; simplemente la ignoramos antes, sabiendo que no tiene relevancia, y olvidando que el sistema no sabe nada.<\/p>\n<p><\/p>\n<p>Pero, \u00bfqu\u00e9 pasa si todas tus fotos de piel no saludable se hicieron en una oficina donde se usan bombillas incandescentes, y las de piel saludable se realizaron con luz fluorescente? \u00bfQu\u00e9 pasa si, tras terminar de fotografiar la piel saludable, antes de fotografiar la no saludable, actualizaste el sistema operativo de tu tel\u00e9fono y Apple o Google cambiaron un poco el algoritmo de supresi\u00f3n de ruido? Una persona no notar\u00eda esto, sin importar cu\u00e1nto busque tales caracter\u00edsticas. Pero el sistema de uso autom\u00e1tico lo ver\u00e1 y lo utilizar\u00e1 de inmediato. No sabe nada. <\/p>\n<p><\/p>\n<p>Mientras habl\u00e1bamos de correlaciones falsas, tambi\u00e9n puede suceder que los datos sean precisos y los resultados correctos, pero no desee utilizarlos por razones \u00e9ticas, legales o de gesti\u00f3n. En algunas jurisdicciones, por ejemplo, no se puede ofrecer descuentos en seguros a las mujeres, a pesar de que pueden conducir de manera m\u00e1s segura. Podemos imaginar f\u00e1cilmente un sistema que, al analizar datos hist\u00f3ricos, asigne un coeficiente de riesgo m\u00e1s bajo a nombres femeninos. Bien, eliminemos los nombres de la muestra. Pero recuerde el ejemplo de Amazon: el sistema puede determinar el g\u00e9nero por otros factores (aunque no sepa qu\u00e9 es el g\u00e9nero, ni qu\u00e9 es un autom\u00f3vil), y usted no se dar\u00e1 cuenta hasta que un regulador analice retrospectivamente las tarifas que usted propone y le imponga una multa. <\/p>\n<p><\/p>\n<p>Finalmente, a menudo se da por sentado que utilizaremos estos sistemas solo para proyectos relacionados con personas e interacciones sociales. No es as\u00ed. Si est\u00e1 fabricando turborreactores, seguramente querr\u00e1 aplicar el aprendizaje autom\u00e1tico a la telemetr\u00eda transmitida por decenas o cientos de sensores en su producto (los sensores de audio, video, temperatura, y cualquier otro tipo generan datos que pueden adaptarse f\u00e1cilmente para crear un modelo de aprendizaje autom\u00e1tico). Hipot\u00e9ticamente, podr\u00eda decir: \"Aqu\u00ed est\u00e1n los datos de mil turbinas que fallaron, recogidos antes de su aver\u00eda, y aqu\u00ed est\u00e1n los datos de mil turbinas que no fallaron. Construya un modelo para indicar cu\u00e1l es la diferencia entre ellas\". Ahora imagine que los sensores de Siemens est\u00e1n en el 75% de las turbinas malas y solo en el 12% de las buenas (sin conexi\u00f3n a fallos). El sistema construir\u00e1 un modelo para encontrar turbinas con sensores de Siemens. \u00a1Ups!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Sobre el sesgo de la inteligencia artificial\" src=\"\/wp-content\/uploads\/2019\/04\/e8097e4913756fdf04826a6628bc6836.jpg\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nImagen \u2014 Moritz Hardt, UC Berkeley<\/p>\n<p><\/p>\n<h2 id=\"upravlenie-predvzyatostyu-ii\">Gesti\u00f3n de sesgos de IA<\/h2>\n<p><\/p>\n<p>\u00bfQu\u00e9 podemos hacer al respecto? Se puede abordar la cuesti\u00f3n desde tres frentes:<\/p>\n<p><\/p>\n<ol>\n<li>Rigor metodol\u00f3gico en la recopilaci\u00f3n y gesti\u00f3n de datos para el entrenamiento del sistema.<\/li>\n<li>Herramientas t\u00e9cnicas para analizar y diagnosticar el comportamiento del modelo.<\/li>\n<li>Entrenamiento, educaci\u00f3n y precauci\u00f3n al implementar el aprendizaje autom\u00e1tico en productos.<\/li>\n<\/ol>\n<p><\/p>\n<p>En el libro \"El burgu\u00e9s gentilhombre\" de Moli\u00e8re, hay una broma: a un hombre le contaron que la literatura se divide en prosa y poes\u00eda, y \u00e9l, con admiraci\u00f3n, descubri\u00f3 que toda su vida hab\u00eda hablado en prosa sin saberlo. Probablemente, los estad\u00edsticos se sientan hoy as\u00ed: sin darse cuenta, han dedicado sus carreras a la inteligencia artificial y al error de muestreo. Buscar el error de muestreo y preocuparse por \u00e9l no es un problema nuevo; simplemente necesitamos abordar su soluci\u00f3n de manera sistem\u00e1tica. Como se mencion\u00f3 anteriormente, en algunos casos es realmente m\u00e1s sencillo hacerlo estudiando problemas relacionados con datos sobre personas. Por defecto, suponemos que podemos tener prejuicios respecto a diversos grupos de personas, pero es dif\u00edcil imaginar que tengamos prejuicios sobre los sensores de Siemens.<\/p>\n<p><\/p>\n<p>Lo nuevo en todo esto, por supuesto, es que las personas ya no realizan an\u00e1lisis estad\u00edsticos directamente. Ahora, lo hacen m\u00e1quinas que crean grandes modelos complejos, dif\u00edciles de entender. La cuesti\u00f3n de la transparencia es uno de los aspectos principales del problema del sesgo. Nos aterra que el sistema no solo est\u00e9 sesgado, sino que no haya ninguna forma de detectar su sesgo, y que el aprendizaje autom\u00e1tico se diferencie de otras formas de automatizaci\u00f3n que, se supone, se componen de pasos l\u00f3gicos claros que se pueden verificar. <\/p>\n<p><\/p>\n<p>Aqu\u00ed hay dos problemas. Posiblemente, a\u00fan podamos realizar alg\u00fan tipo de auditor\u00eda en los sistemas de aprendizaje autom\u00e1tico. Y la auditor\u00eda de cualquier otro sistema en realidad no es m\u00e1s f\u00e1cil.<\/p>\n<p><\/p>\n<p>En primer lugar, una de las direcciones de la investigaci\u00f3n moderna en aprendizaje autom\u00e1tico es la b\u00fasqueda de m\u00e9todos para identificar funcionalidades importantes en los sistemas de aprendizaje autom\u00e1tico. Adem\u00e1s, el aprendizaje autom\u00e1tico (en su estado actual) es un campo completamente nuevo de la ciencia que est\u00e1 cambiando r\u00e1pidamente, as\u00ed que no debemos pensar que las cosas que hoy parecen imposibles no pueden volverse bastante reales en poco tiempo. Proyecto <noindex><a rel=\"nofollow\" href=\"https:\/\/openai.com\/\">OpenAI<\/a><\/noindex> es un ejemplo interesante de ello. <\/p>\n<p><\/p>\n<p>En segundo lugar, la idea de que se puede verificar y comprender el proceso de toma de decisiones en sistemas u organizaciones existentes es buena en teor\u00eda, pero no tanto en la pr\u00e1ctica. Entender c\u00f3mo se toman decisiones en una gran organizaci\u00f3n no es nada f\u00e1cil. Incluso si existe un proceso formal de toma de decisiones, no refleja c\u00f3mo las personas realmente interact\u00faan, y adem\u00e1s, a menudo no tienen un enfoque l\u00f3gico y sistem\u00e1tico en la toma de sus decisiones. Como dijo mi colega <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Vijay_S._Pande\">Vijay Pand\u00e9<\/a><\/noindex>, <strong>las personas tambi\u00e9n son cajas negras<\/strong>. <\/p>\n<p><\/p>\n<p>Tome mil personas de varias empresas e instituciones que se cruzan, y el problema se vuelve a\u00fan m\u00e1s complicado. Sabemos a posteriori que al \"Space Shuttle\" le esperaba desintegrarse al regresar, y algunas personas dentro de la NASA ten\u00edan informaci\u00f3n que les hac\u00eda pensar que algo malo podr\u00eda suceder, pero el sistema <em>en su conjunto<\/em> no lo sab\u00eda. NASA incluso acaba de pasar una auditor\u00eda similar, tras perder el anterior transbordador, y aun as\u00ed perdi\u00f3 otro m\u00e1s, por una raz\u00f3n muy parecida. Es f\u00e1cil afirmar que las organizaciones y las personas siguen reglas l\u00f3gicas claras que se pueden verificar, entender y cambiar, pero la experiencia demuestra lo contrario. Este es un \"<noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%93%D0%BE%D1%81%D0%BF%D0%BB%D0%B0%D0%BD_%D0%A1%D0%A1%D0%A1%D0%A0\">error de Gosplan<\/a><\/noindex>\u00bb.<\/p>\n<p><\/p>\n<p><strong>A menudo comparo el aprendizaje autom\u00e1tico con las bases de datos, especialmente con las relacionales: una nueva tecnolog\u00eda fundamental que ha cambiado las capacidades de la inform\u00e1tica y el mundo que la rodea, que se ha convertido en parte de todo y que utilizamos constantemente, sin darnos cuenta.<\/strong> Las bases de datos tambi\u00e9n tienen problemas, y son de naturaleza similar: el sistema puede estar construido sobre supuestos incorrectos o sobre datos err\u00f3neos, pero ser\u00e1 dif\u00edcil de notar, y las personas que utilizan el sistema har\u00e1n lo que este les indica, sin hacer preguntas. Hay un mont\u00f3n de viejas bromas sobre los empleados de impuestos que alguna vez registraron incorrectamente tu nombre, y convencerlos de corregir el error es mucho m\u00e1s complicado que simplemente cambiar el nombre. Se puede pensar en esto de diferentes maneras, pero no est\u00e1 claro cu\u00e1l es mejor: como un problema t\u00e9cnico en SQL, o como un error en un lanzamiento de Oracle, o como un fallo de las instituciones burocr\u00e1ticas. \u00bfQu\u00e9 tan dif\u00edcil es encontrar un error en el proceso que llev\u00f3 a que el sistema no tenga una funci\u00f3n como la correcci\u00f3n de errores tipogr\u00e1ficos? \u00bfSe podr\u00eda haber comprendido esto antes de que la gente comenzara a quejarse? <\/p>\n<p><\/p>\n<p>La historia ilustra este problema incluso de manera m\u00e1s sencilla, cuando los conductores, debido a datos desactualizados en el navegador, terminan en r\u00edos. Est\u00e1 bien, los mapas deben actualizarse constantemente. Pero, \u00bfcu\u00e1nto culpa tiene TomTom de que tu autom\u00f3vil sea arrastrado al mar?<\/p>\n<p><\/p>\n<p>Digo esto porque s\u00ed, el sesgo del aprendizaje autom\u00e1tico crear\u00e1 problemas. Pero esos problemas ser\u00e1n similares a los que hemos enfrentado en el pasado, y se podr\u00e1n notar y resolver (o no) de manera tan efectiva como lo hemos hecho en el pasado. Por lo tanto, el escenario en el que el sesgo de la inteligencia artificial cause da\u00f1o es poco probable que ocurra con los principales investigadores que trabajan en una gran organizaci\u00f3n. Lo m\u00e1s probable es que alg\u00fan contratista tecnol\u00f3gico menor o proveedor de software escriba algo improvisado utilizando componentes, bibliotecas y herramientas de c\u00f3digo abierto que no comprende. Y un cliente desafortunado se dejar\u00e1 llevar por la frase \u201cinteligencia artificial\u201d en la descripci\u00f3n del producto y, sin hacer preguntas, lo entregar\u00e1 a sus empleados mal pagados, oblig\u00e1ndolos a hacer lo que diga la IA. Eso es exactamente lo que ocurri\u00f3 con las bases de datos. No es un problema de inteligencia artificial, ni siquiera un problema de software. Es un factor humano.<\/p>\n<p><\/p>\n<h2 id=\"zaklyuchenie\">Conclusi\u00f3n<\/h2>\n<p><\/p>\n<blockquote><p><em>El aprendizaje autom\u00e1tico puede hacer todo lo que puedes ense\u00f1ar a un perro, pero nunca puedes estar seguro de qu\u00e9 es exactamente lo que le has ense\u00f1ado a ese perro.<\/em><\/p><\/blockquote>\n<p>A menudo tengo la sensaci\u00f3n de que el t\u00e9rmino \u00abinteligencia artificial\u00bb solo interfiere en conversaciones como esta. Este t\u00e9rmino crea la falsa impresi\u00f3n de que realmente hemos creado inteligencia. De que estamos en el camino hacia HAL9000 o Skynet, hacia algo que realmente <em>entiende<\/em>. Pero no. Son simplemente m\u00e1quinas, y es mucho m\u00e1s correcto compararlas, digamos, con una lavadora. Ella se encarga de lavar la ropa mucho mejor que una persona, pero si metes platos en vez de ropa, los\u2026 lavar\u00e1. Los platos incluso quedar\u00e1n limpios. Pero no ser\u00e1 lo que esperabas, y esto no suceder\u00e1 porque el sistema tenga prejuicios sobre los platos. La lavadora no sabe qu\u00e9 son los platos ni qu\u00e9 es la ropa; es solo un ejemplo de automatizaci\u00f3n, conceptualmente no diferente de c\u00f3mo se automatizaban los procesos antes.<\/p>\n<p><\/p>\n<p>No importa de qu\u00e9 se hable: de m\u00e1quinas, aviones o bases de datos, estos sistemas ser\u00e1n al mismo tiempo muy poderosos y muy limitados. Depender\u00e1n completamente de c\u00f3mo las personas utilicen estos sistemas, de sus intenciones, ya sean buenas o malas, y de cu\u00e1nto entiendan su funcionamiento.<\/p>\n<p><\/p>\n<p>Por lo tanto, afirmar que \u00abla inteligencia artificial es matem\u00e1ticas, por lo que no puede tener prejuicios\u00bb es completamente incorrecto. Pero igual de equivocado es afirmar que el aprendizaje autom\u00e1tico es \u00absubjetivo por su naturaleza\u00bb. El aprendizaje autom\u00e1tico encuentra patrones en los datos, y qu\u00e9 patrones encontrar\u00e1 depende de los datos, y los datos dependen de nosotros. Al igual que lo que hacemos con ellos. El aprendizaje autom\u00e1tico realmente realiza algunas tareas mucho mejor que nosotros; por ejemplo, los perros son mucho m\u00e1s eficaces que las personas en detectar drogas, lo cual no es un motivo para traerlos como testigos y emitir veredictos basados en su testimonio. Y los perros, a prop\u00f3sito, son mucho m\u00e1s inteligentes que cualquier sistema de aprendizaje autom\u00e1tico.<\/p>\n<p><strong>Traducci\u00f3n:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/en\/users\/757NF\/\">Diana Letkaia<\/a><\/noindex>.<br \/>\n<strong>Edici\u00f3n:<\/strong>\u00a0<noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">Alex\u00e9i Ivanov<\/a><\/noindex>.<br \/>\n<strong>Comunidad:<\/strong> <noindex><a rel=\"nofollow\" href=\"http:\/\/teleg.one\/ponchiknews\">@PonchikNews<\/a><\/noindex>.<\/p>\n<p>Fuente: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/449224\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>tl;dr: \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0449\u0435\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0434\u0430\u043d\u043d\u044b\u0445. \u041d\u043e \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439 \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442 \u043c\u043e\u0436\u0435\u0442 \u0431\u044b\u0442\u044c \u00ab\u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u00bb \u2014\u00a0\u0442\u043e \u0435\u0441\u0442\u044c, \u043d\u0430\u0445\u043e\u0434\u0438\u0442\u044c \u043d\u0435\u0432\u0435\u0440\u043d\u044b\u0435 \u043f\u0430\u0442\u0442\u0435\u0440\u043d\u044b. \u041a \u043f\u0440\u0438\u043c\u0435\u0440\u0443, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044f \u0440\u0430\u043a\u0430 \u043a\u043e\u0436\u0438 \u043f\u043e \u0444\u043e\u0442\u043e\u0433\u0440\u0430\u0444\u0438\u0438 \u043c\u043e\u0436\u0435\u0442 \u043e\u0431\u0440\u0430\u0449\u0430\u0442\u044c \u043e\u0441\u043e\u0431\u043e\u0435 \u0432\u043d\u0438\u043c\u0430\u043d\u0438\u0435 \u043d\u0430 \u0441\u043d\u0438\u043c\u043a\u0438, \u0441\u0434\u0435\u043b\u0430\u043d\u043d\u044b\u0435 \u0432\u043e \u0432\u0440\u0430\u0447\u0435\u0431\u043d\u043e\u043c \u043a\u0430\u0431\u0438\u043d\u0435\u0442\u0435. \u041c\u0430\u0448\u0438\u043d\u043d\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u043d\u0435 \u0443\u043c\u0435\u0435\u0442 \u043f\u043e\u043d\u0438\u043c\u0430\u0442\u044c: \u0435\u0433\u043e \u0430\u043b\u0433\u043e\u0440\u0438\u0442\u043c\u044b \u043b\u0438\u0448\u044c \u0432\u044b\u044f\u0432\u043b\u044f\u044e\u0442 \u0437\u0430\u043a\u043e\u043d\u043e\u043c\u0435\u0440\u043d\u043e\u0441\u0442\u0438 \u0432 \u0447\u0438\u0441\u043b\u0430\u0445, \u0438 \u0435\u0441\u043b\u0438 \u0434\u0430\u043d\u043d\u044b\u0435 \u043d\u0435 \u0440\u0435\u043f\u0440\u0435\u0437\u0435\u043d\u0442\u0430\u0442\u0438\u0432\u043d\u044b, \u0442\u0430\u043a\u0438\u043c \u0431\u0443\u0434\u0435\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":24558,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-32781","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.2 - aioseo.com -->\n\t<meta name=\"description\" content=\"tl;dr: .\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/es\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.2\" \/>\n\t\t<meta property=\"og:locale\" content=\"es_ES\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"tl;dr: .\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/es\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T18:48:54+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Sobre los prejuicios de la inteligencia artificial | ProHoster","description":"tl;dr: .","canonical_url":"https:\/\/prohoster.info\/es\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"es_ES","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041e \u043f\u0440\u0435\u0434\u0432\u0437\u044f\u0442\u043e\u0441\u0442\u0438 \u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0433\u043e \u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442\u0430 | ProHoster","og:description":"tl;dr: .","og:url":"https:\/\/prohoster.info\/es\/blog\/news\/o-predvzyatosti-iskusstvennogo-intellekta","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T18:48:54+00:00","article:modified_time":"2019-10-31T18:48:54+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"32781","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 12:30:22","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:52:26","updated":"2026-01-21 12:30:22","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts\/32781","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/comments?post=32781"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/posts\/32781\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/media\/24558"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/media?parent=32781"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/categories?post=32781"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/es\/wp-json\/wp\/v2\/tags?post=32781"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}