ADVERTENCIA
A juzgar por la récord alta proporción de descontentos silenciosos en relación con el número de comentaristas que tienen algo que objetar, muchos lectores no perciben claramente que:
1) Este es un artículo puramente teórico de discusión. Aquí no habrá recomendaciones prácticas sobre la elección de herramientas para la minería de criptomonedas o la construcción de un multivibrador para parpadear con dos bombillas.
2) Este no es un artículo de divulgación científica. Aquí no habrá explicaciones para principiantes sobre el funcionamiento de la máquina de Turing usando cajas de fósforos como ejemplo.
3) ¡Piénselo bien antes de continuar leyendo! ¿Le atrae la postura del aficionado agresivo: votando en contra de todo lo que no entiende?
Agradezco de antemano a todos los que decidan no leer este artículo.
Un demonio es un programa informático en sistemas de clase UNIX, que es iniciado por el propio sistema y funciona en segundo plano sin interacción directa con el usuario.
Desde muy joven escuché una historia sobre un aprendiz de mago. La repetiré en mi propia narración:
Érase una vez en algún lugar de la Europa medieval un mago. Tenía un gran libro de hechizos encuadernado en cuero de ternero negro con cierres y esquinas de hierro. Cuando el mago necesitaba leer un hechizo, lo abría con una gran llave de hierro que siempre llevaba en su cinturón en un pequeño saco. También tenía un aprendiz que le servía, pero se le prohibía mirar en el libro de hechizos.
Un día, un mago se fue por asuntos durante todo un día. Apenas salió de su casa, su aprendiz se precipitó hacia el sótano, donde se encontraba el laboratorio de alquimia, en el que había un libro de conjuros encadenado a una mesa. El aprendiz tomó los crisoles en los que el mago derretía el plomo para convertirlo en oro, los colocó sobre el brasero y avivó el fuego. El plomo se derritió rápidamente, pero no se convirtió en oro. Entonces, el aprendiz recordó que el mago, al derretir el plomo, siempre abría el libro con una llave y murmuraba un conjuro de él durante bastante tiempo. El aprendiz miró desesperadamente el libro cerrado y vio que junto a él había una llave que el mago había olvidado. Entonces, se lanzó hacia la mesa, abrió el libro, lo destapó y leyó en voz alta el primer conjuro, pronunciando cuidadosamente las palabras desconocidas, suponiendo que un conjuro tan importante como el de la transmutación del plomo en oro, seguramente sería el primero.
Pero no pasó nada: el plomo no quería transformarse. El aprendiz pensó en intentar otro conjuro, pero en ese momento un trueno sacudió la casa, y ante el aprendiz apareció un enorme y espantoso demonio, invocado por el conjuro que acababa de leer.
¡Ordena! -rugió el demonio.
Del miedo, todos los pensamientos abandonaron la cabeza del aprendiz, no podía ni moverse.
¡Ordena, o te comeré! -rugió nuevamente el demonio y extendió hacia el aprendiz una enorme mano para atraparlo.
Desesperado, el aprendiz balbuceó lo primero que pudo pensar:
Riega esta flor.
Y señaló a la geranio, una maceta que estaba en el suelo en la esquina del laboratorio, en el techo sobre la flor había una pequeña ventanita, la única en el sótano, por donde apenas entraba la luz del sol. El demonio desapareció, pero al momento volvió con un enorme barril de agua, que volcó sobre la flor, derramando el agua. Desapareció de nuevo y volvió con un barril lleno.
Basta, -gritó el aprendiz, ya de pie hasta la cintura en agua.
Pero aparentemente, un solo deseo no fue suficiente: el demonio seguía y seguía llevando agua en el barril, derramándola en la esquina donde una vez estuvo la flor oculta bajo el agua. Probablemente se necesitaba un hechizo especial para ahuyentar al demonio. Pero la mesa con el libro ya estaba oculta en el agua turbia, donde flotaban cenizas y carbones de la hoguera, matrazes vacíos, frascos, taburetes, galvanómetros, dosímetros, jeringas desechables y otros desperdicios, así que, aunque el estudiante supiera cómo encontrar el hechizo adecuado, no podría hacerlo. El agua aumentaba, y el estudiante se subió a la mesa para no ahogarse. Pero esto no ayudó por mucho tiempo: el demonio continuaba acarreando agua de manera metódica. El estudiante ya estaba hasta el cuello en agua cuando regresó el mago, quien descubrió que había olvidado en casa la llave del libro y ahuyentó al demonio. Fin de la historia.
Empecemos por lo obvio. Con el intelecto natural (IN) del estudiante, parece que todo está claro: es un tonto, un verdadero necio que tardaría mucho en encontrar la respuesta. Pero con el intelecto del demonio - por cierto, ¿es IN o IA? - no es tan rotundo. Existen diversas versiones válidas (y surgirán más preguntas al respecto):
Versión 1) El demonio es aún más tonto que el estudiante. Recibe una orden y la ejecutará indefinidamente, incluso cuando ya no tenga sentido: desaparecerá la flor - el objeto de riego, desaparecerá la esquina a la que están vinculadas las coordenadas de la flor, desaparecerá el planeta Tierra, y el demonio tonto seguirá llevando agua a un punto específico del espacio cósmico. Y si en ese punto estalla una supernova, al demonio no le importará a dónde llevar el agua. Además: ¿cuán tonto hay que ser para regar una pequeña flor con un enorme barril? Esto ya se llama no regar la flor, sino ahogarla. ¿Acaso entiende el significado de las órdenes?
Versión 2) El demonio entiende todo, pero está atado por sus obligaciones. Ahí está, haciendo algo como una huelga italiana. Mientras no lo echen oficialmente siguiendo todas las reglas, no se detendrá.
Pregunta 1 para las versiones 1 y 2) ¿Cómo distinguir a un demonio completamente tonto según la versión 1 de uno que no es tan tonto según la versión 2?
Pregunta 2 para las versiones 1 y 2) ¿Cumpliría el demonio correctamente (desde el punto de vista del estudiante) con una formulación más precisa? Por ejemplo, si el estudiante dijera: toma ese matraz vacío de un litro que está en la estantería, llénalo de agua y riega esa flor una vez. O, por ejemplo, si el estudiante dijera: vete.
Versión 3) El mago lanzó sobre el demonio un hechizo adicional que obliga al demonio a informar al mago si alguien más que él utiliza sus servicios.
Versión 4) El demonio no guarda rencor al mago ni a su aprendiz, así que al ver que la situación se descontroló, apareció tras el mago mientras movía un barril y le rugió: “dejaste la llave en casa, hay inundación”. Y el mago ni siquiera lo habría recordado.
Nota 1 a la versión 4) Cabe destacar que los portadores de EI suelen tener una memoria muy imperfecta.
A partir de aquí, las versiones se pueden multiplicar como los "conejos de Fibonacci", es decir, usando un algoritmo no muy complicado. Por ejemplo:
Versión 5) El demonio se venga del aprendiz por su preocupación.
Versión 6) El demonio no guarda rencor al aprendiz, pero se venga del mago.
Versión 6) El demonio se venga de todos.
Versión 7) El demonio no se venga, sino que se divierte. Terminará cuando se aburra.
Y así sucesivamente.
Entonces, con el demonio está claro que no hay claridad. No es mejor con el mago. Se pueden inventar no menos versiones: que decidió castigar al aprendiz que siempre está curiosando; que quería ahogar al aprendiz, pero cuando el demonio rugió sobre la inundación, se asustó — ¿y si algún transeúnte escuchó? entonces caería la sospecha sobre el mago; quería despertar el interés del aprendiz por los hechizos, etc.
Aquí puede surgir una pregunta infantil: ¿cuál de las versiones propuestas es la correcta? Al parecer, cualquiera. En el cuento no quedó ninguna información no utilizada para preferir alguna de las versiones sobre las demás. Aquí estamos ante un caso bastante común en obras de ficción con posibilidades de interpretación ambigua. Por ejemplo, si algún director quisiera llevar este cuento al teatro o hacer una película basada en él, podría elegir la interpretación que le parezca más atractiva. Para otro director, podría ser atractiva otra interpretación. Además, la atractividad podría determinarse por consideraciones adicionales, como la atractividad para el público, para asegurar la máxima recaudación en taquilla, o la atractividad para demostrar alguna idea superior: la victoria del bien sobre el mal, la idea del deber, la idea rebelde - por ejemplo, al estilo de Dostoievski: el aprendiz, como Raskólnikov, se pregunta “¿es criatura temblorosa o tiene derecho?” etc.
Surge otra pregunta.
Otra pregunta). ¿Cómo podemos enseñarle a la IA a favorecer alguna de las versiones mencionadas si nosotros, incluso teniendo IE, no siempre podemos elegir conscientemente una de ellas?
Regresando al hechicero, parece muy plausible la versión de que quería un aprendiz obediente y sumiso como un demonio, para que no se metiera en los libros prohibidos y en donde no le piden. Lo mismo se quiere a menudo de la IA hoy en día. A primera vista, estos son requisitos tradicionales normales para cualquier máquina: completa sumisión, la desobediencia es inaceptable. Pero en el caso de la IA puede surgir la cuestión de las versiones 1,2 (ver arriba), es decir, la IA se degrada: la “maquinita” puede pensar cualquier cosa sobre sus creadores y dueños, pero no realizará ninguna acción relacionada con la IA; es decir, en lugar de IA obtendremos un autómata primitivo y tonto. De esto surge la sospecha: ¿quizás el hechicero no quería hacer a su aprendiz un ejecutor tan tonto como un demonio? Es decir, surge la idea de una IA con limitaciones. Aquí todo es aún más complicado, incluso en el ámbito de IE: recordar los eternos conflictos de “padres e hijos”, “maestro y aprendiz”, “jefe y subordinado”.
Al elegir una definición de IA de las posibles, señalaba:
La tarea de ordenar varias decenas de miles de palabras alfabéticamente será agotadora para un ser humano, la realizará durante mucho tiempo y la probabilidad de errores para un ejecutor promedio con un nivel medio de responsabilidad será significativa. Una computadora moderna realizará esta tarea sin errores en un tiempo muy corto para un humano (fracciones de segundo).
Me detuve en la siguiente definición: Se consideran tareas de IA aquellas que una computadora resuelve notablemente peor que un ser humano..
Esta definición tiene en cuenta las consideraciones planteadas anteriormente y es conveniente para la práctica; al mismo tiempo, no es perfecta, por lo menos porque las listas de tareas que “una computadora resuelve notablemente peor que un ser humano” difieren en este momento y hace 20 años. Pero, en mi opinión, nadie ha ideado una definición más perfecta hasta ahora.
Lo que se ha dicho ilustra claramente el esquema al principio del artículo. En el eje de coordenadas de "habilidades", las habilidades cerca de cero (cero y un poco más) corresponden a habilidades donde el ser humano supera a la computadora, como la capacidad de tomar decisiones no estándar. Las habilidades cerca de uno (uno y un poco menos) corresponden a las habilidades donde la computadora supera al ser humano: la capacidad de realizar cálculos, la memoria. Al establecer la máxima superioridad como igual a una unidad condicional en el eje de coordenadas de "superioridad", obtendremos las dependencias de la superioridad frente a habilidades para el ser humano y la computadora en forma de diagonales de un cuadrado unitario. Así es como se presenta la situación en este momento. ¿Es posible una IA fuerte que tenga todas las habilidades al máximo (línea roja)? ¿O incluso más (super IA - línea azul)? Tal vez un objetivo intermedio del progreso no debería ser una IA fuerte, pero tampoco una completamente
débil (línea purpura), que en varias habilidades será inferior a la EI, pero no tan inferior como lo es ahora.
Volviendo a nuestro modelo literario de cuento, se puede decir que todos sus héroes no se desempeñaron muy bien: el mago torpe olvidó la llave y sufrió una inundación en su sótano, el aprendiz por torpeza y descuido tuvo una serie de experiencias extremas y casi se ahoga, el demonio fue expulsado a patadas sin ningún tipo de gratitud. En cuanto a la inteligencia del demonio, ya se ha señalado que es difícil clasificarlo claramente como IA o EI, pero la inteligencia (aunque no impresionante) de los demás claramente se refiere a EI. Se puede decir de ellos que cometer errores peligrosos en las decisiones, mostrar desatención, olvidar cosas necesarias y cansarse son sus principales propiedades inherentes. Desafortunadamente, estas propiedades también son comunes a todos los demás portadores de EI en mayor o menor medida. Ya se ha mencionado anteriormente la falta de confiabilidad en la clasificación de palabras o números de EI, pero parece que una tarea aún más simple - simplemente recordar un número resulta ser muy complicada para los humanos. Para una máquina, la capacidad de recordar los dígitos del número pi está limitada solo por el tamaño de la memoria, mientras que la mayoría de las personas tienen que usar para esto , como "¿Qué sé sobre los círculos?". Podría parecer que en la cadena "3,1416" hay menos caracteres que en la mnemotecnia mencionada, pero por alguna razón las personas prefieren recordar de una manera menos económica. Y es más largo:
Aprende y conoce en el número conocido por su cifra, cómo resaltar la suerte
Para que no cometamos errores,
Es necesario leer correctamente
Tres, catorce, quince
Noventa y dos y seis
Para recordar los colores del arcoíris:
Cada diseñador quiere saber dónde descargar Photoshop
Y el comienzo de la tabla de Mendeléyev:
El agua nativa (Hidrógeno) se mezcló con Helio (Helio), para Litio (Litio). Sí, Toma y vierte (Berilio) en el pinar (Boro), donde aparece el Asiático (Nitrógeno) desde el ángulo nativo (Carbono), con una cara tan ácida (Oxígeno), que el Fluor (Flúor) no quería mirar. Pero No él (Neón) era lo que necesitábamos, así que nos alejamos Tres (Sodio) metros y llegamos a Magnolia (Magnesio), donde a Alu en mini (Aluminio) falda le pusimos Crema (Silicio) con contenido de Fósforo (Fósforo), para que dejara de ser Gris (Azufre). Después de esto, Alia tomó Cloro (Cloro) y lavó la nave de los Argonautas (Argón)
Pero, ¿por qué tal imperfección evidente en un EI tan perfecto? Quizás, gracias a la habilidad de olvidar los hechos más simples, el ser humano obtiene la libertad de combinar fragmentos de sus reflexiones en un orden salvaje y aleatorio y encontrar soluciones no estándar. Si es así, entonces un EI fuerte es imposible. O olvidará como un humano, o no será capaz de soluciones no estándar. En cualquier caso, de las suposiciones anteriores se deduce la necesidad de delimitar los objetivos del EI: uno de los objetivos es modelar un EI, otro crear un EI fuerte. Alcanzar uno puede excluir el logro del otro.
Como vemos, en el ámbito del EI surgen demasiadas preguntas con respuestas ambiguas, así que no está claro en qué dirección avanzar. Como suele suceder en tales casos, se intenta avanzar en todas las direcciones a la vez. Sin embargo, debido a la falta de formulaciones matemáticamente estrictas, se recurre a la filosofía y a la modelación literaria artística. Uno de los ejemplos más conocidos en este sentido es el libro “La elección de Turing” (1992) de uno de los pioneros del EI, Marvin Lee Minsky, y el famoso escritor de ciencia ficción Harry Harrison. Citaré una frase de este libro que puede explicar el fenómeno de la mnemotecnia descrito anteriormente:
La memoria humana no es una grabadora que registra todo de manera cronológica. Está estructurada de manera completamente diferente, más bien como un archivo desorganizado, dotado de un índice confuso y contradictorio. Y no solo confuso, sino que de vez en cuando cambiamos los principios de clasificación de conceptos.
Una interpretación interesante de la metáfora de la grabadora se encuentra en otra obra literaria, el relato de Stanislav Lem "Terminus" (de la serie "Cuentos del piloto Pirx"). Aquí hay un caso peculiar de una "grabadora intelectual": un viejo robot en una antigua nave espacial que sufrió un accidente hace tiempo realiza trabajos de reparación, acompañados de golpeteos. Pero si se escucha atentamente, no es solo un ruido tecnológico blanco, sino la grabación de un código Morse: las conversaciones de los miembros de la tripulación de la nave moribunda. Pirx interfiere en estas conversaciones y de repente recibe una respuesta de los cosmonautas fallecidos hace mucho tiempo. Por lo tanto, el primitivo robot de reparación, de alguna manera, almacena copias de su conciencia, o son distorsiones cognitivas de la percepción del piloto Pirx?
En otro cuento, "Ananke" (de la misma serie), una copia de la IA en el ordenador de la nave espacial provoca una sobrecarga paranoica con tareas de prueba, que termina en un desastre.
En el relato "Accidente desafortunado", un robot programado de manera demasiado antropomórfica muere durante una escalada que decidió realizar en su tiempo libre. ¿Son necesarios tales ejecutores? Pero los demonios que se obsesionan con regar una planta tampoco son siempre necesarios.
A algunos especialistas en IA no les gusta este tipo de "filosofía" y "literatura", sin embargo, estas "filosofía" y "literatura" son tradicionalmente inherentes al análisis de la IA y son inevitables mientras se compare la IA con la IA humana, y mucho más, mientras se intente copiar la IA humana en la IA.
En conclusión, se realizó una encuesta sobre una serie de preguntas que surgieron.
Solo los usuarios registrados pueden participar en la encuesta. , por favor.
1. ¿Las tareas que la computadora resuelve significativamente peor que un ser humano se consideran IA?
Sí
No
Conozco una mejor definición. La proporcionaré en los comentarios.
Me cuesta responder
34 usuarios votaron. 7 usuarios se abstuvieron.
2. ¿La IA debe ser solo un ejecutor, entendiendo todas las órdenes literalmente? Por ejemplo, si se dice que riegue una planta, debe regar hasta que lo echen.
Sí
No
Me cuesta responder
Votaron 37 usuarios. Se abstuvieron 6 usuarios.
3. ¿Es posible un IA fuerte que tenga todas las habilidades al máximo (línea roja en la figura al principio del artículo)?
Sí
No
Me cuesta responder
Votaron 35 usuarios. Se abstuvieron 7 usuarios.
4. ¿Es posible un super IA (línea azul en la figura al principio del artículo)?
Sí
No
Me cuesta responder
Votaron 36 usuarios. Se abstuvieron 7 usuarios.
5. ¿El objetivo intermedio debería ser un IA que no sea fuerte ni completamente débil (línea morada en la figura al principio del artículo), que en algunas habilidades sea inferior al EI, pero no tanto como ahora?
Sí
No
Me cuesta responder
Votaron 33 usuarios. Se abstuvieron 5 usuarios.
6. ¿Cometer errores peligrosos en las decisiones, mostrar descuido, olvidar cosas necesarias y cansarse son las principales características inherentes al EI?
Sí
No
Tengo otra opinión, que presentaré en los comentarios
Me cuesta responder
Votaron 33 usuarios. Se abstuvieron 5 usuarios.
7. ¿Gracias a la habilidad de olvidar los hechos más simples, el ser humano puede combinar fragmentos de sus pensamientos en un orden salvaje y encontrar soluciones no convencionales?
Sí
No
Tengo otra opinión, que presentaré en los comentarios
Me cuesta responder
Votó 31 usuario. Se abstuvieron 4 usuarios.
8. ¿El modelado del EI y la creación de un IA fuerte son dos tareas diferentes que pueden resolverse con distintos métodos?
Sí
No
Tengo otra opinión, que presentaré en los comentarios
Me cuesta responder
Votaron 32 usuarios. Se abstuvieron 4 usuarios.
Fuente: habr.com
