¿Qué tipo de estudiante necesita un hechicero y qué tipo de IA necesitamos nosotros?

ADVERTENCIA
A juzgar por la proporción récord entre el número de silenciosamente insatisfechos y el número de comentaristas que tienen algo que objetar, a muchos lectores no les resulta obvio que:
1) Este es un artículo de discusión puramente teórico. Aquí no habrá consejos prácticos sobre cómo elegir herramientas para extraer criptomonedas o cómo ensamblar un multivibrador para encender dos bombillas.
2) Este no es un artículo de divulgación científica. No habrá explicación para los tontos del principio de funcionamiento de la máquina de Turing utilizando el ejemplo de cajas de cerillas.
3) ¡Piénsalo bien antes de seguir leyendo! ¿Le atrae la postura del amateurismo agresivo: yo menos todo lo que no entiendo?
¡Gracias de antemano a todos los que decidan no leer este artículo!

Un demonio es un programa informático en sistemas de clase UNIX que el propio sistema inicia y se ejecuta en segundo plano sin interacción directa del usuario.

Wikipedia

Incluso en la edad preescolar, escuché un cuento de hadas sobre un aprendiz de brujo. Lo repetiré en mi recuento:

Érase una vez, en algún lugar de la Europa medieval, vivía un hechicero. Tenía un gran libro de hechizos encuadernado en piel de becerro negra con cierres y esquinas de hierro. Cuando el hechicero necesitaba lanzar un hechizo, lo abría con una gran llave de hierro, que siempre llevaba en su cinturón en una bolsa especial. El hechicero también tenía un alumno que le servía, pero tenía prohibido mirar el libro de hechizos.

Un día, el hechicero se fue a trabajar todo el día. Tan pronto como salió de la casa, el estudiante se apresuró a entrar en el calabozo, donde había un laboratorio alquímico en el que yacía un libro de hechizos encadenado a una mesa. El estudiante agarró los crisoles en los que el brujo derretía plomo para convertirlo en oro, los colocó sobre el brasero y avivó el fuego. El plomo se derritió rápidamente, pero no se convirtió en oro. Entonces el estudiante recordó que el hechicero, después de derretir el plomo, cada vez abría el libro con una llave y susurraba un hechizo durante mucho tiempo. El estudiante miró desesperadamente el libro cerrado y vio que junto a él estaba la llave, olvidada por el hechicero. Luego corrió hacia la mesa, abrió el libro, lo abrió y leyó en voz alta el primer hechizo, pronunciando cuidadosamente palabras desconocidas sílaba por sílaba, asumiendo que un hechizo tan importante como el de la transmutación del plomo en oro sería sin duda el primero. .

Pero no pasó nada: el protagonista no quiso transformarse. El estudiante quería probar otro hechizo, pero entonces un trueno sacudió la casa y un enorme y espeluznante demonio apareció frente al estudiante, convocado por el hechizo que el estudiante acababa de recitar.
- ¡Orden! - gruñó el demonio.
Por miedo, todos los pensamientos abandonaron la cabeza del estudiante, ni siquiera podía moverse.
- ¡Da órdenes o te como! - volvió a gruñir el demonio y extendió una enorme mano hacia el estudiante para agarrarlo.
Desesperado, el estudiante murmuró lo primero que se le ocurrió:
- Riega esta flor.
Y señaló un geranio, cuya maceta estaba en el suelo, en un rincón del laboratorio; en el techo, encima de la flor, estaba la única pequeña ventana del calabozo, por la que apenas entraba la luz del sol. El demonio desapareció, pero un momento después reapareció con un enorme barril de agua, al que giró sobre la flor, derramando el agua. Volvió a desaparecer y reapareció con el cañón lleno.
“Ya es suficiente”, gritó el estudiante, de pie en el agua hasta la cintura.
Pero aparentemente el deseo por sí solo no fue suficiente: el demonio llevaba y llevaba agua en un barril, vertiéndola en el rincón donde una vez estuvo una flor escondida bajo el agua. Probablemente se necesitaba un hechizo especial para ahuyentar al demonio. Pero la mesa con el libro ya había desaparecido en el agua fangosa, en la que flotaban cenizas y brasas del brasero, retortas vacías, matraces, taburetes, galvanómetros, dosímetros, jeringuillas desechables y otros restos, así que aunque el alumno supiera encontrar el hechizo requerido, no pudo hacerlo. El agua subía y el alumno se subió a la mesa para no ahogarse. Pero esto no ayudó por mucho tiempo: el demonio continuó metódicamente llevando agua. El estudiante ya estaba metido en el agua hasta el cuello cuando el hechicero regresó, descubriendo que había olvidado la llave del libro en casa y ahuyentó al demonio. El final del cuento de hadas.

Inmediatamente sobre lo obvio. Con la inteligencia natural (NI) del alumno, parecería que todo está claro: estúpido, hay que buscar durante mucho tiempo algo aún más tonto. Pero con la inteligencia del demonio, por cierto, ¿qué tipo de inteligencia tiene: IE o AI? - ambiguo. Diferentes versiones son legítimas (y también surgirán preguntas sobre ellas):

Versión 1) El demonio es aún más tonto que el estudiante. Recibió una orden y la ejecutará indefinidamente, incluso cuando todo significado desaparezca: la flor -el objeto de riego- desaparecerá, el ángulo al que están unidas las coordenadas de la flor desaparecerá, el planeta Tierra desaparecerá y el Un demonio estúpido seguirá entregando agua en barriles hasta cierto punto del espacio exterior. Y si en este punto estalla una supernova, entonces al demonio no le importa dónde llevar el agua. Además: ¿qué tan estúpido hay que ser para regar una pequeña flor de un enorme barril? A esto ya se le llama no regar la flor, sino ahogar la flor. ¿Entiende siquiera el significado de las órdenes?

Versión 2) El demonio lo entiende todo, pero está sujeto a obligaciones. Así que está llevando a cabo algo parecido a una huelga italiana. Hasta que no lo expulsen oficialmente según todas las reglas, no parará.

Pregunta 1 a las versiones 1,2) ¿Cómo distinguir un demonio completamente estúpido según la versión 1 de un demonio nada estúpido según la versión 2?
Pregunta 2 a las versiones 1,2) ¿Habría realizado correctamente el demonio (desde el punto de vista del alumno) una formulación más precisa? Por ejemplo, si un alumno dijera: toma ese frasco de un litro vacío que está en el estante, llénalo de agua y riega esa flor una vez. O, por ejemplo, si el alumno dijera: vete.

Versión 3) El hechicero lanzó un hechizo adicional sobre el demonio, según el cual si alguien que no sea el hechicero utiliza los servicios del demonio, entonces el demonio debe informar inmediatamente al hechicero sobre este hecho.

Versión 4) El demonio no guarda rencor al hechicero y a su alumno, por eso, al ver que la situación estaba fuera de control, durante sus movimientos con un barril apareció a espaldas del hechicero y ladró: “Olvidaste la llave en casa. , hay una inundación”. Pero el propio hechicero no lo habría recordado.

Nota 1 a la versión 4) Cabe señalar especialmente que los operadores EI tienen una memoria muy imperfecta.

Se pueden multiplicar otras versiones como “conejos de Fibonacci”, es decir. No es un algoritmo muy complejo. Por ejemplo:
Versión 5) El demonio se venga del estudiante por molestarlo.
Versión 6) El demonio no le guarda rencor al estudiante, sino que se venga del hechicero.
Versión 6) El demonio se venga de todos.
Versión 7) El demonio no se venga, sino que se divierte. Termina cuando se cansa.
Y así sucesivamente

Entonces, con el demonio está claro que nada está claro. No mejor con un hechicero. Se pueden inventar no menos versiones: que decidió deliberadamente darle una lección a un estudiante que asoma su nariz curiosa por todas partes; que quería ahogar al estudiante, pero cuando el demonio ladró sobre la inundación, se asustó; de repente, uno de los transeúntes lo escuchó, entonces las sospechas recaerían sobre el hechicero; quería despertar el interés del alumno por los hechizos, etc.

Aquí es posible una pregunta infantil: ¿cuál de las versiones propuestas es la correcta? Al parecer, cualquiera. No queda información sin utilizar en el cuento que favorezca una versión sobre las demás. Estamos ante un caso bastante común de obras de arte con posibilidad de interpretación ambigua. Por ejemplo, si un director quiere poner en escena este cuento de hadas en un teatro o hacer una película basada en él, puede elegir la interpretación que le resulte más atractiva desde su punto de vista. Otro director podría encontrar atractiva una interpretación diferente. Al mismo tiempo, el atractivo puede determinarse mediante consideraciones adicionales, por ejemplo, el atractivo para los espectadores para garantizar la máxima recaudación de taquilla, o el atractivo para demostrar alguna súper idea: la idea de la victoria del bien sobre el mal, la idea del deber, una idea rebelde, por ejemplo, según Dostoievski: un estudiante, como Raskolnikov, hace la pregunta "¿es una criatura temblorosa o tiene derecho", etc.

Surge otra pregunta.
Una pregunta más). ¿Cómo podemos enseñar a la IA a dar preferencia a una de las versiones sonoras si nosotros mismos, al tener IA, no siempre podemos elegir conscientemente una de ellas?

Volviendo al hechicero, la versión de que quería un estudiante obediente y obediente, como un demonio, para no meter la nariz en libros prohibidos y donde no le preguntaban, parece muy plausible. Ahora a menudo se quiere lo mismo de la IA. A primera vista, estos son requisitos tradicionales normales para cualquier máquina: la obediencia total, la desobediencia es inaceptable. Pero en el caso de la IA, puede surgir el problema de las versiones 1,2 (ver arriba), es decir. La IA está degenerando: el hardware puede pensar lo que quiera sobre sus creadores y propietarios, pero no realizará ninguna acción relacionada con la IA, es decir, En lugar de IA, obtendremos un estúpido autómata primitivo. De esto surge una sospecha: ¿tal vez el hechicero no quería convertir al estudiante en un intérprete tan estúpido como un demonio? Aquellos. Surge la idea de una IA con limitaciones. Aquí todo es aún más difícil incluso en el ámbito de la IE: recordemos los eternos conflictos “padres e hijos”, “maestro y alumno”, “jefe y subordinado”.

Ранее Al elegir una definición de IA entre las posibles, noté:

La tarea de ordenar alfabéticamente varias decenas de miles de palabras será tediosa para una persona, le llevará mucho tiempo hacerlo y la probabilidad de errores para un artista promedio con un nivel promedio de responsabilidad será significativa. Una computadora moderna realizará esta tarea sin errores en muy poco tiempo para una persona (fracciones de segundo).

Me decidí por la siguiente definición: La IA incluye tareas que una computadora resuelve significativamente peor que un humano.

Esta definición tiene en cuenta las consideraciones expresadas anteriormente y es conveniente para la práctica; al mismo tiempo, no es ideal, aunque solo sea porque las listas de tareas "que una computadora resuelve notablemente peor que un humano" son diferentes ahora y hace 20 años. . Pero, en mi opinión, nadie ha encontrado todavía una definición más perfecta.

Lo anterior se ilustra de forma puramente cualitativa en el diagrama al principio del artículo. En el eje de coordenadas "habilidades", las habilidades en la región de cero (cero y un poco más) corresponden a habilidades en las que una persona es superior a una computadora, por ejemplo, en la capacidad de tomar decisiones no estándar. Las habilidades en la región de uno (uno y un poco menos) corresponden a habilidades en las que una computadora es superior a una persona: la capacidad de calcular, la memoria. Al poner la superioridad máxima igual a una unidad convencional en el eje de coordenadas de "superioridad", obtenemos la dependencia de la superioridad de las habilidades de humanos y computadoras en forma de diagonales de un cuadrado unitario. Así es como se presenta la situación en estos momentos. ¿Es posible que una IA fuerte tenga todas sus habilidades al máximo (línea roja)? ¿O incluso más (super-IA - línea azul)? Tal vez el objetivo intermedio del progreso no debería ser fuerte, pero no del todo
IA débil (línea violeta), que será inferior a la IA en varias habilidades, pero no tanto como ahora.

Volviendo a nuestro modelo de cuento de hadas literario, podemos decir que todos sus héroes no actuaron de la mejor manera: el hechicero torpe olvidó la llave y recibió una inundación en su calabozo, el estudiante, por estupidez y descuido, recibió un montón de Impresiones extremas y casi ahogado, el demonio fue expulsado sin ningún agradecimiento. En cuanto a la inteligencia del demonio, ya se ha señalado que es difícil clasificarlo claramente como AI o EI, pero la inteligencia (aunque no impresionante) de los demás pertenece claramente a la IE. De ellos se puede decir que cometer errores peligrosos en las decisiones, falta de atención, olvidar cosas necesarias y cansarse son sus principales propiedades inherentes. Desafortunadamente, estas propiedades son inherentes a todos los demás portadores de EI en mayor o menor medida. La falta de fiabilidad a la hora de clasificar palabras o números de IE ya se ha señalado anteriormente, pero parecería una tarea aún más sencilla: simplemente recordar un número resulta muy difícil para las personas. Para una máquina, la capacidad de recordar los dígitos de pi está limitada sólo por el tamaño de su memoria, y la mayoría de la gente tiene que usar mnemotécnica, como "¿Qué sé yo sobre los círculos?". Parecería que la línea “3,1416” tiene menos caracteres que el mnemotécnico especificado, pero por alguna razón la gente prefiere recordarla de una forma menos económica. Y más largo:

Aprende y conoce el número detrás del número, cómo notar la suerte.

Para que no cometamos errores,
Debe leerse correctamente
Tres, catorce, quince
noventa y dos y seis

Para recordar los colores del arcoíris:

Todo diseñador quiere saber dónde descargar Photoshop.

Y el comienzo de la tabla periódica:

Se mezcló agua nativa (hidrógeno) con gel (helio) para verter (litio). Sí, tomar y verter (Berilio) en el pinar (Boro), donde de debajo se asoma el Rincón Nativo (Carbono) Asiático (Nitrógeno), y con tanta Cara Agria (Oxígeno) que Secundaria (Flúor) no quiero mirar. Pero no lo necesitábamos (Neón), así que nos alejamos tres (Sodio) metros y terminamos en Magnolia (Magnesio), donde Alya con una minifalda (Aluminio) estaba untada con Crema (Silicio) que contenía Fósforo (Fósforo). para que dejara de ser Sera (Sera). Después de eso, Alya tomó cloro (cloro) y lavó el barco de los argonautas (argón).

Pero ¿por qué una imperfección tan obvia en una IE tan perfecta? ¿Quizás, gracias a la capacidad de olvidar los hechos más simples, una persona obtiene la libertad de combinar fragmentos de sus pensamientos en un orden arbitrario y salvaje y encontrar soluciones no estándar? Si es así, entonces una IA fuerte es imposible. O lo olvidará como una persona o no será capaz de adoptar soluciones no estándar. En cualquier caso, de los supuestos anteriores se desprende que es necesario distinguir entre los objetivos de la IA: uno de los objetivos es el modelado de la IA, el otro es la creación de una IA fuerte. Lograr uno puede excluir el logro del otro.

Como podemos ver, hay demasiadas preguntas con respuestas ambiguas en el campo de la IA, por lo que no está claro en qué dirección moverse. Como ocurre en estos casos, intentan moverse en todas direcciones a la vez. Al mismo tiempo, debido a la falta de formulaciones matemáticamente rigurosas, hay que recurrir a la filosofía y al modelado artístico y literario. Uno de los ejemplos más famosos en esta dirección es el libro “Selección de Turing” (1992) de una de las luminarias de la IA, Marvin Lee Minsky, y el famoso escritor de ciencia ficción Harry Harrison. Citaré este libro, quizás explicando el fenómeno mnemotécnico descrito anteriormente:

La memoria humana no es una grabadora que registra todo en orden cronológico. Está estructurado de forma completamente diferente, más bien como un fichero de tarjetas mal conservado, dotado de un índice confuso y contradictorio. Y no solo confuso: de vez en cuando cambiamos los principios de clasificación de conceptos.

Una interpretación interesante de la metáfora de la grabadora en otra obra literaria, la historia "Terminus" de Stanislaw Lem (de la serie "Historias sobre el piloto Pirx"). Este es el caso de una especie de “grabadora inteligente”: un viejo robot en una vieja nave espacial que una vez sufrió un accidente está realizando trabajos de reparación en curso, acompañados de golpecitos. Pero si escuchas atentamente, esto no es solo ruido blanco tecnológico, sino una grabación en código Morse: conversaciones entre miembros de la tripulación de un barco moribundo. Pirx interviene en estas negociaciones e inesperadamente recibe una respuesta de los astronautas muertos hace mucho tiempo. ¿Resulta que el primitivo robot reparador almacena de alguna manera copias de su conciencia o se trata de distorsiones cognitivas de la percepción del piloto Pirx?

En otra historia, “Ananke” (de la misma serie), una copia del EI en el ordenador de control de un transporte espacial provoca una sobrecarga paranoica de tareas de prueba, lo que acaba en un desastre.

En la historia "Accidente", un robot excesivamente programado antropomórficamente muere como resultado de un ascenso de montaña que decidió hacer en su tiempo libre. ¿Se necesitan tales artistas? Pero los demonios obsesionados con regar una flor tampoco siempre son necesarios.

A algunos especialistas en el campo de la IA no les gusta ese "filosofar" y el "literarismo", pero estos "filosofar" y "literarismo" son tradicionalmente inherentes al análisis de la IA y son inevitables siempre que se compare la IA con la IA, e incluso más aún mientras la IA intente copiarla.

En conclusión, un estudio sobre una serie de cuestiones que surgieron.

Solo los usuarios registrados pueden participar en la encuesta. Registrarsepor favor

1. ¿La IA incluye tareas que una computadora resuelve significativamente peor que un humano?

• Sí

• No

• Conozco mejor la definición. Lo daré en los comentarios.

• Difícil de responder

34 usuarios votaron. 7 usuarios se abstuvieron.

2. ¿La IA debería ser solo un ejecutor, todas las órdenes deberían tomarse literalmente? Por ejemplo, dijeron que regaras una flor, es decir, regar hasta que te ahuyenten.

• Sí

• No

• Difícil de responder

37 usuarios votaron. 6 usuarios se abstuvieron.

3. ¿Es posible tener una IA fuerte, en la que todas las habilidades sean máximas (línea roja en la imagen al principio del artículo)?

• Sí

• No

• Difícil de responder

35 usuarios votaron. 7 usuarios se abstuvieron.

4. ¿Es posible la súper IA (línea azul en la imagen al principio del artículo)?

• Sí

• No

• Difícil de responder

36 usuarios votaron. 7 usuarios se abstuvieron.

5. El objetivo intermedio no debe ser una IA fuerte, pero tampoco completamente débil (línea violeta en la figura al principio del artículo), que en varias habilidades será inferior a la IA, pero no tanto como es ahora. ?

• Sí

• No

• Difícil de responder

33 usuarios votaron. 5 usuarios se abstuvieron.

6. ¿Cometer errores peligrosos en las decisiones, falta de atención, olvidar cosas necesarias y cansarse son las principales propiedades inherentes a la IE?

• Sí

• No

• Tengo una opinión diferente, que daré en los comentarios.

• Difícil de responder

33 usuarios votaron. 5 usuarios se abstuvieron.

7. Gracias a la capacidad de olvidar los hechos más simples, una persona obtiene la libertad de combinar fragmentos de sus pensamientos en un orden arbitrario y salvaje y encontrar soluciones no estándar.

• Sí

• No

• Tengo una opinión diferente, que daré en los comentarios.

• Difícil de responder

31 usuarios votaron. 4 usuarios se abstuvieron.

8. ¿Modelar IA y crear una IA potente son dos tareas diferentes que pueden resolverse mediante métodos diferentes?

• Sí

• No

• Tengo una opinión diferente, que daré en los comentarios.

• Difícil de responder

32 usuarios votaron. 4 usuarios se abstuvieron.

Fuente: www.habr.com