Que tipo de alumno necesita un feiticeiro e que tipo de IA necesitamos?

AVISO
A xulgar pola alta relación entre o número de silenciosamente insatisfeitos e o número de comentaristas que teñen algo que obxectar, non é obvio para moitos lectores que:
1) Este é un artigo de discusión puramente teórico. Non haberá consellos prácticos aquí sobre a elección de ferramentas para minar criptomoedas ou a montaxe dun multivibrador para flashear dúas lámpadas.
2) Este non é un artigo de divulgación científica. Non haberá explicación para os maniquíes do principio de funcionamento da máquina de Turing usando o exemplo das caixas de mistos.
3) Pense ben antes de continuar lendo! Atrévache a postura de afeccionado agresivo: menos todo o que non entendo?
Grazas de antemán a todos os que deciden non ler este artigo!

Un daemon é un programa informático en sistemas de clase UNIX que é lanzado polo propio sistema e que se executa en segundo plano sen interacción directa do usuario.

Wikipedia

Incluso na idade preescolar, escoitei un conto de fadas sobre un aprendiz de feiticeiro. Voino repetir no meu relato:

Érase unha vez, nalgún lugar da Europa medieval, vivía un feiticeiro. Tiña un gran libro de feitizos encadernados en pel de becerro negro con broches e cantos de ferro. Cando o feiticeiro necesitaba facer un feitizo, desbloqueabao cunha chave de ferro grande, que sempre levaba no cinto nunha bolsa especial. O feiticeiro tamén tiña un alumno que lle servía ao feiticeiro, pero prohibíalle mirar o libro dos feitizos.

Un día o feiticeiro marchou para todo o día por negocios. Nada máis saír da casa, o estudante precipitouse no calabozo, onde había un laboratorio alquímico no que xacía un libro de feitizos encadeado a unha mesa. O estudante colleu os crisols nos que o feiticeiro fundía o chumbo para convertelo en ouro, colocounos no braseiro e avivou o lume. O liderado fundiuse rapidamente, pero non se converteu en ouro. Entón o alumno lembrou que o feiticeiro, derretindo o chumbo, cada vez desbloqueaba o libro cunha chave e susurraba un feitizo del durante moito tempo. O estudante mirou desesperadamente o libro pechado e viu que ao seu carón estaba a chave, esquecida polo feiticeiro. Entón correu á mesa, abriu o libro, abriuno e leu en voz alta o primeiro feitizo, pronunciando con coidado palabras descoñecidas sílaba a sílaba, asumindo que un feitizo tan importante como o feitizo de transmutación de chumbo en ouro sería sen dúbida o primeiro. .

Pero non pasou nada: o líder non quería transformarse. O estudante quixo probar outro feitizo, pero entón un trono sacudiu a casa e un demo enorme e arrepiante apareceu diante do estudante, convocado polo feitizo que o estudante acababa de recitar.
- Orde! - rosmou o demo.
Por medo, todos os pensamentos saíron da cabeza do estudante, nin sequera podía moverse.
- Dá ordes, ou te comerei! - volveu rosmar o demo e estendeu unha enorme man cara ao estudante para agarralo.
Desesperado, o estudante murmurou o primeiro que se lle ocorreu:
- Rega esta flor.
E sinalou un geranio, cuxo pote estaba no chan na esquina do laboratorio; no teito sobre a flor había a única fiestra pequena do calabozo, pola que apenas entraba a luz solar. O demo desapareceu, pero un momento despois reapareceu cun enorme barril de auga, que deu a volta á flor, botando a auga. Desapareceu de novo e reapareceu co barril cheo.
"Isto é suficiente", berrou o estudante, de pé ata a cintura na auga.
Pero ao parecer o desexo por si só non era suficiente: o demo levaba e levaba auga nun barril, vertiándoa no recuncho onde había unha flor escondida baixo a auga. Probablemente necesitase un feitizo especial para afastar o demo. Pero a mesa co libro xa desaparecera na auga lamada, na que flotaban cinzas e carbóns do braseiro, réplicas baleiras, frascos, taburetes, galvanómetros, dosímetros, xiringas desbotables e outros restos, así que aínda que o alumno soubese atopar o feitizo necesario, non podía facelo. A auga subía, e o estudante subiu á mesa para non atragantarse. Pero isto non axudou por moito tempo: o demo continuou metódicamente levando auga. O estudante xa estaba ata o pescozo na auga cando o feiticeiro volveu, descubrindo que esquecera a chave do libro na casa, e expulsou o demo. O final do conto de fadas.

De inmediato sobre o obvio. Coa intelixencia natural (NI) do estudante, parece que todo está claro: estúpido, hai que buscar durante moito tempo algo aínda máis tonto. Pero coa intelixencia do demo, por certo, que tipo de intelixencia ten: EI ou AI? - ambiguo. As diferentes versións son lexítimas (e tamén xurdirán preguntas sobre elas):

Versión 1) O demo é aínda máis parvo que o estudante. Recibiu un encargo e realizarao indefinidamente, mesmo cando desapareza todo o significado: a flor -o obxecto de rego- desaparecerá, o ángulo ao que están unidas as coordenadas da flor desaparecerá, o planeta Terra desaparecerá e o demo estúpido seguirá entregando auga en barrís ata certo punto do espazo exterior. E se estalla unha supernova neste momento, entón ao demo non lle importa onde levar a auga. Ademais: que estúpido tes que ser para regar unha pequena flor dun barril enorme? Isto xa se chama non regar a flor, senón afogar a flor. Sequera entende o significado das ordes?

Versión 2) O demo entende todo, pero está obrigado. Entón está a realizar algo así como unha folga italiana. Ata que sexa expulsado oficialmente segundo todas as regras, non parará.

Pregunta 1 ás versións 1,2) Como distinguir un demo completamente estúpido segundo a versión 1 dun demo nada estúpido segundo a versión 2?
Pregunta 2 ás versións 1,2) O demo tería realizado correctamente (desde o punto de vista do alumno) unha formulación máis precisa? Por exemplo, se un alumno dixo: colle ese frasco de litro baleiro que hai no estante, encheo de auga e rega esa flor unha vez. Ou, por exemplo, se o alumno dixo: vaia.

Versión 3) O feiticeiro lanzou un feitizo adicional ao demo, segundo o cal se alguén que non sexa o feiticeiro usa os servizos do demo, o demo debe informar inmediatamente ao feiticeiro deste feito.

Versión 4) O demo non lle garda rencor ao feiticeiro e ao seu alumno, polo tanto, ao ver que a situación estaba fóra de control, durante os seus movementos cun barril apareceu ás costas do feiticeiro e ladrou: “Esqueceches a chave na casa. , hai unha enchente". Pero o propio feiticeiro non se lembraría.

Nota 1 á versión 4) Cabe destacar especialmente que os operadores EI teñen unha memoria moi imperfecta.

Pódense multiplicar outras versións como "coellos de Fibonacci", é dicir. non é un algoritmo moi complexo. Por exemplo:
Versión 5) O demo vingase do estudante por molestalo.
Versión 6) O demo non lle garda rancor ao estudante, senón que se vinga do feiticeiro.
Versión 6) O demo vingase de todos.
Versión 7) O demo non se vinga, senón que se divirte. Remata cando se cansa.
Etc.

Entón, co demo está claro que nada está claro. Non é mellor cun feiticeiro. Podes dar con non menos versións: que decidiu deliberadamente darlle unha lección a un alumno que mete o curioso nariz por todas partes; que quería afogar ao estudante, pero cando o demo ladraba sobre a enchente, asustouse -de súpeto un dos transeúntes escoitou, entón a sospeita caería sobre o feiticeiro; quería espertar o interese do alumno polos feitizos, etc.

Aquí é posible unha pregunta infantil: cal das versións propostas é correcta? Ao parecer, calquera. Non hai información sen usar no conto para favorecer ningunha versión sobre as outras. Aquí estamos ante un caso bastante común de obras de arte con posibilidade de interpretación ambigua. Por exemplo, se un director quere escenificar este conto de fadas nun teatro ou facer unha película baseada nel, pode escoller a interpretación que lle resulte máis atractiva desde o seu punto de vista. Outro director pode considerar atractiva unha interpretación diferente. Ao mesmo tempo, o atractivo pode ser determinado por consideracións adicionais, por exemplo, o atractivo para os espectadores para garantir os máximos ingresos de taquilla ou o atractivo para demostrar algunha superidea: a idea da vitoria do ben sobre o mal, o idea do deber, unha idea rebelde - por exemplo, segundo Dostoievski: un estudante, como Raskolnikov, fai a pregunta "é unha criatura temblorosa ou ten dereito", etc.

Xorde outra pregunta.
Unha pregunta máis). Como podemos ensinar á IA a dar preferencia a unha das versións sonoras se nós mesmos, tendo IA, non sempre podemos escoller conscientemente unha delas?

Volvendo ao feiticeiro, parece moi plausible a versión de que quería un estudante obediente e obediente, coma un demo, para que non metese o nariz en libros prohibidos e onde non lle preguntaran. Agora adoita querer o mesmo da IA. A primeira vista, estes son os requisitos tradicionais normais para calquera máquina: a obediencia total, a desobediencia é inaceptable. Pero no caso da IA, pode xurdir o problema das versións 1,2 (ver arriba), é dicir. A IA está dexenerando: o hardware pode pensar o que queira sobre os seus creadores e propietarios, pero non realizará ningunha acción relacionada coa IA, é dicir. En lugar de AI, conseguiremos un estúpido autómata primitivo. A partir disto xorde unha sospeita: quizais o feiticeiro non quería facer do estudante un intérprete tan estúpido como un demo? Eses. Xorde a idea de IA con limitacións. Aquí todo é aínda máis difícil incluso no ámbito da EI: lembrar os eternos conflitos “pais e fillos”, “profesor e alumno”, “xefe e subordinado”.

Máis cedo Ao escoller unha definición de IA entre as posibles, observei:

a tarefa de ordenar varias decenas de miles de palabras alfabeticamente será tediosa para unha persoa, levará moito tempo facelo e a probabilidade de erros para un intérprete medio cun nivel medio de responsabilidade será significativa. Un ordenador moderno realizará esta tarefa sen erros en moi pouco tempo para unha persoa (fraccións de segundo).

Decidín a seguinte definición: A IA inclúe tarefas que un ordenador resolve moito peor que un humano.

Esta definición ten en conta as consideracións expresadas anteriormente e é conveniente para a práctica; ao mesmo tempo, non é ideal, aínda que só sexa porque as listas de tarefas "que un ordenador resolve notablemente peor que un humano" son diferentes agora e hai 20 anos. . Pero, na miña opinión, aínda ninguén chegou a unha definición máis perfecta.

O anterior está ilustrado puramente cualitativamente polo diagrama ao comezo do artigo. No eixe de coordenadas "habilidades", as habilidades na rexión de cero (cero e un pouco máis) corresponden a habilidades nas que unha persoa é superior a un ordenador, por exemplo, na capacidade de tomar decisións non estándar. As habilidades na rexión dun (unha e algo menos) corresponden a habilidades nas que un ordenador é superior a unha persoa: a capacidade de calcular, a memoria. Poñendo a máxima superioridade igual a unha unidade convencional no eixe de coordenadas de "superioridade", obtemos a dependencia da superioridade das habilidades para humanos e ordenadores en forma de diagonais dun cadrado unitario. Así aparece a situación nestes momentos. É posible que unha IA forte teña todas as súas habilidades ao máximo (liña vermella)? Ou aínda máis alto (super-AI - liña azul)? Quizais o obxectivo intermedio do progreso non debería ser forte, pero non do todo
IA débil (liña morada), que será inferior á IA en varias habilidades, pero non tanto como agora.

Volvendo ao noso modelo literario de conto de fadas, podemos dicir que todos os seus heroes non actuaron da mellor maneira: o feiticeiro torpe esqueceu a chave e recibiu unha inundación no seu calabozo, o estudante, por estupidez e descoido, recibiu unha chea de impresións extremas e case afogado, o demo foi expulsado sen ningún agradecemento. En canto á intelixencia do demo, xa se sinalou que é difícil clasificalo claramente como AI ou EI, pero a intelixencia (aínda que non impresionante) dos demais pertence claramente a EI. Pódese dicir sobre eles que cometer erros perigosos nas decisións, estar desatento, esquecer as cousas necesarias e cansarse son as súas principais propiedades inherentes. Desafortunadamente, estas propiedades son inherentes a todos os demais operadores de EI en maior ou menor medida. A falta de fiabilidade de ordenar palabras ou números de EI xa se indicou anteriormente, pero parecería unha tarefa aínda máis sinxela: simplemente lembrar un número resulta moi difícil para a xente. Para unha máquina, a capacidade de lembrar os díxitos de pi está limitada só polo tamaño da súa memoria, e a maioría da xente ten que usar mnemotécnicos, como "Que sei eu sobre os círculos". Parece que a liña "3,1416" ten menos caracteres que o mnemotécnico especificado, pero por algún motivo a xente prefire lembrar dun xeito menos económico. E máis longa:

Aprende e coñece o número detrás do número, como notar a sorte

Para non cometer erros,
Debe lerse correctamente
Tres, catorce, quince
Noventa e dous e seis

Para lembrar as cores do arco da vella:

Todo deseñador quere saber onde descargar Photoshop

E o comezo da táboa periódica:

Mesturouse a auga nativa (hidróxeno) con xel (helio) para verter (litio). Si, Colle e verte (Berilio) no bosque de piñeiros (Boron), onde por debaixo do Recuncho Nativo (Carbono) Asiático (Nitróxeno) asoma, e cunha cara tan aceda (Osíxeno) que o Secundario (Fluor) non o fixen. quero mirar. Pero non o necesitabamos (Neon), así que nos afastamos tres (Sodium) e acabamos en Magnolia (Magnesio), onde Alya cunha mini saia (Aluminio) foi untada con Crema (Silicio) que contén Fósforo (Fósforo). para que deixara de ser Sera (Sera). Despois diso, Alya tomou o cloro (cloro) e lavou o barco dos argonautas (argón).

Pero por que unha imperfección tan evidente nun EI tan perfecto? Quizais, grazas á capacidade de esquecer os feitos máis simples, unha persoa gaña a liberdade de combinar fragmentos dos seus pensamentos nunha orde salvaxe arbitraria e atopar solucións non estándar? Se é así, entón a IA forte é imposible. Ou esquecerá como unha persoa, ou non será capaz de solucións non estándar. En calquera caso, dos supostos anteriores despréndese que é necesario distinguir entre os obxectivos da IA: un dos obxectivos é a modelización da IA, o outro é a creación dunha IA forte. Conseguir un pode excluír lograr o outro.

Como podemos ver, hai demasiadas preguntas con respostas ambiguas no campo da IA, polo que non está claro en que dirección moverse. Como ocorre nestes casos, intentan moverse en todas as direccións á vez. Ao mesmo tempo, ante a falta de formulacións matematicamente rigorosas, hai que recorrer á filosofía e á modelización artística e literaria. Un dos exemplos máis famosos nesta dirección é o libro "Turing Selection" (1992) dun dos referentes da IA, Marvin Lee Minsky, e do famoso escritor de ciencia ficción Harry Harrison. Vou citar este libro, quizais explicando o fenómeno mnemónico descrito anteriormente:

A memoria humana non é unha gravadora que grava todo en orde cronolóxica. Está estruturado de forma completamente diferente, máis ben como un índice de tarxetas descoidado, equipado cun índice confuso e contraditorio. E non só confuso: de cando en vez cambiamos os principios de clasificación dos conceptos.

Unha interesante interpretación da metáfora da gravadora noutra obra literaria, a historia de Stanislaw Lem "Terminus" (da serie "Historias sobre o Pirx Piloto"). Velaí o caso dunha especie de “grabadora intelixente”: un vello robot nunha antiga nave espacial que no seu día sufriu un accidente está dedicado a uns labores de reparación continuos, acompañado de toques. Pero se escoitas atentamente, isto non é só ruído tecnolóxico branco, senón unha gravación de código Morse: conversas entre membros da tripulación dun barco moribundo. Pirx intervén nestas negociacións e recibe inesperadamente unha resposta dos astronautas mortos hai tempo. Resulta que o primitivo robot de reparación dalgún xeito almacena copias da súa conciencia ou son distorsións cognitivas da percepción do piloto Pirx?

Noutra historia, "Ananke" (da mesma serie), unha copia do EI no ordenador de control dun transporte espacial leva á súa sobrecarga paranoica con tarefas de proba, que acaba nun desastre.

Na historia "Accidente", un robot demasiado antropomórfico programado morre como consecuencia dunha escalada de alpinismo que decidiu facer no seu tempo libre. Necesítanse eses artistas? Pero tampouco sempre son necesarios os demos fixados en regar unha flor.

A algúns especialistas no campo da IA ​​non lles gusta tal "filosofización" e "literarismo", pero estes "filosofizar" e "literarismo" son tradicionalmente inherentes á análise da IA ​​e son inevitables sempre que a IA se compare coa IA, e mesmo máis aínda que a IA intente copiar a IA.

En conclusión, unha enquisa sobre unha serie de cuestións xurdidas.

Só os usuarios rexistrados poden participar na enquisa. Rexístrate, por favor.

1. A IA inclúe tarefas que un ordenador resolve significativamente peor que un humano?

• Si

• Non

• Coñezo mellor a definición. Dareino nos comentarios.

• Difícil de responder

Votaron 34 usuarios. 7 usuarios abstivéronse.

2. Se a IA só é un executor, deberían tomarse todas as ordes literalmente? Por exemplo, dixeron que regases unha flor, isto significa auga ata que te afastan

• Si

• Non

• Difícil de responder

Votaron 37 usuarios. 6 usuarios abstivéronse.

3. É posible ter unha IA forte, na que todas as habilidades serán máximas (liña vermella na imaxe ao comezo do artigo)?

• Si

• Non

• Difícil de responder

Votaron 35 usuarios. 7 usuarios abstivéronse.

4. É posible a super-IA (liña azul na imaxe do comezo do artigo)?

• Si

• Non

• Difícil de responder

Votaron 36 usuarios. 7 usuarios abstivéronse.

5. O obxectivo intermedio non debe ser forte, pero tampouco completamente débil a IA (liña morada na figura do comezo do artigo), que nunha serie de habilidades será inferior á IA, pero non tanto como agora. ?

• Si

• Non

• Difícil de responder

Votaron 33 usuarios. 5 usuarios abstivéronse.

6. Cometer erros perigosos nas decisións, estar desatento, esquecer as cousas necesarias e cansarse son as principais propiedades inherentes á EI?

• Si

• Non

• Eu teño unha opinión diferente, que vou dar nos comentarios.

• Difícil de responder

Votaron 33 usuarios. 5 usuarios abstivéronse.

7. Grazas á capacidade de esquecer os feitos máis sinxelos, unha persoa gaña a liberdade de combinar fragmentos dos seus pensamentos nunha orde salvaxe arbitraria e atopar solucións non estándar?

• Si

• Non

• Eu teño unha opinión diferente, que vou dar nos comentarios.

• Difícil de responder

Votaron 31 usuarios. 4 usuarios abstivéronse.

8. Modelar a IA e crear unha IA forte son dúas tarefas diferentes que se poden resolver por métodos diferentes?

• Si

• Non

• Eu teño unha opinión diferente, que vou dar nos comentarios.

• Difícil de responder

Votaron 32 usuarios. 4 usuarios abstivéronse.

Fonte: www.habr.com