Quin tipus d'alumne necessita un bruixot i quin tipus d'IA necessitem?

ADVERTÈNCIA
A jutjar per la ràtio rècord entre el nombre de descontents silenciosos i el nombre de comentaristes que tenen alguna cosa a què oposar-se, no és obvi per a molts lectors que:
1) Aquest és un article de discussió purament teòric. Aquí no hi haurà consells pràctics sobre com triar eines per extreure criptomoneda o muntar un multivibrador per enlluernar dues bombetes.
2) Aquest no és un article de divulgació científica. No hi haurà cap explicació per als maniquís del principi de funcionament de la màquina de Turing utilitzant l'exemple de les caixes de llumins.
3) Penseu bé abans de continuar llegint! T'atrau la postura d'aficionat agressiu: menys tot el que no entenc?
Gràcies per endavant a tothom que decideixi no llegir aquest article!

Un dimoni és un programa informàtic en sistemes de classe UNIX que el mateix sistema llança i s'executa en segon pla sense la interacció directa de l'usuari.

Wikipedia

Fins i tot en edat preescolar, vaig escoltar un conte de fades sobre un aprenent de bruixot. Ho repetiré en el meu relat:

Hi havia una vegada, en algun lloc de l'Europa medieval, un bruixot. Tenia un gran llibre d'encanteris enquadernat amb pell de vedella negra amb tancaments i cantonades de ferro. Quan el bruixot necessitava fer un encanteri, el desbloquejava amb una gran clau de ferro, que portava sempre al cinturó en una bossa especial. El bruixot també tenia un alumne que li servia al bruixot, però se li va prohibir mirar el llibre dels encanteris.

Un dia, el bruixot va marxar tot el dia per negocis. Tan bon punt va sortir de casa, l'estudiant es va precipitar al calabós, on hi havia un laboratori d'alquímica on hi havia un llibre d'encanteris encadenat a una taula. L'estudiant va agafar els gresols en què el bruixot fonia plom per convertir-lo en or, els va col·locar al braser i va avivar el foc. El plom es va fondre ràpidament, però no es va convertir en or. Llavors l'estudiant va recordar que el bruixot, després d'haver fos el plom, cada cop obria el llibre amb una clau i en xiuxiuejava un encanteri durant molt de temps. L'estudiant va mirar desesperadament el llibre tancat i va veure que al costat hi havia la clau, oblidada pel bruixot. Llavors es va precipitar a la taula, va obrir el llibre, el va obrir i va llegir en veu alta el primer encanteri, pronunciant acuradament paraules desconegudes síl·laba a síl·laba, suposant que un encanteri tan important com l'encanteri de transmutació del plom en or seria sens dubte el primer. .

Però no va passar res: el líder no es va voler transformar. L'estudiant va voler provar un altre encanteri, però aleshores un tron ​​va sacsejar la casa i un dimoni enorme i esgarrifós va aparèixer davant de l'estudiant, convocat per l'encanteri que l'estudiant acabava de recitar.
-Ordre! - va grunyir el dimoni.
De la por, tots els pensaments van abandonar el cap de l'estudiant, ni tan sols es podia moure.
- Dona ordres, o et menjaré! - va tornar a grunyir el dimoni i va estendre una mà enorme cap a l'alumne per agafar-lo.
Desesperat, l'estudiant va murmurar el primer que va poder pensar:
- Rega aquesta flor.
I va assenyalar un gerani, un test del qual es trobava a terra a la cantonada del laboratori; al sostre de sobre de la flor hi havia l'única finestra petita del calabós, per on amb prou feines entrava la llum del sol. El dimoni va desaparèixer, però un moment després va reaparèixer amb un enorme barril d'aigua, que va donar la volta a la flor, abocant l'aigua. Va tornar a desaparèixer i va reaparèixer amb el canó ple.
"Ja n'hi ha prou", va cridar l'estudiant, dempeus fins a la cintura a l'aigua.
Però pel que sembla, el desig per si sol no era suficient: el dimoni portava i portava aigua en un barril, abocant-la a la cantonada on hi havia una flor amagada sota l'aigua. Probablement es necessitava un encanteri especial per allunyar el dimoni. Però la taula amb el llibre ja havia desaparegut dins l'aigua fangosa, en la qual suraven cendres i brases del braser, rèpliques buides, flascons, tamborets, galvanòmetres, dosímetres, xeringues d'un sol ús i altres restes, així que encara que l'alumne sabia trobar-hi l'encanteri requerit, no podia fer-ho. L'aigua pujava i l'estudiant va pujar a la taula per no sufocar-se. Però això no va ajudar durant molt de temps: el dimoni va continuar portant aigua metòdicament. L'estudiant ja estava fins al coll dins l'aigua quan el bruixot va tornar, descobrint que havia oblidat la clau del llibre a casa, i va expulsar el dimoni. El final del conte de fades.

De seguida sobre l'obvi. Amb la intel·ligència natural (NI) de l'estudiant, sembla que tot està clar: estúpid, has de buscar durant molt de temps alguna cosa encara més tonta. Però amb la intel·ligència del dimoni, per cert, quin tipus d'intel·ligència té: EI o AI? - ambigu. Les diferents versions són legítimes (i també sorgiran preguntes sobre elles):

Versió 1) El dimoni és fins i tot més tonto que l'estudiant. Va rebre una ordre i la portarà a terme indefinidament, fins i tot quan desaparegui tot el significat: desapareixerà la flor, l'objecte del reg, desapareixerà l'angle al qual s'uneixen les coordenades de la flor, desapareixerà el planeta Terra i el El dimoni estúpid continuarà lliurant aigua en barrils fins a un punt determinat de l'espai exterior. I si esclata una supernova en aquest punt, al dimoni no li importa on portar l'aigua. A més: què estúpid has de ser per regar una flor petita d'un barril enorme? Això ja es diu no regar la flor, sinó ofegar la flor. Fins i tot entén el significat de les ordres?

Versió 2) El dimoni ho entén tot, però està lligat a obligacions. Així que està duent a terme alguna cosa com una vaga italiana. Fins que sigui expulsat oficialment d'acord amb totes les regles, no s'aturarà.

Pregunta 1 a les versions 1,2) Com distingir un dimoni completament estúpid segons la versió 1 d'un dimoni gens estúpid segons la versió 2?
Pregunta 2 a les versions 1,2) El dimoni hauria fet correctament (des del punt de vista de l'alumne) una formulació més precisa? Per exemple, si un alumne va dir: agafeu aquell matràs buit de litre que hi ha a la prestatgeria, ompliu-lo d'aigua i regueu aquella flor una vegada. O, per exemple, si l'alumne va dir: marxa't.

Versió 3) El bruixot va llançar un encanteri addicional al dimoni, segons el qual si algú que no sigui el bruixot utilitza els serveis del dimoni, el dimoni ha d'informar immediatament el bruixot sobre aquest fet.

Versió 4) El dimoni no guarda rancúnia al bruixot i al seu alumne, per això, en veure que la situació estava fora de control, durant els seus moviments amb un barril va aparèixer a esquena del bruixot i va bordar: “T'has oblidat la clau a casa. , hi ha una riuada". Però el mateix bruixot no ho hauria recordat.

Nota 1 a la versió 4) Val la pena assenyalar especialment que els operadors d'EI tenen una memòria molt imperfecta.

Es poden multiplicar més versions com "conills de Fibonacci", és a dir. no és un algorisme molt complex. Per exemple:
Versió 5) El dimoni es venja de l'estudiant per molestar-lo.
Versió 6) El dimoni no guarda rancor a l'estudiant, sinó que es venja del bruixot.
Versió 6) El dimoni es venja de tothom.
Versió 7) El dimoni no es venja, sinó que es diverteix. Acaba quan es cansa.
I així successivament.

Així doncs, amb el dimoni està clar que res és clar. No és millor amb un bruixot. No se'n poden sortir menys versions: que va decidir deliberadament donar una lliçó a un alumne que clava el nas curiós per tot arreu; que volia ofegar l'estudiant, però quan el dimoni va bordar per la riuada, es va espantar -de sobte un dels transeünts va sentir, aleshores la sospita cauria sobre el bruixot; volia despertar l'interès de l'alumne pels encanteris, etc.

Aquí és possible una pregunta infantil: quina de les versions proposades és correcta? Pel que sembla, qualsevol. No hi ha informació sense utilitzar en el conte per afavorir cap versió sobre les altres. Aquí estem davant d'un cas força habitual d'obres d'art amb possibilitat d'interpretació ambigua. Per exemple, si un director vol posar en escena aquest conte de fades en un teatre o fer-ne una pel·lícula a partir d'ell, pot triar la interpretació que sigui més atractiva des del seu punt de vista. Un altre director podria trobar atractiva una interpretació diferent. Al mateix temps, l'atractiu es pot determinar per consideracions addicionals, per exemple, l'atractiu per als espectadors per tal d'assegurar els màxims ingressos de taquilla, o l'atractiu per demostrar alguna superidea: la idea de la victòria del bé sobre el mal, la idea del deure, una idea rebel, per exemple, segons Dostoievski: un estudiant, com Raskolnikov, fa la pregunta "és una criatura tremolosa o té dret", etc.

Sorgeix una altra pregunta.
Una pregunta més). Com podem ensenyar a la IA a donar preferència a una de les versions sonores, si nosaltres mateixos, tenint IA, no sempre podem triar conscientment una d'elles?

Tornant al bruixot, sembla molt plausible la versió que volia un estudiant obedient i obedient, com un dimoni, perquè no fiqués el nas a llibres prohibits i on no li demanessin. Ara sovint es vol el mateix des de la IA. A primera vista, aquests són requisits tradicionals normals per a qualsevol màquina: l'obediència total, la desobediència és inacceptable. Però en el cas de la IA, pot sorgir el problema de les versions 1,2 (vegeu més amunt), és a dir. La IA està degenerant: el maquinari pot pensar el que vulgui sobre els seus creadors i propietaris, però no realitzarà cap acció relacionada amb la IA, és a dir. En lloc de la IA obtindrem un autòmat primitiu estúpid. A partir d'això sorgeix una sospita: potser el bruixot no volia fer de l'estudiant un intèrpret tan estúpid com un dimoni? Aquells. Sorgeix la idea d'IA amb limitacions. Aquí tot és encara més difícil fins i tot en l'àmbit de l'EI: recordeu els eterns conflictes "pares i fills", "mestre i alumne", "cap i subordinat".

Més d'hora Quan vaig triar una definició d'IA d'entre les possibles, vaig assenyalar:

La tasca d'ordenar alfabèticament diverses desenes de milers de paraules serà tediosa per a una persona, trigarà molt de temps a fer-ho i la probabilitat d'errors per a un intèrpret mitjà amb un nivell mitjà de responsabilitat serà significativa. Un ordinador modern realitzarà aquesta tasca sense errors en molt poc temps per a una persona (fraccions de segon).

Em vaig fixar en la següent definició: La IA inclou tasques que un ordinador resol molt pitjor que un humà.

Aquesta definició té en compte les consideracions expressades anteriorment i és convenient per a la pràctica; al mateix temps, no és ideal, encara que només perquè les llistes de tasques "que un ordinador resol notablement pitjor que un humà" són diferents ara i fa 20 anys. . Però, al meu entendre, ningú encara ha arribat a una definició més perfecta.

L'anterior s'il·lustra de manera purament qualitativa pel diagrama al començament de l'article. A l'eix de coordenades "habilitats", les habilitats a la regió de zero (zero i una mica més) corresponen a habilitats en què una persona és superior a un ordinador, per exemple, en la capacitat de prendre decisions no estàndard. Les habilitats de la regió d'una (una i una mica menys) corresponen a habilitats on un ordinador és superior a una persona: la capacitat de calcular, la memòria. Posant la màxima superioritat igual a una unitat convencional en l'eix de coordenades de "superioritat", obtenim la dependència de la superioritat de les habilitats per a humans i ordinadors en forma de diagonals d'un quadrat de la unitat. Així es presenta la situació en aquests moments. És possible que una IA forta tingui totes les seves habilitats al màxim (línia vermella)? O fins i tot més alt (super-AI - línia blava)? Potser l'objectiu intermedi del progrés no hauria de ser fort, però no del tot
IA feble (línia porpra), que serà inferior a la IA en diverses habilitats, però no tant com ara.

Tornant al nostre model literari de contes de fades, podem dir que tots els seus herois no van actuar de la millor manera: el bruixot despistat va oblidar la clau i va rebre una inundació al seu calabós, l'estudiant, per estupidesa i descuit, va rebre un munt de impressions extremes i gairebé ofegat, el dimoni va ser expulsat sense cap gratitud. Pel que fa a la intel·ligència del dimoni, ja s'ha observat que és difícil classificar-lo clarament com a IA o EI, però la intel·ligència (encara que no impressionant) dels altres pertany clarament a l'EI. Es pot dir d'ells que cometre errors perillosos en les decisions, ser desatent, oblidar les coses necessàries i cansar-se són les seves principals propietats inherents. Malauradament, aquestes propietats són inherents a tots els altres operadors d'EI en major o menor mesura. La falta de fiabilitat d'ordenar paraules o números d'EI ja s'ha assenyalat anteriorment, però semblaria una tasca encara més senzilla: el simple fet de recordar un número resulta ser molt difícil per a la gent. Per a una màquina, la capacitat de recordar els dígits de pi només està limitada per la mida de la seva memòria i la majoria de la gent ha d'utilitzar mnemotècniques, com ara "Què en sé dels cercles". Sembla que la línia "3,1416" té menys caràcters que la mnemotècnica especificada, però per alguna raó la gent prefereix recordar-ho d'una manera menys econòmica. I més llarg:

Aprèn i coneix el nombre que hi ha darrere del número, com notar la sort

Perquè no ens equivoquem,
S'ha de llegir correctament
Tres, catorze, quinze
Noranta-dos i sis

Per recordar els colors de l'arc de Sant Martí:

Tots els dissenyadors volen saber on descarregar Photoshop

I el començament de la taula periòdica:

L'aigua nativa (hidrogen) es va barrejar amb gel (heli) per abocar (liti). Sí, pren i aboca (beril·li) a la pineda (bor), on des de sota del racó natiu (carboni) asiàtic (nitrogen) s'apunta, i amb una cara tan amarga (oxigen) que el secundari (fluor) no ho vaig fer. vol mirar. Però no el necessitàvem (Neó), així que ens vam allunyar a tres metres (sodi) i vam acabar a Magnolia (magnesi), on Alya amb una mini faldilla (alumini) va ser untada amb crema (silici) que contenia fòsfor (fòsfor). perquè ella deixés de ser Sera (Sera). Després d'això, Alya va agafar el clor (clor) i va rentar el vaixell dels argonautes (argó)

Però, per què una imperfecció tan evident en un EI tan perfecte? Potser, gràcies a la capacitat d'oblidar els fets més simples, una persona aconsegueix la llibertat de combinar fragments dels seus pensaments en un ordre salvatge arbitrari i trobar solucions no estàndard? Si és així, llavors una IA forta és impossible. O oblidarà com una persona, o no serà capaç de solucions no estàndard. En qualsevol cas, dels supòsits anteriors es dedueix que cal distingir entre els objectius de la IA: un dels objectius és la modelització de la IA, l'altre és la creació d'una IA forta. Aconseguir un pot excloure aconseguir l'altre.

Com podem veure, hi ha massa preguntes amb respostes ambigües en el camp de la IA, per la qual cosa no està clar en quina direcció moure's. Com passa en aquests casos, intenten moure's en totes direccions alhora. Al mateix temps, a causa de la manca de formulacions matemàticament rigoroses, cal recórrer a la filosofia i al modelatge artístic i literari. Un dels exemples més famosos en aquesta direcció és el llibre "Turing Selection" (1992) d'un dels il·luminats de l'IA, Marvin Lee Minsky, i el famós escriptor de ciència ficció Harry Harrison. Citaré aquest llibre, potser explicant el fenomen mnemotècnic descrit anteriorment:

La memòria humana no és una gravadora que enregistri tot en ordre cronològic. Està estructurat d'una manera completament diferent, més aviat com un índex de cartes amb un manteniment descuidado, equipat amb un índex confús i contradictori. I no només confús: de tant en tant canviem els principis de classificació dels conceptes.

Una interessant interpretació de la metàfora de la gravadora en una altra obra literària, la història de Stanislaw Lem "Terminus" (de la sèrie "Històries sobre el Pilot Pirx"). Heus aquí el cas d'una mena de "grabadora intel·ligent": un vell robot en una antiga nau espacial que en el passat va patir un accident es dedica a treballs de reparació en curs, acompanyats de tocs. Però si escolteu amb atenció, no es tracta només de soroll tecnològic blanc, sinó d'una gravació de codi Morse: converses entre membres de la tripulació d'un vaixell moribund. Pirx intervé en aquestes negociacions i rep inesperadament una resposta dels astronautes morts fa temps. Resulta que el robot de reparació primitiu d'alguna manera emmagatzema còpies de la seva consciència o es tracta de distorsions cognitives de la percepció del pilot Pirx?

En una altra història, "Ananke" (de la mateixa sèrie), una còpia de l'EI a l'ordinador de control d'un transport espacial condueix a la seva sobrecàrrega paranoica amb tasques de prova, que acaba en un desastre.

A la història "Accident", un robot programat massa antropomòrficament mor com a conseqüència d'una escalada d'alpinisme que va decidir fer en el seu temps lliure. Es necessiten aquests intèrprets? Però tampoc sempre són necessaris els dimonis fixats en regar una flor.

A alguns especialistes en el camp de la IA no els agrada aquest "filosofisme" i "literarisme", però aquests "filosofisme" i "literarisme" són tradicionalment inherents a l'anàlisi de la IA i són inevitables sempre que es comparen amb la IA, i fins i tot. més encara que la IA estigui intentant copiar la IA.

En conclusió, una enquesta sobre una sèrie de qüestions que van sorgir.

Només els usuaris registrats poden participar en l'enquesta. Inicia sessiósi us plau.

1. La IA inclou tasques que un ordinador resol molt pitjor que un humà?

• Sí

• No

• Conec millor la definició. Ho donaré als comentaris.

• Difícil de respondre

Han votat 34 usuaris. 7 usuaris es van abstenir.

2. En cas que l'IA només sigui un executor, s'han de prendre totes les ordres al peu de la lletra? Per exemple, deien regar una flor, això vol dir aigua fins que et allunyin

• Sí

• No

• Difícil de respondre

Han votat 37 usuaris. 6 usuaris es van abstenir.

3. És possible tenir una IA forta, en la qual totes les habilitats seran màximes (línia vermella a la imatge al començament de l'article)?

• Sí

• No

• Difícil de respondre

Han votat 35 usuaris. 7 usuaris es van abstenir.

4. És possible la super-IA (línia blava a la imatge al començament de l'article)?

• Sí

• No

• Difícil de respondre

Han votat 36 usuaris. 7 usuaris es van abstenir.

5. L'objectiu intermedi no ha de ser una IA forta, però tampoc completament feble (línia porpra a la figura al començament de l'article), que en diverses habilitats serà inferior a la IA, però no tant com ara. ?

• Sí

• No

• Difícil de respondre

Han votat 33 usuaris. 5 usuaris es van abstenir.

6. Cometre errors perillosos en les decisions, desatenció, oblidar les coses necessàries i cansar-se són les principals propietats inherents a l'IE?

• Sí

• No

• Tinc una opinió diferent, que donaré als comentaris.

• Difícil de respondre

Han votat 33 usuaris. 5 usuaris es van abstenir.

7. Gràcies a la capacitat d'oblidar els fets més simples, una persona obté la llibertat de combinar fragments dels seus pensaments en un ordre salvatge arbitrari i trobar solucions no estàndard?

• Sí

• No

• Tinc una opinió diferent, que donaré als comentaris.

• Difícil de respondre

Han votat 31 usuaris. 4 usuaris es van abstenir.

8. Modelar la IA i crear una IA forta són dues tasques diferents que es poden resoldre amb mètodes diferents?

• Sí

• No

• Tinc una opinió diferent, que donaré als comentaris.

• Difícil de respondre

Han votat 32 usuaris. 4 usuaris es van abstenir.

Font: www.habr.com