ATENȚIE
Judecând după raportul record dintre numărul de nemulțumiți în tăcere și numărul de comentatori care au ceva de obiectat, pentru mulți cititori nu este evident că:
1) Acesta este un articol de discuție pur teoretic. Nu vor exista sfaturi practice aici cu privire la alegerea instrumentelor pentru extragerea criptomonedei sau asamblarea unui multivibrator pentru a clipi două becuri.
2) Acesta nu este un articol științific popular. Nu va exista nicio explicație pentru manechinele principiului de funcționare al mașinii Turing folosind exemplul cutiilor de chibrituri.
3) Gândește-te bine înainte de a continua lectura! Te atrage postura de amatorism agresiv: minus tot ce nu înțeleg?
Mulțumesc anticipat tuturor celor care decid să nu citească acest articol!
Un demon este un program de calculator pe sisteme de clasă UNIX care este lansat de sistemul însuși și rulează în fundal fără interacțiunea directă a utilizatorului.
Chiar și la vârsta preșcolară, am auzit un basm despre un ucenic vrăjitor. O voi repeta în repetarea mea:
Odinioară, undeva în Europa medievală, trăia un vrăjitor. Avea o carte mare de vrăji legate în piele de vițel neagră, cu agrafe și colțuri de fier. Când vrăjitorul trebuia să arunce o vrajă, o descuia cu o cheie mare de fier, pe care o purta mereu la centură într-o pungă specială. Vrăjitorul avea și un student care îl slujea pe vrăjitor, dar i se interzisese să se uite în cartea vrăjilor.
Într-o zi, vrăjitorul a plecat toată ziua cu afaceri. Imediat ce a ieșit din casă, studentul s-a repezit în temniță, unde era un laborator alchimic în care zăcea o carte de vrăji, legată de o masă. Elevul a apucat creuzetele în care vrăjitorul a topit plumbul pentru a-l transforma în aur, le-a așezat pe braț și a aprins focul. Plumbul s-a topit rapid, dar nu s-a transformat în aur. Apoi elevul și-a amintit că vrăjitorul, după ce a topit plumbul, a descuiat cartea de fiecare dată cu o cheie și a șoptit o vrajă din ea mult timp. Studentul s-a uitat deznădăjduit la cartea încuiată și a văzut că lângă ea stă cheia, uitată de vrăjitor. Apoi s-a repezit la masă, a descuiat cartea, a deschis-o și a citit cu voce tare chiar prima vrajă, pronunțând cu atenție cuvinte necunoscute silabă cu silabă, presupunând că o vrajă atât de importantă precum vraja de transmutare a plumbului în aur va fi cu siguranță prima. .
Dar nu s-a întâmplat nimic: liderul nu a vrut să se transforme. Elevul a vrut să încerce o altă vrajă, dar apoi un tunet a zguduit casa și un demon uriaș și înfiorător a apărut în fața studentului, invocat de vraja pe care studentul tocmai o recitase.
- Ordin! - mârâi demonul.
De frică, toate gândurile au părăsit capul studentului, nici nu se putea mișca.
- Dă ordine, sau te mănânc! - a mârâit din nou demonul și a întins o mână uriașă către student pentru a-l apuca.
În disperare, studentul a mormăit primul lucru la care se putea gândi:
- Udă această floare.
Și a arătat spre o mușcată, un vas din care stătea pe podea în colțul laboratorului; în tavanul de deasupra florii era singura fereastră mică din temniță, prin care lumina soarelui abia pătrundea. Demonul a dispărut, dar o clipă mai târziu a reapărut cu un butoi uriaș de apă, pe care l-a răsturnat peste floare, turnând apa. A dispărut din nou și a reapărut cu țeava plină.
„Ajunge”, a strigat studentul, stând până la brâu în apă.
Dar se pare că doar dorința nu a fost suficientă - demonul a purtat și a purtat apă într-un butoi, turnând-o în colțul în care stătea cândva o floare ascunsă sub apă. Probabil că era nevoie de o vrajă specială pentru a alunga demonul. Dar masa cu cartea dispăruse deja în apa plină de noroi, în care pluteau cenușa și cărbunii din brazier, retorte goale, baloane, taburete, galvanometre, dozimetre, seringi de unică folosință și alte resturi, deci chiar dacă elevul știa să găsească vraja cerută, nu a putut să o facă. Apa creștea, iar studentul s-a urcat pe masă pentru a nu se sufoca. Dar acest lucru nu a ajutat mult timp - demonul a continuat metodic să transporte apă. Studentul era deja până la gât în apă când vrăjitorul s-a întors, descoperind că a uitat acasă cheia cărții și l-a alungat pe demon. Sfârșitul basmului.
Imediat despre ceea ce este evident. Cu inteligența naturală (NI) a elevului, s-ar părea că totul este clar - prost, trebuie să cauți mult timp ceva și mai prost. Dar cu inteligența demonului - apropo, ce fel de inteligență are: EI sau AI? – ambiguu. Diferite versiuni sunt legitime (și vor apărea și întrebări despre ele):
Versiunea 1) Demonul este chiar mai prost decât studentul. A primit o comandă și o va îndeplini pe termen nelimitat, chiar și atunci când orice sens va dispărea: floarea - obiectul udării - va dispărea, unghiul de care sunt atașate coordonatele florii va dispărea, planeta Pământ va dispărea și demonul prost va continua să livreze apă în butoaie până la un anumit punct din spațiul cosmic. Și dacă o supernova izbucnește în acest moment, atunci demonului nu-i pasă de unde să ducă apa. Mai mult: cât de prost trebuie să fii pentru a uda o floare mică dintr-un butoi uriaș? Acest lucru se numește deja nu udarea florii, ci înecarea florii. Înțelege măcar sensul ordinelor?
Versiunea 2) Demonul înțelege totul, dar este legat de obligații. Așa că face ceva ca o grevă italiană. Până nu va fi dat oficial afară conform tuturor regulilor, nu se va opri.
Întrebarea 1 la versiunile 1,2) Cum să distingem un demon complet prost conform versiunii 1 de un demon deloc prost conform versiunii 2?
Întrebarea 2 la versiunile 1,2) Demonul ar fi efectuat corect (din punctul de vedere al elevului) o formulare mai precisă? De exemplu, dacă un elev a spus: luați acel balon gol de litru care se află pe raft, umpleți-l cu apă și udați acea floare o dată. Sau, de exemplu, dacă elevul a spus: pleacă.
Versiunea 3) Vrăjitorul a aruncat o vrajă suplimentară asupra demonului, conform căreia dacă altcineva decât vrăjitorul folosește serviciile demonului, atunci demonul trebuie să informeze imediat vrăjitorul despre acest fapt.
Versiunea 4) Demonul nu ține ranchiună vrăjitorului și elevului său, așa că, văzând că situația era scăpată de sub control, în timpul mișcărilor sale cu butoiul a apărut la spatele vrăjitorului și a lătrat: „Ai uitat cheia acasă. , este un potop.” Dar vrăjitorul însuși nu și-ar fi amintit.
Nota 1 la versiunea 4) Este de remarcat în special faptul că transportatorii EI au o memorie foarte imperfectă.
Versiunile ulterioare pot fi multiplicate ca „iepuri Fibonacci”, adică. nu este un algoritm foarte complex. De exemplu:
Versiunea 5) Demonul se răzbune pe student pentru că l-a deranjat.
Versiunea 6) Demonul nu ține ranchiună față de student, ci se răzbună pe vrăjitor.
Versiunea 6) Demonul se răzbune pe toată lumea.
Versiunea 7) Demonul nu se răzbună, ci se distrează. Termină când obosește.
Și așa mai departe.
Deci, cu demonul este clar că nimic nu este clar. Nu mai bine cu un vrăjitor. Poți veni cu nu mai puține versiuni: că s-a hotărât în mod deliberat să predea o lecție unui elev care își vâră nasul curios peste tot; că a vrut să-l înece pe student, dar când demonul a lătrat despre inundație, s-a speriat – deodată a auzit unul dintre trecători, apoi bănuiala va cădea asupra vrăjitorului; a vrut să trezească interesul elevului pentru vrăji etc.
Aici este posibilă o întrebare copilărească: care dintre versiunile propuse este corectă? Aparent, oricare. Nu există informații rămase nefolosite în poveste care să favorizeze vreo versiune față de celelalte. Aici avem de-a face cu un caz destul de comun de opere de artă cu posibilitatea de interpretare ambiguă. De exemplu, dacă un regizor dorește să pună în scenă acest basm într-un teatru sau să facă un film pe baza lui, poate alege interpretarea care este cea mai atractivă din punctul său de vedere. Un alt regizor ar putea găsi o interpretare diferită atractivă. În același timp, atractivitatea poate fi determinată de considerații suplimentare, de exemplu, atractivitatea pentru telespectatori pentru a asigura încasări maxime la box-office, sau atractivitatea pentru a demonstra o super-idee: ideea victoriei binelui asupra răului, a ideea datoriei, o idee rebelă - de exemplu, potrivit lui Dostoievski: student, ca și Raskolnikov, pune întrebarea „este o creatură tremurătoare sau are dreptul” etc.
Apare o altă întrebare.
Inca o intrebare). Cum putem învăța AI să acorde preferință uneia dintre versiunile vocale dacă noi înșine, având AI, nu putem alege întotdeauna în mod conștient una dintre ele?
Revenind la vrăjitor, pare foarte plauzibilă versiunea că și-a dorit un elev cuminte și ascultător, ca un demon, ca să nu-și bage nasul în cărți interzise și unde nu a fost întrebat. Același lucru este acum adesea dorit de la AI. La prima vedere, acestea sunt cerințe tradiționale normale pentru orice mașină: supunerea completă, neascultarea este inacceptabilă. Dar în cazul AI, poate apărea problema versiunilor 1,2 (vezi mai sus), i.e. AI degenerează - hardware-ul poate gândi orice dorește despre creatorii și proprietarii săi, dar nu va efectua nicio acțiune legată de AI, de exemplu. În loc de AI vom obține un automat primitiv stupid. De aici se strecoară o suspiciune: poate că vrăjitorul nu a vrut să facă din student un interpret atât de prost ca un demon? Acestea. Apare ideea de AI cu limitări. Aici totul este și mai dificil chiar și în domeniul inteligenței umane: amintiți-vă conflictele eterne „părinți și fii”, „profesor și elev”, „șef și subordonat”.
Când am ales o definiție a AI dintre cele posibile, am remarcat:
sarcina de a sorta câteva zeci de mii de cuvinte în ordine alfabetică va fi plictisitoare pentru o persoană, îi va lua mult timp să o facă, iar probabilitatea de erori pentru un interpret mediu cu un nivel mediu de responsabilitate va fi semnificativă. Un computer modern va îndeplini această sarcină fără erori într-un timp foarte scurt pentru o persoană (fracțiuni de secundă).
M-am hotărât pe următoarea definiție: AI include sarcini pe care un computer le rezolvă mult mai rău decât un om.
Această definiție ține cont de considerațiile exprimate mai sus și este convenabilă pentru practică; în același timp, nu este ideală, fie și doar pentru că listele de sarcini „pe care un computer le rezolvă considerabil mai rău decât un om” sunt diferite acum și acum 20 de ani. . Dar, după părerea mea, nimeni nu a venit încă cu o definiție mai perfectă.
Cele de mai sus sunt ilustrate pur calitativ de diagrama de la începutul articolului. Pe axa de coordonate „competențe”, abilitățile din regiunea zero (zero și puțin mai mult) corespund abilităților în care o persoană este superioară unui computer, de exemplu, în capacitatea de a lua decizii non-standard. Abilitățile din regiunea unu (una și puțin mai puțin) corespund abilităților în care un computer este superior unei persoane: capacitatea de a calcula, memoria. Punând superioritatea maximă egală cu o unitate convențională pe axa de coordonate „superioritate”, obținem dependența superiorității de aptitudini pentru oameni și computere sub forma diagonalelor unui pătrat de unitate. Așa apare situația în acest moment. Este posibil ca un AI puternic să aibă toate abilitățile sale la maximum (linia roșie)? Sau chiar mai sus (super-AI - linie albastră)? Poate că obiectivul intermediar al progresului nu ar trebui să fie puternic, dar nu chiar
AI slabă (linia violetă), care va fi inferioară AI într-un număr de abilități, dar nu atât de mult ca acum.
Revenind la modelul nostru literar de basm, putem spune că toți eroii săi nu s-au descurcat în cel mai bun mod: vrăjitorul rătăcit a uitat cheia și a primit o inundație în temnița sa, elevul, prin prostie și neglijență, a primit o grămadă de impresii extreme și aproape înecat, demonul a fost dat afară fără nicio mulțumire. În ceea ce privește inteligența demonului, s-a remarcat deja că este dificil să-l clasificați clar ca AI sau EI, dar inteligența (deși nu impresionantă) a celorlalți aparține în mod clar EI. Se poate spune despre ei că greșelile periculoase în decizii, neatenția, uitarea de lucruri necesare și oboseala sunt principalele lor proprietăți inerente. Din păcate, aceste proprietăți sunt inerente tuturor celorlalți purtători EI într-o măsură mai mare sau mai mică. Nesiguranța sortării cuvintelor sau numerelor de EI a fost deja remarcată mai sus, dar ar părea o sarcină și mai simplă - pur și simplu amintirea unui număr se dovedește a fi foarte dificilă pentru oameni. Pentru o mașină, capacitatea de a-și aminti cifrele lui pi este limitată doar de dimensiunea memoriei sale și majoritatea oamenilor trebuie să folosească , cum ar fi „Ce știu despre cercuri”. S-ar părea că linia „3,1416” are mai puține caractere decât mnemonicul specificat, dar din anumite motive oamenii preferă să-și amintească într-un mod mai puțin economic. Și mai lung:
Aflați și cunoașteți numărul din spatele numărului, cum să observați norocul
Ca să nu greșim,
Trebuie citit corect
Trei, paisprezece, cincisprezece
Nouăzeci și doi și șase
Pentru a vă aminti culorile curcubeului:
Fiecare designer vrea să știe de unde să descarce Photoshop
Și începutul tabelului periodic:
Apa nativă (hidrogen) a fost amestecată cu gel (heliu) pentru a se turna (litiu). Da, ia și toarnă (beriliu) în pădurea de pini (bor), unde de sub colțul nativ (carbon) iese cu ochiul asiatic (azot), și cu o față atât de acră (oxigen) încât secundar (fluor) nu am făcut-o. vreau sa te uiti. Dar nu aveam nevoie de el (Neon), așa că ne-am mutat la trei metri (Sodium) și am ajuns în Magnolia (Magneziu), unde Alya într-o fustă mini (Aluminiu) a fost unsă cu Cremă (Siliciu) care conținea Fosfor (Fosfor) ca să înceteze să fie Sera (Sera). După aceea, Alya a luat clor (Clor) și a spălat nava Argonauților (Argon)
Dar de ce o imperfecțiune atât de evidentă într-un EI atât de perfect? Poate că, datorită capacității de a uita cele mai simple fapte, o persoană câștigă libertatea de a combina fragmente din gândurile sale într-o ordine sălbatică arbitrară și de a găsi soluții non-standard? Dacă da, atunci IA puternică este imposibilă. Fie va uita ca o persoană, fie nu va fi capabil de soluții nestandardizate. În orice caz, din ipotezele de mai sus rezultă că este necesar să se facă distincția între obiectivele AI: unul dintre scopuri este modelarea AI, celălalt este crearea unei AI puternice. Realizarea uneia poate exclude realizarea celeilalte.
După cum putem vedea, există prea multe întrebări cu răspunsuri ambigue în domeniul AI, așa că nu este clar în ce direcție să se deplaseze. Așa cum se întâmplă în astfel de cazuri, ei încearcă să se miște în toate direcțiile deodată. În același timp, din lipsa unor formulări riguroase din punct de vedere matematic, trebuie să se îndrepte spre filozofie și modelare artistică și literară. Unul dintre cele mai faimoase exemple în această direcție este cartea „Turing Selection” (1992) a unuia dintre luminarii AI, Marvin Lee Minsky, și faimosul scriitor de science-fiction Harry Harrison. Voi cita din această carte, explicând probabil fenomenul mnemonic descris mai sus:
Memoria umană nu este un magnetofon care înregistrează totul în ordine cronologică. Este structurat complet diferit - mai degrabă ca un index de card întreținut neglijent, echipat cu un index confuz și contradictoriu. Și nu doar confuz - din când în când schimbăm principiile clasificării conceptelor.
O interpretare interesantă a metaforei magnetofonului într-o altă operă literară, povestea lui Stanislaw Lem „Terminus” (din seria „Povești despre Pilot Pirx”). Iată cazul unui fel de „registrofon inteligent”: un robot vechi de pe o navă spațială veche care a suferit odată un accident este angajat în lucrări de reparații în curs, însoțite de atingeri. Dar dacă ascultați cu atenție, acesta nu este doar zgomot tehnologic alb, ci o înregistrare a codului Morse - conversații între membrii echipajului unei nave pe moarte. Pirx intervine în aceste negocieri și primește în mod neașteptat un răspuns de la astronauții morți de mult. Se pare că robotul de reparații primitiv stochează într-un fel copii ale conștiinței lor sau este vorba despre distorsiuni cognitive ale percepției pilotului Pirx?
Într-o altă poveste, „Ananke” (din aceeași serie), o copie a EI în computerul de control al unui transport spațial duce la suprasolicitarea sa paranoică cu sarcini de testare, care se termină cu un dezastru.
În povestea „Accident”, un robot programat excesiv de antropomorf moare în urma unei urcări de alpinism pe care a decis să o facă în timpul liber. Este nevoie de astfel de interpreți? Dar demonii fixați pe udarea unei flori nu sunt, de asemenea, întotdeauna necesari.
Unii specialiști din domeniul IA nu le plac astfel de „filosofare” și „literarism”, dar aceste „filosofare” și „literarism” sunt în mod tradițional inerente analizei AI și sunt inevitabile atâta timp cât AI este comparată cu AI și chiar cu atât mai mult cu cât AI încearcă să copieze AI.
În concluzie, un sondaj pe o serie de probleme care au apărut.
Numai utilizatorii înregistrați pot participa la sondaj. , Vă rog.
1. AI include sarcini pe care un computer le rezolvă mult mai rău decât un om?
-
Da
-
Nu
-
Cunosc mai bine definiția. O dau in comentarii.
-
Greu de răspuns
Au votat 34 de utilizatori. 7 utilizatori s-au abținut.
2. Dacă AI ar trebui să fie doar un executor, toate ordinele ar trebui luate la propriu? De exemplu, au spus să udați o floare - asta înseamnă apă până te alungă
-
Da
-
Nu
-
Greu de răspuns
Au votat 37 utilizatori. 6 utilizatori s-au abținut.
3. Este posibil să ai un AI puternic, în care toate aptitudinile să fie maxime (linia roșie din imaginea de la începutul articolului)?
-
Da
-
Nu
-
Greu de răspuns
Au votat 35 utilizatori. 7 utilizatori s-au abținut.
4. Este posibil super-AI (linia albastră din imaginea de la începutul articolului)?
-
Da
-
Nu
-
Greu de răspuns
Au votat 36 utilizatori. 7 utilizatori s-au abținut.
5. Obiectivul intermediar nu ar trebui să fie AI puternic, dar nici complet slab (linia violetă din figura de la începutul articolului), care într-un număr de abilități va fi inferior AI, dar nu atât de mult ca acum ?
-
Da
-
Nu
-
Greu de răspuns
Au votat 33 de utilizatori. 5 utilizatori s-au abținut.
6. A face greșeli periculoase în decizii, a fi neatent, a uita lucrurile necesare și a obosi sunt principalele proprietăți inerente ale IE?
-
Da
-
Nu
-
Am o altă părere, pe care o voi da în comentarii.
-
Greu de răspuns
Au votat 33 de utilizatori. 5 utilizatori s-au abținut.
7. Datorită capacității de a uita cele mai simple fapte, o persoană câștigă libertatea de a combina fragmente din gândurile sale într-o ordine sălbatică arbitrară și de a găsi soluții non-standard?
-
Da
-
Nu
-
Am o altă părere, pe care o voi da în comentarii.
-
Greu de răspuns
Au votat 31 de utilizatori. 4 de utilizatori s-au abținut.
8. Modelarea AI și crearea AI puternică sunt două sarcini diferite care pot fi rezolvate prin metode diferite?
-
Da
-
Nu
-
Am o altă părere, pe care o voi da în comentarii.
-
Greu de răspuns
Au votat 32 de utilizatori. 4 de utilizatori s-au abținut.
Sursa: www.habr.com