AVERTIZARE
Conform raportului record între numărul celor nemulțumiți tacit și numărul comentatorilor care au ceva de spus, mulți cititori nu înțeleg evident că:
1) Aceasta este o lucrare teoretică de discuție. Nu vor exista recomandări practice pentru alegerea instrumentelor pentru mineritul criptomonedelor sau pentru asamblarea unui multivibrator care să clipească două becuri.
2) Aceasta nu este o lucrare de popularizare științifică. Nu vor fi explicații pentru începători despre principiul de funcționare al mașinii Turing folosit ca exemplu cu cutii de chibrituri.
3) Gândiți-vă bine înainte de a continua lectura! Vă atrage poziția unui amator agresiv: să critic tot ceea ce nu înțeleg?
Vă mulțumesc anticipat tuturor celor care vor decide să nu citească acest articol!
Demonul este un program computerizat în sistemele de tip UNIX, lansat de sistem și funcționând în fundal fără interacțiune directă cu utilizatorul.
Încă din copilărie am auzit o poveste despre ucenicul unui vrăjitor. O voi repovesti în versiunea mea:
Cândva, undeva în Europa medievală, trăia un vrăjitor. Avea o carte mare de vrăjitorie legată în piele de vițel neagră, cu închizători și colțuri din fier. Când vrăjitorul trebuia să recite o vrajă, deschiderea cărții era făcută cu o cheie de fier mare, pe care o purta întotdeauna la brâu într-un buzunar special. De asemenea, vrăjitorul avea un ucenic care îi era slujitor, dar căruia îi era interzis să arunce o privire în cartea de vrăjitorie.
Odată, un vrăjitor a plecat pentru întreaga zi în treburile sale. Numai ce a ieșit din casă, ucenicul s-a grăbit în subteran, unde se afla laboratorul de alchimie, în care era o carte de vrăjitorie, încuiată cu lanțuri de masă. Ucenicul a apucat cupe în care vrăjitorul topise plumbul, pentru a-l transforma în aur, le-a pus pe foc și a întețit flacăra. Plumbul s-a topit repede, dar nu s-a transformat în aur. Atunci ucenicul și-a amintit că vrăjitorul, după ce a topit plumbul, de fiecare dată deschidea cartea cu cheia și murmura o vrăjie din ea. Ucenicul s-a uitat fără speranță la cartea încuiată și a văzut că lângă ea zace cheia, uitată de vrăjitor. Atunci, s-a îndreptat spre masă, a deschis cartea, a deschis-o și a citit cu voce tare prima vrăjie, pronunțând cu atenție silabele cuvintelor necunoscute, presupunând că o vrăjie atât de importantă, precum vrăjia de transmutare a plumbului în aur, cu siguranță va fi prima.
Dar nimic nu s-a întâmplat: plumbul nu dorea să se transforme. Ucenicul voia să încerce o altă vrăjie, dar atunci un tunet a zguduit casa, și în fața ucenicului a apărut un demon uriaș și înfricoșător, evocat de vrăjia pe care tocmai o citise ucenicul.
— Dă-mi ordine! — a răcnit demonul.
Din frică, toate gândurile au părăsit capul ucenicului, nu putea nici măcar să se miște.
— Dă-mi ordine, sau te voi mânca! — a răcnit din nou demonul și a întins o mână uriașă spre ucenic, pentru a-l apuca.
În disperare, ucenicul a balbâit prima vrăjie care i-a venit în minte:
— Udați această floare.
Și a arătat spre geranium, o oală cu care stătea pe podea în colțul laboratorului, în tavanul deasupra florii exista o mică fereastră, prin care abia pătrundea lumina soarelui. Demonul a dispărut, dar în câteva clipe a reapărut cu un butoi uriaș de apă, pe care l-a răsturnat peste floare, vărsând apa. A dispărut din nou și a reapărut cu un butoi plin.
— Destul, — a strigat ucenicul, stând deja până la brâu în apă.
Dar se pare că dorința singură nu a fost suficientă - demonul continua să care apă în butoi, vărsând-o în colțul unde cândva se afla floarea ascunsă sub apă. Probabil era nevoie de un anumit incantatie pentru a alunga demonul. Însă masa cu cartea dispăruse deja în apa tulbure, în care pluteau cenușa și cărbunii din foc, retorte goale, flacoane, taburete, galvanometre, dozimetre, seringi de unică folosință și alte resturi, așa că, chiar dacă ucenicul ar fi știut cum să găsească incantația necesară, nu ar fi putut s-o facă. Apa crește, iar ucenicul s-a urcat pe masă pentru a nu se îneca. Dar asta a ajutat doar pentru scurt timp - demonul continua metodic să care apă. Ucenicul era deja până la gât în apă, când s-a întors vrăjitorul, care a descoperit că a uitat acasă cheia de la carte, și a alungat demonul. Sfârșitul poveștii.
Să ne ocupăm mai întâi de evident. Cu inteligența naturală (IN) a ucenicului, aparent totul este clar - e un prost, va trebui să caute mult și bine. Dar ce zici de inteligența demonului - de altfel, ce are el: IN sau IN (inteligență artificială)? - este ambiguu. Există versiuni diferite valabile (iar acestea vor ridica și întrebări):
Versiunea 1) Demonul este și mai prost decât ucenicul. A primit o ordine și va continua să o execute indefinit, chiar și atunci când orice sens va dispărea: floarea va dispărea - obiectul irigat, colțul la care sunt legate coordonatele florii va dispărea, planeta Pământ va dispărea, iar demonul prost va continua să transporte apă în butoi către un anumit punct din spațiul cosmic. Și dacă în acel punct va exploda o supernovă, demonului nu-i va păsa unde să ducă apa. Mai mult: cât de prost trebuie să fii ca să uzi o floare mică dintr-un butoi uriaș? Asta nu se mai numește a uda floarea, ci a o îneca. Înțelege el măcar sensul ordinii?
Versiunea 2) Demonul înțelege tot, dar este legat de obligații. Așa că face ceva de genul unei greve italiene. Atâta timp cât nu este alungat oficial conform tuturor regulilor - nu se va opri.
Întrebarea 1 pentru versiunile 1,2) Cum să distingi între un demon complet prost conform versiunii 1 și unul deloc prost conform versiunii 2?
Întrebarea 2 pentru versiunile 1,2) Ar fi demonul îndeplinit corect (din punctul de vedere al ucenicului) o formulare mai precisă? De exemplu, dacă ucenicul ar fi spus: ia acea retortă goală de un litru care stă pe raft, umple-o cu apă și udă acea floare o dată. Sau, de exemplu, dacă ucenicul ar fi spus: pleacă.
Versiunea 3) Vrăjitorul a impus demonului o vrajă suplimentară, conform căreia dacă cineva în afară de vrăjitor folosește serviciile demonului, demonul trebuie să informeze imediat vrăjitorul despre acest fapt.
Versiunea 4) Demonul nu ține supărare pe vrăjitor și pe ucenicul său, așa că văzând că situația a scăpat de sub control, în timpul deplasărilor cu butoiul a apărut în spatele vrăjitorului și a strigat: “ai uitat cheia acasă, acolo este inundație”. Și vrăjitorul s-ar fi întors de la sine.
Observație 1 la versiunea 4) Este de remarcat că purtătorii de EI au uneori o memorie foarte imperfectă.
Următoarele versiuni pot fi multiplicate ca „iepurașii lui Fibonacci”, adică printr-un algoritm nu foarte complicat. De exemplu:
Versiunea 5) Demonul se răzbună pe ucenic pentru neliniște.
Versiunea 6) Demonul nu poartă ranchiună față de ucenic, dar se răzbună pe vrăjitor.
Versiunea 6) Demonul se răzbună pe toți.
Versiunea 7) Demonul nu se răzbună, ci se distrează. Va termina când se va plictisi.
Și așa mai departe.
Deci, cu demonul e clar că nimic nu este clar. Nici cu vrăjitorul nu e mai bine. Se pot inventa cel puțin la fel de multe versiuni: că a vrut special să-l răpună pe ucenic, care tot își bagă nasul curios; că a vrut să-l scufunde pe ucenic, dar când demonul a strigat despre inundație, s-a speriat – dacă cineva dintre trecători a auzit, atunci vrăjitorul va cădea sub suspiciune; că a vrut să trezească interesul ucenicului pentru vrăji etc.
Aici se poate pune o întrebare copilărească: care dintre versiunile propuse este corectă? Evident, oricare. În poveste nu a rămas informație nefolosită pentru a prefera vreo versiune în detrimentul altora. Aici ne confruntăm cu un caz destul de frecvent de opere literare cu posibilitatea unei interpretări ambigue. De exemplu, dacă vreun regizor ar dori să pună această poveste în teatru sau să facă un film, el poate alege cea mai atrăgătoare interpretare din punctul său de vedere. Pentru un alt regizor, poate fi mai atrăgătoare o altă interpretare. În același timp, atractivitatea poate fi determinată de considerații suplimentare, cum ar fi atractivitatea pentru spectatori, pentru a asigura maximele încasări la box office, sau atractivitatea pentru a ilustra o idee superioară: ideea victoriei binelui asupra răului, ideea datoriilor, ideea rebeliunii – de exemplu, în stilul lui Dostoievski: ucenicul, precum Raskolnikov, se întreabă „este o ființă tremurătoare sau are dreptul?” etc.
Apare încă o întrebare.
Încă o întrebare). Cum putem învăța IA să prefere una dintre versiunile menționate, dacă noi, având Inteligență Emoțională, nu putem, de multe ori, să alegem conștient una dintre ele?
Revenind la magician, pare credibil că el dorea un ucenic executiv și ascultător, ca un demon, care să nu își bage nasul în cărțile interzise și în acele locuri unde nu este cerut. Aceleași lucruri sunt adesea dorite și de IA. La prima vedere, acestea sunt cerințe tradiționale normale pentru orice mașină: supunere completă, neascultarea fiind inacceptabilă. Însă, în cazul IA, poate apărea întrebarea versiunilor 1 și 2 (vezi mai sus), adică IA devine degenerat - „cosa” poate gândi orice despre creatorii și stăpânii săi, dar nu va efectua nicio acțiune legată de IA, adică în loc de IA, vom obține un automat prost și primitiv. Din aceasta apare suspiciunea: poate magicianul nu a dorit să creeze un ucenic atât de prost executant, ca demonul? Adică, apare ideea IA cu limitări. Aici devine și mai complicat chiar și în domeniul Inteligenței Emoționale: ne amintim de conflictul etern „părinți și copii”, „învățător și ucenic”, „șef și subordonat”.
în alegerea definiției IA din posibilele, am observat:
sarcina de a sorta câteva zeci de mii de cuvinte alfabetic pentru o persoană va fi obositoare, el o va face lent, iar probabilitatea greșelilor pentru un executant mediu cu un nivel mediu de responsabilitate va fi semnificativă. Un computer modern va îndeplini această sarcină fără greșeli într-un timp foarte scurt pentru om (o fracțiune de secundă).
M-am oprit la următoarea definiție: la IA se referă sarcini pe care computerul le rezolvă semnificativ mai prost decât o persoană.
Această definiție ia în considerare observațiile exprimate mai sus și este convenabilă pentru practică, în același timp nu este perfectă, cel puțin din cauza că listele cu sarcini „pe care computerul le rezolvă semnificativ mai prost decât o persoană” se deosebesc în prezent și acum 20 de ani. Însă, din punctul meu de vedere, nimeni nu a inventat încă o definiție mai perfectă.
Ceea ce a fost spus ilustrează clar schema de la începutul articolului. Pe axa coordonatelor „abilități”, abilităților din jurul zero (zero și puțin mai mult) le corespund abilitățile în care o persoană depășește un EVM, de exemplu, capacitatea de a lua decizii non-standard. Abilităților din jurul unu (unu și puțin mai puțin) le corespund abilitățile în care EVM-ul depășește omul: capacitatea de calcul, memoria. Stabilind maximul superiorității ca o unitate convențională pe axa coordonatelor „superioritate”, obținem dependențele superiorității de abilități pentru om și EVM sub formă de diagonale ale unui pătrat unitate. Așa se prezintă situația în acest moment. Dar este posibil un ÎI puternic, care să aibă toate abilitățile maxime (linia roșie)? Sau chiar mai sus (super-ÎI – linia albastră)? Poate că un obiectiv intermediar al progresului ar trebui să fie nu un ÎI puternic, dar nici complet
slab (linia violetă), care în anumite abilități va ceda EI, dar nu atât de mult ca acum.
Revenind la modelul nostru literar fantastic, putem spune că toți eroii săi nu s-au descurcat prea bine: magicianul neglijent a uitat cheia și a provocat o inundație în subteranul său, ucenicul din prostie și neatenție a avut o mulțime de impresii extreme și a fost cât pe ce să se înece, demonul a fost alungat cu picioarele fără niciun fel de recunoștință. Cât despre inteligența demonului – a fost deja menționat că este dificil de clasificat cu precizie ca ÎI sau EI, dar inteligența (chiar și dacă nu este impresionantă) a celorlalți aparține evident EI. Despre ei se poate spune că fac greșeli periculoase în decizii, manifestă neatenție, uită lucrurile necesare și obosesc – acestea sunt principalele lor proprietăți esențiale. Din păcate, aceste trăsături sunt comune și tuturor celorlalți purtători de EI, într-o măsură mai mare sau mai mică. Despre fiabilitatea sortării cuvintelor sau numerelor EI s-a mai menționat anterior, dar o sarcină care ar părea și mai simplă – pur și simplu să memorezi un număr se dovedește a fi foarte dificilă pentru oameni. Pentru o mașină, capacitatea de a memora cifrele numărului pi este limitată doar de dimensiunea memoriei, iar majoritatea oamenilor trebuie să folosească pentru aceasta , de tipul „Ce știu eu despre cercuri”. S-ar părea că în șirul „3,1416” sunt mai puține caractere decât în mnemonica menționată, dar dintr-un motiv anume oamenii preferă să memoreze într-un mod mai puțin economic. Și mai lung:
Învață și știe în numărul cunoscut pentru cifră cifra, cum să observi norocul
Pentru a nu greși,
Trebuie să citim corect
Trei, paisprezece, cincisprezece
Nouăzeci și doi și șase
Pentru a memora culorile curcubeului:
Fiecare designer vrea să știe unde să descarce Photoshop
Iar începutul tabelului lui Mendeleev:
Apa noastră (Hidrogen) amestecată cu Heliu (Heliu), pentru a obține Litiu (Litiu). Da, ia și toarnă (Beriliu) în Pădurea de pini (Bor), unde din colțul nostru (Carbon) răsare Azotul (Azot), cu o față atât de acru (Oxigen), încât nu am vrut să privim Fluorul (Fluor). Dar Nu el (Neon) ne era necesar, așa că ne-am retras cu trei (Sodiu) metri și am nimerit în Magnolia (Magneziu), unde Alia în mini (Aluminiu) fustă s-a uns cu Cremă (Siliciu) cu conținut de Fosfor (Fosfor), ca să înceteze să mai fie Gri (Sulf). După aceea, Alia a luat Clorul (Clor) și a spălat nava Argonauților (Argon)
Dar de ce o astfel de nesiguranță evidentă într-un EI atât de perfect? Poate că, datorită abilității de a uita cele mai simple fapte, omul capătă libertatea de a combina fragmentele gândurilor sale într-o ordine aleatoare și de a găsi soluții neobișnuite? Dacă e așa, atunci un AI puternic este imposibil. Fie va uita ca un om, fie nu va fi capabil de soluții neobișnuite. În orice caz, din ipotezele prezentate rezultă necesitatea de a delimita scopurile AI: unul dintre scopuri este modelarea EI, celălalt crearea unui AI puternic. Realizarea unuia poate exclude realizarea celuilalt.
După cum vedem, în domeniul AI apar prea multe întrebări cu răspunsuri ambigue, astfel încât nu e clar în ce direcție să ne îndreptăm. Ca de obicei în astfel de cazuri, se încearcă să se îndrepte în toate direcțiile simultan. În acest proces, din cauza lipsei de formulări matematice precise, apelăm la filozofie și modelare artistic-literară. Unul dintre cele mai cunoscute exemple în această direcție este cartea „Alegerea lui Turing” (1992) de unul dintre corifeii AI Marvin Lee Minsky și cunoscutul scriitor de ficțiune sci-fi Harry Harrison. Voi cita din această carte, poate explicând fenomenul mnemonicului descris mai sus:
Memoria umană nu este un magnetofon care înregistrează totul în ordine cronologică. Ea este organizată cu totul diferit — mai degrabă ca o arhivă neatenționată, dotată cu un ghid complicat și contradictoriu. Și nu doar complicat — din când în când, schimbăm principiile de clasificare a conceptelor.
O interpretare interesantă a metaforei magnetofonului apare în altă lucrare literară, povestirea lui Stanisław Lem, „Terminus” (din seria „Povestiri despre pilotul Pirx”). Aici se prezintă un magnton de tip „inteligent”: un robot vechi pe o navă spațială veche, care a suferit o avarie în trecut, se ocupă de lucrări de întreținere curentă, însoțite de sunete de bătăi. Dar, dacă asculți cu atenție, acesta nu este doar un zgomot tehnologic alb, ci o înregistrare a morse-ului — comunicațiile membrilor echipajului navei în pericol. Pirx se implică în aceste negocieri și, dintr-o dată, primește un răspuns de la cosmonauții care au murit demult. Se dovedește că robotul de întreținere primitiv păstrează într-un fel copiile conștiinței lor sau sunt acestea distorsiuni cognitive ale percepției pilotului Pirx?
În altă povestire, „Ananke” (din aceeași serie), copia EI în computerul de control al transportului spațial duce la supraîncărcarea sa paranoică cu sarcini test, ceea ce se încheie cu o catastrofă.
În povestirea „Accidentul” un robot programat prea antropomorfic își pierde viața în urma unei ascensiuni montane, pe care a decis să o facă în timpul liber. Sunt necesari astfel de executanți? Dar demonii obsedati de udarea florii nu sunt întotdeauna necesari.
Anumiți specialiști în domeniul AI nu apreciază astfel de „filozofii” și „literatură”, însă aceste „filozofii” și „literatură” sunt tradiționale pentru analiza EI și sunt inevitabile atât timp cât AI este comparată cu EI, cu atât mai mult când se încearcă copierea EI în AI.
În concluzie, un sondaj cu privire la o serie de întrebări apărute.
Numai utilizatorii înregistrați pot participa la sondaj. , vă rugăm.
1. Se referă la AI sarcinile pe care computerul le rezolvă semnificativ mai prost decât o face omul?
Da
Nu
Știu o definiție mai bună. O voi aduce în comentarii.
Îmi este greu să răspund
Au votat 34 de utilizatori. 7 utilizatori s-au abținut.
2. AI ar trebui să fie doar un executor, înțelegând toate ordinele în mod literal? De exemplu, dacă spunem să udăm floarea — înseamnă că ar trebui să udăm până nu ne opresc?
Da
Nu
Îmi este greu să răspund
Au votat 37 de utilizatori. S-au abținut 6 utilizatori.
3. Este posibil un AI puternic, care să aibă toate abilitățile maxime (linia roșie din figura de la începutul articolului)?
Da
Nu
Îmi este greu să răspund
Au votat 35 de utilizatori. S-au abținut 7 utilizatori.
4. Este posibil un super-AI (linia albastră din figura de la începutul articolului)?
Da
Nu
Îmi este greu să răspund
Au votat 36 de utilizatori. S-au abținut 7 utilizatori.
5. Obiectivul intermediar ar trebui să fie un AI care nu este nici puternic, dar nici complet slab (linia violetă din figura de la începutul articolului), care în unele abilități ar trebui să fie inferioar EAI-ului, dar nu atât de mult ca în prezent?
Da
Nu
Îmi este greu să răspund
Au votat 33 de utilizatori. S-au abținut 5 utilizatori.
6. A face erori periculoase în decizii, a manifesta neatenție, a uita lucruri esențiale și a obosi – sunt trăsături principale esențiale ale EAI-ului?
Da
Nu
Am o altă opinie, pe care o voi prezenta în comentarii.
Îmi este greu să răspund
Au votat 33 de utilizatori. S-au abținut 5 utilizatori.
7. Datorită abilității de a uita cele mai simple fapte, omul obține libertatea de a combina fragmentele propriilor gânduri într-o ordine aleatorie și de a găsi soluții neobișnuite?
Da
Nu
Am o altă opinie, pe care o voi prezenta în comentarii.
Îmi este greu să răspund
Au votat 31 de utilizatori. S-au abținut 4 utilizatori.
8. Modelarea EAI-ului și crearea unui AI puternic sunt două sarcini diferite, care pot fi rezolvate prin metode diferite?
Da
Nu
Am o altă opinie, pe care o voi prezenta în comentarii.
Îmi este greu să răspund
Au votat 32 de utilizatori. S-au abținut 4 utilizatori.
Sursă: habr.com
