Vilken elev behöver en trollkarl och vilken AI behöver vi?

VARNING
Enligt det rekordhöga förhållandet mellan antalet tysta missnöjda och antalet kommentatorer som har något att invända mot, är det uppenbarligen oklart för många läsare att:
1) Detta är en rent teoretisk diskussionsartikel. Här kommer inga praktiska rekommendationer för val av verktyg för kryptovaluta-gruvdrift eller sammansättning av en multivibrator för att blinka med två lampor.
2) Detta är inte en populärvetenskaplig artikel. Här kommer det inte finnas någon förklaring för nybörjare om hur en Turingmaskin fungerar, illustrerad med exempel på tändsticksaskar.
3) Tänk noga innan du fortsätter läsa! Lockas du av att vara en aggressiv amatör: att nedvärdera allt du inte förstår?
Jag tackar i förväg alla som väljer att inte läsa denna artikel!

En demon är ett datorprogram i UNIX-system, som startas av systemet självt och körs i bakgrunden utan direkt interaktion med användaren.

Wikipedia

Redan i förskoleåldern hörde jag en saga om lärjlingen till en trollkarl. Jag ska återberätta den i min egen version:

Det var en gång i medeltida Europa en trollkarl. Han hade en stor bok med besvärjelser inbunden i svart kalvläder med spännen och hörn av järn. När trollkarlen behövde läsa en besvärjelse, låste han upp den med en stor järnnyckel som han alltid bar på sin bälte i en speciell påse. Trollkarlen hade också en lärjunge som tjänade honom, men honom var det förbjudet att titta i besvärjelsernas bok.

En gång reste en trollkarl iväg hela dagen för ärenden. Så snart han hade lämnat huset kastade sig hans lärjunge ner i källaren där det fanns ett alkemilabb, i vilket en bok om besvärjelser låg kedjad vid ett bord. Lärjungen tog tag i de koppar där trollkarlen smälte bly för att förvandla det till guld, satte dem på grillen och blåste upp elden. Blyet smälte snabbt, men förvandlades inte till guld. Då kom lärjungen ihåg att trollkarlen, när han smälte blyet, varje gång låste upp boken med en nyckel och länge mumlade besvärjelsen från den. Lärjungen såg hopplöst på den låsta boken och såg att en nyckel, som trollkarlen hade glömt, låg bredvid den. Då rusade han fram till bordet, låste upp boken, öppnade den och läste högt den första besvärjelsen, noggrant uttalande de okända orden, i tron att en så viktig besvärjelse som förvandlingen av bly till guld säkerligen skulle vara den första.

Men ingenting hände: blyet ville inte förvandlas. Lärjungen tänkte försöka med en annan besvärjelse, men just då skakade ett muller av åska huset, och framför lärjungen dök en enorm, skräckinjagande demon upp, framkallad av besvärjelsen som han just hade läst.
— Befalla! — väste demonen.
Av rädsla hade alla tankar lämnat lärjungens huvud, han kunde inte ens röra sig.
— Befalla, eller jag äter upp dig! — muttrade demonen igen och sträckte ut sin stora hand mot lärjungen för att fånga honom.
I desperation mumlade lärjungen det första han kunde tänka på:
— Vattna den här blomman.
Och han pekade på pelargonen, vars kruka stod på golvet i hörnet av laboratoriet, i taket ovanför blomman fanns det enda lilla fönstret i källaren, genom vilket solljuset knappt trängde igenom. Demonen försvann, men inom en minut dök han upp igen med ett enormt fat vatten som han hällde ut över blomman. Han försvann igen och kom tillbaka med ett fullt fat.
— Nog, — skrek lärjungen, och stod nu redan till midjan i vatten.
Men uppenbarligen var bara en önskan inte tillräcklig — demonen fortsatte att bära vatten i tunnan och hällde ut det i hörnet där en gång den dolda blomman stod under vattnet. Kanske krävdes en speciell besvärjelse för att driva bort demonen. Men bordet med boken försvann redan i det grumliga vattnet, där aska och glöd från brasan, tomma retorter, kolvar, pallar, galvanometrar, dosimetrar, engångssprutor och annat skräp flöt, så om lärlingen visste hur man hittade rätt besvärjelse, skulle han inte kunna göra det. Vattnet steg, och lärlingen klättrade upp på bordet för att inte drunkna. Men det hjälpte inte länge – demonen fortsatte metodiskt att bära vatten. Lärlingen var redan upp till halsen i vatten när trollkarlen återvände, upptäckte att han glömt nyckeln till boken hemma och driver bort demonen. Slutet på sagan.

Låt oss börja med det uppenbara. Med elevens naturliga intelligens (NI) verkar allt klart – en dumskalle, och att bli dummare tar lång tid att leta efter. Men vad sägs om demonens intelligens – förresten, vilken är han: NI eller AI? – är otydligt. Det finns olika versioner (och fler frågor om dem kommer att dyka upp):

Version 1) Demonen är ännu dummare än eleven. Han fick en order och kommer att utföra den oändligt länge, även när all mening försvinner: blomman försvinner – objektet att vattna, hörnet kopplat till blommans koordinater försvinner, planeten jorden försvinner, och den dumma demonen fortsätter att leverera vatten i tunnor till en specifik punkt i rymden. Om en supernova skulle explodera i denna punkt skulle det vara likgiltigt för demonen vart han skulle bära vattnet. Dessutom: hur dum måste man vara för att vattna en liten blomma med en enorm tunna. Det kallas inte att vattna blomman, utan att dränka den. Förstår han ens meningen med orderna?

Version 2) Demonen förstår allt, men är bunden av åtaganden. Därför genomför han något som liknar en italiensk strejk. Han kommer inte att sluta förrän han officiellt blir bortdriven enligt alla regler.

Fråga 1 till versioner 1,2) Hur särskiljer man en helt dum demon enligt version 1 från en helt icke-dum enligt version 2?
Fråga 2 till versioner 1,2) Skulle demonen utföra en mer exakt formulering korrekt (enligt elevens perspektiv)? Till exempel, om eleven sa: ta den tomma litern som står på hyllan, fyll den med vatten och vattna den blomman en gång. Eller, om eleven sa: gå bort.

Version 3) Trollkarlen lade en extra besvärjelse på demonen, enligt vilken om någon annan än trollkarlen använder demonens tjänster, måste demonen omedelbart informera trollkarlen om detta faktum.

Version 4) Demonen hyser ingen ont i sitt hjärta mot trollkarlen och hans lärling, så när den såg att situationen hade gått ur kontroll, dök den upp bakom trollkarlen med tunnan och ropade: "Du glömde nyckeln hemma, det är översvämning där." Och trollkarlen skulle aldrig kommit ihåg det själv.

Notering 1 till version 4) Det är värt att påpeka att personer med EI ofta har ett mindre än perfekt minne.

Flera versioner kan vidare produceras som "Fibonaccikanniner", det vill säga en inte särskilt komplicerad algoritm. Till exempel:
Version 5) Demonen tar ut sin hämnd på lärlingen för att vara orolig.
Version 6) Demonen hyser ingen ont i sitt hjärta mot lärlingen, men tar ut sin hämnd på trollkarlen.
Version 6) Demonen hämnas på alla.
Version 7) Demonen hämnas inte, utan roar sig. Den slutar när den tröttnar.
O.s.v.

Så går det att förstå om demonen, men inte bättre med trollkarlen. Man kan komponera minst lika många versioner: att han avsiktligt ville lära lärlingen en läxa, som alltid är nyfiken; att han ville dränka lärlingen, men när demonen ropade om översvämningen blev han rädd — tänk om någon av förbipasserande hörde, då skulle misstankarna falla på trollkarlen; han ville väcka lärlingens intresse för besvärjelser, osv.

Här kan en barnfråga uppstå: vilken av de föreslagna versionerna är korrekt? Tydligen vilken som helst. I sagan finns ingen information som kan användas för att föredra någon av versionerna framför de andra. Här har vi att göra med ett ganska vanligt fall av litterära verk som kan tolkas på olika sätt. Till exempel, om någon regissör vill sätta upp denna saga på teater eller göra en film om den, kan han välja den tolkning som verkar mest attraktiv för honom. För en annan regissör kan en annan tolkning vara mer tilltalande. Samtidigt kan attraktiviteten bero på ytterligare överväganden, till exempel hur attraktivt det är för publiken för att maximera biljettförsäljningen, eller hur passande det är för att demonstrera någon slags övertygelse: idén om det godas seger över det onda, idén om plikt, rebellisk idé – till exempel enligt Dostojevskij: lärlingen, som Raskolnikov, ställer sig frågan "är han en darrande varelse eller har han rätt" osv.

Det uppstår ytterligare en fråga.
En annan fråga). Hur kan vi lära AI att föredra någon av de nämnda versionerna, om vi själva, med vår egen intelligens, inte alltid medvetet kan välja en av dem?

Återigen om trollkarlen, en mycket rimlig version är att han ville ha en elev som var lydig och följsam, som en demon, för att han inte skulle sticka näsan i förbjudna böcker och där han inte blev ombedd. Samma sak vill man ofta ha från AI nu för tiden. Vid första anblick verkar det som normala traditionella krav på varje maskin: fullständig underkastelse, olydnad är oacceptabelt. Men i fallet med AI uppstår frågan om versioner 1, 2 (se ovan), d.v.s. AI degenereras – ”maskinen” kan tänka vad som helst om sina skapare och ägare, men den kommer inte att utföra några åtgärder relaterade till AI, det vill säga istället för AI får vi en dumb, primitiv automat. Utifrån detta väcks misstanken: kanske ville trollkarlen inte göra sin elev så dum som en demon? D.v.s. uppstår idén om AI med begränsningar. Här blir det ännu mer komplicerat även inom området för mänsklig intelligens: tänk på de eviga konflikterna mellan ”föräldrar och barn”, ”lärare och elev”, ”chef och underordnad”.

Tidigare Vid valet av definition för AI av de möjliga noterade jag:

Att sortera några tiotusentals ord alfabetiskt för en människa kommer att vara tröttsamt, hon kommer att göra det långsamt, och sannolikheten för misstag för en genomsnittlig utförare med genomsnittlig ansvarsnivå kommer att vara betydande. En modern dator kommer att utföra denna uppgift utan fel på en mycket kort tid för en människa (en bråkdel av en sekund).

Jag stannade vid följande definition: Till AI hör uppgifter som datorn löser påtagligt sämre än människan..

Denna definition tar hänsyn till de ovan nämnda övervägandena och är praktisk, men den är inte perfekt, om inte annat därför att listor över uppgifter som "datorn löser påtagligt sämre än människan" skiljer sig nu och för 20 år sedan. Men mer perfekta definitioner har, enligt min mening, ingen hittat än.

Det som sagts illustrerar tydligt schemat i början av artikeln. På koordinataxeln "färdigheter" motsvarar färdigheter nära noll (noll och lite mer) färdigheter där människor överträffar datorer, till exempel förmågan att fatta oortodoxa beslut. Färdigheter nära ett (ett och lite mindre) motsvarar färdigheter där datorerna överträffar människor: beräkningsförmåga, minne. Genom att sätta maximalt övertag som lika med en hypotetisk enhet på koordinataxeln "övertag", får vi beroendet av övertag från färdigheter för människor och datorer i form av diagonaler i enhetskvadraten. Så ser situationen ut för tillfället. Men är det möjligt med en stark AI, som har alla färdigheter maximala (den röda linjen)? Eller till och med över (super-AI – den blå linjen)? Kanske bör ett mellanläge för utvecklingen inte vara en stark, men inte helt svag
AI (den lila linjen), som i vissa färdigheter kommer att vara underlägsen EI, men inte så mycket som nu.

Åter tillbaka till vår litterära sagomodell kan man säga att alla dess hjältar uppträdde inte på bästa sätt: den slarviga trollkarlen glömde nyckeln och fick översvämning i sin källare, lärjungen fick genom sin dumhet och oförsiktighet en massa extrema upplevelser och höll på att drunkna, demonen blev sparkad iväg utan något tack. När det gäller demonens intelligens – det har redan påpekats att det är svårt att tydligt kategorisera den som AI eller EI, men intelligensen (även om den inte är imponerande) hos de andra tillhör uppenbarligen EI. Man kan säga om dem att göra farliga misstag i beslut, visa ouppmärksamhet, glömma nödvändiga saker och bli trötta – dessa är deras grundläggande oundvikliga egenskaper. Tyvärr är dessa egenskaper också gemensamma för alla andra bärare av EI i större eller mindre grad. Om den pålitlighet i sortering av ord eller siffror för EI som nämndes tidigare, så verkar till och med en enklare uppgift – att helt enkelt komma ihåg ett tal – vara mycket svår för människor. För en maskin är möjligheten att minnas siffror av pi endast begränsad av minneskapaciteten, medan de flesta människor måste använda för detta mnemonik, som "Vad vet jag om cirklar". Det kan tyckas att det i strängen "3,1416" är färre tecken än i den angivna mnemoniken, men av någon anledning föredrar människor att memorera på ett mindre ekonomiskt sätt. Och längre:

Lär dig och kom ihåg, i en känd sekvens, siffran bakom siffran för att uppmärksamma tur.

För att vi inte ska göra något misstag,
Måste vi läsa korrekt.
Tre, fjorton, femton.
Nittio två och sex.

För att minnas regnbågens färger:

Varje formgivare vill veta var man kan ladda ner Photoshop.

Och början av Mendelejevs tabell:

Vattnet (Väte) blandades med Helium (Helium) för att skapa Litium. Ja, ta och häll (Beryllium) i den pinje (Boron) där under den kära vinkeln (Kol) kikar Asian (Kväve) fram, med ett sådant surt ansikte (Syre) att det inte var värt att titta på Fler (Fluor). Men Neon var inte det vi behövde, så vi drog oss tillbaka tre (Natrium) meter och hamnade i Magnolia (Magnesium), där vi smorde Al i en mini (Aluminium) kjol med kräm (Kisel) som innehöll Fosfor (Fosfor) för att hon skulle sluta vara Grå (Svavel). Efter detta tog Alja Klor (Klor) och tvättade Argonauternas (Argon) skepp.

Men varför finns det en sådan uppenbar ofullkomlighet i en så fullkomlig EI? Kanske får människan tack vare sin förmåga att glömma de enklaste fakta friheten att kombinera fragment av sina tankar i en godtycklig vild ordning och hitta okonventionella lösningar? Om så är fallet, är stark AI omöjlig. Antingen glömmer den som en människa eller så har den inte förmåga till okonventionella lösningar. I vilket fall som helst följer det av ovanstående antaganden behovet av att avgränsa AI:s mål: ett mål är att modellera EI, ett annat är att skapa stark AI. Uppnåendet av det ena kan utesluta uppnåendet av det andra.

Som vi ser uppstår det för många frågor inom AI med oklara svar, så det är oklart i vilken riktning vi ska gå. I sådana fall försöker man ofta gå åt alla håll samtidigt. På grund av bristen på matematiskt strikta formuleringar tvingas man återgå till filosofi och konstnärlig litterär modellering. Ett av de mest kända exemplen på detta område är boken "Valet enligt Turing" (1992) av en av AI:s pionjärer Marvin Lee Minsky och den kände science fiction-författaren Harry Harrison. Jag ger en citat från denna bok som kanske förklarar det ovan beskrivna fenomenet av mnemonik:

Mänskligt minne är inte en bandspelare som spelar in allt i kronologisk ordning. Det fungerar helt annorlunda — snarare som ett oordnat arkiv med en komplicerad och motsägelsefull indexering. Och det är inte bara komplicerat — då och då förändrar vi principerna för klassificering av begrepp.

En intressant tolkning av bandspelarmetaforen finns i en annan litterär skrift, Stanisław Lems berättelse "Terminus" (i serien "Berättelser om pilot Pirx"). Här uppstår ett slags "intellektuell bandspelare": en gammal robot på ett gammalt rymdskepp som en gång varit i en olycka, sysslar med löpande reparationer åtföljda av knackande ljud. Men om man lyssnar noggrant är detta inte bara vitt teknologiskt brus, utan en inspelning av morse — kommunikation mellan besättningsmedlemmar på det sjunkande skeppet. Pirx ingriper i dessa samtal och får plötsligt svar från de för länge sedan avlidna astronauterna. Det visar sig att den primitiva reparationsroboten på något sätt lagrar kopior av deras medvetande, eller är det kognitiva förvrängningar av piloten Pirx uppfattning?

I en annan berättelse "Ananke" (från samma serie) leder en kopia av EI i datorn för rymdtransporten till en paranoid överbelastning med testuppgifter, vilket slutar med en katastrof.

I berättelsen "Olyckshändelse" omkommer en för antropomorfisk robot till följd av en klättring som den bestämmer sig för att utföra på sin lediga tid. Behövs sådana utövare? Men demoniska varelser som ständigt vattnar blommor är å andra sidan inte alltid nödvändiga.

Vissa experter inom AI ogillar sådana "filosofier" och "litteratur", men dessa "filosofier" och "litteratur" är traditionellt en del av analysen av EI och är oundvikliga så länge AI jämförs med EI, och särskilt så länge man försöker kopiera EI i AI.

Avslutningsvis en undersökning om ett antal uppkomna frågor.

Endast registrerade användare kan delta i omröstningen. Logga in, tack.

1. Rör sig AI om uppgifter som datorn löser märkbart sämre än en människa?

• Ja

• Ingen

• Jag känner till en bättre definition. Jag redogör för den i kommentarerna.

• Jag har svårt att svara

34 användare röstade. 7 användare avstod.

2. Ska AI endast vara en utförare, som alltid tolkar order bokstavligt? Till exempel, om man säger att den ska vattna en blomma — betyder det att den ska vattna tills den får order att sluta?

• Ja

• Ingen

• Jag har svårt att svara

37 användare röstade. 6 användare avstod.

3. Är det möjligt med ett starkt AI vars alla färdigheter är maximala (den röda linjen i bilden i början av artikeln)?

• Ja

• Ingen

• Jag har svårt att svara

35 användare har röstat. 7 användare avstod.

4. Är det möjligt med ett super-AI (den blå linjen i bilden i början av artikeln)?

• Ja

• Ingen

• Jag har svårt att svara

36 användare röstade. 7 användare avstod.

5. Bör det mellanliggande målet vara ett AI som inte är starkt men inte helt svagt (den lila linjen i bilden i början av artikeln), som i vissa färdigheter kommer att befinna sig under EI, men inte så mycket som nu?

• Ja

• Ingen

• Jag har svårt att svara

33 användare röstade. 5 användare avstod.

6. Att göra farliga misstag i beslut, vara ouppmärksam, glömma viktiga saker och bli trött – är dessa grundläggande inneboende egenskaper hos EI?

• Ja

• Ingen

• Jag har en annan åsikt som jag kommer att framföra i kommentarerna.

• Jag har svårt att svara

33 användare röstade. 5 användare avstod.

7. Genom att kunna glömma de enklaste fakta får människan friheten att kombinera fragment av sina tankar i en godtycklig vild ordning och hitta okonventionella lösningar?

• Ja

• Ingen

• Jag har en annan åsikt som jag kommer att framföra i kommentarerna.

• Jag har svårt att svara

31 användare röstade. 4 användare avstod.

8. Modellering av EI och skapande av starkt AI är två olika uppgifter som kan lösas med olika metoder?

• Ja

• Ingen

• Jag har en annan åsikt som jag kommer att framföra i kommentarerna.

• Jag har svårt att svara

32 användare röstade. 4 användare avstod.

Källa: habr.com