VARNING
Att döma av det rekordhöga förhållandet mellan antalet tyst missnöjda och antalet kommentatorer som har något att invända mot, är det inte uppenbart för många läsare att:
1) Detta är en rent teoretisk diskussionsartikel. Det kommer inte att finnas några praktiska råd här om att välja verktyg för att bryta kryptovaluta eller montera en multivibrator för att blinka två glödlampor.
2) Detta är inte en populärvetenskaplig artikel. Det kommer inte att finnas någon förklaring till dummies av principen för driften av Turing-maskinen med exemplet med tändsticksaskar.
3) Tänk efter noga innan du fortsätter läsa! Tilltalar hållningen av aggressiv amatörism dig: jag minus allt jag inte förstår?
Tack på förhand till alla som bestämmer sig för att inte läsa denna artikel!
En demon är ett datorprogram på UNIX-klasssystem som startas av systemet självt och körs i bakgrunden utan direkt användarinteraktion.
Redan i förskoleåldern hörde jag en saga om en trollkarlslärling. Jag kommer att upprepa det i min återberättelse:
En gång i tiden, någonstans i det medeltida Europa, bodde det en trollkarl. Han hade en stor trollformel bunden i svart kalvskinn med järnspännen och hörn. När trollkarlen behövde förtrolla, låste han upp den med en stor järnnyckel, som han alltid bar på bältet i en speciell påse. Trollkarlen hade också en elev som tjänade trollkarlen, men han förbjöds att titta i trollformelns bok.
En dag reste trollkarlen för hela dagen i affärer. Så fort han lämnade huset rusade studenten in i fängelsehålan, där det fanns ett alkemiskt laboratorium där en bok med trollformler låg fastkedjad vid ett bord. Eleven tog tag i degeln där trollkarlen smält bly för att förvandla det till guld, placerade dem på eldstaden och tände elden. Blyet smälte snabbt, men blev inte till guld. Då kom studenten ihåg att trollkarlen, efter att ha smält blyet, varje gång låste upp boken med en nyckel och viskade en besvärjelse från den under lång tid. Eleven tittade hopplöst på den låsta boken och såg att bredvid den låg nyckeln, glömd av trollkarlen. Sedan rusade han till bordet, låste upp boken, öppnade den och läste högt den allra första besvärjelsen, noggrant uttalade okända ord stavelse för stavelse, och antog att en så viktig besvärjelse som besvärjelsen att förvandla bly till guld säkert skulle vara den allra första. .
Men ingenting hände: ledningen ville inte förvandlas. Eleven ville prova en annan besvärjelse, men sedan skakade ett åskslag i huset, och en enorm, läskig demon dök upp framför eleven, framkallad av besvärjelsen som eleven just hade reciterat.
- Beställa! - morrade demonen.
Av rädsla lämnade alla tankar studentens huvud, han kunde inte ens röra sig.
- Ge order, annars äter jag upp dig! - morrade demonen igen och sträckte ut en enorm hand mot eleven för att ta tag i honom.
I förtvivlan mumlade eleven det första han kunde tänka på:
- Vattna den här blomman.
Och han pekade på en pelargon, vars kruka stod på golvet i hörnet av laboratoriet, i taket ovanför blomman fanns det enda lilla fönstret i fängelsehålan, genom vilket solljuset knappt bröt igenom. Demonen försvann, men en stund senare dök han upp igen med en enorm tunna vatten, som han vände över blomman och hällde ut vattnet. Han försvann igen och dök upp igen med en full tunna.
"Det räcker", ropade studenten och stod mitt i vattnet.
Men det räckte tydligen inte bara med begäret - demonen bar och bar vatten i en tunna och hällde det i hörnet där det en gång stod en blomma gömd under vattnet. En speciell besvärjelse behövdes förmodligen för att driva bort demonen. Men bordet med boken hade redan försvunnit i det leriga vattnet, i vilket aska och kol från eldstaden, tomma retorter, kolvar, pallar, galvanometrar, dosimetrar, engångssprutor och annat skräp flöt, så även om eleven visste hur han skulle hitta den besvärjelse som krävs, han kunde inte göra det. Vattnet steg och eleven klättrade upp på bordet för att inte kvävas. Men detta hjälpte inte länge - demonen fortsatte metodiskt att bära vatten. Eleven var redan upp till halsen i vatten när trollkarlen kom tillbaka och upptäckte att han hade glömt nyckeln till boken hemma och drev bort demonen. Slutet på sagan.
Direkt om det uppenbara. Med studentens naturliga intelligens (NI) verkar det som att allt är klart - dumt, man får leta länge efter något ännu dummare. Men med demonens intelligens - förresten, vilken typ av intelligens har han: EI eller AI? – tvetydigt. Olika versioner är legitima (och frågor kommer också att uppstå om dem):
Version 1) Demonen är ännu dummare än studenten. Han fick en order och kommer att utföra den på obestämd tid, även när all mening försvinner: blomman - föremålet för vattning - kommer att försvinna, vinkeln som blommans koordinater är fästa i kommer att försvinna, planeten jorden kommer att försvinna och dum demon kommer att fortsätta att leverera vatten i fat till en viss punkt i yttre rymden. Och om en supernova bryter ut vid denna tidpunkt, så bryr sig demonen inte vart den ska bära vattnet. Dessutom: hur dum måste man vara för att vattna en liten blomma från en enorm tunna? Detta kallas redan att inte vattna blomman, utan att dränka blomman. Förstår han ens innebörden av order?
Version 2) Demonen förstår allt, men är bunden av skyldigheter. Så han genomför något som liknar en italiensk strejk. Förrän han är officiellt utkastad enligt alla regler kommer han inte att sluta.
Fråga 1 till version 1,2) Hur skiljer man en helt dum demon enligt version 1 från en inte alls dum demon enligt version 2?
Fråga 2 till version 1,2) Skulle demonen ha utfört korrekt (ur elevens synvinkel) en mer exakt formulering? Till exempel, om en elev sa: ta den där tomma literskolven som står på hyllan, fyll den med vatten och vattna den som blommar en gång. Eller till exempel om eleven sa: gå iväg.
Version 3) Trollkarlen kastade en ytterligare besvärjelse på demonen, enligt vilken om någon annan än trollkarlen använder demonens tjänster, då måste demonen omedelbart informera trollkarlen om detta.
Version 4) Demonen hyser inget agg mot trollkarlen och hans elev, därför, när han såg att situationen var utom kontroll, dök han under sina rörelser med en tunna upp bakom trollkarlens rygg och skällde: "Du glömde nyckeln hemma , det är en översvämning.” Men trollkarlen själv skulle inte ha kommit ihåg.
Not 1 till version 4) Det är särskilt värt att notera att EI-bärare har mycket ofullkomligt minne.
Ytterligare versioner kan multipliceras som "Fibonacci-kaniner", dvs. inte en särskilt komplex algoritm. Till exempel:
Version 5) Demonen hämnas på studenten för att ha stört honom.
Version 6) Demonen hyser inte agg mot studenten, utan hämnas på trollkarlen.
Version 6) Demonen hämnas på alla.
Version 7) Demonen tar inte hämnd, men har roligt. Avslutar när han blir trött.
Etc.
Så med demonen är det klart att ingenting är klart. Inte bättre med en trollkarl. Du kan komma på inte mindre versioner: att han medvetet bestämde sig för att ge en läxa till en elev som sticker sin nyfikna näsa överallt; att han ville dränka studenten, men när demonen skällde om översvämningen, blev han rädd - plötsligt hörde en av de förbipasserande, då skulle misstanken falla på trollkarlen; ville väcka elevens intresse för trollformler osv.
Här är en barnslig fråga möjlig: vilken av de föreslagna versionerna är korrekta? Tydligen någon. Det finns ingen information som lämnas oanvänd i berättelsen för att gynna någon version framför de andra. Här har vi att göra med ett ganska vanligt fall av konstverk med möjlighet till tvetydig tolkning. Om en regissör till exempel vill iscensätta denna saga på en teater eller göra en film baserad på den, kan han välja den tolkning som är mest attraktiv ur hans synvinkel. En annan regissör kanske tycker att en annan tolkning är attraktiv. Samtidigt kan attraktivitet bestämmas av ytterligare överväganden, till exempel attraktivitet för tittare för att säkerställa maximala kassakvitton, eller attraktivitet för att demonstrera någon superidé: idén om det godas seger över det onda, idé om plikt, en rebellisk idé - till exempel, enligt Dostojevskij: student, som Raskolnikov, ställer han frågan "är han en darrande varelse eller har han rätt," etc.
En annan fråga uppstår.
En till fråga). Hur kan vi lära AI att ge företräde åt en av de röstade versionerna om vi själva, som har AI, inte alltid medvetet kan välja en av dem?
När vi återvänder till trollkarlen ser versionen att han ville ha en plikttrogen och lydig student, som en demon, så att han inte skulle sticka in näsan i förbjudna böcker och där han inte blev tillfrågad, mycket rimlig. Samma sak önskas nu ofta från AI. Vid första anblicken är dessa normala traditionella krav för alla maskiner: fullständig lydnad, olydnad är oacceptabelt. Men när det gäller AI kan frågan om version 1,2 (se ovan) uppstå, d.v.s. AI håller på att degenereras - hårdvaran kan tycka vad den vill om sina skapare och ägare, men den kommer inte att utföra några handlingar relaterade till AI, d.v.s. Istället för AI kommer vi att få en dum primitiv automat. Ur detta smyger sig en misstanke: kanske trollkarlen inte ville göra studenten till en så dum artist som en demon? De där. Idén om AI med begränsningar dyker upp. Här är allt ännu svårare även inom EI: kom ihåg de eviga konflikterna "fäder och söner", "lärare och student", "chef och underordnad".
När jag valde en definition av AI bland de möjliga, noterade jag:
uppgiften att sortera flera tiotusentals ord i alfabetisk ordning kommer att vara tråkig för en person, det kommer att ta honom lång tid att göra det, och sannolikheten för fel för en genomsnittlig utförare med en genomsnittlig ansvarsnivå kommer att vara betydande. En modern dator kommer att utföra denna uppgift utan fel på mycket kort tid för en person (bråkdelar av en sekund).
Jag bestämde mig för följande definition: AI inkluderar uppgifter som en dator löser betydligt sämre än en människa.
Denna definition tar hänsyn till de överväganden som uttryckts ovan och är bekväm att öva på; samtidigt är den inte idealisk, om inte annat för att listorna över uppgifter "som en dator löser märkbart sämre än en människa" är olika nu och för 20 år sedan . Men enligt min mening har ingen ännu kommit på en mer perfekt definition.
Ovanstående illustreras rent kvalitativt av diagrammet i början av artikeln. På koordinataxeln "färdigheter" motsvarar färdigheter i området noll (noll och något mer) färdigheter där en person är överlägsen en dator, till exempel i förmågan att fatta icke-standardiserade beslut. Färdigheter i området en (en och något mindre) motsvarar färdigheter där en dator är överlägsen en person: förmågan att beräkna, minne. Genom att sätta den maximala överlägsenheten lika med en konventionell enhet på koordinataxeln "överlägsenhet", får vi överlägsenhetens beroende av färdigheter för människor och datorer i form av diagonaler av en enhetskvadrat. Så här ser situationen ut för tillfället. Är det möjligt för en stark AI att ha alla sina färdigheter maximalt (röd linje)? Eller ännu högre (super-AI - blå linje)? Kanske bör delmålet om framsteg inte vara starkt, men inte riktigt
svag AI (lila linje), som kommer att vara underlägsen AI i ett antal färdigheter, men inte så mycket som det är nu.
För att återgå till vår litterära sagomodell kan vi säga att alla dess hjältar inte presterade på bästa sätt: den trollkarl glömde nyckeln och fick en översvämning i sin fängelsehåla, studenten fick genom dumhet och slarv ett gäng extrema intryck och nästan drunknade, sparkades demonen ut utan någon som helst tacksamhet. När det gäller demonens intelligens har det redan noterats att det är svårt att tydligt klassificera honom som AI eller EI, men intelligensen (om än inte imponerande) hos de andra tillhör helt klart EI. Det kan sägas om dem att göra farliga misstag i beslut, vara ouppmärksam, glömma nödvändiga saker och tröttna är deras huvudsakliga inneboende egenskaper. Tyvärr är dessa egenskaper inneboende i alla andra EI-bärare i större eller mindre utsträckning. Otillförlitligheten i att sortera ord eller nummer av EI har redan noterats ovan, men det verkar vara en ännu enklare uppgift - att bara komma ihåg ett nummer visar sig vara mycket svårt för människor. För en maskin begränsas förmågan att komma ihåg siffrorna i pi endast av storleken på dess minne, och de flesta måste använda , som "Vad vet jag om cirklar." Det verkar som att raden "3,1416" har färre tecken än den angivna mnemoniken, men av någon anledning föredrar folk att komma ihåg på ett mindre ekonomiskt sätt. Och längre:
Lär dig och vet numret bakom numret, hur du märker tur
Så att vi inte gör misstag,
Måste läsas korrekt
Tre, fjorton, femton
Nittiotvå och sex
För att komma ihåg regnbågens färger:
Varje designer vill veta var man kan ladda ner Photoshop
Och början av det periodiska systemet:
Naturligt vatten (väte) blandades med gel (helium) för att hälla (litium). Ja, ta och häll (Beryllium) i tallskogen (bor), där från under det infödda hörnet (kol) asiatiska (kväve) tittar fram, och med ett så surt ansikte (syre) att sekundärt (fluor) jag inte vill titta på. Men vi behövde inte honom (Neon), så vi flyttade tre (Natrium) meter bort och hamnade i Magnolia (Magnesium), där Alya i en mini (Aluminium) kjol smetades in med Kräm (Silicon) innehållande Fosfor (Fosfor) så att hon skulle sluta vara Sera (Sera). Efter det tog Alya klor (klor) och tvättade argonauternas skepp (argon)
Men varför så uppenbar ofullkomlighet i en så perfekt EI? Kanske, tack vare förmågan att glömma de enklaste fakta, får en person friheten att kombinera fragment av sina tankar i en godtycklig vild ordning och hitta icke-standardiserade lösningar? Om så är fallet är stark AI omöjligt. Antingen kommer han att glömma som en person, eller så kommer han inte att vara kapabel till icke-standardiserade lösningar. I vilket fall som helst, från ovanstående antaganden följer det att det är nödvändigt att skilja mellan målen för AI: ett av målen är modellering av AI, det andra är skapandet av stark AI. Att uppnå det ena kan utesluta att uppnå det andra.
Som vi kan se finns det för många frågor med tvetydiga svar inom området AI, så det är oklart i vilken riktning man ska röra sig. Som händer i sådana fall försöker de röra sig åt alla håll samtidigt. Samtidigt måste man, på grund av bristen på matematiskt rigorösa formuleringar, vända sig till filosofi och konstnärlig och litterär modellering. Ett av de mest kända exemplen i den här riktningen är boken "Turing Selection" (1992) av en av AI:s armaturer, Marvin Lee Minsky, och den berömda science fiction-författaren Harry Harrison. Jag kommer att citera från den här boken, kanske förklara det ovan beskrivna fenomenet mnemonics:
Människominnet är inte en bandspelare som spelar in allt i kronologisk ordning. Det är uppbyggt helt annorlunda - snarare som ett slarvigt underhållet kartotek, utrustat med ett förvirrande och motsägelsefullt register. Och inte bara förvirrande - då och då ändrar vi principerna för klassificering av begrepp.
En intressant tolkning av bandspelarens metafor i ett annat litterärt verk, Stanislaw Lems berättelse "Terminus" (från serien "Stories about the Pilot Pirx"). Här är fallet med en sorts "intelligent bandspelare": en gammal robot på ett gammalt rymdskepp som en gång råkade ut för en olycka är engagerad i pågående reparationsarbete, åtföljd av avlyssning. Men om du lyssnar noga är detta inte bara vitt tekniskt brus, utan en inspelning av morsekod – samtal mellan besättningsmedlemmar på ett döende skepp. Pirx ingriper i dessa förhandlingar och får oväntat ett svar från de sedan länge döda astronauterna. Det visar sig att den primitiva reparationsroboten på något sätt lagrar kopior av deras medvetande eller är det kognitiva förvrängningar av uppfattningen om piloten Pirx?
I en annan berättelse, "Ananke" (från samma serie), leder en kopia av EI i kontrolldatorn för en rymdtransport till dess paranoida överbelastning med testuppgifter, vilket slutar i katastrof.
I berättelsen "Accident" dör en alltför antropomorfiskt programmerad robot som ett resultat av en bergsklättring som han bestämde sig för att göra på sin fritid. Behövs sådana artister? Men demoner som är fixerade vid att vattna en blomma är inte heller alltid nödvändiga.
Vissa specialister inom AI-området gillar inte sådant "filosofiserande" och "litteraryism", men dessa "filosofiserande" och "litteraryism" är traditionellt inneboende i analysen av AI och är oundvikliga så länge AI jämförs med AI, och t.o.m. mer så länge som AI försöker kopiera AI.
Avslutningsvis en undersökning om ett antal frågor som uppstått.
Endast registrerade användare kan delta i undersökningen. , Snälla du.
1. Inkluderar AI uppgifter som en dator löser betydligt sämre än en människa?
-
Ja
-
Ingen
-
Jag kan definitionen bättre. Jag ger det i kommentarerna.
-
Svårt att svara på
34 användare röstade. 7 användare avstod från att rösta.
2. Ska AI:n bara vara en exekutor, ska alla order tas bokstavligt? Till exempel sa de att vattna en blomma - det betyder vatten tills de driver bort dig
-
Ja
-
Ingen
-
Svårt att svara på
37 användare röstade. 6 användare avstod från att rösta.
3. Är det möjligt att ha en stark AI, där alla färdigheter kommer att vara maximala (röd linje i bilden i början av artikeln)?
-
Ja
-
Ingen
-
Svårt att svara på
35 användare röstade. 7 användare avstod från att rösta.
4. Är super-AI möjlig (blå linje i bilden i början av artikeln)?
-
Ja
-
Ingen
-
Svårt att svara på
36 användare röstade. 7 användare avstod från att rösta.
5. Delmålet ska inte vara stark, men inte heller helt svag AI (lila streck i figuren i början av artikeln), som i ett antal färdigheter kommer att vara sämre än AI, men inte så mycket som det är nu ?
-
Ja
-
Ingen
-
Svårt att svara på
33 användare röstade. 5 användare avstod från att rösta.
6. Att göra farliga misstag i beslut, vara ouppmärksam, glömma nödvändiga saker och tröttna är de huvudsakliga inneboende egenskaperna hos EI?
-
Ja
-
Ingen
-
Jag har en annan åsikt, som jag kommer att ge i kommentarerna.
-
Svårt att svara på
33 användare röstade. 5 användare avstod från att rösta.
7. Tack vare förmågan att glömma de enklaste fakta, får en person friheten att kombinera fragment av sina tankar i en godtycklig vild ordning och hitta icke-standardiserade lösningar?
-
Ja
-
Ingen
-
Jag har en annan åsikt, som jag kommer att ge i kommentarerna.
-
Svårt att svara på
31 användare röstade. 4 användare avstod från att rösta.
8. Att modellera AI och skapa stark AI är två olika uppgifter som kan lösas med olika metoder?
-
Ja
-
Ingen
-
Jag har en annan åsikt, som jag kommer att ge i kommentarerna.
-
Svårt att svara på
32 användare röstade. 4 användare avstod från att rösta.
Källa: www.habr.com