{"id":35308,"date":"2019-10-31T22:03:32","date_gmt":"2019-10-31T19:03:32","guid":{"rendered":"https:\/\/prohoster.info\/blog\/kakoj-uchenik-nuzhen-charodeyu-i-kakoj-ii-nuzhen-nam\/"},"modified":"2019-10-31T22:03:32","modified_gmt":"2019-10-31T19:03:32","slug":"kakoj-uchenik-nuzhen-charodeyu-i-kakoj-ii-nuzhen-nam","status":"publish","type":"post","link":"https:\/\/prohoster.info\/sv\/blog\/news\/kakoj-uchenik-nuzhen-charodeyu-i-kakoj-ii-nuzhen-nam","title":{"rendered":"Vilken elev beh\u00f6ver en trollkarl och vilken AI beh\u00f6ver vi?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"

VARNING<\/b>
\nEnligt det rekordh\u00f6ga f\u00f6rh\u00e5llandet mellan antalet tysta missn\u00f6jda och antalet kommentatorer som har n\u00e5got att inv\u00e4nda mot, \u00e4r det uppenbarligen oklart f\u00f6r m\u00e5nga l\u00e4sare att:
\n1) Detta \u00e4r en rent teoretisk diskussionsartikel. H\u00e4r kommer inga praktiska rekommendationer f\u00f6r val av verktyg f\u00f6r kryptovaluta-gruvdrift eller sammans\u00e4ttning av en multivibrator f\u00f6r att blinka med tv\u00e5 lampor.
\n2) Detta \u00e4r inte en popul\u00e4rvetenskaplig artikel. H\u00e4r kommer det inte finnas n\u00e5gon f\u00f6rklaring f\u00f6r nyb\u00f6rjare om hur en Turingmaskin fungerar, illustrerad med exempel p\u00e5 t\u00e4ndsticksaskar.
\n3) T\u00e4nk noga innan du forts\u00e4tter l\u00e4sa! Lockas du av att vara en aggressiv amat\u00f6r: att nedv\u00e4rdera allt du inte f\u00f6rst\u00e5r?
\nJag tackar i f\u00f6rv\u00e4g alla som v\u00e4ljer att inte l\u00e4sa denna artikel!
\n\"Vilken<\/p>\n

En demon \u00e4r ett datorprogram i UNIX-system, som startas av systemet sj\u00e4lvt och k\u00f6rs i bakgrunden utan direkt interaktion med anv\u00e4ndaren. <\/p>\n

Wikipedia<\/a><\/noindex><\/i>\n<\/p><\/blockquote>\n

Redan i f\u00f6rskole\u00e5ldern h\u00f6rde jag en saga om l\u00e4rjlingen till en trollkarl. Jag ska \u00e5terber\u00e4tta den i min egen version:
\n<\/a><\/noindex><\/p>\n

Det var en g\u00e5ng i medeltida Europa en trollkarl. Han hade en stor bok med besv\u00e4rjelser inbunden i svart kalvl\u00e4der med sp\u00e4nnen och h\u00f6rn av j\u00e4rn. N\u00e4r trollkarlen beh\u00f6vde l\u00e4sa en besv\u00e4rjelse, l\u00e5ste han upp den med en stor j\u00e4rnnyckel som han alltid bar p\u00e5 sin b\u00e4lte i en speciell p\u00e5se. Trollkarlen hade ocks\u00e5 en l\u00e4rjunge som tj\u00e4nade honom, men honom var det f\u00f6rbjudet att titta i besv\u00e4rjelsernas bok. <\/p>\n

En g\u00e5ng reste en trollkarl iv\u00e4g hela dagen f\u00f6r \u00e4renden. S\u00e5 snart han hade l\u00e4mnat huset kastade sig hans l\u00e4rjunge ner i k\u00e4llaren d\u00e4r det fanns ett alkemilabb, i vilket en bok om besv\u00e4rjelser l\u00e5g kedjad vid ett bord. L\u00e4rjungen tog tag i de koppar d\u00e4r trollkarlen sm\u00e4lte bly f\u00f6r att f\u00f6rvandla det till guld, satte dem p\u00e5 grillen och bl\u00e5ste upp elden. Blyet sm\u00e4lte snabbt, men f\u00f6rvandlades inte till guld. D\u00e5 kom l\u00e4rjungen ih\u00e5g att trollkarlen, n\u00e4r han sm\u00e4lte blyet, varje g\u00e5ng l\u00e5ste upp boken med en nyckel och l\u00e4nge mumlade besv\u00e4rjelsen fr\u00e5n den. L\u00e4rjungen s\u00e5g hoppl\u00f6st p\u00e5 den l\u00e5sta boken och s\u00e5g att en nyckel, som trollkarlen hade gl\u00f6mt, l\u00e5g bredvid den. D\u00e5 rusade han fram till bordet, l\u00e5ste upp boken, \u00f6ppnade den och l\u00e4ste h\u00f6gt den f\u00f6rsta besv\u00e4rjelsen, noggrant uttalande de ok\u00e4nda orden, i tron att en s\u00e5 viktig besv\u00e4rjelse som f\u00f6rvandlingen av bly till guld s\u00e4kerligen skulle vara den f\u00f6rsta. <\/p>\n

Men ingenting h\u00e4nde: blyet ville inte f\u00f6rvandlas. L\u00e4rjungen t\u00e4nkte f\u00f6rs\u00f6ka med en annan besv\u00e4rjelse, men just d\u00e5 skakade ett muller av \u00e5ska huset, och framf\u00f6r l\u00e4rjungen d\u00f6k en enorm, skr\u00e4ckinjagande demon upp, framkallad av besv\u00e4rjelsen som han just hade l\u00e4st.
\n\u2014 Befalla! \u2014 v\u00e4ste demonen.
\nAv r\u00e4dsla hade alla tankar l\u00e4mnat l\u00e4rjungens huvud, han kunde inte ens r\u00f6ra sig.
\n\u2014 Befalla, eller jag \u00e4ter upp dig! \u2014 muttrade demonen igen och str\u00e4ckte ut sin stora hand mot l\u00e4rjungen f\u00f6r att f\u00e5nga honom.
\nI desperation mumlade l\u00e4rjungen det f\u00f6rsta han kunde t\u00e4nka p\u00e5:
\n \u2014 Vattna den h\u00e4r blomman.
\nOch han pekade p\u00e5 pelargonen, vars kruka stod p\u00e5 golvet i h\u00f6rnet av laboratoriet, i taket ovanf\u00f6r blomman fanns det enda lilla f\u00f6nstret i k\u00e4llaren, genom vilket solljuset knappt tr\u00e4ngde igenom. Demonen f\u00f6rsvann, men inom en minut d\u00f6k han upp igen med ett enormt fat vatten som han h\u00e4llde ut \u00f6ver blomman. Han f\u00f6rsvann igen och kom tillbaka med ett fullt fat.
\n\u2014 Nog, \u2014 skrek l\u00e4rjungen, och stod nu redan till midjan i vatten.
\nMen uppenbarligen var bara en \u00f6nskan inte tillr\u00e4cklig \u2014 demonen fortsatte att b\u00e4ra vatten i tunnan och h\u00e4llde ut det i h\u00f6rnet d\u00e4r en g\u00e5ng den dolda blomman stod under vattnet. Kanske kr\u00e4vdes en speciell besv\u00e4rjelse f\u00f6r att driva bort demonen. Men bordet med boken f\u00f6rsvann redan i det grumliga vattnet, d\u00e4r aska och gl\u00f6d fr\u00e5n brasan, tomma retorter, kolvar, pallar, galvanometrar, dosimetrar, eng\u00e5ngssprutor och annat skr\u00e4p fl\u00f6t, s\u00e5 om l\u00e4rlingen visste hur man hittade r\u00e4tt besv\u00e4rjelse, skulle han inte kunna g\u00f6ra det. Vattnet steg, och l\u00e4rlingen kl\u00e4ttrade upp p\u00e5 bordet f\u00f6r att inte drunkna. Men det hj\u00e4lpte inte l\u00e4nge \u2013 demonen fortsatte metodiskt att b\u00e4ra vatten. L\u00e4rlingen var redan upp till halsen i vatten n\u00e4r trollkarlen \u00e5terv\u00e4nde, uppt\u00e4ckte att han gl\u00f6mt nyckeln till boken hemma och driver bort demonen. Slutet p\u00e5 sagan.<\/p><\/blockquote>\n

L\u00e5t oss b\u00f6rja med det uppenbara. Med elevens naturliga intelligens (NI) verkar allt klart \u2013 en dumskalle, och att bli dummare tar l\u00e5ng tid att leta efter. Men vad s\u00e4gs om demonens intelligens \u2013 f\u00f6rresten, vilken \u00e4r han: NI eller AI? \u2013 \u00e4r otydligt. Det finns olika versioner (och fler fr\u00e5gor om dem kommer att dyka upp):<\/p>\n

Version 1) Demonen \u00e4r \u00e4nnu dummare \u00e4n eleven. Han fick en order och kommer att utf\u00f6ra den o\u00e4ndligt l\u00e4nge, \u00e4ven n\u00e4r all mening f\u00f6rsvinner: blomman f\u00f6rsvinner \u2013 objektet att vattna, h\u00f6rnet kopplat till blommans koordinater f\u00f6rsvinner, planeten jorden f\u00f6rsvinner, och den dumma demonen forts\u00e4tter att leverera vatten i tunnor till en specifik punkt i rymden. Om en supernova skulle explodera i denna punkt skulle det vara likgiltigt f\u00f6r demonen vart han skulle b\u00e4ra vattnet. Dessutom: hur dum m\u00e5ste man vara f\u00f6r att vattna en liten blomma med en enorm tunna. Det kallas inte att vattna blomman, utan att dr\u00e4nka den. F\u00f6rst\u00e5r han ens meningen med orderna?<\/p>\n

Version 2) Demonen f\u00f6rst\u00e5r allt, men \u00e4r bunden av \u00e5taganden. D\u00e4rf\u00f6r genomf\u00f6r han n\u00e5got som liknar en italiensk strejk. Han kommer inte att sluta f\u00f6rr\u00e4n han officiellt blir bortdriven enligt alla regler.<\/p>\n

Fr\u00e5ga 1 till versioner 1,2) Hur s\u00e4rskiljer man en helt dum demon enligt version 1 fr\u00e5n en helt icke-dum enligt version 2?
\nFr\u00e5ga 2 till versioner 1,2) Skulle demonen utf\u00f6ra en mer exakt formulering korrekt (enligt elevens perspektiv)? Till exempel, om eleven sa: ta den tomma litern som st\u00e5r p\u00e5 hyllan, fyll den med vatten och vattna den blomman en g\u00e5ng. Eller, om eleven sa: g\u00e5 bort.<\/p>\n

Version 3) Trollkarlen lade en extra besv\u00e4rjelse p\u00e5 demonen, enligt vilken om n\u00e5gon annan \u00e4n trollkarlen anv\u00e4nder demonens tj\u00e4nster, m\u00e5ste demonen omedelbart informera trollkarlen om detta faktum. <\/p>\n

Version 4) Demonen hyser ingen ont i sitt hj\u00e4rta mot trollkarlen och hans l\u00e4rling, s\u00e5 n\u00e4r den s\u00e5g att situationen hade g\u00e5tt ur kontroll, d\u00f6k den upp bakom trollkarlen med tunnan och ropade: \"Du gl\u00f6mde nyckeln hemma, det \u00e4r \u00f6versv\u00e4mning d\u00e4r.\" Och trollkarlen skulle aldrig kommit ih\u00e5g det sj\u00e4lv.<\/p>\n

Notering 1 till version 4) Det \u00e4r v\u00e4rt att p\u00e5peka att personer med EI ofta har ett mindre \u00e4n perfekt minne.<\/p>\n

Flera versioner kan vidare produceras som \"Fibonaccikanniner\", det vill s\u00e4ga en inte s\u00e4rskilt komplicerad algoritm. Till exempel:
\nVersion 5) Demonen tar ut sin h\u00e4mnd p\u00e5 l\u00e4rlingen f\u00f6r att vara orolig.
\nVersion 6) Demonen hyser ingen ont i sitt hj\u00e4rta mot l\u00e4rlingen, men tar ut sin h\u00e4mnd p\u00e5 trollkarlen.
\nVersion 6) Demonen h\u00e4mnas p\u00e5 alla.
\nVersion 7) Demonen h\u00e4mnas inte, utan roar sig. Den slutar n\u00e4r den tr\u00f6ttnar.
\nO.s.v.<\/p>\n

S\u00e5 g\u00e5r det att f\u00f6rst\u00e5 om demonen, men inte b\u00e4ttre med trollkarlen. Man kan komponera minst lika m\u00e5nga versioner: att han avsiktligt ville l\u00e4ra l\u00e4rlingen en l\u00e4xa, som alltid \u00e4r nyfiken; att han ville dr\u00e4nka l\u00e4rlingen, men n\u00e4r demonen ropade om \u00f6versv\u00e4mningen blev han r\u00e4dd \u2014 t\u00e4nk om n\u00e5gon av f\u00f6rbipasserande h\u00f6rde, d\u00e5 skulle misstankarna falla p\u00e5 trollkarlen; han ville v\u00e4cka l\u00e4rlingens intresse f\u00f6r besv\u00e4rjelser, osv.<\/p>\n

H\u00e4r kan en barnfr\u00e5ga uppst\u00e5: vilken av de f\u00f6reslagna versionerna \u00e4r korrekt? Tydligen vilken som helst. I sagan finns ingen information som kan anv\u00e4ndas f\u00f6r att f\u00f6redra n\u00e5gon av versionerna framf\u00f6r de andra. H\u00e4r har vi att g\u00f6ra med ett ganska vanligt fall av litter\u00e4ra verk som kan tolkas p\u00e5 olika s\u00e4tt. Till exempel, om n\u00e5gon regiss\u00f6r vill s\u00e4tta upp denna saga p\u00e5 teater eller g\u00f6ra en film om den, kan han v\u00e4lja den tolkning som verkar mest attraktiv f\u00f6r honom. F\u00f6r en annan regiss\u00f6r kan en annan tolkning vara mer tilltalande. Samtidigt kan attraktiviteten bero p\u00e5 ytterligare \u00f6verv\u00e4ganden, till exempel hur attraktivt det \u00e4r f\u00f6r publiken f\u00f6r att maximera biljettf\u00f6rs\u00e4ljningen, eller hur passande det \u00e4r f\u00f6r att demonstrera n\u00e5gon slags \u00f6vertygelse: id\u00e9n om det godas seger \u00f6ver det onda, id\u00e9n om plikt, rebellisk id\u00e9 \u2013 till exempel enligt Dostojevskij: l\u00e4rlingen, som Raskolnikov, st\u00e4ller sig fr\u00e5gan \"\u00e4r han en darrande varelse eller har han r\u00e4tt\" osv.<\/p>\n

Det uppst\u00e5r ytterligare en fr\u00e5ga.
\nEn annan fr\u00e5ga). Hur kan vi l\u00e4ra AI att f\u00f6redra n\u00e5gon av de n\u00e4mnda versionerna, om vi sj\u00e4lva, med v\u00e5r egen intelligens, inte alltid medvetet kan v\u00e4lja en av dem?<\/p>\n

\u00c5terigen om trollkarlen, en mycket rimlig version \u00e4r att han ville ha en elev som var lydig och f\u00f6ljsam, som en demon, f\u00f6r att han inte skulle sticka n\u00e4san i f\u00f6rbjudna b\u00f6cker och d\u00e4r han inte blev ombedd. Samma sak vill man ofta ha fr\u00e5n AI nu f\u00f6r tiden. Vid f\u00f6rsta anblick verkar det som normala traditionella krav p\u00e5 varje maskin: fullst\u00e4ndig underkastelse, olydnad \u00e4r oacceptabelt. Men i fallet med AI uppst\u00e5r fr\u00e5gan om versioner 1, 2 (se ovan), d.v.s. AI degenereras \u2013 \u201dmaskinen\u201d kan t\u00e4nka vad som helst om sina skapare och \u00e4gare, men den kommer inte att utf\u00f6ra n\u00e5gra \u00e5tg\u00e4rder relaterade till AI, det vill s\u00e4ga ist\u00e4llet f\u00f6r AI f\u00e5r vi en dumb, primitiv automat. Utifr\u00e5n detta v\u00e4cks misstanken: kanske ville trollkarlen inte g\u00f6ra sin elev s\u00e5 dum som en demon? D.v.s. uppst\u00e5r id\u00e9n om AI med begr\u00e4nsningar. H\u00e4r blir det \u00e4nnu mer komplicerat \u00e4ven inom omr\u00e5det f\u00f6r m\u00e4nsklig intelligens: t\u00e4nk p\u00e5 de eviga konflikterna mellan \u201df\u00f6r\u00e4ldrar och barn\u201d, \u201dl\u00e4rare och elev\u201d, \u201dchef och underordnad\u201d.<\/p>\n

Tidigare<\/a><\/noindex> Vid valet av definition f\u00f6r AI av de m\u00f6jliga noterade jag:<\/p>\n

Att sortera n\u00e5gra tiotusentals ord alfabetiskt f\u00f6r en m\u00e4nniska kommer att vara tr\u00f6ttsamt, hon kommer att g\u00f6ra det l\u00e5ngsamt, och sannolikheten f\u00f6r misstag f\u00f6r en genomsnittlig utf\u00f6rare med genomsnittlig ansvarsniv\u00e5 kommer att vara betydande. En modern dator kommer att utf\u00f6ra denna uppgift utan fel p\u00e5 en mycket kort tid f\u00f6r en m\u00e4nniska (en br\u00e5kdel av en sekund).<\/p><\/blockquote>\n

\nJag stannade vid f\u00f6ljande definition: Till AI h\u00f6r uppgifter som datorn l\u00f6ser p\u00e5tagligt s\u00e4mre \u00e4n m\u00e4nniskan.<\/i>.<\/p>\n

Denna definition tar h\u00e4nsyn till de ovan n\u00e4mnda \u00f6verv\u00e4gandena och \u00e4r praktisk, men den \u00e4r inte perfekt, om inte annat d\u00e4rf\u00f6r att listor \u00f6ver uppgifter som \"datorn l\u00f6ser p\u00e5tagligt s\u00e4mre \u00e4n m\u00e4nniskan\" skiljer sig nu och f\u00f6r 20 \u00e5r sedan. Men mer perfekta definitioner har, enligt min mening, ingen hittat \u00e4n. <\/p>\n

Det som sagts illustrerar tydligt schemat i b\u00f6rjan av artikeln. P\u00e5 koordinataxeln \"f\u00e4rdigheter\" motsvarar f\u00e4rdigheter n\u00e4ra noll (noll och lite mer) f\u00e4rdigheter d\u00e4r m\u00e4nniskor \u00f6vertr\u00e4ffar datorer, till exempel f\u00f6rm\u00e5gan att fatta oortodoxa beslut. F\u00e4rdigheter n\u00e4ra ett (ett och lite mindre) motsvarar f\u00e4rdigheter d\u00e4r datorerna \u00f6vertr\u00e4ffar m\u00e4nniskor: ber\u00e4kningsf\u00f6rm\u00e5ga, minne. Genom att s\u00e4tta maximalt \u00f6vertag som lika med en hypotetisk enhet p\u00e5 koordinataxeln \"\u00f6vertag\", f\u00e5r vi beroendet av \u00f6vertag fr\u00e5n f\u00e4rdigheter f\u00f6r m\u00e4nniskor och datorer i form av diagonaler i enhetskvadraten. S\u00e5 ser situationen ut f\u00f6r tillf\u00e4llet. Men \u00e4r det m\u00f6jligt med en stark AI, som har alla f\u00e4rdigheter maximala (den r\u00f6da linjen)? Eller till och med \u00f6ver (super-AI \u2013 den bl\u00e5 linjen)? Kanske b\u00f6r ett mellanl\u00e4ge f\u00f6r utvecklingen inte vara en stark, men inte helt svag
\nAI (den lila linjen), som i vissa f\u00e4rdigheter kommer att vara underl\u00e4gsen EI, men inte s\u00e5 mycket som nu.<\/p>\n

\u00c5ter tillbaka till v\u00e5r litter\u00e4ra sagomodell kan man s\u00e4ga att alla dess hj\u00e4ltar upptr\u00e4dde inte p\u00e5 b\u00e4sta s\u00e4tt: den slarviga trollkarlen gl\u00f6mde nyckeln och fick \u00f6versv\u00e4mning i sin k\u00e4llare, l\u00e4rjungen fick genom sin dumhet och of\u00f6rsiktighet en massa extrema upplevelser och h\u00f6ll p\u00e5 att drunkna, demonen blev sparkad iv\u00e4g utan n\u00e5got tack. N\u00e4r det g\u00e4ller demonens intelligens \u2013 det har redan p\u00e5pekats att det \u00e4r sv\u00e5rt att tydligt kategorisera den som AI eller EI, men intelligensen (\u00e4ven om den inte \u00e4r imponerande) hos de andra tillh\u00f6r uppenbarligen EI. Man kan s\u00e4ga om dem att g\u00f6ra farliga misstag i beslut, visa ouppm\u00e4rksamhet, gl\u00f6mma n\u00f6dv\u00e4ndiga saker och bli tr\u00f6tta \u2013 dessa \u00e4r deras grundl\u00e4ggande oundvikliga egenskaper. Tyv\u00e4rr \u00e4r dessa egenskaper ocks\u00e5 gemensamma f\u00f6r alla andra b\u00e4rare av EI i st\u00f6rre eller mindre grad. Om den p\u00e5litlighet i sortering av ord eller siffror f\u00f6r EI som n\u00e4mndes tidigare, s\u00e5 verkar till och med en enklare uppgift \u2013 att helt enkelt komma ih\u00e5g ett tal \u2013 vara mycket sv\u00e5r f\u00f6r m\u00e4nniskor. F\u00f6r en maskin \u00e4r m\u00f6jligheten att minnas siffror av pi endast begr\u00e4nsad av minneskapaciteten, medan de flesta m\u00e4nniskor m\u00e5ste anv\u00e4nda f\u00f6r detta mnemonik<\/a><\/noindex>, som \"Vad vet jag om cirklar\". Det kan tyckas att det i str\u00e4ngen \"3,1416\" \u00e4r f\u00e4rre tecken \u00e4n i den angivna mnemoniken, men av n\u00e5gon anledning f\u00f6redrar m\u00e4nniskor att memorera p\u00e5 ett mindre ekonomiskt s\u00e4tt. Och l\u00e4ngre:<\/p>\n

L\u00e4r dig och kom ih\u00e5g, i en k\u00e4nd sekvens, siffran bakom siffran f\u00f6r att uppm\u00e4rksamma tur.<\/p><\/blockquote>\n

<\/p>\n

F\u00f6r att vi inte ska g\u00f6ra n\u00e5got misstag,
\nM\u00e5ste vi l\u00e4sa korrekt.
\nTre, fjorton, femton.
\nNittio tv\u00e5 och sex.<\/p><\/blockquote>\n

\nF\u00f6r att minnas regnb\u00e5gens f\u00e4rger:<\/p>\n

Varje formgivare vill veta var man kan ladda ner Photoshop.<\/p><\/blockquote>\n

Och b\u00f6rjan av Mendelejevs tabell:<\/p>\n

Vattnet (V\u00e4te) blandades med Helium (Helium) f\u00f6r att skapa Litium. Ja, ta och h\u00e4ll (Beryllium) i den pinje (Boron) d\u00e4r under den k\u00e4ra vinkeln (Kol) kikar Asian (Kv\u00e4ve) fram, med ett s\u00e5dant surt ansikte (Syre) att det inte var v\u00e4rt att titta p\u00e5 Fler (Fluor). Men Neon var inte det vi beh\u00f6vde, s\u00e5 vi drog oss tillbaka tre (Natrium) meter och hamnade i Magnolia (Magnesium), d\u00e4r vi smorde Al i en mini (Aluminium) kjol med kr\u00e4m (Kisel) som inneh\u00f6ll Fosfor (Fosfor) f\u00f6r att hon skulle sluta vara Gr\u00e5 (Svavel). Efter detta tog Alja Klor (Klor) och tv\u00e4ttade Argonauternas (Argon) skepp.<\/p><\/blockquote>\n

Men varf\u00f6r finns det en s\u00e5dan uppenbar ofullkomlighet i en s\u00e5 fullkomlig EI? Kanske f\u00e5r m\u00e4nniskan tack vare sin f\u00f6rm\u00e5ga att gl\u00f6mma de enklaste fakta friheten att kombinera fragment av sina tankar i en godtycklig vild ordning och hitta okonventionella l\u00f6sningar? Om s\u00e5 \u00e4r fallet, \u00e4r stark AI om\u00f6jlig. Antingen gl\u00f6mmer den som en m\u00e4nniska eller s\u00e5 har den inte f\u00f6rm\u00e5ga till okonventionella l\u00f6sningar. I vilket fall som helst f\u00f6ljer det av ovanst\u00e5ende antaganden behovet av att avgr\u00e4nsa AI:s m\u00e5l: ett m\u00e5l \u00e4r att modellera EI, ett annat \u00e4r att skapa stark AI. Uppn\u00e5endet av det ena kan utesluta uppn\u00e5endet av det andra.<\/p>\n

Som vi ser uppst\u00e5r det f\u00f6r m\u00e5nga fr\u00e5gor inom AI med oklara svar, s\u00e5 det \u00e4r oklart i vilken riktning vi ska g\u00e5. I s\u00e5dana fall f\u00f6rs\u00f6ker man ofta g\u00e5 \u00e5t alla h\u00e5ll samtidigt. P\u00e5 grund av bristen p\u00e5 matematiskt strikta formuleringar tvingas man \u00e5terg\u00e5 till filosofi och konstn\u00e4rlig litter\u00e4r modellering. Ett av de mest k\u00e4nda exemplen p\u00e5 detta omr\u00e5de \u00e4r boken \"Valet enligt Turing\" (1992) av en av AI:s pionj\u00e4rer Marvin Lee Minsky och den k\u00e4nde science fiction-f\u00f6rfattaren Harry Harrison. Jag ger en citat fr\u00e5n denna bok som kanske f\u00f6rklarar det ovan beskrivna fenomenet av mnemonik:<\/p>\n

M\u00e4nskligt minne \u00e4r inte en bandspelare som spelar in allt i kronologisk ordning. Det fungerar helt annorlunda \u2014 snarare som ett oordnat arkiv med en komplicerad och mots\u00e4gelsefull indexering. Och det \u00e4r inte bara komplicerat \u2014 d\u00e5 och d\u00e5 f\u00f6r\u00e4ndrar vi principerna f\u00f6r klassificering av begrepp.<\/p><\/blockquote>\n

\nEn intressant tolkning av bandspelarmetaforen finns i en annan litter\u00e4r skrift, Stanis\u0142aw Lems ber\u00e4ttelse \"Terminus\" (i serien \"Ber\u00e4ttelser om pilot Pirx\"). H\u00e4r uppst\u00e5r ett slags \"intellektuell bandspelare\": en gammal robot p\u00e5 ett gammalt rymdskepp som en g\u00e5ng varit i en olycka, sysslar med l\u00f6pande reparationer \u00e5tf\u00f6ljda av knackande ljud. Men om man lyssnar noggrant \u00e4r detta inte bara vitt teknologiskt brus, utan en inspelning av morse \u2014 kommunikation mellan bes\u00e4ttningsmedlemmar p\u00e5 det sjunkande skeppet. Pirx ingriper i dessa samtal och f\u00e5r pl\u00f6tsligt svar fr\u00e5n de f\u00f6r l\u00e4nge sedan avlidna astronauterna. Det visar sig att den primitiva reparationsroboten p\u00e5 n\u00e5got s\u00e4tt lagrar kopior av deras medvetande, eller \u00e4r det kognitiva f\u00f6rvr\u00e4ngningar av piloten Pirx uppfattning? <\/p>\n

I en annan ber\u00e4ttelse \"Ananke\" (fr\u00e5n samma serie) leder en kopia av EI i datorn f\u00f6r rymdtransporten till en paranoid \u00f6verbelastning med testuppgifter, vilket slutar med en katastrof.<\/p>\n

I ber\u00e4ttelsen \"Olycksh\u00e4ndelse\" omkommer en f\u00f6r antropomorfisk robot till f\u00f6ljd av en kl\u00e4ttring som den best\u00e4mmer sig f\u00f6r att utf\u00f6ra p\u00e5 sin lediga tid. Beh\u00f6vs s\u00e5dana ut\u00f6vare? Men demoniska varelser som st\u00e4ndigt vattnar blommor \u00e4r \u00e5 andra sidan inte alltid n\u00f6dv\u00e4ndiga.<\/p>\n

Vissa experter inom AI ogillar s\u00e5dana \"filosofier\" och \"litteratur\", men dessa \"filosofier\" och \"litteratur\" \u00e4r traditionellt en del av analysen av EI och \u00e4r oundvikliga s\u00e5 l\u00e4nge AI j\u00e4mf\u00f6rs med EI, och s\u00e4rskilt s\u00e5 l\u00e4nge man f\u00f6rs\u00f6ker kopiera EI i AI.<\/p>\n

Avslutningsvis en unders\u00f6kning om ett antal uppkomna fr\u00e5gor.<\/p>\n

Endast registrerade anv\u00e4ndare kan delta i omr\u00f6stningen. Logga in<\/a><\/noindex>, tack.<\/p>\n

1. R\u00f6r sig AI om uppgifter som datorn l\u00f6ser m\u00e4rkbart s\u00e4mre \u00e4n en m\u00e4nniska?<\/h2>\n
    \n
  • \n

    Ja<\/p>\n<\/li>\n

  • \n

    Ingen<\/p>\n<\/li>\n

  • \n

    Jag k\u00e4nner till en b\u00e4ttre definition. Jag redog\u00f6r f\u00f6r den i kommentarerna.<\/p>\n<\/li>\n

  • \n

    Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

    34 anv\u00e4ndare r\u00f6stade. 7 anv\u00e4ndare avstod.<\/p>\n

    2. Ska AI endast vara en utf\u00f6rare, som alltid tolkar order bokstavligt? Till exempel, om man s\u00e4ger att den ska vattna en blomma \u2014 betyder det att den ska vattna tills den f\u00e5r order att sluta?<\/h2>\n
      \n
    • \n

      Ja<\/p>\n<\/li>\n

    • \n

      Ingen<\/p>\n<\/li>\n

    • \n

      Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

      37 anv\u00e4ndare r\u00f6stade. 6 anv\u00e4ndare avstod.<\/p>\n

      3. \u00c4r det m\u00f6jligt med ett starkt AI vars alla f\u00e4rdigheter \u00e4r maximala (den r\u00f6da linjen i bilden i b\u00f6rjan av artikeln)?<\/h2>\n
        \n
      • \n

        Ja<\/p>\n<\/li>\n

      • \n

        Ingen<\/p>\n<\/li>\n

      • \n

        Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

        35 anv\u00e4ndare har r\u00f6stat. 7 anv\u00e4ndare avstod.<\/p>\n

        4. \u00c4r det m\u00f6jligt med ett super-AI (den bl\u00e5 linjen i bilden i b\u00f6rjan av artikeln)?<\/h2>\n
          \n
        • \n

          Ja<\/p>\n<\/li>\n

        • \n

          Ingen<\/p>\n<\/li>\n

        • \n

          Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

          36 anv\u00e4ndare r\u00f6stade. 7 anv\u00e4ndare avstod.<\/p>\n

          5. B\u00f6r det mellanliggande m\u00e5let vara ett AI som inte \u00e4r starkt men inte helt svagt (den lila linjen i bilden i b\u00f6rjan av artikeln), som i vissa f\u00e4rdigheter kommer att befinna sig under EI, men inte s\u00e5 mycket som nu?<\/h2>\n
            \n
          • \n

            Ja<\/p>\n<\/li>\n

          • \n

            Ingen<\/p>\n<\/li>\n

          • \n

            Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

            33 anv\u00e4ndare r\u00f6stade. 5 anv\u00e4ndare avstod.<\/p>\n

            6. Att g\u00f6ra farliga misstag i beslut, vara ouppm\u00e4rksam, gl\u00f6mma viktiga saker och bli tr\u00f6tt \u2013 \u00e4r dessa grundl\u00e4ggande inneboende egenskaper hos EI?<\/h2>\n
              \n
            • \n

              Ja<\/p>\n<\/li>\n

            • \n

              Ingen<\/p>\n<\/li>\n

            • \n

              Jag har en annan \u00e5sikt som jag kommer att framf\u00f6ra i kommentarerna.<\/p>\n<\/li>\n

            • \n

              Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

              33 anv\u00e4ndare r\u00f6stade. 5 anv\u00e4ndare avstod.<\/p>\n

              7. Genom att kunna gl\u00f6mma de enklaste fakta f\u00e5r m\u00e4nniskan friheten att kombinera fragment av sina tankar i en godtycklig vild ordning och hitta okonventionella l\u00f6sningar?<\/h2>\n
                \n
              • \n

                Ja<\/p>\n<\/li>\n

              • \n

                Ingen<\/p>\n<\/li>\n

              • \n

                Jag har en annan \u00e5sikt som jag kommer att framf\u00f6ra i kommentarerna.<\/p>\n<\/li>\n

              • \n

                Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

                31 anv\u00e4ndare r\u00f6stade. 4 anv\u00e4ndare avstod.<\/p>\n

                8. Modellering av EI och skapande av starkt AI \u00e4r tv\u00e5 olika uppgifter som kan l\u00f6sas med olika metoder?<\/h2>\n
                  \n
                • \n

                  Ja<\/p>\n<\/li>\n

                • \n

                  Ingen<\/p>\n<\/li>\n

                • \n

                  Jag har en annan \u00e5sikt som jag kommer att framf\u00f6ra i kommentarerna.<\/p>\n<\/li>\n

                • \n

                  Jag har sv\u00e5rt att svara<\/p>\n<\/li>\n<\/ul>\n

                  32 anv\u00e4ndare r\u00f6stade. 4 anv\u00e4ndare avstod.
                  \n
                  K\u00e4lla: habr.com<\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"

                  \u041f\u0420\u0415\u0414\u0423\u041f\u0420\u0415\u0416\u0414\u0415\u041d\u0418\u0415 \u0421\u0443\u0434\u044f \u043f\u043e \u0440\u0435\u043a\u043e\u0440\u0434\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u043e\u043c\u0443 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u043b\u0447\u0430\u043b\u0438\u0432\u043e \u043d\u0435\u0434\u043e\u0432\u043e\u043b\u044c\u043d\u044b\u0445 \u043a \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0443 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0442\u043e\u0440\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0435\u0441\u0442\u044c \u0447\u0442\u043e \u0432\u043e\u0437\u0440\u0430\u0437\u0438\u0442\u044c, \u043c\u043d\u043e\u0433\u0438\u043c \u0447\u0438\u0442\u0430\u0442\u0435\u043b\u044f\u043c \u043d\u0435\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e: 1) \u042d\u0442\u043e \u0447\u0438\u0441\u0442\u043e \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u043e\u043d\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f. \u0417\u0434\u0435\u0441\u044c \u043d\u0435 \u0431\u0443\u0434\u0435\u0442 \u043f\u0440\u0430\u043a\u0442\u0438\u0447\u0435\u0441\u043a\u0438\u0445 \u0440\u0435\u043a\u043e\u043c\u0435\u043d\u0434\u0430\u0446\u0438\u0439 \u043f\u043e \u0432\u044b\u0431\u043e\u0440\u0443 \u0438\u043d\u0441\u0442\u0440\u0443\u043c\u0435\u043d\u0442\u043e\u0432 \u0434\u043b\u044f \u043c\u0430\u0439\u043d\u0438\u043d\u0433\u0430 \u043a\u0440\u0438\u043f\u0442\u043e\u0432\u0430\u043b\u044e\u0442\u044b \u0438\u043b\u0438 \u0441\u0431\u043e\u0440\u043a\u0435 \u043c\u0443\u043b\u044c\u0442\u0438\u0432\u0438\u0431\u0440\u0430\u0442\u043e\u0440\u0430, \u0447\u0442\u043e\u0431\u044b \u043c\u0438\u0433\u0430\u0442\u044c \u0434\u0432\u0443\u043c\u044f \u043b\u0430\u043c\u043f\u043e\u0447\u043a\u0430\u043c\u0438. 2) \u042d\u0442\u043e \u043d\u0435 \u043d\u0430\u0443\u0447\u043d\u043e-\u043f\u043e\u043f\u0443\u043b\u044f\u0440\u043d\u0430\u044f \u0441\u0442\u0430\u0442\u044c\u044f. \u0417\u0434\u0435\u0441\u044c \u043d\u0435 \u0431\u0443\u0434\u0435\u0442 \u043e\u0431\u044a\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0434\u043b\u044f \u0447\u0430\u0439\u043d\u0438\u043a\u0430 […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":26503,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-35308","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\n","aioseo_head_json":{"title":"\ud83e\udd47Vilken elev beh\u00f6vs av trollkarlen och vilken AI beh\u00f6ver vi? | ProHoster","description":"VARNING Enligt det rekordh\u00f6ga f\u00f6rh\u00e5llandet av tysta missn\u00f6jda till antalet kommentatorer som har n\u00e5got att inv\u00e4nda, \u00e4r det f\u00f6r m\u00e5nga l\u00e4sare oklart att: 1) Detta \u00e4r helt teoretiskt.","canonical_url":"https:\/\/prohoster.info\/sv\/blog\/news\/kakoj-uchenik-nuzhen-charodeyu-i-kakoj-ii-nuzhen-nam","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"sv_SE","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041a\u0430\u043a\u043e\u0439 \u0443\u0447\u0435\u043d\u0438\u043a \u043d\u0443\u0436\u0435\u043d \u0447\u0430\u0440\u043e\u0434\u0435\u044e \u0438 \u043a\u0430\u043a\u043e\u0439 \u0418\u0418 \u043d\u0443\u0436\u0435\u043d \u043d\u0430\u043c? | ProHoster","og:description":"\u041f\u0420\u0415\u0414\u0423\u041f\u0420\u0415\u0416\u0414\u0415\u041d\u0418\u0415 \u0421\u0443\u0434\u044f \u043f\u043e \u0440\u0435\u043a\u043e\u0440\u0434\u043d\u043e \u0432\u044b\u0441\u043e\u043a\u043e\u043c\u0443 \u043e\u0442\u043d\u043e\u0448\u0435\u043d\u0438\u044e \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0430 \u043c\u043e\u043b\u0447\u0430\u043b\u0438\u0432\u043e \u043d\u0435\u0434\u043e\u0432\u043e\u043b\u044c\u043d\u044b\u0445 \u043a \u043a\u043e\u043b\u0438\u0447\u0435\u0441\u0442\u0432\u0443 \u043a\u043e\u043c\u043c\u0435\u043d\u0442\u0430\u0442\u043e\u0440\u043e\u0432, \u043a\u043e\u0442\u043e\u0440\u044b\u043c \u0435\u0441\u0442\u044c \u0447\u0442\u043e \u0432\u043e\u0437\u0440\u0430\u0437\u0438\u0442\u044c, \u043c\u043d\u043e\u0433\u0438\u043c \u0447\u0438\u0442\u0430\u0442\u0435\u043b\u044f\u043c \u043d\u0435\u043e\u0447\u0435\u0432\u0438\u0434\u043d\u043e, \u0447\u0442\u043e: 1) \u042d\u0442\u043e \u0447\u0438\u0441\u0442\u043e \u0442\u0435\u043e\u0440\u0435\u0442\u0438\u0447\u0435\u0441\u043a\u0430\u044f.","og:url":"https:\/\/prohoster.info\/sv\/blog\/news\/kakoj-uchenik-nuzhen-charodeyu-i-kakoj-ii-nuzhen-nam","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:03:32+00:00","article:modified_time":"2019-10-31T19:03:32+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"35308","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 22:44:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:06:24","updated":"2026-01-21 22:44:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/35308","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/comments?post=35308"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/posts\/35308\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/media\/26503"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/media?parent=35308"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/categories?post=35308"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/sv\/wp-json\/wp\/v2\/tags?post=35308"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}