<\/a><\/noindex>I sin bok argumenterar Marcus och hans medf\u00f6rfattare Ernest Davis f\u00f6r en annan v\u00e4g. De anser att vi fortfarande har l\u00e5ngt kvar till att skapa generell AI, men \u00e4r \u00f6vertygade om att det f\u00f6rr eller senare kommer att vara m\u00f6jligt.<\/p>\n
Vad beh\u00f6ver vi generell AI till? Specialiserade versioner har redan skapats och ger mycket nytta.<\/b><\/p>\n
Visst, och nyttan kommer att \u00f6ka \u00e4nnu mer. Men det finns m\u00e5nga uppgifter som specialiserad AI helt enkelt inte kan l\u00f6sa. Till exempel, f\u00f6rst\u00e5else av vardagligt tal, eller allm\u00e4n hj\u00e4lp i den virtuella v\u00e4rlden, eller en robot som hj\u00e4lper till med st\u00e4dning och matlagning. S\u00e5dana uppgifter ligger utanf\u00f6r specialiserad AIs kapabiliteter. En annan intressant praktisk fr\u00e5ga: kan specialiserad AI anv\u00e4ndas f\u00f6r att skapa en s\u00e4ker sj\u00e4lvk\u00f6rande bil? Erfarenheten visar att denna typ av AI fortfarande har m\u00e5nga problem med beteendet i anomala situationer, \u00e4ven n\u00e4r den k\u00f6r, vilket g\u00f6r situationen ganska komplicerad.<\/p>\n
Jag tror att vi alla skulle vilja ha en AI som kan hj\u00e4lpa oss att g\u00f6ra nya storskaliga uppt\u00e4ckter inom medicin. Det \u00e4r oklart om den nuvarande teknologin \u00e4r tillr\u00e4cklig, eftersom biologi \u00e4r ett komplext omr\u00e5de. Man m\u00e5ste vara beredd att l\u00e4sa m\u00e5nga b\u00f6cker. Forskare f\u00f6rst\u00e5r orsakssamband i interaktionen mellan n\u00e4tverk och molekyler, kan utveckla teorier om planeter och s\u00e5 vidare. Men med specialiserad AI kan vi inte skapa maskiner som \u00e4r kapabla till s\u00e5dana uppt\u00e4ckter. Med generell AI skulle vi kunna revolutionera vetenskap, teknik och medicin. Jag tycker att det \u00e4r mycket viktigt att forts\u00e4tta arbeta mot att skapa generell AI.<\/p>\n
Tycks det som att du menar stark AI med \"generell\"?<\/b><\/p>\n
Med \"generell\" menar jag att AI:n ska kunna t\u00e4nka och sj\u00e4lvst\u00e4ndigt l\u00f6sa nya uppgifter i realtid. Till skillnad fr\u00e5n, s\u00e4g, Go, d\u00e4r problemet har varit detsamma de senaste 2000 \u00e5ren.<\/p>\n
Generell AI m\u00e5ste kunna fatta beslut b\u00e5de inom politik och medicin. Det \u00e4r en analogi till m\u00e4nsklig f\u00f6rm\u00e5ga; varje f\u00f6rnuftig person kan g\u00f6ra mycket. Man tar oerfarna studenter och efter n\u00e5gra dagar f\u00e5r man dem att arbeta n\u00e4stan med vad som helst, fr\u00e5n juridiska uppgifter till medicinska. Det beror p\u00e5 att de har en allm\u00e4n f\u00f6rst\u00e5else av v\u00e4rlden och kan l\u00e4sa, och d\u00e4rigenom kan bidra till ett mycket brett spektrum av aktiviteter.<\/p>\n
Relationen mellan s\u00e5dan intelligens och stark intelligens ligger i att svag intelligens sannolikt inte kommer att kunna l\u00f6sa generella uppgifter. F\u00f6r att skapa n\u00e5got tillr\u00e4ckligt p\u00e5litligt som kan arbeta med en st\u00e4ndigt f\u00f6r\u00e4nderlig v\u00e4rld, kan du \u00e5tminstone beh\u00f6va n\u00e4rma dig generell intelligens.<\/p>\n
\u041d\u043e \u0441\u0435\u0439\u0447\u0430\u0441 \u043c\u044b \u043e\u0442 \u044d\u0442\u043e\u0433\u043e \u043e\u0447\u0435\u043d\u044c \u0434\u0430\u043b\u0435\u043a\u0438. AlphaGo \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0435\u043a\u0440\u0430\u0441\u043d\u043e \u0438\u0433\u0440\u0430\u0442\u044c \u043d\u0430 \u0434\u043e\u0441\u043a\u0435 19×19, \u043d\u043e \u0435\u0433\u043e \u043d\u0443\u0436\u043d\u043e \u043f\u0435\u0440\u0435\u043e\u0431\u0443\u0447\u0430\u0442\u044c \u0434\u043b\u044f \u0438\u0433\u0440\u044b \u043d\u0430 \u043f\u0440\u044f\u043c\u043e\u0443\u0433\u043e\u043b\u044c\u043d\u043e\u0439 \u0434\u043e\u0441\u043a\u0435. \u0418\u043b\u0438 \u0432\u043e\u0437\u044c\u043c\u0438\u0442\u0435 \u0441\u0440\u0435\u0434\u043d\u0435\u0441\u0442\u0430\u0442\u0438\u0441\u0442\u0438\u0447\u0435\u0441\u043a\u0443\u044e \u0441\u0438\u0441\u0442\u0435\u043c\u0443 \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f: \u043e\u043d\u0430 \u0441\u043f\u043e\u0441\u043e\u0431\u043d\u0430 \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0442\u044c \u0441\u043b\u043e\u043d\u0430, \u0435\u0441\u043b\u0438 \u043e\u043d \u0445\u043e\u0440\u043e\u0448\u043e \u043e\u0441\u0432\u0435\u0449\u0451\u043d \u0438 \u0432\u0438\u0434\u043d\u0430 \u0442\u0435\u043a\u0441\u0442\u0443\u0440\u0430 \u0435\u0433\u043e \u043a\u043e\u0436\u0438. \u0410 \u0435\u0441\u043b\u0438 \u0432\u0438\u0434\u0435\u043d \u043b\u0438\u0448\u044c \u0441\u0438\u043b\u0443\u044d\u0442 \u0441\u043b\u043e\u043d\u0430, \u0441\u0438\u0441\u0442\u0435\u043c\u0430 \u043d\u0430\u0432\u0435\u0440\u043d\u044f\u043a\u0430 \u043d\u0435 \u0441\u043c\u043e\u0436\u0435\u0442 \u0435\u0433\u043e \u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0442\u044c.<\/p>\n
I sin bok n\u00e4mner ni att djupinl\u00e4rning inte kan n\u00e5 kapaciteten hos allm\u00e4n AI eftersom det inte kan uppn\u00e5 djup f\u00f6rst\u00e5else.<\/b><\/p>\n
Inom kognitionsvetenskap pratar man om att bilda olika kognitiva modeller. Jag sitter i hotellrummet och f\u00f6rst\u00e5r att d\u00e4r \u00e4r en garderob, d\u00e4r \u00e4r en s\u00e4ng, d\u00e4r \u00e4r en tv som \u00e4r konstigt upph\u00e4ngd. Jag k\u00e4nner till alla dessa f\u00f6rem\u00e5l, jag identifierar dem inte bara. Jag f\u00f6rst\u00e5r ocks\u00e5 hur de \u00e4r relaterade till varandra. Jag har id\u00e9er om hur den omgivande v\u00e4rlden fungerar. De \u00e4r inte perfekta. De kan vara felaktiga, men de \u00e4r ganska bra. Och p\u00e5 basis av dem g\u00f6r jag m\u00e5nga slutsatser som blir v\u00e4gledning f\u00f6r mina dagliga handlingar.<\/p>\n
Den andra ytterligheten \u00e4r n\u00e5got som en spelmaskin fr\u00e5n Atari, skapad av DeepMind, d\u00e4r den kom ih\u00e5g vad den skulle g\u00f6ra n\u00e4r den s\u00e5g pixlar p\u00e5 vissa platser p\u00e5 sk\u00e4rmen. Om du f\u00e5r tillr\u00e4ckligt med data kan det tyckas som om du har f\u00f6rst\u00e5else, men i verkligheten \u00e4r det mycket ytligt. Ett bevis p\u00e5 detta \u00e4r att om objekten flyttas tre pixlar, spelar AI:n mycket s\u00e4mre. F\u00f6r\u00e4ndringar s\u00e4tter den i en \u00e5terv\u00e4ndsgr\u00e4nd. Detta \u00e4r motsatsen till djup f\u00f6rst\u00e5else.<\/p>\n
F\u00f6r att l\u00f6sa detta problem f\u00f6resl\u00e5r ni att vi g\u00e5r tillbaka till klassisk AI. Vilka f\u00f6rdelar beh\u00f6ver vi str\u00e4va efter att utnyttja?<\/b><\/p>\n
Det finns flera f\u00f6rdelar. <\/p>\n
F\u00f6r det f\u00f6rsta \u00e4r klassisk AI faktiskt en ram f\u00f6r att skapa kognitiva modeller av v\u00e4rlden, utifr\u00e5n vilka slutledningar kan dra.<\/p>\n
F\u00f6r det andra \u00e4r klassisk AI perfekt kompatibel med regler. F\u00f6r n\u00e4rvarande finns det en konstig trend inom djupinl\u00e4rning d\u00e4r experter f\u00f6rs\u00f6ker undvika regler. De vill g\u00f6ra allt med neurala n\u00e4tverk och inte g\u00f6ra n\u00e5got som ser ut som klassisk programmering. Men det finns uppgifter som har l\u00f6sts p\u00e5 det traditionella s\u00e4ttet utan att n\u00e5gon har lagt m\u00e4rke till det. Till exempel ruttplanering i Google Maps.<\/p>\n
Vi beh\u00f6ver faktiskt b\u00e5da angreppen. Maskininl\u00e4rning g\u00f6r det m\u00f6jligt att l\u00e4ra sig bra fr\u00e5n data, men hj\u00e4lper mycket d\u00e5ligt med att avbilda den abstraktion som ett datorprogram representerar. Klasisk AI fungerar bra med abstraktioner, men m\u00e5ste programmeras helt manuellt, och v\u00e4rlden har ackumulerat f\u00f6r mycket kunskap f\u00f6r att allt ska kunna programmeras. Det \u00e4r uppenbart att vi beh\u00f6ver kombinera b\u00e5da angreppen.<\/p>\n
Detta g\u00e4ller kapitlet d\u00e4r du ber\u00e4ttar om vad vi kan l\u00e4ra oss av den m\u00e4nskliga intelligensen. F\u00f6rst och fr\u00e4mst om konceptet som bygger p\u00e5 den ovan n\u00e4mnda id\u00e9n att v\u00e5rt medvetande best\u00e5r av m\u00e5nga olika system som fungerar p\u00e5 olika s\u00e4tt.<\/b><\/p>\n
Jag tror att det finns ett annat s\u00e4tt att f\u00f6rklara detta: varje kognitivt system som vi har l\u00f6ser faktiskt olika uppgifter. Lika delar av AI b\u00f6r designas f\u00f6r att l\u00f6sa olika uppgifter som har olika egenskaper.<\/p>\n
Just nu f\u00f6rs\u00f6ker vi anv\u00e4nda n\u00e5gon slags allt-i-ett-teknik f\u00f6r att l\u00f6sa uppgifter som \u00e4r radikalt olika fr\u00e5n varandra. Att f\u00f6rst\u00e5 en mening \u00e4r inte detsamma som att k\u00e4nna igen ett objekt. Men m\u00e4nniskor f\u00f6rs\u00f6ker i b\u00e5da fallen anv\u00e4nda djupinl\u00e4rning. Ur kognitiv synvinkel \u00e4r detta kvalitativt olika uppgifter. Jag \u00e4r bara f\u00f6rundrad \u00f6ver hur lite gemenskapen av experter p\u00e5 djupinl\u00e4rning v\u00e4rdes\u00e4tter klassisk AI. Varf\u00f6r v\u00e4nta p\u00e5 en silverkula? Den \u00e4r ouppn\u00e5elig, och fruktl\u00f6sa s\u00f6kningar g\u00f6r att vi inte f\u00f6rst\u00e5r hela komplexiteten i uppgiften att skapa AI.<\/p>\n
Du n\u00e4mner ocks\u00e5 att AI-system \u00e4r n\u00f6dv\u00e4ndiga f\u00f6r att f\u00f6rst\u00e5 orsakssamband. Anser du att djupinl\u00e4rning, klassisk AI, eller n\u00e5got helt nytt kan hj\u00e4lpa oss med detta?<\/b><\/p>\n
Detta \u00e4r ett annat omr\u00e5de d\u00e4r djupinl\u00e4rning inte passar s\u00e5 bra. Det f\u00f6rklarar inte orsakerna till vissa h\u00e4ndelser, utan ber\u00e4knar sannolikheten f\u00f6r en h\u00e4ndelse under givna f\u00f6rh\u00e5llanden.<\/p>\n
Vad pratar vi om? Du tittar p\u00e5 vissa scenarier och f\u00f6rst\u00e5r varf\u00f6r detta h\u00e4nder och vad som kan h\u00e4nda om vissa omst\u00e4ndigheter f\u00f6r\u00e4ndras. Jag kan titta p\u00e5 st\u00e4llningen d\u00e4r TV:n st\u00e5r och f\u00f6rest\u00e4lla mig att om jag klipper bort ett ben s\u00e5 kommer st\u00e4llningen att tippa och TV:n att falla. Det \u00e4r orsakssamband.<\/p>\n
Klassisk AI ger oss n\u00e5gra verktyg f\u00f6r detta. Den kan till exempel f\u00f6rest\u00e4lla sig vad st\u00f6d och vad fall inneb\u00e4r. Men jag t\u00e4nker inte \u00f6verdriva. Problemet \u00e4r att klassisk AI i stora drag beror p\u00e5 hur komplett informationen om situationen \u00e4r, och jag drog slutsatser bara genom att titta p\u00e5 st\u00e4llningen. Jag kan p\u00e5 n\u00e5got s\u00e4tt generalisera, f\u00f6rest\u00e4lla mig delar av st\u00e4llningen som jag inte kan se. Vi har \u00e4nnu inga verktyg f\u00f6r att implementera denna egenskap.<\/p>\n
Ni talar dessutom om att m\u00e4nniskor har medf\u00f6dd kunskap. Hur skulle detta kunna realiseras i AI?<\/b><\/p>\n
Vid f\u00f6dseln \u00e4r v\u00e5r hj\u00e4rna redan en mycket genomt\u00e4nkt system. Den \u00e4r inte fast, naturen skapade den f\u00f6rsta grovskissen. Och sedan hj\u00e4lper inl\u00e4rning oss att ompr\u00f6va denna skiss genom hela v\u00e5rt liv.<\/p>\n
Den grova skissen av hj\u00e4rnan har redan vissa kapaciteter. En nyf\u00f6dd bergsgetter kan redan efter n\u00e5gra timmar felfritt ta sig nerf\u00f6r en backe. Det \u00e4r tydligt att den redan har en f\u00f6rst\u00e5else f\u00f6r det tredimensionella rummet, sin kropp och relationen mellan dem. En mycket komplex system.<\/p>\n
Delvis d\u00e4rf\u00f6r anser jag att vi beh\u00f6ver hybrider. Det \u00e4r sv\u00e5rt att f\u00f6rest\u00e4lla sig hur man kan skapa en robot som fungerar bra i v\u00e4rlden utan liknande kunskap, varifr\u00e5n den ska b\u00f6rja, snarare \u00e4n att b\u00f6rja med ett blankt blad och l\u00e4ra sig fr\u00e5n l\u00e5ng, stor erfarenhet.<\/p>\n
N\u00e4r det g\u00e4ller m\u00e4nniskor kommer v\u00e5r medf\u00f6dda kunskap fr\u00e5n v\u00e5rt genom som har utvecklats under l\u00e5ng tid. Med AI-system m\u00e5ste vi g\u00e5 en annan v\u00e4g. Delvis kan detta vara regler f\u00f6r hur vi bygger v\u00e5ra algoritmer. Delvis kan det vara regler f\u00f6r hur man skapar dataskonstruktioner som dessa algoritmer manipulerar. Och delvis kan det vara kunskaper som vi direkt kommer att l\u00e4gga in i maskiner.<\/p>\n
Det \u00e4r intressant att ni i boken leder fram till id\u00e9n om f\u00f6rtroende och att skapa f\u00f6rtroendesystem. Varf\u00f6r valde ni just detta kriterium?<\/b><\/p>\n
Jag anser att allt detta idag utg\u00f6r ett spel. Jag tycker att vi lever i en underlig tid i historien, mycket av v\u00e5r tillit ligger p\u00e5 programvara som inte f\u00f6rtj\u00e4nar det. Jag tror att v\u00e5ra nuvarande bekymmer inte kommer att vara eviga. Om hundra \u00e5r kommer AI att r\u00e4ttf\u00e4rdiga v\u00e5rt f\u00f6rtroende, eller kanske till och med tidigare.<\/p>\n
Men idag \u00e4r AI farlig. Inte p\u00e5 det s\u00e4tt som Elon Musk oroar sig f\u00f6r, utan att rekryteringssystemen diskriminerar kvinnor, oavsett vad programmerarna g\u00f6r, eftersom deras verktyg \u00e4r alldeles f\u00f6r enkla.<\/p>\n
Jag skulle vilja att vi hade mer kvalitativ AI. Jag vill inte att det ska b\u00f6rja en \"AI-vinter\" n\u00e4r m\u00e4nniskor inser att AI inte fungerar och bara \u00e4r farligt, och inte vill \u00e5tg\u00e4rda det.<\/p>\n
P\u00e5 vissa s\u00e4tt verkar din bok verkligen mycket optimistisk. Du f\u00f6resl\u00e5r att det g\u00e5r att bygga p\u00e5litlig AI. Vi m\u00e5ste bara se i en annan riktning.<\/b><\/p>\n
R\u00e4tt, boken \u00e4r mycket pessimistisk p\u00e5 kort sikt och mycket optimistisk p\u00e5 l\u00e5ng sikt. Vi tror att alla problem vi beskriver kan l\u00f6sas om vi ser bredare p\u00e5 vad de r\u00e4tta svaren b\u00f6r vara. Och vi anser att om detta sker, blir v\u00e4rlden b\u00e4ttre.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Vi](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")