<\/a><\/noindex>I sin bog argumenterer Marcus og hans medforfatter Ernest Davis for en anden vej. De mener, at vi stadig er langt fra at skabe generel AI, men er sikre p\u00e5, at det vil lykkes at skabe det f\u00f8r eller siden.<\/p>\n
Hvorfor har vi brug for generel AI? Specialiserede versioner er allerede skabt og gavner os p\u00e5 mange m\u00e5der.<\/b><\/p>\n
Det er sandt, og der vil v\u00e6re endnu mere gavn. Men der er mange opgaver, som specialiseret AI simpelthen ikke kan l\u00f8se. For eksempel forst\u00e5else af almindelig tale, eller generel hj\u00e6lp i den virtuelle verden, eller en robot, der hj\u00e6lper med reng\u00f8ring og madlavning. S\u00e5danne opgaver ligger uden for specialiseret AIs muligheder. En anden interessant praktisk sp\u00f8rgsm\u00e5l: kan man med specialiseret AI skabe en sikker selvk\u00f8rende bil? Erfaring viser, at s\u00e5dan AI stadig har mange problemer med opf\u00f8rsel i unormale situationer, selv under k\u00f8rsel, hvilket g\u00f8r situationen ret kompliceret.<\/p>\n
Jeg tror, at vi alle gerne vil have en AI, der kan hj\u00e6lpe os med at g\u00f8re nye, store opdagelser inden for medicin. Det er uklart, om de nuv\u00e6rende teknologier kan bruges til dette, da biologi er et komplekst omr\u00e5de. Man skal v\u00e6re klar til at l\u00e6se en del b\u00f8ger. Forskere forst\u00e5r \u00e5rsagssammenh\u00e6nge i interaktionerne mellem netv\u00e6rk og molekyler, kan udvikle teorier om planeter og s\u00e5 videre. Men med specialiseret AI kan vi ikke skabe maskiner, der er i stand til s\u00e5danne opdagelser. Med generel AI kunne vi dog revolutionere videnskab, teknologi og medicin. Efter min mening er det meget vigtigt at forts\u00e6tte arbejdet p\u00e5 at skabe generel AI.<\/p>\n
Mener du med \"generel\", at du t\u00e6nker p\u00e5 st\u00e6rk AI?<\/b><\/p>\n
N\u00e5r jeg siger \"generel\", mener jeg, at AI vil kunne t\u00e6nke og selvst\u00e6ndigt l\u00f8se nye opgaver i realtid. I mods\u00e6tning til, lad os sige, Go, hvor problemet ikke har \u00e6ndret sig i de sidste 2000 \u00e5r.<\/p>\n
Generel AI skal kunne tr\u00e6ffe beslutninger inden for b\u00e5de politik og medicin. Dette er analogt med menneskets evne; enhver fornuftig person kan g\u00f8re meget. Du tager uerfarne studerende og f\u00e5r dem til at arbejde p\u00e5 stort set hvad som helst efter et par dage, lige fra juridiske opgaver til medicinske. Dette er muligt, fordi de har en generel forst\u00e5else af verden og kan l\u00e6se, og derfor kan de bidrage til et meget bredt spektrum af aktiviteter.<\/p>\n
Forholdet mellem s\u00e5dan intelligens og st\u00e6rk AI er, at svag AI sandsynligvis ikke vil v\u00e6re i stand til at l\u00f8se generelle opgaver. For at skabe noget der er tilstr\u00e6kkeligt p\u00e5lideligt, i stand til at arbejde med en konstant \u00e6ndrende verden, kr\u00e6ves det muligvis, at man er mindst tiln\u00e6rmelsesvis t\u00e6t p\u00e5 generel intelligens.<\/p>\n
Men vi er langt fra det nu. AlphaGo kan spille fremragende p\u00e5 et 19x19 br\u00e6t, men det skal genuddannes for at spille p\u00e5 et rektangul\u00e6rt br\u00e6t. Eller tag et gennemsnitligt dybt l\u00e6ringssystem: det kan genkende en elefant, hvis den er godt belyst, og teksturen p\u00e5 dens hud kan ses. Men hvis kun silhuetten af elefanten er synlig, vil systemet helt sikkert ikke kunne genkende den.<\/p>\n
I din bog n\u00e6vner du, at dyb l\u00e6ring ikke kan n\u00e5 evnerne for generel AI, fordi det ikke er i stand til at opn\u00e5 dyb forst\u00e5else.<\/b><\/p>\n
Inden for kognitionsvidenskab taler man om dannelse af forskellige kognitive modeller. Jeg sidder p\u00e5 hotelv\u00e6relset og forst\u00e5r, at der er et skab der, en seng der, en tv, som h\u00e6nger us\u00e6dvanligt. Jeg kender alle disse genstande, jeg identificerer dem ikke blot. Jeg forst\u00e5r ogs\u00e5, hvordan de er relateret til hinanden. Jeg har ideer om, hvordan den omgivende verden fungerer. De er ikke perfekte. De kan v\u00e6re forkerte, men de er ret gode. Og p\u00e5 baggrund af dem drager jeg mange konklusioner, der bliver vejledende for mine hverdagshandlinger.<\/p>\n
Den anden ekstrem er noget som et Atari-spilsystem, skabt af DeepMind, hvor det huskede, hvad det skulle g\u00f8re, n\u00e5r det s\u00e5 pixler p\u00e5 bestemte steder p\u00e5 sk\u00e6rmen. Hvis du f\u00e5r nok data, kan det virke som om, du har forst\u00e5else, men i virkeligheden er den meget overfladisk. Beviset p\u00e5 dette er, at hvis objekter flyttes tre pixler, spiller AI meget d\u00e5rligere. Forandringer forvirrer den. Dette st\u00e5r i kontrast til dyb forst\u00e5else.<\/p>\n
For at l\u00f8se dette problem foresl\u00e5r du at vende tilbage til klassisk AI. Hvilke fordele skal vi bestr\u00e6be os p\u00e5 at udnytte?<\/b><\/p>\n
Der er flere fordele. <\/p>\n
For det f\u00f8rste er klassisk AI faktisk en ramme for at skabe kognitive modeller af verden, p\u00e5 baggrund af hvilke man senere kan drage konklusioner.<\/p>\n
For det andet er klassisk AI perfekt kompatibel med regler. I \u00f8jeblikket observeres der en underlig tendens inden for dyb l\u00e6ring, hvor specialister fors\u00f8ger at undg\u00e5 regler. De \u00f8nsker at lave alt p\u00e5 neurale netv\u00e6rk og ikke g\u00f8re noget, der ligner klassisk programmering. Men der er opgaver, der blev l\u00f8st p\u00e5 en s\u00e5dan m\u00e5de, tidligere uden at nogen lagde m\u00e6rke til det. For eksempel ruteplanl\u00e6gning i Google Maps.<\/p>\n
Vi har brug for begge tilgange. Maskinl\u00e6ring tillader os at l\u00e6re godt fra data, men hj\u00e6lper meget d\u00e5rligt med at vise den abstraktion, som et computerprogram repr\u00e6senterer. Klassisk AI fungerer godt med abstraktioner, men skal programmere hele vejen manuelt, og der er opsamlet for meget viden i verden til, at vi kan programmere alt. Det er \u00e5benlyst, at vi skal kombinere begge tilgange.<\/p>\n
Dette relaterer til kapitlet, hvor du taler om, hvad vi kan l\u00e6re af den menneskelige hjerne. F\u00f8rst og fremmest om konceptet, der er baseret p\u00e5 ovenn\u00e6vnte id\u00e9 om, at vores bevidsthed best\u00e5r af mange forskellige systemer, der arbejder p\u00e5 forskellige m\u00e5der.<\/b><\/p>\n
Jeg tror, der er en anden m\u00e5de at forklare dette p\u00e5: Hver kognitivt system, vi har, l\u00f8ser faktisk forskellige opgaver. Lignende dele af AI b\u00f8r designes til at l\u00f8se forskellige opgaver, der har forskellige karakteristika.<\/p>\n
Lige nu fors\u00f8ger vi at bruge nogle alt-i-\u00e9n teknologier til at l\u00f8se opgaver, der er radikalt forskellige fra hinanden. At forst\u00e5 en s\u00e6tning er slet ikke det samme som at genkende et objekt. Men folk pr\u00f8ver i begge tilf\u00e6lde at bruge dyb l\u00e6ring. Fra en kognitiv synsvinkel er dette kvalitativt forskellige opgaver. Jeg er bare forbavset over, hvor lidt v\u00e6rdi dyb l\u00e6ringsspecialister s\u00e6tter p\u00e5 klassisk AI. Hvorfor vente p\u00e5 den s\u00f8lvkugle? Den er uopn\u00e5elig, og frugtesl\u00f8s s\u00f8gen forhindrer os i at forst\u00e5 kompleksiteten i opgaven med at skabe AI.<\/p>\n
Du n\u00e6vner ogs\u00e5, at AI-systemer er n\u00f8dvendige for at forst\u00e5 \u00e5rsagssammenh\u00e6nge. Mener du, at dyb l\u00e6ring, klassisk AI eller noget helt nyt vil hj\u00e6lpe os med dette?<\/b><\/p>\n
Dette er endnu et omr\u00e5de, hvor dyb l\u00e6ring ikke er s\u00e5 godt egnet. Det forklarer ikke \u00e5rsagerne til nogle begivenheder, men beregner sandsynligheden for en begivenhed under givne betingelser.<\/p>\n
Hvad taler vi om? Du ser nogle scenarier, og du forst\u00e5r, hvorfor det sker, og hvad der kan ske, hvis nogle omst\u00e6ndigheder \u00e6ndres. Jeg kan se p\u00e5 stativet, som fjernsynet st\u00e5r p\u00e5, og forestille mig, at hvis jeg sk\u00e6rer en fod af det, s\u00e5 vil stativet v\u00e6lte, og fjernsynet falde. Det er \u00e5rsagssammenh\u00e6ng.<\/p>\n
Klassisk AI giver os nogle v\u00e6rkt\u00f8jer til dette. Den kan eksempelvis forestille sig, hvad st\u00f8tte er, og hvad fald betyder. Men jeg vil ikke overdrive. Problemet er, at klassisk AI i h\u00f8j grad er afh\u00e6ngig af fuld information om, hvad der sker, og jeg har kun konkluderet dette ved at se p\u00e5 stativet. Jeg kan p\u00e5 en eller anden m\u00e5de generalisere, forestille mig dele af stativet, som jeg ikke kan se. Vi har endnu ikke v\u00e6rkt\u00f8jer til at realisere denne egenskab.<\/p>\n
I taler ogs\u00e5 om, at mennesker har medf\u00f8dt viden. Hvordan kan dette implementeres i AI?<\/b><\/p>\n
Ved f\u00f8dslen er vores hjerne allerede en meget gennemf\u00f8rt system. Den er ikke fastl\u00e5st; naturen skabte den f\u00f8rste, grove skitse. Og derefter hj\u00e6lper l\u00e6ring os med at revidere denne skitse gennem hele vores liv.<\/p>\n
Den grove skitse af hjernen har allerede visse evner. Den nyf\u00f8dte ibex kan allerede efter f\u00e5 timer uden fejl bev\u00e6ge sig ned ad bjerget. Det er tydeligt, at den allerede har en forst\u00e5else af det tredimensionale rum, sin krop og relationen mellem dem. En ret kompleks system.<\/p>\n
Delvist derfor mener jeg, at vi har brug for hybrider. Det er sv\u00e6rt at forestille sig, hvordan man kan skabe en robot, der fungerer godt i verden uden lignende viden, om hvordan den skal begynde, i stedet for at starte fra bunden og l\u00e6re af en lang, omfattende erfaring.<\/p>\n
N\u00e5r det g\u00e6lder mennesker, stammer vores medf\u00f8dte viden fra vores genom, som har udviklet sig over lang tid. Og med AI-systemer m\u00e5 vi tage en anden vej. Delvist kan det v\u00e6re reglerne for opbygningen af vores algoritmer. Delvist kan det v\u00e6re reglerne for oprettelse af datakonstruktioner, som disse algoritmer manipulerer med. Og delvist kan det v\u00e6re viden, som vi direkte vil indl\u00e6gge i maskinerne.<\/p>\n
Det er interessant, at du i bogen bringer ideen om tillid og opbygning af tillidsfulde systemer p\u00e5 banen. Hvorfor valgte du netop dette kriterium?<\/b><\/p>\n
Jeg mener, at alt dette i dag repr\u00e6senterer et spil. Det synes, vi lever i et m\u00e6rkeligt \u00f8jeblik i historien, hvor vi i h\u00f8j grad stoler p\u00e5 software, der ikke fortjener tillid. Jeg tror, at vores nuv\u00e6rende bekymringer ikke vil v\u00e6re evige. Om hundrede \u00e5r vil AI retf\u00e6rdigg\u00f8re vores tillid, og m\u00e5ske f\u00f8r.<\/p>\n
Men i dag er AI farligt. Ikke p\u00e5 den m\u00e5de, som Elon Musk frygter, men fordi ans\u00f8gningssystemer diskriminerer kvinder, uanset hvad programm\u00f8rerne g\u00f8r, fordi deres v\u00e6rkt\u00f8jer er alt for simple.<\/p>\n
Jeg ville \u00f8nske, at vi havde en mere kvalitetsbevidst AI. Jeg \u00f8nsker ikke, at vi skal opleve en 'AI-vinter', hvor folk indser, at AI ikke fungerer og simpelthen er farligt, og at de ikke \u00f8nsker at rette op p\u00e5 det.<\/p>\n
P\u00e5 en m\u00e5de virker din bog faktisk meget optimistisk. Du antyder, at det er muligt at bygge en trov\u00e6rdig AI. Vi skal bare se i en anden retning.<\/b><\/p>\n
Det er rigtigt, bogen er meget pessimistisk p\u00e5 kort sigt og meget optimistisk p\u00e5 lang sigt. Vi mener, at alle de problemer, vi har beskrevet, kan l\u00f8ses, hvis vi ser bredere p\u00e5, hvad de rigtige svar b\u00f8r v\u00e6re. Og vi tror, at hvis det sker, vil verden blive bedre.habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"\u042d\u0442\u043e\u0442 \u0442\u0435\u043a\u0441\u0442 \u2014 \u043d\u0435 \u0440\u0435\u0437\u0443\u043b\u044c\u0442\u0430\u0442 \u043d\u0430\u0443\u0447\u043d\u043e\u0433\u043e \u0438\u0441\u0441\u043b\u0435\u0434\u043e\u0432\u0430\u043d\u0438\u044f, \u0430 \u043e\u0434\u043d\u043e \u0438\u0437 \u043c\u043d\u043e\u0433\u0438\u0445 \u043c\u043d\u0435\u043d\u0438\u0439 \u043e\u0442\u043d\u043e\u0441\u0438\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430\u0448\u0435\u0433\u043e \u0431\u043b\u0438\u0436\u0430\u0439\u0448\u0435\u0433\u043e \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0447\u0435\u0441\u043a\u043e\u0433\u043e \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f. \u0418 \u0437\u0430\u043e\u0434\u043d\u043e \u043f\u0440\u0438\u0433\u043b\u0430\u0448\u0435\u043d\u0438\u0435 \u043a \u0434\u0438\u0441\u043a\u0443\u0441\u0441\u0438\u0438. \u0413\u0430\u0440\u0438 \u041c\u0430\u0440\u043a\u0443\u0441, \u043f\u0440\u043e\u0444\u0435\u0441\u0441\u043e\u0440 \u041d\u044c\u044e-\u0419\u043e\u0440\u043a\u0441\u043a\u043e\u0433\u043e \u0443\u043d\u0438\u0432\u0435\u0440\u0441\u0438\u0442\u0435\u0442\u0430, \u0443\u0432\u0435\u0440\u0435\u043d, \u0447\u0442\u043e \u0433\u043b\u0443\u0431\u043e\u043a\u043e\u0435 \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0435 \u0438\u0433\u0440\u0430\u0435\u0442 \u0432\u0430\u0436\u043d\u0443\u044e \u0440\u043e\u043b\u044c \u0432 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u0438 \u0418\u0418. \u041d\u043e \u043e\u043d \u0442\u0430\u043a\u0436\u0435 \u0441\u0447\u0438\u0442\u0430\u0435\u0442, \u0447\u0442\u043e \u0438\u0437\u0431\u044b\u0442\u043e\u0447\u043d\u043e\u0435 \u0443\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u044d\u0442\u043e\u0439 \u043c\u0435\u0442\u043e\u0434\u0438\u043a\u043e\u0439 \u043c\u043e\u0436\u0435\u0442 \u043f\u0440\u0438\u0432\u0435\u0441\u0442\u0438 \u043a \u0435\u0451 \u0434\u0438\u0441\u043a\u0440\u0435\u0434\u0438\u0442\u0430\u0446\u0438\u0438. \u0412 \u0441\u0432\u043e\u0435\u0439 \u043a\u043d\u0438\u0433\u0435 Rebooting […]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":29302,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-39055","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t
![\"Vi](\"\/wp-content\/uploads\/2019\/10\/dccacd1c137f2ec973edd6dc5d4c42f3.png\")