Dizze tekst is net it resultaat fan wittenskiplik ûndersyk, mar ien fan in protte mieningen oangeande ús direkte technologyske ûntwikkeling. En tagelyk in útnoeging foar diskusje.
Gary Marcus, in heechlearaar oan 'e New York University, is fan betinken dat djip learen in wichtige rol spilet yn' e ûntwikkeling fan AI. Mar hy is ek fan betinken dat oermjittich entûsjasme foar dizze technyk kin liede ta syn diskredyt.
Yn syn boek AI op 'e nij opstarte: Bouwe keunstmjittige yntelliginsje dy't wy kinne fertrouwe Marcus, in neuroscientist fan oplieding dy't in karriêre hat opboud yn it foaroansteand AI-ûndersyk, behannelet de technyske en etyske aspekten. Fanút in technologysk perspektyf kin djip learen de perceptuele taken dy't ús harsens útfiere mei súkses imitearje, lykas byld- of spraakherkenning. Mar foar oare taken, lykas it ferstean fan petearen of it bepalen fan oarsaak-gevolgrelaasjes, is djip learen net geskikt. Om mear avansearre yntelliginte masines te meitsjen dy't in breder skala oan problemen kinne oplosse - faaks neamd keunstmjittige algemiene yntelliginsje - moat djip learen wurde kombinearre mei oare techniken.
As in AI-systeem syn taken of de wrâld der omhinne net echt begrypt, kin dit liede ta gefaarlike gefolgen. Sels de minste ûnferwachte feroaringen yn 'e omjouwing fan it systeem kinne liede ta ferkeard gedrach. Der binne al in protte fan sokke foarbylden west: determinanten fan ûnpassende útdrukkingen dy't maklik te ferrifeljen binne; wurksykjen systemen dy't konsekwint diskriminearje; sjauffeurleaze auto's dy't botsing en soms deadzje de bestjoerder of fuotgonger. It meitsjen fan keunstmjittige algemiene yntelliginsje is net allinich in nijsgjirrich ûndersyksprobleem, it hat in protte folslein praktyske tapassingen.
Yn har boek pleitsje Marcus en syn co-auteur Ernest Davis foar in oar paad. Se leauwe dat wy noch fier binne fan it meitsjen fan algemiene AI, mar se binne der wis fan dat it ier of letter mooglik is om it te meitsjen.
Wêrom hawwe wy algemiene AI nedich? Spesjalisearre ferzjes binne al makke en bringe in protte foardielen.
Dat is rjocht, en d'r sille noch mear foardielen wêze. Mar d'r binne in protte problemen dy't spesjalisearre AI gewoan net kinne oplosse. Bygelyks it ferstean fan gewoane spraak, of algemiene assistinsje yn 'e firtuele wrâld, of in robot dy't helpt mei skjinmeitsjen en koken. Sokke taken binne bûten de mooglikheden fan spesjalisearre AI. In oare nijsgjirrige praktyske fraach: is it mooglik om in feilige selsridende auto te meitsjen mei spesjale AI? De ûnderfining docht bliken dat sa'n AI noch in protte problemen hat mei gedrach yn abnormale situaasjes, sels by it riden, wat de situaasje tige komplisearret.
Ik tink dat wy allegear AI wolle hawwe dy't ús kinne helpe om grutte nije ûntdekkingen yn medisinen te meitsjen. It is ûndúdlik oft hjoeddeistige technologyen dêrfoar geskikt binne, om't biology in kompleks fjild is. Jo moatte ree wêze om in protte boeken te lêzen. Wittenskippers begripe oarsaak-en-gevolg relaasjes yn 'e ynteraksje fan netwurken en molekulen, kinne ûntwikkelje teoryen oer planeten, ensafuorthinne. Mei spesjalisearre AI kinne wy lykwols gjin masines meitsje dy't yn steat binne foar sokke ûntdekkingen. En mei algemiene AI kinne wy wittenskip, technology en medisinen revolúsjonearje. Yn myn miening is it heul wichtich om troch te wurkjen oan it meitsjen fan algemiene AI.
It klinkt as mei "algemien" jo bedoele sterke AI?
Mei "algemien" bedoel ik dat AI yn steat is om nei te tinken en nije problemen op 'e flecht op te lossen. Oars as, sis, gean, wêr't it probleem de lêste 2000 jier net is feroare.
Algemiene AI moat besluten kinne nimme yn sawol polityk as medisinen. Dit is analoog oan minsklik fermogen; elk ferstannich persoan kin in protte dwaan. Jo nimme sûnder ûnderfining studinten en hawwe se binnen in pear dagen oan hast alles wurkje, fan in juridysk probleem oant in medysk probleem. Dit komt om't se in algemien begryp fan 'e wrâld hawwe en lêze kinne, en kinne dêrom bydrage oan in heul breed oanbod fan aktiviteiten.
De relaasje tusken sokke yntelliginsje en sterke yntelliginsje is dat in net-sterke yntelliginsje wierskynlik gjin algemiene problemen oplosse sil. Om wat robúst genôch te meitsjen om te gean mei in hieltyd feroarjende wrâld, moatte jo miskien op syn minst algemiene yntelliginsje benaderje.
Mar no binne wy hjir hiel fier fan. AlphaGo kin perfekt spielje op in 19x19 boerd, mar it moat wurde oplaat om te spyljen op in rjochthoekich boerd. Of nim it gemiddelde systeem foar djippe learen: it kin in oaljefant werkenne as it goed ferljochte is en de hûdtekstuer sichtber is. En as allinnich it silhouet fan in oaljefant sichtber is, kin it systeem it nei alle gedachten net werkenne.
Yn jo boek neame jo dat djip learen de mooglikheden fan algemiene AI net kin berikke, om't it net yn steat is om djip begryp te meitsjen.
Yn kognitive wittenskip prate se oer de foarming fan ferskate kognitive modellen. Ik sit yn in hotelkeamer en ik begryp dat der in kast is, der is in bêd, der is in tv dy't op in ûngewoane manier hinget. Ik ken al dizze objekten, ik identifisearje se net allinich. Ik begryp ek hoe't se mei-inoar ferbûn binne. Ik haw ideeën oer it funksjonearjen fan 'e wrâld om my hinne. Se binne net perfekt. Se kinne ferkeard wêze, mar se binne frij goed. En op basis fan harren meitsje ik in protte konklúzjes dy't rjochtlinen wurde foar myn deistige aksjes.
De oare ekstreme wie soksawat as it Atari-spielsysteem boud troch DeepMind, wêryn it ûnthâlde wat it moast dwaan as it piksels op bepaalde plakken op it skerm seach. As jo genôch gegevens krije, kinne jo tinke dat jo in begryp hawwe, mar yn 'e realiteit is it heul oerflakkich. Bewiis hjirfan is dat as jo objekten mei trije piksels ferpleatse, de AI folle slimmer spielet. Feroarings ferbjustere him. Dit is it tsjinoerstelde fan djip begryp.
Om dit probleem op te lossen, stelle jo foar werom te gean nei klassike AI. Hokker foardielen moatte wy besykje te brûken?
D'r binne ferskate foardielen.
Earst is klassike AI eins in ramt foar it meitsjen fan kognitive modellen fan 'e wrâld, basearre op hokker konklúzjes dan kinne wurde lutsen.
Twadder is klassike AI perfekt kompatibel mei regels. D'r is op it stuit in frjemde trend yn djip learen wêr't saakkundigen besykje regels te foarkommen. Se wolle alles dwaan op neurale netwurken en neat dwaan dat liket op klassike programmearring. Mar d'r binne problemen dy't op dizze manier rêstich oplost binne, en gjinien joech der oandacht oan. Bygelyks it bouwen fan rûtes yn Google Maps.
Yn feite hawwe wy beide oanpakken nedich. Masine learen is goed yn it learen fan gegevens, mar heul min yn it fertsjintwurdigjen fan de abstraksje dat in kompjûterprogramma is. Klassike AI wurket goed mei abstraksjes, mar it moat folslein mei de hân programmearre wurde, en d'r is tefolle kennis yn 'e wrâld om se allegear te programmearjen. It is dúdlik dat wy beide oanpakken moatte kombinearje.
Dit slút oan by it haadstik wêryn jo prate oer wat wy kinne leare fan 'e minsklike geast. En earst fan alles, oer it konsept basearre op it hjirboppe neamde idee dat ús bewustwêzen bestiet út in protte ferskillende systemen dy't op ferskate manieren wurkje.
Ik tink dat in oare manier om dit te ferklearjen is dat elk kognitive systeem dat wy hawwe echt in oar probleem oplost. Fergelykbere dielen fan AI moatte wurde ûntworpen om ferskate problemen op te lossen dy't ferskate skaaimerken hawwe.
No besykje wy wat alles-yn-ien technologyen te brûken om problemen op te lossen dy't radikaal ferskille fan elkoar. It begripen fan in sin is hielendal net itselde as it werkennen fan in objekt. Mar minsken besykje yn beide gefallen djip learen te brûken. Kognityf sjoen binne dit kwalitatyf ferskillende taken. Ik bin gewoan fernuvere oer hoe lyts wurdearring d'r is foar klassike AI yn 'e mienskip foar djippe learen. Wêrom wachtsje op in sulveren kûgel om te ferskinen? It is net te berikken, en fruchtleaze sykopdrachten litte ús net de folsleine kompleksiteit fan 'e taak fan it meitsjen fan AI begripe.
Jo neame ek dat AI-systemen nedich binne om oarsaak-en-effekt relaasjes te begripen. Tinke jo dat djip learen, klassike AI, of wat folslein nij ús hjirmei sil helpe?
Dit is in oar gebiet dêr't djip learen net goed geskikt is. It ferklearret de oarsaken fan bepaalde eveneminten net, mar berekkent de kâns fan in evenemint ûnder bepaalde betingsten.
Wêr hawwe wy it oer? Jo sjogge bepaalde senario's, en jo begripe wêrom dit bart en wat kin barre as guon omstannichheden feroarje. Ik kin nei de stand sjen dêr't de tv op sit en my yntinke dat as ik ien fan syn skonken ôfsny, de stand omkeart en de tv falt. Dit is in oarsaak en gefolch relaasje.
Klassike AI jout ús wat ark foar dit. Hy kin him bygelyks yntinke wat stipe is en wat in fal is. Mar ik sil net tefolle priizgje. It probleem is dat klassike AI foar in grut part hinget ôf fan folsleine ynformaasje oer wat der bart, en ik kaam ta in konklúzje krekt troch te sjen op 'e tribune. Ik kin op ien of oare manier generalisearje, dielen fan 'e tribune foarstelle dy't my net sichtber binne. Wy hawwe noch net de ark om dit pân te ymplementearjen.
Jo sizze ek dat minsken oanberne kennis hawwe. Hoe kin dit wurde ymplementearre yn AI?
Op it momint fan berte is ús harsens al in tige útwurke systeem. It is net fêstlein de natuer makke de earste, rûge ûntwerp. En dan helpt learen ús dat konsept yn ús libben te herzien.
In rûge ûntwerp fan it brein hat al bepaalde mooglikheden. In pasberne berchgeit is yn steat om binnen in pear oeren ûnfeilich de berchhelling del te fallen. It is fanselssprekkend dat er al ferstân hat fan trijediminsjonale romte, syn lichem en de relaasje dêrtusken. In hiel kompleks systeem.
Dit is foar in part wêrom ik leau dat wy hybriden nedich binne. It is lestich foar te stellen hoe't men in robot koe meitsje dy't goed funksjonearret yn in wrâld sûnder ferlykbere kennis fan wêr't te begjinnen, ynstee fan te begjinnen mei in lege lei en te learen fan lange, grutte ûnderfining.
Wat de minsken oangiet, komt ús oanberne kennis fan ús genoom, dat oer in lange tiid evoluearre is. Mar mei AI-systemen sille wy in oare rûte moatte gean. In diel fan dit kin de regels wêze foar it bouwen fan ús algoritmen. In diel fan dit kin de regels wêze foar it meitsjen fan de gegevensstruktueren dy't dizze algoritmen manipulearje. En in part fan dit kin wêze kennis dat wy sille direkt ynvestearje yn masines.
It is nijsgjirrich dat jo yn it boek it idee fan fertrouwen en it kreëarjen fan fertrouwenssystemen opbringe. Wêrom hawwe jo dit bepaalde kritearium keazen?
Ik leau dat dit hjoed allegear in balspul is. It liket my dat wy in nuver momint yn 'e skiednis libje, in protte software fertrouwe dy't net betrouber is. Ik tink dat de soargen dy't wy hjoed hawwe net foar altyd sille duorje. Yn hûndert jier sil AI ús fertrouwen rjochtfeardigje, en miskien earder.
Mar hjoed is AI gefaarlik. Net yn 'e sin dat Elon Musk bang is, mar yn' e sin dat systemen foar wurkpetearen diskriminearje tsjin froulju, nettsjinsteande wat programmeurs dogge, om't har ark te ienfâldich binne.
Ik winskje dat wy bettere AI hiene. Ik wol gjin "AI-winter" sjen wêr't minsken realisearje dat AI net wurket en gewoan gefaarlik is en it net reparearje wolle.
Op guon manieren liket jo boek heul optimistysk. Jo geane derfan út dat it mooglik is om betroubere AI te bouwen. Wy moatte gewoan yn in oare rjochting sjen.
Dat kloppet, it boek is op koarte termyn tige pessimistysk en op lange termyn tige optimistysk. Wy leauwe dat alle problemen dy't wy hawwe beskreaun kinne wurde oplost troch in bredere blik op wat de goede antwurden moatte wêze. En wy tinke dat as dit bart, de wrâld in better plak sil wêze.
Boarne: www.habr.com