Hierdie teks is nie die resultaat van wetenskaplike navorsing nie, maar een van vele menings rakende ons onmiddellike tegnologiese ontwikkeling. En terselfdertyd 'n uitnodiging tot bespreking.
Gary Marcus, 'n professor aan die Universiteit van New York, glo dat diep leer 'n belangrike rol speel in die ontwikkeling van KI. Maar hy glo ook dat oormatige entoesiasme vir hierdie tegniek tot die diskreditasie daarvan kan lei.
In sy boek Herlaai KI: Bou kunsmatige intelligensie wat ons kan vertrou Marcus, 'n neurowetenskaplike van opleiding wat 'n loopbaan op die nuutste KI-navorsing gebou het, spreek die tegniese en etiese aspekte aan. Vanuit ’n tegnologiese perspektief kan diep leer die perseptuele take wat ons brein verrig, soos beeld- of spraakherkenning, suksesvol naboots. Maar vir ander take, soos om gesprekke te verstaan of om oorsaak-en-gevolg verhoudings te bepaal, is diep leer nie geskik nie. Om meer gevorderde intelligente masjiene te skep wat 'n wyer reeks probleme kan oplos - wat dikwels kunsmatige algemene intelligensie genoem word - moet diep leer gekombineer word met ander tegnieke.
As 'n KI-stelsel nie werklik sy take of die wêreld rondom dit verstaan nie, kan dit tot gevaarlike gevolge lei. Selfs die geringste onverwagte veranderinge in die stelsel se omgewing kan lei tot foutiewe gedrag. Daar was al baie sulke voorbeelde: determinante van onvanpaste uitdrukkings wat maklik is om te mislei; werksoekstelsels wat konsekwent diskrimineer; bestuurderlose motors wat bots en soms die bestuurder of voetganger doodmaak. Die skep van kunsmatige algemene intelligensie is nie net 'n interessante navorsingsprobleem nie, dit het baie heeltemal praktiese toepassings.
In hul boek pleit Marcus en sy mede-outeur Ernest Davis vir 'n ander pad. Hulle glo dat ons nog ver van die skep van algemene KI is, maar hulle is vol vertroue dat dit vroeër of later moontlik sal wees om dit te skep.
Hoekom het ons algemene KI nodig? Gespesialiseerde weergawes is reeds geskep en bring baie voordele in.
Dit is reg, en daar sal selfs meer voordele wees. Maar daar is baie probleme wat gespesialiseerde KI eenvoudig nie kan oplos nie. Byvoorbeeld om gewone spraak te verstaan, of algemene hulp in die virtuele wêreld, of 'n robot wat help met skoonmaak en kook. Sulke take is buite die vermoëns van gespesialiseerde KI. Nog 'n interessante praktiese vraag: is dit moontlik om 'n veilige selfbestuurmotor te skep met behulp van gespesialiseerde KI? Ervaring toon dat sulke KI steeds baie probleme met gedrag in abnormale situasies het, selfs wanneer jy bestuur, wat die situasie baie bemoeilik.
Ek dink ons sal almal graag KI wil hê wat ons kan help om groot nuwe ontdekkings in medisyne te maak. Dit is onduidelik of huidige tegnologieë hiervoor geskik is, aangesien biologie 'n komplekse veld is. Jy moet voorbereid wees om baie boeke te lees. Wetenskaplikes verstaan oorsaak-en-gevolg-verwantskappe in die interaksie van netwerke en molekules, kan teorieë oor planete ontwikkel, ensovoorts. Met gespesialiseerde KI kan ons egter nie masjiene skep wat tot sulke ontdekkings in staat is nie. En met algemene KI kan ons wetenskap, tegnologie en medisyne revolusioneer. Na my mening is dit baie belangrik om aan te hou werk om algemene KI te skep.
Dit klink asof jy met "algemeen" sterk KI bedoel?
Met "algemeen" bedoel ek dat KI in staat sal wees om te dink oor en nuwe probleme op te los. Anders as byvoorbeeld Go, waar die probleem nie die afgelope 2000 jaar verander het nie.
Algemene KI moet in staat wees om besluite te neem in beide politiek en medisyne. Dit is analoog aan menslike vermoë; enige gesonde mens kan baie doen. Jy neem onervare studente en laat hulle binne 'n paar dae aan amper enigiets werk, van 'n regsprobleem tot 'n mediese probleem. Dit is omdat hulle 'n algemene begrip van die wêreld het en kan lees, en kan dus bydra tot 'n baie wye reeks aktiwiteite.
Die verband tussen sulke intelligensie en sterk intelligensie is dat 'n nie-sterk intelligensie waarskynlik nie algemene probleme sal kan oplos nie. Om iets robuust genoeg te skep om 'n voortdurend veranderende wêreld te hanteer, moet jy dalk ten minste algemene intelligensie benader.
Maar nou is ons baie ver hiervan. AlphaGo kan uitstekend op 'n 19x19-bord speel, maar dit moet heroplei word om op 'n reghoekige bord te speel. Of neem die gemiddelde diepleerstelsel: dit kan 'n olifant herken as dit goed belig is en sy veltekstuur sigbaar is. En as net die silhoeët van ’n olifant sigbaar is, sal die stelsel dit waarskynlik nie kan herken nie.
In jou boek noem jy dat diep leer nie die vermoëns van algemene KI kan bereik nie omdat dit nie tot diepgaande begrip in staat is nie.
In kognitiewe wetenskap praat hulle oor die vorming van verskeie kognitiewe modelle. Ek sit in 'n hotelkamer en ek verstaan daar is 'n kas, daar is 'n bed, daar is 'n TV wat op 'n ongewone manier gehang word. Ek ken al hierdie voorwerpe, ek identifiseer hulle nie net nie. Ek verstaan ook hoe hulle met mekaar verbind is. Ek het idees oor die werking van die wêreld om my. Hulle is nie perfek nie. Hulle is dalk verkeerd, maar hulle is redelik goed. En op grond daarvan maak ek baie gevolgtrekkings wat riglyne word vir my daaglikse optrede.
Die ander uiterste was iets soos die Atari-speletjiestelsel wat deur DeepMind gebou is, waarin dit onthou het wat dit moes doen wanneer dit pixels op sekere plekke op die skerm gesien het. As jy genoeg data kry, dink jy dalk jy het begrip, maar in werklikheid is dit baie oppervlakkig. Bewys hiervan is dat as jy voorwerpe met drie pixels beweeg, die KI baie slegter speel. Veranderinge verstom hom. Dit is die teenoorgestelde van diepgaande begrip.
Om hierdie probleem op te los, stel jy voor om terug te keer na klassieke KI. Watter voordele moet ons probeer gebruik?
Daar is verskeie voordele.
Eerstens is klassieke KI eintlik 'n raamwerk vir die skep van kognitiewe modelle van die wêreld, op grond waarvan gevolgtrekkings dan gemaak kan word.
Tweedens, klassieke KI is perfek versoenbaar met reëls. Daar is tans 'n vreemde neiging in diep leer waar kenners reëls probeer vermy. Hulle wil alles op neurale netwerke doen en niks doen wat soos klassieke programmering lyk nie. Maar daar is probleme wat rustig op hierdie manier opgelos is, en niemand het aandag daaraan gegee nie. Byvoorbeeld, die bou van roetes in Google Maps.
Trouens, ons het albei benaderings nodig. Masjienleer is goed om uit data te leer, maar baie swak om die abstraksie wat 'n rekenaarprogram is, voor te stel. Klassieke KI werk goed met abstraksies, maar dit moet heeltemal met die hand geprogrammeer word, en daar is te veel kennis in die wêreld om hulle almal te programmeer. Dit is duidelik dat ons beide benaderings moet kombineer.
Dit sluit aan by die hoofstuk waarin jy praat oor wat ons uit die menslike verstand kan leer. En eerstens, oor die konsep gebaseer op die idee hierbo genoem dat ons bewussyn bestaan uit baie verskillende sisteme wat op verskillende maniere werk.
Ek dink 'n ander manier om dit te verduidelik is dat elke kognitiewe sisteem wat ons het, werklik 'n ander probleem oplos. Soortgelyke dele van KI moet ontwerp word om verskillende probleme op te los wat verskillende eienskappe het.
Nou probeer ons 'n paar alles-in-een-tegnologieë gebruik om probleme op te los wat radikaal van mekaar verskil. Om 'n sin te verstaan is glad nie dieselfde as om 'n voorwerp te herken nie. Maar mense probeer in beide gevalle diep leer gebruik. Vanuit 'n kognitiewe oogpunt is dit kwalitatief verskillende take. Ek is eenvoudig verstom oor hoe min waardering daar vir klassieke KI in die diepleergemeenskap is. Hoekom wag vir 'n silwer koeël om te verskyn? Dit is onbereikbaar, en vrugtelose soektogte laat ons nie toe om die volle kompleksiteit van die taak om KI te skep, te begryp nie.
Jy noem ook dat KI-stelsels nodig is om oorsaak-en-gevolg verhoudings te verstaan. Dink jy diep leer, klassieke KI of iets heeltemal nuuts sal ons hiermee help?
Dit is nog 'n gebied waar diep leer nie goed geskik is nie. Dit verduidelik nie die oorsake van sekere gebeurtenisse nie, maar bereken die waarskynlikheid van 'n gebeurtenis onder gegewe toestande.
Waaroor praat ons? Jy kyk na sekere scenario's, en jy verstaan hoekom dit gebeur en wat kan gebeur as sommige omstandighede verander. Ek kan na die staander kyk waarop die TV sit en my verbeel dat as ek een van sy bene afsny, die staander omslaan en die TV sal val. Dit is 'n oorsaak en gevolg verhouding.
Klassieke AI gee ons 'n paar gereedskap hiervoor. Hy kan hom byvoorbeeld voorstel wat ondersteuning is en wat 'n val is. Maar ek sal nie oorprys nie. Die probleem is dat klassieke KI grootliks afhang van volledige inligting oor wat gebeur, en ek het tot 'n gevolgtrekking gekom net deur na die stand te kyk. Ek kan op een of ander manier veralgemeen, dele van die staanplek voorstel wat nie vir my sigbaar is nie. Ons het nog nie die gereedskap om hierdie eiendom te implementeer nie.
Jy sê ook dat mense aangebore kennis het. Hoe kan dit in KI geïmplementeer word?
Op die oomblik van geboorte is ons brein reeds 'n baie uitgebreide stelsel. Dit is nie vas nie, die natuur het die eerste, rowwe konsep geskep. En dan help leer ons om daardie konsep regdeur ons lewe te hersien.
'n Ruwe konsep van die brein het reeds sekere vermoëns. 'n Pasgebore bergbok is in staat om binne 'n paar uur onfeilbaar teen die berghelling af te klim. Dit is duidelik dat hy reeds 'n begrip het van driedimensionele ruimte, sy liggaam en die verhouding tussen hulle. 'n Baie komplekse stelsel.
Dit is deels hoekom ek glo ons het basters nodig. Dit is moeilik om te dink hoe 'n mens 'n robot kan skep wat goed funksioneer in 'n wêreld sonder soortgelyke kennis van waar om te begin, eerder as om met 'n leë bladsy te begin en uit lang, groot ervaring te leer.
Wat mense betref, kom ons aangebore kennis van ons genoom, wat oor 'n lang tyd ontwikkel het. Maar met KI-stelsels sal ons 'n ander roete moet gaan. Deel hiervan kan die reëls vir die konstruksie van ons algoritmes wees. Deel hiervan kan die reëls wees vir die skep van die datastrukture wat hierdie algoritmes manipuleer. En deel hiervan kan kennis wees dat ons direk in masjiene sal belê.
Dit is interessant dat u in die boek die idee van vertroue en die skepping van vertrouende stelsels na vore bring. Hoekom het jy hierdie spesifieke maatstaf gekies?
Ek glo dat hierdie alles vandag 'n balspel is. Dit lyk vir my of ons deur 'n vreemde oomblik in die geskiedenis leef en baie sagteware vertrou wat nie betroubaar is nie. Ek dink die bekommernisse wat ons vandag het, sal nie vir ewig duur nie. Oor honderd jaar sal KI ons vertroue regverdig, en miskien vroeër.
Maar vandag is KI gevaarlik. Nie in die sin wat Elon Musk vrees nie, maar in die sin dat werksonderhoudstelsels teen vroue diskrimineer, ongeag wat programmeerders doen, omdat hul gereedskap te eenvoudig is.
Ek wens ons het beter KI gehad. Ek wil nie 'n "KI winter" sien waar mense besef dat KI nie werk nie en bloot gevaarlik is en dit nie wil regmaak nie.
In sekere opsigte lyk jou boek baie optimisties. Jy neem aan dat dit moontlik is om betroubare KI te bou. Ons moet net in 'n ander rigting kyk.
Dis reg, die boek is baie pessimisties op kort termyn en baie optimisties op lang termyn. Ons glo dat al die probleme wat ons beskryf het opgelos kan word deur 'n breër blik op wat die korrekte antwoorde behoort te wees. En ons dink dat as dit gebeur, die wêreld 'n beter plek sal wees.
Bron: will.com