Nid yw'r testun hwn yn ganlyniad ymchwil wyddonol, ond yn un o lawer o farnau am ein datblygiad technolegol uniongyrchol. Ac ar yr un pryd gwahoddiad i drafodaeth.
Mae Gary Marcus, athro ym Mhrifysgol Efrog Newydd, yn credu bod dysgu dwfn yn chwarae rhan bwysig yn natblygiad AI. Ond mae hefyd yn credu y gall brwdfrydedd gormodol am y dechneg hon arwain at ei anfri.
Yn ei lyfr Ailgychwyn AI: Adeiladu deallusrwydd artiffisial y gallwn ymddiried ynddo Mae Marcus, niwrowyddonydd trwy hyfforddiant sydd wedi adeiladu gyrfa ar ymchwil AI arloesol, yn mynd i'r afael â'r agweddau technegol a moesegol. O safbwynt technoleg, gall dysgu dwfn ddynwared yn llwyddiannus y tasgau canfyddiadol y mae ein hymennydd yn eu cyflawni, megis adnabod delwedd neu lleferydd. Ond ar gyfer tasgau eraill, megis deall sgyrsiau neu bennu perthnasoedd achos-ac-effaith, nid yw dysgu dwfn yn addas. Er mwyn creu peiriannau deallus mwy datblygedig a all ddatrys ystod ehangach o broblemau - a elwir yn aml yn ddeallusrwydd cyffredinol artiffisial - mae angen cyfuno dysgu dwfn â thechnegau eraill.
Os nad yw system AI yn deall ei thasgau na'r byd o'i chwmpas yn wirioneddol, gall hyn arwain at ganlyniadau peryglus. Gall hyd yn oed y newidiadau lleiaf annisgwyl yn amgylchedd y system arwain at ymddygiad gwallus. Cafwyd llawer o enghreifftiau o'r fath eisoes: penderfynyddion ymadroddion amhriodol sy'n hawdd eu twyllo; systemau chwilio am swyddi sy'n gwahaniaethu'n gyson; ceir heb yrwyr sy'n damwain ac weithiau'n lladd y gyrrwr neu'r cerddwr. Nid problem ymchwil ddiddorol yn unig yw creu deallusrwydd cyffredinol artiffisial, mae ganddo lawer o gymwysiadau cwbl ymarferol.
Yn eu llyfr, mae Marcus a'i gyd-awdur Ernest Davis yn dadlau o blaid llwybr gwahanol. Maent yn credu ein bod yn dal i fod ymhell o greu AI cyffredinol, ond maent yn hyderus y bydd yn bosibl ei greu yn hwyr neu'n hwyrach.
Pam mae angen AI cyffredinol arnom? Mae fersiynau arbenigol eisoes wedi'u creu ac yn dod â llawer o fanteision.
Mae hynny'n iawn, a bydd hyd yn oed mwy o fanteision. Ond mae yna lawer o broblemau na all AI arbenigol eu datrys. Er enghraifft, deall lleferydd cyffredin, neu gymorth cyffredinol yn y byd rhithwir, neu robot sy'n helpu gyda glanhau a choginio. Mae tasgau o'r fath y tu hwnt i alluoedd AI arbenigol. Cwestiwn ymarferol diddorol arall: a yw'n bosibl creu car hunan-yrru diogel gan ddefnyddio AI arbenigol? Mae profiad yn dangos bod AI o'r fath yn dal i gael llawer o broblemau gydag ymddygiad mewn sefyllfaoedd annormal, hyd yn oed wrth yrru, sy'n cymhlethu'r sefyllfa'n fawr.
Rwy'n credu y byddem i gyd yn hoffi cael AI a all ein helpu i wneud darganfyddiadau newydd mawr mewn meddygaeth. Nid yw'n glir a yw technolegau cyfredol yn addas ar gyfer hyn, gan fod bioleg yn faes cymhleth. Mae angen i chi fod yn barod i ddarllen llawer o lyfrau. Mae gwyddonwyr yn deall perthnasoedd achos-ac-effaith yn y rhyngweithio rhwng rhwydweithiau a moleciwlau, yn gallu datblygu damcaniaethau am blanedau, ac ati. Fodd bynnag, gydag AI arbenigol, ni allwn greu peiriannau sy'n gallu gwneud darganfyddiadau o'r fath. A chyda deallusrwydd artiffisial cyffredinol, gallem chwyldroi gwyddoniaeth, technoleg a meddygaeth. Yn fy marn i, mae'n bwysig iawn parhau i weithio tuag at greu AI cyffredinol.
Mae'n swnio fel bod “cyffredinol” yn golygu AI cryf?
Wrth “gyffredinol” rwy'n golygu y bydd AI yn gallu meddwl am broblemau newydd ar y hedfan a'u datrys. Yn wahanol, dyweder, Ewch, lle nad yw'r broblem wedi newid am y 2000 o flynyddoedd diwethaf.
Dylai AI cyffredinol allu gwneud penderfyniadau mewn gwleidyddiaeth a meddygaeth. Mae hyn yn cyfateb i allu dynol; gall unrhyw berson call wneud llawer. Rydych chi'n cymryd myfyrwyr dibrofiad ac o fewn ychydig ddyddiau yn eu cael yn gweithio ar bron unrhyw beth, o broblem gyfreithiol i broblem feddygol. Mae hyn oherwydd bod ganddynt ddealltwriaeth gyffredinol o'r byd ac yn gallu darllen, ac felly'n gallu cyfrannu at ystod eang iawn o weithgareddau.
Y berthynas rhwng deallusrwydd o'r fath a deallusrwydd cryf yw ei bod yn debygol na fydd deallusrwydd nad yw'n gryf yn gallu datrys problemau cyffredinol. Er mwyn creu rhywbeth digon cadarn i ddelio â byd sy'n newid yn barhaus, efallai y bydd angen i chi fynd at ddeallusrwydd cyffredinol o leiaf.
Ond yn awr rydym yn bell iawn o hyn. Gall AlphaGo chwarae'n berffaith dda ar fwrdd 19x19, ond mae angen ei ailhyfforddi i chwarae ar fwrdd hirsgwar. Neu cymerwch y system ddysgu ddwfn gyfartalog: gall adnabod eliffant os yw wedi'i oleuo'n dda a bod gwead ei groen yn weladwy. Ac os mai dim ond silwét eliffant sy'n weladwy, mae'n debyg na fydd y system yn gallu ei adnabod.
Yn eich llyfr, rydych chi'n sôn na all dysgu dwfn gyflawni galluoedd AI cyffredinol oherwydd nad yw'n gallu deall yn ddwfn.
Mewn gwyddoniaeth wybyddol maent yn siarad am ffurfio modelau gwybyddol amrywiol. Rwy'n eistedd mewn ystafell westy ac rwy'n deall bod yna gwpwrdd, mae yna wely, mae yna deledu sydd wedi'i hongian mewn ffordd anarferol. Rwy'n gwybod yr holl wrthrychau hyn, nid wyf yn eu hadnabod yn unig. Rwyf hefyd yn deall sut y maent yn rhyng-gysylltiedig â'i gilydd. Mae gen i syniadau am weithrediad y byd o'm cwmpas. Nid ydynt yn berffaith. Efallai eu bod yn anghywir, ond maent yn eithaf da. Ac yn seiliedig arnynt, rwy'n gwneud llawer o gasgliadau sy'n dod yn ganllawiau ar gyfer fy ngweithredoedd dyddiol.
Yr eithaf arall oedd rhywbeth fel system gêm Atari a adeiladwyd gan DeepMind, lle roedd yn cofio beth oedd angen iddo ei wneud pan welodd bicseli mewn rhai mannau ar y sgrin. Os ydych chi'n cael digon o ddata, efallai eich bod chi'n meddwl bod gennych chi ddealltwriaeth, ond mewn gwirionedd mae'n arwynebol iawn. Prawf o hyn yw, os ydych chi'n symud gwrthrychau gan dri picsel, mae'r AI yn chwarae'n waeth o lawer. Mae newidiadau yn ei drysu. Mae hyn yn groes i ddealltwriaeth ddofn.
I ddatrys y broblem hon, rydych chi'n bwriadu dychwelyd i AI clasurol. Pa fanteision ddylem ni geisio eu defnyddio?
Mae yna nifer o fanteision.
Yn gyntaf, mae AI clasurol mewn gwirionedd yn fframwaith ar gyfer creu modelau gwybyddol o'r byd, yn seiliedig ar y casgliadau y gellir eu tynnu wedyn.
Yn ail, mae AI clasurol yn gwbl gydnaws â rheolau. Mae yna duedd ryfedd mewn dysgu dwfn ar hyn o bryd lle mae arbenigwyr yn ceisio osgoi rheolau. Maen nhw eisiau gwneud popeth ar rwydweithiau niwral a pheidio â gwneud unrhyw beth sy'n edrych fel rhaglennu clasurol. Ond mae yna broblemau a gafodd eu datrys yn dawel yn y modd hwn, ac ni thalodd neb sylw iddo. Er enghraifft, adeiladu llwybrau yn Google Maps.
Mewn gwirionedd, mae angen y ddau ddull arnom. Mae dysgu peiriant yn dda am ddysgu o ddata, ond yn wael iawn am gynrychioli'r tynnu sy'n rhaglen gyfrifiadurol. Mae AI clasurol yn gweithio'n dda gyda thynnu, ond rhaid ei raglennu'n gyfan gwbl â llaw, ac mae gormod o wybodaeth yn y byd i'w rhaglennu i gyd. Yn amlwg mae angen inni gyfuno’r ddau ddull.
Mae hyn yn cysylltu â'r bennod lle rydych chi'n siarad am yr hyn y gallwn ei ddysgu o'r meddwl dynol. Ac yn gyntaf oll, am y cysyniad sy'n seiliedig ar y syniad a grybwyllwyd uchod bod ein hymwybyddiaeth yn cynnwys llawer o wahanol systemau sy'n gweithio mewn gwahanol ffyrdd.
Rwy'n meddwl mai ffordd arall o egluro hyn yw bod pob system wybyddol sydd gennym yn datrys problem wahanol mewn gwirionedd. Rhaid dylunio rhannau tebyg o AI i ddatrys problemau gwahanol sydd â nodweddion gwahanol.
Nawr rydym yn ceisio defnyddio rhai technolegau popeth-mewn-un i ddatrys problemau sy'n hollol wahanol i'w gilydd. Nid yw deall brawddeg yr un peth o gwbl ag adnabod gwrthrych. Ond mae pobl yn ceisio defnyddio dysgu dwfn yn y ddau achos. O safbwynt gwybyddol, mae'r rhain yn dasgau ansoddol wahanol. Yn syml, rwy'n rhyfeddu at gyn lleied o werthfawrogiad sydd i AI clasurol yn y gymuned ddysgu ddwfn. Pam aros i fwled arian ymddangos? Mae'n anghyraeddadwy, ac nid yw chwiliadau ffrwythlon yn caniatáu inni ddeall cymhlethdod llawn y dasg o greu AI.
Rydych hefyd yn sôn bod angen systemau AI i ddeall perthnasoedd achos-ac-effaith. Ydych chi'n meddwl y bydd dysgu dwfn, AI clasurol, neu rywbeth cwbl newydd yn ein helpu gyda hyn?
Mae hwn yn faes arall lle nad yw dysgu dwfn yn addas iawn. Nid yw'n esbonio achosion rhai digwyddiadau, ond mae'n cyfrifo'r tebygolrwydd o ddigwyddiad o dan amodau penodol.
Am beth rydyn ni'n siarad? Rydych chi'n gwylio rhai senarios, ac rydych chi'n deall pam mae hyn yn digwydd a beth allai ddigwydd os bydd rhai amgylchiadau'n newid. Gallaf edrych ar y stondin y mae'r teledu yn eistedd arno a dychmygu, os byddaf yn torri un o'i goesau i ffwrdd, bydd y stand yn troi drosodd a bydd y teledu'n cwympo. Mae hon yn berthynas achos ac effaith.
Mae Classic AI yn rhoi rhai offer i ni ar gyfer hyn. Gall ddychmygu, er enghraifft, beth yw cefnogaeth a beth yw cwymp. Ond ni fyddaf yn gor-ganmol. Y broblem yw bod AI clasurol yn dibynnu i raddau helaeth ar wybodaeth gyflawn am yr hyn sy'n digwydd, a deuthum i gasgliad dim ond trwy edrych ar y stondin. Gallaf rywsut gyffredinoli, dychmygu rhannau o’r stondin nad ydynt yn weladwy i mi. Nid oes gennym yr offer eto i weithredu'r eiddo hwn.
Rydych hefyd yn dweud bod gan bobl wybodaeth gynhenid. Sut y gellir gweithredu hyn mewn AI?
Ar adeg geni, mae ein hymennydd eisoes yn system gywrain iawn. Nid yw'n sefydlog; Ac yna mae dysgu yn ein helpu i adolygu'r drafft hwnnw trwy gydol ein bywydau.
Mae gan ddrafft bras o'r ymennydd alluoedd penodol eisoes. Mae gafr fynydd newydd-anedig yn gallu disgyn yn ddi-baid i ochr y mynydd o fewn ychydig oriau. Mae’n amlwg fod ganddo ddealltwriaeth eisoes o ofod tri dimensiwn, ei gorff a’r berthynas rhyngddynt. System gymhleth iawn.
Dyma'n rhannol pam rwy'n credu bod angen hybridau arnom. Mae'n anodd dychmygu sut y gallai rhywun greu robot sy'n gweithio'n dda mewn byd heb wybodaeth debyg o ble i ddechrau, yn hytrach na dechrau gyda llechen wag a dysgu o brofiad hir, helaeth.
O ran bodau dynol, mae ein gwybodaeth gynhenid yn dod o'n genom, sydd wedi esblygu dros amser hir. Ond gyda systemau AI bydd yn rhaid i ni fynd ar drywydd gwahanol. Efallai mai rhan o hyn fydd y rheolau ar gyfer adeiladu ein halgorithmau. Efallai mai rhan o hyn fydd y rheolau ar gyfer creu'r strwythurau data y mae'r algorithmau hyn yn eu trin. Ac efallai mai rhan o hyn fydd gwybodaeth y byddwn yn buddsoddi'n uniongyrchol mewn peiriannau.
Mae'n ddiddorol eich bod chi yn y llyfr yn magu'r syniad o ymddiriedaeth a chreu systemau ymddiried. Pam wnaethoch chi ddewis y maen prawf penodol hwn?
Rwy'n credu mai gêm bêl yw hon i gyd heddiw. Mae'n ymddangos i mi ein bod yn byw trwy foment ryfedd mewn hanes, gan ymddiried mewn llawer o feddalwedd nad yw'n ddibynadwy. Rwy'n meddwl na fydd y pryderon sydd gennym heddiw yn para am byth. Mewn can mlynedd, bydd AI yn cyfiawnhau ein hymddiriedaeth, ac efallai hyd yn oed yn gynt.
Ond heddiw mae AI yn beryglus. Nid yn yr ystyr y mae Elon Musk yn ei ofni, ond yn yr ystyr bod systemau cyfweld swyddi yn gwahaniaethu yn erbyn menywod, waeth beth mae rhaglenwyr yn ei wneud, oherwydd bod eu hoffer yn rhy syml.
Hoffwn pe bai gennym well AI. Dydw i ddim eisiau gweld “aeaf AI” lle mae pobl yn sylweddoli nad yw AI yn gweithio a'i fod yn hollol beryglus ac nad ydyn nhw am ei drwsio.
Mewn rhai ffyrdd, mae eich llyfr yn ymddangos yn optimistaidd iawn. Rydych chi'n cymryd yn ganiataol ei bod hi'n bosibl adeiladu AI dibynadwy. Does ond angen i ni edrych i gyfeiriad gwahanol.
Mae hynny'n iawn, mae'r llyfr yn besimistaidd iawn yn y tymor byr ac yn optimistaidd iawn yn y tymor hir. Credwn y gellir datrys yr holl broblemau a ddisgrifiwyd gennym trwy edrych yn ehangach ar yr atebion cywir. Ac rydyn ni'n meddwl, os bydd hyn yn digwydd, y bydd y byd yn lle gwell.
Ffynhonnell: hab.com