Credaf nad y broblem yw y bydd peiriannau’n cymryd lle bodau dynol yn eu gweithle, gan gynnwys yn y maes deallusol, ac nid ei bod yn ymddangos bod cyfrifiaduron wedi cymryd arfau yn erbyn pobl sydd â chyfrifon addysg uwch a Twitter. Nid yw gweithredu AI yn digwydd yn gyflym, ond i'r gwrthwyneb, mae'n rhy araf. Pam? Oherwydd bod hwn yn gylch arferol o ddatblygiad dynol, ac yn syml iawn nid ydym yn sylweddoli bod y dinistr a welwn yn golygu cyflwyno technoleg newydd, sydd, cyn creu swyddi newydd, yn dinistrio hen rai.
Mae technolegau'n dinistrio diwydiannau sydd wedi dyddio ac yn creu rhai newydd, dyma'r broses greu, dyma'r cylch datblygu. Os ceisiwch ymestyn yr ing trwy fewnosod hen dechnolegau yn y broses neu greu rhai manteision ar gyfer technolegau sydd wedi dyddio, byddwch yn syml yn arafu'r broses ac yn ei gwneud yn fwy poenus. Bydd yn digwydd beth bynnag, ond y broblem yw ein bod yn rheoleiddio’r broses drwy greu rheolau sy’n ei arafu’n fwriadol. Rwy'n meddwl bod hon yn broblem fwy na'r rhai yr ydym yn amlwg yn ymwybodol ohonynt. Mae hon yn fwy o broblem seicolegol lle mae pobl yn gofyn y cwestiwn: “sut allwch chi deimlo'n ddiogel tra mewn car sy'n gyrru ei hun?”
Edrychais i mewn i hanes a dysgais mai un o'r undebau mwyaf pwerus yn Efrog Newydd gan mlynedd yn ôl oedd yr undeb gweithwyr elevator, a unodd 17 mil o weithwyr. Gyda llaw, bryd hynny roedd yna dechnoleg eisoes lle roeddech chi'n gallu pwyso botwm ac roeddech chi wedi gorffen, ond nid oedd pobl yn ymddiried ynddo! Mae'n ofnadwy gorfod pwyso'r botwm eich hun i alw'r elevator! Wyddoch chi pam y “bu farw” yr undeb llafur hwn a dechreuodd pobl ddefnyddio'r botymau eu hunain? Oherwydd un diwrnod penderfynodd y gweithwyr elevator fynd ar streic. Aethant ar streic, ac yna fe beryglodd y bobl a oedd yn gorfod dringo i ben yr Empire State Building wthio'r botymau â'u dwylo eu hunain.
Cofiwch yr hyn a ddywedasant 20-30 mlynedd yn ôl am blant neu wyrion pan aethant y tu ôl i’r olwyn car: “mae hyn yn ofnadwy, edrychwch ar yr ystadegau, oherwydd ceir yw un o brif achosion marwolaethau dynol, sut y gallant fentro eu bywydau?”
Felly, seicoleg pur yw hyn i gyd. Ychydig o sylw a roddwn i faint o bobl sy'n marw mewn damweiniau car, ond unwaith y bydd un person yn cael ei ladd gan gar sy'n gyrru ei hun, mae'r digwyddiad yn mynd yn anghymesur. Mae unrhyw glitch, unrhyw gamgymeriad mewn technolegau deallusrwydd artiffisial yn cael ei gwmpasu ar unwaith ar dudalennau blaen papurau newydd. Ond edrychwch ar yr ystadegau, edrychwch ar nifer y digwyddiadau, a byddwch yn gweld pa ganran fach iawn o gyfanswm nifer y damweiniau ydyw. Felly, dim ond os gall symud ymlaen heb gael ei pharlysu gan ofnau o'r fath y bydd y gymuned ddynol yn ennill.
Mae mater arall yn codi pan fyddwn yn siarad am newyddion ffug neu seiberddiogelwch, mae'r rhain yn bynciau gwleidyddol iawn ac rwy'n cael llawer o alwadau yn gofyn sut rydw i'n delio â haters AI. Er enghraifft, rwy'n ysgrifennu blog rheolaidd, ac mae fy swydd newydd, a fydd yn cael ei gyhoeddi mewn cwpl o ddiwrnodau, yn sôn am gasineb a'r ffaith bod iachawdwriaeth rhag casineb yn gorwedd mewn gwybodaeth, mewn dysg. Mae'n rhaid i ni ddeall bod y broblem hon yn bodoli ymhell cyn i'r holl bethau hyn gael eu dyfeisio, dim ond bod ei bwysigrwydd bellach wedi cynyddu diolch i'r Rhyngrwyd, sy'n cyrraedd miliynau a biliynau o bobl.
Rwy'n credu ei fod yn beth da mewn gwirionedd pan fydd rhywun yn ceisio atal cynnydd trwy geisio gwahardd AI, ac rydych chi'n gwybod na fydd hynny'n gweithio oherwydd bod gennym ni Putin a dynion drwg eraill, lle bynnag y bônt, sy'n defnyddio ein technolegau ein hunain a grëwyd yn ein herbyn. y byd rhydd. Felly rwy'n meddwl y dylem ei dderbyn fel nodyn a roddir.
Mae hanfod y broblem yn gorwedd o fewn ni yn unig, ac mae'r atebion i'r cwestiynau yn gorwedd o fewn ni, yn ein cryfder ein hunain a'n hyder ein hunain. Rwy’n dadlau na all peiriannau deallus ein gwneud yn “ddarfodedig.” Fodd bynnag, rhaid cofio bod rhai cyfyngiadau o ran cydweithredu rhwng pobl a chyfrifiaduron, ac i raddau helaeth dim ond sibrydion sydd wedi bodoli o'r blaen yw'r rhain. Fel bob amser, cyfleoedd newydd yn syml yw’r rhain sy’n dinistrio’r hen fyd ac yn creu un newydd, a pho bellaf y symudwn ymlaen, y gorau ein byd.
Y dyddiau hyn mae'n debyg iawn i symud i fyd ffuglen wyddonol. Y paradocs yw, os edrychwn yn ôl 50-60 mlynedd, byddwn yn gweld bod ffuglen wyddonol yn y dyddiau hynny yn gwbl gadarnhaol, ei fod yn iwtopia llwyr. Fodd bynnag, yna bu newid graddol o iwtopia i dystopia, yn y fath fodd fel nad ydym am glywed dim am ddyfodol dynoliaeth mwyach.
Ni ddigwyddodd hyn dros nos. Roedd yna amser pan benderfynodd pobl fod archwilio gofod yn ormod o risg. Mae hyn yn wir yn risg fawr, ond dychmygwch, ym 1969, pan laniodd yr Americanwyr ar y lleuad, roedd holl bŵer cyfrifiadurol NASA yn llai na phŵer unrhyw ddyfais gyfrifiadurol fodern sy'n ffitio yn eich poced. Mae'r ddyfais hon fil gwaith yn fwy pwerus na'r uwchgyfrifiadur a fodolai 40 mlynedd yn ôl. Dychmygwch y pŵer cyfrifiadurol sydd gennych yn eich poced! Fodd bynnag, nid wyf yn siŵr bod gan yr Apple iPhone 7 yr un pŵer cyfrifiadurol ag oedd gan Apollo 7, hynny yw, mae'n gallu cynhyrchu'r un effaith.
Fodd bynnag, mae peiriannau wedi rhoi llawer o ddatblygiadau mawr i ni ym maes archwilio'r gofod neu'r môr, a rhaid inni ddeall bod cyfrifiaduron yn rhoi'r gallu i ni gymryd risgiau mawr.
Hoffwn derfynu fy araith ar nodyn cadarnhaol. Onid yw'r sleid hon yn dangos lluniau cadarnhaol? Nid yw'r llun yn y gornel dde isaf wedi'i photoshopio, cyfarfûm â'r Terminator yn 2003 mewn gwirionedd.
Roedd hefyd yn caru gwyddbwyll ers plentyndod, ond ni astudiodd ef yn benodol, felly collodd yn gyflym iawn. Felly cefais fy synnu pan 6 mis yn ddiweddarach rhedodd am swydd llywodraethwr California ac ennill!
Pam ydw i'n galw'r lluniau hyn yn bositif? Oherwydd er bod yr hen Arnold ym mhob pennod ac eithrio'r cyntaf, bob amser yn sefyll ar ochr yr enillwyr a byth yn blino ymladd yn erbyn peiriannau newydd, yn y bennod gyntaf y gwelwn y cyfuniad yr oeddwn yn sôn amdano - dyma pryd a person ynghyd â hen beiriant ynghyd â rhyngwyneb perffaith yn trechu'r car mwyaf newydd.
Efallai y byddwch chi'n dweud: “ie, mae peiriannau'n gryfach na phobl oherwydd maen nhw'n gallu cyfrifo popeth yn llwyr!” Fodd bynnag, nid y pwynt yw eu bod yn gallu cyfrifo popeth. Er enghraifft, mewn gwyddbwyll gallwn yn dechnegol siarad am anfeidredd mathemategol nifer y symudiadau posibl, sy'n hafal i 1045, nad yw'n anodd i unrhyw gyfrifiadur modern eu cyfrifo. Fodd bynnag, nid y cyfrifiadau yw'r hyn sy'n bwysig yn y gêm, ond y ffaith bod y cyfrifiadur ar y blaen i'r person, oherwydd ei fod bob amser yn cael ei arwain gan y rheolau. Ac rydych chi'n gwybod effaith y rheolau hyn ac rydych chi'n gwybod pam mae'r cyfrifiadur yn dewis y symudiad gorau o amrywiaeth enfawr o symudiadau posibl.
Ond os trown at fywyd go iawn, nid wyf yn siŵr y gall cyfrifiadur fod yn ddefnyddiol bob amser. Gadewch i ni edrych ar y sefyllfa fwyaf nodweddiadol - mae gennych gyfrifiadur sy'n monitro'ch cyllideb, rydych chi mewn siop ac ar fin prynu anrheg ddrud. Mae'r cyfrifiadur yn gwerthuso'r pryniant ac yn dweud, “na, ni allwch fforddio'r eitem hon oherwydd byddwch dros y gyllideb.” Mae'r peiriant wedi cyfrifo popeth, ond mae naws bach - mae'ch plentyn yn sefyll wrth eich ymyl, ac mae'r anrheg hon wedi'i bwriadu ar gyfer ei ben-blwydd. Ydych chi'n gweld sut mae hyn yn newid amodau'r broblem? Mae hyn yn newid popeth oherwydd bod y plentyn yn aros am yr anrheg hon.
Gallaf ddechrau ychwanegu’r pethau bach hyn sy’n newid popeth, ond nid wyf yn credu y gellir eu cynnwys yn y datganiad problem a chael yr ateb cywir. Mae gennym ni lawer o reolau, ond mae'n rhaid i ni ofyn cwestiynau o hyd oherwydd bod pethau'n newid. Dyma'r hyn y gellir ei alw'n sefyllfa gyffredin, ond os edrychwch ar y ffilmiau hyn, gallwch ddweud bod y sefyllfa a ddangosir yma yn fwy dramatig a rhyfeddol. Mae'r sleid hon yn dangos llun llonydd o Bennod V o Star Wars: The Empire Strikes Back.
Mae Han Solo yn peilota'r llong yn syth trwy faes asteroid, ac mae C-3PO yn mynd i banig, gan adrodd mai'r siawns o oroesi'r cae yw 1: 3122. Mae Han Solo yn dweud wrtho, "Peidiwch byth â dweud wrthyf beth yw ein siawns!" Yma mae'r cwestiwn yn codi, pwy sydd fwyaf cywir yn y sefyllfa hon?
Mae'r dechnoleg a gynrychiolir gan C-3PO yn hollol gywir, oherwydd mae'r siawns o oroesi yn tueddu i sero. Mae'n bosibl, o safbwynt robot, bod cael eich dal gan luoedd Imperial yn well dewis na fyddai bod dynol hyd yn oed yn ei ystyried na marw mewn maes asteroid. Ond os yw'r cyfrifiadur yn penderfynu mai ildio i'r ymerodraeth yw'r opsiwn gorau, yna gallwn gymryd yn ganiataol nad oes gan y person unrhyw opsiynau o gwbl. Y peth pwysig iawn yw bod gennym ni'r cyfle yn y ddau achos, cyffredin ac anghyffredin, i wneud y penderfyniad terfynol, ac mae angen arweinyddiaeth ddynol o hyd i wneud penderfyniad o'r fath.
Weithiau mae hyn yn golygu bod yn rhaid i chi fynd yn groes i argymhellion y cyfrifiadur. Nid gwybod yr ods yw pwynt arweinyddiaeth ddynol, ond gofyn y cwestiynau sy'n wirioneddol bwysig, nid heddiw nac yfory yn unig, ond ymhell i'r dyfodol. Gellir galw'r broses hon yn "arweiniad dynol" neu "ymyrraeth ddynol", gan ddylanwadu heb gymorth peiriannau deallus. Dyma beth ddylai ein cwrs fod yn y ganrif hon.
Mae pobl weithiau'n cael eu synnu gan fy optimistiaeth am beiriannau deallus, o ystyried fy mhrofiad gyda nhw, ond rydw i wir yn optimist. Ac rwy'n siŵr bod pob un ohonoch yr un mor obeithiol am ddyfodol AI. Ond rhaid inni gofio bod ein technolegau yn agnostig. Nid yw'n dda nac yn ddrwg, ond gellir ei ddefnyddio er da a drwg. Rhaid i beiriannau ddod yn fwy craff a galluog. Ac mae'n rhaid i ni fodau dynol wneud yr hyn y gall bodau dynol yn unig ei wneud - breuddwydio, breuddwydio i'r eithaf, ac yna byddwn yn gallu echdynnu'r holl ddefnyddioldeb a ddaw yn sgil yr offer newydd rhyfeddol hyn.
Fel y cynlluniwyd, mae gennym 10 munud ar ôl o hyd i ateb cwestiynau.
Cwestiwn: Ydych chi'n meddwl y byddai'n bosibl creu system ddysgu peirianyddol a allai benderfynu pa symudiadau sy'n fwy cyson â'r arddull chwarae ddynol?
Kasparov: Yn gyntaf, nid ydym yn disgwyl i'r cyfrifiadur ddweud wrthym y symudiad cyntaf a'r 17505 sy'n weddill o symudiadau. Rwy'n credu y dylem ddibynnu ar y peiriant i ddarparu'r argymhellion gorau ar gyfer symudiadau unigryw. Gyda llaw, mae chwaraewyr o'r radd flaenaf yn defnyddio cyfrifiaduron fel canllaw, gan eu helpu i gymryd y safle mwyaf addas yn y gêm. Ailadroddaf unwaith eto - mewn 9 achos allan o 10, mae asesiad y cyfrifiadur o'r sefyllfa yn llawer gwell na'r asesiad y gall person ei wneud.
Cwestiwn: A ydych yn cytuno bod gwir ddeallusrwydd yn gofyn am ryddid i ddewis, rhyddid i wneud penderfyniadau na all neb ond eu gwneud? Wedi'r cyfan, mae meddalwedd Deep Blue a rhaglenni cyfrifiadurol eraill yn cael eu hysgrifennu gan bobl, a phan fyddwch chi'n colli i Deep Blue, rydych chi'n colli nid i'r cyfrifiadur, ond i'r rhaglenwyr a ysgrifennodd y rhaglen. Fy nghwestiwn yw: a oes unrhyw berygl o unrhyw fath o wybodaeth peiriant cyn belled â bod gan gyfrifiaduron ryddid i ddewis?
Kasparov: yma mae'n rhaid i mi symud o wyddoniaeth i athroniaeth. Mae popeth yn glir am Deep Blue - mae'n ganlyniad llawer iawn o waith dynol. Yn y rhan fwyaf o achosion, hyd yn oed yn achos AlphaGo Demis Hassabis, mae'r rhain i gyd yn gynhyrchion deallusrwydd dynol. Nid wyf yn gwybod a all peiriannau gael rhyddid i ddewis, ond credaf beth bynnag a wnawn, os ydym yn gwybod sut i'w wneud, y bydd peiriannau'n ei wneud yn well. Fodd bynnag, pan fyddwn yn gwneud y rhan fwyaf o bethau, nid ydym yn gwybod sut i'w gwneud yn y ffordd orau, felly yn aml ni allwn ddeall yr hyn y byddwn yn llwyddo. Yn syml, mae gennym nod, ond nid ydym yn gwybod beth ydyw, a rôl y peiriant yw ein helpu i wireddu'r nod hwnnw. Felly, os ydym yn sôn am ddewis rhydd o gyfrifiaduron, yna dylai helpu i'n rhwymo i'r nod hwn. Rwy'n meddwl bod hwn yn ddyfodol pell iawn i gyfrifiaduron.
Cwestiwn: Beth yw eich barn am nodweddion dynol megis dewrder a moesoldeb, a'r penderfyniadau y gall deallusrwydd artiffisial eu gwneud yn seiliedig arnynt? Er enghraifft, beth ddylai car sy'n gyrru ei hun ei wneud - rhedeg dros blentyn neu osgoi ei daro trwy chwilfriwio i graig a lladd ei deithiwr?
Kasparov: Dyma'r hyn y mae pobl yn ei alw'n “deimladau”, nid oes modd eu mesur oherwydd eu bod yn griw cyfan o wahanol nodweddion dynol. Os ydym yn sôn am ddewrder, yna mae'r nodwedd hon bob amser yn groes i'r siawns o ddewis yr opsiwn gorau posibl. Mae dewrder, fel emosiynau dynol eraill, trwy ddiffiniad yn groes i gyfrifiad cywir.
Cwestiwn: Mr Kasparov, nid yw fy nghwestiwn yn ymwneud â chyfrifiaduron: beth sydd yn eich fflasg ac a allaf roi cynnig arno?
Kasparov: beth ydych chi'n ei olygu?
Gwesteiwr: Mae'n gofyn beth sydd yn eich poced!
Kasparov: yn fy mhoced? "Stolichnaya"! Nid yw hyn yn hysbyseb, os ydych yn sylwi, yr wyf yn ei daflu i ffwrdd.
Cwestiwn: Pwy ydych chi'n meddwl fydd pencampwr gwyddbwyll nesaf y byd ac a fydd y chwaraewr gwyddbwyll ifanc o Tsieina, Wei Yi, yn cael cyfle i ddiorseddu Carelsen fel brenin gwyddbwyll?
Kasparov: Karelsen yw'r chwaraewr rhif 1, nid yw'n bencampwr byd, ond yn syml y chwaraewr gwyddbwyll gorau yn y byd yn ôl y sgôr. Mae'n troi'n 27 eleni, felly mae'n dal yn ifanc, ond ddim yn ifanc iawn yn ôl safonau heddiw. Rwy'n meddwl bod Wei Yi yn 18 neu 19 oed nawr. Mae Magnus ar y blaen i chwaraewyr ifanc fel yr Americanwyr Wesley So a Fabiano Kerouana, a gallai Wei Yi fod yn wrthwynebydd iddo. Fodd bynnag, er mwyn dod yn bencampwr byd, mae angen talent arnoch chi, nid oes rhaid i chi fod yn ifanc ac yn egnïol, dim ond ychydig o lwc sydd gennych. Felly, i ateb y cwestiwn, gallaf ddweud - oes, mae ganddo gyfle i guro Magnus Carelsen.
Cwestiwn: Pan siaradoch am algorithmau penderfyniaethol a dysgu peiriannau, soniasoch am y posibilrwydd o ddefnyddio peiriannau fel offer i ategu ein gwybodaeth. Beth am y posibilrwydd o wneud y mwyaf o adnoddau cyn creu AI pwerus, neu hyd yn oed roi ymennydd dynol i mewn i gyfrifiadur?
Kasparov: Nid oes gennyf gywilydd cyfaddef fy anwybodaeth pan nad wyf yn siŵr nad wyf yn gallu ateb cwestiwn yn gywir. Rwy'n ceisio fy ngorau i ddeall beth yw'r ymennydd dynol, os ydym yn ei ystyried ar wahân i'r corff dynol, pa swyddogaethau y mae'n eu cyflawni. Oherwydd mae'n anodd dychmygu sut y bydd yr ymennydd yn ymddwyn ar wahân i'r corff. Efallai y gellid gwneud arbrawf o'r fath yn y dyfodol, ond rwy'n hyderus y bydd y cyfuniad o'r ymennydd dynol, teimladau dynol ac emosiynau â chyfrifiadur yn ffurfio "meddwl" a fydd yn llawer mwy effeithiol nag ymennydd sy'n cael ei dynnu a'i rewi, a ddefnyddir. fel dyfais wedi'i llenwi â niwronau.
Cwestiwn: A oes ymagwedd sylfaenol gyffredinol at y broblem o ddisodli swyddi dynol gyda chyfrifiaduron?
Kasparov: Credaf fod hwn yn gwestiwn pwysig iawn, oherwydd mae’n amlwg ein bod yn agosáu at y pwynt lle y gallai llawer o bobl fod yn ddi-waith. Dyma baradocs cynnydd technolegol: ar y naill law, mae gennym y technolegau diweddaraf sy'n darparu manteision cystadleuol enfawr i'r genhedlaeth iau sy'n delio â'r dyfeisiau a'r technolegau hyn. Ar y llaw arall, mae gennym gynnydd mewn meddygaeth a maeth iach, sy'n ymestyn bywyd dynol ac yn rhoi'r gallu i berson weithio am flynyddoedd lawer. Yn yr ystyr hwn, ni all cenhedlaeth y 50au, 60au neu hyd yn oed 40au gystadlu â ieuenctid heddiw. Rhaid inni ddod o hyd i ateb i’r sefyllfa baradocsaidd hon lle mae’r bwlch rhwng cenedlaethau mor eang. Mae profiad hanesyddol yn dweud bod bwlch o'r fath bob amser yn arwain at ffrwydrad mawr. Rwy'n golygu'r bwlch rhwng seilwaith cymdeithasol presennol cymdeithas a chynnydd technolegol.
Mae hwn yn fater y mae'n well gan wleidyddion ei ohirio tan yr etholiad nesaf. Nid oes neb eisiau siarad am y peth oherwydd ei fod yn fater sensitif. Mae'n hawdd iawn argraffu arian a gobeithio y bydd rhywun yn talu amdano ryw ddydd yn y dyfodol. Felly mae llawer o baradocsau yn y maes hwn, er enghraifft, cronni dyledion ar gyfer darparu gwarantau cymdeithasol i’r genhedlaeth hŷn gan ddisgwyl y bydd y baich o dalu’r dyledion hyn yn disgyn ar ysgwyddau’r genhedlaeth iau. Mae yna lawer o gwestiynau nad oes gennyf atebion iddynt, a llawer o gwestiynau y gallwn eu gofyn yr wyf yn gobeithio y gall AI fy helpu gyda nhw.
Mae’n ddrwg iawn bod gwleidyddion wedi bod yn ceisio anwybyddu’r problemau yr ydym newydd eu trafod ers degawdau. Maent bob amser yn barod i wneud datganiadau, mae ganddynt bob amser gynlluniau, ond nid ydynt am ddeall y gwrthgynhyrchiol o gadw'n dawel am broblem y gwrthdaro rhwng technoleg a chymdeithas. Diolch am eich sylw!
Diolch am aros gyda ni. Ydych chi'n hoffi ein herthyglau? Eisiau gweld cynnwys mwy diddorol? Cefnogwch ni trwy osod archeb neu argymell i ffrindiau, Gostyngiad o 30% i ddefnyddwyr Habr ar analog unigryw o weinyddion lefel mynediad, a ddyfeisiwyd gennym ni ar eich cyfer chi: (ar gael gyda RAID1 a RAID10, hyd at 24 craidd a hyd at 40GB DDR4).
Dell R730xd 2 gwaith yn rhatach? Dim ond yma yn yr Iseldiroedd! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - o $99! Darllenwch am
Ffynhonnell: hab.com