Ik tink dat it probleem net is dat masines minsken sille ferfange op har wurkplak, ynklusyf yn 'e yntellektuele sfear, en net dat kompjûters de wapens lykje te hawwen opnommen tsjin minsken mei heger ûnderwiis en Twitter-akkounts. De ymplemintaasje fan AI bart net fluch, mar krekt oarsom, it is te stadich. Wêrom? Om't dit in normale syklus fan minsklike ûntwikkeling is, en wy realisearje gewoan net dat de ferneatiging dy't wy sjogge betsjut de ynfiering fan nije technology, dy't, foardat nije banen kreëarje, âlde ferneatigje.
Technologies ferneatigje ferâldere yndustry en meitsje nije, dit is it proses fan skepping, dit is de ûntwikkelingssyklus. As jo besykje de pine te ferlingjen troch âlde technologyen yn it proses yn te setten of guon foardielen te meitsjen foar ferâldere technologyen, sille jo it proses gewoan fertrage en it pynliker meitsje. It sil dochs barre, mar it probleem is dat wy it proses regelje troch regels te meitsjen dy't it mei opsetsin fertrage. Ik tink dat dit in grutter probleem is dan dejingen dy't wy dúdliker bewust binne. Dit is mear in psychologysk probleem wêrby't minsken de fraach stelle: "hoe kinne jo feilich fiele as jo yn in selsridende auto binne?"
Ik seach yn 'e skiednis en learde dat hûndert jier lyn ien fan' e machtichste fakbûnen yn New York de fakbûn fan 'e liftwurkers wie, dy't 17 tûzen arbeiders ferienige. Trouwens, op dat stuit wie d'r al in technology wêr't jo gewoan op in knop kinne drukke en jo wiene dien, mar minsken fertrouden it net! It is gewoan ferskriklik om sels op de knop te drukken om de lift te skiljen! Witte jo wêrom dizze fakbûn "ferstoarn" en minsken begûnen mei de knoppen sels? Want op in dei besleaten de liftmeiwurkers te staken. Se gongen yn staking, en doe riskearren de minsken dy't nei de top fan it Empire State Building klimme moasten mei har eigen hannen op de knoppen te drukken.
Unthâld wat se 20-30 jier lyn seine oer bern as bernsbern doe't se achter it stjoer fan in auto sieten: "dit is ferskriklik, sjoch mar nei de statistiken, om't auto's ien fan 'e wichtichste oarsaken fan minsklike mortaliteit binne, hoe kinne se risiko harren libben?"
Dat, dit alles is pure psychology. Wy besteegje net folle omtinken oan hoefolle minsken stjerre yn auto-ûngemakken, mar ienris ien persoan wurdt fermoarde troch in selsridende auto, wurdt it barren út proporsje blaasd. Elke glitch, elke flater yn technologyen foar keunstmjittige yntelliginsje wurdt fuortendaliks besprutsen op 'e foarsiden fan kranten. Mar sjoch nei de statistiken, sjoch nei it oantal ynsidinten, en jo sille sjen wat in lyts persintaazje fan it totale oantal ûngemakken it is. Dêrom sil de minsklike mienskip allinich winne as se foarút kin sûnder lam te wurden troch sokke eangsten.
In oar probleem komt op as wy prate oer falsk nijs of cyberfeiligens, dit binne heul politisearre ûnderwerpen en ik krij in protte oproppen om te freegjen hoe't ik omgean mei AI-haters. Bygelyks, ik skriuw in gewoan blog, en myn nije post, dy't oer in pear dagen publisearre wurdt, praat oer haat en it feit dat it heil fan haat yn kennis leit, yn learen. Wy moatte gewoan begripe dat dit probleem bestie lang foardat al dizze dingen waarden útfûn, it is gewoan dat har belang no tanommen is troch it ynternet, dat miljoenen en miljarden minsken berikt.
Ik tink dat it eins in goede saak is as immen besiket foarútgong te stopjen troch te besykjen AI te ferbieden, en jo witte dat dat net sil wurkje, om't wy Putin en oare minne jonges hawwe, wêr't se ek binne, dy't tsjin ús brûke binne ús eigen technologyen makke yn de frije wrâld. Dat ik tink dat wy it gewoan as in gegeven moatte akseptearje.
De essinsje fan it probleem leit allinnich yn ús, en de antwurden op de fragen lizze yn ús, yn ús eigen krêft en ús eigen fertrouwen. Ik beweare dat yntelliginte masines ús net "ferâldere" kinne meitsje. It moat lykwols betocht wurde dat d'r bepaalde beheiningen binne oangeande minske-kompjûter gearwurking, en foar in grut part binne dit gewoan geroften dy't earder bestien hawwe. Lykas altyd binne dit gewoan nije kânsen dy't de âlde wrâld ferneatigje en in nije meitsje, en hoe fierder wy foarút geane, hoe better wy sille wêze.
Tsjintwurdich liket it it meast op in beweging yn 'e wrâld fan science fiction. De paradoks is dat as wy 50-60 jier werom sjogge, wy sille sjen dat yn dy dagen science fiction absolút posityf wie, it wie in folsleine utopy. Dochs kaam der stadichoan in oergong fan utopia nei dystopia, sadanich dat wy neat mear hearre wolle oer de takomst fan de minskheid.
Dit barde net fan 'e nacht. D'r wie in tiid dat minsken besletten dat romteferkenning te riskant wie. Dit is yndie in grut risiko, mar stel jo foar dat yn 1969, doe't de Amerikanen op 'e moanne lâne, de folsleine rekkenkrêft fan NASA minder wie dan de krêft fan elk modern kompjûterapparaat dat yn jo bûse past. Dit apparaat is tûzen kear machtiger as de superkomputer dy't 40 jier lyn bestie. Stel jo gewoan de kompjûterkrêft foar dy't jo yn jo bûse hawwe! Ik bin lykwols net wis dat de Apple iPhone 7 deselde komputerkrêft hat dy't Apollo 7 hie, dat is, it is yn steat om itselde effekt te produsearjen.
Masines hawwe ús lykwols in protte grutte foarútgong jûn yn romte- of oseaanferkenning, en wy moatte begripe dat kompjûters ús de mooglikheid jouwe om grutte risiko's te nimmen.
Ik wol myn taspraak op in positive noat ôfslute. Toant dizze dia gjin positive foto's? De foto yn 'e hoeke rjochterûnder is net gephotoshopt, ik moete de Terminator eins yn 2003.
Hy hâldde ek fan bernetiid ôf fan skaken, mar hy studearre it net spesifyk, dat hy ferlear hiel gau. Dat ik wie tige ferrast doe't 6 moannen letter hy rûn foar gûverneur fan Kalifornje en wûn!
Wêrom neam ik dizze foto's posityf? Want hoewol't yn alle ôfleverings útsein de earste âlde Arnold altyd oan 'e kant fan' e winners stiet en noait wurch wurdt fan it fjochtsjen tsjin nije masines, is it yn 'e earste ôflevering dat wy de kombinaasje sjogge wêr't ik it oer hie - dit is as in persoan plus in âlde masine plus in perfekte ynterface ferslacht de nijste auto.
Jo kinne sizze: "ja, masines binne sterker dan minsken, om't se absolút alles kinne berekkenje!" It punt is lykwols net dat se alles kinne berekkenje. Bygelyks, yn skaken kinne wy technysk prate oer de wiskundige ûneinichheid fan it oantal mooglike bewegingen, gelyk oan 1045, dy't net dreech binne foar elke moderne kompjûter om te berekkenjen. Wat lykwols wichtich is yn it spul is net de berekkeningen, mar it feit dat de kompjûter de persoan foar is, om't it altyd troch de regels liede. En jo kenne it effekt fan dizze regels en jo witte wêrom't de kompjûter de bêste beweging kiest út in grut ferskaat oan mooglike bewegingen.
Mar as wy keare ta it echte libben, Ik bin der net wis fan dat in kompjûter kin altyd wêze nuttich. Litte wy nei de meast typyske situaasje sjen - jo hawwe in kompjûter dy't jo budzjet kontrolearret, jo binne yn in winkel en steane op it punt om in djoer kado te keapjen. De kompjûter evaluearret de oankeap en seit, "nee, jo kinne dit artikel net betelje, om't jo te folle budzjet sille wêze." De masine hat alles berekkene, mar der is in lytse nuânse - jo bern stiet neist jo, en dit kado is bedoeld foar syn jierdei. Sjogge jo hoe't dit de betingsten fan it probleem feroaret? Dit feroaret alles om't it bern op dit kado wachtet.
Ik kin begjinne mei it tafoegjen fan dizze lytse dingen dy't alles feroarje, mar ik tink net dat se kinne wurde opnommen yn 'e probleemstelling en krije de goede oplossing. Wy hawwe in protte regels, mar wy moatte noch fragen stelle om't dingen feroarje. Dit is wat in gewoane situaasje neamd wurde kin, mar as jo nei dizze films sjogge, kinne jo sizze dat de hjir werjûn situaasje dramatysk en bûtengewoaner is. Dizze slide toant in still út Episode V fan Star Wars: The Empire Strikes Back.
Han Solo pilots it skip rjocht troch in asteroïde fjild, en C-3PO panics, melde dat de kâns fan oerlibjen it fjild is 1: 3122. Han Solo fertelt him, "Net ea fertel my wat ús kânsen binne!" Hjir ûntstiet de fraach, wa hat mear gelyk yn dizze situaasje?
De technology fertsjintwurdige troch C-3PO is perfoarst rjocht, omdat de kâns op oerlibjen tend to nul. It is mooglik dat, út it perspektyf fan in robot, finzen nommen troch keizerlike krêften in bettere kar is dy't in minske net iens soe beskôgje dan stjerre yn in asteroïdefjild. Mar as de kompjûter beslút dat it oerjaan oan it ryk de bêste opsje is, dan kinne wy oannimme dat de persoan hielendal gjin opsjes hat. It tige wichtige ding is dat wy yn beide gefallen, gewoan en bûtengewoan, de kâns hawwe om it ultime beslút te nimmen, en om sa'n beslút te nimmen freget noch altyd minsklik liederskip.
Soms betsjut dit dat jo moatte gean tsjin de oanbefellings fan 'e kompjûter. It punt fan minsklik liederskip is net om de kânsen te kennen, mar de fragen te stellen dy't echt fan belang binne, net allinich hjoed of moarn, mar fier yn 'e takomst. Dit proses kin neamd wurde "minsklike begelieding" of "minsklike yntervinsje", beynfloedzjen sûnder help fan yntelliginte masines. Dit is wat ús kursus wêze moat yn dizze ieu.
Minsken wurde soms ferrast troch myn optimisme oer yntelliginte masines, jûn myn ûnderfining mei harren, mar ik bin echt in optimist. En ik bin der wis fan dat jo allegear like optimistysk binne oer de takomst fan AI. Mar wy moatte betinke dat ús technologyen agnostysk binne. It is net goed noch min, mar kin brûkt wurde foar sawol goed as kwea. Masines moatte slimmer en kapabeler wurde. En wy minsken moatte dwaan wat allinich minsken kinne dwaan - dreame, dreame oant it folslein, en dan sille wy alle foardielen kinne ekstrahearje dy't dizze geweldige nije ark bringe.
Lykas pland hawwe wy noch 10 minuten oer om fragen te beantwurdzjen.
Fraach: Tinke jo dat it mooglik wêze soe om in masine-learsysteem te meitsjen dat kin bepale hokker bewegingen mear oerienkomme mei de minsklike spielstyl?
Kasparov: Alderearst ferwachtsje wy net dat de kompjûter ús de earste beweging en de oerbleaune 17505 bewegingen fertelt. Ik tink dat wy moatte fertrouwe op 'e masine te foarsjen de bêste oanbefellings foar unike moves. Trouwens, top-klasse spilers brûke kompjûters as in gids, helpe se nimme de meast geskikte posysje yn it spul. Ik werhelje nochris - yn 9 gefallen fan 10 is de beoardieling fan 'e kompjûter fan' e situaasje fier superieur oan 'e beoardieling dy't in persoan kin meitsje.
Fraach: Binne jo it iens dat wiere yntelliginsje frijheid fan kar fereasket, frijheid om besluten te nimmen dy't allinich in persoan kin nimme? Deep Blue software en oare kompjûterprogramma's wurde ommers skreaun troch minsken, en as jo ferlieze nei Deep Blue, ferlieze jo net oan 'e kompjûter, mar oan de programmeurs dy't it programma skreaun hawwe. Myn fraach is: is d'r gefaar fan elke soarte fan masine-yntelliginsje, salang't kompjûters frijheid fan kar hawwe?
Kasparov: hjir moat ik oergean fan wittenskip nei filosofy. Alles is dúdlik oer Deep Blue - it is it resultaat fan in enoarm bedrach fan minsklik wurk. Yn 'e measte gefallen, sels yn it gefal fan Demis Hassabis' AlphaGo, binne dit allegear produkten fan minsklike yntelliginsje. Ik wit net oft masines kinne hawwe frijheid fan kar, mar ik leau dat wat wy dogge, as wy witte hoe te dwaan, masines sille dwaan it better. As wy de measte dingen dogge, witte wy lykwols net hoe't wy se op 'e bêste manier moatte dwaan, dus wy kinne faaks net begripe wat wy sille slagje. Simpelwei hawwe wy in doel, mar wy witte net wat it is, en de rol fan 'e masine is om ús te helpen dat doel te realisearjen. Dêrom, as wy prate oer frije kar fan kompjûters, dan moat helpe te binen ús oan dit doel. Ik tink dat dit in heul fiere takomst is foar kompjûters.
Fraach: Wat fine jo oer minsklike skaaimerken lykas moed en moraal, en de besluten dy't keunstmjittige yntelliginsje op grûn dêrfan nimme kin? Bygelyks, wat moat in selsridende auto dwaan - oer in bern rinne of foarkomme dat hy him rekket troch op in rots te botsen en syn passazjier te deadzjen?
Kasparov: Dit binne wat minsken "gefoelens" neame, se binne net kwantifisearber, om't se in hiele bosk ferskillende minsklike skaaimerken binne. As wy it oer moed prate, dan is dit karakteristyk altyd yn striid mei de kânsen om de optimale opsje te kiezen. Dapperens, lykas oare minsklike emoasjes, is per definysje yn striid mei krekte berekkening.
Fraach: hear Kasparov, myn fraach giet net oer kompjûters: wat is yn jo fles en kin ik it besykje?
Kasparov: wat bedoelst?
Gasthear: Hy freget wat der yn dyn bûse is!
Kasparov: yn myn bûse? "Stolichnaya"! Dit is gjin advertinsje, as jo opfallen, ik smiet it fuort.
Fraach: Wa tinke jo dat de folgjende wrâldkampioen skaken wurdt en hat de jonge Sineeske skaker Wei Yi in kâns om Carelsen te ûnttroanjen as de kening fan it skaken?
Kasparov: Karelsen is de nûmer 1 spiler, hy is gjin wrâldkampioen, mar gewoan de bêste skaker fan 'e wrâld neffens de wurdearring. Hy wurdt dit jier 27, dus hy is noch jong, mar net hiel jong nei de noarmen fan hjoed. Ik tink dat Wei Yi no 18 of 19 jier âld is. Magnus is foar jonge spilers lykas Amerikanen Wesley So en Fabiano Kerouana, en Wei Yi koe mooglik syn tsjinstanner wêze. Om lykwols in wrâldkampioen te wurden, hawwe jo talint nedich, jo moatte net jong en enerzjyk wêze, gewoan in bytsje gelok hawwe. Dus, om de fraach te beantwurdzjen, kin ik sizze - ja, hy hat in kâns om Magnus Carelsen te ferslaan.
Fraach: As jo prate oer deterministyske algoritmen en masine learen, neamden jo de mooglikheid om masines te brûken as ark om ús yntelliginsje oan te foljen. Hoe sit it mei de mooglikheid om boarnen te maksimalisearjen foardat jo krêftige AI meitsje, of sels in minsklik brein yn in kompjûter sette?
Kasparov: Ik skamje my net om myn ûnwittendheid ta te jaan as ik net wis bin dat ik in fraach net goed kin beäntwurdzje. Ik besykje myn bêst om te begripen wat it minsklik brein is, as wy it apart beskôgje fan it minsklik lichem, hokker funksjes it útfiert. Om't it is lestich foar te stellen hoe't it brein sil gedrage los fan it lichem. Miskien soe sa'n eksperimint yn 'e takomst dien wurde kinne, mar ik bin der wis fan dat de kombinaasje fan it minsklik brein, minsklike gefoelens en emoasjes mei in kompjûter in "geast" sil foarmje dy't folle effektiver sil wêze as in harsens útlutsen en beferzen, brûkt as in apparaat fol mei neuroanen.
Fraach: Is d'r in universele basisoanpak foar it probleem fan it ferfangen fan minsklike banen mei kompjûters?
Kasparov: Ik tink dat dit in heul wichtige fraach is, om't it dúdlik is dat wy it punt benaderje wêr't in protte minsken wurkleazen kinne wêze. Dit is de paradoks fan technologyske foarútgong: oan 'e iene kant hawwe wy de lêste technologyen dy't enoarme konkurrearjende foardielen leverje oan' e jongere generaasje dy't mei dizze apparaten en technologyen omgean. Oan 'e oare kant hawwe wy foarútgong yn medisinen en sûne fieding, dy't it minsklik libben ferlingt en in persoan de mooglikheid jout om in protte jierren te wurkjen. Yn dizze sin kin de generaasje fan 'e jierren '50, '60 of sels '40 net konkurrearje mei de hjoeddeiske jeugd. Wy moatte in oplossing fine foar dizze paradoksale situaasje wêr't de kloof tusken generaasjes sa grut is. Histoaryske ûnderfining seit dat sa'n gat altyd liedt ta in grutte eksploazje. Ik bedoel it gat tusken de besteande sosjale ynfrastruktuer fan 'e maatskippij en technologyske foarútgong.
Dit is in kwestje dat politisy leaver útstelle oant de folgjende ferkiezings. Nimmen wol der oer prate, om't it in gefoelich probleem is. It is heul maklik om jild te printsjen en te hoopjen dat ien der ienris yn 'e takomst foar sil betelje. Sa binne der in protte paradoksen op dit mêd, bygelyks de opbou fan skulden foar it jaan fan sosjale garânsjes oan 'e âldere generaasje yn' e ferwachting dat de lêst fan it beteljen fan dizze skulden op 'e skouders fan' e jongere generaasje falle sil. D'r binne in protte fragen wêr't ik gjin antwurden op haw, en in protte fragen dy't ik koe stelle dat ik hoopje dat AI my kin helpe.
It is tige slim dat politisy al tsientallen jierren besykje de problemen te negearjen dy't wy krekt besprutsen hawwe. Se binne altyd ree om útspraken te meitsjen, se hawwe altyd plannen, mar se wolle de kontraproduktiviteit fan it swijen oer it probleem fan it konflikt tusken technology en maatskippij net begripe. Tank foar jo oandacht!
Tankewol foar it bliuwen by ús. Hâld jo fan ús artikels? Wolle jo mear ynteressante ynhâld sjen? Stypje ús troch in bestelling te pleatsen of oan te befeljen oan freonen, 30% koarting foar Habr-brûkers op in unike analoog fan servers op yngongsnivo, dy't troch ús foar jo útfûn is: (beskikber mei RAID1 en RAID10, oant 24 kearnen en oant 40GB DDR4).
Dell R730xd 2 kear goedkeaper? Allinne hjir yn Nederlân! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - fan $99! Lêze oer
Boarne: www.habr.com