Ég held að vandamálið sé ekki að vélar komi í stað manna á vinnustað þeirra, þar á meðal á vitsmunalega sviðinu, og ekki að tölvur virðast hafa gripið til vopna gegn fólki með háskólamenntun og Twitter-reikninga. Innleiðing gervigreindar er ekki að gerast hratt, heldur þvert á móti of hægt. Hvers vegna? Vegna þess að þetta er eðlileg hringrás mannlegrar þróunar og við gerum okkur einfaldlega ekki grein fyrir því að eyðileggingin sem við sjáum þýðir innleiðingu nýrrar tækni, sem, áður en ný störf skapast, eyðir gömlum.
Tækni eyðileggur gamaldags atvinnugreinar og skapar nýjar, þetta er sköpunarferlið, þetta er þróunarlotan. Ef þú reynir að lengja kvölina með því að setja gamla tækni inn í ferlið eða búa til nokkra kosti fyrir úrelta tækni muntu einfaldlega hægja á ferlinu og gera það sársaukafyllra. Það mun samt gerast, en vandamálið er að við erum að stjórna ferlinu með því að búa til reglur sem vísvitandi hægja á því. Ég held að þetta sé stærra vandamál en þau sem við gerum okkur betur grein fyrir. Þetta er meira sálrænt vandamál þar sem fólk spyr spurningarinnar: "hvernig geturðu fundið fyrir öryggi á meðan þú ert í sjálfkeyrandi bíl?"
Ég skoðaði söguna og komst að því að fyrir hundrað árum síðan var eitt af öflugustu verkalýðsfélögunum í New York stéttarfélag lyftuverkamanna, sem sameinaði 17 þúsund starfsmenn. Við the vegur, á þeim tíma var þegar tækni þar sem þú gætir bara ýtt á takka og þú varst búinn, en fólk treysti því ekki! Það er bara hræðilegt að þurfa að ýta á takkann sjálfur til að hringja í lyftuna! Veistu hvers vegna þetta verkalýðsfélag „dó“ og fólk fór að nota hnappana sjálft? Því einn daginn ákváðu lyftustarfsmenn að fara í verkfall. Þeir fóru í verkfall og þá átti fólkið sem þurfti að klifra upp á Empire State bygginguna á hættu að ýta á hnappana með eigin höndum.
Mundu hvað þeir sögðu fyrir 20-30 árum um börn eða barnabörn þegar þau settust undir stýri í bíl: „þetta er hræðilegt, skoðaðu bara tölfræðina, því bílar eru ein helsta dánarorsök manna, hvernig geta þeir hætta líf þeirra?"
Svo allt er þetta hrein sálfræði. Við fylgjumst lítið með því hversu margir deyja í bílslysum, en þegar einn maður er drepinn af sjálfkeyrandi bíl fer atburðurinn úr skorðum. Sérhver galli, öll mistök í gervigreindartækni er strax fjallað um á forsíðum dagblaða. En skoðaðu tölfræðina, skoðaðu fjölda atvika og þú munt sjá hvað þetta er örlítið hlutfall af heildarfjölda slysa. Þess vegna mun mannlegt samfélag sigra aðeins ef það getur haldið áfram án þess að lamast af slíkum ótta.
Annað mál kemur upp þegar við tölum um falsfréttir eða netöryggi, þetta eru mjög pólitískt efni og ég fæ mörg símtöl þar sem ég spyr hvernig ég taki á AI haturum. Ég skrifa til dæmis venjulegt blogg og nýja færslan mín, sem mun birtast eftir nokkra daga, fjallar um hatur og þá staðreynd að hjálpræði frá hatri felist í þekkingu, í námi. Við verðum bara að skilja að þetta vandamál var til staðar löngu áður en allir þessir hlutir voru fundnir upp, það er bara að mikilvægi þess hefur nú aukist þökk sé internetinu sem nær til milljóna og milljarða manna.
Ég held að það sé í rauninni gott þegar einhver reynir að stöðva framfarir með því að reyna að banna gervigreind, og þú veist að það mun ekki virka vegna þess að við höfum Pútín og aðra vonda menn, hvar sem þeir eru, sem nota gegn okkur okkar eigin tækni sem er búin til í hinum frjálsa heimi. Þannig að ég held að við ættum bara að sætta okkur við það sem sjálfgefið.
Kjarni vandans liggur aðeins innra með okkur og svörin við spurningunum liggja innra með okkur, í eigin styrk og okkar eigin trausti. Ég held því fram að greindar vélar geti ekki gert okkur „úrelt“. Hins vegar verður að muna að það eru ákveðnar takmarkanir varðandi samvinnu manna og tölvu og að miklu leyti eru þetta bara sögusagnir sem hafa verið til áður. Eins og alltaf eru þetta einfaldlega ný tækifæri sem eyðileggja gamla heiminn og skapa nýjan og því lengra sem við förum fram á við, því betra verðum við.
Nú á dögum líkist það mest flutningi inn í heim vísindaskáldsagna. Þversögnin er sú að ef við lítum 50-60 ár aftur í tímann munum við sjá að í þá daga var vísindaskáldskapur algerlega jákvæður, þetta var algjör útópía. Hins vegar urðu smám saman umskipti frá útópíu til dystópíu, á þann hátt að við viljum ekki lengur heyra neitt um framtíð mannkyns.
Þetta gerðist ekki á einni nóttu. Það var tími þegar fólk ákvað að geimkönnun væri of áhættusöm. Þetta er vissulega mikil áhætta, en ímyndaðu þér að árið 1969, þegar Bandaríkjamenn lentu á tunglinu, hafi allt tölvuafl NASA verið minna en afl hvers nútíma tölvutækis sem passar í vasa þinn. Þetta tæki er þúsund sinnum öflugra en ofurtölvan sem var til fyrir 40 árum. Ímyndaðu þér bara tölvukraftinn sem þú hefur í vasanum! Hins vegar er ég ekki viss um að Apple iPhone 7 hafi sömu tölvugetu og Apollo 7 hafði, það er að segja að hann sé fær um að framleiða sömu áhrif.
Hins vegar hafa vélar veitt okkur miklar framfarir í geim- eða hafrannsóknum og við verðum að skilja að tölvur gefa okkur möguleika á að taka mikla áhættu.
Ég vil enda ræðu mína á jákvæðum nótum. Sýnir þessi glæra ekki jákvæðar myndir? Myndin neðst í hægra horninu er ekki photoshoppuð, ég hitti í raun Terminator árið 2003.
Hann elskaði líka skák frá barnæsku, en hann lærði það ekki sérstaklega, svo hann tapaði mjög fljótt. Svo ég var mjög hissa þegar 6 mánuðum síðar bauð hann sig fram til ríkisstjóra Kaliforníu og vann!
Af hverju kalla ég þessar myndir jákvæðar? Því þó að í öllum þáttunum nema þeim fyrsta standi Arnold gamli alltaf við hlið sigurvegaranna og þreytist aldrei á að berjast gegn nýjum vélum, þá er það í fyrsta þættinum sem við sjáum samsetninguna sem ég var að tala um - þetta er þegar manneskja plús gömul vél plús fullkomið viðmót sigrar nýjasta bílinn.
Þú gætir sagt: "Já, vélar eru sterkari en fólk vegna þess að þær geta reiknað nákvæmlega allt!" Hins vegar er málið ekki að þeir geti reiknað allt. Til dæmis, í skák getum við tæknilega talað um stærðfræðilegan óendanleika fjölda mögulegra færa, jafnt og 1045, sem er ekki erfitt fyrir neina nútíma tölvu að reikna út. Það sem skiptir hins vegar máli í leiknum eru ekki útreikningarnir heldur það að tölvan er á undan manneskjunni því hún hefur alltaf reglurnar að leiðarljósi. Og þú veist hvaða áhrif þessar reglur hafa og þú veist hvers vegna tölvan velur bestu hreyfinguna úr gríðarlegu úrvali af mögulegum hreyfingum.
En ef við snúum okkur að raunveruleikanum er ég ekki viss um að tölva geti alltaf verið gagnleg. Við skulum líta á dæmigerðustu aðstæður - þú ert með tölvu sem fylgist með kostnaðarhámarkinu þínu, þú ert í búð og ert að fara að kaupa dýra gjöf. Tölvan metur kaupin og segir, "nei, þú hefur ekki efni á þessum hlut vegna þess að þú munt fara yfir kostnaðaráætlun." Vélin hefur reiknað allt, en það er smá blæbrigði - barnið þitt stendur við hliðina á þér, og þessi gjöf er ætluð fyrir afmælið hans. Sérðu hvernig þetta breytir forsendum vandans? Þetta breytir öllu því barnið bíður eftir þessari gjöf.
Ég get byrjað að bæta við þessum litlu hlutum sem breyta öllu en ég held að það sé ekki hægt að setja þá inn í vandamálalýsinguna og fá réttu lausnina. Við höfum margar reglur en verðum samt að spyrja vegna þess að hlutirnir breytast. Þetta er það sem kalla má venjulegar aðstæður en ef þessar myndir eru skoðaðar má segja að ástandið sem hér sést sé dramatískara og óvenjulegra. Þessi skyggna sýnir kyrrmynd úr þætti V af Star Wars: The Empire Strikes Back.
Han Solo stýrir skipinu beint í gegnum smástirnasvið og C-3PO skelfist og tilkynnir að líkurnar á að lifa af sviðið af séu 1: 3122. Han Solo segir honum: „Ekki segja mér hverjar líkurnar okkar eru! Hér vaknar spurningin, hver hefur meiri rétt fyrir sér í þessari stöðu?
Tæknin sem C-3PO táknar er algjörlega rétt, því líkurnar á að lifa af hafa tilhneigingu til að vera núllar. Það er hugsanlegt að frá sjónarhóli vélmenna sé það betri kostur að vera tekinn af keisarasveitum sem maður myndi ekki einu sinni íhuga en að deyja á smástirnasviði. En ef tölvan ákveður að uppgjöf fyrir heimsveldinu sé besti kosturinn, þá getum við gert ráð fyrir að viðkomandi hafi alls enga valkosti. Það sem er mjög mikilvægt er að í báðum tilfellum, venjulegum og óvenjulegum, höfum við tækifæri til að taka endanlega ákvörðun og til að taka slíka ákvörðun þarf enn mannlega forystu.
Stundum þýðir þetta að þú þarft að fara gegn ráðleggingum tölvunnar. Markmið mannlegrar forystu er ekki að vita líkurnar, heldur að spyrja spurninga sem skipta raunverulega máli, ekki bara í dag eða á morgun, heldur langt inn í framtíðina. Þetta ferli er hægt að kalla "mannleg leiðsögn" eða "mannleg afskipti", sem hefur áhrif án hjálpar greindra véla. Svona ætti stefna okkar að vera á þessari öld.
Fólk er stundum hissa á bjartsýni minni á greindar vélar, miðað við reynslu mína af þeim, en ég er í raun bjartsýnismaður. Og ég er viss um að þið eruð öll jafn bjartsýn á framtíð gervigreindar. En við verðum að muna að tækni okkar er agnostic. Það er hvorki gott né slæmt, en hægt að nota það bæði til góðs og ills. Vélar verða að verða snjallari og færari. Og við mennirnir verðum að gera það sem aðeins mennirnir geta gert - dreyma, dreyma til fulls, og þá munum við geta dregið út allan þann ávinning sem þessi ótrúlegu nýju verkfæri hafa í för með sér.
Eins og til stóð höfum við enn 10 mínútur eftir til að svara spurningum.
Spurning: Heldurðu að það væri hægt að búa til vélnámskerfi sem gæti ákvarðað hvaða hreyfingar eru í meira samræmi við mannlegan leikstíl?
Kasparov: Í fyrsta lagi gerum við ekki ráð fyrir að tölvan segi okkur fyrstu hreyfinguna og 17505 hreyfingar sem eftir eru. Ég held að við ættum að treysta á vélina til að gefa bestu ráðleggingarnar fyrir einstaka hreyfingar. Við the vegur, toppklassa leikmenn nota tölvur sem leiðarvísir, hjálpa þeim að taka hentugustu stöðu í leiknum. Ég endurtek enn og aftur - í 9 tilfellum af 10 er mat tölvunnar á aðstæðum langt umfram það mat sem maður getur lagt fram.
Spurning: Ertu sammála því að sönn greind krefst valfrelsis, frelsis til að taka ákvarðanir sem aðeins einstaklingur getur tekið? Enda er Deep Blue hugbúnaður og önnur tölvuforrit skrifuð af fólki og þegar þú tapar fyrir Deep Blue taparðu ekki fyrir tölvunni heldur forriturunum sem sömdu forritið. Spurning mín er: er einhver hætta af hvers kyns vélagreindum svo lengi sem tölvur hafa valfrelsi?
Kasparov: Hér verð ég að fara frá vísindum til heimspeki. Allt er ljóst um Deep Blue - það er afrakstur gífurlegrar mannlegrar vinnu. Í flestum tilfellum, jafnvel þegar um er að ræða AlphaGo frá Demis Hassabis, eru þetta allt afurðir mannlegrar upplýsingaöflunar. Ég veit ekki hvort vélar geta haft valfrelsi, en ég trúi því að hvað sem við gerum, ef við vitum hvernig á að gera það, muni vélar gera það betur. Hins vegar, þegar við gerum flest, vitum við ekki hvernig á að gera þá á besta hátt, svo við getum oft ekki skilið hvað við munum ná árangri. Einfaldlega sagt, við höfum markmið, en við vitum ekki hvað það er, og hlutverk vélarinnar er að hjálpa okkur að ná því markmiði. Þess vegna, ef talað er um frjálst val á tölvum, þá ætti það að hjálpa til við að binda okkur við þetta markmið. Ég held að þetta sé mjög fjarlæg framtíð fyrir tölvur.
Spurning: Hvað finnst þér um mannleg einkenni eins og hugrekki og siðferði og þær ákvarðanir sem gervigreind getur tekið út frá þeim? Hvað ætti sjálfkeyrandi bíll til dæmis að gera - keyra á barn eða forðast að lemja það með því að rekast á stein og drepa farþega þess?
Kasparov: Þetta er það sem fólk kallar „tilfinningar“, þær eru ekki hægt að mæla vegna þess að þær eru fullt af mismunandi mannlegum eiginleikum. Ef við erum að tala um hugrekki, þá er þessi eiginleiki alltaf í bága við möguleikana á að velja ákjósanlegasta kostinn. Hugrekki, eins og aðrar mannlegar tilfinningar, er samkvæmt skilgreiningu andstætt nákvæmum útreikningum.
Spurning: Herra Kasparov, spurningin mín varðar ekki tölvur: hvað er í flöskunni þinni og get ég prófað það?
Kasparov: hvað meinarðu?
Gestgjafi: Hann spyr hvað er í vasanum þínum!
Kasparov: í vasanum mínum? "Stolichnaya"! Þetta er ekki auglýsing, ef þú tókst eftir því þá henti ég henni.
Spurning: Hver heldurðu að verði næsti heimsmeistari í skák og á ungi kínverski skákmaðurinn Wei Yi möguleika á að steypa Carelsen af stóli sem konungur skákarinnar?
Kasparov: Karelsen er leikmaður númer 1, hann er ekki heimsmeistari, heldur einfaldlega besti skákmaður í heimi samkvæmt einkunnagjöfinni. Hann verður 27 ára á þessu ári, svo hann er enn ungur, en ekki mjög ungur miðað við nútíma mælikvarða. Ég held að Wei Yi sé 18 eða 19 ára núna. Magnús er á undan ungum leikmönnum eins og Bandaríkjamönnum Wesley So og Fabiano Kerouana og Wei Yi gæti hugsanlega verið andstæðingur hans. Hins vegar, til þess að verða heimsmeistari, þarftu hæfileika; þú þarft ekki að vera ungur og duglegur, bara smá heppni. Svo, til að svara spurningunni, get ég sagt - já, hann á möguleika á að vinna Magnus Carelsen.
Spurning: Þegar þú talaðir um deterministic algrím og vélanám, nefndir þú möguleikann á að nota vélar sem tæki til að bæta við greind okkar. Hvað með möguleikann á að hámarka auðlindir áður en þú býrð til öflugt gervigreind, eða jafnvel að setja mannsheila í tölvu?
Kasparov: Ég skammast mín ekki fyrir að viðurkenna fáfræði mína þegar ég er ekki viss um að ég geti ekki svarað spurningu rétt. Ég er að reyna eftir fremsta megni að skilja hvað mannsheilinn er, ef við lítum á hann aðskilið frá mannslíkamanum, hvaða aðgerðir hann gegnir. Vegna þess að það er erfitt að ímynda sér hvernig heilinn muni haga sér aðskilið frá líkamanum. Kannski væri hægt að gera slíka tilraun í framtíðinni, en ég er fullviss um að samsetning mannsheilans, tilfinninga og tilfinninga mannsins með tölvu muni mynda „huga“ sem verður mun áhrifaríkari en heili sem er dreginn út og frosinn, notaður. sem tæki fyllt af taugafrumum.
Spurning: Er til algild grunnaðferð á vandamálinu við að skipta út vinnu manna fyrir tölvur?
Kasparov: Ég held að þetta sé mjög mikilvæg spurning, því það er ljóst að við erum að nálgast það stig að margir gætu verið atvinnulausir. Þetta er þversögn tækniframfara: annars vegar erum við með nýjustu tækni sem veitir yngri kynslóðinni gríðarlega samkeppnisforskot sem fæst við þessi tæki og tækni. Hins vegar erum við með framfarir í læknisfræði og hollri næringu sem lengir mannlífið og gefur manni starfsgetu til margra ára. Í þessum skilningi getur kynslóð 50, 60 eða jafnvel 40 ekki keppt við æsku nútímans. Við verðum að finna lausn á þessari þversagnakenndu stöðu þar sem bilið á milli kynslóða er svo mikið. Söguleg reynsla segir að slíkt skarð leiði alltaf til mikillar sprengingar. Ég á við bilið á milli núverandi félagslegra innviða samfélagsins og tækniframfara.
Þetta er mál sem stjórnmálamenn vilja helst fresta til næstu kosninga. Enginn vill tala um það vegna þess að þetta er viðkvæmt mál. Það er mjög auðvelt að prenta peninga og vona að einhver borgi fyrir þá einhvern tíma í framtíðinni. Það eru því margar þversagnir á þessu sviði, til dæmis skuldasöfnun vegna félagslegra trygginga til eldri kynslóðar í þeirri von að greiðslubyrði þessara skulda lendi á herðum yngri kynslóðarinnar. Það eru margar spurningar sem ég hef ekki svör við og margar spurningar sem ég gæti spurt sem ég vona að gervigreind geti hjálpað mér með.
Það er mjög slæmt að stjórnmálamenn hafi í áratugi reynt að hunsa vandamálin sem við höfum verið að ræða um. Þeir eru alltaf tilbúnir til að gefa yfirlýsingar, þeir hafa alltaf áætlanir, en þeir vilja ekki skilja gagnkvæmni þess að þegja um vandamálið sem felst í átökum tækni og samfélags. Takk fyrir athyglina!
Þakka þér fyrir að vera hjá okkur. Líkar þér við greinarnar okkar? Viltu sjá meira áhugavert efni? Styðjið okkur með því að leggja inn pöntun eða mæla með því við vini, 30% afsláttur fyrir Habr notendur á einstökum hliðstæðum upphafsþjónum, sem var fundið upp af okkur fyrir þig: (fáanlegt með RAID1 og RAID10, allt að 24 kjarna og allt að 40GB DDR4).
Dell R730xd 2 sinnum ódýrari? Aðeins hér í Hollandi! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - frá $99! Lestu um
Heimild: www.habr.com