Sa palagay ko, ang problema ay hindi ang pagpapalit ng mga makina sa mga tao sa kanilang lugar ng trabaho, kabilang ang sa intelektwal na globo, at hindi na ang mga computer ay tila humawak ng armas laban sa mga taong may mas mataas na edukasyon at mga Twitter account. Ang pagpapatupad ng AI ay hindi nangyayari nang mabilis, ngunit sa kabaligtaran, ito ay masyadong mabagal. Bakit? Sapagkat ito ay isang normal na siklo ng pag-unlad ng tao, at hindi lang natin napagtanto na ang pagkasira na nakikita natin ay nangangahulugan ng pagpapakilala ng bagong teknolohiya, na, bago lumikha ng mga bagong trabaho, ay sumisira sa mga luma.
Sinisira ng mga teknolohiya ang mga hindi napapanahong industriya at lumikha ng mga bago, ito ang proseso ng paglikha, ito ang siklo ng pag-unlad. Kung susubukan mong pahabain ang paghihirap sa pamamagitan ng pagpasok ng mga lumang teknolohiya sa proseso o paglikha ng ilang mga pakinabang para sa hindi napapanahong mga teknolohiya, pabagalin mo lang ang proseso at gagawin itong mas masakit. Mangyayari pa rin ito, ngunit ang problema ay kinokontrol natin ang proseso sa pamamagitan ng paggawa ng mga panuntunan na sadyang nagpapabagal dito. Sa tingin ko ito ay isang mas malaking problema kaysa sa mga mas malinaw na nalalaman natin. Ito ay higit pa sa isang sikolohikal na isyu kung saan ang mga tao ay nagtataka: "paano ka makakaramdam ng ligtas habang nasa isang self-driving na kotse?"
Tiningnan ko ang kasaysayan at nalaman ko na isang daang taon na ang nakalilipas ang isa sa pinakamakapangyarihang unyon sa New York ay ang unyon ng mga manggagawa sa elevator, na pinagsama ang 17 libong manggagawa. Siyanga pala, noong panahong iyon ay mayroon nang teknolohiya kung saan maaari mo lamang pindutin ang isang pindutan at tapos ka na, ngunit hindi ito pinagkakatiwalaan ng mga tao! Nakakalungkot lang na pinindot mo ang button para tawagan ang elevator! Alam mo ba kung bakit "namatay" ang unyon ng manggagawang ito at nagsimulang gamitin ng mga tao ang mga buton mismo? Dahil isang araw ay nagpasya ang mga manggagawa sa elevator na magwelga. Nag-welga sila, at pagkatapos ay ang mga taong kailangang umakyat sa tuktok ng Empire State Building ay nanganganib na itulak ang mga butones gamit ang kanilang sariling mga kamay.
Alalahanin ang sinabi nila 20-30 taon na ang nakalilipas tungkol sa mga bata o apo nang sila ay nasa likod ng manibela ng isang kotse: "grabe ito, tingnan mo na lang ang mga istatistika, dahil ang mga kotse ay isa sa mga pangunahing sanhi ng pagkamatay ng tao, paano sila maaaring makipagsapalaran buhay nila?"
Kaya, ang lahat ng ito ay purong sikolohiya. Hindi namin binibigyang pansin kung gaano karaming mga tao ang namamatay sa mga aksidente sa sasakyan, ngunit sa sandaling ang isang tao ay namatay sa pamamagitan ng isang self-driving na kotse, ang kaganapan ay nababawasan ng proporsyon. Ang anumang aberya, anumang pagkakamali sa mga teknolohiya ng artificial intelligence ay agad na sakop sa mga front page ng mga pahayagan. Ngunit tingnan ang mga istatistika, tingnan ang bilang ng mga insidente, at makikita mo kung gaano kaliit na porsyento ng kabuuang bilang ng mga aksidente ito. Samakatuwid, ang pamayanan ng tao ay mananalo lamang kung ito ay makakapagpasulong nang hindi nalulumpo sa gayong mga takot.
Ang isa pang isyu ay lumalabas kapag pinag-uusapan natin ang tungkol sa pekeng balita o cybersecurity, ang mga ito ay napakapulitika na mga paksa at nakakatanggap ako ng maraming mga tawag na nagtatanong kung paano ko haharapin ang mga haters ng AI. Halimbawa, nagsusulat ako ng isang regular na blog, at ang aking bagong post, na mai-publish sa loob ng ilang araw, ay nagsasalita tungkol sa poot at ang katotohanan na ang kaligtasan mula sa poot ay nakasalalay sa kaalaman, sa pag-aaral. Kailangan lang nating maunawaan na ang problemang ito ay umiral na bago pa naimbento ang lahat ng mga bagay na ito, ngunit ang kahalagahan nito ay tumaas na ngayon salamat sa Internet, na umaabot sa milyun-milyon at bilyun-bilyong tao.
Sa tingin ko ito ay talagang isang magandang bagay kapag sinubukan ng isang tao na pigilan ang pag-unlad sa pamamagitan ng pagsubok na ipagbawal ang AI, at alam mo na hindi iyon gagana dahil mayroon kaming Putin at iba pang masasamang tao, nasaan man sila, na gumagamit laban sa amin ay ang aming sariling mga teknolohiya na nilikha sa ang malayang mundo. Kaya sa palagay ko dapat na lang nating tanggapin ito bilang isang ibinigay.
Ang kakanyahan ng problema ay nasa loob lamang natin, at ang mga sagot sa mga tanong ay nasa loob natin, sa ating sariling lakas at sa ating sariling pagtitiwala. Ipinapangatuwiran ko na ang mga matalinong makina ay hindi maaaring gumawa sa atin na "hindi na ginagamit." Gayunpaman, dapat tandaan na mayroong ilang mga paghihigpit tungkol sa pakikipagtulungan ng tao-computer, at sa isang malaking lawak ito ay mga alingawngaw lamang na umiral noon. Gaya ng nakasanayan, ang mga ito ay simpleng mga bagong pagkakataon na sumisira sa lumang mundo at lumikha ng bago, at habang sumusulong tayo, mas magiging mabuti tayo.
Sa ngayon, ito ay halos kahawig ng isang paglipat sa mundo ng science fiction. Ang kabalintunaan ay kung babalikan natin ang 50-60 taon, makikita natin na noong mga araw na iyon ang science fiction ay ganap na positibo, ito ay isang kumpletong utopia. Gayunpaman, pagkatapos ay nagkaroon ng unti-unting paglipat mula sa utopia patungo sa dystopia, sa paraang hindi na namin gustong makarinig ng anuman tungkol sa hinaharap ng sangkatauhan.
Hindi ito nangyari sa magdamag. May panahon na nagpasya ang mga tao na ang paggalugad sa kalawakan ay masyadong mapanganib. Ito ay talagang isang malaking panganib, ngunit isipin na noong 1969, nang ang mga Amerikano ay lumapag sa buwan, ang buong kapangyarihan ng pag-compute ng NASA ay mas mababa kaysa sa kapangyarihan ng anumang modernong aparato sa pag-compute na kasya sa iyong bulsa. Ang device na ito ay isang libong beses na mas malakas kaysa sa supercomputer na umiral 40 taon na ang nakakaraan. Isipin lamang ang kapangyarihan ng pag-compute na mayroon ka sa iyong bulsa! Gayunpaman, hindi ako sigurado na ang Apple iPhone 7 ay may parehong kapangyarihan sa pag-compute na mayroon ang Apollo 7, iyon ay, ito ay may kakayahang gumawa ng parehong epekto.
Gayunpaman, ang mga makina ay nagbigay sa amin ng maraming magagandang pag-unlad sa kalawakan o paggalugad sa karagatan, at dapat nating maunawaan na ang mga computer ay nagbibigay sa atin ng kakayahang kumuha ng malalaking panganib.
Gusto kong tapusin ang aking talumpati sa isang positibong tala. Hindi ba nagpapakita ang slide na ito ng mga positibong larawan? Ang larawan sa kanang sulok sa ibaba ay hindi photoshopped, nakilala ko talaga ang Terminator noong 2003.
Mahilig din siya sa chess mula pagkabata, ngunit hindi niya ito partikular na pinag-aralan, kaya mabilis siyang natalo. Kaya laking gulat ko nang tumakbo siya pagkaraan ng 6 na buwan bilang gobernador ng California at nanalo!
Bakit tinatawag kong positibo ang mga larawang ito? Dahil kahit na sa lahat ng mga yugto maliban sa una, ang matandang Arnold ay palaging nakatayo sa panig ng mga nanalo at hindi nagsasawa sa pakikipaglaban sa mga bagong makina, ito ay sa unang yugto na makikita natin ang kumbinasyon na aking pinag-uusapan - ito ay kapag ang isang tinatalo ng tao kasama ang isang lumang makina at isang perpektong interface ang pinakabagong kotse.
Maaari mong sabihin: "oo, ang mga makina ay mas malakas kaysa sa mga tao dahil maaari nilang kalkulahin ang lahat ng bagay!" Gayunpaman, ang punto ay hindi na maaari nilang kalkulahin ang lahat. Halimbawa, sa chess maaari nating teknikal na pag-usapan ang tungkol sa mathematical infinity ng bilang ng mga posibleng galaw, katumbas ng 1045, na hindi mahirap kalkulahin ng anumang modernong computer. Gayunpaman, ang mahalaga sa laro ay hindi ang mga kalkulasyon, ngunit ang katotohanan na ang computer ay nauuna sa tao, dahil ito ay palaging ginagabayan ng mga patakaran. At alam mo ang epekto ng mga patakarang ito at alam mo kung bakit pinipili ng computer ang pinakamahusay na paglipat mula sa isang malaking iba't ibang mga posibleng galaw.
Ngunit kung tayo ay bumaling sa totoong buhay, hindi ako sigurado na ang isang computer ay palaging magiging kapaki-pakinabang. Tingnan natin ang pinakakaraniwang sitwasyon - mayroon kang isang computer na sinusubaybayan ang iyong badyet, ikaw ay nasa isang tindahan at bibili ng isang mamahaling regalo. Sinusuri ng computer ang pagbili at sinabing, "hindi, hindi mo kayang bayaran ang item na ito dahil lalampas ka sa badyet." Kinakalkula ng makina ang lahat, ngunit mayroong isang maliit na pananarinari - ang iyong anak ay nakatayo sa tabi mo, at ang regalong ito ay inilaan para sa kanyang kaarawan. Nakikita mo ba kung paano nito binabago ang mga kondisyon ng problema? Binago nito ang lahat dahil hinihintay ng bata ang regalong ito.
Maaari kong simulan ang pagdaragdag ng maliliit na bagay na ito na nagbabago sa lahat, ngunit sa palagay ko ay hindi sila maaaring isama sa pahayag ng problema at makuha ang tamang solusyon. Marami tayong mga patakaran, ngunit kailangan pa rin nating magtanong dahil nagbabago ang mga bagay. Ito ang matatawag na ordinaryong sitwasyon, pero kung titingnan mo ang mga pelikulang ito, masasabi mong mas dramatic at extraordinary ang sitwasyong ipinakita dito. Ang slide na ito ay nagpapakita ng still mula sa Episode V ng Star Wars: The Empire Strikes Back.
Pina-pilot ni Han Solo ang barko nang diretso sa isang asteroid field, at ang C-3PO ay nag-panic, na nag-uulat na ang pagkakataong makaligtas sa field ay 1:3122. Sinabi sa kanya ni Han Solo, "Huwag na huwag mong sabihin sa akin kung ano ang mga pagkakataon natin!" Dito lumalabas ang tanong, sino ang mas tama sa ganitong sitwasyon?
Ang teknolohiyang kinakatawan ng C-3PO ay ganap na tama, dahil ang pagkakataon na mabuhay ay may posibilidad na zero. Posible na, mula sa pananaw ng isang robot, ang mahuli ng mga puwersa ng Imperial ay isang mas mahusay na pagpipilian na hindi isasaalang-alang ng isang tao kaysa mamatay sa isang asteroid field. Ngunit kung ang computer ay nagpasya na ang pagsuko sa imperyo ay ang pinakamahusay na pagpipilian, pagkatapos ay maaari nating ipagpalagay na ang tao ay walang mga pagpipilian sa lahat. Ang napakahalagang bagay ay na sa parehong mga kaso, karaniwan at hindi pangkaraniwan, mayroon tayong pagkakataon na gumawa ng pangwakas na desisyon, at upang makagawa ng gayong desisyon ay nangangailangan pa rin ng pamumuno ng tao.
Minsan nangangahulugan ito na kailangan mong sumalungat sa mga rekomendasyon ng computer. Ang punto ng pamumuno ng tao ay hindi upang malaman ang mga posibilidad, ngunit upang itanong ang mga tanong na talagang mahalaga, hindi lamang ngayon o bukas, ngunit malayo sa hinaharap. Ang prosesong ito ay maaaring tawaging "pamatnubay ng tao" o "pamamagitan ng tao", na nakakaimpluwensya nang walang tulong ng matatalinong makina. Ganito dapat ang ating kurso sa siglong ito.
Minsan nagulat ang mga tao sa aking optimismo tungkol sa matatalinong makina, dahil sa karanasan ko sa kanila, ngunit isa talaga akong optimista. At sigurado akong lahat kayo ay pare-parehong optimistiko tungkol sa kinabukasan ng AI. Ngunit dapat nating tandaan na ang ating mga teknolohiya ay agnostiko. Ito ay hindi mabuti o masama, ngunit maaaring gamitin para sa kapwa mabuti at masama. Dapat maging mas matalino at mas may kakayahan ang mga makina. At tayong mga tao ay dapat gawin kung ano ang magagawa lamang ng mga tao - mangarap, mangarap nang lubusan, at pagkatapos ay magagawa nating kunin ang lahat ng mga benepisyo na hatid ng mga kamangha-manghang bagong tool na ito.
Gaya ng plano, mayroon pa tayong 10 minutong natitira para sagutin ang mga tanong.
Tanong: Sa tingin mo, posible bang lumikha ng isang machine learning system na maaaring matukoy kung aling mga galaw ang mas pare-pareho sa istilo ng paglalaro ng tao?
Kasparov: Una sa lahat, hindi namin inaasahan na sasabihin sa amin ng computer ang unang hakbang at ang natitirang 17505 na galaw. Sa palagay ko dapat tayong umasa sa makina upang magbigay ng pinakamahusay na mga rekomendasyon para sa mga natatanging galaw. Sa pamamagitan ng paraan, ang mga nangungunang manlalaro ay gumagamit ng mga computer bilang isang gabay, na tumutulong sa kanila na makuha ang pinaka-angkop na posisyon sa laro. Uulitin ko muli - sa 9 na kaso sa 10, ang pagtatasa ng computer sa sitwasyon ay higit na mataas kaysa sa pagtatasa na magagawa ng isang tao.
Tanong: Sumasang-ayon ka ba na ang tunay na katalinuhan ay nangangailangan ng kalayaan sa pagpili, kalayaang gumawa ng mga desisyon na isang tao lamang ang makakagawa? Pagkatapos ng lahat, ang Deep Blue software at iba pang mga computer program ay isinulat ng mga tao, at kapag natalo ka sa Deep Blue, hindi ka natalo sa computer, ngunit sa mga programmer na sumulat ng programa. Ang tanong ko ay: mayroon bang anumang panganib mula sa anumang uri ng machine intelligence hangga't ang mga computer ay may kalayaan sa pagpili?
Kasparov: dito kailangan kong lumipat mula sa agham patungo sa pilosopiya. Ang lahat ay malinaw tungkol sa Deep Blue - ito ay resulta ng isang malaking halaga ng gawain ng tao. Sa karamihan ng mga kaso, kahit na sa kaso ng AlphaGo ni Demis Hassabis, lahat ito ay mga produkto ng katalinuhan ng tao. Hindi ko alam kung ang mga makina ay maaaring magkaroon ng kalayaan sa pagpili, ngunit naniniwala ako na kahit anong gawin natin, kung alam natin kung paano ito gagawin, mas magagawa ito ng mga makina. Gayunpaman, kapag ginagawa namin ang karamihan sa mga bagay, hindi namin alam kung paano gawin ang mga ito sa pinakamahusay na paraan, kaya madalas hindi namin maunawaan kung ano ang aming magtatagumpay. Sa madaling salita, mayroon tayong layunin, ngunit hindi natin alam kung ano ito, at ang tungkulin ng makina ay tulungan tayong makamit ang layuning iyon. Samakatuwid, kung pinag-uusapan natin ang tungkol sa malayang pagpili ng mga computer, dapat itong makatulong na itali tayo sa layuning ito. Sa tingin ko ito ay isang napakalayong hinaharap para sa mga computer.
Tanong: Ano sa palagay mo ang mga katangian ng tao tulad ng katapangan at moralidad, at ang mga desisyon na maaaring gawin ng artificial intelligence batay sa mga ito? Halimbawa, ano ang dapat gawin ng isang self-driving na kotse - sagasaan ang isang bata o iwasang mabangga siya sa pamamagitan ng pagbangga sa bato at pagpatay sa pasahero nito?
Kasparov: Ito ang tinatawag ng mga tao na "mga damdamin", hindi sila masusukat dahil sila ay isang buong grupo ng iba't ibang katangian ng tao. Kung pinag-uusapan natin ang tungkol sa lakas ng loob, kung gayon ang katangiang ito ay palaging sumasalungat sa mga pagkakataong pumili ng pinakamainam na opsyon. Ang katapangan, tulad ng iba pang mga damdamin ng tao, ay sa pamamagitan ng kahulugan ay salungat sa tumpak na pagkalkula.
Tanong: G. Kasparov, ang tanong ko ay hindi tungkol sa mga computer: ano ang nasa iyong prasko at maaari ko bang subukan ito?
Kasparov: ano ang ibig mong sabihin?
Host: Tinatanong niya kung ano ang nasa bulsa mo!
Kasparov: sa bulsa ko? "Stolichnaya"! This is not an advertisement, if you notice, itinapon ko.
Tanong: Sino sa tingin mo ang susunod na world chess champion at may pagkakataon ba ang batang Chinese chess player na si Wei Yi na patalsikin sa trono si Carelsen bilang hari ng chess?
Kasparov: Si Karelsen ang numero 1 na manlalaro, hindi siya isang kampeon sa mundo, ngunit simpleng pinakamahusay na manlalaro ng chess sa mundo ayon sa rating. Siya ay 27 taong gulang na ngayong taon, kaya bata pa siya, ngunit hindi masyadong bata sa mga pamantayan ngayon. Sa tingin ko si Wei Yi ay 18 o 19 taong gulang na ngayon. Nangunguna si Magnus sa mga batang manlalaro tulad ng mga Amerikanong sina Wesley So at Fabiano Kerouana, at si Wei Yi ay posibleng maging kalaban niya. Gayunpaman, upang maging isang kampeon sa mundo, kailangan mo ng talento, hindi mo kailangang maging bata at masigla, magkaroon lamang ng kaunting suwerte. Kaya, para masagot ang tanong, masasabi ko – oo, may pagkakataon siyang talunin si Magnus Carelsen.
Tanong: Noong pinag-usapan mo ang mga deterministikong algorithm at machine learning, binanggit mo ang posibilidad ng paggamit ng mga machine bilang mga tool upang umakma sa ating katalinuhan. Paano ang tungkol sa posibilidad ng pag-maximize ng mga mapagkukunan bago lumikha ng malakas na AI, o kahit na ilagay ang utak ng tao sa isang computer?
Kasparov: Hindi ako nahihiyang aminin ang aking kamangmangan kapag hindi ako sigurado na hindi ko masasagot ng tama ang isang tanong. Sinusubukan ko ang aking makakaya upang maunawaan kung ano ang utak ng tao, kung isasaalang-alang natin ito nang hiwalay sa katawan ng tao, kung ano ang mga pag-andar nito. Dahil mahirap isipin kung paano kumilos ang utak nang hiwalay sa katawan. Marahil ang gayong eksperimento ay maaaring gawin sa hinaharap, ngunit tiwala ako na ang kumbinasyon ng utak ng tao, damdamin at emosyon ng tao sa isang computer ay bubuo ng isang "isip" na magiging mas epektibo kaysa sa utak na kinuha at nagyelo, ginamit. bilang isang aparato na puno ng mga neuron.
Tanong: Mayroon bang unibersal na pangunahing diskarte sa problema ng pagpapalit ng mga trabaho ng tao sa mga computer?
Kasparov: Sa tingin ko ito ay isang napakahalagang tanong, dahil ito ay malinaw na tayo ay papalapit sa punto kung saan maraming tao ang maaaring walang trabaho. Ito ang kabalintunaan ng teknolohikal na pag-unlad: sa isang banda, mayroon tayong mga pinakabagong teknolohiya na nagbibigay ng malaking competitive na bentahe sa nakababatang henerasyon na nakikitungo sa mga device at teknolohiyang ito. Sa kabilang banda, mayroon tayong pag-unlad sa medisina at malusog na nutrisyon, na nagpapahaba ng buhay ng tao at nagbibigay sa isang tao ng kakayahang magtrabaho nang maraming taon. Sa ganitong diwa, ang henerasyon ng 50s, 60s o kahit 40s ay hindi maaaring makipagkumpitensya sa mga kabataan ngayon. Dapat tayong makahanap ng solusyon sa paradoxical na sitwasyong ito kung saan napakalawak ng agwat sa pagitan ng mga henerasyon. Sinasabi ng karanasan sa kasaysayan na ang gayong puwang ay palaging humahantong sa isang malaking pagsabog. Ang ibig kong sabihin ay ang agwat sa pagitan ng umiiral na panlipunang imprastraktura ng lipunan at pag-unlad ng teknolohiya.
Isa itong isyu na mas gustong ipagpaliban ng mga pulitiko hanggang sa susunod na halalan. Walang gustong magsalita tungkol dito dahil sensitibong isyu ito. Napakadaling mag-print ng pera at umaasa na may magbabayad nito balang araw sa hinaharap. Kaya maraming mga kabalintunaan sa lugar na ito, halimbawa, ang akumulasyon ng mga utang para sa pagbibigay ng mga garantiyang panlipunan sa mas lumang henerasyon sa pag-asa na ang pasanin ng pagbabayad ng mga utang na ito ay babagsak sa mga balikat ng nakababatang henerasyon. Maraming tanong na wala akong sagot, at maraming tanong na maaari kong itanong na sana ay matulungan ako ng AI.
Napakasamang sa loob ng ilang dekada na pilit na binabalewala ng mga pulitiko ang mga problemang katatapos lang nating talakayin. Lagi silang handang magbigay ng mga pahayag, lagi silang may mga plano, ngunit ayaw nilang maunawaan ang pagiging kontraproduktibo ng pananatiling tahimik tungkol sa problema ng salungatan sa pagitan ng teknolohiya at lipunan. Salamat sa iyong atensyon!
Salamat sa pananatili sa amin. Gusto mo ba ang aming mga artikulo? Gustong makakita ng mas kawili-wiling nilalaman? Suportahan kami sa pamamagitan ng pag-order o pagrekomenda sa mga kaibigan, 30% na diskwento para sa mga gumagamit ng Habr sa isang natatanging analogue ng mga entry-level na server, na inimbento namin para sa iyo: (magagamit sa RAID1 at RAID10, hanggang 24 na core at hanggang 40GB DDR4).
Dell R730xd 2 beses na mas mura? Dito lang sa Netherlands! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - mula $99! Basahin ang tungkol sa
Pinagmulan: www.habr.com