Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 1

Ina ganin cewa matsalar ba wai injina ne za su maye gurbin mutane a wuraren aikinsu ba, har da a fagen ilimi, ba wai kamar yadda kwamfutoci sun dauki makamai a kan mutanen da ke da manyan makarantu da shafukan Twitter ba. Aiwatar da AI ba ta faruwa da sauri ba, amma akasin haka, yana da jinkirin. Me yasa? Domin wannan al’ada ce ta ci gaban bil’adama, kuma kawai ba mu gane cewa barnar da muke gani tana nufin bullo da sabbin fasahohi, wanda kafin samar da sabbin ayyukan yi, yakan lalata tsofaffin.

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Fasaha ta lalata masana'antu da suka tsufa kuma suna ƙirƙirar sababbi, wannan shine tsarin ƙirƙirar, wannan shine ci gaba na ci gaba. Idan kuna ƙoƙarin tsawaita ɓacin rai ta hanyar shigar da tsoffin fasahohi a cikin tsarin ko ƙirƙirar wasu fa'idodi don tsoffin fasahohin, zaku rage saurin aiwatarwa kuma ku sanya shi ya fi zafi. Ko ta yaya hakan zai faru, amma matsalar ita ce muna tsara tsarin ta hanyar samar da ka'idoji da ke rage shi da gangan. Ina ganin wannan babbar matsala ce fiye da wacce muka fi sani da ita. Wannan shine ƙarin matsala ta hankali inda mutane ke yin tambaya: "Yaya za ku iya samun aminci yayin da kuke cikin mota mai tuƙi?"

Na duba tarihi kuma na gano cewa shekaru dari da suka gabata daya daga cikin manyan kungiyoyin kwadago a New York ita ce kungiyar ma'aikata ta elevator, wacce ta hada ma'aikata dubu 17. Af, a wancan lokacin akwai fasahar da za ku iya danna maballin kawai kuma kun gama, amma mutane ba su amince da shi ba! Yana da muni kawai don danna maɓallin da kanka don kiran lif! Shin kun san dalilin da ya sa wannan ƙungiyar kwadago ta “mutu” kuma mutane suka fara amfani da maɓallan da kansu? Domin wata rana ma'aikatan lifta sun yanke shawarar tafiya yajin aiki. Sun shiga yajin aiki, sannan mutanen da suka hau kololuwar ginin Daular sun yi kasadar tura maballin da hannayensu.

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Ka tuna da abin da suka ce shekaru 20-30 da suka gabata game da yara ko jikoki lokacin da suka shiga bayan motar mota: "Wannan mummunan abu ne, ku dubi kididdigar, saboda motoci suna daya daga cikin manyan abubuwan da ke haifar da mutuwar mutane, ta yaya za su iya yin kasada. rayuwarsu?"

Don haka, duk wannan tsantsar ilimin tunani ne. Ba mu mai da hankali sosai kan adadin mutanen da ke mutuwa a hatsarin mota, amma da zarar mota mai tuka kanta ta kashe mutum ɗaya, lamarin ya ƙaru da yawa. Duk wani kuskure, duk wani kuskure a cikin fasahar fasaha na wucin gadi ana rufe shi nan da nan a shafukan farko na jaridu. Amma duba kididdigar, duba adadin abubuwan da suka faru, kuma za ku ga wani ɗan ƙaramin kaso na jimlar yawan hadurran. Don haka, al’ummar ’yan Adam za su yi nasara ne kawai idan za su ci gaba ba tare da sun shanye da irin wannan fargaba ba.

Wani batun kuma ya zo lokacin da muke magana game da labaran karya ko tsaro na yanar gizo, waɗannan batutuwa ne da aka sanya siyasa sosai kuma ina samun kira da yawa suna tambayar yadda zan magance AI masu ƙiyayya. Misali, na rubuta bulogi na yau da kullun, da sabon sakona, wanda za a buga a cikin kwanaki biyu, yayi magana game da ƙiyayya da gaskiyar cewa ceto daga ƙiyayya yana cikin ilimi, cikin koyo. Sai dai mu fahimci cewa wannan matsala ta wanzu tun kafin a kirkiro wadannan abubuwa, kawai dai muhimmancinta ya karu a yanzu albarkacin Intanet, wanda ya kai miliyoyin da biliyoyin mutane.

Ina tsammanin abu ne mai kyau a zahiri lokacin da wani yayi ƙoƙarin dakatar da ci gaba ta ƙoƙarin hana AI, kuma kun san hakan ba zai yi aiki ba saboda muna da Putin da sauran mugayen mutane, a duk inda suke, waɗanda ke amfani da mu su ne fasaharmu da aka kirkira a ciki. duniya kyauta. Don haka ina ganin ya kamata mu yarda da shi a matsayin kyauta.

Asalin matsalar yana cikinmu ne kawai, kuma amsoshin tambayoyin suna cikinmu, cikin ƙarfinmu da amincewarmu. Ina jayayya cewa injuna masu hankali ba za su iya sa mu zama “marasa amfani ba.” Duk da haka, dole ne a tuna cewa akwai wasu ƙuntatawa game da haɗin gwiwar ɗan adam da na'ura mai kwakwalwa, kuma mafi yawan waɗannan jita-jita ne kawai da suka wanzu a baya. Kamar koyaushe, waɗannan sabbin damammaki ne kawai waɗanda ke lalata tsohuwar duniya kuma su haifar da wata sabuwa, kuma idan muka ci gaba, za mu kasance mafi kyau.

A zamanin yau ya fi kama da ƙaura zuwa duniyar almarar kimiyya. Abin ban mamaki shi ne, idan muka waiwayi shekaru 50-60, za mu ga cewa a wancan zamani almarar kimiyya tana da kwakkwaran inganci, ya kasance cikakkiyar utopia. Duk da haka, a lokacin an sami sauyi a hankali daga utopia zuwa dystopia, ta yadda ba za mu so mu ji wani abu game da makomar bil'adama ba.

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Wannan bai faru dare daya ba. Akwai lokacin da mutane suka yanke shawarar cewa binciken sararin samaniya yana da haɗari sosai. Hakika wannan babban hatsari ne, amma ka yi tunanin cewa a shekarar 1969, lokacin da Amurkawa suka sauka a duniyar wata, duk karfin kwamfuta na NASA bai kai karfin kowace na'urar kwamfuta ta zamani da ta dace da aljihunka ba. Wannan na'urar ta fi na'urar supercomputer iko sau dubu fiye da shekaru 40 da suka gabata. Ka yi tunanin ƙarfin kwamfuta da kake da shi a cikin aljihunka! Duk da haka, ban tabbata cewa Apple iPhone 7 yana da ikon sarrafa kwamfuta iri ɗaya da Apollo 7 yake da shi ba, wato yana iya haifar da irin wannan tasiri.

Koyaya, injuna sun ba mu ci gaba da yawa a sararin samaniya ko binciken teku, kuma dole ne mu fahimci cewa kwamfutoci suna ba mu damar yin babban haɗari.

Ina so in kawo karshen magana ta akan kyakkyawar fahimta. Shin wannan nunin baya nuna ingantattun hotuna? Hoton da ke ƙasan kusurwar dama ba a ɗaukar hoto ba, a zahiri na haɗu da Terminator a 2003.

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Shi ma yana son dara tun yana yara, amma bai yi nazari musamman ba, don haka ya yi hasarar da sauri. Don haka na yi mamaki sosai lokacin da bayan watanni 6 ya tsaya takarar gwamnan California kuma ya yi nasara!

Me yasa na kira wadannan hotuna masu inganci? Domin ko da yake a cikin dukkan shirye-shiryen in ban da na farko, tsohon Arnold yana tsayawa a gefen masu nasara kuma ba ya gajiyawa da yaki da sababbin na'urori, a cikin kashi na farko ne muka ga haɗuwa da nake magana akai - wannan shine lokacin da mutum da wani tsohon inji da cikakken ke dubawa ya ci sabuwar mota.
Kuna iya cewa: "Eh, inji sun fi mutane ƙarfi domin suna iya ƙididdige komai!" Duk da haka, batun ba shine cewa za su iya lissafin komai ba. Misali, a cikin dara za mu iya magana ta hanyar fasaha game da ƙarancin ilimin lissafi na adadin yuwuwar motsi, daidai da 1045, waɗanda ba su da wahala ga kowace kwamfuta ta zamani don ƙididdige su. Duk da haka, abin da ke da mahimmanci a cikin wasan ba lissafin ba ne, amma gaskiyar cewa kwamfutar tana gaba da mutum, domin a koyaushe ana jagorantar ta da ka'idoji. Kuma kun san tasirin waɗannan ƙa'idodin kuma kun san dalilin da yasa kwamfutar ke zaɓar mafi kyawun motsi daga ɗimbin motsi iri-iri.

Amma idan muka koma ga rayuwa ta gaske, ban tabbata cewa kwamfuta za ta iya zama da amfani koyaushe ba. Bari mu dubi yanayin da ya fi dacewa - kuna da kwamfutar da ke kula da kasafin kuɗin ku, kuna cikin kantin sayar da ku kuma kuna shirin siyan kyauta mai tsada. Kwamfuta tana kimanta sayan kuma ta ce, "a'a, ba za ku iya samun wannan abu ba saboda za ku wuce kasafin kuɗi." Na'urar ta ƙididdige komai, amma akwai ƙananan nuance - yaronku yana tsaye kusa da ku, kuma wannan kyautar an yi nufin ranar haihuwarsa. Kuna ganin yadda wannan ke canza yanayin matsalar? Wannan yana canza komai saboda yaron yana jiran wannan kyauta.

Zan iya fara ƙara waɗannan ƙananan abubuwa waɗanda ke canza komai, amma ba na tsammanin za a iya haɗa su cikin bayanin matsalar kuma a sami mafita mai kyau. Muna da dokoki da yawa, amma har yanzu muna yin tambayoyi saboda abubuwa suna canzawa. Wannan shi ne abin da za a iya kira yanayi na yau da kullum, amma idan ka kalli waɗannan fina-finai, za ka iya cewa yanayin da aka nuna a nan ya fi ban mamaki da ban mamaki. Wannan zane-zane yana nuna har yanzu daga Episode V na Star Wars: The Empire Strikes Back.

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Han Solo ya tuka jirgin kai tsaye ta cikin filin jirgin sama, kuma C-3PO ya firgita, yana ba da rahoton cewa damar tsira a filin shine 1: 3122. Han Solo ya ce masa, "Kada ka gaya mani ko menene damarmu!" Anan tambaya ta taso, wanene ya fi dacewa a cikin wannan yanayin?

Fasahar da C-3PO ke wakilta tana da cikakkiyar dama, saboda damar da za ta tsira ba ta kai ga sifili ba. Mai yiyuwa ne, ta fuskar mutum-mutumi, kama hannun sojojin Imperial shine mafi kyawun zaɓi wanda ɗan adam ba zai yi la'akari da shi ba fiye da mutuwa a filin sararin samaniya. Amma idan kwamfutar ta yanke shawarar cewa mika wuya ga daular shine mafi kyawun zaɓi, to muna iya ɗauka cewa mutumin ba shi da wani zaɓi ko kaɗan. Abu mafi mahimmanci shi ne cewa a cikin duka biyun, na yau da kullun da na ban mamaki, muna da damar da za mu yanke shawara na ƙarshe, kuma yin irin wannan shawarar har yanzu yana buƙatar jagorancin ɗan adam.

Wani lokaci wannan yana nufin dole ne ku saba wa shawarwarin kwamfuta. Manufar shugabancin ’yan Adam ba don sanin rashin jituwa ba ne, amma don yin tambayoyi da suke da muhimmanci, ba yau ko gobe kawai ba, amma a nan gaba. Ana iya kiran wannan tsari "shiriyar mutum" ko "shigar ɗan adam", yana tasiri ba tare da taimakon injuna masu hankali ba. Wannan shi ne abin da tafarkinmu ya kamata ya kasance a wannan karni.

Mutane a wasu lokuta suna mamakin kyakkyawan fata na game da injuna masu hankali, idan aka yi la'akari da kwarewata da su, amma ni gaskiya ne mai kyakkyawan fata. Kuma na tabbata duk kuna da kwarin gwiwa game da makomar AI. Amma dole ne mu tuna cewa fasahohin mu ba su da tushe. Ba mai kyau ko mara kyau ba ne, amma ana iya amfani da shi don alheri da mugunta. Dole ne injuna su zama masu wayo da iya aiki. Kuma mu ’yan Adam dole ne mu yi abin da mutane kaɗai za su iya yi – yin mafarki, mu yi mafarki sosai, sa’an nan za mu iya fitar da duk fa’idodin da waɗannan sabbin kayan aikin ban mamaki suke kawowa.

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Kamar yadda aka tsara, muna da sauran mintuna 10 don amsa tambayoyi.

Tambaya: Kuna tsammanin zai yiwu a ƙirƙiri tsarin koyo na na'ura wanda zai iya tantance wane motsi ya fi dacewa da salon wasan ɗan adam?

Kasparov: Da farko, ba ma tsammanin kwamfutar za ta gaya mana motsi na farko da sauran motsi 17505. Ina tsammanin ya kamata mu dogara ga na'ura don samar da mafi kyawun shawarwari don motsi na musamman. Af, manyan 'yan wasa suna amfani da kwamfutoci a matsayin jagora, suna taimaka musu ɗaukar matsayi mafi dacewa a wasan. Na sake maimaitawa - a cikin lokuta 9 cikin 10, kimantawar kwamfuta game da halin da ake ciki ya fi kimar da mutum zai iya yi.

Tambaya: Shin kun yarda cewa basira ta gaskiya tana buƙatar ’yancin zaɓi, ’yancin yanke shawarar da mutum kaɗai zai iya yankewa? Bayan haka, manhajar Deep Blue da sauran manhajojin kwamfuta mutane ne ke rubutawa, kuma idan ka sha kashi da Deep Blue, ba kwamfuta za ka yi hasarar ba, sai ga masu shirye-shiryen da suka rubuta shirin. Tambayata ita ce: shin akwai wani hadari daga kowane irin basirar na’ura matukar dai kwamfutoci suna da ‘yancin zabi?

Kasparov: a nan dole ne in matsa daga kimiyya zuwa falsafar. Komai ya bayyana a fili game da Deep Blue - sakamakon babban adadin aikin ɗan adam ne. A mafi yawan lokuta, ko da a cikin yanayin Demis Hassabis' AlphaGo, waɗannan duk samfuran hankali ne na ɗan adam. Ban sani ba ko inji za su iya samun 'yancin zaɓe, amma na yi imanin cewa duk abin da muke yi, idan mun san yadda ake yin su, inji za su fi dacewa. Amma, sa’ad da muka yi abubuwa da yawa, ba mu san yadda za mu yi su a hanya mafi kyau ba, don haka sau da yawa ba za mu iya fahimtar abin da za mu yi nasara ba. A taƙaice, muna da manufa, amma ba mu san mene ne ba, kuma aikin na'ura shi ne ya taimaka mana mu cimma wannan burin. Don haka, idan muka yi magana game da zaɓin kwamfutoci na kyauta, to yakamata ya taimaka wajen ɗaure mu ga wannan manufa. Ina tsammanin wannan makoma ce mai nisa ga kwamfutoci.

Tambaya: Menene ra'ayin ku game da halayen ɗan adam kamar ƙarfin hali da ɗabi'a, da kuma shawarar da basirar wucin gadi za ta iya yankewa a kan su? Misali, me ya kamata mota mai tuka kanta ta yi - ta bi wani yaro ko kuma ta guje wa dukansa ta hanyar fada cikin dutse da kashe fasinjansa?

Kasparov: Waɗannan su ne abin da mutane ke kira "ji", ba a ƙididdige su ba saboda su ne dukkanin nau'in halayen mutum daban-daban. Idan muna magana ne game da ƙarfin hali, to, wannan halayyar ko da yaushe ya saba da damar da za a zabi mafi kyawun zaɓi. Jarumtaka, kamar sauran motsin zuciyar ɗan adam, ta ma'anar ta sabawa ingantaccen lissafi.
Tambaya: Mista Kasparov, tambayata ba ta shafi kwamfutoci ba: menene a cikin flask ɗin ku kuma zan iya gwada shi?

Kasparov: me kake nufi?

Mai watsa shiri: Ya tambayi abin da ke cikin aljihunka!

Kasparov: a cikin aljihuna? "Stolichnaya"! Wannan ba talla bane, idan kun lura, na jefar da shi.

Taron DEFCON 25. Garry Kasparov. "Yakin Karshe na Kwakwalwa." Kashi na 2

Tambaya: Wanene kuke ganin zai zama zakaran darak na duniya na gaba kuma matashin dan wasan Chess na kasar Sin Wei Yi yana da damar tsige Carelsen a matsayin sarkin dara?

Kasparov: Karelsen shine dan wasa mai lamba 1, ba shine zakaran duniya ba, amma kawai shine mafi kyawun dan wasan dara a duniya bisa ga kima. Ya cika shekara 27 a bana, don haka har yanzu matashi ne, amma ba matashi sosai ba bisa ka'idar yau. Ina tsammanin Wei Yi yana da shekaru 18 ko 19 a yanzu. Magnus yana gaban matasan 'yan wasa irin su Ba'amurke Wesley So da Fabiano Kerouana, kuma Wei Yi zai iya zama abokin hamayyarsa. Duk da haka, don zama zakara a duniya, kuna buƙatar basira, ba dole ba ne ku kasance matasa da kuzari, kawai ku sami ɗan sa'a. Don haka, don amsa tambayar, zan iya cewa - a, yana da damar doke Magnus Carelsen.
Tambaya: Lokacin da kuka yi magana game da ƙayyadaddun algorithms da koyan inji, kun ambaci yuwuwar yin amfani da injina azaman kayan aikin don dacewa da hankalinmu. Me game da yiwuwar haɓaka albarkatun kafin ƙirƙirar AI mai ƙarfi, ko ma sanya kwakwalwar ɗan adam a cikin kwamfuta?

Kasparov: Ba na jin kunyar yarda da jahilci na lokacin da ban tabbata cewa ba zan iya amsa tambaya daidai ba. Ina ƙoƙari na don fahimtar menene kwakwalwar ɗan adam, idan muka yi la'akari da ita daban da jikin mutum, menene ayyukan da take yi. Domin yana da wuya a yi tunanin yadda kwakwalwa za ta kasance dabam daga jiki. Wataƙila za a iya yin irin wannan gwaji a nan gaba, amma ina da tabbacin cewa haɗuwar kwakwalwar ɗan adam, jin daɗin ɗan adam da motsin rai tare da kwamfuta za su samar da "tunani" wanda zai fi tasiri fiye da kwakwalwar da aka cire da kuma daskarewa, amfani da su. a matsayin na'urar da ke cike da neurons.

Tambaya: Shin akwai wata hanya ta gama gari game da matsalar maye gurbin ayyukan ɗan adam da kwamfuta?

Kasparov: Ina tsammanin wannan tambaya ce mai mahimmanci, domin a bayyane yake cewa muna gabatowa lokacin da mutane da yawa na iya zama marasa aikin yi. Wannan shi ne sabani na ci gaban fasaha: a gefe guda, muna da sabbin fasahohin da ke ba da babbar fa'ida ga matasa masu mu'amala da waɗannan na'urori da fasahohin. A gefe guda kuma, muna samun ci gaba a fannin likitanci da abinci mai gina jiki, wanda ke tsawaita rayuwar ɗan adam kuma yana ba mutum ikon yin aiki na shekaru masu yawa. A wannan ma'ana, tsarar 50s, 60s ko ma 40s ba za su iya yin gogayya da matasan yau ba. Dole ne mu nemo mafita ga wannan yanayi mai ban mamaki inda tazarar da ke tsakanin al'ummomi ta yi yawa. Kwarewar tarihi ta ce irin wannan gibin koyaushe yana haifar da fashewa mai girma. Ina nufin rata tsakanin abubuwan more rayuwa na zamantakewar al'umma da ci gaban fasaha.

Wannan batu ne da ‘yan siyasa suka gwammace su janye har zuwa zabe mai zuwa. Ba wanda yake son yin magana game da shi saboda lamari ne mai mahimmanci. Yana da sauƙin buga kuɗi da fatan cewa wani zai biya su wata rana a nan gaba. Don haka akwai sabani da yawa a wannan fanni, misali tarin basussuka na samar da lamunin zamantakewa ga tsofaffin al’umma tare da fatan cewa nauyin biyan wadannan basussuka zai hau kan matasa masu tasowa. Akwai tambayoyi da yawa waɗanda ba ni da amsoshi, da kuma tambayoyi da yawa waɗanda zan iya yi waɗanda nake fatan AI za ta iya taimaka mini da su.
Yana da kyau cewa shekaru da yawa ’yan siyasa suna ƙoƙarin yin watsi da matsalolin da muka tattauna yanzu. A koyaushe a shirye suke don yin maganganu, koyaushe suna da tsare-tsare, amma ba sa son fahimtar rashin amfanin yin shuru game da matsalar rikici tsakanin fasaha da al'umma. Na gode da kulawar ku!

Na gode da kasancewa tare da mu. Kuna son labaran mu? Kuna son ganin ƙarin abun ciki mai ban sha'awa? Goyon bayan mu ta hanyar ba da oda ko ba da shawara ga abokai, Rangwamen 30% ga masu amfani da Habr akan keɓaɓɓen analogue na sabar matakin shigarwa, wanda mu muka ƙirƙira muku: Duk gaskiyar game da VPS (KVM) E5-2650 v4 (6 Cores) 10GB DDR4 240GB SSD 1Gbps daga $20 ko yadda ake raba sabar? (akwai tare da RAID1 da RAID10, har zuwa 24 cores kuma har zuwa 40GB DDR4).

Dell R730xd sau 2 mai rahusa? Nan kawai 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV daga $199 a cikin Netherlands! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - daga $99! Karanta game da Yadda ake gina Infrastructure Corp. aji tare da amfani da sabar Dell R730xd E5-2650 v4 masu darajan Yuro 9000 akan dinari?

source: www.habr.com

Add a comment