Mi pensas, ke la problemo ne estas, ke maŝinoj anstataŭigos homojn en sia laborejo, inkluzive en la intelekta sfero, kaj ne ke komputiloj ŝajnas esti preninta armilojn kontraŭ homoj kun supera edukado kaj Twitter-kontoj. La efektivigo de AI ne okazas rapide, sed male, ĝi estas tro malrapida. Kial? Ĉar ĉi tio estas normala ciklo de homa evoluo, kaj ni simple ne rimarkas, ke la detruo, kiun ni vidas, signifas la enkondukon de nova teknologio, kiu, antaŭ ol krei novajn laborpostenojn, detruas malnovajn.
Teknologioj detruas malmodernajn industriojn kaj kreas novajn, jen la procezo de kreado, jen la evoluciklo. Se vi provas plilongigi la agonio enmetante malnovajn teknologiojn en la procezon aŭ kreante iujn avantaĝojn por malmodernaj teknologioj, vi simple malrapidigos la procezon kaj faros ĝin pli dolora. Ĝi okazos ĉiuokaze, sed la problemo estas, ke ni reguligas la procezon kreante regulojn, kiuj intence malrapidigas ĝin. Mi pensas, ke ĉi tio estas pli granda problemo ol tiuj, pri kiuj ni pli klare konscias. Ĉi tio estas pli psikologia problemo, kie homoj demandas: "kiel vi povas senti vin sekura dum memveturanta aŭto?"
Mi enrigardis la historion kaj eksciis, ke antaŭ cent jaroj unu el la plej potencaj sindikatoj en Novjorko estis la sindikato de liftistoj, kiu kunigis 17 mil laboristojn. Cetere, tiutempe jam ekzistis teknologio, kie oni povis simple premi butonon kaj vi finis, sed homoj ne fidis ĝin! Estas nur terure devi mem premi la butonon por voki la lifton! Ĉu vi scias kial tiu ĉi sindikato "mortis" kaj homoj mem ekuzis la butonojn? Ĉar iun tagon la liftistoj decidis striki. Ili strikis, kaj tiam la homoj, kiuj devis grimpi al la supro de la Empire State Building riskis puŝi la butonojn per siaj propraj manoj.
Memoru tion, kion ili diris antaŭ 20-30 jaroj pri infanoj aŭ nepoj, kiam ili eniris la stiron de aŭto: "ĉi tio estas terura, nur rigardu la statistikon, ĉar aŭtoj estas unu el la ĉefaj kaŭzoj de homa morteco, kiel ili povas riski; iliajn vivojn?”
Do, ĉio ĉi estas pura psikologio. Ni malmulte atentas kiom da homoj mortas en aŭtoakcidentoj, sed post kiam unu persono estas mortigita de memvetura aŭto, la evento estas senproporcie. Ajna eraro, ajna eraro en teknologioj de artefarita inteligenteco estas tuj kovrita sur la frontpaĝoj de gazetoj. Sed rigardu la statistikon, rigardu la nombron da incidentoj, kaj vi vidos kia eta procento de la totala nombro de akcidentoj ĝi estas. Tial la homa komunumo venkos nur se ĝi povos antaŭeniri sen esti paralizita de tiaj timoj.
Alia afero aperas kiam ni parolas pri falsaj novaĵoj aŭ cibersekureco, ĉi tiuj estas tre politikigitaj temoj kaj mi ricevas multajn vokojn demandante kiel mi traktas AI-malamantojn. Ekzemple, mi skribas regulan blogon, kaj mia nova afiŝo, kiu aperos post kelkaj tagoj, parolas pri malamo kaj pri tio, ke savo de malamo kuŝas en scio, en lernado. Ni devas nur kompreni, ke tiu ĉi problemo ekzistis longe antaŭ ol ĉiuj ĉi aferoj estis inventitaj, nur ke ĝia graveco nun pliiĝis danke al Interreto, kiu atingas milionojn kaj miliardojn da homoj.
Mi pensas, ke efektive estas bona afero, kiam iu provas ĉesigi progreson provante malpermesi AI, kaj vi scias, ke tio ne funkcios ĉar ni havas Putin kaj aliajn malbonulojn, kie ajn ili estas, kiuj uzas kontraŭ ni niajn proprajn teknologiojn kreitajn en. la libera mondo. Do mi pensas, ke ni devus nur akcepti ĝin kiel donitan.
La esenco de la problemo kuŝas nur en ni, kaj la respondoj al la demandoj kuŝas en ni, en nia propra forto kaj nia propra konfido. Mi argumentas, ke inteligentaj maŝinoj ne povas igi nin "malnoviĝintaj". Tamen oni devas memori, ke ekzistas certaj limigoj rilate homa-komputila kunlaboro, kaj grandparte ĉi tiuj estas nur onidiroj, kiuj ekzistis antaŭe. Kiel ĉiam, ĉi tiuj estas simple novaj ŝancoj, kiuj detruas la malnovan mondon kaj kreas novan, kaj ju pli ni antaŭeniros, des pli bone ni estos.
Nuntempe ĝi plej proksime similas movon en la mondon de sciencfikcio. La paradokso estas, ke se ni retrorigardos 50-60 jarojn, ni vidos, ke tiutempe sciencfikcio estis absolute pozitiva, ĝi estis kompleta utopio. Tamen tiam okazis laŭgrada transiro de utopio al distopio, tiel, ke ni ne plu volas aŭdi ion pri la estonteco de la homaro.
Ĉi tio ne okazis dum la nokto. Estis tempo, kiam homoj decidis, ke kosmoesploro estas tro riska. Ĉi tio ja estas granda risko, sed imagu, ke en 1969, kiam la usonanoj alteriĝis sur la lunon, la tuta komputa potenco de NASA estis malpli granda ol la potenco de iu ajn moderna komputika aparato, kiu taŭgas en via poŝo. Ĉi tiu aparato estas miloble pli potenca ol la superkomputilo, kiu ekzistis antaŭ 40 jaroj. Imagu la komputikan potencon, kiun vi havas en via poŝo! Tamen mi ne certas, ke la Apple iPhone 7 havas la saman komputikan potencon, kiun havis Apollo 7, tio estas, ĝi kapablas produkti la saman efikon.
Tamen, maŝinoj havigis al ni multajn grandajn progresojn en kosmo aŭ oceana esplorado, kaj ni devas kompreni, ke komputiloj havigas al ni la kapablon preni grandajn riskojn.
Mi ŝatus fini mian paroladon per pozitiva noto. Ĉu ĉi tiu bildo ne montras pozitivajn bildojn? La foto en la malsupra dekstra angulo ne estas fotoshopita, mi fakte renkontis la Terminatoron en 2003.
Li ankaŭ amis ŝakon ekde infanaĝo, sed li ne studis ĝin specife, do li perdis tre rapide. Do mi estis tre surprizita kiam 6 monatojn poste li kandidatiĝis por la posteno de guberniestro de Kalifornio kaj venkis!
Kial mi nomas ĉi tiujn bildojn pozitivaj? Ĉar kvankam en ĉiuj epizodoj krom la unua, maljuna Arnold ĉiam staras ĉe la flanko de la gajnintoj kaj neniam laciĝas batali kontraŭ novaj maŝinoj, estas en la unua epizodo, ke ni vidas la kombinaĵon pri kiu mi parolis - jen kiam persono plus malnova maŝino plus perfekta interfaco venkas la plej novan aŭton.
Vi povas diri: "jes, maŝinoj estas pli fortaj ol homoj ĉar ili povas kalkuli absolute ĉion!" Tamen, la afero ne estas, ke ili povas ĉion kalkuli. Ekzemple, en ŝako oni povas teknike paroli pri la matematika senfineco de la nombro da eblaj movoj, egala al 1045, kiuj ne malfacilas por iu ajn moderna komputilo kalkuli. Tamen, kio gravas en la ludo, ne estas la kalkuloj, sed la fakto, ke la komputilo estas antaŭ la persono, ĉar ĝi ĉiam estas gvidata de la reguloj. Kaj vi scias la efikon de ĉi tiuj reguloj kaj vi scias kial la komputilo elektas la plej bonan movon el grandega vario de eblaj movoj.
Sed se ni turnas nin al la reala vivo, mi ne certas, ke komputilo ĉiam povas esti utila. Ni rigardu la plej tipan situacion - vi havas komputilon, kiu kontrolas vian buĝeton, vi estas en vendejo kaj estas aĉetonta multekostan donacon. La komputilo taksas la aĉeton kaj diras, "ne, vi ne povas pagi ĉi tiun objekton ĉar vi troos buĝeton." La maŝino kalkulis ĉion, sed estas malgranda nuanco - via infano staras apud vi, kaj ĉi tiu donaco estas destinita por lia naskiĝtago. Ĉu vi vidas kiel ĉi tio ŝanĝas la kondiĉojn de la problemo? Ĉi tio ŝanĝas ĉion ĉar la infano atendas ĉi tiun donacon.
Mi povas komenci aldoni ĉi tiujn malgrandajn aferojn, kiuj ŝanĝas ĉion, sed mi ne pensas, ke ili povas esti inkluzivitaj en la problemo-deklaro kaj akiri la ĝustan solvon. Ni havas multajn regulojn, sed ni ankoraŭ devas demandi, ĉar aferoj ŝanĝiĝas. Jen tio, kion oni povas nomi ordinara situacio, sed se oni rigardas ĉi tiujn filmojn, oni povas diri, ke la ĉi tie montrita situacio estas pli drama kaj eksterordinara. Ĉi tiu lumbildo montras fotogramon de Epizodo V de Stelmilito: The Empire Strikes Back.
Han Solo pilotas la ŝipon rekte tra asteroida kampo, kaj C-3PO panikiĝas, raportante ke la ebleco de postvivado de la kampo estas 1:3122-a Han Solo rakontas al li, "Ne iam rakontu al mi kio niaj ŝancoj estas!" Ĉi tie staras la demando, kiu pli pravas en ĉi tiu situacio?
La teknologio reprezentita de C-3PO tute pravas, ĉar la ŝanco de postvivado tendencas al nulo. Eblas, ke, el la perspektivo de roboto, esti kaptita de imperiaj fortoj estas pli bona elekto, kiun homo eĉ ne konsiderus ol morti en asteroida kampo. Sed se la komputilo decidas, ke kapitulaco al la imperio estas la plej bona elekto, tiam ni povas supozi, ke la persono tute ne havas eblojn. La tre grava afero estas, ke en ambaŭ kazoj, ordinaraj kaj eksterordinaraj, ni havas la ŝancon fari la finfinan decidon, kaj fari tian decidon ankoraŭ postulas homan gvidadon.
Kelkfoje tio signifas, ke vi devas iri kontraŭ la rekomendoj de la komputilo. La celo de homa gvidado estas ne scii la probablecon, sed demandi la demandojn kiuj vere gravas, ne nur hodiaŭ aŭ morgaŭ, sed longe en la estonteco. Ĉi tiu procezo povas esti nomita "homa gvidado" aŭ "homa interveno", influante sen la helpo de inteligentaj maŝinoj. Jen kia devas esti nia kurso en ĉi tiu jarcento.
Homoj estas foje surprizitaj de mia optimismo pri inteligentaj maŝinoj, pro mia sperto kun ili, sed mi vere estas optimisto. Kaj mi certas, ke vi ĉiuj estas same optimismaj pri la estonteco de AI. Sed ni devas memori, ke niaj teknologioj estas agnostikaj. Ĝi estas nek bona nek malbona, sed povas esti uzata kaj por bono kaj malbono. Maŝinoj devas fariĝi pli inteligentaj kaj kapablaj. Kaj ni homoj devas fari tion, kion nur homoj povas fari - revi, revi plene, kaj tiam ni povos eltiri ĉiujn profitojn, kiujn ĉi tiuj mirindaj novaj iloj alportas.
Kiel planite, ni ankoraŭ havas 10 minutojn por respondi demandojn.
Demando: Ĉu vi pensas, ke eblus krei maŝinlernsistemon, kiu povus determini, kiuj movoj pli kongruas kun la homa ludstilo?
Kasparov: Antaŭ ĉio, ni ne atendas, ke la komputilo diros al ni la unuan movon kaj la ceterajn 17505 9 movojn. Mi pensas, ke ni devus fidi je la maŝino por provizi la plej bonajn rekomendojn por unikaj movoj. Cetere, altklasaj ludantoj uzas komputilojn kiel gvidilon, helpante ilin preni la plej taŭgan pozicion en la ludo. Mi ripetas denove - en 10 kazoj el XNUMX, la takso de la komputilo de la situacio estas multe pli alta ol la takso kiun homo povas fari.
Demando: Ĉu vi konsentas, ke vera inteligenteco postulas liberecon de elekto, liberecon fari decidojn, kiujn nur homo povas fari? Post ĉio, Deep Blue programaro kaj aliaj komputilaj programoj estas verkitaj de homoj, kaj kiam vi perdas kontraŭ Deep Blue, vi perdas ne al la komputilo, sed al la programistoj kiuj skribis la programon. Mia demando estas: ĉu ekzistas ia danĝero de ia maŝina inteligenteco kondiĉe ke komputiloj havas liberecon de elekto?
Kasparov: ĉi tie mi devas transiri de scienco al filozofio. Ĉio estas klara pri Deep Blue - ĝi estas la rezulto de grandega kvanto da homa laboro. Plejofte, eĉ en la kazo de AlphaGo de Demis Hassabis, ĉi tiuj ĉiuj estas produktoj de homa inteligenteco. Mi ne scias ĉu maŝinoj povas havi liberecon de elekto, sed mi kredas ke kion ajn ni faros, se ni scias kiel fari ĝin, maŝinoj faros ĝin pli bone. Tamen, kiam ni faras plej multajn aferojn, ni ne scias kiel fari ilin en la plej bona maniero, do ni ofte ne povas kompreni, kion ni sukcesos. Simple dirite, ni havas celon, sed ni ne scias kio ĝi estas, kaj la rolo de la maŝino estas helpi nin realigi tiun celon. Tial, se ni parolas pri libera elekto de komputiloj, tiam ĝi devus helpi ligi nin al ĉi tiu celo. Mi pensas, ke tio estas tre malproksima estonteco por komputiloj.
Demando: Kion vi pensas pri homaj trajtoj kiel kuraĝo kaj moralo, kaj la decidoj, kiujn artefarita inteligenteco povas fari surbaze de ili? Ekzemple, kion faru aŭtoveturanta aŭtomobilo - transkuru infanon aŭ evitu bati lin trafante kontraŭ roko kaj mortigante ĝian pasaĝeron?
Kasparov: Ĉi tiuj estas kion homoj nomas "sentoj", ili ne estas kvantigeblaj ĉar ili estas tuta aro da malsamaj homaj trajtoj. Se ni parolas pri kuraĝo, tiam ĉi tiu karakterizaĵo ĉiam kontraŭas la ŝancojn elekti la optimuman eblon. Braveco, kiel aliaj homaj emocioj, estas laŭdifine kontraŭa al preciza kalkulo.
Demando: Sinjoro Kasparov, mia demando ne koncernas komputilojn: kio estas en via flakono kaj ĉu mi povas provi ĝin?
Kasparov: kion vi volas diri?
Gastiganto: Li demandas, kio estas en via poŝo!
Kasparov: en mia poŝo? "Stoliĉnaja"! Ĉi tio ne estas reklamo, se vi rimarkis, mi forĵetis ĝin.
Demando: Kiu laŭ vi estos la venonta monda ŝakĉampiono kaj ĉu juna ĉina ŝakludanto Wei Yi havas ŝancon detronigi Carelsen kiel la reĝo de ŝako?
Kasparov: Karelsen estas la numero 1 ludanto, li ne estas mondĉampiono, sed simple la plej bona ŝakludanto en la mondo laŭ la takso. Li fariĝas 27 ĉi-jare, do li estas ankoraŭ juna, sed ne tre juna laŭ la hodiaŭaj normoj. Mi pensas, ke Wei Yi estas 18 aŭ 19-jara nun. Magnus estas antaŭ junaj ludantoj kiel usonanoj Wesley So kaj Fabiano Kerouana, kaj Wei Yi eble povus esti lia kontraŭulo. Tamen, por fariĝi mondĉampiono, vi bezonas talenton, vi ne devas esti juna kaj energia, nur havi iom da bonŝanco. Do, por respondi la demandon, mi povas diri - jes, li havas ŝancon venki Magnus Carelsen.
Demando: Kiam vi parolis pri determinismaj algoritmoj kaj maŝinlernado, vi menciis la eblecon uzi maŝinojn kiel ilojn por kompletigi nian inteligentecon. Kio pri la ebleco maksimumigi rimedojn antaŭ krei potencan AI, aŭ eĉ meti homan cerbon en komputilon?
Kasparov: Mi ne embarasas konfesi mian nescion, kiam mi ne certas, ke mi ne kapablas ĝuste respondi demandon. Mi klopodas kompreni kio estas la homa cerbo, se ni konsideras ĝin aparte de la homa korpo, kiajn funkciojn ĝi plenumas. Ĉar estas malfacile imagi, kiel la cerbo kondutos aparte de la korpo. Eble tia eksperimento povus esti farita estonte, sed mi certas, ke la kombino de la homa cerbo, homaj sentoj kaj emocioj kun komputilo formos "menson", kiu estos multe pli efika ol cerbo eltirita kaj frostigita, uzata. kiel aparato plenigita de neŭronoj.
Demando: Ĉu ekzistas universala baza aliro al la problemo de anstataŭigi homajn laborojn per komputiloj?
Kasparov: Mi opinias, ke tio estas tre grava demando, ĉar estas klare, ke ni alproksimiĝas al la punkto, kie multaj homoj povas esti senlaboruloj. Ĉi tio estas la paradokso de teknologia progreso: unuflanke, ni havas la plej novajn teknologiojn, kiuj provizas enormajn konkurencivajn avantaĝojn al la pli juna generacio, kiu traktas ĉi tiujn aparatojn kaj teknologiojn. Aliflanke, ni havas progreson en medicino kaj sana nutrado, kiu plilongigas homan vivon kaj donas al homo la kapablon labori dum multaj jaroj. Tiusence la generacio de la 50-aj, 60-aj aŭ eĉ 40-aj jaroj ne povas konkuri kun la nuna junularo. Ni devas trovi solvon al tiu paradoksa situacio, kie la interspaco inter generacioj estas tiel vasta. Historia sperto diras, ke tia breĉo ĉiam kondukas al granda eksplodo. Mi celas la interspacon inter la ekzistanta socia infrastrukturo de la socio kaj la teknologia progreso.
Ĉi tio estas afero, kiun politikistoj preferas prokrasti ĝis la venonta elekto. Neniu volas paroli pri tio, ĉar ĝi estas sentema afero. Estas tre facile presi monon kaj esperi ke iu pagos por ĝi iam estonte. Do estas multaj paradoksoj en ĉi tiu areo, ekzemple, la amasiĝo de ŝuldoj por havigi sociajn garantiojn al la pli maljuna generacio en la atendo, ke la ŝarĝo pagi ĉi tiujn ŝuldojn falos sur la ŝultrojn de la pli juna generacio. Estas multaj demandoj, pri kiuj mi ne havas respondojn, kaj multaj demandoj, kiujn mi povus fari, pri kiuj mi esperas, ke AI povas helpi min.
Estas tre malbone, ke de jardekoj politikistoj klopodas ignori la problemojn, kiujn ni ĵus diskutis. Ili ĉiam pretas fari deklarojn, ili ĉiam havas planojn, sed ili ne volas kompreni la kontraŭproduktivecon silenti pri la problemo de la konflikto inter teknologio kaj socio. Dankon pro via atento!
Dankon pro restado ĉe ni. Ĉu vi ŝatas niajn artikolojn? Ĉu vi volas vidi pli interesan enhavon? Subtenu nin farante mendon aŭ rekomendante al amikoj, 30% rabato por uzantoj de Habr sur unika analogo de enirnivelaj serviloj, kiu estis inventita de ni por vi: (havebla kun RAID1 kaj RAID10, ĝis 24 kernoj kaj ĝis 40GB DDR4).
Dell R730xd 2 fojojn pli malmultekosta? Nur ĉi tie en Nederlando! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - ekde $99! Legu pri
fonto: www.habr.com