Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 1

Ez difikirim ku pirsgirêk ne ew e ku makîneyên dê li cîhê xebata wan dewsa mirovan bigirin, di nav de jî di warê rewşenbîrî de, û ne ku xuya dike ku komputeran çekan li dijî kesên xwedî xwendina bilind û hesabên Twitter-ê girtine. Pêkanîna AI-ê ne zû diqewime, lê berevajî, ew pir hêdî ye. Çima? Ji ber ku ev çerxeke asayî ya geşepêdana mirovî ye, û em bi hêsanî pê nizanin ku wêrankirina ku em dibînin tê wateya danasîna teknolojiya nû, ku berî afirandina karên nû, yên kevin wêran dike.

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Teknolojî pîşesaziyên kevnar hildiweşîne û yên nû diafirîne, ev pêvajoya afirandinê ye, ev çerxa pêşkeftinê ye. Ger hûn hewl bidin ku bi têxistina teknolojiyên kevnar di pêvajoyê de an hin avantajên ji bo teknolojiyên kevnar biafirînin tengahiyê dirêj bikin, hûn ê bi tenê pêvajoyê hêdî bikin û wê bêtir biêş bikin. Ew ê her weha çêbibe, lê pirsgirêk ev e ku em pêvajoyê bi afirandina qaîdeyên ku bi zanebûn wê hêdî dikin birêkûpêk dikin. Ez difikirim ku ev pirsgirêkek mezintir e ji yên ku em zelaltir dizanin. Ev bêtir pirsgirêkek psîkolojîk e ku mirov vê pirsê dipirse: "Hûn çawa dikarin dema ku di otomobîlek xwe-ajotinê de ewleh bin?"

Min li dîrokê mêze kir û fêr bûm ku sed sal berê yek ji sendîkayên herî bi hêz li New Yorkê sendîkaya karkerên asansorê bû ku 17 hezar karker li hev kom kiribûn. Bi awayê, di wê demê de jixwe teknolojiyek hebû ku hûn tenê bişkokek bikirtînin û we qedand, lê mirovan pê bawer nedikir! Tenê tirsnak e ku meriv bi xwe pêl bişkojkê bike da ku gazî asansorê bike! Hûn dizanin çima ev sendîka "mir" û mirovan bi xwe dest bi bikaranîna bişkokan kirin? Ji ber ku rojekê xebatkarên asansorê biryara grevê dan. Ew ketin grevê, û paşê mirovên ku neçar bûn hilkişin serê Empire State Building, rîsk kirin ku bişkokan bi destên xwe bixin.

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Bînin bîra xwe ku wan 20-30 sal berê li ser zarok û nevîyan çi digotin, gava li pişt çerxa otomobîlê siwar bûn: “ev tiştekî tirsnak e, tenê li statîstîkan binêre, ji ber ku otomobîl yek ji sedemên sereke yên mirina mirovan in, ew çawa dikarin xetereyê bikin. jiyana wan?”

Ji ber vê yekê, ev hemî psîkolojiya paqij e. Em hindik guhê xwe didin ka çend kes di qezayên otomobîlan de dimirin, lê gava ku kesek bi otomobîlek xwe-ajovan were kuştin, bûyer ji hev dernakeve. Di teknolojiyên îstîxbarata çêkirî de her xeletiyek, xeletiyek yekser li ser rûpelên pêşîn ên rojnameyan tê nixumandin. Lê li statîstîkan binihêrin, li hejmara bûyeran binihêrin, û hûn ê bibînin ku ew ji sedî piçûk a jimara giştî ya qezayan çend e. Ji ber vê yekê, civaka mirovî wê bi ser bikeve, tenê dema ku bikaribe bi pêş ve biçe bêyî ku ji tirsên weha felc bibe.

Dema ku em li ser nûçeyên derewîn an ewlehiya sîber diaxivin mijarek din derdikeve pêş, ev mijarên pir polîtîk in û ez gelek bangan dikim ku dipirsim ka ez çawa bi nefretkarên AI-yê re mijûl dibim. Bo nimûne, ez blogek birêkûpêk dinivîsim, û nivîsa min a nû, ku dê di nav çend rojan de were weşandin, behsa nefretê dike û wê yekê dike ku rizgariya ji nefretê di zanînê de, di fêrbûnê de ye. Tenê divê em fêhm bikin ku ev pirsgirêk gelek berî ku van tiştan hemî werin îcadkirin hebû, tenê girîngiya wê niha bi saya Înternetê ya ku digihîje bi mîlyonan û bi mîlyaran mirovan zêde bûye.

Ez difikirim ku bi rastî tiştek baş e dema ku kesek hewl dide ku bi hewildana qedexekirina AI-yê pêşkeftinê rawestîne, û hûn dizanin ku ew ê nexebite ji ber ku me Pûtîn û mirovên xirab ên din hene, li ku derê bin, yên ku li dijî me bikar tînin teknolojiyên me bixwe ne ku di nav de hatine afirandin. cîhana azad. Ji ber vê yekê ez difikirim ku divê em tenê wekî diyariyek qebûl bikin.

Esasê pirsgirêkê tenê di hundurê me de ye û bersivên pirsan jî di hundurê me de, di hêza me û baweriya me de ne. Ez îdia dikim ku makîneyên aqilmend nikarin me bikin "kevin". Lêbelê, pêdivî ye ku ji bîr mekin ku di derbarê hevkariya mirov-komputerê de hin qedexe hene, û bi rêjeyek mezin ev tenê gotegotên ku berê hebûn in. Mîna her gav, ev tenê firsendên nû ne ku cîhana kevn hilweşînin û cîhanek nû diafirînin, û her ku em pêşde biçin, dê baştir be.

Naha ew herî zêde dişibe tevgerek nav cîhana çîroka zanistî. Paradoks ev e ku ger em li 50-60 salan binêrin, em ê bibînin ku di wan rojan de çîroka zanistî bi tevahî erênî bû, ew utopyayek tam bû. Lêbelê, paşê gav bi gav ji utopyayê ber bi dîstopyayê ve derbas bû, bi vî rengî ku em êdî naxwazin li ser pêşeroja mirovahiyê tiştek bibihîzin.

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Ev yek di şevekê de pêk nehat. Demek hebû ku mirovan biryar da ku lêgerîna fezayê pir xeternak e. Bi rastî ev metirsiyek mezin e, lê bifikire ku di sala 1969-an de, dema ku Amerîkî daketin ser heyvê, tevahiya hêza hesabkirinê ya NASA-yê ji hêza her amûrek computerê ya nûjen ku di berîka we de cîh digire kêmtir bû. Ev amûr hezar carî ji superkomputera ku 40 sal berê hebû bi hêztir e. Tenê hêza hesabkirinê ya ku we di berîka we de heye bifikire! Lêbelê, ez ne bawer im ku Apple iPhone 7 xwedî heman hêza hesabkirinê ye ku Apollo 7 hebû, ango ew karibe heman bandorê çêbike.

Lêbelê, makîneyan di lêgerîna fezayê an okyanûsê de gelek pêşkeftinên mezin peyda kirine, û divê em fam bikin ku komputer ji me re şiyana ku em xetereyên mezin bigirin peyda dikin.

Dixwazim axaftina xwe bi erênî bi dawî bikim. Ma ev slayd wêneyên erênî nîşan nade? Wêneyê li quncika jêrîn a rastê ne fotoşopê ye, min di sala 2003-an de rastî Terminator hat.

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Ji zarokatiya xwe ve ji şetrancê jî hez dikir, lê wî bi taybetî nexwend, ji ber vê yekê pir zû winda kir. Ji ber vê yekê ez pir matmayî mam dema ku 6 meh şûnda ji bo parêzgarê Kalîforniyayê namzed bû û bi ser ket!

Çima ez ji van wêneyan re dibêjim erênî? Ji ber ku her çend di hemî beşan de ji xeynî ya yekem, Arnoldê kal her dem li kêleka serketiyan radiweste û ji şerkirina li dijî makîneyên nû westiya ne jî, di beşa yekem de ye ku em berhevoka ku min behs dikir dibînin - ev gava ku kes plus makîneyek kevn plus navberek bêkêmasî gerîdeya herî nû têk dibe.
Hûn dikarin bêjin: "erê, makîneyên ji mirovan bi hêztir in ji ber ku ew dikarin bi tevahî her tiştî hesab bikin!" Lêbelê, mesele ne ew e ku ew dikarin her tiştî hesab bikin. Mînakî, di satrancê de em dikarin ji hêla teknîkî ve qala bêdawîbûna matematîkî ya hejmara tevgerên mimkun, bi qasî 1045-an bikin, ku hesabkirina wan ji bo komputerek nûjen ne dijwar e. Lêbelê, ya ku di lîstikê de girîng e ne hesab e, lê rastiya ku komputer li pêşiya mirov e, ji ber ku ew her gav bi rêgez têne rêve kirin. Û hûn bandora van rêbazan dizanin û hûn dizanin ka çima komputer ji nav cûrbecûr tevgerên mimkun de tevgera çêtirîn hildibijêre.

Lê ger em berê xwe bidin jiyana rast, ez ne bawer im ku komputerek her gav bikêr be. Ka em li rewşa herî tîpîk binihêrin - we komputerek heye ku budceya we dişopîne, hûn li firotgehekê ne û hûn ê diyariyek biha bikirin. Komputer kirînê dinirxîne û dibêje, "na, hûn nekarin vî babetî bidî ji ber ku hûn ê ji budceyê derbas bibin." Makîneyê her tişt hesab kiriye, lê nuwazeyek piçûk heye - zarokê we li tenişta we radiweste, û ev diyarî ji bo rojbûna wî ye. Ma hûn dibînin ka ev çawa şert û mercên pirsgirêkê diguhezîne? Ev her tiştî diguherîne ji ber ku zarok li benda vê diyariyê ye.

Ez dikarim dest bi lêzêdekirina van tiştên piçûk bikim ku her tiştî diguherînin, lê ez nafikirim ku ew nikaribin tev li vegotina pirsgirêkê bibin û çareseriya rast bistînin. Gelek qaîdeyên me hene, lê dîsa jî divê em pirsan bipirsin ji ber ku tişt diguherin. Mirov dikare ji vê re bibêje rewşeke asayî, lê ger mirov li van fîlman binêre, mirov dikare bibêje ku rewşa ku li vir tê nîşandan dramatîktir û awartetir e. Ev slayd dîmenek ji Episode V ya Star Wars: The Empire Strikes Back nîşan dide.

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Han Solo keştiyê rasterast di nav zeviyek asteroîdê re pîlot dike, û C-3PO dikeve panîkê, radigihîne ku şansê saxbûna zeviyê 1:3122 ye. Han Solo jê re dibêje, "Qet ji min re nebêje şansê me çi ne!" Li vir pirs derdikeve holê, di vê rewşê de kî rasttir e?

Teknolojiya ku ji hêla C-3PO ve hatî temsîl kirin bi tevahî rast e, ji ber ku şansê saxbûnê ber bi sifirê ve diçe. Mimkun e ku, ji perspektîfa robotek, girtina ji hêla hêzên Imperial vebijarkek çêtir e ku mirovek ji mirina li zeviyek asteroîdê jî nefikire. Lê heke komputer biryar bide ku radestkirina ji împaratoriyê re vebijarka çêtirîn e, wê hingê em dikarin texmîn bikin ku kesek qet vebijark tune. Tiştê pir girîng ew e ku di her du rewşan de, asayî û awarte de, derfeta me heye ku em biryara herî dawî bidin û ji bo girtina biryarek weha hîn jî rêbertiya mirovî hewce dike.

Carinan ev tê vê wateyê ku divê hûn li dijî pêşnîyarên komputerê derkevin. Mebesta serkirdayetiya mirov ne zanîna şansê ye, lê pirskirina pirsên ku bi rastî girîng in, ne tenê îro an sibê, lê di pêşerojê de dûr e. Ev pêvajo dikare wekî "rêberiya mirovan" an "destwerdana mirovî" were gotin, bêyî alîkariya makîneyên hişmend bandor dike. Rêbaza me ya vê sedsalê divê ev be.

Mirov carinan ji xweşbîniya min a li ser makîneyên aqilmend ecêbmayî dimînin, ji ber ezmûna min a bi wan re, lê ez bi rastî xweşbîn im. Û ez bawer im ku hûn hemî di derbarê pêşeroja AI-ê de bi heman rengî hêvîdar in. Lê divê em ji bîr mekin ku teknolojiyên me agnostîk in. Ew ne baş e û ne jî xirab e, lê dikare hem ji bo qencî û hem jî ji bo xirabiyê were bikar anîn. Divê makîneyên zîrektir û jêhatîtir bibin. Û divê em mirov tiştê ku tenê mirov dikarin bikin bikin - xeyal bikin, bi tevahî xewn bikin, û wê hingê em ê karibin hemî feydeyên ku van amûrên nû yên ecêb tînin derxînin.

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Wekî ku hatî plan kirin, hîna 10 deqe maye ku em bersiva pirsan bidin.

Pirs: Ma hûn difikirin ku meriv dikare pergalek fêrbûna makîneyê biafirîne ku bikaribe diyar bike ka kîjan tevger bi şêwaza lîstika mirovan re hevaheng e?

Kasparov: Berî her tiştî, em li bendê ne ku komputer gava yekem û 17505 tevgerên mayî ji me re bêje. Ez difikirim ku divê em xwe bispêrin makîneyê da ku ji bo tevgerên bêhempa pêşniyarên çêtirîn peyda bikin. Bi awayê, lîstikvanên pola top komputeran wekî rêber bikar tînin, ji wan re dibe alîkar ku di lîstikê de pozîsyona herî maqûl bigirin. Ez careke din dubare dikim - di 9 bûyeran de ji 10-an, nirxandina komputerê ya rewşê ji nirxandina ku mirov dikare bike pir bilindtir e.

Pirs: Ma hûn razî ne ku rewşenbîriya rastîn hewceyê azadiya hilbijartinê, azadiya girtina biryarên ku tenê kesek dikare bide? Jixwe, nermalava Deep Blue û bernameyên din ên komputerê ji hêla mirovan ve têne nivîsandin, û gava ku hûn ji Deep Blue winda dikin, hûn ne ji komputerê, lê ji bernameçêkerên ku bername nivîsandine winda dikin. Pirsa min ev e: gelo ji her cûre îstîxbarata makîneyê xeterek heye heya ku komputer xwedî azadiya hilbijartinê ne?

Kasparov: Li vir divê ez ji zanistê derbasî felsefeyê bibim. Her tişt di derbarê Deep Blue de zelal e - ew encama xebatek mezin a mirovî ye. Di pir rewşan de, di mijara AlphaGo ya Demis Hassabis de jî, ev hemî hilberên hişmendiya mirovan in. Ez nizanim gelo makîneyan dikarin xwedan azadiya bijartinê bin, lê ez bawer dikim ku em çi bikin, ger em zanibin ka meriv wê çawa bike, makîne dê çêtir bikin. Lêbelê, gava ku em pir tiştan dikin, em nizanin ka meriv wan çawa bi awayê çêtirîn bikin, ji ber vê yekê em pir caran nikarin fêm bikin ka em ê çi biserkevin. Bi hêsanî, me armancek heye, lê em nizanin ew çi ye, û rola makîneyê ev e ku ji me re bibe alîkar ku em wê armancê bi cih bînin. Ji ber vê yekê, heke em li ser hilbijartina belaş a komputeran biaxivin, wê hingê divê ew ji me re bibe alîkar ku em bi vê armancê ve girêdayî bin. Ez difikirim ku ev ji bo komputeran pêşerojek pir dûr e.

Pirs: Hûn li ser taybetmendiyên mirovî yên wek wêrekî û exlaq û biryarên ku îstîxbarata çêkirî dikare li ser bingeha wan bide çi difikirin? Mînakî, otomobîlek xwe-ajowar divê çi bike - li zarokekî biqelişe an jî bi lêdana wî li zinarekî û kuştina rêwiyên wî nemîne?

Kasparov: Tiştên ku mirov jê re dibêjin "hest" in, ew nayên pîvandin ji ber ku ew komek taybetmendiyên cûda yên mirovî ne. Ger em behsa wêrekiyê dikin, wê hingê ev taybetmendî her gav li dijî şansên hilbijartina vebijarka çêtirîn derdikeve. Lehengî, mîna hestên mirovî yên din, bi pênaseyê berevajî hesabkirina rast e.
Pirs: Birêz Kasparov, pirsa min li ser kompîturan nîne: di flaskeya we de çi heye û ez dikarim wê biceribînim?

Kasparov: Mebesta te çi ye?

Mêvandar: Ew dipirse ka di berîka te de çi heye!

Kasparov: di berîka min de? "Stoliçnaya"! Ev ne reklam e, ger we bala xwe dayê, min ew avêt.

Konferansa DEFCON 25. Garry Kasparov. "Şerê Dawî yê Mejî." Beş 2

Pirs: Bi dîtina we kî dê bibe şampiyonê şetrencê yê cîhanê û gelo şansê şetrancê yê ciwan yê çînî Wei Yi heye ku Carelsen wekî qralê şetrencê ji textê dûr bixe?

Kasparov: Karelsen lîstikvanê jimare 1 e, ew ne şampiyonê cîhanê ye, lê bi tenê li gorî rêjeyê baştirîn lîstikvanê satrancê yê cîhanê ye. Ew îsal dibe 27 salî, ji ber vê yekê ew hîn ciwan e, lê li gorî pîvanên îro ne pir ciwan e. Ez difikirim ku Wei Yi niha 18 an 19 salî ye. Magnus li pêş lîstikvanên ciwan ên wekî Amerîkî Wesley So û Fabiano Kerouana ye, û Wei Yi dibe ku bibe dijberê wî. Lêbelê, ji bo ku hûn bibin şampiyonê cîhanê, hûn hewceyê jêhatîbûnê ne, ne hewce ye ku hûn ciwan û enerjîk bin, tenê xwedan bextek piçûk bin. Ji ber vê yekê, ji bo bersiva pirsê, ez dikarim bêjim - erê, wî şansek heye ku Magnus Carelsen têk bibe.
Pirs: Dema ku we qala algorîtmayên diyarker û fêrbûna makîneyê kir, we behsa îhtîmala karanîna makîneyan wekî amûr kir da ku îstîxbarata me temam bike. Li ser îhtîmala mezinkirina çavkaniyan berî afirandina AI-ya hêzdar, an jî hetta xistina mêjiyê mirovî di nav komputerê de çi ye?

Kasparov: Ez şerm nakim ku nezaniya xwe bipejirînim dema ku ez ne bawer im ku ez nikarim pirsek rast bersiv bidim. Ez bi hemû hêza xwe hewl didim fam bikim ku mêjiyê mirov çi ye, ger em wê ji laşê mirov cuda bihesibînin, ew çi fonksiyonan dike. Ji ber ku zehmet e ku meriv bifikire ka dê mêjî çawa ji laş cuda tevbigere. Dibe ku di paşerojê de ceribandinek weha were kirin, lê ez di wê baweriyê de me ku ji berhevkirina mêjiyê mirov, hest û hestên mirovî bi kompîturê re dê "hiş"ek çêbike ku dê ji mêjiyê ku hatiye derxistin û cemidandin, tê bikar anîn pir bi bandortir be. wekî amûrek bi noyron dagirtî ye.

Pirs: Gelo nêzîkatiyek bingehîn a gerdûnî ji bo pirsgirêka cîgirkirina karên mirovan bi komputeran re heye?

Kasparov: Ez difikirim ku ev pirsek pir girîng e, ji ber ku eşkere ye ku em nêzîkê wê xalê dibin ku dibe ku gelek kes bêkar bimînin. Ev paradoksa pêşkeftina teknolojîk e: Ji aliyekî ve, me teknolojiyên herî dawîn hene ku ji nifşa ciwan re ku bi van amûr û teknolojiyên re mijûl dibin re feydeyên pêşbaziyê yên mezin peyda dikin. Ji aliyek din ve di warê pijîşkî û xwarina saxlem de jî pêşkeftinên me hene ku ev yek jî temenê mirov dirêj dike û karîna karkirina gelek salan dide mirov. Di vê wateyê de nifşê salên 50, 60 an jî 40’î nikarin bi ciwanên îroyîn re têbikoşin. Divê em çareseriyekê ji vê rewşa paradoksî re bibînin ku ferqa di navbera nifşan de ewqas mezin e. Tecrûbeya dîrokî dibêje ku valahiyeke wiha her tim dibe sedema teqîneke mezin. Mebesta min ferqa di navbera binesaziya civakî ya heyî û pêşketina teknolojîk de ye.

Ev mijarek e ku siyasetmedar tercîh dikin ku heta hilbijartinên bê paşde bixin. Kes naxwaze li ser biaxive ji ber ku ew mijarek hestiyar e. Çapkirina drav pir hêsan e û hêvî dikim ku dê rojek di pêşerojê de kesek heqê wê bide. Ji ber vê yekê di vî warî de gelek paradoks hene, wek mînak komkirina deynan ji bo dabînkirina garantiyên civakî ji nifşê mezin re bi hêviya ku barê dayîna van deynan bikeve ser milê nifşê ciwan. Gelek pirs hene ku bersiva wan tune, û gelek pirsên ku ez dikarim bipirsim hene ku ez hêvî dikim ku AI dikare ji min re bibe alîkar.
Pir xerab e ku bi dehan sal e ku siyasetmedar hewl didin van pirsgirêkên ku me nîqaş kirine paşguh bikin. Ew her gav amade ne ku daxuyaniyan bidin, her gav planên wan hene, lê ew naxwazin ku berevajîbûna li hember pirsgirêka nakokiya di navbera teknolojî û civakê de bêdeng bimînin fam bikin. Spas ji bo baldariya we!

Spas ji bo ku hûn bi me re bimînin. Ma hûn ji gotarên me hez dikin? Ma hûn dixwazin naveroka balkêştir bibînin? Piştgiriya me bikin bi danîna fermanek an pêşniyarkirina hevalan, 30% erzanî ji bo bikarhênerên Habr li ser analogek bêhempa ya pêşkêşkerên asta têketinê, ku ji hêla me ve ji bo we hatî vedîtin: Tevahiya rastiyê di derbarê VPS (KVM) E5-2650 v4 (6 Cores) 10 GB DDR4 240 GB SSD 1Gbps ji 20 $ an çawa serverek parve dike? (bi RAID1 û RAID10, heta 24 core û heya 40 GB DDR4 peyda dibe).

Dell R730xd 2 car erzantir? Tenê li vir 2 x Intel TetraDeca-Core Xeon 2x E5-2697v3 2.6GHz 14C 64GB DDR4 4x960GB SSD 1Gbps 100 TV ji 199$ li Hollanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - ji $99! Li ser bixwînin Meriv çawa pargîdaniya binesaziyê ava dike. pola bi karanîna serverên Dell R730xd E5-2650 v4 bi nirxek 9000 euro ji bo quruşek?

Source: www.habr.com

Add a comment