Saya fikir masalahnya bukanlah bahawa mesin akan menggantikan manusia di tempat kerja mereka, termasuk dalam bidang intelektual, dan bukannya komputer seolah-olah telah mengangkat senjata terhadap orang yang mempunyai pendidikan tinggi dan akaun Twitter. Pelaksanaan AI tidak berlaku dengan cepat, tetapi sebaliknya, ia terlalu perlahan. kenapa? Kerana ini adalah kitaran biasa pembangunan manusia, dan kita langsung tidak menyedari bahawa kemusnahan yang kita lihat bermakna pengenalan teknologi baru, yang, sebelum mencipta pekerjaan baru, memusnahkan yang lama.
Teknologi memusnahkan industri yang sudah lapuk dan mencipta yang baharu, ini adalah proses penciptaan, ini adalah kitaran pembangunan. Jika anda cuba memanjangkan penderitaan dengan memasukkan teknologi lama ke dalam proses atau mencipta beberapa kelebihan untuk teknologi lapuk, anda hanya akan memperlahankan proses dan menjadikannya lebih menyakitkan. Ia akan berlaku bagaimanapun, tetapi masalahnya ialah kita mengawal selia proses dengan mencipta peraturan yang sengaja memperlahankannya. Saya fikir ini adalah masalah yang lebih besar daripada yang kita lebih sedari dengan jelas. Ini lebih merupakan masalah psikologi di mana orang bertanya soalan: "bagaimana anda boleh berasa selamat semasa berada di dalam kereta pandu sendiri?"
Saya melihat ke dalam sejarah dan mengetahui bahawa seratus tahun yang lalu salah satu kesatuan yang paling berkuasa di New York ialah kesatuan pekerja lif, yang menyatukan 17 ribu pekerja. Ngomong-ngomong, pada masa itu sudah ada teknologi di mana anda hanya boleh menekan butang dan anda telah selesai, tetapi orang ramai tidak mempercayainya! Sungguh menyedihkan untuk menekan butang sendiri untuk menghubungi lif! Adakah anda tahu mengapa kesatuan sekerja ini "mati" dan orang ramai mula menggunakan butang itu sendiri? Kerana satu hari pekerja lif mengambil keputusan untuk mogok. Mereka melancarkan mogok, dan kemudian orang yang terpaksa mendaki ke puncak Bangunan Empire State mengambil risiko menolak butang dengan tangan mereka sendiri.
Ingat apa yang mereka katakan 20-30 tahun yang lalu tentang kanak-kanak atau cucu apabila mereka berada di belakang roda kereta: "ini mengerikan, lihat sahaja statistik, kerana kereta adalah salah satu punca utama kematian manusia, bagaimana mereka boleh mengambil risiko hidup mereka?"
Jadi, semua ini adalah psikologi tulen. Kami memberi sedikit perhatian kepada berapa ramai orang yang maut dalam kemalangan kereta, tetapi sebaik sahaja seorang terbunuh oleh kereta pandu sendiri, acara itu menjadi tidak seimbang. Sebarang kesilapan, sebarang kesilapan dalam teknologi kecerdasan buatan segera dibincangkan di muka depan akhbar. Tetapi lihat pada statistik, lihat pada bilangan insiden, dan anda akan melihat berapa peratusan kecil daripada jumlah kemalangan itu. Oleh itu, masyarakat manusia akan menang hanya jika ia boleh maju ke hadapan tanpa lumpuh dengan ketakutan tersebut.
Isu lain timbul apabila kita bercakap tentang berita palsu atau keselamatan siber, ini adalah topik yang sangat dipolitikkan dan saya mendapat banyak panggilan yang bertanyakan bagaimana saya berurusan dengan pembenci AI. Sebagai contoh, saya menulis blog biasa, dan jawatan baru saya, yang akan diterbitkan dalam beberapa hari, bercakap tentang kebencian dan fakta bahawa keselamatan daripada kebencian terletak pada pengetahuan, dalam pembelajaran. Kita hanya perlu memahami bahawa masalah ini wujud lama sebelum semua perkara ini dicipta, cuma kepentingannya kini telah meningkat berkat Internet, yang mencecah berjuta-juta dan berbilion-bilion orang.
Saya fikir ia sebenarnya satu perkara yang baik apabila seseorang cuba menghentikan kemajuan dengan cuba mengharamkan AI, dan anda tahu itu tidak akan berjaya kerana kita mempunyai Putin dan orang jahat yang lain, di mana sahaja mereka berada, yang menggunakan terhadap kita adalah teknologi kita sendiri yang dicipta dalam dunia yang bebas. Jadi saya fikir kita harus menerimanya sebagai pemberian.
Intipati masalah hanya terletak dalam diri kita, dan jawapan kepada soalan-soalan terletak dalam diri kita, dalam kekuatan kita sendiri dan keyakinan kita sendiri. Saya berpendapat bahawa mesin pintar tidak boleh menjadikan kita "usang". Walau bagaimanapun, perlu diingat bahawa terdapat sekatan tertentu mengenai kerjasama manusia-komputer, dan sebahagian besarnya ini hanyalah khabar angin yang telah wujud sebelum ini. Seperti biasa, ini hanyalah peluang baharu yang memusnahkan dunia lama dan mencipta dunia baharu, dan semakin jauh kita bergerak ke hadapan, semakin baik keadaan kita.
Pada masa kini ia paling hampir menyerupai langkah ke dunia fiksyen sains. Paradoksnya ialah jika kita melihat ke belakang 50-60 tahun, kita akan melihat bahawa pada masa itu fiksyen sains benar-benar positif, ia adalah utopia yang lengkap. Walau bagaimanapun, kemudian berlaku peralihan beransur-ansur dari utopia kepada dystopia, dengan cara yang kita tidak mahu lagi mendengar apa-apa tentang masa depan manusia.
Ini tidak berlaku semalaman. Ada masanya orang memutuskan bahawa penerokaan angkasa lepas terlalu berisiko. Ini sememangnya satu risiko yang besar, tetapi bayangkan bahawa pada tahun 1969, apabila orang Amerika mendarat di bulan, keseluruhan kuasa pengkomputeran NASA adalah kurang daripada kuasa mana-mana peranti pengkomputeran moden yang muat di dalam poket anda. Peranti ini seribu kali lebih berkuasa daripada superkomputer yang wujud 40 tahun dahulu. Bayangkan sahaja kuasa pengkomputeran yang anda ada dalam poket anda! Walau bagaimanapun, saya tidak pasti bahawa Apple iPhone 7 mempunyai kuasa pengkomputeran yang sama seperti Apollo 7, iaitu, ia mampu menghasilkan kesan yang sama.
Walau bagaimanapun, mesin telah memberikan kita banyak kemajuan hebat dalam penerokaan angkasa lepas atau lautan, dan kita mesti memahami bahawa komputer memberikan kita keupayaan untuk mengambil risiko yang besar.
Saya ingin mengakhiri ucapan saya secara positif. Adakah slaid ini tidak menunjukkan gambar yang positif? Foto di sudut kanan bawah tidak di-photoshop, sebenarnya saya pernah berjumpa dengan Terminator pada tahun 2003.
Dia juga suka catur sejak kecil, tetapi dia tidak mempelajarinya secara khusus, jadi dia kalah dengan cepat. Jadi saya sangat terkejut apabila 6 bulan kemudian dia bertanding untuk gabenor California dan menang!
Kenapa saya panggil gambar ini positif? Kerana walaupun dalam semua episod kecuali yang pertama, Arnold lama sentiasa berdiri di sisi pemenang dan tidak pernah jemu melawan mesin baru, dalam episod pertama kita melihat gabungan yang saya bicarakan - ini adalah apabila orang serta mesin lama serta antara muka yang sempurna mengalahkan kereta terbaharu.
Anda boleh berkata: "ya, mesin lebih kuat daripada manusia kerana mereka boleh mengira segala-galanya!" Namun, maksudnya bukanlah mereka boleh mengira segala-galanya. Sebagai contoh, dalam catur kita boleh bercakap secara teknikal tentang infiniti matematik bilangan pergerakan yang mungkin, sama dengan 1045, yang tidak sukar untuk dikira oleh mana-mana komputer moden. Walau bagaimanapun, apa yang penting dalam permainan bukanlah pengiraan, tetapi hakikat bahawa komputer mendahului orang itu, kerana ia sentiasa dipandu oleh peraturan. Dan anda tahu kesan peraturan ini dan anda tahu mengapa komputer memilih langkah terbaik daripada pelbagai jenis pergerakan yang mungkin.
Tetapi jika kita beralih kepada kehidupan sebenar, saya tidak pasti bahawa komputer sentiasa boleh berguna. Mari lihat situasi yang paling biasa - anda mempunyai komputer yang memantau belanjawan anda, anda berada di kedai dan akan membeli hadiah yang mahal. Komputer menilai pembelian dan berkata, "tidak, anda tidak mampu membeli item ini kerana anda akan melebihi belanjawan." Mesin telah mengira segala-galanya, tetapi terdapat sedikit nuansa - anak anda berdiri di sebelah anda, dan hadiah ini bertujuan untuk hari lahirnya. Adakah anda melihat bagaimana ini mengubah keadaan masalah? Ini mengubah segala-galanya kerana kanak-kanak sedang menunggu hadiah ini.
Saya boleh mula menambah perkara kecil ini yang mengubah segala-galanya, tetapi saya tidak fikir ia boleh dimasukkan dalam pernyataan masalah dan mendapatkan penyelesaian yang betul. Kami mempunyai banyak peraturan, tetapi kami masih perlu bertanya soalan kerana keadaan berubah. Inilah yang boleh dikatakan sebagai situasi biasa, tetapi jika anda melihat filem-filem ini, anda boleh mengatakan bahawa situasi yang ditunjukkan di sini lebih dramatik dan luar biasa. Slaid ini menunjukkan pegun daripada Episod V Star Wars: The Empire Strikes Back.
Han Solo memandu kapal terus melalui medan asteroid, dan C-3PO panik, melaporkan bahawa peluang untuk bertahan di medan itu ialah 1:3122. Han Solo memberitahunya, "Jangan sesekali beritahu saya apa peluang kita!" Di sini timbul persoalan, siapakah yang lebih tepat dalam situasi ini?
Teknologi yang diwakili oleh C-3PO adalah betul, kerana peluang untuk bertahan hidup cenderung kepada sifar. Ada kemungkinan bahawa, dari perspektif robot, ditangkap oleh pasukan Imperial adalah pilihan yang lebih baik yang tidak akan dipertimbangkan oleh manusia daripada mati di medan asteroid. Tetapi jika komputer memutuskan bahawa menyerah kepada empayar adalah pilihan terbaik, maka kita boleh menganggap bahawa orang itu tidak mempunyai pilihan sama sekali. Perkara yang sangat penting ialah dalam kedua-dua kes, biasa dan luar biasa, kita mempunyai peluang untuk membuat keputusan muktamad, dan untuk membuat keputusan sedemikian masih memerlukan kepimpinan manusia.
Kadangkala ini bermakna anda perlu menentang cadangan komputer. Maksud kepimpinan manusia bukanlah untuk mengetahui kemungkinan, tetapi untuk bertanya soalan yang benar-benar penting, bukan hanya hari ini atau esok, tetapi jauh ke masa hadapan. Proses ini boleh dipanggil "panduan manusia" atau "campur tangan manusia", mempengaruhi tanpa bantuan mesin pintar. Inilah yang sepatutnya dilakukan pada abad ini.
Orang kadang-kadang terkejut dengan keyakinan saya tentang mesin pintar, memandangkan pengalaman saya dengan mereka, tetapi saya benar-benar optimis. Dan saya pasti anda semua sama-sama optimistik tentang masa depan AI. Tetapi kita mesti ingat bahawa teknologi kita adalah agnostik. Ia tidak baik atau buruk, tetapi boleh digunakan untuk kebaikan dan kejahatan. Mesin mesti menjadi lebih pintar dan lebih berkebolehan. Dan kita manusia mesti melakukan apa yang hanya manusia boleh lakukan - bermimpi, bermimpi sepenuhnya, dan kemudian kita akan dapat mengekstrak semua faedah yang dibawa oleh alat baharu yang menakjubkan ini.
Seperti yang dirancang, kami masih mempunyai 10 minit lagi untuk menjawab soalan.
Soalan: Adakah anda fikir mungkin untuk mencipta sistem pembelajaran mesin yang boleh menentukan pergerakan yang lebih konsisten dengan gaya permainan manusia?
Kasparov: Pertama sekali, kami tidak menjangka komputer akan memberitahu kami langkah pertama dan baki 17505 langkah. Saya fikir kita harus bergantung pada mesin untuk memberikan cadangan terbaik untuk pergerakan unik. Ngomong-ngomong, pemain kelas atas menggunakan komputer sebagai panduan, membantu mereka mengambil kedudukan yang paling sesuai dalam permainan. Saya ulangi sekali lagi - dalam 9 kes daripada 10, penilaian komputer terhadap situasi itu jauh lebih baik daripada penilaian yang boleh dibuat oleh seseorang.
Soalan: Adakah anda bersetuju bahawa kecerdasan sebenar memerlukan kebebasan memilih, kebebasan untuk membuat keputusan yang hanya boleh dibuat oleh seseorang? Lagipun, perisian Deep Blue dan program komputer lain ditulis oleh orang, dan apabila anda kalah kepada Deep Blue, anda tidak kalah kepada komputer, tetapi kepada pengaturcara yang menulis program itu. Soalan saya ialah: adakah terdapat sebarang bahaya daripada sebarang jenis kecerdasan mesin selagi komputer mempunyai kebebasan memilih?
Kasparov: di sini saya mesti beralih dari sains kepada falsafah. Segala-galanya jelas tentang Deep Blue - ia adalah hasil kerja manusia yang besar. Dalam kebanyakan kes, walaupun dalam kes AlphaGo Demis Hassabis, ini semua adalah produk kecerdasan manusia. Saya tidak tahu sama ada mesin boleh mempunyai kebebasan memilih, tetapi saya percaya bahawa apa sahaja yang kita lakukan, jika kita tahu cara melakukannya, mesin akan melakukannya dengan lebih baik. Walau bagaimanapun, apabila kita melakukan kebanyakan perkara, kita tidak tahu bagaimana untuk melakukannya dengan cara yang terbaik, jadi kita sering tidak memahami apa yang kita akan berjaya. Ringkasnya, kami mempunyai matlamat, tetapi kami tidak tahu apa itu, dan peranan mesin adalah untuk membantu kami merealisasikan matlamat itu. Oleh itu, jika kita bercakap tentang pilihan bebas komputer, maka ia sepatutnya membantu untuk mengikat kita kepada matlamat ini. Saya fikir ini adalah masa depan yang sangat jauh untuk komputer.
Soalan: Apakah pendapat anda tentang ciri-ciri manusia seperti keberanian dan moral, dan keputusan yang boleh dibuat oleh kecerdasan buatan berdasarkannya? Sebagai contoh, apakah yang perlu dilakukan oleh kereta pandu sendiri - melanggar kanak-kanak atau mengelak daripada melanggarnya dengan merempuh batu dan membunuh penumpangnya?
Kasparov: Ini adalah apa yang orang panggil "perasaan", mereka tidak boleh diukur kerana ia adalah sekumpulan ciri manusia yang berbeza. Jika kita bercakap tentang keberanian, maka ciri ini sentiasa bertentangan dengan peluang untuk memilih pilihan yang optimum. Keberanian, seperti emosi manusia yang lain, secara definisi bertentangan dengan pengiraan yang tepat.
Soalan: Encik Kasparov, soalan saya tidak berkaitan dengan komputer: apakah yang ada dalam kelalang anda dan bolehkah saya mencubanya?
Kasparov: apa maksud awak?
Hos: Dia bertanya apa yang ada dalam poket anda!
Kasparov: dalam poket saya? "Stolichnaya"! Ini bukan iklan, kalau korang perasan, aku dah buang.
Soalan: Pada pendapat anda, siapakah yang akan menjadi juara catur dunia seterusnya dan adakah pemain catur muda China Wei Yi berpeluang untuk menurunkan Carelsen sebagai raja catur?
Kasparov: Karelsen adalah pemain nombor 1, dia bukan juara dunia, tetapi hanya pemain catur terbaik di dunia mengikut penarafan. Dia berumur 27 tahun tahun ini, jadi dia masih muda, tetapi tidak terlalu muda mengikut piawaian hari ini. Saya rasa Wei Yi berumur 18 atau 19 tahun sekarang. Magnus mendahului pemain muda seperti pemain Amerika Wesley So dan Fabiano Kerouana, dan Wei Yi berpotensi menjadi lawannya. Walau bagaimanapun, untuk menjadi juara dunia, anda memerlukan bakat, anda tidak perlu muda dan bertenaga, cuma ada sedikit nasib. Jadi, untuk menjawab soalan itu, saya boleh katakan - ya, dia mempunyai peluang untuk menewaskan Magnus Carelsen.
Soalan: Apabila anda bercakap tentang algoritma deterministik dan pembelajaran mesin, anda menyebut kemungkinan menggunakan mesin sebagai alat untuk melengkapkan kecerdasan kami. Bagaimana pula dengan kemungkinan memaksimumkan sumber sebelum mencipta AI yang berkuasa, atau meletakkan otak manusia ke dalam komputer?
Kasparov: Saya tidak malu untuk mengakui kejahilan saya apabila saya tidak pasti bahawa saya tidak dapat menjawab soalan dengan betul. Saya cuba sedaya upaya untuk memahami apa itu otak manusia, jika kita menganggapnya secara berasingan daripada tubuh manusia, apakah fungsinya. Kerana sukar untuk membayangkan bagaimana otak akan bertindak secara berasingan dari badan. Mungkin percubaan sedemikian boleh dilakukan pada masa hadapan, tetapi saya yakin bahawa gabungan otak manusia, perasaan dan emosi manusia dengan komputer akan membentuk "minda" yang akan menjadi lebih berkesan daripada otak yang diekstrak dan dibekukan, digunakan. sebagai peranti yang dipenuhi dengan neuron.
Soalan: Adakah terdapat pendekatan asas universal untuk masalah menggantikan pekerjaan manusia dengan komputer?
Kasparov: Saya fikir ini adalah soalan yang sangat penting, kerana jelas bahawa kita sedang menghampiri titik di mana ramai orang mungkin menganggur. Inilah paradoks kemajuan teknologi: di satu pihak, kami mempunyai teknologi terkini yang memberikan kelebihan daya saing yang besar kepada generasi muda yang berurusan dengan peranti dan teknologi ini. Sebaliknya, kita mempunyai kemajuan dalam bidang perubatan dan pemakanan sihat, yang memanjangkan hayat manusia dan memberi seseorang keupayaan untuk bekerja selama bertahun-tahun. Dalam pengertian ini, generasi 50-an, 60-an malah 40-an tidak boleh menandingi remaja masa kini. Kita mesti mencari penyelesaian kepada situasi paradoks ini di mana jurang antara generasi begitu luas. Pengalaman sejarah mengatakan bahawa jurang seperti itu sentiasa membawa kepada letupan besar. Maksud saya jurang antara infrastruktur sosial masyarakat yang sedia ada dan kemajuan teknologi.
Ini adalah isu yang ahli politik lebih suka menangguhkan sehingga pilihan raya akan datang. Tiada siapa yang mahu bercakap mengenainya kerana ia adalah isu sensitif. Sangat mudah untuk mencetak wang dan berharap seseorang akan membayarnya suatu hari nanti. Oleh itu, terdapat banyak paradoks dalam bidang ini, sebagai contoh, pengumpulan hutang untuk menyediakan jaminan sosial kepada generasi yang lebih tua dengan jangkaan bahawa beban untuk membayar hutang ini akan jatuh ke bahu generasi muda. Terdapat banyak soalan yang saya tidak mempunyai jawapan, dan banyak soalan yang boleh saya tanyakan yang saya harap AI boleh membantu saya.
Amat buruk bahawa selama beberapa dekad ahli politik cuba mengabaikan masalah yang baru kita bincangkan. Mereka sentiasa bersedia untuk membuat kenyataan, mereka sentiasa mempunyai rancangan, tetapi mereka tidak mahu memahami kontraproduktif berdiam diri tentang masalah konflik antara teknologi dan masyarakat. Terima kasih kerana memberi perhatian!
Terima kasih kerana tinggal bersama kami. Adakah anda suka artikel kami? Ingin melihat kandungan yang lebih menarik? Sokong kami dengan membuat pesanan atau mengesyorkan kepada rakan, Diskaun 30% untuk pengguna Habr pada analog unik pelayan peringkat permulaan, yang kami cipta untuk anda: (tersedia dengan RAID1 dan RAID10, sehingga 24 teras dan sehingga 40GB DDR4).
Dell R730xd 2 kali lebih murah? Hanya disini di Belanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - daripada $99! Baca tentang
Sumber: www.habr.com