Saya pikir masalahnya bukan pada mesin yang akan menggantikan manusia di tempat kerja, termasuk di bidang intelektual, dan bukan pada komputer yang tampaknya mengangkat senjata terhadap orang-orang dengan pendidikan tinggi dan akun Twitter. Implementasi AI tidak terjadi secara cepat, namun sebaliknya terlalu lambat. Mengapa? Karena ini adalah siklus normal perkembangan manusia, dan kita tidak menyadari bahwa kehancuran yang kita lihat berarti diperkenalkannya teknologi baru, yang, sebelum menciptakan lapangan kerja baru, menghancurkan teknologi lama.
Teknologi menghancurkan industri yang sudah ketinggalan zaman dan menciptakan industri baru, inilah proses penciptaan, inilah siklus pengembangan. Jika Anda mencoba memperpanjang penderitaan dengan memasukkan teknologi lama ke dalam proses atau menciptakan beberapa keuntungan bagi teknologi yang sudah ketinggalan zaman, Anda hanya akan memperlambat proses dan membuatnya semakin menyakitkan. Itu akan tetap terjadi, tapi masalahnya adalah kita mengatur proses tersebut dengan membuat aturan yang sengaja memperlambatnya. Saya pikir ini adalah masalah yang lebih besar daripada masalah yang kita sadari dengan jelas. Ini lebih merupakan masalah psikologis di mana orang bertanya: “bagaimana Anda bisa merasa aman saat berada di dalam mobil yang dapat menyetir sendiri?”
Saya melihat ke dalam sejarah dan mengetahui bahwa seratus tahun yang lalu salah satu serikat pekerja paling kuat di New York adalah serikat pekerja elevator, yang menyatukan 17 ribu pekerja. Ngomong-ngomong, saat itu sudah ada teknologi di mana Anda cukup menekan tombol dan selesai, tapi orang tidak mempercayainya! Sungguh menyedihkan harus menekan tombol sendiri untuk memanggil lift! Tahukah Anda mengapa serikat pekerja ini “mati” dan orang-orang mulai menggunakan tombol-tombol itu sendiri? Pasalnya suatu saat para pekerja lift memutuskan untuk melakukan mogok kerja. Mereka melakukan pemogokan, dan kemudian orang-orang yang harus naik ke puncak Empire State Building mengambil risiko menekan tombol dengan tangan mereka sendiri.
Ingat apa yang mereka katakan 20-30 tahun yang lalu tentang anak atau cucu ketika mereka berada di belakang kemudi mobil: “mengerikan, lihat saja statistiknya, karena mobil adalah salah satu penyebab utama kematian manusia, bagaimana mereka bisa mengambil risiko? kehidupan mereka?"
Jadi, semua ini murni psikologi. Kita tidak terlalu memperhatikan berapa banyak orang yang meninggal dalam kecelakaan mobil, namun begitu satu orang meninggal karena mobil yang mengemudi sendiri, kejadian tersebut akan menjadi tidak proporsional. Kesalahan apa pun, kesalahan apa pun dalam teknologi kecerdasan buatan segera diliput di halaman depan surat kabar. Namun lihatlah statistiknya, lihatlah jumlah kecelakaannya, dan Anda akan melihat betapa kecilnya persentase jumlah kecelakaan tersebut. Oleh karena itu, komunitas manusia hanya akan menang jika dapat bergerak maju tanpa dilumpuhkan oleh ketakutan tersebut.
Masalah lain muncul ketika kita berbicara tentang berita palsu atau keamanan siber. Ini adalah topik yang sangat dipolitisasi dan saya mendapat banyak telepon yang menanyakan bagaimana saya menangani pembenci AI. Misalnya, saya menulis blog biasa, dan postingan baru saya, yang akan diterbitkan beberapa hari lagi, berbicara tentang kebencian dan fakta bahwa keselamatan dari kebencian terletak pada pengetahuan, dalam pembelajaran. Kita hanya perlu memahami bahwa masalah ini sudah ada jauh sebelum semua hal ini ditemukan, hanya saja kepentingannya kini semakin meningkat berkat Internet yang menjangkau jutaan dan milyaran orang.
Saya pikir sebenarnya adalah hal yang baik ketika seseorang mencoba menghentikan kemajuan dengan mencoba melarang AI, dan Anda tahu itu tidak akan berhasil karena kita memiliki Putin dan orang-orang jahat lainnya, di mana pun mereka berada, yang menggunakan teknologi kita sendiri untuk melawan kita. dunia bebas. Jadi saya pikir kita sebaiknya menerimanya begitu saja.
Hakikat permasalahan hanya terletak pada diri kita sendiri, dan jawaban terhadap pertanyaan-pertanyaan tersebut terletak pada diri kita sendiri, pada kekuatan dan kepercayaan diri kita sendiri. Saya berpendapat bahwa mesin cerdas tidak bisa membuat kita “usang”. Namun, harus diingat bahwa ada batasan tertentu mengenai kerja sama manusia-komputer, dan sebagian besar hanyalah rumor yang pernah ada sebelumnya. Seperti biasa, ini hanyalah peluang-peluang baru yang menghancurkan dunia lama dan menciptakan dunia baru, dan semakin jauh kita melangkah maju, maka kita akan semakin baik.
Saat ini, hal ini sangat mirip dengan peralihan ke dunia fiksi ilmiah. Paradoksnya adalah jika kita melihat ke belakang 50-60 tahun yang lalu, kita akan melihat bahwa pada masa itu fiksi ilmiah benar-benar positif, itu adalah utopia yang utuh. Namun, kemudian terjadi transisi bertahap dari utopia ke distopia, sedemikian rupa sehingga kita tidak ingin lagi mendengar apapun tentang masa depan umat manusia.
Hal ini tidak terjadi dalam semalam. Ada suatu masa ketika orang menganggap eksplorasi ruang angkasa terlalu berisiko. Ini memang risiko yang besar, tapi bayangkan pada tahun 1969, ketika Amerika mendarat di bulan, seluruh daya komputasi NASA lebih kecil dibandingkan daya perangkat komputasi modern mana pun yang muat di saku Anda. Perangkat ini seribu kali lebih bertenaga dibandingkan superkomputer yang ada 40 tahun lalu. Bayangkan saja kekuatan komputasi yang Anda miliki di saku Anda! Namun, saya tidak yakin Apple iPhone 7 memiliki kekuatan komputasi yang sama dengan Apollo 7, yaitu mampu menghasilkan efek yang sama.
Namun, mesin telah memberi kita banyak kemajuan besar dalam eksplorasi ruang angkasa atau lautan, dan kita harus memahami bahwa komputer memberi kita kemampuan untuk mengambil risiko besar.
Saya ingin mengakhiri pidato saya dengan nada positif. Bukankah slide ini menampilkan gambar-gambar positif? Foto di pojok kanan bawah bukan hasil photoshop, sebenarnya saya pernah bertemu dengan Terminator pada tahun 2003.
Dia juga menyukai catur sejak kecil, tetapi dia tidak mempelajarinya secara khusus, sehingga dia kalah dengan sangat cepat. Jadi saya sangat terkejut ketika 6 bulan kemudian dia mencalonkan diri sebagai gubernur California dan menang!
Mengapa saya menyebut gambar-gambar ini positif? Karena meskipun di semua episode kecuali yang pertama, Arnold lama selalu berdiri di pihak pemenang dan tidak pernah lelah bertarung melawan mesin baru, di episode pertama kita melihat kombinasi yang saya bicarakan - inilah saat a orang ditambah mesin tua ditambah antarmuka yang sempurna mengalahkan mobil terbaru.
Anda mungkin berkata: “ya, mesin lebih kuat daripada manusia karena mereka benar-benar dapat menghitung segalanya!” Namun, intinya mereka tidak bisa menghitung semuanya. Misalnya, dalam catur, secara teknis kita dapat berbicara tentang tak terhingga matematis dari jumlah gerakan yang mungkin, sama dengan 1045, yang tidak sulit untuk dihitung oleh komputer modern mana pun. Namun yang penting dalam permainan bukanlah perhitungannya, melainkan fakta bahwa komputer berada di depan orang tersebut, karena selalu berpedoman pada aturan. Dan Anda mengetahui pengaruh aturan-aturan ini dan Anda mengetahui mengapa komputer memilih langkah terbaik dari berbagai macam kemungkinan gerakan.
Namun jika kita beralih ke kehidupan nyata, saya tidak yakin komputer selalu berguna. Mari kita lihat situasi yang paling umum - Anda memiliki komputer yang memantau anggaran Anda, Anda berada di toko dan akan membeli hadiah mahal. Komputer mengevaluasi pembelian dan berkata, “tidak, Anda tidak mampu membeli barang ini karena anggaran Anda akan melebihi.” Mesin telah menghitung segalanya, tetapi ada sedikit nuansa - anak Anda berdiri di samping Anda, dan hadiah ini ditujukan untuk ulang tahunnya. Apakah Anda melihat bagaimana hal ini mengubah kondisi permasalahan? Ini mengubah segalanya karena anak sedang menunggu hadiah ini.
Saya bisa mulai menambahkan hal-hal kecil ini yang mengubah segalanya, tapi menurut saya hal itu tidak bisa dimasukkan dalam rumusan masalah dan mendapatkan solusi yang tepat. Kami punya banyak aturan, tapi kami masih harus bertanya karena banyak hal berubah. Inilah yang bisa disebut sebagai situasi biasa, namun jika melihat film-film tersebut, bisa dibilang situasi yang ditampilkan di sini lebih dramatis dan luar biasa. Slide ini menunjukkan potongan gambar dari Episode V Star Wars: The Empire Strikes Back.
Han Solo mengemudikan kapalnya langsung melewati lapangan asteroid, dan C-3PO panik, melaporkan bahwa peluang untuk selamat dari lapangan tersebut adalah 1:3122. Han Solo mengatakan kepadanya, "Jangan pernah beri tahu saya seberapa besar peluang kita!" Di sini timbul pertanyaan, siapa yang lebih benar dalam situasi ini?
Teknologi yang diwakili oleh C-3PO memang tepat, karena peluang bertahan hidup cenderung nol. Ada kemungkinan bahwa, dari sudut pandang robot, ditangkap oleh pasukan Kekaisaran adalah pilihan yang lebih baik yang bahkan tidak terpikirkan oleh manusia daripada mati di medan asteroid. Tetapi jika komputer memutuskan bahwa menyerah kepada kekaisaran adalah pilihan terbaik, maka kita dapat berasumsi bahwa orang tersebut tidak mempunyai pilihan sama sekali. Yang sangat penting adalah baik dalam kasus biasa maupun luar biasa, kita mempunyai kesempatan untuk mengambil keputusan akhir, dan untuk mengambil keputusan tersebut tetap memerlukan kepemimpinan manusia.
Terkadang ini berarti Anda harus melanggar rekomendasi komputer. Inti dari kepemimpinan manusia bukanlah untuk mengetahui kemungkinan yang ada, namun untuk mengajukan pertanyaan-pertanyaan yang benar-benar penting, bukan hanya hari ini atau besok, namun jauh di masa depan. Proses ini bisa disebut "bimbingan manusia" atau "intervensi manusia", yang mempengaruhi tanpa bantuan mesin cerdas. Inilah yang seharusnya menjadi arah kita pada abad ini.
Orang terkadang terkejut dengan optimisme saya terhadap mesin cerdas, mengingat pengalaman saya dengan mesin tersebut, namun saya sebenarnya seorang yang optimis. Dan saya yakin Anda semua sama-sama optimis terhadap masa depan AI. Namun kita harus ingat bahwa teknologi kita bersifat agnostik. Itu tidak baik atau buruk, tetapi dapat digunakan untuk kebaikan dan kejahatan. Mesin harus menjadi lebih pintar dan lebih mampu. Dan kita manusia harus melakukan apa yang hanya bisa dilakukan manusia - bermimpi, bermimpi semaksimal mungkin, dan kemudian kita akan dapat mengambil semua manfaat yang dihasilkan oleh alat-alat baru yang menakjubkan ini.
Sesuai rencana, kami masih punya waktu 10 menit lagi untuk menjawab pertanyaan.
Pertanyaan: Menurut Anda apakah mungkin untuk membuat sistem pembelajaran mesin yang dapat menentukan gerakan mana yang lebih konsisten dengan gaya bermain manusia?
Kasparov: Pertama-tama, kami tidak mengharapkan komputer memberi tahu kami langkah pertama dan 17505 langkah sisanya. Saya pikir kita harus mengandalkan mesin untuk memberikan rekomendasi terbaik untuk gerakan unik. Ngomong-ngomong, pemain kelas atas menggunakan komputer sebagai panduan, membantu mereka mengambil posisi paling sesuai dalam permainan. Saya ulangi sekali lagi - dalam 9 dari 10 kasus, penilaian komputer terhadap situasi jauh lebih unggul daripada penilaian yang dapat dilakukan seseorang.
Pertanyaan: Apakah Anda setuju bahwa kecerdasan sejati membutuhkan kebebasan memilih, kebebasan mengambil keputusan yang hanya dapat diambil oleh manusia? Lagi pula, perangkat lunak Deep Blue dan program komputer lainnya ditulis oleh manusia, dan ketika Anda kalah dari Deep Blue, Anda tidak kalah dari komputernya, tetapi dari pemrogram yang menulis program tersebut. Pertanyaan saya adalah: apakah ada bahaya dari kecerdasan mesin apa pun selama komputer memiliki kebebasan memilih?
Kasparov: di sini saya harus berpindah dari sains ke filsafat. Semuanya jelas tentang Deep Blue - ini adalah hasil kerja keras manusia. Dalam kebanyakan kasus, bahkan dalam kasus AlphaGo karya Demis Hassabis, ini semua adalah produk kecerdasan manusia. Saya tidak tahu apakah mesin bisa mempunyai kebebasan memilih, tapi saya yakin apa pun yang kita lakukan, jika kita tahu cara melakukannya, mesin akan melakukannya dengan lebih baik. Namun, ketika kita melakukan banyak hal, kita tidak tahu bagaimana melakukannya dengan cara terbaik, sehingga sering kali kita tidak dapat memahami apa yang akan berhasil kita lakukan. Sederhananya, kita punya tujuan, tapi kita tidak tahu apa tujuan itu, dan peran mesin adalah membantu kita mewujudkan tujuan tersebut. Oleh karena itu, jika kita berbicara tentang kebebasan memilih komputer, maka hal itu akan membantu mengikat kita pada tujuan ini. Saya pikir ini adalah masa depan yang sangat jauh bagi komputer.
Pertanyaan: Apa pendapat Anda tentang karakteristik manusia seperti keberanian dan moralitas, serta keputusan yang dapat diambil oleh kecerdasan buatan berdasarkan karakteristik tersebut? Misalnya, apa yang harus dilakukan oleh mobil yang dapat mengemudi sendiri - menabrak seorang anak atau menghindari menabraknya dengan menabrak batu dan membunuh penumpangnya?
Kasparov: Ini adalah apa yang orang-orang sebut sebagai “perasaan”, perasaan ini tidak dapat diukur karena merupakan sekumpulan karakteristik manusia yang berbeda. Jika kita berbicara tentang keberanian, maka karakteristik ini selalu bertentangan dengan peluang untuk memilih opsi terbaik. Keberanian, seperti emosi manusia lainnya, pada dasarnya bertentangan dengan perhitungan yang akurat.
Pertanyaan: Tuan Kasparov, pertanyaan saya tidak berhubungan dengan komputer: apa yang ada di dalam labu Anda dan bolehkah saya mencobanya?
Kasparov: apa maksudmu?
Host: Dia bertanya apa yang ada di sakumu!
Kasparov: di sakuku? "Stolichnya"! Ini bukan iklan, jika Anda perhatikan, saya membuangnya.
Pertanyaan: Menurut Anda siapa yang akan menjadi juara catur dunia berikutnya dan apakah pecatur muda Tiongkok Wei Yi memiliki peluang untuk melengserkan Carelsen sebagai raja catur?
Kasparov: Karelsen adalah pemain nomor 1, dia bukan juara dunia, tapi hanya pemain catur terbaik di dunia menurut ratingnya. Dia berusia 27 tahun ini, jadi dia masih muda, tapi tidak terlalu muda menurut standar sekarang. Saya pikir Wei Yi berusia 18 atau 19 tahun sekarang. Magnus mengungguli pemain muda seperti Wesley So dan Fabiano Kerouana dari Amerika, dan Wei Yi berpotensi menjadi lawannya. Namun untuk menjadi juara dunia dibutuhkan bakat, tidak harus muda dan energik, cukup memiliki sedikit keberuntungan. Jadi, untuk menjawab pertanyaan tersebut, saya dapat mengatakan - ya, dia memiliki peluang untuk mengalahkan Magnus Carelsen.
Pertanyaan: Saat Anda berbicara tentang algoritma deterministik dan pembelajaran mesin, Anda menyebutkan kemungkinan menggunakan mesin sebagai alat untuk melengkapi kecerdasan kita. Bagaimana dengan kemungkinan memaksimalkan sumber daya sebelum menciptakan AI yang kuat, atau bahkan memasukkan otak manusia ke dalam komputer?
Kasparov: Saya tidak malu mengakui ketidaktahuan saya ketika saya tidak yakin bahwa saya tidak mampu menjawab pertanyaan dengan benar. Saya mencoba yang terbaik untuk memahami apa itu otak manusia, jika kita mempertimbangkannya secara terpisah dari tubuh manusia, apa fungsinya. Karena sulit membayangkan bagaimana otak akan berperilaku terpisah dari tubuh. Mungkin percobaan seperti itu bisa dilakukan di masa depan, tapi saya yakin bahwa kombinasi otak manusia, perasaan dan emosi manusia dengan komputer akan membentuk “pikiran” yang jauh lebih efektif daripada otak yang diekstraksi dan dibekukan, digunakan. sebagai perangkat yang diisi dengan neuron.
Pertanyaan: Apakah ada pendekatan dasar universal terhadap masalah penggantian pekerjaan manusia dengan komputer?
Kasparov: Saya pikir ini adalah pertanyaan yang sangat penting, karena jelas bahwa kita sedang mendekati titik di mana banyak orang mungkin menganggur. Inilah paradoks kemajuan teknologi: di satu sisi, kita memiliki teknologi terkini yang memberikan keunggulan kompetitif yang sangat besar bagi generasi muda yang berurusan dengan perangkat dan teknologi tersebut. Di sisi lain, kita mengalami kemajuan di bidang kedokteran dan gizi sehat, yang memperpanjang umur manusia dan memberikan seseorang kemampuan untuk bekerja selama bertahun-tahun. Dalam hal ini, generasi 50an, 60an atau bahkan 40an tidak bisa bersaing dengan generasi muda saat ini. Kita harus menemukan solusi terhadap situasi paradoks dimana kesenjangan antar generasi begitu lebar. Pengalaman sejarah mengatakan bahwa kesenjangan seperti itu selalu menimbulkan ledakan besar. Yang saya maksud adalah kesenjangan antara infrastruktur sosial masyarakat yang ada dengan kemajuan teknologi.
Ini adalah isu yang para politisi lebih suka menundanya hingga pemilu berikutnya. Tidak ada yang mau membicarakannya karena ini masalah sensitif. Sangat mudah untuk mencetak uang dan berharap seseorang akan membayarnya suatu hari nanti. Jadi banyak paradoks di bidang ini, misalnya penumpukan utang untuk memberikan jaminan sosial kepada generasi tua dengan harapan beban pelunasan utang tersebut akan ditanggung oleh generasi muda. Ada banyak pertanyaan yang saya tidak punya jawabannya, dan banyak pertanyaan yang bisa saya ajukan yang saya harap AI dapat membantu saya.
Sangat buruk bahwa selama beberapa dekade para politisi berusaha mengabaikan masalah-masalah yang baru saja kita diskusikan. Mereka selalu siap mengeluarkan pernyataan, selalu punya rencana, namun tidak mau memahami kontraproduktif jika berdiam diri terhadap masalah konflik antara teknologi dan masyarakat. Terima kasih atas perhatian Anda!
Terima kasih untuk tetap bersama kami. Apakah Anda menyukai artikel kami? Ingin melihat konten yang lebih menarik? Dukung kami dengan melakukan pemesanan atau merekomendasikan kepada teman, Diskon 30% untuk pengguna Habr pada analog unik dari server level awal, yang kami ciptakan untuk Anda: (tersedia dengan RAID1 dan RAID10, hingga 24 core dan hingga 40GB DDR4).
Dell R730xd 2 kali lebih murah? Hanya disini di Belanda! Dell R420 - 2x E5-2430 2.2Ghz 6C 128GB DDR3 2x960GB SSD 1Gbps 100TB - mulai $99! Membaca tentang
Sumber: www.habr.com