Teks ini bukanlah hasil penelitian ilmiah, melainkan salah satu dari sekian banyak opini mengenai perkembangan teknologi saat ini. Dan sekaligus ajakan berdiskusi.
Gary Marcus, seorang profesor di Universitas New York, percaya bahwa pembelajaran mendalam memainkan peran penting dalam pengembangan AI. Namun ia juga percaya bahwa antusiasme yang berlebihan terhadap teknik ini dapat mendiskreditkannya.
Dalam bukunya Mem-boot ulang AI: Membangun kecerdasan buatan yang dapat kita percayai Marcus, seorang ahli saraf dengan pelatihan yang telah membangun karir dalam penelitian AI mutakhir, membahas aspek teknis dan etika. Dari perspektif teknologi, pembelajaran mendalam berhasil meniru tugas persepsi yang dilakukan otak kita, seperti pengenalan gambar atau ucapan. Namun untuk tugas lain, seperti memahami percakapan atau menentukan hubungan sebab-akibat, pembelajaran mendalam tidak cocok. Untuk menciptakan mesin cerdas yang lebih canggih yang dapat memecahkan lebih banyak masalahβsering disebut kecerdasan umum buatanβpembelajaran mendalam perlu dikombinasikan dengan teknik lain.
Jika sistem AI tidak benar-benar memahami tugasnya atau dunia di sekitarnya, hal ini dapat menimbulkan konsekuensi yang berbahaya. Perubahan sekecil apa pun yang tidak terduga dalam lingkungan sistem dapat menyebabkan perilaku yang salah. Sudah banyak contoh seperti ini: faktor-faktor penentu ekspresi tidak pantas yang mudah ditipu; sistem pencarian kerja yang secara konsisten melakukan diskriminasi; mobil tanpa pengemudi yang menabrak dan terkadang membunuh pengemudi atau pejalan kaki. Penciptaan kecerdasan umum buatan bukan hanya masalah penelitian yang menarik, namun memiliki banyak aplikasi praktis.
Dalam buku mereka, Marcus dan rekan penulisnya Ernest Davis berpendapat tentang jalan yang berbeda. Mereka percaya bahwa kita masih jauh dari menciptakan AI umum, namun mereka yakin bahwa cepat atau lambat kita akan bisa menciptakannya.
Mengapa kita membutuhkan AI umum? Versi khusus telah dibuat dan membawa banyak manfaat.
Benar sekali, dan akan ada lebih banyak lagi manfaatnya. Namun ada banyak masalah yang tidak dapat diselesaikan oleh AI khusus. Misalnya saja pemahaman pembicaraan biasa, atau bantuan umum di dunia maya, atau robot yang membantu membersihkan dan memasak. Tugas-tugas seperti itu berada di luar kemampuan AI khusus. Pertanyaan praktis menarik lainnya: apakah mungkin membuat mobil self-driving yang aman menggunakan AI khusus? Pengalaman menunjukkan bahwa AI tersebut masih memiliki banyak masalah dengan perilaku dalam situasi tidak normal, bahkan saat mengemudi, yang sangat memperumit situasi.
Saya rasa kita semua ingin memiliki AI yang dapat membantu kita membuat penemuan baru yang besar di bidang kedokteran. Tidak jelas apakah teknologi yang ada saat ini cocok untuk hal ini, karena biologi adalah bidang yang kompleks. Anda harus bersiap untuk membaca banyak buku. Para ilmuwan memahami hubungan sebab-akibat dalam interaksi jaringan dan molekul, dapat mengembangkan teori tentang planet, dan sebagainya. Namun, dengan AI khusus, kita tidak dapat menciptakan mesin yang mampu melakukan penemuan seperti itu. Dan dengan AI secara umum, kita dapat merevolusi sains, teknologi, dan kedokteran. Menurut pendapat saya, sangat penting untuk terus berupaya menciptakan AI umum.
Kedengarannya seperti βumumβ yang Anda maksud adalah AI yang kuat?
Yang saya maksud dengan βumumβ adalah AI akan mampu memikirkan dan memecahkan masalah baru dengan cepat. Berbeda dengan, katakanlah, Go, yang permasalahannya tidak berubah selama 2000 tahun terakhir.
AI umum harus mampu mengambil keputusan baik dalam bidang politik maupun kedokteran. Hal ini analog dengan kemampuan manusia; setiap orang waras dapat melakukan banyak hal. Anda menerima siswa yang belum berpengalaman dan dalam beberapa hari minta mereka mengerjakan hampir semua hal, mulai dari masalah hukum hingga masalah medis. Hal ini karena mereka memiliki pemahaman umum tentang dunia dan dapat membaca, sehingga dapat berkontribusi dalam berbagai aktivitas.
Hubungan antara kecerdasan tersebut dengan kecerdasan yang kuat adalah bahwa kecerdasan yang tidak kuat kemungkinan besar tidak akan mampu menyelesaikan permasalahan umum. Untuk menciptakan sesuatu yang cukup kuat untuk menghadapi dunia yang terus berubah, Anda mungkin perlu setidaknya melakukan pendekatan terhadap kecerdasan umum.
Namun sekarang kita sudah sangat jauh dari hal tersebut. AlphaGo dapat bermain dengan sangat baik di papan berukuran 19x19, namun perlu dilatih ulang untuk bermain di papan persegi panjang. Atau ambil contoh sistem pembelajaran mendalam yang rata-rata: ia dapat mengenali gajah jika penerangannya cukup dan tekstur kulitnya terlihat. Dan jika hanya siluet gajah yang terlihat, kemungkinan besar sistem tidak akan bisa mengenalinya.
Dalam buku Anda, Anda menyebutkan bahwa pembelajaran mendalam tidak dapat mencapai kemampuan AI umum karena tidak mampu memahami secara mendalam.
Dalam ilmu kognitif mereka berbicara tentang pembentukan berbagai model kognitif. Saya sedang duduk di kamar hotel dan saya mengerti bahwa ada lemari, ada tempat tidur, ada TV yang digantung dengan cara yang tidak biasa. Saya tahu semua objek ini, saya tidak hanya mengidentifikasinya. Saya juga memahami bagaimana mereka saling berhubungan satu sama lain. Saya mempunyai gagasan tentang fungsi dunia di sekitar saya. Mereka tidak sempurna. Mereka mungkin salah, tapi mereka cukup baik. Dan berdasarkan mereka, saya menarik banyak kesimpulan yang menjadi pedoman dalam tindakan saya sehari-hari.
Ekstrem lainnya adalah seperti sistem permainan Atari yang dibuat oleh DeepMind, yang mengingat apa yang perlu dilakukan ketika melihat piksel di tempat tertentu di layar. Jika Anda mendapatkan cukup data, Anda mungkin berpikir Anda memiliki pemahaman, namun kenyataannya itu sangat dangkal. Buktinya adalah jika Anda memindahkan objek sebanyak tiga piksel, AI akan bermain jauh lebih buruk. Perubahan membingungkannya. Ini kebalikan dari pemahaman yang mendalam.
Untuk mengatasi masalah ini, Anda mengusulkan untuk kembali ke AI klasik. Keuntungan apa yang harus kita coba gunakan?
Ada beberapa keuntungan.
Pertama, AI klasik sebenarnya adalah kerangka kerja untuk menciptakan model kognitif dunia, yang berdasarkan kesimpulan tersebut dapat ditarik.
Kedua, AI klasik sangat kompatibel dengan aturan. Ada tren aneh dalam pembelajaran mendalam saat ini di mana para ahli berusaha menghindari aturan. Mereka ingin melakukan segalanya di jaringan saraf dan tidak melakukan apa pun yang tampak seperti pemrograman klasik. Namun ada masalah yang diselesaikan dengan tenang dengan cara ini, dan tidak ada yang memperhatikannya. Misalnya saja membuat rute di Google Maps.
Faktanya, kita membutuhkan kedua pendekatan tersebut. Pembelajaran mesin bagus dalam mempelajari data, tetapi sangat buruk dalam merepresentasikan abstraksi program komputer. AI klasik bekerja dengan baik dengan abstraksi, namun harus diprogram seluruhnya dengan tangan, dan ada terlalu banyak pengetahuan di dunia untuk memprogram semuanya. Jelas kita perlu menggabungkan kedua pendekatan tersebut.
Ini terkait dengan bab di mana Anda berbicara tentang apa yang dapat kita pelajari dari pikiran manusia. Dan pertama-tama, tentang konsep yang didasarkan pada gagasan yang disebutkan di atas bahwa kesadaran kita terdiri dari banyak sistem berbeda yang bekerja dengan cara berbeda.
Saya pikir cara lain untuk menjelaskan hal ini adalah bahwa setiap sistem kognitif yang kita miliki benar-benar memecahkan masalah yang berbeda. Bagian AI yang serupa harus dirancang untuk memecahkan masalah berbeda yang memiliki karakteristik berbeda.
Sekarang kami mencoba menggunakan beberapa teknologi lengkap untuk memecahkan masalah yang sangat berbeda satu sama lain. Memahami sebuah kalimat sama sekali tidak sama dengan mengenali suatu objek. Namun orang-orang mencoba menggunakan pembelajaran mendalam dalam kedua kasus tersebut. Dari sudut pandang kognitif, ini adalah tugas yang berbeda secara kualitatif. Saya kagum dengan betapa sedikitnya apresiasi terhadap AI klasik dalam komunitas deep learning. Mengapa menunggu sampai solusi jitu muncul? Hal ini tidak mungkin tercapai, dan pencarian yang sia-sia tidak memungkinkan kita untuk memahami seluruh kompleksitas tugas menciptakan AI.
Anda juga menyebutkan bahwa sistem AI diperlukan untuk memahami hubungan sebab-akibat. Apakah menurut Anda pembelajaran mendalam, AI klasik, atau sesuatu yang benar-benar baru akan membantu kita dalam hal ini?
Ini adalah bidang lain di mana pembelajaran mendalam tidak cocok. Ini tidak menjelaskan penyebab peristiwa tertentu, tetapi menghitung probabilitas suatu peristiwa dalam kondisi tertentu.
Apa yang kita bicarakan? Anda mengamati skenario tertentu, dan Anda memahami mengapa hal ini terjadi dan apa yang bisa terjadi jika keadaan berubah. Saya dapat melihat dudukan TV dan membayangkan jika saya memotong salah satu kakinya, dudukan tersebut akan terjungkal dan TV akan terjatuh. Ini adalah hubungan sebab dan akibat.
AI klasik memberi kita beberapa alat untuk ini. Dia bisa membayangkan, misalnya, apa itu support dan apa itu fall. Tapi saya tidak akan memuji secara berlebihan. Masalahnya adalah AI klasik sangat bergantung pada informasi lengkap tentang apa yang terjadi, dan saya sampai pada kesimpulan hanya dengan melihat standnya. Saya entah bagaimana bisa menggeneralisasi, membayangkan bagian-bagian dari stand yang tidak terlihat oleh saya. Kami belum memiliki alat untuk mengimplementasikan properti ini.
Anda juga mengatakan bahwa manusia mempunyai pengetahuan bawaan. Bagaimana hal ini dapat diterapkan pada AI?
Pada saat lahir, otak kita sudah menjadi sistem yang sangat rumit. Hal ini tidak tetap; alam menciptakan rancangan kasar yang pertama. Dan kemudian pembelajaran membantu kita merevisi draf tersebut sepanjang hidup kita.
Rancangan kasar otak sudah mempunyai kemampuan tertentu. Seekor kambing gunung yang baru lahir mampu menuruni lereng gunung dengan tepat dalam waktu beberapa jam. Jelas sekali bahwa dia sudah memiliki pemahaman tentang ruang tiga dimensi, tubuhnya dan hubungan di antara mereka. Sebuah sistem yang sangat kompleks.
Inilah salah satu alasan saya yakin kita membutuhkan hibrida. Sulit membayangkan bagaimana seseorang dapat membuat robot yang berfungsi dengan baik di dunia tanpa pengetahuan serupa tentang harus memulai dari mana, dibandingkan memulai dari awal dan belajar dari pengalaman yang panjang dan luas.
Sedangkan bagi manusia, pengetahuan bawaan kita berasal dari genom kita, yang telah berevolusi dalam jangka waktu yang lama. Namun dengan sistem AI kita harus mengambil jalan yang berbeda. Bagian dari hal ini mungkin merupakan aturan untuk menyusun algoritme kami. Bagian dari hal ini mungkin adalah aturan untuk membuat struktur data yang dimanipulasi oleh algoritma ini. Dan sebagian dari ini mungkin berupa pengetahuan bahwa kita akan berinvestasi langsung pada mesin.
Menariknya, dalam buku tersebut Anda mengemukakan gagasan tentang kepercayaan dan penciptaan sistem kepercayaan. Mengapa Anda memilih kriteria khusus ini?
Saya percaya bahwa hari ini semua ini adalah permainan bola. Tampak bagi saya bahwa kita sedang menjalani momen aneh dalam sejarah, mempercayai banyak perangkat lunak yang tidak dapat dipercaya. Saya pikir kekhawatiran yang kita alami saat ini tidak akan bertahan selamanya. Dalam seratus tahun, AI akan membenarkan kepercayaan kita, dan mungkin lebih cepat lagi.
Namun saat ini AI berbahaya. Bukan dalam arti yang ditakuti Elon Musk, tetapi dalam arti bahwa sistem wawancara kerja mendiskriminasi perempuan, apa pun yang dilakukan pemrogram, karena alat mereka terlalu sederhana.
Saya berharap kita memiliki AI yang lebih baik. Saya tidak ingin melihat βmusim dingin AIβ di mana orang-orang menyadari bahwa AI tidak berfungsi dan berbahaya serta tidak ingin memperbaikinya.
Dalam beberapa hal, buku Anda tampak sangat optimis. Anda berasumsi bahwa membangun AI yang dapat dipercaya adalah mungkin. Kita hanya perlu melihat ke arah yang berbeda.
Benar sekali, buku tersebut sangat pesimistis dalam jangka pendek dan sangat optimis dalam jangka panjang. Kami percaya bahwa semua masalah yang kami uraikan dapat diselesaikan dengan melihat secara lebih luas apa yang seharusnya menjadi jawaban yang benar. Dan kami pikir jika hal ini terjadi, dunia akan menjadi tempat yang lebih baik.
Sumber: www.habr.com