Teks ini bukan hasil penyelidikan saintifik, tetapi salah satu daripada banyak pendapat mengenai perkembangan teknologi segera kita. Dan pada masa yang sama jemputan untuk perbincangan.
Gary Marcus, seorang profesor di Universiti New York, percaya bahawa pembelajaran mendalam memainkan peranan penting dalam pembangunan AI. Tetapi dia juga percaya bahawa keghairahan yang berlebihan untuk teknik ini boleh membawa kepada penghinaan.
Dalam bukunya But semula AI: Membina kecerdasan buatan yang boleh kami percayai Marcus, seorang ahli sains saraf melalui latihan yang telah membina kerjaya dalam penyelidikan AI yang canggih, menangani aspek teknikal dan etika. Dari perspektif teknologi, pembelajaran mendalam boleh berjaya meniru tugas persepsi yang dilakukan oleh otak kita, seperti pengecaman imej atau pertuturan. Tetapi untuk tugas lain, seperti memahami perbualan atau menentukan hubungan sebab-akibat, pembelajaran mendalam tidak sesuai. Untuk mencipta mesin pintar yang lebih maju yang boleh menyelesaikan pelbagai masalah yang lebih luasβselalunya dipanggil kecerdasan am buatanβpembelajaran mendalam perlu digabungkan dengan teknik lain.
Jika sistem AI tidak benar-benar memahami tugasnya atau dunia di sekelilingnya, ini boleh membawa kepada akibat yang berbahaya. Walaupun sedikit perubahan yang tidak dijangka dalam persekitaran sistem boleh membawa kepada tingkah laku yang salah. Sudah banyak contoh seperti itu: penentu ungkapan yang tidak sesuai yang mudah ditipu; sistem pencarian kerja yang sentiasa mendiskriminasi; kereta tanpa pemandu yang merempuh dan kadangkala membunuh pemandu atau pejalan kaki. Mencipta kecerdasan am buatan bukan hanya masalah penyelidikan yang menarik, ia mempunyai banyak aplikasi praktikal sepenuhnya.
Dalam buku mereka, Marcus dan pengarang bersamanya Ernest Davis berhujah untuk jalan yang berbeza. Mereka percaya bahawa kita masih jauh daripada mencipta AI umum, tetapi mereka yakin bahawa lambat laun ia akan dapat dicipta.
Mengapa kita memerlukan AI am? Versi khusus telah pun dibuat dan membawa banyak faedah.
Betul, dan akan ada lebih banyak faedah. Tetapi terdapat banyak masalah yang tidak dapat diselesaikan oleh AI khusus. Contohnya, memahami pertuturan biasa, atau bantuan am di dunia maya, atau robot yang membantu membersihkan dan memasak. Tugas sedemikian adalah di luar keupayaan AI khusus. Satu lagi soalan praktikal yang menarik: adakah mungkin untuk mencipta kereta pandu sendiri yang selamat menggunakan AI khusus? Pengalaman menunjukkan bahawa AI sedemikian masih mempunyai banyak masalah dengan tingkah laku dalam situasi tidak normal, walaupun semasa memandu, yang sangat merumitkan keadaan.
Saya fikir kita semua ingin mempunyai AI yang boleh membantu kita membuat penemuan baharu yang besar dalam bidang perubatan. Tidak jelas sama ada teknologi semasa sesuai untuk ini, kerana biologi adalah bidang yang kompleks. Anda perlu bersedia untuk membaca banyak buku. Para saintis memahami hubungan sebab-akibat dalam interaksi rangkaian dan molekul, boleh membangunkan teori tentang planet, dan sebagainya. Walau bagaimanapun, dengan AI khusus, kami tidak boleh mencipta mesin yang mampu membuat penemuan sedemikian. Dan dengan AI am, kami boleh merevolusikan sains, teknologi dan perubatan. Pada pendapat saya, adalah sangat penting untuk terus berusaha ke arah mewujudkan AI umum.
Bunyinya seperti "umum" yang anda maksudkan AI yang kuat?
Dengan "umum" saya maksudkan bahawa AI akan dapat memikirkan dan menyelesaikan masalah baharu dengan cepat. Tidak seperti, katakan, Pergi, di mana masalahnya tidak berubah selama 2000 tahun yang lalu.
General AI sepatutnya boleh membuat keputusan dalam kedua-dua politik dan perubatan. Ini sama dengan keupayaan manusia; mana-mana orang yang waras boleh melakukan banyak perkara. Anda mengambil pelajar yang tidak berpengalaman dan dalam masa beberapa hari minta mereka bekerja pada hampir semua perkara, daripada masalah undang-undang kepada masalah perubatan. Ini kerana mereka mempunyai pemahaman umum tentang dunia dan boleh membaca, dan oleh itu boleh menyumbang kepada pelbagai aktiviti yang sangat luas.
Hubungan antara kecerdasan tersebut dan kecerdasan yang kuat ialah kecerdasan yang tidak kuat mungkin tidak akan dapat menyelesaikan masalah umum. Untuk mencipta sesuatu yang cukup teguh untuk menangani dunia yang sentiasa berubah, anda mungkin perlu sekurang-kurangnya mendekati kecerdasan am.
Tetapi sekarang kita sangat jauh dari ini. AlphaGo boleh bermain dengan baik pada papan 19x19, tetapi ia perlu dilatih semula untuk bermain di papan segi empat tepat. Atau ambil purata sistem pembelajaran mendalam: ia boleh mengenali gajah jika ia diterangi dengan baik dan tekstur kulitnya kelihatan. Dan jika hanya bayang gajah kelihatan, sistem mungkin tidak akan dapat mengenalinya.
Dalam buku anda, anda menyebut bahawa pembelajaran mendalam tidak dapat mencapai keupayaan AI umum kerana ia tidak mampu memahami secara mendalam.
Dalam sains kognitif mereka bercakap tentang pembentukan pelbagai model kognitif. Saya duduk di dalam bilik hotel dan saya faham bahawa ada almari, ada katil, ada TV yang digantung dengan cara yang luar biasa. Saya tahu semua objek ini, saya bukan hanya mengenal pasti mereka. Saya juga memahami bagaimana mereka saling berkaitan antara satu sama lain. Saya mempunyai idea tentang fungsi dunia di sekeliling saya. Mereka tidak sempurna. Mereka mungkin salah, tetapi mereka agak baik. Dan berdasarkan mereka, saya membuat banyak kesimpulan yang menjadi garis panduan untuk tindakan harian saya.
Ekstrem yang lain adalah seperti sistem permainan Atari yang dibina oleh DeepMind, di mana ia mengingati perkara yang perlu dilakukan apabila ia melihat piksel di tempat tertentu pada skrin. Jika anda mendapat data yang mencukupi, anda mungkin fikir anda mempunyai pemahaman, tetapi sebenarnya ia sangat dangkal. Buktinya ialah jika anda memindahkan objek sebanyak tiga piksel, AI akan bermain lebih teruk. Perubahan membingungkan dia. Ini adalah bertentangan dengan pemahaman yang mendalam.
Untuk menyelesaikan masalah ini, anda mencadangkan untuk kembali kepada AI klasik. Apakah kelebihan yang harus kita cuba gunakan?
Terdapat beberapa kelebihan.
Pertama, AI klasik sebenarnya adalah rangka kerja untuk mencipta model kognitif dunia, berdasarkan kesimpulan yang kemudian boleh dibuat.
Kedua, AI klasik sangat serasi dengan peraturan. Terdapat trend pelik dalam pembelajaran mendalam sekarang di mana pakar cuba mengelakkan peraturan. Mereka mahu melakukan segala-galanya pada rangkaian saraf dan tidak melakukan apa-apa yang kelihatan seperti pengaturcaraan klasik. Tetapi ada masalah yang diselesaikan dengan tenang dengan cara ini, dan tiada siapa yang memberi perhatian kepadanya. Contohnya, membina laluan dalam Peta Google.
Malah, kita memerlukan kedua-dua pendekatan. Pembelajaran mesin pandai belajar daripada data, tetapi sangat lemah dalam mewakili abstraksi yang merupakan program komputer. AI klasik berfungsi dengan baik dengan abstraksi, tetapi ia mesti diprogramkan sepenuhnya dengan tangan, dan terdapat terlalu banyak pengetahuan di dunia untuk memprogram semuanya. Jelas sekali kita perlu menggabungkan kedua-dua pendekatan.
Ini berkaitan dengan bab di mana anda bercakap tentang perkara yang boleh kita pelajari daripada minda manusia. Dan pertama sekali, mengenai konsep berdasarkan idea yang disebutkan di atas bahawa kesedaran kita terdiri daripada banyak sistem berbeza yang berfungsi dengan cara yang berbeza.
Saya rasa cara lain untuk menjelaskan perkara ini ialah setiap sistem kognitif yang kita ada benar-benar menyelesaikan masalah yang berbeza. Bahagian AI yang serupa mesti direka bentuk untuk menyelesaikan masalah berbeza yang mempunyai ciri berbeza.
Kini kami cuba menggunakan beberapa teknologi semua-dalam-satu untuk menyelesaikan masalah yang sangat berbeza antara satu sama lain. Memahami ayat sama sekali tidak sama dengan mengenali objek. Tetapi orang ramai cuba menggunakan pembelajaran mendalam dalam kedua-dua kes. Dari sudut pandangan kognitif, ini adalah tugasan yang berbeza secara kualitatif. Saya hanya kagum dengan betapa sedikit penghargaan yang ada untuk AI klasik dalam komuniti pembelajaran mendalam. Mengapa menunggu peluru perak muncul? Ia tidak dapat dicapai, dan carian sia-sia tidak membenarkan kami memahami kerumitan penuh tugas mencipta AI.
Anda juga menyebut bahawa sistem AI diperlukan untuk memahami hubungan sebab-akibat. Adakah anda fikir pembelajaran mendalam, AI klasik, atau sesuatu yang benar-benar baharu akan membantu kami dalam hal ini?
Ini adalah satu lagi bidang di mana pembelajaran mendalam tidak sesuai. Ia tidak menerangkan punca kejadian tertentu, tetapi mengira kebarangkalian sesuatu kejadian di bawah keadaan tertentu.
Apa yang kita bincangkan? Anda menonton senario tertentu dan anda memahami mengapa ini berlaku dan perkara yang boleh berlaku jika beberapa keadaan berubah. Saya boleh melihat pada tempat duduk TV dan membayangkan bahawa jika saya memotong sebelah kakinya, kaki itu akan terbalik dan TV akan jatuh. Ini adalah hubungan sebab dan akibat.
AI klasik memberi kita beberapa alatan untuk ini. Dia boleh membayangkan, sebagai contoh, apa itu sokongan dan apa itu jatuh. Tetapi saya tidak akan terlalu memuji. Masalahnya ialah AI klasik sebahagian besarnya bergantung pada maklumat lengkap tentang apa yang berlaku, dan saya membuat kesimpulan hanya dengan melihat pendirian. Saya boleh membuat generalisasi, bayangkan bahagian pendirian yang tidak dapat saya lihat. Kami belum mempunyai alat untuk melaksanakan harta ini.
Anda juga mengatakan bahawa orang mempunyai pengetahuan semula jadi. Bagaimanakah ini boleh dilaksanakan dalam AI?
Pada saat kelahiran, otak kita sudah menjadi sistem yang sangat rumit. Ia tidak tetap; alam mencipta draf kasar yang pertama. Dan kemudian pembelajaran membantu kami menyemak draf itu sepanjang hayat kami.
Draf kasar otak sudah mempunyai keupayaan tertentu. Seekor kambing gunung yang baru lahir mampu menuruni lereng gunung dengan pasti dalam masa beberapa jam. Jelas sekali bahawa dia sudah mempunyai pemahaman tentang ruang tiga dimensi, tubuhnya dan hubungan antara mereka. Sistem yang sangat kompleks.
Ini sebahagiannya mengapa saya percaya kita memerlukan hibrid. Sukar untuk membayangkan bagaimana seseorang boleh mencipta robot yang berfungsi dengan baik di dunia tanpa pengetahuan yang sama tentang tempat untuk bermula, dan bukannya bermula dengan batu tulis kosong dan belajar daripada pengalaman yang panjang dan luas.
Bagi manusia, pengetahuan semula jadi kita berasal dari genom kita, yang telah berkembang sejak sekian lama. Tetapi dengan sistem AI kita perlu melalui laluan yang berbeza. Sebahagian daripada ini mungkin peraturan untuk membina algoritma kami. Sebahagian daripada ini mungkin peraturan untuk mencipta struktur data yang dimanipulasi oleh algoritma ini. Dan sebahagian daripada ini mungkin pengetahuan bahawa kami akan melabur secara langsung dalam mesin.
Sangat menarik bahawa dalam buku itu anda mengemukakan idea kepercayaan dan penciptaan sistem kepercayaan. Mengapa anda memilih kriteria tertentu ini?
Saya percaya bahawa hari ini semua ini adalah permainan bola. Nampaknya pada saya bahawa kita sedang melalui detik pelik dalam sejarah, mempercayai banyak perisian yang tidak boleh dipercayai. Saya fikir kebimbangan yang kita ada hari ini tidak akan kekal selama-lamanya. Dalam seratus tahun, AI akan membenarkan kepercayaan kami, dan mungkin lebih awal lagi.
Tetapi hari ini AI berbahaya. Bukan dalam erti kata yang Elon Musk takut, tetapi dalam erti kata sistem temu duga kerja mendiskriminasi wanita, tanpa mengira apa yang dilakukan pengaturcara, kerana alat mereka terlalu mudah.
Saya harap kita mempunyai AI yang lebih baik. Saya tidak mahu melihat "musim sejuk AI" di mana orang ramai menyedari bahawa AI tidak berfungsi dan hanya berbahaya dan tidak mahu membetulkannya.
Dalam beberapa cara, buku anda kelihatan sangat optimistik. Anda menganggap bahawa adalah mungkin untuk membina AI yang boleh dipercayai. Kita hanya perlu melihat ke arah yang berbeza.
Betul, buku itu sangat pesimis dalam jangka pendek dan sangat optimistik dalam jangka panjang. Kami percaya bahawa semua masalah yang telah kami huraikan boleh diselesaikan dengan melihat lebih luas tentang jawapan yang betul. Dan kami fikir jika ini berlaku, dunia akan menjadi tempat yang lebih baik.
Sumber: www.habr.com