Bu metin bilimsel bir araştırmanın sonucu değil, yakın teknolojik gelişimimizle ilgili birçok görüşten biridir. Ve aynı zamanda tartışmaya davet.
New York Üniversitesi'nde profesör olan Gary Marcus, derin öğrenmenin yapay zekanın gelişiminde önemli bir rol oynadığına inanıyor. Ancak aynı zamanda bu tekniğe aşırı ilginin onun itibarını sarsabileceğine de inanıyor.
Kitabında Yapay Zekayı Yeniden Başlatmak: Güvenebileceğimiz yapay zeka oluşturmak Kariyerini en son yapay zeka araştırmaları üzerine kurmuş bir sinir bilimci olan Marcus, konunun teknik ve etik yönlerini ele alıyor. Teknoloji açısından bakıldığında derin öğrenme, beynimizin görüntü veya konuşma tanıma gibi gerçekleştirdiği algısal görevleri başarıyla taklit edebilir. Ancak konuşmaları anlamak veya neden-sonuç ilişkilerini belirlemek gibi diğer görevler için derin öğrenme uygun değildir. Daha geniş bir yelpazedeki sorunları çözebilecek (genellikle yapay genel zeka olarak adlandırılan) daha gelişmiş akıllı makineler yaratmak için derin öğrenmenin diğer tekniklerle birleştirilmesi gerekir.
Bir yapay zeka sistemi, görevlerini veya etrafındaki dünyayı gerçekten anlamıyorsa, bu durum tehlikeli sonuçlara yol açabilir. Sistemin ortamındaki en ufak beklenmedik değişiklikler bile hatalı davranışlara yol açabilir. Halihazırda buna benzer pek çok örnek mevcut: uygunsuz ifadelerin aldatılması kolay belirleyicileri; sürekli ayrımcılık yapan iş arama sistemleri; Kaza yapan ve bazen sürücüyü veya yayayı öldüren sürücüsüz arabalar. Yapay genel zeka yaratmak sadece ilginç bir araştırma problemi değil, tamamen pratik birçok uygulamaya da sahip.
Marcus ve ortak yazarı Ernest Davis, kitaplarında farklı bir yol savunuyorlar. Hala genel yapay zeka yaratmaktan çok uzakta olduğumuza inanıyorlar, ancak er ya da geç onu yaratmanın mümkün olacağından eminler.
Neden genel yapay zekaya ihtiyacımız var? Özel versiyonlar zaten oluşturuldu ve birçok fayda sağlıyor.
Bu doğru ve daha da fazla fayda olacak. Ancak uzmanlaşmış yapay zekanın çözemeyeceği pek çok sorun var. Örneğin, sıradan konuşmayı anlama, sanal dünyada genel yardım veya temizlik ve yemek pişirmeye yardımcı olan bir robot. Bu tür görevler, uzmanlaşmış yapay zekanın yeteneklerinin ötesindedir. Bir başka ilginç pratik soru: Özel yapay zeka kullanarak güvenli, otonom bir araba yaratmak mümkün mü? Deneyimler, böyle bir yapay zekanın, araç kullanırken bile anormal durumlarda davranışla ilgili birçok sorunu olduğunu gösteriyor ki bu da durumu büyük ölçüde karmaşık hale getiriyor.
Sanırım hepimiz tıpta büyük yeni keşifler yapmamıza yardımcı olabilecek yapay zekaya sahip olmak isteriz. Biyoloji karmaşık bir alan olduğundan mevcut teknolojilerin buna uygun olup olmadığı belirsizdir. Çok fazla kitap okumaya hazırlıklı olmanız gerekir. Bilim insanları ağların ve moleküllerin etkileşimindeki neden-sonuç ilişkilerini anlar, gezegenler hakkında teoriler geliştirebilir vb. Ancak uzmanlaşmış yapay zekayla bu tür keşifleri gerçekleştirebilecek makineler yaratamayız. Ve genel yapay zekayla bilimde, teknolojide ve tıpta devrim yaratabiliriz. Bana göre genel yapay zeka yaratmaya yönelik çalışmaya devam etmek çok önemli.
"Genel" derken güçlü yapay zekayı mı kastediyorsunuz?
"Genel" derken, yapay zekanın yeni sorunları anında düşünüp çözebileceğini kastediyorum. Sorunun son 2000 yıldır değişmediği Go'nun aksine.
Genel yapay zeka hem siyasette hem de tıpta karar verebilmelidir. Bu insan yeteneğine benzer; aklı başında her insan çok şey yapabilir. Deneyimsiz öğrencileri alıyorsunuz ve birkaç gün içinde onları hukuki bir sorundan tıbbi bir soruna kadar neredeyse her şey üzerinde çalıştırıyorsunuz. Bunun nedeni, genel bir dünya anlayışına sahip olmaları, okuyabilmeleri ve dolayısıyla çok çeşitli faaliyetlere katkıda bulunabilmeleridir.
Bu tür zeka ile güçlü zeka arasındaki ilişki, güçlü olmayan bir zekanın muhtemelen genel sorunları çözemeyeceği yönündedir. Sürekli değişen dünyayla başa çıkabilecek kadar sağlam bir şey yaratmak için en azından genel zekaya yaklaşmanız gerekebilir.
Ama artık bundan çok uzaktayız. AlphaGo, 19x19'luk bir tahtada mükemmel bir şekilde oynayabilir, ancak dikdörtgen bir tahtada oynamak için yeniden eğitilmesi gerekir. Veya ortalama bir derin öğrenme sistemini ele alalım: İyi aydınlatılmışsa ve deri dokusu görünürse bir fili tanıyabilir. Ve eğer sadece bir filin silueti görülebiliyorsa, sistem muhtemelen onu tanıyamayacaktır.
Kitabınızda, derin öğrenmenin genel yapay zekanın yeteneklerini elde edemeyeceğini çünkü derinlemesine anlama yeteneğine sahip olmadığını belirtmişsiniz.
Bilişsel bilimde çeşitli bilişsel modellerin oluşumundan söz edilir. Bir otel odasında oturuyorum ve anlıyorum ki bir dolap var, bir yatak var, alışılmadık bir şekilde asılmış bir televizyon var. Bütün bu nesneleri biliyorum, sadece tanımlamakla kalmıyorum. Ayrıca birbirleriyle nasıl bağlantılı olduklarını da anlıyorum. Etrafımdaki dünyanın işleyişi hakkında fikirlerim var. Mükemmel değiller. Yanlış olabilirler ama oldukça iyiler. Ve bunlara dayanarak, günlük eylemlerim için kılavuz haline gelecek birçok sonuca varıyorum.
Diğer uç ise DeepMind tarafından geliştirilen ve ekranın belirli yerlerinde pikseller gördüğünde ne yapması gerektiğini hatırladığı Atari oyun sistemine benzer bir şeydi. Yeterli veriye sahip olursanız, bir anlayışa sahip olduğunuzu düşünebilirsiniz ancak gerçekte bu çok yüzeyseldir. Bunun kanıtı, nesneleri üç piksel hareket ettirirseniz yapay zekanın çok daha kötü oynamasıdır. Değişiklikler onu şaşırtıyor. Bu derin anlayışın tam tersidir.
Bu sorunu çözmek için klasik yapay zekaya dönmeyi öneriyorsunuz. Hangi avantajları kullanmaya çalışmalıyız?
Birkaç avantajı var.
Birincisi, klasik yapay zeka aslında dünyanın bilişsel modellerini oluşturmaya yönelik bir çerçevedir ve bu modellere dayanarak daha sonra çıkarımlar yapılabilir.
İkincisi, klasik yapay zeka kurallarla mükemmel bir şekilde uyumludur. Şu anda derin öğrenmede uzmanların kurallardan kaçınmaya çalıştığı garip bir eğilim var. Her şeyi sinir ağları üzerinde yapmak istiyorlar ve klasik programlamaya benzeyen hiçbir şey yapmak istemiyorlar. Ancak bu şekilde sakince çözülen sorunlar var ve kimse buna aldırış etmedi. Örneğin, Google Haritalar'da rota oluşturmak.
Aslında her iki yaklaşıma da ihtiyacımız var. Makine öğrenimi verilerden öğrenme konusunda iyidir ancak bir bilgisayar programı olan soyutlamayı temsil etme konusunda çok zayıftır. Klasik yapay zeka soyutlamalarla iyi çalışır, ancak tamamen elle programlanması gerekir ve dünyada bunların hepsini programlayacak kadar çok bilgi vardır. Açıkçası her iki yaklaşımı da birleştirmemiz gerekiyor.
Bu, insan zihninden neler öğrenebileceğimizden bahsettiğiniz bölümle bağlantılıdır. Ve öncelikle yukarıda bahsettiğimiz düşünceye dayanan kavramdan bahsedelim; bilincimiz, farklı şekillerde çalışan birçok farklı sistemden oluşuyor.
Sanırım bunu açıklamanın başka bir yolu da sahip olduğumuz her bilişsel sistemin gerçekten farklı bir sorunu çözmesidir. Farklı özelliklere sahip farklı sorunları çözmek için yapay zekanın benzer parçaları tasarlanmalıdır.
Artık birbirinden kökten farklı sorunları çözmek için hepsi bir arada teknolojilerden yararlanmaya çalışıyoruz. Bir cümleyi anlamak kesinlikle bir nesneyi tanımakla aynı şey değildir. Ancak insanlar her iki durumda da derin öğrenmeyi kullanmaya çalışıyor. Bilişsel açıdan bakıldığında bunlar niteliksel olarak farklı görevlerdir. Derin öğrenme topluluğunda klasik yapay zekaya ne kadar az değer verildiğine hayret ediyorum. Neden sihirli bir çözümün ortaya çıkmasını bekleyesiniz ki? Ulaşılamaz ve sonuçsuz aramalar, yapay zeka yaratma görevinin tüm karmaşıklığını anlamamıza izin vermiyor.
Sebep-sonuç ilişkilerini anlamak için yapay zeka sistemlerine ihtiyaç duyulduğundan da bahsediyorsunuz. Derin öğrenmenin, klasik yapay zekanın veya tamamen yeni bir şeyin bu konuda bize yardımcı olacağını düşünüyor musunuz?
Bu, derin öğrenmenin pek uygun olmadığı başka bir alandır. Belirli olayların nedenlerini açıklamaz, ancak belirli koşullar altında bir olayın olasılığını hesaplar.
Ne hakkında konuşuyoruz? Belirli senaryoları izliyorsunuz ve bunun neden olduğunu, bazı koşullar değişirse neler olabileceğini anlıyorsunuz. Televizyonun oturduğu sehpaya bakıp bacaklarından birini kesersem sehpanın devrileceğini ve televizyonun düşeceğini hayal edebiliyorum. Bu bir neden-sonuç ilişkisidir.
Klasik yapay zeka bize bunun için bazı araçlar sunuyor. Örneğin desteğin ne olduğunu ve düşüşün ne olduğunu hayal edebilir. Ama fazla övmeyeceğim. Sorun şu ki, klasik yapay zeka büyük ölçüde olup bitenlerle ilgili tam bilgiye dayanıyor ve ben sadece standa bakarak bir sonuca vardım. Bir şekilde genelleme yapabilirim, standın benim göremediğim kısımlarını hayal edebilirim. Bu özelliği uygulamak için henüz araçlarımız yok.
Ayrıca insanların doğuştan bilgiye sahip olduğunu söylüyorsunuz. Bu yapay zekaya nasıl uygulanabilir?
Doğduğumuz anda beynimiz zaten çok gelişmiş bir sistemdir. Sabit değildir; doğa ilk kaba taslağı yarattı. Ve sonra öğrenmek, bu taslağı hayatımız boyunca gözden geçirmemize yardımcı olur.
Beynin kaba bir taslağı zaten belirli yeteneklere sahiptir. Yeni doğmuş bir dağ keçisi birkaç saat içinde hatasız bir şekilde dağın yamacından inebilir. Zaten üç boyutlu uzaya, bedenine ve aralarındaki ilişkiye dair bir anlayışa sahip olduğu aşikar. Çok karmaşık bir sistem.
Hibritlere ihtiyacımız olduğuna inanmamın nedeni kısmen bu. Boş bir sayfayla başlamak ve uzun, engin deneyimlerden öğrenmek yerine, nereden başlayacağına dair benzer bilgilerin olmadığı bir dünyada, iyi işleyen bir robotun nasıl yaratılabileceğini hayal etmek zordur.
İnsanlara gelince, doğuştan gelen bilgimiz uzun zaman içinde gelişen genomumuzdan gelir. Ancak yapay zeka sistemleriyle farklı bir rotaya gitmemiz gerekecek. Bunun bir kısmı algoritmalarımızı oluşturma kuralları olabilir. Bunun bir kısmı, bu algoritmaların manipüle ettiği veri yapılarını yaratma kuralları olabilir. Bunun bir kısmı da doğrudan makinelere yatırım yapacağımız bilgisi olabilir.
Kitapta güven fikrini ve güvenen sistemlerin yaratılmasını gündeme getirmeniz ilginç. Neden bu özel kriteri seçtiniz?
Bugün tüm bunların bir top oyunu olduğuna inanıyorum. Bana öyle geliyor ki tarihte tuhaf bir an yaşıyoruz, güvenilmez birçok yazılıma güveniyoruz. Bugün yaşadığımız endişelerin sonsuza kadar sürmeyeceğine inanıyorum. Yüz yıl içinde yapay zeka güvenimizi haklı çıkaracak, belki de daha erken.
Ancak bugün yapay zeka tehlikelidir. Elon Musk'un korktuğu anlamda değil, iş görüşmesi sistemlerinin, programcılar ne yaparsa yapsın, araçları çok basit olduğundan kadınlara karşı ayrımcılık yapması anlamında.
Keşke daha iyi bir yapay zekaya sahip olsaydık. İnsanların yapay zekanın işe yaramadığını, tamamen tehlikeli olduğunu anladığı ve bunu düzeltmek istemediği bir "yapay zeka kışı" görmek istemiyorum.
Bazı açılardan kitabınız çok iyimser görünüyor. Güvenilir yapay zeka oluşturmanın mümkün olduğunu varsayıyorsunuz. Sadece farklı bir yöne bakmamız gerekiyor.
Doğru, kitap kısa vadede çok karamsar, uzun vadede ise çok iyimser. Anlattığımız tüm sorunların, doğru cevapların ne olması gerektiğine daha geniş bir açıdan bakıldığında çözülebileceğine inanıyoruz. Ve eğer bu gerçekleşirse dünyanın daha iyi bir yer olacağını düşünüyoruz.
Kaynak: habr.com