हामी एक्लै गहिरो शिक्षामा निर्मित AI प्रणालीहरूमा विश्वास गर्न सक्दैनौं

यो पाठ वैज्ञानिक अनुसन्धानको नतिजा होइन, तर हाम्रो तत्काल प्राविधिक विकासको बारेमा धेरै विचारहरू मध्ये एक हो। र एकै समयमा छलफल गर्न निमन्त्रणा।

न्यूयोर्क युनिभर्सिटीका प्रोफेसर ग्यारी मार्कस एआईको विकासमा गहिरो सिकाइले महत्त्वपूर्ण भूमिका खेल्छ भन्ने विश्वास गर्छन्। तर यो प्रविधिको लागि अत्यधिक उत्साहले यसको बदनाम हुन सक्छ भन्ने उनको विश्वास छ।

उनको किताबमा एआई रिबुट गर्दै: हामीले विश्वास गर्न सक्ने कृत्रिम बुद्धिमत्ता निर्माण गर्दै अत्याधुनिक एआई अनुसन्धानमा क्यारियर निर्माण गर्ने तालिम दिएर न्यूरो वैज्ञानिक मार्कसले प्राविधिक र नैतिक पक्षहरूलाई सम्बोधन गर्छन्। टेक्नोलोजीको दृष्टिकोणबाट, गहिरो शिक्षाले हाम्रो दिमागले प्रदर्शन गर्ने अवधारणात्मक कार्यहरू, जस्तै छवि वा वाक् पहिचानलाई सफलतापूर्वक अनुकरण गर्न सक्छ। तर अन्य कार्यहरूका लागि, जस्तै कुराकानीहरू बुझ्न वा कारण-र-प्रभाव सम्बन्धहरू निर्धारण गर्न, गहिरो शिक्षा उपयुक्त छैन। समस्याहरूको फराकिलो दायरा समाधान गर्न सक्ने थप उन्नत बौद्धिक मेसिनहरू सिर्जना गर्न - जसलाई प्राय: कृत्रिम सामान्य बुद्धि भनिन्छ - गहिरो शिक्षालाई अन्य प्रविधिहरूसँग जोड्न आवश्यक छ।

यदि एआई प्रणालीले आफ्नो कार्य वा यसको वरपरको संसारलाई साँच्चै बुझ्दैन भने, यसले खतरनाक परिणामहरू निम्त्याउन सक्छ। प्रणालीको वातावरणमा थोरै अप्रत्याशित परिवर्तनहरूले पनि गलत व्यवहार निम्त्याउन सक्छ। त्यहाँ पहिले नै यस्ता धेरै उदाहरणहरू छन्: अनुपयुक्त अभिव्यक्तिहरूको निर्धारकहरू जुन धोका दिन सजिलो छ; लगातार भेदभाव गर्ने रोजगार खोज प्रणाली; चालकविहीन कारहरू जुन दुर्घटनामा पर्छन् र कहिलेकाहीँ चालक वा पैदल यात्रीलाई मार्छन्। आर्टिफिशियल जनरल इन्टेलिजेन्स सिर्जना गर्नु एक रोचक अनुसन्धान समस्या मात्र होइन, यसमा धेरै पूर्णतया व्यावहारिक अनुप्रयोगहरू छन्।

तिनीहरूको पुस्तकमा, मार्कस र उनका सह-लेखक अर्नेस्ट डेभिसले फरक बाटोको लागि तर्क गर्छन्। तिनीहरू विश्वास गर्छन् कि हामी अझै पनि सामान्य AI सिर्जना गर्न टाढा छौं, तर तिनीहरू ढिलो वा ढिलो यो सिर्जना गर्न सम्भव हुनेछ भनेर विश्वस्त छन्।

हामीलाई किन सामान्य एआई चाहिन्छ? विशेष संस्करणहरू पहिले नै सिर्जना गरिएको छ र धेरै फाइदाहरू ल्याउँछ।

त्यो सहि हो, र त्यहाँ अझ धेरै फाइदाहरू हुनेछन्। तर त्यहाँ धेरै समस्याहरू छन् जुन विशेष एआईले मात्र समाधान गर्न सक्दैन। उदाहरणका लागि, सामान्य बोली बुझ्न, वा भर्चुअल संसारमा सामान्य सहायता, वा एक रोबोट जसले सफाई र खाना पकाउन मद्दत गर्दछ। त्यस्ता कार्यहरू विशेष एआईको क्षमताभन्दा बाहिर छन्। अर्को चाखलाग्दो व्यावहारिक प्रश्न: के यो विशेष एआई प्रयोग गरेर सुरक्षित स्व-ड्राइभिङ कार बनाउन सम्भव छ? अनुभवले देखाउँछ कि यस्तो AI मा अझै पनि असामान्य परिस्थितिहरूमा व्यवहारमा धेरै समस्याहरू छन्, ड्राइभिङ गर्दा पनि, जसले परिस्थितिलाई धेरै जटिल बनाउँछ।

मलाई लाग्छ कि हामी सबै एआई पाउन चाहन्छौं जसले हामीलाई औषधिमा ठूला नयाँ आविष्कारहरू गर्न मद्दत गर्न सक्छ। जीवविज्ञान एक जटिल क्षेत्र भएकोले हालका प्रविधिहरू यसका लागि उपयुक्त छन् वा छैनन् भन्ने स्पष्ट छैन। धेरै किताब पढ्न तयार हुनुपर्छ। वैज्ञानिकहरूले नेटवर्क र अणुहरूको अन्तरक्रियामा कारण-र-प्रभाव सम्बन्धहरू बुझ्छन्, ग्रहहरूको बारेमा सिद्धान्तहरू विकास गर्न सक्छन्, इत्यादि। यद्यपि, विशेष एआईको साथ, हामी त्यस्ता खोजहरू गर्न सक्षम मेसिनहरू बनाउन सक्दैनौं। र सामान्य AI संग, हामी विज्ञान, प्रविधि र चिकित्सा मा क्रान्ति गर्न सक्छौं। मेरो विचारमा, सामान्य एआई सिर्जना गर्ने दिशामा काम जारी राख्नु धेरै महत्त्वपूर्ण छ।

यो "सामान्य" द्वारा जस्तो देखिन्छ तपाईको मतलब बलियो एआई हो?

"सामान्य" द्वारा मेरो मतलब एआईले उडानमा नयाँ समस्याहरूको बारेमा सोच्न र समाधान गर्न सक्षम हुनेछ। विपरीत, भन्नुहोस्, जानुहोस्, जहाँ समस्या विगत 2000 वर्षदेखि परिवर्तन भएको छैन।

जनरल AI राजनीति र चिकित्सा दुवै मा निर्णय गर्न सक्षम हुनुपर्छ। यो मानव क्षमतासँग मिल्दोजुल्दो छ; कुनै पनि विवेकी व्यक्तिले धेरै गर्न सक्छ। तपाईंले अनुभवहीन विद्यार्थीहरू लिनुहुन्छ र केही दिनभित्रै उनीहरूलाई कानुनी समस्यादेखि मेडिकल समस्यासम्म लगभग कुनै पनि कुरामा काम गर्न लगाउनुहोस्। यो किनभने तिनीहरूसँग संसारको सामान्य बुझाइ छ र पढ्न सक्छ, र त्यसैले गतिविधिहरूको एक धेरै विस्तृत श्रृंखलामा योगदान गर्न सक्छ।

यस्तो बुद्धिमत्ता र बलियो बुद्धिको बीचको सम्बन्ध भनेको गैर-बलियो बुद्धिले सामान्य समस्याहरू समाधान गर्न सक्षम नहुन सक्छ। सँधै परिवर्तनशील संसारसँग व्यवहार गर्न पर्याप्त बलियो चीज सिर्जना गर्न, तपाइँ कम्तिमा सामान्य बुद्धिमा पुग्न आवश्यक हुन सक्छ।

तर अहिले हामी यसबाट धेरै टाढा छौं। AlphaGo ले 19x19 बोर्डमा राम्रोसँग खेल्न सक्छ, तर यसलाई आयताकार बोर्डमा खेल्न पुन: तालिम दिन आवश्यक छ। वा औसत गहिरो शिक्षा प्रणाली लिनुहोस्: यदि यो राम्रोसँग उज्यालो छ र यसको छालाको बनावट देखिन्छ भने यसले हात्तीलाई चिन्न सक्छ। र यदि हात्तीको सिल्हूट मात्र देखिन्छ भने, प्रणालीले यसलाई चिन्न सक्नेछैन।

तपाईंको पुस्तकमा, तपाईंले उल्लेख गर्नुभयो कि गहिरो शिक्षाले सामान्य एआईको क्षमताहरू हासिल गर्न सक्दैन किनभने यो गहिरो बुझ्न सक्षम छैन।

संज्ञानात्मक विज्ञानमा तिनीहरू विभिन्न संज्ञानात्मक मोडेलहरूको गठनको बारेमा कुरा गर्छन्। म होटेलको कोठामा बसिरहेको छु र मैले बुझें कि त्यहाँ एउटा कोठा छ, त्यहाँ एउटा ओछ्यान छ, त्यहाँ एउटा टिभी छ जुन असामान्य तरिकाले झुण्डिएको छ। मलाई यी सबै वस्तुहरू थाहा छ, म तिनीहरूलाई पहिचान मात्र गर्दैन। म पनि बुझ्छु कि तिनीहरू कसरी एकअर्कासँग जोडिएका छन्। मसँग मेरो वरपरको संसारको कामका बारेमा विचारहरू छन्। तिनीहरू पूर्ण छैनन्। तिनीहरू गलत हुन सक्छन्, तर तिनीहरू एकदम राम्रो छन्। र तिनीहरूको आधारमा, म धेरै निष्कर्ष निकाल्छु जुन मेरो दैनिक कार्यहरूको लागि दिशानिर्देशहरू बन्छन्।

अर्को चरम कुरा DeepMind द्वारा निर्मित Atari खेल प्रणाली जस्तै थियो, जसमा यसले स्क्रिनमा निश्चित स्थानहरूमा पिक्सेलहरू देख्दा के गर्न आवश्यक छ भनेर सम्झन्छ। यदि तपाइँ पर्याप्त डाटा पाउनुहुन्छ भने, तपाइँ सोच्न सक्नुहुन्छ कि तपाइँसँग एक समझ छ, तर वास्तवमा यो धेरै सतही छ। यसको प्रमाण यो हो कि यदि तपाईले वस्तुहरूलाई तीन पिक्सेलले सार्नु भयो भने, एआई धेरै खराब खेल्छ। परिवर्तनहरूले उसलाई छक्क पार्छ। यो गहिरो समझ को विपरीत छ।

यो समस्या समाधान गर्न, तपाइँ शास्त्रीय AI मा फर्कने प्रस्ताव गर्नुहुन्छ। हामीले कस्ता फाइदाहरू प्रयोग गर्ने प्रयास गर्नुपर्छ?

त्यहाँ धेरै फाइदाहरू छन्।

पहिलो, शास्त्रीय एआई वास्तवमा विश्वको संज्ञानात्मक मोडेलहरू सिर्जना गर्ने ढाँचा हो, जसको आधारमा निष्कर्ष निकाल्न सकिन्छ।

दोस्रो, शास्त्रीय एआई नियमहरूसँग पूर्ण रूपमा उपयुक्त छ। गहिरो शिक्षामा अहिले एउटा अनौठो प्रवृत्ति छ जहाँ विशेषज्ञहरू नियमहरूबाट बच्न खोजिरहेका छन्। तिनीहरू न्यूरल नेटवर्कहरूमा सबै कुरा गर्न चाहन्छन् र क्लासिकल प्रोग्रामिङ जस्तो देखिने कुनै पनि काम गर्दैनन्। तर त्यहाँ समस्याहरू छन् जुन शान्त रूपमा यस तरिकाले समाधान गरिएको थियो, र कसैले यसलाई ध्यान दिएन। उदाहरणका लागि, Google नक्सामा मार्गहरू निर्माण गर्नुहोस्।

वास्तवमा, हामीलाई दुवै दृष्टिकोण चाहिन्छ। मेसिन लर्निङ डाटाबाट सिक्नमा राम्रो छ, तर कम्प्युटर प्रोग्रामको अमूर्तता प्रतिनिधित्व गर्नमा धेरै कमजोर छ। क्लासिक AI ले एब्स्ट्र्याक्सनहरूसँग राम्रोसँग काम गर्दछ, तर यो पूर्ण रूपमा हातले प्रोग्राम गरिएको हुनुपर्छ, र ती सबैलाई प्रोग्राम गर्न संसारमा धेरै ज्ञान छ। स्पष्ट रूपमा हामीले दुवै दृष्टिकोणहरू संयोजन गर्न आवश्यक छ।

यो अध्यायमा जोडिएको छ जसमा तपाईंले हामीले मानव दिमागबाट के सिक्न सक्छौं भन्ने बारेमा कुरा गर्नुहुन्छ। र सबैभन्दा पहिले, माथि उल्लेखित विचारमा आधारित अवधारणाको बारेमा कि हाम्रो चेतनामा विभिन्न तरिकामा काम गर्ने विभिन्न प्रणालीहरू हुन्छन्।

मलाई लाग्छ यो व्याख्या गर्ने अर्को तरिका यो हो कि हामीसँग भएको प्रत्येक संज्ञानात्मक प्रणालीले वास्तवमा फरक समस्या समाधान गर्दछ। AI को समान भागहरू विभिन्न विशेषताहरू भएका विभिन्न समस्याहरू समाधान गर्न डिजाइन गरिएको हुनुपर्छ।

अब हामी एक अर्काबाट आमूल भिन्नता भएका समस्याहरू समाधान गर्नका लागि केही सबै-मा-एक प्रविधिहरू प्रयोग गर्ने प्रयास गरिरहेका छौं। वाक्यलाई बुझ्नु भनेको वस्तुलाई चिन्न जत्तिकै होइन। तर मानिसहरू दुवै अवस्थामा गहिरो शिक्षा प्रयोग गर्न खोजिरहेका छन्। संज्ञानात्मक दृष्टिकोणबाट, यी गुणात्मक रूपमा फरक कार्यहरू हुन्। गहिरो सिकाइ समुदायमा शास्त्रीय AI को लागि कत्ति थोरै प्रशंसा छ भनेर म केवल छक्क परेको छु। चाँदीको गोली देखा पर्न किन पर्खने? यो अप्राप्य छ, र निष्फल खोजहरूले हामीलाई AI सिर्जना गर्ने कार्यको पूर्ण जटिलता बुझ्न अनुमति दिँदैन।

तपाईंले कारण र प्रभाव सम्बन्धहरू बुझ्नको लागि AI प्रणालीहरू आवश्यक छ भनेर पनि उल्लेख गर्नुहुन्छ। के तपाई सोच्नुहुन्छ कि गहिरो सिकाइ, शास्त्रीय AI, वा केहि नयाँ कुराले हामीलाई यसमा मद्दत गर्नेछ?

यो अर्को क्षेत्र हो जहाँ गहिरो शिक्षा राम्रोसँग उपयुक्त छैन। यसले निश्चित घटनाहरूको कारणहरू व्याख्या गर्दैन, तर दिइएको अवस्थाहरूमा घटनाको सम्भावनाको गणना गर्दछ।

हामी के कुरा गर्दैछौं? तपाइँ निश्चित परिदृश्यहरू हेर्नुहुन्छ, र तपाइँ बुझ्नुहुन्छ कि यो किन हुन्छ र केहि परिस्थितिहरू परिवर्तन भएमा के हुन सक्छ। म टिभी बसेको स्ट्यान्डलाई हेर्न सक्छु र कल्पना गर्न सक्छु कि यदि मैले यसको एउटा खुट्टा काटें भने, स्ट्यान्ड टिप्नेछ र टिभी खस्नेछ। यो कारण र प्रभाव सम्बन्ध हो।

क्लासिक AI ले हामीलाई यसका लागि केही उपकरणहरू दिन्छ। उसले कल्पना गर्न सक्छ, उदाहरणका लागि, के समर्थन र पतन के हो। तर म धेरै प्रशंसा गर्दिन। समस्या यो हो कि शास्त्रीय एआई धेरै हदसम्म के भइरहेको छ भन्ने बारे पूर्ण जानकारीमा निर्भर गर्दछ, र म स्ट्यान्ड हेरेर निष्कर्षमा पुगें। म कुनै न कुनै रूपमा सामान्यीकरण गर्न सक्छु, स्ट्यान्डका भागहरू कल्पना गर्नुहोस् जुन मलाई देखिँदैन। हामीसँग यो सम्पत्ति कार्यान्वयन गर्ने उपकरणहरू छैनन्।

तिमी पनि भन्छौ– मानिसमा जन्मजात ज्ञान छ। यसलाई AI मा कसरी लागू गर्न सकिन्छ?

जन्मको क्षणमा, हाम्रो मस्तिष्क पहिले नै एक धेरै विस्तृत प्रणाली हो। यो निश्चित छैन; प्रकृतिले पहिलो, कुनै न कुनै मस्यौदा सिर्जना गर्यो। र त्यसपछि सिकाइले हामीलाई जीवनभर त्यो मस्यौदा परिमार्जन गर्न मद्दत गर्छ।

मस्तिष्कको कुनै नराम्रो मस्यौदामा पहिले नै निश्चित क्षमताहरू छन्। एक नवजात पहाडी बाख्रा केही घण्टा भित्र अचम्मलाग्दो रूपमा पहाड तल ओर्लन सक्षम छ। यो स्पष्ट छ कि उहाँसँग पहिले नै त्रि-आयामी ठाउँ, आफ्नो शरीर र तिनीहरू बीचको सम्बन्धको समझ छ। एक धेरै जटिल प्रणाली।

यसैले आंशिक रूपमा मलाई विश्वास छ कि हामीलाई हाइब्रिडहरू चाहिन्छ। खाली स्लेटबाट सुरु गरेर लामो, विशाल अनुभवबाट सिक्नुको सट्टा कहाँबाट सुरु गर्ने भन्ने समान ज्ञान नभएको संसारमा राम्रोसँग काम गर्ने रोबोट कसरी सिर्जना गर्न सकिन्छ भनेर कल्पना गर्न गाह्रो छ।

मानिसको लागि, हाम्रो जन्मजात ज्ञान हाम्रो जीनोमबाट आउँछ, जुन लामो समयदेखि विकसित भएको छ। तर एआई प्रणालीको साथ हामीले फरक मार्गमा जानुपर्छ। यसको अंश हाम्रो एल्गोरिदमहरू निर्माण गर्ने नियमहरू हुन सक्छ। यी एल्गोरिदमहरूले हेरफेर गर्ने डेटा संरचनाहरू सिर्जना गर्ने नियमहरू यसको अंश हुन सक्छ। र यसको अंश ज्ञान हुन सक्छ कि हामी सिधै मेसिनहरूमा लगानी गर्नेछौं।

यो चाखलाग्दो छ कि पुस्तकमा तपाईंले विश्वासको विचार र विश्वास गर्ने प्रणालीहरूको सिर्जना ल्याउनुहुन्छ। तपाईंले यो विशेष मापदण्ड किन रोज्नुभयो?

मलाई विश्वास छ कि आज यो सबै एक बल खेल हो। मलाई लाग्छ कि हामी इतिहासको एक अनौठो क्षणमा बाँचिरहेका छौं, धेरै सफ्टवेयरमा विश्वास गर्दै जुन विश्वासयोग्य छैन। मलाई लाग्छ आज हामीमा रहेको चिन्ता सधैंभरि रहनेछैन। सय वर्षमा, एआईले हाम्रो विश्वासलाई उचित ठहराउनेछ, र हुनसक्छ चाँडै।

तर आज एआई खतरनाक छ। एलोन मस्कले डराएको अर्थमा होइन, तर यो अर्थमा कि जागिर अन्तर्वार्ता प्रणालीहरूले महिलाहरू विरुद्ध भेदभाव गर्दछ, प्रोग्रामरहरूले जे गरे पनि, किनभने तिनीहरूका उपकरणहरू धेरै सरल छन्।

म चाहन्छु कि हामीसँग अझ राम्रो AI हुन्थ्यो। म "AI शीतकालीन" हेर्न चाहन्न जहाँ मानिसहरूले महसुस गर्छन् कि AI ले काम गर्दैन र यो सादा खतरनाक छ र यसलाई ठीक गर्न चाहँदैनन्।

केही तरिकामा, तपाईंको पुस्तक धेरै आशावादी देखिन्छ। तपाईंले विश्वासयोग्य एआई निर्माण गर्न सम्भव छ भन्ने अनुमान गर्नुहुन्छ। हामीले मात्र फरक दिशामा हेर्न आवश्यक छ।

यो सही छ, पुस्तक छोटो अवधिमा धेरै निराशावादी छ र लामो अवधिमा धेरै आशावादी छ। हामी विश्वास गर्छौं कि हामीले वर्णन गरेका सबै समस्याहरू सहि जवाफहरू के हुनुपर्छ भनेर विस्तृत रूपमा हेरेर समाधान गर्न सकिन्छ। र हामीलाई लाग्छ कि यदि यो भयो भने, संसार राम्रो ठाउँ हुनेछ।

स्रोत: www.habr.com