हम केवल गहन शिक्षण पर निर्मित एआई सिस्टम पर भरोसा नहीं कर सकते

यह पाठ वैज्ञानिक अनुसंधान का परिणाम नहीं है, बल्कि हमारे तत्काल तकनीकी विकास के संबंध में कई मतों में से एक है। और साथ ही चर्चा का निमंत्रण भी.

न्यूयॉर्क यूनिवर्सिटी के प्रोफेसर गैरी मार्कस का मानना ​​है कि एआई के विकास में गहन शिक्षा एक महत्वपूर्ण भूमिका निभाती है। लेकिन उनका ये भी मानना ​​है कि इस तकनीक के प्रति अत्यधिक उत्साह इसकी बदनामी का कारण बन सकता है.

अपनी किताब में एआई को रीबूट करना: कृत्रिम बुद्धिमत्ता का निर्माण जिस पर हम भरोसा कर सकते हैं मार्कस, एक न्यूरोसाइंटिस्ट, जिन्होंने प्रशिक्षण प्राप्त करके अत्याधुनिक एआई अनुसंधान पर अपना करियर बनाया है, तकनीकी और नैतिक पहलुओं को संबोधित करते हैं। प्रौद्योगिकी के नजरिए से, गहन शिक्षा हमारे मस्तिष्क द्वारा किए जाने वाले अवधारणात्मक कार्यों, जैसे छवि या भाषण पहचान, का सफलतापूर्वक अनुकरण कर सकती है। लेकिन अन्य कार्यों के लिए, जैसे बातचीत को समझना या कारण-और-प्रभाव संबंधों को निर्धारित करना, गहरी शिक्षा उपयुक्त नहीं है। अधिक उन्नत बुद्धिमान मशीनें बनाने के लिए जो समस्याओं की एक विस्तृत श्रृंखला को हल कर सकती हैं - जिन्हें अक्सर कृत्रिम सामान्य बुद्धि कहा जाता है - गहन शिक्षण को अन्य तकनीकों के साथ जोड़ने की आवश्यकता है।

यदि कोई AI सिस्टम वास्तव में अपने कार्यों या अपने आस-पास की दुनिया को नहीं समझता है, तो इसके खतरनाक परिणाम हो सकते हैं। यहां तक ​​कि सिस्टम के वातावरण में थोड़ा सा अप्रत्याशित परिवर्तन भी गलत व्यवहार का कारण बन सकता है। ऐसे कई उदाहरण पहले ही मौजूद हैं: अनुचित अभिव्यक्तियों के निर्धारक जिन्हें धोखा देना आसान है; नौकरी खोज प्रणालियाँ जो लगातार भेदभाव करती हैं; चालक रहित कारें दुर्घटनाग्रस्त हो जाती हैं और कभी-कभी चालक या पैदल यात्री की मौत हो जाती है। कृत्रिम सामान्य बुद्धि बनाना केवल एक दिलचस्प शोध समस्या नहीं है, इसके कई पूर्णतः व्यावहारिक अनुप्रयोग हैं।

अपनी पुस्तक में, मार्कस और उनके सह-लेखक अर्नेस्ट डेविस एक अलग रास्ते के लिए तर्क देते हैं। उनका मानना ​​है कि हम अभी भी सामान्य एआई बनाने से बहुत दूर हैं, लेकिन उन्हें विश्वास है कि देर-सबेर इसे बनाना संभव होगा।

हमें सामान्य AI की आवश्यकता क्यों है? विशिष्ट संस्करण पहले ही बनाए जा चुके हैं और बहुत सारे लाभ लाते हैं।

यह सही है, और इससे भी अधिक लाभ होंगे। लेकिन ऐसी कई समस्याएं हैं जिन्हें विशिष्ट AI हल नहीं कर सकता। उदाहरण के लिए, सामान्य भाषण को समझना, या आभासी दुनिया में सामान्य सहायता, या एक रोबोट जो सफाई और खाना पकाने में मदद करता है। ऐसे कार्य विशिष्ट AI की क्षमताओं से परे हैं। एक और दिलचस्प व्यावहारिक प्रश्न: क्या विशेष एआई का उपयोग करके एक सुरक्षित सेल्फ-ड्राइविंग कार बनाना संभव है? अनुभव से पता चलता है कि ऐसे एआई में अभी भी असामान्य परिस्थितियों में, यहां तक ​​कि गाड़ी चलाते समय भी व्यवहार में कई समस्याएं होती हैं, जो स्थिति को काफी जटिल बना देती है।

मुझे लगता है कि हम सभी एआई चाहेंगे जो हमें चिकित्सा के क्षेत्र में बड़ी नई खोज करने में मदद कर सके। यह स्पष्ट नहीं है कि वर्तमान प्रौद्योगिकियाँ इसके लिए उपयुक्त हैं या नहीं, क्योंकि जीव विज्ञान एक जटिल क्षेत्र है। आपको ढेर सारी किताबें पढ़ने के लिए तैयार रहना होगा। वैज्ञानिक नेटवर्क और अणुओं की परस्पर क्रिया में कारण-और-प्रभाव संबंधों को समझते हैं, ग्रहों के बारे में सिद्धांत विकसित कर सकते हैं, इत्यादि। हालाँकि, विशेष AI के साथ, हम ऐसी खोजों में सक्षम मशीनें नहीं बना सकते हैं। और सामान्य एआई के साथ, हम विज्ञान, प्रौद्योगिकी और चिकित्सा में क्रांति ला सकते हैं। मेरी राय में, सामान्य एआई बनाने की दिशा में काम करना जारी रखना बहुत महत्वपूर्ण है।

ऐसा लगता है जैसे "सामान्य" से आपका मतलब मजबूत एआई से है?

"सामान्य" से मेरा मतलब है कि एआई तुरंत नई समस्याओं के बारे में सोचने और उन्हें हल करने में सक्षम होगा। इसके विपरीत, कहें, गो, जहां समस्या पिछले 2000 वर्षों से नहीं बदली है।

जनरल एआई को राजनीति और चिकित्सा दोनों में निर्णय लेने में सक्षम होना चाहिए। यह मानवीय क्षमता के अनुरूप है; कोई भी समझदार व्यक्ति बहुत कुछ कर सकता है। आप अनुभवहीन छात्रों को लेते हैं और कुछ ही दिनों में उनसे कानूनी समस्या से लेकर चिकित्सा समस्या तक, लगभग किसी भी चीज़ पर काम करवाते हैं। ऐसा इसलिए है क्योंकि उन्हें दुनिया की सामान्य समझ है और वे पढ़ सकते हैं, और इसलिए बहुत व्यापक गतिविधियों में योगदान दे सकते हैं।

ऐसी बुद्धिमत्ता और मजबूत बुद्धि के बीच संबंध यह है कि एक गैर-मजबूत बुद्धि संभवतः सामान्य समस्याओं को हल करने में सक्षम नहीं होगी। लगातार बदलती दुनिया से निपटने के लिए कुछ मजबूत बनाने के लिए, आपको कम से कम सामान्य बुद्धिमता का सहारा लेने की आवश्यकता हो सकती है।

लेकिन अब हम इससे बहुत दूर हैं. अल्फ़ागो 19x19 बोर्ड पर पूरी तरह से अच्छा खेल सकता है, लेकिन आयताकार बोर्ड पर खेलने के लिए इसे फिर से प्रशिक्षित करने की आवश्यकता है। या औसत गहन शिक्षण प्रणाली को लें: यदि अच्छी रोशनी हो और उसकी त्वचा की बनावट दिखाई दे तो यह एक हाथी को पहचान सकता है। और यदि केवल हाथी का छायाचित्र ही दिखाई दे तो सिस्टम संभवतः उसे पहचान नहीं पाएगा।

अपनी पुस्तक में, आपने उल्लेख किया है कि गहन शिक्षण सामान्य एआई की क्षमताओं को प्राप्त नहीं कर सकता क्योंकि यह गहरी समझ में सक्षम नहीं है।

संज्ञानात्मक विज्ञान में वे विभिन्न संज्ञानात्मक मॉडलों के निर्माण के बारे में बात करते हैं। मैं एक होटल के कमरे में बैठा हूं और मैं समझता हूं कि वहां एक कोठरी है, वहां एक बिस्तर है, वहां एक टीवी है जो असामान्य तरीके से लटका हुआ है। मैं इन सभी वस्तुओं को जानता हूं, सिर्फ पहचानता नहीं हूं। मैं यह भी समझता हूं कि वे एक-दूसरे से कैसे जुड़े हुए हैं। मेरे पास अपने आस-पास की दुनिया की कार्यप्रणाली के बारे में विचार हैं। वे परिपूर्ण नहीं हैं. वे गलत हो सकते हैं, लेकिन वे काफी अच्छे हैं। और उनके आधार पर, मैं बहुत सारे निष्कर्ष निकालता हूं जो मेरे दैनिक कार्यों के लिए दिशानिर्देश बन जाते हैं।

दूसरा चरम डीपमाइंड द्वारा निर्मित अटारी गेम सिस्टम जैसा था, जिसमें उसे याद रहता था कि स्क्रीन पर कुछ स्थानों पर पिक्सेल देखने पर उसे क्या करने की आवश्यकता है। यदि आपको पर्याप्त डेटा मिलता है, तो आप सोच सकते हैं कि आपके पास समझ है, लेकिन वास्तव में यह बहुत सतही है। इसका प्रमाण यह है कि यदि आप वस्तुओं को तीन पिक्सेल तक घुमाते हैं, तो AI बहुत खराब खेलता है। परिवर्तन उसे चकित कर देते हैं। यह गहरी समझ के विपरीत है।

इस समस्या को हल करने के लिए, आप शास्त्रीय एआई पर लौटने का प्रस्ताव रखते हैं। हमें किन लाभों का उपयोग करने का प्रयास करना चाहिए?

इसके कई फायदे हैं.

सबसे पहले, शास्त्रीय एआई वास्तव में दुनिया के संज्ञानात्मक मॉडल बनाने के लिए एक रूपरेखा है, जिसके आधार पर निष्कर्ष निकाले जा सकते हैं।

दूसरे, शास्त्रीय एआई नियमों के साथ पूरी तरह से संगत है। अभी गहन शिक्षण में एक अजीब चलन है जहां विशेषज्ञ नियमों से बचने की कोशिश कर रहे हैं। वे सब कुछ तंत्रिका नेटवर्क पर करना चाहते हैं और ऐसा कुछ भी नहीं करना चाहते जो शास्त्रीय प्रोग्रामिंग जैसा लगे। लेकिन कुछ समस्याएं ऐसी भी हैं जिन्हें इस तरह शांति से सुलझा लिया गया और किसी ने इस पर ध्यान नहीं दिया. उदाहरण के लिए, Google मानचित्र में मार्ग बनाना।

वास्तव में, हमें दोनों दृष्टिकोणों की आवश्यकता है। मशीन लर्निंग डेटा से सीखने में अच्छा है, लेकिन कंप्यूटर प्रोग्राम के अमूर्त प्रतिनिधित्व में बहुत खराब है। क्लासिक एआई अमूर्तताओं के साथ अच्छी तरह से काम करता है, लेकिन इसे पूरी तरह से हाथ से प्रोग्राम किया जाना चाहिए, और उन सभी को प्रोग्राम करने के लिए दुनिया में बहुत अधिक ज्ञान है। स्पष्ट रूप से हमें दोनों दृष्टिकोणों को संयोजित करने की आवश्यकता है।

यह उस अध्याय से जुड़ा है जिसमें आप इस बारे में बात करते हैं कि हम मानव मस्तिष्क से क्या सीख सकते हैं। और सबसे पहले, ऊपर उल्लिखित विचार पर आधारित अवधारणा के बारे में कि हमारी चेतना में कई अलग-अलग प्रणालियाँ शामिल हैं जो अलग-अलग तरीकों से काम करती हैं।

मुझे लगता है कि इसे समझाने का एक और तरीका यह है कि हमारी प्रत्येक संज्ञानात्मक प्रणाली वास्तव में एक अलग समस्या का समाधान करती है। एआई के समान हिस्सों को अलग-अलग समस्याओं को हल करने के लिए डिज़ाइन किया जाना चाहिए जिनकी अलग-अलग विशेषताएं हों।

अब हम उन समस्याओं को हल करने के लिए कुछ ऑल-इन-वन तकनीकों का उपयोग करने का प्रयास कर रहे हैं जो एक-दूसरे से बिल्कुल भिन्न हैं। किसी वाक्य को समझना किसी वस्तु को पहचानने जैसा बिल्कुल नहीं है। लेकिन लोग दोनों ही मामलों में गहन शिक्षा का उपयोग करने का प्रयास कर रहे हैं। संज्ञानात्मक दृष्टिकोण से, ये गुणात्मक रूप से भिन्न कार्य हैं। मैं इस बात से आश्चर्यचकित हूं कि गहन शिक्षण समुदाय में शास्त्रीय एआई के लिए कितनी कम सराहना है। चांदी की गोली के प्रकट होने का इंतजार क्यों करें? यह अप्राप्य है, और निरर्थक खोजें हमें एआई बनाने के कार्य की पूरी जटिलता को समझने की अनुमति नहीं देती हैं।

आपने यह भी उल्लेख किया है कि कारण-और-प्रभाव संबंधों को समझने के लिए एआई सिस्टम की आवश्यकता है। क्या आपको लगता है कि गहन शिक्षा, शास्त्रीय एआई, या कुछ बिल्कुल नया हमें इसमें मदद करेगा?

यह एक और क्षेत्र है जहां गहन शिक्षा उपयुक्त नहीं है। यह कुछ घटनाओं के कारणों की व्याख्या नहीं करता है, बल्कि दी गई शर्तों के तहत किसी घटना की संभावना की गणना करता है।

हम किस बारे में बात कर रहे हैं? आप कुछ परिदृश्य देखते हैं, और आप समझते हैं कि ऐसा क्यों होता है और यदि कुछ परिस्थितियाँ बदलती हैं तो क्या हो सकता है। मैं उस स्टैंड को देख सकता हूं जिस पर टीवी बैठा है और कल्पना कर सकता हूं कि अगर मैं उसका एक पैर काट दूं, तो स्टैंड पलट जाएगा और टीवी गिर जाएगा। यह एक कारण और प्रभाव संबंध है.

क्लासिक एआई हमें इसके लिए कुछ उपकरण देता है। वह कल्पना कर सकता है, उदाहरण के लिए, समर्थन क्या है और पतन क्या है। लेकिन मैं अति-प्रशंसा नहीं करूंगा. समस्या यह है कि शास्त्रीय एआई काफी हद तक क्या हो रहा है इसके बारे में पूरी जानकारी पर निर्भर करता है, और मैं केवल स्टैंड को देखकर ही निष्कर्ष पर पहुंचा हूं। मैं किसी तरह सामान्यीकरण कर सकता हूं, स्टैंड के उन हिस्सों की कल्पना कर सकता हूं जो मुझे दिखाई नहीं देते हैं। हमारे पास अभी तक इस संपत्ति को लागू करने के लिए उपकरण नहीं हैं।

आप यह भी कहते हैं कि लोगों के पास जन्मजात ज्ञान होता है। इसे AI में कैसे लागू किया जा सकता है?

जन्म के समय, हमारा मस्तिष्क पहले से ही एक बहुत विस्तृत प्रणाली है। यह स्थिर नहीं है; प्रकृति ने पहला, कच्चा मसौदा तैयार किया। और फिर सीखना हमें जीवन भर उस मसौदे को संशोधित करने में मदद करता है।

मस्तिष्क के एक मोटे ड्राफ्ट में पहले से ही कुछ क्षमताएं होती हैं। एक नवजात पहाड़ी बकरी कुछ ही घंटों में बिना किसी गलती के पहाड़ से नीचे उतरने में सक्षम हो जाती है। यह स्पष्ट है कि उसे पहले से ही त्रि-आयामी अंतरिक्ष, उसके शरीर और उनके बीच के संबंध की समझ है। एक बहुत ही जटिल प्रणाली.

आंशिक रूप से इसीलिए मेरा मानना ​​है कि हमें संकरों की आवश्यकता है। यह कल्पना करना कठिन है कि कोई ऐसा रोबोट कैसे बना सकता है जो एक खाली स्लेट से शुरू करने और लंबे, विशाल अनुभव से सीखने के बजाय, कहां से शुरू करना है, इसके समान ज्ञान के बिना दुनिया में अच्छी तरह से काम करता है।

जहां तक ​​मनुष्यों की बात है, हमारा सहज ज्ञान हमारे जीनोम से आता है, जो लंबे समय में विकसित हुआ है। लेकिन एआई सिस्टम के साथ हमें एक अलग रास्ता अपनाना होगा। इसका एक हिस्सा हमारे एल्गोरिदम के निर्माण के नियम हो सकते हैं। इसका एक हिस्सा डेटा संरचनाओं को बनाने के नियम हो सकते हैं जिन्हें ये एल्गोरिदम हेरफेर करते हैं। और इसका एक हिस्सा यह ज्ञान हो सकता है कि हम सीधे मशीनों में निवेश करेंगे।

यह दिलचस्प है कि पुस्तक में आप विश्वास और भरोसेमंद प्रणालियों के निर्माण के विचार को सामने लाते हैं। आपने यह विशेष मानदंड क्यों चुना?

मेरा मानना ​​है कि आज ये सब गेंद का खेल है. मुझे ऐसा लगता है कि हम इतिहास में एक अजीब पल से गुजर रहे हैं, ऐसे बहुत से सॉफ़्टवेयर पर भरोसा कर रहे हैं जो भरोसेमंद नहीं हैं। मुझे लगता है कि आज हमें जो चिंताएं हैं, वे हमेशा के लिए नहीं रहेंगी। सौ वर्षों में, एआई हमारे भरोसे पर खरा उतरेगा, और शायद उससे भी पहले।

लेकिन आज AI ख़तरनाक है. इस अर्थ में नहीं कि एलोन मस्क डरते हैं, बल्कि इस अर्थ में कि नौकरी के लिए साक्षात्कार प्रणाली महिलाओं के साथ भेदभाव करती है, चाहे प्रोग्रामर कुछ भी करें, क्योंकि उनके उपकरण बहुत सरल हैं।

काश हमारे पास बेहतर AI होता। मैं "एआई विंटर" नहीं देखना चाहता जहां लोगों को एहसास हो कि एआई काम नहीं करता है और यह बिल्कुल खतरनाक है और इसे ठीक नहीं करना चाहते हैं।

कुछ मायनों में, आपकी पुस्तक बहुत आशावादी लगती है। आप मानते हैं कि भरोसेमंद AI बनाना संभव है। हमें बस एक अलग दिशा में देखने की जरूरत है।

यह सही है, यह पुस्तक अल्पावधि में बहुत निराशावादी है और दीर्घावधि में बहुत आशावादी है। हमारा मानना ​​है कि हमने जिन सभी समस्याओं का वर्णन किया है, उनका सही उत्तर क्या होना चाहिए, इस पर व्यापक नजर डालकर हल किया जा सकता है। और हम सोचते हैं कि अगर ऐसा हुआ तो दुनिया एक बेहतर जगह होगी।

स्रोत: www.habr.com