NeurIPS 2019: एमएल रुझान जो अगले दशक तक हमारे साथ रहेंगे

न्यूरोआईपीएस (तंत्रिका सूचना प्रसंस्करण प्रणाली) मशीन लर्निंग और आर्टिफिशियल इंटेलिजेंस पर दुनिया का सबसे बड़ा सम्मेलन और गहन शिक्षण की दुनिया में मुख्य कार्यक्रम है।

क्या हम, डीएस इंजीनियर, नए दशक में जीव विज्ञान, भाषा विज्ञान और मनोविज्ञान में भी महारत हासिल करेंगे? हम आपको अपने रिव्यू में बताएंगे.

इस वर्ष सम्मेलन में कनाडा के वैंकूवर में 13500 देशों के 80 से अधिक लोग एकत्र हुए। यह पहला वर्ष नहीं है जब Sberbank ने सम्मेलन में रूस का प्रतिनिधित्व किया है - DS टीम ने बैंकिंग प्रक्रियाओं में ML के कार्यान्वयन, ML प्रतियोगिता के बारे में और Sberbank DS प्लेटफ़ॉर्म की क्षमताओं के बारे में बात की। एमएल समुदाय में 2019 के मुख्य रुझान क्या थे? सम्मेलन प्रतिभागियों का कहना है: एंड्री चेरटोक и तात्याना शावरिना.

इस वर्ष, NeurIPS ने 1400 से अधिक पेपर स्वीकार किए - एल्गोरिदम, नए मॉडल और नए डेटा के लिए नए एप्लिकेशन। सभी सामग्रियों से लिंक करें

सामग्री:

• प्रवृत्तियों
• • मॉडल व्याख्यात्मकता
  • बहुअनुशासनात्मकता
  • विचार
  • RL
  • GAN
• बुनियादी आमंत्रित वार्ता
• • "सोशल इंटेलिजेंस", ब्लेज़ एगुएरा वाई आर्कस (गूगल)
  • "वैरिडिकल डेटा साइंस", बिन यू (बर्कले)
  • "मशीन लर्निंग के साथ मानव व्यवहार मॉडलिंग: अवसर और चुनौतियाँ", नूरिया एम ओलिवर, अल्बर्ट अली सलाह
  • "सिस्टम 1 से सिस्टम 2 डीप लर्निंग तक", योशुआ बेंगियो

साल के रुझान 2019

1. मॉडल व्याख्या और नई एमएल पद्धति

सम्मेलन का मुख्य विषय इस बात की व्याख्या और साक्ष्य है कि हमें कुछ परिणाम क्यों मिलते हैं। "ब्लैक बॉक्स" व्याख्या के दार्शनिक महत्व के बारे में कोई लंबे समय तक बात कर सकता है, लेकिन इस क्षेत्र में अधिक वास्तविक तरीके और तकनीकी विकास हुए हैं।

मॉडलों की नकल करने और उनसे ज्ञान निकालने की पद्धति विज्ञान के लिए एक नया टूलकिट है। मॉडल नए ज्ञान प्राप्त करने और उसका परीक्षण करने के लिए एक उपकरण के रूप में काम कर सकते हैं, और मॉडल के प्रीप्रोसेसिंग, प्रशिक्षण और अनुप्रयोग के प्रत्येक चरण को प्रतिलिपि प्रस्तुत करने योग्य होना चाहिए।
प्रकाशनों का एक महत्वपूर्ण हिस्सा मॉडलों और उपकरणों के निर्माण के लिए नहीं, बल्कि परिणामों की सुरक्षा, पारदर्शिता और सत्यापन सुनिश्चित करने की समस्याओं के लिए समर्पित है। विशेष रूप से, मॉडल पर हमलों (प्रतिकूल हमलों) के बारे में एक अलग धारा सामने आई है, और प्रशिक्षण पर हमलों और आवेदन पर हमलों दोनों के विकल्पों पर विचार किया जाता है।

लेख:

• वेरिडिकल डेटा साइंस - मॉडल सत्यापन की पद्धति पर एक प्रोग्रामेटिक लेख। इसमें मॉडलों की व्याख्या करने के लिए आधुनिक उपकरणों का अवलोकन शामिल है, विशेष रूप से, ध्यान का उपयोग और रैखिक मॉडल के साथ तंत्रिका नेटवर्क को "आसुत" करके सुविधा महत्व प्राप्त करना।
• यह इस तरह दिखता है: व्याख्या योग्य छवि पहचान के लिए गहन शिक्षण चाओफ़ान चेन, ऑस्कर ली, डैनियल ताओ, अलीना बार्नेट, सिंथिया रुडिन, जोनाथन के. सु
• डीप न्यूरल नेटवर्क्स में व्याख्यात्मकता विधियों के लिए एक बेंचमार्क सारा हूकर, डुमित्रु एरहान, पीटर-जान किंडरमैन, बीन किम
• ध्यान संवर्धित एजेंटों का उपयोग करके व्याख्या योग्य सुदृढीकरण सीखने की ओर अलेक्जेंडर मॉट, डैनियल ज़ोरान, माइक क्रज़ानोव्स्की, डैन विएरस्ट्रा, डैनिलो जिमेनेज़ रेज़ेंडे
• यादृच्छिक वनों के लिए एक विवादास्पद एमडीआई फ़ीचर महत्व उपाय जिओ ली, यू वांग, सुमंता बसु, कार्ल कुंबियर, बिन यू
• बिना किसी अवलोकन योग्य डेटा के ज्ञान निष्कर्षण जैमिन यू, मिनयोंग चो, ताएबम किम, यू कांग
• स्वतंत्र रूप से प्रतिलिपि प्रस्तुत करने योग्य मशीन लर्निंग अनुसंधान को परिमाणित करने की दिशा में एक कदम एडवर्ड रफ़

ExBert.net टेक्स्ट प्रोसेसिंग कार्यों के लिए मॉडल व्याख्या दिखाता है

2. बहुअनुशासनात्मकता

विश्वसनीय सत्यापन सुनिश्चित करने और ज्ञान के सत्यापन और विस्तार के लिए तंत्र विकसित करने के लिए, हमें संबंधित क्षेत्रों में विशेषज्ञों की आवश्यकता है जिनके पास एमएल और विषय क्षेत्र (चिकित्सा, भाषा विज्ञान, तंत्रिका जीव विज्ञान, शिक्षा, आदि) में एक साथ दक्षता हो। यह विशेष रूप से तंत्रिका विज्ञान और संज्ञानात्मक विज्ञान में कार्यों और भाषणों की अधिक महत्वपूर्ण उपस्थिति पर ध्यान देने योग्य है - विशेषज्ञों का मेल-मिलाप और विचारों का उधार है।

इस तालमेल के अलावा, विभिन्न स्रोतों से जानकारी के संयुक्त प्रसंस्करण में बहु-अनुशासनात्मकता उभर रही है: टेक्स्ट और फोटो, टेक्स्ट और गेम, ग्राफ डेटाबेस + टेक्स्ट और फोटो।

लेख:

• तंत्रिका विज्ञान + एमएल - प्राकृतिक भाषा प्रसंस्करण (मशीनों में) के साथ प्राकृतिक भाषा प्रसंस्करण (मस्तिष्क में) की व्याख्या करना और उसमें सुधार करना
• विज़ुअलक्यूए - अमूर्तन द्वारा सीखना: तंत्रिका राज्य मशीन
• आरएल + एनएलपी - प्राकृतिक भाषा निर्देशों को उत्पन्न और उनका पालन करके पदानुक्रमित निर्णय लेना

दो मॉडल - रणनीतिकार और कार्यकारी - आरएल और एनएलपी पर आधारित ऑनलाइन रणनीति खेलते हैं

3. तर्क Reason

कृत्रिम बुद्धिमत्ता को मजबूत करना स्व-शिक्षण प्रणालियों, "जागरूक", तर्क और तर्क की दिशा में एक आंदोलन है। विशेष रूप से, कारणात्मक अनुमान और सामान्य ज्ञान संबंधी तर्क विकसित हो रहे हैं। कुछ रिपोर्टें मेटा-लर्निंग (सीखने के तरीके के बारे में) और पहले और दूसरे क्रम के तर्क के साथ डीएल प्रौद्योगिकियों के संयोजन के लिए समर्पित हैं - आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) शब्द वक्ताओं के भाषणों में एक सामान्य शब्द बन रहा है।

लेख:

• विज़ुअल कॉमन्सेंस रीज़निंग के लिए विषम ग्राफ़ सीखना वेइजियांग यू, जिंगवेन झोउ, वीहाओ यू, ज़ियाओदान लियांग, नोंग ज़ियाओ
• अपहरणात्मक शिक्षण द्वारा मशीन लर्निंग और तार्किक तर्क को जोड़ना वांग-झोउ दाई, क्यूलिंग जू, यांग यू, ज़ी-हुआ झोउ
• प्रथम-क्रम तर्क में स्पष्ट रूप से तर्क करना सीखना वैशाख बेले, ब्रेंडन जुबा
• फ़ायर: शारीरिक तर्क के लिए एक नया बेंचमार्क एंटोन बख्तिन, लॉरेन्स वैन डेर माटेन, जस्टिन जॉनसन, लॉरा गुस्ताफसन, रॉस गिर्शिक
• तर्क के लिए ज्ञान का क्वांटम एम्बेडिंग दिनेश गर्ग, शाजिथ इकबाल, संतोष के. श्रीवास्तव, हरित विश्वकर्मा, हिमा करनम, एल वेंकट सुब्रमण्यम

4. सुदृढीकरण सीखना

अधिकांश कार्य RL - DOTA2, Starcraft के पारंपरिक क्षेत्रों को विकसित करने, कंप्यूटर विज़न, NLP, ग्राफ़ डेटाबेस के साथ आर्किटेक्चर के संयोजन पर जारी है।

सम्मेलन का एक अलग दिन आरएल कार्यशाला के लिए समर्पित था, जिसमें ऑप्टिमिस्टिक एक्टर क्रिटिक मॉडल आर्किटेक्चर प्रस्तुत किया गया था, जो पिछले सभी से बेहतर था, विशेष रूप से सॉफ्ट एक्टर क्रिटिक में।

लेख:

• आशावादी अभिनेता आलोचक के साथ बेहतर अन्वेषण; कामिल सियोसेक, क्वान वुओंग, रॉबर्ट लॉफ्टिन, काटजा हॉफमैन
• चेनरआरएल: एक गहन सुदृढीकरण शिक्षण पुस्तकालय; यासुहिरो फुजिता (पसंदीदा नेटवर्क, इंक.)*; तोशिकी कटोका (पसंदीदा नेटवर्क, इंक.); प्रभात नागराजन (पसंदीदा नेटवर्क); ताकाहिरो इशिकावा (टोक्यो विश्वविद्यालय) [बाहरी पीडीएफ लिंक]।
• नियंत्रण का सपना: अव्यक्त कल्पना द्वारा व्यवहार सीखना; डेनिजर हाफनर (गूगल)*; टिमोथी लिलीक्रैप (डीपमाइंड); जिमी बा (टोरंटो विश्वविद्यालय); मोहम्मद नोरोज़ी (गूगल ब्रेन)
• कार्यशाला सामग्री

स्टारक्राफ्ट खिलाड़ी अल्फास्टार मॉडल (डीपमाइंड) से लड़ते हैं

5. गण

जेनरेटिव नेटवर्क अभी भी सुर्खियों में हैं: कई कार्य गणितीय प्रमाणों के लिए वेनिला जीएएन का उपयोग करते हैं, और उन्हें नए, असामान्य तरीकों से भी लागू करते हैं (ग्राफ जेनरेटिव मॉडल, श्रृंखला के साथ काम करना, डेटा में कारण-और-प्रभाव संबंधों के लिए आवेदन, आदि)।

लेख:

• सशर्त GANs के लिए खनन सोने के नमूने सांगवू मो, चिहोन किम, सुंगवूंग किम, मिनसु चो, जिनवू शिन
• GANs का प्रगतिशील विस्तार डैन झांग, अन्ना खोरेवा
• सशर्त GAN का उपयोग करके सारणीबद्ध डेटा मॉडलिंग लेई जू, मारिया स्कोलारिडौ, अल्फ्रेडो क्यूस्टा-इन्फैंटे, कल्याण वीरमाचानेनी
• papers.nips.cc/paper/9377-a-domain-agnostic-measure-for-monitoring-and-evaluating-gans

चूँकि अधिक कार्य स्वीकृत था 1400 नीचे हम सबसे महत्वपूर्ण भाषणों के बारे में बात करेंगे।

आमंत्रित वार्ता

"सोशल इंटेलिजेंस", ब्लेज़ एगुएरा वाई आर्कस (गूगल)

लिंक
स्लाइड और वीडियो
यह बातचीत मशीन लर्निंग की सामान्य कार्यप्रणाली और उद्योग में इस समय बदलाव की संभावनाओं पर केंद्रित है - हम किस चौराहे का सामना कर रहे हैं? मस्तिष्क और विकास कैसे काम करते हैं, और प्राकृतिक प्रणालियों के विकास के बारे में हम जो पहले से जानते हैं उसका इतना कम उपयोग क्यों करते हैं?

एमएल का औद्योगिक विकास काफी हद तक Google के विकास के मील के पत्थर से मेल खाता है, जो साल-दर-साल NeurIPS पर अपना शोध प्रकाशित करता है:

• 1997 - खोज सुविधाओं का शुभारंभ, पहला सर्वर, छोटी कंप्यूटिंग शक्ति
• 2010 - जेफ डीन ने गूगल ब्रेन प्रोजेक्ट लॉन्च किया, शुरुआत में ही तंत्रिका नेटवर्क में उछाल आया
• 2015 - तंत्रिका नेटवर्क का औद्योगिक कार्यान्वयन, स्थानीय डिवाइस पर सीधे तेज़ चेहरा पहचान, टेंसर कंप्यूटिंग के लिए तैयार निम्न-स्तरीय प्रोसेसर - टीपीयू। Google ने कोरल एआई लॉन्च किया - रास्पबेरी पाई का एक एनालॉग, प्रयोगात्मक इंस्टॉलेशन में तंत्रिका नेटवर्क पेश करने के लिए एक मिनी-कंप्यूटर
• 2017 - Google ने एंड्रॉइड पर विकेंद्रीकृत प्रशिक्षण विकसित करना और विभिन्न उपकरणों से तंत्रिका नेटवर्क प्रशिक्षण के परिणामों को एक मॉडल में संयोजित करना शुरू किया

आज, एक संपूर्ण उद्योग डेटा सुरक्षा, एकत्रीकरण और स्थानीय उपकरणों पर सीखने के परिणामों की प्रतिकृति के लिए समर्पित है।

फ़ेडरेटेड लर्निंग - एमएल की एक दिशा जिसमें व्यक्तिगत मॉडल एक-दूसरे से स्वतंत्र रूप से सीखते हैं और फिर उन्हें एक एकल मॉडल में जोड़ दिया जाता है (स्रोत डेटा को केंद्रीकृत किए बिना), दुर्लभ घटनाओं, विसंगतियों, वैयक्तिकरण आदि के लिए समायोजित किया जाता है। सभी Android डिवाइस अनिवार्य रूप से Google के लिए एक एकल कंप्यूटिंग सुपरकंप्यूटर हैं।

फ़ेडरेटेड लर्निंग पर आधारित जेनरेटिव मॉडल Google के अनुसार एक आशाजनक भविष्य की दिशा है, जो "घातीय वृद्धि के शुरुआती चरण में है।" व्याख्याता के अनुसार, जीएएन, जीवित जीवों की आबादी और सोच एल्गोरिदम के बड़े पैमाने पर व्यवहार को पुन: पेश करना सीखने में सक्षम हैं।

दो सरल GAN आर्किटेक्चर के उदाहरण का उपयोग करते हुए, यह दिखाया गया है कि उनमें अनुकूलन पथ की खोज एक सर्कल में घूमती है, जिसका अर्थ है कि अनुकूलन नहीं होता है। साथ ही, ये मॉडल उन प्रयोगों का अनुकरण करने में बहुत सफल हैं जो जीवविज्ञानी जीवाणु आबादी पर करते हैं, जिससे उन्हें भोजन की तलाश में नई व्यवहारिक रणनीतियां सीखने के लिए मजबूर होना पड़ता है। हम यह निष्कर्ष निकाल सकते हैं कि जीवन अनुकूलन फ़ंक्शन से अलग तरीके से काम करता है।

वॉकिंग GAN अनुकूलन

मशीन लर्निंग के ढांचे में अब हम जो कुछ भी करते हैं वह संकीर्ण और बेहद औपचारिक कार्य हैं, जबकि ये औपचारिकताएं अच्छी तरह से सामान्यीकृत नहीं होती हैं और न्यूरोफिज़ियोलॉजी और जीव विज्ञान जैसे क्षेत्रों में हमारे विषय ज्ञान के अनुरूप नहीं हैं।

निकट भविष्य में न्यूरोफिज़ियोलॉजी के क्षेत्र से वास्तव में जो उधार लेने लायक है वह है नए न्यूरॉन आर्किटेक्चर और त्रुटियों के बैकप्रोपेगेशन के तंत्र का थोड़ा सा संशोधन।

मानव मस्तिष्क स्वयं तंत्रिका नेटवर्क की तरह नहीं सीखता:

• उसके पास यादृच्छिक प्राथमिक इनपुट नहीं हैं, जिनमें इंद्रियों के माध्यम से और बचपन में दिए गए इनपुट भी शामिल हैं
• उसके पास सहज विकास की अंतर्निहित दिशाएँ हैं (एक शिशु से भाषा सीखने की इच्छा, सीधा चलना)

एक व्यक्तिगत मस्तिष्क को प्रशिक्षित करना एक निम्न-स्तरीय कार्य है; शायद हमें समूह विकास के तंत्र को पुन: उत्पन्न करने के लिए तेजी से बदलते व्यक्तियों के एक-दूसरे को ज्ञान देने के "उपनिवेशों" पर विचार करना चाहिए।

अब हम एमएल एल्गोरिदम में क्या अपना सकते हैं:

• कोशिका वंश मॉडल लागू करें जो जनसंख्या की सीख सुनिश्चित करते हैं, लेकिन व्यक्ति का छोटा जीवन ("व्यक्तिगत मस्तिष्क")
• कम संख्या में उदाहरणों का उपयोग करके कुछ-शॉट में सीखना
• अधिक जटिल न्यूरॉन संरचनाएं, थोड़ा अलग सक्रियण कार्य
• "जीनोम" को अगली पीढ़ियों में स्थानांतरित करना - बैकप्रॉपैगेशन एल्गोरिदम
• एक बार जब हम न्यूरोफिज़ियोलॉजी और तंत्रिका नेटवर्क को जोड़ते हैं, तो हम कई घटकों से एक बहुक्रियाशील मस्तिष्क बनाना सीखेंगे।

इस दृष्टिकोण से, SOTA समाधानों का अभ्यास हानिकारक है और सामान्य कार्यों (बेंचमार्क) को विकसित करने के लिए इसे संशोधित किया जाना चाहिए।

"वैरिडिकल डेटा साइंस", बिन यू (बर्कले)

वीडियो और स्लाइड
रिपोर्ट मशीन लर्निंग मॉडल की व्याख्या करने की समस्या और उनके प्रत्यक्ष परीक्षण और सत्यापन की पद्धति के लिए समर्पित है। किसी भी प्रशिक्षित एमएल मॉडल को ज्ञान के एक स्रोत के रूप में माना जा सकता है जिसे इससे निकालने की आवश्यकता है।

कई क्षेत्रों में, विशेष रूप से चिकित्सा में, इस छिपे हुए ज्ञान को निकालने और मॉडल के परिणामों की व्याख्या किए बिना एक मॉडल का उपयोग असंभव है - अन्यथा हम निश्चित नहीं होंगे कि परिणाम स्थिर, गैर-यादृच्छिक, विश्वसनीय होंगे, और मार नहीं डालेंगे। मरीज़। कार्य पद्धति की एक पूरी दिशा गहन शिक्षण प्रतिमान के भीतर विकसित हो रही है और इसकी सीमाओं से परे है - सत्यापनात्मक डेटा विज्ञान। यह क्या है?

हम वैज्ञानिक प्रकाशनों की ऐसी गुणवत्ता और मॉडलों की पुनरुत्पादकता प्राप्त करना चाहते हैं कि वे हैं:

1. उम्मीद के मुताबिक
2. गणना कर सका
3. स्थिर

ये तीन सिद्धांत नई पद्धति का आधार बनते हैं। इन मानदंडों के विरुद्ध एमएल मॉडल की जांच कैसे की जा सकती है? सबसे आसान तरीका तुरंत व्याख्या करने योग्य मॉडल (प्रतिगमन, निर्णय वृक्ष) बनाना है। हालाँकि, हम गहन शिक्षा का तत्काल लाभ भी प्राप्त करना चाहते हैं।

समस्या से निपटने के कई मौजूदा तरीके:

1. मॉडल की व्याख्या करें;
2. ध्यान पर आधारित विधियों का उपयोग करें;
3. प्रशिक्षण के दौरान एल्गोरिदम के संयोजन का उपयोग करें, और सुनिश्चित करें कि रैखिक व्याख्या योग्य मॉडल तंत्रिका नेटवर्क के समान उत्तरों की भविष्यवाणी करना सीखें, रैखिक मॉडल से सुविधाओं की व्याख्या करना;
4. प्रशिक्षण डेटा को बदलें और बढ़ाएं। इसमें शोर, हस्तक्षेप और डेटा वृद्धि शामिल है;
5. कोई भी तरीका जो यह सुनिश्चित करने में मदद करता है कि मॉडल के परिणाम यादृच्छिक नहीं हैं और छोटे अवांछित हस्तक्षेप (प्रतिकूल हमलों) पर निर्भर नहीं हैं;
6. तथ्य के बाद, प्रशिक्षण के बाद मॉडल की व्याख्या करें;
7. विभिन्न तरीकों से सुविधा भार का अध्ययन करें;
8. सभी परिकल्पनाओं, वर्ग वितरण की संभावनाओं का अध्ययन करें।

प्रतिकूल आक्रमण एक सुअर के लिए

मॉडलिंग की त्रुटियां हर किसी के लिए महंगी होती हैं: इसका प्रमुख उदाहरण रेनहार्ट और रोगोव का काम है।"कर्ज के दौर में विकास"कई यूरोपीय देशों की आर्थिक नीतियों को प्रभावित किया और उन्हें मितव्ययिता नीतियों को आगे बढ़ाने के लिए मजबूर किया, लेकिन वर्षों बाद डेटा और उनके प्रसंस्करण की सावधानीपूर्वक पुनः जांच से विपरीत परिणाम सामने आए!

कार्यान्वयन से कार्यान्वयन तक किसी भी एमएल तकनीक का अपना जीवन चक्र होता है। नई पद्धति का लक्ष्य मॉडल के जीवन के प्रत्येक चरण में तीन बुनियादी सिद्धांतों की जांच करना है।

परिणाम:

• कई परियोजनाएं विकसित की जा रही हैं जो एमएल मॉडल को अधिक विश्वसनीय बनाने में मदद करेंगी। उदाहरण के लिए, यह डीपट्यून है (इससे लिंक करें: github.com/ChrisCummins/paper-end2end-dl);
• कार्यप्रणाली के आगे विकास के लिए, एमएल के क्षेत्र में प्रकाशनों की गुणवत्ता में उल्लेखनीय सुधार करना आवश्यक है;
• मशीन लर्निंग को तकनीकी और मानविकी दोनों क्षेत्रों में बहु-विषयक प्रशिक्षण और विशेषज्ञता वाले नेताओं की आवश्यकता है।

"मशीन लर्निंग के साथ मानव व्यवहार मॉडलिंग: अवसर और चुनौतियाँ" नूरिया एम ओलिवर, अल्बर्ट अली सलाह

मानव व्यवहार, इसकी तकनीकी नींव और अनुप्रयोग संभावनाओं के मॉडलिंग के लिए समर्पित व्याख्यान।

मानव व्यवहार मॉडलिंग को इसमें विभाजित किया जा सकता है:

• व्यक्तिगत व्यवहार
• लोगों के एक छोटे समूह का व्यवहार
• सामूहिक व्यवहार

इनमें से प्रत्येक प्रकार को एमएल का उपयोग करके मॉडल किया जा सकता है, लेकिन पूरी तरह से अलग इनपुट जानकारी और सुविधाओं के साथ। प्रत्येक प्रकार के अपने नैतिक मुद्दे भी होते हैं जिनसे प्रत्येक परियोजना गुजरती है:

• व्यक्तिगत व्यवहार - पहचान की चोरी, डीपफेक;
• लोगों के समूहों का व्यवहार - गुमनामीकरण, गतिविधियों, टेलीफोन कॉल आदि के बारे में जानकारी प्राप्त करना;

व्यक्तिगत व्यवहार

अधिकतर कंप्यूटर विज़न के विषय से संबंधित - मानवीय भावनाओं और प्रतिक्रियाओं की पहचान। शायद केवल संदर्भ में, समय में, या भावनाओं की अपनी परिवर्तनशीलता के सापेक्ष पैमाने के साथ। स्लाइड भूमध्यसागरीय महिलाओं के भावनात्मक स्पेक्ट्रम के संदर्भ का उपयोग करके मोना लिसा की भावनाओं की पहचान को दर्शाती है। परिणाम: खुशी की मुस्कान, लेकिन तिरस्कार और घृणा के साथ। इसका कारण संभवतः "तटस्थ" भावना को परिभाषित करने का तकनीकी तरीका है।

लोगों के एक छोटे समूह का व्यवहार

अब तक का सबसे खराब मॉडल अपर्याप्त जानकारी के कारण है। उदाहरण के तौर पर 2018 – 2019 के कार्यों को दिखाया गया। दर्जनों लोगों पर X दर्जनों वीडियो (cf. 100k++ छवि डेटासेट)। इस कार्य को सर्वोत्तम तरीके से मॉडल करने के लिए, मल्टीमॉडल जानकारी की आवश्यकता होती है, अधिमानतः बॉडी अल्टीमीटर, थर्मामीटर, माइक्रोफ़ोन रिकॉर्डिंग आदि पर सेंसर से।

सामूहिक व्यवहार

सबसे विकसित क्षेत्र, क्योंकि ग्राहक संयुक्त राष्ट्र और कई राज्य हैं। बाहरी निगरानी कैमरे, टेलीफोन टावरों से डेटा - बिलिंग, एसएमएस, कॉल, राज्य की सीमाओं के बीच आवाजाही पर डेटा - यह सब लोगों की आवाजाही और सामाजिक अस्थिरता की एक बहुत विश्वसनीय तस्वीर देता है। प्रौद्योगिकी के संभावित अनुप्रयोग: आपात स्थिति के दौरान बचाव कार्यों का अनुकूलन, सहायता और आबादी की समय पर निकासी। उपयोग किए गए मॉडलों की मुख्य रूप से अभी भी खराब व्याख्या की गई है - ये विभिन्न LSTM और कनवल्शनल नेटवर्क हैं। एक संक्षिप्त टिप्पणी थी कि संयुक्त राष्ट्र एक नए कानून की पैरवी कर रहा है जो यूरोपीय व्यवसायों को किसी भी शोध के लिए आवश्यक अज्ञात डेटा साझा करने के लिए बाध्य करेगा।

"सिस्टम 1 से सिस्टम 2 डीप लर्निंग तक", योशुआ बेंगियो

स्लाइड्स
जोशुआ बेंगियो के व्याख्यान में, गहन शिक्षा लक्ष्य निर्धारण के स्तर पर तंत्रिका विज्ञान से मिलती है।
बेंगियो नोबेल पुरस्कार विजेता डेनियल कन्नमैन की कार्यप्रणाली के अनुसार दो मुख्य प्रकार की समस्याओं की पहचान करता है (पुस्तक "धीरे सोचो, जल्दी निर्णय लो")
टाइप 1 - सिस्टम 1, अचेतन क्रियाएं जो हम "स्वचालित रूप से" करते हैं (प्राचीन मस्तिष्क): परिचित स्थानों पर कार चलाना, चलना, चेहरों को पहचानना।
टाइप 2 - सिस्टम 2, सचेतन क्रियाएं (सेरेब्रल कॉर्टेक्स), लक्ष्य निर्धारण, विश्लेषण, सोच, समग्र कार्य।

एआई अब तक केवल पहले प्रकार के कार्यों में ही पर्याप्त ऊंचाइयों तक पहुंच पाया है, जबकि हमारा काम इसे दूसरे प्रकार के कार्यों में लाना है, इसे बहु-विषयक संचालन करना और तर्क और उच्च-स्तरीय संज्ञानात्मक कौशल के साथ संचालित करना सिखाना है।

इस लक्ष्य को प्राप्त करने के लिए यह प्रस्तावित है:

1. एनएलपी कार्यों में, मॉडलिंग सोच के लिए एक प्रमुख तंत्र के रूप में ध्यान का उपयोग करें
2. बेहतर मॉडल सुविधाओं के लिए मेटा-लर्निंग और प्रतिनिधित्व सीखने का उपयोग करें जो चेतना और उनके स्थानीयकरण को प्रभावित करते हैं - और उनके आधार पर उच्च-स्तरीय अवधारणाओं के साथ काम करने के लिए आगे बढ़ते हैं।

निष्कर्ष के बजाय, यहां एक आमंत्रित वार्ता है: बेंगियो कई वैज्ञानिकों में से एक है जो अनुकूलन समस्याओं, एसओटीए और नए आर्किटेक्चर से परे एमएल के क्षेत्र का विस्तार करने की कोशिश कर रहे हैं।
यह प्रश्न खुला है कि किस हद तक चेतना की समस्याओं का संयोजन, सोच पर भाषा का प्रभाव, तंत्रिका जीव विज्ञान और एल्गोरिदम भविष्य में हमारा इंतजार कर रहे हैं और हमें उन मशीनों की ओर बढ़ने की अनुमति देंगे जो लोगों की तरह "सोचती हैं"।

शुक्रिया!

स्रोत: www.habr.com