NeurIPS 2019: ML ट्रेंड जे पुढील दशकासाठी आमच्यासोबत असतील

न्यूरोआयपीएस (तंत्रिका माहिती प्रक्रिया प्रणाली) ही मशीन लर्निंग आणि आर्टिफिशियल इंटेलिजन्सवरील जगातील सर्वात मोठी परिषद आहे आणि सखोल शिक्षणाच्या जगातील मुख्य कार्यक्रम आहे.

आम्ही, डीएस अभियंते, नवीन दशकात जीवशास्त्र, भाषाशास्त्र आणि मानसशास्त्रातही प्रभुत्व मिळवू? आम्ही तुम्हाला आमच्या पुनरावलोकनात सांगू.

या वर्षी कॉन्फरन्सने कॅनडातील व्हँकुव्हर येथे 13500 देशांतील 80 हून अधिक लोकांना एकत्र आणले. कॉन्फरन्समध्ये Sberbank ने रशियाचे प्रतिनिधित्व केलेले हे पहिले वर्ष नाही - DS टीमने बँकिंग प्रक्रियेत ML च्या अंमलबजावणीबद्दल, ML स्पर्धेबद्दल आणि Sberbank DS प्लॅटफॉर्मच्या क्षमतांबद्दल बोलले. ML समुदायामध्ये 2019 चे मुख्य ट्रेंड काय होते? कॉन्फरन्स सहभागी म्हणतात: आंद्रे चेरटोक и तात्याना शवरिना.

या वर्षी, NeurIPS ने 1400 पेक्षा जास्त पेपर्स स्वीकारले—अल्गोरिदम, नवीन मॉडेल्स आणि नवीन डेटासाठी नवीन अनुप्रयोग. सर्व साहित्य लिंक

सामग्री:

• ट्रेंड
• • मॉडेल व्याख्याक्षमता
  • बहुविद्याशाखा
  • रीझनिंग
  • RL
  • GAN
• मूलभूत निमंत्रित चर्चा
• • "सामाजिक बुद्धिमत्ता", ब्लेझ अगुएरा व आर्कास (Google)
  • "वेरिडिकल डेटा सायन्स", बिन यू (बर्कले)
  • "मशीन लर्निंगसह मानवी वर्तणूक मॉडेलिंग: संधी आणि आव्हाने", नुरिया एम ऑलिव्हर, अल्बर्ट अली सलाह
  • “सिस्टम 1 पासून सिस्टम 2 पर्यंत डीप लर्निंग”, योशुआ बेंजियो

ट्रेंड 2019

1. मॉडेलची व्याख्या आणि नवीन एमएल पद्धत

कॉन्फरन्सचा मुख्य विषय म्हणजे आम्हाला विशिष्ट परिणाम का मिळतात याचे स्पष्टीकरण आणि पुरावे. "ब्लॅक बॉक्स" व्याख्येच्या तात्विक महत्त्वाबद्दल कोणीही दीर्घकाळ बोलू शकतो, परंतु या क्षेत्रात अधिक वास्तविक पद्धती आणि तांत्रिक घडामोडी होत्या.

मॉडेल्सची प्रतिकृती बनवण्याची आणि त्यातून ज्ञान मिळवण्याची पद्धत ही विज्ञानासाठी एक नवीन टूलकिट आहे. मॉडेल नवीन ज्ञान प्राप्त करण्यासाठी आणि त्याची चाचणी घेण्यासाठी एक साधन म्हणून काम करू शकतात आणि मॉडेलच्या प्रीप्रोसेसिंग, प्रशिक्षण आणि अनुप्रयोगाचा प्रत्येक टप्पा पुनरुत्पादक असणे आवश्यक आहे.
प्रकाशनांचे महत्त्वपूर्ण प्रमाण मॉडेल्स आणि टूल्सच्या निर्मितीसाठी नाही तर सुरक्षा, पारदर्शकता आणि परिणामांची पडताळणी सुनिश्चित करण्याच्या समस्यांसाठी समर्पित आहे. विशेषतः, मॉडेलवरील हल्ल्यांबद्दल (विरोधक हल्ले) एक वेगळा प्रवाह दिसून आला आहे आणि प्रशिक्षणावरील हल्ले आणि अनुप्रयोगावरील हल्ले या दोन्ही पर्यायांचा विचार केला जातो.

लेख:

• व्हेरिडिकल डेटा सायन्स - मॉडेल पडताळणीच्या पद्धतीवर एक प्रोग्रामेटिक लेख. मॉडेल्सचा अर्थ लावण्यासाठी आधुनिक साधनांचे विहंगावलोकन समाविष्ट आहे, विशेषतः, लक्ष वापरणे आणि रेखीय मॉडेलसह न्यूरल नेटवर्क "डिस्टिलिंग" करून वैशिष्ट्याचे महत्त्व प्राप्त करणे.
• हे असे दिसते: व्याख्या करण्यायोग्य प्रतिमा ओळखण्यासाठी सखोल शिक्षण चाओफान चेन, ऑस्कर ली, डॅनियल ताओ, अलिना बार्नेट, सिंथिया रुडिन, जोनाथन के. सु.
• डीप न्यूरल नेटवर्क्समधील इंटरप्रिटेबिलिटी मेथड्ससाठी बेंचमार्क सारा हुकर, दुमित्रू एरहान, पीटर-जॅन किंडरमन्स, बीन किम
• लक्ष संवर्धित एजंट्स वापरून व्याख्या करण्यायोग्य मजबुतीकरण शिक्षणाकडे अलेक्झांडर मॉट, डॅनियल झोरान, माईक चर्झानोव्स्की, डॅन व्हिएरस्ट्रा, डॅनिलो जिमेनेझ रेझेंडे
• यादृच्छिक जंगलांसाठी एक Debiased MDI वैशिष्ट्य महत्त्व उपाय जिओ ली, यू वांग, सुमंता बसू, कार्ल कुंबियर, बिन यू
• निरीक्षण करण्यायोग्य डेटासह ज्ञान निष्कर्षण जेमिन यू, मिन्योंग चो, तैबम किम, यू कांग
• स्वतंत्रपणे पुनरुत्पादित मशीन लर्निंग संशोधन परिमाण करण्याच्या दिशेने एक पाऊल एडवर्ड रॅफ

ExBert.net मजकूर प्रक्रिया कार्यांसाठी मॉडेल व्याख्या दाखवते

2. बहुविद्याशाखीयता

विश्वासार्ह पडताळणी सुनिश्चित करण्यासाठी आणि ज्ञानाची पडताळणी आणि विस्तार करण्यासाठी यंत्रणा विकसित करण्यासाठी, आम्हाला संबंधित क्षेत्रातील तज्ञांची आवश्यकता आहे ज्यांच्याकडे एकाच वेळी ML आणि विषय क्षेत्रात (औषध, भाषाशास्त्र, न्यूरोबायोलॉजी, शिक्षण इ.) कौशल्ये आहेत. विशेषत: न्यूरोसायन्स आणि संज्ञानात्मक विज्ञानातील कार्ये आणि भाषणांची अधिक लक्षणीय उपस्थिती लक्षात घेण्यासारखे आहे - तेथे तज्ञांचा एक संबंध आहे आणि कल्पनांचे कर्ज घेणे आहे.

या रॅप्रोचेमेंट व्यतिरिक्त, विविध स्त्रोतांकडून माहितीच्या संयुक्त प्रक्रियेमध्ये बहु-अनुशासनात्मकता उदयास येत आहे: मजकूर आणि फोटो, मजकूर आणि खेळ, आलेख डेटाबेस + मजकूर आणि फोटो.

लेख:

• न्यूरोसायन्स + एमएल - नैसर्गिक भाषा-प्रक्रियेसह (मशीनमध्ये) नैसर्गिक भाषेच्या प्रक्रियेचा अर्थ लावणे आणि सुधारणे (मेंदूमध्ये)
• व्हिज्युअलक्यूए - अॅब्स्ट्रॅक्शनद्वारे शिकणे: न्यूरल स्टेट मशीन
• RL + NLP - नैसर्गिक भाषा निर्देश तयार करून आणि त्यांचे पालन करून श्रेणीबद्ध निर्णय घेणे

दोन मॉडेल्स - स्ट्रॅटेजिस्ट आणि एक्झिक्युटिव्ह - RL आणि NLP प्ले ऑनलाइन स्ट्रॅटेजीवर आधारित आहेत

3. तर्क करणे

कृत्रिम बुद्धिमत्ता बळकट करणे ही स्वयं-शिक्षण प्रणाली, "जाणीव", तर्क आणि तर्क यांच्या दिशेने एक चळवळ आहे. विशेषत: कार्यकारण भाव आणि कॉमनसेन्स तर्क विकसित होत आहेत. काही अहवाल मेटा-लर्निंग (शिकायला कसे शिकायचे याबद्दल) आणि 1ल्या आणि 2र्‍या ऑर्डर लॉजिकसह DL तंत्रज्ञानाच्या संयोजनासाठी समर्पित आहेत - आर्टिफिशियल जनरल इंटेलिजेंस (AGI) हा शब्द स्पीकर्सच्या भाषणांमध्ये एक सामान्य शब्द बनत आहे.

लेख:

• व्हिज्युअल कॉमनसेन्स रिझनिंगसाठी विषम आलेख शिकणे Weijiang Yu, Jingwen Zhou, Weihao Yu, Xiaodan Liang, Nong Xiao
• ब्रिजिंग मशीन लर्निंग आणि लॉजिकल रिझनिंग द्वारे अपहरणात्मक शिक्षण वांग-झोउ दाई, किउलिंग झू, यांग यू, झी-हुआ झोउ
• प्रथम क्रमाच्या तर्कशास्त्रात स्पष्टपणे तर्क करणे शिकणे वैशाक बेले, ब्रेंडन जुबा
• PHYRE: शारीरिक तर्कासाठी एक नवीन बेंचमार्क अँटोन बाख्तिन, लॉरेन्स व्हॅन डर मातेन, जस्टिन जॉन्सन, लॉरा गुस्टाफसन, रॉस गिरशिक
• तर्कासाठी ज्ञानाचे क्वांटम एम्बेडिंग दिनेश गर्ग, शाजिथ इकबाल, संतोष के. श्रीवास्तव, हरित विश्वकर्मा, हिमा करनम, एल वेंकट सुब्रमण्यम

4. मजबुतीकरण शिक्षण

बहुतेक काम RL - DOTA2, Starcraft चे पारंपारिक क्षेत्र विकसित करणे, संगणक दृष्टी, NLP, आलेख डेटाबेससह आर्किटेक्चर एकत्र करणे चालू आहे.

कॉन्फरन्सचा एक वेगळा दिवस आरएल कार्यशाळेसाठी समर्पित करण्यात आला होता, ज्यामध्ये आशावादी अभिनेता समीक्षक मॉडेल आर्किटेक्चर सादर केले गेले होते, जे मागील सर्वांपेक्षा श्रेष्ठ होते, विशेषतः सॉफ्ट अॅक्टर क्रिटिक.

लेख:

• आशावादी अभिनेता समीक्षकासह उत्तम शोध; कामिल सिओसेक, क्वान वुओंग, रॉबर्ट लोफ्टिन, काटजा हॉफमन
• ChainerRL: एक खोल मजबुतीकरण लर्निंग लायब्ररी; यासुहिरो फुजिता (प्राधान्य नेटवर्क्स, Inc.)*; तोशिकी काटाओका (प्राधान्य नेटवर्क्स, इंक.); प्रभात नागराजन (प्राधान्य नेटवर्क); ताकाहिरो इशिकावा (टोकियो विद्यापीठ) [बाह्य पीडीएफ लिंक].
• नियंत्रण करण्याचे स्वप्न: सुप्त कल्पनेद्वारे वर्तन शिकणे; दानिजर हाफनर (Google)*; टिमोथी लिलिकरॅप (डीपमाइंड); जिमी बा (टोरंटो विद्यापीठ); मोहम्मद नोरोजी (गुगल ब्रेन)
• कार्यशाळेचे साहित्य

स्टारक्राफ्ट खेळाडू अल्फास्टार मॉडेलशी लढतात (डीपमाइंड)

5.GAN

जनरेटिव्ह नेटवर्क अजूनही चर्चेत आहेत: अनेक कामे गणितीय पुराव्यांसाठी व्हॅनिला GAN वापरतात आणि नवीन, असामान्य मार्गांनी देखील लागू करतात (ग्राफ जनरेटिव्ह मॉडेल्स, मालिकेसह कार्य करणे, डेटामधील कारण-आणि-प्रभाव संबंधांसाठी अनुप्रयोग इ.).

लेख:

• सशर्त GAN साठी खाण सोन्याचे नमुने सांगवू मो, चिहेऑन किम, सुंगवूंग किम, मिन्सू चो, जिनवू शिन
• GAN चे प्रगतीशील वाढ डॅन झांग, अण्णा खोरेवा
• सशर्त GAN वापरून टॅब्युलर डेटा मॉडेलिंग लेई जू, मारिया स्कॉलरीडो, अल्फ्रेडो कुएस्टा-इन्फंटे, कल्याण वीरमचानेनी
• papers.nips.cc/paper/9377-a-domain-agnostic-measure-for-monitoring-and-evaluating-gans

अधिक काम स्वीकारले असल्याने 1400 खाली आपण सर्वात महत्वाच्या भाषणांबद्दल बोलू.

निमंत्रित चर्चा

"सामाजिक बुद्धिमत्ता", ब्लेझ अगुएरा व आर्कास (Google)

दुवा
स्लाइड आणि व्हिडिओ
मशिन लर्निंगच्या सामान्य पद्धती आणि आत्ता उद्योग बदलण्याच्या शक्यतांवर चर्चा केंद्रित आहे - आपण कोणत्या क्रॉसरोडला तोंड देत आहोत? मेंदू आणि उत्क्रांती कशी कार्य करतात आणि नैसर्गिक प्रणालींच्या विकासाबद्दल आपल्याला आधीच माहित असलेल्या गोष्टींचा आपण इतका कमी उपयोग का करतो?

ML चा औद्योगिक विकास मुख्यत्वे Google च्या विकासाच्या टप्पे जुळतो, जो NeurIPS वर त्यांचे संशोधन वर्षानुवर्षे प्रकाशित करतो:

• 1997 - शोध सुविधा, प्रथम सर्व्हर, लहान संगणकीय शक्ती लाँच
• 2010 - जेफ डीनने Google ब्रेन प्रोजेक्ट लाँच केला, अगदी सुरुवातीला न्यूरल नेटवर्कची भरभराट
• 2015 - न्यूरल नेटवर्कची औद्योगिक अंमलबजावणी, थेट स्थानिक उपकरणावर जलद चेहरा ओळख, टेन्सर संगणनासाठी तयार केलेले निम्न-स्तरीय प्रोसेसर - TPU. गुगलने कोरल एआय लाँच केले - रास्पबेरी पाईचे एक अॅनालॉग, प्रायोगिक इंस्टॉलेशन्समध्ये न्यूरल नेटवर्क्सची ओळख करून देण्यासाठी एक मिनी-संगणक
• 2017 – Google ने विकेंद्रित प्रशिक्षण विकसित करण्यास सुरुवात केली आणि विविध उपकरणांमधून न्यूरल नेटवर्क प्रशिक्षणाचे परिणाम एका मॉडेलमध्ये एकत्रित केले – Android वर

आज, संपूर्ण उद्योग डेटा सुरक्षा, एकत्रीकरण आणि स्थानिक उपकरणांवर शिकण्याच्या परिणामांची प्रतिकृती यासाठी समर्पित आहे.

संघटित शिक्षण - ML ची एक दिशा ज्यामध्ये वैयक्तिक मॉडेल एकमेकांपासून स्वतंत्रपणे शिकतात आणि नंतर एका मॉडेलमध्ये एकत्र केले जातात (स्रोत डेटा केंद्रीकृत न करता), दुर्मिळ घटना, विसंगती, वैयक्तिकरण इत्यादींसाठी समायोजित केले जातात. सर्व अँड्रॉइड उपकरणे मूलत: Google साठी एकच संगणकीय सुपरकॉम्प्युटर आहेत.

Google च्या मते संघराज्य शिक्षणावर आधारित जनरेटिव्ह मॉडेल्स ही भविष्यातील आशादायक दिशा आहेत, जी "घातांक वाढीच्या सुरुवातीच्या टप्प्यात आहे." GAN, व्याख्यात्याच्या मते, सजीवांच्या लोकसंख्येच्या वस्तुमान वर्तन आणि विचार अल्गोरिदमचे पुनरुत्पादन करण्यास शिकण्यास सक्षम आहेत.

दोन साध्या GAN आर्किटेक्चर्सचे उदाहरण वापरून, असे दर्शविले आहे की त्यांच्यामध्ये ऑप्टिमायझेशन मार्गाचा शोध वर्तुळात फिरतो, याचा अर्थ असा की ऑप्टिमायझेशन असे होत नाही. त्याच वेळी, हे मॉडेल जीवाणूंच्या लोकसंख्येवर जीवशास्त्रज्ञांनी केलेल्या प्रयोगांचे अनुकरण करण्यात खूप यशस्वी आहेत, ज्यामुळे त्यांना अन्नाच्या शोधात नवीन वर्तणूक धोरण शिकण्यास भाग पाडले जाते. आपण असा निष्कर्ष काढू शकतो की जीवन ऑप्टिमायझेशन कार्यापेक्षा वेगळ्या पद्धतीने कार्य करते.

GAN ऑप्टिमायझेशन चालणे

आम्ही आता मशीन लर्निंगच्या चौकटीत जे काही करतो ते अरुंद आणि अत्यंत औपचारिक कार्ये आहेत, तर या औपचारिकता चांगल्या प्रकारे सामान्यीकृत होत नाहीत आणि न्यूरोफिजियोलॉजी आणि जीवशास्त्र यांसारख्या क्षेत्रांमध्ये आमच्या विषयाच्या ज्ञानाशी सुसंगत नाहीत.

नजीकच्या भविष्यात न्यूरोफिजियोलॉजीच्या क्षेत्रातून कर्ज घेण्यासारखे काय आहे ते म्हणजे नवीन न्यूरॉन आर्किटेक्चर आणि त्रुटींच्या बॅकप्रोपॅगेशनच्या यंत्रणेची थोडीशी उजळणी.

मानवी मेंदू स्वतःच न्यूरल नेटवर्कप्रमाणे शिकत नाही:

• त्याच्याकडे यादृच्छिक प्राथमिक इनपुट नाहीत, ज्यात इंद्रियांद्वारे आणि बालपणात दिलेले समाविष्ट आहेत
• त्याच्याकडे उपजत विकासाचे मूळ दिशानिर्देश आहेत (लहान मुलाकडून भाषा शिकण्याची इच्छा, सरळ चालणे)

वैयक्तिक मेंदूला प्रशिक्षण देणे हे एक निम्न-स्तरीय कार्य आहे; कदाचित आपण समूह उत्क्रांतीच्या यंत्रणेचे पुनरुत्पादन करण्यासाठी वेगाने बदलणाऱ्या व्यक्तींच्या "वसाहतींचा" विचार केला पाहिजे.

आम्ही आता एमएल अल्गोरिदममध्ये काय स्वीकारू शकतो:

• सेल वंशाचे मॉडेल लागू करा जे लोकसंख्येचे शिक्षण सुनिश्चित करतात, परंतु व्यक्तीचे लहान आयुष्य ("वैयक्तिक मेंदू")
• काही उदाहरणे वापरून काही-शॉट लर्निंग
• अधिक जटिल न्यूरॉन संरचना, किंचित भिन्न सक्रियकरण कार्ये
• "जीनोम" पुढील पिढ्यांमध्ये हस्तांतरित करणे - बॅकप्रॉपगेशन अल्गोरिदम
• एकदा आपण न्यूरोफिजियोलॉजी आणि न्यूरल नेटवर्क्स कनेक्ट केले की, आपण अनेक घटकांपासून बहु-कार्यक्षम मेंदू तयार करण्यास शिकू.

या दृष्टिकोनातून, SOTA उपायांचा सराव हानिकारक आहे आणि सामान्य कार्ये (बेंचमार्क) विकसित करण्याच्या फायद्यासाठी सुधारित केले पाहिजे.

"वेरिडिकल डेटा सायन्स", बिन यू (बर्कले)

व्हिडिओ आणि स्लाइड्स
हा अहवाल मशीन लर्निंग मॉडेल्सची व्याख्या करण्याच्या समस्या आणि त्यांच्या थेट चाचणी आणि पडताळणीच्या पद्धतीसाठी समर्पित आहे. कोणतेही प्रशिक्षित एमएल मॉडेल हे ज्ञानाचा स्त्रोत म्हणून समजले जाऊ शकते जे त्यातून काढले जाणे आवश्यक आहे.

बर्‍याच क्षेत्रांमध्ये, विशेषत: औषधामध्ये, हे छुपे ज्ञान काढल्याशिवाय आणि मॉडेलच्या परिणामांचा अर्थ लावल्याशिवाय मॉडेलचा वापर करणे अशक्य आहे - अन्यथा परिणाम स्थिर, यादृच्छिक, विश्वासार्ह असतील याची आम्हाला खात्री नसते आणि ते नष्ट होणार नाही. रुग्ण कार्यपद्धतीची संपूर्ण दिशा सखोल शिक्षण पॅराडाइममध्ये विकसित होत आहे आणि ती त्याच्या सीमांच्या पलीकडे जाते - सत्यापित डेटा विज्ञान. हे काय आहे?

आम्हाला वैज्ञानिक प्रकाशनांची गुणवत्ता आणि मॉडेल्सची पुनरुत्पादन क्षमता प्राप्त करायची आहे की ते आहेत:

1. अंदाज करण्यायोग्य
2. गणना करण्यायोग्य
3. स्थिर

ही तीन तत्त्वे नवीन पद्धतीचा आधार बनतात. या निकषांविरुद्ध एमएल मॉडेल कसे तपासले जाऊ शकतात? सर्वात सोपा मार्ग म्हणजे ताबडतोब अर्थ लावता येण्याजोगे मॉडेल्स (रिग्रेशन्स, डिसीजन ट्री) तयार करणे. तथापि, आम्हाला सखोल शिक्षणाचे तात्काळ लाभ देखील मिळवायचे आहेत.

समस्येसह कार्य करण्याचे अनेक विद्यमान मार्ग:

1. मॉडेलचा अर्थ लावणे;
2. लक्ष आधारित पद्धती वापरा;
3. प्रशिक्षण देताना अल्गोरिदमचे एकत्रिकरण वापरा आणि रेखीय व्याख्या करण्यायोग्य मॉडेल्स न्यूरल नेटवर्क सारख्याच उत्तरांचा अंदाज घेण्यास शिकतील याची खात्री करा, रेखीय मॉडेलमधील वैशिष्ट्यांचा अर्थ लावा;
4. प्रशिक्षण डेटा बदला आणि वाढवा. यात आवाज, हस्तक्षेप आणि डेटा वाढवणे समाविष्ट आहे;
5. मॉडेलचे परिणाम यादृच्छिक नाहीत आणि किरकोळ अवांछित हस्तक्षेपावर (विरोधक हल्ले) अवलंबून नाहीत याची खात्री करण्यात मदत करणाऱ्या कोणत्याही पद्धती;
6. प्रशिक्षणानंतर वस्तुस्थितीनंतर मॉडेलचा अर्थ लावा;
7. विविध प्रकारे वजनाचा अभ्यास करा;
8. सर्व गृहीतके, वर्ग वितरणाच्या संभाव्यतेचा अभ्यास करा.

विरोधी हल्ला डुक्कर साठी

मॉडेलिंग त्रुटी प्रत्येकासाठी महाग आहेत: एक प्रमुख उदाहरण म्हणजे रेनहार्ट आणि रोगोव्ह यांचे कार्य."कर्जाच्या काळात वाढ" अनेक युरोपीय देशांच्या आर्थिक धोरणांवर प्रभाव टाकला आणि त्यांना काटेकोर धोरणांचा पाठपुरावा करण्यास भाग पाडले, परंतु डेटाची काळजीपूर्वक पुनर्तपासणी आणि त्यांच्या प्रक्रियेच्या वर्षांनंतर उलट परिणाम दिसून आला!

कोणत्याही एमएल तंत्रज्ञानाची अंमलबजावणीपासून अंमलबजावणीपर्यंत स्वतःचे जीवन चक्र असते. मॉडेलच्या जीवनाच्या प्रत्येक टप्प्यावर तीन मूलभूत तत्त्वे तपासणे हे नवीन पद्धतीचे ध्येय आहे.

सारांश:

• अनेक प्रकल्प विकसित केले जात आहेत जे एमएल मॉडेलला अधिक विश्वासार्ह होण्यास मदत करतील. हे, उदाहरणार्थ, डीपट्यून आहे (याचा दुवा: github.com/ChrisCummins/paper-end2end-dl);
• कार्यपद्धतीच्या पुढील विकासासाठी, एमएलच्या क्षेत्रातील प्रकाशनांची गुणवत्ता लक्षणीयरीत्या सुधारणे आवश्यक आहे;
• मशीन लर्निंगला तांत्रिक आणि मानविकी या दोन्ही क्षेत्रात बहुविद्याशाखीय प्रशिक्षण आणि कौशल्य असलेले नेते हवे आहेत.

"मशीन लर्निंगसह मानवी वर्तणूक मॉडेलिंग: संधी आणि आव्हाने" नुरिया एम ऑलिव्हर, अल्बर्ट अली सलाह

मानवी वर्तन, त्याचे तांत्रिक पाया आणि अनुप्रयोग संभावना मॉडेलिंगसाठी समर्पित व्याख्यान.

मानवी वर्तन मॉडेलिंगमध्ये विभागले जाऊ शकते:

• वैयक्तिक वर्तन
• लोकांच्या लहान गटाचे वर्तन
• वस्तुमान वर्तन

यापैकी प्रत्येक प्रकार ML वापरून मॉडेल केला जाऊ शकतो, परंतु पूर्णपणे भिन्न इनपुट माहिती आणि वैशिष्ट्यांसह. प्रत्येक प्रकाराचे स्वतःचे नैतिक मुद्दे देखील असतात ज्यातून प्रत्येक प्रकल्प जातो:

• वैयक्तिक वर्तन - ओळख चोरी, डीपफेक;
• लोकांच्या गटांचे वर्तन - निनावीकरण, हालचालींबद्दल माहिती मिळवणे, टेलिफोन कॉल इ.;

वैयक्तिक वर्तन

मुख्यतः कॉम्प्युटर व्हिजन विषयाशी संबंधित - मानवी भावना आणि प्रतिक्रियांची ओळख. कदाचित केवळ संदर्भात, वेळेनुसार किंवा त्याच्या स्वतःच्या भावनांच्या परिवर्तनशीलतेच्या सापेक्ष प्रमाणात. स्लाईड भूमध्यसागरीय महिलांच्या भावनिक स्पेक्ट्रममधील संदर्भ वापरून मोनालिसाच्या भावनांची ओळख दर्शवते. परिणाम: आनंदाचे स्मित, परंतु तिरस्कार आणि तिरस्काराने. कारण बहुधा "तटस्थ" भावना परिभाषित करण्याच्या तांत्रिक मार्गाने आहे.

लोकांच्या लहान गटाचे वर्तन

आतापर्यंतचे सर्वात वाईट मॉडेल अपुऱ्या माहितीमुळे आहे. उदाहरण म्हणून, 2018 - 2019 मधील कामे दर्शविली गेली. डझनभर लोकांवर X डझनभर व्हिडिओ (cf. 100k++ प्रतिमा डेटासेट). हे कार्य उत्तम प्रकारे करण्यासाठी, बहुमोडल माहिती आवश्यक आहे, शक्यतो बॉडी अल्टिमीटर, थर्मामीटर, मायक्रोफोन रेकॉर्डिंग इ.

मास वर्तन

सर्वात विकसित क्षेत्र, कारण ग्राहक यूएन आणि अनेक राज्ये आहेत. आउटडोअर पाळत ठेवणारे कॅमेरे, टेलिफोन टॉवर्सचा डेटा - बिलिंग, एसएमएस, कॉल, राज्य सीमांमधील हालचालींवरील डेटा - हे सर्व लोकांच्या हालचाली आणि सामाजिक अस्थिरतेचे एक अतिशय विश्वासार्ह चित्र देते. तंत्रज्ञानाचे संभाव्य अनुप्रयोग: बचाव कार्यांचे ऑप्टिमायझेशन, सहाय्य आणि आपत्कालीन परिस्थितीत लोकसंख्येचे वेळेवर स्थलांतर. वापरलेले मॉडेल मुख्यतः अजूनही खराब अर्थ लावले जातात - हे विविध LSTM आणि convolutional नेटवर्क आहेत. यूएन नवीन कायद्यासाठी लॉबिंग करत आहे जे युरोपियन व्यवसायांना कोणत्याही संशोधनासाठी आवश्यक निनावी डेटा सामायिक करण्यास बाध्य करेल अशी एक संक्षिप्त टिप्पणी होती.

“सिस्टम 1 पासून सिस्टम 2 पर्यंत डीप लर्निंग”, योशुआ बेंजियो

स्लाइड
जोशुआ बेन्गिओच्या व्याख्यानात, सखोल शिक्षण हे ध्येय सेटिंगच्या पातळीवर न्यूरोसायन्सला भेटते.
नोबेल पारितोषिक विजेते डॅनियल काहनेमन (पुस्तक “सावकाश विचार करा, लवकर निर्णय घ्या")
प्रकार 1 - सिस्टम 1, बेशुद्ध क्रिया ज्या आपण "स्वयंचलितपणे" करतो (प्राचीन मेंदू): परिचित ठिकाणी कार चालवणे, चालणे, चेहरे ओळखणे.
प्रकार 2 - प्रणाली 2, जागरूक क्रिया (सेरेब्रल कॉर्टेक्स), ध्येय सेटिंग, विश्लेषण, विचार, संयुक्त कार्ये.

एआयने आतापर्यंत केवळ पहिल्या प्रकारातील कार्यांमध्ये पुरेशी उंची गाठली आहे, तर आमचे कार्य ते दुसऱ्या प्रकारात आणणे, त्याला बहुविद्याशाखीय कार्ये करण्यास आणि तर्कशास्त्र आणि उच्च-स्तरीय संज्ञानात्मक कौशल्यांसह कार्य करण्यास शिकवणे हे आहे.

हे लक्ष्य साध्य करण्यासाठी हे प्रस्तावित आहे:

1. NLP कार्यांमध्ये, मॉडेलिंग विचारांसाठी एक प्रमुख यंत्रणा म्हणून लक्ष वापरा
2. चेतना आणि त्यांच्या स्थानिकीकरणावर प्रभाव टाकणाऱ्या चांगल्या मॉडेल वैशिष्ट्यांसाठी मेटा-लर्निंग आणि प्रतिनिधित्व शिक्षण वापरा - आणि त्यांच्या आधारावर उच्च-स्तरीय संकल्पनांसह कार्य करण्यासाठी पुढे जा.

निष्कर्षाऐवजी, येथे निमंत्रित चर्चा आहे: बेंजिओ अनेक शास्त्रज्ञांपैकी एक आहे जे ऑप्टिमायझेशन समस्या, SOTA आणि नवीन आर्किटेक्चरच्या पलीकडे एमएलचे क्षेत्र विस्तृत करण्याचा प्रयत्न करीत आहेत.
चेतनेच्या समस्या, विचारांवर भाषेचा प्रभाव, न्यूरोबायोलॉजी आणि अल्गोरिदम यांचे संयोजन किती प्रमाणात आपल्याला भविष्यात वाट पाहत आहे आणि आपल्याला लोकांसारखे “विचार” करणार्‍या मशीन्सकडे जाण्याची परवानगी देईल हा प्रश्न खुला आहे.

धन्यवाद!

स्त्रोत: www.habr.com