क्या मशीन लर्निंग का बुलबुला फूट गया है, या यह एक नई सुबह की शुरुआत है?

हाल ही में जारी किया गया लेख, जो हाल के वर्षों में मशीन लर्निंग में एक अच्छा रुझान दर्शाता है। संक्षेप में: पिछले दो वर्षों में मशीन लर्निंग स्टार्टअप की संख्या में गिरावट आई है।

कुंआ। आइए देखें कि "बुलबुला फूट गया है या नहीं", "कैसे जीना जारी रखें" और इस बारे में बात करें कि यह झुकाव कहां से आता है।

सबसे पहले बात करते हैं कि इस कर्व का बूस्टर क्या था। वह कहां से आई थी? उन्हें शायद सब कुछ याद होगा जीत 2012 में इमेजनेट प्रतियोगिता में मशीन लर्निंग। आख़िरकार, यह पहला वैश्विक आयोजन है! लेकिन हकीकत में ऐसा नहीं है. और वक्र का विकास थोड़ा पहले शुरू होता है। मैं इसे कई बिंदुओं में तोड़ूंगा।

1. 2008 में "बड़ा डेटा" शब्द का उदय हुआ। असली उत्पाद शुरू हुए दिखाई 2010 से। बिग डेटा का सीधा संबंध मशीन लर्निंग से है। बड़े डेटा के बिना, उस समय मौजूद एल्गोरिदम का स्थिर संचालन असंभव है। और ये तंत्रिका नेटवर्क नहीं हैं. 2012 तक, तंत्रिका नेटवर्क सीमांत अल्पसंख्यक का संरक्षण था। लेकिन फिर पूरी तरह से अलग एल्गोरिदम काम करने लगे, जो वर्षों या दशकों से अस्तित्व में थे: SVM(1963,1993), बेतरतीब जंगल (1995) एडा बूस्ट (2003),... उन वर्षों के स्टार्टअप मुख्य रूप से संरचित डेटा के स्वचालित प्रसंस्करण से जुड़े हैं: नकदी रजिस्टर, उपयोगकर्ता, विज्ञापन, और भी बहुत कुछ।

   इस पहली लहर का व्युत्पन्न XGBoost, CatBoost, LightGBM इत्यादि जैसे फ्रेमवर्क का एक सेट है।

2. 2011-2012 में दृढ़ तंत्रिका नेटवर्क कई छवि पहचान प्रतियोगिताएं जीतीं। उनके वास्तविक उपयोग में कुछ देरी हुई। मैं कहूंगा कि बड़े पैमाने पर सार्थक स्टार्टअप और समाधान 2014 में सामने आने लगे। यह समझने में कि न्यूरॉन्स अभी भी काम करते हैं, सुविधाजनक ढाँचे बनाने में जिन्हें उचित समय में स्थापित और लॉन्च किया जा सकता है, ऐसे तरीकों को विकसित करने में दो साल लग गए जो अभिसरण समय को स्थिर और तेज़ कर देंगे।

   संवादात्मक नेटवर्क ने कंप्यूटर दृष्टि समस्याओं को हल करना संभव बना दिया: छवि में छवियों और वस्तुओं का वर्गीकरण, वस्तु का पता लगाना, वस्तुओं और लोगों की पहचान, छवि में सुधार, आदि।

3. 2015-2017. आवर्ती नेटवर्क या उनके एनालॉग्स (LSTM, GRU, ट्रांसफार्मरनेट, आदि) पर आधारित एल्गोरिदम और परियोजनाओं का उछाल। अच्छी तरह से काम करने वाले वाक्-से-पाठ एल्गोरिदम और मशीनी अनुवाद प्रणालियाँ सामने आई हैं। वे बुनियादी सुविधाओं को निकालने के लिए आंशिक रूप से कन्वेन्शनल नेटवर्क पर आधारित हैं। आंशिक रूप से इस तथ्य के कारण कि हमने वास्तव में बड़े और अच्छे डेटासेट एकत्र करना सीख लिया।

“क्या बुलबुला फूट गया है? क्या प्रचार ज़्यादा गरम हो गया है? क्या वे ब्लॉकचेन के रूप में मर गए?"
अन्यथा! कल सिरी आपके फ़ोन पर काम करना बंद कर देगी, और परसों टेस्ला को टर्न और कंगारू के बीच अंतर नहीं पता चलेगा।

तंत्रिका नेटवर्क पहले से ही काम कर रहे हैं। वे दर्जनों उपकरणों में हैं. वे वास्तव में आपको पैसा कमाने, बाज़ार और अपने आस-पास की दुनिया को बदलने की अनुमति देते हैं। प्रचार थोड़ा अलग दिखता है:

यह सिर्फ इतना है कि तंत्रिका नेटवर्क अब कोई नई चीज़ नहीं है। हाँ, बहुत से लोगों की उम्मीदें बहुत अधिक होती हैं। लेकिन बड़ी संख्या में कंपनियों ने न्यूरॉन्स का उपयोग करना और उनके आधार पर उत्पाद बनाना सीख लिया है। न्यूरॉन्स नई कार्यक्षमता प्रदान करते हैं, आपको नौकरियों में कटौती करने और सेवाओं की कीमत कम करने की अनुमति देते हैं:

• विनिर्माण कंपनियां उत्पादन लाइन पर दोषों का विश्लेषण करने के लिए एल्गोरिदम को एकीकृत कर रही हैं।
• पशुधन फार्म गायों को नियंत्रित करने के लिए सिस्टम खरीदते हैं।
• स्वचालित संयोजन.
• स्वचालित कॉल सेंटर.
• स्नैपचैट में फ़िल्टर। (ठीक है, कम से कम कुछ उपयोगी!)

लेकिन मुख्य बात, और सबसे स्पष्ट नहीं: "अब कोई नए विचार नहीं हैं, या वे तत्काल पूंजी नहीं लाएंगे।" तंत्रिका नेटवर्क ने दर्जनों समस्याओं का समाधान किया है। और वे और भी अधिक निर्णय लेंगे. मौजूद सभी स्पष्ट विचारों ने कई स्टार्टअप को जन्म दिया। लेकिन सतह पर जो कुछ भी था वह पहले ही एकत्र किया जा चुका था। पिछले दो वर्षों में, मुझे तंत्रिका नेटवर्क के उपयोग के लिए एक भी नया विचार नहीं आया है। एक भी नया दृष्टिकोण नहीं (खैर, ठीक है, GAN के साथ कुछ समस्याएं हैं)।

और प्रत्येक आगामी स्टार्टअप अधिकाधिक जटिल होता जाता है। अब इसके लिए दो लोगों की आवश्यकता नहीं है जो खुले डेटा का उपयोग करके न्यूरॉन को प्रशिक्षित करते हैं। इसके लिए प्रोग्रामर, एक सर्वर, मार्करों की एक टीम, जटिल समर्थन आदि की आवश्यकता होती है।

परिणामस्वरूप, कम स्टार्टअप हैं। लेकिन उत्पादन अधिक होता है. लाइसेंस प्लेट पहचान जोड़ने की आवश्यकता है? बाज़ार में प्रासंगिक अनुभव वाले सैकड़ों विशेषज्ञ मौजूद हैं। आप किसी को काम पर रख सकते हैं और कुछ महीनों में आपका कर्मचारी सिस्टम बना देगा। या रेडीमेड खरीदें। लेकिन एक नया स्टार्टअप कर रहे हैं?.. पागल!

आपको एक विज़िटर ट्रैकिंग सिस्टम बनाने की आवश्यकता है - ढेर सारे लाइसेंस के लिए भुगतान क्यों करें जब आप 3-4 महीनों में अपना खुद का बना सकते हैं, इसे अपने व्यवसाय के लिए तेज कर सकते हैं।

अब तंत्रिका नेटवर्क उसी रास्ते से गुजर रहे हैं जिससे दर्जनों अन्य प्रौद्योगिकियां गुजर चुकी हैं।

क्या आपको याद है कि 1995 के बाद से "वेबसाइट डेवलपर" की अवधारणा कैसे बदल गई है? बाजार अभी तक विशेषज्ञों से संतृप्त नहीं है। बहुत कम पेशेवर हैं. लेकिन मैं शर्त लगा सकता हूं कि 5-10 वर्षों में जावा प्रोग्रामर और न्यूरल नेटवर्क डेवलपर के बीच ज्यादा अंतर नहीं रहेगा। बाज़ार में दोनों विशेषज्ञ पर्याप्त होंगे।

बस समस्याओं का एक वर्ग होगा जिसे न्यूरॉन्स द्वारा हल किया जा सकता है। एक कार्य उत्पन्न हो गया है - एक विशेषज्ञ को नियुक्त करें।

"आगे क्या होगा? वादा किया गया कृत्रिम बुद्धिमत्ता कहाँ है?”

लेकिन यहाँ एक छोटी लेकिन दिलचस्प ग़लतफ़हमी है :)

जाहिर तौर पर आज मौजूद प्रौद्योगिकी का भंडार हमें कृत्रिम बुद्धिमत्ता की ओर नहीं ले जाएगा। विचार और उनकी नवीनता ने काफी हद तक खुद को ख़त्म कर लिया है। आइए इस बारे में बात करें कि विकास का वर्तमान स्तर क्या है।

सीमाएं

आइए सेल्फ-ड्राइविंग कारों से शुरुआत करें। यह स्पष्ट प्रतीत होता है कि आज की तकनीक से पूरी तरह से स्वायत्त कारें बनाना संभव है। लेकिन यह कितने वर्षों में होगा यह स्पष्ट नहीं है. टेस्ला का मानना ​​है कि यह कुछ वर्षों में होगा -

और भी बहुत सारे हैं विशेषज्ञों, जो अनुमान लगाते हैं कि यह 5-10 वर्ष है।

सबसे अधिक संभावना है, मेरी राय में, 15 वर्षों में शहरों का बुनियादी ढांचा अपने आप इस तरह बदल जाएगा कि स्वायत्त कारों का उद्भव अपरिहार्य हो जाएगा और इसकी निरंतरता बन जाएगी। लेकिन इसे बुद्धिमत्ता नहीं माना जा सकता. आधुनिक टेस्ला डेटा फ़िल्टरिंग, खोज और पुनः प्रशिक्षण के लिए एक बहुत ही जटिल पाइपलाइन है। ये नियम-नियम-नियम, डेटा संग्रह और उन पर फ़िल्टर हैं (यहां)। यहां मैंने इसके बारे में थोड़ा और लिखा है, या आगे देखें यह निशान)।

पहली समस्या

और यहीं हम देखते हैं पहली मूलभूत समस्या. बड़ा डेटा। यह वही है जिसने तंत्रिका नेटवर्क और मशीन लर्निंग की वर्तमान लहर को जन्म दिया है। आजकल, कुछ जटिल और स्वचालित करने के लिए, आपको बहुत सारे डेटा की आवश्यकता होती है। न सिर्फ बहुत, बल्कि बहुत-बहुत। हमें उनके संग्रह, अंकन और उपयोग के लिए स्वचालित एल्गोरिदम की आवश्यकता है। हम चाहते हैं कि कार सूरज की ओर मुख किए हुए ट्रकों को देखे - हमें पहले उनकी पर्याप्त संख्या एकत्र करनी होगी। हम चाहते हैं कि कार ट्रंक से जुड़ी साइकिल के साथ पागल न हो जाए - अधिक नमूने।

इसके अलावा, एक उदाहरण पर्याप्त नहीं है. सैकड़ों? हजारों?

दूसरी समस्या

दूसरी समस्या - हमारे तंत्रिका नेटवर्क ने जो समझा है उसका विज़ुअलाइज़ेशन। यह एक बहुत ही गैर-मामूली कार्य है. अब तक, कम ही लोग समझते हैं कि इसकी कल्पना कैसे की जाए। ये लेख बहुत ताज़ा हैं, ये केवल कुछ उदाहरण हैं, भले ही दूर के हों:
विज़ुअलाइज़ेशन बनावट के प्रति जुनून. यह अच्छी तरह से दिखाता है कि न्यूरॉन किस चीज़ पर ध्यान केंद्रित करता है + वह प्रारंभिक जानकारी के रूप में क्या मानता है।

विज़ुअलाइज़ेशन पर ध्यान दें अनुवाद. वास्तव में, आकर्षण का उपयोग अक्सर सटीक रूप से यह दिखाने के लिए किया जा सकता है कि ऐसी नेटवर्क प्रतिक्रिया का कारण क्या है। मैंने डिबगिंग और उत्पाद समाधान दोनों के लिए ऐसी चीज़ें देखी हैं। इस विषय पर बहुत सारे लेख हैं। लेकिन डेटा जितना अधिक जटिल होगा, यह समझना उतना ही कठिन होगा कि मजबूत विज़ुअलाइज़ेशन कैसे प्राप्त किया जाए।

ठीक है, हाँ, "देखो जाली के अंदर क्या है" का अच्छा पुराना सेट फिल्टर" ये तस्वीरें 3-4 साल पहले लोकप्रिय थीं, लेकिन सभी को जल्द ही एहसास हो गया कि तस्वीरें खूबसूरत थीं, लेकिन इनका कोई खास मतलब नहीं था।

मैंने दर्जनों अन्य गैजेट्स, तरीकों, हैक्स, नेटवर्क के अंदरूनी हिस्सों को प्रदर्शित करने के तरीके पर शोध का उल्लेख नहीं किया। क्या ये उपकरण काम करते हैं? क्या वे आपको शीघ्रता से यह समझने में मदद करते हैं कि समस्या क्या है और नेटवर्क को डीबग करें?.. अंतिम प्रतिशत प्राप्त करें? खैर, यह लगभग वैसा ही है:

आप कागल पर कोई भी प्रतियोगिता देख सकते हैं। और इसका विवरण कि लोग अंतिम निर्णय कैसे लेते हैं। हमने मॉडलों की 100-500-800 इकाइयों को एकत्रित किया और यह काम कर गया!

निःसंदेह, मैं अतिशयोक्ति कर रहा हूँ। लेकिन ये दृष्टिकोण त्वरित और सीधे उत्तर प्रदान नहीं करते हैं।

पर्याप्त अनुभव होने पर, विभिन्न विकल्पों पर विचार करने के बाद, आप यह निर्णय दे सकते हैं कि आपके सिस्टम ने ऐसा निर्णय क्यों लिया। लेकिन सिस्टम का व्यवहार ठीक करना मुश्किल होगा. एक बैसाखी स्थापित करें, दहलीज को स्थानांतरित करें, एक डेटासेट जोड़ें, एक और बैकएंड नेटवर्क लें।

तीसरी समस्या

तीसरी मौलिक समस्या - ग्रिड आँकड़े सिखाते हैं, तर्क नहीं। सांख्यिकीय रूप से यह चेहरा:

तार्किक रूप से, यह बहुत समान नहीं है। तंत्रिका नेटवर्क कोई भी जटिल चीज़ तब तक नहीं सीखते जब तक उन्हें मजबूर न किया जाए। वे हमेशा यथासंभव सरलतम संकेत सिखाते हैं। क्या आपके पास आँखें, नाक, सिर है? तो ये है चेहरा! या एक उदाहरण दीजिए जहां आंखों का मतलब चेहरा नहीं है। और फिर - लाखों उदाहरण।

नीचे बहुत जगह है

मैं कहूंगा कि ये तीन वैश्विक समस्याएं हैं जो वर्तमान में तंत्रिका नेटवर्क और मशीन लर्निंग के विकास को सीमित करती हैं। और जहां इन समस्याओं ने इसे सीमित नहीं किया, वहां इसका पहले से ही सक्रिय रूप से उपयोग किया जा रहा है।

यह अंत है? क्या तंत्रिका नेटवर्क सक्रिय हैं?

अज्ञात। लेकिन, निःसंदेह, हर कोई आशा नहीं करता।

जिन मूलभूत समस्याओं पर मैंने ऊपर प्रकाश डाला है, उन्हें हल करने के लिए कई दृष्टिकोण और दिशाएँ हैं। लेकिन अब तक, इनमें से किसी भी दृष्टिकोण ने मौलिक रूप से कुछ नया करना, किसी ऐसी चीज़ को हल करना संभव नहीं बनाया है जो अभी तक हल नहीं हुई है। अब तक, सभी मूलभूत परियोजनाएं स्थिर दृष्टिकोण (टेस्ला) के आधार पर की जा रही हैं, या संस्थानों या निगमों (Google ब्रेन, ओपनएआई) की परीक्षण परियोजनाएं बनी हुई हैं।

मोटे तौर पर कहें तो, मुख्य दिशा इनपुट डेटा का कुछ उच्च-स्तरीय प्रतिनिधित्व बनाना है। एक अर्थ में, "स्मृति"। मेमोरी का सबसे सरल उदाहरण विभिन्न "एम्बेडिंग" - छवि प्रतिनिधित्व है। खैर, उदाहरण के लिए, सभी चेहरे की पहचान प्रणालियाँ। नेटवर्क एक चेहरे से कुछ स्थिर प्रतिनिधित्व प्राप्त करना सीखता है जो रोटेशन, प्रकाश व्यवस्था या रिज़ॉल्यूशन पर निर्भर नहीं करता है। अनिवार्य रूप से, नेटवर्क मीट्रिक "विभिन्न चेहरे दूर हैं" और "समान चेहरे करीब हैं" को कम करता है।

ऐसे प्रशिक्षण के लिए दसियों और सैकड़ों हजारों उदाहरणों की आवश्यकता होती है। लेकिन परिणाम में "वन-शॉट लर्निंग" की कुछ मूल बातें शामिल हैं। अब हमें किसी व्यक्ति को याद रखने के लिए सैकड़ों चेहरों की जरूरत नहीं है। बस एक चेहरा और हम सब कुछ हैं चलो पता करते हैं!
बस एक ही समस्या है... ग्रिड केवल काफी सरल वस्तुओं को ही सीख सकता है। जब चेहरों को नहीं, बल्कि, उदाहरण के लिए, "कपड़ों से लोगों" को अलग करने की कोशिश की जाती है (कार्य)। पुन: पहचान) - गुणवत्ता परिमाण के कई क्रमों से गिरती है। और नेटवर्क अब कोणों में स्पष्ट रूप से स्पष्ट परिवर्तन नहीं सीख सकता है।

और लाखों उदाहरणों से सीखना भी मज़ेदार है।

चुनावों को काफी हद तक कम करने का काम किया जा रहा है। उदाहरण के लिए, कोई तुरंत पहले कार्यों में से एक को याद कर सकता है वनशॉट लर्निंग गूगल से:

उदाहरण के तौर पर ऐसे कई काम हैं 1 या 2 या 3.

एक खामी है - आमतौर पर प्रशिक्षण कुछ सरल, "एमएनआईएसटी" उदाहरणों पर अच्छा काम करता है। और जटिल कार्यों की ओर बढ़ते समय, आपको एक बड़े डेटाबेस, वस्तुओं का एक मॉडल या किसी प्रकार के जादू की आवश्यकता होती है।
सामान्य तौर पर, वन-शॉट प्रशिक्षण पर काम एक बहुत ही दिलचस्प विषय है। आपको बहुत सारे विचार मिलते हैं. लेकिन अधिकांश भाग के लिए, जिन दो समस्याओं को मैंने सूचीबद्ध किया है (विशाल डेटासेट पर प्रीट्रेनिंग / जटिल डेटा पर अस्थिरता) सीखने में बहुत बाधा डालती है।

दूसरी ओर, GANs-जेनरेटिव एडवरसैरियल नेटवर्क-एंबेडिंग के विषय पर पहुंचते हैं। आपने संभवतः इस विषय पर हैब्रे पर ढेर सारे लेख पढ़े होंगे। (1, 2,3)
GAN की एक विशेषता कुछ आंतरिक राज्य स्थान (अनिवार्य रूप से वही एंबेडिंग) का निर्माण है, जो आपको एक छवि बनाने की अनुमति देता है। यह हो सकता है व्यक्ति, हो सकता है सक्रियता.

GAN के साथ समस्या यह है कि उत्पन्न वस्तु जितनी अधिक जटिल होगी, उसे "जनरेटर-विभेदक" तर्क में वर्णित करना उतना ही कठिन होगा। परिणामस्वरूप, GAN के एकमात्र वास्तविक अनुप्रयोग जिनके बारे में सुना जाता है, वे डीपफेक हैं, जो, फिर से, चेहरे के प्रतिनिधित्व में हेरफेर करते हैं (जिसके लिए एक बड़ा आधार है)।

मैंने बहुत कम अन्य उपयोगी उपयोग देखे हैं। आमतौर पर किसी प्रकार की चालबाज़ी में चित्रों के अंतिम चित्र बनाना शामिल होता है।

और फिर। किसी को कोई अंदाज़ा नहीं है कि यह हमें एक उज्जवल भविष्य की ओर कैसे बढ़ने देगा। तंत्रिका नेटवर्क में तर्क/स्थान का प्रतिनिधित्व करना अच्छा है। लेकिन हमें बड़ी संख्या में उदाहरणों की आवश्यकता है, हम यह नहीं समझते हैं कि न्यूरॉन अपने आप में इसका प्रतिनिधित्व कैसे करता है, हम यह नहीं समझते हैं कि न्यूरॉन को किसी जटिल विचार को कैसे याद दिलाया जाए।

सुदृढीकरण सीखना - यह पूरी तरह से अलग दिशा से एक दृष्टिकोण है। निश्चित रूप से आपको याद होगा कि कैसे Google ने Go में सभी को हराया था। स्टारक्राफ्ट और डोटा में हालिया जीत। लेकिन यहां सब कुछ इतना उज्ज्वल और आशाजनक नहीं है। वह आरएल और इसकी जटिलताओं के बारे में सबसे अच्छी बात करते हैं यह लेख.

लेखक ने जो लिखा है उसे संक्षेप में बताने के लिए:

• अधिकांश मामलों में आउट ऑफ द बॉक्स मॉडल फिट नहीं होते/खराब तरीके से काम करते हैं
• व्यावहारिक समस्याओं को अन्य तरीकों से हल करना आसान होता है। बोस्टन डायनेमिक्स अपनी जटिलता/अप्रत्याशितता/कम्प्यूटेशनल जटिलता के कारण आरएल का उपयोग नहीं करता है
• आरएल को काम करने के लिए, आपको एक जटिल फ़ंक्शन की आवश्यकता है। इसे बनाना/लिखना अक्सर कठिन होता है
• मॉडलों को प्रशिक्षित करना कठिन है। आपको स्थानीय ऑप्टिमा से बाहर निकलने और पंप करने के लिए बहुत समय बिताना होगा
• नतीजतन, मॉडल को दोहराना मुश्किल है, मॉडल थोड़े से बदलाव से अस्थिर हो जाता है
• अक्सर कुछ यादृच्छिक पैटर्न, यहां तक ​​कि एक यादृच्छिक संख्या जनरेटर भी ओवरफिट हो जाता है

मुख्य बात यह है कि आरएल अभी तक उत्पादन में काम नहीं करता है। Google के पास कुछ प्रयोग हैं ( 1, 2 ). लेकिन मैंने एक भी उत्पाद प्रणाली नहीं देखी।

याद. ऊपर वर्णित हर चीज़ का नकारात्मक पक्ष संरचना की कमी है। इन सबको व्यवस्थित करने का एक तरीका तंत्रिका नेटवर्क को अलग मेमोरी तक पहुंच प्रदान करना है। ताकि वह वहां अपने कदमों के परिणामों को रिकॉर्ड कर सके और फिर से लिख सके। फिर तंत्रिका नेटवर्क को वर्तमान मेमोरी स्थिति द्वारा निर्धारित किया जा सकता है। यह क्लासिक प्रोसेसर और कंप्यूटर के समान है।

सबसे प्रसिद्ध और लोकप्रिय लेख - डीपमाइंड से:

ऐसा लगता है कि यही बुद्धिमत्ता को समझने की कुंजी है? लेकिन शायद नहीं. सिस्टम को अभी भी प्रशिक्षण के लिए भारी मात्रा में डेटा की आवश्यकता है। और यह मुख्य रूप से संरचित सारणीबद्ध डेटा के साथ काम करता है। इसके अलावा, जब फेसबुक तय एक समान समस्या, फिर उन्होंने "स्क्रू मेमोरी, बस न्यूरॉन को और अधिक जटिल बनाओ, और अधिक उदाहरण रखें - और यह अपने आप सीख जाएगा" का रास्ता अपनाया।

सुलझावट. सार्थक मेमोरी बनाने का दूसरा तरीका समान एम्बेडिंग लेना है, लेकिन प्रशिक्षण के दौरान, अतिरिक्त मानदंड पेश करें जो आपको उनमें "अर्थ" को उजागर करने की अनुमति देगा। उदाहरण के लिए, हम एक स्टोर में मानव व्यवहार के बीच अंतर करने के लिए एक तंत्रिका नेटवर्क को प्रशिक्षित करना चाहते हैं। यदि हम मानक पथ का अनुसरण करते, तो हमें एक दर्जन नेटवर्क बनाने पड़ते। एक व्यक्ति की तलाश कर रहा है, दूसरा यह निर्धारित कर रहा है कि वह क्या कर रहा है, तीसरा उसकी उम्र है, चौथा उसका लिंग है। अलग तर्क स्टोर के उस हिस्से को देखता है जहां वह ऐसा करता है/ऐसा करने के लिए प्रशिक्षित किया जाता है। तीसरा उसके प्रक्षेप पथ आदि को निर्धारित करता है।

या, यदि डेटा की अनंत मात्रा थी, तो सभी संभावित परिणामों के लिए एक नेटवर्क को प्रशिक्षित करना संभव होगा (जाहिर है, डेटा की ऐसी श्रृंखला एकत्र नहीं की जा सकती)।

विघटनकारी दृष्टिकोण हमें बताता है - आइए नेटवर्क को प्रशिक्षित करें ताकि वह स्वयं अवधारणाओं के बीच अंतर कर सके। ताकि यह वीडियो के आधार पर एक एम्बेडिंग बनाए, जहां एक क्षेत्र कार्रवाई का निर्धारण करेगा, एक समय में फर्श पर स्थिति निर्धारित करेगा, एक व्यक्ति की ऊंचाई निर्धारित करेगा, और एक व्यक्ति का लिंग निर्धारित करेगा। उसी समय, प्रशिक्षण के दौरान, मैं नेटवर्क को लगभग ऐसी प्रमुख अवधारणाओं के साथ प्रेरित नहीं करना चाहूंगा, बल्कि इसके लिए क्षेत्रों को उजागर करना और समूह बनाना चाहूंगा। ऐसे बहुत से लेख हैं (उनमें से कुछ 1, 2, 3) और सामान्य तौर पर वे काफी सैद्धांतिक हैं।

लेकिन इस दिशा में, कम से कम सैद्धांतिक रूप से, शुरुआत में सूचीबद्ध समस्याओं को शामिल किया जाना चाहिए।

"दीवार का रंग/फर्श का रंग/वस्तु आकार/वस्तु का रंग/आदि" मापदंडों के अनुसार छवि अपघटन।

"आकार, भौहें, अभिविन्यास, त्वचा का रंग, आदि" मापदंडों के अनुसार चेहरे का विघटन।

अन्य

कई अन्य, इतने वैश्विक नहीं, क्षेत्र हैं जो आपको किसी तरह डेटाबेस को कम करने, अधिक विषम डेटा के साथ काम करने आदि की अनुमति देते हैं।

ध्यान दें. संभवतः इसे एक अलग विधि के रूप में अलग करने का कोई मतलब नहीं है। बस एक दृष्टिकोण जो दूसरों को बढ़ाता है। कई लेख उन्हें समर्पित हैं (1,2,3). ध्यान देने का मुद्दा प्रशिक्षण के दौरान विशेष रूप से महत्वपूर्ण वस्तुओं के लिए नेटवर्क की प्रतिक्रिया को बढ़ाना है। अक्सर किसी प्रकार के बाहरी लक्ष्य पदनाम, या एक छोटे बाहरी नेटवर्क द्वारा।

3डी अनुकरण. यदि आप एक अच्छा 3डी इंजन बनाते हैं, तो आप अक्सर 90% प्रशिक्षण डेटा को इसके साथ कवर कर सकते हैं (मैंने एक उदाहरण भी देखा जहां लगभग 99% डेटा एक अच्छे इंजन द्वारा कवर किया गया था)। वास्तविक डेटा (फाइन ट्यूनिंग, स्टाइल ट्रांसफर इत्यादि) का उपयोग करके 3डी इंजन पर प्रशिक्षित नेटवर्क को कैसे काम में लाया जाए, इस पर कई विचार और हैक हैं। लेकिन अक्सर एक अच्छा इंजन बनाना डेटा एकत्र करने की तुलना में कई गुना अधिक कठिन होता है। उदाहरण जब इंजन बनाए गए:
रोबोट प्रशिक्षण (गूगल, ब्रेनगार्डन)
ट्रेनिंग मान्यता स्टोर में सामान (लेकिन हमने जो दो प्रोजेक्ट किए, उनमें हम इसके बिना आसानी से काम चला सकते थे)।
टेस्ला में प्रशिक्षण (फिर से, ऊपर दिया गया वीडियो)।

निष्कर्ष

पूरा लेख एक तरह से निष्कर्ष है। संभवतः मुख्य संदेश जो मैं देना चाहता था वह था "मुफ्त चीज़ें खत्म हो गई हैं, न्यूरॉन्स अब सरल समाधान प्रदान नहीं करते हैं।" अब हमें जटिल निर्णय लेने के लिए कड़ी मेहनत करने की जरूरत है। या जटिल वैज्ञानिक अनुसंधान करने में कड़ी मेहनत करें।

सामान्य तौर पर, विषय विवादास्पद है। शायद पाठकों के पास और भी दिलचस्प उदाहरण हों?

स्रोत: www.habr.com