हस्तलिखित रेखाचित्रांचे वर्गीकरण. Yandex मध्ये अहवाल

काही महिन्यांपूर्वी, Google वरून आमचे सहकारी खर्च Kaggle वर सनसनाटी मध्ये प्राप्त प्रतिमा एक वर्गीकरण तयार करण्यासाठी एक स्पर्धा खेळ "त्वरित, काढा!" यांडेक्स विकसक रोमन व्लासोव्हचा समावेश असलेल्या संघाने स्पर्धेत चौथे स्थान पटकावले. जानेवारीच्या मशीन लर्निंग ट्रेनिंगमध्ये, रोमनने त्याच्या टीमच्या कल्पना, क्लासिफायरची अंतिम अंमलबजावणी आणि त्याच्या विरोधकांच्या मनोरंजक पद्धती शेअर केल्या.

- सर्वांना नमस्कार! माझे नाव रोमा व्लासोव्ह आहे, आज मी तुम्हाला क्विक, ड्रॉ बद्दल सांगेन! डूडल ओळख आव्हान.



आमच्या टीममध्ये पाच जण होते. मी विलीनीकरणाच्या अंतिम मुदतीपूर्वी सामील झालो. आम्ही दुर्दैवी होतो, आम्ही थोडे हललो होतो, परंतु आम्ही पैशाच्या स्थितीतून हादरलो होतो आणि ते सोन्याच्या स्थितीतून हलले होते. आणि आम्ही सन्माननीय चौथे स्थान घेतले.

(स्पर्धेदरम्यान, संघांनी स्वतःला रेटिंगमध्ये पाहिले, जे प्रस्तावित डेटा सेटच्या एका भागावर दर्शविलेल्या निकालांच्या आधारे तयार केले गेले. अंतिम रेटिंग, यामधून, डेटासेटच्या दुसर्या भागावर तयार केले गेले. असे केले जाते. की स्पर्धेतील सहभागी त्यांचे अल्गोरिदम विशिष्ट डेटामध्ये समायोजित करत नाहीत. म्हणून, फायनलमध्ये, रेटिंग दरम्यान स्विच करताना, पोझिशन्स थोडेसे हलतात (इंग्रजी शेक अप पासून - मिसळण्यासाठी): इतर डेटावर, परिणाम बाहेर येऊ शकतो भिन्न असणे. रोमनचा संघ पहिल्या तीनमध्ये प्रथम होता. या प्रकरणात, शीर्ष तीन म्हणजे पैसे, आर्थिक रेटिंग झोन, कारण फक्त पहिल्या तीन स्थानांना रोख पारितोषिक देण्यात आले. शेक-अप नंतर, संघ आधीच होता चौथे स्थान. त्याच प्रकारे, इतर संघाने विजय गमावला, सुवर्ण स्थान. - एड.)

स्पर्धा देखील लक्षणीय होती कारण इव्हगेनी बाबाखनिनला ग्रँडमास्टर मिळाला, इव्हान सोसिनला मास्टर मिळाला, रोमन सोलोव्हिएव्ह ग्रँडमास्टर राहिला, अॅलेक्स परिनोव्हला मास्टर मिळाला, मी एक तज्ञ झालो आणि आता मी आधीच एक मास्टर आहे.

हे क्विक, ड्रॉ काय आहे? ही Google ची सेवा आहे. Google चे AI लोकप्रिय करण्याचे ध्येय होते आणि या सेवेद्वारे न्यूरल नेटवर्क कसे कार्य करतात हे दाखवायचे होते. तुम्ही तिथे जा, चला काढू या क्लिक करा आणि तुम्हाला सांगितले जाईल तिथे एक नवीन पृष्ठ पॉप अप होईल: झिगझॅग काढा, हे करण्यासाठी तुमच्याकडे 20 सेकंद आहेत. तुम्ही 20 सेकंदात झिगझॅग काढण्याचा प्रयत्न करत आहात, उदाहरणार्थ, इथे. तुम्ही यशस्वी झाल्यास, नेटवर्क म्हणते की ते झिगझॅग आहे आणि तुम्ही पुढे जा. अशी फक्त सहा चित्रे आहेत.

Google चे नेटवर्क तुम्ही काय काढले हे ओळखण्यात अयशस्वी झाल्यास, कार्यावर क्रॉस ठेवला गेला. रेखाचित्र नेटवर्कद्वारे ओळखले जाते की नाही याचा अर्थ भविष्यात काय असेल ते मी नंतर सांगेन.

या सेवेने मोठ्या प्रमाणात वापरकर्ते एकत्र केले आणि वापरकर्त्यांनी काढलेली सर्व चित्रे लॉग केली गेली.

आम्ही जवळजवळ 50 दशलक्ष प्रतिमा गोळा करण्यात व्यवस्थापित केले. त्यातून आमच्या स्पर्धेची ट्रेन आणि चाचणीची तारीख तयार झाली. तसे, चाचणीमधील डेटाचे प्रमाण आणि वर्गांची संख्या एका कारणास्तव ठळकपणे हायलाइट केली आहे. मी तुम्हाला त्यांच्याबद्दल थोड्या वेळाने सांगेन.

डेटा फॉरमॅट खालीलप्रमाणे होता. या केवळ आरजीबी प्रतिमा नाहीत, परंतु, साधारणपणे, वापरकर्त्याने केलेल्या प्रत्येक गोष्टीचा लॉग. शब्द हे आमचे लक्ष्य आहे, डूडलचा लेखक जिथून आहे तो देश कोड आहे, टाइमस्टॅम्प म्हणजे वेळ. नेटवर्कने Google वरून प्रतिमा ओळखली की नाही हे ओळखले जाणारे लेबल दाखवते. आणि ड्रॉईंग स्वतःच एक क्रम आहे, वक्रचा अंदाज आहे जो वापरकर्ता पॉइंट्ससह काढतो. आणि वेळा. चित्र काढण्याच्या सुरुवातीपासूनची ही वेळ आहे.

डेटा दोन स्वरूपात सादर केला गेला. हे पहिले स्वरूप आहे, आणि दुसरे सरलीकृत आहे. त्यांनी तिथून वेळ काढली आणि पॉईंट्सच्या छोट्या संचासह अंदाजे या बिंदूंचा संच केला. यासाठी त्यांनी वापर केला डग्लस-पेकर अल्गोरिदम. तुमच्याकडे बिंदूंचा एक मोठा संच आहे जो सरळ रेषेचा अंदाज लावतो, परंतु खरं तर तुम्ही या रेषेचा अंदाज फक्त दोन बिंदूंसह करू शकता. ही अल्गोरिदमची कल्पना आहे.

खालीलप्रमाणे डेटा वितरित केला गेला. सर्व काही एकसमान आहे, परंतु काही बाह्य आहेत. जेव्हा आम्ही समस्या सोडवली तेव्हा आम्ही त्याकडे पाहिले नाही. मुख्य गोष्ट अशी आहे की असे कोणतेही वर्ग नव्हते जे खरोखरच कमी होते, आम्हाला वेटेड सॅम्पलर आणि डेटा ओव्हरसॅम्पलिंग करावे लागले नाही.

चित्रे कशी दिसली? हा "विमान" वर्ग आहे आणि त्यातील ओळखल्या जाणार्‍या आणि न ओळखलेल्या लेबलांसह उदाहरणे. त्यांचे गुणोत्तर कुठेतरी 1 ते 9 च्या आसपास होते. तुम्ही बघू शकता, डेटा खूप गोंगाट करणारा आहे. मला वाटते की ते विमान आहे. आपण ओळखले नाही पाहिले तर, बहुतांश घटनांमध्ये तो फक्त आवाज आहे. कोणीतरी "विमान" लिहिण्याचा प्रयत्न केला, परंतु वरवर पाहता फ्रेंचमध्ये.

बर्‍याच सहभागींनी फक्त ग्रिड घेतले, या ओळींच्या क्रमावरून RGB चित्रे म्हणून डेटा काढला आणि नेटवर्कमध्ये टाकला. मी अंदाजे त्याच प्रकारे रेखाटले: मी रंगांचा पॅलेट घेतला, एका रंगाने पहिली ओळ काढली, जी या पॅलेटच्या सुरुवातीला होती, शेवटची दुसरी ओळ, जी पॅलेटच्या शेवटी होती आणि त्यांच्या दरम्यान. मी हे पॅलेट वापरून सर्वत्र इंटरपोलेट केले. तसे, तुम्ही पहिल्याच स्लाइडवर काढल्याप्रमाणे - फक्त काळ्या रंगात काढल्यापेक्षा याने चांगला परिणाम दिला.

इव्हान सोसिन सारख्या इतर टीम सदस्यांनी चित्र काढण्यासाठी थोडे वेगळे पध्दतीने प्रयत्न केले. एका चॅनेलसह त्याने फक्त एक राखाडी चित्र काढले, दुसऱ्या चॅनेलसह त्याने सुरुवातीपासून शेवटपर्यंत 32 ते 255 पर्यंत ग्रेडियंटसह प्रत्येक स्ट्रोक काढला आणि तिसऱ्या चॅनेलसह त्याने 32 ते 255 पर्यंतच्या सर्व स्ट्रोकवर ग्रेडियंट काढला.

आणखी एक मनोरंजक गोष्ट म्हणजे अॅलेक्स परिनोव्हने कंट्रीकोड वापरून नेटवर्कवर माहिती अपलोड केली.

स्पर्धेत वापरलेले मेट्रिक म्हणजे सरासरी अचूकता. स्पर्धेसाठी या मेट्रिकचे सार काय आहे? तुम्ही तीन भाकिते देऊ शकता आणि जर या तिघांमध्ये बरोबर भाकीत नसेल तर तुम्हाला ० मिळेल. जर बरोबर असेल तर त्याचा क्रम विचारात घेतला जातो. आणि लक्ष्य परिणाम 0 भागिले तुमच्या भविष्यवाणीच्या क्रमाने मोजले जाईल. उदाहरणार्थ, तुम्ही तीन प्रेडिक्टर केले, आणि बरोबर एक पहिला आहे, नंतर तुम्ही 1 ला 1 ने भागा आणि 1 मिळेल. जर प्रेडिक्टर बरोबर असेल आणि त्याचा क्रम 1 असेल, तर 2 ला 1 ने भागल्यास तुम्हाला 2 मिळेल. विहीर, इ.

डेटा प्रीप्रोसेसिंगसह - चित्र कसे काढायचे वगैरे - आम्ही थोडे ठरवले आहे. आम्ही कोणती आर्किटेक्चर वापरली? आम्ही PNASNet, SENet सारख्या फॅट आर्किटेक्चर्स वापरण्याचा प्रयत्न केला आणि SE-Res-NeXt सारख्या आधीच क्लासिक आर्किटेक्चर्स वापरण्याचा प्रयत्न केला, ते वाढत्या नवीन स्पर्धांमध्ये प्रवेश करत आहेत. ResNet आणि DenseNet देखील होते.

आम्ही हे कसे शिकवले? आम्ही घेतलेली सर्व मॉडेल्स इमेजनेटवर पूर्व-प्रशिक्षित होती. जरी भरपूर डेटा आहे, 50 दशलक्ष प्रतिमा, परंतु तरीही, आपण इमेजनेटवर पूर्व-प्रशिक्षित नेटवर्क घेतल्यास, आपण त्यास सुरवातीपासून प्रशिक्षण दिल्यापेक्षा चांगले परिणाम दर्शवितात.

आम्ही कोणती शिकवण्याचे तंत्र वापरले? हे कोसिंग एनीलिंग विथ वार्म रीस्टार्ट्स आहे, ज्याबद्दल मी थोड्या वेळाने बोलेन. हे एक तंत्र आहे जे मी माझ्या अलीकडील जवळजवळ सर्व स्पर्धांमध्ये वापरतो आणि त्यांच्या सहाय्याने ग्रिडला चांगले प्रशिक्षण देण्यासाठी, एक चांगली किमान साध्य करण्यासाठी.

पुढे पठारावर शिकण्याचा दर कमी करा. तुम्ही नेटवर्कला प्रशिक्षण देण्यास सुरुवात करता, विशिष्ट शिक्षण दर सेट करता, ते शिकवणे सुरू ठेवता आणि तुमचे नुकसान हळूहळू एका विशिष्ट मूल्यात रुपांतर होते. आपण हे तपासा, उदाहरणार्थ, दहा युगांसाठी नुकसान अजिबात बदललेले नाही. तुम्ही तुमचा शिकण्याचा दर काही मूल्याने कमी करा आणि शिकत राहा. ते पुन्हा थोडे कमी होते, कमीत कमी एकत्र होते आणि तुम्ही पुन्हा शिकण्याचा दर कमी कराल आणि असेच पुढे तुमचे नेटवर्क शेवटी एकत्र येईपर्यंत.

पुढे एक मनोरंजक तंत्र आहे: शिकण्याचा दर खराब करू नका, बॅचचा आकार वाढवा. त्याच नावाचा एक लेख आहे. जेव्हा तुम्ही नेटवर्क प्रशिक्षित करता, तेव्हा तुम्हाला शिकण्याचा दर कमी करण्याची गरज नाही, तुम्ही फक्त बॅचचा आकार वाढवू शकता.

हे तंत्र, तसे, अॅलेक्स परिनोव्ह यांनी वापरले होते. त्याने 408 च्या बॅचने सुरुवात केली आणि जेव्हा त्याचे नेटवर्क काही पठारावर पोहोचले तेव्हा त्याने बॅचचा आकार दुप्पट केला.

खरं तर, मला आठवत नाही की त्याच्या बॅचचा आकार किती मूल्यापर्यंत पोहोचला आहे, परंतु मनोरंजक गोष्ट म्हणजे कागलवर एकच तंत्र वापरणारे संघ होते, त्यांच्या बॅचचा आकार सुमारे 10000 होता. तसे, सखोल शिक्षणासाठी आधुनिक फ्रेमवर्क, जसे की PyTorch, उदाहरणार्थ, आपल्याला हे अगदी सहजपणे करण्याची परवानगी देते. तुम्ही तुमची बॅच व्युत्पन्न करा आणि ती नेटवर्कवर जमा करा, जसे आहे तसे नाही, परंतु ते तुकड्यांमध्ये विभाजित करा जेणेकरून ते तुमच्या व्हिडिओ कार्डमध्ये बसेल, ग्रेडियंटची गणना करा आणि तुम्ही संपूर्ण बॅचसाठी ग्रेडियंटची गणना केल्यानंतर, अपडेट करा. वजन

तसे, मोठ्या बॅचचे आकार अजूनही या स्पर्धेत समाविष्ट केले गेले होते, कारण डेटा खूप गोंगाट करणारा होता आणि मोठ्या बॅचच्या आकाराने आपल्याला ग्रेडियंटचे अंदाजे अचूकपणे मदत केली.

स्यूडो-लेबलिंग देखील वापरली गेली, बहुतेक रोमन सोलोव्हिएव्हने वापरली. त्याने बॅचेसमध्ये चाचणीतील सुमारे अर्धा डेटा नमुना घेतला आणि अशा बॅचेसवर ग्रिडला प्रशिक्षण दिले.

चित्रांचा आकार महत्त्वाचा आहे, परंतु वस्तुस्थिती अशी आहे की आपल्याकडे भरपूर डेटा आहे, आपल्याला बर्याच काळासाठी प्रशिक्षित करणे आवश्यक आहे आणि जर आपल्या चित्राचा आकार बराच मोठा असेल तर आपण बराच काळ प्रशिक्षण घ्याल. परंतु यामुळे तुमच्या अंतिम क्लासिफायरच्या गुणवत्तेत फारशी भर पडली नाही, म्हणून काही प्रकारचे ट्रेड-ऑफ वापरणे योग्य होते. आणि आम्ही फक्त अशा चित्रांचा प्रयत्न केला जे आकाराने फार मोठे नव्हते.

हे सर्व कसे शिकले? प्रथम, लहान आकाराची चित्रे घेतली गेली, त्यावर अनेक युगे चालविली गेली, यास बराच वेळ लागला. मग मोठ्या आकाराची चित्रे दिली गेली, नेटवर्क प्रशिक्षित केले गेले, नंतर आणखी, आणखी, जेणेकरून ते सुरवातीपासून प्रशिक्षण देऊ नये आणि बराच वेळ वाया घालवू नये.

ऑप्टिमायझर्स बद्दल. आम्ही SGD आणि अॅडम वापरले. अशा प्रकारे एकच मॉडेल मिळवणे शक्य झाले, ज्याने सार्वजनिक लीडरबोर्डवर 0,941-0,946 चा वेग दिला, जो खूप चांगला आहे.

तुम्ही काही प्रकारे मॉडेल्स जोडल्यास, तुम्हाला जवळपास ०.९५१ मिळेल. तुम्ही आणखी एक तंत्र वापरल्यास, तुम्हाला सार्वजनिक मंडळावर 0,951 चा अंतिम स्कोअर मिळेल, जसे आम्हाला मिळाले. पण त्याबद्दल नंतर अधिक. पुढे मी तुम्हाला सांगेन की आम्ही मॉडेल्स कसे एकत्र केले आणि आम्ही इतका अंतिम वेग कसा मिळवला.

पुढे मी उबदार रीस्टार्ट्ससह कोसिंग एनीलिंग किंवा उबदार रीस्टार्टसह स्टोकास्टिक ग्रेडियंट डिसेंटबद्दल बोलू इच्छितो. ढोबळपणे सांगायचे तर, तत्त्वतः, तुम्ही कोणताही ऑप्टिमायझर वापरू शकता, परंतु मुद्दा हा आहे: जर तुम्ही फक्त एका नेटवर्कला प्रशिक्षित केले आणि हळूहळू ते काही किमान एकवटले, तर सर्वकाही ठीक आहे, तुम्हाला एक नेटवर्क मिळेल, त्यात काही चुका होतात, परंतु तुम्ही थोडे वेगळे प्रशिक्षण देऊ शकता. तुम्ही काही प्रारंभिक शिक्षण दर सेट कराल आणि या सूत्रानुसार हळूहळू कमी कराल. तुम्ही ते कमी कराल, तुमचे नेटवर्क कमीत कमी येईल, मग तुम्ही वजन वाचवाल आणि पुन्हा प्रशिक्षणाच्या सुरुवातीला असलेला शिकण्याचा दर सेट करा, त्यामुळे या किमान वरून कुठेतरी वर जाल आणि पुन्हा तुमचा शिकण्याचा दर कमी होईल.

अशा प्रकारे, आपण एकाच वेळी अनेक किमान भेट देऊ शकता, ज्यामध्ये आपले नुकसान, अधिक किंवा वजा समान असेल. परंतु वस्तुस्थिती अशी आहे की या वजनांसह नेटवर्क आपल्या तारखेला भिन्न त्रुटी देईल. त्यांची सरासरी करून, तुम्हाला एक प्रकारचा अंदाज येईल आणि तुमचा वेग जास्त असेल.

आम्ही आमचे मॉडेल कसे एकत्र केले याबद्दल. सादरीकरणाच्या सुरुवातीला, मी चाचणीमधील डेटाचे प्रमाण आणि वर्गांच्या संख्येकडे लक्ष देण्यास सांगितले. जर तुम्ही चाचणी संचातील लक्ष्यांच्या संख्येत 1 जोडले आणि वर्गांच्या संख्येने भागले तर तुम्हाला 330 क्रमांक मिळेल आणि हे फोरमवर लिहिले गेले होते - चाचणीमधील वर्ग संतुलित आहेत. हे वापरले जाऊ शकते.

यावर आधारित, रोमन सोलोव्हिएव्ह एक मेट्रिक घेऊन आला, आम्ही त्याला प्रॉक्सी स्कोअर म्हणतो, जो लीडरबोर्डशी चांगला सहसंबंधित आहे. मुद्दा असा आहे: तुम्ही एक भविष्यवाणी करा, तुमच्या प्रेडिक्टर्सपैकी टॉप 1 घ्या आणि प्रत्येक वर्गासाठी ऑब्जेक्ट्सची संख्या मोजा. पुढे, प्रत्येक मूल्यातून 330 वजा करा आणि परिणामी परिपूर्ण मूल्ये जोडा.

खालील मूल्ये प्राप्त झाली. यामुळे आम्हाला प्रोबिंग लीडरबोर्ड तयार करण्यात मदत झाली नाही, परंतु स्थानिक पातळीवर प्रमाणित करण्यात आणि आमच्या जोड्यांसाठी गुणांक निवडण्यात मदत झाली.

एका जोडणीने तुम्हाला अशी गती मिळू शकते. मी आणखी काय करू शकतो? समजा तुमच्या परीक्षेतील वर्ग संतुलित आहेत ही माहिती तुम्ही वापरली आहे.

संतुलन वेगळे होते. त्यापैकी एक उदाहरण - प्रथम स्थान घेतलेल्या मुलांकडून संतुलन साधणे.

आम्ही काय केले? आमचे संतुलन अगदी सोपे होते, हे इव्हगेनी बाबाखनिन यांनी सुचवले होते. आम्ही प्रथम आमचे अंदाज शीर्ष 1 नुसार क्रमवारी लावले आणि त्यांच्यामधून उमेदवार निवडले - जेणेकरून वर्गांची संख्या 330 पेक्षा जास्त नसेल. परंतु काही वर्गांसाठी तुम्ही 330 पेक्षा कमी अंदाज लावू शकता. ठीक आहे, चला शीर्ष 2 आणि शीर्ष 3 नुसार देखील क्रमवारी लावूया , आणि आम्ही उमेदवार देखील निवडू.

आमचे संतुलन प्रथम स्थानाच्या संतुलनापेक्षा वेगळे कसे होते? त्यांनी एक पुनरावृत्तीचा दृष्टीकोन वापरला, सर्वात लोकप्रिय वर्ग घेतला आणि त्या वर्गाची संभाव्यता काही लहान संख्येने कमी केली जोपर्यंत तो सर्वात लोकप्रिय वर्ग होत नाही. आम्ही पुढचा सर्वात लोकप्रिय वर्ग घेतला. त्यामुळे सर्व वर्गांची संख्या समान होईपर्यंत ते त्यांना कमी करत राहिले.

प्रशिक्षित नेटवर्कसाठी प्रत्येकाने प्लस किंवा मायनस वन पद्धतीचा वापर केला, परंतु प्रत्येकाने संतुलन वापरले नाही. संतुलन वापरून, तुम्ही सोन्यात जाऊ शकता आणि जर तुम्ही भाग्यवान असाल तर पैशात.

तारखेची पूर्वप्रक्रिया कशी करावी? प्रत्येकाने तारीख, अधिक किंवा वजा, त्याच प्रकारे प्रीप्रोसेस केली - हस्तकला वैशिष्ट्ये तयार करणे, वेगवेगळ्या स्ट्रोक रंगांसह वेळ एन्कोड करण्याचा प्रयत्न करणे इ. 8 व्या स्थानावर असलेल्या अलेक्सी नोझड्रिन-प्लॉटनित्स्कीने याबद्दल सांगितले.

त्याने ते वेगळ्या पद्धतीने केले. ते म्हणाले की तुमची ही सर्व हस्तकला वैशिष्ट्ये कार्य करत नाहीत, तुम्हाला ते करण्याची आवश्यकता नाही, तुमच्या नेटवर्कने हे सर्व स्वतःहून शिकले पाहिजे. आणि त्याऐवजी, त्याने आपल्या डेटाची प्रीप्रोसेस करणारे शिकण्याचे मॉड्यूल्स आणले. त्याने प्रीप्रोसेस न करता मूळ डेटा त्यांच्यामध्ये टाकला - बिंदू निर्देशांक आणि वेळ.

मग त्याने निर्देशांकांवर आधारित फरक घेतला आणि वेळेच्या आधारावर त्याची सरासरी काढली. आणि तो एक लांब मॅट्रिक्स घेऊन आला. 1xn आकाराचे मॅट्रिक्स मिळविण्यासाठी त्याने त्यावर 64D कन्व्होल्यूशन अनेक वेळा लागू केले, जिथे n ही एकूण बिंदूंची संख्या आहे आणि परिणामी मॅट्रिक्स कोणत्याही कॉन्व्होल्युशनल नेटवर्कच्या लेयरमध्ये फीड करण्यासाठी 64 केले जाते, जे चॅनेलची संख्या स्वीकारते. - 64. त्याने 64xn मॅट्रिक्स मिळवले, त्यानंतर त्यातून काही आकाराचा टेन्सर तयार करणे आवश्यक होते जेणेकरून चॅनेलची संख्या 64 असेल. त्याने 0 ते 32 या श्रेणीतील सर्व बिंदू X, Y सामान्य केले. 32x32 आकाराचा टेन्सर. मला माहित नाही की त्याला 32x32 का हवे होते, हे असेच घडले. आणि या समन्वयावर त्याने 64xn आकाराच्या या मॅट्रिक्सचा एक तुकडा ठेवला. त्यामुळे हे नुकतेच 32x32x64 टेन्सरसह संपले जे तुम्ही तुमच्या कन्व्होल्युशनल न्यूरल नेटवर्कमध्ये आणखी ठेवू शकता. मला एवढेच सांगायचे होते.

स्त्रोत: www.habr.com