აფეთქდა მანქანათმცოდნეობის ბუშტი, თუ ეს ახალი ცისკრის დასაწყისია?

ახლახან გამოუშვეს სტატიის, რაც აჩვენებს კარგ ტენდენციას მანქანათმცოდნეობაში ბოლო წლების განმავლობაში. მოკლედ: მანქანათმცოდნეობის სტარტაპების რაოდენობა მკვეთრად შემცირდა ბოლო ორი წლის განმავლობაში.

კარგად. მოდით შევხედოთ „აიფეთდა თუ არა ბუშტი“, „როგორ გავაგრძელოთ ცხოვრება“ და ვისაუბროთ იმაზე, თუ საიდან მოდის ეს ჭორფლი.

პირველ რიგში, მოდით ვისაუბროთ იმაზე, თუ რა იყო ამ მრუდის გამაძლიერებელი. საიდან გაჩნდა იგი? ალბათ ყველაფერს გაიხსენებენ გამარჯვება მანქანათმცოდნეობა 2012 წელს ImageNet კონკურსზე. ყოველივე ამის შემდეგ, ეს არის პირველი გლობალური ღონისძიება! მაგრამ სინამდვილეში ეს ასე არ არის. და მრუდის ზრდა იწყება ცოტა ადრე. რამდენიმე პუნქტად დავყოფ.

1. 2008 წელს გამოჩნდა ტერმინი „დიდი მონაცემები“. დაიწყო ნამდვილი პროდუქტები გამოჩნდება 2010 წლიდან. დიდი მონაცემები პირდაპირ კავშირშია მანქანურ სწავლებასთან. დიდი მონაცემების გარეშე, იმ დროისთვის არსებული ალგორითმების სტაბილური მოქმედება შეუძლებელია. და ეს არ არის ნერვული ქსელები. 2012 წლამდე ნერვული ქსელები მარგინალური უმცირესობის დაცულობა იყო. მაგრამ შემდეგ დაიწყო მუშაობა სრულიად განსხვავებულმა ალგორითმებმა, რომლებიც წლების განმავლობაში, ან თუნდაც ათწლეულების განმავლობაში არსებობდა: SVM(1963,1993), შემთხვევითი ტყე (1995) AdaBoost (2003),... იმ წლების სტარტაპები უპირველეს ყოვლისა დაკავშირებულია სტრუქტურირებული მონაცემების ავტომატურ დამუშავებასთან: სალარო აპარატები, მომხმარებლები, რეკლამა და მრავალი სხვა.

   ამ პირველი ტალღის წარმოებული არის ჩარჩოების ნაკრები, როგორიცაა XGBoost, CatBoost, LightGBM და ა.შ.

2. 2011-2012 წლებში კონვულსიური ნერვული ქსელები გაიმარჯვა სურათების ამოცნობის არაერთ კონკურსში. მათი რეალური გამოყენება გარკვეულწილად გადაიდო. მე ვიტყოდი, რომ მასიურად მნიშვნელოვანი სტარტაპები და გადაწყვეტილებები გამოჩნდა 2014 წელს. ორი წელი დასჭირდა იმ ნეირონების შესწავლას, რომ ჯერ კიდევ მუშაობენ, მოსახერხებელი ჩარჩოების შექმნა, რომლებიც შეიძლება დაინსტალირდეს და გაშვებულიყო გონივრულ დროში, და შემუშავებული მეთოდები, რომლებიც დაასტაბილურებენ და დააჩქარებენ კონვერგენციის დროს.

   კონვოლუციურმა ქსელებმა შესაძლებელი გახადა კომპიუტერული ხედვის პრობლემების გადაჭრა: გამოსახულების და ობიექტების კლასიფიკაცია, ობიექტების ამოცნობა, ობიექტების და ადამიანების ამოცნობა, გამოსახულების გაუმჯობესება და ა.შ.

3. 2015-2017 წწ. მორეციდივე ქსელებზე ან მათ ანალოგებზე დაფუძნებული ალგორითმებისა და პროექტების ბუმი (LSTM, GRU, TransformerNet და ა.შ.). გაჩნდა კარგად მოქმედი მეტყველების ტექსტის ალგორითმები და მანქანური თარგმნის სისტემები. ისინი ნაწილობრივ დაფუძნებულია კონვოლუციურ ქსელებზე ძირითადი მახასიათებლების ამოსაღებად. ნაწილობრივ იმის გამო, რომ ჩვენ ვისწავლეთ მართლაც დიდი და კარგი მონაცემთა ნაკრების შეგროვება.

„ბუშტი გასკდა? აჟიოტაჟი გადახურებულია? ისინი დაიღუპნენ როგორც ბლოკჩეინი?”
წინააღმდეგ შემთხვევაში! ხვალ Siri შეწყვეტს თქვენს ტელეფონზე მუშაობას და ზეგ ტესლა ვერ გაიგებს განსხვავებას მობრუნებასა და კენგურუს შორის.

ნერვული ქსელები უკვე მუშაობს. ისინი ათობით მოწყობილობაშია. ისინი ნამდვილად გაძლევთ საშუალებას მიიღოთ ფული, შეცვალოთ ბაზარი და სამყარო თქვენს გარშემო. Hype ცოტა განსხვავებულად გამოიყურება:

უბრალოდ, ნერვული ქსელები ახალი აღარ არის. დიახ, ბევრს დიდი მოლოდინი აქვს. მაგრამ კომპანიების დიდმა რაოდენობამ ისწავლა ნეირონების გამოყენება და მათზე დაფუძნებული პროდუქტების დამზადება. ნეირონები გთავაზობთ ახალ ფუნქციონირებას, საშუალებას გაძლევთ შეამციროთ სამუშაო ადგილები და შეამციროთ მომსახურების ფასი:

• მწარმოებელი კომპანიები აერთიანებენ ალგორითმებს საწარმოო ხაზის დეფექტების გასაანალიზებლად.
• მეცხოველეობის ფერმები ყიდულობენ სისტემებს ძროხების კონტროლისთვის.
• ავტომატური კომბინატები.
• ავტომატური ქოლ ცენტრები.
• ფილტრები SnapChat-ში. (კარგი, მაინც რაღაც სასარგებლო!)

მაგრამ მთავარი და არა ყველაზე აშკარა: ”ახალი იდეები აღარ არის, ან ისინი არ მოიტანენ მყისიერ კაპიტალს.” ნერვულმა ქსელებმა ათობით პრობლემა გადაჭრა. და კიდევ უფრო მეტს გადაწყვეტენ. ყველა აშკარა იდეამ, რომელიც არსებობდა, მრავალი სტარტაპის წარმოშობა გამოიწვია. მაგრამ ყველაფერი, რაც ზედაპირზე იყო, უკვე შეგროვილი იყო. ბოლო ორი წლის განმავლობაში, მე არ შემხვედრია არც ერთი ახალი იდეა ნერვული ქსელების გამოყენების შესახებ. არც ერთი ახალი მიდგომა (კარგი, GAN-ებთან დაკავშირებით რამდენიმე პრობლემაა).

და ყოველი მომდევნო სტარტაპი უფრო და უფრო რთულია. მას აღარ სჭირდება ორი ბიჭი, რომლებიც ავარჯიშებენ ნეირონს ღია მონაცემების გამოყენებით. მას სჭირდება პროგრამისტები, სერვერი, მარკერების გუნდი, კომპლექსური მხარდაჭერა და ა.შ.

შედეგად, ნაკლებია სტარტაპები. მაგრამ მეტი წარმოებაა. გჭირდებათ სანომრე ნიშნების ამოცნობის დამატება? ბაზარზე ასობით სპეციალისტია შესაბამისი გამოცდილებით. შეგიძლიათ დაიქირაოთ ვინმე და რამდენიმე თვეში თქვენი თანამშრომელი დაამზადებს სისტემას. ან იყიდეთ მზა. მაგრამ აკეთებთ ახალ სტარტაპს?.. გიჟი!

თქვენ უნდა შექმნათ ვიზიტორთა თვალთვალის სისტემა - რატომ უნდა გადაიხადოთ ლიცენზიების თაიგულები, როდესაც შეგიძლიათ გააკეთოთ საკუთარი 3-4 თვეში, გაამახვილოთ იგი თქვენი ბიზნესისთვის.

ახლა ნერვული ქსელები გადის იმავე გზას, რომელიც ათობით სხვა ტექნოლოგიამ გაიარა.

გახსოვთ, როგორ შეიცვალა „საიტის შემქმნელის“ კონცეფცია 1995 წლიდან? ბაზარი ჯერ კიდევ არ არის გაჯერებული სპეციალისტებით. პროფესიონალები ძალიან ცოტაა. მაგრამ შემიძლია ფსონი დავდო, რომ 5-10 წელიწადში დიდი განსხვავება არ იქნება Java პროგრამისტსა და ნერვული ქსელის დეველოპერს შორის. ბაზარზე ორივე სპეციალისტი იქნება საკმარისი.

უბრალოდ იქნება პრობლემების კლასი, რომელთა გადაჭრაც ნეირონებით იქნება შესაძლებელი. გაჩნდა დავალება - დაიქირავეთ სპეციალისტი.

"Რა არის შემდეგი? სად არის დაპირებული ხელოვნური ინტელექტი?”

მაგრამ აქ არის პატარა, მაგრამ საინტერესო გაუგებრობა :)

ტექნოლოგიური დასტა, რომელიც დღეს არსებობს, როგორც ჩანს, ხელოვნურ ინტელექტამდე არ მიგვიყვანს. იდეებმა და მათმა სიახლემ დიდწილად ამოწურა თავი. მოდით ვისაუბროთ იმაზე, თუ რა ინარჩუნებს განვითარების ამჟამინდელ დონეს.

შეზღუდვები

დავიწყოთ თვითმართვადი მანქანებით. აშკარაა, რომ დღევანდელი ტექნოლოგიით შესაძლებელია სრულად ავტონომიური მანქანების დამზადება. მაგრამ რამდენ წელიწადში მოხდება ეს, უცნობია. ტესლას სჯერა, რომ ეს მოხდება რამდენიმე წელიწადში -

სხვა ბევრია სპეციალისტები, რომლებიც მას 5-10 წლამდე აფასებენ.

დიდი ალბათობით, ჩემი აზრით, 15 წელიწადში თავად ქალაქების ინფრასტრუქტურა შეიცვლება ისე, რომ ავტონომიური მანქანების გაჩენა გარდაუვალი გახდება და მისი გაგრძელება გახდება. მაგრამ ეს არ შეიძლება ჩაითვალოს ინტელექტად. თანამედროვე Tesla არის ძალიან რთული მილსადენი მონაცემთა გაფილტვრის, ძიებისა და გადამზადებისთვის. ეს არის წესები-წესები-წესები, მონაცემთა შეგროვება და მათზე ფილტრები (აქ აქ ამაზე ცოტა მეტი დავწერე, ან უყურე ამ ნიშნები).

პირველი პრობლემა

და ეს არის სადაც ჩვენ ვხედავთ პირველი ფუნდამენტური პრობლემა. Დიდი მონაცემები. სწორედ ამან წარმოშვა ნერვული ქსელების და მანქანათმცოდნეობის მიმდინარე ტალღა. დღესდღეობით, რაიმე რთული და ავტომატური გასაკეთებლად, საჭიროა ბევრი მონაცემი. არა მხოლოდ ბევრი, არამედ ძალიან, ძალიან ბევრი. ჩვენ გვჭირდება ავტომატური ალგორითმები მათი შეგროვების, მარკირებისა და გამოყენებისთვის. ჩვენ გვინდა, რომ მანქანამ დაინახოს მზისკენ მიმართული სატვირთო მანქანები - ჯერ მათი საკმარისი რაოდენობა უნდა შევაგროვოთ. ჩვენ გვინდა, რომ მანქანა არ გაგიჟდეს საბარგულზე დამაგრებული ველოსიპედით - მეტი ნიმუშები.

უფრო მეტიც, ერთი მაგალითი საკმარისი არ არის. ასობით? ათასობით?

მეორე პრობლემა

მეორე პრობლემა - ვიზუალიზაცია იმისა, რაც ჩვენმა ნერვულმა ქსელმა გაიგო. ეს ძალიან არატრივიალური ამოცანაა. ამ დრომდე, ცოტას ესმის, როგორ წარმოვიდგინოთ ეს. ეს სტატიები ძალიან ბოლოა, ეს მხოლოდ რამდენიმე მაგალითია, თუნდაც შორეული:
ვიზუალიზაცია შეპყრობილი ტექსტურებით. ის კარგად გვიჩვენებს, რაზე აფიქსირებს ნეირონი + რას აღიქვამს საწყის ინფორმაციას.

ვიზუალიზაცია ყურადღება ზე თარგმანები. სინამდვილეში, მიზიდულობა ხშირად შეიძლება გამოყენებულ იქნას ზუსტად იმის საჩვენებლად, თუ რამ გამოიწვია ქსელის ასეთი რეაქცია. მე მინახავს ასეთი რამ როგორც გამართვისთვის, ასევე პროდუქტის გადაწყვეტილებებისთვის. ამ თემაზე ბევრი სტატიაა. მაგრამ რაც უფრო რთულია მონაცემები, მით უფრო რთულია იმის გაგება, თუ როგორ მივაღწიოთ მტკიცე ვიზუალიზაციას.

დიახ, კარგი ძველი ნაკრები "ნახე რა არის ქსელის შიგნით ფილტრები" ეს ნახატები პოპულარული იყო 3-4 წლის წინ, მაგრამ ყველა სწრაფად მიხვდა, რომ სურათები ლამაზი იყო, მაგრამ მათ დიდი მნიშვნელობა არ ჰქონდათ.

მე არ მიხსენებია ათობით სხვა გაჯეტი, მეთოდი, ჰაკები, კვლევა იმის შესახებ, თუ როგორ უნდა აჩვენოთ ქსელის შიდა მხარე. მუშაობს ეს ინსტრუმენტები? გეხმარებიან სწრაფად გაიგოთ რა პრობლემაა და გამართოთ ქსელი?.. მიიღეთ ბოლო პროცენტი? ისე, დაახლოებით იგივეა:

თქვენ შეგიძლიათ უყუროთ ნებისმიერ კონკურსს Kaggle-ზე. და აღწერა, თუ როგორ იღებენ ადამიანები საბოლოო გადაწყვეტილებებს. ჩვენ დავყარეთ 100-500-800 ერთეული მოდელი და იმუშავა!

ვაჭარბებ, რა თქმა უნდა. მაგრამ ეს მიდგომები არ იძლევა სწრაფ და პირდაპირ პასუხებს.

საკმარისი გამოცდილების მქონე, სხვადასხვა ვარიანტების განხილვის შემდეგ, შეგიძლიათ განაჩენი გამოთქვათ იმის შესახებ, თუ რატომ მიიღო თქვენმა სისტემამ ასეთი გადაწყვეტილება. მაგრამ რთული იქნება სისტემის ქცევის გამოსწორება. დააინსტალირეთ ყავარჯენი, გადაიტანეთ ბარიერი, დაამატეთ მონაცემთა ნაკრები, აიღეთ სხვა backend ქსელი.

მესამე პრობლემა

მესამე ფუნდამენტური პრობლემა - ბადეები ასწავლიან სტატისტიკას და არა ლოგიკას. სტატისტიკურად ეს სახე:

ლოგიკურად, ეს არ არის ძალიან მსგავსი. ნერვული ქსელები ვერ სწავლობენ რაიმე რთულს, თუ ისინი იძულებულნი არ არიან. ისინი ყოველთვის ასწავლიან უმარტივეს ნიშნებს. თვალები, ცხვირი, თავი გაქვს? ასე რომ, ეს არის სახე! ან მოიყვანეთ მაგალითი, სადაც თვალები არ ნიშნავს სახეს. და ისევ - მილიონობით მაგალითი.

ბოლოში უამრავი ოთახია

მე ვიტყოდი, რომ სწორედ ეს სამი გლობალური პრობლემა ზღუდავს ამჟამად ნერვული ქსელების განვითარებას და მანქანათმცოდნეობას. და სადაც ეს პრობლემები არ ზღუდავდა მას, ის უკვე აქტიურად გამოიყენება.

Ეს დასასრულია? ნერვული ქსელები გააქტიურებულია?

უცნობი. მაგრამ, რა თქმა უნდა, ყველას იმედი არ აქვს.

არსებობს მრავალი მიდგომა და მიმართულება ფუნდამენტური პრობლემების გადასაჭრელად, რომლებიც ზემოთ ავღნიშნე. მაგრამ ჯერჯერობით არც ერთმა ამ მიდგომამ არ მისცა შესაძლებლობა რაიმე ფუნდამენტურად ახლის გაკეთება, რაღაცის გადაჭრა, რაც ჯერ კიდევ არ არის მოგვარებული. ჯერჯერობით, ყველა ფუნდამენტური პროექტი კეთდება სტაბილური მიდგომების საფუძველზე (ტესლა), ან რჩება ინსტიტუტების ან კორპორაციების სატესტო პროექტებად (Google Brain, OpenAI).

უხეშად რომ ვთქვათ, მთავარი მიმართულება არის შეყვანილი მონაცემების მაღალი დონის წარმომადგენლობის შექმნა. გარკვეული გაგებით, "მეხსიერება". მეხსიერების უმარტივესი მაგალითია სხვადასხვა "Embedding" - გამოსახულების წარმოდგენები. მაგალითად, სახის ამოცნობის ყველა სისტემა. ქსელი სწავლობს სახისგან გარკვეული სტაბილური გამოსახულების მიღებას, რომელიც არ არის დამოკიდებული ბრუნვაზე, განათებაზე ან გარჩევადობაზე. არსებითად, ქსელი ამცირებს მეტრიკას „სხვადასხვა სახეები შორს არის“ და „იდენტური სახეები ახლოსაა“.

ასეთი ტრენინგისთვის საჭიროა ათობით და ასობით ათასი მაგალითი. მაგრამ შედეგი შეიცავს "ერთჯერადი სწავლის" რამდენიმე საფუძველს. ახლა ჩვენ არ გვჭირდება ასობით სახე ადამიანის დასამახსოვრებლად. მხოლოდ ერთი სახე და სულ ეს ვართ გავარკვიოთ!
მხოლოდ ერთი პრობლემაა... ბადეს შეუძლია ისწავლოს მხოლოდ საკმაოდ მარტივი ობიექტები. როდესაც ცდილობთ განასხვავოთ არა სახეები, არამედ, მაგალითად, „ადამიანები ტანსაცმლით“ (დავალება ხელახალი იდენტიფიკაცია) - ხარისხი ეცემა სიდიდის მრავალი რიგით. და ქსელი ვეღარ ისწავლის საკმაოდ აშკარა ცვლილებებს კუთხეებში.

და მილიონობით მაგალითიდან სწავლა ასევე ერთგვარი სახალისოა.

მიმდინარეობს მუშაობა არჩევნების საგრძნობლად შემცირებაზე. მაგალითად, შეიძლება დაუყოვნებლივ გავიხსენოთ ერთ-ერთი პირველი ნამუშევარი OneShot Learning Google-ისგან:

ასეთი ნამუშევრები ბევრია, მაგალითად 1 ან 2 ან 3.

არსებობს მხოლოდ ერთი მინუსი - ჩვეულებრივ ვარჯიში კარგად მუშაობს რამდენიმე მარტივ, "MNIST" მაგალითზე. ხოლო რთულ ამოცანებზე გადასვლისას საჭიროა დიდი მონაცემთა ბაზა, ობიექტების მოდელი ან რაიმე სახის მაგია.
ზოგადად, One-Shot ტრენინგზე მუშაობა ძალიან საინტერესო თემაა. ბევრ იდეას იპოვით. მაგრამ უმეტესწილად, ორი პრობლემა, რომელიც მე ჩამოვთვალე (წინასწარი მომზადება უზარმაზარ მონაცემთა ბაზაზე / არასტაბილურობა კომპლექსურ მონაცემებზე) დიდად ერევა სწავლაში.

მეორე მხრივ, GAN-ები - გენერაციული საპირისპირო ქსელები - უახლოვდება ჩაშენების თემას. თქვენ ალბათ წაიკითხეთ ბევრი სტატია Habré-ზე ამ თემაზე. (1, 2,3)
GAN-ის მახასიათებელია გარკვეული შიდა მდგომარეობის სივრცის ფორმირება (არსებითად იგივე Embedding), რომელიც საშუალებას გაძლევთ დახატოთ სურათი. Ეს შეიძლება იყოს სახეები, შეიძლება იყოს აქტიურობა.

GAN-ის პრობლემა ის არის, რომ რაც უფრო რთულია გენერირებული ობიექტი, მით უფრო რთულია მისი აღწერა „გენერატორ-დისკრიმინატორის“ ლოგიკაში. შედეგად, GAN-ის ერთადერთი რეალური აპლიკაციები, რომელთა შესახებაც ისმის არის DeepFake, რომელიც კვლავ მანიპულირებს სახის გამოსახულებებს (რისთვისაც არის უზარმაზარი ბაზა).

მე მინახავს ძალიან ცოტა სხვა სასარგებლო გამოყენება. ჩვეულებრივ, რაიმე სახის ხრიკი, რომელიც მოიცავს სურათების ნახატების დასრულებას.

Და ისევ. არავის აქვს წარმოდგენა, თუ როგორ მოგვცემს ეს უფრო ნათელ მომავალში გადასვლის საშუალებას. ლოგიკის/სივრცის წარმოდგენა ნერვულ ქსელში კარგია. მაგრამ ჩვენ გვჭირდება უამრავი მაგალითი, ჩვენ არ გვესმის, როგორ წარმოადგენს ნეირონი ამას თავისთავად, ჩვენ არ გვესმის, როგორ ვაიძულებთ ნეირონს დაიმახსოვროთ რაიმე მართლაც რთული იდეა.

გამაგრების სწავლა - ეს არის სრულიად განსხვავებული მიდგომა. რა თქმა უნდა გახსოვთ, როგორ აჯობა Google-მა ყველას Go-ში. ბოლო გამარჯვებები Starcraft-სა და Dota-ში. მაგრამ აქ ყველაფერი შორს არის ასეთი ვარდისფერი და პერსპექტიული. ის ყველაზე კარგად საუბრობს RL-ზე და მის სირთულეებზე ეს არტიკლი.

მოკლედ რომ შევაჯამოთ ავტორის დაწერილი:

• ყუთიდან გამოსული მოდელები უმეტეს შემთხვევაში არ ჯდება / ცუდად მუშაობს
• პრაქტიკული პრობლემების გადაჭრა უფრო ადვილია სხვა გზებით. Boston Dynamics არ იყენებს RL-ს მისი სირთულის/არაპროგნოზირებადობის/გამოთვლითი სირთულის გამო
• იმისათვის, რომ RL იმუშაოს, საჭიროა რთული ფუნქცია. ხშირად ძნელია შექმნა/წერა
• რთულია მოდელების მომზადება. თქვენ უნდა დახარჯოთ დიდი დრო იმისათვის, რომ ატუმბოთ და გამოხვიდეთ ლოკალური ოპტიმიდან
• შედეგად, ძნელია მოდელის გამეორება, მოდელი არასტაბილურია ოდნავი ცვლილებებით
• ხშირად ზედმეტად ერგება ზოგიერთ შემთხვევით შაბლონს, თუნდაც შემთხვევითი რიცხვების გენერატორს

მთავარი ის არის, რომ RL ჯერ არ მუშაობს წარმოებაში. Google-ს აქვს რამდენიმე ექსპერიმენტი ( 1, 2 ). მაგრამ მე არ მინახავს ერთი პროდუქტის სისტემა.

მეხსიერება. ყოველივე ზემოთ აღწერილის მინუსი არის სტრუქტურის ნაკლებობა. ამ ყველაფრის დალაგების მცდელობის ერთ-ერთი მიდგომა არის ნერვული ქსელის ცალკე მეხსიერებაზე წვდომის უზრუნველყოფა. რათა მან შეძლოს იქ ჩაწეროს და გადაწეროს თავისი ნაბიჯების შედეგები. შემდეგ ნერვული ქსელი შეიძლება განისაზღვროს მიმდინარე მეხსიერების მდგომარეობით. ეს ძალიან ჰგავს კლასიკურ პროცესორებსა და კომპიუტერებს.

ყველაზე ცნობილი და პოპულარული სტატიის - DeepMind-დან:

როგორც ჩანს, ეს არის დაზვერვის გაგების გასაღები? მაგრამ ალბათ არა. სისტემა ჯერ კიდევ მოითხოვს უზარმაზარ მონაცემებს ტრენინგისთვის. და ის ძირითადად მუშაობს სტრუქტურირებული ცხრილის მონაცემებით. უფრო მეტიც, როდესაც Facebook გადაწყვიტა მსგავსი პრობლემა, შემდეგ მათ აიღეს გზა: „გააფუჭეთ მეხსიერება, უბრალოდ გაართულეთ ნეირონი და გაქვთ მეტი მაგალითი - და ის თავისთავად ისწავლის“.

განლაგება. მნიშვნელოვანი მეხსიერების შექმნის კიდევ ერთი გზაა იგივე ჩაშენებების მიღება, მაგრამ ტრენინგის დროს დამატებითი კრიტერიუმების დანერგვა, რაც საშუალებას მოგცემთ გამოყოთ მათში „მნიშვნელობები“. მაგალითად, ჩვენ გვინდა გავავარჯიშოთ ნერვული ქსელი, რათა განასხვავოს ადამიანის ქცევა მაღაზიაში. სტანდარტულ გზას რომ გავყოლოდით, ათეული ქსელის გაკეთება მოგვიწევდა. ერთი ეძებს ადამიანს, მეორე ადგენს რას აკეთებს, მესამე მისი ასაკია, მეოთხე სქესი. ცალკე ლოგიკა უყურებს მაღაზიის იმ ნაწილს, სადაც ის აკეთებს/ავარჯიშებს ამის გაკეთებას. მესამე განსაზღვრავს მის ტრაექტორიას და ა.შ.

ან, თუ იყო უსასრულო რაოდენობის მონაცემები, მაშინ შესაძლებელი იქნებოდა ერთი ქსელის მომზადება ყველა შესაძლო შედეგისთვის (ცხადია, მონაცემთა ასეთი მასივი არ შეიძლება შეგროვდეს).

განლაგების მიდგომა გვეუბნება - მოდი, გავავარჯიშოთ ქსელი, რომ თავად შეძლოს ცნებების გარჩევა. ისე, რომ ვიდეოზე დაყრდნობით ჩამოყალიბებულიყო ჩადგმა, სადაც ერთი უბანი განსაზღვრავს მოქმედებას, დროულად განვსაზღვრავთ პოზიციას იატაკზე, განვსაზღვრავთ ადამიანის სიმაღლეს და სქესს. ამავდროულად, ტრენინგის დროს, მსურს თითქმის არ მივაწოდო ქსელს ასეთი ძირითადი ცნებები, არამედ ის, რომ ხაზი გავუსვა და დააჯგუფოს სფეროები. საკმაოდ ბევრია ასეთი სტატია (ზოგიერთი მათგანი 1, 2, 3) და ზოგადად საკმაოდ თეორიულია.

მაგრამ ეს მიმართულება, თეორიულად მაინც, თავიდან ჩამოთვლილ პრობლემებს უნდა ფარავდეს.

გამოსახულების დაშლა პარამეტრების მიხედვით „კედლის ფერი/ იატაკის ფერი/ობიექტის ფორმა/ობიექტის ფერი/ა.შ.“

სახის დაშლა პარამეტრების მიხედვით: ზომა, წარბები, ორიენტაცია, კანის ფერი და ა.შ.

სხვა

არის ბევრი სხვა, არც ისე გლობალური სფერო, რომელიც საშუალებას გაძლევთ როგორმე შეამციროთ მონაცემთა ბაზა, იმუშაოთ უფრო ჰეტეროგენულ მონაცემებთან და ა.შ.

ყურადღება. ამის ცალკე მეთოდის გამოყოფას ალბათ აზრი არ აქვს. უბრალოდ მიდგომა, რომელიც აძლიერებს სხვებს. ბევრი სტატია ეძღვნება მას (1,2,3). საყურადღებო წერტილი არის ტრენინგის დროს ქსელის რეაგირების გაძლიერება კონკრეტულად მნიშვნელოვან ობიექტებზე. ხშირად რაიმე სახის გარე სამიზნე აღნიშვნით, ან მცირე გარე ქსელით.

3D სიმულაცია. თუ თქვენ აკეთებთ კარგ 3D ძრავას, ხშირად შეგიძლიათ მისით დაფაროთ სავარჯიშო მონაცემების 90% (მე ვნახე მაგალითიც კი, სადაც მონაცემების თითქმის 99% დაფარული იყო კარგი ძრავით). არსებობს მრავალი იდეა და ჰაკი იმის შესახებ, თუ როგორ უნდა ამუშავდეს 3D ძრავზე გაწვრთნილი ქსელი რეალური მონაცემების გამოყენებით (დახვეწილი დაყენება, სტილის გადაცემა და ა.შ.). მაგრამ ხშირად კარგი ძრავის შექმნა რამდენიმე რიგით უფრო რთულია, ვიდრე მონაცემების შეგროვება. მაგალითები, როდესაც ძრავები მზადდებოდა:
რობოტის ვარჯიში (Google, ტვინის ბაღი)
სასწავლო აღიარება საქონელი მაღაზიაში (მაგრამ ორ პროექტში, რაც ჩვენ გავაკეთეთ, ჩვენ ადვილად გავაკეთეთ მის გარეშე).
ტრენინგი Tesla-ში (ისევ, ზემოთ ვიდეო).

დასკვნები

მთელი სტატია, გარკვეული გაგებით, დასკვნებია. ალბათ მთავარი გზავნილი, რაც მინდოდა გამეკეთებინა, იყო: „უფასოები დასრულდა, ნეირონები აღარ გვთავაზობენ მარტივ გადაწყვეტილებებს“. ახლა ჩვენ უნდა ვიმუშაოთ რთული გადაწყვეტილებების მისაღებად. ან იმუშაოთ კომპლექსური სამეცნიერო კვლევებით.

ზოგადად, თემა სადავოა. იქნებ მკითხველს უფრო საინტერესო მაგალითები ჰქონდეს?

წყარო: www.habr.com