Ნეირონული ქსელები. სად მიდის ეს ყველაფერი?

სტატია შედგება ორი ნაწილისაგან:

1. ზოგიერთი ქსელის არქიტექტურის მოკლე აღწერა სურათებში ობიექტების აღმოჩენისა და გამოსახულების სეგმენტაციისთვის, ჩემთვის ყველაზე გასაგები ბმულებით რესურსებთან. შევეცადე აერჩია ვიდეო ახსნა-განმარტებები და სასურველია რუსულად.
2. მეორე ნაწილი არის ნერვული ქსელის არქიტექტურის განვითარების მიმართულების გაგების მცდელობა. და მათზე დაფუძნებული ტექნოლოგიები.

სურათი 1 - ნერვული ქსელის არქიტექტურის გაგება ადვილი არ არის

ყველაფერი დაიწყო Android ტელეფონზე ობიექტების კლასიფიკაციისა და აღმოჩენის ორი დემო აპლიკაციის შექმნით:

• Back-end დემო ვერსია, როდესაც მონაცემები მუშავდება სერვერზე და გადაეცემა ტელეფონს. სამი ტიპის დათვების გამოსახულების კლასიფიკაცია: ყავისფერი, შავი და ტედი.
• წინა დემო ვერსიაროდესაც მონაცემები მუშავდება თავად ტელეფონზე. ობიექტების აღმოჩენა (ობიექტის აღმოჩენა) სამი სახის: თხილის, ლეღვის და ფინიკის.

Есть разница между задачами по классификации изображений, обнаружению объектов на изображении и сегментацией изображений. აქედან გამომდინარე, საჭირო იყო გაერკვია, რომელი ნერვული ქსელის არქიტექტურა აღმოაჩენს ობიექტებს სურათებში და რომელს შეუძლია სეგმენტირება. მე ვიპოვე არქიტექტურის შემდეგი მაგალითები ჩემთვის ყველაზე გასაგები ბმულებით რესურსებთან:

• R-CNN-ზე დაფუძნებული არქიტექტურების სერია (Rრეგიონებთან ერთად Cონვოლუცია Nევრალური Networks მახასიათებლები): R-CNN, სწრაფი R-CNN, უფრო სწრაფი R-CNN, ნიღაბი R-CNN. გამოსახულებაზე ობიექტის გამოსავლენად, შეზღუდვის ველები გამოიყოფა რეგიონის შეთავაზების ქსელის (RPN) მექანიზმის გამოყენებით. თავდაპირველად, RPN-ის ნაცვლად გამოიყენებოდა ნელი შერჩევითი ძიების მექანიზმი. შემდეგ შერჩეული შეზღუდული რეგიონები კლასიფიკაციისთვის მიეწოდება ჩვეულებრივი ნერვული ქსელის შეყვანას. R-CNN არქიტექტურას აქვს მკაფიო "for" მარყუჟები შეზღუდულ რეგიონებში, საერთო ჯამში 2000-მდე გადის AlexNet შიდა ქსელში. აშკარა "for" მარყუჟები ანელებს სურათის დამუშავების სიჩქარეს. შიდა ნერვულ ქსელში გამავალი გამოკვეთილი მარყუჟების რაოდენობა მცირდება არქიტექტურის ყოველი ახალი ვერსიით და ათობით სხვა ცვლილება ხდება სიჩქარის გასაზრდელად და ობიექტის ამოცნობის ამოცანის ჩანაცვლებით ობიექტების სეგმენტაციით Mask R-CNN-ში.
• YOLO (You Only Lასევე Once) არის პირველი ნერვული ქსელი, რომელმაც ამოიცნო ობიექტები რეალურ დროში მობილურ მოწყობილობებზე. გამორჩეული თვისება: ობიექტების გარჩევა ერთ პერსპექტივაში (მხოლოდ ერთხელ შეხედეთ). ანუ, YOLO არქიტექტურაში არ არსებობს აშკარა "for" მარყუჟები, რის გამოც ქსელი სწრაფად მუშაობს. მაგალითად, ეს ანალოგია: NumPy-ში, მატრიცებით ოპერაციების შესრულებისას, ასევე არ არის გამოკვეთილი „for“ მარყუჟები, რომლებიც NumPy-ში დანერგილია არქიტექტურის ქვედა დონეზე C პროგრამირების ენის მეშვეობით. YOLO იყენებს წინასწარ განსაზღვრული ფანჯრების ბადეს. ერთი და იგივე ობიექტის მრავალჯერ განსაზღვრის თავიდან ასაცილებლად, გამოიყენება ფანჯრის გადახურვის კოეფიციენტი (IoU). Intersection oვხედავ Uნიონი). ეს არქიტექტურა მოქმედებს ფართო დიაპაზონში და აქვს მაღალი სიმტკიცე: მოდელს შეუძლია ივარჯიშოს ფოტოებზე, მაგრამ მაინც კარგად მუშაობს ხელით დახატულ ნახატებზე.
• SSD (Sამოიღონ Shot MultiBox Detector) – გამოიყენება YOLO არქიტექტურის ყველაზე წარმატებული „ჰაკები“ (მაგალითად, არამაქსიმალური ჩახშობა) და ემატება ახლები, რათა ნერვული ქსელი უფრო სწრაფად და ზუსტად იმუშაოს. განმასხვავებელი თვისება: ობიექტების გარჩევა ერთ პერსპექტივაში, ფანჯრების მოცემული ბადის გამოყენებით (ნაგულისხმევი ყუთი) გამოსახულების პირამიდაზე. გამოსახულების პირამიდა დაშიფრულია კონვოლუციის ტენსორებში თანმიმდევრული კონვოლუციისა და გაერთიანების ოპერაციების მეშვეობით (მაქს გაერთიანების ოპერაციით, სივრცითი განზომილება მცირდება). ამ გზით, ორივე დიდი და პატარა ობიექტები განისაზღვრება ერთი ქსელის გაშვებით.
• მობილური SSD (მობილურიNetV2+ SSD) არის ორი ნერვული ქსელის არქიტექტურის კომბინაცია. პირველი ქსელი MobileNetV2 მუშაობს სწრაფად და ზრდის ამოცნობის სიზუსტეს. MobileNetV2 გამოიყენება VGG-16-ის ნაცვლად, რომელიც თავდაპირველად გამოიყენებოდა ორიგინალური სტატია. მეორე SSD ქსელი განსაზღვრავს სურათზე ობიექტების მდებარეობას.
• SqueezeNet – очень маленькая, но точная нейросеть. Сама по себе не решает задачу обнаружения объектов. Однако может применяться при комбинации различных архитектур. И использоваться в мобильных устройствах. Отличительной особенностью является то, что сначала данные сжимаются до четырех 1×1 сверточных фильтров, а затем расширяются до четырех 1×1 и четырех 3×3 сверточных фильтров. Одна такая итерация сжатия-расширения данных называется «Fire Module».
• DeepLab (Semantic Image Segmentation with Deep Convolutional Nets) – სურათზე ობიექტების სეგმენტაცია. არქიტექტურის გამორჩეული თვისებაა გაფართოებული კონვოლუცია, რომელიც ინარჩუნებს სივრცულ გარჩევადობას. ამას მოჰყვება შედეგების დამუშავების შემდგომი ეტაპი გრაფიკული ალბათური მოდელის გამოყენებით (პირობითი შემთხვევითი ველი), რომელიც საშუალებას გაძლევთ ამოიღოთ მცირე ხმაური სეგმენტაციაში და გააუმჯობესოთ სეგმენტირებული გამოსახულების ხარისხი. უზარმაზარი სახელწოდების „გრაფიკული ალბათური მოდელის“ მიღმა იმალება ჩვეულებრივი გაუსის ფილტრი, რომელიც მიახლოებულია ხუთი პუნქტით.
• სცადა მოწყობილობის გარკვევა RafineDet (ერთჯერადი გასროლა სრულყოფანეირონული ქსელი ობიექტისთვის დეტექტივიექცია), მაგრამ ბევრი ვერ გავიგე.
• Также посмотрел, как работает технология «внимание» (attention): ვიდეო 1, ვიდეო 2, ვიდეო 3. "ყურადღების" არქიტექტურის გამორჩეული თვისებაა გამოსახულებაში გაზრდილი ყურადღების რეგიონების ავტომატური შერჩევა (RoI, Rმამუკა of Interest) ნერვული ქსელის გამოყენებით, რომელსაც ეწოდება ყურადღების განყოფილება. გაზრდილი ყურადღების ზონები მსგავსია შემოსაზღვრული ყუთებისა, მაგრამ მათგან განსხვავებით, ისინი არ ფიქსირდება სურათზე და შეიძლება ჰქონდეს ბუნდოვანი საზღვრები. შემდეგ, გაზრდილი ყურადღების რეგიონებიდან, იზოლირებულია ნიშნები (მახასიათებლები), რომლებიც "იკვებება" განმეორებადი ნერვული ქსელებით არქიტექტურით. LSDM, GRU ან ვანილის RNN. განმეორებად ნერვულ ქსელებს შეუძლიათ მახასიათებლების ურთიერთმიმართების თანმიმდევრობით გაანალიზება. განმეორებადი ნერვული ქსელები თავდაპირველად გამოიყენებოდა ტექსტის სხვა ენებზე თარგმნისთვის, ახლა კი თარგმნისთვის სურათები ტექსტში и ტექსტი სურათზე.

По мере изучения этих архитектур მივხვდი, რომ არაფერი მესმის. და ეს არ არის ის, რომ ჩემს ნერვულ ქსელს პრობლემები აქვს ყურადღების მექანიზმთან დაკავშირებით. ყველა ამ არქიტექტურის შექმნა რაღაც უზარმაზარ ჰაკათონს ჰგავს, სადაც ავტორები ერთმანეთს ეჯიბრებიან ჰაკებში. Hack არის სწრაფი გადაწყვეტა რთული პროგრამული პრობლემისთვის. ანუ არ არსებობს ხილული და გასაგები ლოგიკური კავშირი ყველა ამ არქიტექტურას შორის. ყველაფერი, რაც მათ აერთიანებს, არის ყველაზე წარმატებული ჰაკების ნაკრები, რომლებსაც ისინი ისესხებენ ერთმანეთისგან, პლუს საერთო ყველასათვის დახურული მარყუჟის კონვოლუციის ოპერაცია (შეცდომის უკან გავრცელება, უკანა გამრავლება). არა системного мышления! გაუგებარია რა უნდა შეიცვალოს და როგორ მოხდეს არსებული მიღწევების ოპტიმიზაცია.

ჰაკებს შორის ლოგიკური კავშირის არარსებობის შედეგად, მათი დამახსოვრება და პრაქტიკაში გამოყენება უკიდურესად რთულია. ეს არის ფრაგმენტული ცოდნა. საუკეთესო შემთხვევაში, რამდენიმე საინტერესო და მოულოდნელ მომენტს ახსოვს, მაგრამ გასაგები და გაუგებარი უმეტესობა რამდენიმე დღეში ქრება მეხსიერებიდან. კარგი იქნება თუ ერთ კვირაში არქიტექტურის სახელს მაინც გაიხსენებთ. მაგრამ რამდენიმე საათი და სამუშაო დღეც კი დაიხარჯა სტატიების კითხვასა და მიმოხილვის ვიდეოების ყურებაში!

სურათი 2 - ნერვული ქსელების ზოოპარკი

Большинство авторов научных статей, по моему личному мнению, делают все возможное, чтобы даже эти фрагментированные знания были не поняты читателем. Но деепричастные обороты в десяти строковых предложениях с формулами, которые взяты «с потолка» – это тема для отдельной статьи (проблема გამოქვეყნება ან დაღუპვა).

По этой причине появилась необходимость систематизировать информацию по нейросетям и, таким образом, увеличить качество понимания и запоминания. Поэтому основной темой разбора отдельных технологий и архитектур искусственных нейронных сетей стала следующая задача: გაარკვიე, სად მიდის ეს ყველაფერი, და არა ცალკე რომელიმე კონკრეტული ნერვული ქსელის მოწყობილობა.

სად მიდის ეს ყველაფერი? ძირითადი შედეგები:

• მანქანათმცოდნეობის სტარტაპების რაოდენობა ბოლო ორი წლის განმავლობაში მკვეთრად დაეცა. შესაძლო მიზეზი: "ნერვული ქსელები აღარ არის რაღაც ახალი".
• Каждый сможет создать работающую нейросеть для решения простой задачи. Для этого возьмет готовую модель из «зоопарка моделей» (model zoo) и натренирует последний слой нейросети (სწავლის გადაცემა) მზა მონაცემებზე Google Dataset Search ან 25 ათასი კაგლის მონაცემთა ნაკრები თავისუფალში ღრუბელი Jupyter Notebook.
• ნერვული ქსელების მსხვილმა მწარმოებლებმა დაიწყეს შექმნა "ზოოპარკის მოდელი" (model zoo). С помощью них можно быстро сделать коммерческое приложение: TF Hub для TensorFlow, MMDection PyTorch-ისთვის, დეტექტრონი Caffe2-ისთვის, ჯაჭვი-modelzoo ჩაინერისთვის და სხვები.
• ნერვული ქსელები მუშაობს რეალურ დროში (real-time) на мобильных устройствах. От 10 до 50 кадров в секунду.
• ნერვული ქსელების გამოყენება ტელეფონებში (TF Lite), ბრაუზერებში (TF.js) და საოჯახო ნივთები (IoT, Iინტერნეტი of Tჰინგები). განსაკუთრებით ტელეფონებში, რომლებიც უკვე უჭერენ მხარს ნერვულ ქსელებს აპარატურის დონეზე (ნერვული ამაჩქარებლები).
• „ყველა მოწყობილობას, ტანსაცმლის საგანს და, შესაძლოა, საკვებსაც კი ექნება IP-v6 მისამართი და დაუკავშირდით ერთმანეთს" - სებასტიან თრუნი.
• მანქანური სწავლების შესახებ პუბლიკაციების რაოდენობამ დაიწყო ზრდა გადააჭარბოს მურის კანონს (ორმაგდება ყოველ ორ წელიწადში) 2015 წლიდან. ცხადია, ჩვენ გვჭირდება ნერვული ქსელები სტატიების გასაანალიზებლად.
• შემდეგი ტექნოლოგიები პოპულარობას იძენს:
  • პიტორჩი - პოპულარობა სწრაფად იზრდება და, როგორც ჩანს, უსწრებს TensorFlow-ს.
  • ჰიპერპარამეტრების ავტომატური შერჩევა AutoML - პოპულარობა შეუფერხებლად იზრდება.
  • სიზუსტის თანდათანობითი შემცირება და გაანგარიშების სიჩქარის ზრდა: ბუნდოვანი ლოგიკა, ალგორითმები გაძლიერება, არაზუსტი (დაახლოებითი) გამოთვლები, კვანტიზაცია (როდესაც ნერვული ქსელის წონები გარდაიქმნება მთელ რიცხვებად და კვანტურდება), ნერვული ამაჩქარებლები.
  • თარგმანი სურათები ტექსტში и ტექსტი სურათზე.
  • შექმნა XNUMXD ობიექტები ვიდეოდან, ახლა რეალურ დროში.
  • DL-ში მთავარი ის არის, რომ ბევრი მონაცემია, მაგრამ მისი შეგროვება და მარკირება ადვილი არ არის. ამიტომ, მარკირების ავტომატიზაცია ვითარდება (ავტომატური ანოტაცია) ნერვული ქსელებისთვის, რომლებიც იყენებენ ნერვულ ქსელებს.
• С нейросетями Computer Science внезапно стала ექსპერიმენტული მეცნიერება და გაჩნდა რეპროდუქციულობის კრიზისი.
• ИТ-деньги и популярность нейросетей возникли одновременно, когда вычисления стали рыночной ценностью. Экономика из золотовалютной становится ოქრო-ვალუტა-გამოთვლა. იხილეთ ჩემი სტატია ეკონომიკა и причине появления IT-денег.

თანდათან ჩნდება ახალი ML/DL პროგრამირების მეთოდოლოგია (Machine Learning & Deep Learning), რომელიც დაფუძნებულია პროგრამის წარმოდგენაზე, როგორც მომზადებული ნერვული ქსელის მოდელების ნაკრები.

სურათი 3 – ML/DL, როგორც პროგრამირების ახალი მეთოდოლოგია

თუმცა, ის არასოდეს გამოჩნდა "ნერვული ქსელის თეორია", რომლის ფარგლებშიც შეგიძლიათ სისტემატურად იფიქროთ და იმუშაოთ. რასაც ახლა „თეორიას“ უწოდებენ, სინამდვილეში არის ექსპერიმენტული, ევრისტიკული ალგორითმები.

ბმულები ჩემს და სხვა რესურსებზე:

• მონაცემთა მეცნიერების საინფორმაციო ბიულეტენი. ძირითადად გამოსახულების დამუშავება. ვისაც მისი მიღება უნდა, გამოაგზავნოთ მეილი (foobar167<gaf-gaf>gmail<dot>com). მასალის დაგროვებისთანავე ვაგზავნი სტატიებისა და ვიდეოების ბმულებს.
• ზოგადი კურსებისა და სტატიების სიარომელიც ჩავაბარე და რომლის ჩაბარებაც მინდა.
• კურსები და ვიდეოები დამწყებთათვის, с которых стоит начинать изучать нейросети. Плюс брошюра "შესავალი მანქანათმცოდნეობაში და ხელოვნურ ნერვულ ქსელებში".
• სასარგებლო ინსტრუმენტები, სადაც ყველა თავისთვის იპოვის რაიმე საინტერესოს.
• ჩვენ აღმოვაჩინეთ, რომ ისინი ძალიან სასარგებლოა. ვიდეო არხები სამეცნიერო სტატიების ანალიზისთვის მონაცემთა მეცნიერების მიერ. იპოვეთ, გამოიწერეთ ისინი და გადაეცით ლინკები თქვენს კოლეგებს და მეც. მაგალითები:
  • ორი წუთიანი ნაშრომები
  • ჰენრი AI ლაბორატორიები
  • იანიკ კილჩერი
  • CodeEmporium
  • ბლოგი Chengwei Zhang აკა Tony607 ნაბიჯ-ნაბიჯ ინსტრუქციებით და ღია კოდით.

დიდი მადლობა!

წყარო: www.habr.com