Tambajotra neural. Mankaiza izao rehetra izao?

Mizara roa ny lahatsoratra:

  1. Famaritana fohy momba ny rafitra tambajotra sasany ho an'ny fitadiavana zavatra amin'ny sary sy fizarana sary miaraka amin'ny rohy azo takarina indrindra amin'ny loharano ho ahy. Niezaka nisafidy fanazavana video aho ary indrindra tamin'ny teny Rosiana.
  2. Ny tapany faharoa dia fiezahana hahatakatra ny lalan'ny fivoaran'ny rafitry ny tambajotra neural. Ary ny teknolojia mifototra amin'izy ireo.

Tambajotra neural. Mankaiza izao rehetra izao?

Sary 1 - Tsy mora ny mahatakatra ny rafitry ny tambajotra neural

Izany rehetra izany dia nanomboka tamin'ny fanaovana rindranasa demo roa ho an'ny fanasokajiana sy fitadiavana zavatra amin'ny telefaona Android:

  • Demo farany, rehefa voahodina ao amin'ny mpizara ny angona ary ampitaina amin'ny telefaona. Fanasokajiana sary misy karazana orsa telo: volontany, mainty ary Teddy.
  • Demo eo anoloanarehefa ny angon-drakitra dia nokarakaraina amin'ny finday mihitsy. Fikarohana zavatra (object detection) misy karazany telo: hazelnut, aviavy ary daty.

Misy fahasamihafana eo amin'ny asan'ny fanasokajiana sary, ny fitadiavana zavatra amin'ny sary ary fizarana sary. Noho izany, ilaina ny mamantatra hoe iza amin'ireo rafitry ny tambajotra neural no mahita zavatra amin'ny sary ary iza no afaka mizara. Nahita ireto ohatra manaraka ireto momba ny maritrano misy rohy azo takarina indrindra ho ahy aho:

  • Andian-drafitra mifototra amin'ny R-CNN (Rfaritra misy Convolution Neural Nendri-javatra etworks): R-CNN, R-CNN haingana, R-CNN haingana kokoa, Mask R-CNN. Mba hamantarana zavatra iray amin'ny sary iray, dia atokana ireo boaty mifamatotra amin'ny alΓ lan'ny mekanika Region Proposal Network (RPN). Tamin'ny voalohany, ny mekanika Selective Search miadana kokoa no nampiasaina fa tsy RPN. Avy eo ireo faritra voafetra voafantina dia omena amin'ny fidirana amin'ny tambajotra neural mahazatra ho an'ny fanasokajiana. Ny maritrano R-CNN dia manana tadivavarana "ho an'ny" mazava amin'ny faritra voafetra, mitentina hatramin'ny 2000 mandeha amin'ny tambajotra anatiny AlexNet. Ny tadivavarana "ho an'ny" mazava dia mampiadana ny hafainganan'ny fanodinana sary. Mihena ny isan'ny tadivavarana mibaribary amin'ny tambazotra neural anatiny miaraka amin'ny kinova vaovaon'ny maritrano tsirairay, ary fanovana am-polony hafa no atao mba hampitombo ny hafainganam-pandeha sy hanoloana ny asa fitadiavana zavatra amin'ny fizarana zavatra ao amin'ny Mask R-CNN.
  • YOLO (You Only LOok Once) no tambajotra neural voalohany nahafantatra zavatra amin'ny fotoana tena izy amin'ny fitaovana finday. Endri-javatra miavaka: manavaka zavatra amin'ny hazakazaka iray (jereo indray mandeha). Izany hoe, ao amin'ny maritrano YOLO dia tsy misy loop "ho an'ny" mazava, izany no mahatonga ny tambajotra miasa haingana. Ohatra, ity fanoharana ity: ao amin'ny NumPy, rehefa manao asa miaraka amin'ny matrices, dia tsy misy ihany koa ny tadivavarana "ho an'ny" mazava, izay ao amin'ny NumPy dia ampiharina amin'ny ambaratonga ambany kokoa amin'ny maritrano amin'ny alΓ lan'ny fiteny fandaharana C. YOLO dia mampiasa rindran-damina misy varavarankely efa voafaritra mialoha. Mba tsy hamaritana imbetsaka ilay zavatra mitovy, dia ampiasaina ny coefficient overlap window (IoU). IFihaonan-dalana oVer Union). Ity maritrano ity dia miasa amin'ny sehatra midadasika ary manana avo tanjaka: Ny maodely dia azo ampiofanina amin'ny sary nefa mbola miasa tsara amin'ny sary hoso-doko.
  • SSD (Samin'ny teta Smafana MultiBox Detector) - ny "hacks" mahomby indrindra amin'ny maritrano YOLO dia ampiasaina (ohatra, ny fanafoanana tsy ambony indrindra) ary ny vaovao dia ampiana mba hahatonga ny tambajotra neural miasa haingana kokoa sy marina kokoa. Endri-javatra miavaka: manavaka zavatra amin'ny hazakazaka iray amin'ny alΓ lan'ny rindran-damba misy varavarankely (boaty default) amin'ny piramida sary. Ny piramida sary dia voasivana amin'ny tensor convolution amin'ny alΓ lan'ny fampandehanana fifandimbiasana sy famoriam-bola (miaraka amin'ny hetsika famoriam-bola ambony indrindra, mihena ny haben'ny habaka). Amin'izany fomba izany, ny zavatra lehibe sy kely dia voafaritra ao anaty tambajotra iray.
  • MobileSSD (MobileNetV2+ SSD) dia fitambaran'ny rafitra tambajotra neural roa. Tambajotra voalohany MobileNetV2 miasa haingana ary mampitombo ny fahamarinan'ny fanekena. MobileNetV2 no ampiasaina fa tsy VGG-16, izay nampiasaina tany am-boalohany lahatsoratra tany am-boalohany. Ny tambajotra SSD faharoa dia mamaritra ny toerana misy ny zavatra ao amin'ny sary.
  • SqueezeNet - tambajotra neural kely nefa marina. Amin'ny tenany ihany, tsy mamaha ny olan'ny fitadiavana zavatra. Na izany aza, dia azo ampiasaina amin'ny fitambaran'ny architectures isan-karazany. Ary ampiasaina amin'ny fitaovana finday. Ny endri-javatra miavaka dia ny angon-drakitra dia voaporitra voalohany amin'ny sivana convolutional 1 Γ— 1 efatra ary avy eo nitarina ho sivana convolutional 1 Γ— 1 sy efatra 3 Γ— 3 efatra. Iray amin'izany ny fanerena ny fanitarana data dia antsoina hoe "Module afo".
  • DeepLab (Semantic Image Segmentation with Deep Convolutional Nets) - fizarazarana ny zavatra ao amin'ny sary. Ny endri-javatra miavaka amin'ny maritrano dia ny convolution dilated, izay mitahiry ny famahana ny habakabaka. Izany dia arahin'ny dingana aorian'ny fanodinana ny valiny amin'ny fampiasana modely mety amin'ny grafika (sahan'ny kisendrasendra misy fepetra), izay ahafahanao manala ny tabataba kely amin'ny fizarana ary manatsara ny kalitaon'ny sary voazara. Ao ambadiky ny anarana mahatahotra "modely probabilistika sary" dia manafina sivana Gaussian mahazatra, izay tombanana amin'ny teboka dimy.
  • Niezaka ny hamantatra ny fitaovana RefineDet (Tokan-tokana RefineNetwork Neural for Object Theection), saingy tsy azoko loatra.
  • Nojereko ihany koa ny fomba fiasan'ny teknolojia "attention": video1, video2, video3. Ny endri-javatra miavaka amin'ny maritrano "attention" dia ny fifantenana mandeha ho azy amin'ny faritra mitombo ny fifantohana amin'ny sary (RoI, Rfaritra of IInterest) mampiasa tambajotra neural antsoina hoe Attention Unit. Ny faritra itomboan'ny fifantohana dia mitovy amin'ny boaty mifamatotra, saingy tsy mitovy amin'izy ireo, tsy raikitra amin'ny sary izy ireo ary mety manana sisintany manjavozavo. Avy eo, avy amin'ny faritra misy fifantohana bebe kokoa, dia mitoka-monina ny famantarana (endri-javatra), izay "ampiana" amin'ny tambajotra neural miverimberina miaraka amin'ny maritrano. LSDM, GRU na Vanilla RNN. Ny tambajotra neural miverimberina dia afaka mandinika ny fifandraisan'ireo endri-javatra amin'ny filaharana. Tambajotra neural miverimberina no nampiasaina voalohany handikana lahatsoratra ho amin'ny fiteny hafa, ary ankehitriny ho an'ny fandikana sary ho lahatsoratra ΠΈ lahatsoratra ho sary.

Rehefa mandinika ireo maritrano ireo isika Tsapako fa tsy azoko na inona na inona. Ary tsy hoe manana olana amin'ny mekanika fifantohana ny tambajotra neural-ko. Ny famoronana ireo maritrano rehetra ireo dia toy ny karazana hackathon goavana, izay hifaninanan'ny mpanoratra amin'ny hacks. Hack dia vahaolana haingana amin'ny olan'ny rindrambaiko sarotra. Izany hoe, tsy misy fifandraisana lojika hita sy azo takarina eo amin'ireo maritrano rehetra ireo. Ny hany mampiray azy ireo dia andiana hacks mahomby indrindra izay indraminy amin'ny tsirairay, miampy iray mahazatra ho an'ny rehetra. fandidiana convolution mihidy (error backpropagation, backpropagation). tsy misy rafitra fisainana! Tsy fantatra mazava izay tokony hovaina sy ny fomba hanatsarana ny zava-bita efa misy.

Vokatry ny tsy fisian'ny fifandraisana lojika eo amin'ny hacks dia tena sarotra ny mitadidy sy mampihatra azy ireo amin'ny fampiharana. Fahalalana zarazaraina izany. Raha tsara indrindra dia tsaroana ireo fotoana mahaliana sy tsy ampoizina, fa ny ankamaroan'ny zavatra takatra sy tsy takatry ny saina dia manjavona ao anatin'ny andro vitsivitsy. Ho tsara raha ao anatin'ny herinandro dia mahatsiaro farafaharatsiny ny anaran'ny maritrano. Saingy ora maromaro sy andro fiasana mihitsy aza no lany namaky lahatsoratra sy nijery horonan-tsary famerenana!

Tambajotra neural. Mankaiza izao rehetra izao?

Sary 2 – Zoo an'ny tambajotra neural

Ny ankamaroan'ny mpanoratra lahatsoratra ara-tsiansa, raha ny hevitro manokana, dia manao izay rehetra azo atao mba hahazoana antoka fa na dia io fahalalana sombintsombiny io aza dia tsy azon'ny mpamaky. Fa ny andian-teny mandray anjara amin'ny fehezanteny andalana folo miaraka amin'ny raikipohy izay nalaina "avy amin'ny rivotra manify" dia lohahevitra ho an'ny lahatsoratra misaraka (olana avoaka na ho very).

Noho izany antony izany dia ilaina ny mandamina ny vaovao amin'ny alΓ lan'ny tambajotra neural ary, noho izany, mampitombo ny kalitaon'ny fahatakarana sy ny fitadidiana. Noho izany, ny foto-kevitra fototra amin'ny famakafakana ny teknolojia tsirairay sy ny rafitry ny tambajotra neural artifisialy dia izao asa manaraka izao: fantaro ho aiza daholo izany, fa tsy ny fitaovan'ny tambajotra neural manokana mitokana.

Mankaiza daholo izany? Vokatra lehibe:

  • Isan'ny fanombohana fianarana milina tao anatin'ny roa taona farany nianjera mafy. Antony mety hitranga: "Tsy zava-baovao intsony ny tambajotra neural."
  • Na iza na iza dia afaka mamorona tambajotra neural miasa hamaha olana tsotra. Mba hanaovana izany, makΓ  modely efa vita avy amin'ny "model zoo" ary ampio ny sosona farany amin'ny tambajotra neural (famindram-pianarana) amin'ny angona efa vita avy amin'ny Google Dataset Search na avy any Takelaka data Kaggle 25 amin'ny maimaim-poana rahona Jupyter Notebook.
  • Nanomboka namorona ireo mpanamboatra tambajotra neural lehibe "modely zoos" (modely zoo). Amin'ny fampiasana azy ireo dia afaka mamorona fampiharana ara-barotra haingana ianao: TF Hub ho an'ny TensorFlow, MMDetection ho an'ny PyTorch, Detectron ho an'ny kafe 2, chainer-modelzoo ho an'ny Chainer sy Π΄Ρ€ΡƒΠ³ΠΈΠ΅.
  • Tambajotra neural miasa ao amin'ny fotoana katroka (fotoana tena izy) amin'ny fitaovana finday. Avy amin'ny sary 10 ka hatramin'ny 50 isan-tsegondra.
  • Ny fampiasana tambajotra neural amin'ny finday (TF Lite), amin'ny navigateur (TF.js) ary amin'ny kojakoja ao an-tokantrano (IoT, Iaterineto of Things). Indrindra fa amin'ny finday efa manohana tambajotra neural amin'ny haavon'ny hardware (neural accelerators).
  • β€œNy fitaovana rehetra, ny akanjo, ary angamba na ny sakafo aza dia hanana adiresy IP-v6 ary mifampiresaka" - Sebastian Thrun.
  • Nanomboka nitombo ny isan'ny boky momba ny fianarana milina mihoatra ny lalΓ n'i Moore (mitombo avo roa heny isaky ny roa taona) nanomboka ny taona 2015. Mazava ho azy fa mila tambajotra neural izahay handinihana lahatsoratra.
  • Mahazo laza ireto teknolojia manaraka ireto:
    • PyTorch – mitombo haingana ny laza ary toa mihoatra ny TensorFlow.
    • Fifidianana mandeha ho azy ny hyperparameter AutoML – mihamitombo ny lazany.
    • Mihena tsikelikely ny fahitsiana ary mampitombo ny hafainganam-pandehan'ny kajy: lojika manjavozavo, algorithms mampitombo, kajy tsy marina (tombany), quantization (rehefa niova ho integers sy quantized ny lanjan'ny tambazotra neural), accelerators neural.
    • fandikan-teny sary ho lahatsoratra ΠΈ lahatsoratra ho sary.
    • zavaboary Zavatra XNUMXD avy amin'ny horonan-tsary, amin'izao fotoana izao.
    • Ny tena zava-dehibe amin'ny DL dia ny fisian'ny angon-drakitra be dia be, saingy tsy mora ny fanangonana sy fametahana azy io. Noho izany, mivoatra ny automation markup (fanontana mandeha ho azy) ho an'ny tambajotra neural mampiasa tambajotra neural.
  • Miaraka amin'ny tambajotra neural, nanjary tampoka ny Siansa Informatika siansa andrana ary nitsangana krizy reproducibility.
  • Ny vola IT sy ny lazan'ny tambajotra neural dia nipoitra niaraka rehefa lasa sandan'ny tsena ny informatika. Ny toe-karena dia miova avy amin'ny toe-karena volamena sy vola ho volamena-vola-kajy. Jereo ny lahatsoratro momba ny ekonomika ary ny anton'ny fisehoan'ny vola IT.

Mipoitra tsikelikely ny vaovao Fomba fandaharana ML/DL (Machine Learning & Deep Learning), izay mifototra amin'ny fanehoana ny fandaharana ho toy ny andian-tambajotra neural voaofana.

Tambajotra neural. Mankaiza izao rehetra izao?

Sary 3 – ML/DL ho fomba fiasa vaovao

Tsy niseho mihitsy anefa izany "teoria neural network", izay ahafahanao mieritreritra sy miasa ara-dalΓ na. Ny antsoina ankehitriny hoe "teoria" dia algorithm andrana, heuristic.

Rohy mankany amin'ny loharanoko sy ny hafa:

Fidio ny Fiteninao

Source: www.habr.com

Add a comment