ProHoster > Blog > talafou initaneti > Neural networks. O fea e alu i ai nei mea uma?

Neural networks. O fea e alu i ai nei mea uma?

E lua vaega o le tusiga:

  1. O se faʻamatalaga puupuu o nisi fausaga fesoʻotaʻiga mo le suʻeina o mea faitino i ata ma le vaeluaga o ata ma fesoʻotaʻiga sili ona malamalama i punaoa mo aʻu. Sa ou taumafai e filifili faʻamatalaga vitio ma sili i le gagana Rusia.
  2. O le vaega lona lua o se taumafaiga e malamalama i le itu o le atinaʻeina o fausaga fesoʻotaʻiga neural. Ma tekonolosi faʻavae i luga o latou.

Neural networks. O fea e alu i ai nei mea uma?

Ata 1 – E le faigofie le malamalama ile fausaga o feso'ota'iga neural

Na amata uma i le faia o ni talosaga faʻataʻitaʻiga se lua mo le faʻavasegaina o mea faitino ma le suʻesuʻeina i luga o se telefoni Android:

  • Tu'u tua demo, pe a faʻatautaia faʻamaumauga i luga o le 'auʻaunaga ma tuʻuina atu i le telefoni. Fa'avasegaina ata o ituaiga e tolu o urosa: enaena, uliuli ma teddy.
  • Fa'aaliga pito i lumape a faʻatautaia faʻamaumauga i luga o le telefoni lava ia. Su'esu'eina o mea faitino (su'esu'eina mea) e tolu ituaiga: hazelnuts, mati ma aso.

O loʻo i ai se eseesega i le va o galuega o le faʻavasegaina o ata, suʻesuʻega mea faitino i se ata ma vaevaega ata. O le mea lea, sa i ai se mana'oga e su'e po'o fea neural network architectures e iloa mea i ata ma po'o fea e mafai ona vaelua. Na ou mauaina faʻataʻitaʻiga nei o tusiata faʻatasi ma fesoʻotaʻiga sili ona malamalama i punaoa mo aʻu:

  • Se fa'asologa o fausaga fa'avae ile R-CNN (Ritulagi ma Convolution Neural Nfa'ailoga feso'ota'iga): R-CNN, R-CNN Anapogi, Saosaoa R-CNN, Ufiufi R-CNN. Ina ia iloa se mea i totonu o se ata, o pusa faʻapipiʻi e tuʻufaʻatasia e faʻaaoga ai le Region Proposal Network (RPN). I le taimi muamua, sa fa'aogaina le masini Su'esu'e Fa'agesegese nai lo le RPN. Ona fafagaina lea o vaega fa'atapula'a ua filifilia i le fa'aogaina o se feso'ota'iga neural masani mo le fa'avasegaina. O le fausaga R-CNN o loʻo i ai faʻamatalaga manino "mo" i luga o vaega faʻatapulaʻaina, e oʻo atu i le 2000 o loʻo faʻaogaina i totonu ole fesoʻotaiga i totonu ole AlexNet. O fa'amaufa'ailoga manino "mo" fa'agesegese le saoasaoa o ata. O le numera o faʻamaufaʻailoga manino o loʻo taʻavale i totonu o le neural network e faʻaitiitia i faʻasalalauga fou taʻitasi o le fausaga, ma le tele o isi suiga e faia foi e faʻateleina ai le saoasaoa ma suia ai le galuega o le suʻeina o mea i le vaega o mea i Mask R-CNN.
  • YOLO (You Only Lalu Once) o le fesoʻotaʻiga neural muamua lea e iloa ai mea i le taimi moni i luga o masini feaveaʻi. Fa'ailoga uiga ese: fa'ailoga mea faitino i le ta'aloga e tasi (na'o le va'ai tasi). O lona uiga, i le YOLO architecture e leai ni faʻamatalaga manino "mo", o le mea lea e vave ai ona galue le fesoʻotaʻiga. Mo se faʻataʻitaʻiga, o lenei faʻataʻitaʻiga: i NumPy, pe a faʻatino galuega ma matrices, e leai foi ni faʻamatalaga manino "mo", lea i NumPy o loʻo faʻatinoina i tulaga maualalo o le fausaga e ala i le gagana polokalame C. E faʻaaogaina e le YOLO se faʻasologa o faʻamalama faʻamalama. Ina ia puipuia le mea lava e tasi mai le faʻamalamalamaina faʻatele, e faʻaaogaina le faʻamalama faʻamalama (IoU). Ifetaulaiga oVer Union). O lenei fausaga e galue i luga o se lautele lautele ma maualuga malosi: E mafai ona a'oa'oina se fa'ata'ita'iga i ata ae o lo'o fa'atino lelei i ata vali lima.
  • SSD (Smalamalama Svevela MultiBox Detector) - o le "hacks" sili ona manuia o le fausaga a le YOLO e faʻaaogaina (mo se faʻataʻitaʻiga, e le o le maualuga o le taofiofia) ma o mea fou e faʻaopoopoina e faʻaoga vave ai le fesoʻotaʻiga neural ma sili atu ona saʻo. Fa'ailoga uiga ese: fa'avasegaina o mea i le ta'aloga e tasi e fa'aaoga ai se fa'asologa o fa'amalama (pusa fa'aletonu) i luga o le ata. O le ata pyramid o lo'o fa'ailogaina i le fa'alavelave fa'atasi e ala i le fa'asolosolo fa'asolosolo ma le fa'aputuga fa'agaioiga (fa'atasi ai ma le fa'aogaina o le tele o le fa'aputuga, fa'aitiitia le fua fa'avanoa). I lenei auala, o mea tetele ma mea laiti e fuafuaina i le tasi fesoʻotaiga.
  • MobileSSD (ma gāeʻeNetV2+ SSD) o se tu'ufa'atasiga o fausaga feso'ota'iga neural e lua. Fesootaiga muamua MobileNetV2 galue vave ma faʻateleina le saʻo saʻo. MobileNetV2 o loʻo faʻaogaina nai lo le VGG-16, lea na faʻaaoga muamua i ulua'i tusitusiga. Ole fesoʻotaʻiga SSD lona lua e fuafua ai le nofoaga o mea i le ata.
  • SqueezeNet - o se fesoʻotaʻiga neural laʻititi ae saʻo. Na o ia lava, e le foia ai le faafitauli o le mauaina o mea. Ae ui i lea, e mafai ona faʻaaogaina i se tuufaatasiga o fausaga eseese. Ma faʻaaogaina i masini feaveaʻi. O le uiga fa'apitoa o fa'amaumauga o lo'o fa'apipi'iina muamua i totonu ole fa 1 × 1 fa'amuta fa'asili ona fa'alauteleina lea i le fa 1 × 1 ma le fa 3 × 3 fa'amaufa'ailoga filiga. O se tasi o su'esu'ega o fa'amatalaga fa'aopoopo-fa'alautele ua ta'ua o le "Fire Module".
  • DeepLab (Semantic Image Segmentation with Deep Convolutional Nets) - vaevaega o mea faitino i le ata. O se vaega fa'apitoa o le fausaga o le fa'apalapala fa'atasi, lea e fa'asaoina ai le fa'afanua fa'afanua. O loʻo sosoʻo ai ma se faʻasologa o le faʻasologa o taunuʻuga e faʻaaoga ai se faʻataʻitaʻiga faʻataʻitaʻi faʻataʻitaʻi (conditional random field), lea e mafai ai e oe ona aveese le pisapisao laiti i le vaeluaga ma faʻaleleia le lelei o le ata vaeluaga. I tua atu o le igoa mataʻutia "faʻataʻitaʻiga faʻataʻitaʻi faʻataʻitaʻi" o loʻo natia ai se faamama Gaussian masani, lea e faʻatatau i le lima togi.
  • Sa taumafai e iloa le masini RefineDet (Pu'ega Tasi faʻamamāment Neural Network mo Mea Talavaega), ae sa ou le malamalama tele.
  • Na ou vaʻavaʻai foʻi pe faʻafefea ona galue le tekinolosi "matauina": vitiō1, vitiō2, vitiō3. O se vaega tulaga ese o le fausaga o le "matauina" o le filifilia otometi o itulagi o le faateleina o le gauai i le ata (RoI, Ritulagi of Itului) fa'aaogaina se neural network e ta'ua o le Attention Unit. Itulagi o le faʻalauteleina o le gauai e talitutusa ma pusa faʻapipiʻi, ae e le pei oi latou, e le o faʻamautu i le ata ma atonu e faʻanenefu tuaoi. Ma, mai itulagi o loʻo faʻateleina le gauai, faʻailoga (foliga) e vavae ese, lea e "fafaga" i fesoʻotaʻiga neural faifaipea ma faʻataʻitaʻiga. LSDM, GRU poʻo Vanila RNN. O fesoʻotaʻiga neural faifaipea e mafai ona suʻeina le sootaga o foliga i se faasologa. O feso'ota'iga neural faifaipea na fa'aaoga muamua e fa'aliliu ai tusitusiga i isi gagana, ae o lea ua fa'aliliu ata i tusitusiga и tusitusiga i ata.

A o matou su'esu'eina nei fausaga Na ou iloaina ou te le malamalama i se mea. Ma e le faapea o laʻu fesoʻotaʻiga neural e iai faʻafitauli i le masini faʻalogo. O le fausiaina o nei fausaga uma e pei o se ituaiga hackathon tele, lea e tauva ai tusitala i hacks. Hack o se fofo vave i se faafitauli faigata polokalama. O lona uiga, e leai se va'aia ma malamalama lelei feso'ota'iga i le va o nei fausaga uma. Pau lava le mea e tuʻufaʻatasia ai i latou o se seti o hacks sili ona manuia latou te nono mai le tasi i le isi, faʻatasi ai ma se mea masani mo tagata uma. tapuni tapuni fa'agaoioi (sese backpropagation, backpropagation). Leai faiga mafaufau! E le o manino le mea e sui ma pe faʻafefea ona faʻamalieina taunuʻuga o loʻo iai.

O se taunuuga o le leai o se fesoʻotaʻiga talafeagai i le va o hacks, e matua faigata lava ona manatua ma faʻaoga i le faʻatinoga. O le malamalama vaevae lea. I le mea sili, o nai taimi manaia ma e leʻi mafaufauina e manatua, ae o le tele o mea e malamalama ma le malamalama e mou atu mai le mafaufau i totonu o nai aso. O le a lelei pe afai i le vaiaso e te manatua ai le igoa ole fausaga. Ae o le tele o itula ma e oʻo lava i aso faigaluega na faʻaaluina e faitau ai tala ma matamata i ata vitio!

Neural networks. O fea e alu i ai nei mea uma?

Ata 2 – Zoo o Fesootaiga Neural

O le tele o tusitala o tala faʻasaienisi, i loʻu lava manatu, latou te faia mea uma e mafai ai e faʻamautinoa ai e oʻo lava i lenei malamalama faʻavae e le o malamalama i ai le tagata faitau. Ae o fuaitau faʻapitoa i laina laina e sefulu ma fua faʻatatau e ave "mai le ea manifinifi" o se autu mo se isi tusiga (faʻafitauli lolomi pe fano).

Mo lenei mafuaʻaga, e manaʻomia le faʻatulagaina o faʻamatalaga e faʻaaoga ai neural networks ma, faʻapea, faʻateleina le lelei o le malamalama ma le taulotoina. O le mea lea, o le autu autu o le auʻiliʻiliga o tekinolosi taʻitasi ma fausaga o fesoʻotaʻiga neural faakomepiuta o le galuega lenei: su'e po'o fea e alu i ai, ae le o le masini o so'o se neural network fa'apitoa.

O fea e alu i ai nei mea uma? I'uga autu:

  • Numera o masini a'oa'oga amata ile lua tausaga talu ai pa'u malosi. Mafuaaga talafeagai: "neural networks ua le o toe fou."
  • Soʻo se tasi e mafai ona fatuina se fesoʻotaʻiga neural galue e foia ai se faʻafitauli faigofie. Ina ia faia lenei mea, ave se faʻataʻitaʻiga saunia mai le "model zoo" ma toleni le vaega mulimuli o le neural network (faaliliuina aʻoaʻoga) i luga o fa'amaumauga ua saunia mai Google Su'esu'ega Fa'amaumauga pe mai 25 afe fa'amaumauga a Kaggle i le saoloto Cloud Jupyter Notebook.
  • O le tele o gaosiga o fesoʻotaʻiga neural na amata ona fausia "fa'ata'ita'iga pa manu" (faata'ita'i pa manu). O le fa'aaogaina o ia mea e mafai ona e faia vave ai se talosaga fa'apisinisi: TF Nofoaga mo TensorFlow, MMDetection mo PyTorch, Su'esu'e mo Caffe2, chainer-modelzoo mo Chainer ma fatu.
  • Neural networks o loʻo galue i totonu moni taimi (taimi moni) i luga o masini feaveai. Mai le 10 i le 50 faavaa i le sekone.
  • Le fa'aogaina o feso'ota'iga neural i telefoni (TF Lite), i su'esu'ega (TF.js) ma totonu meafale (IoT, Ipo of Tmea). Aemaise lava i telefoni ua uma ona lagolagoina neural networks i le tulaga o meafaigaluega (neural accelerators).
  • “O masini uma, mea o lavalava, ma atonu foi o meaai o le ai ai tuatusi IP-v6 ma talanoa le tasi i le isi" - Sebastian Thrun.
  • Ole numera o fa'asalalauga ile a'oa'oga masini ua amata fa'atupula'ia e sili atu i le tulafono a Moore (faaluaina i le lua tausaga) talu mai le 2015. E manino lava, matou te manaʻomia fesoʻotaʻiga neural mo le suʻeina o tala.
  • O tekinolosi nei ua maua le lauiloa:
    • PyTorch - taʻutaʻua o loʻo faʻatupulaia vave ma e foliga mai o loʻo faʻaogaina TensorFlow.
    • Filifiliga otometi o hyperparameters AutoML - lauiloa o loʻo tupu sologa lelei.
    • Fa'aitiitia malie le sa'o ma fa'ateleina le saoasaoa fa'atatau: manatu fuzzy, algorithms fa'ateleina, fa'atatau (tulaga) fa'atatau, quantization (pe a fa'aliliuina le mamafa o feso'ota'iga neural i numera numera ma fa'atusatusa), fa'avavevave neural.
    • Faaliliuga ata i tusitusiga и tusitusiga i ata.
    • Fausia Meafaitino XNUMXD mai le vitio, i le taimi nei i le taimi moni.
    • O le mea autu e uiga i le DL o le tele o faʻamaumauga, ae o le aoina ma le faʻailoga e le faigofie. O le mea lea, o loʻo atinaʻe le faʻaogaina o masini (fa'amatalaga otometi) mo fesoʻotaʻiga neural e faʻaogaina ai fesoʻotaʻiga neural.
  • Faatasi ai ma neural networks, na faʻafuaseʻi ona avea Saienisi Faakomepiuta faasaienisi faataitai ona tulai ai lea fa'alavelave toe gaosia.
  • O tupe IT ma le lauiloa o fesoʻotaʻiga neural na aliaʻe i le taimi e tasi ina ua avea faʻamatalaga ma tau maketi. O le tamaoaiga o loʻo suia mai le tamaoaiga auro ma tupe i auro-tupe-computing. Va'ai la'u tala ile fa'atamaoaiga ma le mafuaʻaga o le faʻaalia o tupe IT.

E faasolosolo malie ona aliali mai se mea fou ML/DL faiga polokalame (Machine Learning & Deep Learning), lea e faʻavae i luga o le sui o le polokalame o se seti o faʻataʻitaʻiga fesoʻotaʻiga neural aʻoaʻoina.

Neural networks. O fea e alu i ai nei mea uma?

Ata 3 – ML/DL ose faiga polokalame fou

Peitai, e lei aliali mai lava "teori network neural", i totonu e mafai ai ona e mafaufau ma galue faʻatulagaina. O le mea ua taʻua nei o le "aʻoaʻoga" o le faʻataʻitaʻiga moni, heuristic algorithms.

So'oga i a'u ma isi punaoa:

Faafetai mo lau gauai!

puna: www.habr.com

Faaopoopo i ai se faamatalaga