Artikuluak bi zati ditu:
- Irudietan objektuak hautemateko eta irudien segmentaziorako sare-arkitektura batzuen deskribapen laburra, baliabideetarako esteka ulergarrienekin niretzat. Bideo azalpenak aukeratzen saiatu naiz eta hobe errusieraz.
- Bigarren zatia neurona-sare-arkitekturen garapenaren nondik norakoak ulertzeko saiakera da. Eta horietan oinarritutako teknologiak.
1. Irudia - Sare neuronaleko arkitekturak ulertzea ez da erraza
Dena Android telefono batean objektuak sailkatzeko eta detektatzeko bi demo aplikazio eginez hasi zen:
- , datuak zerbitzarian prozesatzen direnean eta telefonora transmititzen direnean. Hiru hartz motaren irudien sailkapena: marroia, beltza eta pelutxea.
- datuak telefonoan bertan prozesatzen direnean. Hiru motatako objektuak hautematea (objektuen detekzioa): hurrak, pikuak eta datilak.
Desberdintasuna dago irudien sailkapenaren, irudi batean objektuak hautematearen eta . Hori dela eta, jakin beharra zegoen zein sare neuronaleko arkitekturak detektatzen dituzten objektuak irudietan eta zeintzuk segmentatu ditzaketen. Baliabideetarako esteka ulergarrienak dituzten arkitektura adibide hauek aurkitu ditut:
- R-CNNn oinarritutako arkitektura sorta bat (Rduten eskualdeak Conboluzioa Neural Networks ezaugarriak): R-CNN, R-CNN azkarra, , . Irudi batean objektu bat detektatzeko, muga-koadroak esleitzen dira Region Proposal Network (RPN) mekanismoa erabiliz. Hasieran, Selective Search mekanismo motelagoa erabili zen RPNren ordez. Ondoren, hautatutako eskualde mugatuak ohiko sare neuronal baten sarrerara elikatzen dira sailkatzeko. R-CNN arkitekturak "for" begizta esplizituak ditu eskualde mugatuetan, guztira 2000 exekuzioraino AlexNet barne sarearen bidez. "For" begizta esplizituek irudiak prozesatzeko abiadura moteltzen dute. Barne sare neuronalean zehar ibiltzen diren begizta esplizituen kopurua murrizten da arkitekturaren bertsio berri bakoitzean, eta beste dozenaka aldaketa egiten dira abiadura handitzeko eta objektuak detektatzeko zeregina Mask R-CNN-n objektuen segmentazioarekin ordezkatzeko.
- (You On bakarrik LEra berean, Once) gailu mugikorretan objektuak denbora errealean ezagutzen zituen lehen neurona-sarea da. Ezaugarri bereizgarria: objektuak lasterketa batean bereiztea (begiratu behin). Hau da, YOLO arkitekturan ez dago "for" begizta espliziturik, horregatik sareak azkar funtzionatzen du. Adibidez, analogia hau: NumPyn, matrizeekin eragiketak egitean, ez dago βforβ begizta espliziturik ere, NumPyn arkitekturaren beheko mailetan inplementatzen direnak C programazio-lengoaiaren bidez.YOLOk aurrez definitutako leihoen sareta erabiltzen du. Objektu bera behin baino gehiagotan definitu ez dadin, leihoen gainjartze koefizientea (IoU) erabiltzen da. Ibidegurutzea oikusi Union). Arkitektura honek sorta zabalean funtzionatzen du eta altua du : Modelo bat argazkietan treba daiteke, baina eskuz marraztutako margoetan ondo funtzionatzen du.
- (SIngle SMultiBox beroa Detector) - YOLO arkitekturaren "hack" arrakastatsuenak erabiltzen dira (adibidez, ez-gehienezko ezabaketa) eta berriak gehitzen dira sare neuronalak azkarrago eta zehatzago funtziona dezan. Ezaugarri bereizgarria: exekuzio batean objektuak bereiztea leihoen sareta (koadro lehenetsia) erabiliz irudi-piramidean. Irudi-piramidea konboluzio-tentsoreetan kodetzen da, ondoz ondoko konboluzio- eta bilketa-eragiketen bidez (max-bilketa eragiketarekin, dimentsio espaziala gutxitzen da). Modu honetan, objektu handiak zein txikiak sareko exekuzio batean zehazten dira.
- MobileSSD (mugikorraNetV2+ SSD) bi neurona-sare arkitekturaren konbinazioa da. Lehen sarea azkar funtzionatzen du eta aitorpenaren zehaztasuna areagotzen du. MobileNetV2 VGG-16-ren ordez erabiltzen da, jatorrian erabiltzen zena . Bigarren SSD sareak irudiko objektuen kokapena zehazten du.
- β Neurona-sare oso txikia baina zehatza. Berez, ez du objektuak hautemateko arazoa konpontzen. Hala ere, arkitektura ezberdinen konbinazioan erabil daiteke. Eta gailu mugikorretan erabiltzen da. Ezaugarri bereizgarria da datuak lehenik lau 1Γ1 konboluzio-iragazkitan konprimitzen direla eta gero lau 1Γ1 eta lau 3Γ3 konboluzio-iragazkitan zabaltzen direla. Datuen konpresio-hedapenaren iterazio bat "Fire Module" deitzen da.
- (Semantic Image Segmentation with Deep Convolutional Nets) - irudiko objektuen segmentazioa. Arkitekturaren ezaugarri bereizgarria konboluzio dilatatua da, bereizmen espaziala gordetzen duena. Horren ondoren, emaitzen osteko prozesatze-etapa bat dago probabilitate-eredu grafikoa erabiliz (ausazko eremu baldintzatua), segmentazioan zarata txikia kentzeko eta segmentatutako irudiaren kalitatea hobetzeko aukera ematen duena. "Eredu probabilistiko grafikoa" izen ikaragarriaren atzean Gaussiar iragazki konbentzionala ezkutatzen da, bost puntuz gutxi gorabehera.
- Gailua asmatzen saiatu da (Jaurtiketa bakarrekoa FinduObjekturako Sare Neuronala daekzio), baina ez nuen asko ulertzen.
- "Arreta" teknologiak nola funtzionatzen duen ere aztertu nuen: , , . "Arreta" arkitekturaren ezaugarri bereizgarri bat irudian arreta handiagoa duten eskualdeen hautaketa automatikoa da (RoI, Regions of Ininterest) Arreta Unitatea izeneko neurona-sare bat erabiliz. Arreta handiagoa duten eskualdeak muga-koadroen antzekoak dira, baina haiek ez bezala, ez daude irudian finkoak eta baliteke muga lausoak izatea. Gero, arreta handiagoko eskualdeetatik, zeinuak (ezaugarriak) isolatzen dira, arkitekturak dituzten neurona-sare errepikakorretara "elikatzen" direnak. . Sare neuronal errekurrenteak gai dira sekuentzia bateko ezaugarrien erlazioa aztertzeko. Sare neuronal errekurrenteak hasieran testuak beste hizkuntza batzuetara itzultzeko erabiltzen ziren, eta orain itzultzeko ΠΈ .
Arkitektura hauek aztertzen ari garen heinean Konturatu nintzen ez dudala ezer ulertzen. Eta ez da nire sare neuronalak arreta mekanismoarekin arazoak dituenik. Arkitektura hauen guztien sorrera hackaton erraldoi baten modukoa da, non egileak hacketan lehiatzen diren. Hack software arazo zail bati irtenbide azkarra da. Hau da, ez dago arkitektura horien guztien artean lotura logiko ikusgarri eta ulergarririk. Batzen dituen guztia elkarrengandik maileguan hartzen dituzten hack arrakastatsuenen multzoa da, eta guztientzako komun bat (atzera-hedapena akatsa, atzera-hedapena). Ez ! Ez dago argi zer aldatu eta nola optimizatu dauden lorpenak.
Hacken arteko lotura logikorik ezaren ondorioz, oso zaila da gogoratzea eta praktikan aplikatzea. Hau ezagutza zatikatua da. Onenean, une interesgarri eta ustekabeko batzuk gogoratzen dira, baina ulertu eta ulertezina dena memoriatik desagertu egiten da egun gutxiren buruan. Ona izango da aste batean gutxienez arkitekturaren izena gogoratzen baduzu. Baina lan-ordu batzuk eta baita egunak ere artikuluak irakurtzen eta iritzi-bideoak ikusten eman ziren!
2. irudia -
Artikulu zientifikoen egile gehienek, nire ustez, ahal dena egiten dute ezagutza zatikatu hori irakurleak ulertu ez dezan. Baina hamar lerroko esaldietako partizipio-sintagmak "zerbaitetik" ateratzen diren formulekin aparteko artikulu baterako gaia dira (arazoa ).
Hori dela eta, informazioa sare neuronalak erabiliz sistematizatu beharra dago eta, horrela, ulermenaren eta memorizazioaren kalitatea areagotu beharra dago. Hori dela eta, sare neuronal artifizialen teknologia eta arkitektura indibidualen analisiaren gai nagusia honako zeregina izan zen: jakin nora doan, eta ez sare neuronal zehatz baten gailua bereizita.
Nora doa hau guztia? Emaitza nagusiak:
- Ikaskuntza automatikoko startup-en kopurua azken bi urteetan . Arrazoi posiblea: "sare neuronalak jada ez dira zerbait berria".
- Edonork sor dezake laneko sare neuronal bat arazo sinple bat konpontzeko. Horretarako, hartu "modelo zoo"tik prestatutako eredu bat eta entrenatu sare neuronalaren azken geruza () prest egindako datuei buruz edo bertatik librean .
- Neurona-sareen fabrikatzaile handiak sortzen hasi ziren "zoo eredugarriak" (zoo eredua). Horiek erabiliz aplikazio komertziala azkar sor dezakezu: TensorFlow-erako, PyTorch-entzat, Caffe2rentzat, Chainerrentzat eta .
- Sare neuronalak lanean denbora erreala (denbora errealean) gailu mugikorretan. 10 eta 50 fotograma segundoko.
- Telefonoetan (TF Lite), nabigatzaileetan (TF.js) eta sare neuronalen erabilera (IoT, Iinternet of Tgiltzak). Batez ere hardware mailan sare neuronalak onartzen dituzten telefonoetan (azeleragailu neuronalak).
- Β«Gailu, arropa eta, agian, janari guztiek izango dute IP-v6 helbidea eta elkarrekin komunikatu" - .
- Ikaskuntza automatikoari buruzko argitalpenen kopurua hazten hasi da (bi urtean behin bikoiztuz) 2015etik. Argi dago, neurona-sareak behar ditugu artikuluak aztertzeko.
- Teknologia hauek ospea hartzen ari dira:
- PyTorch - ospea azkar hazten ari da eta badirudi TensorFlow gainditzen ari dela.
- Hiperparametroen hautaketa automatikoa AutoML - ospea leunki hazten ari da.
- Zehaztasuna pixkanaka gutxitzea eta kalkulu-abiadura handitzea: , algoritmoak , kalkulu zehatzak (gutxi gorabeherakoak), kuantizazioa (neural-sarearen pisuak zenbaki oso bihurtu eta kuantifikatzen direnean), azeleragailu neuronalak.
- itzulpen ΠΈ .
- sortzea , orain denbora errealean.
- DLren gauza nagusia datu asko daudela da, baina biltzea eta etiketatzea ez da erraza. Hori dela eta, markatze automatizazioa garatzen ari da () sare neuronalak erabiltzen dituzten neurona-sareetarako.
- Sare neuronalekin, Informatika bat-batean bihurtu zen zientzia esperimentala eta sortu zen .
- Informatika dirua eta sare neuronalen ospea aldi berean sortu ziren informatika merkatuko balio bihurtu zenean. Ekonomia urrezko eta moneta ekonomia izatetik aldatzen ari da urre-moneta-konputazioa. Ikusi nire artikulua eta informatikako dirua agertzearen arrazoia.
Pixkanaka berri bat agertzen da (Machine Learning & Deep Learning), programa trebatutako sare neuronal-ereduen multzo gisa irudikatzean oinarritzen dena.
3. Irudia β ML/DL programazio-metodologia berri gisa
Hala ere, ez zen inoiz agertu "sare neuronalaren teoria", zeinaren barruan pentsatu eta sistematikoki lan egin dezakezu. Gaur egun "teoria" deitzen dena algoritmo heuristiko esperimentalak dira.
Nire eta beste baliabide batzuetarako estekak:
- Data Science Newsletter. Batez ere irudien tratamendua. Jaso nahi duenak e-mail bat bidali behar du (foobar167gmailcom). Materiala pilatzen doan heinean artikulu eta bideoetarako estekak bidaltzen ditut.
- orokorra gainditu dudana eta gainditu nahiko nukeena.
- , non sare neuronalak aztertzen hasi beharko zenuke. Gehiago liburuxka .
- , non bakoitzak beretzako zerbait interesgarria aurkituko du.
- Oso erabilgarriak iruditu zaizkigu. artikulu zientifikoak aztertzeko bideo-kanalak Data Science-ren eskutik. Bilatu, harpidetu haietara eta helarazi estekak zure lankideei eta niri ere. Adibideak:
- aka urratsez urrats argibideekin eta kode irekiarekin.
Eskerrik asko zure arreta!
Iturria: www.habr.com