Artikulli përbëhet nga dy pjesë:
- Një përshkrim i shpejtë i disa arkitekturave të rrjeteve për zbulimin e objekteve në imazhe dhe segmentimin e imazheve me lidhjet më të kuptueshme për mua. Përpiqesha të zgjidhja video shpjeguese dhe për sa më shumë në gjuhën shqipe.
- Pjesa e dytë është përpjekja për të kuptuar drejtimin e zhvillimit të arkitekturave të rrjeteve neuronale dhe teknologjive mbi bazën e tyre.
Figur 1 â Nuk Ă«shtĂ« e lehtĂ« tĂ« kuptosh arkitekturat e rrjeteve neuronale
Të gjitha filluan kur bëra dy aplikacione demonstruese për klasifikimin dhe zbulimin e objekteve në telefonin Android:
- , në të cilin të dhënat përpunohen në server dhe dërgohen në telefon. Klasifikimi i imazheve (image classification) të tre llojeve të medveve: të bardhë, të zezë dhe lodër.
- , në të cilin të dhënat përpunohen në telefonin vet. Zbulimi i objekteve (object detection) të tre llojeve: lajthi, hurmë dhe datelinë.
Ka një dallim midis detyrave të klasifikimit të imazheve, zbulimit të objekteve në një imazh dhe . Prandaj, erdhi nevoja për të mësuar se cilat arkitektura të rrjeteve neuronale zbulojnë objekte në imazhe dhe cilat mund të segmentejnë. Gjeta shembuj të mëposhtëm të arkitekturave me lidhjet më të kuptueshme për mua:
- Një seri arkitekturash të bazuara në R-CNN (Rregjione me Crrjete neuronale karakteristikash): R-CNN, Fast R-CNN, NFaster R-CNN NMask R-CNN , do
- (YshikojmĂ« OvetĂ«m LatĂ« Once) â rrjeti i parĂ« nervor qĂ« njihej objekte nĂ« kohĂ« reale nĂ« pajisjet mobile. Karakteristika e tij dalluese: diferencimi i objekteve me njĂ« kalim (mjafton tĂ« shikosh njĂ« herĂ«). KĂ«shtu, nĂ« arkitekturĂ«n YOLO nuk ka cikle tĂ« dukshme «for», çka bĂ«n qĂ« rrjeti tĂ« punojĂ« shpejt. PĂ«r shembull, njĂ« krahasim: nĂ« NumPy gjatĂ« operacioneve me matrica gjithashtu nuk ka cikle tĂ« dukshme «for», qĂ« nĂ« NumPy realizohen nĂ« nivele mĂ« tĂ« ulĂ«ta tĂ« arkitekturĂ«s pĂ«rmes gjuhĂ«s sĂ« programimit C. YOLO pĂ«rdor njĂ« rrjet tĂ« caktuar me dritare. PĂ«r tĂ« mos e njohur tĂ« njĂ«jtin objekt shumĂ« herĂ«, pĂ«rdoret koeficienti i mbulimit tĂ« dritareve (IoU, Intersection over Union). Kjo arkitekturĂ« punon nĂ« njĂ« gamĂ« tĂ« gjerĂ« dhe ka njĂ« : modeli mund tĂ« stĂ«rvitet mbi fotografi, por gjithashtu funksionon mirĂ« mbi piktura tĂ« vizatuara.
- (Single Shot MultiBox Detector) â pĂ«rdoren «hack»-et mĂ« tĂ« suksesshme tĂ« arkitekturĂ«s YOLO (pĂ«r shembull, non-maximum suppression) dhe shtohen tĂ« reja, qĂ« rrjeti nervor tĂ« punojĂ« mĂ« shpejt dhe mĂ« saktĂ«. Karakteristika e tij dalluese: diferencimi i objekteve me njĂ« kalim pĂ«rmes njĂ« rrjeti dritare tĂ« caktuar (default box) nĂ« piramidĂ«n e imazheve. Piramida e imazheve Ă«shtĂ« koduar nĂ« tenzorĂ« konvencional gjatĂ« operacioneve tĂ« radhĂ«s tĂ« konvencioneve dhe pooling (gjatĂ« operacionit max-pooling, dimensioni hapĂ«sinor zvogĂ«lohet). KĂ«shtu pĂ«rcaktohen si objekte tĂ« mĂ«dha ashtu edhe tĂ« vogla me njĂ« kalim tĂ« rrjetit.
- MobileSSD (MobileNetV2 + SSD) â kombinim i dy arkitekturave tĂ« rrjeteve nervore. Rrjeti i parĂ« punon shpejt dhe rrit saktĂ«sinĂ« e njohjes. MobileNetV2 zĂ«vendĂ«son VGG-16, e cila pĂ«rdorej fillimisht nĂ« . Rrjeti i dytĂ« SSD pĂ«rcakton vendndodhjen e objekteve nĂ« imazh.
- â njĂ« rrjet nervor shumĂ« tĂ« vogĂ«l, por tĂ« saktĂ«. VetĂ« nuk zgjidh problemin e identifikimit tĂ« objekteve. MegjithatĂ«, mund tĂ« pĂ«rdoret nĂ« kombinim me arkitektura tĂ« ndryshme. Dhe pĂ«rdoret nĂ« pajisje mobile. Karakteristika e tij Ă«shtĂ« se sĂ« pari tĂ« dhĂ«nat kompresohen nĂ« katĂ«r filtra konvencionale 1Ă1, dhe mĂ« pas zgjaten nĂ« katĂ«r 1Ă1 dhe katĂ«r 3Ă3 filtra konvencionalĂ«. NjĂ« iteracion i tillĂ« i kompresimi-zgjerimi quhet «Fire Module».
- (Segmentationi e Figurave Semantike me Rrjetat e Thella Konvencionale) â segmentimi i objekteve nĂ« imazh. Karakteristika dalluese e arkitekturĂ«s Ă«shtĂ« konvulucioni me hapĂ«sirĂ« tĂ« zgjeruar (dilated convolution), i cili ruan rezolutĂ«n hapĂ«sinore. Pas kĂ«saj shkon njĂ« fazĂ« e pĂ«rpunimit post, duke pĂ«rdorur njĂ« model probabilistik grafik (conditional random field), qĂ« lejon eliminimin e zhurmave tĂ« vogla nĂ« segmentim dhe pĂ«rmirĂ«simin e cilĂ«sisĂ« sĂ« imazhit tĂ« segmentuar. Pas emrit tĂ« frikshĂ«m «modeli probabilistik grafik» fshihet njĂ« filtĂ«r i zakonshĂ«m Gauss, i cili Ă«shtĂ« aproksimuar mbi pesĂ« pika.
- Përpiqesha të kuptoja strukturën (Single-Shot Refinement Neural Network for Object Detection), por nuk kuptova shumë.
- Gjithashtu shikoja se si funksionon teknologjia «vëmendje» (attention): , , . Karakteristika dalluese e arkitekturës «vëmendje» është identifikimi automatik i rajoneve me vëmendje të lartë në imazh (RoI, Regions of Interest) me ndihmën e një rrjete neurale të quajtur Njësi Vëmendjeje. Rajonet e vëmendjes janë të ngjashme me rajonet e kufizuara (bounding boxes), por ndryshe nga ato, nuk janë të fiksuara në imazh dhe mund të kenë kufij të mjegullt. Pas kësaj, nga rajonet e vëmendjes, nxirren tiparet (features), të cilat i «jepen» rrjeteve neurale recurente me arkitektura . Rrjetet neurale recurente dinë të analizojnë marrëdhëniet e tipareve në një renditje. Rrjetet neurale recurente fillimisht ishin përdorur për përkthimet e tekstit në gjuhë të tjera, dhe tani edhe për përkthimin dhe .
Me kalimin e kohĂ«s duke studiuar kĂ«to arkitektura kuptova se nuk kuptoja asgjĂ«.. Dhe problemi nuk Ă«shtĂ« se rrjeta ime neurale ka probleme me mekanizmin e vĂ«mendjes. Krijimi i tĂ« gjitha kĂ«tyre arkitekturave ngjan me njĂ« hackathon tĂ« madh, ku autorĂ«t garojnĂ« me hacks. Hack â njĂ« zgjidhje e shpejtĂ« pĂ«r njĂ« problem tĂ« vĂ«shtirĂ« programimi. DomethĂ«nĂ«, ndĂ«rmjet tĂ« gjithĂ« kĂ«tyre arkitekturave nuk ka njĂ« lidhje logjike tĂ« dukshme dhe tĂ« kuptueshme. E vetmja gjĂ« qĂ« i bashkon ato Ă«shtĂ« njĂ« grup hacks-i mĂ« tĂ« suksesshĂ«m, tĂ« cilat i huazojnĂ« nga njĂ«ri-tjetri, plus njĂ« operacion i pĂ«rbashkĂ«t pĂ«r tĂ« gjithĂ« (pĂ«rhapja e gabimit prapa, backpropagation). Nuk ka ! Nuk Ă«shtĂ« e qartĂ« se çfarĂ« duhet tĂ« ndryshojmĂ« dhe si tĂ« optimizojmĂ« arritjet ekzistuese.
Si rezultat i mungesës së lidhjes logjike midis haks, ato janë jashtëzakonisht të vështira për t'u mbajtur mend dhe për t'u aplikuar në praktikë. Kjo është njohuri e fragmentuar. Në më të mirën, disa pika interesante dhe të papritura mbahen mend, por shumica e asaj që është kuptuar dhe e paqartë zhduket nga memorie pas disa ditësh. Do të ishte e mirë nëse pas një jave do të kujtohej të paktën emri i arkitekturës. Ndërsa disa orë dhe madje ditë kohe pune janë shpenzuar për leximin e artikujve dhe shikimin e videove përmbledhëse!
Figura 2 â
Shumica e autorĂ«ve tĂ« artikujve shkencorĂ«, sipas mendimit tim personal, bĂ«jnĂ« gjithçka tĂ« mundshme qĂ« edhe kĂ«to njohuri tĂ« fragmentuara tĂ« mos kuptohen nga lexuesi. Por pĂ«rdorimi i gerundit nĂ« dhjetĂ« fjali tĂ« rreshtuar me formula qĂ« janĂ« marrĂ« "nga tavan" â kjo Ă«shtĂ« njĂ« temĂ« pĂ«r njĂ« artikull tĂ« veçantĂ« (problemi ).
Për këtë arsye u bë e nevojshme sistematizimi i informacionit rreth rrjeteve nervore dhe, në këtë mënyrë, rritja e cilësisë së kuptimit dhe mbajtjes mend. Prandaj, tema kryesore e analizës së teknologjive dhe arkitekturave të veçanta të rrjeteve nervore artificiale u bë kjo detyrë: të mësojmë se ku po shkon gjithçka, dhe jo struktura e ndonjë rrjeti nervor specifik.
Ku po shkon gjithçka. Rezultatet kryesore:
- Numri i startupeve në fushën e mësimit të makinerive në dy vitet e fundit . Shkaku i mundshëm: "rrjetet nervore nuk janë më diçka e re".
- Ădo njeri mund tĂ« krijojĂ« njĂ« rrjet nervor funksional pĂ«r zgjidhjen e njĂ« detyre tĂ« thjeshtĂ«. PĂ«r kĂ«tĂ«, do tĂ« marrĂ« njĂ« model tĂ« gatshĂ«m nga "zooja e modeleve" (model zoo) dhe do tĂ« trajnojĂ« shtyllĂ«n e fundit tĂ« rrjetit nervor () mbi tĂ« dhĂ«nat e gatshme nga apo nga nĂ« .
- Prodhuesit e mëdhenj të rrjeteve nervore filluan të krijojnë "zooparkë modelesh" (model zoo). Me ndihmën e tyre, mund të krijoni shpejt një aplikacion komercial: për TensorFlow, për PyTorch, për Caffe2, për Chainer dhe .
- Rrjetet nervore që punojnë në kohë reale (real-time) në pajisjet mobile. Nga 10 deri në 50 kadra në sekondë.
- Përdorimi i rrjeteve nervore në telefona (TF Lite), në shfletues (TF.js) dhe në (IoT, Iinternet of Ti gjërave). Sidomos në telefona, të cilët tashmë mbështesin rrjetet nervore në nivelin "harduer" (neuro-accelerators).
- «Ădo pajisje, artikuj veshjesh dhe, ndoshta, edhe ushqimi do tĂ« ketĂ« adresĂ« IP-v6 dhe do tĂ« komunikojnĂ« mes tyre» â .
- Rritja e numrit tĂ« publikimeve mbi mĂ«simin nga makina ka filluar (dyfishimi çdo dy vjet) qĂ« nga viti 2015. ĂshtĂ« e qartĂ« se duhen rrjete nervore pĂ«r analizĂ«n e artikujve.
- Teknologjitë që po fitosin popullaritet janë:
- PyTorch â popullariteti po rritet me shpejtĂ«si dhe duket se po kalon TensorFlow.
- PĂ«rzgjedhja automatike e hiperparametrave AutoML â popullariteti po rritet gradualisht.
- Këtu po ndodh një zvogëlim gradual i saktësisë dhe një rritje e shpejtësisë së llogaritjeve: , algoritmet , llogaritjet e pasakta (të afërta), kvantizimi (kur peshat e rrjetit nervor shndërrohen në numra të plotë dhe kvantizohen), neuroakseleratorët.
- PĂ«rkthimi dhe .
- Krijimi , tani në kohë reale.
- E rëndësishme në DL është se ka shumë të dhëna, por mbledhja dhe etiketimi i tyre nuk është e lehtë. Kështu që po zhvillohet automatizimi i etiketimit () për rrjetet nervore me ndihmën e rrjeteve nervore.
- Me rrjetet nervore, Informatika papritur u bë një shkencë eksperimentale dhe ndodhi .
- Paratë në IT dhe popullariteti i rrjeteve nervore i janë përgjigjur njëkohësisht, kur llogaritjet u bënë vlerë tregu. Ekonomia nga e artë-depozitë po bëhet e artë-depozitë-llogaritëse.. Shikoni artikullin tim mbi dhe arsyen e shfaqjes së parave në IT.
Gradualisht po shfaqet një (Mësimi nga makina & Mësimi i thellë), e cila bazohet në përfaqësimin e programit si një grumbull modelesh të mësuara nervore.
Figura 3 â ML/DL si njĂ« metodologji e re programimi
Megjithatë, nuk ka ndodhur «teoria e rrjeteve nervore», në kuadrin e së cilës mund të mendohet dhe të punohet sistematikisht. Ajo që tani quhet «teori» në të vërtetë janë algoritme eksperimentale, heuristike.
Referencat në burimet e mia dhe jo vetëm:
- Grupi i lajmeve për Data Science. Kryesisht, për përpunimin e imazheve. Kush dëshiron të marrë, le të dërgojë e-mail (foobar167gmailcom). Referencat në artikuj dhe video dërgohen sipas grumbullimit të materialit.
- Lista e përgjithshme , të cilat kam përfunduar dhe që do të doja të përfundova.
- , me të cilat duhet të filloni të studioni rrjetet nervore. Përveç kësaj, broshurë .
- , ku çdo njeri gjen diçka interesante për vete.
- Kanë qenë jashtëzakonisht të dobishme kanalet video për analizimin e artikujve shkencorë në Data Science. Gjeni, abonohuni në to dhe ndani lidhjet me kolegët tuaja dhe me mua gjithashtu. Shembuj:
- si me udhëzime hapi-hapi dhe kodin burimor të hapur.
Faleminderit për vëmendjen!
Burimi: habr.com
