ProHoster > Pūnaewele > nūhou pūnaewele > Nā pūnaewele neural. Ma hea e hele ai kēia mau mea?

Nā pūnaewele neural. Ma hea e hele ai kēia mau mea?

Aia ka ʻatikala i ʻelua ʻāpana:

  1. ʻO kahi wehewehe pōkole o kekahi mau papa hana pūnaewele no ka ʻike ʻana i nā mea i nā kiʻi a me ka ʻāpana kiʻi me nā loulou hiki ke hoʻomaopopo ʻia i nā kumuwaiwai noʻu. Ua ho'āʻo wau e koho i nā wehewehe wikiō a ʻoi aku ka maikaʻi ma ka ʻōlelo Lūkini.
  2. ʻO ka ʻaoʻao ʻelua he hoʻāʻo e hoʻomaopopo i ke kuhikuhi o ka hoʻomohala ʻana o nā hale hana neural network. A me nā ʻenehana e pili ana iā lākou.

Nā pūnaewele neural. Ma hea e hele ai kēia mau mea?

Kiʻi 1 - ʻAʻole maʻalahi ka hoʻomaopopo ʻana i nā hale hana neural network

Hoʻomaka ia ma ka hana ʻana i ʻelua mau noi demo no ka hoʻohālikelike ʻana a me ka ʻike ʻana i kahi kelepona Android:

  • Demo hope hope, i ka wā e hoʻoili ʻia ai ka ʻikepili ma ke kikowaena a hoʻouna ʻia i ke kelepona. Hoʻohālikelike kiʻi o ʻekolu ʻano bea: ʻeleʻele, ʻeleʻele a me nā teddy.
  • Demo-hopenai ka wā e hana ʻia ai ka ʻikepili ma ke kelepona ponoʻī. ʻO ka ʻike ʻana o nā mea (mea ʻike) o ʻekolu ʻano: hazelnuts, fig a me nā lā.

Aia ka ʻokoʻa ma waena o nā hana o ka hoʻokaʻawale kiʻi, ʻike mea i loko o kahi kiʻi a me ʻāpana kiʻi. No laila, he mea pono e ʻike i nā ʻenehana neural network e ʻike i nā mea i nā kiʻi a me nā mea hiki ke hoʻokaʻawale. Ua loaʻa iaʻu nā hiʻohiʻona o nā hale hana me nā loulou hiki ke hoʻomaopopo ʻia i nā kumuwaiwai noʻu:

  • ʻO kahi pūʻulu o nā hale hana e pili ana i R-CNN (Rʻāpana me Convolution Neural Nnā hiʻohiʻona etworks): R-CNN, R-CNN wikiwiki, ʻOi aku ka wikiwiki o R-CNN, Makamaka R-CNN. No ka ʻike ʻana i kahi mea i loko o ke kiʻi, ua hoʻokaʻawale ʻia nā pahu hoʻopaʻa me ka hoʻohana ʻana i ka ʻenehana Region Proposal Network (RPN). I ka hoʻomaka ʻana, ua hoʻohana ʻia ka mīkini Huli Selective lohi ma kahi o RPN. A laila, hānai ʻia nā ʻāpana palena i koho ʻia i ka hoʻokomo ʻana o kahi pūnaewele neural maʻamau no ka hoʻohālikelike ʻana. ʻO ka hoʻolālā R-CNN he mau puka puka "no" ma luna o nā ʻāpana liʻiliʻi, a hiki i ka 2000 holo ma o ka pūnaewele kūloko AlexNet. ʻO nā puka lou "no" e hoʻolohi i ka wikiwiki o ka hana kiʻi. Ke emi nei ka helu o nā puka lou e holo ana ma o ka pūnaewele neural kūloko me kēlā me kēia mana hou o ka hale hoʻolālā, a ua hana ʻia nā hanana o nā hoʻololi ʻē aʻe e hoʻonui i ka wikiwiki a e hoʻololi i ka hana o ka ʻike mea me ka hoʻokaʻawale mea i Mask R-CNN.
  • YOLO (You Only Li Once) ʻo ia ka pūnaewele neural mua i ʻike i nā mea i ka manawa maoli ma nā polokalamu kelepona. Hiʻona ʻokoʻa: hoʻokaʻawale i nā mea i ka holo hoʻokahi (e nānā hoʻokahi wale nō). ʻO ia hoʻi, i loko o ka hoʻolālā YOLO ʻaʻohe puka "no" maopopo, ʻo ia ke kumu e hana wikiwiki ai ka pūnaewele. Eia kekahi laʻana, kēia hoʻohālikelike: ma NumPy, i ka wā e hana ai i nā hana me nā matrices, ʻaʻohe puka puka "no" ma NumPy i hoʻokō ʻia ma nā pae haʻahaʻa o ka hoʻolālā ma o ka ʻōlelo hoʻolālā C. Hoʻohana ʻo YOLO i kahi māka o nā puka makani i koho mua ʻia. No ka pale ʻana i ka mea like mai ka wehewehe ʻana i nā manawa he nui, hoʻohana ʻia ka coefficient overlap window (IoU). Ihuikau o'ike Union). Ke hana nei kēia hoʻolālā ma kahi ākea a he kiʻekiʻe ʻo ke kūpaʻa: Hiki ke hoʻomaʻamaʻa ʻia ke kumu hoʻohālike ma nā kiʻi akā hana maikaʻi ma nā kiʻi pena lima.
  • SSD (Sʻuʻuku SPuhu Nui wela Detector) - ua hoʻohana ʻia nā "hacks" lanakila loa o ka hoʻolālā YOLO (no ka laʻana, ka hoʻopau ʻole ʻana i ka palena kiʻekiʻe) a ua hoʻohui ʻia nā mea hou e hana wikiwiki a ʻoi aku ka pololei o ka neural network. Hiʻona ʻokoʻa: ka hoʻokaʻawale ʻana i nā mea i ka holo hoʻokahi me ka hoʻohana ʻana i ka pahu puka makani i hāʻawi ʻia (pahu paʻamau) ma ka pyramid kiʻi. Hoʻopili ʻia ka pyramid kiʻi i nā tensors convolution ma o nā hana convolution a me ka hoʻohui pū ʻana (me ka hana hoʻohui kiʻekiʻe, e emi ana ka nui spatial). Ma kēiaʻano, hoʻoholoʻia nā mea nui a me nā mea liʻiliʻi i ka holo pūnaewele hoʻokahi.
  • MobileSSD (MobileNetV2+ SSD) he hui pū ʻana o ʻelua mau hale hana neural network. Pūnaewele mua MobileNetV2 hana wikiwiki a hoʻonui i ka pololei o ka ʻike. Hoʻohana ʻia ʻo MobileNetV2 ma kahi o VGG-16, i hoʻohana mua ʻia ma ʻatikala kumu. ʻO ka pūnaewele SSDʻelua e hoʻoholo i kahi o nā mea i ke kiʻi.
  • SqueezeNet - kahi pūnaewele neural liʻiliʻi akā pololei. ʻO ia iho, ʻaʻole ia e hoʻonā i ka pilikia o ka ʻike mea. Eia nō naʻe, hiki ke hoʻohana ʻia i ka hui ʻana o nā ʻano hana like ʻole. A hoʻohana ʻia i nā polokalamu kelepona. ʻO ka hiʻohiʻona ʻokoʻa ʻo ia ka ʻikepili i hoʻopili mua ʻia i ʻehā 1 × 1 convolutional kānana a laila hoʻonui ʻia i ʻehā 1 × 1 a me ʻehā 3 × 3 convolutional kānana. ʻO kekahi o ia ʻano o ka hoʻonui ʻana i ka ʻikepili i kapa ʻia ʻo "Fire Module".
  • DeepLab (Semantic Image Segmentation with Deep Convolutional Nets) - ka mahele o nā mea i ke kiʻi. ʻO kahi hiʻohiʻona ʻokoʻa o ka hoʻolālā ʻana he dilated convolution, kahi e mālama ai i ka hoʻonā spatial. Hoʻopili ʻia kēia ma hope o ka hoʻoponopono ʻana i nā hopena me ka hoʻohana ʻana i kahi kiʻi kiʻi probabilistic (conditional random field), e hiki ai iā ʻoe ke wehe i ka walaʻau liʻiliʻi i ka mahele a hoʻomaikaʻi i ka maikaʻi o ke kiʻi i hoʻokaʻawale ʻia. Ma hope o ka inoa kaulana "graphical probabilistic model" e hūnā ana i kahi kānana Gaussian maʻamau, i hoʻohālikelike ʻia e nā helu ʻelima.
  • Ua ho'āʻo e noʻonoʻo i ka mea hana RefineDet (Paʻi hoʻokahi Hoʻoholoment Neural Network no ka mea O kaection), akā ʻaʻole maopopo iaʻu.
  • Ua nānā pū au i ka hana ʻana o ka ʻenehana "noʻonoʻo": wikiō1, wikiō2, wikiō3. ʻO kahi hiʻohiʻona ʻokoʻa o ka hoʻolālā "nānā" ʻo ia ke koho maʻalahi o nā wahi i hoʻonui ʻia ka nānā ʻana i ke kiʻi (RoI, Rlegiona of Ihoihoi) me ka hoʻohana ʻana i kahi pūnaewele neural i kapa ʻia ʻo Attention Unit. ʻO nā ʻāpana o ka hoʻonui nui ʻana e like me nā pahu hoʻopaʻa, akā ʻaʻole like me lākou, ʻaʻole lākou i hoʻopaʻa ʻia i ke kiʻi a he mau palena pōkole paha. A laila, mai nā wahi i hoʻonui ʻia ka nānā ʻana, hoʻokaʻawale ʻia nā hōʻailona (nā hiʻohiʻona), i "hānai ʻia" i nā neural network recurrent me nā hale hana. LSDM, GRU a i ʻole Vanila RNN. Hiki i nā ʻupena neural hou ke kālailai i ka pilina o nā hiʻohiʻona i ke kaʻina. Ua hoʻohana mua ʻia nā pūnaewele neural hou e unuhi i nā kikokikona i nā ʻōlelo ʻē aʻe, a i kēia manawa no ka unuhi ʻana nā kiʻi i ka kikokikona и kikokiko i ke kiʻi.

Ke ʻimi nei mākou i kēia mau hale kūkulu hale Ua ʻike au ʻaʻole maopopo iaʻu kekahi mea. A ʻaʻole ia he pilikia kaʻu pūnaewele neural me ka ʻenehana nānā. ʻO ka hana ʻana o kēia mau hale kiʻi āpau e like me kekahi ʻano hackathon nui, kahi e hoʻokūkū ai nā mea kākau i nā hacks. ʻO Hack kahi hoʻonā wikiwiki i kahi pilikia polokalamu paʻakikī. ʻO ia hoʻi, ʻaʻohe pilina pili ʻike a hoʻomaopopo ʻia ma waena o kēia mau hale hana. ʻO nā mea a pau e hoʻohui iā lākou he pūʻulu o nā hacks lanakila loa a lākou e hōʻaiʻē ai mai kekahi i kekahi, a me kahi mea maʻamau no nā mea āpau. hana convolution pani pani (ke kuhi hewa, hoʻolaha hope). ʻAʻole ʻōnaehana noʻonoʻo! ʻAʻole maopopo i ka mea e hoʻololi ai a pehea e hoʻomaikaʻi ai i nā hoʻokō i loaʻa.

Ma muli o ka nele o ka pilina pili ma waena o nā hacks, paʻakikī loa lākou e hoʻomanaʻo a hoʻohana i ka hana. He ʻike ʻāpana kēia. ʻO ka maikaʻi loa, hoʻomanaʻo ʻia kekahi mau manawa hoihoi a me ka manaʻo ʻole, akā nalo ka hapa nui o nā mea i hoʻomaopopo ʻia a hiki ʻole ke hoʻomaopopo ʻia mai ka hoʻomanaʻo ʻana i loko o kekahi mau lā. E maikaʻi inā i loko o hoʻokahi pule e hoʻomanaʻo ʻoe i ka inoa o ka hale hana. Akā he mau hola a me nā lā hana i hoʻopau ʻia i ka heluhelu ʻana i nā ʻatikala a me ka nānā ʻana i nā wikiō loiloi!

Nā pūnaewele neural. Ma hea e hele ai kēia mau mea?

Kiʻi 2 – Zoo o nā Neural Networks

ʻO ka hapa nui o nā mea kākau o nā ʻatikala ʻepekema, i koʻu manaʻo pilikino, e hana i nā mea āpau e hōʻoia ai ʻaʻole i hoʻomaopopo ʻia kēia ʻike ʻāpana e ka mea heluhelu. Akā ʻo nā huaʻōlelo komo i loko o nā paukū laina he ʻumi me nā ʻōlelo hoʻohālikelike i lawe ʻia "mai loko mai o ka lewa lahilahi" he kumuhana no kahi ʻatikala ʻokoʻa (pilikia. paʻi a make paha).

No kēia kumu, pono e hoʻonohonoho i ka ʻike me ka hoʻohana ʻana i nā neural network a, no laila, hoʻonui i ka maikaʻi o ka hoʻomaopopo a me ka hoʻomanaʻo. No laila, ʻo ke kumuhana nui o ka nānā ʻana i nā ʻenehana pilikino a me nā hale hana o nā ʻenehana neural artificial ʻo ia ka hana penei: e ʻimi i kahi e hele ai, a ʻaʻole ka mea hana o kekahi pūnaewele neural kūikawā.

E hele ana kēia mau mea i hea? Nā hualoaʻa nui:

  • Ka helu o nā hoʻomaka ʻana o nā mīkini aʻo i nā makahiki ʻelua i hala hina loa. Ke kumu paha: "ʻaʻole he mea hou nā pūnaewele neural."
  • Hiki i kekahi ke hana i kahi neural network hana e hoʻoponopono i kahi pilikia maʻalahi. No ka hana ʻana i kēia, e lawe i kahi hoʻohālike i hoʻomākaukau ʻia mai ka "model zoo" a hoʻomaʻamaʻa i ka papa hope o ka neural network (hoʻokaʻa aʻo) ma ka ʻikepili mākaukau mai Huli ʻikepili Google aiʻole mai 25 tausani Kaggle papa helu i manuahi Cloud Jupyter Notebook.
  • Ua hoʻomaka nā mea hana nui o nā neural network e hana "model zoos" (hōʻailona zoo). Ke hoʻohana nei iā lākou hiki iā ʻoe ke hana wikiwiki i kahi noi pāʻoihana: TF Hub no TensorFlow, MMDetection no PyTorch, Mea ʻike maka no Caffe2, chainer-modelzoo no Chainer a me keʻano.
  • Ke hana nei nā ʻupena neural manawa maoli (manawa maoli) ma nā polokalamu kelepona. Mai ka 10 a hiki i ka 50 mau papa no kekona.
  • ʻO ka hoʻohana ʻana i nā pūnaewele neural i nā kelepona (TF Lite), i nā polokalamu kele pūnaewele (TF.js) a i loko mea hale (IoT, Ipūnaewele of Thiki). ʻOi aku i nā kelepona i kākoʻo mua i nā ʻupena neural ma ka pae ʻenehana (neural accelerators).
  • "E loaʻa i kēlā me kēia mea hana, nā lole, a me ka meaʻai paha IP-v6 helu wahi a kamaʻilio pū kekahi i kekahi" - Sebastian Thrun.
  • Ua hoʻomaka ka nui o nā puke e pili ana i ka aʻo mīkini ma mua o ke kanawai o Moore (pālua i kēlā me kēia ʻelua makahiki) mai 2015. ʻIke loa, pono mākou i nā neural network no ka nānā ʻana i nā ʻatikala.
  • Ke kaulana nei nā ʻenehana penei:
    • ʻO PyTorch - ke ulu wikiwiki nei ka kaulana a me he mea lā e ʻoi aku ana ma luna o TensorFlow.
    • Koho ʻakomi o nā hyperparameters AutoML - ke ulu mālie nei ka kaulana.
    • Hoʻemi mālie i ka pololei a hoʻonui i ka wikiwiki helu: manaʻo ʻāhuehue, algorithms hooikaika ana, helu pololei (kokoke), quantization (i ka wā i ho'ololi 'ia ai nā paona o ka neural network i mau huina helu a me quantized), neural accelerators.
    • Unuhi nā kiʻi i ka kikokikona и kikokiko i ke kiʻi.
    • hanaia'na Nā mea XNUMXD mai ka wikiō, i kēia manawa i ka manawa maoli.
    • ʻO ka mea nui e pili ana iā DL he nui nā ʻikepili, akā ʻaʻole maʻalahi ka hōʻiliʻili a me ka lepili. No laila, ke ulu nei ka automation markup (hōʻike ʻokoʻa) no nā pūnaewele neural e hoʻohana ana i nā pūnaewele neural.
  • Me nā pūnaewele neural, ua lilo koke ʻo Computer Science ʻepekema hoʻokolohua a ala mai la pilikia reproducibility.
  • Ua puka like ke kālā IT a me ka kaulana o nā neural network i ka wā i lilo ai ka helu helu i waiwai mākeke. Ke hoʻololi nei ka hoʻokele waiwai mai kahi hoʻokele gula a me ke kālā gula-kālā-heluhelu. E ʻike i kaʻu ʻatikala ma hoʻokele waiwai a me ke kumu o ke ano o ke dala IT.

Hōʻike mālie ʻia kahi mea hou ʻO ke kaʻina polokalamu ML/DL (Machine Learning & Deep Learning), i hoʻokumu ʻia ma ka hōʻike ʻana i ka papahana ma ke ʻano he pūʻulu o nā ʻōnaehana neural i aʻo ʻia.

Nā pūnaewele neural. Ma hea e hele ai kēia mau mea?

Kiʻi 3 - ML/DL ma ke ʻano he ʻano papahana hoʻolālā hou

ʻAʻole naʻe i ʻike ʻia "neural network theory", i loko e hiki ai iā ʻoe ke noʻonoʻo a hana me ka ʻōnaehana. ʻO ka mea i kapa ʻia i kēia manawa "theory" he hoʻokolohua maoli, heuristic algorithms.

Nā loulou i kaʻu a me nā kumuwaiwai ʻē aʻe:

Nā mea hou aku!

Source: www.habr.com

Pākuʻi i ka manaʻo hoʻopuka