{"id":35293,"date":"2019-10-31T22:03:28","date_gmt":"2019-10-31T19:03:28","guid":{"rendered":"https:\/\/prohoster.info\/blog\/lopnul-li-puzyr-mashinnogo-obucheniya-ili-nachalo-novoj-zari\/"},"modified":"2019-10-31T22:03:28","modified_gmt":"2019-10-31T19:03:28","slug":"lopnul-li-puzyr-mashinnogo-obucheniya-ili-nachalo-novoj-zari","status":"publish","type":"post","link":"https:\/\/prohoster.info\/hu\/blog\/news\/lopnul-li-puzyr-mashinnogo-obucheniya-ili-nachalo-novoj-zari","title":{"rendered":"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p>Nemr\u00e9giben megjelent <noindex><a rel=\"nofollow\" href=\"https:\/\/www.getrevue.co\/profile\/peterzhegin\/issues\/ai-investment-activity-trends-of-2018-issue-8-150825?fbclid=IwAR0tU3l4WSotv7pQpYm8PmyKgVbgUgfMLeue_IiV78lXXApH-cy9EcG2kDc\">cikk<\/a><\/noindex>, amely j\u00f3l mutatja az ut\u00f3bbi \u00e9vek g\u00e9pi tanul\u00e1s\u00e1nak tendenci\u00e1it. R\u00f6viden: az ut\u00f3bbi k\u00e9t \u00e9vben dr\u00e1maian cs\u00f6kkent a g\u00e9pi tanul\u00e1s ter\u00fclet\u00e9n indult startupok sz\u00e1ma.<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/68b58feab2da46b7bb6f412e088313c1.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\nNos. N\u00e9zz\u00fck meg, hogy \"pattant-e el a bubor\u00e9k\", \"hogyan tov\u00e1bb\" \u00e9s besz\u00e9lgess\u00fcnk arr\u00f3l, hogy honnan j\u00f6tt ez a helyzet egy\u00e1ltal\u00e1n.<br \/>\n<noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><br \/>\nKezdj\u00fck azzal, hogy mi volt ennek a g\u00f6rb\u00e9nek a f\u0151 hajt\u00f3ereje. Honnan indult ez? Val\u00f3sz\u00edn\u0171leg mindenki eml\u00e9kszik a <noindex><a rel=\"nofollow\" href=\"https:\/\/papers.nips.cc\/paper\/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf\">gy\u0151zelemre<\/a><\/noindex> a g\u00e9pi tanul\u00e1sban 2012-ben az ImageNet versenyen. V\u00e9g\u00fcl is ez az els\u0151 glob\u00e1lis esem\u00e9ny! De a val\u00f3s\u00e1gban ez nem \u00edgy van. A g\u00f6rbe n\u00f6veked\u00e9se r\u00e1ad\u00e1sul kicsit kor\u00e1bban kezd\u0151dik. \u00c9n ezt t\u00f6bb szakaszra bontan\u00e1m.<\/p>\n<ol>\n<li>2008-ban megjelent a \"big data\" kifejez\u00e9s. A val\u00f3di term\u00e9kek <noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%91%D0%BE%D0%BB%D1%8C%D1%88%D0%B8%D0%B5_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D0%B5\">megjelennek<\/a><\/noindex> 2010-t\u0151l kezd\u0151d\u0151en val\u00f3sultak meg. A big data k\u00f6zvetlen kapcsolatban \u00e1ll a g\u00e9pi tanul\u00e1ssal. Nagy adatok n\u00e9lk\u00fcl nem lehets\u00e9ges az addig l\u00e9tez\u0151 algoritmusok stabil m\u0171k\u00f6d\u00e9se. \u00c9s ez nem a neur\u00e1lis h\u00e1l\u00f3zatok ideje. 2012 el\u0151tt a neur\u00e1lis h\u00e1l\u00f3zatok a margin\u00e1lis kisebbs\u00e9g privil\u00e9giuma voltak. Ellenben ekkor kezdtek el m\u0171k\u00f6dni teljesen m\u00e1s algoritmusok, amelyek m\u00e1r \u00e9vek, s\u0151t \u00e9vtizedek \u00f3ta l\u00e9teztek: <noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%9C%D0%B5%D1%82%D0%BE%D0%B4_%D0%BE%D0%BF%D0%BE%D1%80%D0%BD%D1%8B%D1%85_%D0%B2%D0%B5%D0%BA%D1%82%D0%BE%D1%80%D0%BE%D0%B2\">SVM<\/a><\/noindex>(1963, 1993), <noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/Random_forest\">Random Forest<\/a><\/noindex> (1995), <noindex>AdaBoost<\/noindex> (2003),\u2026 Az akkori startupok els\u0151sorban a struktur\u00e1lt adatok automatikus feldolgoz\u00e1s\u00e1val foglalkoztak: p\u00e9nzt\u00e1rg\u00e9pek, felhaszn\u00e1l\u00f3k, rekl\u00e1m, sok m\u00e1s.\n<p>Ezen els\u0151 hull\u00e1m term\u00e9ke a k\u00fcl\u00f6nf\u00e9le keretrendszerek, mint p\u00e9ld\u00e1ul az XGBoost, CatBoost, LightGBM, stb.\n<\/li>\n<li>2011-2012-ben <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Convolutional_neural_network\">a konvol\u00faci\u00f3s neur\u00e1lis h\u00e1l\u00f3zatok<\/a><\/noindex> sz\u00e1mos versenyt nyertek a k\u00e9pfeldolgoz\u00e1s ter\u00e9n. A t\u00e9nyleges alkalmaz\u00e1suk kicsit elh\u00faz\u00f3dott. Azt mondan\u00e1m, hogy a t\u00f6megesen tudatos startupok \u00e9s megold\u00e1sok 2014-t\u0151l kezdtek megjelenni. K\u00e9t \u00e9vre volt sz\u00fcks\u00e9g, hogy feldolgozz\u00e1k, hogy a neur\u00e1lis h\u00e1l\u00f3zatok val\u00f3ban m\u0171k\u00f6dnek, k\u00e9nyelmes keretrendszereket k\u00e9sz\u00edtsenek, amelyeket \u00e9sszer\u0171 id\u0151n bel\u00fcl telep\u00edteni \u00e9s futtatni lehetett, \u00e9s kifejlesszenek m\u00f3dszereket, amelyek stabiliz\u00e1lt\u00e1k \u00e9s felgyors\u00edtott\u00e1k a konverg\u00e1l\u00e1si id\u0151t.\n<p>A konvol\u00faci\u00f3s h\u00e1l\u00f3zatok lehet\u0151v\u00e9 tett\u00e9k a g\u00e9pi l\u00e1t\u00e1si feladatok megold\u00e1s\u00e1t: k\u00e9pek \u00e9s t\u00e1rgyak oszt\u00e1lyoz\u00e1sa, t\u00e1rgyak \u00e9s emberek \u00e9szlel\u00e9se, objektumok \u00e9s emberek felismer\u00e9se, k\u00e9pek jav\u00edt\u00e1sa, stb.<\/li>\n<li>2015-2017. A rekurrens h\u00e1l\u00f3zatokkal, vagy azok anal\u00f3gjaival (LSTM, GRU, TransformerNet stb.) kapcsolatos algoritmusok \u00e9s projektek robban\u00e1sa. Megjelentek a j\u00f3l m\u0171k\u00f6d\u0151 \u201ebesz\u00e9d-tesztre\u201d algoritmusok \u00e9s a g\u00e9pi ford\u00edt\u00f3 rendszerek. R\u00e9szben a konvol\u00faci\u00f3s h\u00e1l\u00f3zatok alap jellemz\u0151k kiemel\u00e9s\u00e9hez alapozva, r\u00e9szben pedig azon, hogy siker\u00fclt igazi nagy \u00e9s j\u00f3 adatb\u00e1zisokat \u00f6sszegy\u0171jteni. <\/li>\n<\/ol>\n<p>\n<img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/d4b3a1dd2483ef1300862f5f61db645a.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\n\u201ePukka kipukkadt? A hype t\u00falmelegedett? Meghaltak, mint a blokkl\u00e1nc?\u201d<br \/>\nIgen! Holnap a telefonodon le\u00e1ll a Siri m\u0171k\u00f6d\u00e9se, \u00e9s holnaput\u00e1n a Tesla nem fogja megk\u00fcl\u00f6nb\u00f6ztetni a kanyart a kengurukt\u00f3l.<\/p>\n<p>A neur\u00e1lis h\u00e1l\u00f3zatok m\u00e1r m\u0171k\u00f6dnek. T\u00edzes\u00e9vel vannak eszk\u00f6z\u00f6kben. Val\u00f3ban lehet\u0151v\u00e9 teszik a p\u00e9nzkeres\u00e9st, megv\u00e1ltoztatj\u00e1k a piacot \u00e9s a k\u00f6r\u00fcl\u00f6tt\u00fcnk l\u00e9v\u0151 vil\u00e1got. A hype kiss\u00e9 m\u00e1sk\u00e9pp n\u00e9z ki:<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/a2b271c8eb1cf54fe59389d10cf8e17e.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nEgyszer\u0171en fogalmazva, a neur\u00e1lis h\u00e1l\u00f3zatok m\u00e1r nem sz\u00e1m\u00edtanak \u00faj dolognak. Igen, sok embernek t\u00falzott elv\u00e1r\u00e1sai vannak. De nagy sz\u00e1m\u00fa c\u00e9g megtanulta alkalmazni a neur\u00e1lis h\u00e1l\u00f3zatokat, \u00e9s term\u00e9keket k\u00e9sz\u00edteni az alapjukra. A neur\u00e1lis h\u00e1l\u00f3zatok \u00faj funkci\u00f3kat k\u00edn\u00e1lnak, lehet\u0151v\u00e9 teszik a munkahelyek cs\u00f6kkent\u00e9s\u00e9t, \u00e9s cs\u00f6kkentik a szolg\u00e1ltat\u00e1sok \u00e1r\u00e1t:<\/p>\n<ul>\n<li>A gy\u00e1rt\u00f3 c\u00e9gek algoritmusokat integr\u00e1lnak a gy\u00e1rt\u00e1si hib\u00e1k elemz\u00e9s\u00e9re a szalagon. <\/li>\n<li>Az \u00e1llatteny\u00e9szt\u0151 gazdas\u00e1gok rendszereket v\u00e1s\u00e1rolnak a tehenek ellen\u0151rz\u00e9s\u00e9re. <\/li>\n<li> Automatikus komb\u00e1jnok. <\/li>\n<li>Automatiz\u00e1lt Call-centerek.<\/li>\n<li>Sz\u0171r\u0151k a SnapChatben. (legal\u00e1bb valami hasznos!)<\/li>\n<\/ul>\n<p>\nDe a legf\u0151bb \u00e9s nem a legnyilv\u00e1nval\u00f3bb: \u201eNincsenek \u00faj \u00f6tletek, vagy nem hoznak azonnali t\u0151k\u00e9t.\u201d A neur\u00e1lis h\u00e1l\u00f3zatok tucatnyi probl\u00e9m\u00e1t megoldottak. \u00c9s m\u00e9g sokat fognak megoldani. Minden nyilv\u00e1nval\u00f3 \u00f6tlet, ami felmer\u00fclt \u2014 sz\u00e1mtalan startupot ind\u00edtott. De mindaz, ami a felsz\u00ednen volt \u2014 m\u00e1r \u00f6sszegy\u0171jt\u00f6tt\u00e9k. Az utols\u00f3 k\u00e9t \u00e9vben nem tal\u00e1lkoztam egyetlen \u00faj \u00f6tlettel a neur\u00e1lis h\u00e1l\u00f3zatok alkalmaz\u00e1s\u00e1ra. Egy \u00faj megk\u00f6zel\u00edt\u00e9ssel sem (na j\u00f3, ott van p\u00e1r z\u0171r a GAN-okkal).<\/p>\n<p>\u00c9s minden k\u00f6vetkez\u0151 startup egyre nehezebb. M\u00e1r nem elegend\u0151 k\u00e9t sr\u00e1c, akik ny\u00edlt adatokon tan\u00edtj\u00e1k a neur\u00e1lis h\u00e1l\u00f3zatot. Programoz\u00f3kra, szerverre, jel\u00f6l\u0151csapatra, bonyolult t\u00e1mogat\u00e1sra stb. van sz\u00fcks\u00e9g.<\/p>\n<p>Ennek eredm\u00e9nyek\u00e9nt a startupok sz\u00e1ma cs\u00f6kken. De a gy\u00e1rt\u00e1si kapacit\u00e1s n\u0151. Aut\u00f3licencek felismer\u00e9s\u00e9re van sz\u00fcks\u00e9ge? A piacon sz\u00e1mos szakember van relev\u00e1ns tapasztalattal. Fel lehet venni valakit, \u00e9s p\u00e1r h\u00f3nap alatt elk\u00e9sz\u00edti a rendszer\u00e9t. Vagy meg lehet venni a k\u00e9sz megold\u00e1st. De \u00faj startupot ind\u00edtani?.. \u0150r\u00fclts\u00e9g!<\/p>\n<p>L\u00e9tre kell hozni egy l\u00e1togat\u00f3kat k\u00f6vet\u0151 rendszert - minek fizetni rengeteg licenc\u00e9rt, amikor 3-4 h\u00f3nap alatt elk\u00e9sz\u00edtheti a saj\u00e1t \u00fczleti ig\u00e9nyeire szabva. <\/p>\n<p>Jelenleg a neur\u00e1lis h\u00e1l\u00f3zatok ugyanazon az \u00faton haladnak, amelyet m\u00e1r sz\u00e1mos m\u00e1s technol\u00f3gia bej\u00e1rt. <\/p>\n<p>Eml\u00e9kszik, hogyan v\u00e1ltozott 1995 \u00f3ta a \"webfejleszt\u0151\" fogalma? Am\u00edg a piac nem tel\u00edt\u0151d\u00f6tt szakemberekkel, nagyon kev\u00e9s a profi. De biztos vagyok benne, hogy 5-10 \u00e9ven bel\u00fcl nem lesz k\u00fcl\u00f6nbs\u00e9g a Java programoz\u00f3 \u00e9s a neur\u00e1lis h\u00e1l\u00f3zatok fejleszt\u0151je k\u00f6z\u00f6tt. Mindk\u00e9t ter\u00fcleten elegend\u0151 szakember lesz a piacon.<\/p>\n<p>Csak olyan feladatok lesznek, amelyekre a neur\u00e1lis h\u00e1l\u00f3zatok megold\u00e1st ny\u00fajtanak. Ha felmer\u00fcl egy feladat - szakembert kell felvenni.<\/p>\n<p><b>\u201e\u00c9s mi k\u00f6vetkezik? Hol van a meg\u00edg\u00e9rt mesters\u00e9ges intelligencia?\u201d<\/b><\/p>\n<p>De itt van egy kis, de \u00e9rdekes hom\u00e1lyos r\u00e9sz :)<\/p>\n<p>A technol\u00f3gi\u00e1k \u00f6sszess\u00e9ge, ami ma rendelkez\u00e9s\u00fcnkre \u00e1ll, \u00fagy t\u0171nik, hogy nem vezet el minket a mesters\u00e9ges intelligenci\u00e1hoz. Az \u00f6tletek, azok \u00fajdons\u00e1ga - nagyr\u00e9szt kimer\u00fcltek. Besz\u00e9lj\u00fcnk arr\u00f3l, mi tartja fenn a jelenlegi fejl\u0151d\u00e9si szintet.<\/p>\n<h3>Korl\u00e1toz\u00e1sok<\/h3>\n<p>\nKezdj\u00fck az \u00f6nvezet\u0151 aut\u00f3kkal. \u00dagy t\u0171nik, vil\u00e1gos, hogy teljesen auton\u00f3m aut\u00f3kat k\u00e9sz\u00edteni a mai technol\u00f3gi\u00e1kkal - lehets\u00e9ges. De h\u00e1ny \u00e9v m\u00falva fog ez megt\u00f6rt\u00e9nni - nem vil\u00e1gos. A Tesla szerint ez p\u00e1r \u00e9ven bel\u00fcl megt\u00f6rt\u00e9nik - <\/p>\n<p><center><div class=\"youtube-placeholder\" data-id=\"Ucp0TTmvqOE\" onclick=\"loadVideo(this)\">\r\n        <img decoding=\"async\" src=\"https:\/\/img.youtube.com\/vi\/Ucp0TTmvqOE\/hqdefault.jpg\" alt=\"Vide\u00f3 lej\u00e1tsz\u00e1sa\" loading=\"lazy\" width=\"480\" height=\"360\" style=\"width:100%;height:auto;\">\r\n        <div class=\"play-button\"><\/div>\r\n    <\/div><\/center><br \/>\nSok m\u00e1s <noindex><a rel=\"nofollow\" href=\"https:\/\/beth.technology\/truths-autonomous-vehicles\/\">szakember van<\/a><\/noindex>, akik ezt 5-10 \u00e9vre becs\u00fclik. <\/p>\n<p>Val\u00f3sz\u00edn\u0171leg, v\u00e9lem\u00e9nyem szerint, 15 \u00e9v m\u00falva a v\u00e1rosok infrastrukt\u00far\u00e1ja meg fog v\u00e1ltozni, \u00fagy, hogy az \u00f6nvezet\u0151 aut\u00f3k megjelen\u00e9se elker\u00fclhetetlenn\u00e9 v\u00e1lik, a v\u00e1ros fejl\u0151d\u00e9s\u00e9nek folytat\u00e1s\u00e1v\u00e1. De ezt nem lehet intelligenci\u00e1nak nevezni. A mai Tesla egy nagyon bonyolult adatfilterez\u0151, keres\u0151 \u00e9s \u00fajratan\u00edt\u00f3 rendszer. Ezek szab\u00e1lyok-szab\u00e1lyok-szab\u00e1lyok, adatok gy\u0171jt\u00e9se \u00e9s sz\u0171r\u0151k felett\u00fck (itt <noindex><a rel=\"nofollow\" href=\"http:\/\/cv-blog.ru\/?p=279\">itt<\/a><\/noindex> err\u0151l kicsit r\u00e9szletesebben \u00edrtam, vagy n\u00e9zd meg <noindex><a rel=\"nofollow\" href=\"https:\/\/www.youtube.com\/watch?time_continue=7614&amp;v=Ucp0TTmvqOE\">ebben<\/a><\/noindex> a megjegyz\u00e9sn\u00e9l).<\/p>\n<h3>Az els\u0151 probl\u00e9ma<\/h3>\n<p>\n\u00c9s itt l\u00e1tjuk <b>az els\u0151 alapvet\u0151 probl\u00e9m\u00e1t<\/b>. Nagy adatok. Ez az, ami megalapozta a jelenlegi neur\u00e1lis h\u00e1l\u00f3zatok \u00e9s a g\u00e9pi tanul\u00e1s hull\u00e1m\u00e1t. Manaps\u00e1g, hogy valami bonyolultat \u00e9s automatiz\u00e1ltat k\u00e9sz\u00edts\u00fcnk, rengeteg adat sz\u00fcks\u00e9ges. Nem csak sok, hanem nagyon-nagyon sok. Automatiz\u00e1lt algoritmusokra van sz\u00fcks\u00e9g ezen adatok gy\u0171jt\u00e9s\u00e9re, c\u00edmk\u00e9z\u00e9s\u00e9re, felhaszn\u00e1l\u00e1s\u00e1ra. Ha azt akarjuk, hogy a g\u00e9p l\u00e1ssa a teheraut\u00f3kat a napf\u00e9nyben, el\u0151sz\u00f6r elegend\u0151 sz\u00e1m\u00fa j\u00e1rm\u0171vet kell \u00f6sszegy\u0171jten\u00fcnk. Ha azt akarjuk, hogy a g\u00e9p ne zavarodjon meg a ker\u00e9kp\u00e1rral a csomagtart\u00f3n, t\u00f6bb mint ezer mint\u00e1ra van sz\u00fcks\u00e9g\u00fcnk.<\/p>\n<p>R\u00e1ad\u00e1sul egy p\u00e9lda nem el\u00e9g. Sz\u00e1z? Ezrek? <\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/923ef975804234f1b3dcbfee0143f2b4.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<\/p>\n<h3>A m\u00e1sodik probl\u00e9ma<\/h3>\n<p>\n<b>A m\u00e1sodik probl\u00e9ma <\/b> \u2014 a vizualiz\u00e1ci\u00f3, hogy mit \u00e9rtett meg a neur\u00e1lis h\u00e1l\u00f3zatunk. Ez egy nagyon \u00f6sszetett feladat. Eddig m\u00e9g kevesen \u00e9rtik, hogyan lehet ezt vizualiz\u00e1lni. Ezek a cikkek meglehet\u0151sen \u00fajak, csup\u00e1n n\u00e9h\u00e1ny p\u00e9lda, m\u00e9g ha t\u00e1voli is:<br \/>\n<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/453788\/\">Vizualiz\u00e1ci\u00f3.<\/a><\/noindex> a text\u00far\u00e1kra val\u00f3 t\u00falzott f\u00f3kusz\u00e1l\u00e1s. J\u00f3l mutatja, hogy a neur\u00e1lis h\u00e1l\u00f3zat mivel hajlamos foglalkozni \u00e9s mit \u00e9rz\u00e9kel inform\u00e1ci\u00f3k\u00e9nt.<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/0eab41c3aec71dc2b04794559dd4a651.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<noindex><a rel=\"nofollow\" href=\"http:\/\/jalammar.github.io\/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention\/\">Vizualiz\u00e1ci\u00f3.<\/a><\/noindex> figyelem a <noindex><a rel=\"nofollow\" href=\"http:\/\/www.wildml.com\/2016\/01\/attention-and-memory-in-deep-learning-and-nlp\/\">ford\u00edt\u00e1sokn\u00e1l<\/a><\/noindex>. Val\u00f3j\u00e1ban a figyelem gyakran haszn\u00e1lhat\u00f3 arra, hogy megmutassa, mi v\u00e1ltotta ki ezt a reakci\u00f3t a h\u00e1l\u00f3zatb\u00f3l. Tal\u00e1ltam ilyen megold\u00e1sokat mind a hibakeres\u00e9shez, mind a term\u00e9kmegold\u00e1sokhoz. Err\u0151l nagyon sok \u00edr\u00e1s sz\u00fcletett. De min\u00e9l bonyolultabbak az adatok, ann\u00e1l nehezebb meg\u00e9rteni, hogyan lehet tart\u00f3s vizualiz\u00e1ci\u00f3t el\u00e9rni.<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/e0c370724115f602e5bd35b20b56f6eb.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nNos, \u00e9s igen, a r\u00e9gi j\u00f3 csomag, hogy \"n\u00e9zd meg, mi van a h\u00e1l\u00f3 belsej\u00e9ben a <noindex><a rel=\"nofollow\" href=\"https:\/\/towardsdatascience.com\/how-to-visualize-convolutional-features-in-40-lines-of-code-70b7d87b0030\">sz\u0171r\u0151kben<\/a><\/noindex>\". Ezek a k\u00e9pek 3-4 \u00e9vvel ezel\u0151tt n\u00e9pszer\u0171ek voltak, de mindenki gyorsan r\u00e1j\u00f6tt, hogy a k\u00e9pek sz\u00e9pek, de sok \u00e9rtelm\u00fck nincs.<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/87ace90924d5b900f9382ecc6ceef6d0.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nNem eml\u00edtettem meg tucatnyi m\u00e1s tr\u00fckk\u00f6t, m\u00f3dszert, hack-et, kutat\u00e1st arr\u00f3l, hogyan lehet a h\u00e1l\u00f3 belsej\u00e9t \u00e1br\u00e1zolni. M\u0171k\u00f6dnek ezek az eszk\u00f6z\u00f6k? Seg\u00edtenek gyorsan meg\u00e9rteni, mi a probl\u00e9ma \u00e9s debugolni a h\u00e1l\u00f3zatot?.. Hogyan hozhat\u00f3k ki az utols\u00f3 sz\u00e1zal\u00e9kok? Nos, nagyj\u00e1b\u00f3l \u00edgy:<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/6da71648c300ee3bc8673d08287b77e3.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nB\u00e1rmelyik Kaggle versenyt megtekintheted. \u00c9s az, hogy az emberek mit csin\u00e1lnak a v\u00e9gs\u0151 megold\u00e1sokkal. \u00d6sszegy\u0171jt\u00f6tt\u00fcnk 100-500-800 milli\u00f3 modellt, \u00e9s m\u0171k\u00f6d\u00f6tt!<\/p>\n<p>Term\u00e9szetesen t\u00falozok. De ezek a megk\u00f6zel\u00edt\u00e9sek nem adnak gyors \u00e9s k\u00f6zvetlen v\u00e1laszokat.<\/p>\n<p>Megfelel\u0151 tapasztalattal, k\u00fcl\u00f6nb\u00f6z\u0151 lehet\u0151s\u00e9gek kipr\u00f3b\u00e1l\u00e1s\u00e1val v\u00e9lem\u00e9nyt lehet alkotni arr\u00f3l, hogy mi\u00e9rt d\u00f6nt\u00f6tt a rendszer \u00edgy. De a rendszer viselked\u00e9s\u00e9nek megv\u00e1ltoztat\u00e1sa neh\u00e9z lesz. Be\u00e1ll\u00edtani egy ideiglenes megold\u00e1st, \u00e1t\u00e1ll\u00edtani a k\u00fcsz\u00f6b\u00f6t, hozz\u00e1adni egy adathalmazt, vagy m\u00e1s h\u00e1tt\u00e9r-h\u00e1l\u00f3zatot haszn\u00e1lni.<\/p>\n<h3>A harmadik probl\u00e9ma<\/h3>\n<p>\n<b>A harmadik alapvet\u0151 probl\u00e9ma <\/b> \u2014 a h\u00e1l\u00f3zatok nem logik\u00e1t, hanem statisztik\u00e1t tanulnak. Statisztikai szempontb\u00f3l ez <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/417405\/\">arc<\/a><\/noindex>:<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/def14bbc2f40e4e26656a2d8032b09c1.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nLogikailag \u2014 nem igaz\u00e1n hasonl\u00edt. A neur\u00e1lis h\u00e1l\u00f3zatok nem tanulnak meg neh\u00e9z dolgokat, hacsak nem k\u00e9nyszer\u00edtik \u0151ket. Mindig a lehet\u0151 legegyszer\u0171bb jellemz\u0151ket tanulj\u00e1k. Vannak szemek, orr, fej? Akkor ez egy arc! Vagy hozz p\u00e9ld\u00e1t, ahol a szemek nem jelentik az arcot. \u00c9s \u00fajra \u2014 milli\u00f3 p\u00e9lda.<\/p>\n<h3>El\u00e9g hely van alul<\/h3>\n<p>\nAzt mondan\u00e1m, hogy ezek a h\u00e1rom glob\u00e1lis probl\u00e9ma ma korl\u00e1tozza a neur\u00e1lis h\u00e1l\u00f3zatok \u00e9s a g\u00e9pi tanul\u00e1s fejl\u0151d\u00e9s\u00e9t. Ahol pedig ezek a probl\u00e9m\u00e1k nem korl\u00e1tozt\u00e1k \u2014 m\u00e1r akt\u00edvan haszn\u00e1lj\u00e1k \u0151ket.<\/p>\n<p><b>Ez a v\u00e9g? Meg\u00e1lltak a neur\u00e1lis h\u00e1l\u00f3zatok?<\/b><\/p>\n<p>Nem tudhat\u00f3. De term\u00e9szetesen mindenki rem\u00e9li, hogy nem. <\/p>\n<p>Sok megk\u00f6zel\u00edt\u00e9s \u00e9s ir\u00e1ny van a fent eml\u00edtett alapvet\u0151 probl\u00e9m\u00e1k megold\u00e1s\u00e1ra. De eddig egyik megk\u00f6zel\u00edt\u00e9s sem tudott valami alapvet\u0151en \u00fajat l\u00e9trehozni, vagy megoldani valamit, ami eddig nem volt megoldva. Jelenleg minden alapvet\u0151 projekt stabil megk\u00f6zel\u00edt\u00e9sek (Tesla) alapj\u00e1n k\u00e9sz\u00fclt, vagy int\u00e9zm\u00e9nyek vagy v\u00e1llalatok (Google Brain, OpenAI) tesztprojektjei maradtak.<\/p>\n<p>Ha durv\u00e1n besz\u00e9l\u00fcnk, az alapvet\u0151 ir\u00e1ny a bemeneti adatok valamilyen magas szint\u0171 reprezent\u00e1ci\u00f3j\u00e1nak l\u00e9trehoz\u00e1sa. Egyfajta \u201eeml\u00e9kezet\u201d. A legegyszer\u0171bb p\u00e9lda az eml\u00e9kezetre k\u00fcl\u00f6nf\u00e9le \u201eEmbedding\u201d \u2014 k\u00e9pareprezent\u00e1ci\u00f3k. P\u00e9ld\u00e1ul minden arcfelismer\u0151 rendszer. A h\u00e1l\u00f3zat megtanulja l\u00e9trehozni az arcb\u00f3l egy stabil reprezent\u00e1ci\u00f3t, amely nem f\u00fcgg a forg\u00e1st\u00f3l, vil\u00e1g\u00edt\u00e1st\u00f3l vagy felbont\u00e1st\u00f3l. L\u00e9nyeg\u00e9ben a h\u00e1l\u00f3zat minimaliz\u00e1lja a \u201ek\u00fcl\u00f6nb\u00f6z\u0151 arcok - messze\u201d \u00e9s \u201eazonos - k\u00f6zel\u201d metrik\u00e1t.<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/5e9d871fe096b7a77dbe11a6e315c5e4.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nEhhez a tanul\u00e1shoz t\u00edz \u00e9s sz\u00e1zezernyi p\u00e9lda sz\u00fcks\u00e9ges. Cser\u00e9be az eredm\u00e9ny tartalmaz n\u00e9mi kezdet\u00e9t az \u201eOne-shot Learning\u201d-nek. Most m\u00e1r nincs sz\u00fcks\u00e9g\u00fcnk sz\u00e1z arcre, hogy eml\u00e9kezz\u00fcnk egy szem\u00e9lyre. Csak egy arc, \u00e9s k\u00e9sz \u2014 mi <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/davidsandberg\/facenet\">felismerj\u00fck<\/a><\/noindex>!<br \/>\nCsak itt van egy kis probl\u00e9ma... A h\u00e1l\u00f3zat csak el\u00e9g egyszer\u0171 objektumokat tud megtanulni. Ha megpr\u00f3b\u00e1ljuk megk\u00fcl\u00f6nb\u00f6ztetni nem az arcokat, hanem p\u00e9ld\u00e1ul az \u201eembereket a ruh\u00e1ik alapj\u00e1n\u201d (feladat <noindex><a rel=\"nofollow\" href=\"https:\/\/medium.com\/@alitech_2017\/reforming-person-re-identification-with-local-convolutional-neural-networks-17148f11f17b\">Re-identification<\/a><\/noindex>) \u2014 a min\u0151s\u00e9g sokkal rosszabbra fordul. \u00c9s a h\u00e1l\u00f3zat m\u00e1r nem tudja megtanulni a nyilv\u00e1nval\u00f3 n\u00e9z\u0151pontv\u00e1lt\u00e1sokat.<\/p>\n<p>\u00c9s az is el\u00e9g kellemetlen, hogy milli\u00f3k p\u00e9ld\u00e1nyain tanulni \u2014 nem \u00e9ppen sz\u00f3rakoztat\u00f3. <\/p>\n<p>Vannak munk\u00e1k a v\u00e1laszt\u00e9k jelent\u0151s cs\u00f6kkent\u00e9s\u00e9re. P\u00e9ld\u00e1ul hirtelen eszembe jut egy a korai munk\u00e1k k\u00f6z\u00fcl <b>OneShot Learning<\/b> <noindex><a rel=\"nofollow\" href=\"https:\/\/arxiv.org\/pdf\/1605.06065v1.pdf\">a Google-t\u00f3l<\/a><\/noindex>:<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/da83c6f290248f2bcf963c3053a26688.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nSok ilyen munka l\u00e9tezik, p\u00e9ld\u00e1ul <noindex><a rel=\"nofollow\" href=\"https:\/\/pdfs.semanticscholar.org\/d1c4\/c4c7989102e85b5248cebfcb0cb000c3b837.pdf\">1<\/a><\/noindex> vagy <noindex><a rel=\"nofollow\" href=\"https:\/\/www.cs.cmu.edu\/~rsalakhu\/papers\/oneshot1.pdf\">2<\/a><\/noindex> vagy <noindex><a rel=\"nofollow\" href=\"http:\/\/www.robots.ox.ac.uk\/~tvg\/publications\/2018\/0431.pdf\">3<\/a><\/noindex>.<\/p>\n<p>Az egyik h\u00e1tr\u00e1ny, hogy a tanul\u00e1s \u00e1ltal\u00e1ban j\u00f3l m\u0171k\u00f6dik egyszer\u0171, 'MNIST'-f\u00e9le p\u00e9ld\u00e1kon. De a bonyolultabb feladatokhoz nagyobb adatb\u00e1zisra, objektummodellekre vagy valami var\u00e1zslatra van sz\u00fcks\u00e9g.<br \/>\nEgy\u00e9bk\u00e9nt a One-Shot tanul\u00e1s egy nagyon \u00e9rdekes t\u00e9ma. Sok \u00f6tletet tal\u00e1l az ember. De nagyr\u00e9szt azok a k\u00e9t probl\u00e9ma, amiket eml\u00edtettem (el\u0151zetes tanul\u00e1s hatalmas adathalmazon \/ instabilit\u00e1s bonyolult adatokon) nagyon megnehez\u00edtik a tanul\u00e1st.<\/p>\n<p>M\u00e1sr\u00e9szr\u0151l az Embedding t\u00e9m\u00e1hoz a GAN-ok \u2014 generat\u00edv ellent\u00e9tes h\u00e1l\u00f3zatok is kapcsol\u00f3dnak. Biztosan olvast\u00e1l m\u00e1r sok cikket err\u0151l a t\u00e9m\u00e1r\u00f3l a Habr-on. (<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/340154\/\">1<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/itsumma\/blog\/447896\/\">2<\/a><\/noindex>,<noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/ods\/blog\/322514\/\">3<\/a><\/noindex>)<br \/>\nA GAN saj\u00e1toss\u00e1ga egyfajta bels\u0151 \u00e1llapotteret k\u00e9pez (val\u00f3j\u00e1ban ugyanaz az Embedding), amely lehet\u0151v\u00e9 teszi egy k\u00e9p l\u00e9trehoz\u00e1s\u00e1t. Ezek lehetnek <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/shaoanlu\/faceswap-GAN\">arcok<\/a><\/noindex>, lehetnek <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/sergeytulyakov\/mocogan\">tev\u00e9kenys\u00e9gnek<\/a><\/noindex>. <\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/8c25c375dae3559b6895d6c4eb3f6cfd.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nA GAN probl\u00e9m\u00e1ja \u2014 min\u00e9l bonyolultabb a gener\u00e1lt objektum, ann\u00e1l nehezebb le\u00edrni azt a \"gener\u00e1l\u00f3-diszkrimin\u00e1tor\" logik\u00e1j\u00e1ban. Ennek eredm\u00e9nyek\u00e9nt a GAN val\u00f3di alkalmaz\u00e1sai k\u00f6z\u00fcl, amelyek ismertek, csak a DeepFake van, amely ism\u00e9t manipul\u00e1lja az arcok reprezent\u00e1ci\u00f3j\u00e1t (amelyhez hatalmas adatb\u00e1zis \u00e1ll rendelkez\u00e9sre).<\/p>\n<p>M\u00e1s hasznos alkalmaz\u00e1sokat nagyon kev\u00e9s helyen l\u00e1ttam. \u00c1ltal\u00e1ban valamilyen sz\u00f3rakoztat\u00f3 tr\u00fckk\u00f6kr\u0151l van sz\u00f3 k\u00e9pek kieg\u00e9sz\u00edt\u00e9s\u00e9vel.<\/p>\n<p>\u00c9s megint. Senki sem \u00e9rti, hogyan fogja ez lehet\u0151v\u00e9 tenni, hogy el\u0151re l\u00e9pj\u00fcnk a f\u00e9nyes j\u00f6v\u0151be. A logika\/ter\u00fclet reprezent\u00e1ci\u00f3ja a neur\u00e1lis h\u00e1l\u00f3zatban \u2014 ez j\u00f3. De \u00f3ri\u00e1si sz\u00e1m\u00fa p\u00e9lda sz\u00fcks\u00e9ges, nem \u00e9rtj\u00fck, hogyan k\u00e9pzeli el mindezt a neur\u00e1lis h\u00e1l\u00f3, \u00e9s azt sem, hogy hogyan k\u00e9nyszer\u00edts\u00fck a neur\u00e1lis h\u00e1l\u00f3t arra, hogy megjegyezzen valami val\u00f3san bonyolult reprezent\u00e1ci\u00f3t.<\/p>\n<p><b>A meger\u0151s\u00edt\u00e9ses tanul\u00e1s<\/b> teljesen m\u00e1s megk\u00f6zel\u00edt\u00e9st jelent. Biztosan eml\u00e9kszel, hogyan gy\u0151zte le a Google mindenkit a Go j\u00e1t\u00e9kban. A legut\u00f3bbi gy\u0151zelmek a Starcraftban \u00e9s a Dot\u00e1ban. De itt minden kor\u00e1ntsem olyan r\u00f3zs\u00e1s \u00e9s \u00edg\u00e9retes. A legjobban a RL-r\u0151l \u00e9s a neh\u00e9zs\u00e9geir\u0151l azt mes\u00e9li <noindex><a rel=\"nofollow\" href=\"https:\/\/www.alexirpan.com\/2018\/02\/14\/rl-hard.html\">ez a cikk<\/a><\/noindex>.<\/p>\n<p>R\u00f6viden \u00f6sszefoglalva, amit a szerz\u0151 \u00edrt:<\/p>\n<ul>\n<li>A modellek dobozb\u00f3l nem alkalmasak\/\u00e1ltal\u00e1ban rosszul m\u0171k\u00f6dnek.<\/li>\n<li>A gyakorlati feladatokat m\u00e1s m\u00f3don egyszer\u0171bb megoldani. A Boston Dynamics nem haszn\u00e1l RL-t a bonyolults\u00e1ga\/megfontolatlans\u00e1ga\/komplex sz\u00e1m\u00edt\u00e1ssal kapcsolatos neh\u00e9zs\u00e9ge miatt.<\/li>\n<li>Ahhoz, hogy az RL m\u0171k\u00f6dj\u00f6n \u2014 bonyolult f\u00fcggv\u00e9ny sz\u00fcks\u00e9ges. Gyakran neh\u00e9z l\u00e9trehozni\/meg\u00edrni.<\/li>\n<li>Bonyolult modelleket tan\u00edtani. Rengeteg id\u0151t kell t\u00f6lteni annak \u00e9rdek\u00e9ben, hogy a modelleket megmozd\u00edtsuk \u00e9s elt\u00fcntess\u00fck a helyi optimumokat.<\/li>\n<li>Ennek k\u00f6vetkezm\u00e9nyek\u00e9nt \u2014 neh\u00e9z a modellt megism\u00e9telni, a modell instabilit\u00e1sa a legkisebb v\u00e1ltoz\u00e1sokra is.<\/li>\n<li>Gyakran t\u00fall\u00e9p az olyan irrelev\u00e1ns mint\u00e1kra, mint p\u00e9ld\u00e1ul a v\u00e9letlensz\u00e1m-gener\u00e1tor.<\/li>\n<\/ul>\n<p>\nA kulcspont \u2014 a RL egyel\u0151re nem m\u0171k\u00f6dik a gyakorlatban. A Google-nak van n\u00e9h\u00e1ny k\u00eds\u00e9rlete ( <noindex><a rel=\"nofollow\" href=\"https:\/\/ai.google\/research\/teams\/brain\/robotics\/\">1<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"https:\/\/ai.googleblog.com\/2018\/06\/scalable-deep-reinforcement-learning.html\">2<\/a><\/noindex> ). De nem l\u00e1ttam egyetlen term\u00e9krendszert sem.<\/p>\n<p><b>Mem\u00f3ria<\/b>. A fent eml\u00edtett probl\u00e9m\u00e1k h\u00e1tr\u00e1nya az, hogy nem struktur\u00e1ltak. Az egyik megk\u00f6zel\u00edt\u00e9s, amellyel pr\u00f3b\u00e1lj\u00e1k ezt kezelni, hogy hozz\u00e1f\u00e9r\u00e9st biztos\u00edtanak a neur\u00e1lis h\u00e1l\u00f3nak egy k\u00fcl\u00f6n mem\u00f3ri\u00e1hoz. \u00cdgy k\u00e9pes lenne r\u00f6gz\u00edteni \u00e9s \u00fajra\u00edrni az eredm\u00e9nyeit. Ekkor a neur\u00e1lis h\u00e1l\u00f3zat a mem\u00f3ria aktu\u00e1lis \u00e1llapot\u00e1t\u00f3l f\u00fcggetlenedhet. Ez nagyon hasonl\u00edt a klasszikus processzorokra \u00e9s sz\u00e1m\u00edt\u00f3g\u00e9pekre.<\/p>\n<p>A legismertebb \u00e9s legn\u00e9pszer\u0171bb <noindex>cikk <\/noindex> \u2014 a DeepMind-t\u0151l:<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/acc6bcd86c8c071fbd9776a91f990752.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\n\u00dagy t\u0171nik, hogy itt a kulcs az intelligencia meg\u00e9rt\u00e9s\u00e9hez? De val\u00f3sz\u00edn\u0171leg nem. A rendszernek m\u00e9g mindig hatalmas mennyis\u00e9g\u0171 adatra van sz\u00fcks\u00e9ge a tanul\u00e1shoz. F\u0151leg struktur\u00e1lt t\u00e1bl\u00e1zatos adatokkal dolgozik. Ek\u00f6zben amikor a Facebook <noindex><a rel=\"nofollow\" href=\"https:\/\/embodiedqa.org\/\">megoldotta <\/a><\/noindex>egy hasonl\u00f3 probl\u00e9m\u00e1t, \u0151k azt a megold\u00e1st v\u00e1lasztott\u00e1k, hogy \"a fen\u00e9be a mem\u00f3ri\u00e1val, csin\u00e1ljunk egy bonyolultabb neur\u00e1lis h\u00e1l\u00f3t, \u00e9s t\u00f6bb p\u00e9ld\u00e1t, \u00e9s az majd megtanulja \u00f6n\u00e1ll\u00f3an\".<\/p>\n<p><b>Disz-entanglement<\/b>. A m\u00e1sik m\u00f3dszer a jelent\u0151s mem\u00f3ria l\u00e9trehoz\u00e1s\u00e1ra az, hogy ugyanazokat az embeddingeket haszn\u00e1lj\u00e1k, de a tanul\u00e1sn\u00e1l tov\u00e1bbi krit\u00e9riumokat vezetnek be, amelyek lehet\u0151v\u00e9 tenn\u00e9k a \"jelent\u00e9sek\" kiemel\u00e9s\u00e9t. P\u00e9ld\u00e1ul szeretn\u00e9nk megtan\u00edtani a neur\u00e1lis h\u00e1l\u00f3nak megk\u00fcl\u00f6nb\u00f6ztetni az emberek viselked\u00e9s\u00e9t egy boltban. Ha a megszokott m\u00f3don haladtunk volna, akkor tucatnyi h\u00e1l\u00f3t kellett volna l\u00e9trehoznunk. Az egyik az embert keresi, a m\u00e1sik meg\u00e1llap\u00edtja, mit csin\u00e1l, a harmadik az \u00e9letkor\u00e1t, a negyedik \u2014 a nem\u00e9t. Egy k\u00fcl\u00f6n logika figyeli a bolt azon r\u00e9sz\u00e9t, ahol \u0151 van\/oktatja ezt. A harmadik meg\u00e1llap\u00edtja az \u00fatvonal\u00e1t, stb.<\/p>\n<p>Vagy ha hat\u00e1rtalan mennyis\u00e9g\u0171 adat lenne, akkor egyetlen h\u00e1l\u00f3t lehetne tan\u00edtani a k\u00fcl\u00f6nf\u00e9le kimenetekre (nyilv\u00e1nval\u00f3, hogy egy ilyen adathalmazt nem lehet \u00f6sszegy\u0171jteni).<\/p>\n<p>A disz-entanglement megk\u00f6zel\u00edt\u00e9s azt mondja nek\u00fcnk \u2014 mi\u00e9rt ne tan\u00edtsuk a h\u00e1l\u00f3t \u00fagy, hogy \u00f6n\u00e1ll\u00f3an tudja megk\u00fcl\u00f6nb\u00f6ztetni a fogalmakat. Hogy a vide\u00f3 alapj\u00e1n egy embeddinget k\u00e9pezne, ahol egy ter\u00fclet a cselekv\u00e9st, egy a padl\u00f3n id\u0151ben elfoglalt helyzetet, egy a n\u00f6veked\u00e9st, egy pedig a nemet hat\u00e1rozn\u00e1 meg. A tanul\u00e1s sor\u00e1n szinte nem szeretn\u00e9nk \u00fatmutat\u00e1st adni a h\u00e1l\u00f3nak olyan kulcsfontoss\u00e1g\u00fa fogalmak tekintet\u00e9ben, hanem hogy \u00f6n\u00e1ll\u00f3an kiemelje \u00e9s csoportos\u00edtsa a ter\u00fcleteket. Ilyen cikkekb\u0151l el\u00e9g kev\u00e9s van (n\u00e9h\u00e1ny k\u00f6z\u00fcl\u00fck <noindex><a rel=\"nofollow\" href=\"https:\/\/ai.googleblog.com\/2019\/04\/evaluating-unsupervised-learning-of.html\">1<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"http:\/\/papers.nips.cc\/paper\/5851-deep-convolutional-inverse-graphics-network.pdf\">2<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"https:\/\/arxiv.org\/pdf\/1812.02230.pdf\">3<\/a><\/noindex>) \u00e9s \u00f6sszess\u00e9g\u00e9ben el\u00e9g elm\u00e9leti jelleg\u0171ek. <\/p>\n<p>De ez az ir\u00e1nyvonal, legal\u00e1bbis elm\u00e9letileg, meg kellene oldja a felsorolt probl\u00e9m\u00e1kat.<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/b36046dc3cbe3b849e1d3a60f56ec3a2.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nA k\u00e9pet a param\u00e9terek szerint bontjuk le: \"fal sz\u00edne\/f\u00f6ld sz\u00edne\/objektum form\u00e1ja\/objektum sz\u00edne\/stb.\"<\/p>\n<p><img decoding=\"async\" alt=\"Pattant-e a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete?\" src=\"\/wp-content\/uploads\/4d5ac8dfc43f76b35f3490c26049c7db.png\" style=\"display:block;margin: 0 auto;\" \/><br \/>\n<br \/>\nAz arcot a k\u00f6vetkez\u0151 param\u00e9terekre bontjuk: \"m\u00e9ret, szem\u00f6ld\u00f6k, orient\u00e1ci\u00f3, b\u0151rsz\u00edn, stb.\"<\/p>\n<h3>Egy\u00e9b<\/h3>\n<p>\nSok m\u00e1s, nem annyira glob\u00e1lis ir\u00e1nyvonal is l\u00e9tezik, amelyek lehet\u0151v\u00e9 teszik az adatok cs\u00f6kkent\u00e9s\u00e9t, heterog\u00e9n adatokkal val\u00f3 munk\u00e1t, stb.<\/p>\n<p><b>Figyelem<\/b>. Val\u00f3sz\u00edn\u0171leg nincs \u00e9rtelme ezt k\u00fcl\u00f6n m\u00f3dszerk\u00e9nt kiemelni. Csak egy megk\u00f6zel\u00edt\u00e9s, amely er\u0151s\u00edti a t\u00f6bbit. Sok cikk foglalkozik vele (<noindex><a rel=\"nofollow\" href=\"http:\/\/www.wildml.com\/2016\/01\/attention-and-memory-in-deep-learning-and-nlp\/\">1<\/a><\/noindex>,<noindex><a rel=\"nofollow\" href=\"http:\/\/jalammar.github.io\/visualizing-neural-machine-translation-mechanics-of-seq2seq-models-with-attention\/\">2<\/a><\/noindex>,<noindex><a rel=\"nofollow\" href=\"https:\/\/arxiv.org\/abs\/1706.03762\">3<\/a><\/noindex>). A figyelem l\u00e9nyege az, hogy a h\u00e1l\u00f3zat reag\u00e1ljon a jelent\u0151s objektumokra a tanul\u00e1s sor\u00e1n. Gyakran valami k\u00fcls\u0151 c\u00e9lzott ir\u00e1nymutat\u00e1ssal, vagy egy kis k\u00fcls\u0151 h\u00e1l\u00f3zattal.<\/p>\n<p><b>3D-szimul\u00e1ci\u00f3<\/b>. Ha j\u00f3 3D motor k\u00e9sz\u00fclt, akkor azt gyakran lehet haszn\u00e1lni a tan\u00edt\u00f3 adatok 90%-\u00e1nak lefed\u00e9s\u00e9re (l\u00e1ttam m\u00e1r p\u00e9ld\u00e1t, amikor majdnem 99%-\u00e1t lefedte egy j\u00f3 motor). Sok \u00f6tlet \u00e9s hack l\u00e9tezik, hogyan lehet a 3D motoron betan\u00edtott h\u00e1l\u00f3zatot re\u00e1lis adatokon m\u0171k\u00f6d\u0151k\u00e9pess\u00e9 tenni (finomhangol\u00e1s, st\u00edlus transzfer, stb.). De gyakran egy j\u00f3 motor elk\u00e9sz\u00edt\u00e9se \u2014 t\u00f6bb nagys\u00e1grenddel nehezebb, mint az adatok \u00f6sszegy\u0171jt\u00e9se. P\u00e9ld\u00e1k, amikor motorokat csin\u00e1ltak:<br \/>\nRobotok tan\u00edt\u00e1sa (<noindex><a rel=\"nofollow\" href=\"https:\/\/ai.googleblog.com\/2018\/06\/teaching-uncalibrated-robots-to_22.html\">google<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/VZcmogKXC18\">braingarden<\/a><\/noindex>)<br \/>\nK\u00e9pz\u00e9s <noindex><a rel=\"nofollow\" href=\"https:\/\/neuromation.io\/\">azonos\u00edt\u00e1sa<\/a><\/noindex> boltban (de a k\u00e9t projekt\u00fcnkben, amelyet k\u00e9sz\u00edtett\u00fcnk \u2014 nyugodtan meg\u00fasztuk ezt).<br \/>\nTanul\u00e1s a Tesl\u00e1n\u00e1l (ism\u00e9t a fenti vide\u00f3).<\/p>\n<h2>K\u00f6vetkeztet\u00e9sek<\/h2>\n<p>\nAz eg\u00e9sz cikk valamilyen \u00e9rtelemben k\u00f6vetkeztet\u00e9sek \u00f6sszess\u00e9ge. Val\u00f3sz\u00edn\u0171leg az alapvet\u0151 \u00fczenet, amelyet szerettem volna k\u00f6zvet\u00edteni \u2014 \"a k\u00f6nny\u0171 megold\u00e1sok v\u00e9get \u00e9rtek, a neur\u00e1lis h\u00e1l\u00f3zatok m\u00e1r nem k\u00edn\u00e1lnak egyszer\u0171 megold\u00e1sokat.\" Most m\u00e1r kem\u00e9nyen kell dolgozni, \u00f6sszetett megold\u00e1sokat \u00e9p\u00edtve. Vagy kem\u00e9nyen dolgozni, bonyolult tudom\u00e1nyos kutat\u00e1sokat v\u00e9gezve.<\/p>\n<p>Egy\u00e9bk\u00e9nt a t\u00e9ma vitathat\u00f3. Lehet, hogy az olvas\u00f3knak vannak \u00e9rdekesebb p\u00e9ld\u00e1ik?<br \/>\n<br \/>Forr\u00e1s: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/recognitor\/blog\/455676\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u041d\u0435\u0434\u0430\u0432\u043d\u043e \u0432\u044b\u0448\u043b\u0430 \u0441\u0442\u0430\u0442\u044c\u044f, \u043a\u043e\u0442\u043e\u0440\u0430\u044f \u043d\u0435\u043f\u043b\u043e\u0445\u043e \u043f\u043e\u043a\u0430\u0437\u044b\u0432\u0430\u0435\u0442 \u0442\u0435\u043d\u0434\u0435\u043d\u0446\u0438\u044e \u0432 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u043c \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u0438 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0445 \u043b\u0435\u0442. \u0415\u0441\u043b\u0438 \u043a\u043e\u0440\u043e\u0442\u043a\u043e: \u0447\u0438\u0441\u043b\u043e \u0441\u0442\u0430\u0440\u0442\u0430\u043f\u043e\u0432 \u0432 \u043e\u0431\u043b\u0430\u0441\u0442\u0438 \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f \u0432 \u043f\u043e\u0441\u043b\u0435\u0434\u043d\u0438\u0435 \u0434\u0432\u0430 \u0433\u043e\u0434\u0430 \u0440\u0435\u0437\u043a\u043e \u0443\u043f\u0430\u043b\u043e. \u041d\u0443 \u0447\u0442\u043e. \u0420\u0430\u0437\u0431\u0435\u0440\u0451\u043c \u00ab\u043b\u043e\u043f\u043d\u0443\u043b \u043b\u0438 \u043f\u0443\u0437\u044b\u0440\u044c\u00bb, \u00ab\u043a\u0430\u043a \u0434\u0430\u043b\u044c\u0448\u0435 \u0436\u0438\u0442\u044c\u00bb \u0438 \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u043e\u0442\u043a\u0443\u0434\u0430 \u0432\u043e\u043e\u0431\u0449\u0435 \u0442\u0430\u043a\u0430\u044f \u0437\u0430\u0433\u043e\u0433\u0443\u043b\u0438\u043d\u0430. \u0414\u043b\u044f \u043d\u0430\u0447\u0430\u043b\u0430 \u043f\u043e\u0433\u043e\u0432\u043e\u0440\u0438\u043c \u0447\u0442\u043e \u0431\u044b\u043b\u043e \u0431\u0443\u0441\u0442\u0435\u0440\u043e\u043c \u044d\u0442\u043e\u0439 \u043a\u0440\u0438\u0432\u043e\u0439. \u041e\u0442\u043a\u0443\u0434\u0430 \u043e\u043d\u0430 \u0432\u0437\u044f\u043b\u0430\u0441\u044c. \u041d\u0430\u0432\u0435\u0440\u043d\u043e\u0435 \u0432\u0441\u0451 \u0432\u0441\u043f\u043e\u043c\u043d\u044f\u0442 [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-35293","post","type-post","status-publish","format-standard","hentry","category-news"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 5.0.3 - aioseo.com -->\n\t<meta name=\"description\" content=\"\u041d\u0435\u0434\u0430\u0432\u043d\u043e \u0432\u044b\u0448\u043b\u0430\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/hu\/blog\/news\/lopnul-li-puzyr-mashinnogo-obucheniya-ili-nachalo-novoj-zari\" \/>\n\t\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 5.0.3\" \/>\n\t\t<meta property=\"og:locale\" content=\"hu_HU\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041b\u043e\u043f\u043d\u0443\u043b \u043b\u0438 \u043f\u0443\u0437\u044b\u0440\u044c \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0438\u043b\u0438 \u043d\u0430\u0447\u0430\u043b\u043e \u043d\u043e\u0432\u043e\u0439 \u0437\u0430\u0440\u0438 | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"\u041d\u0435\u0434\u0430\u0432\u043d\u043e \u0432\u044b\u0448\u043b\u0430\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/hu\/blog\/news\/lopnul-li-puzyr-mashinnogo-obucheniya-ili-nachalo-novoj-zari\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2019-10-31T19:03:28+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2019-10-31T19:03:28+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47F\u00e9lrecs\u00faszott a g\u00e9pi tanul\u00e1s lufija, vagy egy \u00faj hajnal kezdete | ProHoster","description":"Nemr\u00e9giben megjelent","canonical_url":"https:\/\/prohoster.info\/hu\/blog\/news\/lopnul-li-puzyr-mashinnogo-obucheniya-ili-nachalo-novoj-zari","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"hu_HU","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041b\u043e\u043f\u043d\u0443\u043b \u043b\u0438 \u043f\u0443\u0437\u044b\u0440\u044c \u043c\u0430\u0448\u0438\u043d\u043d\u043e\u0433\u043e \u043e\u0431\u0443\u0447\u0435\u043d\u0438\u044f, \u0438\u043b\u0438 \u043d\u0430\u0447\u0430\u043b\u043e \u043d\u043e\u0432\u043e\u0439 \u0437\u0430\u0440\u0438 | ProHoster","og:description":"\u041d\u0435\u0434\u0430\u0432\u043d\u043e \u0432\u044b\u0448\u043b\u0430","og:url":"https:\/\/prohoster.info\/hu\/blog\/news\/lopnul-li-puzyr-mashinnogo-obucheniya-ili-nachalo-novoj-zari","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2019-10-31T19:03:28+00:00","article:modified_time":"2019-10-31T19:03:28+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"35293","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-21 22:41:19","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-03-01 02:06:24","updated":"2026-01-21 22:41:19","focus_keyword":null,"additional_keywords":null,"truseo_locale":null},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/posts\/35293","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/comments?post=35293"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/posts\/35293\/revisions"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/media?parent=35293"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/categories?post=35293"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/hu\/wp-json\/wp\/v2\/tags?post=35293"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}