{"id":54780,"date":"2020-01-04T00:00:00","date_gmt":"2020-01-03T21:00:00","guid":{"rendered":"https:\/\/prohoster.info\/blog\/blog_prohoster\/nejroseti-kuda-eto-vse-dvizhetsya"},"modified":"2020-02-18T14:02:50","modified_gmt":"2020-02-18T11:02:50","slug":"nejroseti-kuda-eto-vse-dvizhetsya","status":"publish","type":"post","link":"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/nejroseti-kuda-eto-vse-dvizhetsya","title":{"rendered":"Reti neurali. Dove sta andando tutto questo","gt_translate_keys":[{"key":"rendered","format":"text"}]},"content":{"rendered":"<p>L'articolo \u00e8 composto da due parti:<\/p>\n<p><\/p>\n<ol>\n<li>Una breve descrizione di alcune architetture delle reti per il rilevamento degli oggetti nelle immagini e la segmentazione delle immagini, con i link pi\u00f9 chiari per me. Ho cercato di scegliere video esplicativi, preferibilmente in lingua russa.<\/li>\n<li>La seconda parte consiste nel tentativo di comprendere la direzione di sviluppo delle architetture delle reti neurali e delle tecnologie basate su di esse.<\/li>\n<\/ol>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Reti neurali. Dove sta andando tutto questo\" src=\"\/wp-content\/uploads\/2020\/01\/3e0238547dc956dbb069c11241e4534f.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<p>Figura 1 \u2013 Comprendere le architetture delle reti neurali non \u00e8 semplice<\/p>\n<p><\/p>\n<p>Tutto \u00e8 iniziato con la creazione di due applicazioni dimostrative per la classificazione e il rilevamento di oggetti su telefono Android:<\/p>\n<p><\/p>\n<ul>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/foobar167\/junkyard\/tree\/master\/object_classifier\">Demo back-end<\/a><\/noindex>, quando i dati vengono elaborati sul server e inviati al telefono. Classificazione delle immagini (image classification) di tre tipi di orsi: bruno, nero e di peluche.<\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/foobar167\/android\/tree\/master\/object_detection_demo\">Demo front-end<\/a><\/noindex>, quando i dati vengono elaborati direttamente sul telefono. Rilevamento degli oggetti (object detection) di tre tipi: nocciola, fico e dattero.<\/li>\n<\/ul>\n<p><noindex><a rel=\"nofollow\" name=\"habracut\"><\/a><\/noindex><\/p>\n<p>C'\u00e8 una differenza tra le attivit\u00e0 di classificazione delle immagini, rilevamento degli oggetti nelle immagini e <noindex><a rel=\"nofollow\" href=\"https:\/\/medium.com\/analytics-vidhya\/image-classification-vs-object-detection-vs-image-segmentation-f36db85fe81\">segmentazione delle immagini<\/a><\/noindex>. Perci\u00f2, \u00e8 emersa la necessit\u00e0 di comprendere quali architetture delle reti neurali rilevano oggetti nelle immagini e quali possono segmentarli. Ho trovato i seguenti esempi di architetture con collegamenti a risorse che mi sembrano pi\u00f9 comprensibili:<\/p>\n<p><\/p>\n<ul>\n<li>Serie di architetture basate su R-CNN (<strong>R<\/strong>regioni con <strong>C<\/strong>voluzione <strong>N<\/strong>rettile <strong>N<\/strong>rete): R-CNN, Fast R-CNN, <noindex><a rel=\"nofollow\" href=\"https:\/\/medium.com\/@smallfishbigsea\/faster-r-cnn-explained-864d4fb7e3f8\">Faster R-CNN<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/0vt05rQqk_I\">Mask R-CNN<\/a><\/noindex>. Per la rilevazione di un oggetto nell'immagine, tramite il meccanismo Region Proposal Network (RPN), vengono evidenziate regioni limitate (bounding boxes). Inizialmente, invece di RPN, veniva utilizzato un meccanismo pi\u00f9 lento chiamato Selective Search. Successivamente, le regioni limitate identificate vengono fornite come input a una rete neurale convenzionale per la classificazione. Nell'architettura R-CNN ci sono cicli espliciti 'for' per passare attraverso le regioni limitate, con fino a 2000 passaggi attraverso la rete interna AlexNet. A causa di questi cicli espliciti 'for', la velocit\u00e0 di elaborazione delle immagini \u00e8 rallentata. Il numero di cicli espliciti, di passaggi attraverso la rete neurale interna, diminuisce con ogni nuova versione dell'architettura, e vengono implementate decine di altre modifiche per aumentare la velocit\u00e0 e per sostituire la task di rilevamento degli oggetti con la segmentazione degli oggetti in Mask R-CNN.<\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/L0tzmv--CGY\">YOLO<\/a><\/noindex> (<strong>Y<\/strong>pu\u00f2 <strong>O<\/strong>solo <strong>L<\/strong>guardare <strong>O<\/strong>nce) \u2013 la prima rete neurale in grado di riconoscere oggetti in tempo reale su dispositivi mobili. La caratteristica distintiva: la distinzione degli oggetti in un'unica passata (basta guardare una volta). Quindi, nell'architettura YOLO non ci sono cicli espliciti \"for\", il che rende la rete veloce. Ad esempio, una simile analogia: in NumPy, durante le operazioni con le matrici, non ci sono cicli espliciti \"for\", poich\u00e9 vengono implementati a un livello inferiore attraverso il linguaggio di programmazione C. YOLO utilizza una rete di finestre predefinite. Per evitare che lo stesso oggetto venga identificato pi\u00f9 volte, viene utilizzato un coefficiente di sovrapposizione delle finestre (IoU, <strong>I<\/strong>ntersection <strong>o<\/strong>ver <strong>U<\/strong>nion). Questa architettura funziona su un'ampia gamma e ha un'alta <noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%A0%D0%BE%D0%B1%D0%B0%D1%81%D1%82%D0%BD%D0%BE%D1%81%D1%82%D1%8C\">robustezza<\/a><\/noindex>: il modello pu\u00f2 essere addestrato su fotografie, ma funziona bene anche su dipinti.<\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/P8e-G-Mhx4k\">SSD<\/a><\/noindex> (<strong>S<\/strong>ingle <strong>S<\/strong>hot MultiBox <strong>D<\/strong>Detectors) \u2013 vengono utilizzati i migliori \"hack\" dell'architettura YOLO (ad esempio, la soppressione non massima) e vengono aggiunti nuovi metodi per far funzionare la rete neurale pi\u00f9 rapidamente e con maggiore precisione. Una caratteristica distintiva \u00e8 la distinzione degli oggetti in un solo passaggio utilizzando una griglia di finestre (default box) su una piramide di immagini. La piramide delle immagini \u00e8 codificata in tensori convoluzionali durante operazioni successive di convoluzione e pooling (durante l'operazione di max-pooling, la dimensione spaziale diminuisce). In questo modo vengono definiti sia oggetti grandi che piccoli in un solo passaggio della rete.<\/li>\n<li>MobileSSD (<strong>Mobile<\/strong>NetV2 + <strong>SSD<\/strong>) \u2013 combinazione di due architetture di reti neurali. La prima rete <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/352804\/\">MobileNetV2<\/a><\/noindex> lavora rapidamente e aumenta la precisione del riconoscimento. MobileNetV2 \u00e8 utilizzato al posto di VGG-16, che era originariamente impiegato in <noindex><a rel=\"nofollow\" href=\"https:\/\/arxiv.org\/abs\/1512.02325\">articolo originale.<\/a><\/noindex>. La seconda rete SSD determina la posizione degli oggetti nell'immagine.<\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/ge_RT5wvHvY\">SqueezeNet<\/a><\/noindex> \u2013 una rete neurale molto piccola, ma precisa. Di per s\u00e9 non risolve il problema del rilevamento degli oggetti. Tuttavia, pu\u00f2 essere utilizzata in combinazione con diverse architetture e impiegata nei dispositivi mobili. La caratteristica distintiva \u00e8 che i dati vengono inizialmente compressi in quattro filtri convoluzionali 1\u00d71, per poi essere espansi in quattro filtri 1\u00d71 e quattro filtri 3\u00d73. Un'iterazione di compressione-espansione dei dati \u00e8 chiamata \u00abFire Module\u00bb.<\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/b6jhopSMit8\">DeepLab<\/a><\/noindex> (Segmentazione semantica delle immagini con reti neurali convoluzionali profonde) \u2013 segmentazione degli oggetti in un'immagine. La caratteristica distintiva dell'architettura \u00e8 la convoluzione dilatata, che preserva la risoluzione spaziale. Segue una fase di post-elaborazione dei risultati tramite un modello probabilistico grafico, che consente di rimuovere piccoli rumori nella segmentazione e migliorare la qualit\u00e0 dell'immagine segmentata. Dietro il temibile nome \u00abmodello probabilistico grafico\u00bb si cela un comune filtro gaussiano approssimato su cinque punti.<\/li>\n<li>Ho cercato di capire il funzionamento <noindex><a rel=\"nofollow\" href=\"https:\/\/arxiv.org\/abs\/1711.06897\">RefineDet<\/a><\/noindex> (Single-Shot <strong>Refine<\/strong>ment Neural Network for Object <strong>Det<\/strong>sezione), ma non ho capito molto.<\/li>\n<li>Ho anche guardato come funziona la tecnologia dell'\u00abattenzione\u00bb: <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/W2rWgXJBZhU\">video1<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/iDulhoQ2pro\">video2<\/a><\/noindex>, <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/H6Qiegq_36c\">video3<\/a><\/noindex>. La caratteristica distintiva dell'architettura dell'\u00abattenzione\u00bb \u00e8 l'individuazione automatica delle regioni di maggiore interesse sull'immagine (RoI, <strong>R<\/strong>regioni <strong>o<\/strong>f <strong>I<\/strong>di interesse) tramite una rete neurale chiamata Attention Unit. Le regioni di attenzione assomigliano a dei bounding boxes, ma a differenza di queste, non sono fissate sull'immagine e possono avere confini sfocati. Successivamente, dalle regioni di interesse vengono estratti dei tratti (features), che vengono \"alimentati\" a reti neurali ricorrenti con architetture <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/5lUUrREboSk\">LSDM, GRU o Vanilla RNN<\/a><\/noindex>. Le reti neurali ricorrenti sono in grado di analizzare le relazioni tra i tratti in una sequenza. Inizialmente, le reti neurali ricorrenti venivano utilizzate per le traduzioni di testo in altre lingue, e ora anche per la traduzione <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/e-WB4lfg30M\">dell'immagine in testo<\/a><\/noindex> e <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/rAbhypxs1qQ\">del testo in immagine<\/a><\/noindex>.<\/li>\n<\/ul>\n<p><\/p>\n<p>Man mano che studiavo queste architetture <strong>ho capito che non capivo nulla<\/strong>. E non si tratta del fatto che la mia rete neurale abbia problemi con il meccanismo di attenzione. Creare tutte queste architetture sembra un enorme hackathon, dove gli autori competono nel trovare hacks. Un hack \u00e8 una soluzione rapida a un difficile problema software. Cio\u00e8, tra tutte queste architetture non c'\u00e8 un legame logico visibile e comprensibile. Tutto ci\u00f2 che le unisce \u00e8 un insieme dei migliori hacks che si rubano l'un l'altro, pi\u00f9 un comune denominatore. <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/Ilg3gGewQ5U\">operazione di convoluzione con feedback<\/a><\/noindex> (propagazione dell'errore inversa, backpropagation). Nessun <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/272473\/\">pensiero sistemico<\/a><\/noindex>! Non \u00e8 chiaro cosa cambiare e come ottimizzare i risultati ottenuti.<\/p>\n<p><\/p>\n<p>Di conseguenza, a causa della mancanza di connessione logica tra gli hacks, \u00e8 estremamente difficile ricordarli e applicarli nella pratica. Si tratta di conoscenze frammentate. Al meglio, si ricordano solo pochi dettagli interessanti e inaspettati, ma la maggior parte di quanto compreso e non compreso svanisce dalla memoria gi\u00e0 dopo qualche giorno. Sar\u00e0 un risultato positivo se dopo una settimana si ricorder\u00e0 almeno il nome dell'architettura. Ma per leggere articoli e guardare video di panoramica sono state dedicate molte ore e persino giorni di lavoro!<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Reti neurali. Dove sta andando tutto questo\" src=\"\/wp-content\/uploads\/2020\/01\/86f0f24e3be1d0f1a210f3132897d981.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<p>Figura 2 \u2013 <noindex><a rel=\"nofollow\" href=\"https:\/\/www.asimovinstitute.org\/neural-network-zoo\/\">Zoo delle reti neurali<\/a><\/noindex><\/p>\n<p><\/p>\n<p>La maggior parte degli autori di articoli scientifici, secondo la mia opinione personale, fa tutto il possibile affinch\u00e9 anche queste conoscenze frammentate non siano comprese dal lettore. Ma le costruzioni gerundive in dieci frasi con formule, prese 'dal nulla' \u2013 questo \u00e8 un tema per un articolo a parte (problema <noindex><a rel=\"nofollow\" href=\"https:\/\/en.wikipedia.org\/wiki\/Publish_or_perish\">publish or perish<\/a><\/noindex>).<\/p>\n<p><\/p>\n<p>Per questo motivo \u00e8 emersa la necessit\u00e0 di sistematizzare le informazioni sulle reti neurali e, in questo modo, aumentare la qualit\u00e0 della comprensione e della memoria. Pertanto, il tema principale dell'analisi delle singole tecnologie e architetture delle reti neurali artificiali \u00e8 diventato il seguente compito: <strong>capire in che direzione ci si sta muovendo<\/strong>, e non il funzionamento di una specifica rete neurale in particolare.<\/p>\n<p><\/p>\n<p>In che direzione ci si sta muovendo. Risultati principali:<\/p>\n<p><\/p>\n<ul>\n<li>Il numero di startup nel campo dell'apprendimento automatico negli ultimi due anni <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/company\/recognitor\/blog\/455676\/\">\u00e8 crollato<\/a><\/noindex>. Possibile causa: 'le reti neurali hanno smesso di essere qualcosa di nuovo'.<\/li>\n<li>Chiunque sar\u00e0 in grado di creare una rete neurale funzionante per risolvere un compito semplice. A tal fine, prender\u00e0 un modello gi\u00e0 pronto dallo 'zoo dei modelli' (model zoo) e allener\u00e0 l'ultimo strato della rete neurale (<noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/yofjFQddwHE\">transfer learning<\/a><\/noindex>) su dati esistenti da <noindex><a rel=\"nofollow\" href=\"https:\/\/toolbox.google.com\/datasetsearch\">Google Dataset Search<\/a><\/noindex> o da <noindex><a rel=\"nofollow\" href=\"https:\/\/www.kaggle.com\/datasets\">25.000 dataset di Kaggle<\/a><\/noindex> nella gratuita <noindex><a rel=\"nofollow\" href=\"https:\/\/www.dataschool.io\/cloud-services-for-jupyter-notebook\/\">nuvola Jupyter Notebook<\/a><\/noindex>.<\/li>\n<li>I principali produttori di reti neurali hanno iniziato a creare <strong>\u00abzoo di modelli\u00bb<\/strong> (model zoo). Con essi \u00e8 possibile creare rapidamente un'applicazione commerciale: <noindex><a rel=\"nofollow\" href=\"https:\/\/tfhub.dev\/\">TF Hub<\/a><\/noindex> per TensorFlow, <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/open-mmlab\/mmdetection\">MMDetection<\/a><\/noindex> per PyTorch, <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/facebookresearch\/Detectron\">Detectron<\/a><\/noindex> per Caffe2, <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/wkentaro\/chainer-modelzoo\">chainer-modelzoo<\/a><\/noindex> per Chainer e <noindex><a rel=\"nofollow\" href=\"https:\/\/modelzoo.co\/\">altri<\/a><\/noindex>.<\/li>\n<li>Reti neurali funzionanti in <strong>tempo reale<\/strong> (real-time) su dispositivi mobili. Da 10 a 50 fotogrammi al secondo.<\/li>\n<li>Utilizzo delle reti neurali nei telefoni (TF Lite), nei browser (TF.js) e in <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/19ZNz2N79u4\">oggetti di uso quotidiano<\/a><\/noindex> (IoT, <strong>I<\/strong>internet <strong>o<\/strong>f <strong>T<\/strong>delle cose). Soprattutto nei telefoni, che gi\u00e0 supportano le reti neurali a livello di \u00abhardware\u00bb (neuroacceleratori).<\/li>\n<li>\u00abOgni dispositivo, indumenti e, forse, anche il cibo avranno <strong>un indirizzo IP-v6<\/strong> e comunicheranno tra loro\u00bb \u2013 <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/GG7H8Xa4m8I?t=85\">Sebastian Thrun<\/a><\/noindex>.<\/li>\n<li>L'aumento delle pubblicazioni su machine learning ha iniziato a <noindex><a rel=\"nofollow\" href=\"http:\/\/data-mining.philippe-fournier-viger.com\/too-many-machine-learning-papers\">superare la legge di Moore<\/a><\/noindex> (raddoppiando ogni due anni) dal 2015. \u00c8 evidente che servono reti neurali per l'analisi degli articoli.<\/li>\n<li>Stanno guadagnando popolarit\u00e0 le seguenti tecnologie:\n<ul>\n<li><strong>PyTorch<\/strong> \u2013 la popolarit\u00e0 sta crescendo rapidamente e sembra superare TensorFlow.<\/li>\n<li>Ottimizzazione automatica degli iperparametri <strong>AutoML<\/strong> \u2013 la popolarit\u00e0 sta crescendo lentamente.<\/li>\n<li>Riduzione graduale della precisione e aumento della velocit\u00e0 di calcolo: <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/rln_kZbYaWc\">logica imprecisa<\/a><\/noindex>, algoritmi <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/MIPkK5ZAsms\">di boosting<\/a><\/noindex>, calcoli imprecisi (approssimativi), quantizzazione (quando i pesi della rete neurale vengono convertiti in numeri interi e quantizzati), neuroacceleratori.<\/li>\n<li>Traduzione <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/e-WB4lfg30M\">dell'immagine in testo<\/a><\/noindex> e <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/rAbhypxs1qQ\">del testo in immagine<\/a><\/noindex>.<\/li>\n<li>Creazione <noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/OrHLacCDZVQ\">oggetti tridimensionali dai video<\/a><\/noindex>, ora in tempo reale.<\/li>\n<li>L'elemento principale nel DL \u00e8 la grande quantit\u00e0 di dati, ma raccoglierli e annotarli non \u00e8 facile. Per questo motivo si sviluppa l'automazione dell'annotazione (<noindex><a rel=\"nofollow\" href=\"https:\/\/youtu.be\/NcKTn4C91Yc\">automated annotation<\/a><\/noindex>) per le reti neurali tramite altre reti neurali.<\/li>\n<\/ul>\n<\/li>\n<li>Con le reti neurali, la Computer Science \u00e8 diventata improvvisamente <strong>una scienza sperimentale<\/strong> ed \u00e8 emerso <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/480348\">una crisi di riproducibilit\u00e0<\/a><\/noindex>.<\/li>\n<li>I soldi IT e la popolarit\u00e0 delle reti neurali sono emersi simultaneamente, quando il calcolo \u00e8 diventato un valore di mercato. L'economia da oro-valutaria diventa <strong>oro-valuta-calcolo.<\/strong>Guarda il mio articolo su <noindex><a rel=\"nofollow\" href=\"https:\/\/ru.wikipedia.org\/wiki\/%D0%AD%D0%BA%D0%BE%D0%BD%D0%BE%D1%84%D0%B8%D0%B7%D0%B8%D0%BA%D0%B0\">ecofisica<\/a><\/noindex> e il motivo dell'emergere dei soldi IT.<\/li>\n<\/ul>\n<p><\/p>\n<p>Gradualmente emerge una nuova <noindex><a rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/481844\">metodologia di programmazione ML\/DL<\/a><\/noindex> (Machine Learning &amp; Deep Learning), che si basa sulla rappresentazione del programma come un insieme di modelli neurali addestrati.<\/p>\n<p><\/p>\n<p><img decoding=\"async\" alt=\"Reti neurali. Dove sta andando tutto questo\" src=\"\/wp-content\/uploads\/2020\/01\/17df76a613191522145abeba177c2685.png\" style=\"display:block;margin: 0 auto;\" \/><\/p>\n<p><\/p>\n<p>Figura 3 \u2013 ML\/DL come nuova metodologia di programmazione<\/p>\n<p><\/p>\n<p>Tuttavia, non \u00e8 emersa <strong>una \u00abteoria delle reti neurali\u00bb<\/strong>, nell'ambito del quale \u00e8 possibile pensare e lavorare in modo sistemico. Ci\u00f2 che attualmente \u00e8 chiamato \u00abteoria\u00bb sono in realt\u00e0 algoritmi sperimentali ed euristici.<\/p>\n<p><\/p>\n<p>Link alle mie e non solo risorse:<\/p>\n<p><\/p>\n<ul>\n<li>Newsletter su Data Science. Principalmente sulla elaborazione di immagini. Chi desidera riceverla, pu\u00f2 inviare un'email (foobar167&lt;\u0437\u043d\u0430\u043a&gt;gmail&lt;\u0442\u043e\u0447\u043a\u0430&gt;com). I link ad articoli e video vengono inviati man mano che accumulo materiale.<\/li>\n<li>Generale <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/foobar167\/articles\/blob\/master\/Machine_Learning\/courses_on_machine_learning.md\">elenco di corsi e articoli<\/a><\/noindex>, che ho seguito e che vorrei seguire.<\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/foobar167\/articles\/blob\/master\/Ubuntu\/13_Keras_and_TensorFlow_how-tos.md#exercises\">Corsi e video per principianti<\/a><\/noindex>, con cui vale la pena iniziare a studiare le reti neurali. Inoltre, una brochure <noindex><a rel=\"nofollow\" href=\"https:\/\/foobar167.github.io\/page\/vvedeniye-v-mashinnoye-obucheniye-i-iskusstvennyye-neyronnyye-seti.html\">\u00abIntroduzione all'apprendimento automatico e alle reti neurali artificiali\u00bb<\/a><\/noindex>.<\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/foobar167\/articles\/blob\/master\/Ubuntu\/13_Keras_and_TensorFlow_how-tos.md#tools\">Strumenti utili<\/a><\/noindex>, dove ognuno pu\u00f2 trovare qualcosa di interessante per s\u00e9.<\/li>\n<li>Sono stati estremamente utili <strong>i canali video che analizzano articoli scientifici<\/strong> su Data Science. Trovate, iscrivetevi a loro e inviate i link anche ai vostri colleghi e a me. Esempi:\n<ul>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.youtube.com\/user\/keeroyz\">Two Minute Papers<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.youtube.com\/channel\/UCHB9VepY6kYvZjj0Bgxnpbw\">Henry AI Labs<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.youtube.com\/channel\/UCZHmQk67mSJgfCCTn7xBfew\">Yannic Kilcher<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.youtube.com\/channel\/UC5_6ZD6s8klmMu9TXEB_1IA\">CodeEmporium<\/a><\/noindex><\/li>\n<li><noindex><a rel=\"nofollow\" href=\"https:\/\/www.dlology.com\">Blog di Chengwei Zhang<\/a><\/noindex> aka <noindex><a rel=\"nofollow\" href=\"https:\/\/github.com\/Tony607\">Tony607<\/a><\/noindex> con istruzioni passo passo e codice sorgente aperto.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n<p><\/p>\n<p>Grazie per l'attenzione!<\/p>\n<p>Fonte: <a content=\"nofollow\" rel=\"nofollow\" href=\"https:\/\/habr.com\/ru\/post\/482794\/\">habr.com<\/a><\/p>","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"excerpt":{"rendered":"<p>\u0421\u0442\u0430\u0442\u044c\u044f \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0434\u0432\u0443\u0445 \u0447\u0430\u0441\u0442\u0435\u0439: \u041a\u0440\u0430\u0442\u043a\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043d\u0430 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438 \u0438 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0441 \u0441\u0430\u043c\u044b\u043c\u0438 \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u043c\u0438 \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u0441\u0441\u044b\u043b\u043a\u0430\u043c\u0438 \u043d\u0430 \u0440\u0435\u0441\u0443\u0440\u0441\u044b. \u0421\u0442\u0430\u0440\u0430\u043b\u0441\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u0432\u0438\u0434\u0435\u043e \u043f\u043e\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0438 \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u0412\u0442\u043e\u0440\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0432 \u043f\u043e\u043f\u044b\u0442\u043a\u0435 \u043e\u0441\u043e\u0437\u043d\u0430\u0442\u044c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439. \u0418 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0439 \u043d\u0430 \u0438\u0445 \u043e\u0441\u043d\u043e\u0432\u0435. \u0420\u0438\u0441\u0443\u043d\u043e\u043a 1 \u2013 \u041f\u043e\u043d\u0438\u043c\u0430\u0442\u044c [&hellip;]<\/p>\n","protected":false,"gt_translate_keys":[{"key":"rendered","format":"html"}]},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[702],"tags":[],"class_list":["post-54780","post","type-post","status-publish","format-standard","hentry","category-novosti-interneta"],"aioseo_notices":[],"aioseo_head":"\n\t\t<!-- All in One SEO 4.9.10 - aioseo.com -->\n\t<meta name=\"description\" content=\"\u0421\u0442\u0430\u0442\u044c\u044f \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0434\u0432\u0443\u0445 \u0447\u0430\u0441\u0442\u0435\u0439: \u041a\u0440\u0430\u0442\u043a\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043d\u0430 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438 \u0438 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0441 \u0441\u0430\u043c\u044b\u043c\u0438 \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u043c\u0438 \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u0441\u0441\u044b\u043b\u043a\u0430\u043c\u0438 \u043d\u0430 \u0440\u0435\u0441\u0443\u0440\u0441\u044b. \u0421\u0442\u0430\u0440\u0430\u043b\u0441\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u0432\u0438\u0434\u0435\u043e \u043f\u043e\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0438 \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u0412\u0442\u043e\u0440\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0432 \u043f\u043e\u043f\u044b\u0442\u043a\u0435 \u043e\u0441\u043e\u0437\u043d\u0430\u0442\u044c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439. \u0418 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0439 \u043d\u0430 \u0438\u0445 \u043e\u0441\u043d\u043e\u0432\u0435. \u0420\u0438\u0441\u0443\u043d\u043e\u043a 1 \u2013 \u041f\u043e\u043d\u0438\u043c\u0430\u0442\u044c\" \/>\n\t<meta name=\"robots\" content=\"max-image-preview:large\" \/>\n\t<meta name=\"author\" content=\"Yuri Gagarin\"\/>\n\t<link rel=\"canonical\" href=\"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/nejroseti-kuda-eto-vse-dvizhetsya\" \/>\n\t<meta name=\"generator\" content=\"All in One SEO (AIOSEO) 4.9.10\" \/>\n\t\t<meta property=\"og:locale\" content=\"it_IT\" \/>\n\t\t<meta property=\"og:site_name\" content=\"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b\" \/>\n\t\t<meta property=\"og:type\" content=\"article\" \/>\n\t\t<meta property=\"og:title\" content=\"\ud83e\udd47\u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438. \u041a\u0443\u0434\u0430 \u044d\u0442\u043e \u0432\u0441\u0435 \u0434\u0432\u0438\u0436\u0435\u0442\u0441\u044f | ProHoster\" \/>\n\t\t<meta property=\"og:description\" content=\"\u0421\u0442\u0430\u0442\u044c\u044f \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0434\u0432\u0443\u0445 \u0447\u0430\u0441\u0442\u0435\u0439: \u041a\u0440\u0430\u0442\u043a\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043d\u0430 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438 \u0438 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0441 \u0441\u0430\u043c\u044b\u043c\u0438 \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u043c\u0438 \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u0441\u0441\u044b\u043b\u043a\u0430\u043c\u0438 \u043d\u0430 \u0440\u0435\u0441\u0443\u0440\u0441\u044b. \u0421\u0442\u0430\u0440\u0430\u043b\u0441\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u0432\u0438\u0434\u0435\u043e \u043f\u043e\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0438 \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u0412\u0442\u043e\u0440\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0432 \u043f\u043e\u043f\u044b\u0442\u043a\u0435 \u043e\u0441\u043e\u0437\u043d\u0430\u0442\u044c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439. \u0418 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0439 \u043d\u0430 \u0438\u0445 \u043e\u0441\u043d\u043e\u0432\u0435. \u0420\u0438\u0441\u0443\u043d\u043e\u043a 1 \u2013 \u041f\u043e\u043d\u0438\u043c\u0430\u0442\u044c\" \/>\n\t\t<meta property=\"og:url\" content=\"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/nejroseti-kuda-eto-vse-dvizhetsya\" \/>\n\t\t<meta property=\"og:image\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:secure_url\" content=\"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg\" \/>\n\t\t<meta property=\"og:image:width\" content=\"350\" \/>\n\t\t<meta property=\"og:image:height\" content=\"350\" \/>\n\t\t<meta property=\"article:published_time\" content=\"2020-01-03T21:00:00+00:00\" \/>\n\t\t<meta property=\"article:modified_time\" content=\"2020-02-18T11:02:50+00:00\" \/>\n\t\t<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<meta property=\"article:author\" content=\"https:\/\/www.facebook.com\/prohoster\" \/>\n\t\t<!-- All in One SEO -->\n\n","aioseo_head_json":{"title":"\ud83e\udd47Reti neurali. Dove sta andando tutto questo | ProHoster","description":"L'articolo \u00e8 composto da due parti: una breve descrizione di alcune architetture di reti per il riconoscimento degli oggetti nelle immagini e la segmentazione delle immagini, con i riferimenti pi\u00f9 chiari per me. Ho cercato di scegliere video con spiegazioni, preferibilmente in russo. La seconda parte consiste nel cercare di comprendere la direzione di sviluppo delle architetture delle reti neurali e delle tecnologie basate su di esse. Figura 1 \u2013 Comprendere","canonical_url":"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/nejroseti-kuda-eto-vse-dvizhetsya","robots":"max-image-preview:large","keywords":"","webmasterTools":{"miscellaneous":""},"schema":null,"og:locale":"it_IT","og:site_name":"ProHoster | \u041a\u0443\u043f\u0438\u0442\u044c \u043d\u0430\u0434\u0435\u0436\u043d\u044b\u0439 \u0445\u043e\u0441\u0442\u0438\u043d\u0433 \u0434\u043b\u044f \u0441\u0430\u0439\u0442\u043e\u0432 \u0441 \u0437\u0430\u0449\u0438\u0442\u043e\u0439 \u043e\u0442 DDoS, VPS VDS \u0441\u0435\u0440\u0432\u0435\u0440\u044b","og:type":"article","og:title":"\ud83e\udd47\u041d\u0435\u0439\u0440\u043e\u0441\u0435\u0442\u0438. \u041a\u0443\u0434\u0430 \u044d\u0442\u043e \u0432\u0441\u0435 \u0434\u0432\u0438\u0436\u0435\u0442\u0441\u044f | ProHoster","og:description":"\u0421\u0442\u0430\u0442\u044c\u044f \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0438\u0437 \u0434\u0432\u0443\u0445 \u0447\u0430\u0441\u0442\u0435\u0439: \u041a\u0440\u0430\u0442\u043a\u043e\u0435 \u043e\u043f\u0438\u0441\u0430\u043d\u0438\u0435 \u043d\u0435\u043a\u043e\u0442\u043e\u0440\u044b\u0445 \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u0441\u0435\u0442\u0435\u0439 \u043f\u043e \u043e\u0431\u043d\u0430\u0440\u0443\u0436\u0435\u043d\u0438\u044e \u043e\u0431\u044a\u0435\u043a\u0442\u043e\u0432 \u043d\u0430 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0438 \u0438 \u0441\u0435\u0433\u043c\u0435\u043d\u0442\u0430\u0446\u0438\u0438 \u0438\u0437\u043e\u0431\u0440\u0430\u0436\u0435\u043d\u0438\u0439 \u0441 \u0441\u0430\u043c\u044b\u043c\u0438 \u043f\u043e\u043d\u044f\u0442\u043d\u044b\u043c\u0438 \u0434\u043b\u044f \u043c\u0435\u043d\u044f \u0441\u0441\u044b\u043b\u043a\u0430\u043c\u0438 \u043d\u0430 \u0440\u0435\u0441\u0443\u0440\u0441\u044b. \u0421\u0442\u0430\u0440\u0430\u043b\u0441\u044f \u0432\u044b\u0431\u0438\u0440\u0430\u0442\u044c \u0432\u0438\u0434\u0435\u043e \u043f\u043e\u044f\u0441\u043d\u0435\u043d\u0438\u044f \u0438 \u0436\u0435\u043b\u0430\u0442\u0435\u043b\u044c\u043d\u043e \u043d\u0430 \u0440\u0443\u0441\u0441\u043a\u043e\u043c \u044f\u0437\u044b\u043a\u0435. \u0412\u0442\u043e\u0440\u0430\u044f \u0447\u0430\u0441\u0442\u044c \u0441\u043e\u0441\u0442\u043e\u0438\u0442 \u0432 \u043f\u043e\u043f\u044b\u0442\u043a\u0435 \u043e\u0441\u043e\u0437\u043d\u0430\u0442\u044c \u043d\u0430\u043f\u0440\u0430\u0432\u043b\u0435\u043d\u0438\u0435 \u0440\u0430\u0437\u0432\u0438\u0442\u0438\u044f \u0430\u0440\u0445\u0438\u0442\u0435\u043a\u0442\u0443\u0440 \u043d\u0435\u0439\u0440\u043e\u043d\u043d\u044b\u0445 \u0441\u0435\u0442\u0435\u0439. \u0418 \u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0439 \u043d\u0430 \u0438\u0445 \u043e\u0441\u043d\u043e\u0432\u0435. \u0420\u0438\u0441\u0443\u043d\u043e\u043a 1 \u2013 \u041f\u043e\u043d\u0438\u043c\u0430\u0442\u044c","og:url":"https:\/\/prohoster.info\/it\/blog\/novosti-interneta\/nejroseti-kuda-eto-vse-dvizhetsya","og:image":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:secure_url":"https:\/\/prohoster.info\/wp-content\/uploads\/2021\/11\/logo-350.jpg","og:image:width":350,"og:image:height":350,"article:published_time":"2020-01-03T21:00:00+00:00","article:modified_time":"2020-02-18T11:02:50+00:00","article:publisher":"https:\/\/www.facebook.com\/prohoster","article:author":"https:\/\/www.facebook.com\/prohoster"},"aioseo_meta_data":{"post_id":"54780","title":null,"description":null,"keywords":null,"keyphrases":null,"primary_term":null,"canonical_url":null,"og_title":null,"og_description":null,"og_object_type":"default","og_image_type":"default","og_image_url":null,"og_image_width":null,"og_image_height":null,"og_image_custom_url":null,"og_image_custom_fields":null,"og_video":null,"og_custom_url":null,"og_article_section":null,"og_article_tags":null,"twitter_use_og":false,"twitter_card":"default","twitter_image_type":"default","twitter_image_url":null,"twitter_image_custom_url":null,"twitter_image_custom_fields":null,"twitter_title":null,"twitter_description":null,"schema":{"blockGraphs":[],"customGraphs":[],"default":{"data":{"Article":[],"Course":[],"Dataset":[],"FAQPage":[],"Movie":[],"Person":[],"Product":[],"ProductReview":[],"Car":[],"Recipe":[],"Service":[],"SoftwareApplication":[],"WebPage":[]},"graphName":"","isEnabled":true},"graphs":[]},"schema_type":null,"schema_type_options":null,"pillar_content":false,"robots_default":true,"robots_noindex":false,"robots_noarchive":false,"robots_nosnippet":false,"robots_nofollow":false,"robots_noimageindex":false,"robots_noodp":false,"robots_notranslate":false,"robots_max_snippet":null,"robots_max_videopreview":null,"robots_max_imagepreview":"large","priority":null,"frequency":null,"local_seo":null,"seo_analyzer_scan_date":"2026-01-24 12:43:20","breadcrumb_settings":null,"limit_modified_date":false,"reviewed_by":null,"ai":null,"created":"2021-02-28 19:57:38","updated":"2026-01-24 12:43:20"},"gt_translate_keys":[{"key":"link","format":"url"}],"_links":{"self":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts\/54780","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/comments?post=54780"}],"version-history":[{"count":0,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/posts\/54780\/revisions"}],"wp:attachment":[{"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/media?parent=54780"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/categories?post=54780"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/prohoster.info\/it\/wp-json\/wp\/v2\/tags?post=54780"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}