NeuroIPS () maximum colloquium est de machina discendi et intellegentiae artificialis ac principale eventus in mundo altae doctrinae.
Num nos, DS fabrum, etiam biologiam, linguisticam, et psychologiam in nova decade faciemus? Dicemus tibi in nostra recensione.
Hoc anno colloquium plus quam 13500 hominum ex 80 regionibus in Vancuverium, Canada congregavit. Non est hic annus primus quem Sberbank repraesentavit Russiam in colloquio - theam DS locutus est de exsecutione ML in processibus argentariis, de ML competition et de facultatibus suggesti Sberbank DS. Quae erant principalia trends of MMXIX in ML communitate? Conferentia participantium dicunt: и .
Hoc anno, NeurIPS plus quam mille 1400 chartas - algorithms, exempla nova, novas applicationes ad notitias novas accepit.
Contents:
- trends
-
- Exemplar interpretabilitas
- Multidisciplinarity
- rationem
- RL
- GAN
- Basic invitati Sermones
-
- "Intellectus socialis", Blasius Aguera y Arcas (Google)
- "Veridica Data Scientiae", Bin Yu (Berkeley)
- "Morum humanorum Exemplar cum Machina Learning: Opportunitates et Provocationes", Nuria M Oliver, Albert Ali Salah
- "Ex System 1 ad System 2 Deep Doctrinae", Yoshua Bengio
Trends MMXIX
1. Exemplar interpretabilitas et methodus ML nova
Praecipuus locus collationis est interpretatio et evidentia quare certos consequimus. Loqui diu potest de interpretatione philosophica momenti "arcae nigrae", sed in hac provincia plures erant methodi reales ac technicae explicationes.
Methodus ad exempla replicandi et ex eis scientiam extrahendi novum instrumentum ad scientiam est. Exemplar instrumentum inservire potest ad novam cognitionem obtinendam eamque probandam, ac singulae rationes antecedens, educatio et applicatio exemplaris reproducibilia esse debent.
Nota proportio publicationum non ad exemplorum et instrumentorum fabricandas, sed ad quaestiones securitatis, perspicuitatis et eventus verifiabilitatis procurandae. Peculiariter separatus amnis apparuit de oppugnationibus in exemplar (expugnationibus adversariis), et optiones utriusque impetus in institutione et oppugnationibus in applicatione considerantur.
Articuli:
- — Articulus programma de methodo verificationis exemplaris. Recensio instrumentorum recentiorum comprehendit ad exempla interpretanda, praesertim, usum attentionis ac obtinendae pluma momenti per "distillando" reticulum neurale cum exemplaribus linearibus.
- Chaofan Chen, Oscar Li, Daniel Tao, Alina Barnett, Cynthia Rudin, Jonathan K. Su
- Sara Hooker, Dumitru Erhan, Pieter-Jan Kindermans, Been Kim
- Alexander Mott, Daniel Zoran, Mike Chrzanowski, Daan Wierstra, Danilo Jimenez Rezende
- Xiao Li, Yu Wang, Sumanta Basu, Karl Kumbier, Bin Yu
- Jaemin Yoo, Minyong Cho, Taebum Kim, U Kang
- Eduardus Raff
ExBert.net exemplum interpretationis ostendit pro textu processus tasks
2. Multidisciplinarity
Ut certae probationes et machinae ad cognoscendam et amplificandam cognitionem augeantur, specialibus in campis affinibus egimus, qui simul competentias in ML et in subiecto (medicinae, linguae, neurobiologiae, educationis, etc. habent). Praecipue notanda est dignior praesentia operum et locutionum in neuroscientiis et scientiis cognitivis - exsistit rapacitas specialium et mutuatio notionum.
Praeter hanc rapprochenationem, multidisciplinaris oritur in coniunctione notitiarum e variis fontibus: textibus et imaginibus, textibus et ludis, databases graph + text and photos.
Articuli:
- Neuroscience + ML —
- VisualQA -
- RL + NLP -
Duo exemplaria - strategista et exsecutiva - in RL et NLP fabula online militaribus nituntur
3. Ratio
Firmatio intelligentiae artificialis est motus ad systemata propria discendi, « conscii », ratiocinandi et ratiocinandi. Praesertim causales consequentiae et rationes communitatis enucleantur. Nonnullae relationes ad meta-discendi (de modo discendi addiscendi) et technologiarum DL coniunctio cum logica 1 et 2 ordine — terminus Intelligentiae Artificialis Generalis (AGI) in orationibus loquentium communis terminus fit.
Articuli:
- Weijiang Yu, Jingwen Zhou, Weihao Yu, Xiaodan Liang, Nong Xiao
- Wang-Zhou Dai, Qiuling Xu, Yang Yu, Zhi-Hua Zhou
- Vaishak Belle, Brendan Juba
- Anton Bakhtin, Laurens van der Maaten, Justin Johnson, Laura Gustafson, Ross Girshick.
- Dinesh Garg, Shajith Ikbal, Santosh K. Srivastava, Harit Vishwakarma, Hima Karanam, L Venkata Subramaniam
4.Reinforcement Learning
Maxime laboris pergit ut traditionales areas of RL-DOTA2, Starcraft evolvere pergat, architecturas coniungens cum visione computatrum, NLP, graphorum datorum.
Dies separatus colloquii operam dedit officinam RL, in qua architectura Optimistic Actor Critici Exemplar exhibebatur, omnibus superioribus superioribus, in specie Soft Actor Criticus.
Articuli:
- ; Kamil Ciosek, Quan Vuong, Robert Loftin, Katja Hofmann
- ; Yasuhiro Fujita (Preferred Networks, Inc.)*; Toshiki Kataoka (Preferred Networks, Inc.); Prabhat Nagarajan (Malle Networks); Takahiro Ishikawa (Universitas Tokyo) [externa pdf link].
- ; Danijar Hafner (Google)*; Timotheus Lillicrap (DeepMind); Jimmy Ba (University of Toronto); Mohammad Norouzi (Google Brain)
StarCraft players pugna ad exemplar Alphastar (DeepMind)
5.GAN
Retia generativa adhuc in Vestibulum arcu sunt: multa opera vanilla GANs pro argumentis mathematicis utuntur, ac etiam eas novis, insolitis modis applicant (exempla generativa graphi, operando cum serie, applicatione ad relationes causa-et-effectus in notitia, etc.).
Articuli:
- Sangwoo Mo, Chiheon Kim, Sungwoong Kim, Minsu Cho, Jinwoo Shin
- Dan Zhang, Anna Khoreva
- Lei Xu, Maria Skoularidou, Alfredo Cuesta-Infante, Kalyan Veeramachaneni
Quo magis opus acceptum Infra loquemur de maximis orationibus.
Invitavit Sermones
"Intellectus socialis", Blasius Aguera y Arcas (Google)
Narratio generalem methodologiam machinae discendi ac prospectus nunc industriae mutans - quae in trivio versamur? Quomodo opus cerebri et evolutionis facimus, et cur tam parum utimur iis quae iam de evolutione systematum naturalium novimus?
Progressio industrialis ML late coincidit cum miliariis evolutionis Google, quae investigationem suam in NeurIPS anno post annum divulgat:
- 1997 - Inquisitionis facultas, primum ministrantium, parva potentia computandi
- 2010 - Jeff Dean movet consilium Google Brain, in primordio reticulorum neuralis BUTIO
- 2015 - Exsecutio industrialis reticulorum neuralis, facies celeritatis agnitio directe in fabrica locali, processors humilis gradus ad formandam tensorem computandi - TPU. Google Coral ai - analogum de RUBUS IDAIS pi, mini-computer ad introducendum retiacula neuralis in institutiones experimentales.
- 2017 - Google disciplinam decentralized enucleare incipit atque coniungens eventus retis neuralis disciplinarum e diversis machinis in unum exemplar - in Android
Hodie tota industria dedicata est securitati, aggregatione, et replicatione studiorum eventuum in localibus machinis.
- directio ML in qua singula exempla separatim ab invicem discunt et in unum exemplar coniunguntur (sine fonte data), pro raris eventibus, anomaliis, personalizatione, etc. Omnes MASCULINUS adinventiones essentialiter unum supercomputatum computans pro Google sunt.
Exempla generativa in scientia foederata fundata sunt directionem futuram pollicentes secundum Google, quod est "in primis incrementi exponentialis". GANs, secundum lectorem, discere possunt ut massas hominum organismi vivendi et algorithmos cogitando effingere possit.
Utens exemplo duarum simplicium GAN architecturarum, ostenditur in eis quaerere optimizationem viae in circulo vagari, quod significat ipsum ipsum non fieri. Eodem tempore, haec exempla valde prospera sunt experimentis simulandis, quae biologi in bacterial multitudine exercent, ut novas rationes modus agendi ad quaerendum victum discant. Concludere possumus vitam aliter operari quam munus ipsum.
Ambulans GAN Optimization
Omnia quae in machinae studiorum compage agimus, sunt operae angustae et valde formales, dum hae formalismi bene generaliter non sunt nec nostrae subiecti cognitioni respondent in regionibus sicut neurophysiologiam et biologiam.
Quod vere dignum est ex agro neurophysiologiae mutuari in proximo futurum est nova architecturae neuronae et levis machinarum emendatio errorum backpropagationis.
Ipsum cerebrum humanum non discit sicut reticulum neutrum;
- Non temere primarias initationes habet, etiam per sensus et in adulescentia positas
- Insitam habet directionem evolutionis insitam (cupidum discendi linguam ab infante, recto ambulando).
Disciplina singulare cerebrum est munus humile, fortasse considerare " colonias" de mutatione singulorum velociter in cognitionem transeuntium ad machinas evolutionis coetus evolutionis reproducendas.
Quae nunc in ML algorithms adoptare possumus:
- Cellam stirpem exempla applica quae eruditionem hominum invigilant, sed brevis vita singulorum ("individuum cerebrum").
- Pauci iaculat cognita usus exemplorum numerus
- Plures structurae neuronae implicatae, paulum diversae functiones activationis
- Translatio "genome" ad posteros - backpropagationem algorithmus
- Cum neurophysiologiam et retiacula neural coniungimus, ex multis partibus cerebrum multifunctionale aedificare discemus.
Hoc respectu, praxis SOTA solutionum damnosa est ac recognoscenda debet causa munerum communium enucleandi (provocamenta).
"Veridica Data Scientiae", Bin Yu (Berkeley)
Renuntiatio versatur problemati machinae interpretandae exempla discendi et methodi tradendae pro recta probatione et verificatione. Quodlibet exemplar exercitatum ML percipi potest ut fons cognitionis quae ex eo debet erui.
Multis in locis, praesertim in medicina, usus exemplaris non potest extra hanc occultam cognitionem et exitum perspiciendam - aliter certo certius non fore eventus stabiles, non temere, fideles, nec occidemus. patientem. Tota ratio operis methodologiae in profundo paradigma doctrinarum enucleatur et fines suos excedit - notitias veridicas scientiae. Quid est?
talem qualitatem consequi volumus publicationibus scientificis et reproducibilitate exemplorum quae sunt:
- praedictio
- computabilis
- stabulum
Haec tria principia fundant novam methodologiam. Quomodo ML exempla contra has criteria cohiberi possunt? Modus facillimus est statim exponere exempla interpretabilia (recessiones, arbores sententiae). Sed nos quoque proximorum studiorum profunda beneficia obtinere cupimus.
Plures modi exsistentes laborant cum problemate:
- exemplar interpretari;
- utere methodis in attentione;
- usus algorithmorum cum exercitatione, et curet ut exemplaria interpretabilia lineares discant eadem responsa ac retis neuralis praedicere, lineamenta ex exemplari lineari interpretari;
- mutatione et augmento disciplinae data. Haec addit strepitum, impedimentum et augmentationem notitiarum;
- quibusvis modis qui adiuvant ut exemplar eventus non temere nec a minore invitis intervenientibus pendeant (expugnationes adversariae);
- exemplar post facto, post palaestra;
- studium pluma pondera varie;
- investigare probabilia omnium hypothesium, classium distributio.
Adversaria impetum
Exemplar errores pretiosos omnibus: primum exemplum est opus Reinharti et Rogov »."Oeconomicae rationes multarum Europae nationum impulit eosque ad austeritatem agendi rationem prosequendam compulit, sed accuratam re- prehensionem notitiarum eorumque post annos processus contrarium eventum ostendit!
Quaelibet ML technologia cyclum vitam suam habet ab exsequenda ad exsequendam. Propositum novae methodi est tria principia fundamentalia in quolibet statu vitae exemplar inspicere.
results:
- Plures incepta augentur quae ML exemplum certius adiuvabunt. Hoc est, exempli gratia, deeptune. );
- Ad ulteriorem methodorum progressionem, opus est ut signanter operae pretium sit publicationum in campo ML;
- Apparatus discendi duces eget multidisciplinaris disciplinae et peritia in campis tam technicis quam humanitatis.
"Morum humanorum Exemplar cum Machina Learning: Opportunitates et provocationes" Nuria M Oliver, Albert Ali Salah
Lectura dicata ad mores hominum conformandos, fundamenta technicae artis et expectationes applicationis.
Mores humani in sculptura dividi possunt;
- singula mores
- mores parva coetus hominum
- massa mores
Quaelibet harum generum utens ML ad exemplum exprimi potest, sed cum informationibus et lineamentis input omnino diversis. Quaeque species etiam suas quaestiones ethicae habet, quas unaquaeque res percurrit:
- singula mores - identitatis furtum, profunde;
- mores plurium hominum - de-anonymizationis, informationes circa motus, colloquia telephonica, etc.;
singula mores
Plerumque ad argumentum Visionis Computer - agnitionis affectuum et motus humanorum. Forsitan tantum in contextu, tempore, vel habitudine relationis suae mutabilitatis affectuum. Lapsus ostendit agnitionem affectionum Mona Lisa utentes contextu ex spectro permotionis feminarum Mediterranei. Consequuntur: risus laetitia, sed contemptu et fastidio. Ratio verisimillima est in via technica definiendi affectum "medium".
Mores parva coetus hominum
Hactenus exemplum pessimum debetur satis informationis. Exemplum, opera ab 2018 – 2019 ostensa sunt. in justo hominum X dozens of videos (cf. 100k ++ imaginis notitiasets). Ad optimum exemplar huius operis, multimodae informationes necessariae sunt, praesertim a sensoriis in corpore altimetro, thermometro, microphone recordando, etc.
Massa mores
Area maxime exculta est, cum mos est IR et multae civitates. Velit annotata cameras, notitia turris telephonica - exosculatio, SMS, vocat, notitia in motu inter fines civitatis - haec omnia dat imaginem certissimam motus hominum et instabilitates sociales. Potentiae applicationes technologiarum: optimae operationes liberandi, subsidia et opportuna hominum in subitis evacuatione. Exemplaria adhibita praecipue adhuc male interpretata sunt - haec sunt varia LSTMs et retiacula convolutionis. Brevis notatio erat IR lobbying pro nova lege quae Europaeis negotiis obligaret ad notitias anonymizatas necessarias ad quaslibet investigationes communicandas.
"Ex System 1 ad System 2 Deep Doctrinae", Yoshua Bengio
In praelectione Iosue Bengio, alta doctrina neuroscientiae occurrit in gradu ad occasum propositum.
Bengio duo genera problematum principalia secundum methodum Nobelis laureati Danielis Kahneman (libri" designat.")
typus 1 - Systema 1, actus nescientes nos "automatice" (cerebrum antiquum) facimus: autocinetum agitantem in locis familiaribus ambulantes, facies agnoscentes.
typus 2 - Systema 2, actus conscii (cortex cerebri), finis occasus, analysis, cogitatio, opera composita.
AI tantum in operibus primi generis satis culmina pervenit, dum nostrum est illud ad secundum perducere, docens eam ad operationes multidisciplinares exercendas et per artes cognoscitivas logicas et altas operandas.
Ad hoc propositum assequendum proponitur;
- in NLP tasks utere attentione ut clavis mechanismus ad exemplar cogitandi
- meta-discendi et repraesentatio discendi ad meliores formas formandas quae influunt conscientiae et localisationi eorum - et secundum eorum fundamentum moventur ad operandum conceptibus altioribus gradus.
Loco conclusionis, hic invitata disputatio est: Bengio unus est ex multis phisicis qui agrum ML dilatare conantur extra optimas quaestiones, SOTA et novas architecturas.
Patet quaestio quatenus coniunctio problematum conscientiae, influxus linguae in cogitando, neurobiologia et algorithms in futuro nos manet et sinit nos movere ad machinas quae homines "cogitant".
Tibi gratias ago?
Source: www.habr.com