Nuper dimissi quod ostendit bonam inclinationem in machina discendi proximis annis. In summa: numerus apparatus eruditionis startuped plummeted in duobus ultimis annis habet.

Bene. Intueamur "num bulla erupit", "quam vivere pergere", et loqui de quo primo in loco haec quaestio venit.
Primum, quid huius curvae cursus sit fama. Ubi venit? Et youll 'verisimile recordabor omnia apparatus discendi in 2012 ad ImageNet competition. Post omnes, hoc est primum global eventum! Sed profecto id non est. Et incrementa curvae paulo ante incipit. Illud in plura puncta dissolvam.
- 2008 vidit cessum vocabuli "magna notitia". Verus products coepi cum 2010 . Magna notitia directe ad apparatus discendi. Sine magna notitia, operatio stabilis algorithmorum quae tunc temporis extiterat impossibile est. Neque neque neural ligula. Usque ad MMXII, retiacula neuralis conservatio minoritatis marginalis erant. Sed tunc algorithmus diversus omnino laborare coepit, qui fuerat annis, vel etiam decenniis; (1963,1993). (1995) (2003).
Derivatio huius primae undae in compagibus statuta est ut XGBoost, CatBoost, LightGBM, etc.
- In 2011-2012 complura imaginis recognitionem certationis vicit. Eorum usus aliquantum moratus est. Dicerem satuss et solutiones massive significationis in MMXIV apparere incepit. Biennium concoquere cepit quod neurons adhuc opus est, aptas fabricas creare, quae tempore opportuno institui et deduci possent, methodos evolvere, quae temporis concursum stabilire et accelerare possent.
Retia voluntaria effecit ut problemata visionis computatralis solvere posset: divisio imaginum et objectorum in imagine, objecti deprehensio, obiectorum et hominum agnitio, emendatio imaginis, etc., etc.
- 2015-2017. BUTIO algorithmorum et inceptorum in reticulis recurrentibus vel eorum analogis (LSTM, GRU, TransformerNet, etc.). Algorithmi textus bene operandi et machinae systemata translationis apparuerunt. Partim nituntur in reticulis convolutionibus ut praecipuas lineas extrahant. Partim quia didicimus vere colligere magnas et bonas datasets.

"Numquid erupit bulla? Estne hype exustus? Nonne moriuntur ut blockchain? "
Secus! Cras Siri in telephono tuo cessabit, et postridie cras Tesla differentiam tractus et praeiudicatum non cognoscet.
Neural retiacula iam operatur. In justo at enim. Permittunt te pecuniam mereri, mercaturam et mundum circa te mutant. Hype paulum differt;

Iustum est ut retiacula neural iam aliquid novi non sint. Ita multi magna exspectatione sunt. Sed magna multitudo societatum neurons uti didicerunt et productos in iis facere. Neuronorum novas functiones praebes, permitte te jobs incidere et pretium officiorum minuere;
- Societates vestibulum algorithms integrant ad analysim defectuum productionis lineae.
- Praedia pecora emunt systemata ad boves moderandos.
- Automatica conjungit.
- Automated Call Center.
- Filtra in SnapChat. (Bene, saltem aliquid utile!)
Praecipuum autem, et non notissimum: "Nullae sunt novae notiones, aut instantiam capitalem non facient." Neural retiaculis justo quaestionum solvunt. Et magis etiam decernent. Omnes notiones notiones, quae exstiterunt, orta sunt multa initia. Sed iam omnia quae in superficie erant collecta sunt. Praeterito biennio unam novam ideam non inveni in usu reticulorum neuralis. Non unus novus accessus (bene, ok, paucae difficultates cum GANS sunt).
Et unumquodque subsequens satus est magis et magis multiplex. Non iam duos guys requirit qui neuronem utentes aperta notitia exercent. Requirit programmatores, cultores, manipulos venalicium, complexum subsidium, etc.
Quam ob rem pauciores sunt startups. Etiam sed volutpat purus. Licentia laminam recognitionem addere opus est? Centena sunt periti cum experientia in mercatu pertinentes. Aliquem conducere potes et in duobus mensibus operarius tuus systema faciet. Aut emat paratum-factum. Sed novum satus?.. Crazy!
Opus est ut visitatorem systema tracking creare - cur fasciculum licentiarum solvas cum potes tuum facere in 3-4 mensibus, acue ad negotium tuum.
Nunc retiacula neural eandem viam ingrediuntur quae justos aliarum technologiarum pervadunt.
Meministine quomodo conceptus " elit website " ab 1995 mutatus est? Nondum mercatus tortoribus imbutus est. Pauci admodum sunt doctores. Sed praestare possum quod in 5-10 annis non multum interest inter programmatorem Javam et elit network neural. Satis erit utriusque tortoris in foro.
Genus problematum simpliciter erit quod neurons solvi potest. Negotium ortum est - pretium artifex.
"Quid suus 'postero? Ubi est artificialis intelligentia promissa?
Sed hic parva est sed interesting erroris :)
BIBLIOTHECA technica, quae hodie exstat, ut videtur, ad intellegentiam artificialem nos non ducet. Ideae et novitas se maxime defecerunt. Fama quid evolutionis gradum obtinet.
modum
Sit scriptor satus cum auto-incessus cars. Perspicuum videtur posse carros plene sui iuris facere cum hodie technologia. Sed quot annis hoc fiet non liquet. Tesla hoc duobus annis futurum credit -

Sunt multi alii qui aestimant annos V-X.
Verisimile, meo iudicio, infrastructura civitatum 15 annis ipsa mutabitur ita ut cessum autonomiae carros inevitabilis fiet et continuatio eius fiet. Sed hoc non potest considerari intelligentia. Tesla moderna pipeline admodum implicata est pro notitia eliquatione, inquisitione et recuperatione facta. Hae sunt regulae-praecepta, notitia collectio et percolationum in illis (hic De hoc paulo plura scripsi, vel excubias notis).
Primum problema
Et hoc est ubi videmus prima quaestio fundamentalis. Data magna. Haec prorsus est quae peperit undam reticulorum neuralis et machinae discendi. Nunc, complexu et automatario aliquid facere, eget mattis elit. Non multum justo, sed valde, valde. Algorithmis automated opus est ad collectionem, notationem, usum. Volumus ut autocinetum videre schedulas quae ad solem spectantes primum sufficiens numerum colligere debeamus. Volumus currus non insanire cum birota oppesa trunco - plura exemplaria.
Unum exemplum non sufficit. Centum? Millia?

quaestio secundi
quaestio secundi - visualizationis eorum quae retiacula neutralia nostra intellexerunt. Hoc opus valde non leve. Hucusque pauci intelligant quomodo hoc insitum sit. Articuli isti recentissimi sunt, haec pauca exempla, etiam si distant;
nimiam texturis. Bene ostendit quid neuron in + fixare tendit quid notitia incipientis percipiat.

Attensionem at . Re quidem vera, attractio saepe adhiberi potest praecise ad demonstrandum quidnam talem reactionem retis attulerit. Talia vidi ad solutiones tam debugging quam producti. Articuli in hoc argumento multum sunt. Quanto autem intricatae sunt notitiae, eo difficilius est intellegere quomodo robusti visualizationis consequi possint.

Bene, sic, de bono vetus statuto "vide quid intra reticulum est" " Hae picturae populares 3-4 annos fuerunt, sed omnes cito intellexerunt picturas pulchras esse, sed multam significationem non habent.

justos aliorum gadgetum, methodorum, autocinetorum, investigationum non commemoravi quomodo retis interiora ostendas. Haec instrumenta operantur? Auxiliunt te cito intelligere quid sit quaestio et debug reticulum?.. Get ultimam centesimam? Bene, idem est;

Nullam in Kaggle spectare potes. Et descriptio qualiter homines finales sententiae faciunt. Unitates exemplorum 100-500-800 reclinamus et operavimus!
Exaggerando sane. Sed haec accessus non praebet facilia et recta responsa.
Satis experientiam habens, circa varias optiones involutus, sententiam ferre potes de cur ratio tua talem decisionem fecerit. Sed difficilis erit ratio morum corrigere. fusum instrue, limen move, dataset adde, retiaculum alterum recipias.
Tertia quaestio
Tertium problema fundamentale — Gridæ statisticam docent, non logicam. peraeque hoc :

Logice, non est simillimum. Neuralis retiacula implicata nihil discunt nisi cogantur. Signa simplicissima possibilia semper docent. Habesne oculos, nasum, caput? Haec igitur facie! Vel exemplum, ubi oculi non os significant. Et iterum - decies exemplis.
Non est locus in fundo
Dicam has tres difficultates globales nunc evolutionem reticulorum neuralis et machinae discendi circumscribere. Ubi hae difficultates non finiunt, iam actuose utendum est.
Hic finis? Neural usque ad retiacula sunt?
Ignotus. Sed cursus quisque neque.
Plures sunt accessus et directiones ad fundamentales quaestiones solvendas quas supra illustravimus. Hactenus tamen nulla harum rerum potest aliquid fundamentaliter novum facere, ut aliquid solvere quod nondum solutum est. Hactenus omnia incepta fundamentalia secundum stabilis aditus (Tesla), vel experimenta institutorum vel corporationum manent (Google Brain, OpenAI).
Dure loquendo, principale directum est creare aliquem excelsum gradum repraesentationis input data. In sensu, "memoria". Simplicissimum exemplum memoriae est variae "embedding" - imaginum imagines. Bene, exempli gratia, omnes systemata agnitio vultus. Retiaculum discit a facie obtinere repraesentationem aliquam stabilem quae a rotatione, lucendo, seu resolutione non pendet. Essentialiter, reticulum regit metricum "facies diversae longe sunt" et "facies identicae prope sunt".

Ad hanc institutionem exemplorum decem et centena milia requiruntur. Sed eventus habet nonnulla rudimenta "Una-Discentiae". Nunc centum facies non opus est ut hominem meminerimus. Sicut una facies et quod omnes sumus !
Una quaestio non est... Velit solum cognoscere obiectis simplicibus satis. Cum distinguere conatur, non facies, sed, exempli gratia, "populus veste" (opus ) — Qualis per multos ordines magnitudinis cadit. Et reticulum iam satis perspicuum mutationes in angulis discere non potest.
Decies exemplorum est etiam genus ioci.
Est opus ad signanter electiones minuendas. Exempli gratia unum ex primis operibus statim memorare potest OneShot Learning :

Talia opera multa sunt, e.g aut aut .
Unus minus - bene exercens plerumque in quibusdam simplicibus exemplis, "MNIST", bene operatur. Et cum ad operas multiplices movendas, magna database, exemplar rerum, vel magicae alicuius generis, debes.
In genere, opus in One-Iacula disciplina est valde interesting locus. Multum habes idearum. Sed ut plurimum, duo problemata, quae enumeravi (praetraining on ingens dataset/incomposita notitiae inconstantiae) eruditione multum impedit.
Ex altera parte, GANs - retiacula adversaria generativa - accedunt thema Embedding. Probabiliter fasciculum articulorum in Habre de hoc argumento legeris. (, ,)
GAN lineamentum est formatio spatii alicuius status interni (per se idem Embedding), quod imaginem haurire permittit. Illud potest esse , esse .

Problema cum GAN est quod magis complexum generatum, eo difficilius est in logica "generatoris-discriminatoris" describere. Quam ob rem, solae applicationes reales GAN quae de DeepFake audiuntur sunt, quae rursus repraesentationes vultus manipulates (pro quibus basis ingens est).
Perpauca vidi alios usus usus. Solet quaedam fraus quaedam in imaginibus conficiendis picturarum.
Et iterum. Nemo habet ideam quam hoc nobis in futurum clarius moveri sinat. Repraesentans logicam/spatium in retiacula neurali bonum est. Sed exemplorum numero indigemus, quomodo neuron hoc in se repraesentat, non intelligimus quomodo neuron recordemur aliquam ideam realiter implicatam facere.
habeo doctrina — Haec e prorsus diversa accessio est. Certe meministis quomodo Google quisque in Go verberavit. Recentes victoriae in Starcraft et Dota. Sed hic omnia longe absunt a tam purpureis et promissis. De RL optime loquitur et ejus complexionibus .
Ut breviter quid auctor scripserit:
- Exempla ex archa non apta / opus male in pluribus
- Problemata practica faciliora aliis modis solvenda sunt. Boston Edidit RL non utitur propter complexionem/unpredictability/computationis complexionem
- Nam RL ad operandum, multiplici functione debes. Saepe difficile est creare / scribere
- Difficilis exempla instituendi. Habes multum temporis ad sentinam et exi de locorum optimo
- Quam ob rem difficile est exemplar repetere, exemplar levissimis mutationibus instabile est
- Saepe nonnulla exemplaria temere inficiunt, etiam generantis temere numerus
Praecipuum illud est quod RL nondum in productione opus operatur. Google quaedam experimenta habet ( , ). Sed non vidi unam rationem producti.
Memoria. Omnium quae supra scripta sunt, structurae caret. Una e aditus ad haec omnia luculenter temptare est ut retis neuralis aditum ad memoriam separandam praebeat. Ita ut eventus gressuum suorum ibi notare et rescribere possit. Tum network neural ex statu hodiernae memoriae determinari possunt. Hoc est simillimum processoribus classicis et computatoribus.
Clarissimi ac popular! — de DeepMind:

Videtur quod haec sit clavis intelligendi intelligentia? Sed verisimile non est. Systema adhuc requirit ingentem copiam notitiarum formandi. Et maxime laborat notitia tabularis structuris. Cum autem Facebook problema simile, deinde "cochleam memoriam ceperunt", modo neuronum faciunt magis complicatum, et plura habent exempla - et per se ipsa discent.
Expeditio. Alius modus ad memoriam significantem efficiendam est easdem inclusiones assumere, sed in exercitatione, normas insuper adjicere, quae permitteret ut in illis "significationes" exaggerare liceret. Exempli gratia, network neurale instituere volumus ad distinguendum inter mores hominum in copia. Si vexillum iter sequeremur, retiacula duodecim facere vellemus. Unus quaerit hominem, secundus quid faciat, tertius est aetas, quartus genus. Singula logica spectat partem copiae ubi hoc exercetur. Tertium determinat trajectoriam suam etc.
Aut, si infinita notitiarum copia erat, tum unum retis pro omnibus eventibus possibilibus instituere posset (nempe talis notitiarum series colligi non potest).
Accessus diseffictionis nobis docet - reticulum instruamus ut ipsa inter notiones discernere possit. Ut embedding in cinematographico formaret, ubi una area actionem determinaret, quis in area situm in tempore statueret, quis altitudinis personae determinaret, genus personae personae determinaret. Simul cum disciplina, vix velim eiusmodi notiones praecipuas ad retiaculum suggerere, sed potius lucere et coetus areae habere. Sunt admodum pauci tales articulos , , et in genere sunt prorsus theoricae.
Sed haec directio, saltem theoretice, problemata ab initio velare debet.

Imaginum compositione secundum parametri "paries color/area color/objecti figura/objecti coloris/etc."

De compositione faciei secundum parametri "magnitudo, supercilia, propensio, color cutis, etc."
Other
Multae aliae, non ita globales, areae quae te permittunt ut modo datorum reducere, cum notitia heterogenea magis laborent, etc.
Obseruandum. Probabile non convenit hunc modum separatum separare. Iusta accessio est quae alios auget. Multa capitula ei dedicata sunt.,,). Operae propositum est responsionem retiarii augere specie obiectis in exercitatione significantibus. Saepe ab aliqua designatione scopum externae, vel parvam retis externam.
3D simulation. Si bonam 3D machinam facis, saepe 90% notitiae disciplinae cum eo operire potes (Vidi etiam exemplum ubi fere 99% notitiarum bono machinae tegebatur). Multae sunt notiones et autocinetiones in modum retis facere exercitatum in 3D opere machinamento utendo notitia reali (Fine tuning, stilo translatio, etc.). Saepe autem faciens bonum machinam plures ordines magnitudinis difficilius est quam notitia colligens. Exempla cum tormenta facta sunt;
Robot disciplina (, )
exercitatione bona copia (sed in duobus inceptis facile carere poteramus).
Disciplina Teslae (vide supra iterum).
Inventiones
Totus articulus est quodammodo conclusiones. Probabiliter nuntius principalis facere volui erat "solutae freebies sunt, neurons solutiones simplices amplius non praebere". Nunc laborare debemus ut decisiones multiplices. Investigationes scientificas implicatas vel laborantes faciunt.
In genere, locus est lis. Forte legentibus plus interesting exempla habent?
Source: www.habr.com
