Propositum articulum est auxilium praebere ad principium notitiarum scientiarum. IN' Tres modos ad solutionem aequationis regressionis linearis delineavimus: solutionem analyticam, descensum gradientem, descensum stochasticum. Deinde ad solutionem analyticam applicavimus formulam . In hoc articulo, prout titulus suggerit, usum huius formulae iustificabimus vel, id est, nosmetipsos derivabimus.
Quare sensum extra formulam attendere facit ?
In aequatione matricis est frequentissime incipit cognoscere regressionem linearem. Eodem tempore, accuratis calculis, quomodo formula derivata est, rara sunt.
Exempli causa, in machina discendi cursus ab Yandex, cum alumni ad regularizationem introducuntur, munera de bibliotheca usui praebentur. sklearnat nulla vox memoratur de repraesentatione matricis algorithmi. Nunc est ut aliqui auditores hanc rem subtilius intellegere velint - codicem scribere sine functionibus promptis factis. Quod ut facias, oportet primum aequationem regularizer in matrice exhibere. Articulus hic permittit eos qui tales artes dominari volunt. Incipiamus.
Coepi conditionibus
Scopum Indicatores
A range of scopum habemus values. Exempli causa, signum signum alicuius rei pretium esse potuit: oleum, aurum, triticum, pupa, etc. Eodem tempore per aliquot valores indicativos scopum numerum observationum significamus. Tales observationes esse possunt, exempli gratia, pretia olei menstruae pro anno, hoc est, valores 12 scopum habebimus. Incipiamus notationem introducendam. Denotamus quemque valorem scopo indicator sicut . In summa habemus observationes, quae modo observationes nostras repraesentare possumus .
Recessores
Ponemus res aliquas esse quae valores indicatae scopo aliquatenus explicabunt. Exempli gratia, dollar/ruble commutationem rate valde ducitur pretio olei, rate Subsidium Foederatum, etc. Tales factores regressores appellantur. Simul, quaelibet scopus indicativus valori regressori respondere debet, hoc est, si pro quolibet mense in MMXVIII signum XII indicibus habebimus, tum XII valores regressores in eadem periodo habere deberemus. Demus valores cuiusque regressoris by . Sit in nostro casu regressores (i.e. factores qui scopum valores indicator). Hoc modo regressores nostri praesentari possunt hoc modo: regressoris primi (exempli gratia: pretium olei); 2. regressoris (exempli gratia H rate); , Nam "-th "regressor:
Indicatores dependentia scopum in regressors
Ponamus denotat dependentiam scopo ex regressoribus "observatio per linearem regressionem aequationem formae exprimi potest;
quibus - "-th "regressior valorem ex I to ,
- numerus regressors ab I to
β coefficientes angularis, quae repraesentant quantitatem qua signum indicator calculi, in mediocris mutabit cum regressoris mutationes.
Id est, pro omnibus sumus (exceptis ) regressoris decernimus "nostrum" coefficientem multiplica in valores regressuum coefficientium ".in observatione, ut quamdam approximationem obtinemus.-th" scopum indicator.
Ideo necesse est tales coefficientes eligere in quibus valoribus functionis nostrae approximantis quam proxime ad scopum valorum indicatorum collocabitur.
Perpensis qualis est accedens munus
Qualem taxationem applicandae functionis utendi minimis quadratis methodo determinabimus. Qualitas aestimatio functionis in hoc casu hanc formam accipiet:
Necesse est nos tales valores coΓ«fficientium $w$ eligere pro quibus valor minimus erit.
Aequationem in formam matrix convertens
Vector representation
Imprimis, ut vitam tuam faciliorem reddas, attendere debes ad lineari regressionis aequationem et noticiam primum coefficientem. non multiplicatur ab aliquo regressore. Eodem tempore, cum notitias in matricem convertimus, circumstantia memorata calculis serio inpediet. Qua de re proponitur ut alius regressor introducat pro primo coefficiente et unum adaequat. immo omneβvalorem ipsius regressoris ad unum aequat - tamen, per unum ducta, nihil mutabitur ex parte effectus calculi, sed ex parte regulae producti matricis, cruciatus nostri. signanter reducitur.
Nunc, ad momentum, ad simpliciorem materiam, sumamus nos unum tantum ".-th "observationem. Deinde valores regressorum cogita "-th "observationes sicut vector . Vector habet dimensionem , Id est, ordines et 1 columnae;
Sit scriptor requiritur coefficientes ut vector habens dimensionem :
Recessus linearis aequatio pro "-th" observationis formam;
Munus pro qualitate exemplaris linearis aestimandi formam habebit;
Nota quod secundum multiplicationis matricis regulas vectorem transponere oportuit .
Matrix representation
Ex multiplicatione vectorum numerum obtinemus: quod expectandum est. Hic numerus est approximatio "-th" scopum indicator. Sed egemus approximationem non unius tantum pretii, sed omnes. Hoc facere, omnia scribamus "-th "in vulva regressors forma . Unde matrix habet dimensionem :
Nunc aequatio linearis regressionis formam habebit;
Denotare valores scopo indicibus (all ) per vector dimensio :
Nunc scribere possumus aequationem ad perpendendas qualitatem exemplaris linearis in matricis forma;
Profecto ex hac formula ulterius obtinemus formulam nobis cognitam
Quomodo factum est? Uncis aperiuntur, differentia peraguntur, expressiones resultantes transformantur, etc., et hoc ipsum nunc agemus.
Matrix mutationum
Aperi uncis
Praeparet aequationem differentiae
Ad hoc faciendum aliquas mutationes faciemus. In calculis sequentibus commodius erit si vector initio cuiusque producti in aequatione repraesentabitur.
Conversio 1
Qui factum? Ad hanc quaestionem solvendam, vide modo multiplicationes matricum magnitudines et vide quod in output numerum vel aliter consequitur. .
Magnitudines vulvae locutionum scribamus.
Conversio 2
simili modo eam scribamus ad transformationem 1 .
In output aequationem dabimus quam ad differentiam habemus:
Diversificamus exemplar qualis taxationem munus
Sit differentia respectu vector :
quaestiones quare non debet esse, sed in aliis duabus expressionibus planius determinandis de operationibus examinabimus.
Differentia 1
Expandamus de differentia:
Ad derivationem matricis vel vectoris determinare debes quid intra eos inspicere. Intueamur:
Demus matrices per vulvam . Matrix quadratus autem et symmetricus. Hae proprietates postea nobis utiles erunt, earum meminerimus. Matrix habet dimensionem :
Nunc nostrum est vectorem a matrice recte multiplicare nec "bis duo quinque" accipere, ut incumbamus ac diligentissime caveamus.
Sed locutionem perplexam consecuti sumus! In facto numerum assecuti sumus scalari. Nunc vero ad differentiam tendit. Necessarium est invenire derivationem expressionis indefiniti ad unumquemque coefficientem atque dimensionem vector ut output . Quod si ita erit, scribam ad agendi rationem;
I) differentiam , et dabimus tibi:
I) differentiam , et dabimus tibi:
I) differentiam , et dabimus tibi:
In output est promissa vector in magnitudine :
Si vectorem propius spectes, animadvertes dextra laeva et respondentia elementa vectoris ita coniungi posse ut vector a vectore praesentato separari possit. magnitudine . Eg (Reliquit elementum summo linea vector) (Rectum elementum top linea vectoris) repraesentari potest quod - quod etc. utrimque acies. Societas lets:
Sit scriptor vector eximito et in output dabimus;
Nunc propius inspiciamus de vulva consequens. Matrix est summa duarum matrices :
Meminimus paulo ante notavimus unam matricem proprietatis matricem β apta est. Ex hac proprietate, confidenter possumus dicere locutionem deducis . Quod facile verificatur, aucto matricis elemento per elementum . Nolumus hic nos, quorum interest se ipsos coercere possunt.
Ad locutionem nostram redeamus. Postquam transmutationes nostras evenit, viam illam videre voluimus;
Complevimus igitur primam differentiam. Transeamus ad secundam locutionem.
Differentia 2
Viam sequamur tritam. Multo brevius erit quam prior, ne longius a scrinii.
Dilatetur vectores et matrix elementum per elementum:
Duo calculis ad tempus transeamus - non magnas partes agit, tum in suo loco eam ponemus. Multiplicamus vectorem a matrice. Imprimis vulvam multiplicemus ut vector nihil hic habemus restrictiones. Nos adepto in magnitudine vector :
Faciamus sequentem actionem vectorem multiplicare ad vector inde. In exitu numerus nos exspectabit;
Deinde distinguemus. In output accipimus vector dimensionis :
Admonet me aliquid? SIC! Hoc est productum matricis ut vector .
Ita secunda differentia feliciter consummata est.
Sed in finem
Nunc scimus quomodo fiat aequalitas .
Denique viam celerem ad formulas fundamentales transformandas describemus.
Perpendamus quale exemplar secundum modum quadratorum minimorum;
Discrimen consequentis locutionis:
litterae
Fontes interretiales:
1)
2)
3)
4)
Codicum, collectionum quaestionum:
I) Lecturae notae super mathematicis superioribus: cursum plenum / D.T. Written β 1th ed. - M.: Iris-press, 4
2) De analysi regressionis applicata / N. Draper, G. Smith - 2nd ed. - M.: Finance and Statistics, 1986
3) Problemata pro aequationibus matricis solvendis;
Source: www.habr.com