Artikuluaren helburua datu-zientzialari hasiberriei laguntza ematea da. IN Erregresio linealaren ekuazio bat ebazteko hiru modu azaldu ditugu: soluzio analitikoa, gradientearen jaitsiera, gradiente estokastikoa. Ondoren, soluzio analitikoa egiteko formula aplikatu dugu . Artikulu honetan, izenburuak dioen bezala, formula honen erabilera justifikatuko dugu edo, bestela esanda, geuk aterako dugu.
Zergatik duen zentzuzkoa formulari arreta gehiago jartzea ?
Ekuazio matrizialarekin hasten da kasu gehienetan erregresio lineala ezagutzen. Aldi berean, formula nola eratorri zen kalkulu zehatzak arraroak dira.
Adibidez, Yandex-en ikaskuntza automatikoko ikastaroetan, ikasleak erregularizazioan sartzen direnean, liburutegiko funtzioak erabiltzeko eskaintzen zaie. argitu, algoritmoaren matrizearen irudikapenari buruz hitz bat ere aipatzen ez den arren. Momentu honetan, baliteke entzule batzuek arazo hau zehatzago ulertu nahi izatea: idatzi kodea prest dauden funtzioak erabili gabe. Eta horretarako, lehenik ekuazioa erregularizatzaile batekin aurkeztu behar duzu matrize moduan. Artikulu honek gaitasun horiek menderatu nahi dituztenei ahalbidetuko die. Has gaitezen.
Hasierako baldintzak
Helburu-adierazleak
Helburu-balioen sorta dugu. Adibidez, helburu-adierazlea edozein aktiboren prezioa izan daiteke: petrolioa, urrea, garia, dolarra, etab. Aldi berean, helburu-adierazleen balio batzuekin behaketa kopurua esan nahi dugu. Horrelako behaketak izan litezke, adibidez, urteko petrolioaren hileko prezioak, hau da, 12 helburu-balio izango ditugu. Has gaitezen notazioa sartzen. Adierazi dezagun helburu-adierazlearen balio bakoitza . Guztira ditugu behaketak, hau da, gure behaketak bezala irudikatu ditzakegula .
Erregresioak
Helburuko adierazlearen balioak neurri batean azaltzen dituzten faktoreak daudela suposatuko dugu. Esaterako, dolarraren/errubloaren truke-tasak petrolioaren prezioak, Erreserba Federalaren tasak eta abarrek eragin handia dute. Horiei erregresio deitzen zaie. Aldi berean, helburu-adierazle-balio bakoitza erregresio-balio bati egokitu behar zaio, hau da, 12ko hilabete bakoitzeko helburu-adierazle 2018 baldin baditugu, aldi berean 12 erregresio-balio ere izan beharko genituzke. Adierazi ditzagun erregresadore bakoitzaren balioak . Izan bedi gure kasuan atzerakoiak (hau da. helburu-adierazleen balioetan eragina duten faktoreak). Horrek esan nahi du gure erregresioak honela aurkez daitezkeela: 1. erregresiorako (adibidez, petrolioaren prezioa): , 2. erregresiorako (adibidez, Fed tasa): ,"gatik-th" itzultzailea:
Helburu-adierazleen menpekotasuna erregresiboekiko
Demagun xede-adierazlearen menpekotasuna dela erregresioetatik"th" behaketa erregresio linealaren ekuazio baten bidez adieraz daiteke:
Non - "-th" erregresio-balioa 1etik ,
β 1etik itzultzaile kopurua
β koefiziente angeluarrak, erretorsorea aldatzen denean kalkulatutako helburu-adierazlea batez beste zenbat aldatuko den adierazten dutenak.
Beste era batera esanda, guztiontzat gara (salbu ) erregresiboaren βgureβ koefizientea zehazten dugu , gero biderkatu koefizienteak erregresiboen balioekin "th" behaketa, ondorioz hurbilketa jakin bat lortzen dugu "-th" xede-adierazlea.
Horregatik, halako koefizienteak hautatu behar ditugu , zeinetan gure funtzio hurbiltzailearen balioak helburu-adierazleen balioetatik ahalik eta hurbilen kokatuko da.
Hurbilketa-funtzioaren kalitatea baloratzea
Gutxieneko funtzioaren kalitate-ebaluazioa karratu txikienen metodoa erabiliz zehaztuko dugu. Kasu honetan kalitatea ebaluatzeko funtzioak forma hau hartuko du:
Balio hori duten $w$ koefizienteen balioak hautatu behar ditugu txikiena izango da.
Ekuazioa matrize moduan bihurtzea
Irudikapen bektoriala
Hasteko, zure bizitza errazteko, erregresio linealaren ekuazioari erreparatu behar diozu eta lehen koefizientea ez da inongo erregresioz biderkatu. Aldi berean, datuak matrize forma bihurtzen ditugunean, aipatutako zirkunstantziak larriki zailduko ditu kalkuluak. Ildo horretatik, lehen koefizientearentzat beste erregresadore bat sartzea proposatzen da eta parekatu bat. Edo hobeto esanda, bakoitza"berdindu erregresibo honen garren balioa bat - azken finean, batez biderkatuta, ez da ezer aldatuko kalkuluen emaitzaren ikuspuntutik, baina matrizeen produktuaren arauen ikuspuntutik, gure oinazea. nabarmen murriztuko da.
Orain, momentuz, materiala sinplifikatzeko, demagun bakarra dugula "-garren behaketa. Orduan, imajinatu erregresiboen balioak "-th" behaketak bektore gisa . Bektorea dimentsioa du Hau da, errenkadak eta zutabe 1:
Adierazi ditzagun beharrezko koefizienteak bektore gisa , dimentsioa izatea :
Erregresio linealaren ekuazioa "-th" behaketak honela hartuko du:
Eredu lineal baten kalitatea ebaluatzeko funtzioak honela hartuko du:
Kontuan izan matrizearen biderketaren arauen arabera, bektorea transposatu behar dugula .
Matrizearen irudikapena
Bektoreak biderkatzearen ondorioz, zenbakia lortuko dugu: , espero beharrekoa. Zenbaki hau hurbilketa da "-th" xede-adierazlea. Baina helburu-balio bakarra ez ezik, guztien hurbilketa behar dugu. Horretarako, idatzi dezagun denaβ-th" itzultzaileak matrize formatuan . Sortzen den matrizeak dimentsioa du :
Orain erregresio linealaren ekuazioak honela hartuko du:
Adierazi ditzagun helburu-adierazleen balioak (guztiak ) bektore bakoitzeko dimentsioa :
Orain eredu lineal baten kalitatea ebaluatzeko ekuazioa matrize formatuan idatz dezakegu:
Egia esan, formula honetatik gehiago lortzen dugu ezagutzen dugun formula
Nola egiten da? Parentesiak irekitzen dira, bereizketa egiten da, ondoriozko esamoldeak eraldatzen dira, etab., eta horixe da orain egingo duguna.
Matrize-eraldaketak
Ireki ditzagun parentesiak
Presta dezagun diferentziaziorako ekuazio bat
Horretarako, eraldaketa batzuk egingo ditugu. Ondorengo kalkuluetan erosoagoa izango zaigu bektorea bada produktu bakoitzaren hasieran irudikatuko da ekuazioan.
Bihurketa 1
Nola gertatu zen? Galdera honi erantzuteko, ikusi besterik ez dago biderkatzen ari diren matrizeen tamainak eta ikusi irteeran zenbaki bat lortzen dugula edo bestela. .
Idatz ditzagun matrize-adierazpenen tamainak.
Bihurketa 2
Idatz dezagun 1. transformazioaren antzera
Irteeran bereizi behar dugun ekuazio bat lortzen dugu:
Ereduaren kalitatea ebaluatzeko funtzioa bereizten dugu
Bereiztu dezagun bektorearekiko :
Galderak zergatik ez luke egon behar, baina beste bi esapideetan deribatuak zehazteko eragiketak zehatzago aztertuko ditugu.
Desberdintasuna 1
Zabal ditzagun bereizketa:
Matrize edo bektore baten deribatua zehazteko, haien barruan zer dagoen aztertu behar da. Ikus dezagun:
Adierazi dezagun matrizeen produktua matrizearen bidez . Matrizea karratua eta gainera, simetrikoa da. Propietate hauek baliagarriak izango zaizkigu gero, gogora ditzagun. Matrizea dimentsioa du :
Orain gure zeregina bektoreak matrizearekin zuzen biderkatzea da eta ez lortzea "bi aldiz bi bost da", beraz, kontzentratu gaitezen eta kontu handiz ibili gaitezen.
Hala ere, adierazpen korapilatsu bat lortu dugu! Izan ere, zenbaki bat lortu dugu - eskalar bat. Eta orain, egia esan, bereizketara pasatzen gara. Beharrezkoa da koefiziente bakoitzaren ondoriozko adierazpenaren deribatua aurkitzea eta lortu dimentsio-bektorea irteera gisa . Badaezpada, prozedurak ekintzaren arabera idatziko ditut:
1) bereizi , lortzen dugu:
2) bereizi , lortzen dugu:
3) bereizi , lortzen dugu:
Irteera agindutako tamainaren bektorea da :
Bektoreari hurbilagotik begiratuz gero, bektorearen ezkerreko eta dagozkion eskuineko elementuak taldeka daitezkeela ohartuko zara, ondorioz, bektore bat aurkeztutako bektoretik isolatu daitekeela. tamaina . Adibidez (bektorearen goiko lerroaren ezkerreko elementua) (bektorearen goiko lerroaren eskuineko elementua) honela irudika daiteke Eta - bezala etab. lerro bakoitzean. Talde gaitezen:
Atera dezagun bektorea eta irteeran lortuko dugu:
Orain, ikus dezagun hurbilagotik ondorioztatzen den matrizea. Matrizea bi matrizeren batura da :
Gogora dezagun apur bat lehenago matrizearen propietate garrantzitsu bat adierazi genuela - simetrikoa da. Propietate horretan oinarrituta, ziur esan dezakegu esamoldea dela berdinak . Hau erraz egiazta daiteke matrizeen produktua elementuz elementu zabalduz . Hemen ez dugu hau egingo; interesa dutenek beraiek egiaztatu dezakete.
Itzuli gaitezen gure adierazpenera. Gure eraldaketaren ondoren, guk ikusi nahi genuen moduan atera zen:
Beraz, lehen bereizketa osatu dugu. Goazen bigarren esapidera.
Desberdintasuna 2
Jarrai gaitezen bidegorria. Aurrekoa baino askoz laburragoa izango da, beraz, ez joan pantailatik gehiegi urrun.
Zabal ditzagun elementuz elementu bektoreak eta matrizea:
Kendu ditzagun denbora batez kalkuluetatik biak - ez du paper handirik, gero bere lekuan jarriko dugu berriro. Bider ditzagun bektoreak matrizearekin. Lehenik eta behin, biderkatu dezagun matrizea bektoreari , hemen ez dugu mugarik. Tamaina bektorea lortuko dugu :
Egin dezagun ekintza hau: biderkatu bektorea ondoriozko bektoreari. Irteeran zenbakia egongo da gure zain:
Ondoren, ezberdinduko dugu. Irteeran dimentsio-bektore bat lortuko dugu :
Zerbait gogorarazten al dit? Hori bai! Hau matrizearen produktua da bektoreari .
Horrela, bigarren bereizketa arrakastaz osatu da.
Horren ordez Ondorio baten
Orain badakigu nola sortu zen berdintasuna .
Azkenik, oinarrizko formulak eraldatzeko modu azkar bat deskribatuko dugu.
Ebaluatu dezagun ereduaren kalitatea karratu txikienen metodoaren arabera:
Bereiz dezagun ondoriozko adierazpena:
Literatura
Interneteko iturriak:
1)
2)
3)
4)
Testu liburuak, arazo bildumak:
1) Goi mailako matematikari buruzko hitzaldiko apunteak: kurtso osoa / D.T. Idatzizkoa β 4. arg. β M.: Iris-prentsa, 2006
2) Erregresio-analisi aplikatua / N. Draper, G. Smith - 2. arg. β M.: Finantza eta Estatistika, 1986 (ingelesetik itzulpena)
3) Ekuazio matricialak ebazteko problemak:
Iturria: www.habr.com