Հոդվածի նպատակն է աջակցություն տրամադրել սկսնակ տվյալների գիտնականներին: IN Մենք ուրվագծել ենք գծային ռեգրեսիայի հավասարումը լուծելու երեք եղանակ՝ վերլուծական լուծում, գրադիենտ ծագում, ստոխաստիկ գրադիենտ ծագում: Այնուհետև վերլուծական լուծման համար մենք կիրառեցինք բանաձևը . Այս հոդվածում, ինչպես հուշում է վերնագիրը, մենք կհիմնավորենք այս բանաձևի կիրառումը կամ, այլ կերպ ասած, ինքներս կբխենք։
Ինչու է իմաստալից լրացուցիչ ուշադրություն դարձնել բանաձեւին ?
Հենց մատրիցային հավասարման հետ է, որ շատ դեպքերում սկսում է ծանոթանալ գծային ռեգրեսիայի հետ։ Միևնույն ժամանակ, մանրամասն հաշվարկները, թե ինչպես է ստացվել բանաձևը, հազվադեպ են:
Օրինակ, Yandex-ի մեքենայական ուսուցման դասընթացներում, երբ ուսանողներին ծանոթացնում են կանոնավորացմանը, նրանց առաջարկվում է օգտագործել գրադարանի գործառույթները։ սքլե սովորել, մինչդեռ ոչ մի բառ չի նշվում ալգորիթմի մատրիցային ներկայացման մասին։ Հենց այս պահին որոշ ունկնդիրներ կարող են ցանկանալ ավելի մանրամասն հասկանալ այս հարցը՝ գրել կոդ՝ առանց պատրաստի ֆունկցիաներ օգտագործելու։ Եվ դա անելու համար նախ պետք է հավասարումը ներկայացնել կարգավորիչով մատրիցային տեսքով: Այս հոդվածը թույլ կտա նրանց, ովքեր ցանկանում են տիրապետել նման հմտություններին։ Եկեք սկսենք.
Նախնական պայմաններ
Թիրախային ցուցանիշներ
Մենք ունենք մի շարք թիրախային արժեքներ: Օրինակ, թիրախային ցուցանիշը կարող է լինել ցանկացած ակտիվի գինը՝ նավթ, ոսկի, ցորեն, դոլար և այլն։ Միևնույն ժամանակ, թիրախային ցուցիչի մի շարք արժեքներ ասելով մենք հասկանում ենք դիտարկումների քանակը: Նման դիտարկումները կարող են լինել, օրինակ, նավթի ամսական գները տարվա կտրվածքով, այսինքն՝ կունենանք 12 թիրախային արժեք։ Սկսենք ներկայացնել նշումը։ Թիրախային ցուցիչի յուրաքանչյուր արժեք նշենք որպես . Ընդհանուր առմամբ ունենք դիտարկումներ, ինչը նշանակում է, որ մենք կարող ենք ներկայացնել մեր դիտարկումները որպես .
Ռեգրեսորներ
Մենք կենթադրենք, որ կան գործոններ, որոնք որոշակիորեն բացատրում են թիրախային ցուցիչի արժեքները: Օրինակ, դոլար/ռուբլի փոխարժեքի վրա մեծ ազդեցություն են ունենում նավթի գինը, Դաշնային պահուստի փոխարժեքը և այլն։ Նման գործոնները կոչվում են ռեգրեսորներ։ Միևնույն ժամանակ, յուրաքանչյուր թիրախային ցուցիչի արժեք պետք է համապատասխանի ռեգրեսորային արժեքին, այսինքն՝ եթե 12 թվականի յուրաքանչյուր ամսվա համար ունենք 2018 թիրախային ցուցիչ, ապա նույն ժամանակահատվածի համար պետք է ունենանք նաև 12 ռեգրեսորային արժեք։ Եկեք յուրաքանչյուր ռեգրեսորի արժեքները նշանակենք ըստ . Թող մեր դեպքում լինի ռեգրեսորներ (այսինքն. գործոններ, որոնք ազդում են թիրախային ցուցանիշների արժեքների վրա): Սա նշանակում է, որ մեր ռեգրեսորները կարող են ներկայացվել հետևյալ կերպ. 1-ին ռեգրեսորի համար (օրինակ՝ նավթի գինը). , 2-րդ ռեգրեսորի համար (օրինակ, Fed տոկոսադրույքը). , Համար-րդ» ռեգրեսոր.
Թիրախային ցուցանիշների կախվածությունը ռեգրեսորներից
Ենթադրենք, որ կախվածությունը թիրախային ցուցանիշից ռեգրեսորներից»th» դիտարկումը կարող է արտահայտվել ձևի գծային ռեգրեսիայի հավասարման միջոցով.
Որտեղ - "-th» ռեգրեսորի արժեքը 1-ից մինչև ,
— ռեգրեսորների թիվը 1-ից մինչև
— անկյունային գործակիցներ, որոնք ներկայացնում են այն գումարը, որով հաշվարկված թիրախային ցուցանիշը միջին հաշվով կփոխվի, երբ ռեգրեսորը փոխվի:
Այսինքն՝ մենք բոլորի համար ենք (բացի ) ռեգրեսորի մենք որոշում ենք «մեր» գործակիցը այնուհետև գործակիցները բազմապատկեք ռեգրեսորների արժեքներով»:րդ «դիտարկում, արդյունքում ստանում ենք որոշակի մոտարկում»-րդ» թիրախային ցուցիչ:
Հետեւաբար, մենք պետք է ընտրենք նման գործակիցներ , որի դեպքում մեր մոտավոր ֆունկցիայի արժեքները տեղակայվելու է թիրախային ցուցիչի արժեքներին հնարավորինս մոտ:
Մոտավոր գործառույթի որակի գնահատում
Մենք կորոշենք մոտավոր ֆունկցիայի որակի գնահատումը` օգտագործելով նվազագույն քառակուսիների մեթոդը: Որակի գնահատման գործառույթն այս դեպքում կունենա հետևյալ ձևը.
Մենք պետք է ընտրենք $w$ գործակիցների այնպիսի արժեքներ, որոնց արժեքը կլինի ամենափոքրը:
Հավասարումը վերածելով մատրիցային ձևի
Վեկտորի ներկայացում
Սկսելու համար ձեր կյանքը հեշտացնելու համար պետք է ուշադրություն դարձնել գծային ռեգրեսիայի հավասարմանը և նկատել, որ առաջին գործակիցը. չի բազմապատկվում որևէ ռեգրեսորով: Միաժամանակ, երբ տվյալները վերածում ենք մատրիցային ձևի, վերը նշված հանգամանքը լրջորեն կբարդացնի հաշվարկները։ Այս առումով առաջին գործակցի համար առաջարկվում է ներմուծել մեկ այլ ռեգրեսոր և հավասարեցրու այն մեկին: Ավելի ճիշտ, ամեն «Այս ռեգրեսորի րդ արժեքը հավասարեցրեք մեկին, չէ՞ որ մեկով բազմապատկելիս ոչինչ չի փոխվի հաշվարկների արդյունքի տեսանկյունից, բայց մատրիցների արտադրյալի կանոնների տեսանկյունից՝ մեր տանջանքները։ զգալիորեն կկրճատվի։
Հիմա, այս պահի դրությամբ, նյութը պարզեցնելու համար, ենթադրենք, որ ունենք միայն մեկ «-րդ» դիտարկում. Հետո պատկերացրեք ռեգրեսորների արժեքները»-th» դիտարկումները որպես վեկտոր . Վեկտոր հարթություն ունի Այսինքն, տողեր և 1 սյունակ.
Ներկայացնենք պահանջվող գործակիցները որպես վեկտոր , ունենալով հարթություն :
Գծային ռեգրեսիայի հավասարումը «-րդ» դիտարկումը կունենա հետևյալ ձևը.
Գծային մոդելի որակի գնահատման գործառույթը կունենա հետևյալ ձևը.
Խնդրում ենք նկատի ունենալ, որ մատրիցային բազմապատկման կանոններին համապատասխան, մենք պետք է փոխադրեինք վեկտորը .
Մատրիցային ներկայացում
Վեկտորների բազմապատկման արդյունքում ստանում ենք թիվը. , ինչը սպասելի է։ Այս թիվը մոտավոր է»-րդ» թիրախային ցուցիչ: Բայց մեզ անհրաժեշտ է ոչ միայն մեկ թիրախային արժեքի մոտարկում, այլ բոլորը: Դա անելու համար եկեք գրենք ամեն ինչ»-th» ռեգրեսորները մատրիցային ձևաչափով . Ստացված մատրիցն ունի չափս :
Այժմ գծային ռեգրեսիայի հավասարումը կունենա հետևյալ ձևը.
Նշենք թիրախային ցուցանիշների արժեքները (բոլոր ) մեկ վեկտորի համար հարթություն :
Այժմ մենք կարող ենք գրել գծային մոդելի որակի գնահատման հավասարումը մատրիցային ձևաչափով.
Փաստորեն, այս բանաձեւից մենք հետագայում ստանում ենք մեզ հայտնի բանաձեւը
Ինչպե՞ս է դա արվում: Փակագծերը բացվում են, կատարվում է տարբերակում, ստացված արտահայտությունները փոխակերպվում են և այլն, և մենք հիմա հենց դա էլ կանենք։
Մատրիցային փոխակերպումներ
Բացենք փակագծերը
Պատրաստենք տարբերակման հավասարում
Դա անելու համար մենք կիրականացնենք որոշ վերափոխումներ: Հետագա հաշվարկներում մեզ ավելի հարմար կլինի, եթե վեկտորը կներկայացվի յուրաքանչյուր արտադրյալի սկզբում հավասարման մեջ:
Փոխակերպում 1
Ինչպե՞ս դա տեղի ունեցավ: Այս հարցին պատասխանելու համար պարզապես նայեք բազմապատկվող մատրիցների չափերին և տեսեք, որ ելքում մենք ստանում ենք թիվ կամ այլ կերպ. .
Գրենք մատրիցային արտահայտությունների չափերը։
Փոխակերպում 2
Եկեք այն գրենք փոխակերպման 1-ի նման ձևով
Ելքում մենք ստանում ենք հավասարում, որը մենք պետք է տարբերենք.
Մենք տարբերակում ենք մոդելի որակի գնահատման գործառույթը
Տարբերակենք վեկտորի նկատմամբ :
Հարցեր, թե ինչու չպետք է լինի, բայց մենք ավելի մանրամասն կուսումնասիրենք մյուս երկու արտահայտություններում ածանցյալների որոշման գործողությունները:
Տարբերակում 1
Եկեք ընդլայնենք տարբերակումը.
Մատրիցի կամ վեկտորի ածանցյալը որոշելու համար հարկավոր է տեսնել, թե ինչ կա դրանց ներսում: Եկեք նայենք.
Նշենք մատրիցների արտադրյալը մատրիցայի միջոցով . Մատրիցա քառակուսի և ավելին, այն սիմետրիկ է։ Այս հատկությունները մեզ ավելի ուշ օգտակար կլինեն, եկեք հիշենք դրանք: Մատրիցա հարթություն ունի :
Այժմ մեր խնդիրն է ճիշտ բազմապատկել վեկտորները մատրիցով և չստանալ «երկու անգամ երկուսը հինգ է», ուստի եկեք կենտրոնանանք և չափազանց զգույշ լինենք:
Այնուամենայնիվ, մենք հասել ենք բարդ արտահայտության։ Փաստորեն, մենք ստացանք թիվ՝ սկալար։ Եվ հիմա, իրականում, մենք անցնում ենք տարբերակման: Յուրաքանչյուր գործակցի համար անհրաժեշտ է գտնել ստացված արտահայտության ածանցյալը և ստացեք չափման վեկտորը որպես արդյունք . Համենայն դեպս, ընթացակարգերը կգրեմ ըստ գործողության.
1) տարբերակել ըստ , ստանում ենք.
2) տարբերակել ըստ , ստանում ենք.
3) տարբերակել ըստ , ստանում ենք.
Արդյունքը չափի խոստացված վեկտորն է :
Եթե ավելի ուշադիր նայեք վեկտորին, ապա կնկատեք, որ վեկտորի ձախ և համապատասխան աջ տարրերը կարող են խմբավորվել այնպես, որ արդյունքում վեկտորը կարող է մեկուսացվել ներկայացված վեկտորից: չափը . Օրինակ, (վեկտորի վերին գծի ձախ տարրը) (վեկտորի վերին գծի աջ տարրը) կարող է ներկայացվել որպես Իսկ -Ինչպես և այլն: յուրաքանչյուր տողում: Եկեք խմբավորենք.
Եկեք հանենք վեկտորը և ելքում մենք ստանում ենք.
Հիմա եկեք ավելի սերտ նայենք ստացված մատրիցին: Մատրիցը երկու մատրիցների գումարն է :
Հիշենք, որ քիչ առաջ մենք նշել ենք մատրիցայի մեկ կարևոր հատկություն - սիմետրիկ է: Այս հատկության հիման վրա մենք կարող ենք վստահորեն ասել, որ արտահայտությունը հավասար է . Սա կարելի է հեշտությամբ հաստատել՝ ընդլայնելով մատրիցային արտադրանքի տարրը տարր առ տարր . Այստեղ մենք դա չենք անի, ցանկացողները կարող են իրենք ստուգել:
Վերադառնանք մեր արտահայտությանը. Մեր փոխակերպումներից հետո ստացվեց այնպես, ինչպես ուզում էինք տեսնել.
Այսպիսով, մենք ավարտեցինք առաջին տարբերակումը: Անցնենք երկրորդ արտահայտությանը.
Տարբերակում 2
Եկեք գնանք ծեծված ճանապարհով. Այն շատ ավելի կարճ կլինի, քան նախորդը, այնպես որ էկրանից շատ մի հեռացեք:
Եկեք ընդլայնենք վեկտորները և մատրիցը տարր առ տարր.
Երկուսը հաշվարկներից մի քիչ հանենք - մեծ դեր չի խաղում, հետո նորից կդնենք իր տեղը։ Եկեք բազմապատկենք վեկտորները մատրիցով: Նախ բազմապատկենք մատրիցը դեպի վեկտոր , մենք այստեղ սահմանափակումներ չունենք։ Մենք ստանում ենք չափի վեկտորը :
Կատարենք հետևյալ գործողությունը՝ բազմապատկենք վեկտորը ստացված վեկտորին: Ելքի մոտ մեզ կսպասի համարը.
Հետո կտարբերակենք։ Ելքում մենք ստանում ենք չափման վեկտոր :
Ինձ ինչ-որ բան է հիշեցնում. Ճիշտ է! Սա մատրիցայի արտադրյալն է դեպի վեկտոր .
Այսպիսով, երկրորդ տարբերակումը հաջողությամբ ավարտվեց:
Փոխարենը մի եզրակացության
Հիմա մենք գիտենք, թե ինչպես է առաջացել հավասարությունը .
Ի վերջո, մենք նկարագրելու ենք հիմնական բանաձևերը փոխակերպելու արագ միջոց:
Եկեք գնահատենք մոդելի որակը նվազագույն քառակուսիների մեթոդով.
Եկեք տարբերակենք ստացված արտահայտությունը.
Գրականություն
Ինտերնետային աղբյուրներ.
1)
2)
3)
4)
Դասագրքեր, խնդիրների ժողովածուներ.
1) Բարձրագույն մաթեմատիկայի վերաբերյալ դասախոսությունների նշումներ. ամբողջական դասընթաց / Դ.Թ. Գրավոր – 4-րդ հրատ. - Մ.: Iris-press, 2006
2) Կիրառական ռեգրեսիոն վերլուծություն / N. Draper, G. Smith - 2nd ed. – Մ.: Ֆինանսներ և վիճակագրություն, 1986 (թարգմանություն անգլերենից)
3) մատրիցային հավասարումների լուծման խնդիրներ.
Source: www.habr.com