Կատարում ենք գծային տեխնոլոգիայի հաշվարկի մատակարարումը մատրիցային տեսքով

Հոդվածի նպատակը նոր սկսած տվյալների գիտնականներին աջակցելն է։ Առաջին लेखում ցերեկից մենք ձեռքով վերլուծեցինք երեք լուծման եղանակներ.linear regression-ը՝ վերլուծական լուծում, градиентыի下降, ստոցիսկոսական градиентыի下降։ Այդ ժամանակ վերլուծական լուծման համար կիրառել ենք բանաձև ։ Այս հոդվածում, ինչպես երևում է վերնագրից, մենք հիմնավորում ենք այս բանաձևի կիրառումը կամ այլ խոսքով, ինքներս ենք այն ախտորոշում։

Ինչու արժանահավատորեն ուշադրություն դարձնել բանաձևին ?

Նախնական հասկանալի է, որ մատրիցային բանաձևը մեծամասնության դեպքում սկսվում է lineԱԿ регрессիայի ճանաչումը։ Սակայն, մանրամասն վերլուծություններ այն մասին, թե ինչպես է բանաձևը ախտորոշվում, հազվադեպ հանդիպում է։

Օրինակ, Յանդեքսի մեքենայական ուսուցման դասընթացներում, երբ լսարանին ծանոթացնում են կարգավորումների հետ, առաջարկում են օգտվել функций из библиотеки sklearn՝ տվյալ դեպքում ոչ մի բառ չի խոսվում մատրիցային ներկայացման մասին։ Այդ պահին որոշ լսարանների անդամների կարող է հետաքրքրել այս հարցի վերաբերյալ ավելի մանրամասն տեղեկություն ստանալը՝ գրելու կոդ առանց պատրաստի функций։ Իսկ դրա համար հարկավոր է առաջին հերթին ներկայացնել բանաձևը կարգավորիչով մատրիցային տեսքով։ Այս հոդվածը հենց այնպես հնարավորություն կտա ցանկացողներին տիրապետել այդպիսի հմտություններին։ Հա, սկսենք։

Ամսագրային պայմանները

Ընտրելի ցուցանիշները

Մեր մոտ կան նպատակային ցուցանիշների շարք։ Օրինակ, նպատակային ցուցանիշը կարող է լինել որևէ ակտիվի գինը՝ նավթ, ոսկի, ցորեն, դոլար և այլն։ Այդ դեպքում, նպատակային ցուցանիշների շարքով մենք հասկանում ենք դիտարկումների քանակը։ Այդպիսի դիտարկումները կարող են լինել, օրինակ, 2018 թվականի յուրաքանչյուր ամսվա նավթի ամսական գներ, այսինքն, մենք կունենանք 12 նպատակային ցուցանիշներ։ Պատրաստենք նշանակումները։ Ամեն մի նպատակային ցուցանիշը նշենք որպես ։ Ընդհանուր առմամբ մենք ունենք դիտարկումներ, ինչը նշանակում է, որ կարող ենք ներկայացնել մեր դիտարկումները որպես .

Ռեգրեսորներ

Վարկածենք, որ կան գործոններ, որոնք որոշակի չափով բացատրում են նպատակային ցուցանիշների արժեքները։ Օրինակ, դոլար/ռուբլի զույգի արժեքի վրա մեծ ազդեցություն են ունենում նավթի գինը, FRS-ի տոկոսադրույքը և այլն։ Այդպիսի գործոնները կոչվում են ռեգրեսորներ։ Այդ դեպքում, յուրաքանչյուր նպատակային ցուցանիշին պետք է համապատասխան լինի ռեգրեսորների արժեքը, այսինքն, եթե մեզ մոտ կա 12 նպատակային ցուցանիշներ 2018 թվականի յուրաքանչյուր ամսվա համար, ապա նույն ժամանակ՝ 12 ռեգրեսորի արժեքներ ևս պետք է լինի։ Ամեն ռեգրեսորի արժեքը նշենք որպես ։ Թող մեր դեպքում կա ռեգրեսորներ (այսինքն՝ գործոններ, որոնք ազդում են նպատակային ցուցանիշների արժեքների վրա)։ Նշանակում է, որ մեր ռեգրեսորները կարող ենք ներկայացնել այսպես՝ 1-ին ռեգրեսորի (օրինակ, նավթի գինը) համար՝ ՝ 2-րդ ռեգրեսորի (օրինակ, FRS-ի տոկոսադրույքը) համար՝ ՝ «-րդ» ռեգրեսորի համար՝

Ցելլի ցուցանիշների կախվածությունը ռեգրեսորներից

Արդարացնենք, որ ցելի ցուցանիշի կախվածությունը ռեգրեսորներից «-րդ» դիտարկման միջոցով կարելի է արտահայտել线ային ռեգրեսիայի այնպես,

, где — «-րդ» ռեգրեսորի արժեքները 1-ից ,

— ռեգրեսորների թիվը 1-ից

— անկյունային բաղադրիչներն են, որոնք ներկայացնում են, թե որքան պետք է փոխվի հաշվարկված ցելի ցուցանիշը միջին հաշվով, երբ ռեգրեսորը փոխվում է:

Այլ բառերով, մենք յուրաքանչյուրի համար (թույլտվություն չունեցողներ, ) ռեգրեսորի «բաղադրիչը» որոշում ենք «իր» անկյունն , ապա բազմապատկելով այդ անկյունները՝ «-րդ» դիտարկման ռեգրեսորների արժեքներով, արդյունքում ստանում ենք «-րդ» ցելի ցուցանիշի մոտավորություն:

Ուստի, մեզ անհրաժեշտ է պիտանի այդպիսի անկյուններ գտնել, , որոնց դեպքում մեր մոտավորող վերաֆունկցիայի արժեքները պետք է գտնվեն առավելագույնը մոտոր ուղղումի արժեքներին:

Մոտավորող ֆունկցիայի որակի գնահատում

Մենք գնահատելու ենք մոտավորող ֆունկցիայի որակը փոքրագույն քառակուսիների մեթոդով: Այդ դեպքում գնահատման ֆունկցիան կունենա հետևյալ տեսքը:

Մեզ անհրաժեշտ է գտնել այդպիսի $w$ անկյուններ, որոնց դեպքում արժեքը պետք է լինի ամենափոքրը:

Փոխարկում ենք հավասարությունը матрицы видի

Վեկտորային ներկայացում

Առաջին հերթին, որպեսզի կյանքը հեշտացնենք, ուշադրություն դարձնենք լոտային հարթության հավասարմանը և նկատենք, որ առաջին անկյունը չի բազմապատկվում ոչ մի ռեգրեսորով: Այս ընթացքում, երբ մենք փոխանցենք տվյալները матрицы ձևին, վերոնշյալ հանգամանքը լուրջ բարդություններ կառաջացնի հաշվարկներում: Այս առիթով առաջարկվում է մտցնել ևս մեկ ռեգրեսոր առաջին անկյունի համար և այն հավանել մեկի: Ճիշտ կլինի, յուրաքանչյուր «-րդ» արժեքը այն հավանել մեկի, քանի որ մեկով բազմապատկելիս մեր հաշվարկների արդյունքները չեն փոխվի, իսկ матрицы 乘法规则 ի տես, մեր դժվարությունները կզսպվեն:

Այժմ, որոշ ժամանակով, նյութը պարզեցնելու նպատակով, թույլ տվեք ենթադրել, որ մենք ունենք միայն մեկը «-րդ» դիտարկումը: Այն դեպքում, ենթադրենք, «-րդ» դիտարկման ռեգրեսորների արժեքները որպես վեկտոր . Վեկտորը ներդրագրող ունի չափանիշ, որ‌తో, այսինքն ձողեր և 1 սյունը:

Անցքերը պատկերացնենք որպես վեկտոր , որը ունի չափանիշը :

Լինի «-րդ» դիտարկման լոտային ռեգրեսիայի հրապարակումն

Կրկնիկակնվենք, որ матрицы 乘法规 luậtերի համաձայն, մեզ անհրաժեշտ էր տրանսպոններ վեկտորը

Матрицայական ներկայացում .

Րոպեների արդյունքում, և մենք կունենանք թիվ:

, ինչը և սպասվում էր: Այս թիվը և « -րդ» ցելի ցուցանիշի մոտավորությունն է: Բայց մեզ պետք է մոտավորություն մի շարք ցուցանիշների, ոչ միայն մեկ: Այդ նպատակով գրանցենք բոլոր «-ի» նպատակային ցուցանիշի。但 մեզ անհրաժեշտ է մոտեցնել ոչ միայն մեկ ցուցանիշի, այլ բոլորի։ Դրա համար գրանցենք բոլոր «-ային» ռեգրեսորներ մատրիցայի ձևաչափով . Գտված մատրիցան ունի չափս :

Այժմ գծային ռեգրեսիայի հավասարումը կլինի համառոտ.

Բարձր հստակության ցուցանիշների արժեքները (բոլորը ) են վեկտոր չափսով :

Այժմ կարող ենք գրել սեղմ կամ մատրիչային ձևաչափով գծային մոդելի գնահատման հավասարումը:

Իհարկե, այս բանաձեւի միջոցով մենք ստանում ենք մեզ հայտնի բանաձեւ:

Ինչպե՞ս է դա անում: Քմանելով փակագծերը, կատարվում է դիֆերենցիացում, արտահատությունները վերամշակում են, և այլն, և հենց այս բանով էլ այժմ կզբաղվենք:

Մատրիչային վերամշակումներ

Դիտենք փակագծերը

Պատրաստենք հավասարումը դիֆերենցիացնելու համար

Շնորհիվ այս, որոշ վերամշակումներ պետք է ստեղծենք: Այլ հաշվարկներում մեզ պարզապես կնախընտրելի լինի, եթե վեկտոր առաջին լարվածության վերացուցված կլինի հավասարգի մեջ:

Վերամշակում 1

Ինչպես ստացվեց սա? Այս հարցի պատասխանել էն բավական է, հստակ դիտելը հաշվարկներին բազմապատկվող մատրիցաների չափերը և տեսնել, որ դուրս ենք գալիս առաջին հերթին կամ այլ ոչ մի .

Գրենք մատրիցային արտահայտությունների չափերը:

Վերամշակում 2

Անալոգիական վերամշակում 1-ի այսպես մեջբերում կատարենք

Դուրս ենք գալիս հավասարման, որը մենք մտադիր ենք գտնել:

Դիֆերենցիանք մոդելի գնահատման ֆունկցիան

Դիֆերենցիանք վեկտորի համեմատ :

Ոչ մի հարց չի լինել, բայց մենք մանրամասն կդիտարկենք երկու այլ արտահայտությունները, որտեղ իրականացվում են դիֆերենցիայի գործողությունները: Դիֆերենցավորում 1

Դիտենք դիֆերենցիացին:

Մատրիցայի կամ վեկտորի մաքա հասկանալու համար մեզ անհրաժեշտ է տեսնել, թե ինչ կա ներսում։ Դիտենք:

Նշենք մատրիցաների բազմապատկումը

մատրիցային, . Մատրիցան քառանկյուն է և ավելին, սիմետրիկ է։ Այս հատկությունները մեզ ձեռնտու փախստական են, պետք է հիշենք դրանք: Մատրիցան Այժմ մեր նպատակը ճիշտ համադել վեկտորները մատրիցին, որպեսզի չստանանք «երկու անգամ երկու հինգ», հետևաբար կենտրոնանանք: ներդրագրող ունի չափանիշ, :

Այնուամենայնիվ, մեզ վրա ստացվել է ծավալային արտահայտություն! Իրականում, մենք ստանում ենք թիվ՝ սկալար: Այնուամենայնիվ, այժմ իրականում մտնում ենք դիֆերենցիացումը։ Կարող ենք գտնել ստացված արտահայտության ածանցյակը յուրաքանչյուր համակարգի համար

և դուրս գալ վեկտոր չափսով . Ամեն բերելու համար ես կգրեմ գործողությունների ընթացքը: 1) դիֆերենցիրվեն

, ստանում ենք: 2) դիֆերենցիրվեն

3) դիֆերենցիրվեն 2) դիֆերենցիրվեն

Դուրս է գալիս - սպասված վեկտոր մի մակույտով 2) դիֆերենցիրվեն

Եթե հասկանա ավելի մանրամասներով վեկտորը, ապա կարելի է դիտել, որ ձախ և համապատասխան աջ տարրերը կարելի է խմբագրել այնպես, որ վերջում ներկայացված վեկտորից կարելի է տարբերակել :

չափսով (վեկտորի վերին շարքի ձախ տարրը) . Օրինակ, (վեկտորի վերին շարքի աջ տարրը) կարելի է ներկայացնել որպես - ինչպես , իսկ և այլն ըստ յուրաքանչյուր շարքի: Սմարգի խմբավորենք: Հանիր վեկտոր

և դուրս ենք գալիս: և արդյունքում կունենանք:

Դե ինչ, եկեք նայենք ստացված մատրիցային։ Մատրիցան երկու մատրիցաների գումարն է։ :

Հիշում ենք, որ մի քանի դեռ մենք նշեցինք մատրիցայի մեկ կարևոր հատկություն։ — այն սիմետրիկ է։ Այս հատկությունից ելնելով, մենք կարող ենք վստահաբար հայտարարել, որ արտահայտությունը հավասար է ։ Սա հեշտ է ստուգել, բացելով մատրիցաների արտադրանքը տարր առ տարր։ ։ Չենք անելու դա այստեղ, ցանկացողները կարող են իրենց գաղափարների հիման վրա անել ստուգումը։

Վերադառնանք մեր արտահայտությանը։ Ա nuestras փոփոխություններից հետո այն եղավ այն, ինչ ուզում էինք տեսնել՝

Այսպիսով, մենք նախորդ differentiating-ով հաջողեցինք։ Գործողություն անցնում երկրորդ արտահայտությանը։

Differentiating 2

Խնդրում ենք գնալ մատակարար ճանապարհով։ Սա շատ կարճ կլինի, այնպես որ չեզոքացեք էկրանին։

Բացենք տարր առ տարր վեկտորներն ու մատրիցան։

Մի պահ հանենք հաշվարկներից երկուսը, այն շատ մեծ դեր չունի, բայց հետո կորցնենք այդ տեղը։ Վեկտորները բազմապատկենք մատրիցայի։ Նախ, բազմապատկենք մատրիցան վեկտորի է, यहाँ մենք չունենք որևէ սահմանափակում։ Ստացվում է վեկտոր չափի :

Կատարենք հաջորդ գործողությունը՝ բազմապատկենք վեկտորը ստացված վեկտորի։ Արդյունքում մեզ սպասում է թիվ՝

Այն, ինչ մենք կդասավորվածենք։ Արդյունքում ստանում ենք չափով վեկտոր :

Հիշու՞մ եք, արդյոք։ Բոլորովին ճիշտ է։ Սա մատրիցայի արտադրանք է։ վեկտորի .

Այսպիսով, երկրորդ diferenciation-ը հաջողությամբ ավարտվեց։

Վերջում

Այժմ գիտենք, թե ինչպես է ստացվել հավասարումը .

Վերջում վերափոխենք տեղավորումների հիմնական ձևերը։

Գնահատենք մոդելի որակը ըստ նվազագույն քառակուսիների մեթոդի։

Differentiating ստացված արտահայտությունը։

Literature

Ինտերնետային աղբյուրներ՝

1) habr.com/ru/post/278513
2) habr.com/ru/company/ods/blog/322076
3) habr.com/ru/post/307004
4) nabatchikov.com/blog/view/matrix_der

Ուսումնասիրություններ, խնդիրների հավաքածուներ՝

1) Բարձրագույն մաթեմատիկայի լեկցիայի ամփոփագիր․ ամբողջական курс / Դ.Տ. Պիսմենն – 4-րդ հր․ – Մ.: Այրիս-պրես, 2006
2) Կիրառական ռեգրեսիոն վերլուծություն / Ն. Դրեյպեր, Գ. Սմիթ – 2-րդ հր. – Մ.: Ֆինանսներ և վիճակագրություն, 1986 (թարգմանություն անգլերենից)
3) Մատրիցային հավասարումների լուծման խնդիրները՝
function-x.ru/matrix_equations.html
mathprofi.ru/deistviya_s_matricami.html

Ընտանիք: habr.com