اسان لينئر ريگريشن مساوات کي ميٽرڪس فارم ۾ آڻينداسين

مضمون جو مقصد شروعاتي ڊيٽا سائنسدانن کي مدد فراهم ڪرڻ آهي. IN اڳوڻو مضمون اسان هڪ لڪير رجعت جي مساوات کي حل ڪرڻ جا ٽي طريقا بيان ڪيا آهن: تجزياتي حل، گريجوئيٽ نزول، اسٽوچسٽڪ گريڊينٽ نزول. پوءِ تجزياتي حل لاءِ اسان فارمولا لاڳو ڪيو . هن آرٽيڪل ۾، جيئن عنوان مان معلوم ٿئي ٿو، اسان هن فارمولا جي استعمال کي جواز ڏينداسين يا، ٻين لفظن ۾، اسان پاڻ ان کي حاصل ڪنداسين.

ڇو ته اهو سمجھ ۾ اچي ٿو ته فارمولا تي وڌيڪ ڌيان ڏيڻ ?

اهو ميٽرڪس مساوات سان آهي ته اڪثر ڪيسن ۾ هڪ لڪير ريگريشن سان واقف ٿيڻ شروع ٿئي ٿو. ساڳئي وقت، تفصيلي حساب ڪتاب ڪيئن ٺاهيا ويا آهن فارمولا نادر آهن.

مثال طور، Yandex کان مشين لرننگ ڪورسز ۾، جڏهن شاگردن کي باقاعده ڪرڻ لاءِ متعارف ڪرايو ويندو آهي، انهن کي پيش ڪيو ويندو آهي لائبريري مان فنڪشن استعمال ڪرڻ لاءِ sklearn، جڏهن ته الورورٿم جي ميٽرڪس نمائندگي بابت هڪ لفظ به ذڪر نه ڪيو ويو آهي. اهو هن وقت آهي ته ڪجهه ٻڌندڙ شايد هن مسئلي کي وڌيڪ تفصيل سان سمجهڻ چاهيندا آهن - تيار ڪيل ڪمن کي استعمال ڪرڻ کان سواء ڪوڊ لکو. ۽ هن کي ڪرڻ لاءِ، توهان کي لازمي طور تي برابري کي ريگولرائزر سان گڏ ميٽرڪس فارم ۾ پيش ڪرڻ گهرجي. هي آرٽيڪل انهن کي اجازت ڏيندو جيڪي اهڙن صلاحيتن کي ماهر ڪرڻ چاهيندا آهن. اچو ته شروع ڪريون.

شروعاتي حالتون

ھدف جا اشارا

اسان وٽ حدف جي قيمتن جي حد آهي. مثال طور، ٽارگيٽ اشارو ڪنهن به اثاثن جي قيمت ٿي سگهي ٿي: تيل، سون، ڪڻڪ، ڊالر، وغيره. ساڳئي وقت، ڪيترن ئي ٽارگيٽ اشاري جي قدرن مان اسان جو مطلب آهي مشاهدن جو تعداد. اهڙا مشاهدا ٿي سگهن ٿا، مثال طور، سال لاءِ مهينو تيل جون قيمتون، يعني اسان وٽ 12 ٽارگيٽ ويلز هوندا. اچو ته نوٽيشن متعارف ڪرائڻ شروع ڪريون. اچو ته ھدف جي اشاري جي ھر ھڪ قدر کي ظاھر ڪريون . مجموعي طور تي اسان وٽ آهي مشاهدو، جنهن جو مطلب آهي ته اسان پنهنجي مشاهدي جي نمائندگي ڪري سگهون ٿا جيئن .

رجعت ڪندڙ

اسان اهو فرض ڪنداسين ته اهڙا عنصر آهن جيڪي هڪ حد تائين حدف اشاري جي قدرن کي بيان ڪن ٿا. مثال طور، ڊالر/روبل جي مٽا سٽا جي شرح تيل جي قيمت، فيڊرل رزرو جي شرح، وغيره کان سخت متاثر ٿيندي آهي. اهڙن عنصرن کي ريگريسر چئبو آهي. ساڳئي وقت، هر ٽارگيٽ اشاري جي قيمت لازمي طور تي ريگريسر جي قيمت سان مطابقت رکي ٿي، اهو آهي، جيڪڏهن اسان وٽ 12 ٽارگيٽ اشارا آهن هر مهيني لاء 2018، پوء اسان وٽ پڻ هجڻ گهرجي 12 ساڳئي عرصي لاء ريگريسر قدر. اچو ته هر رجعت ڪندڙ جي قدرن کي بيان ڪريون . اچو ته اسان جي حالت ۾ هجي regressors (يعني عنصر جيڪي ھدف جي اشاري جي قيمتن تي اثر انداز ڪن ٿا). هن جو مطلب آهي ته اسان جي regressors هن ريت پيش ڪري سگهجي ٿو: 1st regressor لاء (مثال طور، تيل جي قيمت): , 2nd regressor لاء (مثال طور، فيڊ جي شرح): ، لاء "-th" regressor:

regressors تي ٽارگيٽ اشارن جي انحصار

اچو ته فرض ڪريو ته ٽارگيٽ اشاري جي انحصار رجعت ڪندڙن کان "th" مشاهدو فارم جي هڪ لڪير ريگريشن مساوات ذريعي اظهار ڪري سگهجي ٿو:

ڪٿي - "-th" ريگريسر ويليو 1 کان ,

- 1 کان regressors جو تعداد

- angular coefficients، جيڪي رقم جي نمائندگي ڪن ٿا جن جي حساب سان ٽارگيٽ اشارو اوسط تي تبديل ٿيندو جڏهن ريگريسر تبديل ٿي ويندي.

ٻين لفظن ۾، اسان سڀني لاء آهيون (سواء ) ريگريسر جو اسان "اسان" جي کوٽائي جو تعين ڪندا آهيون ، پوءِ انگن اکرن کي رجعت ڪندڙن جي قدرن سان ضرب ڪريو "th"مشاهدو، نتيجي طور اسان کي هڪ خاص لڳ ڀڳ حاصل ڪري ٿو"-th" ٽارگيٽ اشارو.

تنهن ڪري، اسان کي اهڙي coefficients چونڊڻ جي ضرورت آهي ، جنهن تي اسان جي تقريبن فنڪشن جا قدر ھدف جي اشاري جي قدرن جي ممڪن حد تائين ويجھو واقع ٿيندو.

لڳ ڀڳ فنڪشن جي معيار جو اندازو لڳائڻ

اسان گھٽ ۾ گھٽ اسڪوائر جو طريقو استعمال ڪندي تقريبن فنڪشن جي معيار جي تشخيص کي طئي ڪنداسين. هن معاملي ۾ معيار جي تشخيصي فنڪشن هيٺ ڏنل فارم وٺي ويندي:

اسان کي اهڙن قدرن کي چونڊڻ جي ضرورت آهي coefficients $w$ جنهن لاءِ قدر سڀ کان ننڍو ٿيندو.

مساوات کي ميٽرڪس فارم ۾ تبديل ڪرڻ

ویکٹر جي نمائندگي

شروع ڪرڻ سان، توهان جي زندگي کي آسان بڻائڻ لاءِ، توهان کي لڪير رجعت جي مساوات تي ڌيان ڏيڻ گهرجي ۽ نوٽ ڪرڻ گهرجي ته پهرين کوٽائي ڪنهن به رجعت ڪندڙ طرفان ضرب نه آهي. ساڳي ئي وقت، جڏهن اسان ڊيٽا کي ميٽرڪس فارم ۾ تبديل ڪندا آهيون، مٿي بيان ڪيل حالتون سنجيدگي سان حسابن کي پيچيده ڪندي. ان سلسلي ۾، اها تجويز آهي ته هڪ ٻيو regressor پهريون coefficient لاء متعارف ڪرايو ۽ ان کي هڪ جي برابر ڪريو. يا بلڪه، هر "هن ريگريسر جي قيمت کي هڪ سان برابر ڪريو - آخرڪار، جڏهن هڪ سان ضرب ڪيو وڃي، حساب جي نتيجن جي نقطي نظر کان ڪجھ به نه تبديل ٿيندو، پر ميٽرڪس جي پيداوار جي ضابطن جي نقطي نظر کان، اسان جو عذاب خاص طور تي گھٽجي ويندي.

هاڻي، هن وقت، مواد کي آسان ڪرڻ لاء، اچو ته فرض ڪريون ته اسان وٽ صرف هڪ آهي "-th" مشاهدو. ان کان پوء، regressors جي قدر جو تصور "-th" هڪ ویکٹر طور مشاهدو . ویکٹر طول و عرض آهي اهو آهي قطار ۽ 1 ڪالمن:

اچو ته ویکٹر جي طور تي گهربل ڪوئفينٽس جي نمائندگي ڪريون ، طول و عرض رکندڙ :

لينئر ريگريشن مساوات لاءِ "-th" مشاهدو فارم وٺندو:

هڪ لڪير ماڊل جي معيار جو جائزو وٺڻ لاء فنڪشن فارم وٺي ويندي:

مهرباني ڪري نوٽ ڪريو ته ميٽرڪس ضرب جي ضابطن جي مطابق، اسان کي ویکٹر کي منتقل ڪرڻ جي ضرورت آهي .

ميٽرڪس جي نمائندگي

ویکٹر کي ضرب ڪرڻ جي نتيجي ۾، اسان نمبر حاصل ڪريون ٿا: ، جنهن جي توقع ڪئي وڃي. هي نمبر لڳ ڀڳ آهي "-th" ٽارگيٽ اشارو. پر اسان کي نه رڳو ھڪڙي ھدف جي قيمت جي ضرورت آھي، پر انھن سڀني جي. ائين ڪرڻ لاءِ، اچو ته سڀ ڪجهه لکون“-th" regressors matrix فارميٽ ۾ . نتيجو ميٽرڪس جو طول و عرض آهي :

ھاڻي لينئر ريگريشن مساوات فارم وٺي ويندي:

اچو ته ھدف جي اشارن جي قدرن کي بيان ڪريون (سڀ ) في ویکٹر طول و عرض :

ھاڻي اسان ميٽرڪس فارميٽ ۾ لڪير ماڊل جي معيار کي جانچڻ لاء مساوات لکي سگھون ٿا:

درحقيقت، هن فارمولا مان اسان وڌيڪ ڄاڻون ٿا ته اسان کي معلوم ٿئي ٿو

اهو ڪيئن ڪيو ويو آهي؟ بریکٹ کوليا ويا آهن، فرق ڪيو ويندو آهي، نتيجن جي اظهار کي تبديل ڪيو ويندو آهي، وغيره، ۽ اهو ئي آهي جيڪو اسان هاڻي ڪنداسين.

ميٽرڪس تبديليون

اچو ته brackets کوليو

اچو ته فرق لاءِ هڪ مساوات تيار ڪريون

هن کي ڪرڻ لاء، اسان ڪجهه تبديليون آڻينداسين. ايندڙ حسابن ۾ اهو اسان لاءِ وڌيڪ آسان ٿيندو جيڪڏهن ویکٹر مساوات ۾ هر پيداوار جي شروعات ۾ نمائندگي ڪئي ويندي.

تبديلي 1

اهو ڪيئن ٿيو؟ ھن سوال جو جواب ڏيڻ لاءِ، رڳو ميٽرڪ جي ماپن کي ڏسو جيڪو ضرب ڪيو پيو وڃي ۽ ڏسو ته ان پٽ تي اسان کي ھڪڙو نمبر ملي ٿو يا ٻي صورت ۾. .

اچو ته ميٽرڪس ايڪسپريس جي سائز کي لکون.

تبديلي 2

اچو ته ان کي اهڙي طرح لکون جيئن تبديلي 1

ٻاھر نڪرڻ تي اسان ھڪڙي مساوات حاصل ڪندا آھيون جيڪو اسان کي فرق ڪرڻو پوندو:

اسان ماڊل معيار جي تشخيصي فنڪشن کي مختلف ڪريون ٿا

اچو ته ویکٹر جي حوالي سان فرق ڪريون :

سوال ڇو اتي نه هجڻ گهرجي، پر اسان وڌيڪ تفصيل سان ٻين ٻن اظهارن ۾ نڪتلن کي طئي ڪرڻ جي عملن جو تجزيو ڪنداسين.

فرق 1

اچو ته فرق کي وڌايو:

ميٽرڪس يا ویکٹر جي نڪتل کي طئي ڪرڻ لاء، توهان کي ڏسڻ جي ضرورت آهي ته انهن جي اندر ڇا آهي. اچو ته ڏسون:

اچو ته ميٽرڪس جي پيداوار کي بيان ڪريون ميٽرڪس ذريعي . ميٽرڪس چورس ۽ ان کان علاوه، اهو سميٽيڪل آهي. اهي خاصيتون اسان لاءِ بعد ۾ ڪارآمد ثابت ٿينديون، اچو ته انهن کي ياد ڪريون. ميٽرڪس طول و عرض آهي :

هاڻي اسان جو ڪم اهو آهي ته ويڪٽرن کي درست طريقي سان ضرب ڏيون ميٽرڪس سان ۽ ”ٻه ڀيرا ٻه آهي پنج“ حاصل نه ڪريون، تنهنڪري اچو ته ڌيان ڏيون ۽ انتهائي محتاط رهون.

بهرحال، اسان هڪ پيچيده اظهار حاصل ڪيو آهي! حقيقت ۾، اسان کي هڪ نمبر مليو - هڪ اسڪالر. ۽ هاڻي، حقيقي طور تي، اسان اڳتي وڌو ٿا فرق ڏانهن. اهو ضروري آهي ته هر هڪ عدد جي نتيجي ۾ نڪتل اظهار جو نڪتل ڳولڻ ضروري آهي ۽ حاصل ڪريو dimension vector as output . بس صورت ۾، آئون عمل جي طريقيڪار کي لکندس:

1) فرق ڪريو ، اسان حاصل ڪريون ٿا:

2) فرق ڪريو ، اسان حاصل ڪريون ٿا:

3) فرق ڪريو ، اسان حاصل ڪريون ٿا:

ٻاھر آھي ماپ جو واعدو ڪيل ویکٹر :

جيڪڏهن توهان ويڪر کي وڌيڪ ويجهڙائيءَ سان ڏسندا ته توهان ڏسندا ته ویکٹر جي کاٻي ۽ ساڄي ساڄي عنصرن کي اهڙيءَ طرح گروپ ڪري سگهجي ٿو، جنهن جي نتيجي ۾، هڪ ویکٹر کي پيش ڪيل ویکٹر کان الڳ ڪري سگهجي ٿو. ماپ . مثال طور (ویکٹر جي مٿين لائن جي کاٻي عنصر) (ویکٹر جي مٿين لڪير جي ساڄي عنصر) جي طور تي نمائندگي ڪري سگھجي ٿو ۽ - جيئن وغيره هر لائن تي. اچو ته گروپ:

اچو ته ویکٹر ڪڍون ۽ ٻاھر نڪرڻ تي اسان حاصل ڪريون ٿا:

ھاڻي اچو ته ھڪ ويجھو نظر وجهون نتيجي واري ميٽرڪس تي. ميٽرڪس ٻن ميٽرڪس جو مجموعو آهي :

اچو ته ياد رکون ته ٿورو اڳ اسان ميٽرڪس جي هڪ اهم ملڪيت کي ياد ڪيو - اهو symmetrical آهي. هن ملڪيت جي بنياد تي، اسان اعتماد سان چئي سگهون ٿا ته اظهار برابر . اهو آساني سان تصديق ڪري سگهجي ٿو پيداوار جي پيداوار کي وڌائڻ سان matrices عنصر طرفان عنصر . اسان هتي اهو نه ڪنداسين؛ جيڪي دلچسپي وٺن ٿا اهي پاڻ ان کي چيڪ ڪري سگهن ٿا.

اچو ته اسان جي اظهار ڏانهن واپس وڃو. اسان جي تبديلين کان پوء، اهو رستو ظاهر ٿيو ته اسان ان کي ڏسڻ چاهيون ٿا:

تنهن ڪري، اسان پهريون فرق مڪمل ڪيو آهي. اچو ته ٻئي اظهار ڏانهن وڃو.

فرق 2

اچو ته کٽيل واٽ تي هلون. اهو پوئين هڪ کان تمام ننڍو هوندو، تنهنڪري اسڪرين کان تمام گهڻو پري نه وڃو.

اچو ته ویکٹر ۽ ميٽرڪس عنصر کي عنصر طرفان وڌايو:

اچو ته ٻنھي کي ٿوري دير لاءِ حسابن مان ڪڍيون - اھو ڪو وڏو ڪردار ادا نٿو ڪري، پوءِ اسين ان کي ان جي جاءِ تي واپس آڻينداسين. اچو ته ویکٹرز کي ميٽرڪس سان ضرب ڪريون. سڀ کان پهريان، اچو ته ميٽرڪس کي ضرب ڏيو ویکٹر ڏانهن اسان وٽ هتي ڪا به پابندي ناهي. اسان کي ماپ ویکٹر حاصل ڪيو :

اچو ته ھيٺين عمل کي انجام ڏيو - ویکٹر کي ضرب ڪريو نتيجي ۾ ویکٹر ڏانهن. نڪرڻ تي نمبر اسان جي انتظار ۾ هوندو:

پوء اسان ان کي مختلف ڪنداسين. ٻاھر نڪرڻ تي اسان کي طول و عرض جو ویکٹر ملندو آھي :

مون کي ڪجهه ياد ڏياريندو آهي؟ اهو درست آهي! هي ميٽرڪس جي پيداوار آهي ویکٹر ڏانهن .

اهڙيء طرح، ٻيو فرق ڪاميابي سان مڪمل ڪيو ويو آهي.

سوچيم ته هڪ ٿڪل جي

هاڻي اسان ڄاڻون ٿا ته برابري ڪيئن آئي .

آخرڪار، اسان بنيادي فارمولن کي تبديل ڪرڻ لاء تڪڙو رستو بيان ڪنداسين.

اچو ته ماڊل جي معيار کي گهٽ ۾ گهٽ چوڪن جي طريقي سان اندازو لڳايو:

اچو ته نتيجن جي اظهار کي فرق ڪريون:

ادب

انٽرنيٽ ذريعن:

1) habr.com/en/post/278513
2) habr.com/ru/company/ods/blog/322076
3) habr.com/en/post/307004
4) nabatchikov.com/blog/view/matrix_der

درسي ڪتاب، مسئلن جو مجموعو:

1) اعليٰ رياضي تي ليڪچر نوٽس: مڪمل ڪورس / ڊي ٽي. لکيل - 4 ايڊ. - ايم.: آئرس پريس، 2006
2) اپلائيڊ ريگريشن analysis / N. Draper, G. Smith - 2nd ed. - ايم.: فنانس ۽ شماريات، 1986 (انگريزي مان ترجمو)
3) ميٽرڪس مساواتن کي حل ڪرڻ جا مسئلا:
function-x.ru/matrix_equations.html
mathprofi.ru/deistviya_s_matricami.html

جو ذريعو: www.habr.com