مضمون کا مقصد ابتدائی ڈیٹا سائنسدانوں کو مدد فراہم کرنا ہے۔ میں ہم نے لکیری رجعت کی مساوات کو حل کرنے کے تین طریقے بیان کیے ہیں: تجزیاتی حل، تدریجی نزول، اسٹاکسٹک گریڈینٹ ڈیسنٹ۔ پھر تجزیاتی حل کے لیے ہم نے فارمولہ لاگو کیا۔ . اس مضمون میں، جیسا کہ عنوان سے پتہ چلتا ہے، ہم اس فارمولے کے استعمال کا جواز پیش کریں گے یا دوسرے لفظوں میں، ہم اسے خود اخذ کریں گے۔
فارمولے پر اضافی توجہ دینا کیوں سمجھ میں آتا ہے۔ ?
یہ میٹرکس مساوات کے ساتھ ہے کہ زیادہ تر معاملات میں کوئی لکیری رجعت سے واقف ہونا شروع کر دیتا ہے۔ ایک ہی وقت میں، فارمولہ کیسے اخذ کیا گیا اس کے تفصیلی حساب کتاب نایاب ہیں۔
مثال کے طور پر، Yandex کے مشین لرننگ کورسز میں، جب طلباء کو ریگولرائزیشن سے متعارف کرایا جاتا ہے، تو انہیں لائبریری سے فنکشنز استعمال کرنے کی پیشکش کی جاتی ہے۔ sklearn، جبکہ الگورتھم کی میٹرکس نمائندگی کے بارے میں ایک لفظ کا ذکر نہیں کیا گیا ہے۔ یہ اس وقت ہے کہ کچھ سامعین اس مسئلے کو مزید تفصیل سے سمجھنا چاہتے ہیں - ریڈی میڈ فنکشنز کا استعمال کیے بغیر کوڈ لکھیں۔ اور ایسا کرنے کے لیے، آپ کو پہلے ایک ریگولرائزر کے ساتھ مساوات کو میٹرکس کی شکل میں پیش کرنا چاہیے۔ یہ مضمون ان لوگوں کو اجازت دے گا جو اس طرح کی مہارتوں میں مہارت حاصل کرنا چاہتے ہیں۔ آو شروع کریں.
ابتدائی حالات
ہدف کے اشارے
ہمارے پاس ہدف کی قدروں کی ایک حد ہے۔ مثال کے طور پر، ہدف کا اشارہ کسی بھی اثاثے کی قیمت ہو سکتا ہے: تیل، سونا، گندم، ڈالر وغیرہ۔ ایک ہی وقت میں، متعدد ہدف اشارے کی اقدار سے ہمارا مطلب مشاہدات کی تعداد ہے۔ اس طرح کے مشاہدات ہو سکتے ہیں، مثال کے طور پر، سال کے لیے تیل کی ماہانہ قیمتیں، یعنی ہمارے پاس 12 ہدف کی قدریں ہوں گی۔ آئیے نوٹیشن کا تعارف شروع کرتے ہیں۔ آئیے ہدف کے اشارے کی ہر ایک قدر کو بطور اشارہ کرتے ہیں۔ . مجموعی طور پر ہمارے پاس ہے۔ مشاہدات، جس کا مطلب ہے کہ ہم اپنے مشاہدات کی نمائندگی کر سکتے ہیں۔ .
رجعت کرنے والے
ہم فرض کریں گے کہ ایسے عوامل ہیں جو ایک خاص حد تک ہدف کے اشارے کی اقدار کی وضاحت کرتے ہیں۔ مثال کے طور پر، ڈالر/روبل کی شرح مبادلہ تیل کی قیمت، فیڈرل ریزرو کی شرح وغیرہ سے بہت زیادہ متاثر ہوتی ہے۔ ایسے عوامل کو رجعت کار کہا جاتا ہے۔ ایک ہی وقت میں، ہر ٹارگٹ انڈیکیٹر ویلیو ریگریسر ویلیو کے مساوی ہونی چاہیے، یعنی اگر ہمارے پاس 12 میں ہر مہینے کے لیے 2018 ٹارگٹ انڈیکیٹرز ہیں، تو ہمارے پاس اسی مدت کے لیے 12 ریگرسر ویلیوز بھی ہونے چاہئیں۔ آئیے ہم ہر رجعت کار کی قدروں کو بذریعہ بیان کرتے ہیں۔ . ہمارے معاملے میں ہونے دیں۔ regressors (یعنی وہ عوامل جو ہدف کے اشارے کی قدروں کو متاثر کرتے ہیں)۔ اس کا مطلب ہے کہ ہمارے رجعت کنندگان کو اس طرح پیش کیا جا سکتا ہے: 1st regressor کے لیے (مثال کے طور پر، تیل کی قیمت): , 2nd regressor کے لیے (مثال کے طور پر، Fed کی شرح): کے لیے "-th" regressor:
regressors پر ہدف کے اشارے کا انحصار
آئیے فرض کریں کہ ہدف کے اشارے کا انحصار رجعت کرنے والوں سے"th" مشاہدے کا اظہار فارم کی لکیری ریگریشن مساوات کے ذریعے کیا جا سکتا ہے:
جہاں - "-th" ریگریسر ویلیو 1 سے ,
- 1 سے رجعت کرنے والوں کی تعداد
— کونیی کوفیشینٹس، جو اس رقم کی نمائندگی کرتے ہیں جس کے ذریعے حساب شدہ ہدف اشارے اوسطاً بدل جائے گا جب ریگرسر تبدیل ہوتا ہے۔
دوسرے لفظوں میں، ہم سب کے لیے ہیں (سوائے ) ریگریسر کا ہم "اپنے" گتانک کا تعین کرتے ہیں۔ ، پھر رجعت کنندگان کی قدروں سے گتانکوں کو ضرب دیں ""مشاہدہ، نتیجے کے طور پر ہم ایک خاص تخمینہ حاصل کرتے ہیں"-th" ہدف اشارے۔
لہذا، ہمیں ایسے گتانکوں کو منتخب کرنے کی ضرورت ہے۔ ، جس پر ہمارے تقریباً فنکشن کی اقدار ہدف اشارے کی قدروں کے جتنا ممکن ہو قریب واقع ہو گا۔
لگ بھگ فنکشن کے معیار کا اندازہ لگانا
ہم کم از کم مربع کے طریقہ کار کا استعمال کرتے ہوئے تخمینی فنکشن کے معیار کی تشخیص کا تعین کریں گے۔ اس معاملے میں معیار کی تشخیص کا فنکشن مندرجہ ذیل شکل اختیار کرے گا:
ہمیں گتانک کی ایسی قدریں منتخب کرنے کی ضرورت ہے $w$ جس کے لیے قدر سب سے چھوٹا ہو گا.
مساوات کو میٹرکس کی شکل میں تبدیل کرنا
ویکٹر کی نمائندگی
شروع کرنے کے لیے، اپنی زندگی کو آسان بنانے کے لیے، آپ کو لکیری رجعت کی مساوات پر توجہ دینی چاہیے اور نوٹ کرنا چاہیے کہ پہلا عدد کسی ریگریسر سے ضرب نہیں کیا جاتا ہے۔ ایک ہی وقت میں، جب ہم ڈیٹا کو میٹرکس کی شکل میں تبدیل کرتے ہیں، تو مذکورہ بالا حالات حساب کو سنجیدگی سے پیچیدہ کر دیں گے۔ اس سلسلے میں، پہلی عدد کے لیے ایک اور ریگریسر متعارف کرانے کی تجویز ہے۔ اور اسے ایک کے برابر کریں۔ یا اس کے بجائے، ہر "اس رجعت کار کی ویں قدر کو ایک سے برابر کریں - آخر کار، جب ایک سے ضرب کیا جائے تو، حساب کے نتیجے کے نقطہ نظر سے کچھ نہیں بدلے گا، لیکن میٹرکس کی پیداوار کے قواعد کے نقطہ نظر سے، ہمارا عذاب نمایاں طور پر کم ہو جائے گا.
اب، اس لمحے کے لیے، مواد کو آسان بنانے کے لیے، فرض کریں کہ ہمارے پاس صرف ایک ہے"-th" مشاہدہ۔ پھر، رجعت کرنے والوں کی اقدار کا تصور کریں "-th" مشاہدات بطور ویکٹر . ویکٹر طول و عرض ہے یہ ہے کہ، قطاریں اور 1 کالم:
آئیے ایک ویکٹر کے طور پر مطلوبہ گتانک کی نمائندگی کرتے ہیں۔ ، طول و عرض کا حامل :
لکیری ریگریشن مساوات برائے "-th" مشاہدہ فارم لے گا:
لکیری ماڈل کے معیار کا اندازہ لگانے کا فنکشن فارم لے گا:
براہ کرم نوٹ کریں کہ میٹرکس ضرب کے اصولوں کے مطابق، ہمیں ویکٹر کو منتقل کرنے کی ضرورت تھی .
میٹرکس کی نمائندگی
ضرب ویکٹر کے نتیجے میں، ہمیں نمبر ملتا ہے: ، جس کی توقع کی جانی چاہئے۔ یہ نمبر لگ بھگ ہے "-th" ہدف اشارے۔ لیکن ہمیں صرف ایک ٹارگٹ ویلیو کا نہیں بلکہ ان سب کا تخمینہ درکار ہے۔ ایسا کرنے کے لئے، آئیے سب کچھ لکھیں "-th" میٹرکس فارمیٹ میں regressors . نتیجے میں میٹرکس کا طول و عرض ہے۔ :
اب لکیری ریگریشن مساوات فارم لے گی:
آئیے ہدف کے اشارے کی قدروں کی نشاندہی کریں (تمام ) فی ویکٹر طول و عرض :
اب ہم میٹرکس فارمیٹ میں لکیری ماڈل کے معیار کا اندازہ لگانے کے لیے مساوات لکھ سکتے ہیں:
دراصل، اس فارمولے سے ہم مزید وہ فارمولہ حاصل کرتے ہیں جو ہمیں معلوم ہے۔
یہ کیسے ہوا؟ بریکٹ کھولے جاتے ہیں، تفریق کی جاتی ہے، نتیجے کے اظہار کو تبدیل کیا جاتا ہے، وغیرہ، اور یہ بالکل وہی ہے جو ہم اب کریں گے۔
میٹرکس کی تبدیلیاں
آئیے بریکٹ کھولتے ہیں۔
آئیے تفریق کے لیے ایک مساوات تیار کرتے ہیں۔
ایسا کرنے کے لیے، ہم کچھ تبدیلیاں کریں گے۔ بعد کے حسابات میں یہ ہمارے لیے زیادہ آسان ہوگا اگر ویکٹر مساوات میں ہر پروڈکٹ کے شروع میں نمائندگی کی جائے گی۔
تبدیلی 1
یہ کیسے ممکن ہوا؟ اس سوال کا جواب دینے کے لیے، صرف ضرب کیے جانے والے میٹرکس کے سائز کو دیکھیں اور دیکھیں کہ آؤٹ پٹ پر ہمیں ایک نمبر ملتا ہے یا دوسری صورت میں .
آئیے میٹرکس ایکسپریشنز کے سائز لکھتے ہیں۔
تبدیلی 2
آئیے ہم اسے تبدیلی 1 کی طرح لکھتے ہیں۔
آؤٹ پٹ پر ہمیں ایک مساوات ملتی ہے جس میں ہمیں فرق کرنا ہوگا:
ہم ماڈل کوالٹی اسسمنٹ فنکشن میں فرق کرتے ہیں۔
آئیے ویکٹر کے حوالے سے فرق کرتے ہیں۔ :
سوالات کیوں وہاں نہیں ہونا چاہئے، لیکن ہم مزید تفصیل سے دیگر دو اظہارات میں مشتقات کا تعین کرنے کے عمل کا جائزہ لیں گے۔
تفریق 1
آئیے تفریق کو بڑھاتے ہیں:
میٹرکس یا ویکٹر کے مشتق کا تعین کرنے کے لیے، آپ کو یہ دیکھنا ہوگا کہ ان کے اندر کیا ہے۔ آئیں دیکھیں:
آئیے میٹرکس کی پیداوار کو ظاہر کرتے ہیں۔ میٹرکس کے ذریعے . میٹرکس مربع اور اس کے علاوہ، یہ سڈول ہے۔ یہ خصوصیات بعد میں ہمارے لیے مفید ہوں گی، آئیے انہیں یاد رکھیں۔ میٹرکس طول و عرض ہے :
اب ہمارا کام ویکٹرز کو میٹرکس سے درست طریقے سے ضرب دینا ہے اور "دو بار دو ہے پانچ" حاصل نہیں کرنا ہے، لہذا آئیے توجہ مرکوز کریں اور انتہائی محتاط رہیں۔
تاہم، ہم نے ایک پیچیدہ اظہار حاصل کیا ہے! درحقیقت، ہمیں ایک نمبر ملا - ایک اسکیلر۔ اور اب، حقیقت میں، ہم تفریق کی طرف بڑھتے ہیں۔ ہر ایک عدد کے لیے نتیجے کے اظہار کے مشتق کو تلاش کرنا ضروری ہے۔ اور ڈائمینشن ویکٹر کو آؤٹ پٹ کے طور پر حاصل کریں۔ . صرف اس صورت میں، میں عمل کے ذریعے طریقہ کار کو لکھوں گا:
1) کی طرف سے فرق ، ہم حاصل:
2) کی طرف سے فرق ، ہم حاصل:
3) کی طرف سے فرق ، ہم حاصل:
آؤٹ پٹ سائز کا وعدہ کردہ ویکٹر ہے۔ :
اگر آپ ویکٹر کو زیادہ قریب سے دیکھیں گے تو آپ دیکھیں گے کہ ویکٹر کے بائیں اور متعلقہ دائیں عناصر کو اس طرح گروپ کیا جا سکتا ہے کہ نتیجے کے طور پر، ایک ویکٹر کو پیش کردہ ویکٹر سے الگ کیا جا سکتا ہے۔ سائز . مثال کے طور پر (ویکٹر کی اوپری لائن کا بائیں عنصر) (ویکٹر کی سب سے اوپر کی لائن کے دائیں عنصر) کی نمائندگی کی جاسکتی ہے۔ اور - وغیرہ ہر لائن پر. آئیے گروپ بنائیں:
آئیے ویکٹر نکالتے ہیں۔ اور آؤٹ پٹ پر ہمیں ملتا ہے:
اب، نتیجے میں میٹرکس کو قریب سے دیکھتے ہیں۔ میٹرکس دو میٹرکس کا مجموعہ ہے۔ :
ہمیں یاد کرنا چاہیے کہ تھوڑا پہلے ہم نے میٹرکس کی ایک اہم خاصیت کو نوٹ کیا تھا۔ - یہ سڈول ہے. اس خاصیت کی بنیاد پر، ہم اعتماد سے کہہ سکتے ہیں کہ اظہار مساوات . عنصر کے لحاظ سے میٹرکس عنصر کی پیداوار کو بڑھا کر آسانی سے اس کی تصدیق کی جا سکتی ہے۔ . ہم یہاں ایسا نہیں کریں گے؛ دلچسپی رکھنے والے اسے خود چیک کر سکتے ہیں۔
آئیے اپنے اظہار کی طرف واپس آتے ہیں۔ ہماری تبدیلیوں کے بعد، یہ وہی نکلا جس طرح ہم اسے دیکھنا چاہتے تھے:
لہذا، ہم نے پہلی تفریق مکمل کر لی ہے۔ آئیے دوسرے اظہار کی طرف چلتے ہیں۔
تفریق 2
آئیے شکست خوردہ راستے پر چلتے ہیں۔ یہ پچھلے سے بہت چھوٹا ہوگا، لہذا اسکرین سے زیادہ دور نہ جائیں۔
آئیے عنصر کے لحاظ سے ویکٹر اور میٹرکس عنصر کو بڑھاتے ہیں:
آئیے دونوں کو تھوڑی دیر کے لیے حساب سے ہٹاتے ہیں - یہ کوئی بڑا کردار ادا نہیں کرتا، پھر ہم اسے اس کی جگہ پر رکھ دیں گے۔ آئیے ویکٹرز کو میٹرکس سے ضرب دیں۔ سب سے پہلے، آئیے میٹرکس کو ضرب دیں۔ ویکٹر کو ہمارے یہاں کوئی پابندی نہیں ہے۔ ہمیں سائز ویکٹر ملتا ہے۔ :
آئیے درج ذیل عمل کو انجام دیں - ویکٹر کو ضرب دیں۔ نتیجے میں ویکٹر کو. باہر نکلتے وقت نمبر ہمارا انتظار کر رہا ہو گا:
پھر ہم اس میں فرق کریں گے۔ آؤٹ پٹ پر ہمیں طول و عرض کا ایک ویکٹر ملتا ہے۔ :
مجھے کچھ یاد دلاتا ہے؟ یہ ٹھیک ہے! یہ میٹرکس کی پیداوار ہے۔ ویکٹر کو .
اس طرح، دوسری تفریق کامیابی کے ساتھ مکمل ہو گئی ہے۔
اس کے بجائے کسی نتیجے کے
اب ہم جانتے ہیں کہ مساوات کیسے آئی .
آخر میں، ہم بنیادی فارمولوں کو تبدیل کرنے کا ایک تیز طریقہ بیان کریں گے۔
آئیے کم از کم مربع کے طریقہ کار کے مطابق ماڈل کے معیار کا جائزہ لیں:
آئیے نتیجے کے اظہار میں فرق کریں:
ادب
انٹرنیٹ ذرائع:
1)
2)
3)
4)
درسی کتابیں، مسائل کا مجموعہ:
1) اعلیٰ ریاضی پر لیکچر نوٹ: مکمل کورس / ڈی ٹی۔ تحریری - چوتھا ایڈیشن۔ – M.: Iris-press، 4
2) اپلائیڈ ریگریشن تجزیہ / N. Draper, G. Smith - 2nd ed. – ایم.: فنانس اور شماریات، 1986 (انگریزی سے ترجمہ)
3) میٹرکس مساوات کو حل کرنے کے مسائل:
ماخذ: www.habr.com