আমরা ম্যাট্রিক্স আকারে লিনিয়ার রিগ্রেশন সমীকরণ নিয়ে আসি

নিবন্ধটির উদ্দেশ্য প্রাথমিক তথ্য বিজ্ঞানীদের সহায়তা প্রদান করা। ভিতরে পূর্ববর্তী নিবন্ধ আমরা একটি রৈখিক রিগ্রেশন সমীকরণ সমাধান করার তিনটি উপায় বর্ণনা করেছি: বিশ্লেষণাত্মক সমাধান, গ্রেডিয়েন্ট ডিসেন্ট, স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্ট। তারপর বিশ্লেষণাত্মক সমাধানের জন্য আমরা সূত্রটি প্রয়োগ করেছি . এই প্রবন্ধে, শিরোনামটি যেমন নির্দেশ করে, আমরা এই সূত্রটির ব্যবহারকে ন্যায্যতা দেব বা অন্য কথায়, আমরা নিজেরাই এটি অর্জন করব।

কেন এটি সূত্রে অতিরিক্ত মনোযোগ দিতে অর্থবোধ করে ?

এটি ম্যাট্রিক্স সমীকরণের সাথে যে বেশিরভাগ ক্ষেত্রে একজন রৈখিক রিগ্রেশনের সাথে পরিচিত হতে শুরু করে। একই সময়ে, সূত্রটি কীভাবে উদ্ভূত হয়েছিল তার বিস্তারিত গণনা বিরল।

উদাহরণস্বরূপ, ইয়ানডেক্স থেকে মেশিন লার্নিং কোর্সে, যখন ছাত্রদের নিয়মিতকরণের সাথে পরিচিত করা হয়, তখন তাদের লাইব্রেরি থেকে ফাংশন ব্যবহার করার প্রস্তাব দেওয়া হয় sklearn, যদিও অ্যালগরিদমের ম্যাট্রিক্স উপস্থাপনা সম্পর্কে একটি শব্দও উল্লেখ করা হয়নি। এই মুহুর্তে কিছু শ্রোতা এই সমস্যাটিকে আরও বিশদে বুঝতে চাইতে পারেন - রেডিমেড ফাংশন ব্যবহার না করে কোড লিখুন। এবং এটি করার জন্য, আপনাকে প্রথমে ম্যাট্রিক্স আকারে একটি রেগুলারের সাথে সমীকরণটি উপস্থাপন করতে হবে। এই নিবন্ধটি যারা এই ধরনের দক্ষতা আয়ত্ত করতে চান তাদের অনুমতি দেবে। চল শুরু করি.

প্রাথমিক শর্তাবলি

লক্ষ্য সূচক

আমরা লক্ষ্য মান একটি পরিসীমা আছে. উদাহরণস্বরূপ, লক্ষ্য নির্দেশক হতে পারে কোনো সম্পদের মূল্য: তেল, সোনা, গম, ডলার ইত্যাদি। একই সময়ে, বেশ কয়েকটি লক্ষ্য সূচক মান দ্বারা আমরা পর্যবেক্ষণের সংখ্যা বোঝায়। এই ধরনের পর্যবেক্ষণ হতে পারে, উদাহরণস্বরূপ, বছরের জন্য মাসিক তেলের দাম, অর্থাৎ, আমাদের 12টি লক্ষ্য মান থাকবে। এর স্বরলিপি প্রবর্তন শুরু করা যাক. টার্গেট ইন্ডিকেটরের প্রতিটি মানকে এভাবে বোঝাই . মোট আমাদের আছে পর্যবেক্ষণ, যার মানে আমরা আমাদের পর্যবেক্ষণকে উপস্থাপন করতে পারি .

রিগ্রেসার্স

আমরা অনুমান করব যে এমন কিছু কারণ রয়েছে যা নির্দিষ্ট পরিমাণে লক্ষ্য সূচকের মানগুলি ব্যাখ্যা করে। উদাহরণস্বরূপ, ডলার/রুবেল বিনিময় হার তেলের দাম, ফেডারেল রিজার্ভ রেট ইত্যাদি দ্বারা দৃঢ়ভাবে প্রভাবিত হয়। এই ধরনের কারণগুলিকে রিগ্রেসার বলা হয়। একই সময়ে, প্রতিটি লক্ষ্য সূচকের মান অবশ্যই একটি রিগ্রেসর মানের সাথে সঙ্গতিপূর্ণ হতে হবে, অর্থাৎ, যদি আমাদের 12 সালে প্রতি মাসের জন্য 2018টি লক্ষ্য সূচক থাকে, তাহলে একই সময়ের জন্য আমাদের 12টি রিগ্রেসার মান থাকা উচিত। আসুন প্রতিটি রিগ্রেসরের মানগুলি দ্বারা বোঝাই . আমাদের ক্ষেত্রে আছে যাক regressors (যেমন লক্ষ্য নির্দেশক মানগুলিকে প্রভাবিত করে এমন কারণগুলি)। এর মানে হল আমাদের রিগ্রেসারকে নিম্নরূপ উপস্থাপন করা যেতে পারে: ১ম রিগ্রেসরের জন্য (উদাহরণস্বরূপ, তেলের দাম): , ২য় রিগ্রেসরের জন্য (উদাহরণস্বরূপ, ফেড রেট): , জন্য "-ম" রিগ্রেসর:

regressors উপর লক্ষ্য সূচক নির্ভরতা

ধরা যাক লক্ষ্য সূচকের নির্ভরতা পশ্চাদপসরণকারীদের কাছ থেকে"থ" পর্যবেক্ষণ ফর্মের একটি রৈখিক রিগ্রেশন সমীকরণের মাধ্যমে প্রকাশ করা যেতে পারে:

যেখানে - "-থ" রিগ্রেসর মান 1 থেকে ,

— 1 থেকে রিগ্রেসারের সংখ্যা

— কৌণিক সহগ, যা সেই পরিমাণের প্রতিনিধিত্ব করে যার দ্বারা গণনা করা লক্ষ্য সূচক গড়ে পরিবর্তিত হবে যখন রিগ্রেসর পরিবর্তন হবে।

অন্য কথায়, আমরা প্রত্যেকের জন্য (ব্যতীত ) রিগ্রেসারের আমরা "আমাদের" সহগ নির্ধারণ করি , তারপর regressors এর মান দ্বারা সহগ গুণ করুন "থ" পর্যবেক্ষণ, ফলস্বরূপ আমরা একটি নির্দিষ্ট আনুমানিক প্রাপ্তি "-ম" লক্ষ্য সূচক।

অতএব, আমাদের এই ধরনের সহগ নির্বাচন করতে হবে , যেখানে আমাদের আনুমানিক ফাংশনের মান লক্ষ্য সূচক মানের যতটা সম্ভব কাছাকাছি অবস্থিত হবে।

আনুমানিক ফাংশন গুণমান মূল্যায়ন

আমরা সর্বনিম্ন বর্গ পদ্ধতি ব্যবহার করে আনুমানিক ফাংশনের গুণমান মূল্যায়ন নির্ধারণ করব। এই ক্ষেত্রে গুণমান মূল্যায়ন ফাংশন নিম্নলিখিত ফর্ম গ্রহণ করবে:

আমাদের সহগ $w$ এর এমন মান নির্বাচন করতে হবে যার জন্য মান সবচেয়ে ছোট হবে।

সমীকরণটিকে ম্যাট্রিক্স আকারে রূপান্তর করা হচ্ছে

ভেক্টর প্রতিনিধিত্ব

শুরুতে, আপনার জীবনকে সহজ করতে, আপনাকে রৈখিক রিগ্রেশন সমীকরণের দিকে মনোযোগ দিতে হবে এবং লক্ষ্য করতে হবে যে প্রথম সহগ কোনো রিগ্রেসর দ্বারা গুণিত হয় না। একই সময়ে, যখন আমরা ডেটাকে ম্যাট্রিক্স আকারে রূপান্তর করি, তখন উপরে উল্লিখিত পরিস্থিতি গণনাকে গুরুতরভাবে জটিল করে তুলবে। এই বিষয়ে, প্রথম সহগের জন্য আরেকটি রিগ্রেসার চালু করার প্রস্তাব করা হয়েছে এবং এটি একটি সমান. অথবা বরং, প্রতিটি "এই রিগ্রেসারের তম মানটিকে একের সাথে সমান করুন - সর্বোপরি, একটি দ্বারা গুণ করলে, গণনার ফলাফলের দৃষ্টিকোণ থেকে কিছুই পরিবর্তন হবে না, তবে ম্যাট্রিক্সের গুণফলের নিয়মের দৃষ্টিকোণ থেকে, আমাদের যন্ত্রণা উল্লেখযোগ্যভাবে হ্রাস করা হবে।

এখন, এই মুহুর্তের জন্য, উপাদানটিকে সরল করার জন্য, ধরে নেওয়া যাক যে আমাদের কাছে শুধুমাত্র একটি আছে "-ম" পর্যবেক্ষণ। তারপর, রিগ্রেসারদের মান কল্পনা করুন "-ম" একটি ভেক্টর হিসাবে পর্যবেক্ষণ . ভেক্টর মাত্রা আছে , যে হয় সারি এবং 1 কলাম:

আসুন ভেক্টর হিসাবে প্রয়োজনীয় সহগগুলি উপস্থাপন করি , মাত্রা আছে :

"এর জন্য লিনিয়ার রিগ্রেশন সমীকরণ-ম" পর্যবেক্ষণ ফর্ম নেবে:

একটি রৈখিক মডেলের গুণমান মূল্যায়নের ফাংশনটি ফর্মটি গ্রহণ করবে:

অনুগ্রহ করে মনে রাখবেন যে ম্যাট্রিক্স গুণের নিয়ম অনুসারে, আমাদের ভেক্টর স্থানান্তর করতে হবে .

ম্যাট্রিক্স উপস্থাপনা

ভেক্টর গুন করার ফলে, আমরা সংখ্যা পাই: , যা প্রত্যাশিত. এই সংখ্যাটি আনুমানিক "-ম" লক্ষ্য সূচক। কিন্তু আমাদের শুধু একটি টার্গেট মান নয়, তাদের সকলের আনুমানিক প্রয়োজন। এটি করার জন্য, আসুন সবকিছু লিখুন "ম্যাট্রিক্স বিন্যাসে "ম" রিগ্রেসর . ফলে ম্যাট্রিক্সের মাত্রা আছে :

এখন রৈখিক রিগ্রেশন সমীকরণ ফর্মটি গ্রহণ করবে:

আসুন লক্ষ্য নির্দেশকগুলির মানগুলি বোঝাই (সমস্ত ) প্রতি ভেক্টর মাত্রা :

এখন আমরা ম্যাট্রিক্স বিন্যাসে একটি রৈখিক মডেলের গুণমান মূল্যায়নের জন্য সমীকরণ লিখতে পারি:

প্রকৃতপক্ষে, এই সূত্র থেকে আমরা আমাদের পরিচিত সূত্রটি পাই

এটা কিভাবে হল? বন্ধনীগুলি খোলা হয়, পার্থক্য করা হয়, ফলে অভিব্যক্তিগুলি রূপান্তরিত হয়, ইত্যাদি, এবং আমরা এখন ঠিক এটিই করব।

ম্যাট্রিক্স রূপান্তর

এর বন্ধনী খুলুন

আসুন পার্থক্যের জন্য একটি সমীকরণ তৈরি করি

এটি করার জন্য, আমরা কিছু রূপান্তর চালাব। পরবর্তী গণনায় এটি ভেক্টর হলে আমাদের জন্য আরও সুবিধাজনক হবে সমীকরণে প্রতিটি পণ্যের শুরুতে উপস্থাপন করা হবে।

রূপান্তর ঘ

এটা কিভাবে ঘটেছে? এই প্রশ্নের উত্তর দেওয়ার জন্য, কেবলমাত্র গুণিত হওয়া ম্যাট্রিক্সের আকারগুলি দেখুন এবং দেখুন যে আউটপুটে আমরা একটি সংখ্যা পাই বা অন্যথায় .

আসুন ম্যাট্রিক্স এক্সপ্রেশনের আকারগুলি লিখি।

রূপান্তর ঘ

আসুন আমরা এটিকে রূপান্তর 1 এর অনুরূপভাবে লিখি

আউটপুটে আমরা একটি সমীকরণ পাই যা আমাদের আলাদা করতে হবে:

আমরা মডেল গুণমান মূল্যায়ন ফাংশন পার্থক্য

আসুন ভেক্টরের ক্ষেত্রে পার্থক্য করি :

প্রশ্ন কেন থাকা উচিত নয়, তবে আমরা আরও বিস্তারিতভাবে অন্য দুটি অভিব্যক্তিতে ডেরিভেটিভ নির্ধারণের জন্য ক্রিয়াকলাপগুলি পরীক্ষা করব।

পার্থক্য ঘ

আসুন পার্থক্যটি প্রসারিত করা যাক:

একটি ম্যাট্রিক্স বা ভেক্টরের ডেরিভেটিভ নির্ধারণ করার জন্য, আপনাকে তাদের ভিতরে কী আছে তা দেখতে হবে। চলুন দেখা যাক:

ম্যাট্রিক্সের গুণফল বোঝাই ম্যাট্রিক্সের মাধ্যমে . ম্যাট্রিক্স বর্গক্ষেত্র এবং অধিকন্তু, এটি প্রতিসম। এই বৈশিষ্ট্যগুলি পরে আমাদের কাজে লাগবে, আসুন সেগুলি মনে রাখি। ম্যাট্রিক্স মাত্রা আছে :

এখন আমাদের কাজ হ'ল ম্যাট্রিক্স দ্বারা ভেক্টরগুলিকে সঠিকভাবে গুণ করা এবং "দুইবার দুইটি পাঁচ" না পাওয়া, তাই আসুন মনোনিবেশ করি এবং অত্যন্ত সতর্কতা অবলম্বন করি।

তবে, আমরা একটি জটিল অভিব্যক্তি অর্জন করেছি! আসলে, আমরা একটি সংখ্যা পেয়েছি - একটি স্কেলার। এবং এখন, বাস্তবে, আমরা পার্থক্যের দিকে এগিয়ে যাই। প্রতিটি সহগের জন্য ফলাফল প্রকাশের ডেরিভেটিভ খুঁজে বের করা প্রয়োজন এবং আউটপুট হিসাবে মাত্রা ভেক্টর পান . শুধু ক্ষেত্রে, আমি কর্ম দ্বারা পদ্ধতিগুলি লিখব:

1) দ্বারা পার্থক্য , আমরা পেতে:

2) দ্বারা পার্থক্য , আমরা পেতে:

3) দ্বারা পার্থক্য , আমরা পেতে:

আউটপুট আকারের প্রতিশ্রুত ভেক্টর :

আপনি যদি ভেক্টরটিকে আরও ঘনিষ্ঠভাবে দেখেন তবে আপনি লক্ষ্য করবেন যে ভেক্টরের বাম এবং সংশ্লিষ্ট ডান উপাদানগুলিকে এমনভাবে গোষ্ঠীভুক্ত করা যেতে পারে যে ফলস্বরূপ, একটি ভেক্টর উপস্থাপিত ভেক্টর থেকে বিচ্ছিন্ন হতে পারে। আয়তন । উদাহরণস্বরূপ (ভেক্টরের উপরের লাইনের বাম উপাদান) (ভেক্টরের উপরের লাইনের ডান উপাদান) হিসাবে উপস্থাপন করা যেতে পারে এবং - হিসাবে ইত্যাদি প্রতিটি লাইনে। আসুন গ্রুপ করি:

ভেক্টর বের করা যাক এবং আউটপুটে আমরা পাই:

এখন, আসুন ফলাফলের ম্যাট্রিক্সটি ঘনিষ্ঠভাবে দেখি। ম্যাট্রিক্স হল দুটি ম্যাট্রিসের সমষ্টি :

আসুন আমরা মনে করি যে একটু আগে আমরা ম্যাট্রিক্সের একটি গুরুত্বপূর্ণ বৈশিষ্ট্য উল্লেখ করেছি - এটা প্রতিসম। এই সম্পত্তির উপর ভিত্তি করে, আমরা আত্মবিশ্বাসের সাথে বলতে পারি যে অভিব্যক্তি সমান . উপাদান দ্বারা ম্যাট্রিক্স উপাদানের গুণফলকে প্রসারিত করে এটি সহজেই যাচাই করা যেতে পারে . আমরা এখানে এটি করব না; যারা আগ্রহী তারা নিজেরাই এটি পরীক্ষা করতে পারেন।

আসুন আমাদের অভিব্যক্তিতে ফিরে আসি। আমাদের রূপান্তরের পরে, আমরা যেভাবে এটি দেখতে চেয়েছিলাম তা পরিণত হয়েছে:

সুতরাং, আমরা প্রথম পার্থক্য সম্পন্ন করেছি। আসুন দ্বিতীয় অভিব্যক্তিতে এগিয়ে যাই।

পার্থক্য ঘ

আসুন পিটানো পথ অনুসরণ করি। এটি আগেরটির চেয়ে অনেক ছোট হবে, তাই পর্দা থেকে খুব বেশি দূরে যাবেন না।

আসুন উপাদান দ্বারা ভেক্টর এবং ম্যাট্রিক্স উপাদান প্রসারিত করা যাক:

আসুন কিছু সময়ের জন্য গণনা থেকে দুটিকে সরিয়ে ফেলি - এটি একটি বড় ভূমিকা পালন করে না, তারপর আমরা এটিকে তার জায়গায় ফিরিয়ে দেব। ম্যাট্রিক্স দিয়ে ভেক্টরকে গুন করি। প্রথমত, ম্যাট্রিক্সকে গুন করা যাক ভেক্টরের কাছে , আমাদের এখানে কোন নিষেধাজ্ঞা নেই। আমরা আকার ভেক্টর পেতে :

আসুন নিম্নলিখিত ক্রিয়াটি সম্পাদন করি - ভেক্টরকে গুণ করুন ফলে ভেক্টরের কাছে। প্রস্থানের সময় নম্বরটি আমাদের জন্য অপেক্ষা করবে:

তারপরে আমরা এটি আলাদা করব। আউটপুটে আমরা মাত্রার একটি ভেক্টর পাই :

আমাকে কিছু মনে করিয়ে দেয়? সেটা ঠিক! এটি ম্যাট্রিক্সের গুণফল ভেক্টরের কাছে .

এইভাবে, দ্বিতীয় পার্থক্যটি সফলভাবে সম্পন্ন হয়েছে।

পরিবর্তে একটি উপসংহারের

এখন আমরা জানি কিভাবে সমতা এলো .

অবশেষে, আমরা মৌলিক সূত্রগুলিকে রূপান্তর করার একটি দ্রুত উপায় বর্ণনা করব।

আসুন ন্যূনতম স্কোয়ার পদ্ধতি অনুসারে মডেলের গুণমানের মূল্যায়ন করি:

আসুন ফলিত অভিব্যক্তিটি আলাদা করি:

সাহিত্য

ইন্টারনেট সূত্র:

1) habr.com/en/post/278513
2) habr.com/ru/company/ods/blog/322076
3) habr.com/en/post/307004
4) nabatchikov.com/blog/view/matrix_der

পাঠ্যপুস্তক, সমস্যার সংগ্রহ:

1) উচ্চতর গণিতের উপর বক্তৃতা নোট: সম্পূর্ণ কোর্স / D.T. লিখিত – ৪র্থ সংস্করণ। – এম.: আইরিস-প্রেস, 4
2) ফলিত রিগ্রেশন বিশ্লেষণ / N. Draper, G. Smith - 2nd ed. – M.: Finance and Statistics, 1986 (ইংরেজি থেকে অনুবাদ)
3) ম্যাট্রিক্স সমীকরণ সমাধানের সমস্যা:
function-x.ru/matrix_equations.html
mathprofi.ru/deistviya_s_matricami.html

উত্স: www.habr.com