ProHoster > Blog > warta internét > Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Tujuan tina artikel nyaéta pikeun nyayogikeun pangrojong pikeun élmuwan data awal. DI artikel saméméhna Kami geus digariskeun tilu cara pikeun ngajawab persamaan régrési linier: solusi analitik, turunan gradién, turunan gradién stokastik. Lajeng pikeun solusi analitik kami nerapkeun rumus Urang mawa persamaan régrési linier kana wangun matriks. Dina artikel ieu, sakumaha judulna nunjukkeun, urang bakal menerkeun pamakéan rumus ieu atawa, dina basa sejen, urang bakal diturunkeun sorangan.

Naha asup akal pikeun nengetan tambahan kana rumus Urang mawa persamaan régrési linier kana wangun matriks?

Kalayan persamaan matriks, dina kalolobaan kasus, anjeun mimiti kenal sareng régrési linier. Dina waktu nu sarua, itungan lengkep ngeunaan kumaha rumus ieu diturunkeun jarang.

Contona, dina kursus machine learning ti Yandex, nalika siswa diwanohkeun kana regularization, aranjeunna ditawarkeun ngagunakeun fungsi ti perpustakaan. sklearn, Bari teu kecap disebutkeun ngeunaan ngagambarkeun matrix tina algoritma. Dina momen ieu sababaraha listeners meureun hoyong ngartos masalah ieu dina leuwih jéntré - nulis kode tanpa ngagunakeun fungsi siap-dijieun. Sareng pikeun ngalakukeun ieu, anjeun kedah nampilkeun persamaan sareng regularizer dina bentuk matriks. Artikel ieu bakal ngidinan jalma anu hayang ngawasaan kaahlian sapertos. Hayu urang ngamimitian.

Kaayaan awal

Indikator sasaran

Urang boga sauntuyan nilai target. Salaku conto, indikator target tiasa janten harga aset naon waé: minyak, emas, gandum, dolar, jsb. Dina waktos anu sami, ku sababaraha nilai indikator target kami hartosna jumlah observasi. observasi misalna bisa jadi, contona, harga minyak bulanan keur sataun, nyaeta, urang bakal boga 12 nilai target. Hayu urang mimitian ngawanohkeun notasi. Hayu urang denote unggal nilai indikator target salaku Urang mawa persamaan régrési linier kana wangun matriks. Dina total kami boga Urang mawa persamaan régrési linier kana wangun matriks observasi, nu hartina urang bisa ngagambarkeun observasi urang salaku Urang mawa persamaan régrési linier kana wangun matriks.

Regressors

Urang bakal nganggap yén aya faktor anu ka extent tangtu ngajelaskeun nilai indikator target. Contona, kurs dollar / ruble kuat dipangaruhan ku harga minyak, laju Reserve Federal, jsb faktor sapertos disebut regressors. Dina waktos anu sami, unggal nilai indikator target kedah pakait sareng nilai regressor, nyaéta, upami urang gaduh 12 indikator target unggal bulan di 2018, maka urang ogé kedah gaduh 12 nilai regressor pikeun période anu sami. Hayu urang nunjukkeun nilai unggal regressor ku Urang mawa persamaan régrési linier kana wangun matriks. Hayu bisi urang aya Urang mawa persamaan régrési linier kana wangun matriks regressors (ie. Urang mawa persamaan régrési linier kana wangun matriks faktor anu mangaruhan kana nilai indikator udagan). Ieu ngandung harti regressors urang bisa dibere kieu: pikeun regressor 1st (contona, harga minyak): Urang mawa persamaan régrési linier kana wangun matriks, pikeun regressor 2nd (contona, laju Fed): Urang mawa persamaan régrési linier kana wangun matriks, Pikeun"Urang mawa persamaan régrési linier kana wangun matriks-th" regressor: Urang mawa persamaan régrési linier kana wangun matriks

Gumantungna indikator target on regressors

Hayu urang nganggap yén gumantungna indikator target Urang mawa persamaan régrési linier kana wangun matriks ti regressors"Urang mawa persamaan régrési linier kana wangun matriksth" observasi bisa ditembongkeun ngaliwatan persamaan régrési linier tina wangun:

Urang mawa persamaan régrési linier kana wangun matriks

dimana Urang mawa persamaan régrési linier kana wangun matriks - "Urang mawa persamaan régrési linier kana wangun matriks-th" nilai regressor ti 1 nepi ka Urang mawa persamaan régrési linier kana wangun matriks,

Urang mawa persamaan régrési linier kana wangun matriks - Jumlah regressors ti 1 ka Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks - koefisien sudut, nu ngagambarkeun jumlah ku nu indikator target diitung bakal robah rata-rata nalika regressor robah.

Dina basa sejen, urang keur dulur (iwal Urang mawa persamaan régrési linier kana wangun matriks) tina regressor urang nangtukeun koefisien "urang". Urang mawa persamaan régrési linier kana wangun matriks, teras kalikeun koefisien ku nilai regressors "Urang mawa persamaan régrési linier kana wangun matriksth" observasi, salaku hasilna urang meunangkeun perkiraan tangtu "Urang mawa persamaan régrési linier kana wangun matriks-th" indikator target.

Ku alatan éta, urang kudu milih koefisien misalna Urang mawa persamaan régrési linier kana wangun matriks, dimana nilai tina fungsi perkiraan urang Urang mawa persamaan régrési linier kana wangun matriks bakal lokasina sacaket mungkin ka nilai indikator target.

Assessing kualitas fungsi approximating

Urang bakal nangtukeun assessment kualitas tina fungsi approximating ngagunakeun métode kuadrat sahenteuna. Fungsi penilaian kualitas dina hal ieu bakal nyandak bentuk ieu:

Urang mawa persamaan régrési linier kana wangun matriks

Urang kedah milih nilai sapertos koefisien $w$ anu nilaina Urang mawa persamaan régrési linier kana wangun matriks bakal pangleutikna.

Ngarobah persamaan kana wangun matriks

Répréséntasi vektor

Pikeun dimimitian ku, sangkan hirup anjeun leuwih gampang, Anjeun kudu nengetan persamaan régrési linier sarta perhatikeun yén koefisien munggaran Urang mawa persamaan régrési linier kana wangun matriks teu dikali regressor wae. Dina waktos anu sami, nalika urang ngarobih data kana bentuk matriks, kaayaan anu disebatkeun di luhur bakal ngahesekeun itungan. Dina hal ieu, eta diusulkeun pikeun ngawanohkeun regressor sejen pikeun koefisien munggaran Urang mawa persamaan régrési linier kana wangun matriks jeung equate eta hiji. Atanapi langkungna, unggal"Urang mawa persamaan régrési linier kana wangun matriksequate nilai th regressor ieu hiji - sanggeus kabeh, nalika dikali hiji, euweuh bakal robah tina sudut pandang tina hasil itungan, tapi tina sudut pandang aturan pikeun produk matrices, siksaan urang. bakal nyata ngurangan.

Ayeuna, pikeun momen, pikeun nyederhanakeun bahan, hayu urang nganggap yén urang ngan ukur gaduh hiji "Urang mawa persamaan régrési linier kana wangun matriks-th" observasi. Lajeng, bayangkeun nilai-nilai regressors "Urang mawa persamaan régrési linier kana wangun matriks-th" observasi salaku véktor Urang mawa persamaan régrési linier kana wangun matriks. Véktor Urang mawa persamaan régrési linier kana wangun matriks boga dimensi Urang mawa persamaan régrési linier kana wangun matriks, Nyaeta Urang mawa persamaan régrési linier kana wangun matriks baris jeung 1 kolom:

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang ngagambarkeun koefisien diperlukeun salaku vektor Urang mawa persamaan régrési linier kana wangun matriks, ngabogaan dimensi Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Persamaan régrési linier pikeun "Urang mawa persamaan régrési linier kana wangun matriks-th" observasi bakal nyandak bentuk:

Urang mawa persamaan régrési linier kana wangun matriks

Fungsi pikeun meunteun kualitas model linier bakal nyandak bentuk:

Urang mawa persamaan régrési linier kana wangun matriks

Perhatikeun yén luyu jeung aturan multiplication matrix, urang diperlukeun pikeun transpose vektor Urang mawa persamaan régrési linier kana wangun matriks.

Répréséntasi matriks

Salaku hasil tina ngalikeun vektor, urang meunang angka: Urang mawa persamaan régrési linier kana wangun matriks, anu dipiharep. Angka ieu mangrupikeun perkiraan "Urang mawa persamaan régrési linier kana wangun matriks-th" indikator target. Tapi urang peryogi perkiraan henteu ngan ukur hiji nilai target, tapi sadayana. Jang ngalampahkeun ieu, hayu urang nyerat sadayana "Urang mawa persamaan régrési linier kana wangun matriks"th" regressors dina format matrix Urang mawa persamaan régrési linier kana wangun matriks. Matriks anu dihasilkeun gaduh diménsi Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Ayeuna persamaan régrési linier bakal nyandak bentuk:

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang nunjukkeun nilai indikator target (sadayana Urang mawa persamaan régrési linier kana wangun matriks) per vektor Urang mawa persamaan régrési linier kana wangun matriks dimensi Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Ayeuna urang tiasa nyerat persamaan pikeun meunteun kualitas model linier dina format matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Sabenerna, tina rumus ieu urang salajengna meunangkeun rumus dipikawanoh ku urang Urang mawa persamaan régrési linier kana wangun matriks

Kumaha eta rengse? Kurung dibuka, diferensiasi dilaksanakeun, éksprési anu hasilna dirobih, sareng sajabana, sareng ieu anu bakal urang laksanakeun ayeuna.

Transformasi matrix

Hayu urang buka kurung

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang nyiapkeun persamaan pikeun diferensiasi

Jang ngalampahkeun ieu, urang bakal ngalakukeun sababaraha transformasi. Dina itungan saterusna bakal leuwih merenah pikeun urang lamun vektor Urang mawa persamaan régrési linier kana wangun matriks bakal digambarkeun dina awal unggal produk dina persamaan.

Konversi 1

Urang mawa persamaan régrési linier kana wangun matriks

Kumaha éta kajantenanna? Pikeun ngajawab patarosan ieu, tingali ukuran matriks anu dikalikeun sareng tingali yén dina kaluaran urang nampi nomer atanapi sanés. Urang mawa persamaan régrési linier kana wangun matriks.

Hayu urang tuliskeun ukuran ekspresi matriks.

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Konversi 2

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang nyerat dina cara anu sami sareng transformasi 1

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Dina kaluaran kami nampi persamaan anu urang kedah ngabédakeun:
Urang mawa persamaan régrési linier kana wangun matriks

Urang ngabedakeun fungsi assessment kualitas modél

Hayu urang ngabedakeun ngeunaan vektor Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Patarosan naha Urang mawa persamaan régrési linier kana wangun matriks teu kudu aya, tapi urang bakal nalungtik operasi pikeun nangtukeun turunan dina dua ekspresi sejenna dina leuwih jéntré.

Diferensiasi 1

Hayu urang ngalegaan diferensiasi: Urang mawa persamaan régrési linier kana wangun matriks

Pikeun nangtukeun turunan matriks atanapi vektor, anjeun kedah ningali naon anu aya di jerona. Hayu urang tingali:

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang nunjukkeun produk tina matriks Urang mawa persamaan régrési linier kana wangun matriks ngaliwatan matriks Urang mawa persamaan régrési linier kana wangun matriks. Matriks Urang mawa persamaan régrési linier kana wangun matriks pasagi jeung komo deui, éta simetris. Sipat ieu bakal mangpaat pikeun urang engké, hayu urang apal aranjeunna. Matriks Urang mawa persamaan régrési linier kana wangun matriks boga dimensi Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Ayeuna tugas urang leres-leres kalikeun vektor ku matriks sareng henteu kéngingkeun "dua kali dua nyaéta lima," janten hayu urang konsentrasi sareng ati-ati pisan.

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Nanging, kami parantos ngahontal ekspresi anu rumit! Nyatana, urang ngagaduhan nomer - skalar. Sareng ayeuna, nyata, urang teraskeun kana diferensiasi. Ieu diperlukeun pikeun manggihan turunan tina éksprési anu dihasilkeun pikeun tiap koefisien Urang mawa persamaan régrési linier kana wangun matriks sareng kéngingkeun véktor dimensi salaku kaluaran Urang mawa persamaan régrési linier kana wangun matriks. Bisi wae, kuring bakal nyerat prosedur ku tindakan:

1) ngabedakeun ku Urang mawa persamaan régrési linier kana wangun matriks, urang meunang: Urang mawa persamaan régrési linier kana wangun matriks

2) ngabedakeun ku Urang mawa persamaan régrési linier kana wangun matriks, urang meunang: Urang mawa persamaan régrési linier kana wangun matriks

3) ngabedakeun ku Urang mawa persamaan régrési linier kana wangun matriks, urang meunang: Urang mawa persamaan régrési linier kana wangun matriks

Kaluaran mangrupikeun vektor ukuran anu dijanjikeun Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Upami anjeun ningali vektor langkung caket, anjeun bakal perhatikeun yén elemen kénca sareng katuhu katuhu tina vektor tiasa dikelompokkeun ku cara anu, salaku hasilna, véktor tiasa diisolasi tina vektor anu dibere. Urang mawa persamaan régrési linier kana wangun matriks ukuran na Urang mawa persamaan régrési linier kana wangun matriks. Salaku conto Urang mawa persamaan régrési linier kana wangun matriks (elemen kénca garis luhur vektor) Urang mawa persamaan régrési linier kana wangun matriks (unsur katuhu garis luhur vektor nu) bisa digambarkeun salaku Urang mawa persamaan régrési linier kana wangun matriksjeung Urang mawa persamaan régrési linier kana wangun matriks - sakumaha Urang mawa persamaan régrési linier kana wangun matriks jsb. dina unggal baris. Hayu urang grup:

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang kaluar vektor Urang mawa persamaan régrési linier kana wangun matriks sareng dina kaluaran kami nampi:

Urang mawa persamaan régrési linier kana wangun matriks

Ayeuna, hayu urang ningal langkung caket kana matriks anu hasilna. Matriks nyaéta jumlah dua matriks Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang ngelingan yén saeutik saméméhna urang nyatet hiji sipat penting matrix Urang mawa persamaan régrési linier kana wangun matriks - éta simetris. Dumasar sipat ieu, urang confidently bisa disebutkeun yen ekspresi Urang mawa persamaan régrési linier kana wangun matriks sarua Urang mawa persamaan régrési linier kana wangun matriks. Ieu tiasa gampang diverifikasi ku cara ngalegaan produk matriks unsur demi unsur Urang mawa persamaan régrési linier kana wangun matriks. Kami moal ngalakukeun ieu di dieu; anu kabetot tiasa mariksa nyalira.

Hayu urang balik deui ka ekspresi urang. Saatos transformasi urang, tétéla cara urang hayang ningali eta:

Urang mawa persamaan régrési linier kana wangun matriks

Ku kituna, urang geus réngsé diferensiasi munggaran. Hayu urang ngaléngkah ka ekspresi kadua.

Diferensiasi 2

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang tuturkeun jalan keok. Éta bakal langkung pondok tibatan anu sateuacana, janten tong jauh teuing tina layar.

Hayu urang ngalegaan vektor sareng unsur matriks ku unsur:

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang miceun dua tina itungan sakedap - éta henteu maénkeun peran anu ageung, teras urang nempatkeun deui dina tempatna. Hayu urang kalikeun vektor ku matriks. Anu mimiti, hayu urang kalikeun matrix Urang mawa persamaan régrési linier kana wangun matriks pikeun vektor Urang mawa persamaan régrési linier kana wangun matriks, urang teu boga larangan di dieu. Simkuring meunang ukuran vektor Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang ngalakukeun tindakan di handap ieu - kalikeun vektor Urang mawa persamaan régrési linier kana wangun matriks kana véktor anu dihasilkeun. Di jalan kaluar nomerna bakal ngantosan urang:

Urang mawa persamaan régrési linier kana wangun matriks

Teras urang ngabedakeunana. Dina kaluaran kami nampi vektor dimensi Urang mawa persamaan régrési linier kana wangun matriks:

Urang mawa persamaan régrési linier kana wangun matriks

Ngingetkeun kuring ngeunaan hiji hal? Éta leres! Ieu produk tina matriks Urang mawa persamaan régrési linier kana wangun matriks pikeun vektor Urang mawa persamaan régrési linier kana wangun matriks.

Ku kituna, diferensiasi kadua hasil réngsé.

Gantina kacindekan

Ayeuna urang terang kumaha sasaruaan sumping Urang mawa persamaan régrési linier kana wangun matriks.

Tungtungna, urang bakal ngajelaskeun cara gancang transformasi rumus dasar.

Hayu urang evaluate kualitas model luyu jeung métode kuadrat sahenteuna:
Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

Hayu urang ngabedakeun ekspresi hasilna:
Urang mawa persamaan régrési linier kana wangun matriks Urang mawa persamaan régrési linier kana wangun matriks

Urang mawa persamaan régrési linier kana wangun matriks

pustaka

Sumber Internét:

1) habr.com/en/post/278513
2) habr.com/ru/company/ods/blog/322076
3) habr.com/en/post/307004
4) nabatchikov.com/blog/view/matrix_der

Buku ajar, kumpulan masalah:

1) Catetan kuliah ngeunaan matematika luhur: kursus lengkep / D.T. Ditulis - édisi ka-4. – M.: Iris-press, 2006
2) Analisis régrési dilarapkeun / N. Draper, G. Smith - 2nd ed. - M .: Keuangan sareng statistik, 1986 (ditarjamahkeun tina basa Inggris)
3) Masalah pikeun ngungkulan persamaan matriks:
function-x.ru/matrix_equations.html
mathprofi.ru/deistviya_s_matricami.html

sumber: www.habr.com

Tambahkeun komentar