Мақсади мақола расонидани дастгирӣ ба олимони ибтидоии маълумот мебошад. ДАР Мо се роҳи ҳалли муодилаи регрессияи хатиро нишон додем: ҳалли таҳлилӣ, градиенти градиентӣ, пастшавии градиенти стохастикӣ. Сипас барои ҳалли таҳлилӣ мо формуларо татбиқ кардем . Дар ин мақола, тавре ки аз унвон бармеояд, мо истифодаи ин формуларо асоснок мекунем ё ба ибораи дигар, худамон онро ба даст меорем.
Чаро ба формула диққати бештар додан маъно дорад ?
Маҳз бо муодилаи матритсавӣ дар аксари мавридҳо кас шинос шуданро бо регрессияи хатӣ оғоз мекунад. Дар баробари ин, ҳисобҳои муфассали чӣ гуна ба даст омадани формула хеле каманд.
Масалан, дар курсҳои омӯзиши мошинсозӣ аз Яндекс, вақте ки донишҷӯён бо регулятсия шинос мешаванд, ба онҳо пешниҳод карда мешавад, ки функсияҳои китобхонаро истифода баранд. склерн, дар ҳоле ки дар бораи муаррифии матритсаи алгоритм ягон калима зикр нашудааст. Маҳз дар айни замон баъзе шунавандагон мехоҳанд ин масъаларо муфассалтар фаҳманд - бе истифодаи функсияҳои тайёр код нависед. Ва барои ин, шумо бояд аввал муодиларо бо регуляризатор дар шакли матритса пешниҳод кунед. Ин мақола ба онҳое, ки мехоҳанд чунин малакаҳоро азхуд кунанд, имкон медиҳад. Биёед оғоз кунем.
Шароити ибтидоӣ
Нишондиҳандаҳои мақсаднок
Мо як қатор арзишҳои мақсаднок дорем. Масалан, нишондиҳандаи мақсаднок метавонад нархи ҳама гуна дороиҳо бошад: нафт, тилло, гандум, доллар ва ғайра. Дар баробари ин, бо як қатор арзишҳои нишондиҳандаҳои мақсаднок, мо шумораи мушоҳидаҳоро дар назар дорем. Чунин мушоҳидаҳо метавонанд, масалан, нархи моҳонаи нафт дар давоми сол бошад, яъне мо 12 арзиши мақсаднок хоҳем дошт. Биёед ба муаррифии нота оғоз кунем. Биёед ҳар як арзиши нишондиҳандаи мақсаднокро ҳамчун нишон диҳем . Дар маҷмӯъ мо дорем мушоҳидаҳо, яъне мо метавонем мушоҳидаҳои худро ҳамчун .
Регрессорҳо
Мо тахмин мезанем, ки омилҳое ҳастанд, ки то андозае арзишҳои нишондиҳандаи мақсаднокро шарҳ медиҳанд. Масалан, ба қурби доллар/рубл ба нархи нафт, қурби захираи федералӣ ва ғайра таъсири сахт мерасонад. Чунин омилҳоро регрессорҳо меноманд. Дар баробари ин, ҳар як нишондиҳандаи мақсаднок бояд ба арзиши регрессор мувофиқат кунад, яъне агар мо барои ҳар моҳ дар соли 12 2018 нишондиҳандаи мақсаднок дошта бошем, пас дар ҳамин давра низ бояд 12 нишондиҳандаи регрессор дошта бошем. Биёед арзишҳои ҳар як регрессорро бо нишон диҳем . Бигзор дар ҳолати мо бошад регрессорҳо (яъне. омилҳое, ки ба арзишҳои нишондиҳандаи мақсаднок таъсир мерасонанд). Ин маънои онро дорад, ки регрессорҳои моро ба таври зерин муаррифӣ кардан мумкин аст: барои регрессори 1 (масалан, нархи нафт): , барои регресси дуюм (масалан, меъёри ФР): , Барои "-ум" регрессор:
Вобастагии нишондиҳандаҳои мақсаднок аз регрессҳо
Фарз мекунем, ки вобастагии нишондиҳандаи мақсаднок аз регрессорҳо"th" мушоҳидаро тавассути муодилаи регрессияи хаттии шакл ифода кардан мумкин аст:
ки дар - "-ум" арзиши регрессор аз 1 то ,
- шумораи регрессорҳо аз 1 то
— коэффициентхои кунчй, ки микдореро ифода мекунанд, ки хангоми тагйир ёфтани регрессор нишондихандаи максаднок ба хисоби миёна тагйир меёбад.
Ба ибораи дигар, мо барои ҳама ҳастем (ба истиснои ) аз регрессор коэффисиенти «мо»-ро муайян мекунем , пас коэффисиентҳоро ба арзишҳои регрессорҳо зарб кунед "уми "мушоҳида, дар натиҷа мо тахмини муайян ба даст меорем"-ум" нишондиҳандаи мақсаднок.
Бинобар ин мо бояд чунин коэффициентхоро интихоб кунем , ки дар он арзишҳои функсияи наздикшавии мо ба қадри имкон наздик ба арзишҳои нишондиҳандаи мақсаднок ҷойгир карда мешаванд.
Арзёбии сифати функсияи наздикшавӣ
Мо баҳодиҳии сифати функсияи наздикшавиро бо усули квадратҳои хурдтарин муайян мекунем. Функсияи арзёбии сифат дар ин ҳолат шакли зеринро мегирад:
Мо бояд чунин арзишҳои коэффисиентҳои $w$-ро интихоб кунем, ки барои онҳо арзиш аст хурдтарин мешавад.
Табдил додани муодила ба шакли матритса
Намоиши векторӣ
Барои оғоз кардан, барои осон кардани ҳаёти шумо, шумо бояд ба муодилаи регрессияи хатӣ диққат диҳед ва аҳамият диҳед, ки коэффисиенти аввал бо ягон регрессор зиёд карда намешавад. Дар баробари ин, вақте ки мо маълумотро ба шакли матритса табдил медиҳем, ҳолатҳои дар боло зикршуда ҳисобҳоро хеле душвор мегардонанд. Ба ин муносибат таклиф карда мешавад, ки барои коэффициенти якум боз як регрессор чорй карда шавад ва онро ба як баробар кунед. Дурусттараш ҳар »арзиши уми ин регрессорро ба як баробар кунед - охир, ҳангоми ба як зарб задан, аз нуқтаи назари натиҷаи ҳисобҳо ҳеҷ чиз тағир намеёбад, балки аз нуқтаи назари қоидаҳои ҳосили матритсаҳо, азоби мо хеле кам мешавад.
Ҳоло, барои содда кардани мавод, биёед фарз кунем, ки мо танҳо як дорем "-ум" мушоҳида. Пас, арзишҳои регрессорҳоро тасаввур кунед "-ум» мушохидахо хамчун вектор . Вектор андоза дорад , ки ин аст сатр ва 1 сутун:
Коэффициентхои заруриро хамчун вектор нишон дихем , дорои андоза :
Муодилаи регрессияи хатӣ барои "-ум» мушоҳида чунин шакл мегирад:
Функсияи арзёбии сифати модели хатӣ чунин шакл мегирад:
Лутфан қайд кунед, ки мувофиқи қоидаҳои зарбкунии матритса ба мо лозим омад, ки векторро иваз кунем .
Намояндагии матритса
Дар натиҷаи зарбкунии векторҳо, мо ададро мегирем: , ки бояд интизор шавад. Ин рақам тахминист "-ум" нишондиҳандаи мақсаднок. Аммо ба мо лозим аст, ки на танҳо як арзиши мақсаднок, балки ҳамаи онҳоро тахмин кунем. Барои ин, биёед ҳама чизро нависед "-ум" регрессорҳо дар формати матритса . Матритсаи натиҷавӣ андоза дорад :
Акнун муодилаи регрессияи хатӣ чунин шакл мегирад:
Биёед арзишҳои нишондиҳандаҳои мақсаднокро (ҳама ) барои як вектор андоза :
Акнун мо метавонем муодилаи арзёбии сифати модели хатиро дар формати матритса нависем:
Воқеан, аз ин формула мо минбаъд формулаи ба мо маълумро ба даст меорем
Чӣ тавр анҷом дода мешавад? Қавсҳо кушода мешаванд, фарқият гузаронида мешавад, ифодаҳои натиҷавӣ табдил дода мешаванд ва ғайра ва мо ҳоло маҳз ҳамин тавр мекунем.
Табдилдиҳии матритсаҳо
Биёед қавсҳоро кушоем
Биёед барои дифференсиатсия муодила омода кунем
Барои ин мо баъзе дигаргунсозиҳоро анҷом медиҳем. Дар ҳисобҳои минбаъда барои мо қулайтар хоҳад буд, агар вектор дар аввали ҳар як маҳсулот дар муодила муаррифӣ карда мешавад.
Табдил 1
Ин чӣ гуна рӯй дод? Барои ҷавоб додан ба ин савол, танҳо ба андозаи матритсаҳои зарбшуда нигоҳ кунед ва бубинед, ки дар натиҷа мо рақам ё ба таври дигар мегирем. .
Биёед андозаи ифодаҳои матритсаро нависед.
Табдил 2
Биёед онро ба таври шабеҳ ба табдили 1 нависед
Дар натиҷа мо муодилаеро ба даст меорем, ки онро бояд фарқ кунем:
Мо функсияи баҳодиҳии сифатро фарқ мекунем
Биёед аз рӯи вектор фарқ кунем :
Саволҳое, ки чаро набояд бошад, аммо мо амалиёти муайянкунии ҳосилаҳоро дар ду ифодаи дигар муфассалтар баррасӣ хоҳем кард.
Фарқият 1
Биёед фарқиятро васеъ кунем:
Барои муайян кардани ҳосилаи матритса ё вектор, шумо бояд ба он чизе, ки дар дохили онҳо мавҷуд аст, назар кунед. Биёед бубинем:
Хосили матрицахоро нишон дихем тавассути матритса . Матритса мураббаъ ва зиёда аз он, симметрӣ аст. Ин хосиятҳо баъдтар барои мо муфид хоҳанд буд, биёед онҳоро дар хотир нигоҳ дорем. Матритса андоза дорад :
Ҳоло вазифаи мо ин аст, ки векторҳоро ба матритса дуруст зарб кунем ва “ду маротиба ду панҷ аст” нагирем, аз ин рӯ биёед тамаркуз кунем ва хеле эҳтиёткор бошем.
Бо вуҷуди ин, мо ба ифодаи мураккаб ноил шудем! Дар хакикат мо ракам — скаляр гирифтем. Ва ҳоло, воқеан, мо ба фарқият мегузарем. Барои ҳар як коэффитсиент ҳосилаи ифодаи ҳосилшударо ёфтан лозим аст ва вектори андозаро ҳамчун баромад ба даст оред . Дар ҳар сурат, ман расмиёти амалро менависам:
1) аз рӯи фарқ кардан , мо мегирем:
2) аз рӯи фарқ кардан , мо мегирем:
3) аз рӯи фарқ кардан , мо мегирем:
Натиҷа вектори ваъдашудаи андоза аст :
Агар шумо ба вектор муфассалтар назар андозед, шумо мебинед, ки унсурҳои чап ва рости векторро тавре гурӯҳбандӣ кардан мумкин аст, ки дар натиҷа векторро аз вектори пешниҳодшуда ҷудо кардан мумкин аст. андоза . Масалан, (унсури чапи хати болоии вектор) (элементи рости хати болои вектор) метавонад ҳамчун ифода карда шавад ва - ҳамчун ва ғайра. дар ҳар як сатр. Биёед гурӯҳбандӣ кунем:
Биёед векторро хориҷ кунем ва дар натиҷа мо ба даст меорем:
Акнун, биёед ба матритсаи натиҷавӣ бодиққат назар кунем. Матритса ҷамъи ду матритса аст :
Ёдовар мешавем, ки каме пештар мо як хусусияти муҳими матритсаро қайд карда будем - он симметрӣ аст. Дар асоси ин амвол мо бо боварии том гуфта метавонем, ки ифода баробар аст . Инро тавассути васеъ кардани ҳосили элементи матритсаҳо ба элемент ба осонӣ тафтиш кардан мумкин аст . Мо инро дар ин ҷо иҷро намекунем; хоҳишмандон метавонанд онро худашон тафтиш кунанд.
Биёед ба ифодаи худ баргардем. Пас аз тағироти мо, он тавре шуд, ки мо онро дидан мехостем:
Инак, мо дифференциацияи якумро анчом додем. Биёед ба ифодаи дуюм гузарем.
Фарқият 2
Биёед, бо роҳи латукӯб равем. Он нисбат ба пештара хеле кӯтоҳтар хоҳад буд, бинобар ин аз экран дур нашавед.
Биёед векторҳо ва элементи матритсаро аз рӯи элемент васеъ кунем:
Биёед, ин дуро як муддат аз ҳисоб хориҷ кунем - он нақши калон надорад, пас мо онро ба ҷои худ мегузорем. Биёед векторҳоро ба матритса зарб кунем. Пеш аз ҳама, биёед матритсаро зарб кунем ба вектор , мо дар ин ҷо ягон маҳдудият надорем. Мо вектори андозаро мегирем :
Биёед амали зеринро иҷро кунем - векторро зарб кунед ба вектори натиҷа. Дар баромадгоҳ ин рақам моро интизор мешавад:
Он гоҳ мо онро фарқ мекунем. Дар баромад мо вектори андоза мегирем :
Ба ман чизе ба хотир меорад? Ин дуруст аст! Ин маҳсули матритса аст ба вектор .
Хамин тавр, дифференциацияи дуйум бомуваффакият анчом меёбад.
Ба ҷои хулоса
Акнун мо медонем, ки баробарӣ чӣ гуна ба вуҷуд омадааст .
Дар охир, мо роҳи зуд табдил додани формулаҳои асосиро тавсиф хоҳем кард.
Биёед сифати моделро мувофиқи усули квадратҳои хурдтарин арзёбӣ кунем:
Биёед ифодаи натиҷаро фарқ кунем:
Эълон
Сарчашмаҳои интернетӣ:
1)
2)
3)
4)
Китобҳои дарсӣ, маҷмӯаҳои мушкилот:
1) Шарҳи лексияҳо аз фанни математикаи олӣ: курси пурра / Д.Т. Навишта шудааст - нашри 4. – М.: Айрис-пресс, 2006
2) Таҳлили регрессионии амалӣ / Н. Дрейпер, Г. Смит - нашри 2. – М.: Молия ва омор, 1986 (тарҷума аз англисӣ)
3) Масъалаҳои ҳалли муодилаҳои матритсавӣ:
Манбаъ: will.com