Maqaalkan, waxaan ku falanqeyn doonaa xisaabinta aragtida isbeddelka hawlaha dib u celinta toosan Π² Shaqada beddelka saadka ee rogan (haddii kale loo yaqaan shaqada jawaabta saadka). Kadibna, isticmaal arsenal habka ugu badan ee suurtogalka ah, iyada oo la raacayo qaabka dib-u-celinta saadka, waxaanu ka soo saareynaa shaqada luminta Khasaaraha Lojistikada, ama si kale haddii loo dhigo, waxaan ku qeexi doonaa shaqo taas oo xudunta vector miisaanka lagu doortay qaabka dib u noqoshada saadka. .
dulmar maqaalka:
- Aynu ku celino xidhiidhka tooska ah ee ka dhexeeya laba doorsoome
- Aynu ogaano baahida isbeddelka hawlaha dib u celinta toosan Π² shaqada jawaabta saadka
- Aynu fulino isbeddelka iyo wax-soo-saarka shaqada jawaabta saadka
- Aan isku dayno inaan fahanno sababta habka labajibbaaran ee ugu yar u xun yahay marka la dooranayo cabbirrada hawlaha Khasaaraha Lojistikada
- Waxaan isticmaalnaa habka ugu badan ee suurtogalka ah si loo go'aamiyo hawlaha doorashada parameter :
5.1. Kiiska 1: shaqada Khasaaraha Lojistikada walxaha leh magacyo fasal 0 ΠΈ 1:
5.2. Kiiska 2: shaqada Khasaaraha Lojistikada walxaha leh magacyo fasal -1 ΠΈ +1:
Maqaalka waxaa ka buuxa tusaalooyin fudud oo dhammaan xisaabinta ay fududahay in afka laga sameeyo ama warqad; xaaladaha qaarkood, xisaabiyaha ayaa laga yaabaa in loo baahdo. Markaa is diyaari :)
Maqaalkani waxa ugu horayn loogu talagalay saynisyahano xogta leh heerka hore ee aqoonta aasaasiga ah ee barashada mashiinka.
Maqaalku wuxuu kaloo bixin doonaa koodka sawiridda garaafyada iyo xisaabinta. Dhammaan koodka waxay ku qoran yihiin luqadda Python 2.7. Aan horay u sii sharaxo "cusub" ee nooca la isticmaalay - tani waa mid ka mid ah shuruudaha qaadashada koorsada caanka ah Yandex madal waxbarashada onlaynka ah oo si siman loo yaqaan Coursera, iyo, sida laga yaabo in loo qaato, agabka waxaa la diyaariyey iyadoo lagu salaynayo koorsadan.
01. Ku tiirsanaanta toosan
Waa macquul in la is weydiiyo su'aasha - waa maxay ku-tiirsanaanta tooska ah iyo dib-u-celinta saadka?
Way fududahay! Dib-u-celinta Logistic waa mid ka mid ah moodooyinka ka tirsan kala-soocida toosan. Erayada fudud, hawsha kala soocida toosan waa in la saadaaliyo qiyamka la beegsanayo ka doorsoomayaasha (regressors) . Waxaa la rumeysan yahay in ku-tiirsanaanta u dhexeeya sifooyinka iyo qiyamka la beegsanayo toosan. Sidaa darteed magaca kala-soocida - toosan. Si aad u qiyaasan, qaabka dib-u-celinta saadka wuxuu ku salaysan yahay malo in uu jiro xiriir toosan oo ka dhexeeya sifooyinka iyo qiyamka la beegsanayo . Tani waa isku xirnaanta.
Tusaalaha ugu horreeya ayaa ku jira istuudiyaha, waana, si sax ah, oo ku saabsan ku-tiirsanaanta toosan ee qiyaasaha la baranayo. Geedi socodka diyaarinta maqaalka, waxaan la kulmay tusaale in dad badan oo hore u dhigay gees - ku tiirsanaanta hadda on danab. ("Falanqaynta dib u celinta la dabaqay", N. Draper, G. Smith). Waxaan sidoo kale eegi doonaa halkan.
Iyadoo la raacayo Sharciga Ohm:
halkaas oo - xoogga hadda, - danab, - iska caabin.
Haddaan ogayn Sharciga Ohm, ka dib waxaan ku heli karnaa ku tiirsanaanta si macquul ah annagoo isbeddelayna iyo cabbiridda , iyadoo la taageerayo go'an. Markaas waxaan arki lahaa in garaafka ku tiirsanaanta ka wuxuu bixiyaa xariiq toosan oo badan ama ka yar iyada oo loo marayo asalka. Waxaan dhahnaa "wax ka badan ama ka yar" sababtoo ah, inkastoo xiriirku dhab ahaantii sax yahay, cabbiradeena waxaa laga yaabaa inay ku jiraan khaladaad yaryar, sidaas darteed dhibcaha garaafka waxaa laga yaabaa inaysan si sax ah ugu dhicin xariiqda, laakiin waxay u kala firdhi doonaan hareeraha si aan kala sooc lahayn.
Sawirka 1 "Ku-tiirsanaanta" ka Β»
Koodhka sawir shaxeedka
import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np
import random
R = 13.75
x_line = np.arange(0,220,1)
y_line = []
for i in x_line:
y_line.append(i/R)
y_dot = []
for i in y_line:
y_dot.append(i+random.uniform(-0.9,0.9))
fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(x_line,y_line,color = 'purple',lw = 3, label = 'I = U/R')
plt.scatter(x_line,y_dot,color = 'red', label = 'Actual results')
plt.xlabel('I', size = 16)
plt.ylabel('U', size = 16)
plt.legend(prop = {'size': 14})
plt.show()02. Baahida loo qabo in la beddelo isla'egta regression line
Bal aan eegno tusaale kale. Aynu qiyaasno in aan ka shaqayno bangi shaqadeenu waa in aan go'aamino suurtagalnimada in deyn-bixiyuhu dib u bixiyo deynta iyadoo ku xiran arrimo gaar ah. Si loo fududeeyo hawsha, waxaanu tixgelin doonaa laba arrimood oo keliya: mushaharka bilaha ee amaahiyaha iyo qaddarka dib u bixinta deynta bishiiba.
Hawshu waa shuruudo, laakiin tusaalahan waxaan ku fahmi karnaa sababta aysan ugu filneyn isticmaalka hawlaha dib u celinta toosaniyo sidoo kale ogow isbeddelada loo baahan yahay in lagu fuliyo shaqada.
Aan u soo noqono tusaalaha. Waxaa la fahamsan yahay in mushaharka sareeyo, deyn-bixiyuhu uu awoodi doono inuu u qoondeeyo bishiiba si uu u bixiyo deynta. Isla mar ahaantaana, mushahaar gaar ah oo kala duwan ayuu xidhiidhkani noqon doonaa mid toosan. Tusaale ahaan, aynu soo qaadanno mushahar u dhexeeya 60.000 RUR ilaa 200.000 RUR oo aan u qaadanno in mushaharka la cayimay, ku tiirsanaanta cabbirka bixinta bilaha ah ee cabbirka mushaharku waa toosan. Aynu sheegno in tirada mushaharka ee la cayimay ay daaha ka qaaday in saamiga mushaharka-bixinta uusan hoos uga dhici karin 3 iyo deyn-bixiyuhu waa inuu weli haysto 5.000 RUR kayd ah. Kaliya kiiskan, waxaan u qaadan doonaa in deyn bixiyuhu uu dib u bixin doono deynta bangiga. Kadibna, isla'egta regression linear ayaa qaadan doonta foomka:
halkaas oo , , , - mushahar Amaahiyaha, - deyn bixinta Amaahiyaha.
Ku beddelashada mushaharka iyo bixinta amaahda oo leh cabbir go'an oo lagu beddelayo isla'egta Adiga ayaa go'aansan kara inaad bixisid ama diidi lahayd deyn.
Horay u eegis, waxaan ogaanay taas, oo leh xuduudaha la bixiyay shaqada dib u celinta toosan, loo isticmaalo hawlaha jawaab celinta saadka waxay soo saari doontaa qiyam weyn oo adkeyn doona xisaabinta si loo go'aamiyo suurtogalnimada dib u bixinta deynta. Sidaa darteed, waxaa la soo jeediyay in la yareeyo isku-dhafkayaga, aynu nidhaahno, 25.000 jeer. Isbeddelkan ku yimaadda isu-dheellitirka ma beddeli doono go'aanka deyn-bixinta. Aynu xusuusanno qodobkan mustaqbalka, laakiin hadda, si aan u caddayno waxa aan ka hadlayno, aan tixgelinno xaaladda saddex qof oo deyn ah.
Shaxda 1 "Dayn-qaadayaasha suurtagalka ah"
Koodhka soo saarista miiska
import pandas as pd
r = 25000.0
w_0 = -5000.0/r
w_1 = 1.0/r
w_2 = -3.0/r
data = {'The borrower':np.array(['Vasya', 'Fedya', 'Lesha']),
'Salary':np.array([120000,180000,210000]),
'Payment':np.array([3000,50000,70000])}
df = pd.DataFrame(data)
df['f(w,x)'] = w_0 + df['Salary']*w_1 + df['Payment']*w_2
decision = []
for i in df['f(w,x)']:
if i > 0:
dec = 'Approved'
decision.append(dec)
else:
dec = 'Refusal'
decision.append(dec)
df['Decision'] = decision
df[['The borrower', 'Salary', 'Payment', 'f(w,x)', 'Decision']]Sida ku cad xogta shaxda, Vasya, oo leh mushahar 120.000 RUR, wuxuu rabaa inuu helo deyn si uu u bixiyo bishiiba 3.000 RUR. Waxaan go'aansanay in si loo ansixiyo deynta, mushaharka Vasya waa in uu ka badan yahay saddex jeer qaddarka lacag bixinta, welina waa in ay harsan tahay 5.000 RUR. Vasya ayaa buuxisay shuruudahan: . Xitaa 106.000 RUR ayaa hadhay. Inkastoo xaqiiqda ah in marka la xisaabinayo waanu yareynay mansabkii 25.000 jeer, natiijadu waxay ahayd isku mid - deynta waa la ansixin karaa. Fedya sidoo kale wuxuu heli doonaa deyn, laakiin Lesha, inkastoo xaqiiqda ah inuu helo inta badan, waa inuu xakameeyaa rabitaankiisa.
Aan sawiro garaaf kiiskan.
Shaxda 2 "Qaybta amaah-bixiyeyaasha"
Koodhka sawirka garaafyada
salary = np.arange(60000,240000,20000)
payment = (-w_0-w_1*salary)/w_2
fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(salary, payment, color = 'grey', lw = 2, label = '$f(w,x_i)=w_0 + w_1x_{i1} + w_2x_{i2}$')
plt.plot(df[df['Decision'] == 'Approved']['Salary'], df[df['Decision'] == 'Approved']['Payment'],
'o', color ='green', markersize = 12, label = 'Decision - Loan approved')
plt.plot(df[df['Decision'] == 'Refusal']['Salary'], df[df['Decision'] == 'Refusal']['Payment'],
's', color = 'red', markersize = 12, label = 'Decision - Loan refusal')
plt.xlabel('Salary', size = 16)
plt.ylabel('Payment', size = 16)
plt.legend(prop = {'size': 14})
plt.show()Markaa, xariiqeena toosan, oo loo dhisay si waafaqsan shaqada , ka sooca amaahyaasha "xun" iyo kuwa "wanaagsan". Deyn-bixiyeyaasha kuwaas oo rabitaankoodu aysan ku habboonayn awooddooda waxay ka sarreeyaan xariiqda (Lesha), halka kuwa, marka loo eego xuduudaha qaabkayaga, ay awoodaan inay dib u bixiyaan deynta waxay ka hooseeyaan khadka (Vasya iyo Fedya). Si kale haddii loo dhigo, waxaan dhihi karnaa sidan: xariiqayada tooska ah waxay u qaybisaa deyn-qaadayaasha laba qaybood. Aynu u tilmaamno sida soo socota: fasalka Waxaan u kala saari doonaa amaah-bixiyeyaasha ee ay u badan tahay inay dib u bixiyaan deynta ama Waxaan ku dari doonaa amaah-bixiyeyaasha kuwaas oo ay u badan tahay inaysan awoodin inay dib u bixiyaan deynta.
Aan ku soo koobno ββgabagabada tusaalahan fudud. Aan soo qaadano qodob iyo, ku beddelashada isku-duwayaasha barta oo loo beddelo isla'egta xariiqda , tixgeli saddex doorasho:
- Haddii barta ay ku hoos jirto xariiqda oo aan ku meeleyno fasalka , ka dibna qiimaha shaqada noqon doonaa mid togan ka si ay u . Tani waxay ka dhigan tahay inaan u qaadan karno in suurtogalnimada dib u bixinta deynta ay ku jirto gudaha . Inta uu sii weynaado qiimaha shaqadu, waa ay saraysaa suurtogalnimada.
- Haddii dhibic ay ka sarreyso xariiq oo aan ku meeleyno fasalka ama , markaa qiimaha shaqadu waxay noqon doontaa mid taban si ay u . Markaa waxaan u qaadan doonaa in ixtimaalka dib u bixinta deynta ay ku jirto gudaha iyo, marka ay sii weynaato qiimaha saxda ah ee shaqadu, waxay kordhinaysaa kalsoonidayada.
- Bartu waxay ku taal xariiq toosan, oo ku taal xadka u dhexeeya laba fasal. Xaaladdan oo kale, qiimaha shaqada waa loo siman yahay iyo suurtogalnimada dib u bixinta deynta waxay la mid tahay .
Hadda, aynu qiyaasno in aynaan haysan laba arrimood, laakiin daraasiin, oo aan ahayn saddex, laakiin kumannaan amaah-qaadayaal ah. Markaa halkii xariiq toosan ayaan yeelan doonnaa m-cabbir diyaarad iyo isku-xirnaan nalagama qaadi doono hawada khafiifka ah, laakiin waxaa laga soo qaatay dhammaan xeerarka, iyo iyadoo lagu salaynayo xogta la ururiyay ee deyn-bixiyeyaasha kuwaas oo haysta ama aan dib u bixin deynta. Run ahaantiina, ogow in aanu hadda dooranayno amaah-qaatayaasha anagoo adeegsanayna koffififyada hore loo yaqaan . Dhab ahaantii, hawsha qaabka dib-u-celinta saadka ayaa si sax ah u go'aaminaya xuduudaha , kaas oo qiimaha khasaaruhu ku shaqeeyo Khasaaraha Lojistikada waxay u eegi doontaa ugu yaraan. Laakiin ku saabsan sida loo xisaabiyo vector , wax badan ayaan ku ogaan doonaa qaybta 5-aad ee maqaalka. Dhanka kale, waxaan ku laabaneynaa dhulkii ballanta - bangigeena iyo seddexdiisa macaamiil.
Waad ku mahadsan tahay shaqada waanu ognahay cidda daynta la siin karo iyo cidda u baahan in la diido. Laakiin ma aadi kartid agaasimaha macluumaadkaas oo kale, sababtoo ah waxay rabeen inay naga helaan suurtogalnimada bixinta deynta deyn kasta. Maxaa la sameeyaa? Jawaabtu waa sahlan tahay - waxaan u baahanahay inaan si uun u bedelno shaqada , kuwaas oo qiyamkoodu ay ku jiraan xadka si ay u shaqeyso qiyamkiisu ay ku jiri doonaan xadka . Oo shaqo noocan oo kale ah ayaa jirta, waxaa loo yaqaan Shaqada jawaabta saadka ama beddelka-logit-ka roga. La kulan:
Aynu eegno tallaabo-tallaabo sida ay u shaqeyso shaqada jawaabta saadka. Ogow in aan u socon doono dhanka ka soo horjeeda, i.e. waxaan u qaadan doonaa in aan ognahay qiimaha itimaalka, kaas oo ku yaala inta u dhaxaysa si ay u ka dibna waxaanu ka "furaynaa" qiimahan oo dhan tirada kala duwan ee tirada laga bilaabo si ay u .
03. Waxaan soo saarnay shaqada jawaabta saadka
Tallaabada 1. U beddel qiyamka itimaalka ilaa xad
Inta lagu jiro isbeddelka shaqada Π² shaqada jawaabta saadka Waanu ka tagi doonaa falanqayntayada amaahda oo keliya oo aan u dalxiis ku tagno kuwa buug-sameeyaha ah. Maya, dabcan, ma dhigi doono khamaar, dhammaan waxa na xiiseynaya waxaa jira macnaha ereyga, tusaale ahaan, fursada waa 4 ilaa 1. Khatarta, oo ay yaqaanaan dhammaan betors, waa saamiga "guulaha" ilaa " guuldarrooyinkaβ. Marka la eego ixtimaalnimada, khayaaligu waa suurtogalnimada dhacdo dhacdo oo loo qaybiyo suurtogalnimada in aanay dhacdadani dhicin. Aynu qorno qaacidada fursadda ay dhacdo dhacdo :
halkaas oo - suurtogalnimada inay dhacdo dhacdo, - itimaalka dhacdo AAN dhicin
Tusaale ahaan, haddii suurtogalnimada in faras yar, xoog leh oo cayaaraya oo lagu naaneeso "Veterok" uu ku garaaco haweeney da' ah oo jilicsan oo magaceeda la yiraahdo "Matilda" tartanka waxay la mid tahay. , markaa fursadaha guusha "Veterok" waxay noqon doontaa ΠΊ iyo lidka ku ah, ogaanshaha khayaaliga, ma adkaan doonto inaan xisaabino itimaalka :
Sidaa darteed, waxaan baranay inaan "tarjumo" itimaalka fursadaha, taas oo ka soo qaada qiimaha si ay u . Aan qaadno hal talaabo oo kale oo aan barano inaan βtarjumnoβ itimaalka xariiqda nambarka oo dhan si ay u .
Tallaabada 2. U beddel qiyamka itimaalka ilaa xad
Talaabadani waa mid aad u fudud - aynu u qaadano logarithm ee nasiibka saldhigga lambarka Euler waxaana helnaa:
Hadda waxaan ognahay in haddii , kadibna xisaabi qiimaha waxay noqon doontaa mid aad u fudud, sidoo kale, waa inay noqotaa mid togan: . Tani waa run.
Xiiseyn darteed, aan hubinno haddii , markaas waxaan fileynaa inaan aragno qiimo xun . Waxaan hubineynaa: . Waa sax.
Hadda waxaan ognahay sida looga beddelo qiimaha ixtimaalka si ay u dhanka khadka nambarka oo dhan laga bilaabo si ay u . Talaabada xigta waxaan sameyn doonaa lidkeeda.
Hadda, waxaan ogaanay in si waafaqsan xeerarka logarithm, ogaanshaha qiimaha shaqada , waxaad xisaabin kartaa kharajyada:
Habkan lagu go'aaminayo nasiibku wuxuu noo noqon doonaa mid faa'iido leh tallaabada xigta.
Tallaabada 3. Aan soo saarno qaacido si aan u go'aamino
Markaa waanu baranay anagoo og , Hel qiimaha shaqada . Si kastaba ha ahaatee, dhab ahaantii, waxaan u baahanahay si sax ah lid ku ah - ogaanshaha qiimaha hel . Si taas loo sameeyo, aan u leexanno fikradda sida shaqada qallafsanaanta, sida waafaqsan:
Maqaalka kama soo saari doono qaacidada sare, laakiin waxaan ku hubin doonaa annaga oo isticmaalaya tirooyinka tusaalaha sare. Waxaynu ognahay in 4 ilaa 1), itimaalka in ay dhacdo dhacdo waa 0.8 (). Aynu samayno beddel: . Tani waxay ku beegan tahay xisaabintayada la sameeyay hore. Aan hore u socono.
Talaabadii u danbaysay waxaynu ku soo qaadanay , taas oo macnaheedu yahay waxaad samayn kartaa beddelka shaqada odd ee rogan. Waxaan helnaa:
U qaybi tirada iyo kala qaybinta labadaba , Kadib:
Haddii ay dhacdo, si loo hubiyo in aynaan meelna qalad ka samayn, waxaanu samayn doonaa hal jeeg oo yar oo kale. In tallaabada 2, waxaan for go'aamiyay in . Kadib, beddelka qiimaha galay shaqada jawaabta saadka, waxaan fileynaa inaan helno . Waxaan bedelnaa oo helnaa:
Hambalyo, akhristaha qaaliga ah, waxaan hadda ka soo saarnay oo tijaabinay shaqada jawaabta saadka. Aynu eegno garaafka shaqada.
Jaantuska 3 "Shaqada jawaabta saadka"
Koodhka sawirka garaafyada
import math
def logit (f):
return 1/(1+math.exp(-f))
f = np.arange(-7,7,0.05)
p = []
for i in f:
p.append(logit(i))
fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(f, p, color = 'grey', label = '$ 1 / (1+e^{-w^Tx_i})$')
plt.xlabel('$f(w,x_i) = w^Tx_i$', size = 16)
plt.ylabel('$p_{i+}$', size = 16)
plt.legend(prop = {'size': 14})
plt.show()Suugaanta waxaad sidoo kale ka heli kartaa magaca shaqadan sida shaqada sigmoid. Jaantusku wuxuu si cad u muujinayaa in isbeddelka ugu weyn ee suurtogalnimada shay ka tirsan fasalka uu ku dhaco meel aad u yar. , meel ka timid si ay u .
Waxaan soo jeedinayaa in aan ku soo laabto falanqeeyahayaga deynta oo aan ka caawinno inuu xisaabiyo suurtogalnimada dib u bixinta deynta, haddii kale wuxuu halis u yahay in laga tago gunno la'aan :)
Shaxda 2 "Dayn-qaadayaasha suurtagalka ah"
Koodhka soo saarista miiska
proba = []
for i in df['f(w,x)']:
proba.append(round(logit(i),2))
df['Probability'] = proba
df[['The borrower', 'Salary', 'Payment', 'f(w,x)', 'Decision', 'Probability']]Markaa, waxaanu go'aaminay suurtogalnimada dib-u-bixinta amaahda. Guud ahaan, tani waxay u muuqataa inay run tahay.
Runtii, suurtogalnimada in Vasya, oo leh mushahar 120.000 RUR, ay awoodi doonto inay siiso 3.000 RUR bangiga bishiiba waxay ku dhowdahay 100%. Jid ahaan, waa inaan fahamnaa in bangigu uu deyn karo Lesha haddii siyaasadda bangigu ay bixiso, tusaale ahaan, amaahinta macaamiisha leh suurtagalnimada dib-u-bixinta amaahda wax ka badan, dheh, 0.3. Kaliya waa in kiiskan bangigu uu abuuri doono kayd weyn oo loogu talagalay khasaaraha suurtagalka ah.
Sidoo kale waa in la ogaadaa in saamiga mushaharka-bixinta ee ugu yaraan 3 iyo margin 5.000 RUR laga soo qaaday saqafka. Sidaa darteed, waxa aan u isticmaali kari waynay vector of miisaanka qaabkeedii asalka ahaa . Waxa aanu u baahnay in aanu si weyn hoos ugu dhigno isu-dheellitirka, xaaladdan waxa aanu u qaybinay mid kasta 25.000, taas oo ah, nuxur ahaan, waxaanu hagaajinay natiijada. Laakiin tan waxaa si gaar ah loo sameeyay si loo fududeeyo fahamka walxaha marxaladda hore. Nolosha, uma baahnid inaan abuurno oo hagaajino isku-xirnaanta, laakiin hel iyaga. Qaybaha soo socda ee maqaalka waxaynu ka soo qaadan doonaa isla'egyada lagu xushay halbeegyada .
04. Habka ugu yar afar geesoodka ee lagu go'aamiyo vector of miisaanka ee shaqada jawaabta saadka
Waxaan horeyba u naqaanay habkan xulashada vector ee miisaanka , Sidee Habka afar geesoodka ugu yar (LSM) iyo dhab ahaantii, maxaynaan markaa u isticmaalin dhibaatooyinka kala-soocidda binary? Runtii, ma jiraan wax kaa diidaya inaad isticmaasho MNC, kaliya habkan ee dhibaatooyinka kala soocida ayaa bixiya natiijooyin aan sax ahayn Khasaaraha Lojistikada. Waxaa jira aasaas aragtiyeed tan. Aan marka hore eegno hal tusaale oo fudud.
Aynu ka soo qaadno in moodooyinkayada (adeegsiga MSE ΠΈ Khasaaraha Lojistikada) waxay mar hore bilaabeen xulashada vector of miisaanka xisaabtiina tallaabo ayaan joojinay. Wax dhib ah ma aha in dhexda, dhamaadka ama bilowga, waxa ugu muhiimsan waa in aan hore u leenahay qaar ka mid ah qiyamka vector ee miisaanka iyo aynu u qaadan in tallaabadan, vector ee miisaanka. Labada noocba ma jiraan wax farqi ah. Ka dibna qaado miisaanka ka dhashay oo ku beddel shaqada jawaabta saadka () shay gaar ah oo ka tirsan fasalka . Waxaan baarnaa laba kiis marka, iyadoo la raacayo vector-ka la doortay ee miisaanka, qaabkeenu aad ayuu u qaldan yahay iyo lidka ku ah - moodelku wuxuu aad ugu kalsoon yahay in shaygu uu ka tirsan yahay fasalka. . Aynu aragno ganaaxyada la soo saari doono marka la isticmaalayo MNC ΠΈ Khasaaraha Lojistikada.
Xeer si loo xisaabiyo ganaaxyada iyadoo ku xiran shaqada khasaaraha la isticmaalay
# ΠΊΠ»Π°ΡΡ ΠΎΠ±ΡΠ΅ΠΊΡΠ°
y = 1
# Π²Π΅ΡΠΎΡΡΠ½ΠΎΡΡΡ ΠΎΡΠ½Π΅ΡΠ΅Π½ΠΈΡ ΠΎΠ±ΡΠ΅ΠΊΡΠ° ΠΊ ΠΊΠ»Π°ΡΡΡ Π² ΡΠΎΠΎΡΠ²Π΅ΡΡΡΠ²ΠΈΠΈ Ρ ΠΏΠ°ΡΠ°ΠΌΠ΅ΡΡΠ°ΠΌΠΈ w
proba_1 = 0.01
MSE_1 = (y - proba_1)**2
print 'Π¨ΡΡΠ°Ρ MSE ΠΏΡΠΈ Π³ΡΡΠ±ΠΎΠΉ ΠΎΡΠΈΠ±ΠΊΠ΅ =', MSE_1
# Π½Π°ΠΏΠΈΡΠ΅ΠΌ ΡΡΠ½ΠΊΡΠΈΡ Π΄Π»Ρ Π²ΡΡΠΈΡΠ»Π΅Π½ΠΈΡ f(w,x) ΠΏΡΠΈ ΠΈΠ·Π²Π΅ΡΡΠ½ΠΎΠΉ Π²Π΅ΡΠΎΡΡΠ½ΠΎΡΡΠΈ ΠΎΡΠ½Π΅ΡΠ΅Π½ΠΈΡ ΠΎΠ±ΡΠ΅ΠΊΡΠ° ΠΊ ΠΊΠ»Π°ΡΡΡ +1 (f(w,x)=ln(odds+))
def f_w_x(proba):
return math.log(proba/(1-proba))
LogLoss_1 = math.log(1+math.exp(-y*f_w_x(proba_1)))
print 'Π¨ΡΡΠ°Ρ Log Loss ΠΏΡΠΈ Π³ΡΡΠ±ΠΎΠΉ ΠΎΡΠΈΠ±ΠΊΠ΅ =', LogLoss_1
proba_2 = 0.99
MSE_2 = (y - proba_2)**2
LogLoss_2 = math.log(1+math.exp(-y*f_w_x(proba_2)))
print '**************************************************************'
print 'Π¨ΡΡΠ°Ρ MSE ΠΏΡΠΈ ΡΠΈΠ»ΡΠ½ΠΎΠΉ ΡΠ²Π΅ΡΠ΅Π½Π½ΠΎΡΡΠΈ =', MSE_2
print 'Π¨ΡΡΠ°Ρ Log Loss ΠΏΡΠΈ ΡΠΈΠ»ΡΠ½ΠΎΠΉ ΡΠ²Π΅ΡΠ΅Π½Π½ΠΎΡΡΠΈ =', LogLoss_2Kiis khalad ah - moodeelku wuxuu shay ku meeleeyaa fasalka oo leh ixtimaalka 0,01
Ciqaabta isticmaalka MNC waxay noqon doontaa:
Ciqaabta isticmaalka Khasaaraha Lojistikada waxay noqon doontaa:
Xaalad kalsooni xoog leh - moodeelku wuxuu shay ku meeleeyaa fasalka oo leh ixtimaalka 0,99
Ciqaabta isticmaalka MNC waxay noqon doontaa:
Ciqaabta isticmaalka Khasaaraha Lojistikada waxay noqon doontaa:
Tusaalahani waxa uu si fiican u muujinayaa in haddii uu dhaco khalad weyn ay shaqaynayso Log Loss wuxuu ciqaabayaa qaabka si ka badan MSE. Aynu hadda fahamno waxa asalka aragtida ah ee isticmaalka shaqada luminta Log Loss dhibaatooyinka kala saarista.
05. Habka ugu badan ee suurtogalka ah iyo dib u noqoshada saadka
Sidii hore loogu ballan qaaday, maqaalku wuxuu ka buuxsamay tusaalooyin fudud. Istuudiyaha waxaa ku jira tusaale kale iyo marti hore - deyn-bixiyeyaasha bangiga: Vasya, Fedya iyo Lesha.
Haddii ay dhacdo, ka hor intaanan kobcin tusaalaha, aan ku xasuusiyo in nolosha aan la tacaaleyno muunad tababar oo kumanaan ama malaayiin shay ah oo leh tobanaan ama boqolaal sifooyin. Si kastaba ha ahaatee, halkan tirooyinka ayaa la qaadayaa si ay si fudud ugu habboonaan karaan madaxa saynisyahanka xogta cusub.
Aan u soo noqono tusaalaha. Aynu qiyaasno in agaasimaha bangiga uu go'aansaday in uu bixiyo deyn qof kasta oo u baahan, inkastoo xaqiiqda ah in algorithm u sheegay in uusan u soo saarin Lesha. Haddana wakhti ku filan baa naga soo maray oo waynu ognahay saddexda halyey ee daynta bixiyey iyo kii aan bixin. Waxa la filayo: Vasya iyo Fedya ayaa dib u bixiyay amaahda, laakiin Lesha ma aysan bixin. Hadda aynu qiyaasno in natiijadani ay noqon doonto muunad tababar oo cusub oo noo ah, isla mar ahaantaana, waxay u egtahay in dhammaan xogta ku saabsan arrimaha saameynaya suurtogalnimada dib u bixinta deynta (mushaharka amaahda, cabbirka bixinta bilaha) ayaa la waayay. Kadib, si macquul ah, waxaan u qaadan karnaa in deyn bixiye kasta oo saddexaad uusan dib u bixin deynta bangiga, ama si kale haddii loo dhigo, suurtogalnimada deyn bixiyaha soo socda inuu dib u bixiyo deynta. . Malahan dareen leh ayaa leh xaqiijinta aragtiyeed oo ku salaysan habka ugu badan ee suurtogalka ah, inta badan suugaanta waxaa loogu yeeraa mabda'a suurtagalnimada ugu badan.
Marka hore, aynu barano qalabka fikradeed.
Suurtagalnimada muunad waa suurtogalnimada in la helo muunad sax ah, helidda indha-indhaynta/natiijooyinka sida saxda ah, ie. badeecada suurtogalka ah ee helitaanka mid kasta oo ka mid ah natiijooyinka muunada (tusaale ahaan, haddii amaahda Vasya, Fedya iyo Lesha la bixiyay ama aan la bixin isla waqti isku mid ah).
Shaqeynta suurtagalka ah waxay la xiriirtaa suurtogalnimada muunad iyo qiyamka xuduudaha qaybinta.
Xaaladeena, muunadda tababarku waa nidaam guud oo Bernoulli ah, kaas oo doorsoomayaasha random-ku uu qaato laba qiime oo keliya: ama . Sidaa darteed, suurtogalnimada muunadda waxa loo qori karaa hawl suurtogal ah ee cabbirka sida soo socota:
Galitaanka sare waxaa loo fasiran karaa sida soo socota. Itimaalka wadajirka ah ee Vasya iyo Fedya ay dib u bixinayaan amaahda waxay la mid tahay , itimaalka in Lesha aysan dib u bixin amaahda waxay la mid tahay (maaddaama aysan ahayn dib-u-bixinta deynta), sidaa darteed itimaalka wadajirka ah ee dhammaan saddexda dhacdo waa siman yihiin. .
Habka suurtogalka ah ee ugu badan waa hab lagu qiyaaso halbeeg aan la garanayn iyadoo la kordhinayo hawlaha suurtagalka ah. Xaaladeena, waxaan u baahanahay inaan helno qiimahaas oo kale , kaas oo gaaro heerkii ugu badnaa.
Halkee ayay fikradda dhabta ahi ka timi - in la raadiyo qiimaha halbeeg aan la garanayn oo shaqada suurtagalka ahi ay gaadho ugu badnaan? Asal ahaan fikraddu waxay ka timid fikradda ah in muunadku yahay isha keliya ee aqoonta laga heli karo dadweynaha. Wax kasta oo aan ka naqaano dadweynaha waxay ku jiraan muunada. Sidaa darteed, waxa kaliya ee aan odhan karnaa waa muunadku waa ka tarjumaya ugu saxsan ee dadweynaha la heli karo. Sidaa darteed, waxaan u baahannahay inaan helno halbeeg kaas oo muunadda la heli karo ay noqoto tan ugu macquulsan.
Sida iska cad, waxaan la tacaaleynaa dhibaatada hagaajinta taas oo aan u baahanahay inaan helno meesha ugu sarreysa ee shaqada. Si aad u hesho barta ugu sarreysa, waxaa lagama maarmaan ah in la tixgeliyo shuruudaha ugu horreeya, taas oo ah, barbardhig ka-soo-saarka shaqada ilaa eber oo xalliyo isla'egta iyada oo la tixgelinayo cabbirka la rabo. Si kastaba ha noqotee, raadinta soo-saarka badeecada tiro badan oo arrimood waxay noqon kartaa hawl dheer; si taas looga fogaado, waxaa jira farsamo gaar ah - u beddelashada logarithm hawlaha suurtagalka ah. Waa maxay sababta kala-guurka noocaas ah uu suurtogal u yahay? Aynu fiiro gaar ah u yeelanno xaqiiqda ah in aynaan raadineynin xag-jirnimada shaqada lafteeda, iyo barta ugu weyn, taas oo ah, qiimaha qiyaasta aan la garanayn , kaas oo gaadho ugu badnaan Markaad u guurto logarithm, barta xag-jirku isma beddesho (inkasta oo xag-jirku laftiisu kala duwanaan doono), maadaama logarithmku yahay shaqo keli keli ah.
Aynu, si waafaqsan kuwa kor ku xusan, aan sii wadno horumarinta tusaalahayaga amaahda Vasya, Fedya iyo Lesha. Marka hore aan u gudubno logarithm ee shaqada suurtagalnimada:
Hadda waxaan si fudud u kala saari karnaa tibaaxaha :
Ugu dambeyntiina, tixgeli shuruudda-dalabka koowaad - waxaan barbar dhignay soo-saarkii shaqada eber:
Markaa, qiyaastayada dareenka leh ee suurtogalnimada dib-u-bixinta deynta aragti ahaan qiil ayuu ahaa.
Way fiicantahay, laakiin maxaan ku samaynaa macluumaadkan hadda? Haddii aan ka qaadno in deyn-qaade kasta oo saddexaad uusan ku soo celin lacagta bangiga, ka dibna kan dambe ayaa si lama filaan ah u kici doona. Taasi waa sax, laakiin kaliya marka la qiimeeyo suurtagalnimada dib u bixinta deynta oo la mid ah Ma aanan tixgelinin arrimaha saameynaya dib u bixinta deynta: mushaharka amaahiyaha iyo xajmiga lacag bixinta bishiiba. Aynu xasuusanno in aan hore u xisaabinay suurtogalnimada dib u bixinta deynta macmiil kasta, iyada oo la tixgelinayo isla arrimahan. Waa macquul in aan helnay ixtimaalka ka duwan simanaanshaha joogtada ah .
Aynu qeexno suurtagalnimada shaybaarada:
Xeerka xisaabinta suurtagalnimada muunadda
from functools import reduce
def likelihood(y,p):
line_true_proba = []
for i in range(len(y)):
ltp_i = p[i]**y[i]*(1-p[i])**(1-y[i])
line_true_proba.append(ltp_i)
likelihood = []
return reduce(lambda a, b: a*b, line_true_proba)
y = [1.0,1.0,0.0]
p_log_response = df['Probability']
const = 2.0/3.0
p_const = [const, const, const]
print 'ΠΡΠ°Π²Π΄ΠΎΠΏΠΎΠ΄ΠΎΠ±ΠΈΠ΅ Π²ΡΠ±ΠΎΡΠΊΠΈ ΠΏΡΠΈ ΠΊΠΎΠ½ΡΡΠ°Π½ΡΠ½ΠΎΠΌ Π·Π½Π°ΡΠ΅Π½ΠΈΠΈ p=2/3:', round(likelihood(y,p_const),3)
print '****************************************************************************************************'
print 'ΠΡΠ°Π²Π΄ΠΎΠΏΠΎΠ΄ΠΎΠ±ΠΈΠ΅ Π²ΡΠ±ΠΎΡΠΊΠΈ ΠΏΡΠΈ ΡΠ°ΡΡΠ΅ΡΠ½ΠΎΠΌ Π·Π½Π°ΡΠ΅Π½ΠΈΠΈ p:', round(likelihood(y,p_log_response),3)Tusaalaha suurtogalka ah ee qiimaha joogtada ah :
Tusaalaha suurtogalka ah marka la xisaabinayo ixtimaalka dib-u-bixinta deynta iyadoo la tixgelinayo arrimaha :
Suurtagalnimada muunad leh itimaalka la xisaabiyay iyadoo ku xiran arrimuhu noqdeen inay ka sarreeyaan suurtogalnimada leh qiime joogta ah. Maxay tani ka dhigan tahay? Tani waxay soo jeedinaysaa in aqoonta ku saabsan arrimaha ay suurtogalisay in si sax ah loo doorto suurtogalnimada dib u bixinta deynta macmiil kasta. Sidaa darteed, marka la bixinayo deynta soo socota, waxay noqon doontaa mid sax ah in la isticmaalo qaabka la soo jeediyay dhammaadka qaybta 3 ee qodobka si loo qiimeeyo suurtogalnimada bixinta deynta.
Laakiin markaa, haddii aan rabno in aan sare u qaadno shaqada suurtagalnimada muunad, markaa maxaad u isticmaali weyday qaar ka mid ah algorithm kuwaas oo soo saari doona itimaalka Vasya, Fedya iyo Lesha, tusaale ahaan, oo le'eg 0.99, 0.99 iyo 0.01, siday u kala horreeyaan. Waxaa laga yaabaa in algorithm-ka noocan oo kale ah uu si fiican u shaqeyn doono muunadda tababarka, maadaama ay keeni doonto qiimaha muunada ee ku dhow , laakiin, marka hore, algorithm-ka noocan oo kale ah waxay u badan tahay inay ku adkaato awoodda guud, iyo marka labaad, algorithmkani hubaal ma noqon doono mid toosan. Oo haddii hababka lagula dagaallamo tabobarrada dheeraadka ah (awoodda guud ee daciifka ah) si cad looguma darin qorshaha qodobkan, ka dibna aan u gudubno qodobka labaad si faahfaahsan. Si tan loo sameeyo, kaliya ka jawaab su'aal fudud. Ma laga yaabaa in suurtogalnimada Vasya iyo Fedya ay dib u bixinayaan deynta ay isku mid noqon karaan, iyada oo la tixgelinayo arrimaha aan naqaanno? Marka laga eego aragtida macquulka ah ee dhawaaqa, dabcan ma aha, ma awoodi karto. Markaa Vasya wuxuu bixin doonaa 2.5% mushaharkiisa bishii si uu u bixiyo deynta, iyo Fedya - ku dhawaad ββββ27,8%. Sidoo kale garaafka 2 "Client classification" waxaan aragnaa in Vasya uu aad uga fog yahay khadka kala soocaya fasallada marka loo eego Fedya. Ugu dambeyntiina, waxaan ognahay in shaqada Waayo, Vasya iyo Fedya waxay qaataan qiimeyo kala duwan: 4.24 Vasya iyo 1.0 Fedya. Hadda, haddii Fedya, tusaale ahaan, uu kasbaday amar ka badan ama uu weydiistay deyn yar, markaa suurtogalnimada dib u bixinta deynta Vasya iyo Fedya waxay la mid tahay. Si kale haddii loo dhigo, ku tiirsanaanta toosan lama khiyaami karo. Oo haddaynu dhab ahaantii xisaabinay nasiibka , oo kama soo bixin hawada khafiifka ah, waxaan si badbaado leh u dhihi karnaa qiyamkayaga sida ugu fiican noo ogolaato in aan qiyaasno ixtimaalka dib u bixinta amaahda ee deyn bixiye kasta, laakiin tan iyo markii aan ku heshiinnay in ay u qaadan in go'aaminta coefficients. waxaa loo fuliyay si waafaqsan xeerarka oo dhan, ka dibna waxaan u qaadan doonaa sidaas - coefficients our ayaa noo ogolaanaya inaan siino qiyaas wanaagsan ee itimaalka :)
Si kastaba ha ahaatee, waanu dib u dhigi karnaa. Qaybtan waxaan u baahanahay inaan fahamno sida loo go'aamiyo vector of miisaanka , taas oo lagama maarmaan u ah in la qiimeeyo suurtogalnimada dib u bixinta deynta ee deyn kasta.
Aan si kooban u soo koobno ββarsenal-ka aan raadinayno nasiibka :
1. Waxaan u qaadaneynaa in xiriirka ka dhexeeya doorsoomaha bartilmaameedka (qiimaha saadaalinta) iyo qodobka saameynaya natiijada uu yahay toosan. Sababtan awgeed ayaa loo isticmaalaa shaqada dib u celinta toosan nooc , khadka kaas oo u qaybiya walxaha (macaamiisha) fasallo ΠΈ ama (macmiisha awood u leh inay dib u bixiyaan deynta iyo kuwa aan haysan). Xaaladeena, isla'egta ayaa qaab leh .
2. Waan isticmaalnaa shaqada logit rogan nooc si loo go'aamiyo suurtogalnimada shay ka tirsan fasalka .
3. Waxaan u aragnaa in tababarkayaga uu yahay dhaqan-gelin guud Nidaamyada Bernoulli, taas oo ah, shay kasta waxaa loo sameeyaa doorsoome aan toos ahayn, kaas oo leh ixtimaalka (wax u gaar ah shay kasta) waxay qaadataa qiimaha 1 oo leh ixtimaalka - 0.
4. Waan ognahay waxa aan u baahanahay si aan u kordhino shaqada suurtagalnimada muunad iyadoo la tixgelinayo arrimaha la aqbalay si muunadda la heli karo ay u noqoto tan ugu macquulsan. Si kale haddii loo dhigo, waxaan u baahannahay inaan dooranno cabbirrada ay muunadku noqon doonto mid macquul ah. Xaaladeena, qiyaasta la doortay ayaa ah suurtogalnimada dib u bixinta deynta , taas oo iyana ku xidhan isugeyn aan la garanayn . Markaa waxaan u baahanahay in aan helno vector miisaanka oo kale ah , taas oo suurtogalnimada muunada ay noqon doonto ugu badnaan.
5. Waan ognahay waxa la kordhiyo shaqooyinka suurtagalka ah ee muunad waad isticmaali kartaa habka ugu badan ee suurtogalka ah. Oo waxaan ognahay dhammaan tabaha khiyaanada leh ee lagu shaqeynayo habkan.
Tani waa sida ay u noqoto dhaqdhaqaaq dhowr tallaabo ah :)
Hadda xasuuso in bilawgii maqaalka aan rabnay inaan ka soo saarno laba nooc oo shaqo lumis ah Khasaaraha Lojistikada iyadoo ku xiran sida loo qoondeeyay fasallada shayga. Waxaa dhacday in dhibaatooyinka kala-soocidda ee laba fasal, fasallada lagu tilmaamo sida ΠΈ ama . Iyada oo ku xidhan qoraalka, soo-saarku wuxuu yeelan doonaa shaqo khasaare ah oo u dhiganta.
Kiiska 1. Kala soocida walxaha ΠΈ
Horaantii, marka la go'aaminayo suurtogalnimada muunad, taas oo suurtogalnimada dib-u-bixinta deynta ee amaahiyaha ayaa lagu xisaabiyay iyada oo lagu saleynayo arrimo iyo la siiyay iskudhafyo. , waxaanu adeegsanay qaacidada:
Dhab ahaantii waa macnaha hawlaha jawaab celinta saadka loogu talagalay vector miisaannada la siiyay
Markaa ma jiraan wax naga hor istaagaya inaan u qorno hawsha suurtagalnimada muunadda sida soo socota:
Waxay dhacdaa in mararka qaarkood ay ku adkaato qaar ka mid ah falanqeeyayaasha cusub inay isla markiiba fahmaan sida shaqadani u shaqeyso. Aynu eegno 4 tusaale oo gaagaaban oo wax walba nadiifin doona:
1. haddii (tusaale ahaan, marka loo eego muunadda tababarka, shayga waxa iska leh fasalka +1), iyo algorithm-kayada waxay go'aamisaa suurtogalnimada in shay loo kala saaro fasalka oo le'eg 0.9, ka dibna qayb ka mid ah suurtagalnimada muunada waxaa loo xisaabin doonaa sida soo socota:
2. haddii iyo , markaas xisaabtu waxay noqon doontaa sidan:
3. haddii iyo , markaas xisaabtu waxay noqon doontaa sidan:
4. haddii iyo , markaas xisaabtu waxay noqon doontaa sidan:
Waa wax iska cad in shaqada suurtagalka ah la kordhin doono kiisaska 1 iyo 3 ama guud ahaan - iyadoo si sax ah loo qiyaaso qiyamka suurtagalka ah in shay lagu meeleeyo fasalka. .
Sababo la xiriira xaqiiqda ah in marka la go'aaminayo itimaalka u qoondaynta shay fasalka Kaliya ma naqaano isku-xirnaanta , markaas waanu raadin doonnaa. Sida kor ku xusan, tani waa dhibaatada hagaajinta taas oo marka hore aan u baahannahay inaan helno asalka shaqada suurtagalka ah ee ku saabsan vector ee miisaanka. . Si kastaba ha ahaatee, marka hore waxay macno samaynaysaa in la fududeeyo hawsha nafteena: waxaan raadin doonaa derivative ee logarithm. hawlaha suurtagalka ah.
Waa maxay sababta logarithm ka dib, in hawlaha qalad saadka, waxaan ka bedelnay calaamadda on . Wax walba waa sahlan yihiin, maadaama dhibaatooyinka qiimeynta tayada model ay caado u tahay in la yareeyo qiimaha shaqada, waxaan ku dhufannay dhinaca midig ee muujinta iyo si waafaqsan, halkii la kordhin lahaa, hadda waxaan yareynaa shaqada.
Dhab ahaantii, hadda, indhahaaga hortooda, shaqada lumisku waxay ahayd mid si xamaasad leh looga soo qaatay - Khasaaraha Lojistikada Tababarka oo ka kooban laba fasal: ΠΈ .
Hadda, si loo helo isku-xireyaasha, waxaan u baahanahay oo kaliya inaan helno kala-soocida hawlaha qalad saadka ka dibna, iyadoo la adeegsanayo hababka hagaajinta nambarada, sida soo degista gradient ama stochastic gradient deescent, dooro iskubeegyada ugu wanaagsan . Laakiin, marka la eego mugga weyn ee maqaalka, waxaa la soo jeediyay in la sameeyo kala duwanaansho adiga kuu gaar ah, ama laga yaabee in tani ay noqon doonto mawduuc maqaalka soo socda oo leh xisaab badan oo aan lahayn tusaalooyin faahfaahsan.
Kiiska 2. Kala soocida walxaha ΠΈ
Habka halkan u socdaa wuxuu la mid noqon doonaa sida fasallada ΠΈ , laakiin dariiqa laftiisa si loo soo saaro shaqada khasaaraha Khasaaraha Lojistikada, waxay noqon doontaa mid qurux badan. Aan bilowno. Shaqada suurtogalka ah waxaan u isticmaali doonaa hawlwadeenka "haddii... ka dibna...". Taasi waa, haddii Shayga th waxaa iska leh fasalka , ka dib si loo xisaabiyo suurtogalnimada muunada waxaan isticmaalnaa suurtogalnimada , haddii shaygu uu ka tirsan yahay fasalka , ka dibna waxaan ku beddeleynaa suurtagalnimada . Tani waa waxa ay u egtahay shaqada suurtagalka ah:
Aan ku qeexno faraheena sida ay u shaqeyso. Aynu tixgelinno 4 xaaladood:
1. haddii ΠΈ , markaas suurtagalnimada muunadku "tagi"
2. haddii ΠΈ , markaas suurtagalnimada muunadku "tagi"
3. haddii ΠΈ , markaas suurtagalnimada muunadku "tagi"
4. haddii ΠΈ , markaas suurtagalnimada muunadku "tagi"
Way iska caddahay in kiisaska 1 iyo 3, marka suurtogalnimada si sax ah loo go'aamiyay algorithm, shaqada suurtagalka ah waa la kordhin doonaa, taasi waa, tani waa dhab ahaan waxa aan rabnay inaan helno. Si kastaba ha ahaatee, habkani waa mid aad u dhib badan, marka xigta waxaan tixgelin doonaa qoraal kooban. Laakiin marka hore, aynu ku dhejinno shaqada suurtogalka ah oo leh isbeddel calaamad, maadaama hadda aynu yaraynno.
Aan beddelno muujinta :
Aynu fududeyno ereyga saxda ah ee logarithm-ka iyadoo la adeegsanayo farsamooyin xisaabeed fudud oo hel:
Hadda waa waqtigii laga takhalusi lahaa hawlwadeenka "haddii... ka dibna...". Ogow marka shay fasalka ayaa iska leh , ka dibna odhaahda hoos timaada logarithm, ee hooseeyo, kor loogu qaaday awoodda , haddii shaygu uu ka tirsan yahay fasalka , dabadeed $e$ ayaa kor loogu qaadayaa awoodda . Sidaa darteed, tilmaanta shahaadada waxa lagu fududayn karaa in la isku geeyo labada xaaladood mid: . Kadibna shaqada qalad saadka wuxuu qaadan doonaa foomka:
Sida waafaqsan xeerarka logarithm-ka, waxaan u rogi jajabka oo aan dhignaa calaamadda "" (laga jaray) logarithm-ka, waxaan helnaa:
Waa kan shaqada khasaaraha luminta saadka, kaas oo loo isticmaalo habka tababarka ee walxaha loo qoondeeyey fasallada: ΠΈ .
Hagaag, meeshan waan ka baxay oo waxaan ku soo gabagabeynayaa maqaalkii.
Shaqadii hore ee qoraagu waa "Keenida isla'egta regression toos ah qaabka matrixka"
Qalabka caawimada
1. Suugaanta
1) Falanqaynta dib u celinta la dabaqay / N. Draper, G. Smith - 2nd. β M.: Maaliyadda iyo Tirakoobka, 1986 (oo laga turjumay Ingiriis)
2) Aragtida itimaalka iyo xisaabaadka xisaabta / V.E. Gmurman - meeriska 9aad. - M.: Dugsiga Sare, 2003
3) Aragtida itimaalka / N.I. Chernova - Novosibirsk: Jaamacadda Gobolka Novosibirsk, 2007
4) Falanqaynta ganacsiga: laga bilaabo xogta ilaa aqoonta / Paklin N. B., Oreshkov V. I. - 2nd ed. - St. Petersburg: Peter, 2013
5) Xogta Sayniska Sayniska ee xoqan / Joel Gras - St. Petersburg: BHV Petersburg, 2017
6) Tirakoobka la taaban karo ee khubarada Sayniska Xogta / P. Bruce, E. Bruce - St. Petersburg: BHV Petersburg, 2018
2. Muxaadarooyin, koorsooyin (video)
1)
2)
3)
4)
5)
3. Ilaha internetka
1)
2)
3)
4)
5)
6)
7)
8)
Source: www.habr.com