Ịta ata na mgbagha mgbagha

Ịta ata na mgbagha mgbagha

N'isiokwu a, anyị ga-enyocha usoro mgbakọ na mwepụ nke mgbanwe linear regression ọrụ в ọrụ mgbanwe mgbanwe logit (ma ọ bụghị nke a na-akpọ ọrụ nzaghachi logistic). Mgbe ahụ, na-eji arsenal usoro ohere kachasị, n'ikwekọ na usoro mgbagha mgbagha, anyị na-enweta ọrụ ọnwụ Mfu nke mgbagha, ma ọ bụ n'ikwu ya n'ụzọ ọzọ, anyị ga-akọwapụta ọrụ nke ahọpụtara paramita nke vector dị arọ na usoro mgbagha mgbagha. Ịta ata na mgbagha mgbagha.

Nkọwa edemede:

  1. Ka anyị kwugharịa njikọ ahịrị n'etiti mgbanwe abụọ
  2. Ka anyị chọpụta mkpa mgbanwe linear regression ọrụ Ịta ata na mgbagha mgbagha в ọrụ nzaghachi ngwa ngwa Ịta ata na mgbagha mgbagha
  3. Ka anyị mepụta mgbanwe na mmepụta ọrụ nzaghachi ngwa ngwa
  4. Ka anyị gbalịa ịghọta ihe kpatara usoro square kacha nta ji dị njọ mgbe ị na-ahọrọ paramita Ịta ata na mgbagha mgbagha ọrụ Mfu nke mgbagha
  5. Anyị na-eji usoro ohere kachasị maka ikpebi ọrụ nhọrọ oke Ịta ata na mgbagha mgbagha:

    5.1. Ikpe 1: ọrụ Mfu nke mgbagha maka ihe nwere aha klaasị 0 и 1:

    Ịta ata na mgbagha mgbagha

    5.2. Ikpe 2: ọrụ Mfu nke mgbagha maka ihe nwere aha klaasị -1 и +1:

    Ịta ata na mgbagha mgbagha


Edemede a juputara na ihe atụ dị mfe nke ngụkọ niile dị mfe iji ọnụ ma ọ bụ n'akwụkwọ; n'ọnọdụ ụfọdụ, enwere ike ịchọ ihe mgbako. Ya mere jikere :)

Ebubere akụkọ a maka ndị ọkà mmụta sayensị data nwere ọkwa izizi na ntọala mmụta igwe.

Akụkọ ahụ ga-enyekwa koodu maka ịse eserese na mgbako. Edere koodu niile n'asụsụ ahụ Eke 2.7. Ka m kọwaa n'ihu maka "ihe ọhụrụ" nke ụdị eji - nke a bụ otu n'ime ọnọdụ maka ị nweta akwụkwọ a maara nke ọma site na. Yandex n'elu ikpo okwu mmụta dị n'ịntanetị ama ama Coursera, na, dị ka mmadụ nwere ike iche, a kwadebere ihe a dabere na nkuzi a.

01. Ndabere n'ahịrị kwụ ọtọ

Ọ bụ ihe ezi uche dị na ya ịjụ ajụjụ a - gịnị ka ịdabere na linear na nlọghachi azụ azụ nwere ime na ya?

Ọ dị mfe! Logistic regression bụ otu n'ime ụdị nke dị na nkesa linear. N'okwu dị mfe, ọrụ nke classifier linear bụ ịkọ ụkpụrụ ebumnuche Ịta ata na mgbagha mgbagha site na mgbanwe (regressors) Ịta ata na mgbagha mgbagha. A kwenyere na ịdabere n'etiti njirimara Ịta ata na mgbagha mgbagha na ụkpụrụ ebumnuche Ịta ata na mgbagha mgbagha ahịrị. N'ihi ya aha classifier - linear. N'ikwu ya n'ụzọ siri ike, usoro mgbagha mgbagha na-adabere n'echiche ahụ na e nwere njikọ dị n'etiti njirimara. Ịta ata na mgbagha mgbagha na ụkpụrụ ebumnuche Ịta ata na mgbagha mgbagha. Nke a bụ njikọ.

Enwere ihe atụ nke mbụ na studio, ma ọ bụ, n'ụzọ ziri ezi, gbasara ndabere rectilinear nke ọnụọgụ ndị a na-amụ. N'ime usoro nke ịkwadebe isiokwu ahụ, ahụrụ m ihe atụ nke etinyelarị ọtụtụ mmadụ n'ọnụ - ịdabere na ugbu a na voltaji. ("Nyocha nlọghachi azụ etinyere", N. Draper, G. Smith). Anyị ga-elelekwa ya ebe a.

Dabere na Iwu Ohm:

Ịta ata na mgbagha mgbaghaebe Ịta ata na mgbagha mgbagha - ike ugbu a, Ịta ata na mgbagha mgbagha - voltaji, Ịta ata na mgbagha mgbagha - iguzogide.

Ọ bụrụ na anyị amaghị Iwu Ohm, mgbe ahụ, anyị nwere ike ịchọta ịdabere n'ụzọ doro anya site n'ịgbanwe Ịta ata na mgbagha mgbagha na nha Ịta ata na mgbagha mgbagha, mgbe ọ na-akwado Ịta ata na mgbagha mgbagha edoziri. Mgbe ahụ, anyị ga-ahụ na dabere graph Ịta ata na mgbagha mgbagha si Ịta ata na mgbagha mgbagha na-enye ọtụtụ ma ọ bụ obere ahịrị kwụ ọtọ site na mmalite. Anyị na-ekwu "karịa ma ọ bụ obere" n'ihi na, ọ bụ ezie na mmekọrịta ahụ ziri ezi n'ezie, nha anyị nwere ike ịnwe obere njehie, ya mere isi ihe dị na eserese ahụ nwere ike ghara ịdaba kpọmkwem na ahịrị, ma a ga-agbasasị ya gburugburu na-enweghị usoro.

Eserese 1 "Ndabere" Ịta ata na mgbagha mgbagha si Ịta ata na mgbagha mgbagha»

Ịta ata na mgbagha mgbagha

Koodu eserese eserese

import matplotlib.pyplot as plt
%matplotlib inline

import numpy as np

import random

R = 13.75

x_line = np.arange(0,220,1)
y_line = []
for i in x_line:
    y_line.append(i/R)
    
y_dot = []
for i in y_line:
    y_dot.append(i+random.uniform(-0.9,0.9))


fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(x_line,y_line,color = 'purple',lw = 3, label = 'I = U/R')
plt.scatter(x_line,y_dot,color = 'red', label = 'Actual results')
plt.xlabel('I', size = 16)
plt.ylabel('U', size = 16)
plt.legend(prop = {'size': 14})
plt.show()

02. Mkpa ịgbanwe akara nkwụghachi azụ linear

Ka anyị leba anya n’ihe atụ ọzọ. Ka anyị were ya na anyị na-arụ ọrụ n'ụlọ akụ na ọrụ anyị bụ ịchọpụta na onye na-agbaziri agbaziri nwere ike ịkwụghachi ego ahụ dabere n'ụfọdụ ihe. Iji mee ka ọrụ ahụ dị mfe, anyị ga-atụle naanị ihe abụọ: ụgwọ ọnwa nke onye gbaziri ego na ego ịkwụ ụgwọ nbinye ego kwa ọnwa.

Ọrụ ahụ dị oke ọnọdụ, mana site na ihe atụ a, anyị nwere ike ịghọta ihe kpatara na ozughị iji linear regression ọrụ, ma chọpụtakwa mgbanwe ndị dị mkpa iji rụọ ọrụ ahụ.

Ka anyị laghachi n'ihe atụ. Aghọtara na ka ụgwọ ọnwa dị elu, onye na-agbazinye ego ga-enwe ike ịkenye kwa ọnwa iji kwụọ ụgwọ ego ahụ. N'otu oge ahụ, maka ụfọdụ ụgwọ nso nso a mmekọrịta ga-abụ nnọọ linear. Dịka ọmụmaatụ, ka anyị were ụgwọ ụgwọ site na 60.000 RUR ruo 200.000 RUR ma chee na n'ime ụgwọ ọnwa a kapịrị ọnụ, ịdabere na nha nke ịkwụ ụgwọ kwa ọnwa na nha nke ụgwọ bụ akara. Ka anyị kwuo na maka ụgwọ ọrụ a kapịrị ọnụ, ekpughere na oke ụgwọ ịkwụ ụgwọ enweghị ike ịda n'okpuru 3 na onye gbaziri agbaziri ga-enwerịrị 5.000 RUR na nchekwa. Na naanị na nke a, anyị ga-eche na onye gbaziri agbaziri ga-akwụghachi ego ahụ na ụlọ akụ. Mgbe ahụ, akara regression linear ga-ewere ụdị:

Ịta ata na mgbagha mgbagha

ebe Ịta ata na mgbagha mgbagha, Ịta ata na mgbagha mgbagha, Ịta ata na mgbagha mgbagha, Ịta ata na mgbagha mgbagha - ụgwọ Ịta ata na mgbagha mgbagha- onye na-agbaziri ego, Ịta ata na mgbagha mgbagha - ịkwụ ụgwọ ego Ịta ata na mgbagha mgbagha- onye na-agbaziri agbaziri.

Dochie ụgwọ ọnwa na ịkwụ ụgwọ mbinye ego na paramita edoziri n'ime nha anya Ịta ata na mgbagha mgbagha Ị nwere ike ikpebi ma ị ga-enye ma ọ bụ jụ mbinye ego.

Na-ele anya n'ihu, anyị na-achọpụta na, na parampat ndị enyere Ịta ata na mgbagha mgbagha linear regression ọrụ, eji na ọrụ nzaghachi ngwa ngwa ga-emepụta nnukwu ụkpụrụ nke ga-eme ka mgbako dị mgbagwoju anya iji chọpụta ihe gbasara nke mbinye ego. Ya mere, a na-atụ aro iji belata ọnụọgụ anyị, ka anyị kwuo, site na 25.000 ugboro. Mgbanwe a na ọnụọgụgụ agaghị agbanwe mkpebi ịnye ego. Ka anyị cheta isi ihe a maka ọdịnihu, ma ugbu a, iji mee ka ọ pụta ìhè ọbụna ihe anyị na-ekwu, ka anyị tụlee ọnọdụ ahụ na ndị nwere ike ịgbazinye ego atọ.

Tebụl 1 "Ndị nwere ike ịgbazinye ego"

Ịta ata na mgbagha mgbagha

Koodu maka imepụta tebụl

import pandas as pd

r = 25000.0
w_0 = -5000.0/r
w_1 = 1.0/r
w_2 = -3.0/r

data = {'The borrower':np.array(['Vasya', 'Fedya', 'Lesha']), 
        'Salary':np.array([120000,180000,210000]),
       'Payment':np.array([3000,50000,70000])}

df = pd.DataFrame(data)

df['f(w,x)'] = w_0 + df['Salary']*w_1 + df['Payment']*w_2

decision = []
for i in df['f(w,x)']:
    if i > 0:
        dec = 'Approved'
        decision.append(dec)
    else:
        dec = 'Refusal'
        decision.append(dec)
        
df['Decision'] = decision

df[['The borrower', 'Salary', 'Payment', 'f(w,x)', 'Decision']]

Dị ka data dị na tebụl, Vasya, onye na-akwụ ụgwọ 120.000 RUR, chọrọ ịnata mbinye ego ka o wee nwee ike ịkwụghachi ya kwa ọnwa na 3.000 RUR. Anyị kpebisiri ike na iji kwado mbinye ego ahụ, ụgwọ ọnwa Vasya ga-agafe okpukpu atọ karịa ego a ga-akwụ, ma a ga-enwerịrị 5.000 RUR. Vasya na-emezu ihe a chọrọ: Ịta ata na mgbagha mgbagha. Ọbụna 106.000 RUR fọdụrụ. N'agbanyeghị eziokwu na mgbe ịgbakọ Ịta ata na mgbagha mgbagha anyị ebelatala ọgbaghara Ịta ata na mgbagha mgbagha 25.000 ugboro, ihe si na ya pụta bụ otu - enwere ike ịkwado ego ahụ. Fedya ga-anatakwa mbinye ego, mana Lesha, n'agbanyeghị na ọ na-enweta ọtụtụ ihe, ga-egbochi agụụ ya.

Ka anyị see eserese maka ikpe a.

Chart 2 "Nhazi nke ndị gbaziri ego"

Ịta ata na mgbagha mgbagha

Koodu maka ịbịaru eserese

salary = np.arange(60000,240000,20000)
payment = (-w_0-w_1*salary)/w_2


fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(salary, payment, color = 'grey', lw = 2, label = '$f(w,x_i)=w_0 + w_1x_{i1} + w_2x_{i2}$')
plt.plot(df[df['Decision'] == 'Approved']['Salary'], df[df['Decision'] == 'Approved']['Payment'], 
         'o', color ='green', markersize = 12, label = 'Decision - Loan approved')
plt.plot(df[df['Decision'] == 'Refusal']['Salary'], df[df['Decision'] == 'Refusal']['Payment'], 
         's', color = 'red', markersize = 12, label = 'Decision - Loan refusal')
plt.xlabel('Salary', size = 16)
plt.ylabel('Payment', size = 16)
plt.legend(prop = {'size': 14})
plt.show()

Ya mere, ahịrị anyị kwụ ọtọ, nke e wuru dịka ọrụ ahụ si dị Ịta ata na mgbagha mgbagha, na-ekewa ndị na-agbaziri agbaziri "ọjọọ" na ndị "ezigbo". Ndị na-agbaziri agbaziri ndị ọchịchọ ha na-adabaghị na ikike ha dị n'elu akara (Lesha), ebe ndị, dị ka parampat nke ihe nlereanya anyị, nwere ike ịkwụghachi ego ahụ dị n'okpuru akara (Vasya na Fedya). N'ikwu ya n'ụzọ ọzọ, anyị nwere ike ikwu nke a: ahịrị anyị kpọmkwem na-ekewa ndị na-agbazinye ego n'ime klas abụọ. Ka anyị gosi ha dị ka ndị a: na klas Ịta ata na mgbagha mgbagha Anyị ga-ekewa ndị na-agbaziri agbaziri ndị nwere ike ịkwụghachi ego ahụ dị ka Ịta ata na mgbagha mgbagha ma ọ bụ Ịta ata na mgbagha mgbagha Anyị ga-agụnye ndị na-agbazinye ego ndị o yikarịrị ka ha agaghị enwe ike ịkwụghachi ego ahụ.

Ka anyị chịkọta nkwubi okwu sitere n'ihe atụ a dị mfe. Ka anyị were isi ihe Ịta ata na mgbagha mgbagha na, na-edochi nhazi nke isi ihe n'ime nha anya kwekọrọ nke ahịrị Ịta ata na mgbagha mgbagha, tụlee nhọrọ atọ:

  1. Ọ bụrụ na isi ihe dị n'okpuru akara ma anyị na-ekenye ya na klas Ịta ata na mgbagha mgbagha, mgbe ahụ uru nke ọrụ ahụ Ịta ata na mgbagha mgbagha ga-abụ nke ọma si Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha. Nke a pụtara na anyị nwere ike iche na ohere nke ịkwụghachi ego ahụ dị n'ime Ịta ata na mgbagha mgbagha. Ka ọnụ ahịa ọrụ dị ukwuu, ọ ga-adị elu karịa.
  2. Ọ bụrụ na isi ihe dị n'elu ahịrị ma anyị kenye ya na klaasị Ịta ata na mgbagha mgbagha ma ọ bụ Ịta ata na mgbagha mgbagha, mgbe ahụ uru nke ọrụ ga-adịghị mma si Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha. Mgbe ahụ, anyị ga-eche na ohere nke ịkwụ ụgwọ ụgwọ dị n'ime Ịta ata na mgbagha mgbagha na, ka uru zuru oke nke ọrụ ahụ dị, otú ahụ ka obi ike anyị dị elu.
  3. Isi ihe dị na ahịrị kwụ ọtọ, na oke n'etiti klaasị abụọ. N'okwu a, uru nke ọrụ ahụ Ịta ata na mgbagha mgbagha ga-aha nhata Ịta ata na mgbagha mgbagha na ihe gbasara nke puru omume nke ịkwụghachi ego ahụ hà nhata Ịta ata na mgbagha mgbagha.

Ugbu a, ka anyị were ya na anyị enweghị ihe abụọ, ma ọtụtụ iri, ma ọ bụghị atọ, ma ọtụtụ puku ndị na-agbazinye ego. Mgbe ahụ kama ahịrị kwụ ọtọ anyị ga-enwe m-akụkụ ụgbọ elu na ọnụọgụgụ Ịta ata na mgbagha mgbagha a gaghị ewepụ anyị na ikuku dị gịrịgịrị, mana ewepụtara dị ka iwu niile si dị, yana dabere na data chịkọbara na ndị na-agbaziri agbaziri nwere ma ọ bụ akwụghachighị ego ahụ. Ma n'ezie, mara na anyị na-ahọrọ ndị na-agbaziri ego ugbu a site na iji ọnụọgụ ọnụọgụ ama ama Ịta ata na mgbagha mgbagha. N'ezie, ọrụ nke ihe ngbanwe nke logistic bụ kpọmkwem iji chọpụta paramita Ịta ata na mgbagha mgbagha, nke uru nke ọnwụ na-arụ ọrụ Mfu nke mgbagha ga-agbasa na kacha nta. Mana gbasara otu esi agbakọ vector Ịta ata na mgbagha mgbagha, anyị ga-achọpụta ihe ndị ọzọ na ngalaba nke 5 nke isiokwu ahụ. Ka ọ dị ugbu a, anyị na-alaghachi n'ala ahụ e kwere ná nkwa - onye ọrụ banki anyị na ndị ahịa ya atọ.

Daalụ maka ọrụ ahụ Ịta ata na mgbagha mgbagha anyị ma onye nwere ike inye ego na onye kwesịrị ka a jụ. Ma ị pụghị ịgakwuru onye nduzi na ozi dị otú ahụ, n'ihi na ha chọrọ inweta n'aka anyị ohere nke ịkwụghachi ego nke onye ọ bụla na-agbazinye ego. Ihe a ga-eme? Azịza ya dị mfe - anyị kwesịrị ịgbanwe ọrụ ahụ n'ụzọ ụfọdụ Ịta ata na mgbagha mgbagha, onye ụkpụrụ ya dị na nso Ịta ata na mgbagha mgbagha ka ọrụ nke ụkpụrụ ya ga-adị na nso Ịta ata na mgbagha mgbagha. Na ọrụ dị otú ahụ dị, a na-akpọ ya Ọrụ nzaghachi logistic ma ọ bụ mgbanwe mgbanwe logistic. Zute:

Ịta ata na mgbagha mgbagha

Ka anyị hụ nzọụkwụ site nzọụkwụ otú ọ na-arụ ọrụ ọrụ nzaghachi ngwa ngwa. Rịba ama na anyị ga-eje ije n'akụkụ nke ọzọ, ya bụ. anyị ga-eche na anyị maara uru nke puru omume, nke dabere na oke site na Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha na mgbe ahụ, anyị ga-eme ka a "wepụ" uru na dum nso nke nọmba si Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha.

03. Anyị na-enweta ọrụ nzaghachi logistic

Nzọụkwụ 1. Tụgharịa ụkpụrụ nke puru omume n'ime oke Ịta ata na mgbagha mgbagha

N'oge mgbanwe nke ọrụ Ịta ata na mgbagha mgbagha в ọrụ nzaghachi ngwa ngwa Ịta ata na mgbagha mgbagha Anyị ga-ahapụ naanị onye nyocha kredit anyị wee gaa legharịa ndị na-ede akwụkwọ kama. Ee e, n'ezie, anyị agaghị etinye nzo, ihe niile na-amasị anyị bụ ihe okwu ahụ pụtara, dịka ọmụmaatụ, ohere bụ 4 ruo 1. Ihe mgbagwoju anya, nke maara nke ọma na ndị na-ere ahịa niile, bụ oke nke "ihe ịga nke ọma" na " ọdịda". N'okwu nke puru omume, ọgbaghara bụ ohere nke mmemme na-eme nke kewara site na ihe omume agaghị eme. Ka anyị detuo usoro maka ohere mmemme ime Ịta ata na mgbagha mgbagha:

Ịta ata na mgbagha mgbagha

ebe Ịta ata na mgbagha mgbagha - puru omume ime, Ịta ata na mgbagha mgbagha - puru omume nke ihe omume agaghị eme

Dịka ọmụmaatụ, ọ bụrụ na ihe gbasara nke puru na ịnyịnya na-eto eto, nke siri ike na nke na-egwu egwu nke aha ya bụ "Veterok" ga-eti agadi nwanyị na-agba ọsọ aha ya bụ "Matilda" n'ọsọ asọmpi hà nhata. Ịta ata na mgbagha mgbagha, mgbe ahụ, ohere nke ịga nke ọma maka "Veterok" ga-abụ Ịta ata na mgbagha mgbagha к Ịta ata na mgbagha mgbagha Ịta ata na mgbagha mgbagha na nke ọzọ, n'ịmara nke ọma, ọ gaghị esiri anyị ike ịgbakọ ihe gbasara nke puru omume Ịta ata na mgbagha mgbagha:

Ịta ata na mgbagha mgbagha

Ya mere, anyị amụtala "ịsụgharị" puru omume n'ime ohere, nke na-ewere ụkpụrụ si Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha. Ka anyị mee otu nzọụkwụ ọzọ wee mụta ịsụgharị "ịtụgharị" ihe gbasara nke puru omume na ahịrị ọnụọgụgụ niile site na Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha.

Nzọụkwụ 2. Tụgharịa ụkpụrụ nke puru omume n'ime oke Ịta ata na mgbagha mgbagha

Nzọụkwụ a dị nnọọ mfe - ka anyị were logarithm nke erughị ala na isi nke Euler nọmba. Ịta ata na mgbagha mgbagha ma anyị nwetara:

Ịta ata na mgbagha mgbagha

Ugbu a, anyị maara na ọ bụrụ Ịta ata na mgbagha mgbagha, wee gbakọọ uru Ịta ata na mgbagha mgbagha ga-adị nnọọ mfe ma, Ọzọkwa, ọ kwesịrị ịdị mma: Ịta ata na mgbagha mgbagha. Nke a bụ eziokwu.

N'ihi ọchịchọ ịmata ihe, ka anyị lelee ihe ma ọ bụrụ Ịta ata na mgbagha mgbagha, mgbe ahụ, anyị na-atụ anya ịhụ uru na-adịghị mma Ịta ata na mgbagha mgbagha. Anyị na-enyocha: Ịta ata na mgbagha mgbagha. Nke ahụ dị mma.

Ugbu a, anyị maara otú iji tọghata puru omume uru si Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha tinyere dum nọmba akara si Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha. Na nzọụkwụ ọzọ, anyị ga-eme ihe na-abụghị.

Maka ugbu a, anyị na-achọpụta na dị ka iwu nke logarithm si dị, ịmara uru nke ọrụ ahụ Ịta ata na mgbagha mgbagha, ị nwere ike gbakọọ erughị eru:

Ịta ata na mgbagha mgbagha

Usoro a nke ịchọpụta ihe ndabara ga-abara anyị uru na nzọụkwụ ọzọ.

Nzọụkwụ 3. Ka anyị wepụta usoro iji chọpụta Ịta ata na mgbagha mgbagha

Ya mere, anyị mụtara, mara Ịta ata na mgbagha mgbagha, chọta ụkpụrụ ọrụ Ịta ata na mgbagha mgbagha. Otú ọ dị, n'eziokwu, anyị chọrọ kpọmkwem ihe na-abụghị - ịmara uru Ịta ata na mgbagha mgbagha chọta Ịta ata na mgbagha mgbagha. Iji mee nke a, ka anyị tụgharịa gaa n'echiche dị otú ahụ dị ka ọrụ ndị na-agbanwe agbanwe, dịka nke:

Ịta ata na mgbagha mgbagha

N'isiokwu a, anyị agaghị enweta usoro dị n'elu, ma anyị ga-elele ya site na iji nọmba site na ihe atụ dị n'elu. Anyị maara na n'ihe dị ka 4 ruo 1 (Ịta ata na mgbagha mgbagha), ihe puru omume nke ihe omume a mere bụ 0.8 (Ịta ata na mgbagha mgbagha). Ka anyị mee nnọchi: Ịta ata na mgbagha mgbagha. Nke a dabara na mgbako anyị mere na mbụ. Ka anyị gaa n'ihu.

Na ikpeazụ nzọụkwụ anyị wepụrụ na Ịta ata na mgbagha mgbagha, nke pụtara na ị nwere ike ịme ngbanwe n'ime ọrụ mgbagwoju anya. Anyị nwetara:

Ịta ata na mgbagha mgbagha

Kewaa ma ọnụọgụgụ na ọnụọgụgụ site Ịta ata na mgbagha mgbagha, Mgbe ahụ:

Ịta ata na mgbagha mgbagha

Naanị n'ọnọdụ, iji jide n'aka na anyị emehieghị ebe ọ bụla, anyị ga-eme otu obere nlele ọzọ. Na nzọụkwụ 2, anyị maka Ịta ata na mgbagha mgbagha kpebisiri ike na Ịta ata na mgbagha mgbagha. Mgbe ahụ, dochie uru Ịta ata na mgbagha mgbagha n'ime ọrụ nzaghachi logistic, anyị na-atụ anya inweta Ịta ata na mgbagha mgbagha. Anyị dochie ma nweta: Ịta ata na mgbagha mgbagha

Ekele, ezigbo onye na-agụ akwụkwọ, anyị ewepụtala ma nwalee ọrụ nzaghachi ngwa ngwa. Ka anyị leba anya na eserese nke ọrụ ahụ.

Eserese 3 "Ọrụ nzaghachi Logistic"

Ịta ata na mgbagha mgbagha

Koodu maka ịbịaru eserese

import math

def logit (f):
    return 1/(1+math.exp(-f))

f = np.arange(-7,7,0.05)
p = []

for i in f:
    p.append(logit(i))

fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(f, p, color = 'grey', label = '$ 1 / (1+e^{-w^Tx_i})$')
plt.xlabel('$f(w,x_i) = w^Tx_i$', size = 16)
plt.ylabel('$p_{i+}$', size = 16)
plt.legend(prop = {'size': 14})
plt.show()

Na akwụkwọ akụkọ ị nwekwara ike ịhụ aha ọrụ a dị ka ọrụ sigmoid. Eserese ahụ na-egosi n'ụzọ doro anya na mgbanwe bụ isi na ihe gbasara puru omume nke ihe nwere klaasị na-apụta n'ime obere oke. Ịta ata na mgbagha mgbagha, ebe si Ịta ata na mgbagha mgbagha ka Ịta ata na mgbagha mgbagha.

M na-atụ aro ịlaghachi na onye nyocha kredit anyị ma nyere ya aka gbakọọ ohere nke ịkwụghachi ego, ma ọ bụghị ya, ọ nwere ike ịhapụ ya n'enweghị ego :)

Tebụl 2 "Ndị nwere ike ịgbazinye ego"

Ịta ata na mgbagha mgbagha

Koodu maka imepụta tebụl

proba = []
for i in df['f(w,x)']:
    proba.append(round(logit(i),2))
    
df['Probability'] = proba

df[['The borrower', 'Salary', 'Payment', 'f(w,x)', 'Decision', 'Probability']]

Yabụ, anyị ekpebiela ohere ịkwụghachi ego mbinye ego. N'ozuzu, nke a yiri ka ọ bụ eziokwu.

N'ezie, ihe gbasara nke puru omume na Vasya, na-akwụ ụgwọ nke 120.000 RUR, ga-enwe ike inye 3.000 RUR na ụlọ akụ kwa ọnwa dị nso 100%. Site n'ụzọ, anyị ga-aghọta na ụlọ akụ nwere ike ịnye mbinye ego na Lesha ma ọ bụrụ na amụma ụlọ akụ na-enye, dịka ọmụmaatụ, maka ịgbazinye ndị ahịa ihe nwere ike ịkwụ ụgwọ ego karịa, sịnụ, 0.3. Ọ bụ naanị na n'ọnọdụ a, ụlọ akụ ga-emepụta nnukwu nchekwa maka mfu enwere ike.

Ekwesiri iburu n'uche na ego a na-akwụ ụgwọ nke opekata mpe 3 na oke nke 5.000 RUR wepụrụ n'uko ụlọ. Ya mere, anyị enweghị ike iji vector nke ịdị arọ n'ụdị mbụ ya Ịta ata na mgbagha mgbagha. Anyị kwesịrị ibelata ọnụọgụgụ nke ukwuu, na nke a, anyị kewara ọnụọgụ nke ọ bụla site na 25.000, ya bụ, n'ezie, anyị meziri nsonaazụ. Ma e mere nke a kpọmkwem iji mee ka nghọta nke ihe ahụ dị mfe n'oge mbụ. Na ndụ, anyị agaghị achọ imepụta na mezie ọnụọgụgụ, mana chọta ha. Na ngalaba na-esote nke isiokwu anyị ga-enweta nha nha nke ahọpụtara paramita Ịta ata na mgbagha mgbagha.

04. Ụzọ kacha nta n'ámá maka ịchọpụta vector nke arọ Ịta ata na mgbagha mgbagha na ọrụ nzaghachi ngwa ngwa

Anyị amaralarị usoro a maka ịhọrọ vector nke ịdị arọ Ịta ata na mgbagha mgbagha, dị ka Ụzọ kacha nta square (LSM) na n'ezie, gịnị kpatara na anyị anaghị eji ya na nsogbu nhazi ọnụọgụ abụọ? N'ezie, ọ dịghị ihe na-egbochi gị iji MNC, naanị usoro a na nsogbu nhazi ọkwa na-enye nsonaazụ na-adịchaghị mma karịa Mfu nke mgbagha. Enwere usoro ihe ndabere maka nke a. Ka anyị buru ụzọ leba anya n’otu ihe atụ dị mfe.

Ka anyị were na ụdị anyị (iji MSE и Mfu nke mgbagha) amalitelarị ịhọrọ vector nke ịdị arọ Ịta ata na mgbagha mgbagha ma anyị kwụsịrị ịgbakọ n'otu nzọụkwụ. Ọ dịghị mkpa ma n'etiti, na njedebe ma ọ bụ ná mmalite, isi ihe bụ na anyị nwere ụfọdụ ụkpụrụ nke vector nke arọ na ka anyị chere na na nzọụkwụ a, vector nke arọ. Ịta ata na mgbagha mgbagha maka ụdị abụọ ahụ enweghị ọdịiche. Mgbe ahụ, buru ihe ọ̀tụ̀tụ̀ a na-akpata ma dochie ha ọrụ nzaghachi ngwa ngwa (Ịta ata na mgbagha mgbagha) maka ụfọdụ ihe bụ nke klaasị Ịta ata na mgbagha mgbagha. Anyị na-enyocha ikpe abụọ mgbe, dị ka vector nke arọ ahọpụtara, ihe nlereanya anyị ezighi ezi na nke ọzọ - ihe nlereanya ahụ nwere obi ike na ihe ahụ bụ nke klas. Ịta ata na mgbagha mgbagha. Ka anyị hụ ntaramahụhụ a ga-enye mgbe ị na-eji ya MNC и Mfu nke mgbagha.

Koodu iji gbakọọ ntaramahụhụ dabere na ọrụ mfu ejiri

# класс объекта
y = 1
# вероятность отнесения объекта к классу в соответствии с параметрами w
proba_1 = 0.01

MSE_1 = (y - proba_1)**2
print 'Штраф MSE при грубой ошибке =', MSE_1

# напишем функцию для вычисления f(w,x) при известной вероятности отнесения объекта к классу +1 (f(w,x)=ln(odds+))
def f_w_x(proba):
    return math.log(proba/(1-proba)) 

LogLoss_1 = math.log(1+math.exp(-y*f_w_x(proba_1)))
print 'Штраф Log Loss при грубой ошибке =', LogLoss_1

proba_2 = 0.99

MSE_2 = (y - proba_2)**2
LogLoss_2 = math.log(1+math.exp(-y*f_w_x(proba_2)))

print '**************************************************************'
print 'Штраф MSE при сильной уверенности =', MSE_2
print 'Штраф Log Loss при сильной уверенности =', LogLoss_2

Ihe gbasara nhiehie - ihe nlereanya na-ekenye ihe na klas Ịta ata na mgbagha mgbagha na ihe puru omume nke 0,01

Ntaramahụhụ ojiji MNC ga-abụ:
Ịta ata na mgbagha mgbagha

Ntaramahụhụ ojiji Mfu nke mgbagha ga-abụ:
Ịta ata na mgbagha mgbagha

Okwu nke obi ike siri ike - ihe nlereanya na-ekenye ihe na klas Ịta ata na mgbagha mgbagha na ihe puru omume nke 0,99

Ntaramahụhụ ojiji MNC ga-abụ:
Ịta ata na mgbagha mgbagha

Ntaramahụhụ ojiji Mfu nke mgbagha ga-abụ:
Ịta ata na mgbagha mgbagha

Ọmụmaatụ a na-egosi nke ọma na ọ bụrụ na enwere nnukwu njehie, ọrụ mfu Mfu ndekọ penalizes nlereanya budata karịa MSE. Ka anyị ghọta ugbu a ihe ndabere usoro iwu bụ iji ọrụ ọnwụ Mfu ndekọ na nsogbu nhazi ọkwa.

05. Usoro ohere kachasị na mgbagha mgbagha

Dị ka e kwere ná mmalite, isiokwu ahụ jupụtara na ihe atụ ndị dị mfe. Na studio e nwere ihe atụ ọzọ na ochie ọbịa - ụlọ akụ borrowers: Vasya, Fedya na Lesha.

Ọ bụrụ na, tupu ịmepụta ihe atụ, ka m chetara gị na na ndụ anyị na-emeso ihe atụ ọzụzụ nke puku kwuru puku ma ọ bụ nde ihe nwere iri ma ọ bụ narị atụmatụ. Agbanyeghị, ebe a, a na-ewere ọnụọgụ ndị ahụ ka ha wee nwee ike dabara n'isi nke onye sayensị data novice.

Ka anyị laghachi n'ihe atụ. Ka anyị were ya na onye isi ụlọ akụ ahụ kpebiri ịnye onye ọ bụla nọ na mkpa ego ego, n'agbanyeghị na algọridim gwara ya ka ọ ghara inye ya Lesha. Ma ugbu a, oge zuru ezu agafeela ma anyị maara onye n'ime ndị dike atọ ahụ kwụrụ ụgwọ ego na nke na-emeghị. Ihe a ga-atụ anya ya: Vasya na Fedya kwụghachiri ego ahụ, ma Lesha emeghị. Ugbu a, ka anyị were ya na nsonaazụ a ga-abụ ihe nlele ọzụzụ ọhụrụ maka anyị, n'otu oge ahụ, ọ dị ka a ga - asị na data niile gbasara ihe ndị na - emetụta ohere nke ịkwụghachi mbinye ego (ụgwọ onye gbaziri, nha nke ịkwụ ụgwọ kwa ọnwa) efunahụla. Mgbe ahụ, n'eziokwu, anyị nwere ike iche na onye ọ bụla na-agbazinye ego nke atọ anaghị akwụghachi ego ahụ na ụlọ akụ, ma ọ bụ na okwu ndị ọzọ, ihe gbasara nke puru omume nke onye na-agbazinye ọzọ ga-akwụghachi ego ahụ. Ịta ata na mgbagha mgbagha. Echiche a na-eche echiche nwere nkwenye echiche ma dabere na usoro ohere kachasị, a na-akpọkarị ya n'akwụkwọ ụkpụrụ nke kachasị.

Nke mbụ, ka anyị mata ngwa echiche.

Enwere ike ime nlele bụ ihe gbasara nke puru omume nke inweta kpọmkwem ụdị nlele ahụ, nweta kpọmkwem ihe nlele/nsonaazụ dị otú ahụ, ya bụ. ngwaahịa nke ihe gbasara nke puru omume nke inweta nke ọ bụla n'ime ihe nlele (dịka ọmụmaatụ, ma akwụghachi ụgwọ nke Vasya, Fedya na Lesha ma ọ bụ akwụghachighị ya n'otu oge).

Enwere ike ịrụ ọrụ na-ejikọta ohere nke nlele na ụkpụrụ nke paramita nkesa.

N'ọnọdụ anyị, ihe nlele ọzụzụ bụ atụmatụ Bernoulli zuru oke, nke mgbanwe mgbanwe na-ewe naanị ụkpụrụ abụọ: Ịta ata na mgbagha mgbagha ma ọ bụ Ịta ata na mgbagha mgbagha. Ya mere, enwere ike dee ihe nlele ahụ dị ka ọrụ nwere ike ime nke oke Ịta ata na mgbagha mgbagha dị ka ndị a:

Ịta ata na mgbagha mgbagha
Ịta ata na mgbagha mgbagha

Enwere ike ịkọwa ntinye dị n'elu dị ka ndị a. Ihe puru omume nkwonkwo na Vasya na Fedya ga-akwụghachi ego ahụ hà nhata Ịta ata na mgbagha mgbagha, ihe gbasara nke puru omume na Lesha agaghị akwụghachi ego ahụ hà nhata Ịta ata na mgbagha mgbagha (ebe ọ bụ na ọ bụghị nkwụghachi ụgwọ mgbazinye ego mere), ya mere nkwonkwo puru omume nke ihe atọ a hà nhata. Ịta ata na mgbagha mgbagha.

Usoro ohere kacha bụ usoro iji tụọ oke amaghi ama site n'ịbawanye ohere ọrụ. N'ọnọdụ anyị, anyị kwesịrị ịchọta uru dị otú ahụ Ịta ata na mgbagha mgbagha, na nke Ịta ata na mgbagha mgbagha ruru ya kacha.

Ebee ka echiche n'ezie si - ịchọ uru nke oke amaghi ama nke ọrụ nwere ike rute oke? Isi mmalite nke echiche ahụ sitere n'echiche bụ na ihe nlele bụ naanị isi ihe ọmụma anyị nwere gbasara ọnụ ọgụgụ mmadụ. A na-anọchi anya ihe niile anyị maara gbasara ọnụ ọgụgụ ndị mmadụ na nlele. Ya mere, naanị ihe anyị nwere ike ikwu bụ na ihe nlele bụ ngosipụta kachasị mma nke ọnụ ọgụgụ ndị dị anyị. Ya mere, anyị kwesịrị ịchọta paramita nke ihe nlele dịnụ ga-abụ nke kachasị.

N'ụzọ doro anya, anyị na-enwe nsogbu njikarịcha nke anyị kwesịrị ịchọta isi ihe na-arụ ọrụ. Iji chọta ebe njedebe, ọ dị mkpa ịtụle ọnọdụ nke mbụ, ya bụ, mee ka ihe nrụpụta ọrụ ahụ dị na efu ma dozie nha anya n'ihe gbasara oke achọrọ. Otú ọ dị, ịchọ ihe mmepụta nke ngwaahịa nke ọtụtụ ihe nwere ike ịbụ ọrụ dị ogologo; iji zere nke a, e nwere usoro pụrụ iche - ịgbanwe na logarithm. ohere ọrụ. Gịnị mere mgbanwe dị otú ahụ ji kwe omume? Ka anyị ṅaa ntị n'eziokwu ahụ bụ na anyị anaghị achọ njedebe nke ọrụ ahụ n'onwe yaỊta ata na mgbagha mgbagha, na njedebe kachasị, ya bụ, uru nke oke amaghi ama Ịta ata na mgbagha mgbagha, na nke Ịta ata na mgbagha mgbagha ruru ya kacha. Mgbe ị na-akwaga na logarithm, njedebe adịghị agbanwe agbanwe (ọ bụ ezie na njedebe n'onwe ya ga-adị iche), ebe ọ bụ na logarithm bụ ọrụ monotonic.

Ka anyị, dị ka nke dị n'elu, gaa n'ihu na-azụlite ihe atụ anyị na mgbazinye ego sitere na Vasya, Fedya na Lesha. Ka anyị buru ụzọ gaa n'ihu logarithm nke ohere ọrụ:

Ịta ata na mgbagha mgbagha

Ugbu a, anyị nwere ike mfe ọdịiche okwu site Ịta ata na mgbagha mgbagha:

Ịta ata na mgbagha mgbagha

N'ikpeazụ, tụlee ọnọdụ nke mbụ - anyị na-eme ka mmepụta nke ọrụ ahụ na efu:

Ịta ata na mgbagha mgbagha

N'ihi ya, anyị kensinammuo atụmatụ nke ihe gbasara nke puru omume nke mbinye ịkwụghachi Ịta ata na mgbagha mgbagha bụ ụkpụrụ ziri ezi.

Ọ dị mma, mana gịnị ka anyị ga-eji ozi a eme ugbu a? Ọ bụrụ na anyị na-eche na onye ọ bụla na-agbaziri agbaziri nke atọ anaghị eweghachi ego ahụ n'ụlọ akụ, mgbe ahụ nke ikpeazụ ga-adaba adaba. Nke ahụ ziri ezi, ma ọ bụ naanị mgbe ị na-enyocha ihe gbasara nke puru omume nke ịkwụ ụgwọ ego nhata Ịta ata na mgbagha mgbagha Anyị ebughị n'uche ihe ndị na-emetụta nkwụghachi ego mgbazinye: ụgwọ nke onye gbaziri ego na nha nke ịkwụ ụgwọ kwa ọnwa. Ka anyị cheta na anyị gbakọrọ na mbụ ohere nke ịkwụghachi ego nke onye ahịa ọ bụla, na-eburu n'uche otu ihe ndị a. Ọ bụ ihe ezi uche dị na ya na anyị nwetara ihe puru omume dị iche na nha nha mgbe niile Ịta ata na mgbagha mgbagha.

Ka anyị kọwapụta ohere nke sample:

Koodu maka ịgbakọ ohere nlele

from functools import reduce

def likelihood(y,p):
    line_true_proba = []
    for i in range(len(y)):
        ltp_i = p[i]**y[i]*(1-p[i])**(1-y[i])
        line_true_proba.append(ltp_i)
    likelihood = []
    return reduce(lambda a, b: a*b, line_true_proba)
        
    
y = [1.0,1.0,0.0]
p_log_response = df['Probability']
const = 2.0/3.0
p_const = [const, const, const]


print 'Правдоподобие выборки при константном значении p=2/3:', round(likelihood(y,p_const),3)

print '****************************************************************************************************'

print 'Правдоподобие выборки при расчетном значении p:', round(likelihood(y,p_log_response),3)

O yikarịrị ka nlele na uru mgbe niile Ịta ata na mgbagha mgbagha:

Ịta ata na mgbagha mgbagha

O yikarịrị ka ihe atụ mgbe ị na-agbakọ ihe gbasara nke puru omume nke ịkwụghachi ego na-eburu n'uche ihe Ịta ata na mgbagha mgbagha:

Ịta ata na mgbagha mgbagha
Ịta ata na mgbagha mgbagha

O yikarịrị ka ihe nlele nwere ike gbakọọ dabere na ihe ndị ahụ tụgharịrị dị elu karịa ohere nwere uru nwere ike mgbe niile. Kedu ihe nke a pụtara? Nke a na-egosi na ihe ọmụma banyere ihe ndị ahụ mere ka o kwe omume ịhọrọ nke ọma nke ọma nke nwere ike ịkwụghachi onye ahịa ọ bụla. Ya mere, mgbe ị na-enye mbinye ego ọzọ, ọ ga-abụ ihe ziri ezi iji ụdị atụpụtara na njedebe nke ngalaba 3 nke isiokwu maka ịlele ohere nke ịkwụ ụgwọ ụgwọ.

Ma mgbe ahụ, ọ bụrụ na anyị chọrọ maximize ọrụ nke yiri nke sample, yabụ gịnị kpatara na ị gaghị eji ụfọdụ algọridim nke ga-emepụta ihe gbasara omume maka Vasya, Fedya na Lesha, dịka ọmụmaatụ, hà 0.99, 0.99 na 0.01, n'otu n'otu. Eleghị anya, algọridim dị otú ahụ ga-arụ ọrụ nke ọma na nlele ọzụzụ, ebe ọ ga-eweta uru nlele ahụ nso Ịta ata na mgbagha mgbagha, ma, nke mbụ, algọridim dị otú ahụ nwere ike inwe ihe isi ike na ikike izugbe, na nke abụọ, algọridim a agaghị abụ nke ziri ezi. Ma ọ bụrụ na ụzọ nke ịlụ ọgụ overtraining (n'otu aka ahụ na-adịghị ike generalization ikike) na-adịghị agụnye n'ụzọ doro anya na atụmatụ nke isiokwu a, ka anyị na-aga site na nke abụọ n'ụzọ zuru ezu karị. Iji mee nke a, zaa naanị ajụjụ dị mfe. Ihe gbasara nke puru omume nke Vasya na Fedya nwere ike ịkwụghachi ego ahụ, na-eburu n'uche ihe ndị anyị maara? Site n'echiche nke mgbagha ụda, n'ezie ọ bụghị, ọ nweghị ike. Ya mere, Vasya ga-akwụ ụgwọ 2.5% nke ụgwọ ọnwa kwa ọnwa iji kwụọ ụgwọ ego, na Fedya - ihe fọrọ nke nta ka ọ bụrụ 27,8%. Nakwa na eserese 2 "Nhazi nke ndị ahịa" anyị na-ahụ na Vasya dị nnọọ n'ihu site n'ahịrị na-ekewa klas karịa Fedya. Na n'ikpeazụ, anyị maara na ọrụ Ịta ata na mgbagha mgbagha maka Vasya na Fedya na-ewere ụkpụrụ dị iche iche: 4.24 maka Vasya na 1.0 maka Fedya. Ugbu a, ọ bụrụ na Fedya, dịka ọmụmaatụ, nwetara usoro nke ịdị ukwuu ma ọ bụ rịọ maka obere mbinye ego, mgbe ahụ ohere nke ịkwụghachi ego maka Vasya na Fedya ga-abụ otu ihe ahụ. N'ikwu ya n'ụzọ ọzọ, enweghị ike ịghọgbu ịdabere n'ahịrị. Ma ọ bụrụ na anyị n'ezie gbakọọ emegide Ịta ata na mgbagha mgbagha, ma ewepụghị ha n'ikuku siri ike, anyị nwere ike ikwu n'enweghị nsogbu na ụkpụrụ anyị Ịta ata na mgbagha mgbagha kasị mma ekwe ka anyị na-atụle ihe gbasara nke puru omume nke ịkwụghachi nke mbinye ego site onye ọ bụla na-agbaziri agbaziri, ma ebe ọ bụ na anyị kwetara iche na mkpebi siri ike nke coefficients. Ịta ata na mgbagha mgbagha A rụrụ dị ka iwu niile si dị, mgbe ahụ, anyị ga-ewere ya - ọnụọgụgụ anyị na-enye anyị ohere ịnye atụmatụ dị mma nke ihe gbasara puru omume :)

Otú ọ dị, anyị na-amalite. Na ngalaba a, anyị kwesịrị ịghọta otú e si ekpebi vector nke ịdị arọ Ịta ata na mgbagha mgbagha, nke dị mkpa iji nyochaa ohere nke ịkwụghachi ego nke onye ọ bụla gbaziri agbaziri.

Ka anyị jiri nkenke chịkọta ihe arsenal anyị na-aga na-achọ ohere Ịta ata na mgbagha mgbagha:

1. Anyị na-eche na mmekọrịta dị n'etiti mgbanwe mgbanwe (ọnụahịa amụma) na ihe na-emetụta nsonaazụ bụ akara. Maka nke a, a na-eji ya linear regression ọrụ ụdị Ịta ata na mgbagha mgbagha, ahịrị nke na-ekewa ihe (ndị ahịa) n'ime klaasị Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha ma ọ bụ Ịta ata na mgbagha mgbagha (ndị ahịa nwere ike ịkwụghachi ego ahụ na ndị na-adịghị). N'ọnọdụ anyị, nha nha nwere ụdị Ịta ata na mgbagha mgbagha.

2. Anyị na-eji inverse logit ọrụ ụdị Ịta ata na mgbagha mgbagha iji chọpụta ihe gbasara puru omume nke klaasị Ịta ata na mgbagha mgbagha.

3. Anyị na-atụle usoro ọzụzụ anyị dị ka mmejuputa nke mkpokọta Atụmatụ Bernoulli, ya bụ, maka ihe ọ bụla a na-emepụta mgbanwe na-enweghị usoro, nke nwere ike Ịta ata na mgbagha mgbagha (nke ya maka ihe ọ bụla) na-ewere uru 1 na ihe gbasara nke puru omume Ịta ata na mgbagha mgbagha - 0.

4. Anyị maara ihe anyị kwesịrị iji bulie ọrụ nke yiri nke sample na-eburu n'uche ihe ndị a nabatara ka ihe nlele dịnụ wee bụrụ nke kachasị mma. N'ikwu ya n'ụzọ ọzọ, anyị kwesịrị ịhọrọ paramita nke ihe nlele ahụ ga-abụ nke kachasị mma. N'ọnọdụ anyị, oke ahọpụtara bụ ohere nke ịkwụ ụgwọ ego Ịta ata na mgbagha mgbagha, nke n'aka ya dabere na ọnụọgụgụ amaghi ama Ịta ata na mgbagha mgbagha. Ya mere, anyị kwesịrị ịchọta ndị dị otú ahụ a vector nke arọ Ịta ata na mgbagha mgbagha, nke ohere nke sample ga-abụ kacha.

5. Anyị maara ihe ga-ebuli ihe nlere anya ọrụ enwere ike iji ya usoro ohere kachasị. Na anyị maara niile tricky aghụghọ na-arụ ọrụ na usoro a.

Nke a bụ otu ọ ga - esi bụrụ mmegharị ọtụtụ nzọụkwụ :)

Ugbu a, cheta na na mmalite nke isiokwu ahụ, anyị chọrọ ịnweta ụdị ọrụ abụọ nke ọnwụ Mfu nke mgbagha dabere n'otú e si họpụta klas ihe. O mere na na nsogbu nhazi ọkwa na klas abụọ, a na-egosipụta klaasị dị ka Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha ma ọ bụ Ịta ata na mgbagha mgbagha. Dabere na nrịbama ahụ, mmepụta ga-enwe ọrụ ọnwụ kwekọrọ.

Ikpe 1. Nhazi nke ihe n'ime Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha

N'oge gara aga, mgbe achọpụtara ohere nke a sample, nke ihe gbasara nke puru omume nke ụgwọ ịkwụghachi site borrower gbakọọ dabere na ihe na nyere coefficients. Ịta ata na mgbagha mgbagha, anyị tinye usoro:

Ịta ata na mgbagha mgbagha

N'eziokwu Ịta ata na mgbagha mgbagha bụ ihe ọ pụtara ọrụ nzaghachi ngwa ngwa Ịta ata na mgbagha mgbagha n'ihi na a nyere vector nke arọ Ịta ata na mgbagha mgbagha

Mgbe ahụ, ọ dịghị ihe na-egbochi anyị ide ihe omume sample ọrụ dị ka ndị a:

Ịta ata na mgbagha mgbagha

Ọ na-eme na mgbe ụfọdụ ọ na-esiri ụfọdụ ndị nyocha novice ike ịghọta ozugbo ka ọrụ a si arụ ọrụ. Ka anyị leba anya n'ihe atụ anọ dị nkenke ga-ekpochapụ ihe.

1. ma ọ bụrụ na Ịta ata na mgbagha mgbagha (ya bụ, dị ka nlele ọzụzụ, ihe ahụ bụ nke klas +1), yana algọridim anyị Ịta ata na mgbagha mgbagha na-ekpebi ohere nke ikewa ihe na klaasị Ịta ata na mgbagha mgbagha dị ka 0.9, mgbe ahụ, a ga-agbakọọ mpempe ihe nlele a dị ka ndị a:

Ịta ata na mgbagha mgbagha

2. ma ọ bụrụ na Ịta ata na mgbagha mgbaghana Ịta ata na mgbagha mgbagha, mgbe ahụ ngụkọta ga-adị ka nke a:

Ịta ata na mgbagha mgbagha

3. ma ọ bụrụ na Ịta ata na mgbagha mgbaghana Ịta ata na mgbagha mgbagha, mgbe ahụ ngụkọta ga-adị ka nke a:

Ịta ata na mgbagha mgbagha

4. ma ọ bụrụ na Ịta ata na mgbagha mgbaghana Ịta ata na mgbagha mgbagha, mgbe ahụ ngụkọta ga-adị ka nke a:

Ịta ata na mgbagha mgbagha

O doro anya na a ga-ebuli ọrụ ahụ n'okwu 1 na 3 ma ọ bụ n'ozuzu ya - na ụkpụrụ echere nke ọma nke ohere nke ikenye ihe na klas. Ịta ata na mgbagha mgbagha.

N'ihi n'eziokwu na mgbe ị na-achọpụta ihe gbasara nke puru omume nke ikenye ihe na klas Ịta ata na mgbagha mgbagha Naanị anyị amaghị ọnụọgụgụ Ịta ata na mgbagha mgbagha, mgbe ahụ, anyị ga-achọ ha. Dị ka e kwuru n'elu, nke a bụ nsogbu njikarịcha nke mbụ anyị kwesịrị ịchọta ihe nrụpụta nke ọrụ ahụ nwere ike ime n'ihe gbasara vector nke arọ. Ịta ata na mgbagha mgbagha. Otú ọ dị, nke mbụ, ọ bụ ihe ezi uche dị na ya iji mee ka ọrụ ahụ dị mfe maka onwe anyị: anyị ga-achọ ihe mmepụta nke logarithm. ohere ọrụ.

Ịta ata na mgbagha mgbagha

Gịnị mere mgbe logarithm, na arụrụ arụrụ arụ logistics, anyị gbanwere akara si Ịta ata na mgbagha mgbagha on Ịta ata na mgbagha mgbagha. Ihe niile dị mfe, ebe ọ bụ na na nsogbu nke nyochaa àgwà nke ihe nlereanya ọ bụ omenala iji belata uru nke ọrụ, anyị na-amụba akụkụ aka nri nke okwu ahụ site na. Ịta ata na mgbagha mgbagha na ya mere, kama ịkachasị ya, ugbu a, anyị na-ebelata ọrụ ahụ.

N'ezie, ugbu a, n'ihu gị anya, a na-enweta ọrụ mfu ahụ nke ọma - Mfu nke mgbagha maka usoro ọzụzụ nwere klas abụọ: Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha.

Ugbu a, ka ịchọta ọnụọgụgụ, naanị anyị kwesịrị ịchọta ihe nrụpụta arụrụ arụrụ arụ logistics wee jiri ụzọ njikarịcha ọnụọgụgụ, dị ka mgbada gradient ma ọ bụ stochastic gradient mgbada, họrọ ọnụọgụgụ kacha mma. Ịta ata na mgbagha mgbagha. Ma, n'ihi na a bukwanu ibu nke isiokwu, a na-atụ aro ka ime ihe dị iche iche n'onwe gị, ma ọ bụ ma eleghị anya, nke a ga-abụ isiokwu maka isiokwu na-esonụ na ọtụtụ mgbakọ na mwepụ na-enweghị ndị dị otú ahụ zuru ezu ihe atụ.

Ikpe 2. Nhazi nke ihe n'ime Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha

Ụzọ ebe a ga-adị ka klaasị Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha, ma ụzọ n'onwe ya na mmepụta nke ọrụ ọnwụ Mfu nke mgbagha, ga-abụ ihe ịchọ mma. Ka anyị malite. Maka ọrụ enwere ike anyị ga-eji onye ọrụ "Ọ bụrụ na ... mgbe ahụ...". Ya bụ, ọ bụrụ Ịta ata na mgbagha mgbaghaIhe nke a bụ nke klaasị Ịta ata na mgbagha mgbagha, wee gbakọọ ohere nke sample anyị na-eji ihe puru omume Ịta ata na mgbagha mgbagha, ma ọ bụrụ na ihe ahụ bụ nke klas Ịta ata na mgbagha mgbagha, mgbe ahụ, anyị na-eji dochie anya Ịta ata na mgbagha mgbagha. Nke a bụ ihe ọrụ ihie dị ka:

Ịta ata na mgbagha mgbagha

Ka anyị kọwaa na mkpịsị aka anyị ka o si arụ ọrụ. Ka anyị tụlee ikpe anọ:

1. ma ọ bụrụ na Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha, mgbe ahụ, ihe nlele ga-aga "ga" Ịta ata na mgbagha mgbagha

2. ma ọ bụrụ na Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha, mgbe ahụ, ihe nlele ga-aga "ga" Ịta ata na mgbagha mgbagha

3. ma ọ bụrụ na Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha, mgbe ahụ, ihe nlele ga-aga "ga" Ịta ata na mgbagha mgbagha

4. ma ọ bụrụ na Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha, mgbe ahụ, ihe nlele ga-aga "ga" Ịta ata na mgbagha mgbagha

O doro anya na n'okwu 1 na 3, mgbe algọridim kpebisiri ike nke ọma, ọrụ ohere a ga-ebuli elu, ya bụ, nke a bụ kpọmkwem ihe anyị chọrọ inweta. Agbanyeghị, usoro a dị oke egwu ma na-esote anyị ga-atụle nkọwa kọmpat karịa. Mana nke mbụ, ka anyị jiri mgbanwe akara rụọ ọrụ logarithm, ebe ugbu a, anyị ga-ebelata ya.

Ịta ata na mgbagha mgbagha

Ka anyị dochie anya Ịta ata na mgbagha mgbagha ngosipụta Ịta ata na mgbagha mgbagha:

Ịta ata na mgbagha mgbagha

Ka anyị mee ka okwu ziri ezi dị mfe n'okpuru logarithm site na iji usoro mgbakọ na mwepụ dị mfe wee nweta:

Ịta ata na mgbagha mgbagha

Ugbu a ọ bụ oge ikpochapụ onye ọrụ "Ọ bụrụ na ... mgbe ahụ...". Rịba ama na mgbe ihe Ịta ata na mgbagha mgbagha bụ nke klas Ịta ata na mgbagha mgbagha, mgbe ahụ na okwu n'okpuru logarithm, na denominator, Ịta ata na mgbagha mgbagha ewelitere n'ike Ịta ata na mgbagha mgbagha, ma ọ bụrụ na ihe ahụ bụ nke klas Ịta ata na mgbagha mgbagha, emesia $e$ welitere n'ike Ịta ata na mgbagha mgbagha. Ya mere, enwere ike ime ka akara ngosi maka ogo mmụta dị mfe site na ijikọta okwu abụọ ahụ n'ime otu: Ịta ata na mgbagha mgbagha. Mgbe ah arụrụ arụrụ arụ logistics ga-ewere fọm:

Ịta ata na mgbagha mgbagha

N'ikwekọ na iwu nke logarithm, anyị na-atụgharị akụkụ ahụ ma wepụta akara "Ịta ata na mgbagha mgbagha"(mwepu) maka logarithm, anyị na-enweta:

Ịta ata na mgbagha mgbagha

Nke a bụ ọrụ ọnwụ lojistik ọnwụ, nke a na-eji na nhazi ọzụzụ yana ihe ndị e kenyere na klaasị: Ịta ata na mgbagha mgbagha и Ịta ata na mgbagha mgbagha.

Ọfọn, n'oge a, m na-ahapụ m ma anyị mechie isiokwu ahụ.

Ịta ata na mgbagha mgbagha Ọrụ gara aga nke onye ode akwụkwọ bụ "iweta akara nkwụghachi azụ n'ụdị matrix"

Ihe enyemaka

1. Akwụkwọ

1) Ntụle nlọghachi azụ etinyere / N. Draper, G. Smith - 2nd ed. – M.: Ego na Statistics, 1986 (nsụgharị si Bekee)

2) Ozizi puru omume na mgbakọ na mwepụ / V.E. Gmurman - 9th ed. - M.: Ụlọ akwụkwọ sekọndrị, 2003

3) Ozizi puru omume / N.I. Chernova - Novosibirsk: Novosibirsk State University, 2007

4) Nchịkọta azụmahịa: site na data gaa na ihe ọmụma / Paklin N. B., Oreshkov V. I. - 2nd ed. — St. Petersburg: Peter, 2013

5) Sayensị sayensị data sayensị sitere na ọkọ / Joel Gras - St. Petersburg: BHV Petersburg, 2017

6) Ọnụ ọgụgụ bara uru maka ndị ọkachamara sayensị data / P. Bruce, E. Bruce - St. Petersburg: BHV Petersburg, 2018

2. Nkuzi, nkuzi (vidiyo)

1) Isi ihe nke usoro ihe omume kachasị, Boris Demeshev

2) Kachasị ekwe omume usoro na-aga n'ihu ikpe, Boris Demeshev

3) Logistic nlọghachi azụ. Mepee usoro ODS, Yury Kashnitsky

4) Nkuzi 4, Evgeny Sokolov (site na nkeji 47 nke vidiyo)

5) Logistic regression, Vyacheslav Vorontsov

3. Isi mmalite ịntanetị

1) Ụdị nhazi nke Linear na nlọghachi azụ

2) Otu esi aghọta ngwa ngwa mgbagha mgbagha

3) Ọrụ mperi mgbagha

4) Nnwale nọọrọ onwe ya na usoro Bernoulli

5) Ballad nke MMP

6) Usoro ohere kacha

7) Ụdị na ihe onwunwe nke logarithms

8) Gịnị mere nọmba Ịta ata na mgbagha mgbagha?

9) Linear classifier

isi: www.habr.com

Tinye a comment