αα
αααα»αα’ααααααααααΎαααΉααα·ααΆαααααΉααααΈααααΆαααααΆααααΆαααααΆααααααΌα αα»αααΆααααααααααααΈααα’ααα Π² αα»αααΆαααααααα logit αααα
αααΆα (α α
αααααΆααααααΆ αα»αααΆαααααΎααααααααα»ααΆα). αααααΆαααααααααααΎα’αΆαα»α αα·ααΈααΆαααααααααααΆαα’αα·ααααΆαααα’αα»αααααΆαααααΌααααααααααααααα»ααΆα ααΎαααα½αααΆααα»αααΆαααΆααααα ααΆαααΆαααααααααα»ααΆαα¬αα·ααΆααααααΆαααα ααΎαααΉαααααααα»αααΆααα½α ααααααΆαααΆααααααααααα·α
αααααααααααααΌαααΆαααααΎαααΎααα
αααα»αααααΌααααααααα logistic .
αααααα’αααααα
- α αΌαααΎααα·ααΆαα‘αΎααα·αααΌαααααΆααααααααΈααα’ααααααΆαα’αααααΈα
- α αΌαααΎααααααααΈαααααΌαααΆααααααΆααααΆαααααΆααααααΌα αα»αααΆααααααααααααΈααα’ααα Π² αα»αααΆαααααΎααααααααα»ααΆα
- α αΌαααΎαα’αα»ααααααΆαααααααα αα·ααααααα αα»αααΆαααααΎααααααααα»ααΆα
- α αΌαααΎαααααΆααΆααααααΈααΌαα ααα»ααααα·ααΈααΆαααααααΆααααα·α αααα»αααΊαα·αααα’αα αααααααΎαααΎααααΆαααΆαααααα αα»αααΆα ααΆαααΆαααααααααα»ααΆα
- ααΎαβααααΎ αα·ααΈααΆαααααααααααΆαα’αα·ααααΆ αααααΆααααΆαααααα αα»αααΆαααααΎαααΎααααΆαααΆαααααα :
α₯.α‘. ααααΈααΈ α‘α αα»αααΆα ααΆαααΆαααααααααα»ααΆα αααααΆααααααα»αααααΆαααΆααααααααααΆαα 0 ΠΈ 1:
α₯.α‘. ααααΈααΈ α‘α αα»αααΆα ααΆαααΆαααααααααα»ααΆα αααααΆααααααα»αααααΆαααΆααααααααααΆαα -1 ΠΈ +1:
α’ααααααααααααΌααα
αααα§ααΆα αααααΆαααα αααααΆαααααΆααΆααα’ααααΆααααα½αααααΎαααααααΆααααΆαα α¬αα
ααΎαααααΆα αααα»αααααΈαααα ααΆαααααΆα’αΆα
ααΉαααααΌαααΆαααΆαααΆαα ααΌα
ααααααααααααα½α :)
α’ααααααααααααΌαααΆαααααα»ααα»αααΆα αααααααααΆααα’ααααα·ααααΆααΆααααααα·αααααααααααΆαααααα·αα ααααααΉαααααΌααα αααα»αααΌαααααΆαααααΉαααααΆαααααααΆαααΈαα
α’ααααααααααααΉααααααααΌαααΌααααααΆααααΌαααααΆα αα αα·αααΆαααααΆαααααα ααΌαααΆααα’ααααααΌαααΆααααααααΆααΆααΆ αααααααΆαα 2.7. α’αα»ααααΆαα±αααααα»αααααααααΆαα»αα’αααΈ "ααΆαααααΈααααα" αααααααααααΆαααααΎ - αααααΊααΆαααααααααα½ααααααΆααααΆαααα½ααααααααα·ααααΆααααΈααΈ αααΆααααα αα ααΎαααα·ααΆα’ααααααΆαα’ααΈαααΊαα·αααααααΈααΌα ααααΆα Courseraα αΎαααΌα αααααα»αααααααΆααα’αΆα ααααααααΆ αααααΆααααααΌαααΆααααα ααααααα’ααααΎαααααα·ααααΆαααα
01. ααΆαααΉαααα’ααααααα
ααΆαα·αααΆααα ααα»ααααΆαααααα»αααΆααα½ααααα½α - ααΎααΆαααΉαααα’ααααΈααα’ααα αα·αααΆααααααααααααααααα»ααΆαααΆαααααΆααααααααΆαα½αααΆ?
ααΆααΆαααα! ααΆααααααααααααααααα»ααΆαααΊααΆααααΌαα½ααααα»αα ααααααααΌαααααΆαααααα·αααα·ααααα’αααα αΆααααααΆααααΈααα’αααα αα αααα»αααΆαααααΆαααα ααΆααα·α αα ααααα’αααα αΆααααααΆααααΈααα’αααααΊααΎααααΈααααααααΆααααααααααα ααΈα’ααα (α’αααααααααααα) . ααΆααααΌαααΆαααααΏααΆααΆαααΉαααα’αααααΆααααααα αα·ααααααααααα ααΈααα’αααα ααΌα αααααααααααααα’αααα αΆααααααΆαα - ααΈααα’αααα ααΎααααΈααΆααααΆα±ααααααααα ααααΌαααααααααααααααααααΊααα’ααααΎααΆαααααααααΆααΆαααααΆααααααααΈααα’ααααααΆααααααα αα·ααααααααααα . αααααΊααΆααΆααααααΆααα
ααΆαα§ααΆα αααααααΌααα αααα»αααααΌααΈααα αΎαααΆααααΉαααααΌαα’αααΈααΆαααΉαααα’αα rectilinear ααααα·ααΆαααααααα»ααα·ααααΆα αα αααα»αααααΎαααΆαααααΆααααα αα’ααααα αααα»αααΆααα½αα§ααΆα ααααα½ααααααΆααααααααα»αααααΆα αααΎααα½α α αΎα - ααΆαααΉαααα’ααααα αααααα ααΎααα»αα (βααΆααα·ααΆαααααααααααααααΆαα’αα»ααααβ, N. Draper, G. Smith). ααΎαααΉαααΎαααΆαα ααΈααααααααα
α’αα»αααααΆα α αααΆααα’αΌαα
αααααΆαααααα - αααααΆαααα αα α»αααααα, - ααα»α, - ααΆαααααΌα
ααααα·αααΎααΎααα·αααΉα α αααΆααααααα’αΌααααααΆααααααΎαα’αΆα ααααΎαααΆαααΉαααα’ααααΆααααααααααααΆαααααΆααααααΌα αα·αααΆαααΆααααα αααααααααααΆαααα αααα αααααΆααααααΎαααΉαααΎαααΆααααΆα ααααΉαααα’αα ααΈ ααααααααααΆααααααααα·α α¬α αααΎαααΆαααααααααααΎαα ααΎααα·ααΆαααΆ "αα·α α¬α αααΎα" ααΈααααααααααΈααΆααααΆαααααααα·αααΆααααΉαααααΌαααααα ααΆαααΆαααααααααααΎαα’αΆα ααΆαααα α»αααΌα ααΆα ααΌα ααααα αΎαα ααα»α αα ααΎααααΆα ααα’αΆα αα·αααααΆααααΎαααααΆαααα·αααααΆαα ααα»ααααααΉαααααΌαααΆαααΆααααΆααα»ααα·αααΆαααα αααααα
ααααΆα ααααΈ 1 "ααΆαααΉαααα’αα" ααΈ Β»
ααΌαααααΌαααααΌαααΆα
import matplotlib.pyplot as plt
%matplotlib inline
import numpy as np
import random
R = 13.75
x_line = np.arange(0,220,1)
y_line = []
for i in x_line:
y_line.append(i/R)
y_dot = []
for i in y_line:
y_dot.append(i+random.uniform(-0.9,0.9))
fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(x_line,y_line,color = 'purple',lw = 3, label = 'I = U/R')
plt.scatter(x_line,y_dot,color = 'red', label = 'Actual results')
plt.xlabel('I', size = 16)
plt.ylabel('U', size = 16)
plt.legend(prop = {'size': 14})
plt.show()
α α’.αααααΌαααΆαααααααααααΈααΆααααααααααααΈααα’ααα
ααΌααααα‘ααααΎαα§ααΆα ααααα½ααααα α αΌαααΎααααααααΆααΎαααααΎααΆααα αααα»ααααΆααΆα α αΎαααΆααα·α αα ααααααΎαααΊααΎααααΈαααααααααααΆααααα’αααααα αΈααααααΆαααααα αΈα’αΆαααααααΎαααααΆαα½αα ααα½αα ααΎααααΈααααα½ααα·α αα ααΆαααα ααΎαααΉααα·α αΆαααΆαααααααΆααΈαααα»αααααα ααααΆαααααααα αΆαααααααα’αααααα αΈ αα·αα ααα½αααΉαααααΆααααααααΆαααααα αΈαααα αΆαααα
ααΆααα·α αα βααΊβααΆαβααααααααβααΆαα ααα»ααααβααΆαα½αβα§ααΆα αααβαααβααΎαβα’αΆα βαααβααΆβα ααα»α’αααΈβααΆαβααΆβααΆβαα·αβαααααααααΆααβαααα»αβααΆαβααααΎααααΆαα αα»αααΆααααααααααααΈααα’ααααα·ααααααααααααααααΆααΎααΆααααααααα’αααΈαααααααααααΌαα’αα»ααααααΆαα½ααα»αααΆαα
α αΌαααΎααααααααα α§ααΆα αααα ααΆααααΌαααΆααααααααΆααααΆααααααΆαααααααααα’αααααα αΈααΉαα’αΆα αααα αααααα αΆαααααΎααααΈααααααΆαααααα αΈα αααα»ααααααΆαα½αααααΆααα αααααΆαααα½αααααΆααααααΆααααΆαα ααααΆαααααααααααΉαααΆαααααααααΈααα’αααα ααΆα§ααΆα ααα α αΌαααΎααααα½αααααΆααααααΈ 60.000 RUR αα 200.000 RUR α αΎααααααααΆαα αααα»ααα½αααααΆαααααααααΆααααααΆαα ααΆαααΉαααα’ααααααα αααααΆαααΌααΆαααααα αΆαααααΎααα αααααααΆααααααΊααΈααα’αααα α αΌααα·ααΆαααΆαααααΆαααα½αααααΆαααααα½ααααααΆααααααΆααααΆααααΌαααΆααααααα αΆαααΆαααΆααΆαααααααΆαααααα ααΆαααΌααΆαααα·αα’αΆα ααΆαααΆα 3 ααΆαααα αΎαα’αααααα αΈααααΌαααααΆαααααΆααααααα»α 5.000 RUR α α αΎαααΆααααα αααα»αααααΈαααααααΎαααΉαααααααααΆα’αααααα αΈααΉαααααααΆαααααα αΈαα αααΆααΆαα αααααΆαααα αααΈααΆααααααααααααΈααα’αααααΉαααΆαααααααα
αααααΆααααααααα , , , - ααααΆαααα - α’αααααα αΈ, - ααΆαααΌααΆααααααΆαααααα αΈ - α’αααααα αΈα
ααΆααααα½αααααΆαααααααααα αα·αααΆαααΌααΆααααααΆαααααα αΈααΆαα½αααΉααααΆαααΆααααααααααα αααα»ααααΈααΆα α’αααα’αΆα αααααα α α·αααααΆααΎααααΌαα αα α¬ααα·αααααααΆαααααα αΈα
αααααΉααα αα»αααΎααααααααΆααααΆααΆαα½αααΉααααΆαααΆαααααααααααΆααααααα±αα αα»αααΆααααααααααααΈααα’ααα, ααααΎαααα»α αα»αααΆαααααΎααααααααα»ααΆα ααΉααααααΎαααααααααααααααΉαααααΎα±ααααΆαααΆααααα»αααααΆααααα»αααΆαααααΆααΎααααΈαααααααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈα ααΌα αααα ααΆααααΌαααΆαααααΎα‘αΎαααΎααααΈααΆααααααααααα»αααααααΎα α§αααΆααΆ 25.000 ααα ααΆαααααΆααααααΌααα αααα»ααααα»ααααααΉααα·αααααΆααααααΌαααΆααααααα α α·ααααααα»αααΆαα ααααααΆαααααα αΈαααααα α αΌαααΎαα αα αΆαα ααα»α ααααααααΆαααααα’ααΆαα ααα»ααααα₯α‘αΌαααα ααΎααααΈααααΎα±ααααΆααΆααααα αααΆααα’αααΈα’αααΈαααααΎααααα»ααα·ααΆαα’αααΈααα α αΌαααΎααα·α αΆαααΆα’αααΈααααΆαααΆαααΆαα½αααΉαα’αααααα αΈαααααΆααααααΆαα»ααα ααα½αααΈα
ααΆααΆαααΈ 1 "α’αααααα αΈαααααΆαα»αα"
ααΌααααααΆαααααααΎαααΆααΆα
import pandas as pd
r = 25000.0
w_0 = -5000.0/r
w_1 = 1.0/r
w_2 = -3.0/r
data = {'The borrower':np.array(['Vasya', 'Fedya', 'Lesha']),
'Salary':np.array([120000,180000,210000]),
'Payment':np.array([3000,50000,70000])}
df = pd.DataFrame(data)
df['f(w,x)'] = w_0 + df['Salary']*w_1 + df['Payment']*w_2
decision = []
for i in df['f(w,x)']:
if i > 0:
dec = 'Approved'
decision.append(dec)
else:
dec = 'Refusal'
decision.append(dec)
df['Decision'] = decision
df[['The borrower', 'Salary', 'Payment', 'f(w,x)', 'Decision']]
ααααα ααΆααα·αααααααα αααα»αααΆααΆα Vasya αααααΆαααααΆαααα 120.000 RUR α ααααα½αααΆαααααΆαααααα αΈααΎααααΈα±ααααΆααα’αΆα ααααΆαα·ααααα αΆααααααα»αααααα 3.000 RUR α ααΎαααΆααααααααΆ ααΎααααΈα’αα»αααααααΆαααααα αΈ ααααΆαααααααααααααα Vasya ααααΌαααααΎαααΈ 5.000 ααααα ααα½αααΉαααααΆααααααΆαααΌααΆαα α αΎααα ααααΆα XNUMX RUR ααααα αααα Vasya ααααααααααΌαααΆααααα . ααΌααααΈαα 106.000 RUR αα αααα ααΎαααααΈααΆααΆααα·ααααααΆαα αααααααΆ ααΎαααΆαααΆαααααααα αΆαααα 25.000 ααααααααααΊααΌα ααααΆ - ααααΆαααααα αΈα’αΆα ααααΌαααΆαα’αα»αααα Fedya ααααΉαααα½αααΆαααααΆαααααα αΈααααα ααα»αααα Lesha αααααΈααΆααΆααααα½αααΆαα αααΎααααα»αααααα ααααΉαααααΌααααααααΆααα ααααα’αΆα αΆαααααααΆααα
αααααΌαααααΆα αααααααΆααααααΈαααα
ααΆααΆαααΈ 2 "ααΆαα αΆααααααΆααα’αααααα αΈ"
ααΌααααααΆααααΌαααααΆα αα
salary = np.arange(60000,240000,20000)
payment = (-w_0-w_1*salary)/w_2
fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(salary, payment, color = 'grey', lw = 2, label = '$f(w,x_i)=w_0 + w_1x_{i1} + w_2x_{i2}$')
plt.plot(df[df['Decision'] == 'Approved']['Salary'], df[df['Decision'] == 'Approved']['Payment'],
'o', color ='green', markersize = 12, label = 'Decision - Loan approved')
plt.plot(df[df['Decision'] == 'Refusal']['Salary'], df[df['Decision'] == 'Refusal']['Payment'],
's', color = 'red', markersize = 12, label = 'Decision - Loan refusal')
plt.xlabel('Salary', size = 16)
plt.ylabel('Payment', size = 16)
plt.legend(prop = {'size': 14})
plt.show()
ααΌα αααα αααααΆαααααααααααααΎα ααΆααααααααααΆααα»αααΆα αααααα’αααααα αΈ "α’αΆααααα" ααΈ "ααα’" α α’αααααα αΈααΆααααααααααααααααΆααααΆαα·αααααααααΆααΉααααααααΆααααααα½αααααΊαα ααΆαααΎαααααΆαα (Lesha) αααααααααα’ααααααααααα ααΆααααΆαααΆααααααααααααΌααααααΎαα’αΆα ααααααΆαααααα αΈααΊαααα·ααα ααααααααααΆαα (Vasya αα·α Fedya) α αααααΆαααα ααΎαα’αΆα αα·ααΆαααΆαααΆ αααααΆααααααΆααααααααΎααααα ααα’αααααα αΈααΆααΈαααααΆααα α αΌαααΎααααααΆαααα½αααΆααΌα ααΆααααααα αααααααΆαα ααΎαααΉαα αΆααααααΆααα’αααααα αΈααΆααααααααααααααΆααααααΆαααααα αΈααΆ α¬ ααΎαααΉααα½ααααα αΌαα’αααααα αΈααΆααααα αααααααααΆαα·αα’αΆα ααααααΆαααααα αΈααΆαα
α αΌαααΎαααααααααΆαααααα·ααααΆαααΈα§ααΆα αααααααΆαααααααα ααΌαααΎαααα ααα»α αα½αα αα·α ααΆααααα½αααΌα’αααααααα ααα»α α αΌααα αααα»ααααΈααΆααααααααΌαααααΆαααααααΆαα ααΌααα·α αΆαααΆαααααΎαααΈα
- ααααα·αααΎα ααα»α αα ααααααααααΆααα αΎαααΎααααααααΆαα ααααΆαα αααααΆααααααααααααα»αααΆα ααΉαααΆαααΆααα·αααααΆαααΈ αα αΌαααααα . αααααΆααααααΆααΎαα’αΆα ααααααααΆααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈααΊαααα·ααα αααα»α . ααααααα»αααΆαααΆαααααα ααααΌααΆαααΈααΈααααΆαααααααααα
- ααααα·αααΎα ααα»α αα½ααααα·ααα ααΈααΎαααααΆαααα½α α αΎαααΎααααααααΆαα ααααΆαα α¬ αααααΆαααααααααααα’αα»ααααααΉαα’αα·αααααΆαααΈ αα αΌαααααα . αααααΆααααααΎαααΉαααααααααΆααααΌααΆαααΈααΈααααααΆααααααα»αααΊαααα·ααα αααα»α α αΎααααααααΆα αααΆααααα»αααΆαααΆααααα αααΎα αααα»αα α·αααααααααΎαααΆαααααααααα
- α ααα»α ααΊαα ααΎαααααΆααααααααα½ααα ααΎααααααααααΆαααααΆααααΈαα αααα»αααααΈαααααααααααα»αααΆα ααΉαααααΎααααΆ α αΎαααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈααΊααααΎααΉα .
α₯α‘αΌαααα ααΌααααααααΆααΎααα·αααΆααααααΆααΈααα ααα»ααααααΆαααα·αααΆαα αα·ααα·ααααααΈαα ααα»ααααα’αααααα αΈααΆααααΆααααΆααα αααααΆαααααααα½αα±αααααααΆαααααααααΎαααΉαααΆα m-αα·ααΆααα ααααα αα αα·ααααα»α ααΎαααΉααα·αααααΌαααΆαααα ααααΈαααααααααΎααααααααα»ααααααΆαααααΈα αααΆααααΆααα’αααα·ααα ααΎααΌαααααΆααααα·αααααααααααααΎα’αααααα αΈαααααΆαα¬αα·αααΆαααααααΆαααααα αΈα α αΎαααΆααΆααα·α α αααΆαααΆα₯α‘αΌααααααΎααααα»αααααΎαααΎαα’αααααα αΈαααααααΎαααα»ααααααααααΆαααα½α α αΎα . ααΆααΆααα·αααΆααα·α αα ααααααΌαααααααααααααααα»ααΆαααΊααΆααααΆααααΎααααΈααααααααΆαααΆαααααα αααααααααααα»αααΆαααΆααααα ααΆαααΆαααααααααα»ααΆα ααΉαααΆαααααααα α’αααααααΆα ααα»ααααα’αααΈαααααααααα·α αααααααΌαααΆαααααΆ ααΎαααΉααααααααααααααααα αααα»ααααααααΈ 5 ααα’αααααα αααα»ααααααα ααΎααααα‘αααα ααΈαααααΆαα·α - αα αααΆααΆαα·αααααααΎα αα·αα’αα·αα·ααααΈααΆααααααααΆααα
ααΌαα’ααα»αααααα»αααΆα ααΎαααΉαααΆα’αααααΆα’αΆα ααααΌαααΆααααααααααΆαααααα αΈ α αΎαα’αααααΆααααΌαααα·αααα ααα»ααααα’ααααα·αα’αΆα αα ααααΆααααΆαα½αααααααΆαααααααααΆααα ααααααα½αααα ααααα½αααΆαααΈααΎαααΌαααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈααααα’αααααα αΈααΈαα½ααα α’αααΈβαααβααααΌαααααΎ? α ααααΎαααΊααΆαααα - ααΎαααααΌαααααΆααααααΌααα»αααΆα ααααααααααααααΆαααα·ααα αααα»ααα½α αα αα»αααΆαααααααααααΉααααα·ααα αααα»ααα½α . α αΎααα»αααΆαααααααααΆαααΆααααΌαααΆαααα α ααΆ αα»αααΆαααααΎααααααααα»ααΆα α¬ααΆαααααααα logit αααα αααΆα. αα½αα
αααααΎααα½αααα αΆααααα α ααΈαααααααααΆααααΎαααΆα αα»αααΆαααααΎααααααααα»ααΆα. α αααΆαααΆααΎαααΉαααΎααααα»ααα·ααα αααα»α, i.e. ααΎαααΉαααααααααΆααΎαααΉαααΈαααααααααΌααΆαααΈααΈαα ααααααα·ααα αααα»ααα½αααΈ αα αΌαααααα α αΎααααααΆααααααΎαααΉα "ααααΆα" αααααααααα αα½αααΆααααΌααααααααΈ αα αΌαααααα .
03. ααΎαααα½αααΆααα»αααΆαααααΎαααααααα»ααΆα
ααα αΆα 1. αααααααααααααααΌααΆαααΈααΈαααα ααΆαα½ααα½αα
ααα‘α»ααααααααΆααααααΌααα»αααΆα Π² αα»αααΆαααααΎααααααααα»ααΆα ααΎαααΉααα»αα’ααααα·ααΆαα₯αααΆαααααααΎαα±αααα ααααΆααα―α α αΎαααααΎααααΎααα ααΆααα’ααααααααΎαααααα αααα½ααα·αα αα αα·αααΆαα ααΎαααΉααα·αααΆααααααΆααααααα α’αααΈαααααΎαα αΆααα’αΆαααααααααααΊα’ααααααααααΆααααα ααααα· α§ααΆα ααα α±ααΆαααΊ 4 αα 1α α αΆαααααααααααΆααααααΆααα ααααα’αααααααΆααααΆααα’αα ααΊααΆαααΆααΆααααα "αααααα" αα " αααΆαααβα αα αααα»αααααααααααααΌααΆαααΈααΈαα α αΆααααααΊααΆααααΌααΆαααΈααΈααααααααΉαααα·ααΆααααααααΎαα‘αΎαααααααα αααααααααΌααΆαααΈααΈααααααααΉαααα·ααΆαααααααα·αααΎαα‘αΎαα α αΌαααΎααααααααΌααααααααααΆααα±ααΆαααααααΉαααα·ααΆαααααΎαα‘αΎα :
αααααΆαααααα - ααααΌααΆαααΈααΈααααααααΉαααα·ααΆαααααΎαα‘αΎα - ααααΌααΆαααΈααΈααααααααΉαααα·ααΆαααααααα·αααΎαα‘αΎα
ααΆα§ααΆα ααα ααααα·αααΎααααΌααΆαααΈααΈαααααααααααααααα ααΉαααΆα αα·ααααααΎα αααααΆααα αααααΆαααΆ "Veterok" ααΉαααΆαααααααΈα αααΆααααααΆααααααα "Matilda" αα α―ααΆααααααΆααααΊααααΎααΉα αααααΆααααα±ααΆαααααΆααααααααααααΆαα "Veterok" ααΉαααΆα ΠΊ α αΎααααα»ααα αα·α αααααΉαααΈα αΆαααα ααΆααΉααα·ααα·ααΆααααααΆααααΎααααα»αααΆαααααΆααααΌααΆαααΈααΈαααααααα :
ααΌα αααα ααΎαααΆαααα "αααααα" ααααΌααΆαααΈααΈαααα ααΆα±ααΆα ααααααααααααΈ αα αΌαααααα . α αΌαααΎααααααα αΆααα½αααα αΆαααα α αΎααααααΎααααΈ "αααααα" ααααΌααΆαααΈααΈαααα αααααΆαααααααΆααααΌαααΈ αα αΌαααααα .
ααα αΆα 2. αααααααααααααααΌααΆαααΈααΈαααα ααΆαα½ααα½αα
ααα αΆααααααΊααΆααααααΆαα - α αΌαααααααΆααΈαααα αΆαααααα ααΌαααααΆααααααα’αααα α αΎαααΎαααα½αααΆαα
α₯α‘αΌααααααΎαααΉαααΆααααα·αααΎ αααααΆααααααααΆααααα ααΉαααΆαααααααααΆααααααΆαα α αΎαααΎαααΈααααα ααα ααΆαα½αααααΆααααααααα·αααααΆαα . ααΆβααΆβααΆααα·αα
α’ααβααΆαβα ααβααΉαβ αααβαα·αα·αααβααΎαβααΆβααΎβααΆαβα’αααΈ? αααααΆαααα ααΎαααααΉαααΆααΉαααΎααααααα’αα·αααααΆα . ααΎααα·αα·αααα . αααααΆαα·αααα·α
α₯α‘αΌααααααΎαααΉαααΈααααααααααααααααααααΌααΆαααΈααΈααααΈ αα αΌαααααα ααΆααααααΆαααααααΆααααΌαααΈ αα αΌαααααα . αα ααα αΆααααααΆααααΎαααΉαααααΎαααα»αα
αααααΆααααααααααΎααααααααΆααααΆααααααΆαα αααΆααααααααΆααΈααααααΉαααΈαααααααα’αα»αααα α’αααα’αΆα ααααΆα αΆααααα
αα·ααΈααΆαααααααααΆααααααα αΆαααααααααΉαααΆααααααααααααααΆααααΎααα ααα αΆααααααΆααα
ααα αΆαααΈ 3. α αΌαααΎαααΆαααααΌαααααααΎααααΈααααα
ααΌα ααααβααΎαβααΆαβαααβαααβααΉα αααααααααααααα»αααΆα . αααααΆαααΆαααΆαααααααΆαααΆααα·αααΎαααααΌαααΆααααα»αααααΆ - ααΆαααΉαααΈααααα ααΎααααΈαα . ααΎααααΈααααΎααΌα αααα α αΌαααΎαααΆααα ααααααααα·αααΌα ααΆαα»αααΆαα αΆαααααααα αααΆα αααααααα ααΆαα
αα αααα»αα’αααααααΎαααΉααα·αααΆαααααΌαααααααΆαααΎαα ααα»ααααααΎαααΉααα·αα·αααααΎαααΆαααααααΎαααααΈα§ααΆα αααααΆαααΎα ααΎαααΉαααΆααΆαα½αααΉαα αΆαααα 4 αααααΉα 1 () ααααΌααΆαααΈααΈααααααααΉαααα·ααΆααααααααΎαα‘αΎαααΊ 0.8 () αααααααΎααΆααααα½αα . αααααααααααΆααΉαααΆαααααΆααααααΎααααααΆαα’αα»αααααα»ααααα ααααααααα αα»ααααα
αα βααα αΆαβα α»αβαααααβααΎαβααΆαβααΆααβααΆβ αααααΆααααααΆα’αααα’αΆα ααααΎααΆααααα½ααα αααα»ααα»αααΆαα αΆαααααααα αααΆαα ααΎαβααα½αβααΆα:
α ααααΆααααΆααα αα·αααΆααααααα , αααααΆααααα
αααα»αααααΈ ααΎααααΈααααΆααααΆααΎααα·αααΆαααααΎαα»ααα ααααααααΆαα½α ααΎαααΉαααααΎααΆααα·αα·αααααΌα αα½ααααα αα αααα»αααα αΆαααΈ 2 ααΎααααααΆαα ααΆααααααααΆ . αααααΆαααααααα½αααααα α αΌααα αααα»ααα»αααΆαααααΎααααααααα»ααΆα ααΎαααααΉαααΆααΉαααα½αααΆα . ααΎααααα½ααα·αααα½αααΆαα
ααΌαα’αα’αααΆααα’αααα’αΆαααΆααΈαααα ααΎαααΎαααααΆαααΆααα αα·αααΆααααααα»αααΆαααααΎααααααααα»ααΆαα ααΌααααα‘ααααΎαααααΆα αααααα»αααΆαα
ααααΆα ααααΈ 3 "αα»αααΆαααααΎαααα‘αΌααΈαααα·α"
ααΌααααααΆααααΌαααααΆα αα
import math
def logit (f):
return 1/(1+math.exp(-f))
f = np.arange(-7,7,0.05)
p = []
for i in f:
p.append(logit(i))
fig, axes = plt.subplots(figsize = (14,6), dpi = 80)
plt.plot(f, p, color = 'grey', label = '$ 1 / (1+e^{-w^Tx_i})$')
plt.xlabel('$f(w,x_i) = w^Tx_i$', size = 16)
plt.ylabel('$p_{i+}$', size = 16)
plt.legend(prop = {'size': 14})
plt.show()
αα αααα»αα’αααααα·ααααα’αααααα’αΆα ααααΎαααααααααα»αααΆαααααααααα αα»αααΆα sigmoid. ααααΆα αααααα αΆααααΆαα αααΆααααΆααΆαααααΆααααααΌαα αααααα αααα»αααααΌααΆαααΈααΈααααααααα»αααααΆαααααα·αααα·ααααααααΆααααΎαα‘αΎααα αααα»ααα½αααΌα αααααΆααααα , ααααααααΆαα½αααΈ αα αΌαααααα .
αααα»αααααΎα±αααααααααα α’ααααα·ααΆαα₯αααΆαααααααΎααα·α α αΎααα½αααΆααααααΆααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈ ααΎαα·αααΌα ααααααααΆααααΉαααααα»αααΉαααΆαα αΆαα αααααααααΆαααααΆαααααααΆαα :)
ααΆααΆαααΈ 2 "α’αααααα αΈαααααΆαα»αα"
ααΌααααααΆαααααααΎαααΆααΆα
proba = []
for i in df['f(w,x)']:
proba.append(round(logit(i),2))
df['Probability'] = proba
df[['The borrower', 'Salary', 'Payment', 'f(w,x)', 'Decision', 'Probability']]
ααΌα αααα ααΎαααΆααααααααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈα ααΆααΌαα αααα αΆααααΌα ααΆααΆααα·αα
ααΆααΆααα·αααΆααααααΌααΆαααΈααΈααααα Vasya αααααΆαααααΆαααα 120.000 RUR ααΉαα’αΆα ααααα 3.000 RUR ααααααΆααΆαααΆαααααΆααααααΊαα·αααα 100% α ααααα·ααΈααα ααΎαααααΌααααααΆαααΆααΆαα’αΆα α ααααααΆαααααα αΈααα Lesha ααααα·αααΎαααααΆααααααααααΆααΆααααααααΆα§ααΆα ααααααααΆααααΆααααααααααΆαααααα αΈαααα’αα·αα·αααααααΆαααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈααΎαααΈ 0.3 α ααΆααααΆααααααΆαααα»αααααΈααα αααΆααΆαααΉααααααΎααα»αααααα»αααααΆααα»ααααααΆααααΆαααΆαααααααα’αΆα ααΎαααΆαα
ααΆαα½αααααααΌαααΆαααααααααααΆαααααααααΆαααΆααΆαααααααΆαααααααααααα ααΆαααΌααΆαααααΆαα αα ααΆαα 3 αα·αααΆαα½αααΉα 5.000 RUR ααααΌαααΆαααααα ααααΈαα·ααΆαα ααΌα ααααα αΎα ααΎααα·αα’αΆα ααααΎααα·α ααααααααααααααα»αααααααααΎαααααααΆααΆαααα . ααΎαααααΌαααΆααααααααααα»ααααΆαα αααΎα α αΎααααα»αααααΈααα ααΎαααΆααααα αααααα»αααΈαα½ααααα 25.000 αααααΊααΆαααααΉαααΆα ααΎαααΆααααααααΌαααααααα ααα»αααααααααααΌαααΆαααααΎααΆαα·αααααΎααααΈααααα½αααΆααααααΉαα’αααΈαααααΆαααα ααααΆααααΆαααααΌαα αααα»αααΈαα·α ααΎαααΉααα·αα αΆαααΆα ααααααΎα αα·ααααααααΌααααα»ααα ααα»ααααααααΌααααααααααΆα αα αααα»αααααααααααΆααααα’ααααα ααΎαααΉαααΆααααααΈααΆαααααααΆαααΆααααααααααΌαααΆαααααΎαααΎα .
04. αα·ααΈααΆαααααααΆαααα·α αααα»ααααααΆαααααααααα·α ααααααααααα αα αααα»ααα»αααΆαααααΎααααααααα»ααΆα
ααΎαααααΆαααα·ααΈααΆαααααααααα½α α αΎααααααΆααααΆαααααΎαααΎαααα·α ααααααααααα , ααΌα ααΆ αα·ααΈααΆαααααααΆαααα·α αααα»α (LSM) α αΎαααΆααα·α α ααα»α’αααΈααΆαααΆααΎααα·αααααΎααΆαααα»ααααα αΆα αααΆααααααΆαααααααΈα? ααΆααΆααα·α ααααΆαα’αααΈααΆααΆααα’αααααΈααΆαααααΎααααΆαααααααα MNCααΆααααα·ααΈααΆαααααααααααααα»ααααα αΆα αΆααααααΆααααααααααααααααααααΉαααααΌααα·α ααΆα ααΆαααΆαααααααααα»ααΆα. ααΆαααΌαααααΆαααααΉααααΈαααααΆααααΏααααα ααααΌαααΎαααΎαα§ααΆα αααααΆαααααα½αα
α αΌααααααααΆααααΌααααααΎα (αααααααΎ MSE ΠΈ ααΆαααΆαααααααααα»ααΆα) ααΆαα αΆααααααΎαααααΎαααΎαααα·α ααααααααααααα½α α αΎα α αΎαβααΎαβααΆαβααααααβααΆαβααααΆβαα βααα αΆαβαα½αβα ααα½αα ααΆαα·αααΆααααα αΆααΆααΎαα αααααΆα α α»ααααα αα α¬αα ααΎαααααα ααΏαααααΆααααΊααΆααΎαααΆαααααααα½αα ααα½αααααα·α ααααααααααααα½α α αΎα α αΎαααΎαααααααααΆαα ααα αΆαααα ααα·α ααααααααααα αααααΆαααααΌαααααΆααααΈααα·αααΆαααΆααα»αααααΆααα αααααΆαααααααααααααααααα α αΎαααΆαααααα½α αα»αααΆαααααΎααααααααα»ααΆα () αααααΆααααααα»αα½αα ααα½ααααααΆαααααα·αααα·ααααααααΆαα . ααΎααα·αα·αααααΎαααααΈα ααα½αααΈα αα ααααααα’αα»αααααΆαααα·α ααααααααααααααααΆαααααΎαααΎα ααααΌααααααΎαααΊαα»αααααΆααααΆαα α αΎααααα»ααααα·α - ααααΌααΆααααα»αα α·ααααααΆαααααΆααααΆααααα»αααααΆαααααα·αααα·ααααααααΆααα . α αΆαααΎαααΆααΎααΆαααΆααα·αααα’αααΈααααααΉαααααΌαα αααα αααααααΎααααΆαα MNC ΠΈ ααΆαααΆαααααααααα»ααΆα.
αααααΌααααααΆααααααΆααΆααα·αααα’αΆαααααααΎαα»αααΆαααΆαααΆααααααααααΆαααααΎ
# ΠΊΠ»Π°ΡΡ ΠΎΠ±ΡΠ΅ΠΊΡΠ°
y = 1
# Π²Π΅ΡΠΎΡΡΠ½ΠΎΡΡΡ ΠΎΡΠ½Π΅ΡΠ΅Π½ΠΈΡ ΠΎΠ±ΡΠ΅ΠΊΡΠ° ΠΊ ΠΊΠ»Π°ΡΡΡ Π² ΡΠΎΠΎΡΠ²Π΅ΡΡΡΠ²ΠΈΠΈ Ρ ΠΏΠ°ΡΠ°ΠΌΠ΅ΡΡΠ°ΠΌΠΈ w
proba_1 = 0.01
MSE_1 = (y - proba_1)**2
print 'Π¨ΡΡΠ°Ρ MSE ΠΏΡΠΈ Π³ΡΡΠ±ΠΎΠΉ ΠΎΡΠΈΠ±ΠΊΠ΅ =', MSE_1
# Π½Π°ΠΏΠΈΡΠ΅ΠΌ ΡΡΠ½ΠΊΡΠΈΡ Π΄Π»Ρ Π²ΡΡΠΈΡΠ»Π΅Π½ΠΈΡ f(w,x) ΠΏΡΠΈ ΠΈΠ·Π²Π΅ΡΡΠ½ΠΎΠΉ Π²Π΅ΡΠΎΡΡΠ½ΠΎΡΡΠΈ ΠΎΡΠ½Π΅ΡΠ΅Π½ΠΈΡ ΠΎΠ±ΡΠ΅ΠΊΡΠ° ΠΊ ΠΊΠ»Π°ΡΡΡ +1 (f(w,x)=ln(odds+))
def f_w_x(proba):
return math.log(proba/(1-proba))
LogLoss_1 = math.log(1+math.exp(-y*f_w_x(proba_1)))
print 'Π¨ΡΡΠ°Ρ Log Loss ΠΏΡΠΈ Π³ΡΡΠ±ΠΎΠΉ ΠΎΡΠΈΠ±ΠΊΠ΅ =', LogLoss_1
proba_2 = 0.99
MSE_2 = (y - proba_2)**2
LogLoss_2 = math.log(1+math.exp(-y*f_w_x(proba_2)))
print '**************************************************************'
print 'Π¨ΡΡΠ°Ρ MSE ΠΏΡΠΈ ΡΠΈΠ»ΡΠ½ΠΎΠΉ ΡΠ²Π΅ΡΠ΅Π½Π½ΠΎΡΡΠΈ =', MSE_2
print 'Π¨ΡΡΠ°Ρ Log Loss ΠΏΡΠΈ ΡΠΈΠ»ΡΠ½ΠΎΠΉ ΡΠ²Π΅ΡΠ΅Π½Π½ΠΎΡΡΠΈ =', LogLoss_2
ααααΈααααα α»ααα½αα - ααααΌαααααααααα»αα ααααΆαα ααΆαα½αααΉαααααΌααΆαααΈααΈαααα 0,01
αα·ααααααααααΎ MNC ααΉαααααΆαααΆα
αα·ααααααααααΎ ααΆαααΆαααααααααα»ααΆα ααΉαααααΆαααΆα
ααααΈααααΆαααΏααΆααααααΆαα - ααααΌαααααααααα»αα ααααΆαα ααΆαα½αααΉαααααΌααΆαααΈααΈαααα 0,99
αα·ααααααααααΎ MNC ααΉαααααΆαααΆα
αα·ααααααααααΎ ααΆαααΆαααααααααα»ααΆα ααΉαααααΆαααΆα
α§ααΆα αααααααααα αΆααααΆαα αααΆααααΆαααα»αααααΈααΆαααα α»αααα»ααα»αααΆαααΆααααα ααΆαααΆααααααααααα ααα» ααΆαβαα·αααβααααΌβαααΆαβααααΆααβααΆαβ MSE. α₯α‘αΌαβααΎαβαααβααΆβα’αααΈβαααβααΆβαααααααα·βααααΉααααΈβααβααΆαβααααΎβαα»αααΆαβααΆα ααΆαααΆααααααααααα ααα» αα αααα»ααααα αΆα αααΆααααααΆααα
05. αα·ααΈααΆαααααααααααΆαα’αα·ααααΆ αα·ααααααααααααααααα»ααΆα
ααΌα αααααΆααααααΆαα ααΎαα’αααααααΊαααααααα αααα§ααΆα αααααΆααααα αα αααα»αααααΌααΈααααΆαα§ααΆα ααααα½ααααααααααα·ααααααα αΆαα - α’αααααα αΈαααΆααΆα: Vasya, Fedya αα·α Lesha α
ααααΆαααααααα»αααααΈ αα»αααΉααααααΎαα§ααΆα ααα αααα»αααΌαααααΉαα’αααααΆ αααα»αααΈαα·αααΎααααα»ααααααααΆαααΆαα½αααΉαααααΌααααα»ααααααΆαααααααα»ααΆααααΆαα α¬ααΆααααΆαααΆαα½αααΉααααααααα·αααααΆαααα·α α¬ααΆααααα ααααααΆαααΆααααα αα ααΈααα αααααααΌαααΆααααα ααΎααααΈααΆααααα½αααΆααα αΌααα αααα»αααααΆαα’ααααα·ααααΆααΆααααααα·ααααααααααΈαααααα
α αΌαααΎααααααααα α§ααΆα αααα α αΌαααΎααααααααΆααΆαααααΆααΆαααΆααααααα α α·αααα ααααααΆαααααα αΈαααααα»ααααααααααααΆαααααΆααααααΌαααΆα αααααΈααΆααΆααα·αααααααα½ααααααααΆαααΆαααααΆααααΆαααα·αα±ααα ααααΆαα Lesha αααααα α αΎαα₯α‘αΌαααα αααααααΆαααααααααΆααααΆαααααααα»ααα α αΎα α αΎαααΎαααΉαααΆ ααΈααα»ααααΆααααΈααΌαααΆααΆαααααααΆαααααα αΈ α αΎααα½αααΆαα·αααΆαααα α’αααΈαααααααΌαααααΉααα»α: Vasya αα·α Fedya ααΆαααααααΆαααααα αΈααα»αααα Lesha αα·αααΆαα α₯α‘αΌαααα α αΌαααΎααααααααΆ αααααααααααΉαααααΆαααΆααααΌααααα»ααααααΆαααααΈαααααΆααααΎα α αΎααα αααααΆαα½αααααΆααα ααΆα αΆααααΌα ααΆαα·ααααααααΆααα’ααα’αααΈαααααΆαααααΆαα₯αααα·ααααΎααααααΆαααααΆαααααααΆαααααα αΈ (ααααΆααααααααα’αααααα αΈ ααα αααααΆααααααααΆαααααα αΆααα) ααΆαααΆαααα α αΎαα αααααΆαααα ααΆααα·α αΆααααΆα ααΎαα’αΆα ααααααααΆααΆααα’αααααα αΈααΈααΈαα·αααααααΆαααααα αΈαα αααΆααΆααα α¬αα·ααΆααααααΆαααα ααααΌααΆαααΈααΈααααα’αααααα αΈαααααΆαααααααααααΆαααααα αΈα . ααΆααααααααααα·α αΆααααΆααααααΆαααΆααααααΆααααααΉααααΈ αα·αααα’ααααΎ αα·ααΈααΆαααααααααααΆαα’αα·ααααΆααΆααΉαααΆαααα αααα»αα’αααααα·ααααααΆααααΌαααΆαααα α ααΆ αααααΆαααααααααααΆαα’αα·ααααΆ.
ααΆααααΌα α αΌαααΎαααααΆααα§ααααααααα·αα
ααααααΆαααααΌ ααΊααΆααααΌααΆαααΈααΈααααααΆαααα½αααΆαααααΌαααΆααα·αααααΆαα ααα½αααΆααααααα/ααΆααααααααααΆααα·αααααΆαα αααααΊα§α ααα·αααααααααΌααΆαααΈααΈααααααΆαααα½αααΆαααααααααααΌααΈαα½αα (α§ααΆα αααααΆααΎααααΆαααααα αΈαααα Vasya, Fedya αα·α Lesha ααααΌαααΆαααα¬αα·ααααα·ααααα»αααααααα½α) α
αα»αααΆααααα ααΆααααααααααΆαααααααΌαα ααΉαααααααααααΆαααΆααααααα ααα αΆαα
αααα»αααααΈααααααΎα ααααΌααααα»ααααααΆαααΊααΆαααααααΆααα Bernoulli ααΌαα αααα’αααα ααααααααααααααααΈαα α¬ . ααΌα ααααααααααΆαααααΌα’αΆα ααααΌαααΆααααααααΆαα»αααΆαααααααΆααααααΆαααΆαααααα ααΌα ααααααα:
ααΆαα»ααΆαααΎα’αΆα ααααΌαααΆαααααααΆαααΌα ααΆααααααα ααααΌααΆαααΈααΈαααα½αααααΆααα Vasya αα·α Fedya ααΉαααααααΆαααααα αΈααΊααααΎααΉα ααααΌααΆαααΈααΈααααα Lesha ααΉααα·αααααααΆαααααα αΈααΊααααΎααΉα (α αΆααααΆααααΈααΆαα·ααααααΆααΆαααααααΆαααααα αΈαααααΆαααΎαα‘αΎα) ααΌα ααααααααΌααΆαααΈααΈαααα½αααααααΉαααα·ααΆαααααΆααααΈααΊααααΎααααΆα .
αα·ααΈααΆαααααααααααΆαα’αα·ααααΆ ααΊααΆαα·ααΈααΆααααααααααΆααααΆααααΆαααααααΆααααΆαααΆααααααααααα·αααααΆαααααααΆααααααΈαα’αα·ααααΆ αα»αααΆαααααααΆα. αααα»αααααΈααααααΎαααΎαααααΌααααααααααααααααααα αα α―ααΆ ααΆααααααααα·αα’αα·ααααΆααααααΆα
ααΎαααα·ααα·αααααΆααααααΈααΆ - ααΎααααΈααααΎαααααααααααΆαααΆααααααααααα·αααααΆααααααα»αααΆαααααααΆαααΆααααα’αα·ααααΆ? ααΎαβααααΎαβααβαααα·αβααΎαβα ααβααΈβαααα·αβαααβααααΌβαα½αβααΊβααΆβαααααβα ααααααΉαβααβαα½αβαααβαααβααΆαβαααααΆααβααΎαβα’αααΈβα ααα½αβαααααΆααα α’αααΈααααααααΆααααααΎαααΉαα’αααΈα ααα½ααααααΆααααααΌαααΆαααααΆααα αααα»αααααΌα ααΌα ααααα αΎα α’αααΈαααααΎαα’αΆα αα·ααΆαααΆααααααΊααΆ ααααΌααΊααΆααΆααααα»ααααα αΆααααααααΉαααααΌααααα»αααα ααα½ααααααΆαααααααΆααααααΆααααΎαα ααΌα αααα ααΎαααααΌαααααααααααΆαααΆαααααααααααααΌαααααΆα ααααΆαααΆααααΌααΆαααΈααΈαααααα»αα
ααΆααααααα ααΎααααα»ααααααααΆααααα αΆαααααΎαααααα·αααααΆα αααααΎαααααΌααααααααα ααα»α ααααΆαααααα»ααααα»αααΆααα½αα ααΎααααΈαααααααα ααα»α ααααΆαα ααΆα αΆαααΆα ααααα»αααΆααα·α αΆαααΆααααααααααααΆααααΈαα½α αααααΊ αααΈααΆαααααΈααααα’αα»αααααα ααΆααΌααα αα·ααααααααΆααααΈααΆααααααααααΆααααΆαααΆαααααααααα ααααΆαα ααααααΆαααΆααααα ααΆααααααααααααΈααααααα·ααααααααααΆαα½αα ααα½αααα’αΆα ααΆαα·α αα ααΆαααααααα½α ααΎααααΈαααααΆααααα αΆααα ααΆααα αα ααααααα·ααααα½α - ααααΌααα ααααΆααΈα αα»αααΆαααααααΆα. α ααα»α’αααΈααΆαααΆααΆαααααΆααααααΌαααααααα’αΆα ααααΎαα ααΆα? α αΌαααΎαααα α·ααααα»αααΆααααΎααΆααα·ααααααΆααΎααα·ααααα»ααααααααααΆαααααΆαααααα»αααΆααααα½αα―ααααααααα·αα ααα»α ααααΆαα αααααΊααααααααααΆαααΆααααααααααα·αααααΆαα αα α―ααΆ ααΆααααααααα·αα’αα·ααααΆααααααΆα αα αααααααΆααααΈαα ααααΆααΈα α ααα»α ααααΆαααα·αααααΆααααααΌααα (αααααΈααΆααΆαααααΆααααααααΆααΉαααΆαααΆααα»αααααΆααααα) αααααΆαααααΆααΈαααΊααΆαα»αααΆααααΌααΌααΌαα·α α
α αΌαααΎααααααααααΎαααααΌααααααΎαααΆαα½αααΉαααααΆαααααα αΈααΈ Vasya, Fedya αα·α Lesha α ααααΌαααΎααααααα ααααΆααΈαααα’αα»ααααααααααΆα:
α₯α‘αΌααααααΎαα’αΆα αααα αααααααααααααΆααααα½α :
α αΎαααΆα α»αααααα ααΌααα·α αΆαααΆααααααααααααΆααααΈαα½α - ααΎαααααΎααααΈααααα’αα»αααααα ααΌαααα
ααΌα αααα ααΆααααΆαααααααΆααα·α αΆααααΆαααααααΎαα’αααΈααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈ ααααΌαααΆαααΆααααΆαα»α αα·αααΆαααααΉααααΈα
ααα’ααΆαα ααα»ααααααΎααΎααα½αααααΎα’αααΈααΆαα½αααααααΆααααα₯α‘αΌαααα? ααααα·αααΎααΎαααααααααΆααΆααα’αααααα αΈααΈααΈαα·αααααααααααΆαααα αααΆααΆααααααα’ααααααααΆααααΉαααααααααααααααα·ααα½α α αααααΆααΆαααααΉαααααΌα ααα»ααααααΆααααα αααααΆααααααααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈααααΎααΉα ααΎααα·αααΆααα·αααΈαααααΆαααααα₯αααα·αααααααΆαααααααΆαααααα αΈααα ααααΆααααααααα’αααααα αΈ αα·αααα αααααΆαααΌααΆαααααα αΆαααα α αΌαααΎαα αα αΆαααΆααΈαα»α ααΎαααΆαααααΆααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈαααα’αα·αα·ααααααΆααα ααααα·αααΌαααΈαααααΆααΌα ααααΆααΆαααααα ααΆααΆα‘αΌααΈαααααααΎαααα½αααΆαααααΌααΆαααΈααΈαααα»αααΈα ααα½ααααααααΎααααΆ .
α αΌααααααααααααΆαααααααΌα
ααΌααααααΆααααααΆααααααΆαααααΌ
from functools import reduce
def likelihood(y,p):
line_true_proba = []
for i in range(len(y)):
ltp_i = p[i]**y[i]*(1-p[i])**(1-y[i])
line_true_proba.append(ltp_i)
likelihood = []
return reduce(lambda a, b: a*b, line_true_proba)
y = [1.0,1.0,0.0]
p_log_response = df['Probability']
const = 2.0/3.0
p_const = [const, const, const]
print 'ΠΡΠ°Π²Π΄ΠΎΠΏΠΎΠ΄ΠΎΠ±ΠΈΠ΅ Π²ΡΠ±ΠΎΡΠΊΠΈ ΠΏΡΠΈ ΠΊΠΎΠ½ΡΡΠ°Π½ΡΠ½ΠΎΠΌ Π·Π½Π°ΡΠ΅Π½ΠΈΠΈ p=2/3:', round(likelihood(y,p_const),3)
print '****************************************************************************************************'
print 'ΠΡΠ°Π²Π΄ΠΎΠΏΠΎΠ΄ΠΎΠ±ΠΈΠ΅ Π²ΡΠ±ΠΎΡΠΊΠΈ ΠΏΡΠΈ ΡΠ°ΡΡΠ΅ΡΠ½ΠΎΠΌ Π·Π½Π°ΡΠ΅Π½ΠΈΠΈ p:', round(likelihood(y,p_log_response),3)
ααααααΆαααααΌαα αααααααα :
ααααααΆαααααΌαα αααααααΆααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈααααα·αααΌαααΈαααααΆααΆααΆ :
ααααααΆαααααααΌαααααΆαααααΌααΆαααΈααΈααααααΆα’αΆαααααααΎαααααΆααΆααααααα ααΆαααααααΆαααααααΆααααααΆααααααααααΌααΆαααΈααΈαααααα ααΎβαααβααΆααααααΆβαααα β? ααααααα αΆαααΆα ααααααΉαα’αααΈαααααΆααΆαααααΎα±ααααΆα’αΆα ααααΎαααΎαααΆαααΆααααααααΉαααααΌαααΌαααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈαααααΆααα’αα·αα·ααααΈαα½ααα ααΌα αααααα αααα ααααααΆαααααα αΈαααααΆαα ααΆααΉαααΆααααααααΉαααααΌααααα»αααΆαααααΎααααΆααααααΌαααααΆαααααΎα‘αΎααα α α»ααααα αααααααααααΈ 3 ααα’ααααααααααΆααααΆαααΆααααααααααΌααΆαααΈααΈααααααΆααααααα»αα
ααα»ααααααααα·αααΎααΎαα αααααααΈα αα»αααΆαααααααΆαααααΌααΌα ααααα ααα»α’αααΈααΆαααΆαα·αααααΎαααα½ααααααααΆααα½αα ααα½ααααααΉααααααΎαααααΌααΆαααΈααΈαααααααΆαα Vasya, Fedya αα·α Lesha α§ααΆα ααα ααααΎααΉα 0.99, 0.99 αα·α 0.01 αααααααΆα αααα ααααΆαααα½ααααααααΆαααααααααΉαααααΎαααΆαααΆαααα’αα ααΎααααΌααααα»ααααααΆα αααααααΆααΉαααΆαααααΌααααααααααΌαααα αΆαααααα ααααΉα ααα»αααα ααΆααααΌα αααα½ααααααααΆαααααααααααααΆααΆαααΆαααααΆαααΆαα½αααΉααααααααΆαααΌαα α αΎαααΈααΈα αααα½ααααααααΆαααααα·αααΆααΉααα·αααΆαααααααααΈααα’αααααα α αΎαααααα·αααΎαα·ααΈααΆαααααααααΆαααααα»ααααααααΆααααΉα overtraining (αααααααΆαααΌαα αααααααααΎααααΆ) αα·αααααΌαααΆααα½ααααα αΌααααΆαα αααΆαααα αααα»ααααααΆαααα’ααααααααααααα α αΌαααΎαααααααΆααα ααα»α ααΈααΈαααααααα’α·ααααααααααα ααΎααααΈααααΎααΌα αααααααΆααααααααΎααααα½αααΆαααααα½αα ααΎααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈαααα Vasya αα·α Fedya α’αΆα ααΌα ααααΆααααααα·αααΌαααΈαααααΆαααααΎαααααΆαα? ααΆααααααααααααααα·ααααΆααα‘αα αα·αααΆαααα·ααααααΆαα·αα’αΆα ααα ααΌα αααα Vasya ααΉαααα 2.5% ααααααΆααααααααααΆαααααα»ααα½αααααΎααααΈααααααΆαααααα αΈα αΎα Fedya - ααααΎααα 27,8% α ααααααα αααα»αααααΆα ααααΈ 2 "ααΆαα αΆααααααΆααα’αα·αα·αα" ααΎαααΎαααΆ Vasya ααΊαα ααααΆαααΈαααααΆαααααααααααΆααααΆα Fedya α α αΎαααΈαααα»αααΎαααΉαααΆαα»αααΆα αααααΆαα Vasya αα·α Fedya ααααααααα»αααααΆ: 4.24 αααααΆαα Vasya αα·α 1.0 αααααΆαα Fedya α α₯α‘αΌαααα ααααα·αααΎ Fedya ααΆα§ααΆα ααα ααα½αααΆαααΆααααααΆαα·αα αααΎα α¬ααααΎαα»αααααΆαααααα αΈααΌα ααΆαααα ααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈαααααΆαα Vasya αα·α Fedya ααΉαααααααααααΆα αααααΆααα·αααα ααΆαααΉαααα’ααααΆαααΈααα’ααα αα·αα’αΆα αααααααααααΆαααα α αΎαααααα·αααΎααΎααα·αααΆααααΆα αΆαααα α αΎααα·αααΆαααααΆα ααααΈαααααααααΎααα ααΎαα’αΆα αα·ααΆαααααα»ααααα·ααΆαααΆαααααααααααΎαα ααα’αααα»αα’αα»ααααΆαα±ααααΎααααΆααααααΆαααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈαααα’αααααα αΈααΈαα½αα ααα»ααααα αΆααααΆααααΈααΎαααΆαααααααααααααααΆααΆαααααααααα»α ααααΌαααΆαα’αα»ααααααααα ααΆαα αααΆααααΆααα’αα αααααΆααααααΎαααΉαααααααααΆ - αααα»αααααααΎαα’αα»ααααΆαα±ααααΎααααααααΆααααΆαααααααΆαααΆαααααααααΎαα‘αΎαααααααΌααΆαααΈααΈαα :)
ααααααΆαααΆαααααααΎααααα·αα ααα’αΌαα αα αααα»αααααααααααΎαααααΌααααααΈαααααααααα·α αααααααααααααααΌαααΆαααααα αααα αΆαααΆα αααΎααααΈααΆααααααααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈαααα’αααααα αΈααΈαα½ααα
α αΌαβααΎαβααααααβαααβααααααβααΆαα½αβααΉαβαααα·αβααΆβαααβααΎαβαα βααβα αΆαααα :
1. ααΎαααααααααΆααααΆαααααααααΆαα’αααααααα (αααααααααΆαααα) αα·ααααααΆαααααΆαα₯αααα·ααααΎααααααααΊααΈααα’αααα αααααΆααα ααα»αααααααΆααααΌαααΆαααααααΎ αα»αααΆααααααααααααΈααα’ααα αααααααααα αααααΆααααααααα ααααααα» (α’αα·αα·αα) αα ααΆααααΆαα ΠΈ α¬ (α’αα·αα·αααααα’αΆα ααααααΆαααααα αΈ αα·αα’αααααααα·αααΆα)α αααα»αααααΈααααααΎα αααΈααΆαααΆααααααα .
2. ααΎαααααΎ αα»αααΆα logit αααα αααΆα αααααααααα ααΎααααΈαααααααααΌααΆαααΈααΈααααααααα»αααααΆαααααα·αααα·ααααααααΆαα .
3. ααΎαα αΆαααα»αααΆαααααα»ααααααΆαααααααΎαααΆααΆαα’αα»ααααααΌαα αα½αα αααααααΆααα BernoulliαααααΊαααααΆααααααα»ααΈαα½αα α’αααα αααααααααΌαααΆααααααΎα αααααΆαα½αααΉαααααΌααΆαααΈααΈαα (ααααααΆαααααΆααααααα»ααΈαα½αα) ααααααα 1 αα·αααΆαα½αααααΌααΆαααΈααΈαα - 0 α
4. ααΎαααΉαααΈα’αααΈαααααΎαααααΌαααΆαααΎααααΈαααααΎαα’αα·ααααΆ αα»αααΆαααααααΆαααααΌ ααααα·αααΌαααΈαααααΆαααααα½αααααΆα ααΌα ααααααααΌαααα’αΆα ααααΆαααααΆαααΆα’αΆα ααΏααΆααααΆααααα»αα αααααΆααα·αααα ααΎαααααΌαααααΎαααΎααααΆαααΆαααααααααααααΌααΉαα’αΆα ααΏααΆααααΆααααα»αα αααα»αααααΈααααααΎα αααΆαααΆαααααααααααΆαααααΎαααΎαααΊααααΌααΆαααΈααΈααααααΆαααααααΆαααααα αΈ ααααα αααα»ααααα’αΆαααααααΎαααα»ααα·αααααΆαα . ααΌα ααααααΎαααααΌααααααααααα·α ααααααααααααααααα αααααααααΆαααααααΌααΉαααΆαα’αα·ααααΆα
5. ααΎαααΉαααΈα’αααΈαααααααΌααααααΈαα’αα·ααααΆ α’αα»ααααααααααΆαααααΌ α’αΆα ααααΎ αα·ααΈααΆαααααααααααΆαα’αα·ααααΆ. α αΎαααΎαααΉαααΈαααα·α ααααΆααα’ααααΎααααΈααααΎααΆαααΆαα½ααα·ααΈααΆααααααααα
αααααΆαααααααααΆαααααα ααΆα αααΆα αααΎαααα αΆα :)
α₯α‘αΌαα αΆαααΆαα ααΎαα’ααααα ααΎαα ααααΆααααα»αααΆαααΆαααααααΈααααααα ααΆαααΆαααααααααα»ααΆα α’αΆαααααααΎααααα αΆααααααΆααααααα»α ααΆααΆαααΎαα‘αΎαααΌα ααααααΆαα αααα»ααααα αΆα αααΆααααααΆααααΆαα½αααααΆααααΈαααααΆααααααΌαααΆαααααΆαααΆααΆ ΠΈ α¬ . α’αΆαααααααΎαααααΆα ααααααααΉαααΆααα»αααΆαααΆααααααααααααΌαααααΆα
ααααΈααΈ 1. ααΆαα αΆααααααΆααααααααα»α αΌααα αααα»α ΠΈ
αα»αααα αα ααααααααααααααΆαααααααΌ ααααααα»ααααααααΌααΆαααΈααΈααααααΆααααααα»αααααα’αααααα αΈααααΌαααΆαααααΆαααααα’ααααΎαααααΆ αα·ααααα»ααααααΆααααααα±ααα ααΎαααΆαα’αα»ααααααΌαααααα
ααΆαααΆααα·α ααΊααΆα’αααααα αα»αααΆαααααΎααααααααα»ααΆα αααααΆααααα·α ααααααααααα
αααααΆααααααααΆαα’αααΈααΆααΆααααΎαααΈααΆαααααααα»αααΆαααααααΆαααααΌααΌα ααΆααααααα
ααΆααΎαα‘αΎαααααααααααα’ααααα·ααΆαααααΈααααααα½αα ααα½ααα·ααΆααααααααΆααααΈααααααααα»αααΆααααααααΎαααΆαα ααΌααααα‘ααααΎαα§ααΆα αααααααΈαα ααα½α 4 αααααΉααααααααΏαα‘αΎαα
1. ααααα·αααΎααΆα (α§. αααααΆαααααΌααααα»ααααααΆα ααααα»ααΆαααααα·αααα·ααααααααΆαα +1) αα·ααααα½ααααααααΆαααααααΎα αααααααααΌααΆαααΈααΈααααααΆααααα ααααααα»αα ααΆααααΆαα ααααΎααΉα 0.9 αααααΆαααααααααααααααααΆαααααΌαααααΉαααααΌαααΆαααααΆααΌα ααΆαααααα:
2. ααααα·αααΎααΆα αα·α αααααΆααααααΆαααααΆααΉαααΌα αααα
3. ααααα·αααΎααΆα αα·α αααααΆααααααΆαααααΆααΉαααΌα αααα
4. ααααα·αααΎααΆα αα·α αααααΆααααααΆαααααΆααΉαααΌα αααα
ααΆα αααΆααααΆααααΆαα»αααΆαααααααΆαααΉαααααΌαααΆααααααΈαα’αα·ααααΆαα αααα»αααααΈααΈ 1 αα·αααΈ 3 α¬αααα»αααααΈααΌαα - ααΆαα½αααΉαααααααααααΆαααΆααααΆαααααΉαααααΌαααααααΌααΆαααΈααΈααααααΆααααααααααα»αα ααααΆααα .
αααααΆαααααΆααα·ααααααΆαα ααααααααααααΌααΆαααΈααΈααααααΆααααααααααα»αα ααααΆαααα½αα ααΎαααααΆαααααα·αααααΆαααααα»α αααααΆααααααΎαααΉαααααααααα½αααα ααΌα αααααΆααααααΆααααΆαααΎ αααααΊααΆαααα αΆαααααΎαααααα·αααααΆα αααααααΌαααΎαααααΌααααααααααααΈααααα’αα»ααααααααααΆααααααααααΆαααα·α ααααααααααα . αααααΆαααΆαααΆααααα ααΆααααΌαααΆααα ααα»αααααα»αααΆαααααα½ααα·α αα ααΆααααααΆαααααα½αααΎαα ααΎαααΉααααααααααααΈααααααααΆααΈα αα»αααΆαααααααΆα.
α ααα»α’αααΈααΆαααΆαααααΆααααΈααααΆααΈα, αααα»α αα»αααΆαααα α»αα‘αΌααΈααααΎαααΆαααααΆααααααΌααααααΆααΈ αα ααΎ . α’αααΈααααααααΆαααΊααΆαααα αααααΆααααα αΆααααΆαααΆαααααααα»αααΆαααααααΌ ααΆααΆαααααΆαααααα»αααΆαααΆαααααααααααααααα»αααΆααα½α ααΎααα»ααααααααΆαααααΆαααααααααααα α αΎαααΆαααα αααα½αα±ααααΆααααααΈαα’αα·ααααΆ α₯α‘αΌααααααΎαααΆααααααααα»αααΆαα
ααΆααα·αα₯α‘αΌαααα αα α αααααα»αα’ααα αα»αααΆαααααΆαααΆαααααααΊααΎαα ααααΈααΆαααααΆααΆα ααΆαααΆαααααααααα»ααΆα αααααΆαααα»αααααα»ααααααΆααααααΆαααΈαααααΆααα ΠΈ .
α₯α‘αΌαααα ααΎααααΈααααααααααα»α ααΎαααααΆααααααααΌαααΆααααααααααααΈαα αα»αααΆαααα α»αα‘αΌααΈαα α αΎααααααΆαααα αααααααΎαα·ααΈααΆααααααααααΎαααααα·αααααΆαααΆααα ααΌα ααΆ gradient descent α¬ stochastic gradient descent ααααΎαααΎααααα»αααα’αααα»α . ααα»αααααααααΆαααα·ααΆααααααααΉααααααΆααααα’ααααα ααΆααααΌαααΆαααααΎα±ααα’αα»ααααααΆααα»αααααΆααααααα½αα―α α¬αααα ααααΆαααααΆαααααΆααααααααΆααα’ααααααααααΆαααααααΆαααααααααααα αααΎααααααααΆαα§ααΆα ααααααα’α·αααααααα
ααααΈααΈ 2. ααΆαα αΆααααααΆααααααααα»α αΌααα αααα»α ΠΈ
αα·ααΈααΆααααααα ααΈαααααΉαααΌα ααααΆααΉαααααΆααααααααα ΠΈ ααα»ααααααααΌααααα½αα―ααα ααΆαααααααααααα»αααΆαααΆααααα ααΆαααΆαααααααααα»ααΆα, ααΉαααΆαααααααααααα’αΆαα αααβα αΆααααααΎαα αααααΆαααα»αααΆαααααααΆαααΎαααΉαααααΎααααα·ααααα·αα βααααα·αααΎβ¦ αααβ¦β. αααααΊααααα·αααΎ ααααα»ααΈ XNUMX ααΆαααααα·αααα·ααααααααΆαα αααααΆαααα ααΎααααΈααααΆααααααΆαααααααΌ ααΎαααααΎααααΌααΆαααΈααΈαα ααααα·αααΎααααα»ααΆαααααα·αααα·ααααααααΆαα αααααΆααααααΎααααα½αααααααΆα . αααααΆα’αααΈααααα»αααΆαααααααΆαααΎααα α
α αΌαααΎααααααΆαα ααΎααααΆαααααααααΎαααΈαααααααααΆααααΎαααΆαα ααααα·α αΆαααΆ α€ ααααΈα
1. ααααα·αααΎααΆα ΠΈ αααααΆααααααααααΆαααααααΌααΉα "αα "
2. ααααα·αααΎααΆα ΠΈ αααααΆααααααααααΆαααααααΌααΉα "αα "
3. ααααα·αααΎααΆα ΠΈ αααααΆααααααααααΆαααααααΌααΉα "αα "
4. ααααα·αααΎααΆα ΠΈ αααααΆααααααααααΆαααααααΌααΉα "αα "
ααΆα αααΆααααΆααααΆαα αααα»αααααΈααΈ 1 αα·αααΈ 3 αα ααααααααααΌααΆαααΈααΈααααααΌαααΆαααααααααΆαααααΉαααααΌαααααααα½ααααααααΆαα αα»αααΆαααααααΆα ααΉαααααΌαααΆααααααΈαα’αα·ααααΆ αααααΊααΆα’αααΈαααααΎαα ααααα½αααΆαα ααααααΆαααΆααααα αα·ααΈααΆααααααααααΊαα·ααΆαααααα·α α αΎααααααΆααααΎαααΉααα·α αΆαααΆααΎααΆααααααααααααααααα ααα»ααααααΆααααΌα ααΌαα²ααααααΆααΈαα’αα»ααααααααααΆαααΆαα½αααΆαααααΆααααααΌααααααΆ αααααα₯α‘αΌααααααΎαααΉαααααα½αααΆα±αααα·α αααα»αα
α αΌααααα½ααα·αα ααΆααααα ααααα· :
α αΌαααααα½αααΆαααααααΉαααααΌααα αααααααααΆααΈααααααααΎαα αα ααααααααααααααΆαααα α αΎαααα½αααΆαα
α₯α‘αΌααααααΆααααααα αΎαααΎααααΈαααα αΆααααααα·ααααα·αα βααααα·αααΎβ¦ αααβ¦β. α αααΆαααΆαα ααααααααααα»αα½αα ααΆαααααα·αααα·ααααααααΆαα αααααΆαααααα αααα»ααααααααααααααααΆααΈα αααα»αααΆαααα α‘αΎααααα’αααΆα ααααα·αααΎααααα»ααΆαααααα·αααα·ααααααααΆαα αααααΆαααα $e$ ααααΌαααΆαααΎαα‘αΎααα ααΆααα’αααΆα . ααΌα αααα αααααΆααααααΆαααααααΆαααααα’αΆα ααααΌαααΆαααααΎα±ααααΆααααααααααα αΌαααααΈααΆααααΈααα ααΆαααα½αα α αααααΆααααα αα»αααΆαααα α»αα‘αΌααΈαααα·α ααΉαααααααααα
α’αα»αααβααΆαβα αααΆααβααααΆααΈα ααΎαβααααααβαααααΆαβα αΎαβααΆααβαααααΆ "" (αα) αααααΆααααααΆααΈα ααΎαααα½αααΆαα
αααααΊααΆαα»αααΆαααΆααααα ααΆαααΆαααααααααα»ααΆααααααααΌαααΆαααααΎαα αααα»ααααα»αααααα»ααααααΆαααΆαα½αααααα»αααααΆαααααααα ααααΆααα ΠΈ .
ααΆααΆααααααΎαααΆαα, αα α ααα»α ααααααα»αααααααααΆαα αΎαααΎααααα ααα’αααααα
αααααΆαααααα½α
1 α α’ααααααΆααααα
1) ααΆααα·ααΆαααααααααααααααΆαα’αα»αααα / N. Draper, G. Smith - 2nd ed α - α’α·αα α α·ααααααααα» αα·ααααα·αα· ααααΆα α‘α©α¨α¦ (ααααααααΈααΆααΆα’ααααααα)
2) ααααΉααααΈααααΌααΆαααΈααΈαα αα·ααααα·αα·ααα·ααα·ααααΆ / V.E. Gmurman - ααΈ 9 ed α - M. : αα·ααααΆααα ααααΆα α’α α α£
3) ααααΉααααΈααααΌααΆαααΈααΈαα / N.I. Chernova - Novosibirsk: ααΆαααα·ααααΆααααααα Novosibirsk ααααΆα 2007
4) ααΆααα·ααΆαα’αΆααΈαααααα ααΈαα·αααααααα α ααααααΉα / Paklin N.B., Oreshkov V. I. - 2nd ed α β ααΆααααααΊαααΊαα αααααα»α ααααΆα α’α α‘α£
5) αα·ααααΆααΆααααααα·αααααα αα·ααααΆααΆααααααα·ααααααααΈααα / Joel Gras - St. Petersburg: BHV Petersburg, 2017
6) αααα·αα·ααΆααααααααααααΆααα’αααα―αααααα·ααααΆααΆααααααα·αααααα / P. Bruce, E. Bruce - St. Petersburg: BHV Petersburg, 2018
2. ααΆααααααα, αααααα·ααααΆ (ααΈααα’αΌ)
4)
5)
3. αααααα’ααΈαααΊαα·α
3)
4)
6)
7)
8)
ααααα: www.habr.com