ááá¯ááºáá°ážá áá¯ááºáá«áááºá áá«á¡áá±ážá¡áááºááá¬ážáá°ážá áá¬áá¬áááºáá áºáá¯ááᯠááá¯ážááŸááºážá¡á±á¬áẠáá¯ááºááá¯ááºááá·áºá¡ááá¯ááºážá¡áá¬á¡áá ááá·áºáááºáá»ááºááŸáááááºá ááá¯á·áá±á¬áº áááá¡ááá·áºáá»á¬ážááœáẠá¡ááŒá±áá¶ááá±á¬ááá¬ážáá»á¬ážááᯠáá¬ážáááºááŒá®áž áá±á«ááºážá ááºááᯠáá»ááºááŒááºá áœá¬ âááá·áºááœááºážááŒááºážâ ááẠáááºáá¶ááá¯ááºááœááºááŸááááºá á€á¡áá¬á¡á¬áž áááºáá²á·ááá¯á·ááŸááºáááºá áœá¬ á¡áááºáá±ážááááºááᯠáá»áœááºá¯ááºááá¯á· ááœá±ážááœá±ážáá«ááẠ(ááœá±ážáá»ááºá áá¬áá»á¬áž- "áá¯ááºááœá¬ážáá±á¬áºá¡ááœáẠá ááºáááºáá°ááŒááºáž"á "á¡ááŸá®ážáá»á¬ážá០áá±áá¬ááœá²ááŒááºážá áááºááŒá¬ááŒááºáž"á "ááá±ážáááºáá»á¬ážá¡ááœáẠá¡ááºáááá¯áá®áááºáá»á¬áž")) ááᯠá¡áá¯á¶ážááœáẠááœá±ážááœá±ážáá«áááºá
ááœáá¯áá·áºá áá±áá¬áá»á¬ážááᯠááœá²ááŒááºážá áááºááŒá¬ááá·áºá¡áá« ááá°áá®áá±á¬ á ááºáááºáá°ááŸá¯áááºážáááºážáá»á¬ážááœáẠááŒá áºáá±á«áºááá·áº áá¯ááºáááºážá ááºáá»á¬ážááᯠááŒááºáá±á¬ááºááá¯ááºá á±áááºááŸáá·áº á¡ááŒááºá¡á¬áá¯á¶ááᯠááá¯ááºá á¬ážááŒá¯áááºá¡ááœáẠMS Excel ááœáẠá¡ááá®áá±ážááŸááºážáá»á¬ážá áœá¬ááᯠáá±ážáá¬ážáá²á·áááºá ááŒááºááŒááºážáá°ááẠáá¯á¶ááŒááºááŒááºážááŒá áºáááºá á ááºá á áºá¡á¬ážááŒáá·áºá á€áááºážáááºážá¡áá»á¬ážá á¯ááᯠáá®ááœááºáááºáá®ážáá²á·áá±á¬ áááºáá»á±ážááŸá¯ááá¯ááºáá±á¬ááºáá°áá»á¬ážááŒá±á¬ááá·áºá¡ááá¯ááºáž (ááá¯áááºážá¡á¬ážááŒáá·áºá áááºážááá¯á·á¡á¬ážáá¯á¶ážááá¯ááºáá±á á¡á áœááºážáááºáá¯á¶áž âá¡áá±á¬ááºáá°ááŒá¯á ááºâ ááá¯á·ááá¯áẠSVMá á¡áá±á¬ááºá¡áá°ááŒá¯ vector á ááºááẠáá®ááœááºááŸá¯ááŒá áºáááºá áá±á¬áºá ááᯠá á®áá¶ááá·áºááœá²áá±ážááá¹áááá¯ááºá០áá»áœááºá¯ááºááá¯á·áááá¯ááºáá¶áá¬áž ááá¬áá®áᬠáááºáá áºááºá
ááŒááºáááºáá¯á¶ážáááºááẠááá¯ááºáá¯á¶ážáá¯
1. K - á¡á á¯á¡áá±ážááᯠááá¯ááá¯áááºá
áá»áœááºá¯ááºááá¯á·ááẠáááŠážáá±áá¬á¡á¬áž ááŒáá¯áááºááááŸááá¬ážáá±á¬ á¡áá»áá¯ážá¡á á¬ážá¡áá±á¡ááœááºáá áºáá¯ááá¯á· ááá¯ááºážááŒá¬ážááẠááá¯á¡ááºáá±á¬á¡áá«ááœáẠá€á¡áá»áá¯ážá¡á á¬ážáááŒá¿áá¬áá»á¬ážááẠ"ááŒá®ážááŒááºááŸá¯áááŸááá² áááºáá°ááŒááºáž" ááᯠáááºááœáŸááºážáááºá ááá¯á·áá±á¬áº áá»áœááºá¯ááºááá¯á·ááœáẠ"ááŸááºáááºáá±á¬á¡ááŒá±áá»á¬áž" á¡áá±á¡ááœááºáááŸááá«á áááºážááá¯á·ááᯠáá±áá¬ááá¯ááºááá¯ááºá០áá¯ááºáá°ááá«áááºá . áá»ááºáááºážáááºážáá»áá¯ážá áááºááœá²áá»á¬ážááᯠááŸá¬ááœá±ááŒááºážá á¡ááŒá±áá¶ááá¹ááááºááŒá¿áᬠ(Ronald Fisher, 1936!)á
áááºážáááºážá áá±á¬áºáá±á¬áºááá¯ážááŸááºážáá«áááºá áá»áœááºá¯ááºááá¯á·ááœáẠvectors (N áá¶áá«ááºáá»á¬áž) á¡ááŒá
Ạááá¯ááºá
á¬ážááŒá¯ááá·áº á¡áá¬ááá¹áá¯á¡á
á¯á¶ááŸááááºá irises ááœááºá á€á¡áá¬áá»á¬ážááẠáááºážááœáá·áºááá¯áá±á¬áºááŒááá·áº ááááºáž á áá¯á¶ážáá«- perianth á á¡ááŒááºáááºááŸáá·áº á¡ááœááºážá¡ááŒáŸá±ážáá»á¬ážá á¡áá»á¬ážááŸáá·áº á¡áá¶á
ááá¯á·áá±á¬ááºá á¡á á¯á¡áá±ážáááá¯áá¬ááá»á¬ážááᯠáá»áááºážááœá±ážáá»ááºááẠ(ááá¯á·ááá¯áẠáá»áááºážááá¯ááºá á¡á±á¬ááºááœááºááŒáá·áºáá«) ááŸáá·áº á¡áá¬ááá¹áá¯áá áºáá¯á á®á០á¡á á¯á¡áá±ážá ááºáá¬áá»á¬ážááá¯á· á¡ááœá¬á¡áá±ážáá»á¬ážááᯠááœááºáá»ááºáá«áááºá áá±ážáá¬ážáá±á¬ áááºáá¬áááºáᬠá¡ááá·áºááŸá á¡áá¬áá áºáá¯á á®ááᯠá¡áá®ážá ááºáá¯á¶áž á¡áááºáááá¯ááœáẠááá¯ááºááá¯ááºááŒá±á¬ááºáž ááŸááºáá¬ážáá¬ážáááºá ááá¯á·áá±á¬áẠá¡á á¯ááá¯ááºáá áºáá¯á á®á á¡áááºáááá¯ááᯠáááºážáá¡ááœá²á·áááºáá»á¬ážá ááŒáá®ááááºáá»á¬ážáááááºážáááºá¹áá»á¬ááá¯ááá¯áááºážááá¯á· ááŒá±á¬ááºážááœáŸá±á·ááẠ(áá°ááá±áááŸáá·áº ááŸááºááœá²áᬠáááºážááᯠ"ááŒááºáá¯ááááá¯" áá¯áááºáž áá±á«áºáááº)á áá¯ááºáá¯á¶ážáá¯ááºáááºážááᯠáááºáá«ááá²áá² áá¯ááºáá±á¬ááºáááºá
ááŒá áºá ááºá á¡áá±á¬áºáá±ážááᯠááŒááºáááºáá«áááºá áá¯á¶áá»á¬ážááœáẠá¡ááá¯ááºážá¡áᬠááŸá áºáááºááŒáá·áº á€áá²á·ááá¯á· ááŒá áºáááº-
1. áá±áá¬ááºáá±á«áºááŸá á¡ááŸááºáá»á¬ážááŸáá·áº á¡á á¯á¡á ááºážáá»á¬ážá á¡áá±á¡ááœááºááᯠáááŠáž áá»áááºážááœá²áá±ááŸá¯
2. á¡á
á¯á¡ááœá²á·áá»á¬ážááᯠáááºááŸááºááŒááºážááŸáá·áº áááºážááá¯á·á á¡á
á¯á¡áá±ážáá»á¬ážááá¯á· á¡ááŸááºáá»á¬áž áááºááŸááºáá±ážááŒááºáž
3. á
ááºáá¬áá»á¬áž áááºááŒáááºáááºá¡áá á¡ááŸááºáá»á¬ážá áááºááœááºááŸá¯ááᯠááŒááºáááºááœááºáá»ááºááŒááºážá á¡á
á¯á¡ááœá²á·áá»á¬ážá ááŒáá®ááááºáá»á¬ážááᯠááœáŸá²ááŒá±á¬ááºážááŒááºážá á¡á
á¯á¡ááœá²á·áááá¯á áá±á¬ááºáá¯á¶áž á¡áá±á¡áá¬ážááá¯á· ááœá±á·áá»á¬ážáá±ááá·áº áááºážááŒá±á¬ááºážááᯠááŒááºááá¯ááºáááºá
á¡áá»áááºáááœá±ážá á¡á
á¯ááá¯ááºá
ááºáá¬á¡áá
áºáá»á¬áž (á¡ááŸááºá¡áá
áºáá»á¬áž ááŒáá·áºáá±ááŸá¯áááŒá¯áá¯ááºáá²) ááᯠáááºááŸááºááá¯ááºááŒá®áž ááá¯ááºážááŒá¬ážááŒááºážáá¯ááºáááºážá
ááºááẠá¡ááŒá²áááºážááŸááºážáááºážááŒááºáá¬ážááŒááºážáááŸáááŒá±á¬ááºáž ááááŒááºááá¯ááºáá«áááºá áááºá¹áá»á¬áááºážá¡á¬ážááŒáá·áºá ááá¯ááá¯áááºááŸá¬ áá¯ááºáá±á¬ááºáá»ááºááᯠááá¯ááá¯áá±á¬ááºážááœááºá¡á±á¬ááºááŒá¯áá¯ááºááŒááºážá¡ááœáẠ(áááºážááá¯á·áá¡á
á¯á¡áá±ážááááá¯áá»á¬ážá¡áá) ááŸá
áºáááºááááºážá¡ááœá¬á¡áá±ážááá±á«ááºážáááºááᯠáá»áœááºá¯ááºááá¯á·ááẠááá¹áá¬áá¯á¶ážááá¯ááºáá¬ááá¯ááºáá±á¬áºáááºáž áá±ááá¹ááá¡áááá·áºáá¯á¶ážááᯠáá»áœááºá¯ááºááá¯á·ááœá±á·ááŸáááá«áááºá á€ááŒá¿áá¬ááᯠáááŠážá¡á
á¯á¡ááœá²á·á
ááºáá¬áá»á¬ážá áá»áááºážááœá±ážáá»ááºááŸá¯ááá¯ááºáá±á¬ ááœá±ážáá»ááºááŸá¯ááŒáá·áº ááá¯á·ááá¯áẠááŒá
áºááá¯ááºáá»á±ááŸááá±á¬ á
ááºáá¬áá»á¬ážááᯠáá±ááœááºááŒááºážááŒáá·áºáá±á¬áºáááºážáá±á¬ááºáž áá»á±á¬áºááœáŸá¬ážááá¯ááºááẠ(ááá«ááá¶ááœáẠáááºážááá¯á·ááᯠá¡ááŸááºáá»á¬ážá¡áááºá០á¡ááá¡áá» áá¬ážááŸáááŒááºážááẠá¡áá»áá¯ážáá»á±ážáá°ážááŸáááŒá®áž á¡áááºážáá¯á¶áž áá»áœááºá¯ááºááá¯á·ááẠá¡ááœááºááááºááá¯ááºááŒá±á¬ááºáž á¡á¬ááá¶áá»ááºááŸááá«áááºá ááŒáœááºáá»á¬áž)á áááºááá¯á·áááºááá¯á
á±áá¬áá° ááá·áºáááºáá»ááºáá
áºáá¯ááẠá¡ááŒá²áááºáž á¡áá¶á·áá¯á¶ážáá
áºáá¯ááŒá
áºáááºá
Wikipedia ááœáẠáá±á¬áºááŒáá»ááº-
2. ááááºážááááºážáá»á¬áž ááŸáá·áº áá±áá¬ááœá²ááŒááºážá áááºááŒá¬ááŒááºážááŒáá·áº á¡áá®ážá ááºáá¯á¶ážá ááŒááºáááºáá±á·áá»áá·áºááŒááºážá
áá±áá¬áááá¹áᶠK.V. Vorontsov ááẠá ááºáááºáá°ááŸá¯áááºážáááºážáá»á¬ážááᯠ"á¡ááŸááºáá»á¬ážááŸáááá·áº áá»ááºážááœá±ážáá¯á¶ááœá²ááŒááºážááá¬áááº" á¡ááŒá Ạá¡ááá¯áá»á¯á¶ážáá±á¬áºááŒáá«áááºá á€á¥ááá¬ááœááºá á¡áááºážáá¯á¶áž á áá¯áááºážáá¯á¶áááºážáááºážááᯠá¡áá¯á¶ážááŒá¯á áá±áá¬ááœáẠáá¯á¶á á¶áá áºáá¯ááᯠáá»áœááºá¯ááºááá¯á· ááœá±á·ááŸááá«áááºá
á¡áááºážá¡ááŒá áºáá±áá¬ááᯠ"áá±á·áá»áá·áºáá±áž" ááŸáá·áº "ááááºážáá»á¯ááºááŸá¯" á¡ááŒá Ạááá¯ááºážááŒá¬ážááŒááºážáááºážááá¬ááᯠááŒááá¬ážááŒá®ážá ááŒááºáááºáá±á·áá»áá·áºááŒááºáž ááá¯á·ááá¯áẠáá±áá¬ááᯠ"ááŒááºáááºáá»áááºááŸáááŒááºáž" áá²á·ááá¯á·áá±á¬ ááŒá áºá ááºáá áºáá¯á¡ááŒá ẠááŒááá¬ážáááºá ááŸááºáááºáá±á¬ ááá·áºááŸááºážááŒá±ááŒáá·áºá áá»áœááºá¯ááºááá¯á·ááẠáá±á·áá»áá·áºáá±ážáá±áá¬ááŸáá·áº ááááºážáá»á¯ááºááŸá¯áá±áá¬ááœáẠá¡áááºážáááºááá¯ááŒá®ážáá±á¬ á¡ááŸá¬ážá¡ááœááºážáá áºáá¯ááŸááá«áááºá áááŸááºáá«áá áááºážááẠáá±á·áá»áá·áºáá±ážáá±áá¬á¡ááœáẠáááá»áá±á¬ áá»áááºááŸáááŸá¯ ááŸáá·áº á á áºáá±ážááŸá¯áá±áá¬ááœáẠááŒá®ážáá¬ážáá±á¬ á¡ááŸá¬ážá¡ááœááºážáá áºáᯠááŒá áºáá±á«áºá á±áá«áááºá
(N á¡ááŸááºáá»á¬ážááŸáááá·áº N-1th áá®ááá®á áá»ááºážááœá±ážáá
áºáá¯áááºážááᯠááœá²áá°ááá¯ááºááŒá®áž áá±áá¯áá»ááá
á¹á
ááœáẠá€áááºážáááºážááẠááá¯áá»ááºáá±á¬ááááºááᯠááá±ážááŒá±á¬ááºáž áá°áááá»á¬ážáá±á¬á¡áá»ááºááŒá
áºáá«áááºá
1. áááŠážááŒáá·áºááŒá°ážááŸá¯ááᯠáááºááŸááºáá«á
2. áá»áœááºá¯ááºááá¯á·ááẠá¡ááŸááºáá»á¬ážááᯠ70 á០30 á¡áá»áá¯ážááŒáá·áº "áá±á·áá»áá·áºáá±áž" ááŸáá·áº "ááááºážáá»á¯ááºááŸá¯" á¡ááŒá
Ạááá¯ááºážááŒá¬ážáá¬ážáááºá
3. áá»áœááºá¯ááºááá¯á·ááẠáá±á·áá»áá·áºáá±ážá¡ááŸááºáá»á¬ážáá
áºáá»áŸá±á¬áẠá¡áá®ážá
ááºáá¯á¶ážáá»ááºážááœá±ážááá¯ááœá²áᬠááááºážáá»á¯ááºááŸá¯áá±áá¬ááœáẠáá±ážáá±á¬ á¡ááŸá¬ážááᯠáá»áœááºá¯ááºááá¯á·ááœá±á·ááŒááºááá«áááºá
4. áá»áœááºá¯ááºááá¯á·ááẠáá±á·áá»áá·áºáá±ážá¡ááŸááºáá»á¬ážááŸáááá·áº á¡ááá¡áá»áá»ááºážááœá±ážáá
áºáá¯ááœá²ááŒá®áž ááááºážáá»á¯ááºááŸá¯áá±áá¬ááœáẠááŒá®ážáá¬ážáá±á¬á¡ááŸá¬ážá¡ááœááºážáá
áºáá¯ááœá±á·ááŒááºáááẠ(áá±á·áá»áá·áºáá±ážáá±áá¬ááœáẠáá¯áááŒá
áºáá±á¬áºáááºáž áááºááá·áºá¡áá»ááºááŸá¬áá²á)
áá±áá»á¬áááºááŸá¬á ááŒáá¬ážáááºááŸá¬ "áá±á·áá»áá·áºáá±áž" ááŸáá·áº "ááááºážáá»á¯ááºááŸá¯" á¡ááœá²áá»á¬ážááá¯á· áá
áºáá¯áááºáž ááá¯ááºážááŒá¬ážááŒááºážááŒáá·áº á¡ááá¯ážááŸááºážáá¯á¶ážááœá±ážáá»ááºááŸá¯ááŒá
áºáááºá áá±áá¯áá»á¡ááŒá±á¡áá±ááœááºá áááºážááᯠcoefficients áá¡áá±á¬ááºážáá¯á¶ážáá»áááºááŸáááŸá¯á¡ááœáẠá¡ááŒáááºáá»á¬ážá
áœá¬ááŒá¯áá¯ááºáááºá
3. Gradient áááºážáááºááŸá¯ááŸáá·áº á¡ááŸá¬ážá¡ááœááºážááŒá±á¬ááºážáá²ááŸá¯á ááá¯ááºážááá áºáá»á¬áž
4-dimensional case ááŸáá·áº linear regression ááŸááá«áááºá Linear regression coefficients ááẠgradient descent method ááᯠá¡áá¯á¶ážááŒá¯á áá áºááá·áºááŒá®ážáá áºááá·áº áá¯á¶ážááŒááºáááºááŒá áºááŒá®ážá á¡á ááá¯ááºážááœáẠcoefficients á¡á¬ážáá¯á¶ážááẠáá¯áááŒá áºáááºá Coefficients áá»á¬ážááᯠááá¯ááá¯áááá»á áœá¬ áá»áááºááŸááá¬ážáá±á¬ááŒá±á¬áá·áº áá®ážááŒá¬ážááááºáá áºáá¯ááẠá¡ááŸá¬ážá¡ááœááºážáá»áŸá±á¬á·áá»ááŒááºážá ááá¯ááºážááá áºáá»á¬ážááᯠááŒááááºá á áááºááŒáẠááá±á¬áá»áẠáá±ážáá¯áá¯á¶ážááᯠááŒáá·áºááŸá¯ááá¯ááºáááºá
gradient áááºážááŒááºážá¡ááá·áºááᯠááŒá®ážááœááºážáááºáᯠáááºááŸááºáá«áá áá»áœááºá¯ááºááá¯á·ááẠá¡áááá·áºáá¯á¶ážááᯠáá»á±á¬áºááœá¬ážááá·áºá¡áá«ááá¯ááºážááœáẠááááºááẠááá¯ááŒá®ážáá±á¬ááŒá±ááŸááºážáá»á¬ážááŒáá·áº áá±á¬ááºááŸááá¬áááºááŒá áºáá±á¬áºáááºážá á¡áá¯á¶ážááœáẠáá»áœááºá¯ááºááá¯á·áá±á¬ááºááŸááá±áá²ááŒá áºááẠ(ááá¯á·áá±á¬áº áááºážáááºááá·áºááŒá±ááŸááºážááᯠááŸá±á¬áá·áºááŸá±ážááŒááºážáááŸááá«áá á¡áá»á¬ážááŒá®áž - ááá¯á·áá±á¬áẠalgorithm ááẠ"in spades" ) ááœá¬ážáááá·áºáááºá áááºáá«áááºáá«áá¯ááºááá·áºá¡ááá·áºáá±á«áºáá°áááºá á¡ááŸá¬ážáááááºááẠáá»á±á¬ááœá±á·áááºááá¯ááºáá±á¬áºáááºáž "ááááºážááá¯ááº"á
1. áá±áá¬áá¯ááºáá¯ááºáá«á gradient áááºážáááºááá·áºá¡ááá·áºááᯠáááºááŸááºáá«á
2. gradient áááºážáááºááŒááºážá¡ááá·áºá ááŸááºáááºáá±á¬ááœá±ážáá»ááºááŸá¯ááŒáá·áºá áá»áœááºá¯ááºááá¯á·ááẠá¡áááá·áºáá¯á¶ážááᯠáá»á±á¬áá»á±á¬ááœá±á·ááœá±á·ááŸáá·áº áá»ááºááŒááºá
áœá¬áá±á¬ááºááŸáááœá¬ážáá«áááºá
3. gradient áááºážáááºááá·áºá¡ááá·áºááᯠááŸá¬ážááœááºážá
áœá¬ááœá±ážáá»ááºáá«áá áá»áœááºá¯ááºááá¯á·ááẠá¡ááŒáá·áºáá¯á¶ážááᯠáá»á±á¬áºááœá¬ážáááºá á¡ááŸá¬ážááááºááẠ"ááŸá¯ááºááŸá¯ááºááœááœ" ááŒá
áºáá±áááºá áá±á«ááºážá
ááºážááŒááºážááẠááŒá±ááŸááºážá¡áá±á¡ááœáẠááá¯áá»á¬ážáááº
О
4. áá»áœááºá¯ááºááá¯á·ááẠgradient áááºážáááºááŒááºáž á¡ááá·áºááᯠáá¯á¶ážáá¯á¶áž ááŸá¬ážááœááºážá
áœá¬ ááœá±ážáá»ááºáá«áá áá»áœááºá¯ááºááá¯á·ááẠá¡áááá·áºáá¯á¶ážá០áá±ážááœá¬ááœá¬ážáá«áááºá
(áá¯á¶áá»á¬ážááœááºááŒááá¬ážááá·áº gradient áááºážáááºááá·áºá¡ááá·áºáááºááá¯ážáá»á¬ážááᯠá¡áá¯á¶ážááŒá¯á áá¯ááºáááºážá
ááºááᯠááŒááºáááºáá¯ááºáá¯ááºáááºá "ááá¯ážáá¬ážáá»ááºáá±áá¬" á¡ááœááºááᯠá
á
áºáá±ážáá«á)
áá±ážá
á¬ážááá¯ááºáá±á¬á¡ááá¯ááºážá¡áááºážá¡áá á€áá²á·ááá¯á·áá±á¬ááá¯ážááŸááºážááŸá¯ááŸáá·áº á¡ááŒá±á¬ááºážá¡áá¬ááá¯áááºááŒááŒááºážáááºážáááºážá áááºáá¶ááá¯ááºáá«ááá¬ážá áá±á¬ááºážáá«ážááᯠá¡ááºá¹áááááºááᯠáá¬áá¬ááŒááºááá¯á· ááá¯ááºáááºáá«ááá¬ážá
source: www.habr.com