á
ááºáááºáá°ááŒááºáž áá±á¬á·ááºáá²áá¯ááºáá¯ááºáá»á¬ážá áá¯ááºááẠáááŒá¬áá ááŸá¯ááºááœá±ážááŒá®áž á¡áá±á¬áºáá±áž ááŸá¯ááºááœá±ážáááºá áááºážááœááºááŸááá±á¬ bug áá»á¬ážááᯠááŸá¬ááœá±ááŒááºážááŸáá·áº áááºááŸá¬ážááŒááºážááŸá¬ á¡áááºážá¡ááŒá
áºáá»á¬áž á¡ááááá¯ááºáá±á¬ááºáá±á¬ á¡áá¯ááºááŒá
áºáááºá á¡ááá¯ážááŸááºážáá¯á¶ážáááº
á€áá±á¬ááºážáá«ážááẠááá·áºá¡á¬áá¯á¶ááŒá±á¬ááœááºáááºáá»á¬ážááᯠá¡ááŸá¬ážááŸá¬ááŒááºážá¡ááœáẠá¡ááºáááá¯áá®áááºáá
áºáá¯á¡ááŒá±á¬ááºážááŒá
áºáááºá
Skillbox á០á¡ááŒá¶ááŒá¯áá¬ážáááº- áááºááœá±á·áááºáááºáž
Python developer ááẠá¡á ááŸá .áá«ááá¯á·áááºážááá¯ááááá±ážááẠ"Habr" áá á¬áááºáá°á¡á¬ážáá¯á¶ážá¡ááœáẠ- "Habr" áááá¯ááá¯ážááŸááºážáá¯ááºááᯠá¡áá¯á¶ážááŒá¯á áááºááá·áº Skillbox áááºáááºážááœááºá á¬áááºážááœááºážááá·áºá¡áá« 10 áá°áááºáá»áŸá±á¬á·á á»á±ážá
algorithm ááœáẠá¡ááá·áºáá«ážááá·áº áá«áááºáááºá
- ááœááºáá°áá±á¬á áááº;
- áá¯á¶ážááŸá¯á¶ážááŸá¯á¡áááºááŒá¯áá»ááº
- á¡áááºá¡áááºááááºáá»á¬ážááŸáá·áº áá»áááºáááºááŸá¯áá»á¬ážááᯠá á áºáá±ážááŒááºážá
- ááá·áºáááºáá»ááºááŸá¬ááœá±áá±áž;
- á¡áá¯ááºááááºážáá»á¯ááºááŸá¯á
áá»ááºáá¬ááẠááá·áºá¡ááœáẠááá¯á áááºáááºá á¬ážá áá¬áá±á¬ááºážáá¯á¶ááá«áá á€ááá¹ááá»á¬ážááá¯á· áá»ááºáá»ááºážáá»á±á¬áºááœá¬ážááá¯ááºáá«áááºá
á áááºáááºááœááºáá°áááºá
ááŸá¯ááºááœá±ážáá±á¬ áááá¯áá¬ááá¬á áá¯á¶ááŸááºááŒá¯áá¯ááºááŒááºážááŸáá·áº áááºáá°ááŸá¯ááŸá¯ááºážááá¬ážáá«ááŸááá±á¬ á¡á¬áá¯á¶ááŒá±á¬ááœááºáááºáá áºáá¯ááẠáá¯á¶ááŸááºáá áºáá¯ááẠá¡ááŸá¬ážááŸá¬ááẠááá¯áááºáá²áááºá á¡áá»ááºááá¯ááºááá¯ááºá á¡ááŸá¬ážááŸá¬ááŒááºááŒááºážááŸáá·áº ááœááºááá¯ááºáá±á¬áááºážááŒáá·áº áááºá ááºáá±áá±á¬ááŒá±á¬áá·áº á€áá±áá¬ááœáẠáá»áœááºá¯ááºááá¯á· á¡áááºážááẠááŸá¯ááºááœá±ážáá±áá«áááºá ááá¯á·áá±á¬áº áááºážááẠá¡áá±ážááŒá®ážáá±á¬ á¡ááŒá¶ááŒá¯áá»ááºáá áºáᯠááŒá áºáá±áá²ááŒá áºáááºá
ááá¯ážááŸááºážáá±á¬á¡á ááŒá¯ááŸá¯ááŸá¬ ááá¯ážááŸááºážáá±á¬áá¯á¶á á¶áá áºáá¯ááᯠáááºáá®ážááŒá®áž áá±áá¬á¡á á¯á¶ (á¡áá»ááº) áá áºáá¯áá±á«áºááœáẠáá±á·áá»áá·áºáááºááŒá áºáááºá
ááááŠážá áœá¬ áá»áœááºá¯ááºááá¯á·ááẠááá¯ážááŸááºážáá±á¬áá¯á¶á á¶áá áºáá¯ááᯠáááºáá®ážáá«á
áá»ááºááŒááºá áœá¬á áááºáááºá áá»áœááºá¯ááºááá¯á·ááẠáá»áŸáá¯á·ááŸááºá¡ááœáŸá¬áá áºáá¯ááŒáá·áº ááœááºáááºáááºáá áºáá¯ááᯠáááºáá®ážááŒá®áž á¡áá¬á¡á¬ážáá¯á¶ážááŸááºáááºááŒá±á¬ááºáž á á áºáá±ážáá«á ááá¯á·áá±á¬áẠáá»áœááºá¯ááºááá¯á·ááẠáá±á¬áºáááºááᯠááŒááºážááŒááºážáá»ááºáž ááŸá¯ááºááœá±ážá á±ááŒá®áž áááºážáááœá²á·á ááºážáá¯á¶ (á¡ááá¯á¡ááœáŸá¬á ááá·áºáááºáá»ááºá áááº) ááᯠá á áºáá±ážáᬠáááºáááºáá¯ááºáá±á¬ááºáá«á
áá»áœááºá¯ááºááá¯á·ááẠáá±áá¬á¡á ᯠ(á¡áá»ááº) áá áºáá¯áá±á«áºááœáẠáá±á¬áºáááºááᯠáá±á·áá»áá·áºáá±ážáááºá
ááá·áºááá±á¬áá»ááºá¡ááœáẠá áááºááŒááºáááºááŸá¯ á¡ááŒááºá á áºáá±ážááŒááºážááŒáá·áºá á áá áºááŸááºáááºááŸá¯ááŸááááŸá á¡áááºááŒá¯ááẠáá±á·áá»áá·áºááŸá¯á¡ááœáẠáá±áá¬á¡áá»ááºáá áºáᯠááá¯á·ááá¯áẠááŸá áºáá¯ááᯠá¡áá¯á¶ážááŒá¯ááá¯ááºáááºá á¡á¬áá¯á¶ááŒá±á¬ááœááºáááºááẠáá±á·áá»áá·áºááŸá¯ááŸáá·áº á ááºážáááºááŸá¯ááœáẠ100% áááá»ááŸá¯ááᯠááŒáááá«áááºá ááá¯ááá¯á·ááá¯ááºáá«á áá±á¬áºáááºááẠáá±ážáááºááœááºážááẠááá¯á·ááá¯áẠááá·áºááœáẠáá»áá¯á·ááœááºážáá»ááºááŸááá±áá«áááºá
á¡á¬ážáá¯á¶ážáá±á¬ááºážáá±áá»áŸááºáá±á¬ááºá០ááŸá±á·áááºáááœá¬ážáá® áá áºáᯠááá¯á·ááá¯áẠáá áºáá¯áááºááá¯áá±á¬ áá±ááºá¡ááœáẠáá±á¬áºáááºááᯠááŒááºáááºáá«á
áá¯á¶ážááŸá¯á¶ážááŸá¯á¡áá²ááŒááºááŒááºážá
áá¯á¶ážááŸá¯á¶ážááŸá¯ ááá·áºááŸááºážáá»ááºááẠáá±á¬áºáááºá á áœááºážáá±á¬ááºáááºááᯠááŒá¯ááŒááºááẠá¡ááá áááºážáááºážááŒá áºáááºá áá¯á¶ážááŸá¯á¶ážááŸá¯ááẠááŒá¿áá¬á¡ááœáẠááá·áºáá»á±á¬áºááŒá±á¬ááºážááŸáá·áº áá¯á¶ážááŸá¯á¶ážááŸá¯áá¯ááºáá±á¬ááºáá»ááºáá»á¬ážááᯠááŸááºáááºáá±á¬á áá±ážáá±á«áºááœáẠá¡ááá·áºáááºááŸááºáá¬ážááŒá±á¬ááºáž áá±áá»á¬ááẠááá¯á¡ááºáááºá áá¯á¶ážááŸá¯á¶ážááŸá¯á¡áá»áá¯ážá¡á á¬ážáá áºáá¯áááºááá¯á á¡áá¯á¶ážááŒá¯áá«á áááºážááá¯á·á¡á¬ážáá¯á¶ážááẠáá°áá®áá±á¬á¡ááŸá¬á á¬áá»á¬ážááŒá áºááŒá®áž ááŸááºáááºá áœá¬ áá»áááºááŸááá¬ážááŒá±á¬ááºáž áá±áá»á¬áá«á á±á
áááŠážáá¯á¶ážááŸá¯á¶ážááŸá¯áá»á¬ážááᯠááááá¬ážááẠá¡áá±ážááŒá®ážáá«áááºá áá±á¬áºáááºááẠáá»áááºážááá·áºááŸááºážáá»ááºááŒáá·áº á
áááºáá«á á¡ááŸááºááááºááááºááẠáá»áŸá±á¬áºááá·áºáá¬ážááá·áºááááºááŸáá·áº áááºáá»áŸáá®ážá
ááºáááºááᯠá
á
áºáá±ážáá«á IN
binary á¥ááá¬á¡ááœááºá á¡áááºážáá áºáá¯á á®á¡ááœáẠá¡áá¬ážáá°ááœááºáá»ááºááŸá¯ááᯠááá¯ážááá¯ážááŸááºážááŸááºážááŒá¯áá¯ááºáá¬ážáááºá á¥ááá¬á¡á¬ážááŒáá·áºá á€ááœáẠáá±áá¬ááẠ20% 0's ááŸáá·áº 80% 1's ááŒá áºáááºá áá»áŸá±á¬áºááá·áºáá¬ážáá±á¬ áááŠážáá¯á¶ážááŸá¯á¶ážááŸá¯ááẠâ0,2ln (0,5) â0,8ln (0,5) = 0,693147 á¡áá ááŒá áºáááá·áºáááºá ááááºááẠ1 ááẠááŒá®ážáá«áá á¡á¬áá¯á¶ááŒá±á¬ááœááºááẠá¡áá±ážáá»áááºáá»á¬áž ááŸááºáááºá áœá¬ ááá»áŸááá«á ááá¯á·ááá¯áẠáá±áá¬ááᯠáá¯á¶ááŸááºáááŒá áºá¡á±á¬áẠááœáŸááºááŒááá¯ááºáááºá
á¡áááºá¡áááºááááºáá»á¬ážááŸáá·áº áá»áááºáááºááŸá¯áá»á¬ážááᯠá á áºáá±ážááŒááºážá
á¡á¬áá¯á¶ááŒá±á¬ááœááºáááºáá áºáá¯ááᯠá¡ááŸá¬ážááŸá¬áááºá ááœááºáááºá¡ááœááºáž áá¯ááºáááºážá ááºáá»á¬ážá ááá¯ááºážááá áºááŸáá·áº áá»áááºáááºáá¬ážáá±á¬ááŒá±á¬áá·áº á¡áááºá¡áááºá¡ááœáŸá¬áá»á¬ážá á¡áááºážááá¹áááᯠáá¬ážáááºááẠááá¯á¡ááºáááºá á€áááºááŸá¬ áááºááŒá¯á¶ááœá±á·áááá¯ááºáá±á¬ áá¯á¶á¡ááŸá¬ážáá»á¬ážááŒá áºáááº-
- á¡ááá·áºááŒáŸáá·áºáááºááŸá¯áá»á¬ážá¡ááœáẠááŸá¬ážááœááºážáá±á¬á¡áá¯á¶ážá¡ááŸá¯ááºážáá»á¬ážá
- ááá¯ááºá¡áá±ážáá»ááẠá¡ááºááááºáá»á¬ážááᯠá¡áá¯á¶ážáááŒá¯áá«á
- gradients áá»á¬ážáá±á«ááºááœá²ááŒááºážá
gradient áááºááá¯ážáá»á¬ážááẠáá¯áááŒá áºáá«áá ááá¯ááá¯áááºááŸá¬ optimizer ááœáẠáááºáá°ááŸá¯ááŸá¯ááºážááẠá¡ááœááºááŸá±ážááœá±ážáá±ááŒááºážá ááá¯á·ááá¯áẠgradient ááᯠá¡ááºááááºáá¯ááºáááºá¡ááœáẠáááŸááºáááºáá±á¬á¡áá¯á¶ážá¡ááŸá¯ááºážááᯠáááºááŒá¯á¶ááœá±á·áá±ááááºáᯠááá¯ááá¯áááºá
ááá¯á·á¡ááŒááºá á¡ááœáŸá¬áá
áºáá¯á
á®á activation áá¯ááºáá±á¬ááºáá»ááºáá»á¬ážá á¡áá±ážáá»á¬ážááŸáá·áºááœááºážáá¶ááŸá¯áá»á¬ážááááºááá¯ážáá»á¬ážááá¯á
á±á¬áá·áºááŒáá·áºáááºááá¯á¡ááºáááºá á¥ááá¬á áá±á¬ááºááœááºážáá¶ááŸá¯áá»á¬ážá ááŒááºážá¡á¬áž (á¡áá±ážáá»áááºááŸáá·áº áááºááá¯ááºááŸá¯áá»á¬áž)
âDying ReLUâ áá¯áá±á«áºáá±á¬ ááŒá
áºá
ááºáá
áºáᯠááŸááá«áááºá
ááááºážááá¬ááºážáá»ááºážáááºáááºážááᯠá¡áá¯á¶ážááŒá¯á gradient ááᯠá¡áá®ážá
ááºáá¯á¶áž ááá·áºááŸááºážááŒááºážááŒáá·áº á€á¡ááŸá¬ážáá»á¬ážááᯠáá±á¬áºáá¯ááºááẠgradient checking ááᯠáá¯á¶ážááá¯ááºáááºá ááœááºáá»ááºáá¬ážáá±á¬ gradients áá»á¬ážááŸáá·áº áá®ážá
ááºáá«á backpropagation ááᯠááŸááºáááºá
áœá¬ áá¯ááºáá±á¬ááºáá«áááºá gradient check áá
áºáá¯áááºáá®ážááẠCS231 á០á€áá±á¬ááºážááœááºáá±á¬á¡áááºážá¡ááŒá
áºáá»á¬ážááᯠá
á
áºáá±ážááŒáá·áºáá«á
- ááá¬ááá»á¬ážááẠáá±á·áá»áá·áºáááºááŒá¬ážáá¬ážáá±á¬ áá±á¬áºáááºá áá±áá°áá»ááœá²á·á ááºážáá¯á¶ááᯠááŒáááá·áº ááá¯ážááŸááºážáá±á¬áááºážáááºážáá»á¬ážááŒá áºáááºá áááºážááá¯á·ááœáẠá¡á¬áá¯á¶ááŒá±á¬ááœááºáááºá á¡ááœáŸá¬áá áºáá¯á á®á áá¯á¶ááá¹áá¬ááºáá»á¬áž ááá¯á·ááá¯áẠá á áºáá¯ááºááŸá¯áá»á¬áž ááŸáá·áº á¡ááœáŸá¬áá áºáá¯á á®ááŸá ááá·áºáááºáá»ááºáá»á¬áž áá«áááºáááºá
- á¡áááºááœááºážááŒááºážá¡ááŒá±áá¶á áááºážááá¯á·ááœááºá áá»áœááºá¯ááºááá¯á·ááẠáááºážááá¯á·á áá¯ááºáá±á¬ááºáá»ááºáá»á¬ážááᯠáá¬ážáááºááẠáá áºáŠážáá»ááºážá á® áá»á°ááœááºáá»á¬áž ááá¯á·ááá¯áẠáá»á°ááœááºá¡á¯ááºá á¯áá»á¬ážá ááŸá¯ááºááŸá¬ážááŸá¯áá»á¬ážááᯠáá¯á¶áá±á¬áºáá«áááºá
- gradients áá»á¬ážááᯠá¡ááŒá±áá¶áá¬ážáááºá á€áááºážáááºážáá»á¬ážááẠá á¶ááŒáá±á·áá»áá·áºááŸá¯á ááŸá±á·ááŸáá·áºáá±á¬ááºááá¯á· ááŒááºáááºážááŸá¯áá»á¬áž (saliency maps ááŸáá·áº class activation maps á¡áá«á¡áááº) á០ááŒá áºáá±á«áºáá¬áá±á¬ gradient áá»á¬ážááᯠááŒááºááŸááºáá±á·ááŸááááºá
á¡ááœáŸá¬áá
áºáá¯áá»ááºážá
á®á ááŸá¯ááºááŸá¬ážáá±á¬ááºááœááºááŸá¯áá»á¬ážááŸáá·áº áá»áááºáááºááŸá¯áá»á¬ážááᯠááŒááºáá±á¬ááºááẠá¡áá¯á¶ážáááºáá±á¬áááááá¬áá»á¬ážá
áœá¬ááŸááááºá á¥ááá¬á
ááá·áºáááºáá»ááºááŸá¬ááœá±áá±áž
á¡á¬áá¯á¶ááŒá±á¬ááœááºáááºáá»á¬ážááœáẠáá áºáá¯ááŸáá·áºáá áºáᯠá¡ááŒááºá¡ááŸáẠá¡áá»áá¯ážáááºáá±á¬ááºá á±ááá·áº ááá·áºáááºáá»ááºáá»á¬áž á¡áá»á¬ážá¡ááŒá¬ážááŸáááŒá®áž ááá¯ááá¯áá±á¬ááºážááœááºá¡á±á¬ááºááŒá¯áá¯ááºááŒááºážááᯠááŸá¯ááºááœá±ážá á±áááºá á¡ááŸááºáá±á¬á·á á€ááá¹áááẠáá»áœááºážáá»ááºáá°áá»á¬ážá áááºááŒáœá áœá¬ áá¯áá±ááááŒá¯ááŸá¯á áá¬áá¬áááºááŒá áºáááºá ááá¯á·ááŒá±á¬áá·áº á¡á±á¬ááºáá« á¡ááŒá¶ááŒá¯áá»ááºáá»á¬ážááᯠá¡ááŒá¶áá¬ááºá¡ááŒá áºáᬠááá·áºááœááºážá ááºážá á¬ážááá·áºááŒá®áž áááºááá·áºá¡áá¬á០á áááºáááºáá±á¬ááºáááẠááŒá áºáááºá
á¡áá¯ááºá¡ááœááºá¡á
á¬áž (batch á¡ááœááºá¡á
á¬áž) - á¡áááºá áááºááẠbatch á¡ááœááºá¡á
á¬ážááᯠáááá»áá±á¬ error gradient ááá·áºááŸááºážáá»ááºáá»á¬ážááᯠááá°ááẠáá¯á¶áá±á¬ááºáá±á¬ ááŒá®ážáá¬ážááá¯áá«áá ááá¯á·áá±á¬áº stochastic gradient descent (SGD) ááẠááá·áºááœááºáááºááᯠáá¯á¶ááŸááºááŒá
áºá
á±áááºá¡ááœáẠáá±ážáááºáá¯á¶áá±á¬ááºáá«áááºá áá±ážáááºáá±á¬á¡áá¯ááºá¡ááœááºá¡á
á¬ážáá»á¬ážááẠáá±á·áá»áá·áºáá±ážáá¯ááºáááºážá
ááºá¡ááœááºáž áá°áá¶áá¶áá»á¬ážááŸáá·áº áá±á¬ááºááẠááá¯ááá¯áá±á¬ááºážááœááºá¡á±á¬ááºááŒá¯áá¯ááºááẠá¡áááºá¡áá²áá»á¬ážááŒá±á¬áá·áº áá»ááºááŒááºá
áœá¬áá±á«ááºážá
ááºážááŸá¯ááᯠáŠážáááºááœá¬ážáááºááŒá
áºáááºá á€áááºááᯠááá¯ááá¯á¡áá±ážá
ááẠáá±á¬áºááŒáá¬ážáá«áááºá
áááºáá°ááŸá¯ááŸá¯ááºáž - á¡ááœááºáááá·áºáá»áá±á¬ áá±á«ááºážáá¯á¶ááŸá¯ ááŸá±ážááœá±ážááŒááºáž ááá¯á·ááá¯áẠáá±áááœááºáž áá®áá®áá¬ááœáẠááááºááááá¯ááºááŒá±ááᯠááŒá
áºáá±á«áºá
á±áááºá áá
áºáá»áááºáááºážááŸá¬áááºá ááŒáá·áºáá¬ážáá±á¬áááºáá°ááŸá¯ááŸá¯ááºážááẠáá¯á¶ážááŸá¯á¶ážááŸá¯áá¯ááºáá±á¬ááºááŸá¯á áááºáá²áá±á¬áºáááºáž áá»ááºážááŒá±á¬ááºážáá±á¬á¡ááá¯ááºážááᯠááŒááºáá»á±á¬áºááẠá¡áá¹ááá¬ááºááŸááá±á¬ááŒá±á¬áá·áº ááá¯ááá¯áá±á¬ááºážááœááºá¡á±á¬ááºááŒá¯áá¯ááºááŒááºážááœá²ááŒá¬ážááŸá¯ááᯠááŒá
áºá
á±áááºá á¡á¬áá¯á¶ááŒá±á¬ááœááºáááºááᯠáá±á·áá»áá·áºáá±á
áẠáááºážááá¯áá»áŸá±á¬á·áá»ááẠá¡ááŒááºááŸá¯ááºážááá¬ážááᯠá¡áá¯á¶ážááŒá¯ááŒáá·áºáá«á CS231n ááŒáá·áº áá±á¬ááºáá¯á¶ážáá±á«áº
Gradient ááŸááºááŒááºážáâ - á¡ááŒáá·áºáá¯á¶ážáááºááá¯áž ááá¯á·ááá¯áẠá¡áá¬ážáááºá á¶ááŸá¯ááºážááŒáá·áº backpropagation ááŒá¯áá¯ááºá ááºá¡ááœááºáž áá±á¬ááºáááºážáá»á¬ážááᯠááŒááºáá±á¬ááºááŒááºážá á¡áá»ááºáá¯á¶ážáá»ááºááœáẠáááºááŒá¯á¶ááœá±á·áááá¯ááºááá·áº áá±á«ááºááœá²áá±áá±á¬ gradient áá»á¬ážááᯠááŒá±ááŸááºážáá¬ááœáẠá¡áá¯á¶ážáááºáááºá
Batch normalization - á¡ááœááºážááá¯ááºáž covariate á¡ááŒá±á¬ááºážá¡áá²ááŒá¿áá¬ááá¯ááŒá±ááŸááºážááá¯ááºá
á±ááá·áºá¡ááœáŸá¬áá
áºáá¯á
á®áááá·áºááœááºážááŸá¯áá±áá¬ááá¯áá¯á¶ááŸááºááŒá
áºá
á±áááºá¡áá¯á¶ážááŒá¯áááºá á¡áááºá áááºááẠDropout ááŸáá·áº Batch Norma ááᯠááœá²áá¯á¶ážáá«áá
Stochastic gradient áááºážáááºááŒááºáž (SGD) â á¡ááŸáááºá¡áá¯ááºá ááá¯ááºáá»á±á¬áá®ááœá±ááŸááá±á¬ áááºáá°ááŸá¯ááŸá¯ááºážáá»á¬ážááŸáá·áº Nesterov áááºážáááºážááᯠá¡áá¯á¶ážááŒá¯ááá·áº SGD á¡áá»áá¯ážá¡á
á¬ážáá»á¬ážá
áœá¬ááŸááááºá ááá¯á·áá¬ááœááºá áááºážááá¯á·á¡áááºá០áá
áºáá¯á០áááºáá°ááŸá¯ áááá±á¬ááºááŸá¯ááŸáá·áº áá±áá°áá»á¡á¬ážááŒáá·áº ááŸááºážááŸááºážáááºážáááºáž á¡á¬ážáá¬áá»áẠáááŸááá« (
ááŒá®ážááŒá®ážáá»ááºáá»áẠ- áá±á¬áºáááºááŸá¯ááºááœá±ážááŸá¯ ááá¯á·ááá¯áẠááœááºáá²áá±á¬ ááá·áºáááºáá±á¬ááºáááºááá¯ážáá»á¬ážááᯠááŒá
áºáááºáááºáá±á¬ááºážáá±ážáá±á¬ááŒá±á¬áá·áº áá±áá°áá»ááŒá
áºááá¯ááºáá±á¬ áá±á¬áºáááºáá
áºáá¯ááᯠáááºáá±á¬ááºáááºá¡ááœáẠá¡áá±ážááŒá®ážáá«áááºá áááºážááẠáááºážááááºááá¯ááºááŸá¯ááᯠáááááá¬áᬠáááá¯ážá
á±áá² áá±á¬áºáááºááœá²ááœá²ááŸá¯ááᯠáá»áŸá±á¬á·áá»ááẠáááºážáááºážáá
áºáá¯ááŒá
áºáááºá áá±á¬ááºáááº
á¡áá¬á¡á¬ážáá¯á¶ážááᯠááá¯ááºááá¯ááºá¡áá²ááŒááºáááºá áá¯á¶ááŸááºááŒá¯áá¯ááºááŒááºážááᯠááááºáááºááŸáá·áº áá±áá¬áá¯á¶ážááŸá¯á¶ážááŸá¯ gradient ááᯠááá¯ááºááá¯ááºá á áºáá±ážááẠááá¯á¡ááºáááºá
ááŒá¯ááºáá»ááá¯ááºááẠááááºááá¯á·ááŸá¯áá»á¬ážááᯠáá¬ááœááºááẠááá·áºááœááºáááºááᯠáá»á±á¬ááœá±á·á á±ááá·áº á¡ááŒá¬ážáááºážáááºážáá áºáá¯ááŒá áºáááºá áá±á·áá»áá·áºáá±á ááºá¡ááœááºážá ááŒá áºááá¯ááºááŒá±áááá»áá±á¬ p (hyperparameter) ááŒáá·áº áá»á°ááœááºá áá¯ááºáá±á¬ááºáá»ááºááᯠááááºážááááºážááŒááºáž ááá¯á·ááá¯áẠááá·áºáá»ááºáááºááá á¹á ááœáẠáá¯áá¡ááŒá ẠáááºááŸááºááŒááºážááŒáá·áºáᬠáá»á±á¬ááºážááœááºááŒááºážááᯠáá¯ááºáá±á¬ááºáá«áááºá ááá¯á·ááŒá±á¬áá·áºá ááœááºáááºááẠáá±á·áá»áá·áºáá±ážá¡áá¯ááºáá áºáá¯á á®á¡ááœáẠááá°áá®áá±á¬ ááá·áºáááºáá±á¬ááºáá»á¬ážááᯠá¡áá¯á¶ážááŒá¯ááááºááŒá áºááŒá®áž á¡áá»áá¯á·áá±á¬ ááá·áºáááºáá±á¬ááºáá»á¬ážááœáẠááŒá±á¬ááºážáá²ááŸá¯áá»á¬ážááᯠáá»áŸá±á¬á·áá»áá±ážááááºááŒá áºáááºá
á¡áá±ážááŒá®ážáááº- á¡áááºá áááºááẠáá»á±á¬ááºážááœááºááŒááºážááŸáá·áº á¡á
á¯ááá¯ááºáá¯á¶ááŸááºááŒá¯áá¯ááºááŒááºáž ááŸá
áºáá»áá¯ážáá¯á¶ážááᯠá¡áá¯á¶ážááŒá¯áá«áá á€áá¯ááºáááºážáá±á¬ááºáá¬áá»á¬ážá á¡á
á®á¡á
á¥áºááᯠááá¯á
áá¯ááºáá« ááá¯á·ááá¯áẠáááºážááá¯á·ááᯠááœá²áá¯á¶ážááŒááºážáááºá á€á¡áá¬á¡á¬ážáá¯á¶ážááᯠáááºááŒáœá
áœá¬ ááœá±ážááœá±ážááŒá®áž ááŒáá·áºá
áœááºáá±áá²ááŒá
áºáááºá á€á¡ááŒá±á¬ááºážá¡áá¬ááŸáá·áº áááºáááºá á¡áá±ážááŒá®ážáá±á¬ ááœá±ážááœá±ážááŸá¯ ááŸá
áºáá¯ááŸááááºá
á¡áá¯ááºáááááºážáá»á¯ááºááŸá¯
á¡áá¯ááºá¡ááœá¬ážá¡áá¬áá»á¬ážááŸáá·áº á ááºážáááºááŸá¯áá»á¬ážááᯠááŸááºáááºážáááºááŒááºážá¡ááŒá±á¬ááºážááŒá áºáááºá áá¬ááá¯á០ááá±ážáá¬ážáá°ážááá¯ááẠá¥ááá¬á áááºáá°ááŸá¯ááŸá¯ááºáž áá«ááŸááá¯áẠá¡áááºážá¡áá±ážááœá±ááᯠá¡áá¯á¶ážááŒá¯áá¬ááᯠáá±á·ááœá¬ážááá¯ááºáááºá ááááºážáá»á¯ááºááŸá¯ááŒá±á¬áá·áº áááºááẠááááºá ááºážáááºááŸá¯áá»á¬ážááᯠá¡ááœááºááá°ááŒáá·áºááŸá¯ááá¯ááºááŒá®áž ááŒááºáááºáá¯ááºáá¯ááºááá¯ááºáá«áááºá áááºážááẠááá·áºá¡á¬áž áááºáá±áá±á¬á ááºážáááºááŸá¯á¡áá±á¡ááœááºááᯠáá»áŸá±á¬á·áá»ááá¯ááºá á±áá«áááºá
ááá¯á·áá±á¬áºá á¡áá¯ááºááá¬á ááŒá®ážáá¬ážáá±á¬ááá á¹á ááœáẠáááºá áœá²á á¬áááºážááŒá¯á á¯ááŒááºážááẠáááºáá²áá±á¬á¡áá¯ááºááŒá áºáá¬ááá¯ááºáááºá Comet.ml áá²á·ááá¯á·áá±á¬ áááááá¬áá»á¬ážááẠááá·áºáá±á¬áºáááºááºá¡ááŒá±á¬ááºáž á¡áááá¡áá»ááºá¡áááºáá»á¬áž (hyperparameters, model performance metrics, and environmental information) á¡áá«á¡ááẠáá±áá¬á¡ááœá²áá»á¬ážá áá¯ááºááŒá±á¬ááºážáá²ááŸá¯áá»á¬ážá á ááºážáááºááŸááºáááºážááŸáá·áº áá¯ááºáá¯ááºááŸá¯áá±á¬áºáááºáá»á¬ážááᯠá¡ááá¯á¡áá»á±á¬ááºáá°áá®áá±ážááẠáá±á¬ááºááŸááá¬áá«áááºá
á¡á¬áá¯á¶ááŒá±á¬ááœááºáááºáá áºáá¯ááẠáá±ážáááºáá±á¬ááŒá±á¬ááºážáá²ááŸá¯áá»á¬ážá¡ááœáẠá¡ááœááºá¡áá²áááºááá¯ááºááŒá®ážá áááºážááẠáá±á¬áºáááºá áœááºážáá±á¬ááºáááºááᯠáá»áááºážá á±áááºá ááá·áºá¡áá¯ááºá¡á¬áž ááŒá±áá¬áá¶ááŒááºážááŸáá·áº ááŸááºáááºážááŒá¯á á¯ááŒááºážááẠááá·áºáááºáááºážáá»ááºááŸáá·áº áá±á¬áºáááºááᯠá á¶ááŸá¯ááºážáááºááŸááºááẠáááºáá¯ááºáá±á¬ááºááá¯ááºááá·áº ááááá¯á¶ážááŒá±ááŸááºážááŒá áºáááºá
áá®ááá¯á·á
áºá áááºážáá²á· neural network ááᯠá¡ááŸá¬ážááŸá¬ááŒááºááá¯á· á¡á
ááŒá¯ááá¯á· á¡á
ááŒá¯ááá¯ááºáááºááá¯á· áá»áŸá±á¬áºááá·áºáá«áááºá
Skillbox á០á¡ááŒá¶ááŒá¯áá¬ážáááº-
- ááŸá áºááŸá áºá á¬áááºááœá±á·áááºáááºáž
"áá»áœááºáá±á¬áºá PRO ááẠdeveloper áá áºáá±á¬ááºáá«" .- á¡áœááºááá¯ááºážáááºáááºáž
"0 á០C# developer" .- áááºááœá±á· áá áºááŸá áºáááºáááºáž
"PHP developer 0 á០PRO" .
source: www.habr.com