áááºážáá²á·á¡áá¯ááºá ááŸááá²á·á¡áá¬áá
áºáá¯ááᯠáááºáá®ážáá²á·á¡áá«á ááááºá áá°ááá¯ááºážáá»ááºá
áááŸá±á·ááŸá¬ááẠááŒá
áºáá±ááá¯á·áá«áá²á ááá¯á·áá±á¬áº ááŒá¶á
ááºážááá¯ážáá»á¬ážá០ááá¹áááºážá
á¬áá»á¬ážááᯠáá»ááºáá«áá ááŒá¶á
ááºážááá¯ážáá»á¬áž ááá·áºáá»á±á¬áºáá¯á¶áá±á«áºááẠááá¯á·ááá¯áẠá¡ááŸá¬ážáá
áºáá¯áá¯ááᯠááá»ááºááá»ááºáž áááºáááºáá°áá»áŸ áááááŒá¯áááááºááá¯ááºáá«á
ááŸááºáá»ááºáá±ážááŒááºážá áá¯á¶ážáááºááŒááºážá áááºáá±á·áá»áºááá¯á·ááŒááºáž ááá¯á·ááá¯áẠáá¯á¶áá»á¬ážááᯠááŒááºááŒááºáááºááẠááá¯á·ááá¯áẠáá±á¬ááºááá¯ááºážááœáẠá¡ááºáá¯ááºáá¯ááºááá¯ááºááá·áº áááºááá·áºáááºáá±á¬ááºááŸá¯áááᯠá áááºážá ááááºáááºááŸá¯ááŸáá·áº áá áºáááºážáá±á¬ ááŒá¿áá¬ááŸáá·áº áááºááá¯ááºáá±ááááºá áá«ááᯠááŸá±á¬ááºááœáŸá²ááá¯á·áááá±ááá·áº ááá¯ááºááœááºááŒá±ááŸááºážááá«áááºá
áá»áœááºá¯ááºáá¡áááºááŸá¬ áá®áá±ážááºááŒá
áºáááºá áá»áœááºá¯ááºááẠYandex áááºáá±á¬ááºááŸá¯áá»á¬ážááᯠá¡áá¯á¶ážááŒá¯áá°áá»á¬ážááᯠááá¯ááŒá¿áá¬áá»á¬ážá០áá¬ááœááºáá±ážááá·áº Antispam á¡ááœá²á·ááœáẠá¡áá¯ááºáá¯ááºáá«áááºá áá»áœááºá¯ááºááá¯á·áá¡áá¯ááºááẠááŸá¬ážááŸá¬ážáá«ážáá«ážááŒá
áºááẠ(áá«á áá±á¬ááºážáá«áááº)á áá«ááŒá±á¬áá·áº áá®áá±á· áá®á¡ááŒá±á¬ááºážááᯠááá¯ááŒá±á¬ááŒáááºá ááááºážááŸáááŒááºážááẠá¡áá¯á¶ážááááºááá·áºá¡áá« á¡áááºááŒá±á¬áá·áº áááá»ááŸá¯ááẠáááºážá áááá±á¬ááºááŸá¯á áá
áºáá¯áááºážáá±á¬ ááœáŸááºááŒáá»ááºááá¯ááºááŒá±á¬ááºáž áááºááááŸáááá¯ááºáááºááŒá
áºáá«áááºá ááŒá±á¬ááºáá»á¬ážááŸáá·áº ááœá±ážáá»á¬ážá ááá°áá¬ááᯠá¡áá¯á¶ážááŒá¯á áá»áááºááá¯ááŒááºážá¡ááŒá±á¬ááºážááŸáá·áº áá
áºáá«áá
áºáᶠâáá»áááºáá²áá°áá²á·ááá¯á· áááºááŒááºááŒááºážâ ááœáẠá¡áááºááŒá±á¬áá·áº áá
áºáá«áá
áºáᶠá¡áá¯á¶ážáááºááŒá±á¬ááºážááá¯áááºáž ááœá±ážááœá±ážáá«áááºá
áá¯á¶ážá
áœá²áá°áá»á¬ážááẠáááºážááá¯á·áá¡ááŒá±á¬ááºážá¡áá¬ááᯠááŒáá·áºáá»áááá·áº Yandex ááœáẠáááºáá±á¬ááºááŸá¯áá»á¬áž ááá¯áá»á¬ážáá¬áá±áááºá Yandex.Q ááœáẠáá±ážááœááºážáá
áºáá¯áá±ážááá¯ááºááẠááá¯á·ááá¯áẠá¡ááŒá±áá
áºáá¯áá±ážááá¯ááºáááºá Yandex.District ááŸá ááŒá¶ááááºážáá»á¬ážááᯠááœá±ážááœá±ážááá¯ááºáááºá Yandex.Maps ááŸá á
áá¬ážááá¯ááºážáá»á¬ážááœáẠáá¬ááºááŒá±á¬á¡ááœá¬ážá¡áá¬á¡ááŒá±á¡áá±áá»á¬ážááᯠáá»áŸáá±ááá¯ááºáá«áááºá ááá¯á·áá±á¬áº áááºáá±á¬ááºááŸá¯á ááááááºáá»á¬áž ááá¯ážááœá¬ážáá¬áá±á¬á¡áá« áááºážááẠááááºáááºáá°áá»á¬ážááŸáá·áº spammer áá»á¬ážá¡ááœáẠááœá²áá±á¬ááºááŸá¯ááŸááá¬áá«áááºá áá°ááá¯á·á áá¬ááŒá®áž ááŸááºáá»ááºááœá± ááŒáá·áºáá±ážááŒáááº- áá°ááá¯á·á ááœááºááœáẠááá¯ááºáá¶áá±ážáááºá á¡á¶á·ááœááºáá¯ááááºážááœá±ááᯠááŒá±á¬áºááŒá¬ááŒá®áž áá°ááŸá¯áá±áž á¡áá»áá¯ážáá»á±ážáá°ážááœá±ááᯠááááá±ážáááºá spammers áá»á¬áž ááŒá±á¬áá·áº á¡áá»áá¯á·áá±á¬ á¡áá¯á¶ážááŒá¯áá°áá»á¬áž ááẠááá¯ááºáᶠáá¯á¶ážááŸá¯á¶áž ááŒááŒá®áž á¡áá»áá¯á· ááŸá¬ spam áá»á¬ážááŒáá·áº ááŒáá·áºáá±áá±á¬ áááá·áºááŸááºážáá±á¬ áááºáá±á¬ááºááŸá¯ ááœáẠá¡áá»áááºááŒá¯ááºážááá¯á
ááẠáá¯á¶ážááŸá¯á¶áž ááŒáááºá
ááŒá®ážáá±á¬á· áá«á áá áºáá¯áááºážáá±á¬ ááŒá¿áá¬áá±á¬á· ááá¯ááºáá«áá°ážá áá»áœááºá¯ááºááá¯á·ááẠáá¯á¶ážá áœá²áá°áá»á¬ážááᯠááááºáááºááŸáá·áºááŒá¬ážáá°áá»á¬ážáá¶á០áá¬ááœááºáááºáá¬áá áááºááœááºáá±ážá¡ááœáẠáááºáá±á¬áá·áºáááºáá¬ááŸááá±á¬ áá±áá¯ááᯠáááºáá®ážáááºáááºáž ááŒáá¯ážáááºážáá«áááºá ááŸááºáá»ááºáá»á¬ážááœáẠáá²ááᯠá á±á¬áºáá¬ážááŸá¯áá»á¬ážááŸáá·áº áááºááá¯ááºááá«á áááºážááá¯á·ááẠááœááºááœá¬ááœá¬ážáᬠáááºáá±á¬á·á០ááŒááºááá¬áá±á¬á·áá±á ááá¯ááá¯áá¬á áá«ááᯠááá¯ááºááœááºááŒá±ááŸááºážááá¯á·áááºáž ááá¯á¡ááºáááºá
áááºááᯠááá·áºááŸááºážáá«á
áá»áœááºá¯ááºááá¯á·áá²á·ááá¯á·áááºá ááŸá¬ááœá±ááŸá¯ááááºáá»á¬ážááœáẠá áááºážáá»á¬ážááᯠááá¯ááºáá¯ááºááá·áº á¡ááá¯ááºážááœáẠááááá¯á¶ážáá±á¬ááá¯ážáááºááŸá¯áá»á¬ážááẠSearch ááœáẠááœá±ážááœá¬ážáá¬áá«áááºá ááœááºáá²á·ááá·áº áááºááŸá áºááá·áºá áááá¬ážá á¯ááŸá¬ááœá±ááŸá¯áá»á¬ážá¡ááœáẠá¡ááœááºáá±á¬ááºááŒá®ážáá° á¡ááŒá±á¬ááºážá¡áá¬áá»á¬ážááᯠá á áºáá¯ááºááŒááºážááŸáá·áº 18+ á¡áá»áá¯ážá¡á á¬ážá០á¡ááŒá±áááá¯á¡ááºáá±á¬ áá±ážááœááºážáá»á¬ážá¡ááœáẠá¡áá¯ááºááŸá¬ ááá¯áá±áá¬ááœáẠáá±á«áºáá¬áá²á·áááºá á€áááºááŸá¬ áá áºáááºážááŸáá·áº áá»áááºááá¯ááŒááºážá ááááá¯á¶áž ááá¯ááºááá¯ááºááá¯ááºáá±á¬ á¡áááá¬ááºáá»á¬áž áá±á«áºáá¬áá¯á¶ááŒá áºááŒá®áž áááºážááá¯á·ááᯠáá±á·áá¬áá°áá»á¬ážá០ááŒáá·áºá áœááºáá¬ážáááºá á¡ááááá¬áááºááŸá¬ á¡ááœááºáá±á¬ááºááŒá®ážáá°á á¡ááŒá±á¬ááºážá¡áá¬ááᯠááŒáááẠáááºáá¶ááá¯ááºáá±á¬áá±áá¬áá»á¬ážááŸáá·áº áá±á¬ááºážááá¯ááŸá¯áá»á¬ážááᯠá¡áá»áá¯ážá¡á á¬ážááœá²áááºááŒá áºáááºá á€áá¯ááºáááºážá¡ááœááºá á¡ááŸááºá¡áá¬ážáá»á¬ážááᯠá á¯áá±á¬ááºážááŒá®ážá áá¬ááááºáá»á¬ážááᯠáááºáá±á¬ááºáᬠáá±á¬áºáááºáá»á¬ážááᯠáá±á·áá»áá·áºáá±ážáá²á·áááºá á€áááºááŸá¬ áááá¯áá¬ážá¡ááºáá±á¬ á¡ááŒá±á¬ááºážá¡áá¬áá»á¬ážááᯠá á áºáá¯ááºááŒááºážá¡ááœáẠááááá¯á¶áž ááá¯ážáááºááŸá¯áá»á¬áž áá±á«áºáá¬áá¯á¶ááŒá áºáááºá
á¡áá»áááºááŒá¬áá¬áááºááŸáá·áºá¡áá»áŸá UGC (á¡áá¯á¶ážááŒá¯áá°áá¯ááºáá¯ááºááá·áºá¡ááŒá±á¬ááºážá¡áá¬) ááẠYandex ááœááºá áááºáá±á«áºáá¬ááẠ- áá¯á¶ážá áœá²áá°áá»á¬ážááá¯ááºááá¯ááºáá±ážáá¬ážáá±á¬á á¬ááá¯áá»á¬ážááŒá áºááŒá®áž Yandex áááºáá¬áá¯ááºáá±áááºá á¡áááºááœááºáá±á¬áºááŒáá¬ážáá±á¬ á¡ááŒá±á¬ááºážáááºážáá»á¬ážááŒá±á¬áá·áºá áááŒáá·áºáá² áááºáá±á·áá»áºáá»á¬ážá áœá¬ááᯠáá¯ááºáá±ááááá« - á áá á áºááẠááá¯á¡ááºáá«áááºá ááá¯á·áá±á¬áẠYandex UGC áá¯ááºáá¯ááºá¡á¬ážáá¯á¶ážá¡ááœáẠspam ááŸáá·áº ááá¯ááºááá¯ááºáá°áá»á¬ážááᯠá¡áá¬á¡ááœááºáá±ážááá·áº áááºáá±á¬ááºááŸá¯áá áºáá¯ááᯠáááºáá®ážááŒá®áž Search ááœáẠáááá¯áá¬ážá¡ááºáá±á¬ á¡ááŒá±á¬ááºážá¡áá¬áá»á¬ážááᯠá á áºáá¯ááºáááºá¡ááœáẠááá¯ážáááºááŸá¯áá»á¬ážááᯠá¡áá¯á¶ážááŒá¯ááẠáá¯á¶ážááŒááºáá²á·áááºá áááºáá±á¬ááºááŸá¯ááᯠ"Clean Web" áá¯áá±á«áºáááºá
á¡áá¯ááºá¡áá áºáá»á¬ážááŸáá·áº ááœááºážá¡á¬ážáá±ážáá°áá»á¬ážáá¶á០á¡áá°á¡áá®áá»á¬áž
á¡á ááá¯ááºážááœááºá áá»áœááºá¯ááºááá¯á·á¡ááœáẠááá¯ážááŸááºážáá±á¬ á¡ááá¯á¡áá»á±á¬ááºá áá áºááᬠá¡áá¯ááºáá¯ááºáááº- áááºáá±á¬ááºááŸá¯áá»á¬ážááẠáá»áœááºá¯ááºááá¯á·áᶠá á¬ááá¯áá»á¬ážááá¯á·ááŒá®áž áá áºáááºážáá±á¬á¡áááá¬ááºáá»á¬ážá áá áºáááºážá¡áááá¬ááºáá»á¬ážááŸáá·áº áá¯á¶ááŸááºá¡áá¯á¶ážá¡ááŸá¯ááºážáá»á¬ážááᯠáááºážááá¯á·ááœáẠáá¯ááºáá±á¬ááºáá²á·ááẠ- áá±á·áá¬áá°áá»á¬ážá á¡áá¬á¡á¬ážáá¯á¶ážááᯠááá¯ááºááá¯ááºááŒá¯á á¯áá²á·áááºá ááá¯á·áá±á¬áº á¡áá»áááºááŒá¬áá¬áááºááŸáá·áºá¡áá»áŸá áááºáá±á¬ááºááŸá¯ááᯠYandex áá¯ááºáá¯ááºáá»á¬ážááœáẠá¡áá»á¬ážá¡ááŒá¬ážá¡áá¯á¶ážááŒá¯áá²á·ááŒá®áž ááŒá¿áá¬á¡áá áºáá»á¬ážááŸáá·áº áá¯ááºáá±á¬ááºááẠáááºáá°áá²á·ááááºá
áááŒá¬ááááá¯áááá¯á ááŒááºáááºáá¯á¶ážáááºááŒááºážá¡á á¬áž á¡áá¯á¶ážááŒá¯áá°áá»á¬ážááẠáááºážááá¯á·áá¡á±á¬ááºááŒááºááŸá¯áá»á¬ážááᯠááá¯ážááŒáŸáá·áºááẠááŒáá¯ážáááºážáá¬ááœáẠá¡áááá¹áá«ááºáá²á·áá±á¬á á¬áá»á¬ážááᯠáá¯ááºáá±áá±á·ááŸáááŒááŒá®áž áá áºáá«áá áºáá¶ááœáẠááŒáá¯ááºáááºáá¯áá¹ááá®áá áºáá¯á áá¯á¶ážáááºáá»ááºááœáẠáááºážááá¯á·ááá¯áá¹ááá®ááᯠááŒá±á¬áºááŒá¬áᬠáá áºáá«áá áºáá¶ááœáẠáááºážááá¯á·ááẠá¡ááœá²á·á¡á ááºážáá»á¬ážááᯠááá¯ážááŸááºážá áœá¬ ááŸá¯ááºááœá±ážá á±ááŒá®áž á¡áááºááœá±ážáááá á¹áá¬ááºá ááá¯ážááá¯ááºáá áºáá¯á¡ááŒá±á¬ááºáž áá¯á¶ážáááºáá»ááºááœáẠáá±ážáá¬ážááŒáááº- " ááŒá®ážááŒáá·áºá á¯á¶áá±á¬áá«ážááá¯áá»ááºááŒá¯ááºá" áá áºáá±á·áá±á·ááœáẠáá¬ááºáááºáá¯ááẠáááºááá·áºá á¬áá¬ážáá¡áááá¹áá¬ááºááá¯áááᯠá¡ááŒáá·áºá¡ááá¬ážáááºááá¯ááºá á±ááẠáááºáá°ááá¯ááºáá±á¬áºáááºáž ááá¯á¡áá« á¡ááá¯á¡áá»á±á¬ááºá áá áºááẠáá áºáá«áá áºáá¶ááœáẠáá°áá¬ážáá»á¬ážááẠááá¯ááá¯ážáá¬áá«áááºá
áááºááŒáá·áº á¡ááŸááºá¡áá¬ážááá«áá² áááºážááᯠáá»áœááºá¯ááºááá¯á· ááá¯ááºááá¯ááºááŒá±á¬ááºáž ááŸááºážááŸááºážáááºážáááºáž áááá¬áááŒá®ážá áá°áá áºáŠážá០áá°ááá¯ááºááá¯áẠá á áºáá±ážáááºá¡ááœáẠáá±ážááá¯á·ááŒááºážá¡á¬áž áá»áœááºá¯ááºááá¯á·á áá¬ážáá áºááœáẠáá¯áááá¡ááá·áºááᯠááá·áºááœááºážáá¬ážáá«áááºá á¡áá»áá¯ážá¡á á¬ážááœá²ááœá²ááŒá¬ážááŸá¯ áááœá±á·ááŒááºáááá·áº áá¯ááºáá±áá¬ážááá·áº á á¬áá¬ážáá»á¬ážááẠááá¯áá±áá¬ááœáẠáá«áááºáááºá ááá¯ááá¯á·áá±á¬á¡áá¯ááºáá¡ááá¯ááºážá¡áá¬ááᯠáááºá¡ááœááºááá° á áááºáá°ážááŒáá·áºááá¯ááºáááºá ááá¯á·ááŒá±á¬áá·áº áá»áœááºá¯ááºááá¯á·ááẠá¡áá²ááŒááºáá°áá»á¬ážááá¯áᬠá¡á¬ážááá¯ážáá¯á¶áá¬áá âáá°á á¯áá°áá±ážááá¬ááºááá¬â ááá¯áááºáž á¡ááœáá·áºáá±á¬ááºážáá°áᬠá¡áá°á¡áá®áá±á¬ááºážáá°áá»á¬ážá¡ááœáẠá áá¬ážááŒá±á¬ááá¯áá°áá»á¬ážáᶠááŸáá·áºááœá¬ážáá«áááºá áááºážááá¯á·ááẠá ááºáá»ááºááœá¬ážáááºááᯠááœá²ááŒá¬ážááááŒááºááá¯ááºááẠáá°áá®áá±ážáá°áá»á¬ážááŒá áºááŒá®áž áááºážááᯠáááºááŒá¬ážáá±ážáááºá
Smart caching ááŸáá·áº LSH hashing
ááŸááºáá»ááºáá»á¬ážááŸáá·áº áá¯ááºáá±á¬ááºáá¬ááœáẠáá»áœááºá¯ááºááá¯á· ááŒá¯á¶ááœá±á·ááá±á¬ áá±á¬ááºááŒá¿áá¬áá áºáá¯ááŸá¬ á áááºáž ááá¯á·ááá¯áẠáááºážá ááá¬áááŸáá·áº áá»á¶á·ááŸá¶á·ááŸá¯ á¡ááŒááºááŸá¯ááºážááá¯á·ááŒá áºáááºá Yandex.Region ááááááºááẠáá»ááºááŒááºá áœá¬ ááŒá®ážááœá¬ážáá¬áá±á¬á¡áá«á spammer áá»á¬ážááẠááá¯áá±áá¬ááá¯á· áá±á¬ááºáá¬ááŒáááºá á á¬áá¬ážá¡áááºážáááºááŒá±á¬ááºážáá²ááŒááºážááŒáá·áº áá¯á¶ááŸááºá¡áá¯á¶ážá¡ááŸá¯ááºážáá»á¬ážááᯠáá»á±á¬áºááŒááºááẠáááºáá°áá²á·ááŒáááºá Spam ááᯠááŸá¬ááœá±á·ááŒá®áž áá»ááºááá¯ááºáá±ážáááºá áá«áá±ááá·áº Yandex á¡ááá¯ááºážá¡áá¬á¡ááá±á¬á· á áááá áºááŒá¬á¡á±á¬áẠáááºáá¬ážáá²á· áááºááá¶ááá¯ááºáá²á· áááºáá±á·áá»áºááᯠáá°áá¬áá²á·áá»á® ááŒááºááá¯ááºáá«áááºá
áá¯ááºáá«áááºá áá«á áá»áœááºáá±á¬áºááá¯á·áá²á· áááá¯ááºáá®áá°ážá LSH ááᯠá¡ááŒá±áá¶áá¬ážáá²á· smart text caching áá¯ááºáááºá
á€ááŒá±ááŸááºážáá»ááºááẠáááºáá°áá±á¬á á¬áá¬ážáá»á¬ážá¡ááœáẠá¡áá»áá¯ážá¡á á¬ážááœá²ááœá²ááŒá¬ážáá°áá»á¬ážááŸáá·áº á áá¬ážááŒá±á¬ááá¯áá°áá»á¬ážá á á®áááºáá»ááºáá»á¬ážá¡á¬áž ááŒááºáááºá¡áá¯á¶ážááŒá¯ááá¯ááºá á±áá²á·áááºá á áááºážááá¯ááºááá¯ááºááŸá¯áá áºáá¯á¡ááœááºážá ááááááºáá±á·áá»áºááẠá áááºááºááŒááºááŒá®áž âá áááºážâ á á®áááºáá»ááºááŒáá·áº áááºááŸáºáá²ááá¯á· áááºáá±á¬ááºááŒá®ážáááºááŸáá·áº á¡áá¬ážáá° áááºáá±á·áá»áºá¡áá áºáá»á¬ážá ááœááºážáá¶áá¬ážááá·áºááá¯áẠáá°áá®áá±á¬ á á®áááºáá»ááºááᯠáááºáá¶áááŸáááŒá®áž á¡ááá¯á¡áá»á±á¬áẠáá»ááºááœá¬ážáá«áááºá áá±á¬ááºááá¯ááºážááœááºá áá»áœááºá¯ááºááá¯á·ááẠspam á¡áá»áá¯ážá¡á á¬ážááœá²ááŒá¬ážááŒááºážááᯠáá±á·áá»áá·áºáá±ážááŒá®áž á¡ááá¯á¡áá»á±á¬ááºááŒááºáá±á·áá»áá·áºáááºážááᯠáá±á·áá¬áááºáá°áá²á·áá±á¬áºáááºáž ဠ"smart cache" ááẠáá»áœááºá¯ááºááá¯á·ááŸáá·áºá¡áá°ááŸááá±áá²á·ááŒá®áž áááŒá¬ááááá¯áááᯠáá»áœááºá¯ááºááá¯á·ááᯠáá°áá®áá±ážáá±áá²ááŒá áºáááºá
áá±á¬ááºážáá±á¬ á á¬áá¬ážá¡áá»áá¯ážá¡á á¬ážááœá²ááŒá¬ážááŸá¯
spam ááá¯ááºáá»ááºááŒááºážá០á¡áá¬ážáá°ááẠá¡áá»áááºáááŸááá²á áá»áœááºá¯ááºááá¯á·á á¡ááŒá±á¬ááºážá¡áᬠ95% ááᯠáá°ááá¯ááºááá¯áẠá áá á áºáá±ááŒá±á¬ááºáž áá»áœááºá¯ááºááá¯á· ááá±á¬áá±á«ááºááá¯ááºáááº- á¡áá»áá¯ážá¡á á¬ážááœá²áá°áá»á¬ážááẠáá»áá¯ážáá±á¬ááºááŸá¯áá»á¬ážááá¯áᬠáá¯á¶á·ááŒááºááŒááŒá®áž á á¬áá¬ážá¡áá»á¬ážá á¯ááẠáá±á¬ááºážááœááºáá«áááºá á¡ááŸá¯áá±á«ááºáž 95 ááœáẠ100 áŠážááœáẠ"á¡áá¬áá¬á¡áááºááŒá±áááº" áᯠá¡ááá·áºáááºááŸááºáá±ážáá±á¬ ááá·áºááŸááºážáá±ážááá¬ážáá»á¬ážááᯠáá»áœááºá¯ááºááá¯á· áááºáá«áááºá áá»áœááºáá±á¬áº áá¯á¶ááŸááºááá¯ááºáá²á· á¡áá¯ááºáá áºáá¯ááᯠáá¯ááºáá²á·ááá«ááẠ- áá±á¬ááºážááœááºáá²á· á¡ááŒá±á¬ááºážá¡áá¬ááœá±ááᯠá¡áá»áá¯ážá¡á á¬ážááœá²ááœá²ááŒá¬ážááŸá¯ ááŒá¯áá¯ááºááŒááºáž áá¶áá±á¬ááºážáá±á¬ááºáá áœá¬áá² áá®áá¬áá¡ááœááºážááŸá¬ áá¯á¶áá±á¬ááºáá²á· á á»á±ážááŸá¯á¶ážááœá± á á¯áá±á¬ááºážáááá²á·áá«áááºá
áááá¡áá»áá¯ážá¡á á¬ážááœá²ááŒá¬ážáá°ááẠá€áá²á·ááá¯á·ááŒáá·áºááááº- áá»áœááºá¯ááºááá¯á·ááẠá á¬áá¬ážááᯠááŒááºáá±á¬ááºááŒááºáž (á áá¬ážáá¯á¶ážáá»á¬ážááᯠáááºážááá¯á·ááááŠážáá¯á¶á á¶ááá¯á· áá»áŸá±á¬á·áá»ááá¯ááºáááº)á á áá¬ážáá¡áááºá¡á áááºá¡ááá¯ááºážá¡á¬ážáá¯á¶ážááᯠáá¯ááºáá áºááŒá®áž ááŒáá¯áááºááŒááºáááºáá¬ážáá±á¬ "áá±á¬ááºážáá±á¬ lemmas" á¡áááá¬ááºááᯠá¡áá¯á¶ážááŒá¯áá«áááºá á á¬áá¬ážáá« á áá¬ážáá¯á¶ážáá»á¬ážá¡á¬ážáá¯á¶ážááẠ"áá±á¬ááºážáááº" ááŒá áºáá«áá á á¬áá¬ážáá áºáá¯áá¯á¶ážááœáẠáááºááá·áºáá»áá¯ážáá±á¬ááºááŸá¯á០ááá«áááºáá«á ááá°áá®áá±á¬áááºáá±á¬ááºááŸá¯áá»á¬ážááœááºá á€áá»ááºážáááºááŸá¯ááẠmanual markup á 25% á០35% á¡áá á¡ááá¯á¡áá»á±á¬ááºáá¯ááºáá±á¬ááºááŒááºážááᯠáá»ááºáá»ááºážáá±ážáááºá áá¯ááºáá«áááºá á€áá»ááºážáááºáááºážááẠá á¶ááá®áá«- á¡ááŒá áºáááºážáá±á¬á áá¬ážáá¯á¶ážáá»á¬ážá áœá¬ááᯠáá±á«ááºážá ááºááŒá®áž á¡ááœááºááá¯ááºážá áá¯ááºážáá±á¬áá¯ááºááŒááºáá»ááºáá áºáá¯áááẠááœááºáá°áááºá ááá¯á·áá±á¬áº áááºážááẠáá»áœááºá¯ááºááá¯á·á¡á¬áž á¡ááá¯á¡áá»á±á¬ááºá áá áºááá±á¬ááºážááœááºáá±á¬á¡ááá·áºááá¯á· áá»ááºááŒááºá áœá¬áá±á¬ááºááŸáá á±áᬠááá¯ááá¯ááŸá¯ááºááœá±ážáá±á¬áá±á¬áºáááºáá»á¬ážááᯠáá±á·áá»áá·áºááẠá¡áá»áááºáá±ážáá«áááºá
áá±á¬ááºážáá±á¬ á
á¬áá¬ážá¡áá»áá¯ážá¡á
á¬ážááœá²ááŒááºážá áá±á¬ááºáá¬ážááŸááºážáá»á¬ážááœáẠááá¯ááºážááá¯ážáá±á¬áºáááºáá»á¬ážá áá¯á¶ážááŒááºáá»ááºáá
áºáá»á¬ážááŸáá·áº áááºážááá¯á·á áá±á«ááºážá
ááºááŸá¯áá»á¬áž áá«áááºááŒá®ážááŒá
áºáááºá ááá¯ááºážá
áá¯ááºážááŒááºážááŸáá·áº á
á±á¬áºáá¬ážááŸá¯áá»á¬ážááᯠá¡ááŸááºá¡áá¬ážááŒá¯áááºá á¥ááá¬á¡á¬ážááŒáá·áºá áá»áœááºá¯ááºááá¯á·ááẠBERT á¡á¬áá¯á¶ááŒá±á¬ááœááºáááºááᯠá
ááºážáá¯á¶ážááŒáá·áºáá«á á
áá¬ážá
ááºáá¬ááœáẠá
áá¬ážáá¯á¶ážáá
áºáá¯á¶ážá á¡áááá¹áá¬ááºááŸáá·áº ááá°áá®áá±á¬ áá«áá»áá»á¬ážá០á
áá¬ážáá¯á¶ážáá»á¬ážááŒá¬áž áááºá
ááºááŸá¯ááᯠáá¬ážáááºááẠá¡áá±ážááŒá®ážááŒá®áž BERT ááẠáááºážá¡ááœáẠáá±á¬ááºážááœááºá
áœá¬ áá¯ááºáá±á¬ááºáááºá (á
áá¬ážáá
ááºá áááŒá¬áá±ážáá®á ááááºážáá»á¬ážá០áá¯ááºáá±á¬áºááá¯ááºáááºáá»á¬áž
áááá»ááŸá¯á ááŒá®ážááŒáá·áºá á¯á¶ááŸá¯ááŸáá·áº ááŒááºááŸá¯ááºáž
ááœá¶á·ááŒáá¯ážááá¯ážáááºáááºá á¡áá»áá¯á·áá±á¬ á¡ááá¯á¡áá»á±á¬áẠá¡áá»áá¯ážá¡á á¬ážááœá²á ááºáá»á¬ážááẠá¡áá»áá¯ážáá»á±ážáá°ážáá»á¬áž áá±ážáá±á¬ááºáá¬ááŒááºážá áááºážááá¯á·ááœáẠá¡ááŒá±á¬ááºážá¡áá²áá»á¬ážááŸáá·áº ááá¯ááºááá¯ááºá á áºáá±ážááŒááºážáá»á¬ážá á¡áááºá¡ááœá±áž áá»áááºážááŒááºáž ááŸááááŸá áá¬ážáááºááẠááá¯á¡ááºáá«áááºá ááá¯ááá¯á·áá¯ááºáá±á¬ááºááẠáá»áœááºá¯ááºááá¯á·ááẠáááá»ááŸá¯ááŸáá·áº ááŒááºáááºááááºážáááºážááá·áº áááºááá áºáá»á¬ážááᯠá¡áá¯á¶ážááŒá¯áá«áááºá
áááá»ááŸá¯ááẠááá±á¬ááºážáá±á¬á¡ááŒá±á¬ááºážá¡áá¬ááŸáá·áºáááºáááºá á á®áááºáá»ááºá¡á¬ážáá¯á¶ážááŒá¬ážááœáẠááŸááºáááºáá±á¬á á®áááºáá»ááºáá¡áá»áá¯ážá¡á á¬ážááŒá áºáááºá áááá»ááŸá¯ ááŒáá·áºáá¬ážáá±á ááŸá¬ážááœááºážáá±á¬ ááááºáá»á¬áž áááºážáá«ážáá±ááŒá áºáááºá áááá»ááŸá¯ááᯠááá¯áá áá¯ááºáá«áá áá®á¡áá¯áá®á¡á áááºááẠá áááºážááŸáá·áº áá áºáááºážááŸá¯áá»á¬ážá¡á¬ážáá¯á¶ážááᯠáá»ááºááá¯ááºááŒá®áž áá±á¬ááºážáá±á¬áááºáá±á·ááºá»áá áºáááºááᯠáááºážááá¯á·ááŸáá·áºá¡áá° áá»ááºááá¯ááºáááºá áá áºáááºááœááºá áááºááẠáááá»ááŸá¯ááá¯áᬠá¡á¬ážááá¯ážáá«áá á¡áá±á¬ááºážáá¯á¶ážáááºážááá¬ááẠáááºáá°áá áºáŠážáá áºáá±á¬ááºááá¯áá»áŸ áááºážá á¬ážááá¯ááºáááºááá¯ááºáá±á ááá¯á·ááŒá±á¬áá·áºá ááŒá®ážááŒáá·áºá á¯á¶ááŸá¯á ááœáŸááºááŒáá»ááºáá áºáá¯áááºáž ááŸááááº- ááá±á¬ááºážáá²á· á¡ááŒá±á¬ááºážá¡áᬠá á¯á á¯áá±á«ááºáž áá¯áááºá¡ááœááºáž ááœá²ááŒá¬ážáááºááŸááºáá¬ážáá±á¬ ááá±á¬ááºážáá²á· á¡ááŒá±á¬ááºážá¡áᬠáá»áŸáá±ááŸá¯á á€ááá¯ááºážáá¬ááŸá¯ááŸá áºáá¯ááẠáá áºáá¯ááŸáá·áºáá áºáᯠáááºáá»ááºáá®áááºá
ááá¯ááºážáá¬áááºá¡ááœááºá áá»áœááºá¯ááºááá¯á·ááẠáááºáá±á¬ááºááŸá¯áá áºáá¯á á®á¡ááœáẠá¡áááºá á®ážááŒá±á¬ááºážáá áºáá¯áá¯á¶ážááᯠááá°áá¬áá°ááŒá®áž áá»áœááºážáá»ááºáá°á¡áá²ááŒááºááŒááºážááŸáá·áº á ááºááŒá±ááŸááºážáá»ááºáá»á¬ážááŸáá·áº ááŸáá¯ááºážááŸááºááŒááºážá¡ááœáẠá¡áá²ááŒááºáá°áá»á¬ážáᶠá¡ááŒá±á¬ááºážá¡áá¬ááá°áá¬áá»á¬ážááᯠáá±ážáá«áááºá
áá«áá±ááá·áº áá±á¬ááºááẠá¡áá±ážááŒá®ážáá²á· ááœáŸááºááááºážáá áºáᯠááŸááá«áááºá
5 áááá áºá¡ááœááºážááẠáá°áá¬áá±á«ááºážáá»á¬ážá áœá¬á áááºááá¶ááá¯ááºáá±á¬ áááºáá±á·áá»áºááᯠá¡áááºááœáẠáá±ážáá¬ážáá²á·áááºá áá«ááŒá±á¬áá·áº ááá»á±á¬ááºáááºááŸá¬ áá°ááœá±ááᯠááá±á¬ááºážáá²á·á¡ááŒá±á¬ááºážá¡áá¬ááᯠááŒááá²á·á¡ááŒáááºá¡áá±á¡ááœááºááᯠáá±ááœááºáá«áááºá áááá±á¬ááºá áœá¬ áá¯ááºáá±á¬ááºááẠááá¯á¶áá±á¬ááºáá±á¬ááŒá±á¬áá·áº á¡áá±ážááŒá®ážááẠ- áááºáááºáž ááŒááºááŒááºáááºááẠáá¯ááºáá±á¬ááºááẠááá¯á¡ááºáá«áááºá áá»áááºááá¯ááŒááºážá០áá¯áá¶áá¬ááœááºááŸá¯ááᯠáááºáá±á¬ááºáá±á¬á¡áá«ááœáẠáá»áœááºá¯ááºááá¯á· á¡ááŒáá·áºá¡á áá¶á á¬ážáá²á·ááááºá
ááŒá±á¬ááºááŸáá·áº ááœá±ážááá¯á·á ááá°áá¬ááᯠá¡áá¯á¶ážááŒá¯á ááá·áºáá»ááºáááºáá«á
ááá»á¬áááºáá±á¬ á¡áá±ážá¡ááœá²á áá áºáááºážááŸá¯ááŸáá·áº á á±á¬áºáá¬ážááŸá¯áá»á¬ážááẠá¡áá¹ááá¬ááºááŸááá±á¬ááá·áºááºáá»á¬ážáá²á·ááá¯á· á¡áá¹ááá¬ááºááá¯ááºááŒá±á¬ááºážá spam áá²á·ááá¯á· á áááºá¡ááŸá±á¬áá·áºá¡ááŸááºáááŒá áºáᯠá¡áá»áá¯á·á ááá¯ááá¯ááºáááºá ááá¯á·áá±á¬áº áááºážááŸáá·áºáá»á®áá±á¬ áá¯á¶ážá áœá²áá°áá»á¬ážá¡ááœáẠáááºááœááºáá±ážá¡ááœáẠá¡áááºááŒá±áá±á¬ á¡ááŒá±á¡áá±áá»á¬ážááᯠááááºážááááºážááẠáá»áœááºá¯ááºááá¯á· ááŒáá¯ážá á¬ážáá±ááŒá®áž áá°áá»á¬ážááẠáááºážááá¯á· á á±á¬áºáá¬ážáá¶áááá·áº áá±áá¬áá»á¬ážááá¯á· ááŒááºááœá¬ážááẠáááŒáá¯ááºáá«á Habré á¡áá«á¡ááẠáá°ááŸá¯á¡ááá¯ááºá¡áááºážáá»á¬ážá áœá¬á á ááºážáá»ááºážáá»á¬ážááœáẠáá²ááá¯ááŒááºážááŸáá·áº á á±á¬áºáá¬ážááŒááºážáá»á¬ážááᯠáá¬ážááŒá áºááŒááºážááẠáááºááá·áºá¡ááœááºáá»áŸ ááá¯ááºáá«á áá«áá±ááá·áº áá«ááá¯á· áá¯ááºáá¬áááºá
Swearing á¡áááá¬ááºáá»á¬ážááẠáá¯ááŸá¬ážáá¬áá¬á áá¬ážá ááŒáœááºáááŸá¯á¡á¬ážáá¯á¶ážááᯠáááºááá¯ááºááŒá±ááŸááºážááá¯ááºáááºááá¯ááºáá±á á¡ááá áá»áááºááá¯ááŸá¯ á¡ááŒá Ạáá±ážáá¯áᬠááŸááá±á¬áºáááºážá áááºážááá¯á·áá¶á០áááºááẠáá¯á¶ááŸááºá¡ááºáá»áẠáá áºáá¯á¶ážá០ááááºážáá¯ááºááá¯ááºáá±á¬ ááá±áááœááºááá¯ááºáá±á¬ á áá¬ážáá¯á¶ážáá»á¬ážá áœá¬ááᯠáááºáá®ážááá¯ááºáááºá ááá¯á·á¡ááŒááºá áááºááẠá áá¬ážáá¯á¶ážáá áºáá¯á¶ážá áá áºá áááºáá áºááá¯ááºážááᯠá¡áá¹ááá¬ááŒáá·áº áá±ážáá¬ážááá¯ááºáááºá á¡áá¬ážáá° áá±á«ááºážá ááºááŸá¯áá»á¬ážááŒáá·áº á á¬áá¯á¶ážáá»á¬ážááᯠá¡á á¬ážááá¯ážááá¯ááºáááºá á á¬áá¯á¶ážáá»á¬ážááᯠááŒááºá á®áááºá ááŒááºááœáá·áºáá»á¬ážááá·áºááŒááºáž á áááºááŒáá·áºá áá áºáá«áá áºáá¶ááœááºá á áá¬ážá ááºááŒááºážáááŸááá²á á¡áá¯á¶ážááŒá¯áá°ááẠáá»áááºááá¯áá±á¬ á áá¬ážáá¯á¶ážááᯠááá¯ááá¯ááŒá±á¬ááºáž á¡ááŒá±áá¶á¡á¬ážááŒáá·áº áá¯á¶ážááŒááºááẠáááŒá áºááá¯ááºáá±á áá»áœááºá¯ááºááá¯á·ááẠHabr áá ááºážáá»ááºážáá»á¬ážááᯠáá±ážá á¬ážáá±á¬ááŒá±á¬áá·áº áááºážááᯠááá¯ááºááá¯ááºááá°áá¬áá»á¬ážááŒáá·áºááá¯ááºáá² ááŒá±á¬ááºáá»á¬ážááŸáá·áº ááœá±ážáá»á¬ážááŒáá·áº ááá¯ááºááŒáá«áááºá
âá¥ááá±â ááŒá±á¬ááºá ááŒá±á¬áááºá áá«áá±ááá·áº ááŒá±á¬ááºá ááŒá¬ážáá¬ážáá²á· á
áá¬ážáá¯á¶ážááᯠááŒá±á¬áá¬ááᯠáá¬ážáááºáá«áááº...
áá»áœááºá¯ááºááá¯á·áá¡áááá¬ááºá¡ááœáẠ"fuzzy matching" algorithms ááŸáá·áº ááá¯ááá¯áááºááŒááºáá±á¬ááŒáá¯áááºáá¯ááºáá±á¬ááºááŒááºážá¡ááŒá±á¬ááºážááá¯á·ááᯠá áááºá ááºážá á¬ážáá¬áááº- áá»áœááºá¯ááºááá¯á·ááẠá¡áá¹ááá¬áá¬áá¬ááŒááºááŒááºážá áá±áá¬ááœááºáá»á¬ážááŸáá·áº áááºáá¯á¶áááºáá¯á¶áá»á¬ážááᯠá¡áá°ááᜠáá»áááºáááºáá±ážááŒááºážá áá¯á¶á á¶áá»á¬ážááᯠááŸá¬ááœá±áᬠáááºážááá¯á·ááœáẠáá®ážááŒá¬ážáá¯á¶ááŸááºá¡áá¯á¶ážá¡ááŸá¯ááºážáá»á¬ážááᯠáá±ážáá¬ážáá²á·áááºá á€áá»ááºážáááºáááºážááẠááááºáá»á¬ážááᯠáá°áá±á¬ááºáá¬áá±á¬áºáááºáž áááŒá¬áá áááá»ááŸá¯ áá»á±á¬á·áá»ááœá¬ážááŒá®áž ááá¯áá»ááºáá±á¬ ááŒáá·áºá á¯á¶ááŸá¯ááᯠááá±ážá áœááºážááá¯ááºáá±á
ááá¯á·áá±á¬áẠâáá»áááºáá²áá°áá»á¬ážáá²á·ááá¯á· ááœá±ážâ ááẠáá¯á¶ážááŒááºáá²á·áááºá áá»áœááºá¯ááºááá¯á·ááẠáá±áá¬áá²ááá¯á· áá°áá¶áá¶áá»á¬ážááᯠá áááºááááºáááºáá²á·áááº- áá»áœááºá¯ááºááá¯á·ááẠá á¬áá¯á¶ážáá»á¬ážááᯠááŒááºáááºá á®á á¥áºáá¬á á á¬áá¯á¶ážáá±á«ááºážáá»á¬ážáá¯ááºáá±ážááŒááºážá á á¬áá¯á¶ážáá»á¬ážááᯠáááºáá°áá±á¬á á¬áá¯á¶ážáá±á«ááºážáá»á¬ážááŒáá·áº á¡á á¬ážááá¯ážááŒááºážá áááºááŒáá·áº á¡á á¬ážááá¯ážáá«áááºá á€á¡ááœáẠáááŠáž á¡ááŸááºá¡áá¬ážááᯠáá»á¬á¡áááá¬ááºáá»á¬ážááᯠá á¬áá¬ážáá»á¬áž áá±á¬áºááá¯áá¬ááŒá®ážáá»á¬ážááœáẠá¡áá¯á¶ážááŒá¯ááŒááºážááŒáá·áº áá°áá±á¬ááºááœá¬ážáá«áááºá á á¬ááŒá±á¬ááºážáá áºááŒá±á¬ááºážááᯠáááºážáááºážáá»á¬ážá áœá¬ááŒáá·áº ááŸáá·áºá á¬ážáá«á á á¬ááŒá±á¬ááºážáá»á¬ážá áœá¬ááŒáá·áº á¡áá¯á¶ážáááºáá«áááºá á€áááºážááŒáá·áº áááºááẠáá±á·áá»áá·áºáá±ážááá°áá¬ááᯠá¡ááá±á«ááºáž áááºááááºáž ááá¯ážááá¯ááºáááºá áá»ááºáá¬á¡á¬ážáá¯á¶ážá áááºá ááºá¡ááŒá±á¬ááºážá¡áá¬ááᯠááá·áºááœááºážá ááºážá á¬ážáá²á· ááá¯áááºážáá²á· á áááºáá±á¬áºáááºá¡áá»áá¯á·ááᯠáááŸááá¬áá²á· áá±áááºááᯠáá±á·áá»áá·áºááá¯á·áá² ááŒá áºáá«áááºá
áá±á¬ááºáá¯á¶áž áá¯á¶ážááŒááºáá»ááºá¡ááŒá±á¬ááºáž ááŒá±á¬ááá¯á· á
á±á¬ááœááºážáááºá áá»áœááºá¯ááºááá¯á·ááẠá€ááŒá¿áá¬á¡ááœáẠáá»ááºážáááºáááºážáá»á¬ážááᯠá
ááºážáááºáá²ááŒá
áºáá±á¬áºáááºážá á¡ááœáŸá¬áá»á¬ážá
áœá¬á ááá¯ážááŸááºážáá±á¬áááºá¹áá±á convolutional network ááẠá¡áááá¬ááºáá»á¬ážááŸáá·áº áá¯á¶ááŸááºá¡ááºáá»ááºáá»á¬ážááᯠáááááá¬áᬠá
áœááºážáá±á¬ááºááá¯ááºáááº- áááá»ááŸá¯ááŸáá·áº ááŒááºáááºááááºážáááºážááŸá¯ ááŸá
áºáá»áá¯ážáá¯á¶ážááᯠááá¯ážááŒáŸáá·áºááá¯ááºáááºááᯠáá»áœááºá¯ááºááá¯á· ááœá±á·ááŒááºááá¯ááºáá±ááŒá®ááŒá
áºáááºá
á¡áá°ážáááŒáá·áº ááá á¹á á á¡áááºážá¡áá¹ááá¬ááºáá»á¬ážáá²á· á¡áá«ááŸá¬ á¡ááá·áºááŒáá·áºáá¯á¶áž á¡ááá¯á¡áá»á±á¬ááºá áá áºááá¯áá±á¬áẠáá»á±á¬áºááœáŸá¬ážááá¯ááºáá²á· áááºážáááºážááœá± á¡ááŒá²ááŸááááºááá¯áᬠáá»áœááºáá±á¬áºááá¯á· áá¬ážáááºáá«áááº- ááá¯ááºáá²áá²á· á ááºá áá¬ážááááºáá²á· áá¯á¶á á¶áá²á· áá±ážáá«á á€áá±áá¬ááœááºá spam áá»á¬ážááá¯ááá¯ááºáá»ááºáá¬ááœááºáá²á·ááá¯á·áááºá áá»áœááºá¯ááºááá¯á·ááááºážááá¯ááºááẠáá áºáááºážáá±á¬á á¬áá±ážááŒááºážáááŒá áºááá¯ááºááŒá±ááᯠáá»á±áá»ááºáááºááá¯ááºáá«á áá»áœááºá¯ááºááá¯á·ááá¬áááºááŸá¬ ááááºážááẠááá±á¬ááºážááá¯ááºááŸáá·áºáááá¯ááºáááºááŒá±á¬ááºáž áá±áá»á¬á á±áááºááŒá áºáááºá
áááºááááºááŒááºáá°ááá»ááºá ááŒá±á¬ááá¯áááºáá¶ááŒááºážááŸáá·áº ááŸááºáá»ááºáá±ážááŒááºážáá»á¬ážááᯠáá»áŸáá±ááẠá¡ááœáá·áºá¡áá±ážááᯠááœáá·áºááŸá
áºááŒááºážááẠááááºáá²áá«á áá±ážáááºážáá±á¬á áááºáá±á¬áá·áºáááºáá¬ááŸááá±á¬ á¡ááŒá±á¡áá±áá»á¬ážááŸáá·áº áá°áá»á¬ážááᯠáá±ážá
á¬ážá
áœá¬ áááºáá¶ááŸá¯áááŸááááºááŸá¬ ááá¯ááááºáá²áá«áááºá á€áá»áŸáá¬áááŸááá»áŸáẠáááºááá·áºá¡ááá¯ááºážá¡ááá¯ááºážá០ááœá¶á·ááŒáá¯ážááá¯ážáááºáá¬áááºááá¯ááºáá±á
source: www.habr.com