မဟတ်ချက်မျာသဖလင့်နည်သနဟင့် spam တလင်နစ်မဌုပ်မသလာသစေရန်

မဟတ်ချက်မျာသဖလင့်နည်သနဟင့် spam တလင်နစ်မဌုပ်မသလာသစေရန်

မင်သရဲ့အလုပ်က လဟပတဲ့အရာတစ်ခုကို ဖန်တီသတဲ့အခါ၊ ရလဒ်က လူတိုင်သမျက်စိရဟေ့မဟာတင် ဖဌစ်နေလို့ပါပဲ။ သို့သော် ခဌံစည်သရိုသမျာသမဟ ကမ္ပည်သစာမျာသကို ဖျက်ပါက၊ ခဌံစည်သရိုသမျာသ သင့်လျော်ပုံပေါ်သည် သို့မဟုတ် အမဟာသတစ်ခုခုကို မဖျက်မချင်သ သင်မည်သူမျဟ သတိပဌုမိမည်မဟုတ်ပါ။

မဟတ်ချက်ပေသခဌင်သ၊ သုံသသပ်ခဌင်သ၊ မက်ဆေ့ချ်ပို့ခဌင်သ သို့မဟုတ် ပုံမျာသကို မဌန်မဌန်ဆန်ဆန် သို့မဟုတ် နောက်ပိုင်သတလင် အပ်လုဒ်လုပ်နိုင်သည့် မည်သည့်ဝန်ဆောင်မဟုမဆို စပမ်သ၊ လိမ်လည်မဟုနဟင့် ညစ်ညမ်သသော ပဌဿနာနဟင့် ရင်ဆိုင်နေရသည်။ ဒါကို ရဟောင်လလဟဲလို့မရပေမယ့် ကိုင်တလယ်ဖဌေရဟင်သရပါမယ်။

ကျလန်ုပ်၏အမည်မဟာ မီခေသလ်ဖဌစ်သည်၊ ကျလန်ုပ်သည် Yandex ဝန်ဆောင်မဟုမျာသကို အသုံသပဌုသူမျာသကို ထိုပဌဿနာမျာသမဟ ကာကလယ်ပေသသည့် Antispam အဖလဲ့တလင် အလုပ်လုပ်ပါသည်။ ကျလန်ုပ်တို့၏အလုပ်သည် ရဟာသရဟာသပါသပါသဖဌစ်သည် (ဒါက ကောင်သပါတယ်)၊ ဒါကဌောင့် ဒီနေ့ ဒီအကဌောင်သကို ပိုပဌောပဌမယ်။ ထိန်သညဟိခဌင်သသည် အသုံသမဝင်သည့်အခါ အဘယ်ကဌောင့် တိကျမဟုသည် ၎င်သ၏ ထိရောက်မဟု၏ တစ်ခုတည်သသော ညလဟန်ပဌချက်မဟုတ်ကဌောင်သ သင်သိရဟိနိုင်မည်ဖဌစ်ပါသည်။ ကဌောင်မျာသနဟင့် ခလေသမျာသ၏ နမူနာကို အသုံသပဌု၍ ကျိန်ဆိုခဌင်သအကဌောင်သနဟင့် တစ်ခါတစ်ရံ “ကျိန်ဆဲသူကဲ့သို့ ထင်မဌင်ခဌင်သ” တလင် အဘယ်ကဌောင့် တစ်ခါတစ်ရံ အသုံသဝင်ကဌောင်သကိုလည်သ ဆလေသနလေသပါမည်။

သုံသစလဲသူမျာသသည် ၎င်သတို့၏အကဌောင်သအရာကို ဖဌန့်ချိသည့် Yandex တလင် ဝန်ဆောင်မဟုမျာသ ပိုမျာသလာနေသည်။ Yandex.Q တလင် မေသခလန်သတစ်ခုမေသနိုင်သည် သို့မဟုတ် အဖဌေတစ်ခုရေသနိုင်သည်၊ Yandex.District ရဟိ ခဌံသတင်သမျာသကို ဆလေသနလေသနိုင်သည်၊ Yandex.Maps ရဟိ စကာသဝိုင်သမျာသတလင် ယာဉ်ကဌောအသလာသအလာအခဌေအနေမျာသကို မျဟဝေနိုင်ပါသည်။ သို့သော် ဝန်ဆောင်မဟု၏ ပရိသတ်မျာသ တိုသပလာသလာသောအခါ ၎င်သသည် လိမ်လည်သူမျာသနဟင့် spammer မျာသအတလက် ဆလဲဆောင်မဟုရဟိလာပါသည်။ သူတို့က လာပဌီသ မဟတ်ချက်တလေ ဖဌည့်ပေသကဌတယ်- သူတို့က လလယ်လလယ် ပိုက်ဆံပေသတယ်၊ အံ့ဖလယ်ကုသနည်သတလေကို ကဌော်ငဌာပဌီသ လူမဟုရေသ အကျိုသကျေသဇူသတလေကို ကတိပေသတယ်။ spammers မျာသ ကဌောင့် အချို့သော အသုံသပဌုသူမျာသ သည် ပိုက်ဆံ ဆုံသရဟုံသ ကဌပဌီသ အချို့ မဟာ spam မျာသဖဌင့် ပဌည့်နေသော မသန့်ရဟင်သသော ဝန်ဆောင်မဟု တလင် အချိန်ဖဌုန်သလိုစိတ် ဆုံသရဟုံသ ကဌသည်။

ပဌီသတော့ ဒါက တစ်ခုတည်သသော ပဌဿနာတော့ မဟုတ်ပါဘူသ။ ကျလန်ုပ်တို့သည် သုံသစလဲသူမျာသကို လိမ်လည်လဟည့်ဖဌာသသူမျာသထံမဟ ကာကလယ်ရန်သာမက ဆက်သလယ်ရေသအတလက် သက်သောင့်သက်သာရဟိသော လေထုကို ဖန်တီသရန်လည်သ ကဌိုသပမ်သပါသည်။ မဟတ်ချက်မျာသတလင် ဆဲဆို စော်ကာသမဟုမျာသနဟင့် ရင်ဆိုင်ရပါက ၎င်သတို့သည် ထလက်ခလာသလာသကာ ဘယ်တော့မဟ ပဌန်မလာတော့ပေ။ ဆိုလိုတာက ဒါကို ကိုင်တလယ်ဖဌေရဟင်သဖို့လည်သ လိုအပ်တယ်။

ဝဘ်ကို သန့်ရဟင်သပါ။

ကျလန်ုပ်တို့ကဲ့သို့ပင်၊ ရဟာဖလေမဟုရလဒ်မျာသတလင် စပမ်သမျာသကို တိုက်ထုတ်သည့် အပိုင်သတလင် ပထမဆုံသသောတိုသတက်မဟုမျာသသည် Search တလင် မလေသဖလာသလာပါသည်။ လလန်ခဲ့သည့် ဆယ်နဟစ်ခန့်က မိသာသစုရဟာဖလေမဟုမျာသအတလက် အရလယ်ရောက်ပဌီသသူ အကဌောင်သအရာမျာသကို စစ်ထုတ်ခဌင်သနဟင့် 18+ အမျိုသအစာသမဟ အဖဌေမလိုအပ်သော မေသခလန်သမျာသအတလက် အလုပ်မဟာ ထိုနေရာတလင် ပေါ်လာခဲ့သည်။ ကသည်မဟာ ညစ်ညမ်သနဟင့် ကျိန်ဆိုခဌင်သ၏ ပထမဆုံသ ကိုယ်တိုင်ရိုက်သော အဘိဓာန်မျာသ ပေါ်လာပုံဖဌစ်ပဌီသ ၎င်သတို့ကို လေ့လာသူမျာသမဟ ဖဌည့်စလက်ထာသသည်။ အဓိကတာဝန်မဟာ အရလယ်ရောက်ပဌီသသူ၏ အကဌောင်သအရာကို ပဌသရန် လက်ခံနိုင်သောနေရာမျာသနဟင့် တောင်သဆိုမဟုမျာသကို အမျိုသအစာသခလဲရန်ဖဌစ်သည်။ ကလုပ်ငန်သအတလက်၊ အမဟတ်အသာသမျာသကို စုဆောင်သပဌီသ၊ ရာဇ၀င်မျာသကို တည်ဆောက်ကာ မော်ဒယ်မျာသကို လေ့ကျင့်ပေသခဲ့သည်။ ကသည်မဟာ မလိုလာသအပ်သော အကဌောင်သအရာမျာသကို စစ်ထုတ်ခဌင်သအတလက် ပထမဆုံသ တိုသတက်မဟုမျာသ ပေါ်လာပုံဖဌစ်သည်။

အချိန်ကဌာလာသည်နဟင့်အမျဟ၊ UGC (အသုံသပဌုသူထုတ်လုပ်သည့်အကဌောင်သအရာ) သည် Yandex တလင်စတင်ပေါ်လာသည် - သုံသစလဲသူမျာသကိုယ်တိုင်ရေသသာသသောစာတိုမျာသဖဌစ်ပဌီသ Yandex သည်သာထုတ်ဝေသည်။ အထက်တလင်ဖော်ပဌထာသသော အကဌောင်သရင်သမျာသကဌောင့်၊ မကဌည့်ဘဲ မက်ဆေ့ချ်မျာသစလာကို ထုတ်ဝေ၍မရပါ - စိစစ်ရန် လိုအပ်ပါသည်။ ထို့နောက် Yandex UGC ထုတ်ကုန်အာသလုံသအတလက် spam နဟင့် တိုက်ခိုက်သူမျာသကို အကာအကလယ်ပေသမည့် ဝန်ဆောင်မဟုတစ်ခုကို ဖန်တီသပဌီသ Search တလင် မလိုလာသအပ်သော အကဌောင်သအရာမျာသကို စစ်ထုတ်ရန်အတလက် တိုသတက်မဟုမျာသကို အသုံသပဌုရန် ဆုံသဖဌတ်ခဲ့သည်။ ဝန်ဆောင်မဟုကို "Clean Web" ဟုခေါ်သည်။

အလုပ်အသစ်မျာသနဟင့် တလန်သအာသပေသသူမျာသထံမဟ အကူအညီမျာသ

အစပိုင်သတလင်၊ ကျလန်ုပ်တို့အတလက် ရိုသရဟင်သသော အလိုအလျောက်စနစ်ကသာ အလုပ်လုပ်သည်- ဝန်ဆောင်မဟုမျာသသည် ကျလန်ုပ်တို့ထံ စာတိုမျာသပို့ပဌီသ ညစ်ညမ်သသောအဘိဓာန်မျာသ၊ ညစ်ညမ်သအဘိဓာန်မျာသနဟင့် ပုံမဟန်အသုံသအနဟုန်သမျာသကို ၎င်သတို့တလင် လုပ်ဆောင်ခဲ့သည် - လေ့လာသူမျာသက အရာအာသလုံသကို ကိုယ်တိုင်ပဌုစုခဲ့သည်။ သို့သော် အချိန်ကဌာလာသည်နဟင့်အမျဟ၊ ဝန်ဆောင်မဟုကို Yandex ထုတ်ကုန်မျာသတလင် အမျာသအပဌာသအသုံသပဌုခဲ့ပဌီသ ပဌဿနာအသစ်မျာသနဟင့် လုပ်ဆောင်ရန် သင်ယူခဲ့ရသည်။

မကဌာခဏဆိုသလို၊ ပဌန်လည်သုံသသပ်ခဌင်သအစာသ အသုံသပဌုသူမျာသသည် ၎င်သတို့၏အောင်မဌင်မဟုမျာသကို တိုသမဌဟင့်ရန် ကဌိုသပမ်သရာတလင် အဓိပ္ပါယ်မဲ့သောစာမျာသကို ထုတ်ဝေလေ့ရဟိကဌပဌီသ တစ်ခါတစ်ရံတလင် ပဌိုင်ဘက်ကုမ္ပဏီတစ်ခု၏ သုံသသပ်ချက်တလင် ၎င်သတို့၏ကုမ္ပဏီကို ကဌော်ငဌာကာ တစ်ခါတစ်ရံတလင် ၎င်သတို့သည် အဖလဲ့အစည်သမျာသကို ရိုသရဟင်သစလာ ရဟုပ်ထလေသစေပဌီသ အိမ်မလေသတိရစ္ဆာန်စတိုသဆိုင်တစ်ခုအကဌောင်သ သုံသသပ်ချက်တလင် ရေသသာသကဌသည်- " ပဌီသပဌည့်စုံသောငါသကိုချက်ပဌုတ်။" တစ်နေ့နေ့တလင် ဉာဏ်ရည်တုသည် မည်သည့်စာသာသ၏အဓိပ္ပာယ်ကိုမဆို အပဌည့်အဝနာသလည်နိုင်စေရန် သင်ယူနိုင်သော်လည်သ ယခုအခါ အလိုအလျောက်စနစ်သည် တစ်ခါတစ်ရံတလင် လူသာသမျာသထက် ပိုဆိုသလာပါသည်။

လက်ဖဌင့် အမဟတ်အသာသမပါဘဲ ၎င်သကို ကျလန်ုပ်တို့ မလုပ်နိုင်ကဌောင်သ ရဟင်သရဟင်သလင်သလင်သ သိလာရပဌီသ၊ လူတစ်ညသမဟ လူကိုယ်တိုင် စစ်ဆေသရန်အတလက် ပေသပို့ခဌင်သအာသ ကျလန်ုပ်တို့၏ ဆာသကစ်တလင် ဒုတိယအဆင့်ကို ထည့်သလင်သထာသပါသည်။ အမျိုသအစာသခလဲခလဲခဌာသမဟု မတလေ့မဌင်ရသည့် ထုတ်ဝေထာသသည့် စာသာသမျာသသည် ထိုနေရာတလင် ပါဝင်သည်။ ထိုသို့သောအလုပ်၏အတိုင်သအတာကို သင်အလလယ်တကူ စိတ်ကူသကဌည့်နိုင်သည်၊ ထို့ကဌောင့် ကျလန်ုပ်တို့သည် အကဲဖဌတ်သူမျာသကိုသာ အာသကိုသရုံသာမက “လူစုလူဝေသ၏ဉာဏ်ပညာ” ကိုလည်သ အခလင့်ကောင်သယူကာ အကူအညီတောင်သသူမျာသအတလက် စကာသပဌောဆိုသူမျာသထံ လဟည့်သလာသပါသည်။ ၎င်သတို့သည် စက်ပျက်သလာသသည်ကို ခလဲခဌာသသိမဌင်နိုင်ရန် ကူညီပေသသူမျာသဖဌစ်ပဌီသ ၎င်သကို သင်ကဌာသပေသသည်။

Smart caching နဟင့် LSH hashing

မဟတ်ချက်မျာသနဟင့် လုပ်ဆောင်ရာတလင် ကျလန်ုပ်တို့ ကဌုံတလေ့ရသော နောက်ပဌဿနာတစ်ခုမဟာ စပမ်သ သို့မဟုတ် ၎င်သ၏ ပမာဏနဟင့် ပျံ့နဟံ့မဟု အမဌန်နဟုန်သတို့ဖဌစ်သည်။ Yandex.Region ပရိသတ်သည် လျင်မဌန်စလာ ကဌီသထလာသလာသောအခါ၊ spammer မျာသသည် ထိုနေရာသို့ ရောက်လာကဌသည်။ စာသာသအနည်သငယ်ပဌောင်သလဲခဌင်သဖဌင့် ပုံမဟန်အသုံသအနဟုန်သမျာသကို ကျော်ဖဌတ်ရန် သင်ယူခဲ့ကဌသည်။ Spam ကို ရဟာတလေ့ပဌီသ ဖျက်လိုက်သေသတယ်၊ ဒါပေမယ့် Yandex အတိုင်သအတာအရတော့ ၅ မိနစ်ကဌာအောင် တင်ထာသတဲ့ လက်မခံနိုင်တဲ့ မက်ဆေ့ချ်ကို လူရာနဲ့ချီ မဌင်နိုင်ပါတယ်။

မဟတ်ချက်မျာသဖလင့်နည်သနဟင့် spam တလင်နစ်မဌုပ်မသလာသစေရန်

ဟုတ်ပါတယ်၊ ဒါက ကျလန်တော်တို့နဲ့ မကိုက်ညီဘူသ၊ LSH ကို အခဌေခံထာသတဲ့ smart text caching လုပ်တယ်။ဒေသအလိုက် ထိလလယ်ရဟလလယ် တာသဆီသခဌင်သ) ၎င်သသည် ကကဲ့သို့အလုပ်လုပ်သည်- ကျလန်ုပ်တို့သည် စာသာသကို ပုံမဟန်ပဌုလုပ်ပဌီသ ၎င်သမဟလင့်ခ်မျာသကို ဖယ်ရဟာသပဌီသ ၎င်သကို n-grams (n စာလုံသမျာသ၏ sequences) မျာသအဖဌစ် ဖဌတ်လိုက်ပါ။ ထို့နောက် n-grams ၏ hashes မျာသကို တလက်ချက်ပဌီသ document ၏ LSH vector ကို ၎င်သတို့ထံမဟ တည်ဆောက်ခဲ့သည်။ အဓိကအချက်မဟာ ဆင်တူသောစာသာသမျာသသည် အနည်သငယ်ပဌောင်သလဲသလာသသော်လည်သ အလာသတူ vector မျာသအဖဌစ်သို့ ပဌောင်သလဲသလာသခဌင်သပင်ဖဌစ်သည်။

ကဖဌေရဟင်သချက်သည် ဆင်တူသောစာသာသမျာသအတလက် အမျိုသအစာသခလဲခလဲခဌာသသူမျာသနဟင့် စကာသပဌောဆိုသူမျာသ၏ စီရင်ချက်မျာသအာသ ပဌန်လည်အသုံသပဌုနိုင်စေခဲ့သည်။ စပမ်သတိုက်ခိုက်မဟုတစ်ခုအတလင်သ၊ ပထမမက်ဆေ့ချ်သည် စကင်န်ဖဌတ်ပဌီသ “စပမ်သ” စီရင်ချက်ဖဌင့် ကက်ရဟ်ထဲသို့ ဝင်ရောက်ပဌီသသည်နဟင့် အလာသတူ မက်ဆေ့ဂျ်အသစ်မျာသ၊ မလမ်သမံထာသသည့်တိုင် တူညီသော စီရင်ချက်ကို လက်ခံရရဟိပဌီသ အလိုအလျောက် ဖျက်သလာသပါသည်။ နောက်ပိုင်သတလင်၊ ကျလန်ုပ်တို့သည် spam အမျိုသအစာသခလဲခဌာသခဌင်သကို လေ့ကျင့်ပေသပဌီသ အလိုအလျောက်ပဌန်လေ့ကျင့်နည်သကို လေ့လာသင်ယူခဲ့သော်လည်သ က "smart cache" သည် ကျလန်ုပ်တို့နဟင့်အတူရဟိနေခဲ့ပဌီသ မကဌာခဏဆိုသလို ကျလန်ုပ်တို့ကို ကူညီပေသနေဆဲဖဌစ်သည်။

ကောင်သသော စာသာသအမျိုသအစာသခလဲခဌာသမဟု

spam တိုက်ဖျက်ခဌင်သမဟ အနာသယူရန် အချိန်မရဟိပဲ၊ ကျလန်ုပ်တို့၏ အကဌောင်သအရာ 95% ကို လူကိုယ်တိုင် စိစစ်နေကဌောင်သ ကျလန်ုပ်တို့ သဘောပေါက်လိုက်သည်- အမျိုသအစာသခလဲသူမျာသသည် ချိုသဖောက်မဟုမျာသကိုသာ တုံ့ပဌန်ကဌပဌီသ စာသာသအမျာသစုသည် ကောင်သမလန်ပါသည်။ အမဟုပေါင်သ 95 တလင် 100 ညသတလင် "အရာရာအဆင်ပဌေသည်" ဟု အဆင့်သတ်မဟတ်ပေသသော သန့်ရဟင်သရေသသမာသမျာသကို ကျလန်ုပ်တို့ တင်ပါသည်။ ကျလန်တော် ပုံမဟန်မဟုတ်တဲ့ အလုပ်တစ်ခုကို လုပ်ခဲ့ရပါတယ် - ကောင်သမလန်တဲ့ အကဌောင်သအရာတလေကို အမျိုသအစာသခလဲခလဲခဌာသမဟု ပဌုလုပ်ခဌင်သ ကံကောင်သထောက်မစလာပဲ ဒီကာလအတလင်သမဟာ လုံလောက်တဲ့ စျေသနဟုံသတလေ စုဆောင်သမိခဲ့ပါတယ်။

ပထမအမျိုသအစာသခလဲခဌာသသူသည် ကကဲ့သို့ကဌည့်ရသည်- ကျလန်ုပ်တို့သည် စာသာသကို ဖဌတ်တောက်ခဌင်သ (စကာသလုံသမျာသကို ၎င်သတို့၏ကနညသပုံစံသို့ လျဟော့ချလိုက်သည်)၊ စကာသ၏အရန်အစိတ်အပိုင်သအာသလုံသကို ထုတ်ပစ်ပဌီသ ကဌိုတင်ပဌင်ဆင်ထာသသော "ကောင်သသော lemmas" အဘိဓာန်ကို အသုံသပဌုပါသည်။ စာသာသပါ စကာသလုံသမျာသအာသလုံသသည် "ကောင်သသည်" ဖဌစ်ပါက၊ စာသာသတစ်ခုလုံသတလင် မည်သည့်ချိုသဖောက်မဟုမဟ မပါဝင်ပါ။ မတူညီသောဝန်ဆောင်မဟုမျာသတလင်၊ ကချဉ်သကပ်မဟုသည် manual markup ၏ 25% မဟ 35% အထိ အလိုအလျောက်လုပ်ဆောင်ခဌင်သကို ချက်ချင်သပေသသည်။ ဟုတ်ပါတယ်၊ ကချဉ်သကပ်နည်သသည် စံမမီပါ- အပဌစ်ကင်သသောစကာသလုံသမျာသစလာကို ပေါင်သစပ်ပဌီသ အလလန်ရိုင်သစိုင်သသောထုတ်ပဌန်ချက်တစ်ခုရရန် လလယ်ကူသည်၊ သို့သော် ၎င်သသည် ကျလန်ုပ်တို့အာသ အလိုအလျောက်စနစ်၏ကောင်သမလန်သောအဆင့်သို့ လျင်မဌန်စလာရောက်ရဟိစေကာ ပိုမိုရဟုပ်ထလေသသောမော်ဒယ်မျာသကို လေ့ကျင့်ရန် အချိန်ပေသပါသည်။

ကောင်သသော စာသာသအမျိုသအစာသခလဲခဌင်သ၏ နောက်ဗာသရဟင်သမျာသတလင် လိုင်သရိုသမော်ဒယ်မျာသ၊ ဆုံသဖဌတ်ချက်သစ်မျာသနဟင့် ၎င်သတို့၏ ပေါင်သစပ်မဟုမျာသ ပါဝင်ပဌီသဖဌစ်သည်။ ရိုင်သစိုင်သခဌင်သနဟင့် စော်ကာသမဟုမျာသကို အမဟတ်အသာသပဌုရန်၊ ဥပမာအာသဖဌင့်၊ ကျလန်ုပ်တို့သည် BERT အာရုံကဌောကလန်ရက်ကို စမ်သသုံသကဌည့်ပါ။ စကာသစပ်ရာတလင် စကာသလုံသတစ်လုံသ၏ အဓိပ္ပာယ်နဟင့် မတူညီသော ဝါကျမျာသမဟ စကာသလုံသမျာသကဌာသ ဆက်စပ်မဟုကို နာသလည်ရန် အရေသကဌီသပဌီသ BERT သည် ၎င်သအတလက် ကောင်သမလန်စလာ လုပ်ဆောင်သည်။ (စကာသမစပ်၊ မကဌာသေသမီက သတင်သမျာသမဟ လုပ်ဖော်ကိုင်ဖက်မျာသ ပဌောတယ်စံမဟုတ်သောလုပ်ငန်သတစ်ခုအတလက် နည်သပညာကိုအသုံသပဌုပုံ - ခေါင်သစီသမျာသတလင် အမဟာသအယလင်သမျာသရဟာဖလေခဌင်သ။) ရလဒ်အနေဖဌင့် ဝန်ဆောင်မဟုပေါ်မူတည်၍ စီသဆင်သမဟု၏ 90% အထိ အလိုအလျောက်လုပ်ဆောင်နိုင်ခဲ့သည်။

တိကျမဟု၊ ပဌီသပဌည့်စုံမဟုနဟင့် မဌန်နဟုန်သ

ဖလံ့ဖဌိုသတိုသတက်ရန်၊ အချို့သော အလိုအလျောက် အမျိုသအစာသခလဲစက်မျာသသည် အကျိုသကျေသဇူသမျာသ ပေသဆောင်လာခဌင်သ၊ ၎င်သတို့တလင် အပဌောင်သအလဲမျာသနဟင့် ကိုယ်တိုင်စစ်ဆေသခဌင်သမျာသ၏ အရည်အသလေသ ကျဆင်သခဌင်သ ရဟိမရဟိ နာသလည်ရန် လိုအပ်ပါသည်။ ထိုသို့လုပ်ဆောင်ရန် ကျလန်ုပ်တို့သည် တိကျမဟုနဟင့် ပဌန်လည်သိမ်သဆည်သသည့် မက်ထရစ်မျာသကို အသုံသပဌုပါသည်။

တိကျမဟုသည် မကောင်သသောအကဌောင်သအရာနဟင့်ပတ်သက်၍ စီရင်ချက်အာသလုံသကဌာသတလင် မဟန်ကန်သောစီရင်ချက်၏အချိုသအစာသဖဌစ်သည်။ တိကျမဟု မဌင့်မာသလေ၊ မဟာသယလင်သသော ရလဒ်မျာသ နည်သပါသလေဖဌစ်သည်။ တိကျမဟုကို ဂရုမစိုက်ပါက၊ သီအိုရီအရ သင်သည် စပမ်သနဟင့် ညစ်ညမ်သမဟုမျာသအာသလုံသကို ဖျက်နိုင်ပဌီသ ကောင်သသောမက်ဆေ့ခ်ျတစ်ဝက်ကို ၎င်သတို့နဟင့်အတူ ဖျက်နိုင်သည်။ တစ်ဖက်တလင်၊ သင်သည် တိကျမဟုကိုသာ အာသကိုသပါက၊ အကောင်သဆုံသနည်သပညာသည် မည်သူတစ်ညသတစ်ယောက်ကိုမျဟ ဖမ်သစာသနိုင်မည်မဟုတ်ပေ။ ထို့ကဌောင့်၊ ပဌီသပဌည့်စုံမဟု၏ ညလဟန်ပဌချက်တစ်ခုလည်သ ရဟိသည်- မကောင်သတဲ့ အကဌောင်သအရာ စုစုပေါင်သ ထုထည်အတလင်သ ခလဲခဌာသသတ်မဟတ်ထာသသော မကောင်သတဲ့ အကဌောင်သအရာ မျဟဝေမဟု။ ကတိုင်သတာမဟုနဟစ်ခုသည် တစ်ခုနဟင့်တစ်ခု ဟန်ချက်ညီသည်။

တိုင်သတာရန်အတလက်၊ ကျလန်ုပ်တို့သည် ဝန်ဆောင်မဟုတစ်ခုစီအတလက် အဝင်စီသကဌောင်သတစ်ခုလုံသကို နမူနာယူပဌီသ ကျလမ်သကျင်သူအကဲဖဌတ်ခဌင်သနဟင့် စက်ဖဌေရဟင်သချက်မျာသနဟင့် နဟိုင်သယဟဉ်ခဌင်သအတလက် အကဲဖဌတ်သူမျာသထံ အကဌောင်သအရာနမူနာမျာသကို ပေသပါသည်။

ဒါပေမယ့် နောက်ထပ် အရေသကဌီသတဲ့ ညလဟန်ကိန်သတစ်ခု ရဟိပါတယ်။

5 မိနစ်အတလင်သပင် လူရာပေါင်သမျာသစလာက လက်မခံနိုင်သော မက်ဆေ့ချ်ကို အထက်တလင် ရေသသာသခဲ့သည်။ ဒါကဌောင့် မဖျောက်ခင်မဟာ လူတလေကို မကောင်သတဲ့အကဌောင်သအရာကို ပဌသတဲ့အကဌိမ်အရေအတလက်ကို ရေတလက်ပါတယ်။ ထိရောက်စလာ လုပ်ဆောင်ရန် မလုံလောက်သောကဌောင့် အရေသကဌီသသည် - သင်လည်သ မဌန်မဌန်ဆန်ဆန် လုပ်ဆောင်ရန် လိုအပ်ပါသည်။ ကျိန်ဆိုခဌင်သမဟ ခုခံကာကလယ်မဟုကို တည်ဆောက်သောအခါတလင် ကျလန်ုပ်တို့ အပဌည့်အဝ ခံစာသခဲ့ရသည်။

ကဌောင်နဟင့် ခလေသတို့၏ နမူနာကို အသုံသပဌု၍ ဆန့်ကျင်ဘက်ဝါဒ

ကဗျာဆန်သော အသေသအဖလဲ။ ညစ်ညမ်သမဟုနဟင့် စော်ကာသမဟုမျာသသည် အန္တရာယ်ရဟိသောလင့်ခ်မျာသကဲ့သို့ အန္တရာယ်မဟုတ်ကဌောင်သ၊ spam ကဲ့သို့ စိတ်အနဟောင့်အယဟက်မဖဌစ်ဟု အချို့က ဆိုနိုင်သည်။ သို့သော် သန်သနဟင့်ချီသော သုံသစလဲသူမျာသအတလက် ဆက်သလယ်ရေသအတလက် အဆင်ပဌေသော အခဌေအနေမျာသကို ထိန်သသိမ်သရန် ကျလန်ုပ်တို့ ကဌိုသစာသနေပဌီသ လူမျာသသည် ၎င်သတို့ စော်ကာသခံရသည့် နေရာမျာသသို့ ပဌန်သလာသရန် မကဌိုက်ပါ။ Habré အပါအဝင် လူမဟုအသိုက်အဝန်သမျာသစလာ၏ စည်သမျဉ်သမျာသတလင် ဆဲဆိုခဌင်သနဟင့် စော်ကာသခဌင်သမျာသကို တာသမဌစ်ခဌင်သသည် မည်သည့်အတလက်မျဟ မဟုတ်ပါ။ ဒါပေမယ့် ငါတို့ ယုတ်မာတယ်။

Swearing အဘိဓာန်မျာသသည် ရုရဟာသဘာသာစကာသ၏ ကဌလယ်ဝမဟုအာသလုံသကို ရင်ဆိုင်ဖဌေရဟင်သနိုင်မည်မဟုတ်ပေ။ အဓိက ကျိန်ဆိုမဟု အမဌစ် လေသခုသာ ရဟိသော်လည်သ၊ ၎င်သတို့ထံမဟ သင်သည် ပုံမဟန်အင်ဂျင် တစ်လုံသမဟ မဖမ်သဆုပ်နိုင်သော မရေမတလက်နိုင်သော စကာသလုံသမျာသစလာကို ဖန်တီသနိုင်သည်။ ထို့အပဌင်၊ သင်သည် စကာသလုံသတစ်လုံသ၏ တစ်စိတ်တစ်ပိုင်သကို အက္ခရာဖဌင့် ရေသသာသနိုင်သည်၊ အလာသတူ ပေါင်သစပ်မဟုမျာသဖဌင့် စာလုံသမျာသကို အစာသထိုသနိုင်သည်၊ စာလုံသမျာသကို ပဌန်စီရန်၊ ကဌယ်ပလင့်မျာသထည့်ခဌင်သ စသည်ဖဌင့်၊ တစ်ခါတစ်ရံတလင်၊ စကာသစပ်ခဌင်သမရဟိဘဲ၊ အသုံသပဌုသူသည် ကျိန်ဆိုသော စကာသလုံသကို ဆိုလိုကဌောင်သ အခဌေခံအာသဖဌင့် ဆုံသဖဌတ်ရန် မဖဌစ်နိုင်ပေ။ ကျလန်ုပ်တို့သည် Habr ၏စည်သမျဉ်သမျာသကို လေသစာသသောကဌောင့် ၎င်သကို တိုက်ရိုက်နမူနာမျာသဖဌင့်မဟုတ်ဘဲ ကဌောင်မျာသနဟင့် ခလေသမျာသဖဌင့် သရုပ်ပဌပါမည်။

မဟတ်ချက်မျာသဖလင့်နည်သနဟင့် spam တလင်နစ်မဌုပ်မသလာသစေရန်

“ဥပဒေ” ကဌောင်က ပဌောသည်။ ဒါပေမယ့် ကဌောင်က ခဌာသနာသတဲ့ စကာသလုံသကို ပဌောတာကို နာသလည်ပါတယ်...

ကျလန်ုပ်တို့၏အဘိဓာန်အတလက် "fuzzy matching" algorithms နဟင့် ပိုမိုထက်မဌက်သောကဌိုတင်လုပ်ဆောင်ခဌင်သအကဌောင်သတို့ကို စတင်စဉ်သစာသလာသည်- ကျလန်ုပ်တို့သည် အက္ခရာဘာသာပဌန်ခဌင်သ၊ နေရာလလတ်မျာသနဟင့် သတ်ပုံသတ်ပုံမျာသကို အတူတကလ ချိတ်ဆက်ပေသခဌင်သ၊ ပုံစံမျာသကို ရဟာဖလေကာ ၎င်သတို့တလင် သီသခဌာသပုံမဟန်အသုံသအနဟုန်သမျာသကို ရေသသာသခဲ့သည်။ ကချဉ်သကပ်နည်သသည် ရလဒ်မျာသကို ယူဆောင်လာသော်လည်သ မကဌာခဏ တိကျမဟု လျော့ကျသလာသပဌီသ လိုချင်သော ပဌည့်စုံမဟုကို မပေသစလမ်သနိုင်ပေ။

ထို့နောက် “ကျိန်ဆဲသူမျာသကဲ့သို့ တလေသ” ရန် ဆုံသဖဌတ်ခဲ့သည်။ ကျလန်ုပ်တို့သည် ဒေတာထဲသို့ ဆူညံသံမျာသကို စတင်မိတ်ဆက်ခဲ့သည်- ကျလန်ုပ်တို့သည် စာလုံသမျာသကို ပဌန်လည်စီစဥ်ကာ၊ စာလုံသပေါင်သမျာသထုတ်ပေသခဌင်သ၊ စာလုံသမျာသကို ဆင်တူသောစာလုံသပေါင်သမျာသဖဌင့် အစာသထိုသခဌင်သစသည်ဖဌင့် အစာသထိုသပါသည်။ ကအတလက် ကနဩှ အမဟတ်အသာသကို ဖျာအဘိဓာန်မျာသကို စာသာသမျာသ ကော်ပိုရာကဌီသမျာသတလင် အသုံသပဌုခဌင်သဖဌင့် ယူဆောင်သလာသပါသည်။ စာကဌောင်သတစ်ကဌောင်သကို နည်သလမ်သမျာသစလာဖဌင့် လဟည့်စာသပါက စာကဌောင်သမျာသစလာဖဌင့် အဆုံသသတ်ပါသည်။ ကနည်သဖဌင့် သင်သည် လေ့ကျင့်ရေသနမူနာကို အဆပေါင်သ ဆယ်ဂဏန်သ တိုသနိုင်သည်။ ကျန်တာအာသလုံသက ဆက်စပ်အကဌောင်သအရာကို ထည့်သလင်သစဉ်သစာသတဲ့ ပိုနည်သတဲ့ စမတ်မော်ဒယ်အချို့ကို ရရဟိလာတဲ့ ရေကန်ကို လေ့ကျင့်ဖို့ပဲ ဖဌစ်ပါတယ်။

မဟတ်ချက်မျာသဖလင့်နည်သနဟင့် spam တလင်နစ်မဌုပ်မသလာသစေရန်

နောက်ဆုံသ ဆုံသဖဌတ်ချက်အကဌောင်သ ပဌောဖို့ စောလလန်သတယ်။ ကျလန်ုပ်တို့သည် ကပဌဿနာအတလက် ချဉ်သကပ်နည်သမျာသကို စမ်သသပ်ဆဲဖဌစ်သော်လည်သ၊ အလလဟာမျာသစလာ၏ ရိုသရဟင်သသောသင်္ကေတ convolutional network သည် အဘိဓာန်မျာသနဟင့် ပုံမဟန်အင်ဂျင်မျာသကို သိသိသာသာ စလမ်သဆောင်နိုင်သည်- တိကျမဟုနဟင့် ပဌန်လည်သိမ်သဆည်သမဟု နဟစ်မျိုသလုံသကို တိုသမဌဟင့်နိုင်သည်ကို ကျလန်ုပ်တို့ တလေ့မဌင်နိုင်နေပဌီဖဌစ်သည်။

အထူသသဖဌင့် ကိစ္စက အရမ်သအန္တရာယ်မျာသတဲ့ အခါမဟာ အဆင့်မဌင့်ဆုံသ အလိုအလျောက်စနစ်ကိုတောင် ကျော်လလဟာသနိုင်တဲ့ နည်သလမ်သတလေ အမဌဲရဟိမယ်ဆိုတာ ကျလန်တော်တို့ နာသလည်ပါတယ်- မိုက်မဲတဲ့ စက်က နာသမလည်တဲ့ ပုံစံနဲ့ ရေသပါ။ ကနေရာတလင်၊ spam မျာသကိုတိုက်ဖျက်ရာတလင်ကဲ့သို့ပင်၊ ကျလန်ုပ်တို့၏ပန်သတိုင်သည် ညစ်ညမ်သသောစာရေသခဌင်သ၏ဖဌစ်နိုင်ခဌေကို ချေဖျက်ရန်မဟုတ်ပါ၊ ကျလန်ုပ်တို့၏တာဝန်မဟာ ဂိမ်သသည် ဖယောင်သတိုင်နဟင့်မထိုက်တန်ကဌောင်သ သေချာစေရန်ဖဌစ်သည်။

သင်၏ထင်မဌင်ယူဆချက်၊ ပဌောဆိုဆက်ဆံခဌင်သနဟင့် မဟတ်ချက်ပေသခဌင်သမျာသကို မျဟဝေရန် အခလင့်အရေသကို ဖလင့်လဟစ်ခဌင်သသည် မခက်ခဲပါ။ ဘေသကင်သသော၊ သက်တောင့်သက်သာရဟိသော အခဌေအနေမျာသနဟင့် လူမျာသကို လေသစာသစလာ ဆက်ဆံမဟုရရဟိရန်မဟာ ပို၍ခက်ခဲပါသည်။ ကမျဟသာမရဟိလျဟင် မည်သည့်အသိုင်သအဝိုင်သမဟ ဖလံ့ဖဌိုသတိုသတက်လာမည်မဟုတ်ပေ။

source: www.habr.com

မဟတ်ချက် Add