ટિપ્પણીઓ કેવી રીતે ખોલવી અને સ્પામમાં ડૂબી ન જવું

જ્યારે તમારું કામ કંઈક સુંદર બનાવવાનું છે, ત્યારે તમારે તેના વિશે વધારે વાત કરવાની જરૂર નથી, કારણ કે પરિણામ દરેકની નજર સમક્ષ છે. પરંતુ જો તમે વાડમાંથી શિલાલેખો ભૂંસી નાખો છો, તો જ્યાં સુધી વાડ યોગ્ય દેખાશે અથવા તમે કંઈક ખોટું ભૂંસી નાખો ત્યાં સુધી કોઈ તમારા કામની નોંધ લેશે નહીં.

કોઈપણ સેવા જ્યાં તમે ટિપ્પણી, સમીક્ષા, સંદેશ મોકલી શકો છો અથવા ચિત્રો અપલોડ કરી શકો છો તે વહેલા કે પછી સ્પામ, છેતરપિંડી અને અશ્લીલતાની સમસ્યાનો સામનો કરે છે. આને ટાળી શકાતું નથી, પરંતુ તેની સાથે વ્યવહાર કરવો જ જોઇએ.

મારું નામ મિખાઇલ છે, હું એન્ટિસ્પામ ટીમ પર કામ કરું છું, જે યાન્ડેક્સ સેવાઓના વપરાશકર્તાઓને આવી સમસ્યાઓથી સુરક્ષિત કરે છે. અમારું કામ ભાગ્યે જ જોવામાં આવે છે (અને તે એક સારી બાબત છે!), તેથી આજે હું તમને તેના વિશે વધુ જણાવીશ. તમે શીખી શકશો કે મધ્યસ્થતા ક્યારે નકામું છે અને શા માટે ચોકસાઈ જ તેની અસરકારકતાનું એકમાત્ર સૂચક નથી. અમે બિલાડીઓ અને કૂતરાઓના ઉદાહરણનો ઉપયોગ કરીને શપથ લેવા વિશે પણ વાત કરીશું અને "શપથ લેનારની જેમ વિચારવું" શા માટે ઉપયોગી છે.

યાન્ડેક્સમાં વધુ અને વધુ સેવાઓ દેખાઈ રહી છે જ્યાં વપરાશકર્તાઓ તેમની સામગ્રી પ્રકાશિત કરે છે. તમે Yandex.Q માં પ્રશ્ન પૂછી શકો છો અથવા જવાબ લખી શકો છો, Yandex.District માં યાર્ડ સમાચારની ચર્ચા કરી શકો છો, Yandex.Maps પર વાતચીતમાં ટ્રાફિકની સ્થિતિ શેર કરી શકો છો. પરંતુ જ્યારે સેવાના પ્રેક્ષકો વધે છે, ત્યારે તે સ્કેમર્સ અને સ્પામર્સ માટે આકર્ષક બને છે. તેઓ આવે છે અને ટિપ્પણીઓ ભરે છે: તેઓ સરળ નાણાં ઓફર કરે છે, ચમત્કારિક ઉપચારની જાહેરાત કરે છે અને સામાજિક લાભોનું વચન આપે છે. સ્પામર્સને કારણે, કેટલાક વપરાશકર્તાઓ પૈસા ગુમાવે છે, જ્યારે અન્ય લોકો સ્પામથી ભરપૂર બિનઉપયોગી સેવા પર સમય પસાર કરવાની ઇચ્છા ગુમાવે છે.

અને આ એકમાત્ર સમસ્યા નથી. અમે માત્ર વપરાશકર્તાઓને સ્કેમર્સથી બચાવવા માટે જ નહીં, પણ સંચાર માટે આરામદાયક વાતાવરણ બનાવવાનો પણ પ્રયાસ કરીએ છીએ. જો લોકો ટિપ્પણીઓમાં શપથ અને અપમાનનો સામનો કરે છે, તો તેઓ ત્યાંથી નીકળી જશે અને ક્યારેય પાછા નહીં ફરે તેવી શક્યતા છે. આનો અર્થ એ છે કે તમારે પણ આનો સામનો કરવા માટે સક્ષમ બનવાની જરૂર છે.

ક્લીન વેબ

જેમ કે અમારી સાથે ઘણી વાર થાય છે, પ્રથમ વિકાસનો જન્મ શોધમાં થયો હતો, તે ભાગમાં જે શોધ પરિણામોમાં સ્પામ સામે લડે છે. લગભગ દસ વર્ષ પહેલાં, કૌટુંબિક શોધ માટે અને 18+ કેટેગરીના જવાબોની જરૂર ન હોય તેવા પ્રશ્નો માટે પુખ્ત સામગ્રીને ફિલ્ટર કરવાનું કાર્ય ત્યાં દેખાયું હતું. આ રીતે પોર્ન અને શપથના પ્રથમ મેન્યુઅલી ટાઇપ કરેલા શબ્દકોશો દેખાયા, તેઓ વિશ્લેષકો દ્વારા ફરી ભરાયા. મુખ્ય કાર્ય એ વિનંતીઓને વર્ગીકૃત કરવાનું હતું જ્યાં તે પુખ્ત સામગ્રી બતાવવા માટે સ્વીકાર્ય છે અને જ્યાં તે નથી. આ કાર્ય માટે, માર્કઅપ એકત્રિત કરવામાં આવ્યું હતું, હ્યુરિસ્ટિક્સ બનાવવામાં આવ્યા હતા, અને મોડેલોને તાલીમ આપવામાં આવી હતી. આ રીતે અનિચ્છનીય સામગ્રીને ફિલ્ટર કરવા માટેનો પ્રથમ વિકાસ દેખાયો.

સમય જતાં, યાન્ડેક્ષમાં યુજીસી (વપરાશકર્તા જનરેટેડ કન્ટેન્ટ) દેખાવાનું શરૂ થયું - સંદેશાઓ કે જે યુઝર્સ પોતે લખે છે અને યાન્ડેક્ષ માત્ર પ્રકાશિત કરે છે. ઉપર વર્ણવેલ કારણોસર, ઘણા સંદેશાઓ જોયા વિના પ્રકાશિત કરી શકાતા નથી - મધ્યસ્થતા જરૂરી હતી. પછી તેઓએ એવી સેવા બનાવવાનું નક્કી કર્યું જે તમામ યાન્ડેક્સ UGC ઉત્પાદનો માટે સ્પામ અને હુમલાખોરો સામે રક્ષણ પૂરું પાડશે અને શોધમાં અનિચ્છનીય સામગ્રીને ફિલ્ટર કરવા માટે વિકાસનો ઉપયોગ કરશે. સેવાને "ક્લીન વેબ" કહેવામાં આવી હતી.

નવા કાર્યો અને દબાણકારો તરફથી મદદ

શરૂઆતમાં, ફક્ત સરળ ઓટોમેશન અમારા માટે કામ કરતું હતું: સેવાઓએ અમને ટેક્સ્ટ્સ મોકલ્યા, અને અમે તેના પર અશ્લીલ શબ્દકોશો, પોર્ન શબ્દકોશો અને નિયમિત અભિવ્યક્તિઓ ચલાવી - વિશ્લેષકોએ બધું જાતે જ સંકલિત કર્યું. પરંતુ સમય જતાં, સેવાનો ઉપયોગ યાન્ડેક્સ ઉત્પાદનોની વધતી જતી સંખ્યામાં થતો હતો, અને અમારે નવી સમસ્યાઓ સાથે કામ કરવાનું શીખવું પડ્યું.

ઘણીવાર, સમીક્ષાને બદલે, વપરાશકર્તાઓ તેમની સિદ્ધિઓને વધારવાનો પ્રયાસ કરીને, પત્રોનો અર્થહીન સમૂહ પ્રકાશિત કરે છે, કેટલીકવાર તેઓ હરીફની કંપનીની સમીક્ષાઓમાં તેમની કંપનીની જાહેરાત કરે છે, અને કેટલીકવાર તેઓ ફક્ત સંસ્થાઓને મૂંઝવણમાં મૂકે છે અને પાલતુ સ્ટોર વિશેની સમીક્ષામાં લખે છે: “ સંપૂર્ણ રીતે રાંધેલી માછલી!” કદાચ કોઈ દિવસ આર્ટિફિશિયલ ઈન્ટેલિજન્સ કોઈપણ ટેક્સ્ટના અર્થને સંપૂર્ણ રીતે સમજવાનું શીખી જશે, પરંતુ હવે ઓટોમેશન ક્યારેક મનુષ્યો કરતાં પણ ખરાબ રીતે સામનો કરે છે.

તે સ્પષ્ટ થઈ ગયું કે અમે મેન્યુઅલ માર્કિંગ વિના આ કરી શકતા નથી, અને અમે અમારા સર્કિટમાં બીજો તબક્કો ઉમેર્યો - તેને વ્યક્તિ દ્વારા મેન્યુઅલ નિરીક્ષણ માટે મોકલવો. તે પ્રકાશિત ગ્રંથો કે જેના માટે વર્ગીકૃત કરનારને કોઈ સમસ્યા દેખાતી ન હતી તે ત્યાં શામેલ કરવામાં આવી હતી. તમે સરળતાથી આવા કાર્યના સ્કેલની કલ્પના કરી શકો છો, તેથી અમે માત્ર મૂલ્યાંકનકારો પર આધાર રાખ્યો નથી, પણ "ભીડની શાણપણ" નો લાભ લીધો છે, એટલે કે, અમે મદદ માટે ટોકર્સ તરફ વળ્યા. તેઓ તે છે જે અમને મશીનમાં શું ચૂકી ગયું છે તે ઓળખવામાં મદદ કરે છે, અને ત્યાંથી તે શીખવે છે.

સ્માર્ટ કેશીંગ અને LSH હેશીંગ

ટિપ્પણીઓ સાથે કામ કરતી વખતે અમને આવી બીજી સમસ્યા સ્પામ હતી, અથવા વધુ સ્પષ્ટ રીતે, તેનું પ્રમાણ અને ફેલાવાની ઝડપ. જ્યારે Yandex.Region પ્રેક્ષકો ઝડપથી વધવા લાગ્યા, ત્યારે સ્પામર્સ ત્યાં આવ્યા. તેઓ ટેક્સ્ટમાં સહેજ ફેરફાર કરીને નિયમિત અભિવ્યક્તિને બાયપાસ કરવાનું શીખ્યા. સ્પામ, અલબત્ત, હજી પણ મળી આવ્યો હતો અને કાઢી નાખવામાં આવ્યો હતો, પરંતુ યાન્ડેક્સના સ્કેલ પર, 5 મિનિટ માટે પણ પોસ્ટ કરવામાં આવેલ અસ્વીકાર્ય સંદેશ સેંકડો લોકો જોઈ શકે છે.

અલબત્ત, આ અમને અનુકૂળ ન હતું, અને અમે LSH (સ્થાનિકતા-સંવેદનશીલ હેશિંગ). તે આની જેમ કાર્ય કરે છે: અમે ટેક્સ્ટને સામાન્ય બનાવ્યું, તેમાંથી લિંક્સ દૂર કરી અને તેને n-ગ્રામ (n અક્ષરોના ક્રમ) માં કાપી. આગળ, n-ગ્રામના હેશની ગણતરી કરવામાં આવી હતી, અને દસ્તાવેજનું LSH વેક્ટર તેમાંથી બનાવવામાં આવ્યું હતું. મુદ્દો એ છે કે સમાન ગ્રંથો, ભલે તે સહેજ બદલાયા હોય, સમાન વેક્ટરમાં ફેરવાય છે.

આ સોલ્યુશનથી સમાન ગ્રંથો માટે વર્ગીકૃત અને ટોલોકરના ચુકાદાઓનો ફરીથી ઉપયોગ કરવાનું શક્ય બન્યું. સ્પામ હુમલા દરમિયાન, જલદી જ પ્રથમ સંદેશ સ્કેન પસાર કરે છે અને "સ્પામ" ચુકાદા સાથે કેશમાં દાખલ થાય છે, બધા નવા સમાન સંદેશાઓ, સંશોધિત સંદેશાઓને પણ સમાન ચુકાદો મળ્યો હતો અને તે આપમેળે કાઢી નાખવામાં આવ્યો હતો. પાછળથી, અમે સ્પામ ક્લાસિફાયર્સને કેવી રીતે તાલીમ આપવી અને આપમેળે ફરીથી તાલીમ આપવી તે શીખ્યા, પરંતુ આ "સ્માર્ટ કેશ" અમારી સાથે રહી અને હજુ પણ ઘણી વાર અમને મદદ કરે છે.

સારું ટેક્સ્ટ વર્ગીકૃત

સ્પામ સામે લડવા માટે વિરામ લેવાનો સમય વિના, અમને સમજાયું કે અમારી 95% સામગ્રી મેન્યુઅલી નિયંત્રિત કરવામાં આવી છે: વર્ગીકૃતકર્તાઓ ફક્ત ઉલ્લંઘનો પર પ્રતિક્રિયા આપે છે, અને મોટાભાગના પાઠો સારા છે. અમે ક્લીનર્સ લોડ કરીએ છીએ જે 95 માંથી 100 કેસમાં “બધું બરાબર છે” રેટિંગ આપે છે. મારે એક અસામાન્ય કામ કરવું પડ્યું - સારી સામગ્રીનું વર્ગીકરણ બનાવવું, સદભાગ્યે આ સમય દરમિયાન પૂરતું માર્કઅપ એકઠું થયું હતું.

પ્રથમ વર્ગીકૃત આના જેવો દેખાતો હતો: અમે ટેક્સ્ટને લેમ્મેટાઇઝ કરીએ છીએ (શબ્દોને તેમના પ્રારંભિક સ્વરૂપમાં ઘટાડીએ છીએ), વાણીના તમામ સહાયક ભાગોને ફેંકી દઈએ છીએ અને પૂર્વ-તૈયાર "સારા લેમ્માનો શબ્દકોશ" નો ઉપયોગ કરીએ છીએ. જો ટેક્સ્ટમાંના બધા શબ્દો "સારા" છે, તો સંપૂર્ણ ટેક્સ્ટમાં કોઈ ઉલ્લંઘન નથી. વિવિધ સેવાઓ પર, આ અભિગમે તરત જ મેન્યુઅલ માર્કઅપનું 25 થી 35% ઓટોમેશન આપ્યું. અલબત્ત, આ અભિગમ આદર્શ નથી: ઘણા નિર્દોષ શબ્દોને જોડવા અને ખૂબ જ અપમાનજનક નિવેદન મેળવવું સરળ છે, પરંતુ તે અમને ઝડપથી ઓટોમેશનના સારા સ્તર સુધી પહોંચવાની મંજૂરી આપે છે અને અમને વધુ જટિલ મોડલ્સને તાલીમ આપવા માટે સમય આપે છે.

સારા ટેક્સ્ટ ક્લાસિફાયરના આગલા સંસ્કરણોમાં પહેલાથી જ રેખીય મોડલ, નિર્ણય વૃક્ષો અને તેમના સંયોજનો શામેલ છે. અસભ્યતા અને અપમાનને ચિહ્નિત કરવા માટે, ઉદાહરણ તરીકે, અમે BERT ન્યુરલ નેટવર્કનો પ્રયાસ કરીએ છીએ. સંદર્ભમાં શબ્દનો અર્થ અને વિવિધ વાક્યોના શબ્દો વચ્ચેના જોડાણને સમજવું મહત્વપૂર્ણ છે, અને BERT આમાં સારું કામ કરે છે. (માર્ગ દ્વારા, તાજેતરમાં સમાચારના સાથીદારો કહ્યું, બિન-માનક કાર્ય માટે ટેક્નોલોજીનો ઉપયોગ કેવી રીતે થાય છે - હેડરમાં ભૂલો શોધવી.) પરિણામે, સેવાના આધારે, 90% સુધીના પ્રવાહને સ્વચાલિત કરવાનું શક્ય હતું.

ચોકસાઈ, સંપૂર્ણતા અને ઝડપ

વિકાસ કરવા માટે, તમારે એ સમજવાની જરૂર છે કે અમુક ઓટોમેટિક ક્લાસિફાયર કયા ફાયદા લાવે છે, તેમાં ફેરફાર થાય છે અને મેન્યુઅલ તપાસની ગુણવત્તા બગડે છે કે કેમ. આ કરવા માટે, અમે ચોકસાઇ અને રિકોલ મેટ્રિક્સનો ઉપયોગ કરીએ છીએ.

ચોકસાઈ એ ખરાબ સામગ્રી વિશેના તમામ ચુકાદાઓમાં સાચા ચુકાદાઓનું પ્રમાણ છે. સચોટતા જેટલી ઊંચી, ઓછા ખોટા હકારાત્મક. જો તમે ચોકસાઈ પર ધ્યાન આપતા નથી, તો સિદ્ધાંતમાં તમે બધા સ્પામ અને અશ્લીલતા અને તેની સાથે અડધા સારા સંદેશાઓ કાઢી શકો છો. બીજી બાજુ, જો તમે માત્ર ચોકસાઈ પર આધાર રાખશો, તો શ્રેષ્ઠ તકનીક એવી હશે જે કોઈને પણ પકડે નહીં. તેથી, સંપૂર્ણતાનું સૂચક પણ છે: ખરાબ સામગ્રીના કુલ વોલ્યુમમાં ઓળખાયેલી ખરાબ સામગ્રીનો હિસ્સો. આ બે મેટ્રિક્સ એકબીજાને સંતુલિત કરે છે.

માપવા માટે, અમે દરેક સેવા માટે સમગ્ર ઇનકમિંગ સ્ટ્રીમનો નમૂના લઈએ છીએ અને નિષ્ણાત મૂલ્યાંકન અને મશીન સોલ્યુશન્સ સાથે સરખામણી માટે મૂલ્યાંકનકર્તાઓને સામગ્રીના નમૂનાઓ આપીએ છીએ.

પરંતુ અન્ય મહત્વપૂર્ણ સૂચક છે.

મેં ઉપર લખ્યું છે કે એક અસ્વીકાર્ય સંદેશ 5 મિનિટમાં પણ સેંકડો લોકો જોઈ શકે છે. તેથી અમે ગણતરી કરીએ છીએ કે અમે લોકોને ખરાબ સામગ્રી છુપાવતા પહેલા કેટલી વાર બતાવી. આ મહત્વપૂર્ણ છે કારણ કે તે કાર્યક્ષમ રીતે કામ કરવા માટે પૂરતું નથી - તમારે ઝડપથી કામ કરવાની પણ જરૂર છે. અને જ્યારે અમે શપથ લેવા સામે બચાવ કર્યો, ત્યારે અમે તેને સંપૂર્ણ રીતે અનુભવ્યું.

બિલાડીઓ અને કૂતરાઓના ઉદાહરણનો ઉપયોગ કરીને એન્ટિમેટિઝમ

એક નાનું ગીતાત્મક વિષયાંતર. કેટલાક કહેશે કે અશ્લીલતા અને અપમાન દૂષિત લિંક્સ જેટલા ખતરનાક નથી અને સ્પામ જેટલા હેરાન કરનાર નથી. પરંતુ અમે લાખો વપરાશકર્તાઓ માટે સંદેશાવ્યવહાર માટે આરામદાયક પરિસ્થિતિઓ જાળવવાનો પ્રયત્ન કરીએ છીએ, અને લોકો જ્યાં તેમનું અપમાન થાય છે ત્યાં પાછા ફરવાનું પસંદ કરતા નથી. તે કંઈપણ માટે નથી કે શપથ લેવા અને અપમાન પર પ્રતિબંધ હેબ્રે સહિત ઘણા સમુદાયોના નિયમોમાં દર્શાવવામાં આવ્યો છે. પણ આપણે વિષયાંતર કરીએ છીએ.

શપથ લેનારા શબ્દકોશો રશિયન ભાષાની બધી સમૃદ્ધિનો સામનો કરી શકતા નથી. એ હકીકત હોવા છતાં કે ત્યાં ફક્ત ચાર મુખ્ય શપથ મૂળ છે, તેમાંથી તમે અસંખ્ય શબ્દો બનાવી શકો છો જે કોઈપણ નિયમિત એન્જિન દ્વારા પકડી શકાતા નથી. વધુમાં, તમે લિવ્યંતરણમાં શબ્દનો ભાગ લખી શકો છો, સમાન સંયોજનો સાથે અક્ષરોને બદલી શકો છો, અક્ષરોને ફરીથી ગોઠવી શકો છો, ફૂદડી ઉમેરી શકો છો, વગેરે. કેટલીકવાર, સંદર્ભ વિના, તે નક્કી કરવું મૂળભૂત રીતે અશક્ય છે કે વપરાશકર્તાનો અર્થ શપથ શબ્દ હતો. અમે હેબ્રના નિયમોનો આદર કરીએ છીએ, તેથી અમે આ જીવંત ઉદાહરણો સાથે નહીં, પરંતુ બિલાડીઓ અને કૂતરા સાથે દર્શાવીશું.

"કાયદો," બિલાડીએ કહ્યું. પરંતુ અમે સમજીએ છીએ કે બિલાડીએ એક અલગ શબ્દ કહ્યું ...

અમે અમારા શબ્દકોશ માટે "ફઝી મેચિંગ" અલ્ગોરિધમ્સ વિશે અને વધુ સ્માર્ટ પ્રીપ્રોસેસિંગ વિશે વિચારવાનું શરૂ કર્યું: અમે લિવ્યંતરણ, ગુંદરવાળી જગ્યાઓ અને વિરામચિહ્નો એકસાથે પ્રદાન કર્યા, પેટર્ન શોધી અને તેના પર અલગ નિયમિત અભિવ્યક્તિઓ લખી. આ અભિગમ પરિણામો લાવ્યા, પરંતુ ઘણી વખત ચોકસાઈ ઘટાડે છે અને ઇચ્છિત પૂર્ણતા પ્રદાન કરતી નથી.

પછી અમે "શપથ લેનારાઓની જેમ વિચારવાનું" નક્કી કર્યું. અમે જાતે જ ડેટામાં ઘોંઘાટ દાખલ કરવાનું શરૂ કર્યું: અમે અક્ષરોને ફરીથી ગોઠવ્યા, ટાઇપો જનરેટ કર્યા, સમાન જોડણીવાળા અક્ષરોને બદલ્યા, વગેરે. આ માટે પ્રારંભિક માર્કઅપ મોટા કોર્પોરા ટેક્સ્ટ્સ પર મેટ શબ્દકોશો લાગુ કરીને લેવામાં આવ્યું હતું. જો તમે એક વાક્ય લો અને તેને ઘણી રીતે ટ્વિસ્ટ કરો, તો તમે ઘણા વાક્યો સાથે સમાપ્ત થશો. આ રીતે તમે તાલીમના નમૂનાને દસ ગણો વધારી શકો છો. જે બાકી હતું તે પરિણામી પૂલ પર કેટલાક વધુ કે ઓછા સ્માર્ટ મોડેલને તાલીમ આપવાનું હતું જેણે સંદર્ભને ધ્યાનમાં લીધું હતું.

અંતિમ નિર્ણય વિશે વાત કરવી ખૂબ જ વહેલું છે. અમે હજી પણ આ સમસ્યાના અભિગમો સાથે પ્રયોગ કરી રહ્યા છીએ, પરંતુ અમે પહેલેથી જ જોઈ શકીએ છીએ કે ઘણા સ્તરોનું એક સરળ સાંકેતિક કન્વ્યુલેશનલ નેટવર્ક નોંધપાત્ર રીતે શબ્દકોશો અને નિયમિત એન્જિનોને પાછળ રાખી દે છે: ચોકસાઈ અને યાદ બંનેને વધારવું શક્ય છે.

અલબત્ત, અમે સમજીએ છીએ કે સૌથી અદ્યતન ઓટોમેશનને પણ બાયપાસ કરવાની હંમેશા રીતો હશે, ખાસ કરીને જ્યારે બાબત એટલી જોખમી હોય: એવી રીતે લખો કે મૂર્ખ મશીન સમજી ન શકે. અહીં, સ્પામ સામેની લડાઈની જેમ, અમારો ધ્યેય કંઈક અશ્લીલ લખવાની સંભાવનાને નાબૂદ કરવાનો નથી; અમારું કાર્ય એ ખાતરી કરવાનું છે કે રમત મીણબત્તીની કિંમતની નથી.

તમારો અભિપ્રાય શેર કરવાની, વાતચીત કરવાની અને ટિપ્પણી કરવાની તક ખોલવી મુશ્કેલ નથી. સલામત, આરામદાયક પરિસ્થિતિઓ અને લોકોની આદરપૂર્ણ સારવાર પ્રાપ્ત કરવી વધુ મુશ્કેલ છે. અને આના વિના કોઈપણ સમુદાયનો વિકાસ થશે નહીં.

સોર્સ: www.habr.com