हम विज्ञापनों को कैसे मॉडरेट करते हैं

प्रत्येक सेवा जिसके उपयोगकर्ता अपनी स्वयं की सामग्री (यूजीसी - उपयोगकर्ता-जनित सामग्री) बना सकते हैं, उन्हें न केवल व्यावसायिक समस्याओं को हल करने के लिए मजबूर किया जाता है, बल्कि यूजीसी में चीजों को व्यवस्थित करने के लिए भी मजबूर किया जाता है। खराब या निम्न गुणवत्ता वाली सामग्री का मॉडरेशन अंततः उपयोगकर्ताओं के लिए सेवा के आकर्षण को कम कर सकता है, यहां तक ​​कि इसके संचालन को भी समाप्त कर सकता है।

आज हम आपको यूला और ओडनोक्लास्निकी के बीच तालमेल के बारे में बताएंगे, जो हमें यूला में विज्ञापनों को प्रभावी ढंग से मॉडरेट करने में मदद करता है।

सामान्य तौर पर तालमेल एक बहुत ही उपयोगी चीज है, और आधुनिक दुनिया में, जब प्रौद्योगिकियां और रुझान बहुत तेजी से बदलते हैं, तो यह एक जीवनरक्षक बन सकता है। किसी ऐसी चीज़ का आविष्कार करने में दुर्लभ संसाधन और समय क्यों बर्बाद करें जिसका आविष्कार पहले ही हो चुका है और आपके सामने लाया जा चुका है?

जब हमारे सामने उपयोगकर्ता सामग्री - चित्र, पाठ और लिंक - को मॉडरेट करने का पूरा काम आया तो हमने भी यही सोचा। हमारे उपयोगकर्ता हर दिन यूला पर लाखों सामग्री अपलोड करते हैं, और स्वचालित प्रसंस्करण के बिना इस सभी डेटा को मैन्युअल रूप से मॉडरेट करना पूरी तरह से असंभव है।

इसलिए, हमने एक रेडीमेड मॉडरेशन प्लेटफ़ॉर्म का उपयोग किया, जिसे उस समय तक ओडनोक्लास्निकी के हमारे सहयोगियों ने "लगभग पूर्णता" की स्थिति में पूरा कर लिया था।

सहपाठी क्यों?

हर दिन, करोड़ों उपयोगकर्ता सोशल नेटवर्क पर आते हैं और अरबों सामग्री प्रकाशित करते हैं: फ़ोटो से लेकर वीडियो और टेक्स्ट तक। Odnoklassniki मॉडरेशन प्लेटफ़ॉर्म बहुत बड़ी मात्रा में डेटा की जाँच करने और स्पैमर और बॉट का प्रतिकार करने में मदद करता है।

ओके मॉडरेशन टीम ने काफी अनुभव अर्जित किया है, क्योंकि वह 12 वर्षों से अपने टूल में सुधार कर रही है। यह महत्वपूर्ण है कि वे न केवल अपने तैयार समाधान साझा कर सकें, बल्कि हमारे विशिष्ट कार्यों के अनुरूप अपने मंच की वास्तुकला को भी अनुकूलित कर सकें।

अब से, संक्षिप्तता के लिए, हम ओके मॉडरेशन प्लेटफ़ॉर्म को केवल "प्लेटफ़ॉर्म" कहेंगे।

सब कुछ कैसे काम करता है

युला और ओडनोक्लास्निकी के बीच डेटा विनिमय स्थापित किया गया है अपाचे काफ्का.

हमने यह टूल क्यों चुना:

• यूला में, सभी विज्ञापन पोस्ट-मॉडरेट किए जाते हैं, इसलिए शुरुआत में एक समकालिक प्रतिक्रिया की आवश्यकता नहीं थी।
• यदि कोई खराब पैराग्राफ होता है और यूला या ओडनोक्लास्निकी अनुपलब्ध हैं, जिसमें कुछ पीक लोड भी शामिल हैं, तो काफ्का से डेटा कहीं भी गायब नहीं होगा और बाद में पढ़ा जा सकता है।
• प्लेटफ़ॉर्म पहले से ही काफ्का के साथ एकीकृत था, इसलिए अधिकांश सुरक्षा मुद्दे हल हो गए थे।

यूला में उपयोगकर्ता द्वारा बनाए या संशोधित किए गए प्रत्येक विज्ञापन के लिए, डेटा के साथ एक JSON उत्पन्न होता है, जिसे बाद के मॉडरेशन के लिए काफ्का में रखा जाता है। काफ्का से, घोषणाएँ प्लेटफ़ॉर्म पर लोड की जाती हैं, जहाँ उनका स्वचालित या मैन्युअल रूप से निर्णय लिया जाता है। ख़राब विज्ञापनों को कारण बताकर ब्लॉक कर दिया जाता है, और जिनमें प्लेटफ़ॉर्म को उल्लंघन नहीं मिलता उन्हें "अच्छे" के रूप में चिह्नित किया जाता है। फिर सभी निर्णय युला को वापस भेज दिए जाते हैं और सेवा में लागू कर दिए जाते हैं।

अंत में, युला के लिए यह सब सरल कार्यों पर निर्भर करता है: ओडनोक्लास्निकी प्लेटफ़ॉर्म पर एक विज्ञापन भेजें और एक संकल्प वापस प्राप्त करें "ठीक है", या "ठीक" क्यों नहीं।

स्वचालित प्रसंस्करण

प्लेटफ़ॉर्म पर आने के बाद विज्ञापन का क्या होता है? प्रत्येक विज्ञापन को कई इकाइयों में विभाजित किया गया है:

• नाम,
• विवरण,
• तस्वीरें,
• उपयोगकर्ता द्वारा चयनित श्रेणी और विज्ञापन की उपश्रेणी,
• कीमत।

फिर प्लेटफ़ॉर्म डुप्लिकेट खोजने के लिए प्रत्येक इकाई के लिए क्लस्टरिंग करता है। इसके अलावा, पाठ और तस्वीरों को विभिन्न योजनाओं के अनुसार क्लस्टर किया जाता है।

क्लस्टरिंग से पहले, विशेष वर्णों, परिवर्तित अक्षरों और अन्य कचरे को हटाने के लिए टेक्स्ट को सामान्यीकृत किया जाता है। प्राप्त डेटा को एन-ग्राम में विभाजित किया गया है, जिनमें से प्रत्येक को हैश किया गया है। परिणाम कई अद्वितीय हैश है। पाठों के बीच समानता किसके द्वारा निर्धारित की जाती है? जैकार्ड का माप दो परिणामी सेटों के बीच. यदि समानता सीमा से अधिक है, तो पाठों को एक क्लस्टर में मिला दिया जाता है। समान समूहों की खोज को तेज़ करने के लिए, मिनहैश और लोकैलिटी-सेंसिटिव हैशिंग का उपयोग किया जाता है।

पीएचएश चित्रों की तुलना करने से लेकर तंत्रिका नेटवर्क का उपयोग करके डुप्लिकेट की खोज करने तक, तस्वीरों के लिए छवियों को चिपकाने के विभिन्न विकल्पों का आविष्कार किया गया है।

अंतिम विधि सबसे "गंभीर" है। मॉडल को प्रशिक्षित करने के लिए, छवियों के त्रिक (एन, ए, पी) का चयन किया गया था जिसमें एन ए के समान नहीं है, और पी ए के समान है (अर्ध-डुप्लिकेट है)। फिर तंत्रिका नेटवर्क ने ए और पी को जितना संभव हो उतना करीब और ए और एन को जितना संभव हो सके बनाना सीखा। इसके परिणामस्वरूप पूर्व-प्रशिक्षित नेटवर्क से एम्बेडिंग लेने की तुलना में कम गलत सकारात्मक परिणाम सामने आते हैं।

जब तंत्रिका नेटवर्क इनपुट के रूप में छवियां प्राप्त करता है, तो यह उनमें से प्रत्येक के लिए एक एन (128)-आयामी वेक्टर उत्पन्न करता है और छवि की निकटता का आकलन करने का अनुरोध किया जाता है। इसके बाद, एक सीमा की गणना की जाती है जिस पर करीबी छवियों को डुप्लिकेट माना जाता है।

मॉडल कुशलतापूर्वक स्पैमर्स को ढूंढने में सक्षम है जो pHash तुलना को बायपास करने के लिए विशेष रूप से विभिन्न कोणों से एक ही उत्पाद की तस्वीर लेते हैं।

डुप्लिकेट के रूप में तंत्रिका नेटवर्क द्वारा एक साथ चिपकाए गए स्पैम फ़ोटो का एक उदाहरण।

अंतिम चरण में, डुप्लिकेट विज्ञापनों को टेक्स्ट और छवि दोनों द्वारा एक साथ खोजा जाता है।

यदि दो या दो से अधिक विज्ञापन एक क्लस्टर में एक साथ अटके हुए हैं, तो सिस्टम स्वचालित ब्लॉकिंग शुरू कर देता है, जो कुछ एल्गोरिदम का उपयोग करके चयन करता है कि कौन से डुप्लिकेट को हटाना है और किसे छोड़ना है। उदाहरण के लिए, यदि किसी विज्ञापन में दो उपयोगकर्ताओं की तस्वीरें समान हैं, तो सिस्टम नवीनतम विज्ञापन को ब्लॉक कर देगा।

एक बार बन जाने के बाद, सभी क्लस्टर स्वचालित फ़िल्टर की एक श्रृंखला से गुजरते हैं। प्रत्येक फ़िल्टर क्लस्टर को एक अंक प्रदान करता है: इसकी कितनी संभावना है कि इसमें वह ख़तरा शामिल है जिसे यह फ़िल्टर पहचानता है।

उदाहरण के लिए, सिस्टम किसी विज्ञापन में विवरण का विश्लेषण करता है और उसके लिए संभावित श्रेणियों का चयन करता है। फिर यह अधिकतम संभावना वाले को लेता है और इसकी तुलना विज्ञापन के लेखक द्वारा निर्दिष्ट श्रेणी से करता है। यदि वे मेल नहीं खाते हैं, तो विज्ञापन को गलत श्रेणी के लिए ब्लॉक कर दिया जाता है। और चूँकि हम दयालु और ईमानदार हैं, हम सीधे उपयोगकर्ता को बताते हैं कि विज्ञापन को मॉडरेशन में पास करने के लिए उसे किस श्रेणी का चयन करना होगा।

गलत श्रेणी के लिए ब्लॉक करने की अधिसूचना.

हमारे प्लेटफ़ॉर्म में मशीन लर्निंग बिल्कुल घर जैसा लगता है। उदाहरण के लिए, इसकी सहायता से हम रूसी संघ में प्रतिबंधित वस्तुओं के नाम और विवरण खोजते हैं। और तंत्रिका नेटवर्क मॉडल यह देखने के लिए छवियों की सावधानीपूर्वक "जांच" करते हैं कि क्या उनमें यूआरएल, स्पैम टेक्स्ट, टेलीफोन नंबर और वही "निषिद्ध" जानकारी शामिल है।

ऐसे मामलों के लिए जहां वे किसी प्रतिबंधित उत्पाद को कानूनी आड़ में बेचने की कोशिश कर रहे हैं, और शीर्षक या विवरण में कोई पाठ नहीं है, हम छवि टैगिंग का उपयोग करते हैं। प्रत्येक छवि के लिए, 11 हजार तक अलग-अलग टैग जोड़े जा सकते हैं जो बताते हैं कि छवि में क्या है।

वे हुक्का को समोवर का रूप देकर बेचने की कोशिश कर रहे हैं।

जटिल फ़िल्टर के समानांतर, सरल फ़िल्टर भी काम करते हैं, पाठ से संबंधित स्पष्ट समस्याओं का समाधान करते हैं:

• एंटीमैट;
• यूआरएल और फोन नंबर डिटेक्टर;
• त्वरित दूतों और अन्य संपर्कों का उल्लेख;
• कम कीमत;
• ऐसे विज्ञापन जिनमें कुछ भी बिक्री के लिए नहीं है, आदि।

आज, प्रत्येक विज्ञापन को 50 से अधिक स्वचालित फ़िल्टरों की बारीक छलनी से गुजारा जाता है जो विज्ञापन में कुछ बुरा खोजने का प्रयास करते हैं।

यदि कोई भी डिटेक्टर काम नहीं करता है, तो यूला को एक प्रतिक्रिया भेजी जाती है कि विज्ञापन "सबसे अधिक संभावना" सही क्रम में है। हम स्वयं इस उत्तर का उपयोग करते हैं, और जिन उपयोगकर्ताओं ने विक्रेता की सदस्यता ली है, उन्हें एक नए उत्पाद की उपलब्धता के बारे में एक सूचना प्राप्त होती है।

अधिसूचना कि विक्रेता के पास एक नया उत्पाद है।

परिणामस्वरूप, प्रत्येक विज्ञापन मेटाडेटा के साथ "अतिवृद्धि" हो जाता है, जिनमें से कुछ विज्ञापन बनाते समय उत्पन्न होता है (लेखक का आईपी पता, उपयोगकर्ता-एजेंट, प्लेटफ़ॉर्म, जियोलोकेशन, आदि), और बाकी प्रत्येक फ़िल्टर द्वारा जारी किया गया स्कोर है .

घोषणा कतारें

जब कोई विज्ञापन प्लेटफ़ॉर्म पर आता है, तो सिस्टम उसे कतारों में से एक में डाल देता है। प्रत्येक कतार एक गणितीय सूत्र का उपयोग करके बनाई गई है जो विज्ञापन मेटाडेटा को इस तरह से जोड़ती है कि किसी भी खराब पैटर्न का पता लगा सके।

उदाहरण के लिए, आप "सेल फ़ोन" श्रेणी में यूला उपयोगकर्ताओं से विज्ञापनों की एक कतार बना सकते हैं जो संभवतः सेंट पीटर्सबर्ग से हैं, लेकिन उनके आईपी पते मॉस्को या अन्य शहरों से हैं।

विभिन्न शहरों में एक उपयोगकर्ता द्वारा पोस्ट किए गए विज्ञापनों का एक उदाहरण।

या आप तंत्रिका नेटवर्क द्वारा विज्ञापनों को दिए गए अंकों के आधार पर कतारें बना सकते हैं, उन्हें घटते क्रम में व्यवस्थित कर सकते हैं।

प्रत्येक कतार, अपने स्वयं के सूत्र के अनुसार, विज्ञापन को अंतिम अंक प्रदान करती है। फिर आप विभिन्न तरीकों से आगे बढ़ सकते हैं:

• वह सीमा निर्दिष्ट करें जिस पर किसी विज्ञापन को एक निश्चित प्रकार का अवरोध प्राप्त होगा;
• कतार में मौजूद सभी विज्ञापनों को मैन्युअल समीक्षा के लिए मॉडरेटर को भेजें;
• या पिछले विकल्पों को संयोजित करें: स्वचालित अवरोधन सीमा निर्दिष्ट करें और उन विज्ञापनों को मॉडरेटर को भेजें जो इस सीमा तक नहीं पहुंचे हैं।

इन कतारों की आवश्यकता क्यों है? मान लीजिए कि किसी उपयोगकर्ता ने बन्दूक की एक तस्वीर अपलोड की है। तंत्रिका नेटवर्क इसे 95 से 100 तक अंक देता है और 99 प्रतिशत सटीकता के साथ निर्धारित करता है कि चित्र में कोई हथियार है। लेकिन यदि स्कोर मान 95% से कम है, तो मॉडल की सटीकता कम होने लगती है (यह तंत्रिका नेटवर्क मॉडल की एक विशेषता है)।

परिणामस्वरूप, स्कोर मॉडल के आधार पर एक कतार बनाई जाती है, और 95 और 100 के बीच प्राप्त होने वाले विज्ञापन स्वचालित रूप से "निषिद्ध उत्पाद" के रूप में अवरुद्ध हो जाते हैं। 95 से कम स्कोर वाले विज्ञापन मैन्युअल प्रोसेसिंग के लिए मॉडरेटर को भेजे जाते हैं।

कारतूस के साथ चॉकलेट बेरेटा। केवल मैन्युअल मॉडरेशन के लिए! 🙂

मैनुअल मॉडरेशन

2019 की शुरुआत में, यूला में लगभग 94% विज्ञापन स्वचालित रूप से मॉडरेट किए गए हैं।

यदि प्लेटफ़ॉर्म कुछ विज्ञापनों पर निर्णय नहीं ले पाता है, तो वह उन्हें मैन्युअल मॉडरेशन के लिए भेज देता है। Odnoklassniki ने अपना स्वयं का टूल विकसित किया: मॉडरेटर के लिए कार्य तुरंत निर्णय लेने के लिए सभी आवश्यक जानकारी प्रदर्शित करते हैं - विज्ञापन उपयुक्त है या उसे कारण बताते हुए अवरुद्ध किया जाना चाहिए।

और ताकि मैन्युअल मॉडरेशन के दौरान सेवा की गुणवत्ता प्रभावित न हो, लोगों के काम की लगातार निगरानी की जाती है। उदाहरण के लिए, कार्य स्ट्रीम में, मॉडरेटर को "जाल" दिखाया जाता है - ऐसे विज्ञापन जिनके लिए पहले से ही तैयार समाधान मौजूद हैं। यदि मॉडरेटर का निर्णय समाप्त निर्णय से मेल नहीं खाता है, तो मॉडरेटर को एक त्रुटि दी जाती है।

औसतन, एक मॉडरेटर एक विज्ञापन की जांच करने में 10 सेकंड खर्च करता है। इसके अलावा, सभी सत्यापित विज्ञापनों में त्रुटियों की संख्या 0,5% से अधिक नहीं है।

लोगों का संयम

Odnoklassniki के सहकर्मी और भी आगे बढ़ गए और "दर्शकों की मदद" का लाभ उठाया: उन्होंने सोशल नेटवर्क के लिए एक गेम एप्लिकेशन लिखा जिसमें आप बड़ी मात्रा में डेटा को जल्दी से चिह्नित कर सकते हैं, कुछ बुरे संकेत को उजागर कर सकते हैं - Odnoklassniki मॉडरेटर (https://ok.ru/app/moderator). ओके उपयोगकर्ताओं की मदद का लाभ उठाने का एक अच्छा तरीका जो सामग्री को अधिक मनोरंजक बनाने का प्रयास कर रहे हैं।

एक गेम जिसमें उपयोगकर्ता उन फ़ोटो को टैग करते हैं जिन पर फ़ोन नंबर होता है।

प्लेटफ़ॉर्म में विज्ञापनों की किसी भी कतार को Odnoklassniki मॉडरेटर गेम पर पुनर्निर्देशित किया जा सकता है। गेम उपयोगकर्ता जो कुछ भी चिह्नित करते हैं उसे समीक्षा के लिए आंतरिक मॉडरेटर के पास भेजा जाता है। यह योजना आपको उन विज्ञापनों को ब्लॉक करने की अनुमति देती है जिनके लिए फ़िल्टर अभी तक नहीं बनाए गए हैं, और साथ ही प्रशिक्षण नमूने भी बनाते हैं।

मॉडरेशन परिणाम संग्रहीत करना

हम मॉडरेशन के दौरान लिए गए सभी निर्णयों को सहेजते हैं ताकि हम उन विज्ञापनों को दोबारा संसाधित न करें जिन पर हम पहले ही निर्णय ले चुके हैं।

विज्ञापनों के आधार पर प्रतिदिन लाखों क्लस्टर बनाए जाते हैं। समय के साथ, प्रत्येक क्लस्टर को "अच्छा" या "बुरा" करार दिया जाता है। प्रत्येक नया विज्ञापन या उसका संशोधन, एक चिह्न के साथ क्लस्टर में प्रवेश करने पर, स्वचालित रूप से क्लस्टर से एक रिज़ॉल्यूशन प्राप्त करता है। प्रतिदिन लगभग 20 हजार ऐसे स्वचालित संकल्प होते हैं।

यदि क्लस्टर में कोई नई घोषणा नहीं आती है, तो इसे मेमोरी से हटा दिया जाता है और इसका हैश और समाधान अपाचे कैसेंड्रा को लिखा जाता है।

जब प्लेटफ़ॉर्म को कोई नया विज्ञापन मिलता है, तो वह सबसे पहले पहले से बनाए गए क्लस्टर के बीच एक समान क्लस्टर ढूंढने का प्रयास करता है और उससे समाधान लेता है। यदि ऐसा कोई क्लस्टर नहीं है, तो प्लेटफ़ॉर्म कैसंड्रा जाता है और वहां देखता है। आपको यह पता चला क्या? बढ़िया, समाधान को क्लस्टर पर लागू करता है और युला को भेजता है। प्रतिदिन औसतन 70 हजार ऐसे "दोहराए गए" निर्णय होते हैं - कुल का 8%।

उपसंहार

हम ढाई साल से Odnoklassniki मॉडरेशन प्लेटफ़ॉर्म का उपयोग कर रहे हैं। हमें परिणाम पसंद हैं:

• हम प्रतिदिन 94% विज्ञापनों को स्वचालित रूप से मॉडरेट करते हैं।
• एक विज्ञापन को मॉडरेट करने की लागत 2 रूबल से घटाकर 7 कोपेक कर दी गई।
• तैयार टूल की बदौलत हम मॉडरेटर को प्रबंधित करने की समस्याओं के बारे में भूल गए।
• हमने समान संख्या में मॉडरेटर और बजट के साथ मैन्युअल रूप से संसाधित विज्ञापनों की संख्या 2,5 गुना बढ़ा दी। स्वचालित नियंत्रण के कारण मैन्युअल मॉडरेशन की गुणवत्ता में भी वृद्धि हुई है, और त्रुटियों में लगभग 0,5% का उतार-चढ़ाव होता है।
• हम फ़िल्टर के साथ नए प्रकार के स्पैम को शीघ्रता से कवर करते हैं।
• हम शीघ्रता से नए विभागों को मॉडरेशन से जोड़ते हैं "यूला वर्टिकल". 2017 से, यूला ने रियल एस्टेट, रिक्तियों और ऑटो वर्टिकल को जोड़ा है।

स्रोत: www.habr.com