हामी कसरी विज्ञापनहरू मध्यस्थ गर्छौं

प्रत्येक सेवा जसका प्रयोगकर्ताहरूले आफ्नै सामग्री (UGC - प्रयोगकर्ता-उत्पन्न सामग्री) सिर्जना गर्न सक्छन् व्यवसायिक समस्याहरू समाधान गर्न मात्र होइन, UGC मा चीजहरू व्यवस्थित गर्न पनि बाध्य छन्। खराब वा कम-गुणस्तरको सामग्री मध्यस्थताले अन्ततः प्रयोगकर्ताहरूको लागि सेवाको आकर्षण घटाउन सक्छ, यसको सञ्चालन समाप्त गर्न पनि सक्छ।

आज हामी तपाईंलाई Yula र Odnoklassniki बीचको तालमेलको बारेमा बताउनेछौं, जसले हामीलाई Yula मा विज्ञापनहरूलाई प्रभावकारी रूपमा मध्यस्थ गर्न मद्दत गर्छ।

सामान्यतया सिनर्जी एक धेरै उपयोगी चीज हो, र आधुनिक संसारमा, जब टेक्नोलोजी र प्रवृत्तिहरू धेरै चाँडै परिवर्तन हुन्छन्, यो जीवन बचाउन सक्छ। पहिले नै आविष्कार गरिएको र दिमागमा ल्याइएको चीजको आविष्कार गर्न किन दुर्लभ स्रोत र समय बर्बाद गर्ने?

हामीले प्रयोगकर्ता सामग्री - चित्र, पाठ र लिङ्कहरू मध्यस्थता गर्ने पूर्ण कार्यको सामना गर्दा हामीले त्यही कुरा सोच्यौं। हाम्रा प्रयोगकर्ताहरूले हरेक दिन लाखौं सामग्रीको टुक्रा Yula मा अपलोड गर्छन्, र स्वचालित प्रशोधन बिना यो सबै डेटा म्यानुअल रूपमा मध्यस्थ गर्न पूर्ण रूपमा असम्भव छ।

त्यसकारण, हामीले एक रेडिमेड मोडरेशन प्लेटफर्म प्रयोग गर्‍यौं, जुन त्यतिबेलासम्म ओड्नोक्लास्निकीका हाम्रा सहकर्मीहरूले "लगभग पूर्णता" को अवस्थामा पूरा गरिसकेका थिए।

किन Odnoklassniki?

हरेक दिन, लाखौं प्रयोगकर्ताहरू सामाजिक सञ्जालमा आउँछन् र सामग्रीका अरबौं टुक्राहरू प्रकाशित गर्छन्: फोटोदेखि भिडियोहरू र पाठहरू। Odnoklassniki मध्यस्थता प्लेटफर्मले डाटाको धेरै ठूलो मात्राहरू जाँच गर्न र स्प्यामरहरू र बटहरूको प्रतिरोध गर्न मद्दत गर्दछ।

ओके मोडरेसन टोलीले 12 वर्षदेखि आफ्नो उपकरणमा सुधार गर्दै आएकोले धेरै अनुभव सञ्चित गरेको छ। यो महत्त्वपूर्ण छ कि तिनीहरूले आफ्ना तयार समाधानहरू मात्र साझा गर्न सकेनन्, तर हाम्रो विशेष कार्यहरू अनुरूप तिनीहरूको प्लेटफर्मको वास्तुकलालाई पनि अनुकूलित गर्न सकून्।

अब देखि, संक्षिप्तता को लागी, हामी केवल ओके मोडरेसन प्लेटफर्मलाई "प्लेटफर्म" भन्नेछौं।

यो सबै कसरी काम गर्दछ

Yula र Odnoklassniki बीच डाटा विनिमय मार्फत स्थापित छ अपाचे काफ्का.

हामीले यो उपकरण किन रोज्नुभयो:

• युलामा, सबै विज्ञापनहरू पोस्ट-मोडरेट गरिएका छन्, त्यसैले सुरुमा सिंक्रोनस प्रतिक्रिया आवश्यक पर्दैन।
• यदि एक खराब अनुच्छेद हुन्छ र Yula वा Odnoklassniki अनुपलब्ध छ, केहि चोटी लोड को कारण सहित, तब Kafka बाट डाटा कतै हराउने छैन र पछि पढ्न सकिन्छ।
• प्लेटफर्मलाई पहिले नै काफ्कासँग एकीकृत गरिएको थियो, त्यसैले धेरैजसो सुरक्षा समस्याहरू समाधान गरियो।

युलामा प्रयोगकर्ताद्वारा सिर्जना वा परिमार्जन गरिएको प्रत्येक विज्ञापनको लागि, डेटासहितको JSON उत्पन्न हुन्छ, जुन पछिको मोडरेशनको लागि काफ्कामा राखिएको हुन्छ। काफ्काबाट, घोषणाहरू प्लेटफर्ममा लोड हुन्छन्, जहाँ तिनीहरू स्वचालित वा म्यानुअल रूपमा निर्णय गरिन्छ। खराब विज्ञापनहरूलाई कारणसहित रोक लगाइन्छ, र प्लेटफर्मले उल्लङ्घनहरू नभेट्नेहरूलाई "राम्रो" भनी चिन्ह लगाइन्छ। त्यसपछि सबै निर्णयहरू युलामा फिर्ता पठाइन्छ र सेवामा लागू हुन्छ।

अन्तमा, युलाका लागि यो सबै साधारण कार्यहरूमा आउँदछ: ओड्नोक्लास्निकी प्लेटफर्ममा विज्ञापन पठाउनुहोस् र "ठीक छ", वा किन "ठीक छैन" रिजोलुसन फिर्ता लिनुहोस्।

स्वचालित प्रशोधन

विज्ञापन प्लेटफर्ममा आएपछि के हुन्छ? प्रत्येक विज्ञापन धेरै संस्थाहरूमा विभाजित छ:

• नाम,
• वर्णन,
• तस्बिरहरू,
• प्रयोगकर्ता द्वारा चयन गरिएको कोटि र विज्ञापन को उपश्रेणी,
• मूल्य

प्लेटफर्मले त्यसपछि डुप्लिकेटहरू फेला पार्न प्रत्येक संस्थाको लागि क्लस्टरिङ प्रदर्शन गर्दछ। यसबाहेक, पाठ र फोटोहरू विभिन्न योजनाहरू अनुसार क्लस्टर गरिएका छन्।

क्लस्टर गर्नु अघि, पाठहरूलाई विशेष क्यारेक्टरहरू, परिवर्तन गरिएका अक्षरहरू र अन्य फोहोरहरू हटाउन सामान्यीकृत गरिन्छ। प्राप्त डाटा N-grams मा विभाजित छ, जसको प्रत्येक ह्याश गरिएको छ। परिणाम धेरै अद्वितीय हैस छ। पाठहरू बीचको समानता द्वारा निर्धारण गरिन्छ Jaccard मापन दुई परिणाम सेटहरू बीच। यदि समानता थ्रेसहोल्ड भन्दा ठूलो छ भने, पाठहरू एक क्लस्टरमा मर्ज हुन्छन्। समान क्लस्टरहरूको खोजीलाई गति दिन, MinHash र Locality-sensitive hashing प्रयोग गरिन्छ।

तस्बिरहरूका लागि gluing छविहरूका लागि विभिन्न विकल्पहरू आविष्कार गरिएका छन्, pHash चित्रहरू तुलना गर्ने देखि एक न्यूरल नेटवर्क प्रयोग गरी नक्कलहरू खोजी गर्न।

अन्तिम विधि सबैभन्दा "गम्भीर" हो। मोडेललाई तालिम दिनको लागि, छविहरूको तीनवटा (N, A, P) चयन गरिएको थियो जसमा N A सँग मिल्दैन, र P A सँग मिल्दोजुल्दो छ (एक अर्ध-नक्कल हो)। त्यसपछि न्यूरल नेटवर्कले A र P लाई सकेसम्म नजिक र A र N सकेसम्म टाढा बनाउन सिक्यो। पूर्व-प्रशिक्षित नेटवर्कबाट एम्बेडिङहरू लिनुको तुलनामा यसले कम झूटा सकारात्मक परिणामहरू दिन्छ।

जब तंत्रिका नेटवर्कले इनपुटको रूपमा छविहरू प्राप्त गर्दछ, यसले तिनीहरूमध्ये प्रत्येकको लागि N(128)-आयामी भेक्टर उत्पन्न गर्दछ र छविको निकटता मूल्याङ्कन गर्न अनुरोध गरिन्छ। अर्को, एक थ्रेसहोल्ड गणना गरिन्छ जसमा नजिकका छविहरूलाई नक्कल मानिन्छ।

मोडेलले कुशलतापूर्वक स्प्यामरहरू फेला पार्न सक्षम छ जसले विशेष रूपमा pHash तुलनालाई बाइपास गर्न विभिन्न कोणबाट समान उत्पादनको फोटो खिच्दछ।

स्प्याम तस्बिरहरूको एक उदाहरण नक्कली रूपमा तंत्रिका नेटवर्क द्वारा टाँसिएको।

अन्तिम चरणमा, नक्कल विज्ञापनहरू पाठ र छवि दुवै द्वारा एकै साथ खोजी गरिन्छ।

यदि दुई वा बढी विज्ञापनहरू क्लस्टरमा सँगै अड्किएका छन् भने, प्रणालीले स्वचालित रूपमा रोक लगाउन थाल्छ, जसले निश्चित एल्गोरिदमहरू प्रयोग गरेर, कुन नक्कलहरू मेटाउने र कुन छोड्ने छनौट गर्दछ। उदाहरणका लागि, यदि दुई प्रयोगकर्ताहरूले विज्ञापनमा एउटै फोटोहरू छन् भने, प्रणालीले हालैको विज्ञापनलाई रोक्नेछ।

एक पटक सिर्जना भएपछि, सबै क्लस्टरहरू स्वचालित फिल्टरहरूको श्रृंखला मार्फत जान्छन्। प्रत्येक फिल्टरले क्लस्टरमा स्कोर तोक्छ: यो फिल्टरले पहिचान गर्ने खतरा समावेश गर्ने सम्भावना कति छ।

उदाहरणका लागि, प्रणालीले विज्ञापनमा भएको विवरणको विश्लेषण गर्छ र यसको लागि सम्भावित कोटीहरू चयन गर्छ। त्यसपछि यसले अधिकतम सम्भाव्यताको साथ लिन्छ र विज्ञापनको लेखकद्वारा निर्दिष्ट श्रेणीसँग तुलना गर्दछ। यदि तिनीहरू मेल खाँदैनन् भने, विज्ञापन गलत कोटीको लागि रोकिएको छ। र हामी दयालु र इमान्दार भएकाले, हामीले प्रयोगकर्तालाई विज्ञापनलाई मध्यस्थता पास गर्नको लागि कुन श्रेणी चयन गर्न आवश्यक छ भनेर सीधै बताउँछौं।

गलत श्रेणीको लागि अवरुद्धको सूचना।

मेसिन लर्निङ हाम्रो प्लेटफर्ममा घरमै बसेको महसुस हुन्छ। उदाहरणका लागि, यसको मद्दतले हामी रूसी संघमा निषेधित सामानहरूको नाम र विवरणहरू खोज्छौं। र न्यूरल नेटवर्क मोडेलहरूले सावधानीपूर्वक छविहरू "परीक्षण" गर्दछ कि तिनीहरू URL, स्प्याम पाठ, टेलिफोन नम्बरहरू, र उही "निषिद्ध" जानकारी समावेश गर्दछ।

उनीहरूले कानुनी रूपमा प्रतिबन्धित उत्पादन बेच्न खोजिरहेका मुद्दाहरूको लागि, र शीर्षक वा विवरणमा कुनै पाठ छैन, हामी छवि ट्यागिङ प्रयोग गर्छौं। प्रत्येक छविको लागि, 11 हजार सम्म विभिन्न ट्यागहरू थप्न सकिन्छ जुन छविमा के छ वर्णन गर्दछ।

समोवरको भेषमा हुक्का बेच्न खोजिरहेका छन् ।

जटिल फिल्टरहरूसँग समानान्तरमा, सरलहरूले पनि काम गर्दछ, पाठसँग सम्बन्धित स्पष्ट समस्याहरू समाधान गर्दै:

• antimat;
• URL र फोन नम्बर डिटेक्टर;
• तत्काल सन्देशवाहक र अन्य सम्पर्कहरूको उल्लेख;
• कम मूल्य;
• विज्ञापन जसमा केहि पनि बिक्री को लागी छैन, आदि।

आज, प्रत्येक विज्ञापन 50 भन्दा बढी स्वचालित फिल्टरहरूको राम्रो छलनी मार्फत जान्छ जसले विज्ञापनमा केहि खराब फेला पार्ने प्रयास गर्दछ।

यदि कुनै पनि डिटेक्टरले काम गरेन भने, युलालाई जवाफ पठाइन्छ कि विज्ञापन "सम्भवतः" सही क्रममा छ। हामी यो जवाफ आफैं प्रयोग गर्छौं, र विक्रेताको सदस्यता लिएका प्रयोगकर्ताहरूले नयाँ उत्पादनको उपलब्धताको बारेमा सूचना प्राप्त गर्छन्।

विक्रेतासँग नयाँ उत्पादन भएको सूचना।

नतिजाको रूपमा, प्रत्येक विज्ञापन मेटाडेटाको साथ "ओभरग्रोन" हुन्छ, जसमध्ये केही विज्ञापन सिर्जना गर्दा उत्पन्न हुन्छ (लेखकको आईपी ठेगाना, प्रयोगकर्ता-एजेन्ट, प्लेटफर्म, भौगोलिक स्थान, आदि), र बाँकी प्रत्येक फिल्टर द्वारा जारी स्कोर हो। ।

घोषणा लाइनहरू

जब एक विज्ञापन प्लेटफर्ममा हिट हुन्छ, प्रणालीले यसलाई एक लाममा राख्छ। प्रत्येक लाम एक गणितीय सूत्र प्रयोग गरी सिर्जना गरिएको छ जसले विज्ञापन मेटाडेटालाई कुनै पनि खराब ढाँचाहरू पत्ता लगाउने तरिकामा संयोजन गर्दछ।

उदाहरणका लागि, तपाईंले सेन्ट पीटर्सबर्गका युला प्रयोगकर्ताहरूबाट "सेल फोनहरू" कोटिमा विज्ञापनहरूको लाइन बनाउन सक्नुहुन्छ, तर तिनीहरूको आईपी ठेगानाहरू मस्को वा अन्य शहरहरूका हुन्।

विभिन्न शहरहरूमा एक प्रयोगकर्ताद्वारा पोस्ट गरिएका विज्ञापनहरूको उदाहरण।

वा तपाइँ न्यूरल नेटवर्कले विज्ञापनहरूलाई तोक्ने स्कोरहरूको आधारमा लामहरू बनाउन सक्नुहुन्छ, तिनीहरूलाई घट्दो क्रममा व्यवस्थित गर्दै।

प्रत्येक लाम, यसको आफ्नै सूत्र अनुसार, विज्ञापनलाई अन्तिम अंक प्रदान गर्दछ। त्यसपछि तपाईं विभिन्न तरिकामा अगाडि बढ्न सक्नुहुन्छ:

• सीमा निर्दिष्ट गर्नुहोस् जसमा विज्ञापनले निश्चित प्रकारको अवरुद्ध प्राप्त गर्नेछ;
• म्यानुअल समीक्षाको लागि मध्यस्थकर्ताहरूलाई लाइनमा सबै विज्ञापनहरू पठाउनुहोस्;
• वा अघिल्लो विकल्पहरू संयोजन गर्नुहोस्: स्वचालित अवरुद्ध थ्रेसहोल्ड निर्दिष्ट गर्नुहोस् र यो थ्रेसहोल्डमा नपुगेका विज्ञापनहरू मध्यस्थकर्ताहरूलाई पठाउनुहोस्।

यी लामहरू किन आवश्यक छन्? मानौं एक प्रयोगकर्ताले बन्दुकको फोटो अपलोड गर्‍यो। न्यूरल नेटवर्कले यसलाई 95 देखि 100 सम्मको स्कोर प्रदान गर्दछ र 99 प्रतिशत शुद्धताका साथ चित्रमा हतियार छ भनेर निर्धारण गर्दछ। तर यदि स्कोर मान 95% भन्दा कम छ भने, मोडेलको शुद्धता घट्न थाल्छ (यो न्यूरल नेटवर्क मोडेलहरूको विशेषता हो)।

नतिजाको रूपमा, स्कोर मोडेलको आधारमा लाम बनाइन्छ, र ती विज्ञापनहरू जुन 95 र 100 बीचमा प्राप्त हुन्छन् "निषिद्ध उत्पादनहरू" को रूपमा स्वचालित रूपमा ब्लक हुन्छन्। ९५ भन्दा कम अंक भएका विज्ञापनहरू म्यानुअल प्रशोधनका लागि मध्यस्थहरूलाई पठाइन्छ।

कारतूस संग चकलेट Beretta। केवल म्यानुअल मध्यस्थता को लागी! 🙂

म्यानुअल मोडरेशन

2019 को सुरुमा, Yula मा सबै विज्ञापनहरूको लगभग 94% स्वचालित रूपमा मोडरेट गरिएको छ।

यदि प्लेटफर्मले केही विज्ञापनहरूमा निर्णय गर्न सक्दैन भने, यसले तिनीहरूलाई म्यानुअल मोडरेसनको लागि पठाउँछ। Odnoklassniki ले तिनीहरूको आफ्नै उपकरण विकास गर्यो: मध्यस्थकर्ताहरूको लागि कार्यहरू तुरुन्तै द्रुत निर्णय गर्न सबै आवश्यक जानकारीहरू प्रदर्शन गर्दछ - विज्ञापन उपयुक्त छ वा ब्लक गरिनु पर्छ, कारण संकेत गर्दै।

र ताकि म्यानुअल मोडरेशनको समयमा सेवाको गुणस्तरमा असर नपर्ने, मानिसहरूको काम निरन्तर अनुगमन गरिन्छ। उदाहरणका लागि, कार्य स्ट्रिममा, मध्यस्थकर्तालाई "जालहरू" देखाइन्छ — विज्ञापनहरू जसका लागि पहिले नै तयार समाधानहरू छन्। यदि मध्यस्थकर्ताको निर्णय समाप्त भएकोसँग मेल खाँदैन भने, मध्यस्थलाई त्रुटि दिइन्छ।

औसतमा, एक मध्यस्थकर्ताले एउटा विज्ञापन जाँच गर्न १० सेकेन्ड खर्च गर्छन्। यसबाहेक, त्रुटिहरूको संख्या सबै प्रमाणित विज्ञापनहरूको 10% भन्दा बढी छैन।

जनताको संयम

ओड्नोक्लास्निकीका सहकर्मीहरू अझ अगाडि गए र "दर्शकहरूको मद्दत" को फाइदा उठाए: उनीहरूले सामाजिक सञ्जालको लागि एउटा खेल अनुप्रयोग लेखे जसमा तपाईंले चाँडै ठूलो मात्रामा डेटा चिन्ह लगाउन सक्नुहुन्छ, केही खराब चिन्ह हाइलाइट गर्दै - ओड्नोक्लास्निकी मध्यस्थ (https://ok.ru/app/moderator)। सामग्रीलाई अझ रमाइलो बनाउन खोजिरहेका ठीक प्रयोगकर्ताहरूको मद्दतको फाइदा उठाउने राम्रो तरिका।

एउटा खेल जसमा प्रयोगकर्ताहरूले फोन नम्बर भएका तस्बिरहरू ट्याग गर्छन्।

प्लेटफर्ममा विज्ञापनहरूको कुनै पनि लाम Odnoklassniki मध्यस्थ खेलमा पुन: निर्देशित गर्न सकिन्छ। खेल प्रयोगकर्ताहरूले मार्क अप गर्ने सबै कुरालाई समीक्षाको लागि आन्तरिक मध्यस्थकर्ताहरूलाई पठाइन्छ। यो योजनाले तपाईंलाई विज्ञापनहरू ब्लक गर्न अनुमति दिन्छ जसको लागि फिल्टरहरू अझै सिर्जना गरिएका छैनन्, र एकै साथ प्रशिक्षण नमूनाहरू सिर्जना गर्नुहोस्।

मध्यस्थता परिणामहरू भण्डारण गर्दै

हामी मध्यस्थताको समयमा गरिएका सबै निर्णयहरू बचत गर्छौं ताकि हामीले ती विज्ञापनहरू पुन: प्रशोधन नगरौं जसमा हामीले पहिले नै निर्णय गरिसकेका छौं।

विज्ञापनको आधारमा हरेक दिन लाखौं क्लस्टरहरू सिर्जना हुन्छन्। समयको साथमा, प्रत्येक क्लस्टरलाई "राम्रो" वा "खराब" लेबल गरिन्छ। प्रत्येक नयाँ विज्ञापन वा यसको संशोधन, चिन्ह सहितको क्लस्टरमा प्रवेश गर्दा, क्लस्टरबाटै रिजोल्युसन स्वतः प्राप्त हुन्छ। त्यहाँ प्रति दिन लगभग 20 हजार त्यस्ता स्वचालित रिजोल्युसनहरू छन्।

यदि कुनै नयाँ घोषणाहरू क्लस्टरमा आइपुगेन भने, यो मेमोरीबाट हटाइएको छ र यसको ह्यास र समाधान Apache Cassandra मा लेखिएको छ।

जब प्लेटफर्मले नयाँ विज्ञापन प्राप्त गर्दछ, यसले पहिले पहिले नै सिर्जना गरिएकाहरू मध्ये समान क्लस्टर खोज्ने प्रयास गर्दछ र त्यसबाट समाधान लिन्छ। यदि त्यहाँ त्यस्तो कुनै क्लस्टर छैन भने, प्लेटफर्म क्यासान्ड्रामा जान्छ र त्यहाँ हेर्छ। के तपाईंले यो फेला पार्नुभयो? उत्कृष्ट, क्लस्टरमा समाधान लागू गर्छ र युलामा पठाउँछ। त्यहाँ हरेक दिन औसत 70 हजार यस्ता "दोहोरिने" निर्णयहरू हुन्छन् - कुलको 8%।

संक्षेप गर्न

हामीले साढे दुई वर्षदेखि ओड्नोक्लास्निकी मोडरेसन प्लेटफर्म प्रयोग गर्दै आएका छौं। हामीलाई नतिजा मनपर्छ:

• हामी स्वचालित रूपमा 94% सबै विज्ञापनहरू प्रति दिन मोडरेट गर्छौं।
• एउटा विज्ञापन मध्यस्थताको लागत 2 rubles बाट 7 kopecks मा घटाइएको थियो।
• तयार उपकरणको लागि धन्यवाद, हामीले मध्यस्थकर्ताहरू प्रबन्ध गर्ने समस्याहरू बिर्सेका छौं।
• हामीले म्यानुअल रूपमा प्रशोधन गरिएका विज्ञापनहरूको संख्या उस्तै मध्यस्थकर्ता र बजेटको साथ २.५ गुणा बढायौं। स्वचालित नियन्त्रणको कारणले म्यानुअल मोडरेसनको गुणस्तर पनि बढेको छ, र लगभग ०.५% त्रुटिहरू घटबढ हुन्छ।
• हामी चाँडै नयाँ प्रकारका स्प्याम फिल्टरहरू समावेश गर्छौं।
• हामी चाँडै नयाँ विभागहरू मध्यस्थतामा जडान गर्छौं "युला वर्टिकल"। 2017 देखि, Yula ले घर जग्गा, रिक्त स्थान र अटो ठाडो थपेको छ।

स्रोत: www.habr.com