Како ги модерираме рекламите

Секој сервис чии корисници можат да креираат сопствена содржина (UGC - User-genered content) е принуден не само да ги решава деловните проблеми, туку и да ги стави работите во ред во UGC. Умереноста со слаба или неквалитетна содржина на крајот може да ја намали привлечноста на услугата за корисниците, дури и да го прекине нејзиното работење.

Денес ќе ви кажеме за синергијата помеѓу Јула и Однокласници, што ни помага ефикасно да ги ублажиме рекламите во Јула.

Синергијата воопшто е многу корисна работа, а во современиот свет, кога технологиите и трендовите се менуваат многу брзо, може да се претвори во спасител. Зошто да трошите оскудни ресурси и време измислувајќи нешто што е веќе измислено и умрено пред вас?

Истото го мислевме и кога се соочивме со целосната задача за модерирање на корисничката содржина - слики, текст и врски. Нашите корисници прикачуваат милиони содржини на Јула секој ден и без автоматска обработка е сосема невозможно рачно да се модерираат сите овие податоци.

Затоа, користевме готова платформа за модерација, која дотогаш нашите колеги од Однокласници ја завршија до состојба на „речиси совршенство“.

Зошто Однокласници?

Секој ден, десетици милиони корисници доаѓаат на социјалната мрежа и објавуваат милијарди содржини: од фотографии до видеа и текстови. Платформата за модерирање Однокласници помага да се проверат многу големи количини на податоци и да се спротивстави на спамери и ботови.

Модераторскиот тим на ОК има акумулирано големо искуство, бидејќи ја подобрува својата алатка веќе 12 години. Важно е тие не само да ги споделат своите готови решенија, туку и да ја приспособат архитектурата на нивната платформа за да одговараат на нашите специфични задачи.

Отсега, за кратко, платформата за модерација ОК едноставно ќе ја нарекуваме „платформа“.

Како функционира сè

Размената на податоци помеѓу Јула и Однокласници е воспоставена преку Апачи Кафка.

Зошто ја избравме оваа алатка:

• Во Јула, сите реклами се пост-модерирани, така што првично не беше потребен синхрон одговор.
• Ако се случи лош пасус и Јула или Однокласниците се недостапни, вклучително и поради некои врвни оптоварувања, тогаш податоците од Кафка нема да исчезнат никаде и ќе може да се прочитаат подоцна.
• Платформата веќе беше интегрирана со Кафка, така што повеќето безбедносни прашања беа решени.

За секоја реклама креирана или изменета од корисникот во Јула, се генерира JSON со податоци, кој се става во Кафка за последователна модерација. Од Кафка, објавите се вчитуваат во платформата, каде што се пресудуваат автоматски или рачно. Лошите реклами се блокираат со причина, а оние во кои платформата не наоѓа прекршувања се означени како „добри“. Потоа сите одлуки се враќаат назад на Јула и се применуваат во службата.

На крајот, за Јула сè се сведува на едноставни постапки: испратете оглас на платформата Однокласници и вратете ја резолуцијата „ок“, или зошто да не „ок“.

Автоматска обработка

Што се случува со рекламата откако ќе се појави на платформата? Секоја реклама е поделена на неколку ентитети:

• Име,
• опис,
• фотографии,
• категорија и поткатегорија на огласот избрани од корисникот,
• цена

Платформата потоа врши кластерирање за секој ентитет за да најде дупликати. Покрај тоа, текстот и фотографиите се групирани според различни шеми.

Пред групирањето, текстовите се нормализираат за да се отстранат специјалните знаци, сменетите букви и другото ѓубре. Примените податоци се поделени на N-грами, од кои секоја е хеширана. Резултатот е многу уникатни хаши. Сличноста меѓу текстовите се определува со Мерката на Жакард помеѓу двете добиени множества. Ако сличноста е поголема од прагот, тогаш текстовите се спојуваат во еден кластер. За да се забрза пребарувањето за слични кластери, се користат MinHash и хаширање чувствителни на локалитет.

Различни опции за лепење слики се измислени за фотографии, од споредување на pHash слики до пребарување на дупликати со помош на невронска мрежа.

Последниот метод е најтежок. За обука на моделот, беа избрани тројки од слики (N, A, P) во кои N не е сличен на A, а P е сличен на A (е полудупликат). Тогаш невронската мрежа научи да ги прави A и P што е можно поблиску, а A и N колку што е можно подалеку. Ова резултира со помалку лажни позитиви во споредба со едноставно преземање вградувања од претходно обучена мрежа.

Кога невронската мрежа прима слики како влез, таа генерира N(128)-димензионален вектор за секоја од нив и се бара барање да се процени близината на сликата. Следно, се пресметува праг на кој блиските слики се сметаат за дупликати.

Моделот може вешто да пронајде спамери кои конкретно фотографираат ист производ од различни агли за да ја заобиколат споредбата на pHash.

Пример за спам фотографии залепени заедно со невронска мрежа како дупликати.

Во последната фаза, дупликатите реклами се пребаруваат истовремено и со текст и со слика.

Ако две или повеќе реклами се заглавени заедно во кластер, системот започнува автоматско блокирање, кое, користејќи одредени алгоритми, избира кои дупликати да се избришат, а кои да се остават. На пример, ако двајца корисници имаат исти фотографии во реклама, системот ќе ја блокира поновата реклама.

Откако ќе се создадат, сите кластери минуваат низ серија автоматски филтри. Секој филтер му доделува резултат на кластерот: колку е веројатно тој да ја содржи заканата што ја идентификува овој филтер.

На пример, системот го анализира описот во рекламата и избира потенцијални категории за него. Потоа го зема оној со максимална веројатност и го споредува со категоријата наведена од авторот на огласот. Доколку не се совпаѓаат, огласот е блокиран за погрешна категорија. А бидејќи сме љубезни и искрени, директно му кажуваме на корисникот која категорија треба да ја одбере за рекламата да ја помине умереноста.

Известување за блокирање за неточна категорија.

Машинското учење се чувствува како дома во нашата платформа. На пример, со негова помош бараме имиња и описи на стоки забранети во Руската Федерација. И моделите на невронски мрежи прецизно ги „испитуваат“ сликите за да видат дали содржат URL-адреси, спам текстови, телефонски броеви и истите „забранети“ информации.

За случаи кога се обидуваат да продадат забранет производ маскиран како нешто легално, а нема текст ниту во насловот ниту во описот, користиме означување на слики. За секоја слика, може да се додадат до 11 илјади различни ознаки кои опишуваат што е на сликата.

Наргилето се обидуваат да го продадат маскирајќи го во самовар.

Паралелно со сложените филтри, работат и едноставни, решавајќи очигледни проблеми поврзани со текстот:

• антимат;
• УРЛ и детектор на телефонски број;
• спомнување на инстант-месинџери и други контакти;
• намалена цена;
• огласи во кои ништо не се продава и сл.

Денес, секоја реклама поминува низ сито од повеќе од 50 автоматски филтри кои се обидуваат да најдат нешто лошо во огласот.

Ако ниту еден од детекторите не работел, тогаш се испраќа одговор до Јула дека рекламата е „најверојатно“ во совршен ред. Ние самите го користиме овој одговор, а корисниците кои се претплатиле на продавачот добиваат известување за достапноста на нов производ.

Известување дека продавачот има нов производ.

Како резултат на тоа, секоја реклама е „обрасната“ со метаподатоци, од кои некои се генерираат при креирањето на рекламата (IP адреса на авторот, кориснички агент, платформа, геолокација итн.), а остатокот е резултатот што го издава секој филтер .

Редици за огласи

Кога рекламата ќе се појави на платформата, системот ја става во една од редиците. Секоја редица се создава со помош на математичка формула која ги комбинира метаподатоците за рекламирање на начин што ги открива сите лоши обрасци.

На пример, можете да креирате редица реклами во категоријата „Мобилни телефони“ од корисници на Јула, наводно од Санкт Петербург, но нивните IP адреси се од Москва или од други градови.

Пример за огласи објавени од еден корисник во различни градови.

Или можете да формирате редици врз основа на оценките што невронската мрежа им ги доделува на рекламите, распоредувајќи ги по опаѓачки редослед.

Секоја редица, според својата формула, доделува конечна оценка на огласот. Потоа можете да продолжите на различни начини:

• наведете го прагот на кој рекламата ќе добие одреден тип на блокирање;
• испратете ги сите реклами во редот до модераторите за рачно прегледување;
• или комбинирајте ги претходните опции: наведете го прагот за автоматско блокирање и испратете до модераторите оние реклами што не го достигнале овој праг.

Зошто се потребни овие редици? Да речеме дека некој корисник поставил фотографија од огнено оружје. Невронската мрежа му доделува оценка од 95 до 100 и со 99 проценти точност одредува дека има оружје на сликата. Но, ако вредноста на резултатот е под 95%, точноста на моделот почнува да се намалува (ова е карактеристика на моделите на невронски мрежи).

Како резултат на тоа, се формира редица врз основа на моделот на бодови, а оние реклами што добиле помеѓу 95 и 100 автоматски се блокираат како „Забранети производи“. Огласите со резултат под 95 се испраќаат до модераторите за рачна обработка.

Чоколадна берета со патрони. Само за рачна умереност! 🙂

Рачно модерирање

На почетокот на 2019 година, околу 94% од сите огласи во Јула се модерирани автоматски.

Ако платформата не може да одлучи за некои реклами, ги испраќа на рачна модерација. Однокласниците развиле сопствена алатка: задачите за модераторите веднаш ги прикажуваат сите потребни информации за да донесат брза одлука - рекламата е соодветна или треба да биде блокирана, наведувајќи ја причината.

И за да не страда квалитетот на услугата за време на рачно умереност, работата на луѓето постојано се следи. На пример, во протокот на задачи, на модераторот му се прикажуваат „стапици“ - реклами за кои веќе има готови решенија. Доколку одлуката на модераторот не се совпаѓа со готовата, на модераторот му се дава грешка.

Во просек, модераторот троши 10 секунди за проверка на една реклама. Покрај тоа, бројот на грешки не е повеќе од 0,5% од сите проверени реклами.

Народна умереност

Колегите од Однокласници отидоа уште подалеку и ја искористија „помоштата од публиката“: напишаа апликација за игра за социјалната мрежа во која можете брзо да означите голема количина на податоци, истакнувајќи некој лош знак - Модератор на Однокласници (https://ok.ru/app/moderator). Добар начин да ја искористите помошта на OK корисниците кои се обидуваат да ја направат содржината попријатна.

Игра во која корисниците тагираат фотографии на кои има телефонски број.

Секоја редица реклами во платформата може да се пренасочи кон играта Модератор Однокласници. Сè што означуваат корисниците на играта потоа се испраќа до внатрешните модератори за преглед. Оваа шема ви овозможува да блокирате реклами за кои сè уште не се создадени филтри и истовремено да креирате примероци за обука.

Зачувување на резултатите од умереноста

Ги зачувуваме сите одлуки донесени за време на умереноста за да не ги обработуваме повторно оние реклами за кои веќе сме донеле одлука.

Милиони кластери се создаваат секој ден врз основа на реклами. Со текот на времето, секој кластер е означен како „добар“ или „лош“. Секоја нова реклама или нејзина ревизија, внесувајќи кластер со ознака, автоматски добива резолуција од самиот кластер. Има околу 20 илјади такви автоматски резолуции дневно.

Ако не пристигне нови најави до кластерот, тој се отстранува од меморијата и неговиот хаш и решението се напишани на Apache Cassandra.

Кога платформата добива нова реклама, таа прво се обидува да најде сличен кластер меѓу веќе креираните и да земе решение од него. Ако нема таков кластер, платформата оди до Касандра и гледа таму. Дали го најдовте? Одлично, го применува решението на кластерот и го испраќа до Јула. Секој ден има во просек по 70 илјади вакви „повторувани“ одлуки - 8% од вкупниот број.

Сумирајќи

Веќе две и пол години ја користиме платформата за модерација на Однокласници. Ни се допаѓаат резултатите:

• Ние автоматски модерираме 94% од сите реклами дневно.
• Трошоците за модерирање на една реклама беа намалени од 2 рубли на 7 копејки.
• Благодарение на готовата алатка, заборавивме на проблемите со управувањето со модераторите.
• За 2,5 пати го зголемивме бројот на рачно обработени огласи со исто толку модератори и буџет. Квалитетот на рачното модерирање исто така се зголеми поради автоматизираната контрола и варира околу 0,5% од грешките.
• Брзо покриваме нови видови спам со филтри.
• Брзо ги поврзуваме новите оддели со умереноста „Јула вертикали“. Од 2017 година, Јула ги додаде вертикалите за недвижности, слободни работни места и авто.

Извор: www.habr.com