Včera Facebook Ďalšia správa o zabezpečení dodržiavania noriem komunity sociálnych sietí. Spoločnosť poskytuje údaje a ukazovatele za obdobie od januára do marca a osobitnú pozornosť venuje celkovému objemu zakázaného obsahu, ktorý skončí na Facebooku, ako aj percentu z neho, ktoré sociálna sieť úspešne odstránila vo fáze zverejnenia alebo aspoň predtým, než by ho mohol vidieť náhodný používateľ sociálnej siete. Facebook si všíma špeciálnu úlohu umelej inteligencie (AI), bez ktorej by spoločnosť jednoducho nedokázala filtrovať také šialené množstvo obsahu.
Umelá inteligencia a strojové učenie podľa Facebooku pomohli výrazne znížiť množstvo zakázaného obsahu na sociálnej sieti. V šiestich z deviatich kategórií sledovaných v správe spoločnosť tvrdí, že pomocou AI dokázala proaktívne odhaliť 96,8 % nevhodných príspevkov a odstrániť ich skôr, než si ich mohol všimnúť akýkoľvek človek (v porovnaní s 96,2 % v 4. štvrťroku 2018). Pokiaľ ide o nenávistné prejavy, správa zistila, že AI pomohla identifikovať 65 % z viac ako štyroch miliónov takýchto príspevkov odstránených z Facebooku každý štvrťrok, čo je nárast oproti 24 % len pred rokom a 59 % v 4. štvrťroku 2018.
Facebook tiež používa AI na identifikáciu príspevkov, osobných reklám, fotografií a videí, ktoré porušujú jeho pravidlá pre reklamu a predaj zakázaných predmetov, ako sú drogy a strelné zbrane. V prvom štvrťroku 2019 spoločnosť uviedla, že prijala opatrenia na približne 900 000 príspevkov súvisiacich s predajom liekov, z ktorých 83,3 % bolo odhalených pomocou umelej inteligencie. V tom istom období Facebook tiež identifikoval a odstránil približne 670 000 príspevkov o predaji strelných zbraní, z ktorých 69,9 % bolo spracovaných skôr, ako sa s nimi mohli stretnúť moderátori alebo používatelia.
Rôzne vylepšenia v algoritmoch umelej inteligencie viedli k zníženiu celkového objemu zakázaného obsahu prezeraného na Facebooku. Spoločnosť odhaduje, že na každých 10 000 návštev sociálnej siete sa len 11 až 14 používateľov stretlo s pornografickým obsahom a iba 25 si mohlo všimnúť príspevky obsahujúce krutosť a násilie. Pokiaľ ide o terorizmus, detskú nahotu a sexuálne vykorisťovanie, čísla sú ešte nižšie. Facebook uvádza, že v prvom štvrťroku 1 na každých 2019 10 zobrazení na sociálnej sieti pripadali na podobný obsah menej ako tri.
„Proaktívnym monitorovaním urážlivých príspevkov umožňuje táto technológia nášmu tímu zamerať sa na identifikáciu trendov v tom, ako sa zneužívatelia snažia obísť naše obmedzenia,“ napísal v blogovom príspevku Guy Rosen, viceprezident pre bezpečnosť obsahu Facebooku. „Pokračujeme v investíciách do technológií, aby sme rozšírili našu schopnosť odhaľovať nevhodný obsah v rôznych jazykoch a regiónoch.“
Ďalšou oblasťou, v ktorej Facebook využíva umelú inteligenciu, sú spamové účty. Na výročnej vývojárskej konferencii F8 v San Franciscu povedal CTO spoločnosti Mike Schroepfe, že za jediný štvrťrok Facebook zablokoval viac ako miliardu spamových účtov, viac ako 700 miliónov falošných účtov a desiatky miliónov kusov obsahu obsahujúceho nahotu a násilie. . Podľa neho je AI hlavným zdrojom detekcie a boja v týchto kategóriách. Pokiaľ ide o tvrdé čísla, Facebook pozastavil 1,2 miliardy účtov v 4. štvrťroku 2018 a 2,19 miliardy v 1. štvrťroku 2019.
Zdroj: 3dnews.ru