Facebook i går endnu en rapport om sikring af overholdelse af sociale netværksfællesskabsstandarder. Virksomheden leverer data og indikatorer for perioden fra januar til marts og lægger særlig vægt på den samlede mængde af forbudt indhold, der ender på Facebook, samt den procentdel af det, som det sociale netværk har fjernet på udgivelsesstadiet eller som minimum før det kunne ses tilfældig socialt netværk bruger. Facebook noterer sig den særlige rolle, kunstig intelligens (AI) spiller, uden hvilken virksomheden simpelthen ikke ville have været i stand til at filtrere en så vanvittig mængde indhold.
Ifølge Facebook har kunstig intelligens og maskinlæring været med til at reducere mængden af forbudt indhold på det sociale netværk markant. I seks af de ni kategorier, der spores i rapporten, siger virksomheden, at ved hjælp af AI var det i stand til proaktivt at opdage 96,8 % af upassende indlæg og fjerne dem, før noget menneske kunne bemærke dem (sammenlignet med 96,2 % i 4. kvartal 2018). Når det kommer til hadefulde ytringer, fandt rapporten, at AI hjalp med at identificere 65 % af de mere end fire millioner sådanne opslag, der blev fjernet fra Facebook hvert kvartal, op fra 24 % for lidt over et år siden og 59 % i fjerde kvartal 4.
Facebook bruger også kunstig intelligens til at identificere opslag, personlige annoncer, fotos og videoer, der overtræder dets regler om annoncering og salg af forbudte genstande såsom stoffer og skydevåben. I første kvartal af 2019 sagde selskabet, at det tog handling på omkring 900 indlæg relateret til medicinsalg, hvoraf 000% blev opdaget ved hjælp af kunstig intelligens. I samme periode identificerede og fjernede Facebook også cirka 83,3 opslag om skydevåbensalg, hvoraf 670% blev behandlet, før moderatorer eller brugere kunne støde på dem.
Forskellige forbedringer i kunstig intelligens-algoritmer har ført til et fald i den samlede mængde af forbudt indhold, der ses på Facebook. Virksomheden anslår, at for hver 10 besøg på det sociale netværk stødte kun 000 til 11 brugere på pornografisk indhold, og kun 14 kunne bemærke indlæg, der indeholdt grusomhed og vold. Når det kommer til terrorisme, børns nøgenhed og seksuel udnyttelse, er tallene endnu lavere. Facebook rapporterer, at i første kvartal af 25, for hver 1 visninger på det sociale netværk, var færre end tre for lignende indhold.
"Ved proaktivt at overvåge misbrugsposter giver denne teknologi vores team mulighed for at fokusere på at identificere tendenser i, hvordan misbrugere forsøger at omgå vores begrænsninger," skrev Guy Rosen, Facebooks vicepræsident for indholdssikkerhed, i et blogindlæg. "Vi fortsætter med at investere i teknologi for at udvide vores evne til at opdage upassende indhold på tværs af sprog og regioner."
Et andet område, hvor Facebook bruger kunstig intelligens, er spam-konti. På virksomhedens årlige F8-udviklerkonference i San Francisco sagde virksomhedens CTO Mike Schroepfe, at Facebook i et enkelt kvartal blokerer mere end en milliard spamkonti, mere end 700 millioner falske konti og titusinder af stykker indhold, der indeholder nøgenhed og vold . Ifølge ham er AI den vigtigste kilde til detektion og modvirkning i disse kategorier. Med hensyn til hårde tal suspenderede Facebook 1,2 milliarder konti i 4. kvartal 2018 og 2,19 milliarder i 1. kvartal 2019.
Kilde: 3dnews.ru