Facebook igår en annan rapport om att säkerställa efterlevnad av sociala nätverksstandarder. Företaget tillhandahåller data och indikatorer för perioden januari till mars och ägnar särskild uppmärksamhet åt den totala volymen av förbjudet innehåll som hamnar på Facebook, samt andelen av det som det sociala nätverket framgångsrikt tog bort vid publiceringsstadiet eller åtminstone innan det kunde ses slumpmässigt socialt nätverksanvändare. Facebook noterar den speciella roll som artificiell intelligens (AI), utan vilken företaget helt enkelt inte hade kunnat filtrera en så vansinnig mängd innehåll.
Enligt Facebook har artificiell intelligens och maskininlärning bidragit till att avsevärt minska mängden förbjudet innehåll på det sociala nätverket. I sex av de nio kategorierna som spåras i rapporten säger företaget att med hjälp av AI kunde det proaktivt upptäcka 96,8 % av olämpliga inlägg och ta bort dem innan någon människa kunde lägga märke till dem (jämfört med 96,2 % under fjärde kvartalet 4). När det kommer till hatretorik fann rapporten att AI hjälpte till att identifiera 2018 % av de mer än fyra miljoner sådana inlägg som togs bort från Facebook varje kvartal, upp från 65 % för drygt ett år sedan och 24 % under fjärde kvartalet 59.
Facebook använder också AI för att identifiera inlägg, personliga annonser, foton och videor som bryter mot dess regler för reklam och försäljning av förbjudna föremål som droger och skjutvapen. Under det första kvartalet 2019 sa företaget att det vidtog åtgärder på cirka 900 000 inlägg relaterade till läkemedelsförsäljning, varav 83,3% upptäcktes med hjälp av artificiell intelligens. Under samma period identifierade och tog Facebook också bort cirka 670 000 inlägg om skjutvapenförsäljning, varav 69,9 % bearbetades innan moderatorer eller användare kunde stöta på dem.
Olika förbättringar av algoritmer för artificiell intelligens har lett till en minskning av den totala volymen av förbjudet innehåll som visas på Facebook. Företaget uppskattar att för varje 10 000 besök på det sociala nätverket stötte endast 11 till 14 användare på pornografiskt innehåll, och endast 25 kunde lägga märke till inlägg som innehöll grymhet och våld. När det gäller terrorism, nakenhet och sexuellt utnyttjande av barn är siffrorna ännu lägre. Facebook rapporterar att under det första kvartalet 1, för varje 2019 10 visningar på det sociala nätverket, var färre än tre för liknande innehåll.
"Genom att proaktivt övervaka kränkande inlägg tillåter den här tekniken vårt team att fokusera på att identifiera trender i hur missbrukare försöker kringgå våra restriktioner", skrev Guy Rosen, Facebooks vice vd för innehållssäkerhet, i ett blogginlägg. "Vi fortsätter att investera i teknik för att utöka vår förmåga att upptäcka olämpligt innehåll över språk och regioner."
Ett annat område där Facebook använder artificiell intelligens är spamkonton. Vid företagets årliga F8-utvecklarkonferens i San Francisco sa företagets tekniska chef Mike Schroepfe att Facebook under ett enda kvartal blockerar mer än en miljard skräppostkonton, mer än 700 miljoner falska konton och tiotals miljoner innehållsbitar som innehåller nakenhet och våld. Enligt honom är AI den främsta källan till upptäckt och motverkan i dessa kategorier. När det gäller hårda siffror stängde Facebook av 1,2 miljarder konton under fjärde kvartalet 4 och 2018 miljarder under första kvartalet 2,19.
Källa: 3dnews.ru