Eilen Facebook Toinen raportti sosiaalisten verkostojen yhteisön standardien noudattamisen varmistamisesta. Yhtiö toimittaa tiedot ja indikaattorit ajalta tammi-maaliskuussa ja kiinnittää erityistä huomiota Facebookiin päätyvän kielletyn sisällön kokonaismäärään sekä sen prosenttiosuuteen, jonka sosiaalinen verkosto onnistui poistamaan julkaisuvaiheessa tai ainakin ennen kuin se voitiin nähdä satunnaisen sosiaalisen verkon käyttäjä. Facebook panee merkille tekoälyn (AI) erityisen roolin, jota ilman yritys ei yksinkertaisesti olisi kyennyt suodattamaan niin mieletöntä määrää sisältöä.
Facebookin mukaan tekoäly ja koneoppiminen ovat auttaneet merkittävästi vähentämään kielletyn sisällön määrää sosiaalisessa verkostossa. Kuudessa raportissa seurannetusta yhdeksästä kategoriasta yritys kertoo, että tekoälyä käyttämällä se pystyi havaitsemaan ennakoivasti 96,8 % sopimattomista viesteistä ja poistamaan ne ennen kuin kukaan ihminen ehti huomata ne (verrattuna 96,2 prosenttiin vuoden 4 neljännellä neljänneksellä). Mitä tulee vihapuheen, raportti totesi, että tekoäly auttoi tunnistamaan 2018 prosenttia yli neljästä miljoonasta tällaisesta julkaisusta, jotka poistettiin Facebookista neljännesvuosittain, kun vastaava luku oli 65 prosenttia hieman yli vuosi sitten ja 24 prosenttia vuoden 59 viimeisellä neljänneksellä.
Facebook käyttää tekoälyä myös tunnistamaan viestit, henkilökohtaiset mainokset, valokuvat ja videot, jotka rikkovat sen sääntöjä, jotka koskevat kiellettyjen tavaroiden, kuten huumeiden ja ampuma-aseiden, mainontaa ja myyntiä. Vuoden 2019 ensimmäisellä neljänneksellä yhtiö ilmoitti ryhtyneensä toimenpiteisiin noin 900 000 lääkemyyntiin liittyvän viestin suhteen, joista 83,3 % havaittiin tekoälyn avulla. Saman ajanjakson aikana Facebook myös tunnisti ja poisti noin 670 000 ampuma-aseiden myyntiä koskevaa viestiä, joista 69,9 % käsiteltiin ennen kuin moderaattorit tai käyttäjät kohtasivat ne.
Erilaiset tekoälyalgoritmien parannukset ovat johtaneet Facebookissa katsotun kielletyn sisällön kokonaismäärän laskuun. Yhtiö arvioi, että jokaista 10 000 sosiaalisen verkoston käyntiä kohden vain 11–14 käyttäjää kohtasi pornografista sisältöä ja vain 25 havaitsi julmuutta ja väkivaltaa sisältävät viestit. Mitä tulee terrorismiin, lasten alastomuuteen ja seksuaaliseen hyväksikäyttöön, luvut ovat vielä pienempiä. Facebook raportoi, että vuoden 1 ensimmäisellä neljänneksellä jokaista sosiaalisen verkoston 2019 10 katselukertaa kohden alle kolme oli samanlaista sisältöä.
"Seuraamalla ennakoivasti loukkaavia viestejä tämän tekniikan avulla tiimimme voi keskittyä tunnistamaan trendejä, jotka koskevat sitä, kuinka väärinkäyttäjät yrittävät kiertää rajoituksiamme", Guy Rosen, Facebookin sisällön turvallisuudesta vastaava varajohtaja, kirjoitti blogikirjoituksessaan. "Jatkamme investointeja teknologiaan laajentaaksemme kykyämme havaita sopimatonta sisältöä eri kielillä ja alueilla."
Toinen alue, jolla Facebook käyttää tekoälyä, ovat roskapostitilit. Yhtiön vuotuisessa F8-kehittäjäkonferenssissa San Franciscossa yhtiön teknologiajohtaja Mike Schroepfe sanoi, että Facebook estää yhden vuosineljänneksen aikana yli miljardi roskapostitiliä, yli 700 miljoonaa väärennettyä tiliä ja kymmeniä miljoonia alastomuutta sisältävää sisältöä. ja väkivaltaa. Hänen mukaansa tekoäly on näissä luokissa tärkein havaitsemisen ja vastatoimien lähde. Kovin lukujen mukaan Facebook keskeytti 1,2 miljardia tiliä vuoden 4 viimeisellä neljänneksellä ja 2018 miljardia tiliä vuoden 2,19 ensimmäisellä neljänneksellä.
Lähde: 3dnews.ru