AI는 Facebook이 금지된 콘텐츠의 최대 96,8%를 감지하고 제거하도록 돕습니다.

어제 페이스북 опубликовала 소셜 네트워크 커뮤니티 표준 준수 보장에 관한 또 다른 보고서입니다. 회사는 XNUMX월부터 XNUMX월까지의 데이터와 지표를 제공하고 Facebook에 게시되는 금지된 콘텐츠의 전체 양과 소셜 네트워크가 게시 단계에서 또는 적어도 성공적으로 제거한 비율에 특별한 주의를 기울입니다. 무작위 소셜 네트워크 사용자를 볼 수 있기 전에. Facebook은 인공 지능(AI)의 특별한 역할에 주목합니다. AI가 없었다면 회사는 이렇게 엄청난 양의 콘텐츠를 필터링할 수 없었을 것입니다.

Facebook에 따르면 인공 지능과 기계 학습은 소셜 네트워크에서 금지된 콘텐츠의 양을 크게 줄이는 데 도움이 되었습니다. 보고서에서 추적된 96,8개 카테고리 중 96,2개 카테고리에서 회사는 AI를 사용하여 부적절한 게시물의 4%를 사전에 감지하고 사람이 알아차리기 전에 삭제할 수 있었다고 밝혔습니다(2018년 65분기 24%와 비교). 증오심 표현과 관련해 보고서는 AI가 매 분기마다 페이스북에서 삭제되는 59만 개 이상의 게시물 중 4%를 식별하는 데 도움이 되었다고 밝혔습니다. 이는 2018년 전 XNUMX%, XNUMX년 XNUMX분기 XNUMX%에서 증가한 수치입니다.

Facebook은 또한 AI를 사용하여 마약, 총기 등 금지 품목의 광고 및 판매에 관한 Facebook의 규칙을 위반하는 게시물, 개인 광고, 사진 및 동영상을 식별합니다. 회사는 2019년 900분기 약 000만 건의 의약품 판매 관련 게시물에 대해 조치를 취했다고 밝혔는데, 이 중 83,3%가 인공지능을 이용해 탐지됐다. 같은 기간 페이스북은 총기 판매 관련 게시물 약 670만개를 식별해 삭제했는데, 이 중 000%는 운영자나 사용자가 접하기 전에 처리됐다.

인공지능 알고리즘의 다양한 개선으로 인해 Facebook에서 조회되는 금지된 콘텐츠의 전체 양이 감소했습니다. 회사는 소셜 네트워크를 10회 방문할 때마다 000~11명의 사용자만이 음란물을 접했으며, 잔인함과 폭력이 포함된 게시물을 발견한 사용자는 14명에 불과하다고 추정합니다. 테러, 아동 나체 노출, 성적 착취의 경우 그 수치는 훨씬 더 낮습니다. Facebook은 25년 1분기에 소셜 네트워크 조회수 2019회당 유사한 콘텐츠 조회수가 10회 미만이라고 보고했습니다.

페이스북의 콘텐츠 안전 담당 부사장인 가이 로젠(Guy Rosen)은 블로그 게시물에서 “이 기술을 통해 악의적인 게시물을 사전에 모니터링함으로써 학대자가 우리의 제한을 우회하려는 경향을 파악하는 데 집중할 수 있습니다.”라고 밝혔습니다. “우리는 언어와 지역 전반에 걸쳐 부적절한 콘텐츠를 탐지하는 능력을 확장하기 위해 기술에 계속 투자하고 있습니다.”

페이스북이 인공지능을 활용하는 또 다른 영역은 스팸 계정이다. 샌프란시스코에서 열린 회사의 연례 F8 개발자 컨퍼런스에서 회사의 최고 기술 책임자인 Mike Schroepfe는 Facebook이 한 분기에 700억 개 이상의 스팸 계정, 1,2억 개 이상의 가짜 계정 및 누드가 포함된 수천만 개의 콘텐츠를 차단한다고 말했습니다. 그리고 폭력. 그에 따르면 AI는 이러한 범주에서 탐지 및 대응의 주요 소스입니다. 엄밀히 말하면 페이스북은 4년 2018분기에 2,19억 개의 계정을 정지했고, 1년 2019분기에는 XNUMX억 XNUMX천만 개의 계정을 정지했습니다.

출처 : 3dnews.ru