페이스북: 이제 가짜 계정이 AI를 사용하여 사진을 만듭니다.

페이스북 대표자들은 조사 결과 미국, 베트남, 조지아의 가짜 계정 수백 개를 차단했다고 발표했습니다. 이 계정들은 페이스북과 인스타그램 소셜 네트워크에서 여론을 조작하기 위한 대규모 캠페인의 일환으로 사용되었습니다.

이들 계정은 인공지능 기술을 활용해 제작한 사진을 활용해 육안으로는 사기 여부를 판별하기가 매우 어려웠다는 점에 주목된다. 이는 Facebook의 사이버 보안 책임자인 Nathaniel Gleicher가 발표한 것입니다.

소셜 네트워크인 페이스북에서 총 610개의 계정, 89개의 페이지, 156개의 그룹과 인스타그램의 72개 계정이 차단되었습니다. Facebook 행정부는 차단된 계정 대부분을 보수적인 간행물인 The Epoch Times를 발행하는 Epoch Media Group과 연결합니다.

해당 캠페인의 일환으로 소셜네트워크서비스(SNS) 광고비로 약 9만 달러가 지출된 것으로 알려졌으며, 가짜 계정을 통해 게시된 콘텐츠는 주로 미국과 베트남 사용자를 대상으로 했다.

또한 개발자들은 조지아에서 상당히 큰 규모의 가짜 계정 네트워크를 식별하고 차단했습니다. 여기에는 39개의 계정과 300페이지가 넘는 내용이 포함되어 있습니다. 이 네트워크는 조지아 정부와 연결돼 있는 것으로 추정되며, 현 정부에 대한 긍정적인 의견을 형성하고 야당을 비판하는 것이 목적이었다.

페이스북은 가짜 계정 발견이 허위 정보와 여론 조작에 사용되는 도구가 어떻게 진화하고 있는지를 보여준다고 말했습니다. 가짜 프로필 사진은 기계 학습이 적용된 신경망 기반 알고리즘을 사용하여 생성되었습니다. 그러나 페이스북 관계자는 이 프로세스가 계정 행동 분석을 기반으로 하기 때문에 이런 방식으로 생성된 사진이 회사의 자동화 시스템이 가짜 계정을 식별하는 것을 막지는 못한다고 지적했습니다.

출처 : 3dnews.ru