페이스북은 AI가 동영상에서 얼굴을 인식하지 못하도록 하는 AI 알고리즘을 개발했다.

Facebook AI Research는 동영상에서 사람을 식별하는 것을 방지하기 위해 기계 학습 시스템을 만들었다고 주장합니다. 다음과 같은 스타트업 했다 이전의 여러 기술에서는 이미 유사한 사진 기술을 개발했지만 이 기술을 통해 처음으로 비디오 작업이 가능해졌습니다. 첫 번째 테스트에서 이 방법은 동일한 기계 학습을 기반으로 하는 현대 얼굴 인식 시스템의 작동을 방해할 수 있었습니다.

영상 자동 수정을 위한 AI는 특정 영상에 대해 별도의 학습이 필요하지 않습니다. 이 알고리즘은 사람의 얼굴을 약간 왜곡된 버전으로 대체하여 얼굴 인식 기술을 사용하여 식별하기 어렵게 만듭니다. 어떻게 작동하는지 볼 수 있습니다. 데모 영상에서.

해당 접근 방식을 설명하는 논문에서는 “얼굴 인식은 프라이버시 침해로 이어질 수 있으며, 얼굴 대체 기술을 사용하여 오해의 소지가 있는 동영상을 제작할 수 있습니다.”라고 밝혔습니다. — 최근 안면 인식 기술의 발전 및 남용과 관련된 세계적 사건으로 인해 비식별화에 성공적으로 대처하는 방법을 이해할 필요성이 높아졌습니다. 우리의 방법은 현재까지 방송을 포함한 비디오에 적합한 유일한 방법이며 문헌에 설명된 방법을 훨씬 능가하는 품질을 제공합니다.”

Facebook의 접근 방식은 적대적 자동 인코더와 신경망을 결합합니다. 훈련의 일환으로 연구원들은 얼굴을 인식하도록 훈련된 신경망을 속이려고 시도했다고 페이스북 AI 연구 엔지니어와 텔아비브 대학교 Lior Wolf 교수가 VentureBeat에 전화로 말했습니다.

“그래서 오토인코더는 얼굴을 인식하도록 훈련된 신경망의 삶을 어렵게 만들려고 노력하고 있으며 실제로 음성이나 온라인 행동 또는 기타 유형의 행동을 마스킹하는 방법을 개발해야 하는 경우에도 사용할 수 있는 범용 기술입니다. 제거해야 할 식별 가능한 정보”라고 그는 지적했다.

AI는 인코더-디코더 아키텍처를 사용하여 사람 얼굴의 왜곡되거나 왜곡되지 않은 이미지를 생성한 다음 비디오에 삽입할 수 있습니다. 페이스북은 현재 어떤 애플리케이션에서도 이 기술을 사용할 계획이 없다고 소셜 네트워크 대표가 VentureBeat에 말했습니다. 그러나 그러한 방법은 인간은 인식할 수 있지만 인공지능 시스템은 인식할 수 없는 물질을 생산할 수 있습니다.

페이스북은 현재 소셜 네트워크의 자동 얼굴 인식 문제와 관련하여 35억 달러 규모의 소송에 직면해 있습니다.

출처 : 3dnews.ru