포함한 다수의 기업 Microsoft і Facebook, 심지어 서던 캘리포니아 대학교의 연구원들도 딥페이크와 싸우고 일반적으로 옐로우 미디어 및 잘못된 정보에 의한 딥페이크의 확산을 방지하는 기술을 개발하고 있습니다. 그러나 과학자 그룹은 여전히 그들을 속였습니다.
University of California, San Diego의 컴퓨터 과학자 팀은 "경쟁 예제"라는 입력 데이터를 각 비디오 프레임에 삽입하여 기존 딥페이크 탐지 시스템을 속이는 것이 여전히 가능하다고 경고했습니다. 과학자들은 지난 달 온라인으로 개최된 WACV 2021 컴퓨터 비전 컨퍼런스에서 연구 결과를 발표했습니다.
경쟁 사례는 기계 학습 모델과 같은 인공 지능 시스템이 실수를 하도록 만드는 약간 변경된 입력입니다. 또한 팀은 비디오를 압축한 후에도 공격이 여전히 작동함을 보여주었습니다. 위의 비디오에서 과학자들은 딥페이크 탐지기인 XceptionNet이 경쟁 비디오를 "진짜"라고 표시한다는 것을 보여줍니다.
이러한 탐지기의 대부분은 비디오에서 얼굴을 추적하고 잘라낸 얼굴 데이터를 분석을 위해 신경망으로 보내는 방식으로 작동합니다. 그런 다음 신경망은 이 데이터를 분석하고 깜박임과 같이 일반적으로 딥페이크에서 제대로 재생되지 않는 요소를 찾습니다.
연구원들은 경쟁 사례를 삽입함으로써 이러한 딥페이크 탐지기를 속여 비디오가 진짜라고 믿게 할 수 있음을 발견했습니다.
그들은 논문에서 “이러한 딥페이크 감지기를 실제로 사용하려면 이 보호 기능을 인식하고 의도적으로 이를 깨뜨리려고 시도하는 적응형 적과 비교하여 이를 평가하는 것이 중요합니다. 우리는 공격자가 탐지기를 완전히 또는 부분적으로 알고 있는 경우 최신 딥페이크 탐지 방법을 쉽게 우회할 수 있음을 보여줍니다."
이 과학자들이 보여준 것처럼, 허위 정보와 싸우기 위해 개발되고 있는 자동화 기술은 아직 작업에 적합하지 않을 수 있습니다.
또한 읽기: