딥페이크 탐지 기술의 한계와 새로운 인증 방식
Key Point
콘텐츠 분석 기반 딥페이크 탐지가 생성 모델의 진화 속에서 급속도로 무력화되는 현실을 보여주며, 이제는 출처 검증 없이는 이미지 인증 자체가 불가능해지고 있음을 시사한다.
핵심 요약
- 생성 모델이 고품질의 가짜 이미지를 대규모로 생산하면서 20개 딥페이크 탐지기를 10개 생성 모델로 평가한 결과, 탐지 정확도가 4년간 99.5%에서 76%로 급락했다.
- 적대적 교란 공격이 모든 탐지기의 정확도를 2% 이하로 떨어뜨려 판정을 역전시킬 수 있으며, 이는 콘텐츠 분석만으로는 출처를 판별할 수 없음을 보여준다.
- 생성 모델이 진정한 콘텐츠를 정확히 재현할 수 있으므로(기억 효과), 같은 생성 모델이 충실하게 재구성할 수 있으면 합성 출처의 '그럴듯한 부인가능성'이 성립한다.