숨겨진 추적 신호 '스파이마크'가 확산하는 이유
원제 Spymarks, Not Watermarks
169 포인트댓글 37
Key Point
소셜미디어와 콘텐츠 제작 도구에 추적 신호가 숨겨져 퍼질 가능성이 높아지면서, 사용자가 모르게 개인정보가 기록될 수 있는 상황에 직면했다.
핵심 요약
- Google SynthID를 비롯한 AI 회사들이 이미지·음성·텍스트에 인간이 감지할 수 없는 신호를 몰래 삽입해 사용자 신원을 추적하는 '스파이마크' 기술을 개발 중이다.
- SynthID-Image는 512x512 픽셀 이미지에 64비트 데이터베이스 식별자를 인코딩할 수 있으며, 이는 사용자의 이름, 생년월일, 주소, 정치 성향 등 개인정보를 가리킬 수 있다.
- 음성·텍스트 스파이마크도 비슷한 방식으로 작동하며, 압축이나 재인코딩 후에도 추적 신호가 유지되도록 설계되었다.
- 기업들은 AI 생성 콘텐츠 식별이 목적이라 주장하지만, 단순 워터마크를 넘어 추적 메커니즘을 탑재했다.
- 기존 '워터마크'는 사용자가 쉽게 감지하고 제어할 수 있는 반면, 스파이마크는 사용자가 인식하지 못한 채 삽입되므로 프라이버시 위험이 크다.