EU AI법, AI 생성 텍스트 워터마크 의무화 근데 쉽게 제거된다
원제 Text AI watermarks will always be trivial to remove
135 포인트댓글 171
Key Point
SynthID 등 주요 워터마크 방식들이 사실상 제거 가능하다는 기술적 분석이 높은 관심을 받았다.
핵심 요약
- EU AI법이 2026년 8월부터 발효되면 모든 AI 출력물에 감지 가능한 워터마크를 요구한다.
- 구글의 SynthID는 토큰에 점수를 부여한 뒤 상위 5개 중 점수가 높은 토큰을 선택하는 방식으로 워터마크를 적용한다.
- OpenAI와 Anthropic은 유니코드 호모글리프를 이용해 일반 공백을 다른 공백 문자로 치환하는 식의 암시적 워터마킹을 사용하는 것으로 추정된다.