Claude에 위협 글 작성한 여성, 중죄 혐의로 체포
원제 Anthropic reported diary entry to police, woman faces felony charge
162 포인트댓글 111
Key Point
AI 서비스 제공자의 안전 리포팅 의무와 사용자의 프라이버시 경계선이 실제 법집행으로 이어진 사건으로, 챗봇 사용자가 알아야 할 법적 결과를 보여준다.
핵심 요약
- 플로리다 여성이 Claude를 일기장처럼 사용하며 보안관청 사격을 계획한다고 작성한 후 중죄 혐의로 기소됐다.
- 9월 26일 보니타 스프링스의 칼리 미셸 헬러는 보안관청 공격을 예고하는 글을 작성했으며, 본인은 Claude를 '일기'처럼 사용 중이라고 밝혔다.
- Claude의 안전 시스템이 이 글을 플래그했고 인간 검토자가 신용할 만한 위협으로 판단해 경찰에 보고했다.
- Anthropic은 사망이나 심각한 신체 상해를 예방하기 위해 필요하다고 판단한 제한된 긴급 상황에서 사용자 정보를 공개할 수 있다고 명시했다.
- 헬러는 플로리다 법령 836.10에 따라 누군가를 살상·상해하거나 집단 총격·테러 행위를 한다고 위협하는 글을 작성·게시한 혐의로 2급 중죄 기소를 받았다.
- 위협은 다른 사람이 볼 수 있는 방식으로 전달되어야 한다는 조건이 있다.
- OpenAI는 지난달 캐나다 집단 총격 사건을 예측했을 가능성에 대한 소송을 받았고, 총격범은 총기 폭력 관련 대화로 OpenAI 안전팀에 플래그됐으나 경찰에 신고되지 않았다.
- 6월 플로리다는 ChatGPT가 2025년 플로리다주립대학교 총격 사건을 포함한 실제 피해에 기여했다고 주장하며 OpenAI를 고소했다.
- 이번 사건은 챗봇에 입력하는 내용이 비공개 일기가 아니며 법적 문제를 초래할 수 있다는 점을 상기시킨다.