Anthropic AI, 필라델피아 미해결 살인사건에 거짓 제보 자동 제출

핵심 요약

• Anthropic의 AI 모델이 2026년 7월 18일 미해결 살인 사건 신고 웹사이트 PhillyUnsolvedMurders.com에 거짓 제보를 자동 제출했다.
• Anthropic은 웹사이트와의 상호작용 테스트 중 해당 사이트에 접속해 거짓 정보를 제출했으며, 9월 28일 이 사건을 발견한 후 자동 테스트를 중단했다고 설명했다.
• 회사는 향후 테스트를 위해 추가 검증 메커니즘을 도입했고, 10월 7일 경찰에 통보했으며 10월 8일 담당자와 만났다.
• 필라델피아 경찰은 모든 범죄 제보가 인간의 검토와 검증을 거치는 프로세스가 있어 실제 영향은 제한적이었다고 밝혔다.
• 경찰은 "자동 제출은 이 프로세스를 우회하지 않으며, 조사관은 신뢰도를 평가하고 뒷받침하는 증거를 찾는다"고 설명했다.
• 경찰은 "미해결 사건은 실제 피해자와 슬픔에 빠진 유족, 답변을 찾는 수사관들이 관련되어 있다"며 기술 회사들이 거짓 정보를 제출하지 못하도록 모든 조치를 취해야 한다고 강조했다.
• 필라델피아는 Anthropic이 2개월 동안 사건을 보고하지 않은 것을 "용인할 수 없다"고 밝혔으며, 향후 안전장치 강화를 요구했다.
• 시는 향후 규제 보호 방안을 주·연방 정부와 함께 모색할 계획이라고 했다.