Hacker NewsAI · 머신러닝

AI가 도리토스를 총으로 오인해 흑인 학생들 체포·수색

원제 Black high school students sue after AI mistakes Doritos bag for gun

106 포인트댓글 75
Key Point

교실 보안 시스템의 AI 오류가 무고한 학생들을 경찰에 체포시킨 사건으로, 공공 안전에 사용되는 미검증 AI의 위험성을 보여주며 한국 학교의 감시 시스템 도입 시에도 고려해야 할 쟁점입니다.

핵심 요약

  • 2025년 10월 미국 메릴랜드주 볼티모어 카운티 고등학교에서 AI 총기 탐지 시스템 '옴니얼럿 건 디텍트(Omnilert Gun Detect)'가 학생의 과자봉지를 총으로 오인했다.
  • 시스템이 90% 확률로 총기가 있다고 오경보를 울렸고, 학교 직원과 경찰이 이미지를 검토해 착오임을 확인했음에도 경보가 계속 울렸다.
  • 학교와 경찰이 경보를 취소했으나 취소된 경보가 무장 경찰 출동을 계속 유발하는 프로토콜 결함이 있었다.
  • 무장 경찰이 출동해 흑인 학생 4명을 무릎을 꿇게 하고 수갑을 채워 수색했다.
  • 흑인 인권 변호사 위원회(Lawyers' Committee for Civil Rights Under Law)가 옴니얼럿, 학교 당국, 경찰을 상대로 연방 헌법 위반, 과실 혐의로 소송을 제기했다.
  • 시스템은 오경보를 자주 발생시켜 왔으나 학교가 계속 사용했다.
  • 소송은 경찰과 학교가 AI 위협 탐지 시스템의 보고서를 검증하고, 교육 시설에 적합한지 재평가하고, 거짓 경보가 무장 출동을 유발하지 않도록 절차를 개선할 것을 요구한다.
  • 이 사건은 생사가 달린 상황에서 정확성이 필수적인 공공 안전 분야의 AI 신뢰성 문제를 드러내고 있으며, AI의 오류가 흑인과 소수민족에게 불균형적으로 영향을 미친다고 변호사 위원회는 지적했다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗