Hacker News보안오늘의 주요

구글 Gemini, 개인 메일과 드라이브 파일을 인간 검수자에게 전달

원제 Google Gemini routes personal Drive files and emails to human annotators

321 포인트댓글 73
Key Point

구글이 개인정보 보호를 명시적으로 약속한 제품에서 그 약속을 몰래 철회했고, 사용자 동의 없이 민감한 개인정보가 계약직 검수자에게 노출될 수 있으며, 이 과정이 감지하거나 통제하기 어렵게 설계되어 있기 때문이다.

핵심 요약

  • 구글이 2023년 Gemini Workspace 출시 당시 개인 Gmail·Docs·Drive 콘텐츠는 인간 검수자가 보지 않는다고 명시했으나, 10월 16일 공식 문서를 수정해 개인 파일과 이메일이 인간 검수 파이프라인으로 라우팅된다고 확인했다.
  • 사용자가 @Drive나 @Gmail 태그를 사용하지 않은 일상적인 대화에서도 자동으로 개인 정보(여행, 청구서, 이름, 예약 등)가 배경에서 검색 트리거되며, 이 과정은 확률적이다.
  • LLM 도구 호출의 확률적 특성으로 인해 같은 쿼리도 네 가지 결과를 낼 수 있다: ① 검색 안 함, ② 메타데이터/요약만 제공, ③ 민감한 개인정보를 포함한 2~4문장 인용, ④ 전체 파일 내용 그대로 입력.
  • 테스트 결과 구글의 자동 재식별 제거 도구로는 계좌번호, 확인번호, 거래 날짜 등 항목별 식별 정보와 개인 정보 조합(특정 이름+도시+행사)을 충분히 가린다.
  • 실제 테스트에서 인터넷 청구서 이메일을 두고 "인터넷 요금이 너무 비싼지 궁금해"라고 물었을 때 모두 네 가지 시나리오가 발생했으며, 최악의 경우 전체 이메일 헤더까지 모두 노출되었다.
  • 구글은 원래 Workspace 통합을 인간 검수로부터의 엄격한 격리를 보장하며 판매했으나, 그 격리가 해제되었고 일상 대화 중 전체 파일이 확률적으로 수집되어 계약직 검수자에 의해 검토될 수 있다.
AI 요약 안내

AI가 한국어로 정리한 내용입니다. 정확한 정보는 원문을 확인해 주세요.

요약 원칙 ↗