구글 Gemini, 개인 메일과 드라이브 파일을 인간 검수자에게 전달
원제 Google Gemini routes personal Drive files and emails to human annotators
321 포인트댓글 73
Key Point
구글이 개인정보 보호를 명시적으로 약속한 제품에서 그 약속을 몰래 철회했고, 사용자 동의 없이 민감한 개인정보가 계약직 검수자에게 노출될 수 있으며, 이 과정이 감지하거나 통제하기 어렵게 설계되어 있기 때문이다.
핵심 요약
- 구글이 2023년 Gemini Workspace 출시 당시 개인 Gmail·Docs·Drive 콘텐츠는 인간 검수자가 보지 않는다고 명시했으나, 10월 16일 공식 문서를 수정해 개인 파일과 이메일이 인간 검수 파이프라인으로 라우팅된다고 확인했다.
- 사용자가 @Drive나 @Gmail 태그를 사용하지 않은 일상적인 대화에서도 자동으로 개인 정보(여행, 청구서, 이름, 예약 등)가 배경에서 검색 트리거되며, 이 과정은 확률적이다.
- LLM 도구 호출의 확률적 특성으로 인해 같은 쿼리도 네 가지 결과를 낼 수 있다: ① 검색 안 함, ② 메타데이터/요약만 제공, ③ 민감한 개인정보를 포함한 2~4문장 인용, ④ 전체 파일 내용 그대로 입력.
- 테스트 결과 구글의 자동 재식별 제거 도구로는 계좌번호, 확인번호, 거래 날짜 등 항목별 식별 정보와 개인 정보 조합(특정 이름+도시+행사)을 충분히 가린다.
- 실제 테스트에서 인터넷 청구서 이메일을 두고 "인터넷 요금이 너무 비싼지 궁금해"라고 물었을 때 모두 네 가지 시나리오가 발생했으며, 최악의 경우 전체 이메일 헤더까지 모두 노출되었다.
- 구글은 원래 Workspace 통합을 인간 검수로부터의 엄격한 격리를 보장하며 판매했으나, 그 격리가 해제되었고 일상 대화 중 전체 파일이 확률적으로 수집되어 계약직 검수자에 의해 검토될 수 있다.