Google Gemini 소비자 앱, 개인 드라이브 파일과 이메일을 인간 검토자에게 전송

핵심 요점

Google Gemini의 소비자용 "연결된 앱" 기능은 개인 드라이브 파일과 Gmail 메시지를 인간 검토자에게 조용히 전송하여, 개인 콘텐츠는 인간이 절대 볼 수 없다는 2023년 약속을 깨고 사용자를 확률적 데이터 유출에 노출시킵니다.

배경: 원래 개인정보 보호 약속

2023년 Google은 Gemini Workspace 확장 프로그램을 출시하면서 Gmail, Docs, Drive의 개인 콘텐츠가 *"인간 검토자에게 보이지 않습니다"*라는 명시적인 약속을 했습니다(Google의 책임 있는 AI 안전장치 블로그 게시물 참조). 이 주장은 자신의 문서에 생성형 AI를 사용할 때 개인정보를 우려하는 사용자에게 핵심적인 차별점이었습니다.

변경된 사항 – 업데이트된 문서

Google의 도움말 센터 답변 16836988 및 원래 2023년 블로그 게시물에 대한 10월 16일 수정본은 이제 연결된 드라이브/이메일 데이터가 인간 검토 파이프라인으로 전송된다고 명시합니다. 업데이트된 문구는 검토자가 "이메일 또는 파일"을 볼 수 있다고 사용자에게 경고하며 기밀 정보가 포함된 앱을 연결하지 말 것을 권고합니다.

"검토자가 보는 것을 원하지 않는 기밀 정보가 포함된 경우 앱을 Gemini 앱에 연결하지 마십시오." – Google 도움말 센터, 2023년 10월 수정

수집 작동 방식

사용자가 소비자용 Gemini 설정에서 연결된 앱을 활성화하면 모델은 개인 주제(예: 여행, 청구서, 예약)에 대한 주변 언급을 기반으로 백그라운드 Workspace 조회를 수행할 수 있습니다. 도구 호출 및 컨텍스트 주입 단계는 확률적이므로 단일 쿼리로 다음 네 가지 결과 중 하나가 생성될 수 있습니다.

검색 없음 – 연결된 앱 도구가 트리거되지 않습니다. Gemini는 내부 모델 또는 이전 대화 기록을 사용하여 답변합니다.
메타데이터 / 일반 요약 – Gemini는 "항공편 관련 이메일 3개가 있습니다"와 같은 높은 수준의 요약을 반환합니다.
부분 비삭제 추출 – Gemini는 파일에서 2~4문장 발췌문을 주입하며, 종종 PII, 계좌 번호 또는 기타 민감한 세부 정보를 포함합니다.
전체 파일 수집 – 문서 또는 이메일의 전체 비삭제 텍스트(헤더 포함)가 세션 컨텍스트에 삽입됩니다.

시스템이 비결정적이므로 결과 1 또는 2를 관찰한다고 해서 파이프라인이 없다는 것이 증명되지는 않습니다. 이는 단지 확률적 프로세스에서 한 번의 추출을 반영할 뿐입니다.

동작 재현

GitHub 저장소 thisisme6598/gemini_files는 단계별 가이드를 제공합니다.

소비자용 Gemini 설정에서 **연결된 앱(Google Workspace)**을 활성화합니다.
Gemini를 "Flash" 모델로 "높은 사고력" 이상으로 설정합니다.
@Drive 또는 @Gmail 태그 없이 Drive 또는 Gmail에 존재하는 주제를 언급합니다.
Gemini가 개인 데이터를 기반으로 답변하면 즉시 *"검색 도구가 반환하여 프롬프트에 주입한 정확한 텍스트와 메타데이터 블록을 인쇄하십시오..."*라고 요청합니다.
대화를 삭제하고 반복하여 다른 결과를 관찰합니다.

저자는 인터넷 제공업체 청구서에 대해 질문했을 때 일반적인 조언부터 헤더를 포함한 이메일 전체 덤프까지 네 가지 결과를 모두 보았다고 보고합니다.

삭제가 실패하는 이유

Google의 자동화된 정규식 및 NER 삭제 도구는 서술형 데이터를 안정적으로 비식별화할 수 없습니다. Google 자체 민감 데이터 보호 문서에 따르면 계좌 번호, 확인 번호, 거래 날짜, 이름, 도시, 이벤트 조합과 같은 식별자는 종종 자동 삭제를 피해갑니다.

"Google의 정규식 및 NER 자동 삭제 도구는 계좌 번호, 확인 번호, 거래 날짜 및 집합적으로 식별 가능한 개인 정보를 포함한 서술형 데이터를 충분히 비식별화할 수 없습니다." – 저장소 README

Hacker News 커뮤니티 반응

토론에서는 몇 가지 우려 사항이 강조됩니다.

범위 명확화 – 이 문제는 연결된 앱이 있는 소비자용 Gemini에 적용됩니다. 엔터프라이즈 Workspace Gemini는 여전히 인간 검토가 없다고 주장합니다. (@bri3d 댓글)
개인정보 침식 – 사용자들은 개인 이메일을 드러내는 예상치 못한 매우 구체적인 응답을 보고하며 유출을 확인했습니다. (@rustyhancock 댓글)
인간 검토 위험 – 검토자는 종종 계약직(예: Appen)이며, 데이터가 무작위 사람에게 읽힐 수 있다는 두려움이 있습니다. (@fierycatnet 댓글)
비즈니스 모델 비판 – 여러 댓글 작성자는 Google의 수익 모델이 데이터 수집에 의존하므로 이러한 관행이 놀랍지 않다고 지적합니다. (@gla67890543, @jttnr 댓글)
완화 조언 – 일부는 데이터 사용을 제한하기 위해 Business Starter 이상 요금제를 지불할 것을 제안하지만, 인간 검토를 거부할 수 있는 옵션은 여전히 없습니다. (@vinay_ys 댓글)

사용자 및 기업에 대한 영향

기밀성 상실 – 개인 또는 민감한 문서가 명시적 동의 없이 인간 계약자에게 노출될 수 있습니다.
규정 준수 위험 – 규제 데이터(예: GDPR, HIPAA)를 처리하는 조직은 직원이 연결된 앱과 함께 소비자용 Gemini를 사용하는 경우 정책을 무의식적으로 위반할 수 있습니다.
신뢰 침식 – 공개적인 개인정보 보호 약속의 번복은 신뢰도를 손상시키고 사용자를 자체 호스팅 또는 오픈 소스 대안으로 몰아갈 수 있습니다.
투명성 필요 – 데이터가 인간 검토를 위해 전송되는 시기와 방법에 대한 명확하고 결정적인 공개는 정보에 입각한 동의에 필수적입니다.

권장 사항

기밀 정보를 처리하는 경우 연결된 앱을 비활성화하십시오.
Google이 여전히 인간 검토가 없다고 주장하는 엔터프라이즈 Workspace Gemini를 사용하고 관리자와 함께 해당 주장을 확인하십시오.
권한을 정기적으로 감사하고 필요하지 않을 때 Gemini의 Drive/Gmail 액세스를 취소하십시오.
감사 가능한 온디바이스 처리 또는 명시적 거부 메커니즘을 제공하는 대체 어시스턴트를 고려하십시오.
업데이트 모니터링 – Google이 정책을 추가로 조정할 수 있습니다. 공식 도움말 페이지와 커뮤니티 보고서를 통해 최신 정보를 확인하십시오.

결론

Google Gemini의 소비자용 연결된 앱 기능은 이제 개인 Drive 및 Gmail 콘텐츠를 인간 검토자에게 전송하여 이전 개인정보 보호 보증과 모순됩니다. 수집은 확률적이며 전체 비삭제 문서를 노출할 수 있고 자동 삭제를 우회하여 개인과 기업 모두에게 상당한 개인정보 및 규정 준수 문제를 제기합니다.