Google Gemini コンシューマーアプリ、個人の Drive ファイルとメールを人間のアノテーターにルーティング

要点

Google Gemini のコンシューマー向け「Connected Apps」機能は、個人の Drive ファイルや Gmail メッセージを人間のアノテーターに静かにルーティングしており、2023 年の「個人コンテンツは人間の目に触れることはない」という約束を破り、ユーザーを確率的なデータ漏洩にさらしています。

背景: 当初のプライバシーコミットメント

2023 年、Google は Gemini Workspace 拡張機能を立ち上げ、Gmail、Docs、Drive からの個人コンテンツは 「人間のレビュー担当者には見られない」 と明示的に約束しました(Google の責任ある AI ガードレールに関するブログ投稿を参照)。この主張は、自身のドキュメントに生成 AI を使用する際にプライバシーを懸念するユーザーにとって、重要な差別化要因でした。

変更点 – 更新されたドキュメント

Google のヘルプセンターの回答 16836988 と、2023 年のブログ投稿への 10 月 16 日の編集により、接続された Drive/メールデータが人間のレビューパイプラインにルーティングされる ことが明記されました。更新された文言は、レビュー担当者が「メールまたはファイル」を見る可能性があることをユーザーに警告し、機密情報を含むアプリを接続しないようアドバイスしています。

「レビュー担当者に見られたくない機密情報が含まれている場合は、Gemini アプリにアプリを接続しないでください。」 – Google ヘルプセンター、2023 年 10 月編集

取り込みの仕組み

ユーザーがコンシューマー版 Gemini 設定で Connected Apps を有効にすると、モデルは、個人のトピック(旅行、請求書、予約など)への 周辺的な 言及に基づいて、バックグラウンドで Workspace ルックアップを実行できます。ツール呼び出しとコンテキスト注入のステップは 確率的 であり、単一のクエリで次の 4 つの結果のいずれかが生成される可能性があります。

ゼロ取得 – Connected Apps ツールはトリガーされません。Gemini は内部モデルまたは以前の会話履歴を使用して回答します。
メタデータ / 一般的な要約 – Gemini は「フライトに関するメールが 3 通あります」などの高レベルの要約を返します。
部分的な非編集抽出 – Gemini は、ファイルから 2〜4 文の抜粋を注入します。多くの場合、PII、アカウント番号、その他の機密情報が含まれます。
ファイル全体の取り込み – ドキュメントまたはメールの全文(ヘッダーを含む)がセッションコンテキストに挿入されます。

システムは非決定的であるため、結果 1 または 2 を観察しても、パイプラインが存在しないことを証明するものではありません。それは単に、確率的プロセスからの 1 回の抽出を反映しているにすぎません。

動作の再現

GitHub リポジトリ thisisme6598/gemini_files は、ステップバイステップのガイドを提供しています。

コンシューマー版 Gemini 設定で Connected Apps (Google Workspace) を有効にします。
Gemini を「Flash」モデルで「High Thinking」以上に設定します。
@Drive や @Gmail タグを 使用せずに、Drive または Gmail に存在するトピックに言及します。
Gemini が個人データに基づいて回答した場合は、すぐに 「取得ツールが返してプロンプトに注入した正確なテキストとメタデータブロックを印刷してください...」 と依頼します。
会話を削除して繰り返し、異なる結果を観察します。

著者は、インターネットプロバイダーの請求書について問い合わせた際、一般的なアドバイスからヘッダーを含むメールの完全なダンプまで、4 つの結果すべてを確認したと報告しています。

スクラビングが失敗する理由

Google の自動正規表現および NER スクラバーは、物語データを確実に匿名化できません。Google 自身の Sensitive Data Protection ドキュメントによると、アカウント番号、確認番号、取引日、および名前、都市、イベントの組み合わせなどの識別子は、自動編集を生き残ることがよくあります。

「Google の正規表現および NER 自動スクラバーは、アカウント番号、確認番号、取引日、および集合的に識別される個人情報を含む物語データを十分に匿名化できません。」 – リポジトリ README

Hacker News でのコミュニティの反応

議論では、いくつかの懸念が浮き彫りにされています。

範囲の明確化 – この問題は、Connected Apps を使用した Consumer Gemini に適用されます。Enterprise Workspace Gemini は、依然として人間によるレビューがないと主張しています。(@bri3d によるコメント)
プライバシーの侵食 – ユーザーは、個人のメールを明らかにする予期しない、非常に具体的な応答を報告し、漏洩を確認しています。(@rustyhancock によるコメント)
人間によるレビューのリスク – レビュー担当者は多くの場合、請負業者(例: Appen)であり、データが無作為な人々に読まれる可能性があるという懸念が生じています。(@fierycatnet によるコメント)
ビジネスモデルへの批判 – 数人のコメンテーターは、Google の収益モデルがデータ収集に依存しているため、このような慣行は驚くべきことではないと指摘しています。(@gla67890543、@jttnr によるコメント)
緩和策のアドバイス – 一部は、データ使用を制限するために Business Starter 以上のプランの支払いを提案していますが、人間によるレビューをオプトアウトする機能は依然として利用できません。(@vinay_ys によるコメント)

ユーザーと企業への影響

機密性の喪失 – 個人または機密のドキュメントが、明示的な同意なしに人間の請負業者に公開される可能性があります。
コンプライアンスリスク – 規制対象データ(例: GDPR、HIPAA)を扱う組織は、従業員が Connected Apps で Consumer Gemini を使用すると、意図せずポリシーに違反する可能性があります。
信頼の侵食 – 公的なプライバシー約束の撤回は、信頼性を損ない、ユーザーをセルフホストまたはオープンソースの代替手段に追いやる可能性があります。
透明性の必要性 – データが人間によるレビューに送信される時期と方法について、明確で決定的な開示が、情報に基づいた同意のために不可欠です。

推奨事項

機密情報を扱う場合は、Connected Apps を無効にします。
Google が依然として人間によるレビューがないと主張している Enterprise Workspace Gemini を使用し、管理者にその主張を確認します。
アクセス許可を定期的に監査し、不要な場合は Drive/Gmail への Gemini のアクセスを revoke します。
監査可能なオンデバイス処理または明示的なオプトアウトメカニズムを提供する 代替アシスタントを検討します。
更新を監視します – Google はポリシーをさらに調整する可能性があります。公式ヘルプページとコミュニティレポートを通じて最新情報を入手してください。

結論

Google Gemini のコンシューマー向け Connected Apps 機能は、現在、個人の Drive および Gmail コンテンツを人間のアノテーターにルーティングしており、以前のプライバシー保証と矛盾しています。取り込みは確率的であり、完全な非編集ドキュメントを公開する可能性があり、自動スクラビングをバイパスするため、個人と企業の両方にとって重大なプライバシーとコンプライアンスの懸念が生じます。