Hugging Face PII 偵測實驗與 Presidio

Hugging Face 正在嘗試將 Microsoft Presidio（開源的 PII 偵測工具）整合至 Dataset Hub，以提供關於託管資料集中個人可識別資訊（PII）存在情況的自動報告。此計畫旨在提升透明度，協助機器學習實務者避免在未註記的敏感資料上訓練模型。

ML 資料集中 PII 的普遍性與類型

未註記的私人資訊在機器學習資料集中屢見不鮮。Hugging Face 辨識出兩大類常見出現 PII 的資料集：

  • 已標註 PII 資料集： 這類資料集專門用於訓練 PII 偵測與遮蔽模型，對於線上內容審查與匿名資料庫的建立等任務至關重要。
  • 預訓練資料集： 這類資料集通常是從網路爬蟲取得的巨量（TB 級）資料。即使進行過過濾，龐大的資料量仍常使少量敏感資訊逃過偵測模型的檢查。

PII 的隱私與效能風險

訓練資料中出現 PII 會帶來倫理與技術層面的風險。隱私問題尤為重要，因為 PII 可被用來推斷個人的敏感資訊。從技術角度看，PII 可能降低模型效能或引入偏見；例如，模型可能學會將特定的 PII 與某些結果關聯，或在推論時不小心產生訓練集中的 PII。

在 Dataset Hub 上實作 Presidio 報告

為了降低這些風險，Hugging Face 正在測試一項功能，利用 Presidio——一個結合機器學習模型與偵測模式以識別 PII 的工具。

對實務者與資料集擁有者的效用

Presidio 報告提供資料集中 PII 存在情況的估計，支援兩大主要使用情境：

  1. 對機器學習實務者： 使用者可根據報告做出是否使用該資料集進行訓練的明智決策，或在繼續前使用 Presidio 等工具進一步過濾。
  2. 對資料集擁有者： 創建者可利用這些報告驗證其 PII 過濾流程的有效性，於正式向公眾發布資料集前進行確認。

偵測範例

在使用 C4 預訓練資料集的測試案例中，Presidio 報告成功偵測出少量電子郵件與其他敏感 PII，展示了該工具在大規模資料中標示風險的能力。

合規與倫理框架

此項工作是 Hugging Face 對透明度與倫理 AI 發展更廣泛承諾的一環。Hugging Face 亦承認 CNIL（法國國家資訊與自由委員會）在 GDPR 合規及 AI 背景下個人資料議題的指導。

Sources