Hugging Face와 Presidio를 활용한 PII 탐지 실험

Hugging Face는 머신러닝 데이터셋에서 개인정보(PII)의 존재 여부를 자동으로 보고하는 Microsoft Presidio를 Dataset Hub에 통합하는 실험을 진행하고 있습니다. 이 이니셔티브는 투명성을 높이고 머신러닝 실무자들이 문서화되지 않은 민감 데이터를 사용해 모델을 학습하는 것을 방지하도록 돕는 것을 목표로 합니다.

머신러닝 데이터셋에서 PII의 빈도와 유형

문서화되지 않은 개인 정보는 머신러닝 데이터셋에서 반복적으로 발생하는 문제입니다. Hugging Face는 PII가 흔히 발견되는 데이터셋을 두 가지 주요 범주로 구분합니다:

주석이 달린 PII 데이터셋: 이 데이터셋은 PII 탐지 및 마스킹 모델을 학습시키기 위해 특별히 만들어진 것으로, 온라인 콘텐츠 검토 및 익명화된 데이터베이스 생성과 같은 작업에 필수적입니다.
사전 학습 데이터셋: 이 데이터셋은 일반적으로 웹 크롤링을 통해 얻은 테라바이트 규모의 방대한 데이터이며, 필터링을 시도하더라도 방대한 데이터 양 때문에 소량의 민감한 정보가 탐지 모델을 통과할 수 있습니다.

PII의 프라이버시 및 성능 위험

학습 데이터에 PII가 포함되면 윤리적 위험과 기술적 위험이 모두 발생합니다. 개인정보 보호 문제가 가장 중요하며, PII는 개인에 대한 민감한 정보를 추론하는 데 사용될 수 있습니다. 기술적인 관점에서는 PII가 모델 성능을 저하시키거나 편향을 초래할 수 있습니다. 예를 들어, 모델이 특정 PII와 특정 결과를 연관짓게 학습하거나 추론 시 학습 데이터에서 PII를 무의식적으로 생성할 수 있습니다.

Dataset Hub에 Presidio 보고서 적용하기

이러한 위험을 완화하기 위해 Hugging Face는 머신러닝 모델과 탐지 패턴을 결합하여 PII를 식별하는 도구인 Presidio를 활용하는 기능을 테스트하고 있습니다.

실무자와 데이터셋 소유자를 위한 활용도

Presidio 보고서는 데이터셋 내 PII 존재 여부를 추정하여 두 가지 주요 활용 사례를 가능하게 합니다:

ML 실무자를 위해: 사용자는 데이터셋을 학습에 사용할지, 혹은 진행하기 전에 Presidio와 같은 도구를 사용해 추가 필터링이 필요한지를 판단할 수 있습니다.
데이터셋 소유자를 위해: 제작자는 이러한 보고서를 활용해 데이터셋을 공개하기 전에 PII 필터링 과정의 효과성을 검증할 수 있습니다.

탐지 예시

C4 사전 학습 데이터셋을 사용한 테스트 사례에서 Presidio 보고서는 소량의 이메일 및 기타 민감한 PII를 탐지했으며, 이는 대규모 데이터에서 위험을 표시할 수 있는 도구의 능력을 보여줍니다.

규정 준수 및 윤리적 프레임워크

이 노력은 투명성과 윤리적 AI 개발에 대한 광범위한 약속의 일환입니다. Hugging Face는 GDPR 준수와 AI 맥락에서 개인 데이터 문제를 다루는 데 있어 CNIL(Commission Nationale de l'Informatique et des Libertés)의 지침을 인정합니다.