AI 보안을 위한 Hugging Face와 Wiz 연구 파트너십

Hugging Face는 클라우드 보안 회사인 Wiz와 파트너십을 맺어 플랫폼 및 보다 넓은 AI/ML 생태계의 보안을 강화하고 있습니다. 이번 협업은 사전 취약점 관리, 클라우드 인프라 보안, 그리고 pickle과 같은 모델 포맷과 관련된 시스템 위험을 해결하는 데 초점을 맞추고 있습니다.

Wiz를 통한 플랫폼 보안 강화

Hugging Face는 두 가지 주요 메커니즘을 통해 안전한 클라우드 환경을 유지하기 위해 Wiz를 운영 워크플로에 통합했습니다:

  • Vulnerability Management: 플랫폼 전반의 보안 취약점을 식별하고 해결하기 위해 사용되는 지속적인 프로세스.
  • Cloud Security Posture Management (CSPM): 보안 설정이 유지되도록 클라우드 환경을 구성하고 모니터링하는 데 사용되는 도구.

Hugging Face에 따르면, Wiz가 제공하는 "Vulnerabilities에 대한 전체적인 시각"은 여러 Kubernetes (k8s) 클러스터, 지역 및 클라우드 제공자에 걸친 리소스 관리에 특히 유용합니다. 회사는 이 도구를 확장하여 감지된 문제의 자동 복구를 수행했으며, 특히 Hugging Face Spaces 내에서 적용되었습니다.

샌드박스 컴퓨트 취약점 해결

공동 연구의 일환으로, Wiz 보안 팀은 Hugging Face의 샌드박스 컴퓨트 환경에서 취약점을 발견했습니다. 이러한 결함은 pickle 파일을 사용하여 임의 코드를 실행할 수 있게 했습니다. Hugging Face는 이 특정 악용과 관련된 모든 문제가 해결되었으며, 앞으로의 발생을 방지하기 위해 Threat Detection 및 Incident Response 프로세스를 계속 활용하고 있다고 밝혔습니다.

Pickle 파일의 보안 위험

Pickle 파일은 임의 코드 실행을 가능하게 하는 고유한 결함 때문에 AI/ML 커뮤니티에서 중요한 보안 위험 원천입니다. Hugging Face는 이러한 파일을 완전히 금지하기보다는 "중간 입장" 방식을 채택하여 커뮤니티 활용도와 보안을 균형 있게 관리하고 있습니다.

Pickle와 관련된 위험을 완화하기 위해 Hugging Face는 다음과 같은 제어 방안을 구현했습니다:

  • Automated Scanning: 취약점을 스캔하기 위한 도구를 개발 및 배포합니다.
  • Security Labeling: 보안 취약점을 포함한 모델에 명확한 경고 라벨을 붙입니다.
  • Documentation: pickle 파일 사용 위험을 설명하는 명확한 가이드를 제공합니다.
  • Safetensors Integration: pickle 형식에 대한 안전하고 일류 대안으로 Safetensors를 홍보하고 통합합니다.

커뮤니티 보안 도구 및 모범 사례

다른 파트너와 협력하여, Hugging Face는 전체 AI 커뮤니티의 보안 위험을 낮추기 위한 여러 도구를 개발했습니다:

  • Picklescan: Microsoft와 협력하여 악성 pickle 파일을 스캔하는 도구입니다.
  • Safetensors: pickle 파일에 대한 안전한 대안으로, Trail of Bits가 EuletherAI 및 Stability AI와 협업하여 감사를 수행했습니다.
  • Scanning Services: 플랫폼에서 악성코드 스캔 및 비밀 정보 스캔을 구현합니다.
  • Bug Bounty Program: 연구자들이 보안 취약점을 보고할 수 있는 공식 프로그램입니다.

AI/ML 사용자를 위한 권장 모범 사례

보안 전문가와 사용자는 오픈 소스 모델을 다룰 때 다음 관행을 채택하는 것이 권장됩니다:

  • Avoid Pickle in Production: 프로덕션 환경에서 pickle 파일을 사용하지 말고 대신 Safetensors를 사용하세요.
  • Verify Sources: 신뢰할 수 있는 기여자의 모델만 사용하고 커밋 서명을 활용하세요.
  • Account Security: Hugging Face 계정에 다중 인증(MFA)을 활성화하세요.
  • Environment Isolation: 가상화된 비프로덕션 개발 환경에서 모델을 테스트하세요.
  • Standard Frameworks: 일반 보안 제어를 위해 OWASP Top 10을 검토하세요.

SUMMARY: Hugging Face는 Wiz와 파트너십을 맺어 고급 취약점 관리 및 클라우드 보안 자세 관리(CSPM)를 통합함으로써 플랫폼과 더 넓은 AI/ML 생태계를 보호하고 있습니다.

TITLE: AI 보안을 위한 Hugging Face와 Wiz 연구 파트너십

Sources