Hugging Face 与 Wiz 研究合作伙伴关系，致力于 AI 安全

Hugging Face 与云安全公司 Wiz 建立了合作伙伴关系，以提升其平台及更广泛的 AI/ML 生态系统的安全性。此次合作聚焦于主动的漏洞管理、云基础设施安全以及解决与模型格式（如 pickle）相关的系统性风险。

通过 Wiz 实现平台安全增强

Hugging Face 已将 Wiz 集成到其运营工作流中，以通过两种主要机制维护安全的云环境：

  • 漏洞管理: 用于识别并修复平台上安全漏洞的持续过程。
  • 云安全姿态管理（CSPM）: 用于配置和监控云环境，以确保安全设置保持完整的工具。

据 Hugging Face 称，Wiz 提供的“漏洞整体视图”在跨多个 Kubernetes（k8s）集群、地区和云提供商管理资源时尤为有价值。公司进一步扩展了该工具，以自动修复检测到的问题，特别是在 Hugging Face Spaces 中。

解决沙箱计算环境中的漏洞

在联合研究中，Wiz 的安全团队发现了 Hugging Face 沙箱计算环境中的漏洞。这些缺陷允许通过使用 pickle 文件执行任意代码。Hugging Face 表示，所有与此特定利用相关的问题已得到解决，并且他们将继续使用威胁检测和事件响应流程，以防止未来再次发生。

pickle 文件的安全风险

pickle 文件因其固有缺陷而允许任意代码执行，成为 AI/ML 社区的重要安全风险来源。Hugging Face 采用了“折中”方法来管理这些文件，而不是完全禁止，以在社区实用性与安全性之间取得平衡。

为降低与 pickle 相关的风险，Hugging Face 实施了以下控制措施：

  • 自动扫描: 开发并部署工具以扫描漏洞。
  • 安全标签: 对包含安全漏洞的模型进行明确警示的标签标记。
  • 文档: 提供明确指南，概述使用 pickle 文件的风险。
  • Safetensors 集成: 推广并集成 Safetensors 作为安全的一流替代 pickle 格式。

社区安全工具与最佳实践

与其他合作伙伴合作，Hugging Face 开发了多款工具，以降低整个 AI 社区的安全风险：

  • Picklescan: 与 Microsoft 合作构建的用于扫描恶意 pickle 文件的工具。
  • Safetensors: pickle 文件的安全替代方案，已由 Trail of Bits 与 EuletherAI、Stability AI 合作审计。
  • 扫描服务: 在平台上实现恶意软件扫描和机密信息扫描。
  • 漏洞赏金计划: 为研究人员提供的正式报告安全漏洞的计划。

推荐的 AI/ML 用户最佳实践

安全专业人员和用户在使用开源模型时，建议采用以下实践：

  • 在生产环境中避免使用 pickle： 不要在生产环境中使用 pickle 文件，改用 Safetensors。
  • 验证来源： 仅使用可信贡献者提供的模型，并使用提交签名。
  • 账户安全： 在 Hugging Face 账户上启用多因素认证（MFA）。
  • 环境隔离： 在虚拟化的非生产开发环境中测试模型。
  • 标准框架： 查看 OWASP Top 10，以了解通用安全控制。

Sources