Hugging Face 與 Wiz 研究合作夥伴關係：AI 安全

Hugging Face 已與雲端安全公司 Wiz 合作，提升其平台及更廣泛 AI/ML 生態系統的安全性。此合作聚焦於主動式漏洞管理、雲端基礎設施安全，以及針對 pickle 等模型格式的系統性風險處理。

透過 Wiz 強化平台安全

Hugging Face 已將 Wiz 整合至其運營工作流程，以透過兩項主要機制維持安全的雲端環境：

• Vulnerability Management（漏洞管理）: 一個持續的流程，用於識別並修復平台上的安全漏洞。
• Cloud Security Posture Management（CSPM）: 用於配置與監控雲端環境的工具，以確保安全設定保持完整。

根據 Hugging Face 的說法，Wiz 所提供的「漏洞全景觀」對於跨多個 Kubernetes（k8s）叢集、區域與雲端供應商管理資源特別有價值。公司進一步擴展此工具，以自動修復偵測到的問題，特別是在 Hugging Face Spaces 中。

應對沙盒計算環境漏洞

在共同研究中，Wiz 的安全團隊發現 Hugging Face 沙盒計算環境中的漏洞。這些缺陷允許透過 pickle 檔案執行任意程式碼。Hugging Face 表示，與此特定漏洞相關的所有問題皆已解決，且持續使用威脅偵測與事件回應流程，以防止未來再次發生。

Pickle 檔案的安全風險

由於固有的缺陷允許任意程式碼執行，Pickle 檔案在 AI/ML 社群中是重要的安全風險來源。Hugging Face 採取「折衷」方式管理這些檔案，而非完全禁用，以在社群實用性與安全性之間取得平衡。

為降低與 pickle 相關的風險，Hugging Face 已實施以下控制措施：

• Automated Scanning（自動掃描）: 開發與部署工具以掃描漏洞。
• Security Labeling（安全標籤）: 為含有安全漏洞的模型加上明確警示標籤。
• Documentation（文件說明）: 提供清晰指南，說明使用 pickle 檔案的風險。
• Safetensors Integration（Safetensors 整合）: 推廣並整合 Safetensors 作為安全且一流的 pickle 替代格式。

社群安全工具與最佳實踐

與其他合作夥伴共同合作，Hugging Face 開發了多項工具，以降低整個 AI 社群的安全風險：

• Picklescan: 與 Microsoft 合作開發的工具，用於掃描惡意 pickle 檔案。
• Safetensors: pickle 檔案的安全替代方案，已由 Trail of Bits 與 EuletherAI 及 Stability AI 共同審核。
• Scanning Services（掃描服務）: 在平台上實施惡意軟體掃描與機密資訊掃描。
• Bug Bounty Program（漏洞懸賞計畫）: 為研究人員提供正式的安全漏洞回報管道。

推薦的 AI/ML 使用者最佳實踐

建議安全專業人員與使用者在使用開源模型時，採取以下實踐：

• Avoid Pickle in Production（在生產環境避免使用 Pickle）: 不要在生產環境使用 pickle 檔案，請改用 Safetensors。
• Verify Sources（驗證來源）: 僅使用可信貢獻者的模型，並使用提交簽名。
• Account Security（帳號安全）: 為 Hugging Face 帳號啟用多因素驗證（MFA）。
• Environment Isolation（環境隔離）: 在虛擬化、非生產的開發環境中測試模型。
• Standard Frameworks（標準框架）: 參考 OWASP Top 10 以了解一般安全控制。