Hugging Face 與 Protect AI 合作，為模型安全新增 Guardian 掃描器

TL;DR

Hugging Face 宣佈與 Protect AI 建立合作夥伴關係，將 Protect AI 的 Guardian 掃描器整合至 Hub，會自動檢查每個公開模型是否存在危險的序列化漏洞，例如惡意 pickle 或 Keras Lambda 層。此舉透過提供無摩擦、大規模的程式碼執行威脅偵測，提升整個機器學習社群的模型安全。

模型安全回顧

Hugging Face 說明模型共享涉及序列化權重、設定與輔助資料結構。某些序列化格式——尤其是 Python 的 pickle——容易受到任意程式碼執行攻擊。其他格式也已被證實存在漏洞，例如可執行惡意程式碼的 Keras Lambda 層。為了降低這些風險，Hugging Face 先前發布了 picklescan 等工具，現在則整合了 Protect AI 的 Guardian 掃描器，能偵測多種檔案格式的漏洞。Guardian 的知識庫會持續以新簽名更新，將保護範圍從 pickle 擴展至其他易受攻擊的格式。

整合細節

此合作需要將 Guardian 作為第三方掃描器嵌入 Hub 的安全管線中。同時，Hugging Face 重新設計了 Hub UI，直接向使用者展示掃描結果。新的 UI 元素包括：

  • 顯示每個第三方掃描狀態的清單檢視。
  • 顯示儲存庫整體安全掃描器狀態的橫幅。
  • 在執行 pickle‑import 掃描時出現的專屬「Pickle」按鈕。

這些元件會自動顯示；模型作者無需採取任何操作。只要檔案推送至公開儲存庫，Guardian 便會執行掃描，結果會顯示在 UI 中。示例儲存庫 — mcpotato/42-eicar-street — 展示了此功能的實際運作。

規模與影響

Hugging Face 表示已在 超過 1 百萬個模型儲存庫 中掃描了 數億個檔案。雖然掃描排程可能導致部分新上傳的模型無法即時處理，但自動化系統確保了持續且全社群的保護。透過降低安全模型共享的摩擦，此合作旨在促進更安全的 AI 創新，並鼓勵更廣泛的生態系參與。

如何參與

有意提供掃描資訊或加入安全合作的組織或個人，可透過 security@huggingface.co 與 Hugging Face 聯繫。更多 Hub 安全相關文件可於 https://huggingface.co/docs/hub/security 取得。

本文根據 Hugging Face 官方部落格文章「Hugging Face Teams Up with Protect AI: Enhancing Model Security for the ML Community」於 2024‑10‑22 發布的內容撰寫。

Sources