Hugging Face、Protect AIと提携しモデルセキュリティ向上のためGuardianスキャナーを追加

TL;DR

Hugging FaceはProtect AIとの提携を発表し、Protect AIのGuardianスキャナーをHubに統合しました。これにより、悪意のあるpickleやKeras Lambdaレイヤーなどの危険なシリアライズ脆弱性をすべての公開モデルに対して自動的にチェックします。この取り組みは、コード実行脅威の摩擦なく大規模な検出を提供することで、機械学習コミュニティ全体のモデルセキュリティを向上させます。

モデルセキュリティの概要

Hugging Faceは、モデル共有が重み、設定、補助データ構造のシリアライズを伴うことを説明しています。いくつかのシリアライズ形式—特にPythonのpickle—は任意コード実行攻撃に対して脆弱です。他の形式でも脆弱性が実証されており、例えば悪意あるコードを実行できるKeras Lambdaレイヤーがあります。これらのリスクを軽減するため、Hugging Faceは以前にpicklescanなどのツールをリリースし、現在はProtect AIのGuardianスキャナーを組み込み、複数のファイル形式にわたる脆弱性を検出しています。Guardianのナレッジベースは新しいシグネチャで継続的に更新され、pickle以外の追加の脆弱形式にも保護を拡張しています。

統合の詳細

この提携により、GuardianをHubのセキュリティパイプライン内のサードパーティスキャナーとして組み込む必要がありました。その過程で、Hugging FaceはHub UIを刷新し、スキャン結果をユーザーに直接表示できるようにしました。新しいUI要素は以下です：

  • 各サードパーティスキャンのステータスを示すリストビュー。
  • リポジトリ全体のセキュリティスキャナのステータスを示すバナー。
  • pickleインポートスキャンが実行されたときに表示される専用の「Pickle」ボタン。

これらのコンポーネントは自動的に表示され、モデル作者が何らかの操作を行う必要はありません。ファイルが公開リポジトリにプッシュされるとすぐに、Guardianがスキャンを実行し、結果がUIに表示されます。例として、リポジトリ mcpotato/42-eicar-street がこの機能を実際に示しています。

スケールとインパクト

Hugging Faceは、すでに数億件のファイルを、100万以上のモデルリポジトリにわたってスキャンしたと述べています。スキャンのバックログがあるため、一部の新規アップロードモデルは即座に処理されないことがありますが、自動化システムにより継続的でコミュニティ全体の保護が確保されます。安全なモデル共有の摩擦を減らすことで、この提携はより安全なAIイノベーションを促進し、エコシステムへの広範な参加を奨励することを目指しています。

参加方法

スキャン情報の提供やセキュリティパートナーシップへの参加に関心のある組織や個人は、security@huggingface.co までHugging Faceにお問い合わせください。Hubのセキュリティに関する追加ドキュメントは https://huggingface.co/docs/hub/security にあります。

この記事は、2024‑10‑22に公開された公式Hugging Faceブログ記事「Hugging Face Teams Up with Protect AI: Enhancing Model Security for the ML Community」に基づいています。

Sources