Hugging Face と Wiz の研究パートナーシップによる AI セキュリティ

Hugging Face は、クラウドセキュリティ企業である Wiz と提携し、プラットフォームとより広範な AI/ML エコシステムのセキュリティを強化しています。この協業は、プロアクティブな脆弱性管理、クラウドインフラの保護、そして pickle のようなモデル形式に関連するシステムリスクへの対処に焦点を当てています。

Wiz を通じたプラットフォームセキュリティ強化

Hugging Face は、2 つの主要なメカニズムを通じて安全なクラウド環境を維持するために Wiz を運用ワークフローに統合しました。

  • Vulnerability Management: プラットフォーム全体のセキュリティ脆弱性を特定し、修正するために使用される継続的なプロセス。
  • Cloud Security Posture Management (CSPM): セキュリティ設定が維持されていることを保証するために、クラウド環境を構成・監視するツール。

Hugging Face によると、Wiz が提供する「脆弱性の全体的なビュー」は、複数の Kubernetes (k8s) クラスタ、リージョン、クラウドプロバイダーにまたがるリソース管理に特に有用です。同社はこのツールをさらに拡張し、検出された問題の修復を自動化しました。特に Hugging Face Spaces 内での対応です。

サンドボックス化されたコンピュート環境の脆弱性への対処

共同研究の一環として、Wiz のセキュリティチームは Hugging Face のサンドボックス化されたコンピュート環境に脆弱性を発見しました。これらの欠陥により、pickle ファイルを使用して任意のコードを実行できるようになっていました。Hugging Face は、この特定のエクスプロイトに関連するすべての問題が解決されたと述べており、今後の発生を防止するために Threat Detection と Incident Response のプロセスを引き続き活用しています。

Pickle ファイルのセキュリティリスク

Pickle ファイルは、任意のコード実行を可能にする固有の欠陥により、AI/ML コミュニティにおける重要なセキュリティリスクの源です。Hugging Face は、これらのファイルを完全に禁止するのではなく、コミュニティの利便性とセキュリティのバランスを取る「中間的」なアプローチを採用しています。

Pickle に関連するリスクを軽減するため、Hugging Face は以下の対策を実施しています。

  • Automated Scanning: 脆弱性をスキャンするツールの開発・導入。
  • Security Labeling: セキュリティ脆弱性を含むモデルに明確な警告ラベルを付与。
  • Documentation: pickle ファイル使用時のリスクを示す明確なガイドを提供。
  • Safetensors Integration: pickle 形式の安全な第一級代替として Safetensors の普及と統合。

コミュニティ向けセキュリティツールとベストプラクティス

他のパートナーと協力し、Hugging Face は AI コミュニティ全体のセキュリティリスクを低減するための複数のツールを開発しました。

  • Picklescan: Microsoft と提携して構築された、悪意ある pickle ファイルをスキャンするツール。
  • Safetensors: pickle ファイルの安全な代替で、Trail of Bits が EuletherAI および Stability AI と協力して監査しています。
  • Scanning Services: プラットフォーム上でのマルウェアスキャンとシークレットスキャンの実装。
  • Bug Bounty Program: 研究者がセキュリティ脆弱性を報告するための正式なプログラム。

AI/ML ユーザー向け推奨ベストプラクティス

セキュリティ専門家とユーザーは、オープンソースモデルを扱う際に以下の実践を推奨します。

  • Avoid Pickle in Production: 本番環境で pickle ファイルを使用せず、代わりに Safetensors を使用する。
  • Verify Sources: 信頼できる貢献者からのモデルのみを使用し、コミット署名を活用する。
  • Account Security: Hugging Face アカウントで多要素認証 (MFA) を有効にする。
  • Environment Isolation: 仮想化された非本番開発環境でモデルをテストする。
  • Standard Frameworks: 一般的なセキュリティ対策として OWASP Top 10 を確認する。

Sources