usnistgov/dioptra

Dioptra – 信頼できるAIのためのテストプラットフォーム

何であるか – DioptraはNISTが維持するオープンソースのソフトウェアプラットフォームであり、AIモデルの信頼性のある特性（安全性、セキュリティ、公平性、説明可能性、プライバシーなど）を測定・分析・追跡できるようにします。これはNIST AIリスクマネジメントフレームワークの「測定」機能を実装しており、リスクの各次元（安全性、セキュリティ、公平性、説明可能性、プライバシーなど）を評価するのに役立ちます。

動作方法 – DioptraはDockerコンテナのセットとして実行され、REST APIを公開します。以下の方法で操作できます：

• 直感的なWeb UI
• Pythonクライアントライブラリ
• 任意の一般的なRESTクライアント 実験は、モジュール化されたコンポーネント（例：データローダー、モデルランナー、メトリクス計算機）を組み合わせたシンプルなYAMLファイルで定義します。プラグインシステムにより既存のPythonパッケージをインポートでき、組み込みの型システムによりプラグイン間の相互運用性が保証されます。

主な特徴

• 再現可能 – コード、データ、構成の自動スナップショット
• 追跡可能 – 実験の入力と結果の完全な履歴を保存
• 拡張可能 – プラグインで新しい機能を追加
• モジュール式 – 再利用可能なYAML記述ブロックから実験を構築
• セキュアでマルチテナント対応 – ユーザー認証（アクセス制御は近日リリース予定）と共有デプロイメントをサポート
• インタラクティブ – 実行の管理と可視化にWeb UIを使用可能

一般的な利用シーン

役割	シナリオ
モデル開発者（第一者）	開発中に継続的なテストを行い、信頼性やバイアスの問題を早期に発見。
調達者／評価者（第二者）	購入や統合の前にベンダーのモデルを独立して評価。
監査者（第三者）	AIシステムの公式なコンプライアンスまたは規制監査。
研究者	信頼できるAIに関する研究の実験を追跡し、共同研究者と結果を共有。
レッドチーム	コントロールされたサンドボックス内で、敵対的またはストレステストスイートをモデルに対して実行。

導入手順

1. Dockerイメージを取得 – コアサービス（nginx、mlflow-tracking、REST API）とPyTorchまたはTensorFlow用のワーカーイメージ（CPU/GPU）。
2. 用意されたcookiecutterテンプレートを使用してデプロイメントを作成（cruft create …）。
3. デプロイメントを初期化（./init-deployment.sh）。
4. docker compose up -dで起動し、http://localhostを開く。
5. Dioptraのドキュメントサイトで「Hello World」チュートリアルに従い、迅速なエンドツーエンドの実行を試す。

ドキュメントとコミュニティ – 完全なユーザーガイド、インストール手順、チュートリアルは https://pages.nist.gov/dioptra/ にホストされています。開発ガイドラインは DEVELOPER.md にあります。

ライセンス – Creative Commons Attribution 4.0 International (CC-BY-4.0)、許容性の高いオープンソースライセンス。

引用 – 公開物でDioptraを使用する場合、READMEに記載されたNIST DOIを引用してください。

---

Dioptraは、AIシステムの信頼性を評価する再現可能で拡張可能なフレームワークを提供することを目的とした、本格的かつ積極的にメンテナンスされているプロジェクトです。