usnistgov/dioptra

Dioptra – 可信AI的測試平台

是什麼 – Dioptra 是由 NIST 維護的開源軟體平台，可讓您 測量、分析與追蹤 AI 模型的可信特性（安全性、安全性、公平性、可解釋性、隱私性等）。它實作了 NIST AI 風險管理框架中的 測量（Measure） 功能，協助您評估安全性、安全性、公平性、可解釋性、隱私性等風險維度。

如何運作 – Dioptra 以一組 Docker 容器的形式執行，提供 REST API。您可透過以下方式與其互動：

• 直觀的 Web UI，
• Python 客戶端程式庫，或
• 任何通用的 REST 客戶端。 實驗透過簡單的 YAML 檔案定義，這些檔案組合了模組化元件（例如，資料載入器、模型執行器、度量計算器）。插件系統允許您匯入現有的 Python 套件，內建的類型系統確保了插件之間的相容性。

主要特性

• 可重現 – 自動對程式碼、資料與設定進行快照。
• 可追蹤 – 完整儲存實驗輸入與結果的歷史記錄。
• 可擴充 – 透過插件新增功能。
• 模組化 – 使用可重用的 YAML 描述區塊建構實驗。
• 安全且多租戶 – 支援使用者認證（存取控制即將推出）與共用部署。
• 互動式 – 使用 Web UI 進行執行管理與視覺化。

典型使用情境

角色	場景
模型開發者（第一方）	在開發過程中持續測試模型，提早發現可靠性或偏見問題。
採購方／評估者（第二方）	在購買或整合前對供應商的模型進行獨立評估。
審計者（第三方）	對 AI 系統進行正式的合規性或監管審計。
研究人員	追蹤可信 AI 研究的實驗，與合作夥伴共享結果。
紅隊	在受控沙箱中對模型執行對抗性或壓力測試套件。

快速入門

1. 拉取 Docker 鏡像 – 核心服務（nginx、mlflow-tracking、REST API）與 PyTorch 或 TensorFlow 的工作器鏡像（CPU/GPU）。
2. 使用提供的 cookiecutter 模板建立部署（cruft create …）。
3. 初始化部署（./init-deployment.sh）。
4. 使用 docker compose up -d 啟動，並開啟 http://localhost。
5. 按照 Dioptra 文件網站上的「Hello World」教學，快速完成端對端執行。

文件與社群 – 完整的使用者指南、安裝步驟與教學文件皆托管於 https://pages.nist.gov/dioptra/。開發指南位於 DEVELOPER.md 中。

授權 – Creative Commons Attribution 4.0 International (CC-BY-4.0)，一種寬鬆的開源授權。

引用 – 若您在出版物中使用 Dioptra，請引用 README 中提供的 NIST DOI。

---

Dioptra 是一個真實、積極維護的專案，旨在為評估 AI 系統的可信性提供可重現、可擴充的框架。