usnistgov/dioptra

Dioptra – 신뢰할 수 있는 AI를 위한 테스트 플랫폼

무엇인가요 – Dioptra는 NIST가 유지 관리하는 오픈소스 소프트웨어 플랫폼으로, AI 모델의 신뢰할 수 있는 특성(안전성, 보안성, 공정성, 설명 가능성, 개인정보 보호 등)을 측정, 분석, 추적할 수 있게 해줍니다. 이는 NIST AI 리스크 관리 프레임워크의 측정(Measure) 기능을 구현하며, 안전성, 보안성, 공정성, 설명 가능성, 개인정보 보호 등 다양한 리스크 차원을 평가하는 데 도움을 줍니다.

작동 방식 – Dioptra는 REST API를 노출하는 Docker 컨테이너 세트로 실행됩니다. 다음 방법으로 상호작용할 수 있습니다:

• 직관적인 웹 UI,
• Python 클라이언트 라이브러리,
• 또는 일반적인 REST 클라이언트. 실험은 데이터 로더, 모델 실행기, 메트릭 계산기와 같은 모듈형 컴포넌트를 조합한 간단한 YAML 파일로 정의됩니다. 플러그인 시스템을 통해 기존 Python 패키지를 가져올 수 있으며, 내장된 타입 시스템은 플러그인 간의 상호 운용성을 보장합니다.

주요 특성

• 재현 가능 – 코드, 데이터, 구성의 자동 스냅샷
• 추적 가능 – 실험 입력 및 결과의 전체 기록을 저장
• 확장 가능 – 플러그인을 통해 새로운 기능 추가
• 모듈식 – 재사용 가능한 YAML 기반 블록으로 실험 구성
• 보안 및 멀티테넌트 지원 – 사용자 인증(접근 제어는 곧 출시 예정) 및 공유 배포 지원
• 인터랙티브 – 웹 UI를 통해 실행 관리 및 시각화 가능

일반적인 사용 사례

역할	시나리오
모델 개발자(1차 당사자)	개발 중 지속적인 테스트를 통해 신뢰성 또는 편향 문제를 조기에 발견.
구매자/평가자(2차 당사자)	구매 또는 통합 전 공급업체 모델의 독립적 평가.
감사자(3차 당사자)	AI 시스템에 대한 공식적인 준수 또는 규제 감사.
연구자	신뢰할 수 있는 AI 연구를 위한 실험 추적 및 공동 연구자와 결과 공유.
레드팀	제어된 사전 환경에서 모델에 대해 적대적 또는 스트레스 테스트 세트 실행.

시작하기

1. Docker 이미지 가져오기 – 핵심 서비스(nginx, mlflow-tracking, REST API) 및 PyTorch 또는 TensorFlow용 워커 이미지(CPU/GPU).
2. 제공된 cookiecutter 템플릿을 사용해 배포 생성 (cruft create …).
3. 배포 초기화 (./init-deployment.sh).
4. docker compose up -d로 시작하고 http://localhost 열기.
5. Dioptra 문서 사이트의 "Hello World" 튜토리얼을 따라 빠르게 엔드투엔드 실행 수행.

문서 및 커뮤니티 – 완전한 사용자 가이드, 설치 단계, 튜토리얼은 https://pages.nist.gov/dioptra/ 에 호스팅됩니다. 개발 지침은 DEVELOPER.md 에 있습니다.

라이선스 – Creative Commons Attribution 4.0 International (CC-BY-4.0), 허용성 높은 오픈소스 라이선스.

인용 – Dioptra를 논문에 사용할 경우, README에 제공된 NIST DOI를 인용하세요.

---

Dioptra는 AI 시스템의 신뢰성을 평가하기 위한 재현 가능하고 확장 가능한 프레임워크를 제공하는 진정한, 활발히 유지 관리되는 프로젝트입니다.