Hugging Face Diffusers 윤리 가이드라인

Hugging Face는 Diffusers 라이브러리를 위한 윤리 프레임워크를 발표하여 기술적 결정과 커뮤니티 기여가 핵심 가치 집합에 의해 안내되도록 합니다. 이 이니셔티브는 라이브러리 관리 방식에 대한 투명성을 제공하고, 확산 모델 적용으로 인한 잠재적인 부정적 사회적 영향을 완화하는 것을 목표로 합니다.

핵심 윤리 가이드라인

Hugging Face는 윤리를 안내 가치와 구체적인 행동에 기반한 지속적인 적응 과정으로 정의합니다. Diffusers 라이브러리는 다음 여섯 가지 원칙에 의해 관리됩니다:

• 투명성: 기술적 결정과 풀 리퀘스트 관리에 대해 사용자에게 설명하는 약속.
• 일관성: 안정적인 프로젝트 관리와 모든 사용자에게 일관된 관심 수준을 보장.
• 단순성: 라이브러리가 사용 및 활용하기 쉬운 상태를 유지하도록 간결하고 일관된 프로젝트 목표를 유지.
• 접근성: 깊은 기술 전문 지식이 없는 기여자를 포함해 진입 장벽을 낮추어 연구 산출물을 더 쉽게 접근할 수 있게 함.
• 재현성: 라이브러리를 통해 제공되는 데이터셋, 모델 및 상위 코드의 재현성에 대한 투명성을 유지.
• 책임감: 커뮤니티와 팀이 확산 기술과 관련된 위험과 위험 요소를 예상하고 완화하기 위한 공동의 약속.

안전 기능 및 메커니즘

Hugging Face와 커뮤니티는 확산 모델의 책임 있는 배포와 평가를 촉진하기 위해 여러 메커니즘을 구현했습니다:

커뮤니티 및 콘텐츠 거버넌스

• Community Tab: 프로젝트 협업 및 토론을 위한 전용 공간.
• Tagging: 저장소 작성자는 민감한 콘텐츠를 표시하기 위해 "Not For All Eyes" 태그를 사용할 수 있습니다.
• Staged Releases: 민감한 상황에서 특정 저장소에 대한 접근을 제한할 수 있어, 작성자가 사용에 대한 더 많은 제어를 유지할 수 있습니다.
• Licensing: 책임 있는 사용을 보장하는 제한과 함께 자유로운 접근을 균형 있게 제공하기 위해 OpenRAILs 라이선스를 사용합니다.

기술적 안전 및 편향 평가

• Bias Exploration: Hugging Face는 DALL-E 및 Stable Diffusion과 같은 모델에 존재하는 편향을 인터랙티브하게 시연할 수 있는 전용 Space를 제공하여 추가적인 편향 평가를 장려합니다.
• Safe Stable Diffusion: 필터링되지 않은 웹 크롤링 데이터셋으로 학습된 모델에서 발생하는 부적절한 퇴화 문제를 해결하기 위해, 라이브러리는 StableDiffusionSafe를 포함합니다 (연구 논문 Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models 기반).