Hugging Face 윤리와 사회 뉴스레터 #1
Hugging Face는 AI 윤리를 실제로 구현하기 위한 지속적인 노력을 공유하기 위해 Ethics and Society 뉴스레터를 시작했습니다. 이 이니셔티브는 "Ethics and Society regulars"라 불리는 크로스‑펑셔널 팀이 주도하며, 윤리적 책임은 전사 차원의 공동 약속이어야 한다는 입장을 유지합니다.
핵심 윤리 가치 및 프레임워크
Hugging Face는 오픈소스 기원과 연구 커뮤니티 통합에서 파생된 네 가지 주요 가치를 AI 윤리 접근의 기반으로 삼습니다:
- 협업: 문서화, 평가 도구 및 Discord와 같은 커뮤니티 토론 플랫폼을 제공하여 오픈소스 커뮤니티와 협력합니다.
- 투명성: 프로젝트별 가치 진술 및 AI 정책에 대한 관점을 포함한 내부 사고와 프로세스를 공유해 커뮤니티 피드백을 유도합니다.
- 책임: 기술의 장기적 영향을 우선시하며, 비‑ML 전문가도 이해할 수 있도록 감사 가능하고 이해하기 쉬운 시스템을 구축합니다.
- 재현성: 연구 커뮤니티가 모델과 데이터를 호스팅하기 위해 Hugging Face Hub를 사용하면서 기본 가치로 자리 잡았습니다.
AI 윤리 구현
전역적인 정적 원칙 목록을 채택하기보다, Hugging Face는 개별 프로젝트의 예상 영향을 기반으로 상황에 맞는 가치 구현 방식을 사용합니다. 이 방법론은 실용적인 도구와 가이드라인을 통해 "좋은 ML의 민주화"에 초점을 맞춥니다.
윤리적 ML을 위한 기술 도구
감사 가능성과 투명성을 높이기 위해 Hugging Face는 여러 기술 아티팩트를 개발·배포했습니다:
- 평가 라이브러리: 개발자가 모델을 보다 엄격하게 평가할 수 있도록 지원합니다.
- 데이터 분석 도구: 데이터셋의 편향과 왜곡을 분석하도록 설계된 코드와, 코딩 없이도 사용할 수 있는 실험적 데이터 분석 도구를 포함합니다.
- 탄소 추적: 모델 학습 중 발생하는 탄소 배출량을 추적합니다.
- 책임 있는 라이선스: AI 시스템이 초래할 수 있는 잠재적 해악을 다루기 위해 오픈·책임 있는 AI 라이선스(RAIL)를 개발합니다.
- 보고 메커니즘: 모델 및 Spaces 저장소에 대한 윤리·법적 문제를 보고하는 "flagging" 시스템을 제공합니다.
커뮤니티 및 거버넌스
포용적인 환경과 ML의 민주화를 보장하기 위해 Hugging Face는 다음과 같은 거버넌스 구조를 도입했습니다:
- 직접 피드백: 사용자는 Hugging Face Hub에 호스팅된 모델, 데이터, Spaces에 직접 피드백을 제공할 수 있습니다.
- 문서화 요구사항: 모델 카드와 문서화 요구사항을 구현해 모델의 활용도와 한계를 명확히 이해하도록 돕습니다.
- 행동 강령 및 콘텐츠 가이드라인: 커뮤니티 토론을 안내하고 포용적인 공간을 유지하기 위한 프레임워크를 마련했습니다.
- 프라이빗 Hub: ML 개발을 위한 보안된 환경을 제공합니다.
향후 전망
Hugging Face는 "좋은" ML에 대한 기준을 계속 연구하고 있으며, 향후 몇 달 안에 가치, 긴장 관계 및 윤리 구현에 관한 추가 글을 발표할 예정입니다.
SUMMARY: Hugging Face는 윤리와 사회 뉴스레터를 소개하고 협업, 투명성, 책임을 통한 분산형 가치 기반 AI 윤리 구현 접근 방식을 제시합니다.
TITLE: Hugging Face 윤리와 사회 뉴스레터 #1
Sources
- OriginalEthics and Society Newsletter #1