Hugging Face의 미국 NTIA AI 책임성에 대한 의견 요청에 대한 응답

TL;DR

2023년 6월 12일, Hugging Face는 미국 NTIA의 AI 책임성에 대한 의견 요청에 응답을 제출했으며, 책임 메커니즘이 머신러닝 생명주기의 전체를 포괄하고, 내부 문서화와 외부 투명성을 결합하며, 다양한 이해관계자의 참여를 유도해야 한다고 권고했습니다.

맥락과 미션

Hugging Face는 투명성과 포용성을 강조하여 좋은 머신러닝을 민주화하는 자신의 미션 내에서 NTIA 응답을 프레이밍합니다. 게시물에 명시된 바와 같이, "Hugging Face의 미션은 "좋은 머신러닝을 민주화하다""입니다. 우리는 이 맥락에서 "민주화"라는 용어를 머신러닝 시스템을 개발하고 배포하는 것을 단순히 더 쉽게 만드는 것이 아니라, 많은 이해관계자가 이해하고, 조사하고, 비판할 수 있도록 더 쉽게 만드는 것을 의미한다고 이해합니다." 조직은 교육 노력, 문서화 집중, 커뮤니티 지침, 책임 있는 개방성, 그리고 데이터셋과 모델을 분석하기 위한 노‑ 및 저‑코드 도구를 통해 이 목표를 추구한다고 언급합니다.

핵심 권고사항

Hugging Face는 AI 책임성에 대한 세 가지 기둥을 권고합니다: 전체 생명주기 집중, 내부‑외부 투명성, 그리고 광범위한 이해관계자 참여. 게시물에서는 구체적인 권고사항을 다음과 같이 나열합니다:

"책임 메커니즘은 머신러닝 개발 프로세스의 모든 단계에 초점을 맞춰야 합니다. 완전한 AI 지원 시스템의 사회적 영향은 개발의 모든 단계에서 이루어진 선택에 따라 달라지며, 이는 완전히 예측하기 불가능한 방식으로 작용합니다. 배포 단계에만 초점을 맞춘 평가는 표면적인 준수를 유도할 위험이 있으며, 이로 인해 심각한 피해가 발생하기 전까지 더 깊은 문제를 해결하지 못할 수 있습니다."
"책임 메커니즘은 내부 요구사항과 외부 접근을 결합하고 투명성을 유지해야 합니다. 좋은 문서화 관행과 같은 내부 요구사항은 보다 책임감 있는 개발을 형성하고, 더 안전하고 신뢰할 수 있는 기술을 가능하게 하는 개발자의 책임에 대한 명확성을 제공합니다. 내부 프로세스와 개발 선택에 대한 외부 접근은 여전히 주장과 문서를 검증하고, 개발 체인 외부에 있는 기술의 많은 이해관계자가 그 발전을 의미 있게 형성하고 자신의 이익을 증진할 수 있도록 권한을 부여하는 데 필요합니다."
"책임 메커니즘은 가능한 가장 넓은 범위의 기여자 참여를 초대해야 합니다. 여기에는 기술에 직접 종사하는 개발자, 다학제 연구 커뮤니티, 옹호 조직, 정책 입안자, 기자가 포함됩니다. ML 기술의 급속한 채택으로 인한 변혁적 영향을 이해하는 작업은 단일 주체의 역량을 넘어가며, 우리의 광범위한 연구 커뮤니티 및 직접적인 사용자와 영향을 받는 인구의 전체 기술과 전문성을 활용해야 합니다."

지원 사례 및 증거

Hugging Face는 기존 도구와 프로젝트—문서화, 교육, 노‑코드 분석 공간, BigScience, BigCode—를 제시하여 자신의 제안된 메커니즘이 작동할 수 있음을 증명합니다. 게시물에서는 다음과 같이述べています: "이를 위해 우리는 교육 노력, 문서화 집중, 커뮤니티 지침 및 책임 있는 개방성에 대한 접근 방식을 통해 투명성과 포용성을 촉진해 왔으며, 또한 모든 기술 배경을 가진 사람들이 머신러닝 데이터셋과 모델을 분석할 수 있도록 노‑ 및 저‑코드 도구를 개발해 왔습니다." 또한 이러한 접근 방식은 "이미 더 큰 다학제 연구 프로젝트에서 책임성을 촉진하는 데 유용함을 입증했으며, 우리가 도움을 준 조직 중에서 BigScience (프로젝트의 사회적 위험에 대한 우리 블로그 시리즈 참조: [https://montrealethics.ai/category/columns/social-context-in-llm-research/]) 및 더 최근의 BigCode 프로젝트 (거버넌스는 여기에서 더 자세히 설명됨)가 포함됩니다.

정책에 대한 함의

이 응답은 효과적인 AI 책임성 정책이 문서화를 요구하고, 외부 검증을 가능하게 하며, 포용적인 거버넌스 프로세스를 의무화해야 한다고 제안합니다. 게시물은 다음과 같이 결론을 내립니다: "우리는 머신러닝 아티팩트 자체와 그 평가 결과 모두에서 투명성을 우선시하는 것이 이러한 목표를 달성하는 데 필수적이라고 믿습니다." 또한 전체 세부 정보를 원하는 독자를 위해 전체 PDF 응답へ의 링크도 제공됩니다.