허깅 페이스 윤리와 사회 업데이트 여름 2023

TL;DR

허깅 페이스는 2023 여름에 미국, EU, 영국 입법자들과 소통하며 오픈소스 AI를 옹호하고 규제를 위한 가치 기반 프레임워크를 제공했습니다. 정책 업무와 병행하여, 조직은 편향 테스트, 데이터셋 투명성, 환경 영향 연구 등 기술적 노력을 진전시켜 더 책임감 있고 민주화된 AI 생태계를 촉진했습니다.

AI 정책 및 규제 옹호

허깅 페이스는 투명성, 안전, 정의 등을 포함한 가치 어휘를 활용하여正式한 법률이 아직 마련되지 않은 곳에서 AI 입법을 형성하는 데 도움을 주고 있습니다. 조직은 규제가 개방을 저해하지 않도록 전 세계 governing bodies에 전문가 증언과 지침을 제공하는 데 중점을 두었습니다.

주요 규제 참여 사항은 다음과 같습니다:

미국: CEO 클렘 델랑그가 미국 의회에 증언을 하고 미국 상원 AI 인사이트 포럼에서 성명을 발표했습니다. 최고 윤리 과학자 마거릿 미첨이 민주당 코커스에 의견을 제시했습니다.
유럽 연합: 조직은 EU AI 법안과 오픈소스 소프트웨어의 역할에 대해 구체적인 조언을 제공했습니다.
국가 통신 및 정보 행정부 (NTIA): 허깅 페이스는 AI 책임성에 대한 의견을 제출했습니다.

공공 옹호 및 기술 담론

AI의 민주화를 지원하기 위해 허깅 페이스 전문가들은 주요 미디어 매체를 통해 복잡한 기술 및 윤리적 문제를 명확히 하는 공공 담론에 기여했습니다. 이러한 기여는 몇 가지 중요한 영역을 다룹니다:

환경 영향 및 지속 가능성

사샤 루치오니는 The Atlantic, The Guardian, The Wall Street Journal, New Scientist 등의 출판물에 AI의 에너지 소비 및 탄소 배출에 대한 분석을 제공했습니다.

모델 안전 및 편향

생성형 AI 편향: 전문가들은 Bloomberg, NBC, Vox에 생성형 AI의 편향에 대한 통찰을 제공했습니다.
종말론적 위험: AI '종말론' 시나리오에 대한 분석이 Bloomberg, The Times, Sky News에 제공되었습니다.
오보: 마거릿 미첨이 CNN, al Jazeera, The New York Times에서 AI 생성 선거 오보에 대한 논의에 기여했습니다.
의식과 특이점: 지ада 자서전이 RFI와 Popular Mechanics에서 AI의 '의식'과 '특이점' 개념을 다루었습니다.

오픈 소스 및 지적 재산

오픈 릴리스: 네이선 램버트와 야신 제르니트가 WIRED, VentureBeat, Fortune에 오픈 언어 모델 출시 현황과 메타의 Llama 모델의 영향에 대한 논평을 제공했습니다.
저작권: 야신 제르니트가 VentureBeat에서 생성형 AI 학습 데이터의 저작권 문제를 다뤘습니다.
예술가 권리: 마거릿 미첨이 Washington Post에서 AI에서 예술가의 작업에 대한 공정한 처리 필요성을 논의했습니다.

AI 윤리에 대한 기술적 기여

허깅 페이스는 접근성, 공정성, 엄격성에 중점을 둔 여러 'work work' 이니셔티브를 통해 윤리를 핵심 제품 개발 및 연구에 통합했습니다.

모델 평가 및 투명성

편향 테스트: 허깅 페이스는 멀티모달 모델 IDEFICS에 편향 및 피해 테스트를 적용했습니다.
데이터셋 엄격성: 조직은 데이터세트에 기술 통계를 추가하여 AI가 무엇을 배우는지 및 어떻게 평가되는지 이해를 높였습니다.
콘텐츠 정책: 조직은 책임감 있게 투명성을 운영화하기 위해 콘텐츠 정책을 업데이트했습니다.

교육 자료 및 연구

오디오 AI: AI 오디오에 대한 새로운 과정을 출시했습니다.
임상 AI: 오픈 액세스 임상 언어 모델을 위한 자료를 개발했습니다.
책임감 있는 생성형 AI: 책임감 있는 생성형 AI에 대한 튜토리얼을 제작했습니다.
학술 연구: 기계 학습에서 생성형 AI 출시의 그래디언트와 윤리 헌장 및 기술 문서의 articulation에 대한 FAccT 논문을 발표했습니다.

커뮤니티 리소스

허깅 페이스는 현재 AI 윤리 담론을 지원하기 위해 윤리 관련 리소스를 중앙 집중형 허브로 통합했습니다: https://huggingface.co/society-ethics.