OpenAI 민주적 입력 AI 보조금 프로그램 업데이트

OpenAI는 민주적 입력 AI 보조금 프로그램의 초기 단계를 마무리했으며, AI의 집단 거버넌스를 위한 도구와 방법을 개발하기 위해 전 세계 10개 팀에 자금을 지원했습니다. 이 이니셔티브는 공공 의견을 수집하고 구현하기 위한 확장 가능하고 민주적인 프로세스를 만들어 AI 모델 행동을 인간 가치와 일치시키는 것을 목표로 합니다.

민주적 AI 거버넌스의 혁신

OpenAI는 113개국에서 약 1,000명의 지원자 중 선발된 10개 팀에게 $100,000을 수여했습니다. 이 팀들은 법률, 저널리즘, 사회 과학, 머신러닝 분야의 다양한 전문성을 활용해 참여형 프로토타입을 만들었습니다. AI는 전사, 데이터 합성, 맞춤형 채팅 인터페이스를 지원하기 위해 전사 과정에서 자주 사용되었습니다.

보조금 프로젝트 요약

  • AI 정책을 위한 판례법: 전문가와 이해관계자가 참여하는 판례 기반 판단을 가능하게 하는 AI 상호작용 시나리오 사례 저장소를 만들었습니다.
  • 민주적 정책 개발을 위한 집단 대화: 집단 대화를 활용해 민주적 심의를 확장하고 정책 개발을 위한 합의 영역을 식별했습니다.
  • 대규모 심의: 소규모 그룹 대화에서 민주적 심의를 가능하게 하는 AI 지원 비디오 통화를 개발했습니다.
  • 민주적 파인튜닝: 채팅 대화를 통해 가치를 이끌어내어 모델 파인튜닝을 위한 "도덕 그래프"를 만들었습니다.
  • AI 활성화: 실시간 대규모 참여와 "커뮤니티 노트" 스타일 알고리즘을 활용한 정렬 플랫폼을 구축했습니다.
  • 생성적 사회 선택: 사회 선택 이론을 적용해 자유 텍스트 의견을 간결하고 공정하게 대표하는 입장 집합으로 정제했습니다.
  • Inclusive.AI: DAO와 같은 탈중앙화 거버넌스 메커니즘을 활용해 소외된 인구가 AI 의사결정에 참여하도록 권한을 부여했습니다.
  • AI 투명성 및 책임성 확보 (Rappler): 오프라인과 온라인 프로세스를 결합해 복잡하고 양극화된 주제에 대한 논의를 촉진했습니다.
  • Ubuntu-AI: 아프리카 창작물이 포괄적으로 대표되고 기여자에게 보상이 이루어지도록 하는 플랫폼을 개발했습니다.
  • vTaiwan 및 Chatham House: vTaiwan 방법론을 적용해 AI 거버넌스를 위한 재귀적이고 연결된 참여 프로세스를 만들었습니다.

주요 기술 및 사회적 학습

보조금 프로그램은 AI 정렬을 위한 공공 의견 수집과 관련된 여러 중요한 도전 과제와 통찰을 밝혀냈습니다.

공공 의견의 변동성

AI 행동에 대한 공공의 견해는 자주, 때로는 하루 단위로 변할 수 있습니다. 이는 의견 수집 프로세스가 근본적이고 안정적인 가치를 포착함과 동시에 시간에 따라 의미 있는 의견 변화를 감지할 수 있도록 민감하게 설계되어야 함을 시사합니다.

디지털 격차와 참여 편향

디지털 및 문화적 격차를 넘어 참여자를 모집하는 것은 여전히 큰 장애물입니다. 팀들은 온라인으로 모집된 참여자들이 AI에 대해 더 낙관적인 경향이 있으며, 이는 전반적인 AI 모델 행동에 대한 지지도가 높아지는 것과 연관됨을 관찰했습니다. 또한 Whisper와 같은 음성 인식 도구가 타갈로그어, 비니사야어, 힐리가이논어 등에서 기술적 한계를 보이며, Rappler 팀의 전사 작업을 복잡하게 만들었습니다.

양극화와 다양성 관리

양극화된 그룹 내에서 타협점을 찾는 것은 특히 소수 집단이 강한 의견을 가질 때 어렵습니다. 그러나 집단 대화 팀은 그들의 프로세스를 통해 생성된 정책 지침이—예를 들어 백신 정보와 같은 분열적인 이슈에서도—민주당, 무소속, 공화당 전반에 걸쳐 72% 이상의 지지를 얻었다는 것을 발견했습니다.

광범위한 합의를 도출하는 것과 다양한 관점을 대표하는 사이에는 지속적인 긴장이 존재합니다. 생성적 사회 선택 팀은 수학 이론을 활용해 핵심 입장을 강조하고 다양한 의견을 보여주면서 공통점을 찾으려 했습니다.

공공 신뢰와 거버넌스에서 AI의 역할

참여자들은 민주적 기관과 AI 개발자가 AI 시스템에 부여해야 할 권한의 양에 대해 신중한 입장을 보였습니다. AI가 효율성을 위해 사용될 때(예: 정책 조항 생성) 신뢰도가 높아지지만, 전문가 큐레이션이나 최종 인간 투표와 같은 비AI 의사결정 단계와 결합될 때 더욱 신뢰를 얻습니다.

구현 및 향후 방향

OpenAI는 연구원과 엔지니어로 구성된 "Collective Alignment" 팀을 설립하고 있습니다. 이 팀은 두 가지 주요 목표를 맡고 있습니다:

  1. 시스템 구현: 모델 행동에 대한 공공 의견을 직접 AI 시스템에 수집하고 인코딩하는 시스템을 설계하고 구현합니다.
  2. 파일럿 통합: 외부 고문 및 보조금 팀과의 협업을 지속하여 보조금 프로그램 동안 개발된 프로토타입을 OpenAI 모델의 조정에 통합하는 파일럿을 진행합니다.

Sources