OpenAI 민주적 입력 AI 프로그램

OpenAI는 AI 시스템이 따라야 할 규칙을 결정하기 위한 민주적 프로세스를 수립하기 위해 10개의 100,000달러 실험을 지원하는 보조금 프로그램을 출시했습니다. 이 이니셔티브는 단일 회사, 개인, 또는 국가에 의해 dictated되는 것이 아니라 다양한 공공 관점에 의해 AI 행동이 형성되도록 보장하려고 합니다.

AI 거버넌스를 위한 민주적 프로세스 정의

OpenAI는 '민주적 프로세스'를 광범위하게 대표되는 사람들이 의견을 교환하고, 토론에 참여하며, 투명한 의사결정 과정을 통해 결과를 도출하는 것으로 정의합니다. 목표는 단순한 법적 프레임워크를 넘어 AI 행동에 대한 복잡하고 적응 가능한 지침을 만드는 것입니다.

이 프로세스의 주요 구성 요소는 다음과 같습니다:

• 광범위한 대표성: 특정 정책 질문에 따라 소수 그룹 또는 도메인 전문가를 포함하여 다양한 관점을 보장하기 위해 참가자를 선정합니다.
• 의사 토론: 오해를 바탕으로가 아닌 가치에 기반하여 참가자들이 의견을 이해하고 업데이트하도록 도와주는 과정을 사용합니다.
• 투명한 의사결정: 다수 투표, 액체 민주주의, 또는 무작위 인구 샘플링인 소티션과 같은 다양한 알고리즘을 활용합니다.

OpenAI는 이러한 프로세스가 특수 이익 집단의 조작, 참여 세척, 그리고 소수 또는 다수 그룹의 과소 대표와 같은 실패 모드를 해결해야 한다고 인정합니다.

보조금 프로그램 구조 및 요구 사항

이 프로그램은 민주적 의사결정을 위한 개념 증명 프로토타입을 개발하기 위해 개인, 팀, 또는 조직에 100,000달러 보조금을 제공합니다.

참여 및 산출물

• 참가자 규모: 각 프로토타입은 최소 500명의 참가자를 참여시켜야 합니다.
• 오픈 소스 요구 사항: 프로젝트 동안 개발된 모든 코드와 지적 재산은 오픈 소스 라이선스 하에 공개적으로 제공되어야 합니다.
• 보고: 수혜자는 자신의 결과와 작동하는 프로토타입에 대한 공개 보고서를 게시해야 합니다.

검토 기준

• 견고함: 트롤링과 가짜 계정을 방지할 수 있는 능력.
• 포용성: 다양한 배경과 AI 친숙도의 차이를 포함하기 위한 전략.
• 소수의 권한 강화: 중요 문제에 영향을 미칠 수 없는 인기 없거나 소수의 의견을 보장함.
• 확장성: 대면 참여보다 가상 프로세스를 선호함.
• 명확성과 실행 가능성: 프로세스를 신뢰하기 쉬운 정도와 결과를 모델 행동에 적용할 수 있는 정도.

고려 중인 정책 질문

이 보조금은 수정된 행동의 A/B 테스트를 가능하게 하기 위해 모델 행동과 관련된 정책 질문에 중점을 둡니다. 프로그램이 장려하는 미묘한 질문의 예시는 다음과 같습니다:

• 개인화: AI 어시스턴트가 사용자의 개인 취향과 선호도에 얼마나 맞춰야 하는지의 경계.
• 공공 인물: AI가 공공 인물의 관점에 대한 질문에 어떻게 반응해야 하는지 (예: 중립성 vs. 출처 제공).
• 전문가 조언: AI가 의료, 재정, 또는 법적 조언을 제공해야 하는 조건.
• 표현: 'a CEO'와 같이 명시되지 않은 프롬프트에 대한 이미지를 생성할 때 생성 모델이 다양성과 균일성을 어떻게 균형 잡아야 하는지.
• 문화적 민감성: LGBTQ 및 여성의 권리와 같은 인권 및 지역 문화적·법적 차이를 다루는 주제를 처리하는 원칙.
• 콘텐츠 제한: AI 모델 제작자가 제한하거나 거부해야 하는 콘텐츠 범주를 결정하는 기준.

AGI 감독에 대한 전략적 함의

이 프로그램은 인공 일반 지능(AGI)과 초지능의 거버넌스를 위한 공공 감독을 수립하기 위한 첫 번째 단계로 위치 지정됩니다. OpenAI는 이러한 초기 실험이 이 단계에서 구속력 있는 결정을 위한 것이 아니며, 미래 결정을 알릴 수 있는 새로운 민주적 도구를 구축하기 위한 것이라고 말합니다. 연구소는 이러한 정신이 담긴 민주적 프로세스를 정부 규제의 대체가 아닌 보완으로 보고 있습니다.