OpenAI AGI 개발을 위한 운영 원칙

OpenAI는 인공 일반 지능(AGI)의 개발이 인류 전체에 이익이 되도록 보장하기 위해 일련의 지도 원칙을 마련했습니다. 조직은 AI가 개인의 주체성과 사회적 번영을 크게 높일 잠재력이 있지만, 결과는 현재 권력의 집중을 방지하고 새로운 위험을 관리하기 위해 내려지는 결정에 달려 있다고 강조합니다.

AI 힘의 민주화

OpenAI는 소수의 기업 손에 AI 권력이 집중되는 것을 막으려고 합니다. 이를 달성하기 위해 조직은 일반 AI가 가능한 많은 사람들에게 접근 가능하도록 하는 분산 접근 방식을 옹호합니다. 이러한 민주화는 기술에 대한 단순한 접근을 넘어 확장됩니다; OpenAI는 AI와 관련된 핵심 결정이 AI 연구소 seules에 의해 결정되는 것이 아니라 민주적 과정과 평등주의 원칙을 통해 이루어져야 한다고 말합니다.

권한 부여와 사용자 자율성

OpenAI는 개인이 목표를 달성하고, 배우고, 꿈을 추구할 수 있도록 권한을 부여하는 도구로 AI를 봅니다. 조직의 제품 전략은 사용자가 점점 더 가치 있는 작업을 안정적으로 수행할 수 있도록 지원하면서, 다양한 글로벌 요구를 충족하기 위해 필요한 자율성과 폭을 제공하는 데 중점을 둡니다.

To balance empowerment with safety, OpenAI follows a policy of erring on the side of caution in the face of uncertainty. The goal is to minimize both catastrophic harms and local or corrosive societal effects, relaxing constraints only as more evidence is gathered.

권한 부여와 안전 사이의 균형을 맞추기 위해 OpenAI는 불확실성에 직면했을 때 주의를 기울이는 정책을 따릅니다. 목표는 katastrofic한 피해와 지역적 또는 부식적인 사회적 영향을 최소화하는 것이며, 더 많은 증거가 수집될 때만 제약을 완화하는 것입니다.

보편적 번영을 위한 전략

OpenAI는 상당한 컴퓨팅 파워로 뒷받침된 사용하기 쉬운 AI 시스템을 제공함으로써 새로운 가치 창출을 촉진하고 삶의 질을 향상시킬 수 있다고 믿으며, 특히 과학적 발견을 통해 그러합니다. 이 보편적 번영의 비전을 실현하기 위해 OpenAI는 두 가지 주요 요구 사항을 식별합니다:

1. 경제 모델 진화: 정부는 가치 창출에广泛参与을 보장하기 위해 새로운 경제 모델을 고려해야 할 수 있습니다.
2. 인프라 확장: 막대한 양의 AI 인프라를 구축하고 그 인프라의 비용을 낮추기 위한 새로운 기술을 개발할 필요가 있습니다.

OpenAI는 컴퓨팅과 글로벌 데이터센터 확장에 대한 투자 및 수직 통합으로의 이동이 비용 절감과 접근성 증대라는 이 목표에 의해 주도된다고 언급합니다.

회복력과 반복적 배포

OpenAI는 단일 연구소로는 해결할 수 없는 새로운 위험이 AI에 의해 도입된다고 지적합니다. 조직은 두 가지 구체적인 예를 들어 사회 전반에 걸친 위험 관리 접근 방식을 강조합니다:

• 생물보안: 새로운 병원체 생성에 대한 방어는 병원체에 무관심한 대응책이 필요합니다.
• 사이버 보안: 오픈소스 소프트웨어와 중요한 인프라를 보호하기 위해 AI 모델을 사용하면서, 사용자가 더 안전한 소프트웨어를 만들 수 있도록 모델을 훈련시킵니다.

OpenAI는 사회가 시간이 지남에 따라 각 successive 수준의 AI 능력을 다루고, 통합하며, 이해할 수 있도록 허용하는 반복적 배포 전략을 사용합니다. 이는 기술적 정렬 작업과 더불어, 추가 개발을 진행하기 전에 정부 및 국제 기관과 협력하여 심각한 안전 또는 사회적 문제를 해결하겠다는 약속으로 보완됩니다.

적응력과 투명성

OpenAI는 AI의 emergent 행동이 예측 불가능하다는 것을 인정합니다. 따라서 조직은 더 많이 배움에 따라 적응력 있고 입장을 업데이트하겠다는 약속을 합니다. 여기에는 특정 기간 동안 회복력을 높이기 위해 일부 사용자 권한을 trade-off(교환)의 가능성도 포함됩니다.

Drawing on the experience of the initial release of GPT-2, OpenAI states that it embraces uncertainty by advancing capabilities carefully and learning from real-world interactions. The organization acknowledges its increased global influence and commits to transparency regarding when and why its operating principles change.

GPT-2의 초기 출시 경험을 바탕으로, OpenAI는 능력을 신중하게 발전시키고 실제 세계 상호작용에서 배움으로써 불확실성을 포용한다고 말합니다. 조직은 자신의 글로벌 영향력이 증가했음을 인정하고, 운영 원칙이 언제 그리고 왜 변경되는지에 대해 투명성을 유지하겠다는 약속을 합니다.