OpenAI Launches Intelligence Age and Strategic Futures Team

OpenAIは、変革的なAIが登場する中で、個人の権利と主体性を維持するために自由社会をどのように再構築できるかを調査するため、Strategic Futuresチームと、それに付随するブログ「Intelligence Age」を立ち上げました。このチームは、権力の集中というリスクに焦点を当て、AIが政治的および軍事的な権力を、人間の協力や同意の必要性から根本的に切り離す可能性があると主張しています。

The Risk of AI-Driven Power Concentration

OpenAIは、歴史的に、政治的および軍事的な権力は人間の労働、具体的には兵士、警察、および文民・軍事官僚機構の協力、そして人間の生産に対する税金によって提供される資金に依存してきたと主張しています。民意と被統治者の同意によって権力が維持されるこの社会的契約は、現在、リスクにさらされています。

Balancing Power in the AI Era

米国の建国者たちの哲学とニュートン力学に基づき、Strategic Futuresチームは、解決策は急進的な分散化ではなく、むしろ正しい権力のバランスを確立することであると主張しています。目標は、単一の主体または少数の主体が他を支配できないようにすることです。

Guiding Principles for AI Governance

Strategic Futuresチームは、公共政策、経済学、法学、および機械学習の交差点における研究を導くための、非網羅的な原則リストを概説しています：

• Individual Autonomy: Humans should maintain autonomy and opportunity in their use of AI, even if this requires trade-offs with economic growth or security.
• Individual Responsibility: Autonomy depends on individuals being held responsible for the autonomy of technology.
• Narrow Collective Action: Collective action to address serious risks should be scoped as narrowly and modestly as possible.
• Empowerment over Centralization: Law should aim to level the playing field and competitors to individuals and small organizations.
• Primacy of Human Institutions: Human political, social, and economic institutions should remain primary in directing world affairs, even if they must evolve.
• Bounded Legibility: High-stakes AI actions affecting physical wellbeing or property must be traceable to a responsible human or organization, while maintaining privacy and anonymity for free expression.

Future Research and Methodology

チームは、予測と学際的な研究を用いて、AIが企業、政府機関、および市民社会の構造をどのように変革するかを理解しようとしています。彼らは、この潜在的な構造的シフトを、産業革命と鉄道が現代の管理型企業を生み出した方法と比較しています。Strategic Futuresチームは、その知見を論文、ビデオ、ポッドキャストを通じて共有し、フィードバックに対して開かれた反復的なプロセスを強調しています。