OpenAI AGI 開発のための運用原則

OpenAIは、人工汎用知能（AGI）の開発が人類全体に利益をもたらすことを確保するための指針となる一連の原則を定めました。組織は、AIが個人の主体性と社会の繁栄を大幅に高める可能性がある一方で、その結果は、現在行われる意思決定にかかっていることを強調しています。その意思決定は、権力の集中を防ぎ、新たなリスクを管理するために行われます。

AI の力の民主化

OpenAIは、少数の企業の手にAIの力が集中することを防ぐことを目指しています。そのため、組織は、できるだけ多くの人々が汎用AIにアクセスできる分散型アプローチを提唱しています。この民主化は、単なる技術へのアクセスを超えたものです。OpenAIは、AIに関する重要な決定は、AIラボだけが決めるのではなく、民主的なプロセスと平等主義の原則に基づいて行われるべきだと主張しています。

エンパワーメントとユーザーの自律性

OpenAIは、AIを個人が目標を達成し、学び、夢を追求するためのエンパワーメントのツールと見ています。組織の製品戦略は、ユーザーがますます価値の高いタスクを確実に達成できるようにし、多様なグローバルニーズに応えるために必要な自律性と余裕を提供することに焦点を当てています。

エンパワーメントと安全のバランスを取るため、OpenAIは不確実性に直面した際に慎重側に倒れる方針を採用しています。目標は、壊滅的な被害および局所的または腐食的な社会的影響を最小限に抑えることであり、より多くの証拠が得られるに従ってのみ制約を緩めることです。

ユニバーサルな繁栄のための戦略

OpenAIは、大きな計算能力によって裏付けられた使いやすいAIシステムを提供することで、特に科学的発見を通じて新たな価値創造を促進し、生活の質を向上させられると考えています。このユニバーサルな繁栄のビジョンを実現するため、OpenAIは以下の2つの主要な要件を特定しています：

1. 経済モデルの進化：政府は、価値創造への広範な参加を確保するため、新たな経済モデルを検討する必要があるかもしれません。
2. インフラストラクチャの拡張：膨大な量のAIインフラストラクチャを構築し、そのコストを削減する新しい技術を開発する必要があります。

OpenAIは、計算およびグローバルデータセンターの拡張への投資、そして垂直統合へのシフトが、コスト削減とアクセシビリティ向上というこの目的によって推進されていると指摘しています。

レジリエンスと反復的デプロイ

OpenAIは、AIがどの単一のラボでも解決できない新たなリスクをもたらすことを指摘しています。組織は、社会全体にわたるリスク管理アプローチを強調し、以下の2つの具体的な例を挙げています：

• バイオセキュリティ：新たな病原体の創出に対抗するには、病原体に依存しない対策が必要です。
• サイバーセキュリティ：オープンソースソフトウェアと重要なインフラストラクチャを保護するためにAIモデルを使用し、同時にモデルを訓練してユーザーがより安全なソフトウェアを作成できるように支援します。

OpenAIは、反復的デプロイメントの戦略を採用しており、これにより社会は時間をかけて各段階のAI能力に対処し、統合し、理解することができます。これは、技術的な整合作業および政府や国際機関と協力して、さらなる開発に進む前に深刻な安全または社会的問題を解決するというコミットメントによって補完されます。

適応性と透明性

OpenAIは、AIの emergent behaviors（発現的挙動）が予測不可能であることを認めています。そのため、組織は学びを深めるに従って適応し、立場を更新することを約束します。これには、特定の期間においてユーザーのエンパワーメントの一部を犠牲にしてレジリエンスを高める可能性も含まれます。

GPT-2 の初回リリースの経験を踏まえ、OpenAI は能力を慎重に進め、実際の世界での相互作用から学ぶことで不確実性を受け入れると述べています。組織は自身の世界的影響力の増大を認め、運用原則がいつどのように変更されるのかについて透明性を確保することを約束します。

サマリー

OpenAIは、人工汎用知能（AGI）が人類全体に利益をもたらすことを確保するため、5つの核となる原則―民主化、エンパワーメント、レジリエンス、ユニバーサルな繁栄、適応性―を示しています。

タイトル

OpenAI AGI 開発のための運用原則