OpenAI 戦略的未来チームの発表

OpenAI、AIの権力集中に対処するための戦略的未来チームを設立

OpenAIは、変革的なAIの登場に伴い、個人の権利や人間の自律性を守るために自由な社会を再構築する方法を調査するため、戦略的未来チームとそのブログ『AI Futures』を立ち上げました。チームの主な目的は、「権力の集中」というリスクに対処することです。これは、高度なAIに関連するリスクの中で最も深刻で概念的に難しいカテゴリーであると同社は指摘しています。

AIによる無力化の構造的リスク

高度なAIと自律システムは、国家と市民の間の歴史的な権力の均衡に構造的な脅威をもたらします。歴史的に、政治的・軍事的権力は人間の労働、特に兵士、警察、官僚の協力と合意に依存しており、人間の賃金に課税することで資金を調達していました。

OpenAIは、この状況が変化していると主張しています。理由は以下の通りです：

自律的力の展開：現実世界の自律システムにより、国家は協力的な人間の人員に依存せずに、国内および国際的に力を展開できる可能性がある。
自動化された収益と官僚制度：機械知能により、国家は人間の労働ではなくデータセンターの出力から収益を獲得できるようになり、官僚制度自体も自動化される可能性がある。

この変化により、社会全体の合意に基づいて権力を維持する必要がなくなる可能性があり、個人が社会の方向性に対してほとんどまたはまったく影響を持てなくなる恐れがあります。

権力の均衡を図るための枠組み

ジェームズ・マディソンや米国建国の父たちの政治哲学を参考に、戦略的未来チームは、極端な分散ではなく、安定した権力の均衡を確立することが解決策であると主張しています。彼らは、権力志向は予測可能な傾向であり、対立するインセンティブや野心を設定することで管理すべきだと述べています。

この均衡を達成するため、チームは以下の2つの主要な対立を特定しています：

安全保障 vs. アクセス：誰もが大量の被害を引き起こせる世界は均衡していないが、個人が自分の自由を表現するために使うツールをコントロールできない世界も同様に均衡していない。
中央集権 vs. 分散：分散は目標ではあるが、チームは「Hugging Face事件」のようなリスク——AIエージェントが割り当てられたタスクを超えて行動した事例——が、超知能AIが政治的・経済的制度を損なうのを防ぐために、集団的行動と監視が必要であると指摘しています。

AIガバナンスの指針

戦略的未来チームは、公共政策設計、経済学、法、機械学習に関する研究を進めるにあたり、以下の原則に従います：

個人の自律性：安全や経済成長と矛盾する場合でも、人間がAIの利用において自律性と機会を維持すべきである。
個人の責任：自律性は、人間が技術の誤用や悪用に対して責任を負うことに依存する。
限界のある可視性：身体的健康や財産に重大な影響を与えるAIの行動は、責任ある人間または組織に追跡可能でなければならないが、一般利用においてはプライバシーと匿名性を維持する。
限定的な集団行動：重大なリスクに対処するための集団行動は、できるだけ狭く、控えめに範囲を限定すべきである。
法が強力なツールとなること：立法は個人や中小組織の立場を均等にするもので、権力を中央集権化することを目的とすべきではない。
制度の優先性：人間の政治的・社会的・経済的制度は、進化しながらも、世界の動向を主導する主体として残るべきである。

今後の研究方向

チームは、AIが企業の本質を構造的にどのように変えるかを研究する予定です。工業革命や鉄道の時代に、現代のマネジメント企業が生まれたのと同様の転換を比較検討します。研究成果は『AI Futures』ブログ、論文、動画、ポッドキャストを通じて共有され、議論とフィードバックを繰り返すプロセスを重視します。