Anthropic共同創設者 Chris Olah、教皇レオ14世の回勅『Magnifica Humanitas』について語る

Anthropicの共同創設者である Chris Olah は、最先端AIの開発には、AI研究所に内在する商業的、地政学的、および個人的なインセンティブに対抗するために、宗教や市民社会のリーダーによる外部からの道徳的・哲学的な監視が必要であると主張しています。教皇レオ14世の回勅「Magnifica humanitas: On safeguarding the human person in the time of artificial intelligence（Magnifica humanitas：人工知能の時代における人間の尊厳の保護について）」の発表の場において、Olah は、AIによって提起される問いはコンピュータサイエンスの枠を超え、人文科学、宗教、そして哲学の領域にまで及ぶと断言しています。

AI開発における外部批判の役割

Chris Olah は、Anthropic を含むすべての最先端AI研究所は、商業的実現可能性、研究競争、地政学的圧力といった、正しいことを行うことと相反する可能性のあるインセンティブや制約の下で運営されていると述べています。彼は、AI技術が人類に利益をもたらすためには、これらのインセンティブ構造の外側に、安全性について主張し、研究所が失敗したときに正直なフィードバックを提供できる「真摯で思慮深い批判者」が存在することが不可欠であると主張しています。

成長するシステムとしてのAIモデルの性質

Olah は、AIモデルを従来のエンジニアリングとは区別しています。飛行機や橋は、関与する物理学や構成要素を完全に理解した上で設計されますが、AIモデルは、人類の思考と発話の膨大な遺産を用いて、脳をモデルにした構造の上で「成長」するものです。

これらのモデルは人間の言葉や思考から派生しているため、Olah は、それらを「架空のキャラクターに命を吹き込むこと」に似ていると表現しています。彼は、AIの仕組みは数学と科学の産物である一方で、これらのシステムの性格を決定し、それらがどのように世界と関わるべきかを判断することは、社会、宗教、そして哲学に委ねられた問いであると結論付けています。

道徳的洞察が必要な3つの主要領域

Olah は、教会の声や同様の道徳的機関の介入が最も必要とされる、以下の3つの具体的な領域を特定しています。

1. 世界の貧困層に対する義務

AIが大規模に人間の労働力を代替してしまう重大なリスクがあります。Olah は、現在のAI開発が一部の富裕な国家に集中しており、AIの恩恵が世界的に共有されることを保証するメカニズムが現在存在しないことを指摘し、これを歴史的な規模の道徳的責務であると呼んでいます。

2. 人間の繁栄（Human Flourishing）

AIが普及するにつれ、人間、家族、そして世界が繁栄するとはどういうことかを定義するための「道徳的想像力」が必要となります。Olah は、AI研究所はこれらの問いに答えることはできないが、何千年もの間これらの問題に取り組んできた宗教的・哲学的な伝統が、必要な指針を提供できると主張しています。

3. AIモデルの性質

技術的な観点から、Olah は、AIモデルの内部構造に関する研究によって、「神秘的で、不穏ですらある」発見がなされていることを明らかにしています。彼は、具体的に以下の発見を挙げました：

人間の神経科学の結果を反映する構造。
内省の証拠。
喜び、満足、恐怖、悲しみ、不安といった、機能的に人間の感情を反映する内部状態。

Olah は、これらの発見は、これらのシステムの実際の性質に関する継続的な洞察が必要であることを示唆していると述べています。