DeepMind Institute: AGI研究のための新しい学際的プラットフォーム

Google DeepMindは、人工汎用知能（AGI）への移行に関する学際的な研究やエッセイを掲載するための出版プラットフォーム「DeepMind Institute (DMI)」を立ち上げました。この取り組みは、Google DeepMind、Google、そして世界の研究コミュニティの研究者が、AGIがもたらす課題と機会に社会がどのように対処すべきかについて、創造的で知見に富んだアイデアを発表するための場を提供することを目的としています。

主要な研究分野と初期のエッセイ

DeepMind Instituteは、AGI開発とその社会的影響に関するいくつかの重要な柱に焦点を当てており、最初の出版物からもそれがうかがえます。

推論の透明性とAIの安全性

DeepMindの研究者であるRohin ShahとAnca Draganは、「推論の透明性」の重要性を主張しています。彼らは、AIの「思考の連鎖（chain of thought）」を監視することが、モデルの内部推論プロセスを理解するための重要な窓口となり、AIシステム内の「画策や欺瞞」を検出し防止するために不可欠であると述べています。

経済政策とAGIによる混乱

Julian JacobsとAlex Imasによるエッセイでは、潜在的な混乱を管理するための11の異なる経済政策が検討されています。この分析では、軽微な混乱から重大な混乱までのシナリオを評価し、失業保険の拡充、勤労所得税額控除（EITC）、AIによって生み出された利益を市民が共有するための仕組みなどの政策を提案しています。

フロンティアAIのためのフレームワーク

Demis Hassabisは、フロンティアAIモデルの能力をテストするための動的なアプローチを提案しました。このフレームワークは、イノベーションを支援すると同時に、フロンティアモデルの責任ある行動と責任ある開発を促進することを意図しています。

社会変革と「プラグマティック・ユートピアニズム」

Stephen Caveは、謙虚さと希望に基づいた「プラグマティック・ユートピアニズム（実用的ユートピア主義）」を提唱しています。彼は、AGIが世界を変革する中で、社会は20世紀の混乱に反応するのではなく、どのような変革を望むかを主体的に決定しなければならないと論じています。

コミュニティの視点と批判的分析

DeepMind Instituteの立ち上げをめぐる一般およびコミュニティの議論では、その動機やプラットフォームの性質に関して、いくつかの論点や懐疑的な意見が浮き彫りになっています。

プラットフォームの性質

多くの観察者は、DeepMind Instituteが新しい非営利団体や独立した法人ではなく、Google DeepMindのための出版プラットフォーム、あるいは「社内シンクタンク」に過ぎないと指摘しています。

「要約：これは新しい組織や非営利の研究所ではない。Substackやブログのようなものだ。」

戦略的な政策誘導

一部の批評家は、フロンティアモデルを開発している当事者が、同じ政策議論を誘導しようとしていると主張しています。これは、利益相反や業界の他社に影響を与えるための戦略的な動きであると見なされています。

「彼らは単にAI政策の議論を誘導しようとしているだけだ。実質的には社内シンクタンクに過ぎない。」

AGIのタイムラインに対する懐疑論

DeepMind Instituteが掲げる「AGIはすぐそこまで来ている」という前提については、大きな議論があります。一部のコミュニティメンバーは、LLMの欠陥は、私たちがラボが主張するような人間レベルの認知能力にはまだ遠いことを証明し続けていると主張しています。

「『AGIはすぐそこまで来ている』といった全く根拠のない主張を、これらのラボが繰り返しているのは異常だ。問題の大きさを考えれば、10年前と比べて私たちが特に近づいているわけではないと私は言いたい。」

競争のダイナミクス

一部のアナリストは、DMIが安全性と透明性に焦点を当てているように、AI開発に対してより慎重なアプローチを求めることは、OpenAIのような競合他社よりも動きが遅い可能性のあるGoogleにとっての戦略的な動きであると示唆しています。

「いずれにせよ少し遅れをとっていたGoogleは、AI開発に対してより慎重なアプローチをとるという呼びかけに喜んで同調するだろう。DeepMind Instituteはそのためのものだ。」