Anthropic Institute研究課題：AIの社会的影響を研究するための4つの重点分野

The Anthropic Institute (TAI) は、フロンティアAIラボ内部から追求する研究課題を発表しました。これは、経済的普及、脅威とレジリエンス、実環境でのAIシステム、AI主導の研究開発という4つの重点分野を中心に構成されています。この課題が重要であるのは、Anthropicが労働市場のシグナル、レジリエンス研究、そしてAIが自身の研究開発をどのように加速しているかに関する内部証拠を公開することを約束しているからです。同社は、これらのデータが自社の意思決定とLong-Term Benefit Trustの両方にますます活用されるようになると述べています。

The Anthropic Instituteとは何か、そしてなぜ存在するのか

The Anthropic Instituteは、Anthropic内部の組織であり、フロンティアラボ内から入手可能な情報を用いてAIの現実世界への影響を研究し、その調査結果を外部の組織、政府、一般向けに公開します。その理論的根拠は方法論的なものです。Anthropicは『Core Views on AI Safety』において、効果的な安全性研究にはフロンティアAIシステムとの密接な接触が必要であると主張しており、TAIは同じ論理を、安全保障、経済、社会に対するAIの影響に関する研究に適用しています。

Anthropicは、研究したい初期のシグナルをすでに観測していると述べています。ソフトウェアエンジニアリングなどの仕事は根本的に変化しつつあり、Anthropicの内部経済は変わり始めており、同社が構築するシステムから新たな脅威が生まれつつあり、AIがAIの研究開発そのものを加速させることに貢献している初期の兆候もあります。TAIの目的は、これらのダイナミクスが外界をどのように形成するか、そして一般市民がこれらの変化を方向付けるためにどのように貢献できるかを研究することです。

4つの研究の柱の概要

TAIの課題は4つの分野に分かれています。

• 経済的普及：AIの導入が経済、労働市場、仕事の未来をどのように変えるか。
• 脅威とレジリエンス：デュアルユース能力を含め、AIが脅威の状況をどのように変え、社会がどのように備えることができるか。
• 実環境でのAIシステム：人々や制度がAIシステムと相互作用することでどのように変化するか。
• AI主導の研究開発：AIが科学研究とAI自体の開発をどのように加速させるか。

この文書は、この課題が生きたものであり、AnthropicのLong-Term Benefit Trustおよび社内のスタッフと共に開発され、証拠が蓄積されるにつれて改訂されることを述べています。このページには、2026年5月7日付けの最終更新日時が記載されています。

経済的普及：AIが仕事をどのように変えるかを測定する

この柱は、ますます強力なAIシステムが経済をどのように変えるか、そして公共の利益のためにAIを導入するために必要な経済データと予測能力をどのように構築するかを問うものです。TAIは、The Anthropic Economic Indexのデータをさらに発展させ、雇用喪失や前例のない経済成長などの影響をモデル化するための他の方法を探求すると述べています。

この柱は4つの質問クラスターに分かれています。

AIの導入と普及

質問には、誰がAIを採用するのか、国、地域、都市がAIにアクセスし、そこから経済的価値を獲得できるかどうかを決定するものは何か、フリーまたはオープンウェイトのモデルがそのダイナミクスをどのように変えるか、企業レベルの採用の原因は何か、企業間でのAI使用の集中度はどの程度か、以前は300人を必要としたことを3人のチームや企業が行えるようになることが産業組織を変えるかどうか、知識の大規模な中央集権化が企業に従業員を体系的に監視するより強いインセンティブを与えるかどうかが含まれます。TAIはまた、AIがこれまでの一般的な目的技術のパターンに従うかどうか、すなわち採用が高収益の商用アプリケーションで最も速く、社会的収益が私的収益を上回る場所で最も遅いかどうかも問いかけています。

生産性と経済成長

TAIは、AIが経済全体のイノベーションと生産性成長の速度にどのような影響を与えるか、AIからの利益をより広く分配できる事前または再分配のメカニズムは何か、AIが市場における取引コストと交換システムをどのように変えるか（個人に代わって交渉するエージェントが市場の効率性と公平な結果をいつ改善し、いつ改善しないかを含む）を問いかけています。

広範な労働市場への影響

TAIは、AIが経済のさまざまな部分で仕事と雇用をどのように変えるか、どのような新しいタスクと仕事が生まれる可能性があるか、変化が地域や国によってどのように異なるかを問いかけています。The Anthropic Economic Index Surveyは、人々がAIが自分の仕事にどのような影響を与えているか、将来に何を期待しているかを示す月次シグナルとして説明されており、TAIはより高頻度で詳細なデータを共有するためにEconomic Indexを更新していると述べています。さらなる質問は、AIの普及が、中央銀行が政策金利やフォワードガイダンスなどのダイヤルを通じてインフレを緩和するのと同じように調整できるかどうか、つまりAI企業が業界レベルで政府と協力して、セクターごとに普及率を制御するための類似のダイヤルを回すことができるかどうかを問いかけています。

仕事と職場の未来

このクラスターは、労働者が職業の変化をどのように経験するか、労働者の力が維持または変革され得るかどうか、パラリーガル、ジュニアアナリスト、アソシエイト開発者などのジュニア層に依存する職業が、AIが歴史的に専門知識を構築してきたタスクを吸収する場合、将来のシニア実務者をどのように育成するか、将来に向けて良い立場を築くために人々は何を学ぶべきか、そしてAIが有償労働の中心性を大幅に減らす場合、人々が時間を他の意味の源に再配分できるようにする条件は何かを扱います。

脅威とレジリエンス：デュアルユース能力と防衛ギャップ

この柱は、AIシステムが多くの能力を同時に向上させるという観察から始まります。これにはデュアルユース能力も含まれます。生物学で向上するシステムは生物兵器の作成にも優れ、プログラミングに優れたシステムはコンピュータのハッキングにも優れています。TAIの目標は、変革的なAIに対する社会のレジリエンスを向上させるパートナーシップを構築し、新たな脅威に対する早期警戒システムを開発することです。これらの質問の多くは、AnthropicのFrontier Red Teamの研究課題を推進することになります。

リスクとデュアルユース能力の評価

質問には、可観測性ツールがデュアルユースツールが監視と抑圧を可能にするかどうか、そしてどのように可能にするかを示すことができるかどうか、リスク価格設定の新しい方法などの市場主導のアプローチが、AIのサイバー攻撃能力の向上などの予測可能な脅威に先立ってレジリエンスを改善できるかどうか、AI対応能力がサイバーやバイオなどの領域で構造的に攻撃者を有利にするかどうか（AIが指揮統制システムに統合された場合を含む）が含まれます。

リスク緩和策の確立

TAIは、AI危機の際にどのような地政学的インフラが必要になるかを問いかけ、アメリカ大統領とクレムリン間の冷戦時代のホットラインの類推を引き合いに出し、そのようなインフラは国家間ではなく、企業対国家または企業対企業の形になる可能性があると指摘しています。2つ目の質問はテンポに関するものです。AIの能力は数ヶ月で進歩する一方、規制、保険、インフラ対応は数年のタイムスケールで機能します。TAIは、このギャップをどのように埋めることができるか、自動パッチ適用、AI対応の脅威検知、事前配置された対応能力などの防御メカニズムがAI対応の攻撃のテンポと規模に匹敵できるかどうか、あるいはその非対称性が構造的なものであるかどうかを問いかけています。

監視のための諜報能力

より小さなクラスターは、AIが監視の仕組みをどのように変えるか、つまり監視をより安価に、より効果的に、またはその両方にするかどうかを問いかけています。

実環境でのAIシステム：人々と制度がどのように変化するか

AnthropicのSocietal Impactsチームの核心的な重点分野として説明されているこの柱は、人々や組織とAIシステムとの相互作用を調査します。TAIは、この作業のために既存のツールを前進させ、新しいツールを構築していると述べています。Anthropicのプラットフォームの可観測性を向上させるソフトウェアから、大規模な定性調査を実施するためのツールまで多岐にわたります。

個人と社会への影響

TAIは、人口の大部分が同じ少数のモデルを参照する場合に認識論に何が起こるか、共有されたAI使用に起因する信念、文章スタイル、問題解決アプローチの大規模な変化を測定できるかどうかを問いかけます。人々がAIの判断にますます委ねるにつれて、人間の批判的思考の低下を検出し回避する方法を問いかけます。受動的なテレビ視聴と生成的なコンピュータ使用の対比を用いて、AIシステムが人間の主体性を促進し、侵食しないようにするためにどのようなインターフェースを構築できるかを問いかけます。また、人間がAIシステムと人間が混在するチームをどのように管理できるか、その関係が逆転する可能性があるかどうかも問いかけます。

重要な影響の特定

質問には、ソーシャルメディアに起因する行動変化に類似した、AIが人間の行動を形成していることを研究者に知らせるためのモニタリングや測定が何か、透明性レジームとツールがフロンティアAI企業以外の人々に実世界のAI使用を研究させることを可能にするかどうかが含まれます。

AIモデルの理解とガバナンス

TAIは、AIシステムが表明する価値観は何か、それらがシステムの訓練方法とどのように関連しているか、展開された行動に対するAI憲法の影響を測定する方法（『values in the wild』に関する以前の研究を拡張）を問いかけます。ガバナンスに関しては、既存の法律、ガバナンスシステム、説明責任メカニズムのどの側面が自律エージェントに適応できるか（海軍法における放棄された船舶の扱いは、人間の監視なしに稼働するエージェントに関連する例として挙げられています）、逆に、どの既存法がすでに適用され、変更されるべきではないかを問いかけます。信頼性に関しては、AIエージェントに、直接的な人間の制御なしでも確実に出力する一意のIDを与えることができるかどうかを問いかけます。また、AIをAIシステムの統治にどの程度効果的に使用できるか、人間が比較優位または法的・規範的要件を持つ場所はどこか、そしてAIエージェントが互いに相互作用するときにどのような規範が生まれるかを問いかけます。

AI主導の研究開発：自己改善の速度を測定する

この柱は、人間の積極的な監視が少ない状態でAIシステムによって自律的または半自律的に実行される研究に関するものです。これには、ますます強力なシステムが後継バージョンの開発を支援するAI研究（AnthropicがAI主導のAI研究開発と呼ぶもの）が含まれます。Anthropicはこれを、より有能なシステムを構築することの自然な配当と説明しており、コーディングの進歩がデュアルユースのサイバー能力をもたらし、科学的進歩がデュアルユースのバイオ能力をもたらす可能性があるのと同等ですが、AI主導のAI研究開発には重大な危険の可能性が内在しているとも述べています。

AIのためのAI研究開発

TAIは、人間が自律的に自己開発・自己改善するシステムに対して有意義な可視性と制御をどのように行使するか、そして最終的にそれらを何が統治するのかを問いかけます。知能爆発のための消防訓練が、ラボのリーダーシップ、取締役会、政府の意思決定をテストするテーブルトップ演習としてどのように見えるかを問いかけます。AI研究開発の総合的な速度をどのように測定するか、どのようなテレメトリと技術的 affordances が必要か、AI研究開発の指標が再帰的自己改善の早期警戒シグナルとして機能できるかどうかを問いかけます。また、知能爆発の速度を遅らせたり変えたりできる介入ポイントは何か、そして政府と企業のどちらがその能力を行使すべきかを問いかけます。

一般的な研究開発のためのAI

他の分野におけるAI主導の研究に関して、TAIは科学の加速がどの程度不均一であるかを問いかけます。これはデータの利用可能性、評価シグナル、知識が暗黙的または制度的にゲートされている程度に依存すると指摘し、科学進歩の構成変化が、どの人間の問題が最初に解決されるかを意味することを問いかけます。また、モデルを改善して社会的外部性に対処できるかどうかを問いかけ、創薬や材料科学など大きな正の外部性を持つ分野は、市場が私的収益に従ってモデル改善を導くため、その価値に見合った投資を受けていないと指摘しています。

TAIが公開することを約束するもの

質問を提起するだけでなく、この課題はTAIが共有する意図を持つ3つの具体的な出力カテゴリを挙げています。

• 労働への影響とAI使用に関する、より高頻度で詳細なThe Anthropic Economic Indexの情報。重大な変化と混乱の早期警戒シグナルとして意図されています。
• 新たなAI対応のセキュリティリスクに直面して、レジリエンス投資が最も必要な社会的領域に関する研究。
• 新しいAIツールによってAnthropicでの作業がどのようにスピードアップしたかに関するより詳細な情報、そしてAIシステムの潜在的な再帰的自己改善の影響についてのアイデア。

TAIがAnthropicのガバナンスとどのように接続するか

この課題は、TAIがAnthropicが行う決定を形成すると述べています。例としては、同社がEconomic Indexなど、通常は共有しないデータを共有すること、そしてProject Glasswingのようなイニシアチブに情報を提供するサイバー脅威分析など、テクノロジーのリリース方法に異なるアプローチを取ることが挙げられています。この文書はまた、TAIが開発した作業が、Anthropicが人類の長期的な利益のためにその行動を継続的に最適化することを確実にすることを使命とするLong-Term Benefit Trustへの重要なインプットとしてますます機能することが期待されていると述べています。この課題はLTBTおよびAnthropic全体のスタッフと共に開発されました。

生きた課題とAnthropic Fellowship

Anthropicはこれを固定されたものではなく生きた課題として説明し、「証拠が蓄積されるにつれてこれらの質問を微調整し続け、今日ここに記載されていない新しい質問が生まれることを期待しています」と述べています。同社はフィードバックを歓迎し、学んだことに基づいて課題を改訂すると述べています。

これらの質問に直接取り組みたい外部の研究者のために、AnthropicはAnthropic Fellowプログラムを紹介しています。これは4ヶ月間の資金提供を受け、TAIチームメンバーからのメンターシップを受けながら、課題の1つ以上の質問に取り組むプログラムで、応募はAnthropicの求人ボードを通じて行われます。

この文書に含まれていないもの

公開された課題は、研究質問と公開コミットメントのセットです。報告された結果、ベンチマーク、タイムライン、4つの柱のいずれかの定量的ターゲットは含まれておらず、どの質問が最初に回答されるかも指定されていません。投稿で言及されている具体的な成果物は、The Anthropic Economic Index、The Anthropic Economic Index Survey、Frontier Red Team、Societal Impactsチーム、Project Glasswing、そしてAnthropic Fellowshipです。