Dario AmodeiによるAI規制と権力の集中について

AIの権力集中は規制によるものではなく、構造的なものである

AnthropicのCEOであるDario Amodeiは、AI業界における権力の集中は、規制によるキャプチャ（規制の虜）の結果ではなく、スケーリング則による構造的な帰結であると主張しています。Amodeiによれば、計算資源とチップに対する極端な要求は、権力が自然とフロンティア・ラボやハードウェア・プロバイダーへと向かうことを意味しており、オープンウェイト・モデルだけでは不十分な解決策となります。なぜなら、それは単に最も多くのリソースを持つ者へと集中をシフトさせるだけだからです。

分散化における制度的規制の役割

Amodeiは、規制が必然的に規制のキャプチャと権力の集中を招くという、シリコンバレーで一般的なナラティブを否定しています。彼は、客観的で公正な制度的プロセスは、個人ではなくアイデアに権限を付与することで、実際には分散化の力として機能し得ると主張しています。

戦略的な規制案

Anthropicの政策へのアプローチは、企業の規模や能力に基づいて異なる影響を与える、階層的な規制環境を構築するように設計されています。

小規模プレイヤーへの免除: Amodeiは、カリフォルニア州のSB 53（Anthropicが支持）やSB 1047のような提案には、特定の収益またはトレーニングコストの閾値（例：SB 53では5億ドル）を下回る企業への免除が含まれており、小規模な競合他社から規制の負担を効果的に取り除いていると指摘しています。
フロンティア・モデルへの厳格なテスト: ホワイトハウスやCAISIにおいてAnthropicが提唱しているテスト・プロセスは、フロンティア・モデルに対してオフ・フロンティア・モデルよりも厳格な要件を適用します。Amodeiは、これが挑戦者たちに有利に働くと主張しています。
フロンティアのペース配分: 「Pacing the Frontier」フレームワークは、追いつこうとしている者たちを制約することなく、最も先進的なモデルの開発速度を調整することを目指しています。これにより、フロンティア・ラボのビジネス上の利益を妨げ、挑戦者やオープンウェイト・モデルの開発者に利益をもたらすことを想定しています。

現在の米国政策の動向との整合性

Amodeiは、トランプ政権が報じられている方向性、特にフロンティア・モデルのデプロイ前テストや、フロンティアに近い能力を持つオープンウェイト・モデルのテストに関して支持を表明しています。また、彼はDemis Hassabisによる、業界を監督するためのFINRAのような組織を設立するという提案も支持しており、これは、すべての州規制を阻止しようとする以前の業界全体の動きとは対照的です。

公衆の信頼と「癌を治す」という約束

AIの影響に関する認識について、Amodeiは、自身のメッセージングがリスクとベネフィットの両者の間でバランスが取れていると主張しています。彼は、テクノロジー業界と公衆の間の信頼の危機を認めており、マーケティング・キャンペーンではこれを解決できないとし、具体的な結果のみが信頼を回復できると述べています。

Amodeiは、特にAnthropicにおける生物学および医学分野での取り組みを強化していることを強調し、今後数年間の「驚異的な結果」と今後数ヶ月間の「初期の兆候」に期待を寄せています。これは、実際の疾患の治療が可能になることこそが、公衆の信頼を取り戻す唯一の方法であると示唆しています。

コミュニティによる批判と反論

Hacker Newsにおける技術コミュニティの議論では、Amodeiの立場に対して大きな懐疑論が示されています。

規制のキャプチャについて

批判的な人々は、フロンティア・ラボは単に、自分たちが成長期に直面しなかった参入障壁を自ら作り出しているのだと主張しています。あるコメント投稿者は、小規模な企業を免除する規制を支持することは、莫大な的を外さない限り、既存のプレーヤーが挑戦者から脅かされない状態を維持するための方法であると指摘しています。

生物学的ブレイクスルーについて

製薬R&Dの業界専門家は、AIが5〜10年で人類のほとんどの疾患を治すことができるというAmodeiの楽観主義に異議を唱えています。批判者は、AIはコード生成やトリアージ・パスの特定といった特定のタスクには役立つが、、製薬研究の主要なボトルネックは、トレーニング・セットにまだ存在しない新規のデータが必要となることが多いという点にあります。

信頼のギャップについて

多くの観察者は、信頼の危機はメッセージングの問題ではなく、結果の実際的な outcomes と、AI駆動の世界における一般市民の主体性（agency）の欠量であると示唆しています。

"Anthropicは、とりわけ、恩着せが的なレトリックのベールを被っている。表面上は人々のために動いているように見せかけながら、その実、人々を信頼していないことが示唆される行動をとっている... Anthropic、もし公衆の利益をなるべくに考えているのなら、人々をエンパワーメントするための何かをしてください。OSSモデルをリリースしてください。" — HN User @mindwok