フロンティアモデルフォーラムの発表
OpenAI、Google、Microsoft、およびAnthropicは、フロンティアAIモデルの責任ある開発と導入を確保するため、業界全体の安全基準と評価を作成するフロンティアモデルフォーラムを設立しました。このイニシアチブは、政府の取り組みと業界の実践の間のギャップを埋め、AIの安全性に関する横断的な組織間協力のための手段を提供することを目的としています。
フロンティアモデルフォーラムの主要な目的
フロンティアモデルフォーラムは、来年にかけて高度なAIシステムに関連するリスクを軽減するため、3つの主要な行動分野に焦点を当てます：
1. ベストプラクティスの特定
フォーラムは、業界リーダー、政府、市民社会、学術界間での知識とベストプラクティスの共有を促進します。主な目的は、フロンティアAIモデルに関連する幅広い潜在的リスクを軽減する安全基準とプラクティスを確立することです。
2. AIセーフティ研究の推進
フォーラムは、最も重要な未解決の質問に関する研究を特定し、調整することでAIセーフティエコシステムをサポートすることを意図しています。技術的焦点の主要な分野には以下が含まれます：
- 敵対的ロバストネス: モデルが悪意のある入力に対して耐性があることを確保する。
- メカニスティック解釈可能性: モデルの内部動作を理解する。
- スケーラブルな監視: 複雑化するシステムの安全を管理する。
- 独立した研究アクセス: 外部検証のための経路を提供する。
- 発現する挙動と異常検知: モデルの予期しない能力を特定する。
最初に、フォーラムはフロンティアAIモデルのための技術的評価とベンチマークの公開ライブラリの開発と共有を優先します。
3. 情報共有の促進
フォーラムは、企業、政府、ステークホルダー間でAIの安全性とリスクに関する情報を共有するための安全で信頼できるメカニズムを確立します。このプロセスは、サイバーセキュリティ業界で使用されている既存のフレームワークから引用し、責任ある開示における確立されたベストプラクティスに従います。
AIガバナンスにおける業界の視点
主要なAIラボは、AIが人間の管理下に残り、社会に利益をもたらすことを確保するための集団的行動の必要性を強調しています：
"AI技術を作る企業には、それが安全で確実であり、人間の管理下にあることを確保する責任があります。このイニシアチブは、AIを責任を持って進めるためにテクノロジー業界を結びつける重要な一歩です。" — Brad Smith, Vice Chair & President, Microsoft
"AI企業、特に最も強力なモデルに取り組んでいる企業は、共通の基盤に合わせ、思慮深く適応可能な安全慣行を推進することが重要です。" — Anna Makanju, Vice President of Global Affairs, OpenAI
"Anthropicは、AIが世界の働き方を根本的に変える可能性があると考えています。私たちは、業界、市民社会、政府、学術界と協力して、この技術の安全で責任ある開発を促進することに興奮しています。" — Dario Amodei, CEO, Anthropic
"私たちは、他の主要な企業と協力して技術的専門知識を共有し、責任あるAIイノベーションを促進することに興奮しています。" — Kent Walker, President, Global Affairs, Google & Alphabet
Sources
- OriginalFrontier Model Forum