OpenAI助成金：The Alignment Project

OpenAIは、英国AIセキュリティ研究所（UK AISI）が管理し、Renaissance Philanthropyが運営するグローバル基金であるThe Alignment Projectに750万ドルの助成金を提供しました。この資金は、フロンティアAIラボの外にある独立した研究者や概念的アプローチを支援することで、グローバルなアラインメント研究エコシステムの多様化を目指しています。

資金規模と配分

The Alignment Projectは、現在、独立したアラインメント研究のための最大規模の専用資金提供の一つです。OpenAIの約560万ポンドの寄付は、他の公共、慈善、産業の支援者と合わさり、総基金を2700万ポンド以上にしています。

資金は以下のように配分されます：

• Project Grants: 個々のプロジェクトは通常、5万ポンドから100万ポンドの間で受け取ります。
• Support: プロジェクトは計算リソースや専門家サポートへのオプションアクセスを受けられる場合があります。
• Scope: 基金は計算複雑性理論、経済理論、ゲーム理論、認知科学、情報理論および暗号学にわたる広範な研究ポートフォリオを支援します。

AI安全性における独立研究の役割

独立研究は、さまざまな仮定の検証や、単一の組織の内部ロードマップに必ずしも合致しない代替フレームワークの開発を可能にするため、AI安全性にとって不可欠です。OpenAIは、フロンティアラボがすべての有用な探求において比較優位を保っているわけではなく、特に基礎的、概念的、そして「ブルースカイ」的なアイデアにおいてはそうでないと述べています。

この投資は、現在支配的なアラインメント手法が期待通りにスケールしない可能性に対するヘッジとして機能します。相関のない研究を支援することで、エコシステムは、AI能力が進化しても現在の技術的アプローチが耐久性を示さない場合でも、根本的なブレークスルーが利用可能であることを保証します。

フロンティアラボ研究との統合

OpenAIは、スケーラブルな手法と反復的デプロイに焦点を当てた別個の内部アラインメント活動を維持しています。反復的デプロイは、モデルの能力を段階的に向上させながら、早期に問題を顕在化させ、実際に機能するものの具体的証拠を提供するために安全策を強化することを意味します。

フロンティアラボは、大規模な計算資源と最先端モデルへのアクセスを必要とする研究を実施する上で独自の位置付けにありますが、OpenAIは独立研究を補完的な力と見なしています。目標は、内部ラボ研究と外部の独立研究が並行して機能し、AGIが安全かつ有益であることを保証する、堅牢で多様なエコシステムを構築することです。

管理と選考プロセス

この助成金は、科学・イノベーション・技術省（DSIT）内の政府研究機関であるUK AISIを通じて管理されます。OpenAIの資金提供は新たな選考プロセスを設けたり、既存の審査プロセスに影響を与えるものではなく、現在のラウンドで資金提供可能な、すでに審査済みの高品質プロジェクトの数を増やすものです。

UK AISIは、政府、学界、慈善、産業の横断的連携体制と、既存の助成金パイプライン、深刻なAIリスクに焦点を当てた研究資金プログラムの管理に関する専門知識があることから、本イニシアチブのパートナーとして選ばれました。