OpenAI とロスアラモス国立研究所のバイオサイエンス研究パートナーシップ
OpenAI とロスアラモス国立研究所（LANL）は、バイオサイエンス研究のための実験室環境における人工知能の安全な応用を研究するためのパートナーシップを締結しました。この協力は、科学的発見の加速と生物学的リスクの厳格な軽減とのバランスを取ることを目的としています。
物理的実験室におけるマルチモーダル AI の評価
OpenAI と LANL バイオサイエンス部門は、最先端モデル、特に GPT-4o が視覚や音声といったマルチモーダル機能を用いて、物理的な実験室作業を人間が実施するのをどのように支援できるかを評価する研究を実施しています。本研究では、GPT-4o と未公開のリアルタイム音声システムに対する生物学的安全性評価も含め、これらが安全基準を維持しながらバイオサイエンス研究を支援できるかを検証します。
実験デザインとタスクの代理指標
このパートナーシップは、ラボ環境でマルチモーダル最先端モデルをテストする初の実験を実施しています。本研究は、専門家（博士号取得者）と初心者の両方が、標準的な実験室タスクからなる安全なプロトコルを実行・トラブルシュートできる能力を評価します。これらのタスクは、二重用途の懸念があるより複雑なタスクの代理指標として機能します。
- Transformation（形質転換）: 外来遺伝物質を宿主生物に導入すること。
- Cell Culture（細胞培養）: 細胞を体外で維持・増殖させること。
- Cell Separation（細胞分離）: 遠心分離などの技術を利用すること。
タスク完了率と正確性の向上を測定することで、研究者は最先端モデルが実際の生物学的タスクにおいて専門家や初心者のスキルをどの程度向上させられるかを定量化しようとしています。
安全性評価における技術的進展
このパートナーシップは、以前の AI 安全性研究を主に二つの側面で拡張します：
- ウェットラボ技術の統合：以前の評価は化合物合成のための書面タスクと回答に焦点を当てており、生物学的ベンチ作業に必要な物理的スキルを捉えていませんでした。本研究は、理論的知識（例：質量分析の手順を知っていること）を超えて、実際のサンプルを用いたタスクの実行に移行します。
- マルチモーダル推論：以前の研究は GPT-4 の書面出力に焦点を当てていましたが、GPT-4o の音声と視覚入力を処理する能力により、リアルタイムでのトラブルシューティングが可能になります。例えば、ユーザーはカメラを通じてウェットラボのセットアップをモデルに見せ、質問を投げかけることで、書面による説明に頼らず視覚的にシナリオを解決できます。
組織的枠組みと安全コミットメント
この協力は、AI に関連するリスクの評価と理解を専門に担当するロスアラモス国立研究所の新設 AI リスク技術評価グループが主導しています。このパートナーシップは、ホワイトハウスの「安全・安心・信頼できる人工知能の開発と利用」に関する大統領令に基づく米国エネルギー省の指令と合致しており、国立研究所に対して最先端 AI モデルの生物学的能力を評価することを求めています。
本研究は、OpenAI の既存のバイオスレットリスク研究を基盤とし、モデルリスクの追跡・予測・保護を行う同社の Preparedness Framework に従っています。また、2024 年 AI ソウルサミットで合意された最先端 AI 安全性に関するコミットメントとも一致しています。
「AI は科学分野に大きな利益をもたらす可能性のある強力なツールですが、あらゆる新技術と同様にリスクも伴います」とロスアラモスの情報システム・モデリング副グループリーダー、ニック・ジェナラス氏は述べました。