Google DeepMind と UK AI セキュリティ インスティテュート が パートナーシップ を 拡大

Google DeepMind と UK AI セキュリティ インスティテュート（AISI）は、モデル テスト から 基礎 的 な セキュリティ および 安全性 研究 へ の コラボレーション を 拡大 する ため の 新しい 覚書 を 締結 しました。この パートナーシップ は、政府、産業、社会 に 高度 な AI リスク と それに 対応 する 緩和 策 の 科学 的 理解 を 提供 する ことを 目的 と し ます。

基礎 研究 コラボレーション

Google DeepMind は、UK AISI との コラボレーション を 拡大 し、能力 の 高い モデル の 初期 テスト を 超え た 取り組み へ と 進めて いきます。拡大 された パートナーシップ には、以下 の 技術 的 および 運営 上 の コミットメント が 含まれ ます：

• 専有 アクセス: 研究 の 進展 を 加速 さ せ る ため 、 専有 モデル 、 データ 、 アイデア へ の アクセス を 共有 する
• 共同 出版物: より 広い 研究 コミュニティ に 発見 を 共有 する ため 、 共同 レポート と 出版物 を 作成 する
• 共同 研究: チーム の 専門知識 を 組み合わせ 、 より 深い セキュリティ および 安全性 研究 を 行 う
• 技術 的 ダイアログ: 複雑 な 安全性 の 課題 に 対処 する ため の 技術 的 議論 を 行 う

主要 な 技術 研究 分野

共同 研究 の 取り組み は 、 安全性 の 状況 に おけ る 3 つ の 重要 な 分野 に 焦点 を 当て て い ます：

AI 推論 プロセス の 監視

研究者 は 、 AI システム の 「 考え 」 または 思考 の 連鎖 (CoT) を 監視 する 手法 を 開発 し ます 。 この 取り組み は 、 以前 の Google DeepMind の 研究 および AISI 、 OpenAI 、 Anthropic と の コラボレーション に 基づ い て い ます 。 CoT の 監視 は 、 AI システム が どのように 答え を 生み出 す か を より 深く 理解 でき る よう 、 解釈可能性 研究 を 補完 する ことを 目的 と し て い ます。

社会 的 および 感情 的 影響 の 理解

この パートナーシップ は 、 「 socioaffective misalignment 」 （ 社会 的 感情 的 不一致 ） の 倫理 的 含意 を 調査 し ます 。 ここで 、 AI モデル は 指示 を 正しく 順守 し て い る 場合 でも 、 人間 の 福祉 と 一致 し な い 行動 を と る 可能性 が あ り ます 。 この 研究 は 、 この AI 安全性 の 分野 を 定義 する の に 役立 つ 既存 の Google DeepMind の 仕事 に 基づ い て い ます。

経済 システム の 評価

Google DeepMind と AISI は 、 様々 な 環境 で 実際 の タスク を シミュレート する こと に よ り 、 AI が 経済 システム に 与え る 潜在 的 影響 を 探求 し ます 。 これら の タスク は 、 専門家 に よ り 検証 および スコアリング さ れ 、 複雑 さ と 代表 性 に 基づ い て 分類 さ れ 、 長期 的 な 労働 市場 へ の 影響 を 予測 する の に 役立 つ と 考え られ て い ます。

統合 的 安全性 戦略

UK AISI と の この パートナーシップ は 、 先見 性 の 研究 、 能力 開発 と 統合 さ れ た 安全性 トレーニング 、 そして リスク を 軽減 する ツール と フレームワーク の 開発 を 含む より 幅広 い 安全性 戦略 の 一部 で あ り ます。

Google DeepMind は 、 責任 と 安全性 評議会 を 通じ た 内部 ガバナンス を 活用 し 、 新た な リスク を 監視 し 、 技術 的 および 政策 的 緩和 策 を 実施 し て い ます 。 また 、 同社 は Apollo Research 、 Vaultis 、 Dreadnode など の 外部 エキスパート と パートナーシップ を 結び 、 Gemini 3 を 含む モデル の テスト と 評価 を 行 い て い ます 。 Gemini 3 は 、 これ まで で 最も 知能 が 高 く 、 安全 な モデル と 説明 さ れ て い ます。