OpenAI 和 洛斯阿拉莫斯国家实验室 生物科学研究 合作伙伴关系

OpenAI 和 洛斯阿拉莫斯国家实验室（LANL）已建立研究合作伙伴关系，以研究人工智能在实验室环境中用于生物科学研究的安全应用。此合作旨在平衡科学发现的加速与生物风险的严格缓解。

物理实验室中多模态AI的评估

OpenAI 和 LANL 生物科学部门 正在 进行 一项 评估 研究，以 评估 前沿 模型（具体 说 是 GPT-4o）如何 通过 视觉 和 声音 等 多模态 能力 帮助 人类 执行 实验室 物理 任务。该 研究 包括 对 GPT-4o 及其 未发布 的 实时 语音 系统 进行 生物安全 评估，以 确定 它们 如何 在 保持 安全 标准 的 前提下 支持 生物科学 研究。

实验设计与任务代理

该 合作 正在 进行 首次 此类 实验，以 在 实验室 环境 中 测试 多模态 前沿 模型。该 研究 评估 专家（博士）和 新手 执行 和 排除 由 标准 实验室 实验 任务 组成 的 安全 协议 的 能力。这些 任务 作为 更 复杂 任务 的 代理，这些 任务 可能 存在 双重 用途 风险。

评估 中 包含 的 具体 任务 有：

  • Transformation：将 外来 基因 物质 引入 宿主 生物体。
  • Cell Culture：在 体外 维持 和 传播 细胞。
  • Cell Separation：利用 离心 等 技术。

通过 测量 任务 完成度 和 准确性 的 提升，研究人员 旨在 量化 前沿 模型 如何 在 实际 生物学 任务 中 提升 专业人员 和 新手 的 技能。

安全评估的技术进展

此合作 在 两个 主要 维度 上 扩展 了 之前 的 AI 安全 工作：

  1. 湿实验技术整合：之前 的 评估 侧重 于 合成 化合物 的 书面 任务 和 响应，未能 捕捉 生物 基准 工作 所需 的 实际 技能。本 研究 超越 理论 知识（例如，了解 质谱 的 步骤），转向 使用 真实 样本 执行 任务 的 实际 表现。
  2. 多模态 推理：之前 的 工作 侧重 于 GPT-4 的 书面 输出，而 GPT-4o 处理 声音 和 视觉 输入 的 能力 使得 实时 故障 排除 成为 可能。例如，用户 可以 通过 摄像头 向 模型 展示 湿实验 设置，并 提出 问题 以 通过 视觉 方式 解决 情景，而 不 依赖 书面 描述。

机构框架与安全承诺

此 合作 由 洛斯阿拉莫斯国家实验室 新设立 的 AI 风险 技术 评估 小组 领导，该 小组 专门 负责 评估 和 理解 与 AI 相关 的 风险。此 合作 符合 美国 能源部 在 白宫 人工智能 安全、可靠 和 可信 发展 与 使用 行政命令 下 的 强制 要求，该 命令 要求 国家 实验室 评估 前沿 AI 模型 的 生物 能力。

此 工作 建立 在 OpenAI 现有 的 生物威胁 风险 研究 之上，并 遵循 公司 的 准备 框架 以 跟踪、预测 和 防御 模型 风险。它 还 与 在 2024 年 AI 首尔 峰会 上 达成 的 前沿 AI 安全 承诺 一致。

"AI 是一种强大的工具，它在科学领域具有带来大好处的潜力，但与任何新技术一样，也带来风险，” 洛斯阿拉莫斯的信息系统和建模副组领导人Nick Generous说道。

summary: OpenAI 和 洛斯阿拉莫斯国家实验室 已合作 评估 多模态 前沿 AI 模型（如 GPT-4o）如何 在 实验室 物理 环境 中 安全 地 辅助 科学家 以 推进 生物科学 研究。 title: OpenAI 和 洛斯阿拉莫斯国家实验室 生物科学研究 合作伙伴关系

Sources