OpenAI 为生物学中的未来 AI 风险做准备
OpenAI 宣布了一项全面的策略，以降低与前沿 AI 模型相关的生物风险。随着这些模型在生物学方面接近“高”水平的能力——如 OpenAI 的准备框架所定义——公司正在实施多层防御系统，以防止 AI 被用于制造生物武器或重现生物威胁，同时继续支持合法的科学发现。
主动缓解与专家合作
OpenAI 正在采用预防优先的方式来应对生物风险，重点是在威胁事件发生前限制对有害能力的访问。该策略在很大程度上依赖于与外部领域专家和政府机构的合作，以识别漏洞并加强系统。
- 专家咨询： OpenAI 与生物安全、生物武器和生物恐怖主义专家以及学术研究人员合作，制定其威胁模型、能力评估和使用政策。
- 政府合作： 公司正与美国 CAISI 和英国 AISI 合作，并与洛斯阿拉莫斯国家实验室合作，研究 AI 在湿实验室环境中的作用。
- 验证： 具备生物学博士和硕士学位的人类训练师用于创建和验证评估数据，以确保安全评估的准确性。
生物风险的技术安全措施
为防止 AI 被用于生物武器化，OpenAI 在其产品层面部署了多项技术控制：
模型训练与响应过滤
OpenAI 训练其模型拒绝明确有害的请求或那些可能导致生物武器化的请求。对于双重用途的请求——例如涉及基因工程、免疫学或病毒学的请求——模型遵循模型规范，避免提供可操作的、逐步的指令或湿实验室故障排除指导。其目标是为专家提供高层次的洞见，同时不泄露可能让新手误用系统的细节。
检测与执行
- 持续监控： 全系统监控检测风险或可疑的生物相关活动。如果请求被标记为不安全，响应将被阻止并触发自动审查，可能会进入人工审查。
- 政策执行： OpenAI 禁止使用其产品造成伤害。滥用可能导致账户暂停，在严重情况下会通知执法部门。
红队测试与安全控制
- 端到端红队测试： OpenAI 将生物领域专家与经验丰富的红队成员配对，模拟复杂的对手并识别安全系统中的漏洞。
- 权重保护： 采用深度防御方法保护模型权重免于外泄，结合访问控制、基础设施加固、出口控制和监控，并由内部风险计划支持。
未来生物安全倡议
OpenAI 认识到仅保护单个模型不足以应对挑战，因而倡导构建更广泛的生物防御生态系统。
生物防御与审查访问
7 月，OpenAI 将举办生物防御峰会，邀请政府研究人员和非政府组织，探讨前沿模型如何加速对策和新疗法的研发。此外，公司正在制定协议，向经过审查的机构提供更强大模型的访问权限，以推动生物科学的发展。
系统性生物防御
OpenAI 建议公共和私营部门合作，加强 AI 模型之外的生物防御，包括：
- 加强核酸合成筛查。
- 更强大的新型病原体早期检测系统。
- 加固基础设施以防御生物威胁。
- 投资生物安全创新和使命驱动的初创企业，以确保长期韧性。