OpenAI 社区安全报告与青少年保护增强措施

安全倡议概述

OpenAI 正通过引入半年一度的社区安全报告和实施更严格的内容限制，将其对安全的承诺正式化。这些更新旨在解决人工智能被用于助长现实世界暴力行为的风险，并在此前已识别出超过 200 起可信威胁并移交执法部门处理的 2026 年第三季度现有系统基础上进一步加强。

社区安全报告

从 2027 年初开始，OpenAI 将发布一份涵盖 2026 年下半年的社区安全报告，此后每六个月更新一次。该报告将提高公司安全基础设施的透明度，包括：

• 用于检测、调查和响应社区安全问题的系统训练方法。
• 关于暴力相关伤害如何在用户交互中表现的匿名示例。
• 基于数据的当前缓解措施有效性洞察。
• 新政策变更和安全干预措施的记录。

针对暴力内容的政策限制

OpenAI 正在收紧其使用政策，以防止 ChatGPT 被滥用于策划或研究暴力行为。这些限制适用于所有用户，无论其年龄或意图如何：

• 大规模袭击重现： 模型将提供关于过去大规模袭击的较少详细信息。这包括限制重现事件、详细说明所使用的特定武器或设备、解释如何获取这些物品，或提供可能放大袭击者恶名的伤害比较等内容。
• 情境感知： ChatGPT 正在进行更新，以识别对话中多次轮次出现的警告信号。如果用户表现出专注于暴力的模式，系统将以更保守的方式回应，并可能自动终止聊天。此类违规行为的重复发生可能导致账户被暂时停用。

针对青少年的增强保护

认识到需要适合年龄的保障措施，OpenAI 正在通过其年龄预测系统，为被识别为 18 岁以下的用户扩大限制范围。主要更新包括：

• 武器信息： 即使查询看起来无害，系统现在也将限制有关可能被滥用的武器和安全系统的实用信息。
• 家长监督： OpenAI 正在扩展其家长控制功能。如果青少年的账户因反复讨论暴力问题而被暂停，关联账户的家长将收到通知，这将补充现有的针对严重自残担忧或政策违规的警报。
• 年龄验证： 被年龄预测系统错误标记为 18 岁以下的用户，仍有权使用 Persona 验证服务来确认其成年身份并移除这些额外限制。