OpenAI 文本溯源与 textGrain 水印技术
OpenAI 已宣布分阶段推出文本水印功能，以符合欧盟《人工智能法案》的要求，该法案要求生成式 AI 提供商使 AI 生成的文本具备机器可读性。该公司正在引入一种名为 textGrain 的新技术，通过在模型输出中嵌入不可见的统计信号，实现对 OpenAI 生成内容的识别，同时保持输出质量。
实施策略与部署计划
OpenAI 正通过基于地区和用户类型的分层方法部署文本水印：
- 欧盟用户： 在未来几周内，欧盟地区的 ChatGPT 和 Codex 文本输出将被添加不可见水印。
- API 客户： 全球 API 客户现在可以为部分模型选择启用文本水印。此功能默认处于关闭状态。
- 云合作伙伴： OpenAI 正与云合作伙伴合作，未来几周内将水印功能扩展至通过其服务访问的模型输出。
textGrain 技术概览
textGrain 是一种水印技术，它将不可见的统计信号嵌入模型的词汇选择中。相应的检测器随后分析文本，以判断该信号是否存在。
性能与局限性
OpenAI 报告称，textGrain 的性能达到或超过了其他测试方法（包括用于文本的 SynthID）。然而，该公司强调了检测可靠性方面的几个关键局限性：
- 文本长度与约束： 检测在较长段落中效果更佳。在 1% 的误报率下，检测器在约 400 个 token 的段落中识别出水印的比例约为 95%，但在 200 个 token 的段落中仅为 80%（使用心理学内容）。对于数学等受限内容，检测率显著降低，因为词汇选择的灵活性有限。
- 对编辑的敏感性： 修改文本会削弱水印信号。在对 400 个 token 段落的评估中，用同义词替换 10% 的词汇会使检测率从 92% 降至 66%，替换 25% 的词汇则降至 17%。
对模型质量的影响
使用 Astra 前沿模型的评估显示，启用水印后未出现显著性能下降。基准测试结果如下：
| 基准测试 | 未加水印（Astra，最大） | 加水印（Astra，最大） |
|---|---|---|
| Artificial Analysis Intelligence Index | 49.57 | 49.76 |
| AutomationBench | 34.09% | 34.86% |
| DeepSWE v1.1 | 72.80% | 71.68% |
| Terminal-Bench 4.0 | 53.90% | 56.06% |
| Terminal-Bench Science 0.1 | 56.90% | 60.00% |
| BrowseComp | 87.92% | 87.35% |
| HealthBench Professional | 64.27% | 64.60% |
| GPQA Diamond | 94.44% | 93.94% |
检测器访问与治理
由于存在误报和漏检的风险，OpenAI 在发布初期并未公开 text 水印检测器。目前访问权限仅限于经批准的研究人员和专家组织，以帮助评估和改进该技术。
文本水印的解读限制
OpenAI 强调，检测结果并不能完整反映文本的来源。具体而言，水印：
- 不衡量人类贡献： 无法量化人类编辑或创造力的参与程度。
- 不确立所有权： 无法确定内容的法律所有权、合法使用或责任归属。
- 不识别用户： 无法将文本与特定个人、账户或提示关联。
- 不验证准确性： 无法表明文本是否真实或有害。
- 无法证明人类作者身份（若缺失）： 若未检测到水印，不能保证文本由人类撰写，因为文本可能太短、被编辑过，或由不支持的模型生成。
更广泛的內容溯源框架
文本水印是分层溯源策略的一部分。OpenAI 使用符合 C2PA 标准的内容凭证来处理图像，同时对图像和音频使用 SynthID 不可见水印，这些水印可通过 Content Provenance API 和 openai.com/verify 进行验证。这种多层方法结合了开放标准和持久水印，帮助平台和用户识别 AI 生成内容，特别是用于遏制深度伪造的传播。