OpenAI 将在欧盟为 ChatGPT 文本添加 textGrain 水印，全球 API 用户可选择加入

OpenAI 正在为 ChatGPT 文本添加不可见水印，以遵守欧盟规定。与 Anthropic 不同，它将允许全球 API 客户关闭该功能。

据报道，欧盟《人工智能法案》要求 AI 提供商以机器可读格式标注生成的文本。OpenAI 的解决方案是 textGrain，这是一种在模型选词中嵌入不可见统计信号的技术。它的工作原理与 Claude 的 SynthID 水印非常相似，后者采用的是Google 的开源技术。

OpenAI 表示，将在未来几周内为欧盟地区的 ChatGPT 和 Codex 用户开启水印功能。API 水印将在全球范围内采用自愿启用模式，这与Anthropic 对 Claude 的强制水印不同——后者在全球范围内适用，无论用户以何种方式访问模型。OpenAI 的 API 水印也将在未来几周内通过 Microsoft Azure 等云合作伙伴提供。

文本编辑会大幅降低检出率

OpenAI 表示，在内部测试中，textGrain 的表现与包括 Google 的 SynthID 文本水印在内的其他方法持平或更优。该公司还计划将该技术开源，以便他人在此基础上进行开发。

检出率在很大程度上取决于文本长度和主题。在检测器设定 1% 的目标误报率的情况下，对于约 400 token 的心理学段落，它能识别出约 95% 的水印。在 200 token 时，这一比例下降到约 80%。

OpenAI 表示，对于数学内容，检出率“大幅降低”，因为模型在选词上的自由度较小。更长的段落可能会增强统计信号并改善检出效果，但结果仍可能取决于内容。OpenAI 未提供数据来验证这一假设。

编辑文本也会使水印更难被检出。OpenAI 表示，仅用同义词替换 10% 的单词，就会使 400 token 段落的检出率从约 92% 降至 66%。替换四分之一的单词则会使检出率降至 17%，令水印很容易被规避。这一弱点可能反而对 OpenAI 有利。如果其水印变得更难移除，不希望自己的 ChatGPT 使用行为被检出的用户，可能会转向开放权重模型。

一份技术报告深入解释了 textGrain 的工作原理。Anthropic 尚未公布 Claude 水印的检出率，但表示其系统在应对文本编辑方面表现良好。

OpenAI 表示，水印不会损害输出质量，并援引了对其前沿模型 Astra 的测试。该公司报告称，在 GPQA Diamond、BrowseComp 和 DeepSWE 等八项基准测试中，开启或关闭水印并未造成显著的性能差异。这些结果并不能证明水印是否会影响写作质量，而批评人士对 Claude 的水印也提出过同样的质疑。

OpenAI 还表示，检测出的水印不会透露文本中包含多少人类创意或编辑成分。它不能确立所有权、划分责任、识别用户，也不能证明文本是否准确；同样，未能检测到水印也不能证明文本是由人类撰写的。文本可能太短、可能经过编辑或翻译，或者来自检测器不支持的模型。

OpenAI 目前将限制检测器的访问权限

最初只有选定的研究机构和专业组织才能使用 textGrain 的检测器。他们可以通过申请表提出申请。OpenAI 将根据欧盟的行为准则逐案授予访问权限。Anthropic 在其检测 API 方面采取了类似的做法。

该工具只会报告是否检测到 OpenAI 水印。它不会识别用户，也不会透露他们的提示词或对话内容。

OpenAI 表示，之所以限制访问，是因为检测器可能误标记没有水印的文本，也可能漏掉水印。公司计划"当我们认为可以对结果进行负责任的解读时"扩大访问范围。公司尚未说明这可能会在什么时候发生。

现有的图片和音频验证工具仍向公众开放，包括 openai.com/verify 和内容来源 API。

没有炒作的 AI 新闻——由人工精选

订阅 THE DECODER，即可享受无广告阅读、每周 AI 时事通讯、每年六期的独家前沿报告"AI Radar"、完整档案访问权限以及评论区的使用权限。