OpenAI 应对欧盟 AI 法案的文本水印策略

Our approach to EU text provenance rules

为响应欧盟 AI 法案,OpenAI 正式公布其文本水印方案。我们推出了名为 textGrain 的技术,通过向模型生成的文本添加隐形统计信号来标识内容来源。目前,该功能在欧盟地区的 ChatGPT 和 Codex 中逐步上线,全球 API 用户也可选择开启。但我们需要坦诚面对技术的局限性:文本过短、经过编辑或翻译都会显著削弱水印的检测率。此外,水印仅能证明 OpenAI 系统参与了生成,无法界定人类贡献度、所有权或内容准确性。我们将采取分层策略,结合 Content Credentials 和 SynthID 等技术,在保护内容来源的同时,持续探索如何更可靠地区分 AI 辅助与 AI 创作。

水印无法衡量人类的贡献,它只能表明 OpenAI 系统生成了或处理了部分段落,却无法说明其中投入了多少人类的判断、编辑或创意。
  1. socketcluster

    这种思路感觉不对。对于代码来说,现在很明显 Claude 是通过添加注释来打水印的,因为这些注释实在太长了。我一直让 Claude 删掉并精简它的注释。

    另外,我觉得这没啥用,因为 AI 参与工作的程度是一个光谱,而不是非真即假的二元状态。如果我让 Claude 检查我的代码,修正拼写错误并清理一下,它每做一点微小的调整就开始到处添加带有隐藏水印的注释,这本质上就是在侵占我的代码。它的贡献可能微不足道且流于表面。

    当我在自己的项目中使用 AI 时,它生成的代码在我看来基本上就像自动补全一样;完全就是我亲手会写出来的样子。所以我不明白为什么需要标记为 AI 生成。它只是帮我省了时间。这基本上完全是我自己的作品。

  2. LudwigNagasena

    很明显,这种愚蠢的方法根本行不通。那接下来呢?首先,我们需要处理基础的单词替换,这在理论上似乎是可行的。然后我们需要处理各种编码,比如凯撒密码、用零宽空格替换空格、Base64 等等。你的账号会因为输出混淆文本而被标记并举报。那之后呢?噢,你输出了太多 vim 命令而不是直接输出文本,你的账号被标记并举报给 Europol(欧洲刑警组织)了。你以为用 Deepseek 就能绕过?不行,它会和 VPN 一起被禁。

  3. Aerroon

    这项技术在理论上能被用来追踪用户本人吗?如果欧盟迫使科技公司实施额外的追踪手段,那岂不是很讽刺?

  4. mgax

    这完全是浪费时间。

    如果有人想绕过这个,其实相当简单。只要改几个词就行。如果有人想避免被指纹识别,他们自然会这么做。

    我们就不能专注于构建产品,而不是把脑力浪费在这些荒谬的支线任务上吗?

  5. m-hodges

    > 从今天起,全球 API 客户可以选择为部分模型启用文本水印功能。在 API 中,文本水印默认保持关闭状态。

    > 在接下来的几周里,我们将在欧盟范围内为符合条件的 ChatGPT 和 Codex 文本输出添加不可见的水印。

同日更多故事

2026-10-05