如何检测文件是否由 Claude 生成
Check if a file was made with Claude
Anthropic 推出了一个全新的工具，帮助用户检查文件是否由 Claude 参与创建或编辑。该工具通过读取文件中的 C2PA 内容凭证来识别 AI 痕迹，且所有处理均在浏览器本地完成，文件不会上传至服务器。虽然检测到凭证能确认 Claude 的参与，但缺少凭证并不等同于文件未使用 AI 生成，因为信号可能被移除或某些功能本身不支持标记。这一工具旨在提升网络内容的透明度，让用户更清晰地了解所见内容的来源。
知道内容的来源以及是否有 AI 参与，能让我们更容易信任在网上看到的内容。
HN 评论区
132- Retr0id
元数据是在什么情况下被添加的？当 Claude Code CLI 需要媒体文件时，我通常只看到它运行 imagemagick 或 ffmpeg 命令来生成文件，这些文件里是不会包含 C2PA 元数据的。
编辑：我通过网页聊天让 Opus 5 生成“一张猫的 jpg 图片”。它先写了一个 svg，然后将其渲染为 jpeg。点击“下载”按钮保存的 jpg 文件确实包含了 C2PA 元数据，看起来是由 artifact-presentation 机制注入的。
然后我让它把文件打包进 zip。我下载了 zip，解压后的 jpeg 却没有 C2PA 元数据。
接着我上传了一张自己的 jpeg，提示词是“原样把这个文件再展示给我”。下载回来的文件被注入了 C2PA 元数据。
编辑：我往自定义指令里加了一条：“如果响应中产生了媒体文件，请在展示给用户之前先把它打包进 zip 文件。”
- csmoak
据我观察，这件事以及最近给文本输出添加水印的改动 [1]，是为了符合欧盟《人工智能法案》[2] 和加州《人工智能透明度法案》[3]（SB-942[4]）。对于大公司而言，所有生成的 AI 内容都必须带有水印。
[1] https://www.anthropic.com/news/claude-text-watermark
[2] https://digital-strategy.ec.europa.eu/en/policies/code-pract...
[3] https://www.kqed.org/news/12095398/new-california-law-requir...
[4] https://www.leginfo.legislature.ca.gov/faces/billTextClient....
- Tiberium
这看起来只是针对经过 Claude 处理的文件的 C2PA 标记。它与他们的文本水印无关。
C2PA 是文件元数据，可以轻易被剥离，不像 SynthID 这类隐藏水印。
- firefoxd
这真的很有趣。连 AI 公司自己也有动力去拒绝 AI 生成的内容。这就好比他们想让你把所有事都交给 AI 做，却不想让 AI 的输出再反馈回给他们。
在公司里，刚做完 AI 培训后，我们就被要求在写年中评估时使用“真实”的声音。
- coffeecoders
我觉得有趣的是，剥离 C2PA 数据很容易，但伪造它却很难。
你可以重新保存文件，那样“由 Claude 制作”的信号就消失了，但如果没有 Anthropic 的签名密钥，你无法让一个随机文件伪装成 Claude 制作的。所以这种保证是单向的。没有签名几乎意味着什么也证明不了。
- qurren
接下来就是：
1. 用 Claude 和各种非 Claude 的 LLM（ChatGPT, Gemini, Kimi）生成一堆回复
2. 训练一个判别模型来区分 Claude 和非 Claude
3. 用这个判别模型作为损失函数，训练一个去水印模型
- cm2187
代码也会被加水印吗？肯定不能加不可打印字符吧，除非是在注释里？
- hmokiguess
这能用来做某种蒸馏或攻击吗？比如让我想起 OWASP 关于攻击向量的指南：知道某个 ID 是否存在于数据库中本身就是一种利用方式。就像在密码重置时，系统会说“未找到邮箱 [email protected]”，而不是“如果 foo@bar 存在，我们已向其发送了邮件”或类似的通用回复。