AI 文本水印正悄悄降低生成质量
AI text watermarking and quality loss
随着 EU AI Act 的透明度指南生效，各大 AI 实验室纷纷计划对文本输出添加水印。John Gruber 对此提出质疑，认为为了嵌入隐藏线索而牺牲文本的清晰度与连贯性是不可接受的。尽管 Anthropic 和 Google 的 SynthID-Text 研究声称水印不影响质量，但深入分析发现，这实际上牺牲了“响应间多样性”。当用户反复重试同一提示词时，水印机制会导致生成结果高度相似，如同掷出了被操纵的骰子。这不仅限制了创意写作的可能性，也让通过多次生成来验证模型置信度的方法失效。所谓的“无质量影响”仅在单次响应中成立，而在真实的对话交互中，水印正在悄然削弱 AI 的创造力。
当对同一提示词采样多个响应时，带水印的响应之间的相似度要高于未加水印的响应。
- viraptor
这篇评论挺有意思，但感觉把一些概念混为一谈了。Gruber 的观点是我们不该牺牲质量，但那些来源并没有证明这一点正在发生。回答的多样性降低，可能意味着你得到的是更一致的好答案、坏答案，或者质量不变的答案。很多人抱怨无法得到真正的 temperature=0 的回答——他们其实也会欢迎这种一致性。
就我个人而言，那个“不喜欢某句话”的实用例子并不怎么好。与其只是重新生成答案，为什么不继续在同一个对话线程里指出你不喜欢哪里？或者要求生成 20 个替代方案，指出哪些方向对了，再要求生成 20 个？用单个样本从头重试既浪费时间，也无法说明任何关于质量的问题。
总之，这些都是理论层面的——请给我们展示实际基准测试或样本，证明质量确实持续下降了。
- ethanj8011
> Natzir Turrado 是一位技术顾问，他确实测试了这一点（文章为西班牙语）：他在一个开源模型上复现了 SynthID-Text，使用了论文中的设置和水印密钥。他让带水印的模型五次描述一次难忘的沿海小镇之旅。他得到的五个回答中，有四个开头几乎一模一样：“当我回想起那次去迷人的沿海小镇……的旅行时，我的心仍在歌唱/起舞”。而对于未加水印的模型，三个回答的开头各不相同。
2/5 对比 4/5 的测试，显然是一个无效的实验。
- cowlby
这种情况已经发生了，Claude 给我的所有内容都加了水印，内容是：“你只对了一半，而错的那一半才是有用的部分。”