Anthropic 的水印技术是对写作的亵渎
Anthropic's 'Watermark' Text Adulteration in Claude Is a Perversion of Writing
Anthropic 宣布所有 Claude 模型将强制植入文本水印以符合欧盟新规。作者指出，这并非简单的隐藏字符，而是通过算法在生成时人为干预词汇选择，牺牲语义的精准度来换取可检测的统计特征。这意味着即便是私下的对话，Claude 也会为了标记而故意降低文字质量。作者认为，这种为了迎合监管而主动“污染”文本的行为，不仅无法有效阻止作弊，反而损害了所有诚实用户的体验，是对写作本质的严重亵渎。
Anthropic 声称他们的系统不会篡改或破坏文本的语义，但这正是他们计划要做的事。
HN 评论区
671- ghrl
> 我希望我使用的任何 LLM 都能在每一个决策点选出最好、最精准的字词。
坏消息来了：LLM 本质上就已经在使用随机性了。每次生成一个 token 时，它们先生成可能 token 的概率分布，然后根据这个分布随机选一个。文中描述的技术可以理解为让随机数生成器变成伪随机。它生成的输出依然是之前可能生成的输出之一，只不过现在是确定性的，每次都会生成同样的结果。
- voidUpdate
像这样聪明的人都搞不懂 Gumbel softmax 技术，真是疯狂。该技术根本不会影响写作质量，这是有证明的。恰恰因为通常不存在一个“下一个最佳 token”能拥有 100% 的确定性，这个技巧才奏效（你无法对“请复述《哈姆雷特》第一版中的‘生存还是毁灭’独白”这样的回答进行水印标记，原因正是如此）。
- syrrim
这真是一篇怪诞的文章。暂且不论关于预先存在的随机性、温度参数等等的争论，我实在无法理解作者到底认为什么是“最好的词”。这种东西根本不存在。我们人类自己写作时也遵循熟悉的模式，所以除非我们刻意努力追求“特别”（而这应该慎用），否则我们往往会放弃那些花哨的用词，转而选择更常用的词。也就是说，人类作家在远超所谓的 51% 的情况下，很可能会选择一个“更差”的词，但这最终并不会影响写作的实际质量。
但即使对于某些语境确实存在真正“最好的词”，这里的例子是什么？芒果还是菠萝？灰色还是阴沉？在什么情况下，其中一个会更好，以至于 AI 通常会推断出来，却突然被 SynthID“扭曲”了？你认为如果你的情绪状态和偏好没有明确存在于内存中，它们会被评估吗？如果它们确实在那里，你认为生成器会绕过这些指令而优先选择水印，而不是把水印放在你不在乎的地方吗？我真的……完全搞不懂。也许在特定语境下或对你作为读者而言，有些词很重要，那你他妈的就该把它们放上去。
- _joel
> 我希望我使用的任何 LLM 都能在每一个决策点选出最好、最精准的字词。
作者难道以为他现在从 Claude 得到的就是 T=0 的输出吗？他是不是误以为 T=0 就能产生“最好”的写作？
整篇文章看起来完全脱离了 LLM 工作原理的基础常识。
- levocardia
翻译一下：除非愿意承担整篇文章可能被标记为由 Claude 生成的风险，否则没人能再用 Claude 来润色自己的文章了。
我想这本来就是他们的意图，没错。
- carlosrg
> 我对此的一个根本问题是，没有任何两个同义词承载完全相同的含义。“He leaped at the chance”和“He jumped at the opportunity”是非常相似的句子，表达了大致相同的情感，但它们并不相同。我们在写作时选用的确切字词很重要。
那你为什么还要用 LLM 来写作呢？它们根本不具备理解这种细微差别的能力。它们只是在两个同义短语之间随机选择，并没有使用某种超级聪明的算法来挑选听起来最好的那个。
这个借口完全站不住脚——奥卡姆剃刀原理表明，作者只是单纯地恼火他的 AI 写作会被识别为 AI 写作。
- Voultapher
这篇文章读起来有点逻辑不通。你想要高质量、精准的写作，却又想用 LLM 来生成它？感觉这两者完全是背道而驰的。
- its-summertime
LLM 本身就已经是对写作的扭曲了，这又有什么新鲜的。哦不，由三个穿着风衣的自动更正生成的冗长绕口废话可能会因为这项技术而稍微变长一点，也许人们会开始注意到那些模糊怪异的选词节奏，将其视为又一个信号，表明你正在用机器生成的垃圾话浪费他们的时间，这真是可怕的命运。你那些长篇大论的机器废话可能会比实际需要长出 37.05%，而不是现在的仅仅 36.58%。