AI 正在瓦解我们称之为信任的东西
AI Is Breaking This Thing We Call Trust
就像当年 Henry Ford 颠覆马车时代一样，AI 正在彻底重塑我们的工作习惯。过去，我默认同事提交的代码或文档是他们真正理解并经过深思熟虑的，但现在，AI 让生成看似完美却未经核实的内容变得轻而易举。这迫使我从审查“变更是否合理”转变为质疑“作者是否真的理解”。当信任被打破，协作效率随之下降，因为我不再能跳过基础验证步骤。文章呼吁工程师和团队领导重新定义署名责任：你的名字代表你理解并愿意为结果负责，而不是仅仅因为 Claude 或 ChatGPT 生成了它。我们需要在适应工具的同时，保持对工作的真诚与透明。
你的名字出现在作品上，应该意味着我能信任你理解它并愿意为其负责，尤其是在发送给我之前。
HN 评论区
30- plaidfuji
事情是这样的：我们工作中的大多数习惯仍然假定，要产出东西，你就必须理解它。
这从来都只是相对而言的。直到最近，人们还被期望理解自己编写的软件级代码。但不需要理解机器码，也不需要深入理解计算机内部原理。你信任那些层级能正常工作。在过去某个时间点，你无法仅仅依赖这种信任。而在不久的将来，你将只信任软件代码能正常工作。取而代之的是，你只会争论规范（即提示词）。你的思考可以向系统层级再提升一级。每个人都可以。我们以前做过，以后还会再做，而且这甚至不会是最后一次。放下焦虑，让它发生吧。
- Havoc
我担心下一代。
你和我有一个基准：我们的大脑在发育阶段时，世界上还存在某种统一的、被接受的真理（哪怕它值得怀疑）。
而未来的一代将不得不在一个更加分裂的现实中成长。那是一个没有任何东西可以抓住的世界，甚至连一个值得怀疑的、被普遍接受的叙事都没有。
- sigalor
我想知道人们何时才会明白：智能不仅指向外部，而且只有当你向内看时，它才真正开始（喜悦、快乐、创伤、禁忌、尴尬、虐待、信任等等）。去查查“内感受”（interoception）这个词。
- philbo
我认为应对这一问题的一种方式是刻意选择能力较弱的工具（但仍由 AI 辅助）。你不必将庞大的任务整体委托给智能体，但这需要与主流框架抗争，因为它们存在的目的就是为了向你推销更多 token。模型提供商并没有动力去提供更少自主性的流程。
几个月前，我写过一篇关于这种挫败感的博客 [1]，后来我意识到，如果模型提供商不做，也许我应该自己尝试修复。所以，无节操地打个广告：我写了一个开源框架，它试图更像结对编程，而不是代码审查 [2]。
和往常一样，我的
- lovich
精英阶层破坏了信任。
没人把 Sam Altman 逼成一个 compulsive liar（病态说谎者）。没人让 Musk 把一项服务称为“全自动驾驶”，然后在它判定即将发生事故时，瞬间将责任推回给用户。
别再剥夺那些做顶层决策并独享所有利益的人的自主权了。
你会声称，一个连续喝了五杯酒然后开车回家的人，因为物理上造成损害的是车，所以他对事故不负责任吗？