Waymo效应：AI如何让科研不再协作

我工作在技术、应用研究和科学的交叉领域。

我注意到在确实发生的协作中，一个现象是：那些跨出自己领域的人，在发表观点时变得更加自信满满。我遇到过一些软件经验有限的人，他们推出层层抽象、相当复杂但意图往往 misguided（ misguided 在此指方向错误或南辕北辙）的代码，却斩钉截铁地声称自己做得对。

我也听到越来越多的对领域内人士的质疑和意见挑战，随后听到的只能是我想象中他们与 LLM 对话的碎片，LLM 正在帮他们梳理某个论点。当你讨论不足之处时，他们往往沉默不语，但过会儿又带着你说过话的“记忆碎片”，结合 LLM 对该论点的“记忆碎片”反馈回来。

这种情况正变得越来越普遍。人们在协作中将 LLM 视为真理之源，利用它来聚焦于他们认为（或带有偏见地倾向）的特定路径或目标，而不是敞开心扉讨论，听取多学科专家权衡利弊后，采取大家最认可的方案。

这让我越来越不想与这类人协作。我不想整天坐着去反驳 Claude 生成的文本。

AI 极其有用，但也极易让人产生“我懂了”的错觉，实则并未真正理解。这在代码中很常见，在数学和科学概念上也是如此。

很少有职业会正式训练人们去意识到这种理解的缺失，以及如何直面它。

在协作环境中使用 AI 会放大这些问题，尤其是当某人没意识到自己不懂的时候：他们无法教授或解释所使用的概念，也无法像专家或研究人员那样灵活地驾驭这些概念。

如果你意识到自己的理解缺失，可以通过放慢节奏、自我学习来弥补。要在感兴趣的领域更好地利用 AI，这是必须的！

但你无法鱼与熊掌兼得：你不可能既以 AI 的速度推进，又高效协作，同时还能像专家一样透彻理解发生了什么。人脑在生理上做不到这一点。

我怀疑 AI 是否正在让我们变笨。

我可以让 AI 拉取一些分析——写个 sql 查询，算算数，砰，一个听起来很精确的数字就出来了。

但随后我质疑它，它却说：“你说得对，我没检查那个。”

我是怎么知道该质疑什么的？靠的是自己查询、自己计算所经历的摩擦工作，以及来自领导的质询。

我担心年轻一代。他们快速吐出 Claude 的结果，别人一质疑，他们就回：“好的，我拿回去再问问 Claude。”

我想他们最终还是会学会自己做常识检查的，因为他们向他人展示时仍会遭遇摩擦。

也许我的模型已成过去式。如今每个人从学校出来都将成为（智能体的）经理。他们不再亲自干活，但需要设定清晰目标、验证工作成果，并让智能体承担责任。

“每一次人类互动都值得保留”这个观念可能并不正确，Waymo 正在展示这一点。正如作者所提到的，很多人并不享受与 Uber 司机被迫进行的寒暄。与不同背景和观点的人互动固然重要，但我怀疑像出租车 ride 这种被迫的互动，并不是我们一直以来获取这些互动的地方。

我认为这个问题和任何技术都一样：用对了能增值，用错了则减分。

LLM 可以极大加速流程，但若不加控制，它们就会变成社交层面的“真理之源”。研究过程有定义明确、根基扎实的各个阶段：界定主题、搜索来源、评估其适用性、审查内容，并将其置于学科地图中。来源越多，知识越丰富，最终成果——无论是思维成果还是报告形式——就越完善。为此，你必须阅读、重读、思考、连接、关联并得出结论。

AI 完成所有这些步骤都比人类快。但如果我们让它独自按自己的方式完成整个工作，且每个阶段都没有检查，结论最终可能会扭曲。如果我们知道想要它做什么、怎么做，并建立机制来强制执行，结果就会不同——更好、更可靠。值得记住的是：它只是个工具，仅此而已。

这条评论的英文措辞已经过 AI 修正，我的流利度不足以清晰表达，但我确实审查了最终结果。在这个案例中，它搞错了动词时态，我看得很清楚，但 AI 没懂，我费了好几条指令解释它才理解。它是工具，缺乏监督会导致问题，但它确实为许多人拓展了世界。

我在当前的学术研究项目中也看到了这一点——这就像给与研究人员合作的所有优缺点火上浇油。

首先：让人们整合工作并使用标准工具确实变得更难了。我们正在探索为我们的工具创建 AI 技能等，仅仅因为我们需要说服的实际受众并不在场。如果 LLM 没有复述我们的建议，人们就会听从他们个人“坏点子熊”（bad idea bear）生成的任何一次性脚本。许多研究软件错误都是边缘情况（扩展性、数值错误等），“在我电脑上能跑”综合症在文献中根深蒂固。该领域在实现计算可复现性方面取得了巨大进步，但最近感觉我们可能要再次失地。

其次：LLM 有行动偏见，很容易淹没用户报告的任何内容。最近我在多个研讨会上看到，问答环节退化为：“问：这一发现有什么影响？答：我不知道，我只是在汇报结果”。

似乎人类仍在摸索如何保持自主权并引导聊天机器人关注大局，未经审查的科学和未经审查的代码一样可能成为结果……但前者几乎没有自动化工具来帮助引导这一过程。

历史上，PIs（首席研究员）名义上指导大局，而实际干活的人也是审查过程的参与者；现在学生不得不从新角度审视项目，wi […]

我认为这种“摩擦”与“无摩擦”的观念，是当今时代的一个关键特征。

在我看来，从 80 年代的个人技术，到互联网的 UX，再到应用平台的锁定，再到以订阅为中心的“所有权”，这一整条历史线都在向我们承诺：我们可以花钱买通更少的摩擦。下一个设备或订阅会以某种方式解决问题或赋能我们。我们看到了这条历史线，将其延伸到未来，便看到了一个零摩擦的乌托邦未来。

零摩擦意味着：你希望感受到的世界状态与你实际得到的状态之间毫无差别。让你感觉更 empowered（赋能）、更满足、更舒适或更正确。

我们文化中拥抱摩擦的部分是缓慢的部分——与邻居抱怨、给花园除草、让另一辆车先行。这些是我们与他人或自然现实相遇的地方。也许有工具、框架或 gadget 可以帮忙，但我们知道并接受，在我们之外有一些不可改变的事物，我们必须找到与之共流的方式。

我年纪渐长，终于开始看到追求无摩擦生活的局限。