警惕认知投降：别让AI接管你的思考
Resisting Cognitive Surrender
作为一名开发者，我发现自己正逐渐陷入“认知投降”的陷阱：不加批判地接受AI代理生成的代码，导致技术债务累积，系统复杂度失控。虽然这种工作方式看似高效且诱人，但我逐渐失去了对系统的掌控力和机械同理心。当AI犯错时，我甚至无法快速定位问题，只能依赖另一个AI来修复。文章探讨了如何在利用AI提升效率的同时，保持对核心决策的主动权和深度理解，避免成为自动化系统的旁观者。
放弃代理权且不思考，基本上让我在没有任何实质性所有权的情况下承担责任。
- tra3
好文章。我特别喜欢那个四列 PR 审查的想法。我之前也做过类似的东西来审查 speckit 规范。搭建脚手架以确保代码确实能运行，这个思路也很合理。
不过有一件事让我很困扰——所有这些东西都让我们变成了 LLM 产出的消费者。我是通过构建系统来学习并内化事物运作原理的。至少在所使用的抽象层约束范围内是这样。这让我想到了 TikTok 和 Shorts。大家只是在“看”。也许这么说不太公允。也许抽象层已经从“操作系统/图形界面/事件循环”变成了“LLM”，而其余部分只是偶然的复杂性。
- gus_massa
>> 一个更严肃的讽刺在于：自动控制系统被引入是因为它比操作员做得更好，然而操作员却被要求去监控它是否有效运行。
自动控制在标准情况和预期错误下是好的。但对于那些奇怪的情况，目前人类在检测它们并按下那个大红按钮方面做得更好。
- lioeters
“嗯，看起来没问题！”那个每天审查数千行生成代码的人类说道。
这现在已经很普遍了，我见过它毁掉大型项目，直到没人能理解这个充斥着冗长无意义代码和注释的代码库。如果不借助 AI，项目将变得无法继续开发。那些出于任何原因不使用 AI 的贡献者都在离开，因为没人喜欢和那些无脑机器人（以及人类）做同事。这既侮辱了他们的劳动，也贬低了他们的人性。他们并不是被“抛在后面”，而是正在逃离群体的疯狂。
> ..失控动态的可能性：一旦越过临界点，采用率的微小增加就会触发人口层面的快速转变，走向*持久依赖，并伴随认知能力的突然丧失*。
我们都能亲眼目睹这一切正在发生。随着这项技术渗透到社会的方方面面，维持控制、连贯性和质量的挑战将变得愈发严峻和严重——例如在医疗、军事、管理和治理领域应用 AI 时。